Mạng lưới thời đại AI: Nhu cầu, đổi mới và cơ hội đầu tư

Trong những năm gần đây, với sự trỗi dậy của các mô hình lớn, mạng lưới đã trở thành một phần quan trọng trong thời đại AI. Bài viết này sẽ xuất phát từ nguyên lý, khám phá lý do tại sao mạng lưới trở thành "vị trí C" mới trong thời đại AI, và thảo luận về những cơ hội đổi mới và đầu tư trong tương lai ở phía mạng lưới.

1. Nhu cầu mạng đến từ đâu?

Bước vào kỷ nguyên mô hình lớn, khoảng cách giữa kích thước mô hình và giới hạn một thẻ nhanh chóng mở rộng, ngành công nghiệp chuyển sang cụm máy chủ đa để giải quyết vấn đề huấn luyện mô hình, điều này tạo thành nền tảng cho mạng "tầng trên" trong kỷ nguyên AI. So với trước đây chỉ đơn thuần được sử dụng để truyền dữ liệu, hiện nay mạng còn được sử dụng nhiều hơn để đồng bộ hóa các tham số mô hình giữa các card đồ họa, đặt ra yêu cầu cao hơn về mật độ và dung lượng mạng.

Dưới khối lượng mô hình ngày càng lớn, số lượng thiết bị và hiệu suất song song trực tiếp quyết định thời gian cần thiết để đào tạo. Trong quá trình đồng bộ đa thẻ, sau mỗi lần tính toán, cần phải thực hiện việc căn chỉnh giữa các thẻ đơn, điều này đặt ra yêu cầu cao hơn cho việc truyền tải và trao đổi mạng.

Trong khi đó, việc đào tạo mô hình lớn thường kéo dài hơn một vài tháng, sự cố hoặc độ trễ cao ở một khâu nào đó trong mạng có thể dẫn đến sự gián đoạn, gây ra chi phí cao. Mạng AI hiện đại đã phát triển thành thành quả của khả năng kỹ thuật hệ thống con người tương đương với máy bay, tàu sân bay, v.v.

2. Đổi mới mạng sẽ đi về đâu?

Khi quy mô đầu tư vào sức mạnh tính toán toàn cầu tăng lên hàng trăm tỷ đô la Mỹ, việc cân bằng giữa giảm chi phí, mở cửa và quy mô sức mạnh tính toán sẽ là chủ đề chính trong đổi mới mạng.

2.1 Sự thay đổi của phương tiện truyền thông

Ánh sáng, đồng và silicon là ba môi trường truyền dẫn chính của nhân loại. Trong kỷ nguyên AI, mô-đun quang không chỉ theo đuổi tốc độ cao hơn mà còn đã bước vào con đường giảm chi phí như LPO, LRO, quang silicon. Cáp đồng chiếm ưu thế trong kết nối trong tủ với lợi thế về chi phí và tỷ lệ lỗi thấp. Các công nghệ bán dẫn mới như Chiplet, Wafer-scaling đang nhanh chóng khám phá giới hạn của kết nối dựa trên silicon.

2.2 Cạnh tranh giao thức mạng

Giao thức liên lạc giữa các khe cắm và sự gắn bó mạnh mẽ với card đồ họa, như NV-LINK của NVIDIA, Infinity Fabric của AMD, quyết định giới hạn khả năng của một máy chủ đơn hoặc một nút tính toán đơn. Còn sự cạnh tranh giữa IB và Ethernet là giai điệu chính trong việc liên lạc giữa các nút.

2.3 Sự thay đổi trong kiến trúc mạng

Hiện tại, kiến trúc mạng giữa các nút thường áp dụng kiến trúc lá và thân, có những đặc điểm thuận tiện, đơn giản và ổn định. Nhưng khi số lượng nút trong một cụm tăng lên, kiến trúc lá và thân sẽ mang lại chi phí mạng lớn cho các cụm siêu lớn. Kiến trúc Dragonfly, kiến trúc chỉ đường ray và các kiến trúc mới khác có khả năng trở thành hướng tiến hóa cho các cụm siêu lớn thế hệ tiếp theo.

3. Đề xuất đầu tư

Hệ thống liên lạc các khâu cốt lõi: Zhongji Xuchuang, New E-Success, Tianfu Communication, Hude Electric.

Các liên kết đổi mới trong hệ thống truyền thông: Longfly Fiber, Zhongtian Technology, Hengtong Optic-Electric, Shengke Communication.

4. Lời nhắc rủi ro

• Nhu cầu AI không đạt kỳ vọng
• Quy luật mở rộng không còn hiệu lực
• Cạnh tranh trong ngành ngày càng gia tăng