Jaringan di Era AI: Permintaan, Inovasi, dan Peluang Investasi

Dalam beberapa tahun terakhir, dengan munculnya model besar, jaringan telah menjadi kunci dalam era AI. Artikel ini akan membahas dari prinsip dasar, mengapa jaringan menjadi "posisi C" yang baru di era AI, dan mendiskusikan inovasi serta peluang investasi di sisi jaringan di masa depan.

1. Dari mana kebutuhan jaringan berasal?

Memasuki era model besar, jarak antara ukuran model dan batas maksimum pada satu kartu dengan cepat meluas, industri beralih ke kluster server ganda untuk mengatasi masalah pelatihan model, ini membentuk dasar "tingkat atas" jaringan di era AI. Berbeda dengan masa lalu yang hanya digunakan untuk mentransfer data, kini jaringan lebih banyak digunakan untuk menyinkronkan parameter model antar kartu grafis, yang menuntut kepadatan dan kapasitas jaringan yang lebih tinggi.

Dengan ukuran model yang semakin besar, jumlah perangkat dan efisiensi paralel secara langsung menentukan waktu pelatihan yang dibutuhkan. Dalam proses sinkronisasi multi-kartu, setiap kali perhitungan dilakukan, perlu ada penyelarasan antara kartu tunggal, yang menuntut lebih tinggi pada transmisi dan pertukaran jaringan.

Sementara itu, pelatihan model besar seringkali berlangsung selama berbulan-bulan, dan kegagalan atau latensi tinggi pada salah satu bagian jaringan dapat menyebabkan gangguan, yang menghasilkan biaya yang tinggi. Jaringan AI modern telah berkembang menjadi puncak kemampuan rekayasa sistem manusia yang sebanding dengan pesawat terbang, kapal induk, dan sebagainya.

2. Ke mana arah inovasi jaringan?

Dengan skala investasi daya komputasi global yang membengkak hingga mencapai ratusan miliar dolar, menyeimbangkan pengurangan biaya, keterbukaan, dan skala daya komputasi akan menjadi isu utama dalam inovasi jaringan.

2.1 Pergantian Media Komunikasi

Cahaya, tembaga, dan silikon adalah tiga media utama untuk transmisi manusia. Di era AI, modul cahaya tidak hanya mengejar kecepatan yang lebih tinggi, tetapi juga telah mengambil langkah-langkah untuk mengurangi biaya seperti LPO, LRO, dan silikon cahaya. Kabel tembaga menguasai koneksi dalam rak server dengan keunggulan seperti rasio harga-kinerja dan tingkat kerusakan yang rendah. Sementara itu, teknologi semikonduktor baru seperti Chiplet dan Wafer-scaling sedang mempercepat eksplorasi batasan interkoneksi berbasis silikon.

2.2 Persaingan Protokol Jaringan

Protokol komunikasi antar chip yang terikat erat dengan kartu grafis, seperti NV-LINK dari Nvidia dan Infinity Fabric dari AMD, menentukan batas kemampuan dari satu server atau satu node komputasi. Sementara itu, persaingan antara IB dan Ethernet menjadi tema utama dalam komunikasi antar node.

2.3 Perubahan Arsitektur Jaringan

Arsitektur jaringan antar node saat ini umumnya menggunakan arsitektur leaf-spine, yang memiliki karakteristik mudah, sederhana, dan stabil. Namun, seiring dengan bertambahnya jumlah node dalam satu cluster, arsitektur leaf-spine dapat menyebabkan biaya jaringan yang besar pada cluster super besar. Arsitektur Dragonfly, arsitektur rail-only, dan arsitektur baru lainnya diharapkan menjadi arah evolusi untuk generasi berikutnya dari cluster super besar.

3. Saran Investasi

Komponen inti sistem komunikasi: Zhongji Xuchuang, Xinyi Sheng, Tianfu Communication, HuDian Co.

Inovasi sistem komunikasi: Yangtze Optical Fibre, Zhongtian Technology, Hengtong Optic-Electric, Shengke Communication.

4. Peringatan Risiko

• Permintaan AI tidak sesuai harapan
• Hukum skala tidak berlaku
• Persaingan industri semakin intensif