Dalam acara SIGGRAPH 2023 baru-baru ini, NVIDIA mengambil langkah signifikan dengan memperkenalkan GPU NVIDIAL40S inovatif mereka, bersamaan dengan integrasi L40S dalam server NVIDIA OVX. Berdasarkan data yang tersedia, penawaran ini telah dirancang dengan cermat untuk beragam aplikasi yang mencakup pelatihan dan inferensi model AI, desain dan visualisasi 3D, pemrosesan video, serta digitalisasi industri. Tujuannya jelas: memperkuat kapasitas pemrosesan AI, grafik, dan video di perusahaan, organisasi, dan pusat data agar dapat secara efektif mengatasi kebutuhan komputasi yang meningkat.
Inti dari GPU L40S dan server OVX adalah perannya dalam meningkatkan tahap pelatihan dan inferensi model AI generatif, yang menunjukkan potensi untuk memperkuat efisiensi model-model ini.
Informasi yang diungkapkan secara terbuka menunjukkan bahwa kartu akselerasi GPU L40S yang baru, penerus seri L40, berasal dari NVIDIA. GPU ini, dibuat berdasarkan arsitektur Ada Lovelace, menggunakan Tensor Core generasi keempat dan mesin konversi FP8, yang menghasilkan kecepatan komputasi hingga 1,45 PFlops. Lebih lanjut menambah kehebatannya, GPU L40S membanggakan perakitan 18.176 inti CUDA, memberikan peningkatan hampir lima kali lipat yang mengesankan dalam kinerja floating-point presisi tunggal (FP32) (91,6 TFlops) dibandingkan dengan GPU NVIDIA A100. Berbeda dengan GPU A100 dan H100, L40S tidak mendukung NVLink, dan memilih memori GDDR6 ECC, memposisikannya sebagai solusi yang lebih mahir untuk skenario komputasi edge.
Liu Jingzhao, analis Shanghai Securities, berbagi wawasannya:
- Karena keterbatasan antarmuka PCIe Gen 4, L40S mungkin mendapati penerapannya dalam komputasi jaringan GPU relatif terbatas, sehingga berpotensi memiliki pengaruh kecil terhadap permintaan modul optik 800G yang sedang berjalan.
- Dibandingkan dengan A100, L40S menampilkan keunggulan efisiensi komputasi dalam konteks model AI generatif tertentu, disertai dengan peningkatan efektivitas biaya.
- Memanfaatkan teknologi matang seperti GDDR6, L40S menjamin stabilitas pasokan hulu.
- Keunggulan yang menonjol dari L40S mungkin mendorong peningkatan tren akuisisi di antara penyedia cloud hilir, yang kemudian melahirkan kemungkinan pertumbuhan baru untuk modul optik berkecepatan menengah hingga tinggi, khususnya representasi 200G dan 400G.
Peluncuran GPU L40S oleh NVIDIA siap untuk memperkuat kemampuan komputasi AI, yang mungkin akan mengkatalisasi aktivitas pengadaan yang lebih besar di antara penyedia cloud hilir. Momentum ini dapat membuka jalan bagi meningkatnya permintaan di pasar modul optik berkecepatan menengah hingga tinggi.