Saluran

Infrastruktur AI

Kemas kini tentang bekalan GPU, kluster pemecut, tindanan penyajian model, rangkaian, storan dan operasi penggunaan AI.

Infrastruktur AI
Infrastruktur AI

Makmal AI terkemuka beralih kepada menyewa kuasa pengiraan daripada pesaing: Penyusunan semula strategi infrastruktur

Anthropic mencadangkan untuk menyewa kapasiti pengkomputeran bernilai sehingga AS$10 bilion daripada Meta, sambil menandatangani kontrak besar dengan xAI, TeraWulf dan lain-lain, menandakan makmal AI terkemuka sedang memisahkan pembangunan model daripada pemilikan infrastruktur, mengagihkan semula risiko pembinaan, pembiayaan dan pelesenan.

Elena Chen5 min bacaan
Infrastruktur AI

Beban kerja penaakulan AI Agentik membentuk semula keperluan rangkaian, KPMG menunjukkan gentian optik dan pengkomputeran tepi menjadi kunci.

KPMG Ketua Teknologi Phil Wong menyatakan bahawa apabila perusahaan beralih ke Agentic AI, beban kerja inferens akan mendorong permintaan untuk sambungan berkelajuan tinggi dan kependaman rendah, serta mengubah corak trafik antara awan dan infrastruktur AI. Kekurangan elektrik kini menjadi halangan terbesar dalam pengembangan infrastruktur AI, dan lokasi pusat data baharu sedang menimbulkan keperluan mendesak untuk penghalaan gentian optik dan rangkaian tepi.

Marcus Vance6 min bacaan
Infrastruktur AI

Halangan sebenar infrastruktur AI: penghantaran data, bukan kuasa pengiraan GPU

Dalam penggunaan AI perusahaan, pemanfaatan GPU yang rendah sering dikaitkan dengan kekurangan kuasa pengiraan, tetapi sebenarnya hambatan terletak pada kecekapan pemindahan data dari storan ke kuasa pengiraan. Analisis ini mengkaji kesan seni bina pemindahan data terhadap prestasi, kos, dan kebolehpercayaan AI, serta meneroka bagaimana seni bina gandingan longgar dan lapisan kawalan pintar dapat menyelesaikan cabaran ini.

Sarah Al-Fahad5 min bacaan
Infrastruktur AI

Pusat data AI memasuki era kekangan kuasa: daripada susunan GPU kepada pertandingan infrastruktur 800V DC

随着 kepadatan cip AI terus meningkat, pusat data sedang beralih daripada “pengembangan kuasa pengiraan” tradisional kepada “penstrukturan semula seni bina kuasa”. Dengan kuasa rak GPU yang meningkat pesat, penyejukan cecair yang semakin meluas, rantaian pengagihan kuasa yang dipermudahkan dan bekalan kuasa arus terus 800V, logik reka bentuk infrastruktur IT perusahaan sedang ditakrifkan semula.

Julian Hartmann8 min bacaan