Pusat data AI memasuki era kekangan kuasa: daripada susunan GPU kepada pertandingan infrastruktur 800V DC

Pusat Data AI Menjalani Semula Reka Bentuk ke Era Kekangan Kuasa: Daripada Susunan GPU ke Persaingan Infrastruktur 800V DC

Infrastruktur AI sedang memasuki fasa baharu: kesesakan bukan lagi semata-mata bekalan cip, tetapi kapasiti kuasa, penyejukan dan pengagihan kuasa. Menurut laporan The Los Angeles Times mengenai industri ini, seiring dengan Nvidia dan pengeluar lain terus melancarkan GPU serta sistem rak yang lebih berprestasi tinggi, ketumpatan kuasa pusat data AI meningkat dengan pantas, dan seni bina pusat data tradisional yang direka sekitar CPU dan beban kerja umum sudah sukar memenuhi keperluan latihan dan inferens AI generasi baharu. Laporan itu turut menyebut bahawa Nvidia, CoreWeave, Google, Vertiv, GE Vernova dan syarikat lain sedang memacu penyelesaian seperti penyejukan cecair, penyederhanaan bekalan dan pengagihan kuasa, serta sistem DC 800V, bagi mengurangkan kehilangan dan meningkatkan output pengiraan per unit keluasan.

Mengapa perubahan ini penting bukan hanya kerana “ruang server yang lebih besar” sedang muncul, tetapi kerana logik reka bentuk infrastruktur IT perusahaan sedang ditulis semula: pada masa hadapan, platform awan, pusat data persendirian dan persekitaran awan hibrid mungkin perlu menjawab terlebih dahulu “berapa banyak elektrik yang tersedia, bagaimana untuk menyejukkan, bagaimana untuk menyambung secara stabil ke grid”, barulah “berapa banyak GPU yang boleh dipasang”. Bagi CTO, CIO dan arkitek perusahaan, ini bermakna penilaian kebolehlaksanaan projek AI sedang berkembang daripada isu perisian dan perolehan kepada isu penyelarasan tenaga dan infrastruktur.

Analisis Teknikal: Mengapa Pusat Data AI dan Pusat Data Tradisional Berbeza

Pusat data tradisional terutamanya menampung aplikasi perusahaan, pangkalan data, storan, perkhidmatan web dan beban kerja kerjasama pejabat, yang biasanya berasaskan CPU dan ketumpatan kuasa raknya agak terkawal. Data industri yang dipetik dalam laporan menunjukkan bahawa rak pelayan standard mungkin hanya memerlukan 25 hingga 40 kilowatt, manakala rak AI, disebabkan penggunaan GPU secara padat, keperluan kuasanya meningkat dengan pantas. Seiring pertumbuhan saiz model, latihan selari dan throughput inferens yang terus meningkat, kuasa bagi satu rak telah melonjak daripada fasa ketumpatan rendah yang lebih awal ke tahap ratusan kilowatt, dan pada masa hadapan mungkin hampir mencapai tahap megawatt.

Perubahan utama di sebalik ini ialah AI bukan masalah yang boleh diselesaikan dengan “menjalankan beberapa mesin maya lagi”. Latihan dan inferens bergantung pada kelompok GPU yang sangat selari, memerlukan rangkaian dengan jalur lebar lebih tinggi, akses memori lebih pantas dan bekalan kuasa yang lebih stabil. Dengan kata lain, infrastruktur AI ialah sistem kejuruteraan yang “direka bersama” antara kuasa pengiraan, rangkaian dan elektrik. Jika mana-mana bahagian tertinggal, prestasi keseluruhan akan terhad.

Laporan itu juga menekankan satu fakta yang sering diabaikan: dalam kuasa yang masuk ke pusat data, sebahagian besar tidak digunakan secara langsung untuk pengiraan, tetapi dibelanjakan oleh sistem penyejukan, penghantaran kuasa jarak jauh dan penukaran transformer berbilang peringkat. Apabila ketumpatan kuasa meningkat, kehilangan ini akan bertambah besar. Oleh itu, industri mula memperluas sasaran pengoptimuman daripada “kecekapan pelayan” kepada “kecekapan keseluruhan rantaian dari grid elektrik ke cip”.

Analisis Kesan kepada Perusahaan: Bajet Infrastruktur AI Bukan Lagi Sekadar Pembelian Kuasa Pengiraan

Bagi pengguna perusahaan, trend ini akan memberi kesan langsung kepada struktur CAPEX dan OPEX.

Pertama, perbelanjaan modal meningkat dan lebih awal.Pertama, perbelanjaan modal meningkat dan didahulukan. Projek IT tradisional biasanya berkisar pada pelayan, storan dan lesen perisian, tetapi pusat data AI memerlukan pelaburan serentak dalam peralatan pengagihan kuasa, sistem penyejukan cecair, pengubahsuaian bilik pelayan, bekalan kuasa sandaran dan keupayaan sambungan kuasa pada tahap yang lebih tinggi. Dengan kata lain, sebelum perusahaan membina platform AI, mereka mungkin perlu melabur terlebih dahulu dalam “infrastruktur bagi infrastruktur”. Ini akan menaikkan ambang permulaan, terutama bagi perusahaan yang mahu membina sendiri platform inferens atau awan AI peribadi.

Kedua, perbelanjaan operasi berkembang daripada bil elektrik kepada pengurusan tenaga. Apabila kuasa rak meningkat, tarif elektrik, beban puncak, kecekapan penyejukan dan kestabilan sambungan ke grid akan menjadi pemboleh ubah kos jangka panjang. Laporan menyebut bahawa Nvidia sedang bekerjasama dengan syarikat perisian penjimatan tenaga seperti Emerald AI untuk cuba mengelakkan tekanan berlebihan terhadap grid semasa waktu puncak penggunaan elektrik, yang menunjukkan operasi infrastruktur AI semakin menyerupai kerja “penjadualan tenaga”, bukan sekadar operasi dan penyelenggaraan IT.

Ketiga, kadar pelaksanaan dipengaruhi oleh kuasa elektrik dan kelulusan. Walaupun perusahaan mempunyai bajet, ia belum tentu dapat mengembangkan kapasiti dengan segera. Kapasiti grid, kemudahan pencawang, keadaan tanah, peraturan tempatan serta reaksi komuniti terhadap penggunaan elektrik pusat data semuanya boleh melambatkan penghantaran. Bagi perusahaan yang bergantung pada kelajuan pelancaran keupayaan AI, ini bermaksud “kitaran perolehan kuasa pengkomputeran” mungkin dipanjangkan semula, dan tetingkap perancangan mesti dimulakan lebih awal.

Keempat, dimensi keselamatan dan pematuhan turut meningkat secara serentak. Apabila perusahaan mengagihkan pusat data secara berpecah-pecah untuk lebih dekat dengan tenaga atau tenaga boleh diperbaharui, tadbir urus data merentas wilayah, pematuhan awan berdaulat, strategi sandaran dan reka bentuk pemulihan kegagalan semuanya perlu dinilai semula. Platform AI bukan lagi sekadar kolam kuasa pengkomputeran, tetapi sistem kompleks yang merentasi sempadan kuasa elektrik, rangkaian dan peraturan.

Analisis persaingan pasaran: penyedia awan dan rantaian bekalan infrastruktur sedang disusun semula

Perubahan ini bukan sahaja berlaku di dalam bilik pelayan, tetapi sedang membentuk semula keseluruhan rantaian bekalan.

Dari segi penyedia awan, teras persaingan sedang beralih daripada “liputan wilayah” kepada “ketersediaan kuasa”. AWS, Azure dan Google Cloud sebelum ini bersaing pada jumlah wilayah global, kualiti rangkaian dan ekosistem perkhidmatan, tetapi dalam era AI, siapa yang lebih cepat memperoleh kuasa elektrik yang stabil, membina rak berkepadatan tinggi, serta menyediakan penyejukan cecair dan kluster GPU, dialah yang lebih berkemungkinan memperoleh beban kerja AI bernilai tinggi. Bagi pelanggan perusahaan, kriteria pemilihan platform awan juga akan berubah: bukan sahaja perlu melihat harga dan fungsi, tetapi juga “adakah kapasiti AI mencukupi”, “adakah ia menyokong pelaksanaan berkepadatan tinggi”, dan “adakah infrastruktur tenaga serta penyejukan matang”.

Hubungan kerjasama antara pembuat cip dan pembuat pelayan juga menjadi lebih rapat.Hubungan kerjasama antara pembekal cip dan pelayan juga semakin erat. Laporan menyebut bahawa Nvidia sedang memacu cip dan sistem rak dengan tahap integrasi yang lebih tinggi, serta menguji reka bentuk peranti yang memudahkan laluan bekalan kuasa. Ini bermakna pengeluar cip bukan lagi sekadar menjual kad pecutan, tetapi turut mentakrifkan piawaian seni bina pusat data. Bagi Dell, HPE, Supermicro dan penyepadu pelayan serta sistem lain, ini ialah peluang dan juga tekanan: jika pada masa depan kabinet AI menjadi semakin berpiawai dan modular, siapa yang terlebih dahulu mampu menyediakan penyelesaian lengkap berasaskan sistem bekalan kuasa dan penyejukan baharu, dialah yang lebih mudah menguasai pintu masuk projek.

Kepentingan syarikat peralatan kuasa dan tenaga semakin meningkat. Secara tradisional, “lapisan tersembunyi” infrastruktur pusat data terdiri daripada UPS, pengagihan kuasa, penyejukan dan peralatan pencawang. Dengan 800V arus terus, pengubah keadaan pepejal dan penyelesaian dengan lebih sedikit peringkat penukaran sedang diterokai, peranan pembekal infrastruktur seperti GE Vernova dan Vertiv menjadi lebih kritikal. Bagi pengendali pusat data, ini bukan sekadar membeli peralatan, tetapi memilih laluan seni bina untuk sedekad akan datang.

Pemerhatian Trend Industri: Pusat Data Asli AI Sedang Terbentuk

Dalam jangka panjang, perubahan kali ini mungkin membawa kepada empat trend.

1. Awan asli AI akan menggantikan pendekatan “awan umum ditambah AI”. Pada masa lalu, platform awan menambah GPU pada seni bina pelayan sedia ada; pada masa depan, awan AI mungkin direka dari awal berdasarkan kuasa, penyejukan, rangkaian dan susun atur kabinet. Beban kerja AI akan menjadi titik permulaan seni bina, bukannya fungsi tambahan.

2. Penyejukan cecair akan berubah daripada pilihan kepada konfigurasi arus perdana. Apabila ketumpatan kuasa GPU terus meningkat, keberkesanan marginal penyejukan udara akan menurun. Penyejukan cecair bukan sekadar alat penjimatan tenaga, tetapi syarat asas untuk memastikan pengkomputeran berketumpatan tinggi dapat beroperasi secara berterusan. Bagi perusahaan, reka bentuk bilik komputer dan pemilihan peralatan mesti memasukkan penyejukan cecair dalam perancangan standard.

3. Bekalan kuasa arus terus dan lapisan penukaran yang lebih sedikit akan menjadi arah penting. Laporan menyebut bahawa penukaran berbilang peringkat dari grid ke cip akan menyebabkan kehilangan tenaga, dan industri sedang meneroka laluan bekalan kuasa dengan langkah yang lebih sedikit serta penyelesaian 800V DC. Jika penyelesaian ini matang, kecekapan tenaga, penggunaan ruang dan keupayaan integrasi tenaga boleh diperbaharui bagi pusat data masa depan semuanya berpotensi bertambah baik.

4. Kekangan tenaga akan mempengaruhi taburan geografi pelaksanaan AI. Apabila kapasiti grid menjadi sumber kritikal, infrastruktur AI tidak semestinya tertumpu di kawasan awan tradisional, tetapi mungkin beralih ke kawasan yang bekalan elektriknya lebih mencukupi, kelulusan lebih pantas dan struktur tenaganya lebih baik. Bagi perusahaan, ini akan mempengaruhi penyimpanan data, susun atur pemulihan bencana dan strategi awan berbilang.

Rujukan Keputusan Perusahaan: Apa yang Patut Diberi Perhatian Sekarang

• Bagi perusahaan yang merancang untuk memperluas keupayaan AI, perkara paling perlu dilakukan pada masa ini bukanlah mengejar GPU yang lebih berkuasa secara membuta tuli, tetapi membina satu set “kerangka penilaian kebolehlaksanaan infrastruktur AI”. Sekurang-kurangnya, ia harus merangkumi dimensi berikut:- Ramalan permintaan kuasa pengkomputeran: berapa banyak GPU dan ketumpatan rak yang diperlukan untuk latihan, penalaan halus, dan inferens;
• Penilaian kapasiti kuasa: sama ada bilik server sedia ada dan kawasan awan sasaran boleh menyokong pertumbuhan 12 hingga 24 bulan akan datang;
• Padanan penyelesaian penyejukan: sama ada penyejukan cecair diperlukan, dan bagaimana tempoh serta kos pengubahsuaian;
• Pemilihan mod penggunaan: awan awam, bilik server terurus, awan peribadi atau awan hibrid yang lebih sesuai;
• Keperluan pematuhan dan kedaulatan: sama ada data mengalir merentas wilayah, dan sama ada melibatkan pengawalseliaan industri;
• Kawalan kos puncak: bagaimana mengimbangi tarif elektrik, pengembangan kapasiti dan kadar penggunaan.

Dari sudut ini, belanjawan infrastruktur AI sedang menjadi “perbelanjaan kekangan keras” dalam transformasi digital perusahaan, dan keutamaannya mungkin secara beransur-ansur menghampiri rangkaian, keselamatan dan sistem ERP teras.

CloudTechDaily Insight

Makna paling penting perubahan industri kali ini ialah ia mendedahkan logik asas sebenar pengkomputeran awan pada era AI: persaingan bukan lagi hanya berlaku pada fungsi perisian atau parameter model, tetapi pada elektrik, pelesapan haba dan reka bentuk infrastruktur. Bagi strategi IT perusahaan, keupayaan AI bukan lagi perkhidmatan yang “boleh dibeli dan terus digunakan”, sebaliknya satu projek jangka panjang yang memerlukan penyelarasan grid kuasa, bilik server, kawasan awan dan sistem operasi.

Dalam lima tahun akan datang, platform awan dan organisasi IT perusahaan yang benar-benar terkehadapan mungkin bukan pihak yang mempunyai GPU paling banyak, tetapi organisasi yang mampu menyepadukan kuasa pengkomputeran, tenaga dan operasi menjadi keupayaan penghantaran yang stabil. Dengan kata lain, pemenang gelombang seterusnya bagi infrastruktur AI kemungkinan besar bukan semata-mata pengeluar cip atau penyedia awan, tetapi syarikat yang dapat mereka semula pusat data menjadi sistem infrastruktur yang “mengutamakan kuasa, asli AI, dan boleh beroperasi secara mampan”. Bagi CTO dan CIO, elektrik dan penyejukan harus dimasukkan dalam pelan hala tuju AI sekarang juga, jika tidak, halangan masa depan mungkin bukan model, tetapi rak yang tidak boleh dihidupkan.