Penyusunan Semula Strategi Kuasa Pengkomputeran Infrastruktur AI: Pengoptimuman Pengkomputeran Perusahaan dalam Era Ekonomi Inferens

Kecerdasan buatan generatif bergerak daripada bukti konsep kepada penggunaan skala pengeluaran, perusahaan kini menghadapi jurang kuasa pengkomputeran: infrastruktur sedia ada tidak dilahirkan untuk beban kerja AI. Laporan terkini Deloitte Insights, *Strategi Kuasa Pengkomputeran Infrastruktur AI*, menunjukkan bahawa walaupun kos inferens telah menurun 280 kali ganda dalam tempoh dua tahun, kadar pertumbuhan penggunaan jauh mengatasi penurunan kos, dengan sesetengah perusahaan menerima bil AI bulanan mencecah puluhan juta dolar AS. Lebih penting lagi, faktor bukan kos seperti kedaulatan data, kependaman tahap milisaat, daya tahan perniagaan, dan perlindungan harta intelek sedang memaksa perusahaan untuk menilai semula strategi "cloud-first" mereka. Seni bina hibrid tiga lapisan yang menggabungkan keanjalan awan, ketekalan tempatan, dan ketersegeraan pinggir sedang menjadi pilihan bersama perusahaan terkemuka.

Latar Belakang: Daripada Bukti Konsep kepada AI Bertaraf Pengeluaran

Apabila AI generatif meletup pada tahun 2022, perusahaan dengan pantas melibatkan diri dalam merekabentuk produk dan perkhidmatan generasi seterusnya. Kini, AI telah membesar, tetapi perusahaan mendapati jurang antara strategi infrastruktur dan keperluan AI semakin ketara apabila bergerak daripada bukti konsep kepada penggunaan bertaraf pengeluaran. Laporan Deloitte Insights menunjukkan bahawa normalisasi beban kerja AI bermakna inferens yang hampir berterusan—iaitu penggunaan model AI secara sebenar dalam proses perniagaan. Apabila perusahaan memanggil perkhidmatan AI melalui API awan, permintaan yang kerap meningkatkan kos, tetapi masalahnya jauh melebihi kos: kedaulatan data, kependaman, perlindungan harta intelek, dan daya tahan perniagaan semuanya menjadi pertimbangan utama.

Penulis laporan menekankan bahawa penyelesaiannya bukan sekadar memindahkan beban kerja dari awan ke premis, atau sebaliknya, tetapi membina seni bina hibrid yang dapat memadankan platform pengkomputeran yang betul untuk setiap beban kerja. Penemuan ini sangat sejajar dengan pemerhatian CloudTechDaily terhadap trend IT korporat semasa: AI sedang berubah daripada "projek eksperimen" kepada "sistem teras perniagaan."

Analisis Teknikal: Ekonomi Inferens dan Ketidakpadanan Infrastruktur

Apakah Ekonomi Inferens?

Inferens merujuk kepada proses pengkomputeran di mana model AI yang telah dilatih melaksanakan ramalan, penjanaan, atau keputusan dalam proses perniagaan sebenar. Berbanding dengan fasa latihan, inferens adalah beban pengeluaran yang berterusan dan berskala besar. Dalam tempoh dua tahun lalu, kos inferens unit telah menurun kira-kira 280 kali ganda, tetapi disebabkan pertumbuhan eksponen dalam kadar penggunaan, perbelanjaan keseluruhan AI perusahaan meningkat mendadak. Laporan itu menunjukkan bahawa alat LLM berasaskan API berkesan dalam bukti konsep, tetapi mungkin menjadi terlalu mahal untuk operasi di peringkat perusahaan, dengan sesetengah perusahaan menerima bil AI bulanan mencecah puluhan juta dolar AS.

Pendorong kos terbesar ialah "AI agenik" (Agentic AI)—sistem AI yang mampu melaksanakan tugas pelbagai langkah secara autonomi. Sistem sedemikian memerlukan inferens berterusan, sentiasa memanggil model, menyebabkan penggunaan token meningkat secara berpusing. Bagi arkitek perusahaan, ini bermakna mereka perlu menilai semula kekerapan inferens dan model kos bagi setiap beban kerja.### Mengapa inferens lebih menentukan strategi infrastruktur daripada latihan?

Beban kerja latihan sememangnya intensif dari segi pengiraan, tetapi biasanya bersifat berkala, bukan masa nyata, dan boleh dilaksanakan secara elastik di awan. Manakala inferens sentiasa dalam talian dan terus menggunakan sumber, ia secara langsung menentukan kos operasi dan pengalaman pengguna sesebuah perusahaan. Oleh itu, teras ekonomi inferens ialah: setiap interaksi pengguna tambahan, setiap keputusan automatik, membawa kos pengkomputeran baharu. Apabila AI disepadukan ke dalam proses perniagaan teras, kos inferens berubah daripada perbelanjaan IT yang berubah-ubah kepada kos operasi berstruktur. Inilah sebab asas mengapa perusahaan perlu menilai semula gabungan infrastruktur mereka.

Empat ketidakpadanan infrastruktur sedia ada

Pusat data perusahaan tradisional direka berdasarkan pelayan sejuk udara yang dipasang dalam rak, menggunakan lantai bertingkat, sistem penyejukan standard, orkestrasi yang berpusatkan virtualisasi awan persendirian, serta pengurusan beban kerja tradisional. Infrastruktur AI pula mempunyai keperluan teknikal yang berbeza sepenuhnya:

• Pelayan GPU berketumpatan tinggi: Ketumpatan kuasa satu kabinet GPU jauh melebihi pelayan CPU tradisional, memerlukan kapasiti elektrik yang lebih tinggi dan penyejukan khusus.
• Interkoneksi termaju: Kluster GPU memerlukan rangkaian latensi rendah dan lebar jalur tinggi seperti InfiniBand atau RoCE; Ethernet tradisional tidak dapat memenuhi keperluan latihan dan inferens selari berbilang kad.
• Penyejukan cecair: Penggunaan kuasa cip AI jauh lebih tinggi daripada CPU tradisional; penyejukan udara telah menghampiri had fizikal, menjadikan penyejukan cecair sebagai penyelesaian wajib.
• Orkestrasi yang baharu sepenuhnya: Penjadualan, penskalaan anjal, dan pemantauan beban kerja AI memerlukan platform pengurusan infrastruktur AI khusus, bukan orkestrasi mesin maya tradisional.

Spesifikasi teknikal sedemikian hampir tidak wujud dalam persekitaran perusahaan tradisional. Laporan itu dengan jelas menyatakan bahawa ketidakpadanan infrastruktur fizikal ini akan menjadi hambatan utama kepada perusahaan dalam menskalakan aplikasi AI.

Analisis impak perusahaan: kos, kedaulatan dan penyusunan semula penggunaan

Kesan kos: titik kritikal CAPEX vs OPEX

Laporan tersebut memberikan rujukan yang bermakna dari segi operasi: apabila kos perkhidmatan awan melebihi 60%–70% daripada jumlah kos pemerolehan sistem setempat yang setara, bagi beban kerja berkapasiti tinggi yang stabil dan boleh diramal, memindahkan beban kerja ke premis sendiri untuk pelaburan modal (CAPEX) akan lebih menjimatkan daripada terus membayar perbelanjaan operasi (OPEX). Namun, nisbah ini bukanlah sesuatu yang mutlak; perusahaan perlu membina model kos dengan mengambil kira faktor seperti kadar penggunaan sendiri, kos elektrik, dan kos penyelenggaraan tenaga kerja.

Kedaulatan data dan pematuhanKeperluan kawal selia dan faktor geopolitik mendorong perusahaan untuk menyetempatkan perkhidmatan pengkomputeran. Ketua Pegawai Eksekutif (CEO) syarikat Thylander di Denmark, Anders Mathiesen, menyatakan bahawa kebanyakan pusat data hiper-skala di negara ini dimiliki oleh pihak asing, dan syarikat Denmark semakin berharap pusat data dimiliki dan dikendalikan oleh syarikat tempatan untuk menjamin kedaulatan data. “Kami ingin melakukan sesuatu yang bersifat Denmark untuk syarikat Denmark, dan juga menyediakan perkhidmatan kepada syarikat luar yang menganggap pasaran Denmark bernilai.” Thylander sedang membina pusat data yang menyediakan rak berketumpatan tinggi, rangkaian, kuasa elektrik, dan keupayaan penyejukan. Kes ini menunjukkan bahawa AI berdaulat menjadi enjin baharu pelaburan infrastruktur.

Latensi dan Ketahanan

Aplikasi AI masa nyata (seperti pemeriksaan kualiti pembuatan, pemanduan autonomi, pemantauan penggerudian minyak dan gas) memerlukan respons hujung-ke-hujung di bawah 10 milisaat, yang tidak dapat dipenuhi oleh latensi rangkaian pengkomputeran awan. Perniagaan misi-kritikal tidak boleh bertolak ansur dengan gangguan sambungan awan, oleh itu infrastruktur tempatan mesti memainkan peranan utama atau sandaran. Ini bermakna seni bina teragih menjadi keperluan mutlak, bukan pilihan.

Perlindungan Harta Intelek

Data kebanyakan perusahaan masih berada di premis tempatan; menggunakan keupayaan AI di lokasi data berada adalah lebih selaras dengan perlindungan harta intelek dan keperluan pematuhan berbanding menghantar data sensitif ke perkhidmatan AI luaran. Faktor ini seterusnya mendorong penggunaan kluster inferens tempatan.

Analisis Persaingan Pasaran: Penyusunan Semula Ekosistem Kuasa Pengkomputeran

“Cloud memang bermakna untuk perkara tertentu, ia seperti ‘butang mudah’ untuk AI,” kata pemimpin pemikiran AI David Linthicum. “Tetapi yang paling penting ialah memilih alat yang sesuai untuk kerja. Perusahaan sedang membina sistem merentas platform yang pelbagai dan heterogen, memilih penyelesaian yang paling kos-efektif — kadang-kadang cloud, kadang-kadang tempatan, kadang-kadang edge.”

Trend ini akan memberi kesan mendalam kepada peserta pasaran berikut:

• Penyedia cloud hiper-skala: Akan terus mendominasi latihan elastik, eksperimen, dan keperluan kuasa pengkomputeran mendadak, tetapi model panggilan API berharga tinggi mungkin menghadapi tekanan penggantian. Penyedia cloud perlu menawarkan harga inferens yang lebih fleksibel dan penyelesaian cloud hibrid, jika tidak, perusahaan akan memindahkan inferens berkapasiti tinggi ke tempatan.
• Pembekal infrastruktur tradisional: Dell, HPE, Supermicro dan lain-lain akan melancarkan lebih banyak pelayan yang dioptimumkan untuk AI dan kabinet penyejukan cecair bagi memenuhi keperluan penggunaan tempatan.
• Pengendali pusat data: Equinix, Digital Realty dan lain-lain akan meningkatkan pelaburan dalam kabinet berketumpatan tinggi, kapasiti kuasa, dan kemudahan penyejukan cecair. Pengendali pusat data berdaulat yang baru muncul (seperti Thylander) dijangka memperoleh kelebihan daya saing dalam pasaran tempatan.
• Platform pengkomputeran edge: Senario aplikasi masa nyata seperti pembuatan, tenaga, dan pemanduan autonomi akan membawa pasaran tambahan untuk AI edge; platform inferens edge NVIDIA dan AMD akan meraih manfaat.

Pemerhatian Trend Industri: Seni Bina Hibrid Tiga Lapisan Menjadi Arus PerdanaLaporan Deloitte menyatakan bahawa perusahaan terkemuka sedang melaksanakan "seni bina hibrid tiga peringkat":

1. Awan (Cloud) untuk fleksibiliti: Mengendalikan beban latihan yang berubah-ubah, kapasiti mendadak, peringkat eksperimen, serta beban kerja yang graviti datanya telah berada di awan. Pembekal awan hiper-skala mampu menyediakan perkhidmatan AI terkini dan pengurusan seni bina model, menurunkan halangan inovasi. 2. Tempatan (On-premises) untuk konsistensi: Menanggung inferens pengeluaran berkapasiti tinggi dan berterusan, dengan kos yang boleh diramal. Perusahaan memperoleh kawalan ke atas prestasi, keselamatan dan kos, sambil mengumpul keupayaan dalaman pengurusan infrastruktur AI. 3. Tepi (Edge) untuk kesegeraan: Mencapai keputusan dalam masa milisaat berhampiran sumber data, terutamanya penting untuk sistem pembuatan dan pemanduan autonomi.

Model ini berbeza dengan ketara daripada pemikiran binari "sama ada semua-awan atau semua-tempatan" dalam dekad yang lalu. Penulis laporan menekankan bahawa kelebihan daya saing masa depan akan dimiliki oleh perusahaan yang dapat mengoptimumkan kedua-dua perbelanjaan modal dan perbelanjaan operasi, serta menjadualkan pelbagai infrastruktur secara fleksibel.

Kes Thylander di Denmark menunjukkan bahawa pembinaan AI berdaulat dan pusat data tempatan semakin pesat. Manakala dalam pasaran global yang lebih luas, kami menjangkakan tiga jenis pelaburan infrastruktur akan berkembang secara selari: pengembangan berterusan awan hiper-skala, kebangkitan kluster inferens AI tempatan perusahaan, dan penembusan pengkomputeran tepi dalam industri menegak.

Laluan Tindakan: Bagaimana Perusahaan Menangani Penyusunan Semula Kuasa Pengkomputeran

Menghadapi penyusunan semula infrastruktur AI, eksekutif perusahaan harus terlebih dahulu menyemak beban kerja sedia ada: yang manakah keperluan inferens yang stabil dan berkapasiti tinggi? Yang manakah keperluan latihan yang mendadak? Yang manakah senario tepi yang sensitif terhadap latensi? Kemudian menilai TCO awan, tempatan dan tepi berdasarkan model kos. Pada masa yang sama, memupuk kemahiran infrastruktur AI dalaman, terutamanya keupayaan seperti operasi dan penyelenggaraan kluster GPU, pengurusan sistem penyejukan cecair, dan orkestrasi beban kerja AI, akan menentukan sama ada perusahaan dapat menguasai seni bina hibrid dengan berkesan.

CloudTechDaily Insight

Intipati peristiwa ini ialah titik perubahan AI daripada "bekalan kuasa pengkomputeran" kepada "ekonomi kuasa pengkomputeran". Laporan Deloitte memberikan isyarat yang jelas: infrastruktur AI bukan lagi sekadar pemilihan teknologi, tetapi keputusan strategik yang melibatkan CFO dan CTO perusahaan secara bersama. Penurunan kos inferens sebanyak 280 kali ganda kedengaran baik, tetapi pertumbuhan penggunaan AI yang meletup sedang menelan manfaat kos, yang memaksa perusahaan mewujudkan model kos pengkomputeran yang terperinci. Bagi pembekal awan, ini bermakna model perniagaan "caj mengikut token" akan menghadapi cabaran — pelanggan perusahaan akan mencari laluan pengkomputeran yang lebih murah dan lebih terkawal antara awan, tempatan dan tepi. Dalam lima tahun akan datang, persaingan infrastruktur AI akan berkisar sekitar tiga teras utama: kecekapan inferens, kos elektrik dan kedaulatan data. CIO perusahaan harus menilai ciri-ciri beban kerja mereka sendiri seawal mungkin, menaik taraf "keutamaan awan" kepada "pengkomputeran mengikut permintaan", untuk benar-benar menguasai ekonomi kuasa pengkomputeran era AI.