Halangan sebenar infrastruktur AI: penghantaran data, bukan kuasa pengiraan GPU

Apabila GPU Menunggu Data, Pelaburan Kuasa Pengkomputeran Sedang Terbuang

Dalam 18 bulan yang lalu, syarikat gila-gila membeli GPU, melatih model besar, dan menggunakan alat AI. Walau bagaimanapun, apabila beralih dari percubaan ke pengeluaran, tekanan ROI meningkat dengan mendadak. Laporan IDC 2025 menunjukkan bahawa organisasi beralih dari penggunaan AI sekali sahaja kepada seni bina pengeluaran yang boleh diulang dan berskala, prestasi, keselamatan, kebolehpercayaan, dan konsistensi operasi menjadi sama penting dengan inovasi model.

Tetapi banyak syarikat mendapati bahawa punca utama prestasi projek AI yang tidak memuaskan bukanlah kekuatan pengkomputeran yang tidak mencukupi, tetapi kecekapan penghantaran data yang rendah. GPU yang mahal terus berputar kosong semasa menunggu data, dengan kos putaran kosong setiap saat mencecah beberapa dolar AS. Analisis gangguan tahun 2025 oleh Uptime Institute menunjukkan bahawa lebih separuh daripada syarikat mengalami kos gangguan paling teruk melebihi $100,000, dan satu perlima melebihi $1 juta - dan gangguan sering berpunca daripada kesesakan laluan data.

Model Gunung Ais: 90% Infrastruktur yang Diabaikan

Naib Presiden Kanan Pemasaran Produk F5, Nirav Shah, menggunakan model gunung ais untuk menggambarkan infrastruktur AI: di atas permukaan air adalah LLM, aplikasi AI, rangka kerja pengaturan, dan kluster GPU yang mahal - 10% ini menarik sebahagian besar pelaburan; di bawah permukaan air adalah storan, rangkaian, pengurusan trafik, kawalan keselamatan, dan sistem yang bertanggungjawab untuk penghantaran data - 90% ini menentukan sama ada pelaburan benar-benar dapat menjana nilai.

Sistem AI moden bergantung pada data tidak berstruktur yang besar, disimpan dalam storan objek serasi S3. Beban kerja latihan, penalaan halus, RAG, dan inferens semuanya memerlukan data mengalir secara berterusan antara storan dan persekitaran GPU. Apabila saluran terhad, penggunaan GPU menurun secara mendadak. Shah menyatakan: "Gejalanya kelihatan seperti masalah pengiraan, tetapi puncanya sering kali ialah kebuluran data."

Berbeza dengan aplikasi perusahaan tradisional, beban kerja AI akan membesarkan kelemahan kecil infrastruktur. Lonjakan latensi, sekatan daya pemprosesan, atau lonjakan trafik yang tidak disedari dalam persekitaran biasa akan menghasilkan kesan yang tidak seimbang dalam senario AI.

Daripada Gandingan Ketat kepada Gandingan Longgar: Perubahan Seni Bina Memacu Fleksibiliti

Kesesakan semasa berpunca daripada keputusan seni bina yang dibuat sebelum kemunculan AI. Dari segi sejarah, syarikat menyambung aplikasi secara langsung ke persekitaran storan, mudah dan cekap. Tetapi pada skala AI, kesederhanaan ini menjadi liabiliti. Sistem storan terpaksa menangani tugas yang bukan haknya: menamatkan sambungan yang disulitkan, mengurus trafik rangkaian, melaksanakan dasar keselamatan, dan memproses permintaan AI yang diedarkan dalam jumlah besar. Setiap transaksi yang disulitkan menggunakan CPU, setiap sambungan menanggung overhed, dan setiap lonjakan trafik memberikan tekanan tambahan kepada sistem storan.

Penyelesaiannya ialah beralih kepada seni bina gandingan longgar: memasukkan pengawal penghantaran aplikasi (ADC) di antara pengiraan dan storan, sebagai satah kawalan pintar. ADC menjadi pintu hadapan storan, mengendalikan penamatan TLS, pengurusan sijil, pengoptimuman trafik, pelaksanaan dasar, dan pemprosesan S3 yang sedar protokol. Dengan memindahkan fungsi rangkaian dan penyulitan ke infrastruktur khusus, sistem storan dapat memberi tumpuan kepada perkhidmatan data. Pada masa yang sama, peningkatan, pengembangan, atau pemindahan persekitaran storan tidak memerlukan perubahan aplikasi secara paksa, memberikan fleksibiliti operasi.

Lapisan Pertengahan Bukan Lagi "Lompatan Tambahan": ADC Meningkatkan Bukan Menurunkan PrestasiPasukan infrastruktur yang lalu bersikap skeptikal terhadap sebarang lapisan tambahan dalam laluan data, menganggap setiap komponen menambah kependaman. Infrastruktur AI sedang mencabar andaian ini. Ujian bebas oleh SecureIQLab menilai kesan meletakkan ADC di hadapan penyimpanan objek perusahaan, dan hasilnya menunjukkan kehilangan daya pemprosesan yang tidak signifikan, di bawah keadaan rangkaian sebenar, daya pemprosesan trafik yang diuruskan oleh lapisan kawalan selalunya lebih baik. Sebabnya ialah ADC bukan sahaja menghantar trafik, tetapi mengoptimumkan sambungan, menguruskan protokol, menyahbeban pemprosesan penyulitan, dan membimbing permintaan secara pintar, membantu laluan data beroperasi dengan lebih cekap.

Kajian Kes: Pengoptimuman Penghantaran Data Membawa Peningkatan Prestasi 5 Kali Ganda

Sebuah institusi perkhidmatan kewangan global yang besar sedang bersedia untuk mengembangkan infrastruktur AI, menggunakan beban kerja Kubernetes dan penyimpanan objek S3. Persekitaran asal bergantung pada pengimbang beban maya yang dikongsi, dan apabila jumlah data meningkat, timbul masalah prestasi dan kebolehpercayaan. Institusi tersebut tidak menambah kapasiti pengkomputeran, tetapi memberi tumpuan kepada sempadan dari penyimpanan ke pengkomputeran: menggunakan infrastruktur ADC fizikal khusus di hadapan penyimpanan objek, mewujudkan titik kawalan berpusat untuk pengurusan trafik dan pengoptimuman S3. Hasilnya: prestasi operasi penciptaan, pembacaan dan penghapusan objek meningkat sekurang-kurangnya 5 kali ganda, kependaman penghapusan bertambah baik lebih daripada satu urutan magnitud, dan tiada regresi prestasi berlaku.

Tiga Dimensi Keanjalan: Ketersampaian, Dasar dan Penghantaran

Arkitek Penyelesaian F5, Mark Menger, mencadangkan tiga dimensi untuk menilai seni bina penghantaran data AI:

• Ketersampaian: Memastikan beban kerja AI sentiasa boleh mengakses sumber penyimpanan yang sihat. Apabila kluster penyimpanan terdegradasi atau tidak tersedia, trafik dialihkan secara automatik tanpa mengganggu aplikasi AI.
• Dasar: Mencegah gangguan yang disebabkan sendiri. Beban kerja AI boleh menghasilkan trafik yang tidak normal seperti kesan 'thundering herd', ribut cuba semula, dan lain-lain. Lapisan kawalan pintar boleh membentuk trafik, melaksanakan dasar, mengekalkan postur keselamatan yang konsisten tanpa mengorbankan prestasi.
• Penghantaran: Memberi tumpuan kepada kesinambungan. Kegagalan nod penyimpanan, peningkatan perkakasan, tampung perisian - seni bina anjal mengasingkan klien AI daripada perubahan ini, aliran data tidak terganggu walaupun infrastruktur hujung belakang berubah.

Ketiga-tiganya bersama-sama memastikan GPU kekal cekap di bawah tekanan persekitaran asas.

Evolusi ADC kepada ADSP: Platform Penghantaran dan Keselamatan Bersatu

Apabila persekitaran AI menjadi lebih besar dan lebih tersebar, pengurusan trafik sahaja tidak mencukupi. Organisasi memerlukan kebolehcerapan, keselamatan, pelaksanaan dasar dan konsistensi operasi. Ini mendorong minat terhadap Platform Penghantaran dan Keselamatan Aplikasi (ADSP), yang menggabungkan penghantaran aplikasi, kejuruteraan trafik, kawalan keselamatan dan keterlihatan.

“AI telah memecahkan corak penyelesaian penghantaran dan keselamatan sebagai masalah yang berasingan,” kata Shah, “Apabila data terus bergerak antara penyimpanan, pengkomputeran dan aplikasi dalam persekitaran hibrid dan multi-awan, anda memerlukan platform bersatu yang menghantar dan melindungi trafik pada masa yang sama.” Ini serupa dengan evolusi infrastruktur Web 20 tahun yang lalu: daripada pengimbangan beban mudah kepada pengawal penghantaran aplikasi yang kompleks.

CloudTechDaily InsightKekangan infrastruktur AI sedang beralih daripada pengiraan kepada penghantaran data. Jika perusahaan hanya memberi tumpuan kepada pembelian GPU dan mengabaikan kecekapan saluran paip dari storan ke pengiraan, mereka akan menghadapi pembaziran pelaburan yang serius dan prestasi yang tidak boleh dipercayai. Seni bina gandingan longgar dan lapisan kawalan pintar (seperti ADC/ADSP) bukan sahaja dapat meningkatkan penggunaan GPU, tetapi juga mengurangkan kerumitan operasi dan meningkatkan ketahanan. Bagi CIO dan arkitek awan, lapangan penghantaran data harus menjadi komponen teras strategi infrastruktur AI. Pada masa hadapan, dengan peningkatan permintaan untuk inferens dan AI tepi, pengoptimuman laluan data akan menentukan kejayaan atau kegagalan penggunaan AI. Perusahaan perlu menilai semula seni bina semasa: Adakah fungsi rangkaian, keselamatan dan pengurusan trafik dipisahkan daripada storan? Adakah satah kawalan penghantaran bersatu telah diperkenalkan? Jawapan akan secara langsung mempengaruhi ROI dan skalabiliti projek AI.