Kompetisi Daya Komputasi di Era AI: Permainan Antara Mimpi dan Biaya

Perusahaan Besar Mengejar Mimpi AI Tanpa Henti

Minggu ini, laporan keuangan dari raksasa teknologi seperti Microsoft, Google, dan Meta telah dirilis. Kecuali Meta, laporan keuangan Microsoft dan Google menunjukkan kinerja yang mengesankan, dan harga saham mereka terangkat. Perusahaan-perusahaan ini terus meningkatkan laju pendapatan cloud dan margin keseluruhan melalui logika siklus positif "pendapatan-pengeluaran-pendapatan lagi". AI sedang mendorong pertumbuhan cepat dalam skala bisnis seperti iklan dan pencarian. Sementara itu, "perlombaan senjata" daya komputasi di antara penyedia cloud terkemuka juga sedang berlangsung dengan sangat intens, dan kemungkinan perlambatan pengeluaran modal dalam jangka pendek hampir nol. Di awal era AI, penyedia terkemuka hanya bisa bertahan dalam kompetisi yang ketat melalui investasi berkelanjutan. Menurut prediksi penyedia layanan daya komputasi CoreWeave, titik keseimbangan pasokan dan permintaan daya komputasi AI mungkin baru akan tercapai pada tahun 2030.

Aplikasi AI masih perlu berkembang

Pasar berharap untuk melihat aplikasi AI "yang dekat dengan kehidupan" yang benar-benar dapat meningkatkan produktivitas atau mempermudah kehidupan. Tahun ini telah menyaksikan penampilan menakjubkan dari OpenAI Sora dan kebangkitan model besar lokal Kimi. Di masa depan, diharapkan akan ada pembaruan berkelanjutan dari model besar seperti GPT, Gemini, Llama, serta raksasa seperti Microsoft dan Apple yang akan memperkenalkan model besar ke PC, ponsel, dan perangkat lainnya. Jalan menuju AGI berliku dan panjang, mungkin masih memerlukan waktu yang cukup lama untuk menginkubasi aplikasi AI yang benar-benar mengubah masyarakat.

Perhatikan "Daya Komputasi dengan Harga Tinggi"

Melihat kembali era 4G dan 5G, penurunan biaya lalu lintas seluler membawa pada era emas aplikasi seluler. Demikian pula, penurunan biaya unit Daya Komputasi akan menjadi syarat yang diperlukan bagi umat manusia untuk memasuki era AGI. Daya Komputasi AI yang murah, mudah didapat, dan stabil adalah dasar bagi lahirnya aplikasi AI yang signifikan. Mengambil Sora sebagai contoh, keterbukaannya kepada publik masih memerlukan beberapa bulan, salah satu alasan pentingnya adalah perlunya mengoptimalkan Daya Komputasi yang dibutuhkan untuk inferensi. Penyedia cloud terkemuka memiliki kekuatan untuk menginvestasikan jumlah besar untuk mempertahankan daya saing, tetapi tidak dapat mewakili seluruh permintaan pasar. Yang benar-benar dibutuhkan oleh banyak perusahaan kecil dan menengah adalah Daya Komputasi dengan biaya yang efektif.

Memecah biaya Daya Komputasi, selain sekitar 10% biaya operasional listrik, hampir semua sisanya adalah investasi aset tetap, termasuk GPU, peralatan jaringan, pendinginan, dan lain-lain. Dalam hal GPU, TSMC sedang memperluas kapasitas produksi CoWoS yang diperlukan untuk Daya Komputasi AI, dan diperkirakan kapasitas produksi bulanan akan mendekati 40.000 chip pada akhir tahun, meningkat lebih dari 150% dibandingkan total kapasitas produksi 2023. Dalam hal peralatan jaringan, Nvidia GB200 menggunakan banyak kabel tembaga untuk koneksi jarak pendek, menunjukkan bahwa mereka tidak hanya mengejar kinerja super tinggi, tetapi juga mempertimbangkan kontrol biaya untuk pelanggan. Pabrikan modul optik juga aktif mendorong solusi koneksi optik dengan harga tinggi seperti LPO. Dalam hal pendinginan, seiring dengan meningkatnya kepadatan daya per rak, solusi pendinginan cair akan melebihi biaya-efektivitas pendinginan udara.