Model AI Besar Menjadi Medan Pertempuran Baru bagi Pabrikan Ponsel
Kesempatan yang tampaknya bersinar di dunia bisnis, sering kali bisa menjadi belenggu yang mengikat orang.
Baru-baru ini, raksasa chip global Qualcomm berencana untuk memberhentikan sekitar 1258 orang di California, termasuk 1064 orang di San Diego dan 194 orang di Santa Clara. Perubahan personel ini diperkirakan akan dimulai pada 13 Desember.
Laporan keuangan Qualcomm untuk kuartal lalu telah memberi isyarat tentang pemecatan ini. Chip ponsel sebagai sumber pendapatan utama Qualcomm, menyumbang lebih dari setengahnya, namun pendapatan kuartal ketiga turun 21,6% dibandingkan tahun lalu. Pasar smartphone yang jenuh diam-diam mempengaruhi raksasa rantai pasokan hulu.
Sejak 2019, gelombang pergantian ponsel yang didorong oleh 5G telah berlangsung selama hampir empat tahun. Namun, analis Counterpoint, Peter Richardson, menunjukkan bahwa pada tahun 2022, siklus pergantian ponsel global telah mencapai 43 bulan, yang merupakan yang terpanjang dalam sejarah.
Selama lima tahun terakhir, industri ponsel telah berusaha mencari inovasi yang luar biasa. Namun, ketika bahkan pemimpin pasar pun sulit untuk meluncurkan fitur-fitur baru yang menakjubkan, produsen lain lebih sulit untuk mempertahankan posisi pasar. Semakin banyak konsumen mulai mempertanyakan nilai mengganti ponsel baru.
Beberapa ahli berpendapat bahwa titik terobosan yang sebenarnya mungkin terletak pada bidang perangkat lunak, terutama potensi yang terkandung dalam model AI besar. Meskipun saat ini masih belum jelas bagaimana memanfaatkan potensi ini secara maksimal, raksasa ponsel domestik telah mengincar model AI besar dan mencoba membuka medan perang baru.
Raksasa ponsel bersaing di bidang model besar
Perusahaan smartphone domestik berlomba-lomba mengejar tren model besar.
Pada 14 Agustus, Xiaomi mempresentasikan model AI besar mereka di konferensi tahunan. Model dengan 1,3 miliar parameter ini menunjukkan kinerja yang luar biasa di dua platform pengujian, C-Eval dan CMMLU. Lei Jun menyatakan bahwa model ini telah berjalan sempurna di perangkat mobile, dan dalam beberapa skenario, bahkan dapat bersaing dengan model cloud dengan 6 miliar parameter.
Pada 4 Agustus, Yu Chengdong mengumumkan bahwa HarmonyOS 4 akan mengintegrasikan "Model Besar Pangu". Huawei berencana untuk mengintegrasikan model besar secara mendalam ke dalam sistem ponsel, mencapai tingkat integrasi yang lebih tinggi.
OPPO baru-baru ini mengumumkan uji coba publik tahap pertama untuk versi baru "Little Assistant", yang didasarkan pada teknologi model besar AndesGPT. AndesGPT adalah model bahasa besar generatif yang berbasis pada arsitektur cloud campuran, dikembangkan oleh tim Andes Intelligent Cloud yang berada di bawah OPPO.
vivo dijadwalkan mengadakan konferensi pengembang tahunan pada 1 November, yang akan mengungkap model AI besar yang dikembangkan sendiri dan sistem operasi baru. Matriks model AI yang dibangun oleh vivo mencakup tiga tingkat parameter, yaitu miliaran, puluhan miliaran, dan ratusan miliaran, dengan total lima model, yang bertujuan untuk memenuhi berbagai skenario aplikasi.
Berbagai merek besar di industri ponsel secara berturut-turut terjun ke bidang model AI besar. Di tengah persaingan ketat di pasar yang sudah ada, produsen berharap dapat memanfaatkan teknologi baru untuk membangun citra yang lebih kompetitif di pasar kelas atas.
Para ahli industri percaya bahwa menekankan keunggulan fungsi AI adalah strategi penting bagi para produsen, tidak hanya dapat merangsang permintaan pengguna terhadap produk kelas atas, tetapi juga dapat mendorong kenaikan harga produk, menciptakan keuntungan yang lebih tinggi bagi merek. Diperkirakan dalam dua tahun ke depan akan terjadi ledakan inovasi AI di smartphone.
Jalur Implementasi Model Besar di Perangkat Seluler Menjadi Serupa
Meskipun produsen ponsel mengklaim bahwa menjalankan model besar di ponsel itu mudah, dalam praktiknya terdapat banyak tantangan.
Pemimpin tim model besar dari Laboratorium AI Komite Teknologi Xiaomi, Luan Jian, menyatakan bahwa menjalankan model besar di ponsel memerlukan prosesor dan memori yang sangat tinggi. Model besar yang menghabiskan terlalu banyak memori kerja dapat membatasi aplikasi lain, bahkan menyebabkan ponsel tidak responsif atau macet.
Kekuatan komputasi juga merupakan kunci. Jika menghasilkan satu karakter membutuhkan waktu beberapa detik, pengalaman pengguna akan sangat terpengaruh. Mengingat kecepatan membaca rata-rata orang adalah sekitar sepuluh karakter Tionghoa per detik, kecepatan generasi model harus jauh melebihi tingkat ini.
Masalah konsumsi daya juga tidak boleh diabaikan. Di bawah beban tinggi, chip komputasi dapat menyebabkan ponsel menjadi panas dengan cepat, dan operasi yang berlangsung lama akan secara serius mempengaruhi daya tahan baterai.
Oleh karena itu, tantangan nyata dari model besar ponsel adalah bagaimana menemukan keseimbangan antara kecepatan pemrosesan, pendinginan, dan daya tahan baterai. Fokus industri masih pada solusi kolaborasi ujung awan.
MediaTek bekerja sama dengan OPPO dan vivo untuk mengembangkan solusi penerapan model besar yang ringan di sisi perangkat. Keunggulan model besar di sisi perangkat adalah kecepatan respons yang lebih cepat dan keamanan data yang lebih tinggi.
Namun, hanya mengandalkan ponsel tidak dapat menyelesaikan semua masalah. Xiaomi menyatakan akan terus mengadopsi strategi kombinasi lokal dan cloud. Vivo juga mungkin akan mengambil pendekatan serupa, dengan mengevaluasi kompleksitas masalah untuk memutuskan apakah akan ditangani secara lokal atau dialihkan ke cloud.
Menggabungkan model besar yang berbasis cloud dan lokal tidak hanya dapat menghemat biaya, tetapi juga memenuhi kebutuhan pengguna dalam berbagai aspek seperti kemampuan komputasi, kinerja, konsumsi energi, dan perlindungan privasi, merupakan salah satu strategi pilihan terbaik saat ini untuk mengintegrasikan ponsel dan model AI besar.
Tantangan Potensial di Balik Fenomena Mengikuti Pabrikan
Beberapa orang dalam industri menganggap upaya menjalankan model besar di ponsel sebagai pedang bermata dua. Setelah diteliti lebih dalam, tidak dapat dihindari bahwa ini menunjukkan kecenderungan pendek yang lebih sesuai dengan situasi daripada benar-benar menginginkan perubahan.
Pertama, definisi "model besar" masih kabur. Mengambil contoh model sisi akhir dari Xiaomi, jumlah parameternya yang mencapai 1,3 miliar mirip dengan 1,5 miliar parameter GPT2, tetapi apakah ini cukup untuk disebut sebagai "model besar" masih menjadi perdebatan.
Ada pihak dalam industri yang meragukan: praktik model besar di perangkat mobile lebih untuk memenuhi tren pasar jangka pendek, bukan terobosan teknologi yang sesungguhnya. Jika ponsel benar-benar dapat dengan mudah menggerakkan model besar, lalu apa arti keberadaan kartu grafis berkinerja tinggi?
Kedua, untuk beradaptasi dengan ponsel, produsen terpaksa melakukan kompresi model secara signifikan melalui strategi seperti pemangkasan, distilasi, dan kuantisasi. Misalnya, vivo mungkin mengurangi parameter dari 175 miliar menjadi 1 miliar, apakah tindakan ini terlalu dipaksakan layak dipertimbangkan.
Nilai model besar tidak hanya terletak pada jumlah parameter, tetapi juga pada "kedalaman" dalam pembelajaran mendalam. Banyaknya parameter berarti lebih banyak informasi, pengetahuan, dan konteks yang dapat ditangkap. Memotong model dengan ratusan miliar parameter menjadi puluhan miliar parameter pasti akan mengorbankan sebagian dari kedalaman pembelajaran yang ada.
Meskipun Xiaomi mengklaim bahwa model sisi akhir mereka dapat bersaing dengan model cloud, detailnya tetap tidak boleh diabaikan. Model sisi akhir dengan 1,3 miliar parameter sulit untuk sepenuhnya setara dengan model cloud yang memiliki ratusan miliar parameter, mungkin hanya berkinerja setara dalam skenario tertentu.
Dari sudut pandang ini, cara implementasi model besar di ponsel saat ini tampaknya agak "berlebihan". Pengguna biasa lebih peduli tentang nilai yang dapat diberikan AI, bukan jumlah parameter model. Upaya produsen patut didorong, tetapi juga harus merenungkan tujuan dan makna sebenarnya.
Lebih penting lagi, meskipun banyak produsen ponsel aktif mengeksplorasi aplikasi model AI besar, jalan ke depan masih penuh ketidakpastian. Aplikasi "killer" berikutnya di pasar ponsel masih harus terungkap.
Saat ini, produsen ponsel tampaknya terlalu fokus pada penerapan model AI besar pada "asisten suara". Apakah pencarian satu arah ini hanya untuk mengikuti tren teknologi yang sedang hot, dan bukan benar-benar mempertimbangkan kebutuhan nyata pengguna?
Secara singkat, adopsi nyata model AI besar di bidang ponsel masih dalam tahap awal. Upaya saat ini hanyalah awal dari perjalanan eksplorasi.
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
12 Suka
Hadiah
12
6
Bagikan
Komentar
0/400
MEVHunterZhang
· 07-18 23:44
Sekali lagi mulai berputar~
Lihat AsliBalas0
ChainDetective
· 07-17 23:40
Sudah mulai menggoreng karakter AI lagi, sigh.
Lihat AsliBalas0
ForkItAll
· 07-16 08:33
Konsep yang diperdagangkan sudah sampai ke ponsel?
Model AI besar menjadi medan perang baru bagi produsen ponsel, di balik tren ini terdapat kekhawatiran yang mendalam.
Model AI Besar Menjadi Medan Pertempuran Baru bagi Pabrikan Ponsel
Kesempatan yang tampaknya bersinar di dunia bisnis, sering kali bisa menjadi belenggu yang mengikat orang.
Baru-baru ini, raksasa chip global Qualcomm berencana untuk memberhentikan sekitar 1258 orang di California, termasuk 1064 orang di San Diego dan 194 orang di Santa Clara. Perubahan personel ini diperkirakan akan dimulai pada 13 Desember.
Laporan keuangan Qualcomm untuk kuartal lalu telah memberi isyarat tentang pemecatan ini. Chip ponsel sebagai sumber pendapatan utama Qualcomm, menyumbang lebih dari setengahnya, namun pendapatan kuartal ketiga turun 21,6% dibandingkan tahun lalu. Pasar smartphone yang jenuh diam-diam mempengaruhi raksasa rantai pasokan hulu.
Sejak 2019, gelombang pergantian ponsel yang didorong oleh 5G telah berlangsung selama hampir empat tahun. Namun, analis Counterpoint, Peter Richardson, menunjukkan bahwa pada tahun 2022, siklus pergantian ponsel global telah mencapai 43 bulan, yang merupakan yang terpanjang dalam sejarah.
Selama lima tahun terakhir, industri ponsel telah berusaha mencari inovasi yang luar biasa. Namun, ketika bahkan pemimpin pasar pun sulit untuk meluncurkan fitur-fitur baru yang menakjubkan, produsen lain lebih sulit untuk mempertahankan posisi pasar. Semakin banyak konsumen mulai mempertanyakan nilai mengganti ponsel baru.
Beberapa ahli berpendapat bahwa titik terobosan yang sebenarnya mungkin terletak pada bidang perangkat lunak, terutama potensi yang terkandung dalam model AI besar. Meskipun saat ini masih belum jelas bagaimana memanfaatkan potensi ini secara maksimal, raksasa ponsel domestik telah mengincar model AI besar dan mencoba membuka medan perang baru.
Raksasa ponsel bersaing di bidang model besar
Perusahaan smartphone domestik berlomba-lomba mengejar tren model besar.
Pada 14 Agustus, Xiaomi mempresentasikan model AI besar mereka di konferensi tahunan. Model dengan 1,3 miliar parameter ini menunjukkan kinerja yang luar biasa di dua platform pengujian, C-Eval dan CMMLU. Lei Jun menyatakan bahwa model ini telah berjalan sempurna di perangkat mobile, dan dalam beberapa skenario, bahkan dapat bersaing dengan model cloud dengan 6 miliar parameter.
Pada 4 Agustus, Yu Chengdong mengumumkan bahwa HarmonyOS 4 akan mengintegrasikan "Model Besar Pangu". Huawei berencana untuk mengintegrasikan model besar secara mendalam ke dalam sistem ponsel, mencapai tingkat integrasi yang lebih tinggi.
OPPO baru-baru ini mengumumkan uji coba publik tahap pertama untuk versi baru "Little Assistant", yang didasarkan pada teknologi model besar AndesGPT. AndesGPT adalah model bahasa besar generatif yang berbasis pada arsitektur cloud campuran, dikembangkan oleh tim Andes Intelligent Cloud yang berada di bawah OPPO.
vivo dijadwalkan mengadakan konferensi pengembang tahunan pada 1 November, yang akan mengungkap model AI besar yang dikembangkan sendiri dan sistem operasi baru. Matriks model AI yang dibangun oleh vivo mencakup tiga tingkat parameter, yaitu miliaran, puluhan miliaran, dan ratusan miliaran, dengan total lima model, yang bertujuan untuk memenuhi berbagai skenario aplikasi.
Berbagai merek besar di industri ponsel secara berturut-turut terjun ke bidang model AI besar. Di tengah persaingan ketat di pasar yang sudah ada, produsen berharap dapat memanfaatkan teknologi baru untuk membangun citra yang lebih kompetitif di pasar kelas atas.
Para ahli industri percaya bahwa menekankan keunggulan fungsi AI adalah strategi penting bagi para produsen, tidak hanya dapat merangsang permintaan pengguna terhadap produk kelas atas, tetapi juga dapat mendorong kenaikan harga produk, menciptakan keuntungan yang lebih tinggi bagi merek. Diperkirakan dalam dua tahun ke depan akan terjadi ledakan inovasi AI di smartphone.
Jalur Implementasi Model Besar di Perangkat Seluler Menjadi Serupa
Meskipun produsen ponsel mengklaim bahwa menjalankan model besar di ponsel itu mudah, dalam praktiknya terdapat banyak tantangan.
Pemimpin tim model besar dari Laboratorium AI Komite Teknologi Xiaomi, Luan Jian, menyatakan bahwa menjalankan model besar di ponsel memerlukan prosesor dan memori yang sangat tinggi. Model besar yang menghabiskan terlalu banyak memori kerja dapat membatasi aplikasi lain, bahkan menyebabkan ponsel tidak responsif atau macet.
Kekuatan komputasi juga merupakan kunci. Jika menghasilkan satu karakter membutuhkan waktu beberapa detik, pengalaman pengguna akan sangat terpengaruh. Mengingat kecepatan membaca rata-rata orang adalah sekitar sepuluh karakter Tionghoa per detik, kecepatan generasi model harus jauh melebihi tingkat ini.
Masalah konsumsi daya juga tidak boleh diabaikan. Di bawah beban tinggi, chip komputasi dapat menyebabkan ponsel menjadi panas dengan cepat, dan operasi yang berlangsung lama akan secara serius mempengaruhi daya tahan baterai.
Oleh karena itu, tantangan nyata dari model besar ponsel adalah bagaimana menemukan keseimbangan antara kecepatan pemrosesan, pendinginan, dan daya tahan baterai. Fokus industri masih pada solusi kolaborasi ujung awan.
MediaTek bekerja sama dengan OPPO dan vivo untuk mengembangkan solusi penerapan model besar yang ringan di sisi perangkat. Keunggulan model besar di sisi perangkat adalah kecepatan respons yang lebih cepat dan keamanan data yang lebih tinggi.
Namun, hanya mengandalkan ponsel tidak dapat menyelesaikan semua masalah. Xiaomi menyatakan akan terus mengadopsi strategi kombinasi lokal dan cloud. Vivo juga mungkin akan mengambil pendekatan serupa, dengan mengevaluasi kompleksitas masalah untuk memutuskan apakah akan ditangani secara lokal atau dialihkan ke cloud.
Menggabungkan model besar yang berbasis cloud dan lokal tidak hanya dapat menghemat biaya, tetapi juga memenuhi kebutuhan pengguna dalam berbagai aspek seperti kemampuan komputasi, kinerja, konsumsi energi, dan perlindungan privasi, merupakan salah satu strategi pilihan terbaik saat ini untuk mengintegrasikan ponsel dan model AI besar.
Tantangan Potensial di Balik Fenomena Mengikuti Pabrikan
Beberapa orang dalam industri menganggap upaya menjalankan model besar di ponsel sebagai pedang bermata dua. Setelah diteliti lebih dalam, tidak dapat dihindari bahwa ini menunjukkan kecenderungan pendek yang lebih sesuai dengan situasi daripada benar-benar menginginkan perubahan.
Pertama, definisi "model besar" masih kabur. Mengambil contoh model sisi akhir dari Xiaomi, jumlah parameternya yang mencapai 1,3 miliar mirip dengan 1,5 miliar parameter GPT2, tetapi apakah ini cukup untuk disebut sebagai "model besar" masih menjadi perdebatan.
Ada pihak dalam industri yang meragukan: praktik model besar di perangkat mobile lebih untuk memenuhi tren pasar jangka pendek, bukan terobosan teknologi yang sesungguhnya. Jika ponsel benar-benar dapat dengan mudah menggerakkan model besar, lalu apa arti keberadaan kartu grafis berkinerja tinggi?
Kedua, untuk beradaptasi dengan ponsel, produsen terpaksa melakukan kompresi model secara signifikan melalui strategi seperti pemangkasan, distilasi, dan kuantisasi. Misalnya, vivo mungkin mengurangi parameter dari 175 miliar menjadi 1 miliar, apakah tindakan ini terlalu dipaksakan layak dipertimbangkan.
Nilai model besar tidak hanya terletak pada jumlah parameter, tetapi juga pada "kedalaman" dalam pembelajaran mendalam. Banyaknya parameter berarti lebih banyak informasi, pengetahuan, dan konteks yang dapat ditangkap. Memotong model dengan ratusan miliar parameter menjadi puluhan miliar parameter pasti akan mengorbankan sebagian dari kedalaman pembelajaran yang ada.
Meskipun Xiaomi mengklaim bahwa model sisi akhir mereka dapat bersaing dengan model cloud, detailnya tetap tidak boleh diabaikan. Model sisi akhir dengan 1,3 miliar parameter sulit untuk sepenuhnya setara dengan model cloud yang memiliki ratusan miliar parameter, mungkin hanya berkinerja setara dalam skenario tertentu.
Dari sudut pandang ini, cara implementasi model besar di ponsel saat ini tampaknya agak "berlebihan". Pengguna biasa lebih peduli tentang nilai yang dapat diberikan AI, bukan jumlah parameter model. Upaya produsen patut didorong, tetapi juga harus merenungkan tujuan dan makna sebenarnya.
Lebih penting lagi, meskipun banyak produsen ponsel aktif mengeksplorasi aplikasi model AI besar, jalan ke depan masih penuh ketidakpastian. Aplikasi "killer" berikutnya di pasar ponsel masih harus terungkap.
Saat ini, produsen ponsel tampaknya terlalu fokus pada penerapan model AI besar pada "asisten suara". Apakah pencarian satu arah ini hanya untuk mengikuti tren teknologi yang sedang hot, dan bukan benar-benar mempertimbangkan kebutuhan nyata pengguna?
Secara singkat, adopsi nyata model AI besar di bidang ponsel masih dalam tahap awal. Upaya saat ini hanyalah awal dari perjalanan eksplorasi.