AI büyük modelleri cep telefonu üreticilerinin yeni savaş alanı
Ticaret dünyasında parlayan fırsatlar, genellikle insanların zincirlenmesine neden olabilecek prangalar haline gelebilir.
Son zamanlarda, dünya çapında çip devi Qualcomm'un Kaliforniya'da yaklaşık 1258 kişiyi işten çıkarmayı planladığı bildiriliyor. Bunların 1064'ü San Diego'da, 194'ü ise Santa Clara'da olacak. Bu personel değişikliğinin 13 Aralık'ta başlaması bekleniyor.
Qualcomm'un geçen çeyrek mali raporu bu işten çıkarmaların sinyallerini verdi. Akıllı telefon yongaları, Qualcomm'un ana gelir kaynağı olarak, gelirinin yarısından fazlasını oluşturuyor, ancak üçüncü çeyrek geliri yıllık bazda %21,6 azaldı. Akıllı telefon pazarındaki doygunluk, üst düzey tedarik zinciri devlerini gizlice etkiliyor.
2019'dan bu yana, 5G destekli telefon değişim çılgınlığı neredeyse dört yıl sürdü. Ancak, Counterpoint analisti Peter Richardson, 2022 itibarıyla dünya genelinde telefon değişim döngüsünün tarihindeki en uzun süre olan 43 aya ulaştığını belirtti.
Son beş yılda, cep telefonu endüstrisi çığır açan yenilikler arayışında. Ancak pazar liderleri bile etkileyici yeni özellikler sunmakta zorlanırken, diğer üreticilerin pazar konumunu koruması daha da zorlaşıyor. Daha fazla tüketici, yeni bir telefon almanın değerini sorgulamaya başladı.
Bazı uzmanlar, gerçek atılım noktasının yazılım alanında, özellikle de AI büyük modellerinin içerdiği potansiyelde olabileceğini düşünüyor. Şu anda bu potansiyellerin nasıl tam olarak kullanılacağı henüz net değil, ancak yerli akıllı telefon devleri AI büyük modellerine odaklanarak yeni bir savaş alanı açmaya çalışıyor.
Akıllı Telefon Devi Büyük Model Alanında Rekabet
Ülke içindeki telefon üreticileri büyük model heyecanını peşinden koşuyor.
14 Ağustos'ta, Xiaomi'nin yıllık tanıtımında kendi AI büyük modelini sergiledi. Bu 1.3 milyar parametreli model, C-Eval ve CMMLU gibi iki büyük test platformunda mükemmel bir performans sergiledi. Lei Jun, bu modelin telefonlarda mükemmel çalıştığını ve bazı senaryolarda 6 milyar parametreli bulut modeline rakip olabileceğini belirtti.
4 Ağustos'ta, Yu Chengdong HarmonyOS 4'ün "Pangu Büyük Modeli" ile birleşeceğini duyurdu. Huawei, büyük modeli telefon sistemine derinlemesine entegre etmeyi ve daha yüksek seviyede bir birleşim sağlamayı planlıyor.
OPPO, yakın zamanda yeni "Xiao Bu Asistanı"nın ilk genel beta testini başlattığını duyurdu. Bu ürün, AndesGPT büyük model teknolojisine dayanmaktadır. AndesGPT, OPPO'ya ait Andes Akıllı Bulut ekibi tarafından geliştirilen, karmaşık bulut mimarisine dayanan bir üretken büyük dil modelidir.
vivo, 1 Kasım'da yıllık geliştirici konferansını düzenleyecek ve kendi geliştirdiği AI büyük modelini ve yeni işletim sistemini tanıtacak. vivo'nun oluşturduğu AI büyük model matrisinin, milyar, on milyar ve yüz milyar olmak üzere üç ana parametre seviyesini kapsayan toplam beş modeli bulunmaktadır ve bu modeller, çeşitli uygulama senaryolarını karşılamayı amaçlamaktadır.
Mobil sektöründeki büyük markalar sırasıyla AI büyük model alanına adım atıyor. Mevcut piyasa içindeki şiddetli rekabetin ortasında, üreticiler yeni teknolojilerden yararlanarak yüksek kaliteli pazarda daha rekabetçi bir imaj oluşturmayı umuyor.
Sektör uzmanları, AI işlevlerinin avantajlarını vurgulamanın büyük üreticilerin önemli bir stratejisi olduğunu düşünüyor. Bu sadece kullanıcıların yüksek kaliteli ürünlere olan talebini artırmakla kalmayacak, aynı zamanda ürün fiyatlarının artmasına da neden olacak ve markalar için daha yüksek kârlar yaratacaktır. Önümüzdeki iki yıl içinde cep telefonlarında AI'da büyük bir yenilik patlaması bekleniyor.
Büyük Modelin Mobil Uç Noktası Yolu Benzerleşiyor
Akıllı telefon üreticileri, büyük modellerin telefonlarda çalıştırılmasını kolayca yapabileceklerini duyursalar da, pratikte birçok zorlukla karşı karşıya kalıyorlar.
Xiaomi Teknik Komitesi AI Laboratuvarı büyük model ekibi lideri Luan Jian, akıllı telefonlarda büyük model çalıştırmanın işlemci ve bellek için çok yüksek gereksinimler olduğunu belirtti. Büyük modelin aşırı derecede çalışma belleği kullanması, diğer uygulamaların kısıtlanmasına neden olabilir, hatta telefonun yanıt vermemesine veya kilitlenmesine yol açabilir.
Hesaplama gücü de anahtardır. Eğer bir karakter oluşturmak birkaç saniye alıyorsa, kullanıcı deneyimi büyük ölçüde kötüleşecektir. İnsanların ortalama okuma hızının saniyede yaklaşık on birkaç Çin karakteri olduğu düşünüldüğünde, modelin oluşturma hızı bu seviyenin çok üzerinde olmalıdır.
Güç tüketimi sorunu da göz ardı edilemez. Yüksek yük altında işlemci, telefonun hızla ısınmasına neden olur, uzun süreli çalışması bataryanın ömrünü ciddi şekilde etkiler.
Bu nedenle, akıllı telefon büyük modellerinin gerçek zorluğu, işlem hızı, ısı dağılımı ve pil ömrü arasında nasıl bir denge bulacağıdır. Sektörün odağı hala uç-bulut iş birliği çözümlerinde.
MediaTek, OPPO ve vivo ile iş birliği yaparak, uç noktada büyük modelin hafifletilmiş dağıtım çözümlerini birlikte geliştirdi. Uç nokta büyük modelinin avantajları, daha hızlı yanıt süresi ve daha yüksek veri güvenliğidir.
Ancak, yalnızca mobil cihazlara güvenmek tüm problemleri çözemez. Xiaomi, uç-bulut birleşim stratejisini benimsemeye devam edeceğini belirtti. Vivo da benzer bir yöntem benimseyebilir, sorunların karmaşıklığını değerlendirerek yerel olarak mı yoksa buluta mı aktarılacağına karar verebilir.
Bulut ve yerel büyük modellerin birleşimi, sadece maliyet tasarrufu sağlamakla kalmaz, aynı zamanda kullanıcıların hesaplama gücü, performans, enerji tüketimi ve gizlilik koruma gibi birçok alandaki ihtiyaçlarını da karşılar. Bu, şu anda mobil cihazlar ve AI büyük modellerinin entegrasyonu için en iyi stratejilerden biridir.
Bazı sektör uzmanları, mobil cihazlarda büyük modellerin çalıştırılmasına yönelik girişimleri çift taraflı bir kılıç olarak görüyor. Derinlemesine incelendiğinde, bu durum kaçınılmaz olarak yüzeysel bir değişim arayışından çok, duruma uygun bir yaklaşımı ortaya koyuyor.
Öncelikle, "büyük model" tanımı hala belirsiz. Örneğin, Xiaomi'nin uç birim modelinin 1,3 milyar parametre sayısı, GPT2'nin 1,5B parametrelerine yakın, ancak bunun "büyük model" olarak adlandırılması yeterli olup olmadığı hala tartışmalı.
Sektör uzmanları, mobil cihazlardaki büyük model uygulamalarının daha çok pazarın kısa vadeli trendlerine uyum sağlamak için yapıldığını, gerçek bir teknolojik sıçrama değil, bu durumu sorguluyor. Eğer telefonlar gerçekten büyük modelleri kolayca çalıştırabiliyorsa, o zaman yüksek performanslı grafik kartlarının varlık nedeni nedir?
İkincisi, telefonlara uyum sağlamak için üreticilerin modeli önemli ölçüde sıkıştırmak amacıyla budama, damıtma ve nicemleme gibi stratejiler kullanmak zorunda kalmalarıdır. Örneğin, vivo parametreleri 175 milyardan 1 milyara düşürebilir, bu tür bir işlemin fazla zorlamalı olup olmadığı düşünmeye değerdir.
Büyük modellerin değeri yalnızca parametre sayısında değil, aynı zamanda derin öğrenmedeki "derinlik"tedir. Çok sayıda parametre, daha fazla bilgi, bilgi ve bağlam yakalamak anlamına gelir. Yüz milyar parametreli bir modeli on milyar parametreye indirdiğinizde, mevcut öğrenme derinliğinden bazı kayıplar yaşanacaktır.
Xiaomi, kenar modelinin bulut modeliyle karşılaştırılabilir olduğunu iddia etse de, detaylar göz ardı edilemez. 13 milyar parametreye sahip kenar modeli, 100 milyar parametreli bulut modeliyle tam anlamıyla karşılaştırılamaz, ancak yalnızca belirli senaryolarda benzer bir performans sergileyebilir.
Bu açılardan bakıldığında, mevcut mobil cihazlardaki büyük model uygulama yönteminin biraz "abartılı" olduğu görülüyor. Sıradan kullanıcılar, AI'nın ne tür bir değer sunduğuna daha fazla ilgi gösteriyor, model parametrelerinin sayısına değil. Üreticilerin çabaları teşvik edilmeli, ancak gerçek amaçları ve anlamları üzerine de düşünülmelidir.
Daha da önemlisi, birçok akıllı telefon üreticisi AI büyük model uygulamalarını aktif olarak araştırmasına rağmen, gelecekteki yol hala bilinmezliklerle dolu. Akıllı telefon pazarındaki bir sonraki "katil uygulama" henüz açıklanmadı.
Şu anda cep telefonu üreticilerinin AI büyük modellerinin uygulamasında "sesli asistanlar" üzerine aşırı bir odaklanma olduğu görülüyor. Bu tek yönlü arayış, gerçekten kullanıcıların ihtiyaçlarını dikkate almak yerine teknoloji trendlerine ayak uydurmak mı?
Kısacası, AI büyük modellerinin akıllı telefon alanında gerçek yaygınlaşması henüz başlangıç aşamasında. Mevcut çabalar, keşif yolculuğunun sadece başlangıcı.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
AI büyük modelleri, cep telefonu üreticilerinin yeni savaş alanı haline geliyor; üreticilerin birbirini takip etmesinin arkasında endişeler var.
AI büyük modelleri cep telefonu üreticilerinin yeni savaş alanı
Ticaret dünyasında parlayan fırsatlar, genellikle insanların zincirlenmesine neden olabilecek prangalar haline gelebilir.
Son zamanlarda, dünya çapında çip devi Qualcomm'un Kaliforniya'da yaklaşık 1258 kişiyi işten çıkarmayı planladığı bildiriliyor. Bunların 1064'ü San Diego'da, 194'ü ise Santa Clara'da olacak. Bu personel değişikliğinin 13 Aralık'ta başlaması bekleniyor.
Qualcomm'un geçen çeyrek mali raporu bu işten çıkarmaların sinyallerini verdi. Akıllı telefon yongaları, Qualcomm'un ana gelir kaynağı olarak, gelirinin yarısından fazlasını oluşturuyor, ancak üçüncü çeyrek geliri yıllık bazda %21,6 azaldı. Akıllı telefon pazarındaki doygunluk, üst düzey tedarik zinciri devlerini gizlice etkiliyor.
2019'dan bu yana, 5G destekli telefon değişim çılgınlığı neredeyse dört yıl sürdü. Ancak, Counterpoint analisti Peter Richardson, 2022 itibarıyla dünya genelinde telefon değişim döngüsünün tarihindeki en uzun süre olan 43 aya ulaştığını belirtti.
Son beş yılda, cep telefonu endüstrisi çığır açan yenilikler arayışında. Ancak pazar liderleri bile etkileyici yeni özellikler sunmakta zorlanırken, diğer üreticilerin pazar konumunu koruması daha da zorlaşıyor. Daha fazla tüketici, yeni bir telefon almanın değerini sorgulamaya başladı.
Bazı uzmanlar, gerçek atılım noktasının yazılım alanında, özellikle de AI büyük modellerinin içerdiği potansiyelde olabileceğini düşünüyor. Şu anda bu potansiyellerin nasıl tam olarak kullanılacağı henüz net değil, ancak yerli akıllı telefon devleri AI büyük modellerine odaklanarak yeni bir savaş alanı açmaya çalışıyor.
Akıllı Telefon Devi Büyük Model Alanında Rekabet
Ülke içindeki telefon üreticileri büyük model heyecanını peşinden koşuyor.
14 Ağustos'ta, Xiaomi'nin yıllık tanıtımında kendi AI büyük modelini sergiledi. Bu 1.3 milyar parametreli model, C-Eval ve CMMLU gibi iki büyük test platformunda mükemmel bir performans sergiledi. Lei Jun, bu modelin telefonlarda mükemmel çalıştığını ve bazı senaryolarda 6 milyar parametreli bulut modeline rakip olabileceğini belirtti.
4 Ağustos'ta, Yu Chengdong HarmonyOS 4'ün "Pangu Büyük Modeli" ile birleşeceğini duyurdu. Huawei, büyük modeli telefon sistemine derinlemesine entegre etmeyi ve daha yüksek seviyede bir birleşim sağlamayı planlıyor.
OPPO, yakın zamanda yeni "Xiao Bu Asistanı"nın ilk genel beta testini başlattığını duyurdu. Bu ürün, AndesGPT büyük model teknolojisine dayanmaktadır. AndesGPT, OPPO'ya ait Andes Akıllı Bulut ekibi tarafından geliştirilen, karmaşık bulut mimarisine dayanan bir üretken büyük dil modelidir.
vivo, 1 Kasım'da yıllık geliştirici konferansını düzenleyecek ve kendi geliştirdiği AI büyük modelini ve yeni işletim sistemini tanıtacak. vivo'nun oluşturduğu AI büyük model matrisinin, milyar, on milyar ve yüz milyar olmak üzere üç ana parametre seviyesini kapsayan toplam beş modeli bulunmaktadır ve bu modeller, çeşitli uygulama senaryolarını karşılamayı amaçlamaktadır.
Mobil sektöründeki büyük markalar sırasıyla AI büyük model alanına adım atıyor. Mevcut piyasa içindeki şiddetli rekabetin ortasında, üreticiler yeni teknolojilerden yararlanarak yüksek kaliteli pazarda daha rekabetçi bir imaj oluşturmayı umuyor.
Sektör uzmanları, AI işlevlerinin avantajlarını vurgulamanın büyük üreticilerin önemli bir stratejisi olduğunu düşünüyor. Bu sadece kullanıcıların yüksek kaliteli ürünlere olan talebini artırmakla kalmayacak, aynı zamanda ürün fiyatlarının artmasına da neden olacak ve markalar için daha yüksek kârlar yaratacaktır. Önümüzdeki iki yıl içinde cep telefonlarında AI'da büyük bir yenilik patlaması bekleniyor.
Büyük Modelin Mobil Uç Noktası Yolu Benzerleşiyor
Akıllı telefon üreticileri, büyük modellerin telefonlarda çalıştırılmasını kolayca yapabileceklerini duyursalar da, pratikte birçok zorlukla karşı karşıya kalıyorlar.
Xiaomi Teknik Komitesi AI Laboratuvarı büyük model ekibi lideri Luan Jian, akıllı telefonlarda büyük model çalıştırmanın işlemci ve bellek için çok yüksek gereksinimler olduğunu belirtti. Büyük modelin aşırı derecede çalışma belleği kullanması, diğer uygulamaların kısıtlanmasına neden olabilir, hatta telefonun yanıt vermemesine veya kilitlenmesine yol açabilir.
Hesaplama gücü de anahtardır. Eğer bir karakter oluşturmak birkaç saniye alıyorsa, kullanıcı deneyimi büyük ölçüde kötüleşecektir. İnsanların ortalama okuma hızının saniyede yaklaşık on birkaç Çin karakteri olduğu düşünüldüğünde, modelin oluşturma hızı bu seviyenin çok üzerinde olmalıdır.
Güç tüketimi sorunu da göz ardı edilemez. Yüksek yük altında işlemci, telefonun hızla ısınmasına neden olur, uzun süreli çalışması bataryanın ömrünü ciddi şekilde etkiler.
Bu nedenle, akıllı telefon büyük modellerinin gerçek zorluğu, işlem hızı, ısı dağılımı ve pil ömrü arasında nasıl bir denge bulacağıdır. Sektörün odağı hala uç-bulut iş birliği çözümlerinde.
MediaTek, OPPO ve vivo ile iş birliği yaparak, uç noktada büyük modelin hafifletilmiş dağıtım çözümlerini birlikte geliştirdi. Uç nokta büyük modelinin avantajları, daha hızlı yanıt süresi ve daha yüksek veri güvenliğidir.
Ancak, yalnızca mobil cihazlara güvenmek tüm problemleri çözemez. Xiaomi, uç-bulut birleşim stratejisini benimsemeye devam edeceğini belirtti. Vivo da benzer bir yöntem benimseyebilir, sorunların karmaşıklığını değerlendirerek yerel olarak mı yoksa buluta mı aktarılacağına karar verebilir.
Bulut ve yerel büyük modellerin birleşimi, sadece maliyet tasarrufu sağlamakla kalmaz, aynı zamanda kullanıcıların hesaplama gücü, performans, enerji tüketimi ve gizlilik koruma gibi birçok alandaki ihtiyaçlarını da karşılar. Bu, şu anda mobil cihazlar ve AI büyük modellerinin entegrasyonu için en iyi stratejilerden biridir.
Üreticilerin Taklit Etmesinin Ardındaki Potansiyel Zorluklar
Bazı sektör uzmanları, mobil cihazlarda büyük modellerin çalıştırılmasına yönelik girişimleri çift taraflı bir kılıç olarak görüyor. Derinlemesine incelendiğinde, bu durum kaçınılmaz olarak yüzeysel bir değişim arayışından çok, duruma uygun bir yaklaşımı ortaya koyuyor.
Öncelikle, "büyük model" tanımı hala belirsiz. Örneğin, Xiaomi'nin uç birim modelinin 1,3 milyar parametre sayısı, GPT2'nin 1,5B parametrelerine yakın, ancak bunun "büyük model" olarak adlandırılması yeterli olup olmadığı hala tartışmalı.
Sektör uzmanları, mobil cihazlardaki büyük model uygulamalarının daha çok pazarın kısa vadeli trendlerine uyum sağlamak için yapıldığını, gerçek bir teknolojik sıçrama değil, bu durumu sorguluyor. Eğer telefonlar gerçekten büyük modelleri kolayca çalıştırabiliyorsa, o zaman yüksek performanslı grafik kartlarının varlık nedeni nedir?
İkincisi, telefonlara uyum sağlamak için üreticilerin modeli önemli ölçüde sıkıştırmak amacıyla budama, damıtma ve nicemleme gibi stratejiler kullanmak zorunda kalmalarıdır. Örneğin, vivo parametreleri 175 milyardan 1 milyara düşürebilir, bu tür bir işlemin fazla zorlamalı olup olmadığı düşünmeye değerdir.
Büyük modellerin değeri yalnızca parametre sayısında değil, aynı zamanda derin öğrenmedeki "derinlik"tedir. Çok sayıda parametre, daha fazla bilgi, bilgi ve bağlam yakalamak anlamına gelir. Yüz milyar parametreli bir modeli on milyar parametreye indirdiğinizde, mevcut öğrenme derinliğinden bazı kayıplar yaşanacaktır.
Xiaomi, kenar modelinin bulut modeliyle karşılaştırılabilir olduğunu iddia etse de, detaylar göz ardı edilemez. 13 milyar parametreye sahip kenar modeli, 100 milyar parametreli bulut modeliyle tam anlamıyla karşılaştırılamaz, ancak yalnızca belirli senaryolarda benzer bir performans sergileyebilir.
Bu açılardan bakıldığında, mevcut mobil cihazlardaki büyük model uygulama yönteminin biraz "abartılı" olduğu görülüyor. Sıradan kullanıcılar, AI'nın ne tür bir değer sunduğuna daha fazla ilgi gösteriyor, model parametrelerinin sayısına değil. Üreticilerin çabaları teşvik edilmeli, ancak gerçek amaçları ve anlamları üzerine de düşünülmelidir.
Daha da önemlisi, birçok akıllı telefon üreticisi AI büyük model uygulamalarını aktif olarak araştırmasına rağmen, gelecekteki yol hala bilinmezliklerle dolu. Akıllı telefon pazarındaki bir sonraki "katil uygulama" henüz açıklanmadı.
Şu anda cep telefonu üreticilerinin AI büyük modellerinin uygulamasında "sesli asistanlar" üzerine aşırı bir odaklanma olduğu görülüyor. Bu tek yönlü arayış, gerçekten kullanıcıların ihtiyaçlarını dikkate almak yerine teknoloji trendlerine ayak uydurmak mı?
Kısacası, AI büyük modellerinin akıllı telefon alanında gerçek yaygınlaşması henüz başlangıç aşamasında. Mevcut çabalar, keşif yolculuğunun sadece başlangıcı.