Великі моделі штучного інтелекту стають новою ареною для виробників смартфонів
Схоже, що блискучі можливості в комерційному світі часто можуть стати кайданами, що зв'язують людей.
Нещодавно глобальний чіповий гігант Qualcomm планує звільнити близько 1258 осіб у Каліфорнії, з них 1064 у Сан-Дієго та 194 у Санта-Кларі. Ці кадрові зміни, як очікується, розпочнуться 13 грудня.
Фінансовий звіт Qualcomm за минулий квартал вже натякнув на ці звільнення. Чіпи для мобільних телефонів є основним джерелом доходу Qualcomm, складаючи більше половини, але доходи за третій квартал знизилися на 21,6% в річному обчисленні. Насичення ринку смартфонів тихо впливає на великих постачальників.
З 2019 року тривала хвиля заміни смартфонів, що працюють на 5G, майже чотири роки. Проте аналітик Counterpoint Peter Richardson зазначив, що до 2022 року глобальний цикл заміни смартфонів досяг рекордних 43 місяців.
Протягом останніх п'яти років індустрія мобільних телефонів шукала проривні інновації. Але коли навіть лідери ринку важко випускають вражаючі нові функції, іншим виробникам ще складніше підтримувати свою ринкову позицію. Все більше споживачів починають сумніватися у вартості заміни старого телефону на новий.
Експерти вважають, що справжня точка прориву може бути в сфері програмного забезпечення, особливо в потенціалі, закладеному в великих моделях ШІ. Хоча наразі ще неясно, як повністю використати ці можливості, вітчизняні мобільні гіганти вже націлилися на великі моделі ШІ, намагаючись відкрити новий фронт.
Великий конкурс серед мобільних гігантів у сфері великих моделей
Внутрішні виробники мобільних телефонів кинулися за великим моделям.
14 серпня на щорічній конференції Xiaomi був представлений їхній великий AI-модель. Ця модель з 1,3 мільярда параметрів показала відмінні результати на двох тестових платформах: C-Eval та CMMLU. Лей Цзюнь заявив, що ця модель ідеально працює на мобільних пристроях, і в деяких випадках навіть може конкурувати з хмарною моделлю на 6 мільярдів параметрів.
4 серпня Юй Чендун оголосив, що HarmonyOS 4 інтегрує "модель Паньгу". Huawei планує глибоко інтегрувати велику модель у мобільну систему, щоб досягти більш високого рівня інтеграції.
Компанія OPPO нещодавно оголосила про перший раунд публічного тестування нової версії "Маленького помічника", продукту, що базується на технології великої моделі AndesGPT. AndesGPT - це генеративна велика мовна модель, розроблена командою Andes Intelligent Cloud, що належить OPPO, і вона базується на гібридній хмарній архітектурі.
vivo призначила щорічну конференцію розробників на 1 листопада, де буде представлена власна AI велика модель та нова операційна система. Матриця AI великих моделей, створена vivo, охоплює три рівні параметрів: мільярдний, десятки мільярдів та сотні мільярдів, всього п'ять моделей, що покликані задовольнити різноманітні сценарії застосування.
Великі бренди мобільної індустрії по черзі занурюються в сферу великих моделей ШІ. У умовах жорсткої конкуренції на ринку з наявними пропозиціями, виробники сподіваються використати нові технології для формування більш конкурентоспроможного іміджу на високому ринку.
Експерти вважають, що підкреслення переваг функцій ШІ є важливою стратегією великих виробників, оскільки це не лише може стимулювати попит користувачів на висококласні продукти, але й сприяти зростанню цін на продукцію, створюючи для брендів вищу прибутковість. Очікується, що в найближчі два роки ми станемо свідками великого вибуху інновацій ШІ в смартфонах.
Шляхи реалізації великих моделей на мобільних пристроях стають схожими
Хоча виробники телефонів рекламують, що запуск великих моделей на телефоні простий, насправді це стикається з багатьма викликами.
Керівник команди великої моделі AI лабораторії технологічного комітету Xiaomi Лоань Цзянь зазначив, що запуск великої моделі на смартфоні вимагає високих вимог до процесора та пам'яті. Велика модель, що займає занадто багато оперативної пам'яті, може обмежити інші додатки, навіть призвести до нереспонсивності або зависання смартфона.
Обчислювальна потужність також є ключовою. Якщо на створення одного символу потрібні кілька секунд, це значно знизить досвід користувача. Враховуючи, що середня швидкість читання людей становить близько десяти ієрогліфів на секунду, швидкість генерації моделі повинна бути значно вищою за цей рівень.
Проблеми з енергоспоживанням також не можна ігнорувати. При високих навантаженнях обчислювальні чіпи призводять до швидкого нагрівання телефону, а тривала робота серйозно вплине на автономність акумулятора.
Отже, справжнім викликом для великих моделей на мобільних пристроях є знаходження балансу між швидкістю обробки, тепловиділенням та тривалістю роботи батареї. Галузевий акцент все ще зосереджений на рішеннях для співпраці між кінцевими пристроями та хмарою.
MediaTek уклала угоду з OPPO та vivo для спільної розробки рішення для легковагового впровадження великих моделей на кінцевих пристроях. Переваги великих моделей на кінцевих пристроях полягають у швидшому часі відгуку та вищій безпеці даних.
Проте, покладатися лише на мобільний додаток неможливо вирішити всі проблеми. Xiaomi заявила, що продовжить використовувати стратегію комбінування краю та хмари. Vivo також може вжити подібних заходів, вирішуючи, чи обробляти локально, чи переносити в хмару, залежно від складності проблеми.
Поєднання великих моделей на базі хмари та локально не лише економить витрати, але й відповідає потребам користувачів у багатьох аспектах, таких як обчислювальна потужність, продуктивність, енергоспоживання та захист приватності, є одним з найкращих стратегій інтеграції мобільних телефонів та великих AI моделей на сьогодні.
Потенційні виклики за слідуванням виробників
Деякі експерти вважають спроби запуску великих моделей на мобільних пристроях двосічним мечем. Поглиблений аналіз не може не виявити короткозорість, що проявляється в прагненні до змін лише заради моди, а не для справжньої трансформації.
По-перше, визначення "великої моделі" все ще залишається неясним. Наприклад, модель на кінцевому пристрої Xiaomi має 1,3 мільярда параметрів, що близько до 1,5 мільярда параметрів GPT2, але чи достатньо цього, щоб називати її "великою моделлю", залишається спірним.
Є фахівці в галузі, які ставлять під сумнів: практична реалізація великих моделей на мобільних пристроях більше спрямована на задоволення короткострокових ринкових трендів, а не на справжній технологічний прорив. Якщо мобільний телефон дійсно може легко керувати великими моделями, то в чому сенс існування високопродуктивних графічних карт?
По-друге, щоб адаптуватися до мобільних телефонів, виробники змушені суттєво скорочувати моделі за допомогою таких стратегій, як обрізка, дистиляція та квантування. Наприклад, vivo може зменшити кількість параметрів з 175 мільярдів до 1 мільярда; чи не є це занадто примусовим кроком, варто обдумати.
Цінність великих моделей полягає не лише в кількості параметрів, а й у "глибині" у глибокому навчанні. Велика кількість параметрів означає більше інформації, знань і контексту. Коли модель з трильйоном параметрів зменшують до кількох мільярдів параметрів, неминуче втрачається частина первісної глибини навчання.
Навіть якщо Xiaomi стверджує, що її модель на краю може зрівнятися з моделью в хмарі, деталі все ж не слід ігнорувати. Модель на краю з 1,3 мільярда параметрів важко повністю порівняти з хмарною моделлю на 100 мільярдів параметрів, вона може показувати подібні результати лише в певних сценаріях.
З цих точок зору, поточні способи реалізації великих моделей на мобільних телефонах здаються дещо "перебільшеними". Звичайних користувачів більше цікавить, яку цінність може принести ШІ, а не кількість параметрів моделі. Спроби виробників заслуговують на підтримку, але також слід переосмислити їх справжні цілі та значення.
Більш того, незважаючи на те, що численні виробники мобільних телефонів активно досліджують застосування великих моделей штучного інтелекту, майбутній шлях залишається сповненим невідомості. Наступний "вбивця" додатків на ринку телефонів ще має бути виявлений.
На даний момент виробники мобільних телефонів, здається, надто акцентують увагу на застосуванні великих моделей ШІ в "голосових помічниках". Чи не є це однобоким прагненням, яке лише відповідає технологічним трендам, а не дійсно враховує реальні потреби користувачів?
Коротше кажучи, справжнє впровадження великих моделей ШІ в мобільній сфері все ще на початковій стадії. Поточні зусилля є лише початком подорожі дослідження.
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Великі моделі ШІ стають новою ареною для виробників мобільних телефонів, за наслідками наслідування виробників приховані тривоги.
Великі моделі штучного інтелекту стають новою ареною для виробників смартфонів
Схоже, що блискучі можливості в комерційному світі часто можуть стати кайданами, що зв'язують людей.
Нещодавно глобальний чіповий гігант Qualcomm планує звільнити близько 1258 осіб у Каліфорнії, з них 1064 у Сан-Дієго та 194 у Санта-Кларі. Ці кадрові зміни, як очікується, розпочнуться 13 грудня.
Фінансовий звіт Qualcomm за минулий квартал вже натякнув на ці звільнення. Чіпи для мобільних телефонів є основним джерелом доходу Qualcomm, складаючи більше половини, але доходи за третій квартал знизилися на 21,6% в річному обчисленні. Насичення ринку смартфонів тихо впливає на великих постачальників.
З 2019 року тривала хвиля заміни смартфонів, що працюють на 5G, майже чотири роки. Проте аналітик Counterpoint Peter Richardson зазначив, що до 2022 року глобальний цикл заміни смартфонів досяг рекордних 43 місяців.
Протягом останніх п'яти років індустрія мобільних телефонів шукала проривні інновації. Але коли навіть лідери ринку важко випускають вражаючі нові функції, іншим виробникам ще складніше підтримувати свою ринкову позицію. Все більше споживачів починають сумніватися у вартості заміни старого телефону на новий.
Експерти вважають, що справжня точка прориву може бути в сфері програмного забезпечення, особливо в потенціалі, закладеному в великих моделях ШІ. Хоча наразі ще неясно, як повністю використати ці можливості, вітчизняні мобільні гіганти вже націлилися на великі моделі ШІ, намагаючись відкрити новий фронт.
Великий конкурс серед мобільних гігантів у сфері великих моделей
Внутрішні виробники мобільних телефонів кинулися за великим моделям.
14 серпня на щорічній конференції Xiaomi був представлений їхній великий AI-модель. Ця модель з 1,3 мільярда параметрів показала відмінні результати на двох тестових платформах: C-Eval та CMMLU. Лей Цзюнь заявив, що ця модель ідеально працює на мобільних пристроях, і в деяких випадках навіть може конкурувати з хмарною моделлю на 6 мільярдів параметрів.
4 серпня Юй Чендун оголосив, що HarmonyOS 4 інтегрує "модель Паньгу". Huawei планує глибоко інтегрувати велику модель у мобільну систему, щоб досягти більш високого рівня інтеграції.
Компанія OPPO нещодавно оголосила про перший раунд публічного тестування нової версії "Маленького помічника", продукту, що базується на технології великої моделі AndesGPT. AndesGPT - це генеративна велика мовна модель, розроблена командою Andes Intelligent Cloud, що належить OPPO, і вона базується на гібридній хмарній архітектурі.
vivo призначила щорічну конференцію розробників на 1 листопада, де буде представлена власна AI велика модель та нова операційна система. Матриця AI великих моделей, створена vivo, охоплює три рівні параметрів: мільярдний, десятки мільярдів та сотні мільярдів, всього п'ять моделей, що покликані задовольнити різноманітні сценарії застосування.
Великі бренди мобільної індустрії по черзі занурюються в сферу великих моделей ШІ. У умовах жорсткої конкуренції на ринку з наявними пропозиціями, виробники сподіваються використати нові технології для формування більш конкурентоспроможного іміджу на високому ринку.
Експерти вважають, що підкреслення переваг функцій ШІ є важливою стратегією великих виробників, оскільки це не лише може стимулювати попит користувачів на висококласні продукти, але й сприяти зростанню цін на продукцію, створюючи для брендів вищу прибутковість. Очікується, що в найближчі два роки ми станемо свідками великого вибуху інновацій ШІ в смартфонах.
Шляхи реалізації великих моделей на мобільних пристроях стають схожими
Хоча виробники телефонів рекламують, що запуск великих моделей на телефоні простий, насправді це стикається з багатьма викликами.
Керівник команди великої моделі AI лабораторії технологічного комітету Xiaomi Лоань Цзянь зазначив, що запуск великої моделі на смартфоні вимагає високих вимог до процесора та пам'яті. Велика модель, що займає занадто багато оперативної пам'яті, може обмежити інші додатки, навіть призвести до нереспонсивності або зависання смартфона.
Обчислювальна потужність також є ключовою. Якщо на створення одного символу потрібні кілька секунд, це значно знизить досвід користувача. Враховуючи, що середня швидкість читання людей становить близько десяти ієрогліфів на секунду, швидкість генерації моделі повинна бути значно вищою за цей рівень.
Проблеми з енергоспоживанням також не можна ігнорувати. При високих навантаженнях обчислювальні чіпи призводять до швидкого нагрівання телефону, а тривала робота серйозно вплине на автономність акумулятора.
Отже, справжнім викликом для великих моделей на мобільних пристроях є знаходження балансу між швидкістю обробки, тепловиділенням та тривалістю роботи батареї. Галузевий акцент все ще зосереджений на рішеннях для співпраці між кінцевими пристроями та хмарою.
MediaTek уклала угоду з OPPO та vivo для спільної розробки рішення для легковагового впровадження великих моделей на кінцевих пристроях. Переваги великих моделей на кінцевих пристроях полягають у швидшому часі відгуку та вищій безпеці даних.
Проте, покладатися лише на мобільний додаток неможливо вирішити всі проблеми. Xiaomi заявила, що продовжить використовувати стратегію комбінування краю та хмари. Vivo також може вжити подібних заходів, вирішуючи, чи обробляти локально, чи переносити в хмару, залежно від складності проблеми.
Поєднання великих моделей на базі хмари та локально не лише економить витрати, але й відповідає потребам користувачів у багатьох аспектах, таких як обчислювальна потужність, продуктивність, енергоспоживання та захист приватності, є одним з найкращих стратегій інтеграції мобільних телефонів та великих AI моделей на сьогодні.
Потенційні виклики за слідуванням виробників
Деякі експерти вважають спроби запуску великих моделей на мобільних пристроях двосічним мечем. Поглиблений аналіз не може не виявити короткозорість, що проявляється в прагненні до змін лише заради моди, а не для справжньої трансформації.
По-перше, визначення "великої моделі" все ще залишається неясним. Наприклад, модель на кінцевому пристрої Xiaomi має 1,3 мільярда параметрів, що близько до 1,5 мільярда параметрів GPT2, але чи достатньо цього, щоб називати її "великою моделлю", залишається спірним.
Є фахівці в галузі, які ставлять під сумнів: практична реалізація великих моделей на мобільних пристроях більше спрямована на задоволення короткострокових ринкових трендів, а не на справжній технологічний прорив. Якщо мобільний телефон дійсно може легко керувати великими моделями, то в чому сенс існування високопродуктивних графічних карт?
По-друге, щоб адаптуватися до мобільних телефонів, виробники змушені суттєво скорочувати моделі за допомогою таких стратегій, як обрізка, дистиляція та квантування. Наприклад, vivo може зменшити кількість параметрів з 175 мільярдів до 1 мільярда; чи не є це занадто примусовим кроком, варто обдумати.
Цінність великих моделей полягає не лише в кількості параметрів, а й у "глибині" у глибокому навчанні. Велика кількість параметрів означає більше інформації, знань і контексту. Коли модель з трильйоном параметрів зменшують до кількох мільярдів параметрів, неминуче втрачається частина первісної глибини навчання.
Навіть якщо Xiaomi стверджує, що її модель на краю може зрівнятися з моделью в хмарі, деталі все ж не слід ігнорувати. Модель на краю з 1,3 мільярда параметрів важко повністю порівняти з хмарною моделлю на 100 мільярдів параметрів, вона може показувати подібні результати лише в певних сценаріях.
З цих точок зору, поточні способи реалізації великих моделей на мобільних телефонах здаються дещо "перебільшеними". Звичайних користувачів більше цікавить, яку цінність може принести ШІ, а не кількість параметрів моделі. Спроби виробників заслуговують на підтримку, але також слід переосмислити їх справжні цілі та значення.
Більш того, незважаючи на те, що численні виробники мобільних телефонів активно досліджують застосування великих моделей штучного інтелекту, майбутній шлях залишається сповненим невідомості. Наступний "вбивця" додатків на ринку телефонів ще має бути виявлений.
На даний момент виробники мобільних телефонів, здається, надто акцентують увагу на застосуванні великих моделей ШІ в "голосових помічниках". Чи не є це однобоким прагненням, яке лише відповідає технологічним трендам, а не дійсно враховує реальні потреби користувачів?
Коротше кажучи, справжнє впровадження великих моделей ШІ в мобільній сфері все ще на початковій стадії. Поточні зусилля є лише початком подорожі дослідження.