Los grandes modelos de IA se convierten en el nuevo campo de batalla para los fabricantes de teléfonos móviles, y detrás del seguimiento de los fabricantes hay preocupaciones.
Los grandes modelos de IA se convierten en el nuevo campo de batalla para los fabricantes de teléfonos móviles
Las oportunidades que parecen brillantes en el mundo comercial a menudo pueden convertirse en cadenas que atan a las personas.
Recientemente, el gigante global de los semiconductores Qualcomm planea despedir a aproximadamente 1258 personas en California, de las cuales 1064 en San Diego y 194 en Santa Clara. Se espera que este cambio de personal comience el 13 de diciembre.
El informe financiero del último trimestre de Qualcomm ya insinuó estos despidos. Los chips para teléfonos móviles, como la principal fuente de ingresos de Qualcomm, representan más de la mitad, pero los ingresos del tercer trimestre cayeron un 21.6% en comparación interanual. El mercado de teléfonos inteligentes saturado está afectando silenciosamente a los gigantes de la cadena de suministro upstream.
Desde 2019, la ola de reemplazo de teléfonos impulsada por 5G ha continuado durante casi cuatro años. Sin embargo, el analista de Counterpoint, Peter Richardson, señaló que en 2022 el ciclo de reemplazo de teléfonos a nivel mundial alcanzó los 43 meses, el más largo de la historia.
En los últimos cinco años, la industria de los teléfonos móviles ha estado buscando innovaciones disruptivas. Pero cuando incluso los líderes del mercado tienen dificultades para lanzar nuevas características impresionantes, a otros fabricantes les resulta aún más difícil mantener su posición en el mercado. Cada vez más consumidores comienzan a cuestionar el valor de cambiar a un nuevo teléfono.
Algunos expertos creen que el verdadero punto de inflexión podría estar en el campo del software, especialmente en el potencial que encierran los grandes modelos de IA. Aunque aún no está claro cómo aprovechar plenamente este potencial, los gigantes de los teléfonos móviles en el país ya han puesto el ojo en los grandes modelos de IA, tratando de abrir un nuevo frente.
Los gigantes de los teléfonos móviles compiten en el campo de los grandes modelos
Los fabricantes de teléfonos móviles nacionales compiten por la tendencia de los grandes modelos.
El 14 de agosto, durante la conferencia de lanzamiento anual de Xiaomi, se presentó su propio gran modelo de IA. Este modelo de 1.3 mil millones de parámetros ha mostrado un excelente rendimiento en las dos plataformas de prueba C-Eval y CMMLU. Lei Jun afirmó que este modelo ya funciona a la perfección en dispositivos móviles y, en ciertos escenarios, puede incluso competir con un modelo en la nube de 6 mil millones de parámetros.
El 4 de agosto, Yu Chengdong anunció que HarmonyOS 4 integrará el "Modelo Pangu". Huawei planea integrar profundamente el gran modelo en el sistema del teléfono, logrando una fusión de mayor nivel.
OPPO anunció recientemente la primera ronda de pruebas públicas de la nueva versión de "Xiao Bu Assistant", un producto basado en la tecnología del modelo grande AndesGPT. AndesGPT es un modelo de lenguaje generativo de gran tamaño basado en una arquitectura de nube híbrida, desarrollado por el equipo de Andes Intelligent Cloud de OPPO.
vivo ha programado una conferencia anual de desarrolladores para el 1 de noviembre, donde se revelará su modelo de IA de auto-desarrollo y un nuevo sistema operativo. La matriz de modelos de IA creada por vivo abarca tres niveles de parámetros: mil millones, diez mil millones y cien mil millones, con un total de cinco modelos, con el objetivo de satisfacer una variedad de escenarios de aplicación.
Las principales marcas en la industria de los teléfonos móviles se están sumergiendo sucesivamente en el campo de los modelos de IA. En medio de la intensa competencia en el mercado existente, los fabricantes esperan utilizar nuevas tecnologías para crear una imagen más competitiva en el mercado de alta gama.
Los expertos de la industria creen que enfatizar las ventajas de las funciones de IA es una estrategia importante para los principales fabricantes, ya que no solo puede estimular la demanda de productos de alta gama, sino también impulsar el aumento de precios de los productos, creando así mayores beneficios para la marca. Se espera que en los próximos dos años haya una gran explosión de innovación de IA en los teléfonos móviles.
La convergencia de los caminos de implementación de grandes modelos en dispositivos móviles
Aunque los fabricantes de teléfonos móviles promocionan que es fácil ejecutar grandes modelos en los teléfonos, en la práctica se enfrentan a numerosos desafíos.
El líder del equipo de grandes modelos del laboratorio de IA del Comité Técnico de Xiaomi, Luan Jian, declaró que ejecutar grandes modelos en teléfonos móviles exige mucho de los procesadores y la memoria. El uso excesivo de la memoria de trabajo por parte de los grandes modelos puede limitar otras aplicaciones e incluso causar que el teléfono no responda o se congele.
La capacidad de cálculo también es clave. Si se tarda varios segundos en generar un carácter, la experiencia del usuario se verá gravemente afectada. Teniendo en cuenta que la velocidad media de lectura de las personas es de aproximadamente diez caracteres chinos por segundo, la velocidad de generación del modelo debe superar con creces este nivel.
El problema del consumo de energía tampoco se debe ignorar. Los chips de cálculo bajo alta carga pueden hacer que el teléfono se caliente rápidamente, y un funcionamiento prolongado afectará gravemente la duración de la batería.
Por lo tanto, el verdadero desafío de los grandes modelos en teléfonos móviles radica en cómo encontrar un equilibrio entre la velocidad de procesamiento, la disipación de calor y la duración de la batería. La industria sigue centrada en soluciones de colaboración entre el extremo y la nube.
MediaTek ha alcanzado un acuerdo de colaboración con OPPO y vivo para desarrollar conjuntamente soluciones de implementación ligera de grandes modelos en el lado del dispositivo. La ventaja de los grandes modelos en el lado del dispositivo radica en una mayor velocidad de respuesta y una mayor seguridad de los datos.
Sin embargo, confiar únicamente en el móvil no puede resolver todos los problemas. Xiaomi ha declarado que continuará adoptando la estrategia de combinación de terminal y nube. Vivo también podría adoptar un enfoque similar, decidiendo si manejar los problemas localmente o trasladarlos a la nube, evaluando la complejidad del problema.
Combinar modelos grandes en la nube y locales no solo puede ahorrar costos, sino que también puede satisfacer las necesidades de los usuarios en términos de capacidad de cálculo, rendimiento, consumo de energía y protección de la privacidad, siendo una de las estrategias preferidas actualmente para integrar teléfonos móviles y modelos de IA grandes.
Desafíos potenciales detrás de la imitación de los fabricantes
Algunos expertos de la industria ven los intentos de ejecutar grandes modelos en dispositivos móviles como una espada de doble filo. Al profundizar en el tema, inevitablemente se revela una tendencia miope que busca adaptarse a las circunstancias en lugar de un verdadero cambio.
Primero, la definición de "modelo grande" sigue siendo vaga. Tomando como ejemplo el modelo de lado del dispositivo de Xiaomi, su cantidad de 1.3 mil millones de parámetros es similar a los 1.5B de GPT-2, pero sigue habiendo controversia sobre si esto es suficiente para llamarlo "modelo grande".
Hay profesionales de la industria que cuestionan: la práctica de grandes modelos en dispositivos móviles es más para satisfacer la efímera moda del mercado que un verdadero avance tecnológico. Si los teléfonos móviles realmente pudieran impulsar fácilmente grandes modelos, ¿cuál sería entonces el propósito de las tarjetas gráficas de alto rendimiento?
En segundo lugar, para adaptarse a los teléfonos móviles, los fabricantes se ven obligados a comprimir drásticamente los modelos mediante estrategias como la poda, la destilación y la cuantificación. Por ejemplo, vivo podría reducir los parámetros de 175 mil millones a 1 mil millones, lo cual es un tema que vale la pena considerar si esta operación es demasiado forzada.
El valor de un gran modelo no radica únicamente en la cantidad de parámetros, sino en la "profundidad" del aprendizaje profundo. Una gran cantidad de parámetros significa una mayor captura de información, conocimiento y contexto. Al recortar un modelo de cientos de miles de millones de parámetros a decenas de miles de millones, inevitablemente se pierde parte de la profundidad de aprendizaje original.
Incluso si Xiaomi afirma que su modelo de borde puede compararse con el modelo en la nube, los detalles no deben ser ignorados. Un modelo de borde con 1.3 mil millones de parámetros es difícilmente comparable a un modelo en la nube con cientos de miles de millones de parámetros, y es posible que solo muestre un rendimiento comparable en escenarios específicos.
Desde estas perspectivas, la forma en que se implementan los grandes modelos en los teléfonos móviles actuales parece un poco "excesiva". Los usuarios comunes están más interesados en el valor que la IA puede aportar, en lugar del número de parámetros del modelo. Los intentos de los fabricantes son dignos de aliento, pero también deben reflexionar sobre su verdadero propósito y significado.
Lo más importante es que, a pesar de que numerosos fabricantes de teléfonos móviles están explorando activamente la aplicación de grandes modelos de IA, el camino futuro sigue estando lleno de incertidumbres. La próxima aplicación "killer" en el mercado de teléfonos móviles aún está por revelarse.
Actualmente, los fabricantes de teléfonos móviles parecen estar demasiado enfocados en la aplicación de grandes modelos de IA en los "asistentes de voz". ¿Es esta búsqueda en una sola dirección simplemente una respuesta a las tendencias tecnológicas, en lugar de considerar realmente las necesidades reales de los usuarios?
En resumen, la verdadera adopción de los grandes modelos de IA en el ámbito de los móviles aún se encuentra en sus primeras etapas. Los esfuerzos actuales son solo el comienzo de un viaje de exploración.
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
12 me gusta
Recompensa
12
6
Compartir
Comentar
0/400
MEVHunterZhang
· 07-18 23:44
Otra vez a empezar a enrollarse~
Ver originalesResponder0
ChainDetective
· 07-17 23:40
Ya están otra vez con el personaje de AI, suspirando.
Los grandes modelos de IA se convierten en el nuevo campo de batalla para los fabricantes de teléfonos móviles, y detrás del seguimiento de los fabricantes hay preocupaciones.
Los grandes modelos de IA se convierten en el nuevo campo de batalla para los fabricantes de teléfonos móviles
Las oportunidades que parecen brillantes en el mundo comercial a menudo pueden convertirse en cadenas que atan a las personas.
Recientemente, el gigante global de los semiconductores Qualcomm planea despedir a aproximadamente 1258 personas en California, de las cuales 1064 en San Diego y 194 en Santa Clara. Se espera que este cambio de personal comience el 13 de diciembre.
El informe financiero del último trimestre de Qualcomm ya insinuó estos despidos. Los chips para teléfonos móviles, como la principal fuente de ingresos de Qualcomm, representan más de la mitad, pero los ingresos del tercer trimestre cayeron un 21.6% en comparación interanual. El mercado de teléfonos inteligentes saturado está afectando silenciosamente a los gigantes de la cadena de suministro upstream.
Desde 2019, la ola de reemplazo de teléfonos impulsada por 5G ha continuado durante casi cuatro años. Sin embargo, el analista de Counterpoint, Peter Richardson, señaló que en 2022 el ciclo de reemplazo de teléfonos a nivel mundial alcanzó los 43 meses, el más largo de la historia.
En los últimos cinco años, la industria de los teléfonos móviles ha estado buscando innovaciones disruptivas. Pero cuando incluso los líderes del mercado tienen dificultades para lanzar nuevas características impresionantes, a otros fabricantes les resulta aún más difícil mantener su posición en el mercado. Cada vez más consumidores comienzan a cuestionar el valor de cambiar a un nuevo teléfono.
Algunos expertos creen que el verdadero punto de inflexión podría estar en el campo del software, especialmente en el potencial que encierran los grandes modelos de IA. Aunque aún no está claro cómo aprovechar plenamente este potencial, los gigantes de los teléfonos móviles en el país ya han puesto el ojo en los grandes modelos de IA, tratando de abrir un nuevo frente.
Los gigantes de los teléfonos móviles compiten en el campo de los grandes modelos
Los fabricantes de teléfonos móviles nacionales compiten por la tendencia de los grandes modelos.
El 14 de agosto, durante la conferencia de lanzamiento anual de Xiaomi, se presentó su propio gran modelo de IA. Este modelo de 1.3 mil millones de parámetros ha mostrado un excelente rendimiento en las dos plataformas de prueba C-Eval y CMMLU. Lei Jun afirmó que este modelo ya funciona a la perfección en dispositivos móviles y, en ciertos escenarios, puede incluso competir con un modelo en la nube de 6 mil millones de parámetros.
El 4 de agosto, Yu Chengdong anunció que HarmonyOS 4 integrará el "Modelo Pangu". Huawei planea integrar profundamente el gran modelo en el sistema del teléfono, logrando una fusión de mayor nivel.
OPPO anunció recientemente la primera ronda de pruebas públicas de la nueva versión de "Xiao Bu Assistant", un producto basado en la tecnología del modelo grande AndesGPT. AndesGPT es un modelo de lenguaje generativo de gran tamaño basado en una arquitectura de nube híbrida, desarrollado por el equipo de Andes Intelligent Cloud de OPPO.
vivo ha programado una conferencia anual de desarrolladores para el 1 de noviembre, donde se revelará su modelo de IA de auto-desarrollo y un nuevo sistema operativo. La matriz de modelos de IA creada por vivo abarca tres niveles de parámetros: mil millones, diez mil millones y cien mil millones, con un total de cinco modelos, con el objetivo de satisfacer una variedad de escenarios de aplicación.
Las principales marcas en la industria de los teléfonos móviles se están sumergiendo sucesivamente en el campo de los modelos de IA. En medio de la intensa competencia en el mercado existente, los fabricantes esperan utilizar nuevas tecnologías para crear una imagen más competitiva en el mercado de alta gama.
Los expertos de la industria creen que enfatizar las ventajas de las funciones de IA es una estrategia importante para los principales fabricantes, ya que no solo puede estimular la demanda de productos de alta gama, sino también impulsar el aumento de precios de los productos, creando así mayores beneficios para la marca. Se espera que en los próximos dos años haya una gran explosión de innovación de IA en los teléfonos móviles.
La convergencia de los caminos de implementación de grandes modelos en dispositivos móviles
Aunque los fabricantes de teléfonos móviles promocionan que es fácil ejecutar grandes modelos en los teléfonos, en la práctica se enfrentan a numerosos desafíos.
El líder del equipo de grandes modelos del laboratorio de IA del Comité Técnico de Xiaomi, Luan Jian, declaró que ejecutar grandes modelos en teléfonos móviles exige mucho de los procesadores y la memoria. El uso excesivo de la memoria de trabajo por parte de los grandes modelos puede limitar otras aplicaciones e incluso causar que el teléfono no responda o se congele.
La capacidad de cálculo también es clave. Si se tarda varios segundos en generar un carácter, la experiencia del usuario se verá gravemente afectada. Teniendo en cuenta que la velocidad media de lectura de las personas es de aproximadamente diez caracteres chinos por segundo, la velocidad de generación del modelo debe superar con creces este nivel.
El problema del consumo de energía tampoco se debe ignorar. Los chips de cálculo bajo alta carga pueden hacer que el teléfono se caliente rápidamente, y un funcionamiento prolongado afectará gravemente la duración de la batería.
Por lo tanto, el verdadero desafío de los grandes modelos en teléfonos móviles radica en cómo encontrar un equilibrio entre la velocidad de procesamiento, la disipación de calor y la duración de la batería. La industria sigue centrada en soluciones de colaboración entre el extremo y la nube.
MediaTek ha alcanzado un acuerdo de colaboración con OPPO y vivo para desarrollar conjuntamente soluciones de implementación ligera de grandes modelos en el lado del dispositivo. La ventaja de los grandes modelos en el lado del dispositivo radica en una mayor velocidad de respuesta y una mayor seguridad de los datos.
Sin embargo, confiar únicamente en el móvil no puede resolver todos los problemas. Xiaomi ha declarado que continuará adoptando la estrategia de combinación de terminal y nube. Vivo también podría adoptar un enfoque similar, decidiendo si manejar los problemas localmente o trasladarlos a la nube, evaluando la complejidad del problema.
Combinar modelos grandes en la nube y locales no solo puede ahorrar costos, sino que también puede satisfacer las necesidades de los usuarios en términos de capacidad de cálculo, rendimiento, consumo de energía y protección de la privacidad, siendo una de las estrategias preferidas actualmente para integrar teléfonos móviles y modelos de IA grandes.
Desafíos potenciales detrás de la imitación de los fabricantes
Algunos expertos de la industria ven los intentos de ejecutar grandes modelos en dispositivos móviles como una espada de doble filo. Al profundizar en el tema, inevitablemente se revela una tendencia miope que busca adaptarse a las circunstancias en lugar de un verdadero cambio.
Primero, la definición de "modelo grande" sigue siendo vaga. Tomando como ejemplo el modelo de lado del dispositivo de Xiaomi, su cantidad de 1.3 mil millones de parámetros es similar a los 1.5B de GPT-2, pero sigue habiendo controversia sobre si esto es suficiente para llamarlo "modelo grande".
Hay profesionales de la industria que cuestionan: la práctica de grandes modelos en dispositivos móviles es más para satisfacer la efímera moda del mercado que un verdadero avance tecnológico. Si los teléfonos móviles realmente pudieran impulsar fácilmente grandes modelos, ¿cuál sería entonces el propósito de las tarjetas gráficas de alto rendimiento?
En segundo lugar, para adaptarse a los teléfonos móviles, los fabricantes se ven obligados a comprimir drásticamente los modelos mediante estrategias como la poda, la destilación y la cuantificación. Por ejemplo, vivo podría reducir los parámetros de 175 mil millones a 1 mil millones, lo cual es un tema que vale la pena considerar si esta operación es demasiado forzada.
El valor de un gran modelo no radica únicamente en la cantidad de parámetros, sino en la "profundidad" del aprendizaje profundo. Una gran cantidad de parámetros significa una mayor captura de información, conocimiento y contexto. Al recortar un modelo de cientos de miles de millones de parámetros a decenas de miles de millones, inevitablemente se pierde parte de la profundidad de aprendizaje original.
Incluso si Xiaomi afirma que su modelo de borde puede compararse con el modelo en la nube, los detalles no deben ser ignorados. Un modelo de borde con 1.3 mil millones de parámetros es difícilmente comparable a un modelo en la nube con cientos de miles de millones de parámetros, y es posible que solo muestre un rendimiento comparable en escenarios específicos.
Desde estas perspectivas, la forma en que se implementan los grandes modelos en los teléfonos móviles actuales parece un poco "excesiva". Los usuarios comunes están más interesados en el valor que la IA puede aportar, en lugar del número de parámetros del modelo. Los intentos de los fabricantes son dignos de aliento, pero también deben reflexionar sobre su verdadero propósito y significado.
Lo más importante es que, a pesar de que numerosos fabricantes de teléfonos móviles están explorando activamente la aplicación de grandes modelos de IA, el camino futuro sigue estando lleno de incertidumbres. La próxima aplicación "killer" en el mercado de teléfonos móviles aún está por revelarse.
Actualmente, los fabricantes de teléfonos móviles parecen estar demasiado enfocados en la aplicación de grandes modelos de IA en los "asistentes de voz". ¿Es esta búsqueda en una sola dirección simplemente una respuesta a las tendencias tecnológicas, en lugar de considerar realmente las necesidades reales de los usuarios?
En resumen, la verdadera adopción de los grandes modelos de IA en el ámbito de los móviles aún se encuentra en sus primeras etapas. Los esfuerzos actuales son solo el comienzo de un viaje de exploración.