Qualcomm y Meta se asocian para llevar Llama v2 LLM de código abierto a dispositivos móviles

Qualcomm y Meta anunciaron hoy una asociación que ayudará a que el nuevo modelo de lenguaje grande (LLM) Llama v2 de la compañía de redes sociales favorita de todos se ejecute en dispositivos móviles.

Meta ya tiene preparado LLaMA: ¡Una IA totalmente revolucionaria!

Si bien, muchos LLM requieren granjas de servidores impulsadas por GPU NVIDIA enormemente costosas, Llama 2 tiene la intención de ejecutarse en chips Qualcomm para teléfonos y PC a partir del próximo año.

Meta afirma que Llama 2 se puede empaquetar en aplicaciones más pequeñas que pueden ejecutarse en teléfonos mientras hacen casi lo mismo que ChatGPT, el chatbot líder en el mercado.

Es importante tener en cuenta que Llama v2 es un esfuerzo de código abierto de Meta. La compañía publicó sus “pesos”, el conjunto de datos que ayuda a gobernar cómo funciona un modelo de IA.

Esta es una estrategia drásticamente diferente en comparación con otros LLM notables como Google Bard y GPT-4 de OpenAI.

Los chips de Qualcomm cuentan con una unidad de procesador de tensor (TPU) que la compañía cree que será adecuada para ejecutar los cálculos requeridos por los modelos de IA.

Entre las ofertas más optimizadas de Llama v2 de Meta y el deseo de Qualcomm de involucrarse más en el sector de la IA, que es extremadamente candente, es posible que NVIDIA se enfrente a cierta competencia cuando Llama v2 se lance en dispositivos móviles el próximo año.

Esto también podría abrir la puerta a muchas empresas que han estado al margen esperando formas más asequibles de implementar LLM a nivel corporativo o de consumo.

🔥 RELACIONADOS