Qualcomm y Meta colaboran para habilitar aplicaciones de IA en el dispositivos utilizando Llama 2

Qualcomm Technologies, Inc. y Meta están trabajando para optimizar la ejecución de los modelos de lenguaje Llama 2 de Meta directamente en el dispositivo, sin depender únicamente de los servicios en la nube. La capacidad de ejecutar modelos de IA generativos como Llama 2 en dispositivos como teléfonos inteligentes, computadoras, auriculares de realidad virtual/aumentada y vehículos permite a los desarrolladores ahorrar en costos de la nube y proporcionar a los usuarios experiencias privadas, más confiables y personalizadas.

Nuevas aplicaciones de IA

Como resultado, Qualcomm Technologies tiene previsto ofrecer implementaciones de IA basadas en Llama 2 en el dispositivo para permitir la creación de nuevas aplicaciones de IA. Esto permitirá a los clientes, socios y desarrolladores crear casos de uso, como asistentes virtuales inteligentes, aplicaciones de productividad, herramientas de creación de contenido, entretenimiento y más. Estas nuevas experiencias de IA en el dispositivo, impulsadas por Snapdragon, pueden funcionar en áreas sin conectividad o incluso en modo avión.

Durga Malladi, vicepresidente senior y director general de tecnología, planificación y soluciones de borde de Qualcomm Technologies, ha destacado que: “Aplaudimos el enfoque de Meta hacia una IA abierta y responsable, y estamos comprometidos a impulsar la innovación y reducir las barreras de entrada para los desarrolladores de cualquier tamaño al llevar la IA generativa al dispositivo. Para escalar de manera efectiva la IA generativa en la corriente principal, la IA deberá ejecutarse tanto en la nube como en dispositivos en el borde, como teléfonos inteligentes, computadoras portátiles, vehículos y dispositivos IoT”.

Respaldo a Llama

La colaboración actual Meta y Qualcomm Technologies para respaldar el ecosistema de Llama abarca investigaciones y esfuerzos de ingeniería de productos. El liderazgo de Qualcomm Technologies en IA en el dispositivo lo posiciona para respaldar el ecosistema de Llama. La empresa tiene una huella inigualable en el borde, con miles de millones de teléfonos inteligentes, vehículos, auriculares y gafas de XR, computadoras, IoT y más, impulsados por sus soluciones líderes en hardware y software de IA, lo que permite la oportunidad de escalar la IA generativa.

Qualcomm Technologies tiene previsto ofrecer implementaciones de IA basadas en Llama 2 en dispositivos con Snapdragon a partir de 2024 en adelante. Los desarrolladores pueden comenzar hoy a optimizar aplicaciones para la IA en el dispositivo utilizando el conjunto de herramientas dedicadas Qualcomm AI Stack, que permite procesar la IA de manera más eficiente en Snapdragon, haciendo posible la IA en el dispositivo incluso en dispositivos pequeños, delgados y livianos.