MediaTek anuncia Dimensity 9300+, un chip que acelera el procesamiento de IA generativa

MediaTek anuncia Dimensity 9300+, un chip con el que busca acelerar el procesamiento de la tecnología de inteligencia artificial (IA) generativa en el dispositivo con amplio soporte de modelos de lenguaje grande (LLM).

Ofrece compatibilidad con LoRA Fusion y NeuroPilot LoRA Fusion 2.0 y con modelos como 01.AI Yi-Nano, Alibaba Cloud Qwen, Baichuan AI, ERNIE-3.5-SE, Google Gemini Nano, Meta Llama 2 y Llama 3.

Gracias a la aceleración de decodificación especulativa de NeuroPilot, es capaz de ejecutar modelos de lenguaje grande con 7.000 millones de parámetros a 22 tokens por segundo.

“El Dimensity 9300+”, explica JC Hsu, vicepresidente sénior corporativo de MediaTek, “nos ayudará a seguir construyendo un abundante ecosistema de aplicaciones de IA generativa gracias al amplio soporte LLM del chip y LoRA Fusion en el dispositivo”.

“Para mejorar estas experiencias de IA, el Dimensity 9300+ ofrece un rendimiento impresionante y mejoras para acelerar la inferencia de LLM, ejecutando tokens mucho más rápido para una mejor experiencia de usuario”, señala.

Dimensity 9300+ se basa en un proceso TSMC de 4 nm de tercera generación. Cuenta con un núcleo Arm Cortex-X4 que llega a los 3,4 GHz. A esto se suman tres núcleos Cortex-X4 y cuatro Cortex-A720.

Entre otras especificaciones dispone de motor de trazado de rayos de hardware, tecnologías HyperEngine y el ISP Imagiq 990, con procesamiento RAW de 18 bits.