AMD anunció la serie Ryzen 8040 de procesadores para portátiles en el evento temático de IA de la compañía, replanteando lo que ha sido una conversación sobre la velocidad de la CPU, la potencia y la duración de la batería en una que prioriza la IA.

En enero, AMD lanzó la familia Ryzen 7000, de los cuales el Ryzen 7040 incluyó el primer uso de lo que AMD entonces llamó su arquitectura XDNA, impulsando Ryzen AI. (Cuando rival Intel dio a conocer su procesador Meteor Lake El verano pasado, Intel comenzó a referirse al acelerador de IA como una NPU, y el nombre se mantuvo).

Más de 50 modelos de portátiles ya se envían con Ryzen AI, dijeron los ejecutivos. Ahora, pasa a la próxima NPU de AMD, Hawk Point, dentro del Ryzen 8040. En el caso de AMD, la NPU XDNA ayuda a la CPU Zen, con la arquitectura Radeon RDNA de la GPU alimentando los gráficos. Pero los tres componentes lógicos funcionan armoniosamente y contribuyen al todo mayor.

"Consideramos la IA como la tecnología más transformadora de los últimos diez años", dijo la Dra. Lisa Su, directora ejecutiva de AMD, al iniciar la presentación "Advancing AI" de AMD el miércoles.

Ahora la lucha se libra en varios frentes. Si bien es posible que Microsoft y Google quieran que la IA se calcule en la nube, todas las empresas de chips importantes están defendiendo que se procese localmente, en la PC. Eso significa encontrar aplicaciones que puedan aprovechar las capacidades de procesamiento de IA local. Y esa significa asociarse con desarrolladores de software para codificar aplicaciones para procesadores específicos. El resultado es que AMD y sus rivales deben proporcionar herramientas de software que permitan a esas aplicaciones comunicarse con sus chips.

Naturalmente, AMD, Intel y Qualcomm quieren que esas aplicaciones se ejecuten de manera más efectiva en su propio silicio, por lo que las compañías de chips deben competir en dos vías separadas: no solo tienen que producir el silicio de IA más potente, sino que también deben garantizar que los desarrolladores de aplicaciones pueden codificar sus chips de la manera más eficiente posible.

Los fabricantes de silicio han intentado durante años convencer a los desarrolladores de juegos para que hagan lo mismo. Y aunque la IA puede parecer impenetrable desde el exterior, es posible desentrañar conceptos familiares: la cuantificación, por ejemplo, puede verse como una forma de compresión de datos para permitir que los modelos de lenguaje grande que normalmente se ejecutan en potentes procesadores de servidor reduzcan su complejidad y se ejecuten. en procesadores locales como la serie Ryzen 8000. Ese tipo de herramientas son fundamentales para que la “IA local” tenga éxito.

Conozca los ocho procesadores móviles Ryzen 8040

Como muchos chips, AMD está anunciando la serie Ryzen 8040 ahora, pero los verás en computadoras portátiles a partir del próximo año.

La serie Ryzen 8040 combina la arquitectura Zen 4 de AMD, sus GPU RDNA 3 y (todavía) la arquitectura XDNA de primera generación. Pero los nuevos chips en realidad utilizan la segunda NPU de AMD. El primero, “Phoenix”, incluía 10 billones de NPU de operaciones por segundo (TOPS) y 33 TOPS en total, y el resto procedía de la CPU y la GPU. La serie 8040 incluye “Hawk Point”, que aumenta los TOPS de NPU a 16 TOPS con 39 TOPS en total.

Donny Woligroski, gerente senior de marketing técnico de procesadores móviles, dijo a los periodistas que la CPU utiliza instrucciones AVX-512 VNNI para ejecutar funciones ligeras de IA en la CPU. La IA también puede ejecutarse en la GPU, pero a un nivel de energía alto e ineficiente, una postura que también hemos escuchado de Intel.

"Cuando se trata de eficiencia, el rendimiento bruto no es suficiente", afirmó Woligroski. "Tienes que poder ejecutar estas cosas en una computadora portátil".

Hay nueve miembros de la serie Ryzen 8040. Los siete más poderosos incluyen la NPU Hawk Point. Varían desde 8 núcleos/16 subprocesos y un reloj de impulso de 5.2 GHz en la gama alta, hasta 4 núcleos/8 subprocesos y 4.7 GHz. Los TDP van desde un mínimo de 15 W hasta un procesador de 35 W en la gama alta, extendiéndose hasta 54 W.

Los nueve nuevos chips incluyen:

• Ryzen 9 8945HS: 8 núcleos/16 subprocesos, 5.2 GHz (impulso); Gráficos Radeon 780M, 35-54W
• Ryzen 7 8845HS: 8 núcleos/16 subprocesos, 5.1 GHz (impulso); Gráficos Radeon 780M, 35-54W
• Ryzen 7 8840HS: 8 núcleos/16 subprocesos, gráficos Radeon 5.1M de 780 GHz (boost), 20-30 W
• Ryzen 7 8840U: 8 núcleos/16 subprocesos, gráficos Radeon 5.1M de 780 GHz (boost), 15-30 W
• Ryzen 5 8645HS: 6 núcleos/12 subprocesos, gráficos Radeon 5.0M de 760 GHz (boost), 35-54 W
• Ryzen 5 8640HS: 6 núcleos/12 subprocesos, gráficos Radeon 4.9M de 760 GHz (boost), 20-30 W
• Ryzen 5 8640U: 6 núcleos/12 subprocesos, gráficos Radeon 5.1M de 760 GHz (boost), 20-30 W
• Ryzen 5 8540U: 6 núcleos/12 subprocesos, gráficos Radeon 4.9M de 740 GHz (boost), 15-30 W
• Ryzen 3 8440U: 4 núcleos/8 subprocesos, gráficos Radeon 4.7M de 740 GHz (boost), 15-30 W

Usar Número de modelo de AMD “anillo decodificador” - cual Intel recientemente criticada como “aceite de serpiente” – todos los nuevos procesadores utilizan la arquitectura Zen 4 y se enviarán a las computadoras portátiles en 2024. AMD ofrece tres GPU integradas: la 780M (12 núcleos, hasta 2.7 GHz), la 760M (8 núcleos, hasta 2.6 GHz) y la 740M (4 núcleos, hasta 2.5 GHz): basado en la arquitectura de gráficos RDNA3 y compatibilidad con DDR5/LPDDR5. Esas iGPU aparecieron anteriormente en el Chips móviles Ryzen 7040 que debutó a principios de este año con la Phoenix NPU.

Curiosamente, AMD no anuncia ninguna pieza "HX" para juegos premium, al menos no todavía.

AMD también está revelando una NPU de tercera generación, “Strix Point”, que se enviará más adelante en 2024, presumiblemente dentro de un procesador Ryzen de próxima generación. AMD no reveló ninguna de las especificaciones específicas de Strix Point, pero dijo que ofrecerá más de tres veces el rendimiento de IA generativa de la generación anterior.

Rendimiento Ryzen 8040

AMD incluyó algunas evaluaciones comparativas genéricas comparando el 8940H con el Intel Core i9-13900H a 1080p en configuraciones bajas, afirmando que su propio chip supera al de Intel en 1.8 veces. (AMD usó nueve juegos para una comparación, sin afirmar realmente cómo llegó a los números). AMD afirma un aumento de rendimiento de 1.4 veces en los mismos chips, fusionando de alguna manera Cinebench R23 y Geekbench 6.

AMD también afirmó una mejora de IA de generación tras generación de 1.4 veces en el modelo de lenguaje grande Llama 2 de Facebook y los "modelos de visión", comparando el 7940HS y el 8840HS.

Con la IA en su infancia, los fabricantes de silicio no tienen muchos puntos de comparación con los puntos de referencia tradicionales. Los ejecutivos de AMD destacaron experiencias localizadas impulsadas por IA, como los diversos filtros neuronales que se encuentran en Photoshop, las herramientas de enmascaramiento de Lightroom y una serie de herramientas de DaVinci Resolve de BlackMagic. El mensaje subyacente es que es por eso que se necesita IA local, en lugar de ejecutarla en la nube.

AMD también está presentando el software AMD Ryzen AI, una herramienta que permite que un modelo desarrollado en PyTorch o TensorFlow para estaciones de trabajo y servidores se ejecute en un chip Ryzen local habilitado para IA.

El problema de ejecutar un modelo verdaderamente grande en un lenguaje grande, como un chatbot local, un software de cambio de voz o algún otro modelo, es que los servidores y las estaciones de trabajo tienen procesadores más potentes y más memoria disponible. Las computadoras portátiles no. Para lo que está diseñado Ryzen AI Software es tomar el LLM y esencialmente transcodificarlo en una versión más simple y menos intensiva que pueda ejecutarse en la memoria y la potencia de procesamiento más limitadas de una computadora portátil Ryzen.

Dicho de otra manera, la mayor parte de lo que usted considera un chatbot, o LLM, son en realidad los "pesos" o parámetros: las relaciones entre varios conceptos y palabras. Los LLM como GPT-3 tienen miles de millones de parámetros, y almacenarlos y ejecutarlos (inferencia) requiere enormes recursos informáticos. La cuantización es un poco como la compresión de imágenes: se espera que reduzca el tamaño de los pesos sin arruinar la "inteligencia" del modelo.

Uso de AMD y Microsoft ONNX para ello, un tiempo de ejecución de código abierto con optimizaciones integradas y scripts de inicio simples. Lo que haría Ryzen AI Software sería permitir que esta cuantización se realice automáticamente, guardando el modelo en un formato ONNX que esté listo para ejecutarse en un chip Ryzen.

Los ejecutivos dijeron que esta herramienta de software Ryzen AI se lanzará hoy, brindando tanto a los desarrolladores independientes como a los entusiastas una manera más fácil de probar la IA ellos mismos.

AMD también está lanzando el Concurso AMD Pervasive AI, con premios para el desarrollo de IA robótica, IA generativa y IA para PC. Los premios para PC AI, que implica la creación de aplicaciones únicas para el habla o la visión, comienzan en $3,000 y suben a $10,000.

Todo esto ayuda a impulsar a AMD en lo que aún es temprano en la carrera por establecer la IA, especialmente en la PC cliente. El próximo año promete solidificar el lugar donde encaja cada compañía de chips a medida que completan la primera vuelta.