La IA ya no se mide solo en tokens: AMD compara cuánto cuesta ejecutar agentes localmente o en la nube.
- Un agente de IA hace mucho más que generar una respuesta
- Ryzen AI Halo perdió generando tokens, pero terminó el trabajo primero
- CPU, GPU y memoria empiezan a jugar como un solo equipo
- El siguiente problema de los agentes es la factura de tokens
- ¿Realmente puede ser más barato ejecutar la IA localmente?
- La apuesta híbrida tiene una lógica sencilla: no todo necesita un modelo gigante
- ROCm.AI quiere que los propios agentes ayuden a construir la IA
- Windows también forma parte de esta estrategia
- ¿Sabías que?
Preguntarle algo a un chatbot es relativamente sencillo: escribimos, esperamos unos segundos y recibimos una respuesta. Pero pedirle a un agente que revise cientos de documentos, haga OCR, busque información, utilice herramientas, organice los resultados y compruebe que no metió la pata cambia bastante el asunto.
Ahí ya no importa únicamente quién escupe más tokens por segundo.
AMD quiere que esa diferencia marque una nueva forma de medir el rendimiento de la inteligencia artificial. Sus pruebas con Ryzen AI Halo muestran algo particularmente curioso: frente a NVIDIA DGX Spark, el sistema de AMD fue más lento en la etapa aislada de generación del modelo y, aun así, terminó primero el trabajo completo.
Más datos:MixingMusic.ai: el software colombiano premiado en el mundo
Y esa idea tiene una segunda consecuencia. Si los agentes empiezan a trabajar durante más tiempo, utilizar más herramientas y consumir millones de tokens, alguien tendrá que pagar la cuenta.
Por eso AMD también estrenó su Client Tokenomics Calculator, una herramienta diseñada para comparar cuánto podría costar ejecutar esas cargas en la nube, localmente o mediante una mezcla de ambas estrategias.
Un agente de IA hace mucho más que generar una respuesta
AMD Ryzen AI Halo es una plataforma compacta para desarrolladores construida alrededor del Ryzen AI Max+ 395. Tiene 16 núcleos Zen 5, gráficos Radeon 8060S, NPU XDNA 2 y hasta 128 GB de memoria LPDDR5x compartida.)
Pero la parte más interesante de las nuevas pruebas no está simplemente en las especificaciones.
AMD utilizó una carga llamada Hermes Executive Presentation Agent, o HEPA. El agente debía procesar 302 fuentes locales y terminar produciendo contenido validado a partir de documentos, hojas de cálculo, presentaciones, imágenes y archivos escaneados.
Para conseguirlo tenía que preparar documentos, ejecutar OCR, crear embeddings, recuperar información, organizarla y finalmente utilizar el modelo generativo.
En la configuración de AMD, siete de las ocho etapas del flujo se ejecutaban principalmente sobre la CPU. Solo la generación del modelo recaía en la GPU.
Eso ayuda a explicar por qué medir únicamente tokens por segundo puede contar solo una parte de la historia.
Un agente que responde “ya voy” inmediatamente todavía puede tardar bastante en aparecer.
Más IA: Qué significa la propuesta de Huawei de “IA contra IA” en ciberseguridad en Andicom
Ryzen AI Halo perdió generando tokens, pero terminó el trabajo primero
Aquí está la paradoja que AMD quiere convertir en argumento de venta.
En sus pruebas, Ryzen AI Halo completó todo el flujo en 311,6 segundos. NVIDIA DGX Spark necesitó 367,1 segundos.
Eso representa una ventaja de aproximadamente 15% en tiempo total para AMD. Pero si miramos únicamente la generación del modelo, ocurre lo contrario: DGX Spark terminó esa etapa en 137,2 segundos, mientras Ryzen AI Halo necesitó 159,5 segundos.
Entonces, ¿cómo terminó antes AMD?
La diferencia estuvo principalmente en las tareas asociadas a CPU. Ryzen completó esa parte en 152,1 segundos, frente a 229,9 segundos en DGX Spark. AMD habla de una ventaja de 34% en orquestación.
Dicho de otro modo: NVIDIA ganó una etapa importante de la carrera, pero AMD cruzó primero la meta.
Es una distinción especialmente relevante para la IA agéntica. Cuando un sistema pasa buena parte del tiempo manipulando archivos, preparando contexto y llamando herramientas, la velocidad del modelo deja de ser el único cuello de botella.
Eso sí, hay una letra pequeña importante: el benchmark fue creado, ejecutado y publicado por AMD. No es una comparación independiente.
Otros datos: De crear correos a diseñar medicamentos: Oracle e NVIDIA revelan la nueva era de la IA en ANDICOM
CPU, GPU y memoria empiezan a jugar como un solo equipo
La apuesta de Ryzen AI Halo también gira alrededor de su memoria.
La plataforma utiliza 128 GB de memoria unificada LPDDR5x, con 256 GB/s de ancho de banda. Eso permite que CPU y gráficos integrados trabajen sobre un espacio de memoria mucho mayor que el disponible habitualmente en una GPU de consumo independiente.
AMD asegura que la plataforma puede ejecutar localmente modelos de hasta 200.000 millones de parámetros en configuraciones compatibles.
El número suena espectacular, pero necesita contexto.
No significa que cualquier modelo de 200B pueda cargarse a precisión completa, utilizar contextos gigantes y funcionar maravillosamente. El resultado depende de cuantización, arquitectura, software y memoria requerida por cada implementación.
Lo realmente interesante para un agente es otra cosa: poder mantener modelos, documentos y componentes auxiliares residentes localmente, reduciendo parte del intercambio constante entre distintos bloques del sistema.
La propia prueba de AMD utilizó Qwen como orquestador, embeddings mediante FastEmbed y OCR con Tesseract.
La IA agéntica empieza a parecer menos una prueba de fuerza bruta y más una carrera de relevos.
Más datos: De la Copa Mundo al escritorio: cómo Lenovo busca democratizar la IA híbrida con control
El siguiente problema de los agentes es la factura de tokens
Que un agente haga más cosas también significa que puede consumir muchísimo más.
Una conversación tradicional tiene un intercambio relativamente sencillo. Un agente puede leer información, generar un plan, llamar una herramienta, recibir su resultado, incorporarlo nuevamente al contexto y repetir el proceso varias veces.
Cada vuelta puede consumir tokens.
AMD quiere trasladar esa discusión desde el laboratorio hasta la oficina con su Client Tokenomics Calculator.
La herramienta permite comparar tres posibilidades: IA únicamente en la nube, ejecución local sobre hardware AMD y un modelo híbrido que reparte el trabajo entre ambos.
El usuario puede modificar el número de empleados, cantidad de tokens consumidos, modelo utilizado, precios de API, costos eléctricos, hardware local y porcentaje de trabajo que seguirá enviándose a la nube. También permite calcular escenarios a uno, tres, cuatro o cinco años. (amd.com)
Al final entrega estimaciones de costo total de propiedad, gasto mensual y posible punto de equilibrio.
Es, básicamente, una hoja de cálculo para descubrir cuánto pueden costar todos esos inocentes “inténtalo otra vez, pero un poquito más corto”.
¿Realmente puede ser más barato ejecutar la IA localmente?
AMD utiliza como ejemplo una empresa con 500 AI PC y empleados que consumen aproximadamente 5,7 millones de tokens de entrada y 574.000 de salida por persona cada día.
Es una carga considerable, pensada para representar trabajadores que utilizan activamente herramientas agénticas como Claude Code, Codex o Hermes.
Según las estimaciones de AMD, ejecutar 50% de ese volumen localmente y 50% en la nube podría reducir entre 40% y 60% el costo acumulado durante tres años frente a una estrategia completamente dependiente de la nube. Una implementación totalmente local elevaría todavía más el ahorro proyectado y podría recuperar la inversión en menos de 24 meses.
Eso no significa que cualquier compañía vaya a ahorrar 60%.
La propia AMD advierte que la calculadora trabaja con estimaciones, precios públicos y supuestos configurables. Un contrato empresarial negociado, el costo de la electricidad, la utilización real de los equipos o un cambio en el precio de las API pueden transformar completamente el resultado.
La herramienta no predice el futuro. Sirve para hacer números antes de comprar hardware.
La apuesta híbrida tiene una lógica sencilla: no todo necesita un modelo gigante
AMD propone que una empresa reserve la nube para las tareas que realmente necesitan modelos grandes y utilice procesamiento local para otras operaciones más rutinarias.
Por ejemplo: resumir documentos, crear borradores, clasificar información, generar código preliminar o ajustar repetidamente un prompt.
La idea no es desconectarse de los grandes modelos comerciales.
Es preguntarse si resulta sensato pagar la tarifa de un modelo de frontera cada vez que alguien escribe: “me gusta, pero hazlo menos formal”.
Usar el modelo más caro para absolutamente cada paso es técnicamente posible. Económicamente puede parecerse un poco a mandar un camión de mudanzas para traer una bolsa del supermercado.
También existen otras razones para trabajar localmente. Los datos pueden permanecer dentro del dispositivo, algunas tareas pueden funcionar sin conexión y desaparece el cobro por token durante esa parte del proceso.
La nube, mientras tanto, continúa ofreciendo acceso a modelos que difícilmente cabrían o rendirían igual en un computador cliente.
Por eso híbrido probablemente sea la palabra más importante de toda la propuesta de AMD.
Otros datos: Más allá de la cámara: la IA responde a hurtos y recupera espacio público en la ciudad
ROCm.AI quiere que los propios agentes ayuden a construir la IA
Todo ese hardware sirve de poco si desarrollar sobre él sigue siendo complicado.
Ahí aparece ROCm.AI, una nueva capa dentro del ecosistema de software de AMD que intenta usar inteligencia artificial para facilitar precisamente el desarrollo de inteligencia artificial.
Una de sus piezas son AMD Skills. Estas llevan conocimiento técnico validado por AMD directamente a asistentes de programación como Claude, Cursor y Codex. Un desarrollador puede pedir ayuda para desplegar un modelo o configurar IA local sin comenzar buscando manualmente cada comando en la documentación. (amd.com)
Después está ROCm CLI, que ofrece comandos para instalar componentes, revisar el entorno, servir modelos y generar diagnósticos.
ROCm Console proporciona telemetría y estado del sistema.
Pero probablemente la pieza más interesante sea ROCm Hyperloom.
Hyperloom utiliza agentes para perfilar una carga de inferencia, encontrar cuellos de botella, analizar código del host y kernels de GPU, proponer optimizaciones y después comprobar tanto su rendimiento como que los cambios sigan produciendo resultados correctos. (amd.com)
Llegamos así a una situación deliciosamente circular: ahora podemos poner agentes de IA a optimizar el software con el que ejecutaremos más agentes de IA.
Windows también forma parte de esta estrategia
AMD tampoco está limitando esta apuesta al entorno Linux de Ryzen AI Halo.
Durante 2026 amplió su integración con Windows ML, tanto sobre NPU como sobre GPU Radeon. La compañía duplicó la cobertura de modelos de su proveedor de ejecución para NPU y añadió compatibilidad con modelos como GPT-OSS-20B y Qwen 2.5.
Las herramientas también pueden mostrar utilización de la NPU y tiempos de ejecución por operador para detectar cuellos de botella.
En GPU, AMD continúa integrando Radeon con Windows ML y el nuevo DirectX Compute Graph Compiler de Microsoft, que busca optimizar grafos completos de modelos antes de ejecutarlos.
Son detalles bastante menos vistosos que decir “126 TOPS”, pero probablemente más importantes para que una NPU o GPU termine siendo utilizada por aplicaciones reales.
Al final, esa es la misma filosofía detrás de toda esta actualización.
El hardware puede generar muchos tokens. El desafío ahora es conseguir que termine algo útil con ellos.
¿Sabías que?
ROCm cumplió diez años en 2026. AMD lanzó ROCm 10 el 27 de agosto y aprovechó esa versión para declarar disponible de forma general ROCm.AI, después de haber presentado inicialmente la plataforma durante Advancing AI 2026.
Hay cierta ironía agradable en esa evolución. Durante una década, AMD ha desarrollado software para ayudar a los programadores a aprovechar mejor sus procesadores y GPU. Ahora está incorporando agentes capaces de instalar, diagnosticar y hasta optimizar parte de ese mismo software. La herramienta que necesitaba humanos expertos para ser afinada empieza, poco a poco, a ayudar a afinarse a sí misma.
