Para 2029, se estima que habrá más de mil millones de agentes de inteligencia artificial operativos en todo el mundo. Según las proyecciones de IDC, esa cantidad será unas 40 veces mayor que la registrada en 2025. Además, estos sistemas consumirán diariamente 3,7 billones de tokens y llamadas a interfaces de programación de aplicaciones (API).

Cada una de esas llamadas tiene un costo, un factor clave para determinar si una empresa puede afrontar la automatización de millones de tareas mediante agentes de IA. Pensemos en una tienda minorista que busca delegar la gestión de devoluciones en uno de estos sistemas. Durante una demostración comercial, el procedimiento parece simple: el agente localiza el pedido, comprueba las condiciones de devolución, autoriza el reembolso y envía al cliente la etiqueta correspondiente para el envío del producto.

Sin embargo, la decisión de invertir se vuelve más compleja cuando el agente se enfrenta a un comprobante faltante, una compra cuestionada o una situación no contemplada en la política de devoluciones. Cada verificación adicional exige más capacidad de procesamiento, mientras que los errores y los casos pendientes requieren la intervención de empleados. Por eso, antes de extender su implementación, la empresa necesita evaluar tanto los costos tecnológicos como los asociados a la asistencia humana.

Cómo impactan el entrenamiento y la inferencia en los presupuestos de los agentes de IA

El entrenamiento y la inferencia son dos etapas fundamentales en el funcionamiento de los modelos y agentes de IA. Durante el entrenamiento, el modelo analiza grandes volúmenes de datos para identificar patrones y desarrollar capacidades, como la comprensión del lenguaje. La inferencia, en cambio, ocurre cuando ese sistema utiliza lo aprendido para ejecutar una tarea concreta, como interpretar una solicitud de devolución o verificar si esta cumple con las condiciones establecidas por el vendedor.

Para quienes toman decisiones empresariales, esta diferencia tiene consecuencias directas en el presupuesto. El entrenamiento representa una inversión inicial que puede repetirse al actualizar los modelos. La inferencia, por su parte, genera costos cada vez que el sistema entra en funcionamiento, ya sea para analizar el pedido de un cliente, comprobar los requisitos de una devolución o resolver una consulta comercial. En términos simples, el entrenamiento equivale al aprendizaje, mientras que la inferencia representa la aplicación práctica de esos conocimientos.

Una empresa que contrata un servicio de inteligencia artificial no necesariamente necesita entrenar su propio modelo. Sin embargo, cada vez que utiliza esa tecnología genera costos de inferencia que el proveedor debe cubrir mediante las tarifas que cobra a sus clientes.

Esta relación vincula directamente los presupuestos empresariales destinados a la inteligencia artificial con la competencia entre los fabricantes de chips que sostienen la infraestructura tecnológica. Los procesadores más eficientes pueden reducir los costos y facilitar la incorporación de agentes a nuevas tareas, mientras que los menos eficientes podrían eliminar parte del ahorro que las compañías esperan obtener con su implementación.

¿Por qué los agentes de IA modifican los costos de inferencia?

Una reducción en el precio del procesamiento de inteligencia artificial no necesariamente se traduce en menores costos para las empresas. A medida que los agentes ejecutan más tareas, analizan situaciones excepcionales y verifican sus propios resultados, el consumo de recursos puede aumentar a un ritmo superior al de la caída de los precios.

Marc Bolitho, director ejecutivo de Tensordyne, estima que los agentes de IA consumen entre cinco y diez veces más tokens que los chatbots tradicionales, e incluso pueden superar esa proporción. Los proveedores utilizan los tokens, unidades que miden la información procesada y generada por un modelo, para establecer sus tarifas. Para las empresas que planifican incorporar estos sistemas, esto significa que el gasto registrado en chatbots durante el año pasado no sirve como referencia precisa para estimar cuánto costará implementar agentes capaces de realizar tareas más complejas.

La velocidad de respuesta también es un factor que las empresas deben considerar al elaborar sus presupuestos. Un cliente que solicita la aprobación de un reembolso necesita una respuesta rápida, mientras que la elaboración de un informe puede admitir tiempos de espera más largos. 

Por eso, los responsables de estas implementaciones deberían solicitar a los proveedores presupuestos que contemplen la velocidad de procesamiento requerida para cada tarea. También resulta fundamental evaluar si el ahorro esperado se mantiene cuando aumenta el número de operaciones y los agentes deben resolver situaciones cada vez más complejas.

Agentes de IA: por qué la inferencia abre nuevas oportunidades para la competencia

Bolitho considera que la ventaja competitiva de Nvidia es más sólida en el entrenamiento de modelos de inteligencia artificial que en su ejecución. Según su análisis, el mercado de inferencia ofrece mayores oportunidades para que fabricantes especializados compitan mediante procesadores capaces de reducir los costos y mejorar la velocidad.

Tanto Nvidia como AMD desarrollan chips acompañados de software diseñado para ejecutar modelos de manera eficiente. Para las empresas, esta diferencia entre entrenamiento e inferencia introduce un nuevo criterio de compra: el hardware más adecuado para desarrollar un modelo no necesariamente es la mejor opción para ponerlo en funcionamiento.

Por eso, las compañías pueden exigir a sus proveedores pruebas que permitan identificar qué plataforma ofrece la precisión y la velocidad necesarias al menor costo total. Tensordyne busca aprovechar esta oportunidad mediante cambios en la forma en que sus procesadores realizan los cálculos necesarios para ejecutar modelos de inteligencia artificial.

Cómo los nuevos métodos matemáticos podrían reducir los costos de los agentes de IA

El procesador Napier, desarrollado por Tensordyne, utiliza logaritmos para transformar determinadas multiplicaciones en sumas, una técnica que busca reducir el consumo de recursos. Este chip forma parte del sistema de inferencia Napier de la compañía, que integra capacidad de procesamiento, memoria y conexiones de red.

Los modelos de inteligencia artificial dependen principalmente de operaciones de multiplicación, que requieren espacio y energía en los procesadores. Para optimizar esos cálculos, Napier representa los números mediante logaritmos, lo que permite reemplazar ciertas multiplicaciones por sumas. Este procedimiento busca disminuir el consumo energético y aumentar la cantidad de operaciones que puede realizar el chip por cada vatio utilizado.

El principal desafío tecnológico consiste en garantizar que este método funcione de manera eficiente en todos los cálculos que necesita un modelo de IA, incluidas las conversiones entre distintas representaciones numéricas. Según Tensordyne, su implementación permite reducir tanto el espacio ocupado en el chip como la energía necesaria para procesar la información, con el objetivo de liberar recursos para la memoria y otras funciones.

"Somos los únicos que utilizamos matemáticas logarítmicas", aseguró Bolitho. Sin embargo, esta afirmación requiere una aclaración. Bill Dally, científico jefe de Nvidia, ya había señalado el potencial de esta tecnología. La diferencia, según lo presentado por Tensordyne, es que la compañía sería la primera en comercializar un sistema numérico basado completamente en logaritmos para ejecutar modelos de inteligencia artificial.

En comparaciones publicadas frente a los sistemas Nvidia Blackwell, Tensordyne asegura que su tecnología permite generar hasta 17 veces más tokens por vatio y alcanzar un rendimiento 13 veces superior. Sin embargo, estas cifras corresponden a estimaciones de la propia empresa sobre la eficiencia energética y la capacidad de procesamiento. No se trata de resultados verificados de manera independiente ni implican que los clientes puedan obtener reducciones equivalentes en sus costos.

Desde una perspectiva comercial, reducir los costos de procesamiento podría permitir que los agentes realicen más verificaciones o resuelvan situaciones complejas sin exceder el presupuesto previsto. Sin embargo, que esa mayor eficiencia se traduzca en mejores resultados dependerá de la precisión del sistema, las características de cada tarea y el precio final que pague el cliente.

Cómo evaluar los costos de los agentes de IA según los problemas que resuelven

Volvamos al ejemplo de la tienda minorista. Dividir el costo del servicio de inteligencia artificial por la cantidad de devoluciones procesadas dejaría fuera una parte importante de los gastos operativos. Para obtener una estimación más precisa, también habría que considerar la integración tecnológica, el mantenimiento, la supervisión, los intentos fallidos y el trabajo de los empleados que corrigen errores o resuelven casos pendientes.

Un indicador más útil sería dividir el costo operativo total entre el número de devoluciones completadas, de acuerdo con los estándares establecidos por la empresa. Además, el minorista debería medir cuántos clientes necesitan volver a contactar con atención al cliente, ya que una gestión inicialmente económica puede resultar mucho más costosa si el usuario debe repetir el procedimiento.

Este indicador también permite evaluar mejor las propuestas de infraestructura. Una mayor cantidad de tokens procesados por vatio puede aumentar la rentabilidad del proveedor, pero las empresas que contratan sus servicios necesitan comprobar si esa eficiencia se traduce en precios más bajos o en mejores prestaciones. En cambio, quienes adquieren equipos propios también deben considerar qué proporción de la capacidad instalada utilizarán.

El mismo criterio debe aplicarse al ahorro de tiempo. Si un agente libera a los empleados de gestionar devoluciones rutinarias, los directivos necesitan identificar qué nuevas tareas pueden asumir y medir los resultados. Ese tiempo recuperado justifica la inversión cuando permite aumentar la capacidad operativa, mejorar la atención al cliente o reducir gastos que la empresa debería afrontar.

Las cinco preguntas que los líderes deberían hacerse sobre la inversión en agentes de IA

Doug Levin, investigador ejecutivo de Harvard Business School, plantea la necesidad de establecer criterios contables más claros para evaluar las inversiones en inteligencia artificial. Su propuesta puede resumirse en cinco preguntas fundamentales que ayudan a los responsables empresariales a relacionar las decisiones de implementación tecnológica con el control financiero y la evaluación de resultados:

• ¿En qué partida del presupuesto se registran los gastos en inteligencia artificial?
• ¿Cuánto cuesta completar cada tarea de manera satisfactoria?
• ¿Quién es responsable de supervisar los gastos asociados a la IA?
• ¿Qué implementaciones de agentes requieren autorización previa?
• ¿Con qué frecuencia recibe el comité de auditoría informes sobre los costos de estos sistemas?

Las respuestas a estas preguntas permiten identificar cómo evoluciona el gasto cuando los agentes asumen nuevas responsabilidades. 

Una implementación económica para gestionar devoluciones habituales puede encarecerse considerablemente si también debe resolver reclamos complejos, que requieren múltiples verificaciones y la participación de empleados. Por eso, los directivos necesitan contar con información suficiente para detectar estos cambios a tiempo y evitar que un proyecto piloto con buenos resultados iniciales termine convirtiéndose en una inversión menos rentable de lo esperado.

Durante la entrevista, Bolitho explicó que las proyecciones de rendimiento del sistema Napier se contrastarán con simulaciones. Sin embargo, todavía serán necesarias evaluaciones independientes de equipos completamente desarrollados para comprobar si esas ventajas se mantienen en condiciones reales de uso, sin comprometer la precisión de los modelos de inteligencia artificial.

Una empresa minorista interesada en incorporar esta tecnología debería comenzar por probarla en sus devoluciones más complejas, como las compras cuestionadas o las situaciones excepcionales que no contempla su política comercial. Antes de ampliar su implementación, los responsables deberían exigir resultados que demuestren que las mejoras en la inferencia reducen el costo total de cada devolución resuelta correctamente, sin afectar los niveles de calidad y atención que los clientes esperan del servicio.

*Esta nota fue publicada originalmente en Forbes.com.