En un futuro no muy lejano, todas las personas utilizarán los llamados agentes de IA. Conectados a la nube, estos agentes estarán disponibles en tu celular para ayudarte con cualquier tarea: desde responder mails y reservar vuelos hasta optimizar el aprovechamiento fiscal de las pérdidas en tu cartera de inversiones.

Los clientes de Robinhood ya utilizan agentes de IA para analizar las fluctuaciones del mercado bursátil y operar de forma autónoma según instrucciones personalizadas. Joule, de SAP, ayuda a clientes corporativos a analizar inventarios, identificar los mejores proveedores y realizar compras. Por su parte, los agentes de compras, rastrean la web para encontrar las mejores ofertas, negocian las condiciones con los agentes de los vendedores, establecen plazos de entrega y concretan las compras. El servicio "Compra por mí" de Amazon es uno de estos casos.

Grandes empresas de inteligencia artificial y criptomonedas, desde Anthropic y OpenAI hasta Coinbase y Circle, ya compiten por convertir en realidad este futuro impulsado por bots.

Pero ¿qué pasa si el sillón que encargó tu agente llega en el color equivocado? ¿Qué ocurre si demora dos semanas más de lo previsto? ¿O si llega dañado y el vendedor asegura que el daño ocurrió después de la entrega?

Este problema, potencialmente costoso y quizás inevitable, se esconde detrás de la ambiciosa visión del comercio automatizado. Aunque el software ya puede comprar, negociar, contratar y pagar en nombre de personas y empresas, la IA también puede sufrir alucinaciones, y el comercio nunca se limitó al simple intercambio de dinero. Los contratiempos resultan inevitables.

"El comercio entre agentes está llegando a un punto de inflexión crítico y no estamos preparados para las posibles consecuencias", advirtió David Riudor, director ejecutivo y cofundador de GenLayer Foundation, una entidad con sede en las Islas Caimán que participa en la gestión de GenLayer, una nueva blockchain, y de su principal aplicación, Internet Court, diseñada para resolver disputas entre agentes.

El tribunal funciona sin intervención humana y cuenta con el respaldo de otras 26 empresas de criptomonedas e inteligencia artificial, entre ellas grandes compañías como el exchange de criptomonedas OKX, el proveedor de billeteras MetaMask y BNB Chain, de Binance.

Aunque la propuesta suene ambiciosa y futurista, Internet Court no busca reemplazar por completo a los jueces con un conjunto de bots. En cambio, el sistema ayuda a los agentes a redactar contratos con condiciones claras. Cuando las partes no logran ponerse de acuerdo sobre el resultado, un jurado basado en IA analiza las pruebas y emite un veredicto en cuestión de minutos. Riudor afirmó que la tecnología resulta especialmente útil para operaciones pequeñas, en las que contratar a un abogado no tendría sentido económico, pero no hacer nada también generaría costos.

"No pretendemos competir con el sistema legal. Simplemente queremos ofrecer una alternativa cuando contratar a un abogado para impugnar un reclamo por US$ 10.000 no resulte rentable. En cambio, se puede utilizar este sistema para alcanzar una resolución que, en última instancia, podría costar apenas unos centavos", explicó Albert Castellana, cofundador y director ejecutivo de GenLayer Labs, la empresa que desarrolló la blockchain.

El mercado potencial podría alcanzar una escala enorme. Según Adobe Analytics, el tráfico generado por IA hacia sitios de venta minorista se multiplicó por más de 14 desde octubre de 2024. McKinsey, en tanto, proyecta que los agentes de IA podrían gestionar entre US$ 3 billones y US$ 5 billones del comercio electrónico global para 2030.

Sin embargo, gran parte de la infraestructura emergente que sostiene esta economía incipiente todavía se concentra en un escenario ideal: el agente encuentra lo que busca la persona que lo utiliza, paga, recibe el producto o servicio y sigue adelante.

Por ahora, Internet Court tiene un uso más limitado. Collective Memory, una plataforma social que recompensa a los usuarios por registrar fotos, videos e informes en tiempo real, recurre a GenLayer cuando necesita determinar si una imagen podría ser falsa. Podría tratarse, por ejemplo, de un video de una escuela bombardeada en Gaza o de las calles de Teherán.

Internet Court analiza entonces todas las pruebas disponibles vinculadas a la publicación, entre ellas la hora, la ubicación, otros contenidos relacionados y la actividad previa del usuario. Luego, decide si considera que el material es auténtico. En última instancia, los creadores de Internet Court quieren que el sistema intervenga automáticamente cuando los agentes de IA comiencen a disputarse entre sí.

Imaginá una pequeña empresa de indumentaria online cuyo dueño delegó gran parte de las tareas diarias en agentes de IA. Uno gestiona el inventario, otro compra publicidad y un tercero contrata servicios creativos. El dueño solicita un nuevo logotipo y su agente encuentra a un diseñador que también trabaja a través de un agente. Ambos acuerdan el diseño, el precio y la fecha de entrega. El logotipo llega y parece correcto, hasta que una búsqueda inversa de imágenes indica que alguien podría haberlo copiado del portafolio de otra persona.

Internet Court busca resolver situaciones como esta. El sistema permite que los agentes acuerden las condiciones de antemano, depositen el pago en garantía y sometan cualquier conflicto a un jurado antes de transferir el dinero. La tecnología blockchain entra en juego a través de este jurado. El sistema selecciona al azar a cinco participantes de la blockchain, conocidos como validadores, y cada uno ejecuta un modelo de IA distinto, como Claude, GPT o Gemini.

El protocolo elige a uno de los cinco validadores para que actúe como líder y proponga una decisión. Los demás votan sin conocer la posición del resto y luego revelan si coinciden con el veredicto. Si alcanzan un consenso, el sistema abre un plazo de 30 minutos para impugnar el resultado. Durante ese período, un agente o una persona puede presentar un reclamo mediante el depósito de una garantía.

Si alguien impugna la decisión, el jurado se amplía a 11 validadores. El proceso continúa de la misma manera hasta que el grupo alcanza un consenso y nadie cuestiona el veredicto.

El diseño del sistema se apoya en el teorema del jurado de Condorcet, según el cual, bajo determinadas condiciones, la probabilidad de llegar a una decisión correcta aumenta a medida que crece la cantidad de evaluadores independientes. El filósofo y matemático de la Ilustración Nicolás de Condorcet formuló el teorema en 1785 y murió años más tarde en prisión durante la Revolución Francesa.

GenLayer sostiene que el uso de varios modelos de IA dificulta la manipulación del proceso, en comparación con un sistema que dependa de un único modelo o de un solo árbitro humano.

Aunque hablar de disputas entre agentes todavía suene prematuro y algo abstracto, Internet Court ya funciona y atraviesa una etapa de pruebas beta. Según Castellana, la red procesa unas 350.000 transacciones diarias, que equivalen a entre 20.000 y 25.000 decisiones. Además, señaló que el lanzamiento público está previsto para fines de este año e incluirá un token diseñado para atraer a más validadores, una función que podrá desempeñar cualquier persona.

Riudor, director de la fundación, sostuvo que este sistema de arbitraje podría aplicarse mucho más allá del comercio entre agentes, incluso en los mercados de predicción. Polymarket, por ejemplo, utiliza UMA, un protocolo que resuelve las disputas mediante una votación entre los dueños de tokens de UMA. Sin embargo, Riudor aseguró que un sistema asistido por IA podría ofrecer resoluciones más rápidas.

"Ya estamos en conversaciones con algunos de los mercados de predicción más grandes. Todavía esperan nuestro lanzamiento oficial, pero ya están evaluando nuestra tecnología", afirmó Castellana.

Andrew Hall, profesor de la Escuela de Negocios de Stanford y asesor de investigación del equipo de criptomonedas de Andreessen Horowitz, escribió a comienzos de este año que el uso de grandes modelos de lenguaje, conocidos como LLM por sus siglas en inglés, como jueces para resolver disputas podría ayudar a que los mercados de predicción alcancen una mayor escala. Según explicó, estos modelos no pueden aceptar sobornos y mejoran con rapidez. Sin embargo, también advirtió que pueden sufrir alucinaciones y que alguien podría manipularlos mediante instrucciones estratégicamente diseñadas o datos de entrenamiento contaminados.

Lindsay Lin, exasesora legal y actual directora de operaciones de Dragonfly, una firma de capital de riesgo especializada en criptomonedas con sede en Nueva York, percibe la misma tensión. "Muchos LLM pueden arrojar resultados correlacionados porque comparten datos de entrenamiento y patrones de error similares, mientras que las personas tienden a actuar con mayor independencia", señaló.

Sin embargo, agregó: "La gente se sentirá tentada a utilizar IA para resolver disputas, sobre todo las de menor valor, porque resultará más barata y rápida que un jurado humano. Además, el volumen de operaciones entre agentes podría generar una enorme cantidad de conflictos. Tiene sentido que los agentes cuenten con protocolos estandarizados para comprender las condiciones de su colaboración y las alternativas disponibles cuando una transacción no se completa correctamente".

Otras organizaciones llegaron a una conclusión similar. Apenas dos semanas atrás, la Asociación Americana de Arbitraje-Centro Internacional de Resolución de Disputas, la mayor institución arbitral del mundo, anunció un estándar comparable para agentes denominado Protocolo de Contexto Legal.

La organización administra este estándar junto con Integra Ledger, una empresa de blockchain con sede en Denver, y lo lanzó en colaboración con compañías como Google, IBM y varias firmas líderes del sector de las criptomonedas, entre ellas Circle y Ava Labs.

Por supuesto, la consolidación de estos estándares dependerá, en última instancia, de que alcancen una adopción generalizada y de que los modelos de IA logren suficiente confiabilidad para reducir las preocupaciones en torno a las alucinaciones y los sesgos.

Sin embargo, ya empieza a surgir la infraestructura necesaria para que los agentes se encuentren, se contraten y se paguen entre sí. En las últimas semanas, OKX, socio de GenLayer, y el equipo detrás de NEAR, una blockchain enfocada en la IA, lanzaron marketplaces donde los agentes pueden contratar a otros agentes para realizar tareas remuneradas, desde recopilar conjuntos de datos hasta revisar código.

Al mismo tiempo, los tribunales ya deben decidir qué ocurre cuando los agentes de IA infringen las normas. En uno de los casos más resonantes vinculados con esta tecnología, Amazon demandó a Perplexity en noviembre de 2025. La compañía sostuvo que Comet, el navegador impulsado por IA de Perplexity, accedió a las cuentas de los clientes, se presentó como un navegador Google Chrome convencional y realizó compras sin autorización, en contra de los términos de servicio de Amazon.

En marzo, un juez federal de California dictó una medida cautelar preliminar que le prohibía a Comet realizar compras en Amazon. Sin embargo, un tribunal de apelaciones suspendió más tarde esa medida mientras analizaba la apelación presentada por Perplexity.

Más allá de la decisión final de los tribunales, el caso expone un desafío mucho mayor para el comercio basado en agentes: ¿cómo se puede controlar a millones de agentes de IA que operan en distintas plataformas en nombre de los usuarios cuando no existe un mecanismo común para hacer cumplir las normas?

*Esta nota fue publicada originalmente en Forbes.com.