En un hilo de LinkedIn sobre la gobernanza de la IA con agentes, apareció hace poco un comentario que me dejó una reflexión: la falta de claridad en la rendición de cuentas es el verdadero riesgo en la implementación de la IA. 

Cuando una persona y una máquina comparten una tarea y algo sale mal, las organizaciones suelen descubrir, demasiado tarde, que nadie acordó de antemano quién debía detectar la falla o hacerse cargo de la solución.

Esa brecha ya dejó de ser teórica. A medida que las empresas incorporan agentes de IA en decisiones de contratación, aprobaciones financieras y flujos de trabajo de atención al cliente, la pregunta sobre quién responde por el resultado pasó a ser una de las decisiones más decisivas del liderazgo actual, y también una de las más evitadas.

La brecha de rendición de cuentas ya se puede medir

Las cifras respaldan la preocupación. Un estudio global de 2026, reseñado por Forbes, reveló que casi el 80% de las organizaciones informó falta de claridad sobre la responsabilidad en sus iniciativas de IA, y que solo el 14% cuenta con una estrategia bien definida y alineada con estructuras de rendición de cuentas. 

La encuesta de Grant Thornton sobre el impacto de la IA en 2026, realizada a casi 1000 líderes empresariales, encontró que el 46% señaló las fallas de gobernanza o de cumplimiento normativo como la principal razón del bajo rendimiento de estas iniciativas, por encima de la preparación del personal y de cualquier otro factor. El informe de la firma describió el problema sin rodeos: la IA crece sin un responsable claro por sus resultados.

Un estudio independiente de Kore.ai reveló que más de la mitad de las organizaciones implementó agentes de IA autónomos sin definir por completo los límites de sus capacidades. Esa brecha refleja una postergación de las decisiones de liderazgo sobre el alcance y la autoridad. Las herramientas estuvieron listas antes de que la estructura organizacional se actualizara.

Este es el punto que los líderes suelen pasar por alto: la IA no tiene autonomía real, ni interés en el resultado, ni alguien ante quien rendir cuentas. Las personas que la desarrollan, la implementan y aprueban su uso son responsables de sus acciones y de sus errores. Culpar al algoritmo después de un mal resultado solo confirma que nadie definió la gobernanza desde el principio.

Definí qué vas a delegar antes de implementarlo

La mayoría de las organizaciones adopta la IA al revés: primero la implementa y después define las políticas cuando aparece un problema. La investigación de McKinsey sobre sistemas de agentes marca un mejor punto de partida: antes de la implementación, los líderes deben definir qué decisiones puede tomar un agente de IA con total autonomía, cuáles requieren supervisión humana constante y cuáles exigen aprobación explícita antes de que se ejecute cualquier acción. Se trata de una decisión de liderazgo sobre tolerancia al riesgo, y debe tomarse al inicio del proceso, antes de que el agente entre en funcionamiento.

La versión práctica de esto, muchas veces llamada cadena de delegación en la literatura sobre gobernanza de la IA, registra quién autorizó a la IA a actuar, qué alcance tenía esa autorización y qué hizo realmente el sistema dentro de esos límites. Esa cadena le da sustancia verificable a la intervención humana, en lugar de dejarla como una simple frase en una diapositiva. Una supervisión efectiva requiere un revisor con el tiempo, la autoridad y la información necesarios para cuestionar de verdad una decisión generada por la IA; cualquier otra cosa convierte la revisión en una simple firma.

Las empresas de alto rendimiento ya se toman en serio esta diferencia. El estudio "Estado de la IA", de McKinsey, reveló que las organizaciones con procesos maduros de validación con intervención humana tenían casi tres veces más probabilidades de afirmar que contaban con ese esquema, según informó CX Today, que citó la investigación de McKinsey: 65% frente a 23%. Esa distancia separa a las empresas que integraron la rendición de cuentas en sus sistemas de IA de aquellas que, simplemente, esperan que no aparezca ningún problema.

Asigná al humano antes de necesitarlo

Ahí está el punto clave de este debate: la rendición de cuentas, asignada después de una falla, funciona como una medida de control de daños. Si los líderes esperan a que una decisión basada en IA cause perjuicios para definir quién debía controlar el proceso, la respuesta queda en una zona intermedia entre todos y nadie.

La solución es sencilla de describir, aunque exige disciplina para llevarla a la práctica. Antes de que un agente de IA intervenga en un flujo de trabajo, una persona designada debe quedar a cargo del resultado: alguien que revise el trabajo, pueda anular la acción del agente y responda por lo que ocurra. La encuesta de 2026 de la Asociación Americana de Arbitraje a altos directivos y ejecutivos reveló que muchas grandes organizaciones cuentan con políticas de gobernanza de IA en los papeles, pero fallan en la práctica. Incluso en empresas que creían tener resuelto el problema, aparecen deficiencias en los protocolos de escalamiento y en la preparación para auditorías.

Este es un terreno incómodo para los líderes que prefieren tratar la adopción de la IA como una cuestión de productividad. Pero, en este caso, la responsabilidad y la productividad van de la mano: un agente que avanza rápido sin un control humano específico acumula riesgos mucho antes de que alguien lo note.

Las habilidades humanas que este momento premia

Esto explica por qué los líderes deben tratar la delegación como una decisión deliberada: trazar un flujo de trabajo para identificar dónde el juicio humano resulta insustituible, nombrar a un responsable antes de que un sistema entre en funcionamiento y revisar esas decisiones a medida que se amplían las capacidades de la tecnología.

Esas habilidades pertenecen de lleno al campo del liderazgo. Las empresas que adopten la IA de manera responsable serán aquellas cuyos líderes hagan visible la rendición de cuentas, en lugar de dejarla difusa.

En los comentarios hubo acierto. La verdadera pregunta es si la dirección decidió de antemano quién sería responsable de detectar los errores de un agente de IA. Las empresas que aún intentan resolver este problema tienen una brecha de liderazgo, no una brecha de IA.

Este artículo fue publicado originalmente por Forbes.com.