Durante dos décadas, Daniel Dines dedicó buena parte de su carrera a convencer a las empresas de que el software podía asumir tareas que antes dependían de personas. Ahora, el fundador de UiPath plantea un límite a esa misma lógica: entregar por completo una compañía a un agente de inteligencia artificial y desentenderse de las decisiones puede convertirse en un error.

Esa advertencia aparece en las primeras páginas de su nuevo libro, The Work That Remains: Human Judgment, AI, and the Architecture of the Next Enterprise, publicado esta semana. Allí, Dines pone el foco sobre el papel que conservarán el criterio humano, la supervisión y la toma de decisiones a medida que la IA gane terreno dentro de las organizaciones.

El empresario tampoco oculta el lugar desde el que escribe. Como fundador de una compañía especializada en automatización, reconoce que parte de las ideas que desarrolla pueden favorecer a una industria de la que forma parte. Por eso, invita a los lectores a analizar sus argumentos con espíritu crítico, sin aceptarlos de manera automática ni descartarlos por su vínculo con el negocio.

Más allá de esa aclaración, la propuesta central del libro resulta relevante para quienes deben definir cómo incorporar inteligencia artificial dentro de una empresa. A lo largo de sus 168 páginas, Dines sostiene que automatizar más procesos no elimina la necesidad de juicio humano y plantea una discusión que ya llegó a los directorios y equipos ejecutivos: qué decisiones conviene delegar en la tecnología y cuáles deberían permanecer bajo control de las personas.

El extraño brillante

La idea central del libro parte de una premisa simple: la IA moderna puede razonar, planificar, redactar y explicar con un nivel cada vez más sofisticado. Un agente puede recibir un objetivo, escribir y ejecutar código, revisar sus propios resultados y repetir ese proceso durante horas. Sin embargo, todavía carece de una capacidad que cualquier empleado incorpora de manera natural al ingresar a una compañía: aprender a partir de la experiencia cotidiana.

Para explicarlo, Dines recurre al ejemplo de una ejecutiva con experiencia que llega a una nueva empresa. Nadie le entrega un manual que describa con precisión cómo funciona la organización, porque ese documento, en la práctica, no existe. Durante las primeras semanas avanza con cautela, interpreta señales y comete errores. Con el tiempo, reconoce qué reclamos merecen atención, qué plazos admiten flexibilidad y qué problemas aparentemente menores requieren una respuesta inmediata del director financiero. Así, convierte la observación diaria en un conocimiento que no figura en ningún sistema.

Un modelo de IA, en cambio, puede haber procesado más información que cualquier persona y aun así comenzar cada jornada sin esa experiencia acumulada. Puede consultar registros, documentos y datos disponibles para cada pedido, pero gran parte de lo que determina el funcionamiento real de una empresa nunca quedó documentado. Dines lo define como “un extraño brillante que intenta adivinar sobre tu negocio”. El riesgo aparece cuando ese sistema recibe autonomía para tomar decisiones sobre situaciones que no comprende por completo: según su planteo, allí puede nacer un incidente provocado por la propia automatización.

Dines refuerza esa idea con una referencia a Liang Wenfeng, fundador de DeepSeek, quien llegó a un diagnóstico similar desde uno de los laboratorios más avanzados del sector: mientras las personas acumulan información y experiencia con el tiempo, un modelo necesita recibir nuevamente ese contexto cada vez que enfrenta una tarea. 

Los laboratorios de IA buscan resolver esa limitación mediante el aprendizaje continuo, aunque Dines sostiene que, incluso si esa tecnología avanza, el conocimiento del sistema seguirá dependiendo de una fuente central: el trabajo que la propia organización haya documentado. Bajo esa lógica, registrar procesos, decisiones y criterios internos pasa a ser una de las formas más seguras de preparar a una empresa para delegar más funciones en la inteligencia artificial.

Cuatro límites, una arquitectura

El aprendizaje aparece como el primero de los cuatro límites estructurales que Dines desarrolla en la primera parte del libro. El segundo apunta a la ausencia de un yo persistente: a un modelo no le ocurre nada, no arriesga nada y, por lo tanto, no puede asumir la confianza, la cultura ni la responsabilidad que una institución deposita en una persona concreta. El tercer límite surge como consecuencia de esa carencia. 

La IA muestra mayor fortaleza en tareas donde los errores resultan fáciles de detectar, pero pierde eficacia cuando una decisión incorrecta modifica una situación real. Para ilustrarlo, Dines relata el caso de un estafador que se hizo pasar por él a través de WhatsApp con el objetivo de conseguir una transferencia bancaria. Todos los controles formales se cumplieron, pero el pago se frenó por una decisión intuitiva de un empleado de contabilidad, que optó por escribirle directamente al director del área.

El cuarto límite es, según Dines, el que podría mantenerse durante más tiempo: un resultado aceptable no siempre alcanza. Un modelo que acierta en un 99,1% de cada paso completa correctamente una secuencia de 100 pasos apenas cerca del 40% de las veces. Procesos como la liquidación de sueldos, los registros contables o las instrucciones de pago no toleran interpretaciones creativas ni márgenes amplios de error. Para ese tipo de tareas, sostiene, resulta más adecuada la automatización determinista, capaz de ejecutar una misma operación con precisión miles de veces, antes que un modelo que deba razonar nuevamente cada procedimiento.

Los cuatro límites desembocan en la tesis central del libro, resumida en una fórmula breve: “la IA propone, los humanos deciden, la automatización ejecuta”. Bajo esa arquitectura, el agente aporta velocidad y capacidad de síntesis, las personas conservan el criterio y la responsabilidad, y los sistemas automatizados aseguran la precisión en la ejecución.

La segunda parte lleva estas ideas a un modelo operativo. Dines retoma una práctica de los laboratorios de IA —Anthropic redactó una constitución para sus modelos— y propone una constitución de quince artículos para las empresas que los incorporan. Varias reglas resultan centrales. Los programas deben evaluarse por sus resultados, no por la cantidad de agentes desplegados; para Dines, ese número funciona como la métrica de vanidad de esta etapa. 

También plantea alquilar los modelos y conservar la memoria: una compañía puede cambiar de proveedor, pero debería mantener el mapa de cómo funciona su trabajo y registrar cada corrección de sus revisores, porque allí se acumula un conocimiento que ningún competidor puede comprar. Además, recomienda no destinar inteligencia a tareas que no la requieren.

La expresión “el mapa y las vías” reaparece con frecuencia en el libro. El mapa representa el contexto donde puede actuar un agente: qué significa cada término, cuáles son las reglas, quién toma cada decisión y cómo las personas con experiencia resuelven las excepciones. Las vías, en cambio, constituyen el mecanismo que ejecuta aquello aprobado con precisión y bloquea cualquier acción fuera de ese recorrido. 

Durante décadas, las empresas definieron conceptos esenciales —clientes, facturas, reclamaciones—, aunque pocas describieron con igual detalle cómo se desarrolla el trabajo. Para Dines, allí reside la clave de la IA aplicada a las compañías: construir esa descripción. La misma tecnología que volvió necesaria esa tarea también puede convertir su elaboración en un proceso más accesible.

La trampa del recuento de personal

Uno de los capítulos más relevantes del libro analiza cómo incorporar inteligencia artificial sin desarmar capacidades que una empresa todavía necesita. Dines identifica cuatro errores frecuentes: la trampa del copiloto, cuando cada empleado recibe un asistente de IA y una mayor velocidad para producir borradores se presenta como una transformación; la trampa del piloto, cuando una prueba demuestra que el modelo puede generar una respuesta, pero la compañía nunca crea el proceso necesario para que esa respuesta sea confiable y pueda usarse en una decisión; la trampa de las credenciales, cuando las firmas de servicios profesionales conservan su estructura piramidal y apenas suman herramientas de IA; y la trampa del recuento de personal, que el autor considera la equivocación de mayor impacto.

El problema aparece cuando una empresa decide recortar puestos antes de entender qué tareas y conocimientos sostiene cada rol. Según Dines, una reducción prematura puede eliminar el resultado más visible de un puesto, pero también borrar capacidades menos evidentes: la formación que esa persona brindaba a otros empleados, la confianza construida con los clientes o conocimientos internos que todavía no quedaron registrados dentro de la organización.

Por eso, propone una secuencia distinta. Primero, la empresa debe mapear los procesos y el conocimiento existente; después, construir la nueva herramienta, validarla en condiciones reales de producción y recién entonces rediseñar el puesto. El último paso consiste en ajustar la dotación de personal según las tareas que efectivamente quedaron automatizadas o modificadas.

Cuando esa lógica se aplica al revés y el recorte aparece antes que el rediseño, los datos corren el riesgo de transformarse en una justificación de una decisión presupuestaria que ya estaba tomada. En ese escenario, la tecnología deja de definir qué estructura necesita realmente la empresa y pasa a respaldar el número de empleados que el presupuesto pretendía alcanzar.

Para Dines, esa transformación también cambia las reglas del mercado laboral. La experiencia basada en procedimientos —es decir, la capacidad de tomar decisiones dentro de marcos ya definidos— pierde peso como garantía de continuidad laboral. El diferencial pasa por crear esos procedimientos, detectar cuándo quedaron obsoletos, validar los resultados de los sistemas y asumir la responsabilidad por las decisiones. Su recomendación para los empleados es directa: buscar puestos en los que puedan aportar un valor difícil de reemplazar antes de que las empresas definan sus propios tiempos de cambio.

Un libro que pone en práctica su argumento

Dines plantea una predicción que puede refutarse. Para fines de 2028, siempre que una gran empresa regulada gestione con verdadera autonomía un flujo de trabajo de alto riesgo, como reclamaciones, aprobaciones de préstamos o cambios en la nómina, esa autonomía estará integrada en un sistema diseñado con una descripción explícita de la tarea, derechos de decisión, auditoría, reversión y validación humana para las excepciones. Si una adopción generalizada demuestra lo contrario, sostiene, el marco perderá fuerza.

El libro también funciona como ejemplo de su propia tesis. Dines lo escribió con Claude y ChatGPT, a los que asignó roles opuestos: uno redactaba mientras el otro criticaba y, luego, intercambiaban los papeles. La teoría detrás del método era que un modelo juzga el trabajo de otro con mayor honestidad que el propio. Una regla de trabajo se ganó su lugar a pulso: el modelo que escribe un borrador nunca lo edita. 

La anécdota más reveladora aparece después. Tras docenas de revisiones completas, el propio Dines propuso trasladar un capítulo al comienzo y el libro encajó a la perfección. Entonces les preguntó a los modelos por qué ninguno había sugerido ese cambio pese a que recordaban el manuscrito a la perfección. La respuesta fue que todas las revisiones que encargó preguntaban qué fallaba en el libro, una consigna que permite pulir una estructura, pero nunca cuestionarla.

Las semillas y las preguntas siguieron en manos humanas. Todo lo demás lo construyeron los modelos. Esa es la división del trabajo que defiende el libro y, también, una descripción más honesta del trabajo asistido por IA que la mayoría de las que leí.

¿La conclusión le conviene a UiPath? Obviamente. Pero la prueba que propone Dines es la correcta: la cuestión no pasa por saber si el argumento favorece a su autor, sino por comprobar si explica lo que sucede en producción. Para cualquiera que vio un piloto terminar sin más resultado que la factura, sin duda lo hará.

*Este artículo fue publicado originalmente por Forbes.com.