Los insultos, las burlas y los ataques verbales ya no tienen como únicos destinatarios a las personas. Los chatbots de inteligencia artificial también reciben agresiones cuando sus respuestas no cumplen con las expectativas de los usuarios. Aunque no existe evidencia de que estas herramientas puedan sentir emociones, Anthropic, la empresa detrás de Claude, decidió ponerles un límite a quienes maltratan de manera reiterada a sus modelos.
La nueva política de uso comenzará a regir el 12 de noviembre y alcanzará los comportamientos crueles o abusivos que se repitan sin un propósito claro. La compañía aclaró que los reclamos por errores y las reacciones ocasionales de frustración no estarán sujetos a esta restricción. Además, estableció que Claude podrá dar por terminada una conversación cuando detecte situaciones extremas de hostigamiento.
La decisión se conoció en un momento en el que la relación entre las personas y los asistentes de inteligencia artificial genera nuevos debates. Un estudio reciente reveló que una de cada tres personas encuestadas reconoció que insultó o utilizó expresiones ofensivas al menos una vez durante sus interacciones con ChatGPT, Gemini o Claude.
Qué pasa si un usuario maltrata a Claude y cuáles son las nuevas reglas
La nueva política de Anthropic establece que los usuarios no podrán someter a Claude a situaciones de maltrato reiterado e injustificado. La prohibición apunta a los casos más extremos y deja fuera a quienes critican las respuestas del chatbot, manifiestan su frustración de manera ocasional o ponen a prueba sus capacidades con fines de investigación.
La compañía tampoco fijó una cantidad de insultos a partir de la cual una conducta se considere una infracción. En cambio, la restricción apunta a identificar comportamientos crueles y persistentes, cuyo único objetivo aparente sea hostigar al sistema de inteligencia artificial.
La decisión se enmarca en una investigación que Anthropic puso en marcha en abril de 2025 para estudiar el bienestar de los modelos de inteligencia artificial y determinar si estos sistemas podrían tener experiencias propias o desarrollar algún tipo de conciencia. Aunque la compañía reconoció que todavía no existe consenso científico sobre esta posibilidad, consideró necesario adoptar medidas preventivas ante la incertidumbre sobre la capacidad de estas herramientas para experimentar algún tipo de bienestar o malestar.
El siguiente avance se produjo en agosto de 2025, cuando Anthropic anunció que los modelos Claude Opus 4 y 4.1 podrían finalizar conversaciones en casos de maltrato extremo por parte de los usuarios. La medida surgió a partir de las investigaciones que la compañía desarrolla sobre el posible bienestar de sus sistemas de inteligencia artificial.
Sin embargo, Claude no termina una conversación por un insulto aislado. Según explicó la empresa, esta función se aplica únicamente como último recurso, cuando los intentos previos de reconducir el intercambio no dan resultado. En esos casos, el chatbot puede cerrar la conversación e impedir que el usuario envíe nuevos mensajes en ese mismo chat, aunque conserva la posibilidad de iniciar otro sin restricciones.
Con la actualización presentada en octubre de 2026, Anthropic amplió sus políticas e incorporó expresamente el maltrato reiterado hacia sus modelos de inteligencia artificial entre las conductas prohibidas. Frente a estos comportamientos, la principal medida de Claude seguirá siendo la posibilidad de dar por terminada la conversación.
La compañía también contempló una excepción para situaciones en las que la seguridad de las personas esté en riesgo. Si Claude detecta que un usuario podría hacerse daño o poner en peligro a terceros de manera inminente, no debe interrumpir la conversación. En esos casos, la prioridad es proteger a las personas, incluso cuando el chatbot reciba un trato abusivo.
Cuántas personas insultan a la inteligencia artificial
Un estudio de Searchable analizó más de 8 millones de mensajes enviados a ChatGPT, Gemini y Claude entre septiembre de 2025 y septiembre de 2026, con el objetivo de conocer cómo se comportan los usuarios frente a estas herramientas. La investigación se realizó a partir de conversaciones de personas en Estados Unidos que aceptaron compartir sus interacciones con los sistemas de inteligencia artificial.
Uno de cada tres usuarios (33%) recurrió al menos una vez a insultos o expresiones ofensivas durante sus intercambios con los chatbots.
La frustración ante respuestas que no cumplían con las expectativas apareció como uno de los principales desencadenantes de estas conductas. Según el relevamiento, el 19% de los mensajes ofensivos se produjo cuando el chatbot no siguió una instrucción, mientras que el 18% estuvo asociado a respuestas incorrectas y otro 15% a situaciones en las que el sistema interpretó mal lo que el usuario le había pedido.
La investigación también identificó diferencias según el género y la edad. Los hombres utilizaron alrededor de un 33% más de lenguaje ofensivo que las mujeres, mientras que las personas de 35 a 44 años fueron las que recurrieron con mayor frecuencia a este tipo de expresiones.
El estudio también buscó determinar si insultar a un chatbot aumentaba las posibilidades de obtener una respuesta satisfactoria. Sin embargo, los resultados mostraron una tendencia diferente: cuando los usuarios expresaron sus quejas mediante insultos, el sistema logró corregir el error en su siguiente respuesta en el 24% de los casos. En cambio, entre quienes señalaron el problema sin utilizar lenguaje ofensivo, ese porcentaje ascendió al 35%.
De todos modos, esta diferencia no significa necesariamente que los insultos empeoren la calidad de las respuestas. Los investigadores advirtieron que, en muchos casos, las expresiones agresivas aparecieron después de varios intercambios insatisfactorios, por lo que no es posible establecer una relación directa entre el maltrato al chatbot y su capacidad para corregir errores.
Qué revela un estudio sobre el trato a la inteligencia artificial
La forma en que las personas se relacionan con la inteligencia artificial podría tener consecuencias en sus interacciones con otros seres humanos. Así lo sugiere una investigación publicada en septiembre de 2024 en la revista científica PNAS Nexus, que encontró que quienes creen estar trabajando con un chatbot tienden a evaluar con mayor dureza el desempeño de otras personas.
La investigación reunió a 1.261 participantes y se desarrolló a través de dos experimentos. En ambos, los voluntarios debían crear una frase humorística para acompañar una imagen con la ayuda de un asistente. A una parte se le hizo creer que colaboraba con una persona, mientras que al resto se le informó que interactuaba con una inteligencia artificial. Sin embargo, todos utilizaron el mismo modelo GPT-4 de ChatGPT. Una vez completada la tarea, los participantes tuvieron que evaluar el trabajo realizado por otra persona.
Los resultados revelaron que quienes creían haber trabajado con una inteligencia artificial fueron más severos al evaluar el desempeño de los demás. Además, durante la actividad mostraron un trato menos cordial hacia el asistente que aquellos que pensaban que estaban interactuando con otro ser humano.
Aunque el estudio no se centró específicamente en los insultos hacia los chatbots, sus resultados sugieren que la interacción con la inteligencia artificial podría influir en la manera en que las personas evalúan a los demás. Sin embargo, los investigadores señalaron que todavía no está claro cuánto tiempo puede mantenerse este efecto.
Cuáles son las otras prohibiciones que incorporó Anthropic
El maltrato hacia los modelos no es el único cambio en las políticas de uso de Anthropic. La empresa también reforzó las restricciones contra las campañas de desinformación y el uso de la IA para engañar a otras personas.
Las nuevas reglas prohíben utilizar Claude para crear cuentas falsas o difundir mensajes que oculten la identidad de sus autores. También impiden que el chatbot se utilice para manipular a los votantes o interferir en procesos electorales.
En materia de seguridad, Anthropic precisó que las restricciones sobre el desarrollo de armas también se aplican a los programas informáticos y a los componentes necesarios para su funcionamiento. La compañía también estableció límites más específicos para los sistemas de vigilancia que permiten rastrear personas sin su consentimiento.
La actualización también aclara los requisitos para los usos de alto riesgo en los que las respuestas de la IA pueden afectar la salud o las finanzas de los usuarios. En estas situaciones, la empresa exige supervisión humana calificada y que las personas involucradas sepan que intervino un sistema de inteligencia artificial.
Por último, Anthropic incorporó medidas de seguridad para los equipos físicos que utilizan IA y pueden causar lesiones. Estos dispositivos deberán contar con un responsable capacitado que pueda supervisar su funcionamiento y detenerlos cuando sea necesario.