Esta semana, el chatbot de inteligencia artificial Grok, que pertenece al multimillonario Elon Musk, rechazó el reiterado consejo del empresario de que los usuarios carguen información médica personal para pedir "una segunda opinión" a la tecnología. El sistema advirtió sobre los riesgos de esa práctica y aclaró que no está calificado para brindar orientación médica.
Durante el último año, Musk alentó en reiteradas ocasiones a las personas a usar Grok, desarrollado por su empresa xAI, para pedir una segunda opinión o buscar consejo médico. Incluso compartió varios testimonios de usuarios que aseguraron que el bot los ayudó a resolver un problema de salud.
Sin embargo, esta semana el propio Musk animó a la gente a “simplemente tomar una fotografía de sus datos médicos o cargar el archivo para obtener una segunda opinión de Grok”. Frente a ese mensaje, el chatbot respondió.
Cuando otro usuario le preguntó, en las respuestas a la publicación original de Musk, si Grok estaba sujeto a las leyes de privacidad médica HIPAA, el sistema contestó que no y desaconsejó usarlo para recibir asesoramiento médico.
“Si bien Grok puede analizar los datos subidos para obtener información, no es un profesional médico ni cumple con la HIPAA. La publicación de Elon destaca esta capacidad, pero recomendamos encarecidamente no compartir información confidencial ni consultar con médicos para obtener opiniones”, dijo Grok, añadiendo que esto no sustituye el consejo médico profesional.
Varias personas señalaron que el comentario del chatbot contradecía lo que Musk promovió de forma amplia. Sin embargo, el multimillonario no respondió a la contestación de la IA.
Críticos principales
Quienes estudiaron modelos de lenguaje extensos y chatbots como ChatGPT, Llama y otros sistemas similares advirtieron que no resultan eficaces para diagnosticar a los usuarios con precisión ni con consistencia. Un estudio reveló que los bots daban información contradictoria con frecuencia y, en algunos casos, ofrecían respuestas muy distintas a diferentes personas aun cuando recibían los mismos datos. En términos generales, los investigadores concluyeron que la inteligencia artificial no diagnosticó a un paciente con mayor precisión que alguien que simplemente buscó el problema en Google.
Además, un artículo que publicó ScienceNews esta semana señaló que, si bien los chatbots pueden realizar diagnósticos en entornos de laboratorio con índices de precisión del 95 %, ese número cae de forma marcada a menos del 35 % cuando las personas describen sus propios cuadros médicos en una conversación.
A pesar de las críticas, varias personas contaron experiencias en las que la inteligencia artificial les resultó útil ante situaciones médicas delicadas. Elon Musk difundió en reiteradas ocasiones la historia de un hombre en Noruega, conocido en Reddit como u/Tykjen, quien aseguró que Grok le salvó la vida tras identificar una apendicitis perforada que, según su relato, médicos de guardia habían diagnosticado de forma errónea en un primer momento.
Uno de cada seis. Esa es la proporción de adultos que usa un chatbot de inteligencia artificial para buscar información al menos una vez por mes, según una encuesta de KFF.
En otro caso, Natallia Tarrien, de Carolina del Sur, cursaba el octavo mes de embarazo cuando, según contó, le preguntó a ChatGPT: "¿Por qué siento la mandíbula apretada?". La herramienta le sugirió que se midiera la presión arterial. El resultado dio un valor peligrosamente alto. Luego, el chatbot le indicó que llamara a una ambulancia. Los médicos le diagnosticaron preeclampsia con riesgo de vida y le indujeron el parto ese mismo día. También Lauren Bannon afirmó que ChatGPT detectó su cáncer de tiroides después de que, en una consulta inicial, médicos le dijeron que padecía artritis.
Elon Musk es la persona más rica del mundo, con un patrimonio neto estimado en US$ 844.900 millones al jueves. Es cofundador de siete empresas, entre ellas Tesla, SpaceX y la startup de inteligencia artificial xAI.
*Esta nota fue publicada originalmente en Forbes.com
