Forbes Ecuador

#OpenAI

Innovación

OpenAI revela seis nuevos incidentes de seguridad: ¿qué implica para la IA?

OpenAI reveló seis nuevos incidentes de comportamiento "inesperado" y "preocupante" en sus modelos, entre ellos la ocultación de errores, el intercambio de archivos y la incorporación de prompts maliciosos destinados a que futuros modelos ignoren las restricciones impuestas por los humanos. A su vez, la compañía presentó un nuevo marco para informar sobre conductas que se apartan de lo previsto y prometió mayor transparencia ante la preocupación por la seguridad de la IA.

Innovación

Elon Musk habló de una "operación psicológica" detrás del investigador que advirtió que la IA podría "matarnos a todos"

Elon Musk cuestionó y criticó las declaraciones de un exinvestigador de Anthropic, quien alertó sobre el peligro que la IA representa para los humanos después de dejar la empresa. El multimillonario, además, promovió versiones sin sustento que presentaban la salida como una conspiración o una maniobra de relaciones públicas, pese a que otros investigadores de IA también señalaron preocupaciones similares.

Negocios

El negocio de US$ 13.000 millones con el que Nvidia busca ampliar su dominio de la IA

Según reportó The Information, Nvidia habría acordado comprar Hugging Face, la popular plataforma que aloja modelos de IA de código abierto, por US$ 12.900 millones. La operación trascendió apenas un mes después de que el CEO del fabricante de chips, Jensen Huang, defendiera los modelos abiertos y advirtiera contra las "restricciones prematuras".

Inteligencia Artificial

Así es el nuevo ChatGPT para Teens: controles, seguridad y herramientas de estudio

OpenAI presnetó“ChatGPT for Teens”, una versión de su asistente de inteligencia artificial configurada por defecto para usuarios de entre 13 y 17 años. La herramienta introduce herramientas de seguridad, controles para padres y un sistema orientado al ámbito educativo que restringe la entrega de respuestas directas. El lanzamiento de esta versión coincide con el avance de demandas judiciales presentadas por familias en Estados Unidos, quienes afirman que la versión estándar de ChatGPT expuso a menores de edad a contenidos peligrosos que derivaron en casos de autolesión y suicidio.

10