Datos clave
En una extensa publicación en X , Zuckerberg afirmó que la gente no utilizará agentes de IA que estén "desalineados con ellos y... no hagan lo que se les pide", lo que supone un "fuerte incentivo natural" para que las empresas garanticen dicha alineación.
Respecto a la presión para ralentizar el desarrollo de las capacidades de IA, el director ejecutivo de Meta afirmó que la "confianza y la alineación" son las capacidades más importantes, y que las empresas que fracasen en este aspecto se quedarán atrás.
Zuckerberg afirmó que Meta retrasó el lanzamiento de su nuevo agente personal de IA, Muse, durante "varios meses" para garantizar la seguridad y que "no exigió que los demás hicieran lo mismo antes de que nosotros lo hiciéramos".
El director ejecutivo de Meta pareció desestimar el argumento de que las empresas de IA deban coordinarse para garantizar la seguridad, señalando que "cada laboratorio tiene la responsabilidad y el incentivo de avanzar al ritmo necesario para entrenar sus modelos de forma segura, y la capacidad de tomar sus propias medidas para garantizar que eso suceda".
Sin embargo, Zuckerberg respaldó la contratación de evaluadores y asesores independientes —algo que tanto Anthropic como OpenAI también han promovido— y afirmó que su empresa ya lo está haciendo en varias áreas.
El multimillonario director ejecutivo de Nvidia también se opone a la desaceleración.
El CEO de Nvidia, Jensen Huang, también se pronunció en contra de una desaceleración durante su intervención en el evento anual Dreamforce de Salesforce , afirmando que la elección entre seguridad y velocidad era una disyuntiva "falsa" y que "sin duda se pueden tener ambas al mismo tiempo". Añadió: "No necesitamos nuevas leyes, no necesitamos nuevas regulaciones". Huang luego señaló las fuerzas del mercado y dijo que las empresas deberían dosificar sus esfuerzos hasta estar seguras de "lanzar algo que el mercado apreciaría".
Un día antes, el multimillonario participó en una llamada del presidente Donald Trump, quien ha desestimado los temores sobre la seguridad de la IA como un "engaño", mientras se encontraba en directo en el escenario de la Cumbre All-In. Trump declaró que quienes se oponen a la IA y a la construcción de centros de datos están "haciéndole el juego a mucha gente que no quiere que esto suceda. No vamos a permitir que eso ocurra". Huang le dijo al presidente: "Tiene razón. No vamos a permitir que eso ocurra, señor".
Cita crucial
La publicación de Zuckerberg parecía una crítica a Anthropic y OpenAI y su impulso por la llamada "automejora recursiva", donde los modelos de IA existentes se utilizan para entrenar y construir modelos más avanzados. "Destinar la gran mayoría de la capacidad de procesamiento a servir a las personas en lugar de apresurarse hacia la automejora recursiva es una de las mejores maneras de garantizar que desarrollemos esta tecnología de forma segura. Meta ha asumido este compromiso y otros laboratorios también pueden hacerlo".
Contra
El CEO de Anthropic, Dario Amodei, quien emitió una advertencia sobre la seguridad de la IA durante el fin de semana e instó a las principales empresas a ralentizar deliberadamente el ritmo de desarrollo de modelos de vanguardia, también habló durante la conferencia magistral del evento Dreamforce. Cuando el CEO de Salesforce, Marc Benioff, le pidió que explicara su argumento, Amodei ofreció una analogía con una compañía automotriz cuyo rival ha tenido un incidente de seguridad. "Es muy tentador atacar a tu competidor y decir: 'Estos tipos no son seguros, nosotros somos seguros', pero creo que la forma más responsable de responder es decir: 'Oye, en primer lugar, veamos nuestro propio historial'.
Puede que no hayamos tenido este gran incidente de alto perfil, pero estoy seguro de que no somos perfectos". El CEO de Anthropic agregó que esta era una oportunidad para "reafirmar el compromiso con la transparencia, invertir más en seguridad" y organizar al resto de la industria para establecer estándares para todos. (I)
Nota publicada originalmente en Forbes.com