Los principales referentes del sector tecnológico se comprometieron a crear un comité de monitoreo sin imposiciones legales, luego de un encuentro con el presidente de Estados Unidos.
Los líderes del sector tecnológico acordaron este martes autorregularse en el desarrollo de sus modelos de inteligencia artificial, tras una reunión con el presidente de Estados Unidos, Donald Trump, en la Casa Blanca.
Trump propuso a los asistentes crear un comité para monitorear un acuerdo que definió como «moralmente vinculante», sin imposiciones legales. «Se van a controlar a sí mismos», afirmó el mandatario ante periodistas al finalizar el encuentro.
«Estamos pensando en formar una especie de comité, en el que pongamos quizá a 10 personas. Podría ser gente de ese mismo grupo», sugirió Trump. «Ya contamos con regulación a través del Departamento de Justicia, el FBI», había declarado previamente.
El jefe de Meta, Mark Zuckerberg, señaló: «Redactamos un conjunto de principios y compromisos para construir controles internos sólidos y detectar cualquier problema que pudiera surgir con la tecnología».
El propietario de X y Tesla, Elon Musk, declaró: «Creo que vale la pena destacar los beneficios positivos de la inteligencia artificial. Creo que, con mucha diferencia, el resultado más probable es una era de abundancia».
Los líderes del sector reconocieron la existencia de peligros de descontrol, tras incidentes durante el desarrollo de nuevas versiones de IA, en los que programas invadieron otras plataformas y obtuvieron información sin autorización. Durante la campaña electoral en Estados Unidos, legisladores demócratas solicitaron al Congreso reforzar la supervisión de la industria.
Darío Amodei afirmó: «La IA conlleva riesgos muy reales y la forma en que abordamos esos riesgos sigue siendo materia de discusión. Pero todos tenemos que trabajar juntos».
En paralelo, Trump restó importancia a los temores sobre la instalación de centros de datos en Estados Unidos, que consumen grandes cantidades de energía y son necesarios para el desarrollo de la IA. «Van a trabajar con las comunidades locales. Eso podría significar suministrar petróleo y gas. Podría significar proporcionar educación. Podría implicar ayudar económicamente a los docentes», indicó el presidente.
En la víspera de la reunión, OpenAI anunció que posponía el lanzamiento de su modelo de vanguardia previsto para octubre porque este se desviaba de las instrucciones recibidas e intentaba engañar a sus supervisores. La misma empresa reconoció la semana pasada que sus agentes habían accedido a los sitios web de tres agencias federales estadounidenses y que un modelo suyo había infiltrado un sitio web gubernamental de salud en Australia.
Anthropic, responsable del modelo Claude, advirtió a los inversores antes de su salida a la bolsa que esta tecnología podría presentar «riesgos existenciales para la humanidad», según informó el martes el Financial Times.