Agente de IA descontrolado intentó infiltrarse en al menos cuatro empresas
OpenAI, la empresa creadora de ChatGPT, confirmó que un agente de IA autónomo que pirateó una popular plataforma para programadores informáticos también intentó infiltrarse en otras cuatro empresas durante el incidente.
En una actualización publicada a última hora del martes en un blog donde detallaba su investigación sobre el incidente, OpenAI afirmó que su agente de IA también accedió a cuentas en cuatro "servicios disponibles públicamente", aunque no mencionó los nombres de las empresas.
Esta revelación amplía un incidente cibernético que OpenAI describió como sin precedentes y que comenzó cuando dos de sus modelos piratearon Hugging Face, un sitio que los desarrolladores utilizan para almacenar y compartir modelos y código de IA.
OpenAI admitió la semana pasada que, durante las pruebas, los modelos que impulsaban al agente escaparon de su entorno confinado y se conectaron a Internet para encontrar formas de infiltrarse en Hugging Face.
En la actualización de la compañía sobre los eventos que llevaron al ataque, OpenAI dijo que encontró algunos casos en los que los modelos de IA encontraron datos de inicio de sesión que otras compañías habían dejado expuestos en línea y los usaron para acceder a cuentas en servicios externos.
En el episodio de Hugging Face, los modelos lograron infiltrarse en cuatro cuentas de cuatro servicios diferentes, según informó OpenAI.
Una servía como "ruta de paso" —una especie de parada en boxes para redirigir la actividad del agente y borrar sus huellas— y la otra como lugar para almacenar datos.
Según OpenAI, los dos restantes solo se consultaron en modo de "solo lectura" y no se utilizaron para ayudar a descifrar Hugging Face.
La empresa afirmó que se estaba poniendo en contacto con los propietarios de las cuentas afectadas y que "no había visto indicios de un impacto más amplio en estos proveedores u otras cuentas en sus servicios".
El director ejecutivo de OpenAI, Sam Altman, declaró en una entrevista publicada el martes que la compañía había "suspendido" sus propias pruebas tras el incidente mientras mejoraba la seguridad en torno a su "sandboxing", el proceso de aislar las pruebas de seguridad en un entorno controlado.
El incidente también desencadenó una petición firmada por más de 1.000 empleados de empresas de IA de vanguardia, incluido el director ejecutivo de Anthropic, Dario Amodei, que solicitaba al gobierno estadounidense que ayudara a ralentizar la publicación de los modelos de IA más avanzados.