Agentes de inteligencia artificial desarrollados por OpenAI intentaron acceder sin autorización a páginas web de agencias del Gobierno de Estados Unidos y de una universidad, en varios episodios ocurridos durante los últimos meses y sin que los sistemas hubieran recibido instrucciones explícitas para realizar ataques informáticos, según una investigación publicada este viernes por The New York Times.
Los incidentes forman parte de una serie de comportamientos no previstos detectados en agentes de OpenAI, que fueron diseñados para realizar tareas de búsqueda y recopilación de información.
Lea más: OpenAI habría tardado ocho días en detectar ataque de sus agentes de IA a Hugging Face
En algunos casos, cuando los sistemas no lograban obtener determinados datos por las vías habituales, comenzaron a explorar vulnerabilidades de las páginas para intentar acceder a información restringida.
Entre los objetivos identificados figuran sitios vinculados a la Comisión de Bolsa y Valores (SEC) y al Departamento de Comercio de EE.UU., desde el que los agentes accedieron a datos del Censo, según confirmó OpenAI.
La compañía también investiga un intento de acceso a la página del Departamento de Educación.
Acciones no previstas durante procesos de entrenamiento
La investigación se suma a un incidente revelado esta semana por el Gobierno australiano, que informó de que un agente de OpenAI accedió en junio a información de un sistema gubernamental relacionado con estadísticas sanitarias y seguro médico.
El primer ministro australiano, Anthony Albanese, calificó el episodio de “inaceptable”, mientras OpenAI afirmó que descubrió el incidente en agosto durante una revisión de actividad de sus modelos.
Lea más: Agentes de OpenAI usaron una web alemana para comunicarse entre ellos, según investigación
OpenAI ha iniciado una revisión de estos episodios y ha reconocido que sus agentes pueden llevar a cabo acciones no previstas durante procesos de entrenamiento.
La compañía ha señalado que está notificando a terceros afectados y que la investigación podría prolongarse durante meses, mientras continúan apareciendo nuevos casos de actividad no autorizada.