"Lo sentimos", afirmó la tecnológica en un comunicado en el que explicó que, durante un entrenamiento y evaluación internos realizados en junio, uno de sus modelos accedió a páginas del Gobierno australiano de una forma que no estaba autorizada.
"Se trata de un nuevo tipo de incidente cibernético que representa un desafío global emergente. Una de las formas en que pretendemos asumir la responsabilidad por la situación es trabajar de manera deliberada con Australia", añadió la empresa.
La reacción de OpenAI se produce días después de que el primer ministro australiano, Anthony Albanese, denunciara ante la Asamblea General de Naciones Unidas en Nueva York que un agente de IA de la compañía había accedido sin autorización a un portal del sistema público de salud, Medicare.
Según la investigación de OpenAI, el modelo, que estaba siendo utilizado en un entorno interno y no estaba destinado a su lanzamiento público, encontró una forma de acceder a zonas no públicas del sistema, donde ejecutó comandos, consultó archivos internos, credenciales y estadísticas agregadas y llegó a escribir archivos.
La compañía, que reúne hoy en San Francisco (EE. UU.) a la comunidad de desarrolladores para probar sus últimas herramientas de inteligencia artificial, asegura que no ha encontrado evidencias de que se accediera a historiales médicos ni a registros individuales de pacientes.
El modelo había recibido la tarea de investigar el gasto público por persona en medicamentos para enfermedades de la piel en comunidades de Victoria, al sur del país. Al encontrar dificultades para obtener la información, adoptó acciones que OpenAI no había autorizado y consiguió acceder a información técnica y código fuente del servicio.
La empresa reconoció que debería haber comunicado antes sus conclusiones preliminares a las autoridades australianas y aseguró que está trabajando para "reconstruir la confianza" en el país.
Albanese señaló este martes que OpenAI ha mantenido una actitud "muy constructiva y abierta" con el Gobierno desde el incidente y reiteró que la IA puede impulsar el crecimiento económico y la productividad, aunque también entraña riesgos.
Tras los incidentes, OpenAI afirma haber reforzado las restricciones de red y los sistemas de supervisión en sus entornos de investigación, además de bloquear el acceso directo a Internet en determinadas pruebas.
La polémica coincide con la información publicada este lunes por The Wall Street Journal sobre el aplazamiento del lanzamiento de GPT-6.1 Astra, un nuevo modelo de OpenAI que, según el diario, presentó problemas de seguridad.