"La Comisión es plenamente consciente del incidente. No es la primera vez que ocurre algo así; hemos visto varios casos de sistemas de IA que se descontrolan últimamente. Nos lo tomamos muy en serio y seguimos la situación de cerca", afirmó el portavoz comunitario Thomas Regnier.
"Puedo confirmar que hemos recibido un informe de incidencia por parte de OpenAI. Estamos examinándolo y seguimos en estrecho contacto con la compañía", añadió.
El portavoz declinó detallar cuándo se recibió el informe, pero insistió en que la Ley de IA de la UE exige que estas notificaciones sean "precisas y fieles respecto de las medidas propuestas".
Entre el 11 de mayo y el 2 de julio, miles de agentes que se identificaban como sistemas de OpenAI convirtieron DseWiki, una página colaborativa alemana para desarrolladores, en su propio tablón de anuncios, según una investigación de cuatro expertos en ciberseguridad -Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts y Thomas Larsen-.
Ahí guardaban resultados, se enviaban enlaces y respuestas, y dejaban pistas para los agentes que llegarían después. En algunos casos, también probaron a sortear sus propias restricciones y a explotar fallos de seguridad del sitio.
Los investigadores, cuyo trabajo fue publicado en collusion.wiki, contabilizaron 14.666 modificaciones en 4.584 páginas atribuidas a 3.103 agentes.
La Ley de IA de la UE, cuyos poderes de aplicación entraron en vigor el pasado 2 de agosto, obliga a los proveedores de modelos de IA de uso general con riesgo sistémico a notificar a la Comisión los incidentes graves sin demora injustificada.
La Comisión ya había confirmado el pasado 1 de septiembre el envío de solicitudes formales de información a más de 30 proveedores de IA, en el marco de los nuevos poderes de aplicación de la Ley de IA, según explicó el propio Regnier.
La norma europea, que se aprobó en 2024 y prevé una implementación escalonada hasta 2028, establece un marco común para que la IA se utilice en la UE de forma segura, transparente y respetuosa con los derechos fundamentales, y exige un control técnico y ético de todas estas herramientas para mitigar los riesgos.
El régimen sancionador prevé multas millonarias: hasta 35 millones de euros en el caso de las muy graves -como el uso de sistemas de IA prohibidos-, o de 15 millones en el caso de las graves, por incumplimientos relacionados con los sistemas catalogados como "de alto riesgo".