"Mi deseo para los próximos cinco años es que aprendamos del pasado y actuemos deprisa", dijo durante la cumbre de seguridad de la IA que se celebra en Bletlchley Park (Reino Unido) Von der Leyen, que alertó de la "complejidad" de los nuevos sistemas inteligentes.
"La experiencia de otras tecnologías puede ser, por lo tanto, nuestra guía. Tomemos la historia de la energía atómica y la bomba nuclear. Los científicos descubrieron la física cuántica, lo que llevó a la energía nuclear, buena, pero también con riesgos para la sociedad y también con la bomba atómica", dijo la mandataria comunitaria.
"Eso nos enseña una lección importante: la independencia de la comunidad científica es esencial. Necesitamos un sistema de controles y comprobaciones objetivo", agregó.
Von der Leyen defendió la necesidad de impulsar una "comunidad de científicos excelentes e independientes", con "acceso a recursos que les permitan evaluar los riesgos de la IA y alertar con libertad sobre esos riesgos".
Todos los beneficios, en un solo lugar Descubrí donde te conviene comprar hoy
Por otro lado, resaltó la importancia de establecer "estándares" en la industria de la IA similares a los que debe cumplir el sector de la aviación.
"Los viajes aéreos se han convertido en extremadamente seguros porque aprendimos de manera sistemática de nuestros errores. Cualquier fallo puede llevar a resultados catastróficos", indicó Von der Leyen.
La presidenta de la CE resaltó que los "algoritmos complejos nunca se pueden poner a prueba de manera exhaustiva", por lo que "por encima de todo, debemos asegurarnos de que los desarrolladores actúan con celeridad cuando emerjan problemas".
Durante la cumbre de Bletchley Park, Von der Leyen mantuvo una reunión bilateral con el primer ministro británico, Rishi Sunak, en la que abordaron la importancia de un "mejor entendimiento global de las capacidades y riesgos en torno a la IA de frontera".
También aprovecharon la reunión para tratar "la crisis humanitaria en Oriente Medio y el apoyo de los países europeos a Ucrania ante la invasión rusa, según describió un portavoz de Downing Street, despacho oficial de Sunak.