"Los seres humanos deben mantener un control efectivo sobre el uso de la fuerza y seguir siendo responsables de él", sostuvo O'Flaherty, al considerar que los Estados deben "desarmar" la IA, en un artículo publicado hoy en la web del Consejo de Europa con motivo de la Séptima Conferencia de Examen de la Convención sobre Ciertas Armas Convencionales, que se celebrará en Ginebra del 16 al 20 de noviembre bajo los auspicios de Naciones Unidas.
O'Flaherty reclamó a los Gobiernos que respalden negociaciones urgentes y con plazos definidos para establecer un instrumento internacional jurídicamente vinculante sobre armas autónomas, además de avanzar en la regulación de otros usos militares de la IA.
El comisario advirtió de que las decisiones que determinan quién vive y quién muere en los conflictos armados están cada vez más condicionadas por las máquinas.
En este sentido, indicó que la IA se está integrando en las operaciones militares, desde la recopilación de información y la identificación de objetivos hasta los sistemas de armamento y las decisiones sobre el uso de la fuerza. Algunos sistemas autónomos pueden incluso seleccionar y atacar objetivos sin intervención humana una vez activados, añadió.
El comisario avisó que los sistemas de IA pueden ser opacos e impredecibles, utilizar datos obsoletos o sesgados y generar resultados difíciles de anticipar. Además, señaló que la velocidad de las operaciones militares asistidas por estas tecnologías puede dejar a los operadores sin tiempo suficiente para verificar los objetivos o evaluar la legalidad de un ataque.
El control humano corre el riesgo de convertirse en un mero trámite cuando los militares delegan sus decisiones en máquinas que consideran más precisas o fiables que ellos mismos, o pierden por completo el control sobre los procesos autónomos, comentó O'Flaherty.
Estas circunstancias, añadió, aumentan el riesgo de ataques contrarios al derecho internacional, amenazan el derecho a la vida y dificultan la exigencia de responsabilidades por las posibles violaciones de los mismos.
Los riesgos, señaló, no se limitan al campo de batalla, puesto que las tecnologías desarrolladas para fines militares pueden trasladarse a ámbitos civiles, como el control de fronteras y la vigilancia de manifestaciones, o acabar en manos de actores no estatales.
La IA también puede utilizarse para manipular el entorno informativo y perturbar infraestructuras civiles, alertó.
O'Flaherty consideró que la regulación no ha avanzado al mismo ritmo que el desarrollo de estas tecnologías, especialmente en las cuestiones que plantea el uso militar de la IA.
Y señaló también la responsabilidad del sector privado, ya que las empresas que diseñan, desarrollan o suministran sistemas militares basados en IA deben respetar, subrayó, los derechos humanos.