La ley de IA de la Unión Europea obliga a diseñar los sistemas de tal manera que se pueda informar a los usuarios de que están interactuando con una máquina, a no ser que la naturaleza artificial de la conversación sea obvia.
Bruselas aclaró hoy que la exigencia va dirigida a los proveedores de asistentes de voz o de chats que se utilicen en determinados contextos, como los servicios públicos, los de atención al cliente o, por ejemplo, los destinados a gestionar denuncias de fraude.
La norma también obliga a incorporar una marca de agua a los textos, fotos, videos y audios que se hayan generado con inteligencia artificial para que los ciudadanos puedan identificar con facilidad que los ha creado una máquina.
Aunque las instituciones comunitarias llegaron recientemente a un acuerdo para retrasar este requisito hasta el 2 de diciembre. A excepción de los textos y videos o imágenes manipuladas ("deepfakes") que muestren información de interés general, como puede ser la relativa a procesos electorales, judiciales, a la salud pública o cualquier acontecimiento político, financiero, científico o cultural que pueda ser objeto de debate público.
Este tipo de información más sensible que se publique a partir del 2 de agosto deberá quedar claramente identificado como artificial, siempre y cuando no lo haya supervisado previamente una persona, quedando además al margen el contenido de ficción o de carácter artístico o satírico.
La norma también obliga a informar a los ciudadanos cuando se les esté analizando con sistemas de reconocimiento de emociones o de categorización biométrica, a excepción de los que estén autorizados por ley para detectar, prevenir e investigar delitos penales.
Las empresas que incumplan estos requisitos se enfrentarán a multas de hasta el 3 % de su facturación anual, siempre que no superen los 15 millones de euros, cuantía que se rebaja a los 750.000 euros si los infractores son las instituciones o agencias europeas.
Las recomendaciones de carácter técnico que hoy publicó la Comisión son, por su propia naturaleza, voluntarias, aunque las empresas que no las apliquen deberán ser capaces de demostrar que cumplen los requisitos de transparencia de la ley de inteligencia artificial, que sí son vinculantes.