La normativa, denominada 'Medidas Provisionales para la Administración de los Servicios de Interacción Antropomórfica de Inteligencia Artificial', fue publicada en abril pasado por la Administración del Ciberespacio de China (CAC) junto a otros cuatro departamentos gubernamentales, con el objetivo de "equilibrar la innovación tecnológica con la seguridad y el interés público".
Las normas no afectan de manera general a todos los 'chatbots', sino que excluyen a los dedicados a atención al cliente, a los sistemas de preguntas y respuestas de conocimiento, a los asistentes laborales y a las herramientas educativas y de investigación científica, siempre que no impliquen una interacción emocional sostenida.
Entre las prohibiciones más claras, la norma veta la complacencia excesiva hacia el usuario, la inducción a la dependencia emocional o la adicción que dañe las relaciones interpersonales reales, y la manipulación emocional que lleve a los usuarios a tomar decisiones poco razonables o vulnere sus derechos legítimos.
También prohíbe que estos sistemas generen contenidos que promuevan la autolesión o el suicidio, o que impliquen maltrato verbal perjudicial para la salud mental de los usuarios.
Los proveedores de estos servicios interactivos antropomórficos deberán, además, advertir de forma efectiva a los usuarios de que están interactuando con un sistema de inteligencia artificial y no con una persona real.
De manera similar a los controles que ya aplican algunas redes sociales o teléfonos móviles, también tendrán la obligación de avisar al usuario tras dos horas de uso continuado del servicio.
La norma pone especial énfasis en la protección de los menores y prohíbe ofrecerles servicios de relaciones íntimas virtuales, como "familiares" o "acompañantes" virtuales, y exige el consentimiento de padres o tutores para las funciones destinadas a niños menores de 14 años.
Las medidas ya han surtido efecto, pues gigantes digitales como ByteDance y Alibaba anunciaron a principios de mes el cierre de sus funciones de agentes de IA personalizados en Doubao y Qwen, respectivamente.
Ambas aplicaciones ofrecían un catálogo de agentes, creados tanto por las empresas como por los usuarios, modificables en tareas, habilidades y estilo de conversación.
Pan Helin, miembro del comité de expertos del Ministerio de Industria y Tecnologías de la Información, señaló al diario South China Morning Post que el uso de agentes "requiere cierto nivel de comprensión" por parte del usuario y consideró que los agentes actuales "aún no son maduros".