La gobernadora de Nueva York, Kathy Hochul, firmó este miércoles una ley que pretende mejorar la protección de los menores de 18 años que usan chatbots de inteligencia artificial (IA) al prohibirles ciertas funciones, como promover el suicidio o el consumo de drogas.

La legislación, que Hochul describió como pionera en EE.UU., exige que las empresas propietarias de los chatbots verifiquen la edad de los usuarios más allá de una identificación oficial y, en caso de que confirmen que son menores, bloqueen funciones “dañinas”, según un comunicado.

Lea más: Anthropic propone que un juez autorice vetar modelos de IA peligrosos

Prohibiciones para los chatbots

En concreto, Nueva York prohíbe que un chatbot dirigido a un menor pueda “fingir ser una persona real, estar vivo o tener emociones humanas”, afirmar que tiene una relación “personal, romántica, profesional o de autoridad” con este, u ofrecer “contenido sexualmente explícito”.

Asimismo, se les prohíbe “promover o ayudar con el suicidio, la autolesión, los trastornos alimenticios o el consumo de drogas y alcohol”, e incitar a los menores a “guardar secretos, aislarse o evitar pedir ayuda a sus padres, adultos de confianza o profesionales”, indica la nota.

Los chatbots de IA en el estado tampoco podrán hacer al menor preguntas emocionales no solicitadas ni utilizar su información privada de salud o personal obtenida en conversaciones anteriores.

Sanciones

Las infracciones de la ley pueden facultar a la Fiscalía general del estado para solicitar sanciones civiles de hasta 25.000 dólares cada una, indemnizaciones, restitución, la destrucción de los datos recopilados ilegalmente o de cualquier modelo de IA entrenado con ellos, agrega.

La medida llega después de varios casos sonados en Estados Unidos y otros países en los que menores de edad usaron a los chatbots de IA como confidentes y murieron por suicidio.

Según datos de Commons Media citados por la gobernadora, el 72 % de adolescentes ha usado un asistente de IA al menos una vez, y el 52 % son usuarios habituales que interactúan varias veces al mes.

Lea más: Nueva York califica de “poco creíbles” las respuestas de SpaceX sobre seguridad de su IA

Además de esa ley, la gobernadora demócrata firmó otra que exige que los monitores para bebés conectados a internet incluyan funciones de seguridad “que impidan a terceros no autorizados observar o escuchar lo que ocurre, además de contar con una etiqueta de advertencia clara”.