La legislación, que Hochul describió como pionera en EE.UU., exige que las empresas propietarias de los chatbots verifiquen la edad de los usuarios más allá de una identificación oficial y, en caso de que confirmen que son menores, bloqueen funciones "dañinas", según un comunicado.

En concreto, Nueva York prohíbe que un chatbot dirigido a un menor pueda "fingir ser una persona real, estar vivo o tener emociones humanas", afirmar que tiene una relación "personal, romántica, profesional o de autoridad" con este, u ofrecer "contenido sexualmente explícito".

Asimismo, se les prohíbe "promover o ayudar con el suicidio, la autolesión, los trastornos alimenticios o el consumo de drogas y alcohol", e incitar a los menores a "guardar secretos, aislarse o evitar pedir ayuda a sus padres, adultos de confianza o profesionales", indica la nota.

Los chatbots de IA en el estado tampoco podrán hacer al menor preguntas emocionales no solicitadas ni utilizar su información privada de salud o personal obtenida en conversaciones anteriores.

Las infracciones de la ley pueden facultar a la Fiscalía general del estado para solicitar sanciones civiles de hasta 25.000 dólares cada una, indemnizaciones, restitución, la destrucción de los datos recopilados ilegalmente o de cualquier modelo de IA entrenado con ellos, agrega.

La medida llega después de varios casos sonados en Estados Unidos y otros países en los que menores de edad usaron a los chatbots de IA como confidentes y murieron por suicidio.

Según datos de Commons Media citados por la gobernadora, el 72 % de adolescentes ha usado un asistente de IA al menos una vez, y el 52 % son usuarios habituales que interactúan varias veces al mes.

Además de esa ley, la gobernadora demócrata firmó otra que exige que los monitores para bebés conectados a internet incluyan funciones de seguridad "que impidan a terceros no autorizados observar o escuchar lo que ocurre, además de contar con una etiqueta de advertencia clara".