La propuesta tiene cuatro compromisos “clave”: priorizar la seguridad adolescente, fomentar el apoyo en el mundo real, tratar a los adolescentes con un enfoque adaptado a su edad y también mantener “total transparencia” sobre el comportamiento de sus sistemas.
El enfoque de esta versión adaptada de ChatGPT, lejos de funcionar como una herramienta para obtener respuestas inmediatas, está concentrado en el “desarrollo educativo fuera del aula”.
Para esto, la función central será mediante el Study Mode (modo de estudio), una opción creada con la colaboración de científicos y educadores.
Esta modalidad cambia la solución directa a preguntas orientadoras, comprobaciones de conocimiento e incentivos para “asegurar” que los estudiantes comprendan el material paso a paso por sí mismos, ya sea en alguna duda sobre matemáticas, comunicación, ciencias, historia o cualquier otro tipo de materia.
Por esto, si el sistema detecta que el adolescente busca un atajo para completar una tarea escolar, la función Responsible Homework Reminders (recordatorios de tareas responsables) interviene redirigiendo el chat de vuelta al modo de estudio.
Lea más: Expertos advierten sobre el uso malintencionado de la IA avanzada
También el entorno incluye cuestionarios y visualizaciones de aprendizaje para conceptos complejos, así como la capacidad de establecer Study Hours (horas de estudio), función que permite a padres o tutores configurar horarios en los que el modo educativo funcione de manera predeterminada.
“No todos los estudiantes tienen a alguien en casa que pueda ayudarlos cuando tienen preguntas con sus tareas. Con las pautas adecuadas, la IA puede ayudar a llenar ese vacío. Herramientas como el recordatorio responsable de tareas pueden guiar a los estudiantes paso a paso, ayudándolos a comprender sus errores, a ganar confianza y a seguir aprendiendo, en lugar de simplemente darles la respuesta. Este tipo de apoyo individualizado puede marcar una gran diferencia para los estudiantes que quieren tener éxito, pero no siempre saben cómo seguir adelante”, menciona la profesora de matemáticas de secundaria Racquel Gibson sobre la propuesta.
Lea más: Según OpenAI, agente de IA descontrolado golpeó también otras plataformas
La salud mental y la IA
Por otra parte, la seguridad y la salud emocional de los usuarios tampoco son opcionales en esta versión, según OpenAI.
Con normas propias orientadas al uso de la plataforma por parte de menores de edad, el servicio plataforma bloqueará de forma predeterminada la exposición a contenido inapropiado o de alto riesgo, abarcando temas como autolesiones, violencia, trastornos alimenticios, actividades peligrosas o material sexual explícito.
También evitar dinámicas perjudiciales, las regulaciones estipulan estrictamente que ChatGPT no deberá utilizar lenguaje romántico, participar en juegos de rol sexualizados, fomentar la dependencia emocional, ni dar a entender bajo ningún concepto que posee conciencia o sentimientos. La idea de estas medidas, diseñadas “cuidadosamente” son para reforzar las relaciones saludables en la vida real.
El sistema también cuenta con notificaciones de pausa durante un uso prolongado, por lo que se recordará al usuario que está interactuando con una IA por un tiempo considerable y en caso de que esto ocurra, se lo va a “invitar” a alejarse de la pantalla.
Además, emite alertas preventivas antes de que se suban imágenes sensibles (como fotografías de apuntes matemáticos que podrían contener información privada), y ofrece personalizaciones visuales y de voz sencillas para mantener un tono amigable, sin que se borre la línea entre una herramienta tecnológica y una relación humana.
Finalmente, en el ámbito del control parental, el sistema permite la vinculación de cuentas. A través de ellas, los padres o tutores pueden imponer Quiet Hours (horas de silencio) para gestionar los ajustes y recibir notificaciones exclusivas para un grupo limitado de situaciones de alto riesgo, como indicios de trastornos alimenticios. Para los interesados en el “modo teen” de ChatGPT, este no se activa con un botón específico: sino, como se mencionaba, las protecciones para adolescentes se aplican automáticamente a su cuenta según la edad registrada o detectada por ChatGPT.
Lea más: Qué podés hacer ahora con IA que antes era imposible y te ahorra tiempo real