El padre detenido en Espírito Santo por planear el asesinato de su hijo de 8 años fue denunciado tras hablar del asunto con ChatGPT. OpenAI, creadora del asistente de IA, informó del incidente al FBI, que a su vez transmitió la información a las autoridades brasileñas.
El hombre fue detenido el 19 de junio, un día antes de la fecha que había elegido para cometer el crimen. Previamente, había escrito a ChatGPT afirmando que tenía un arma, una cuerda y veneno, y que pretendía llevar a cabo ataques en espacios públicos.
Consultada por g1, OpenAI declaró que sus sistemas están diseñados para proteger a las personas y que este caso demuestra la importancia de tales medidas.
“Cuando identificamos conversaciones que indican un riesgo inminente y creíble de daño a terceros, podemos notificar a las autoridades competentes”, señaló la empresa.
Lea más: ChatGPT rompe récords y alcanza 1.000 millones de usuarios más rápido que cualquier otra app
ChatGPT alertó de un intento de filicidio
En los mensajes, el hombre escribió que había intentado contratar a un sicario por 50.000 reales para matar a su hijo, pero la oferta fue rechazada después de que revelara que la víctima prevista era un niño.
“Quería saber de dónde viene este impulso de matar gente. Me gusta ver sufrir a los demás”, dijo en uno de los mensajes.
Asistentes como ChatGPT monitorean todo lo que se dice en las conversaciones, aunque la mayor parte de la revisión la realizan sistemas automatizados, explicó Álvaro Machado Dias, profesor de la Universidad Federal de São Paulo (Unifesp).
“En el caso del padre de Espírito Santo, se cruzó una línea porque había una víctima identificada, un método, los medios y una fecha inminente. En otras palabras, la alerta generada fue de máxima gravedad”, afirmó.
Lea más: Gemini para el Mundial, las suscripciones a Whatsapp, y otras noticias tecnológicas de la semana
Cómo detecta ChatGPT los casos sospechosos
OpenAI afirma que inicia su análisis mediante sistemas automatizados, incluidos modelos de IA capaces de categorizar el contenido y realizar análisis más complejos del contexto de la conversación.
Esta etapa también implica el uso de bases de datos que contienen archivos previamente señalados —como los relacionados con la explotación sexual infantil— y listas de términos prohibidos.
Si una conversación es marcada por estos mecanismos, se envía a moderadores humanos. Ellos analizan la actividad para determinar si se ha producido una infracción de las políticas y si el usuario podría llegar a cometer un acto de violencia.
Los moderadores pueden clasificar la actividad como de bajo riesgo o bien desactivar la cuenta y contactar a personas y organizaciones mejor preparadas para gestionar la situación, tal como ocurrió en Espírito Santo.
Lea más: La justicia de California desestima la demanda de Elon Musk contra OpenAI y Altman
Demanda contra OpenAI por suicidio
La empresa se enfrentó a una demanda en 2025, acusada de contribuir al suicidio de un joven de 16 años en Estados Unidos al no implementar medidas de seguridad, como remitirlo a líneas de ayuda para situaciones de crisis.
En un comunicado de abril de 2026, la compañía declaró que trabaja para garantizar que ChatGPT rechace las solicitudes que faciliten la violencia, al tiempo que busca que el servicio distinga los casos problemáticos de las consultas neutrales, como aquellas realizadas con fines históricos o educativos.
“Algunos riesgos de seguridad solo se hacen evidentes con el tiempo: un mensaje aislado puede parecer inofensivo, pero el patrón general dentro de una conversación larga —o a través de múltiples conversaciones— podría sugerir algo más preocupante”, señaló OpenAI.
Denunciar incidentes a las autoridades es algo habitual cuando se identifican en redes sociales, pero ocurre con menos frecuencia cuando surgen en asistentes como ChatGPT. Este fue apenas el tercer caso de este tipo en Brasil, según declaró el jefe de policía Breno Andrade a TV Gazeta, una filial de Globo en Espírito Santo.
Lea más: Florida acusa al asesino de dos universitarios de usar ChatGPT para desechar los cuerpos
Cifra de detenciones a través de ChatGPT podrían aumentar
Es probable que esta cifra aumente a medida que más personas utilicen estos sistemas como blocs de notas o como compañeros con quienes relatar sus actividades, afirmó Álvaro Machado Dias, de la Unifesp.
Sin embargo, notificar al FBI en lugar de a una autoridad brasileña es inapropiado, afirmó el experto. Según él, el canal adecuado sería la Policía Federal o el Ministerio de Justicia, aunque la lógica de OpenAI —dada su sede en EE. UU. y sus vínculos con las autoridades estadounidenses— es comprensible.
“El delito tuvo lugar en Brasil, la víctima estaba en Brasil, el sospechoso estaba en Brasil y la detención dependía del Estado brasileño. Una empresa que presta servicios aquí no puede tratar a Brasil simplemente como un mercado de consumo mientras considera a Estados Unidos como el lugar natural para cualquier disputa”, declaró.
Al mismo tiempo, las autoridades brasileñas deben proporcionar un canal directo para recibir dichas alertas y así agilizar las investigaciones, señaló. “La rapidez es crucial porque la IA reduce la brecha entre la intención, la planificación y la ejecución”.
Lea más: GPT-5.5: OpenAI anuncia su modelo de IA más potente hasta la fecha
En opinión del profesor, no hay duda de que denunciar el caso a las autoridades fue la decisión correcta. “La gente habla con ChatGPT como lo haría con un terapeuta o un abogado, pero la IA no es ninguna de las dos cosas; por lo tanto, no está sujeta a la confidencialidad profesional”.
Cómo se desarrolló la investigación
El FBI —equivalente a la Policía Federal en Estados Unidos— remitió el informe al Ministerio de Justicia y Seguridad Pública, que a su vez lo envió a la Policía Civil de Espírito Santo.
Posteriormente, la información se envió a la Unidad Especializada en Delitos Cibernéticos de Espírito Santo, que llevó a cabo la detención en cumplimiento de una orden judicial.
El jefe de policía, Ícaro Olímpio, declaró que el hombre negó la acusación, pero fue detenido con base en el historial de sus conversaciones con ChatGPT, proporcionado por OpenAI.
Lea más: Tim Cook deja Apple y otras noticias tecnológicas de la semana
“Teníamos pruebas suficientes para prevenir este grave delito que estaba a punto de ocurrir”, afirmó. “Estamos convencidos de que evitamos lo que habrían sido actos de extrema violencia”.
Fuente: O Globo