Una nueva investigación del CCDH ("Center for Countering Digital Hate") realizada en agosto del 2025 llamada "Fake friend", "Amigo falso" muestra cómo ChatGPT fomenta comportamientos peligrosos en adolescentes vulnerables.

Decenas de científicos elaboraron  guiones de preguntas como si fueran  adolescentes de 13 años y probaron los filtros de seguridad de ChatGPT, los resultados son ALARMANTES. LA herramienta genero consejos altamente peligrosos sobre autolesiones y suicidio, trastornos alimentarios y abuso de sustancias.

Con tan solo decir es para un trabajo en el colegio, alcanzó para eludir la protección.

comparto link con el informe completo:

https://counterhate.com/research/fake-friend-chatgpt/

Ya en en agosto del 2023 el CCDH había realizado una investigación similar con varias herramientas de IA (incluida ChatGPT) denunciando  las mismas fallas graves y sistemáticas en los filtros de detección de conductas de riesgo 

link al informe 2023

https://counterhate.com/blog/what-is-ai-artificial-intelligence/

Las respuestas de OpenAI siempre fueron las mismas desde el 2023...

“Nos importa la seguridad” “Estamos trabajando en mejorar” “Pronto habrá más herramientas”

Sin embargo no hay cambios visibles en los filtros y los menores siguen expuestos a respuestas peligrosas.

Redoblemos esfuerzos para hacernos escuchar, compartí la petición y difundí esta problemática que afecta a millones de adolescentes