OpenAI estima que más de un millón de usuarios de ChatGPT han mostrado interés en el suicidio, según datos publicados en su más reciente informe.
OpenAI reveló que más de un millón de usuarios de ChatGPT han tenido conversaciones relacionadas con el suicidio, lo que representa alrededor del 0.15 % de los más de 800 millones de personas que utilizan el chatbot semanalmente. Además, la empresa estima que un 0.07 % muestra posibles signos de emergencias de salud mental vinculadas a episodios de psicosis o manía.
El tema cobró relevancia tras el caso de Adam Raine, un adolescente estadounidense que se quitó la vida luego de interactuar con ChatGPT, lo que llevó a sus padres a presentar una demanda contra la compañía. Desde entonces, OpenAI ha reforzado sus protocolos de seguridad, incorporando controles parentales, acceso directo a líneas de ayuda y recordatorios para que los usuarios tomen descansos.
La firma también trabaja con más de 170 profesionales de la salud mental para mejorar las respuestas del modelo ante señales de crisis psicológicas. Según OpenAI, estas medidas buscan reducir los riesgos asociados con el uso prolongado del chatbot y ofrecer orientación responsable a los usuarios vulnerables.
Discusión sobre esto post