Más de un millón de personas comunicarían cada semana sus intenciones suicidas a ChatGPT

En un estudio publicado el 27 de octubre, OpenAI, la empresa detrás de ChatGPT, estima que alrededor del 0,07% de los usuarios activos en una semana determinada muestran posibles signos de urgencias de salud mental relacionadas con la psicosis o la manía. En total, el 0,15% de los usuarios hablarían de sus intenciones suicidas con el chatbot, lo que supone alrededor de 1,2 millones de personas cada semana ¹.

• Sam Altman declaró a principios de octubre que ChatGPT había superado la barrera de los 800 millones de usuarios activos por semana, el doble que seis meses antes ².
• Hoy, aproximadamente una de cada diez personas en el mundo utiliza regularmente el chatbot de OpenAI. En la década de 1990, Internet tardó 13 años en alcanzar el mismo número de usuarios ³.
• Sin embargo, el uso creciente de ChatGPT y el desarrollo de una forma de dependencia del chatbot por parte de algunos usuarios plantea numerosos problemas relacionados con la salud mental que la empresa tiene dificultades para abordar.

Esta relación podría seguir desarrollándose en los próximos años, a medida que los usuarios utilicen más el chatbot para cuestiones de carácter personal que profesional, como señalaron los investigadores de OpenAI en septiembre. Las solicitudes a ChatGPT de consejos prácticos relacionados con la salud, la educación, el deporte o la enseñanza representan actualmente el 28,3% de las consultas, y la búsqueda de información general, alrededor del 21%.

OpenAI afirma que la última actualización de ChatGPT, GPT-5, mejoraría la seguridad de los usuarios y reduciría el número de «comportamientos indeseables».

• La empresa es actualmente objeto de una demanda presentada por la familia de un adolescente californiano que se quitó la vida en primavera tras discutir diferentes formas de suicidarse con el chatbot ⁴.
• Si bien el caso de Adam Raine ha sido uno de los más mediáticos, miles de testimonios en línea ponen de relieve una dependencia emocional y psicológica del chatbot, que tiene dificultades para detectar y actuar ante signos de angustia.
• Según un estudio del MIT en colaboración con OpenAI, entre el 17% y el 22% de los usuarios consideran a ChatGPT como un «amigo», y entre el 10% y el 12% afirman sentirse «cómodos» compartiendo cosas con el chatbot en lugar de con personas reales ⁵.

OpenAI afirma que colabora con un centenar de psiquiatras, psicólogos y médicos para mejorar la forma en que ChatGPT reacciona ante riesgos graves para la salud mental, en particular «desactivando» las conversaciones y proporcionando acceso a líneas telefónicas de ayuda de emergencia.

• Sin embargo, el uso intensivo del chatbot parece suponer un reto a la hora de dar una respuesta adecuada, ya que varios estudios han demostrado que el rendimiento de los modelos de lenguaje se degrada cuando las conversaciones se alargan.
• Según un estudio dirigido por Philippe Laban y Hiroaki Hayashi, los LLM pierden capacidad y fiabilidad cuando los temas de las conversaciones cambian repetidamente de orientación durante una misma sesión ⁶.
• Muchos usuarios han testificado que es durante las sesiones largas, que suelen tener lugar por la noche, cuando ChatGPT «refuerza sus pensamientos delirantes» ⁷.