La empresa publicó estimaciones iniciales sobre este estudio que realizó con casi 300 profesionales, entre ellos, médicos y psicólogos.
OpenAI publicó un estudio acerca de usuarios de ChatGPT en todo el mundo, los cuales pueden mostrar signos de crisis mental tras conversaciones que mantienen con la inteligencia artificial en una semana normal. Se descubrieron señales claras de posible intención o planificación suicida.
En el último tiempo, varias personas acabaron hospitalizadas, divorciadas o muertas tras mantener intensas conversaciones con ChatGPT. Los profesionales de la salud mental alertaron sobre este fenómeno. Debido a esto, la empresa estaría trabajado en la actualización del chatbot de modo que pueda reconocer con mayor fiabilidad los indicadores de angustia y guiar a los usuarios hacia la ayuda en el mundo real.
Sam Altman, director ejecutivo de la compañía, expresó que ChatGPT cuenta con 800 millones de usuarios cada semana. Esto significa que, en promedio, 1,2 millones de personas podrían estar enviando mensajes con este tipo de indicadores cada semana.
La empresa de IA informó que alrededor del 0,07% de los usuarios activos cada semana, y el 0,01% de los mensajes, muestran posibles señales de emergencias de salud mental relacionadas con la psicosis. En cuanto a la dependencia emocional hacia la herramienta, el 0,15% de los usuarios activos en una semana y el 0,03% de los mensajes reflejan posibles niveles altos de apego emocional a ChatGPT.
OpenAI contrata a especialistas de la salud mental que ayuden al ChatGPT
OpenAI consultó a 170 especialistas en salud mental con experiencia clínica, seleccionados de un grupo de 300 profesionales activos en 60 países. Existió ayuda por parte de los expertos en actividades como redacción de respuestas adecuadas para temas de salud mental, análisis del contenido generado por el modelo y asesoramiento para mejorar el enfoque de la inteligencia artificial.
“Estos expertos descubrieron que el nuevo modelo mejoró sustancialmente en comparación con GPT-4o, con una reducción del 39-52% en las respuestas no deseadas en todas las categorías”, confirmó OpenAI.
“Dado que estas herramientas evolucionan con el tiempo, es posible que las mediciones futuras no sean directamente comparables con las anteriores, pero siguen siendo un medio importante para seguir nuestra dirección y progreso”, añadió.
