A OpenAI divulgou dados inéditos sobre o uso do ChatGPT por pessoas enfrentando desafios graves de saúde mental. Segundo a empresa, cerca de 0,15% dos usuários ativos semanais – o equivalente a mais de 1,2 milhão de pessoas, considerando os 800 milhões de usuários ativos por semana da plataforma – participam de conversas que indicam planejamento ou intenção suicida explícita.
Além disso, aproximadamente 0,07% desses usuários apresentam sinais potenciais de crises mentais relacionadas à psicose ou mania, envolvendo cerca de 560 mil pessoas semanalmente. Outro dado relevante aponta que a mesma porcentagem (0,15%) demonstra um alto nível de apego emocional ao chatbot, o que pode interferir em suas relações e responsabilidades reais.
GPT-5 busca melhorias para lidar com o tema
A OpenAI destacou que, embora esses tipos de conversa sejam estatisticamente raros no ChatGPT, representam um volume significativo dado o alcance global da ferramenta. Para lidar com essa realidade, a empresa comunica que trabalhou em estreita parceria com mais de 170 profissionais de saúde mental, incluindo psiquiatras, psicólogos e médicos, para aprimorar o modelo GPT-5.
A nova versão tem respostas que reconhecem sinais de sofrimento com empatia, sem reforçar crenças delirantes ou perigosas. Segundo a empresa, isso foi demonstrado por avaliações que apontam uma redução de 39% a 52% em respostas inadequadas em comparação com versões anteriores.
Segundo Sam Altman, CEO da OpenAI, as melhorias fazem parte de um processo contínuo. Esse processo envolve definição de riscos, validação com especialistas, implementação de medidas de segurança e monitoramento constante dos efeitos. A colaboração global com especialistas de 60 países resultou diferentes ajustes. Por exemplo, eles permitem que o chatbot aborde ideias delirantes com cuidado. Reconhecendo, assim, o sofrimento do usuário sem endossar falsas percepções, direcionando-o para redes de apoio.
O fenômeno tem nome: “psicose induzida por IA”. Ele em sido tema de debates e controvérsias recentes ao redor do mundo, com relatos crescentes de usuários que desenvolveram delírios e crises psicológicas após interações prolongadas e intensas com chatbots. Especialistas destacam que esse momento é um marco para o entendimento do papel das IAs conversacionais na saúde mental. E sinalizam a necessidade urgente de protocolos mais rigorosos.
Com a dependência da IA se alastrando no dia a dia das pessoas, a saúde mental – que já vinha ganhando foco na mídia – exige agora um debate amplo e profundo sobre avanços tecnológicos alinhados à ética e à responsabilidade social. Em saúde, tecnologia pode ser um apoio, mas não substitui um tratamento profissional adequado.
