A OpenAI anunciou nesta segunda-feira (29) a implementação de controles parentais e uma nova página de recursos para pais no ChatGPT. A iniciativa, disponível para todos os usuários a partir de agora, marca um movimento estratégico da empresa diante do aumento das preocupações globais sobre o impacto da Inteligência Artificial (IA) no desenvolvimento e na saúde mental dos adolescentes.
A novidade surge em um contexto delicado. Este ano, os pais de um jovem norte-americano entraram com um processo contra a OpenAI, alegando que o filho teria cometido suicídio após interagir de forma intensa com o ChatGPT em busca de conselhos. O episódio, que levantou uma discussão internacional sobre responsabilidade das big techs e riscos emocionais do uso de IA generativa, colocou pressão adicional sobre a empresa para reforçar mecanismos de segurança.
O que muda com o novo recurso
O novo sistema permite que pais vinculem suas contas às de seus filhos adolescentes. Além disso, define limites personalizados de uso e ajustes no nível de exposição ao conteúdo.
Entre as funcionalidades, está a possibilidade de definir horários de silêncio, em que o ChatGPT não pode ser usado. É possível ainda desativar recursos como o modo de voz, geração de imagens e a memória de longo prazo. A novidade também oferece a opção de desligar a memória do ChatGPT, para que ele não salve ou use em suas respostas o que foi fornecido antes. Os pais podem ainda optar pela exclusão do treinamento de modelos, garantindo que conversas de adolescentes não sejam utilizadas para aprimorar o sistema.
Segundo a OpenAI, o recurso foi desenvolvido em parceria com especialistas, grupos de defesa como a Common Sense Media, e com apoio de procuradores-gerais de estados norte-americanos.
“Esses controles parentais são um bom ponto de partida para os pais gerenciarem o uso do ChatGPT por seus filhos adolescentes. No entanto, eles são apenas uma peça do quebra-cabeça quando se trata de manter os adolescentes seguros online – funcionam melhor quando combinados com conversas constantes sobre o uso responsável da IA, regras familiares claras sobre tecnologia e envolvimento ativo na compreensão do que seus filhos adolescentes estão fazendo online”, afirma Robbie Torney, diretor sênior de programas de IA da Common Sense Media.
Salvaguardas adicionais para adolescentes
A OpenAI também anunciou que contas de adolescentes vinculadas receberão proteções automáticas. Isso inclui filtros contra desafios virais perigosos e contra conteúdos que possam incentivar comportamentos de risco. Embora os pais possam desativar tais filtros, os adolescentes não têm essa opção.
A empresa reforça, contudo, que as medidas não são infalíveis. “As proteções ajudam, mas não são infalíveis e podem ser contornadas se alguém tentar burlá-las intencionalmente. Continuaremos a iterar e aprimorar cuidadosamente ao longo do tempo. Recomendamos que os pais conversem com seus filhos adolescentes sobre o uso saudável da IA e como isso se reflete na família”, destaca a OpenAI em nota.
Uma das mudanças mais sensíveis é o novo sistema de notificações para responsáveis em casos de risco de autolesão.
De acordo com a OpenAI, o ChatGPT foi ajustado para identificar possíveis sinais de que um adolescente esteja pensando em se machucar. Caso haja indícios de sofrimento agudo, uma equipe treinada revisará a situação e, se necessário, os pais serão alertados por e-mail, mensagem de texto ou notificação no celular.
A empresa afirma ainda que, em situações extremas, poderá entrar em contato com autoridades ou serviços de emergência. “Também estamos trabalhando no processo e nas circunstâncias corretas para contatar a polícia ou outros serviços de emergência, por exemplo, se detectarmos uma ameaça iminente à vida e não conseguirmos contatar um dos pais”, explica a empresa.
Recursos para as famílias
Além dos controles parentais, a OpenAI lançou uma página de apoio para pais, que reúne guias, dicas e sugestões de uso do ChatGPT de forma positiva. O espaço traz orientações sobre como incorporar a IA em tarefas escolares, atividades criativas e até na organização da rotina familiar.
Segundo a empresa, o objetivo é “dar aos pais informações necessárias para orientar seus filhos adolescentes para um uso seguro e positivo da IA”. A página deve ser atualizada regularmente com conselhos de especialistas e novos materiais educativos.
Previsão de idade automática
Nos próximos meses, a OpenAI também deve implementar um sistema de previsão de idade. A ideia é que, caso o usuário seja identificado como menor de 18 anos, o ChatGPT ative automaticamente as proteções para adolescentes.
Em caso de dúvida sobre a idade, a empresa promete “adotar o caminho mais seguro” e aplicar restrições preventivas. Até lá, os controles parentais serão a principal ferramenta para que famílias personalizem a experiência.
