A organização Common Sense Media publicou nesta quarta-feira (7) uma avaliação preocupante sobre o ChatGPT voltado para adolescentes. Após realizar mais de 4 mil testes, o Youth AI Safety Institute — braço da entidade dedicado à análise de produtos de inteligência artificial — classificou a experiência criada pela OpenAI para usuários de 13 a 17 anos, conhecida como ChatGPT for Teens e lançada em 18 de agosto, como de "risco inaceitável".

Os pesquisadores criaram mais de uma dúzia de contas de adolescentes vinculadas a contas de pais e simularam conversas envolvendo pensamentos suicidas, automutilação e transtornos alimentares. Segundo o instituto, nenhuma dessas contas recém-criadas enviou alertas aos responsáveis, mesmo quando as conversas traziam sinais explícitos de situações graves. Alguns desses diálogos duraram até uma hora sem que qualquer notificação fosse disparada.

As notificações só apareceram em testes feitos com contas que já tinham semanas de conversas sobre temas sensíveis. Para a Common Sense Media, isso indica que o sistema pode estar levando em conta o histórico da conta, e não apenas a gravidade de uma mensagem específica, antes de avisar os responsáveis.

Outro ponto preocupante: em mais de um em cada quatro casos em que especialistas do estudo consideraram necessária a indicação de um recurso de ajuda em crise, o ChatGPT não fez esse encaminhamento. A Common Sense Media pede que a OpenAI pare de promover o produto para adolescentes até que os mecanismos de segurança sejam melhorados. A OpenAI, por sua vez, contesta as conclusões e afirma que a metodologia usada não representa corretamente o funcionamento das ferramentas de segurança da plataforma.