ChatGPT poderá avisar polícia se adolescente estiver com ideias suicidas, diz OpenAI

Site do ChatGPT
Florence Lo/Illustration/ Reuters
A OpenAI anunciou nesta terça-feira (16) que o ChatGPT poderá acionar autoridades se identificar que adolescentes estão com pensamentos suicidas durante o uso da ferramenta de inteligência artificial.
A medida faz parte de um pacote de proteção para menores de 18 anos. A empresa também vai implementar verificação de idade e ferramentas de controle parental.
As novidades foram divulgadas pela OpenAI e pelo CEO Sam Altman em comunicados publicados nesta terça-feira.
“Se um usuário menor de 18 anos estiver com ideias suicidas, tentaremos entrar em contato com os pais do usuário e, se não for possível, entraremos em contato com as autoridades em caso de perigo iminente”, disse Altman.
📱Baixe o app do g1 para ver notícias em tempo real e de graça
Pais culpam ChatGPT por suicídio do filho e processam OpenAI
Mãe processa Roblox e Discord após adolescente sofrer abuso online e cometer suicídio
Novos recursos
A OpenAI disse que está desenvolvendo um sistema para identificar se o usuário é maior de idade. Caso tenha menos de 18 anos, ele será direcionado a “uma experiência no ChatGPT com políticas adequadas à sua idade”.
Segundo a empresa, essa versão bloqueia conteúdo sexual explícito e, em situações graves, pode envolver a polícia para garantir a segurança do adolescente.
Os recursos de controle parental, que devem ser lançados até o fim do mês, também citam a possibilidade de acionar autoridades em casos de emergência.
Com essa configuração, os pais poderão conectar suas contas às dos filhos e receber um alerta caso o ChatGPT identifique sinais de sofrimento intenso.
“Se não conseguirmos contatar um dos pais em uma rara emergência, podemos acionar a polícia como próximo passo”, diz a OpenAI.
A OpenAI já havia mencionado os novos recursos de controle parental no início de setembro, após ser processada por pais de um adolescente de 16 anos que cometeu suicídio nos Estados Unidos. Segundo eles, o ChatGPT teria sugerido métodos de autoagressão.
Meta ocultou estudos sobre segurança infantil, denunciam ex-funcionários
Agente do ChatGPT reserva restaurante, faz compra, mas erra ao insistir demais