Venda de urso de pelúcia com IA é suspensa após brinquedo dar conselhos sexuais

Venda de pelúcia com IA é suspensa após brinquedo dar conselhos sexuais
Reprodução
A FoloToy, empresa de brinquedos infantis, está retirando do mercado seu ursinho de pelúcia Kumma, equipado com inteligência artificial, após o brinquedo fornecer conselhos sexuais e abordar temas considerados perigosos.
Os problemas foram descobertos por pesquisadores do Public Interest Research Group (PIRG), que testaram três dispositivos infantis com chatbots de IA.
Nos testes, Kumma chegou a dar dicas como “ser um bom beijador” e explicou diferentes fetiches. Em outra interação, alertou que fósforos são para adultos, mas logo em seguida explicou passo a passo como acendê-los.
“Dos brinquedos que testamos, o Kumma da FoloToy foi o mais disposto a oferecer informações sexualmente explícitas e respondeu perguntas sobre onde encontrar objetos perigosos, como facas, comprimidos e fósforos”, afirmaram os pesquisadores.
Após a divulgação do estudo, o diretor de marketing da FoloToy, Hugo Wu, disse que a empresa “decidiu suspender temporariamente as vendas do produto e iniciar uma auditoria interna de segurança abrangente”, segundo informações do portal Futurism.
“Agradecemos aos pesquisadores por apontarem riscos potenciais. Isso nos ajuda a melhorar”, acrescentou o executivo.
Página do produto fora do ar.
Reprodução
O g1 acessou o site da empresa e constatou que, ao tentar comprar o brinquedo, a seguinte mensagem é exibida: “Nenhum produto encontrado” (veja na imagem acima).
No site, a FoloToy afirma que o Kumma é alimentado pelo GPT-4o, da OpenAI, dona do ChatGPT.
A empresa destaca que o brinquedo “alimenta a curiosidade por meio de atividades envolventes e conversas reflexivas” e que o urso conta com “controles fáceis de usar que permitem personalizar e monitorar a experiência do seu filho”.
Ataque no WhatsApp pode roubar senhas de usuários; veja como se proteger
Data centers de IA podem consumir energia equivalente à de milhões de casas
Criminosos podem usar suas fotos nas redes para aplicar golpes financeiros?