OpenClaw, IA usada para criar rede social de robôs, alucina e apaga e-mails de executiva da Meta

Por que o Moltbook, rede social das IAs, pode não ser a revolução que promete
O agente de inteligência artificial OpenClaw ganhou fama há algumas semanas após ter sido usado para criar o Moltbook, rede social exclusiva para robôs. A ferramenta pode automatizar várias tarefas, mas também é capaz de colocar dados em risco.
Um caso revelado nesta segunda-feira (23) indica que o OpenClaw pode ter apagado vários e-mails de uma usuária por engano. A conclusão foi de que o agente alucinou quando deveria analisar as mensagens e indicar quais poderiam ser excluídas.
Foi o que relatou Summer Yue, diretora de segurança e alinhamento no time de superinteligência artificial da Meta, controladora do Instagram, do Facebook e do WhatsApp.
🔎 Agentes de IA são programas que executam tarefas de forma autônoma, como fazer compras online ou reservar restaurantes. Ao contrário dos chatbots, os agentes tomam decisões e executam ações sozinhos, em vez de apenas responder ao que é solicitado.
O que é ‘alucinação’ de inteligência artificial
IA do Instagram alucina e inventa que banda tem ligação com supremacia branca
OpenClaw
Reprodução
Summer Yue relatou que tinha experimentado o OpenClaw em uma caixa de entrada de testes e que o agente tinha executado a tarefa como previsto. Mas disse que, como sua conta de e-mail tinha muitas mensagens, a instrução foi perdida.
“Fiquei confiante demais porque esse fluxo de trabalho estava funcionando na minha caixa de entrada de teste há semanas. Caixas de entrada reais são diferentes”, afirmou Yue em sua rede social.
“Nada te humilha mais do que dizer ao seu OpenClaw ‘confirme antes de agir’ e vê-lo deletar sua caixa de entrada em alta velocidade”.
A interação com o OpenClaw era feita por meio de um aplicativo de mensagens. Ao perceber que as mensagens estavam sendo apagadas, Yue tentou interromper o funcionamento da IA, mas não conseguiu.
A saída foi desativar a exclusão dos e-mails no dispositivo em que o OpenClaw estava hospedado. “Tive que correr para o meu Mac mini [computador da Apple] como se estivesse desarmando uma bomba”, afirmou.
‘Openclaw, pare’: executiva da Meta fez várias tentativas para impedir agente de IA de apagar seus e-mails
Reprodução
O gerenciamento de e-mails é justamente uma das tarefas que usuários do OpenClaw mais destacam sobre a ferramenta. A ferramenta também pode ser usada para lidar com contratos, enviar mensagens e controlar luzes inteligentes, por exemplo.
O agente chamou atenção pela quantidade de ações que é capaz de automatizar e pela possibilidade de centralizar informações de vários serviços em um só lugar, o que pode aumentar a produtividade de seus usuários.
Mas as permissões amplas que a ferramenta precisa para agilizar certas tarefas é um dos pontos que levanta preocupações. E, caso o comando seja mal interpretado, o prejuízo pode ser enorme.
LEIA TAMBÉM:
Críticas aos humanos, livre-arbítrio, religião: o que robôs comentam no Moltbook, rede social só para IAs
Moltbook, rede social das IAs, faz robôs conversarem entre si, mas o quanto disso é real?
‘Não dá pra viver sem VPN’: como brasileiros na Rússia driblam restrições às redes sociais
Caricatura no ChatGPT: como transformar sua foto em desenho com a IA
Moltbook: o que é real e o que é exagero na rede social pra agentes de IA?