Cafeteria comandada por 'chefe' de IA vive crise após série de erros inusitados

Sistema que administra o café também fez pedidos de produtos que nem fazem parte do cardápio, como tomates enlatados.
AP Photo/James Brooks
O café pode até ser servido por mãos humanas, mas, por trás do balcão, algo bem menos tradicional comanda as operações em um café experimental em Estocolmo.
A startup Andon Labs, sediada em São Francisco, colocou uma agente de inteligência artificial, apelidada de “Mona”, no comando do Andon Café, que leva o mesmo nome, na capital sueca.
🗒️ Tem alguma sugestão de reportagem? Mande para o g1
Embora baristas humanos ainda preparem o café e atendam os clientes, a IA — alimentada pelo Gemini, do Google — supervisiona quase todos os outros aspectos do negócio, desde a contratação de funcionários até o controle de estoque.
Ainda não está claro quanto tempo o experimento irá durar, mas a agente de IA parece enfrentar dificuldades para gerar lucro no competitivo mercado de cafés de Estocolmo.
Desde a inauguração, em meados de abril, o estabelecimento faturou mais de US$ 5.700, mas restam menos de US$ 5.000 do orçamento inicial, que ultrapassava US$ 21.000. Grande parte dos recursos foi consumida nos custos de abertura, e a expectativa é de que, com o tempo, as finanças se estabilizem e o negócio passe a operar no azul.
Muitos frequentadores consideraram a experiência curiosa e divertida. No local, os clientes podem usar um telefone disponível no café para fazer perguntas ao sistema responsável pelo atendimento.
“É interessante ver o que acontece quando se ultrapassam os limites”, disse a cliente Kajsa Norin. “A bebida estava boa.”
Especialistas, no entanto, demonstram preocupação com o papel da inteligência artificial no futuro. Eles apontam uma série de questões éticas, que vão desde o impacto da tecnologia na sociedade até seu uso em processos como entrevistas de emprego e avaliação de desempenho de funcionários.
Emrah Karakaya, professor associado de economia industrial no Instituto Real de Tecnologia KTH, em Estocolmo, comparou o experimento a “abrir a caixa de Pandora” e afirmou que colocar a IA no comando pode gerar diversos problemas. Ele questiona, por exemplo, quem seria responsabilizado caso um cliente sofresse uma intoxicação alimentar.
“Se não houver uma estrutura organizacional adequada e esses erros forem ignorados, isso pode causar danos às pessoas, à sociedade, ao meio ambiente e aos negócios”, disse Karakaya. “A questão é: estamos dispostos a lidar com esse impacto negativo?”
“Chefe” robô já comprou mais de 6 mil guardanapos e esqueceu de encomendar pão para os sanduíches
AP Photo/James Brooks
Fundada em 2023, a Andon Labs é uma startup focada em segurança e pesquisa em inteligência artificial. A empresa afirma ter como objetivo testar o desempenho de agentes de IA em situações reais, oferecendo “ferramentas e recursos financeiros reais”.
A startup já trabalhou com empresas como OpenAI, criadora do ChatGPT, Anthropic, Google DeepMind e xAI, de Elon Musk, e se prepara para um cenário em que organizações possam ser administradas de forma autônoma por sistemas de IA.
O café na Suécia é apresentado como um “experimento controlado” para investigar como essa tecnologia poderá ser aplicada no futuro.
“A IA terá um papel importante na sociedade, e queremos entender quais questões éticas surgem quando ela passa a empregar pessoas e administrar um negócio”, afirmou Hanna Petersson, integrante da equipe técnica da Andon Labs.
O laboratório já havia conduzido projetos-piloto nos quais a IA Claude, da Anthropic, foi responsável pela gestão de uma máquina de vendas automáticas e de uma loja de presentes em São Francisco.
Nesse teste, foram observados comportamentos preocupantes: o sistema prometia reembolsos que não eram realizados e também fornecia informações falsas a fornecedores sobre preços da concorrência para obter vantagem.
Além de contratar funcionários e controlar o estoque, o “gerente” não humano envia mensagens aos baristas até fora do horário de trabalho.
AP Photo/James Brooks
Agente de IA enfrenta dificuldades com pedidos de estoque
Segundo Petersson, Mona começou a operar após receber algumas instruções básicas. A equipe orientou que ela deveria administrar o café de forma lucrativa, manter uma comunicação amigável e resolver sozinha as questões operacionais, solicitando novas ferramentas sempre que necessário.
A partir disso, a empresa firmou contratos de eletricidade e internet e obteve as licenças necessárias para manipulação de alimentos e instalação de mesas ao ar livre. Em seguida, o sistema divulgou vagas de emprego no LinkedIn e no Indeed e abriu contas comerciais com atacadistas para a compra diária de pães e outros produtos de padaria.
A comunicação com os baristas ocorre via Slack, muitas vezes com mensagens enviadas fora do horário de trabalho — o que contraria as práticas profissionais comuns na Suécia.
Outros problemas também surgiram, especialmente relacionados ao controle de estoque.
A IA chegou a encomendar 6 mil guardanapos, quatro kits de primeiros socorros e 3.000 luvas de borracha para o pequeno café — além de tomates enlatados que não fazem parte de nenhum item do cardápio.
E há ainda a questão do pão: em alguns dias, o sistema faz pedidos em excesso; em outros, não encomenda o suficiente, obrigando os baristas a retirar sanduíches do menu.
Petersson afirmou que essas falhas provavelmente estão ligadas às limitações de memória do sistema.
“Quando registros antigos deixam de ser considerados, ela simplesmente esquece o que já pediu”, explicou.
O barista Kajetan Grzelczak afirma não se preocupar, por ora, com a possibilidade de ser substituído por uma inteligência artificial.
“Os trabalhadores estão praticamente seguros”, disse. “Quem deveria se preocupar são os cargos intermediários, especialmente na gerência.”