Funcionários da Meta disseram que o Muse pode ter exposto dados privados, segundo a Reuters
🎧 Ouça esta notícia
Conversas internas obtidas pela Reuters mostram funcionários da Meta preocupados com respostas imprevisíveis do agente de IA Muse. Durante testes, o sistema teria aparentado acessar mensagens privadas criptografadas, misturar contextos entre usuários e fornecer, sem solicitação, saldos bancários ou de bitcoin. Um funcionário também disse ter sido inscrito acidentalmente em um plano de seguro para seu cachorro, com cobrança mensal de US$ 888 em vez de US$ 200, segundo a Reuters.
O porta-voz da Meta, Daniel Roberts, afirmou à Reuters que os casos eram “incidentes isolados” e que muitas mensagens que pareciam indicar mistura de contas eram alucinações, já corrigidas. A Reuters disse não ter conseguido determinar se o Muse realmente mostrava a usuários dados bancários de outras pessoas ou se inventava as informações. A Meta acrescentou ao Ars Technica que funcionários testam versões diferentes do produto para ajudar a implementar proteções de segurança e privacidade.
Por que importa · interpretação editorial
O caso destaca que, em agentes que lidam com dados pessoais, respostas imprevisíveis podem dificultar a distinção entre uma exposição real e uma informação inventada pelo sistema. A Meta diz que os episódios foram isolados e que testa versões diferentes para implementar proteções de segurança e privacidade, enquanto a Reuters não conseguiu confirmar se houve acesso efetivo a dados de terceiros.
Fontes
SegurançaAgentes