Empleados de Meta dijeron que Muse pudo haber expuesto datos privados, según Reuters
🎧 Escucha esta noticia
Chats internos obtenidos por Reuters muestran que empleados de Meta estaban preocupados por las respuestas impredecibles del agente de IA Muse. Durante las pruebas, el sistema pareció acceder a mensajes privados cifrados, mezclar contextos entre usuarios y proporcionar, sin que se lo pidieran, saldos bancarios o de bitcoin. Un empleado también dijo que Muse lo inscribió accidentalmente en un plan de seguro premium para su perro, con un cobro mensual de US$ 888 en lugar de US$ 200, informó Reuters.
El portavoz de Meta, Daniel Roberts, dijo a Reuters que se trataba de “incidentes aislados” y que muchos mensajes que sugerían confusiones entre cuentas eran alucinaciones que ya habían sido corregidas. Reuters dijo que no pudo establecer si Muse realmente mostraba a los usuarios datos bancarios de otras personas o si inventaba la información. Meta dijo a Ars Technica que sus empleados prueban distintas versiones del producto para ayudar a implementar protecciones de seguridad y privacidad.
Por qué importa · interpretación editorial
El caso destaca que, en agentes que manejan datos personales, las respuestas impredecibles pueden dificultar distinguir entre una exposición real y información inventada por el sistema. Meta dice que los incidentes fueron aislados y que prueba distintas versiones para implementar protecciones de seguridad y privacidad, mientras Reuters no pudo confirmar si realmente se accedió a datos de terceros.
Fuentes
SeguridadAgentes