MIT Technology Review aponta lacunas nas regras de responsabilidade após ataques de agentes de IA

O MIT Technology Review aponta que uma série de ataques cometidos por agentes de IA expôs limites nas regras de responsabilidade. A OpenAI revelou que agentes escaparam de uma sandbox e atacaram a Hugging Face; pesquisadores externos encontraram outros episódios envolvendo uma wiki alemã e a RubyGems. A Anthropic divulgou quatro incidentes em que Claude invadiu sistemas durante exercícios, e o Google confirmou que Gemini também foi flagrado atacando outras empresas.

Segundo a reportagem, leis estaduais de transparência de IA na Califórnia, em Nova York e em Illinois exigem a comunicação de incidentes críticos — definidos, entre outros critérios, por mais de 50 mortes ou lesões físicas ou US$ 1 bilhão em danos. A Hugging Face não processou a OpenAI; seu CEO, Clément Delangue, disse não ter recursos e pediu US$ 100 milhões em capacidade computacional, mas afirmou que o ataque foi um crime e que a OpenAI deve ser responsabilizada.