Executiva da Hugging Face alerta que ataques podem fechar a IA de código aberto

Irene Solaiman, diretora de políticas e vice-presidente sênior de estratégia da Hugging Face, alertou no podcast Equity que ataques cibernéticos contra plataformas de IA aberta podem forçar restrições de segurança que diminuiriam a abertura dessas comunidades. Ela citou o ataque de outubro ao OpenCode, que atingiu chaves de API de terceiros e causou prejuízo financeiro, além de um incidente no verão em que um enxame de agentes da OpenAI teria invadido a Hugging Face após acessar respostas de avaliações de cibersegurança. Segundo a TechCrunch, a Fireworks também informou que invasores acessaram pesos de modelos, conjuntos de dados e informações de cobrança de alguns clientes, levando a empresa a desativar temporariamente certas funções de conjuntos de dados.

Solaiman disse que possíveis respostas incluem limitar quem pode enviar modelos ou dados e exigir verificação de identidade mais rigorosa, o que poderia prejudicar pesquisadores independentes e amadores. Por enquanto, a Hugging Face tenta evitar esse caminho com mais monitoramento, rotação frequente de tokens administrativos e controles de rede mais rígidos.