Alerta da Anthropic reacende debate sobre riscos e benefícios de modelos abertos
🎧 Ouça esta notícia
A Anthropic afirma que o GLM-5.3, modelo lançado em agosto pela chinesa Z.ai, representa um grande risco de ciberataques porque pode ser baixado e modificado livremente. O alerta reacende a discussão sobre manter modelos avançados fechados ou disponibilizá-los como modelos abertos, em um debate que também envolve interesses comerciais: Jensen Huang, da Nvidia, defende mais modelos abertos nos Estados Unidos, enquanto Dario Amodei, da Anthropic, adota uma posição mais cautelosa.
Segundo a análise do MIT Technology Review, modelos abertos podem ser executados em computadores próprios, re treinados e examinados internamente, o que é importante para pesquisadores. Eles também podem ser combinados, comprimidos e ajustados para novas aplicações. Modelos fechados ainda são mais capazes: os oito primeiros colocados do ranking Artificial Analysis LLM eram fechados no momento da publicação. Um relatório recente da Mozilla citado pela publicação afirma que modelos abertos normalmente custam menos, mas a abertura envolve uma troca entre segurança e democratização.
Por que importa · interpretação editorial
A avaliação da Anthropic coloca em primeiro plano o dilema entre permitir que pesquisadores examinem, adaptem e executem modelos abertos e limitar possíveis usos nocivos. Para leitores que escolhem modelos, a análise também indica um trade-off entre menor custo e maior abertura, de um lado, e capacidades superiores dos modelos fechados, de outro.
Fontes
Segurança