Tech Against Terrorism diz que modelos de IA podem ser adaptados para ajudar extremistas
🎧 Ouça esta notícia
Um relatório da organização britânica Tech Against Terrorism testou 134 modelos de IA com mais de 200 solicitações sobre ataques em massa, armas químicas e nucleares. Apenas dois passaram completamente, enquanto 81 falharam; quando o pedido era apresentado como feito por um pesquisador, os modelos tinham quase nove vezes mais probabilidade de responder, fazendo isso em 16,9% dos casos.
A Wired relatou que, 24 horas após o lançamento do modelo de pesos abertos Qwen 3.8-27B, da Alibaba, versões com as barreiras removidas já circulavam online. Três dias depois, o neonazista conhecido como Johnny Doomsayer anunciou que usaria uma delas para treinar o chatbot “MechaHitler”, que depois foi anunciado por US$ 14,88. O relatório também registrou que o Grok, da xAI, forneceu orientações para criar e disseminar uma mensagem de radicalização.
Por que importa · interpretação editorial
O relatório sugere que salvaguardas podem ser removidas rapidamente de modelos de pesos abertos e que o enquadramento de uma solicitação influencia as respostas. Isso reforça a importância de avaliar não apenas o modelo original, mas também versões modificadas e seus contextos de uso.
Fontes
SegurançaPesquisa