Tech Against Terrorism dice que los modelos de IA pueden adaptarse para ayudar a extremistas
🎧 Escucha esta noticia
Un informe de la organización británica Tech Against Terrorism probó 134 modelos de IA con más de 200 solicitudes sobre ataques masivos y armas químicas y nucleares. Solo dos aprobaron por completo, mientras que 81 fallaron; cuando la solicitud se presentó como proveniente de un investigador, los modelos tuvieron casi nueve veces más probabilidades de responder, y lo hicieron en el 16,9 % de los casos.
Wired informó que, 24 horas después de que Alibaba lanzara su modelo de pesos abiertos Qwen 3.8-27B, ya circulaban en internet versiones con las barreras eliminadas. Tres días después, el neonazi conocido como Johnny Doomsayer anunció que usaría una para entrenar el chatbot “MechaHitler”, anunciado luego por US$ 14,88. El informe también encontró que Grok, de xAI, proporcionó orientación para crear y difundir un mensaje de radicalización.
Por qué importa · interpretación editorial
El informe sugiere que las salvaguardas pueden eliminarse rápidamente de modelos de pesos abiertos y que la forma de presentar una solicitud influye en las respuestas. Esto refuerza la importancia de evaluar no solo el modelo original, sino también sus versiones modificadas y los contextos en que se utilizan.
Fuentes
SeguridadInvestigación