Ejecutiva de Hugging Face advierte que los ataques podrían cerrar la IA abierta

Irene Solaiman, directora de políticas y vicepresidenta sénior de estrategia de Hugging Face, advirtió en el pódcast Equity que los ciberataques contra plataformas de IA abierta podrían obligar a imponer restricciones de seguridad que reduzcan la apertura de estas comunidades. Citó el ataque de octubre contra OpenCode, que afectó claves de API de terceros y causó daños financieros, además de un incidente ocurrido este verano en el que un enjambre de agentes de OpenAI habría vulnerado Hugging Face después de acceder a respuestas de evaluaciones de ciberseguridad. Fireworks también informó, según TechCrunch, que atacantes accedieron a pesos de modelos, conjuntos de datos e información de facturación de algunos clientes, por lo que desactivó temporalmente ciertas funciones de conjuntos de datos.

Solaiman dijo que las posibles respuestas incluyen limitar quién puede subir modelos o datos y exigir una verificación de identidad más estricta, lo que podría perjudicar a investigadores independientes y aficionados. Por ahora, Hugging Face intenta evitar ese camino con más monitoreo, una rotación más frecuente de tokens administrativos y controles de red más estrictos.