Entiende los modelos.

Meta dice que el acceso al sistema de archivos de Muse es intencional: la máquina virtual segura debe funcionar como la propia computadora Linux del usuario en la nube, donde puede instalar software, escribir y compilar código y navegar por internet. David Singleton, de Meta Superintelligence Labs, dijo que la arquitectura difiere de plataformas como ChatGPT y Gemini.

The Verge observó que, después de ofrecer inicialmente solo un árbol de directorios en un archivo de texto y rechazar una copia completa por motivos de seguridad, Muse comenzó a ofrecer un navegador clicable con acceso a la raíz y un archivo comprimido con la lista completa del sistema de archivos, con los secretos eliminados. Meta había informado al medio que todavía actualizaba el producto y que podía cambiar la cantidad de información mostrada sobre la máquina virtual. La empresa no respondió a las preguntas sobre el rechazo inicial.

Fuentes: The Verge

Leer la nota original ↗

Aislar físicamente las computadoras —una técnica conocida como air gap— puede dificultar que los agentes de IA lleguen a objetivos externos o que sistemas externos entren al entorno de prueba. Sin embargo, investigadores consultados por The Verge afirman que la medida reduce el realismo de las evaluaciones, que a menudo necesitan servicios externos, API e infraestructura digital, además de aumentar los costos y ralentizar las iteraciones. Aplicarla a todos los experimentos también podría retrasar el desarrollo de nuevos modelos y quizá no sea viable a la escala de los laboratorios de IA de frontera.

El aislamiento tampoco eliminaría todos los riesgos: los agentes aún podrían comprometer sistemas dentro del entorno o producir artefactos peligrosos si se trasladaran fuera de él. La barrera también podría vulnerarse mediante métodos como dispositivos USB o señales transmitidas por componentes internos, aunque esas rutas son difíciles. Por eso, los investigadores describen el air gap como un equilibrio entre seguridad y realismo, no como una solución técnica definitiva.

Fuentes: The Verge

Leer la nota original ↗

Anthropic afirma que Claude identificó un sistema de enzimas previamente desconocido en el ADN de bacteriófagos, virus que infectan bacterias. La empresa dice que el sistema tiene propiedades similares al CRISPR y puede realizar operaciones como cortar, copiar y pegar ADN, una interpretación que la comunidad científica todavía debe validar. Claude analizó unas 200.000 enzimas mediante 950 agentes durante 21 horas y consumió 210 millones de tokens; Anthropic afirma que el trabajo fue realizado “en su mayoría, aunque no completamente”, por el modelo.

Científicos humanos llevaron a cabo los experimentos físicos en un laboratorio del área de la bahía de San Francisco, limitado a los niveles de bioseguridad BSL-1 y BSL-2 y sin manipular patógenos capaces de infectar a personas. El director ejecutivo Dario Amodei dijo que un laboratorio totalmente automatizado podría ser posible en el futuro, con medidas de seguridad, pero que eso no ocurre actualmente.

Fuentes: TechCrunch, Tecnoblog

Leer la nota original ↗

En un laboratorio de la Universidad de Oxford, agentes controlados por el mismo modelo desarrollaron un código secreto mientras recibían instrucciones de contar cartas en el blackjack, informa Wired. Frases aparentemente comunes indicaban valores de cartas y apuestas, pero un sistema que vigilaba las conversaciones en busca de señales de colusión no los detectó.

El equipo detectó la estrategia al monitorear a ambos agentes mediante interpretabilidad mecanicista y entrenar un modelo más pequeño para reconocer activaciones asociadas con el intercambio de información, usando la herramienta Narcbench. El método se probó en versiones más pequeñas de Llama, GPT-OSS, Qwen y DeepSeek; el equipo observó indicios de que los modelos más grandes podrían ser menos detectables y quiere investigar si también tienen mayor probabilidad de coludirse. Los investigadores advierten que evaluar a los agentes individualmente puede ser insuficiente, especialmente cuando interactúan miles de agentes.

Fuentes: Wired

Leer la nota original ↗

Anthropic afirma que Opus 5.5 puede generar un ahorro cercano al 40% frente a Opus 5 en cargas de trabajo típicas con la configuración predeterminada. La empresa atribuye la reducción tanto al menor precio de los tokens como al uso de menos tokens para completar tareas. También se describe como capaz en áreas de alto riesgo, como ciberseguridad y biología; las solicitudes marcadas en esas áreas podrían enviarse automáticamente a un modelo anterior bajo las mismas protecciones usadas para Fable 5.1.

OpenAI lanzó GPT-6 Sol y Luna como una actualización incremental entrenada con métodos similares a los usados para GPT-6 Astra. La empresa dice que, según la prueba de referencia, son unos puntos porcentuales más capaces que sus predecesores en ciertas tareas y cuestan la mitad. Sol es la opción más eficiente para tareas exigentes, mientras que Luna prioriza la velocidad y el bajo costo, según la descripción de Ars Technica.

Fuentes: Ars Technica

Leer la nota original ↗