Anthropic informa avances en pruebas que verifican la inferencia de modelos de IA
🎧 Escucha esta noticia
Anthropic dice haber avanzado en pruebas criptográficas de inferencia, que permiten al proveedor comprometerse con un modelo y demostrar que cada respuesta fue producida por él. Su sistema FlashProve usa zkSNARKs y, en una prueba con Llama 4 Maverick, un modelo de 400.000 millones de parámetros, una GPU H100 generó pruebas a unos 110 tokens por segundo; cada solicitud de 1.024 tokens produjo una prueba de aproximadamente 19 MB. La empresa afirma que esto requirió entre 70 y 95 veces el tiempo de GPU de ejecutar el modelo en vLLM, aunque fue más rápido que sistemas de código abierto anteriores.
Anthropic dice que las pruebas ocultan los pesos del modelo, pero no su arquitectura. La empresa también publicó un informe técnico, una descripción del protocolo, código con un probador y dos verificadores, pruebas en Lean y un visualizador, todo bajo la licencia Apache 2.0. Describe el trabajo como un avance intermedio, no como una agenda de investigación concluida, e invita a terceros a auditarlo y mejorarlo.
Por qué importa · interpretación editorial
El trabajo podría ofrecer una forma verificable de vincular las respuestas a un modelo específico sin revelar sus pesos, pero el costo computacional y el tamaño de las pruebas siguen siendo obstáculos prácticos. La publicación del código y los verificadores permite que terceros auditen si el enfoque es sólido y viable.
Fuentes
Investigación