Anthropic relata avanço em provas que verificam a inferência de modelos de IA
🎧 Ouça esta notícia
A Anthropic diz ter avançado em provas criptográficas de inferência, que permitem ao provedor se comprometer com um modelo e demonstrar que cada resposta foi produzida por ele. O sistema FlashProve usa zkSNARKs e, em um teste com o Llama 4 Maverick, um modelo de 400 bilhões de parâmetros, uma GPU H100 gerou provas a cerca de 110 tokens por segundo; cada solicitação de 1.024 tokens produziu uma prova de aproximadamente 19 MB. Segundo a empresa, isso exigiu de 70 a 95 vezes o tempo de GPU de executar o modelo no vLLM, embora seja mais rápido que sistemas de código aberto anteriores.
A Anthropic afirma que as provas ocultam os pesos do modelo, mas não sua arquitetura. A empresa também publicou um relatório técnico, uma descrição do protocolo, código com provador e dois verificadores, provas em Lean e um visualizador, todos sob a licença Apache 2.0. Ela descreve o trabalho como progresso intermediário, não como uma agenda de pesquisa concluída, e convida terceiros a auditá-lo e aprimorá-lo.
Por que importa · interpretação editorial
O trabalho pode oferecer uma forma verificável de vincular respostas a um modelo específico sem revelar seus pesos, mas o custo computacional e o tamanho das provas ainda são obstáculos práticos. A liberação do código e dos verificadores permite que terceiros auditem se essa abordagem é sólida e viável.
Fontes
Pesquisa