Anthropic diz que Claude verificou formalmente 123 bibliotecas de código aberto

A Anthropic diz que, em colaboração com a Theorem, usou Claude para produzir provas formais de propriedades de segurança em 123 bibliotecas de software de código aberto. O trabalho verificou, no nível de assembly RISC-V, que os programas analisados sempre encerram normalmente sem erros de segurança de memória ou falhas de asserção para entradas inferiores a 64 MB e determinadas respostas do Linux e configurações de memória, sob condições específicas de execução.

Segundo a Anthropic, Claude também encontrou bugs que não haviam sido detectados por anos, apesar de trilhões de execuções de testes. A empresa afirma que publicou parte das provas para que possam ser verificadas e reutilizadas, mas ressalta que o método ainda está longe de corrigir todos os possíveis bugs.