Artigo apresenta verificador de fontes para agentes de IA com MCP

Um artigo publicado no Hugging Face apresenta o ProvenanceGuard, uma camada de verificação pós-geração para agentes de IA baseados no Model Context Protocol (MCP). O sistema procura detectar a “conflation entre fontes”: casos em que uma afirmação é sustentada pelas evidências reunidas, mas atribuída no texto à fonte errada — um problema que verificadores convencionais podem não identificar ao analisar todas as evidências em conjunto.

O ProvenanceGuard processa os rastros do MCP, mantém os identificadores das fontes, divide a resposta em afirmações, verifica qual fonte as sustenta e compara essa fonte com a mencionada ou sugerida na resposta. Em seguida, produz resultados por afirmação e uma decisão geral para liberar ou bloquear o texto; respostas bloqueadas podem passar por reparo e nova verificação. Nos experimentos descritos no artigo, modelos locais foram usados para localizar fontes, verificar suporte textual e decompor as respostas, com checagem adicional de números, datas e identificadores.