A empresa de inteligência artificial Anthropic, criadora do Claude, divulgou na segunda-feira (2) um estudo técnico que utiliza a mesma tecnologia cripto de redes de segunda camada do Ethereum, como Starknet e Mantle, para comprovar a autenticidade das respostas geradas por grandes modelos de linguagem.
Batizado de FlashProve, o sistema de código aberto aplica provas de conhecimento zero (zkSNARKs) para garantir ao usuário que o texto recebido veio do modelo contratado sem revelar os segredos industriais da ferramenta.
O trabalho foi conduzido pela equipe Frontier Red Team da dona do assistente Claude em parceria com especialistas do Instituto de Tecnologia de Massachusetts (MIT), da Escola Politécnica Federal de Lausanne (EPFL) e das empresas de infraestrutura blockchain StarkWare e Succinct. Assinam a pesquisa os cientistas Roy Rinberg, Alex Allain, Alessandro Chiesa, Miranda Christ, Rahul Dalal, Giacomo Fenzi, Ben Mayer e Guy Weissenberg.
Nos testes práticos realizados com o modelo aberto Llama 4 Maverick, da Meta, que possui 400 bilhões de parâmetros no formato de mistura de especialistas (MoE), uma única placa gráfica Nvidia H100 gerou provas na velocidade de 110 tokens por segundo.
Enquanto o sistema anterior conhecido como VerInf levava 14,3 horas para provar mil tokens desse mesmo modelo com um arquivo de 93,6 gigabytes que demorava quase um dia para ser conferido, a nova arquitetura entrega certificados de 18,78 megabytes por janela de 1.024 tokens verificáveis em 17 segundos em um processador comum de computador.
O mecanismo subjacente por trás do FlashProve é um zkSNARK do tipo implantado em sistemas ponto a ponto (por exemplo, redes L2 como Starknet ou Mantle para blockchains como Ethereum). Nosso zkSNARK é construído de acordo com uma receita bem estabelecida, na qual um objeto teórico da informação subjacente chamado prova de oráculo interativo (IOP) é compilado em uma prova criptográfica por meio de funções hash (e oferece até mesmo segurança pós-quântica) — Equipe Frontier Red Team, em estudo publicado pela Anthropic.
Próprio modelo Claude ajudou a otimizar criptografia e verificação formal em Lean
De acordo com o relatório técnico liberado sob a licença aberta Apache 2.0, o próprio modelo Claude ajudou a projetar as melhorias matemáticas do protocolo ao combinar testes de proximidade de código com restrições lineares e argumentos de busca.
A estrutura opera em um custo computacional de 70 a 95 vezes o tempo gasto para rodar a resposta pura no motor vLLM, marca muito inferior à lentidão de sistemas antigos como o ZKML de 2023 (159 segundos por token no GPT-2) ou o da Modulus Labs (mais de 90 horas para o GPT-2 XL).
Como o modelo de inteligência artificial frequentemente toma decisões difíceis de avaliar em sistemas complexos, os pesquisadores resolveram esse gargalo de confiança com o uso da linguagem de verificação formal Lean.
O pacote liberado para o público inclui o relatório técnico, a especificação escrita pelo Claude, um visualizador interativo de teoremas, o código provador e dois verificadores distintos (uma versão rápida em C++ para uso diário e outra comprovada matematicamente em Lean).
A engenharia funciona dividida em duas etapas para caber em uma única placa H100 de 80 gigabytes apoiada por 290 gigabytes de memória comum do servidor.
Na fase desconectada, que dura cerca de 39 minutos e vale para 16 milhões de consultas, o provedor publica uma impressão digital criptográfica de 6,5 megabytes sobre os pesos do modelo, enquanto na fase ativa o servidor processa pacotes de 24 pedidos em 223 segundos com trabalho proporcional apenas aos 17 bilhões de parâmetros ativados por cada token.
Quatro desafios de segurança resolvidos pelas provas herdadas das criptomoedas
O estudo aponta que um usuário comum hoje não tem como saber se um serviço terceirizado trocou um modelo caro por uma versão barata em segredo para cortar custos ou se um invasor alterou o fluxo de palavras para injetar códigos maliciosos.
Com o certificado anexado a cada resposta após o processamento (método chamado de post-hoc), qualquer tentativa de fraude ou até mesmo o risco de uma inteligência artificial avançada fingir ser um sistema mais fraco para escapar de travas de monitoramento acaba bloqueada pela matemática.
No campo regulatório, governos podem exigir esses recibos criptográficos para fiscalizar se os centros de dados estão dedicados ao atendimento de clientes em vez do treinamento clandestino de novas versões, além de garantir que apenas modelos aprovados em testes de segurança estejam no ar.
A tecnologia também inaugura o conceito de Prova de Falha (Proof-of-Failure), recurso pelo qual uma desenvolvedora consegue provar para clientes corporativos que gastou ao menos um milhão de tokens de um modelo de ponta em busca de falhas em um código sem encontrar nenhuma brecha.
