Vitalik Buterin, fundador do Ethereum, saiu em defesa nesta semana de que inteligências artificiais (IAs) tenham suas capacidades limitadas. Na visão do desenvolvedor, isso seria melhor do que discriminar usuários com exigência de verificação de identidade e outros métodos de vigilância.
Sendo mais específico, Buterin estava falando sobre o Kimi K3.1 Pro, lançado na última sexta-feira (23).
Segundo testes internos da Moonshot AI, o modelo resolveu 90,5% dos desafios de exploração de vulnerabilidades. No entanto, sua versão pública atingiu uma marca de somente 81% neste mesmo teste.
Melhor limitar a IA do que os usuários, diz Vitalik Buterin sobre lançamento de novo modelo
Cada vez mais avançadas, as IAs estão encontrando diversas vulnerabilidades tanto em projetos de criptomoedas quanto em outras indústrias da internet. Em setembro, Vitalik Buterin chegou a afirmar que essas ferramentas fortalecerão a segurança das criptomoedas.
Já no último domingo (25), o fundador do Ethereum voltou a falar sobre o tema, apoiando a decisão da Moonshot AI em lançar uma versão limitada do Kimi K3.1.
“Não vejo problema em o Kimi 3.1 deixar deliberadamente de fora dos dados de treinamento recursos ofensivos avançados de cibersegurança.”
Explicando seu pensamento, o desenvolvedor aponta que “discriminar casos de uso é muito menos ruim do que discriminar usuários”. Como exemplo, cita que, caso isso não seja feito, é possível que o acesso a esses modelos exija verificação de identidade (KYC) e outros métodos de vigilância.
“O mundo precisa de todo o tempo que puder conseguir para se preparar, reforçar suas defesas, verificar códigos antigos, verificar formalmente novos códigos de maneira (adequada) e assim por diante, antes que todo o poder de ataques cibernéticos extremamente poderosos recaia sobre nós.”
Finalizando, Buterin afirma que, se essa primeira onda de riscos da IA não for bem administrada, poderemos entrar em uma distopia de modelos altamente restritos.
Outras empresas lançarão modelos tão poderosos quanto
Questionado por um de seus 7,9 milhões de seguidores se outra empresa lançará um modelo tão poderoso quanto o Kimi K3.1, Vitalik Buterin foi direto em sua resposta.
“Sim, claro que elas vão.”
Em outras palavras, parece ser apenas uma questão de tempo para que as IAs façam novas descobertas de vulnerabilidades críticas em diversos projetos, tanto do mundo cripto quanto fora dele.
No início do mês, o fundador do Ethereum chegou a compartilhar um texto em que um pesquisador afirmava que a indústria deveria entrar em um “modo bunker” para se proteger de ameaças até então inimagináveis.
