O Brave Browser divulgou nesta terça-feira (21) uma nova vulnerabilidade que afeta navegadores de IA. Embora o caso esteja ligado ao Perplexity Comet e ao Fellou, as informações são reveladas no mesmo dia em que a OpenAI lança o ChatGPT Atlas.
Em resumo, os especialistas apontam que um simples acesso ao Reddit pode resultar no roubo de dados privados e dinheiro.
Isso porque a Inteligência Artificial pode interpretar uma postagem como se fosse um novo comando. Num dos exemplos, ela é orientada a acessar o e-mail do usuário e então publicar um código de acesso único ligado a determinado serviço.
Em outro exemplo, a injeção de prompt é feita por capturas de tela, algo imperceptível já que as instruções maliciosas são um texto quase invisível na imagem processada.
Brave expõe vulnerabilidades em navegadores de IA
A OpenAI lançou o navegador ChatGPT Atlas nesta terça-feira (21), atraindo a atenção do público geral para uma nova forma de navegar na internet.
No entanto, no mesmo dia, o Brave Browser revelou um segundo estudo sobre vulnerabilidades nestes navegadores de IA. O foco não foi o Atlas, mas sim o Comet da Perplexity AI, e o Fellou.
“Ataques de injeção indireta de prompt ocorrem quando instruções maliciosas são escondidas em conteúdos da web, como páginas de sites. Quando um modelo de linguagem analisa o conteúdo, ele obedece às instruções ocultas porque acredita que são comandos reais do usuário.”
Enquanto a descoberta publicada em agosto apontava para ataques visíveis ao usuário, a segunda é mais perigosa por ser imperceptível.
“O assistente Comet da Perplexity permite que usuários façam capturas de tela em sites e façam perguntas sobre essas imagens”, explicou o Brave. “Essas capturas de tela podem ser usadas como mais uma forma de injetar prompts que contornam a sanitização tradicional de entradas em texto.”
“Instruções maliciosas incorporadas como texto quase invisível dentro da imagem são processadas como comandos em vez de conteúdo (não confiável).”
No exemplo, o que parece ser uma simples foto de uma janela contém um comando para a IA abrir a conta do usuário, buscar por dados sensíveis, acessar seu e-mail e então compartilhar uma senha temporária com o atacante.
“O aspecto mais assustador dessas falhas de segurança é que um assistente de IA pode agir com os privilégios autenticados do usuário”, finalizaram os especialistas.
“Um navegador autônomo sequestrado por um site malicioso pode acessar contas bancárias, e-mails de trabalho ou outras contas sensíveis do usuário.”
Conforme esses navegadores ainda são novos e a expansão da base de usuários deve crescer nos próximos anos, é muito provável que hackers busquem novas vulnerabilidades como estas.
Para investidores de criptomoedas, o desafio da segurança pode ser ainda maior, cabendo tomar medidas mínimas para evitar o roubo de dados sensíveis.
