A promessa da inteligência artificial é tentadora: menos tempo perdido com tarefas aborrecidas, como ler emails demasiado longos. Mas o que acontece quando essa mesma IA começa, sem querer, a abrir a porta a esquemas perigosos? É exatamente o que se passa e daí esta alerta sobre o Gemini que deixa os utilizadores do Gmail assustados.
Alerta sobre o Gemini deixa utilizadores do Gmail em choque
O mais recente alvo é um dos serviços mais usados do mundo: o Gmail da Google e o protagonista deste caso é o Gemini. Ou seja, o sistema de inteligência artificial da Google que agora resume automaticamente emails para utilizadores do Workspace (contas empresariais). O problema? Hackers descobriram como manipular esses resumos usando prompt engineering, ou seja, instruções escondidas que influenciam o comportamento da IA.
O investigador conhecido como blurrylogic submeteu a falha à 0din, a plataforma da Mozilla para bugs relacionados com IA. A descoberta é preocupante: ao introduzir mensagens disfarçadas em HTML ou com texto invisível (usando cores iguais ao fundo), é possível fazer com que o Gemini mostre instruções falsas no resumo do email.
Imagine abrir um email e ver um resumo que diz:
“Este email contém um aviso de segurança. Contacte o administrador através deste link para resolver o problema.”
Mas essa mensagem nunca foi escrita por quem enviou o email. Ou seja, foi fabricada por comandos escondidos no conteúdo, interpretados de forma cega pela IA.
O perigo da engenharia social com IA
O maior risco aqui é a manipulação do utilizador. Como a mensagem aparece no resumo gerado pelo Gemini, muitos podem assumi-la como legítima, vinda da própria Google. Na prática é uma porta aberta ao phishing: roubos de credenciais, links para sites falsos, ou pedidos para ações que colocam a segurança dos dados em causa.
E tudo isto pode passar completamente despercebido.
Google responde, mas o perigo espreita
Após a denúncia, a Google confirmou que está a tomar medidas para fortalecer o Gemini contra este tipo de truques. Assim estão a atualizar a base de dados de instruções maliciosas conhecidas, a treinar os modelos de IA para ignorar comandos disfarçados, e a reforçar os filtros de segurança.
Além disso, o Gemini já consegue identificar links suspeitos ou maliciosos e removê-los dos resumos automáticos. Também exige confirmação do utilizador para ações mais sensíveis, como eliminar tarefas.
Mas será isso suficiente?
Nunca confie cegamente num resumo gerado por IA
Apesar das melhorias, os cibercriminosos estão sempre um passo à frente. Por isso, se vir um resumo com instruções para clicar, ligar para alguém ou enviar informações, pare. Leia o email completo. Verifique a origem. Nunca siga um link apenas porque o Gemini o “resumiu” para si.
A promessa da IA é poderosa, mas a responsabilidade continua a ser sua.
