Um grupo de investigadores de cibersegurança conseguiu entrar nos sistemas internos da OpenAI (a criadora do ChatGPT) usando… uma inteligência artificial rival. O caso, revelado esta semana, é um dos exemplos mais claros até hoje de como as ferramentas de IA estão a tornar os ciberataques mais rápidos e mais baratos e por isso mesmo preocupa cada vez mais os especialistas. Explicamos o que aconteceu, sem alarmismos.
O que aconteceu
A investigação foi feita por uma empresa de segurança chamada Hacktron AI, e ponto importante foi autorizada pela própria OpenAI, no âmbito de um programa de “recompensas por bugs” (os chamados bug bounties, em que empresas pagam a especialistas para encontrarem falhas nos seus sistemas antes que os criminosos o façam).
Os investigadores começaram em julho, ao encontrar uma falha no fórum da comunidade da OpenAI (uma vulnerabilidade no processamento de certas imagens). A partir daí, conseguiram:
- Comprometer a conta de ChatGPT de um funcionário da OpenAI.
- Avançar para sistemas internos, chegando a um repositório privado de código da empresa no GitHub.
Depois de descobrirem as falhas, comunicaram-nas à OpenAI, que as corrigiu (em cerca de 14 horas) e pagou aos investigadores uma recompensa de 6.500 dólares.
O pormenor curioso: usaram uma IA rival
Aqui está o que torna o caso notícia. Para desenvolver o código do ataque, os investigadores usaram uma ferramenta de IA, o Claude, da Anthropic (uma das principais concorrentes da OpenAI). Segundo relatam, pediram ao modelo para escrever o código capaz de explorar a falha.
Curiosamente, a primeira tentativa não funcionou; só depois de sair uma nova versão do modelo é que conseguiram desenvolver um ataque eficaz. Para as fases seguintes, os investigadores dizem ter recorrido também a um modelo da própria OpenAI. Ou seja: usaram IA de vários fabricantes como “ferramentas” para acelerar o trabalho.
É importante sublinhar: a IA não atuou sozinha nem “decidiu” atacar. Utilizou-se por investigadores humanos como ferramenta para escrever e aperfeiçoar código, tal como um programador a usaria para o trabalho do dia a dia. E o teste fez-se num quadro legal e autorizado, não por criminosos.
Porque é que isto importa (o novo perigo)
O caso é revelador de uma mudança de fundo. Segundo os próprios investigadores, tarefas que antes exigiriam uma equipa especializada e meses de trabalho podem agora, com a ajuda da IA, fazer-se em poucos dias. É esse o ponto que preocupa os especialistas: a IA está a baixar a barreira de entrada para ataques informáticos sofisticados.
O que hoje se fez por investigadores “do bem” (para ajudar a corrigir falhas) pode, amanhã, fazer-se por criminosos com as mesmas ferramentas. Não é que a IA crie um tipo de ameaça totalmente novo, é que aumenta drasticamente a velocidade e a escala com que os ataques podem ser montados.
Não é o primeiro sinal de alarme: nas últimas semanas, vários líderes do próprio setor da IA, incluindo responsáveis da OpenAI vieram defender que é preciso abrandar o ritmo de desenvolvimento destas tecnologias, precisamente por causa de riscos como este.
O que fica
Há um lado positivo nesta história: o sistema funcionou como devia. As falhas foram encontradas por investigadores autorizados, comunicadas de forma responsável e corrigidas em horas que é exatamente para isso que servem os programas de recompensas por bugs. As empresas de IA, aliás, têm vindo a reforçar as proteções dos seus modelos contra usos maliciosos.
Mas o episódio deixa um aviso claro para todos, empresas e utilizadores: na era da IA, a cibersegurança tem de correr tão depressa como a tecnologia que a ameaça. Para o cidadão comum, a lição é a de sempre, mas mais importante do que nunca: palavras-passe fortes e diferentes, autenticação em dois passos, e desconfiança de tudo o que peça dados ou cliques.
