A DeepSeek, a startup chinesa de IA conhecida pelo seu modelo DeepSeek-R1 LLM, expôs publicamente duas bases de dados que continham informações sensíveis de utilizadores. É sem dúvida uma descoberta chocante sobre o novo sistema de IA, DeepSeek.
Afinal o que estava nas bases de dados do sistema de IA DeepSeek
As instâncias não seguras supostamente continham mais de um milhão de entradas de registo. Isto com o histórico de conversas dos utiizadores em formato de texto simples. Também chaves de API, detalhes de back-end e metadados operacionais.
A Wiz Research descobriu essa exposição durante uma avaliação de segurança da infraestrutura externa do DeepSeek.
A empresa de segurança encontrou duas instâncias de bases de dados acessíveis publicamente em oauth2callback.deepseek.com:9000 e dev.deepseek.com:9000 que permitiam consultas SQL arbitrárias por meio de uma interface da Web sem exigir autenticação.
As bases de dados continham uma tabela ‘log_stream’ que armazenava logs internos confidenciais datados de 6 de janeiro de 2025, contendo:
- consultas de utilizadores ao chatbot do DeepSeek,
- chaves usadas por sistemas backend para autenticar chamadas de API,
- informações internas de infraestrutura e serviços e vários metadados operacionais.
“Este nível de acesso representava um risco crítico para a própria segurança da DeepSeek e para os seus utilizadores finais”, comenta Wiz.
“Não só um atacante poderia recuperar registos sensíveis e mensagens de chat em texto simples, como também poderia potencialmente exfiltrar palavras-passe em texto simples e ficheiros locais juntamente com informação proprietária diretamente do servidor usando consultas como: SELECT * FROM file(‘filename’) dependendo da sua configuração ClickHouse”.
A Wiz afirma que poderia executar consultas mais intrusivas, mas limitou a sua exploração à enumeração para manter a sua investigação dentro de determinados limites éticos.
Não se sabe se os investigadores da Wiz foram os primeiros a descobrir esta exposição ou se agentes maliciosos já tiraram partido da má configuração.
De qualquer forma, a Wiz informou a DeepSeek sobre o assunto, e a empresa tratou prontamente da exposição, de modo que as bases de dados já não são públicas.
Problemas de segurança do DeepSeek
Para além de todas as preocupações que surgem pelo facto de a DeepSeek ser uma empresa tecnológica sediada na China, o que significa que tem de cumprir pedidos agressivos de acesso a dados por parte do governo do país, a empresa não parece ter estabelecido uma postura de segurança sólida, colocando em risco dados sensíveis.
A exposição dos avisos do utilizador é uma violação da privacidade que deve ser muito preocupante para as organizações que utilizam o modelo de IA para operações comerciais sensíveis.
Além disso, a exposição de detalhes de back-end e chaves de API pode dar aos invasores um caminho para as redes internas do DeepSeek. Também o escalonamento de privilégios e violações potencialmente em grande escala.
No início desta semana, a plataforma chinesa foi alvo de ataques cibernéticos persistentes, que parecia incapaz de impedir. Isto levou a suspender novos registos de utilizadores durante quase 24 horas.
