O New York Times noticiou que, no início de 2023, um pirata informático teve acesso aos sistemas de mensagens internos da OpenAI e roubou informações sobre a tecnologia de IA da empresa. A empresa revelou o incidente aos funcionários, mas não ao público ou às autoridades policiais.
Hacker roubou tecnologia da OpenAI mas ninguém disse nada!
O pirata informático conseguiu roubar informações de discussões num fórum online para os funcionários da OpenAI, onde se falava sobre as tecnologias mais recentes. Felizmente para a empresa, o hacker não conseguiu entrar nos sistemas onde os modelos GPT se alojam e treinam.
Duas fontes que revelaram esta informação ao The New York Times afirmaram que alguns funcionários da OpenAI manifestaram a preocupação de que tais ataques se pudessem utilizar por países como a China para roubar tecnologia de IA. Eventualmente, isso poderia colocar em risco a segurança nacional dos EUA.
Quando informados sobre o incidente, alguns funcionários também levantaram questões sobre a seriedade com que a empresa estava a levar a segurança. Também se diz que surgiram divisões entre os funcionários sobre os riscos da inteligência artificial.
Relacionado com o incidente, um antigo diretor do programa técnico da OpenAI escreveu um memorando ao conselho de administração da empresa dizendo que a empresa não estava a fazer o suficiente para impedir o roubo de segredos por adversários estrangeiros. O gestor era Leopold Aschenbrenner, que aludiu à violação de segurança num podcast. Foi despedido pela OpenAI por fuga de informação para o exterior da empresa. Assim argumenta que este despedimento teve motivações políticas.
Divisão entre funcionários
A revelação do ataque à OpenAI e que isso causou divisão entre os funcionários só aumenta a lista crescente de problemas na empresa. Já vimos o CEO Sam Altman lutar com um conselho anterior e sair vitorioso. Mais recentemente, vários investigadores de segurança da IA deixaram a empresa. Tudo devido a desacordos sobre o superalinhamento, em que são encontrados métodos para os humanos controlarem a IA superinteligente.
De acordo com figuras proeminentes no campo da IA, como Daniela Amodei, co-fundadora da Anthropic, se roubassem os últimos projectos de IA generativa, não seria uma grande ameaça à segurança nacional. No entanto, à medida que esta tecnologia se torna mais capaz, esta situação pode mudar.
