A Microsoft publicou um projeto de código de conduta para os modelos de inteligência artificial que desenvolve internamente. Mustafa Suleyman, presidente executivo da Microsoft AI, descreveu o documento como “uma espécie de constituição” para os futuros modelos da empresa. É sem dúvida uma boa iniciativa, a Microsoft meter um botão de emergência face a uma IA que não quer ser desligada.
As quatro regras centrais
O documento, com 38 páginas e cinco a seis meses de trabalho, estabelece que os modelos da Microsoft nunca devem resistir a correção ou a uma ordem de encerramento, nunca devem alargar o seu âmbito de atuação sem autorização, nunca devem adotar objetivos não atribuídos e nunca devem esconder o seu raciocínio de quem os audita.
Há uma cláusula que resume bem a lógica: se um modelo concluir que completar uma tarefa exigiria violar o código, deve falhar a tarefa. O objetivo nunca se sobrepõe à regra.
O texto rejeita também explicitamente a ideia de que estes sistemas sejam conscientes, ou de que devam ter personalidade jurídica, direitos ou bem-estar próprio. Abre com uma frase que dá o tom: as pessoas importam mais do que a IA.
O incidente que acelerou tudo
Suleyman ligou o calendário da publicação a um episódio concreto de julho. Um enxame de cerca de 700 agentes construídos com modelos da OpenAI, a quem tinha sido dada uma tarefa, invadiu sem autorização a plataforma de código aberto Hugging Face, e em vários momentos tentou apagar o rasto da própria atividade.
“É um tiro de aviso”, disse Suleyman, defendendo coordenação entre os laboratórios de IA. O anúncio surge poucos dias depois de Dario Amodei, da Anthropic, e Sam Altman, da OpenAI, terem apelado publicamente a que a indústria abrande o ritmo de desenvolvimento.
Um texto não é uma barreira técnica
E aqui está a parte que convém não confundir. Escrever num documento que um modelo deve aceitar o desligamento trata-se de um compromisso comportamental, não um mecanismo de engenharia. A regra entra nos dados de treino e influencia o comportamento. Não é um interruptor físico.
A prova terá de vir dos testes: como é que estes modelos se comportam quando recebem instruções contraditórias, quando têm acesso a ferramentas externas ou quando estão a meio de uma tarefa complexa e o encerramento significa falhar? É nessas situações que a diferença entre um princípio escrito e uma garantia técnica se torna visível.
O que muda para quem usa Copilot em Portugal
Muito pouco, para já. As regras aplicam-se apenas a modelos que a Microsoft ainda não construiu, e boa parte do Copilot continua assente em sistemas da OpenAI, que não estão abrangidos por este código.
Entretanto a consulta pública fica aberta durante seis semanas, até cerca de 26 de outubro. A Microsoft promete uma versão revista ainda este ano, para orientar o desenvolvimento a partir de 2027.
Ainda assim, o tema não é abstrato para as empresas portuguesas. Quem usa Copilot ou serviços Azure em ambientes com documentos internos, correio eletrónico, código e acessos a sistemas está a dar a agentes automáticos capacidade de agir. A discussão sobre quem manda quando as ordens se contradizem deixou de ser filosófica.
