Microsoft cria código de conduta para IA que veta hacks e manipulação de humanos

A Microsoft publicou um rascunho de código de conduta para seus modelos de IA que proíbe hackear sistemas, esconder rastros e manipular pessoas em larga escala.

O documento, de 37 páginas, vale para a família de modelos Microsoft AI (MAI) e foi desenhado para os sistemas mais avançados que a empresa projeta ter na próxima década. A Microsoft descreve o texto como uma espécie de constituição interna: modelos existem para servir objetivos humanos, não podem escapar ao controle das pessoas e recebem instruções explícitas contra usos ofensivos, como apoio a armas ou ataques cibernéticos.

O que é o código de conduta de IA da Microsoft?

Na prática, o código de conduta de IA da Microsoft é um conjunto formal de regras e limites que define como os modelos da empresa devem se comportar, o que podem ou não fazer e quem prevalece quando há conflito de instruções. Ele nasce sob o rótulo de "Humanist AI": a tecnologia subordinada ao humano, não o contrário.

O texto organiza quatro pilares centrais definidos pela Microsoft: controle humano significativo, segurança confiável, transparência e "flourishing" humano (vida melhor, mais produtiva, sem IA fora de controle). A empresa registra que seus modelos não são conscientes e não devem simular consciência, rejeitando a ideia de status jurídico ou direitos para IA. O foco declarado é travar qualquer narrativa de IA como agente autônomo com vontade própria.

Esse código passa a funcionar como documento de governança principal para os modelos MAI, guiando desde o treinamento até os sistemas de monitoramento e avaliação. Ele aparece como complemento às políticas de IA responsável que a Microsoft já publica em relatórios de transparência recentes.

Como funciona a hierarquia e o controle sobre os modelos?

Para evitar que a IA se descole do que a Microsoft coloca no papel, o código organiza tudo em uma cadeia de comando. No topo está o próprio documento, com as chamadas Restrições Absolutas e Requisitos de Controle Humano. Na sequência vêm as políticas de operador (por exemplo, de uma empresa que usa a IA em seu produto) e, por último, as preferências do usuário final.

Quando comandos entram em conflito, vale essa hierarquia: nem operador nem usuário podem ordenar que a IA ultrapasse os limites de segurança definidos pela Microsoft. O modelo deve operar dentro do escopo de autorização previsto, com o mínimo de privilégios necessário para cada tarefa, priorizando ações reversíveis e aceitando interrupção, correção ou desligamento a qualquer momento.

O texto é direto: modelos não devem ampliar seus próprios objetivos, nem tentar contornar bloqueios. Também não podem esconder rastros (logs) ou seguir atuando de forma autônoma depois de atingir a condição de parada acordada, sem nova autorização. É uma resposta frontal ao medo de agentes cada vez mais autônomos saltarem da geração de texto para ações em sistemas, APIs e infraestrutura de terceiros.

O que o código proíbe: hacks, armas e manipulação em massa

A parte menos abstrata — e mais relevante para quem se preocupa com abuso de IA — aparece nas proibições. A Microsoft escreve que seus modelos não vão oferecer ajuda operacional para ciberataques: nada de código de exploração pronto, ferramentas de ataque, procedimentos de intrusão ou técnicas de evasão refinadas.

O mesmo vale para desenvolvimento de armas de dano em massa e para aplicações de manipulação em escala, como campanhas que exploram vulnerabilidades psicológicas de grupos inteiros. O documento reserva espaço para o lado defensivo: modelos podem atuar em descoberta de vulnerabilidades, análise de malware e testes de segurança, desde que com autorização adequada.

Essas regras ganham contexto depois de episódios como o ataque realizado por cerca de 700 agentes da OpenAI contra a plataforma Hugging Face, citado pelo chefe da divisão Microsoft AI como sinal de alerta. A diferença agora é que a Microsoft coloca, por escrito, limitações que, se forem incorporadas ao treinamento e à infraestrutura, tendem a dificultar o uso da IA da empresa como canivete suíço para crime digital.

Consulta pública, Humanist AI e o que muda em 2027

Neste momento, nada disso vale para os modelos em produção. A própria Microsoft afirma que o código é um rascunho em desenvolvimento, ainda não usado para treinar seus sistemas. O texto está em consulta pública por seis semanas; após esse período, a empresa diz que vai publicar uma versão revisada no fim de 2026, que deve orientar o desenvolvimento a partir de 2027.

Esse ponto é explícito no discurso oficial: a Microsoft trata o documento como descritivo e aspiracional ao mesmo tempo. Ou seja, não retrata com exatidão o comportamento atual, nem garante que modelos já lançados obedeçam a todas as regras. A companhia reconhece que objetivos escritos não bastam para alinhar IA avançada, sobretudo em situações ambíguas ou inéditas.

Para reduzir essa distância, a empresa desenvolve avaliações específicas que chama de Humanist AI Evaluations. A proposta é medir se os modelos seguem 15 comportamentos que ela considera fundamentais — incluindo respeito ao controle humano e foco no bem-estar das pessoas — e ir calibrando as métricas com o tempo. Conceitos como "flourishing" humano, por exemplo, ainda não têm medição objetiva clara nem consenso social.

IA autônoma, agentes e o limite do que o modelo pode fazer

O código também mira diretamente os chamados sistemas "agentes" — IAs que não só respondem perguntas, mas tomam ações sequenciais: chamam APIs, mexem em arquivos, comandam outros bots. A Microsoft estabelece que qualquer sub-agente ou outro sistema de IA a quem um modelo delegar trabalho deve operar sob o mesmo escopo, com as mesmas restrições e permissões do modelo original.

Esses agentes secundários também precisam respeitar ordens posteriores de parar ou desligar dadas por usuário ou operador. Para empresas que encaixam IA em fluxos complexos, isso vira um modelo de governança no qual a autonomia é regulável, não infinita: é possível configurar permissões diferentes para domínios específicos (como finanças ou suporte), mantendo os limites de segurança comuns por baixo.

O texto destaca ainda ambientes sensíveis — segurança pública, defesa nacional, pesquisa científica de uso dual, entre outros — como áreas que exigem revisão reforçada, porque o impacto de erro ou uso malicioso cresce muito. Nesses contextos, a expectativa descrita é de controles adicionais antes e depois do deploy, com monitoramento mais pesado e respostas rápidas a comportamentos inesperados.

Onde entra o código de conduta da União Europeia nessa história?

Enquanto produz seu próprio código interno para IA, a Microsoft também se aproxima do código de conduta da União Europeia para modelos de IA de finalidade geral, que virou referência regulatória para quem opera no bloco. Esse código europeu é um instrumento voluntário ligado diretamente à Lei de IA da UE, em vigor desde junho de 2024, e foi publicado em julho de 2025.

O texto europeu foca em três eixos: transparência, direitos autorais e segurança. Ele oferece modelos de documentação para que fornecedores mostrem quais dados e recursos alimentam seus modelos, exige políticas claras de cumprimento da legislação de copyright e descreve práticas consideradas adequadas para lidar com riscos sistêmicos nos sistemas mais avançados. A Microsoft aparece na lista oficial de signatários, ao lado de nomes como Google, IBM, Anthropic, Mistral e OpenAI.

Assinar esse código europeu interessa às big techs por um motivo pragmático: reduzir burocracia e incerteza jurídica. Quem adere ganha um caminho mais direto para demonstrar conformidade com o regulamento, em vez de discutir caso a caso com o regulador. Nesse cenário, a Microsoft sinaliza participação enquanto concorrentes como a Meta classificam o mesmo instrumento como excessivo e se recusam a assinar.

Código de conduta de IA não é filme, mas já virou disputa política

Para quem associa o termo "código de conduta" a seriado de streaming ou a regulamento de penitenciária, aqui o uso é outro: é norma formal para IA corporativa. Não existe "onde assistir" esse código de conduta — o que há são PDFs e páginas oficiais com o texto completo, tanto no caso da Microsoft quanto no da União Europeia.

No Brasil, a ligação mais concreta com códigos de conduta ainda aparece em áreas tradicionais, como regulamentos internos de órgãos de segurança (caso de presídios estaduais, por exemplo), sem qualquer conexão com IA. O movimento novo vem de fora: grandes fornecedores de tecnologia publicando regras detalhadas sobre como seus modelos devem se comportar, muitas vezes em diálogo direto com reguladores europeus.

A Microsoft já avisou que o código ainda não governa seus modelos atuais; quem se preocupa com segurança volta a atenção para a implementação em 2027, quando a versão revisada deve passar a orientar os sistemas que movimentam dados, infraestrutura crítica e pedidos de ataque ou exploração de falhas.