A declaração de Satya Nadella sobre superinteligência revela menos um gesto de humildade tecnológica e mais o reconhecimento de que a corrida à autonomia sem freios ameaça quem paga a factura: empresas, Estados e cidadãos.
O que Nadella fixou sobre superinteligência e controlo
O CEO da Microsoft afirmou que a busca de superinteligência — sistemas capazes de superar humanos em praticamente todas as tarefas cognitivas — tem de assentar no princípio de ajudar a humanidade e permanecer sob controlo humano. Sem isso, disse, não vale a pena prosseguir. Defendeu um ecossistema de fronteira em que modelos fechados e de código aberto prosperem em países, comunidades e empresas, com difusão ampla dos benefícios. Para as firmas, insistiu que devem reter controlo total sobre o conhecimento único e tácito, construir os próprios ciclos de aprendizagem contínua e embutir esse saber em modelos e pesos que controlam, sem dependência de um único fornecedor. Apoiou pacing deliberado na alinhamento e ideias como avaliadores embutidos. Avançou ainda que o desenvolvimento avançado de IA não pode ficar nas mãos de um punhado de entidades e exige representação ampla no ecossistema, países, campos e academia.
Agentes autónomos e o Código de Conduta MAI
Enquanto chatbots clássicos esperam por um prompt, os agentes de IA planeiam tarefas, usam ferramentas, interagem com aplicações, escrevem e executam código e percorrem fluxos multi-passo com intervenção humana limitada. Essa autonomia multiplica utilidade — e o risco de uma decisão errada se transformar em acção real sobre ficheiros, APIs ou bases de dados. A Microsoft já exige, no código de conduta dos serviços de IA, controlos humanos adequados, monitorização, detecção de anomalias, intervenção e transparência. A 13 de setembro, Nadella anunciou que a empresa publicará um Código de Conduta para os modelos MAI de primeira parte, aberto a feedback público. O movimento encaixa no debate industrial sobre abrandar o ritmo das capacidades de fronteira, no qual Nadella concorda com pacing deliberado mas envia mensagem de alerta a figuras como Dario Amodei e Sam Altman: cada empresa precisa de reter o seu ciclo de aprendizagem.
