CEO da Microsoft defende 'freio de emergência' para a IA em artigo no X

O presidente-executivo da Microsoft, Satya Nadella, defendeu um "freio de emergência" para a inteligência artificial em um artigo publicado no X no sábado (10). Segundo a CNN Brasil, ele pede mecanismos de segurança mais robustos nas empresas e afirma que "é hora de dar um passo atrás" para reavaliar como a tecnologia funciona.

Nadella argumenta que sistemas avançados, operando em larga escala, nem sempre agem como foram treinados. Para ele, as pessoas seguem dando acesso a dados confidenciais e permitindo que os modelos atuem em seu nome, o que amplia o risco.

O executivo diz que a responsabilidade não pode ser transferida ao fornecedor do modelo, ou seja, as empresas não devem se apoiar apenas nas garantias das desenvolvedoras. Ele também critica o tratamento da IA como "caixa preta" e propõe monitorar os modelos como "riscos internos", separando o modelo da estrutura que o executa.

Entre as propostas está a definição, pelas organizações, de quais dados a IA pode acessar, sem que o próprio sistema consiga alterar essas regras. Nadella sugere ainda diversidade de modelos, testes contínuos de falhas e a regra de que nenhum modelo seja a única fonte de confiança em decisões importantes nem verifique o próprio trabalho.

Outro ponto do texto é que ações relevantes da IA deixem registros que possam ser verificados por humanos. O artigo também defende verificações independentes e a divulgação de todos os incidentes, com aviso às pessoas afetadas.

Segundo a CNN Brasil, o tema já vinha em debate. Em meados de setembro, o presidente-executivo da Anthropic, Dario Amodei, publicou um ensaio defendendo desaceleração e alertando para a possível perda de controle da IA, ideia apoiada por Sam Altman, da OpenAI, e Elon Musk, da xAI. Mark Zuckerberg, da Meta, e Jensen Huang, da Nvidia, discordam e dizem que a segurança deve ser desenvolvida pelas próprias empresas. O presidente dos EUA, Donald Trump, defende que o país mantenha a liderança em IA sem freios, para enfrentar a China.