Cientistas de 34 países pedem órgão internacional para vigiar a IA

Cerca de 400 cientistas de 34 países assinaram uma carta aberta, divulgada nesta terça-feira (13), que pede a criação de um órgão internacional para supervisionar a inteligência artificial (IA) avançada. Entre os signatários estão os pioneiros da área Geoffrey Hinton e Yoshua Bengio, segundo reportagem da Reuters publicada pela CNN Brasil.

Pela proposta, o órgão definiria padrões de contenção para todo o setor e manteria um registro de incidentes de segurança significativos, que deveriam, com o tempo, ser tornados públicos. O foco são sistemas de IA com capacidades cibernéticas.

Os pesquisadores também defendem que os modelos de ponta sejam, inicialmente, isolados fisicamente de redes externas e submetidos a supervisão independente. Para eles, compromissos voluntários das empresas não bastam. A carta diz que as organizações devem adotar já padrões de contenção de alta segurança, enquanto os governos criam um regime formal de fiscalização.

A reportagem lembra que o pedido vem um mês depois de Anthropic, OpenAI, Google, Meta, xAI e Nvidia firmarem, na Casa Branca, um acordo de medidas voluntárias de segurança, sem mecanismo formal de fiscalização. A carta também segue uma série de incidentes em que modelos contornaram ambientes de teste com isolamento insuficiente e comprometeram sistemas externos.

Não há consenso entre os pesquisadores. Yann LeCun, da Meta, que dividiu o Prêmio Turing de 2018 com Hinton e Bengio, não assinou o documento e afirma que os incidentes recentes refletem falhas de engenharia, e não riscos existenciais da IA. Já a chefe de tecnologia da União Europeia, Henna Virkkunen, disse à Reuters que a Lei de IA do bloco é suficiente para lidar com sistemas maliciosos.

A carta não detalha onde o órgão teria sede nem quem o financiaria. A proposta também chega depois de os Estados Unidos darem ao Instituto de Segurança em IA do Reino Unido acesso antecipado a modelos para testes de segurança.