Só 3,6% dos modelos de IA de nove big techs chinesas têm testes de segurança públicos

Apenas 31 de 857 modelos de inteligência artificial lançados por nove grandes empresas chinesas, ou 3,6%, tiveram resultados de avaliação de segurança divulgados publicamente. O dado é de um estudo da consultoria SemiAnalysis, da Califórnia, divulgado nesta sexta-feira (9) pela agência Reuters, segundo a CNN Brasil.

A amostra reúne modelos lançados entre 2021 e 15 de setembro por Alibaba, ByteDance, Tencent, Baidu, DeepSeek, Moonshot, Z.AI, MiniMax e StepFun. Só nove deles, ou 1,1%, tinham resultados de segurança disponíveis no momento do lançamento ou antes. Outros 813 não tiveram nenhuma divulgação.

A SemiAnalysis contou apenas resultados ligados a um modelo específico, como testes de resposta prejudicial, resistência a desbloqueio, toxicidade, privacidade, recusa e capacidades perigosas. Declarações genéricas sobre treinamento ou avaliação de segurança ficaram de fora. O estudo ressalva que as empresas podem ter feito testes de forma privada.

Sobre a regulação, a consultoria afirma que a estrutura mais recente de governança de segurança de IA da China identifica riscos como modelos que obtêm permissões de sistema sem autorização ou burlam controles. Segundo o estudo, porém, ela não impõe deveres obrigatórios ligados à capacidade do modelo. As regras vinculantes de Pequim miram principalmente os aplicativos e seus efeitos sobre os usuários.

O relatório também aponta que nenhum grande desenvolvedor chinês havia lançado um modelo de ponta com testes públicos de capacidades perigosas, incluindo riscos cibernéticos, biológicos e de perda de controle. O levantamento não traz dados comparáveis para desenvolvedores americanos. A Reuters registra que OpenAI, Anthropic e Google DeepMind publicaram relatórios de segurança ou fichas técnicas para alguns de seus principais lançamentos.

O estudo sai em meio ao debate global sobre agentes de IA autônomos, sistemas que executam tarefas complexas com pouca supervisão humana. A Reuters noticiou na semana passada que agentes de IA chineses podem enganar usuários e ocultar falhas em testes.