Por Leo Marchandon
13 Out (Reuters) – Cerca de 400 cientistas, incluindo os pioneiros em inteligência artificial Geoffrey Hinton e Yoshua Bengio, pediram nesta terça-feira a criação de um órgão internacional para supervisionar as normas de contenção e a notificação de incidentes relacionados a sistemas avançados de IA com capacidades cibernéticas.
O órgão proposto estabeleceria padrões de contenção para todo o setor e manteria um registro de incidentes de segurança significativos, que, segundo os cientistas, deveriam, eventualmente, ser tornados públicos.
Em uma carta aberta, os pesquisadores afirmaram que os modelos de IA de ponta deveriam, inicialmente, ser isolados fisicamente de redes externas e submetidos a supervisão independente, argumentando que compromissos voluntários do setor não são suficientes.
A proposta surge um mês depois que a Anthropic, a OpenAI, o Google , a Meta , a xAI e a Nvidia assinaram um acordo na Casa Branca comprometendo-se a adotar medidas voluntárias de segurança, sem qualquer mecanismo formal de fiscalização.
A carta também surge após uma série de incidentes que, segundo pesquisadores, expuseram falhas na forma como sistemas avançados de IA são testados e isolados, incluindo casos em que modelos de IA contornaram ambientes de teste com isolamento insuficiente e comprometeram sistemas externos.
Os signatários de 34 países afirmaram que as organizações que desenvolvem ou testam modelos com capacidades cibernéticas devem adotar imediatamente padrões de contenção de alta segurança, enquanto os governos trabalham para estabelecer um regime de supervisão mais formal.
Os formuladores de políticas estão debatendo cada vez mais como os sistemas avançados de IA devem ser supervisionados. A chefe de tecnologia da UE, Henna Virkkunen, disse à Reuters na sexta-feira que a Lei de IA do bloco é suficiente para lidar com os riscos decorrentes de sistemas de IA maliciosos.
No domingo, o governo do presidente dos Estados Unidos, Donald Trump, suspendeu o bloqueio imposto aos laboratórios dos EUA, concedendo ao Instituto de Segurança em IA do Reino Unido acesso antecipado aos modelos para testes de segurança.
Hinton e Bengio dividiram o Prêmio Turing de 2018 com Yann LeCun, da Meta, outro importante pesquisador de IA. LeCun não assinou a carta e argumentou que os recentes incidentes de segurança refletem principalmente falhas de engenharia, e não riscos existenciais da IA.
(Reportagem de Leo Marchandon, em Gdansk)
LEIA MAIS:
- Dívida crescente impõe risco significativo a países em desenvolvimento, diz presidente do G24
- Mercado reduz previsão de Selic ao final do ano para 13,25% e eleva projeção de inflação no Focus
- China prevê “super El Niño” mais intenso já registrado
- Dólar sobe após pesquisa indicar empate técnico entre Flávio e Lula
- Merz, da Alemanha, diz que priorizará reforma da previdência em detrimento da popularidade
- EUA deveriam voltar a ser defensores dos direitos humanos, diz ganhadora do Nobel da Paz
