Por Anna Tong
BERKELEY (Reuters) – – Especialistas em IA e executivos do setor, incluindo um dos pioneiros da tecnologia, Yoshua Bengio, assinaram uma carta aberta pedindo mais regulamentação envolvendo a criação de deepfakes, citando os possíveis riscos para a sociedade.
“Hoje, os deepfakes geralmente envolvem imagens sexuais, fraudes ou desinformação política. Como a IA está progredindo rapidamente e tornando a criação de deepfakes muito mais fácil, são necessárias salvaguardas”, disse o grupo na carta, que foi elaborada por Andrew Critch, um pesquisador de IA da Universidade da Califórnia, em Berkeley, Estados Unidos.
Deepfakes são imagens, áudios e vídeos aparentemente reais, porém fabricados, criados por algoritmos de IA, e os recentes avanços na tecnologia os tornaram cada vez mais indistinguíveis do conteúdo criado por humanos.
A carta, intitulada “Disrupting the Deepfake Supply Chain” (“Interrompendo a cadeia de suprimentos de deepfakes”, na tradução), faz recomendações sobre como regulamentar os deepfakes, incluindo a criminalização total da pornografia infantil deepfake, penalidades criminais para qualquer indivíduo que conscientemente crie ou facilite a disseminação de deepfakes prejudiciais e a exigência de que as empresas de IA impeçam que seus produtos criem deepfakes nocivos.
Até a manhã desta quarta-feira, mais de 400 indivíduos de vários setores, incluindo o acadêmico, o de entretenimento e o político, haviam assinado a carta.
Entre os signatários estavam Steven Pinker, professor de psicologia de Harvard, Joy Buolamwini, fundadora da Algorithmic Justice League, dois ex-presidentes da Estônia, pesquisadores do Google Deepmind e um pesquisador da OpenAI.
Garantir que os sistemas de IA não prejudiquem a sociedade tem sido uma prioridade para os órgãos reguladores desde que a OpenAI revelou o ChatGPT em 2022, impressionando os usuários ao envolvê-los em conversas semelhantes às humanas e ao realizar outras tarefas.
Houve vários avisos de pessoas importantes sobre os riscos da IA, principalmente uma carta assinada por Elon Musk no ano passado que pedia uma pausa de seis meses no desenvolvimento de sistemas mais poderosos do que o modelo GPT-4, da OpenAI.
