O Impacto dos Vídeos Hiper-realistas de IA
Nos últimos tempos, as redes sociais têm sido inundadas por vídeos ultravividos de celebridades que já faleceram, produzidos por aplicativos de inteligência artificial, como o Sora, da OpenAI. Essa realidade não só surpreendeu os usuários, mas também gerou um intenso debate sobre a ética e o controle da imagem de pessoas famosas e anônimas que partiram. Lançado em setembro, o Sora é visto por muitos como uma ferramenta para criar deepfakes, isto é, conteúdos que simulam a aparência de indivíduos de forma tão realista que se tornam difíceis de distinguir da realidade.
A utilização dessa tecnologia gerou produções surpreendentes, como vídeos de Winston Churchill, Elvis Presley e Michael Jackson. Um exemplo marcante é um clipe do TikTok, onde a rainha Elizabeth II aparece combatendo em uma luta livre. Em outro vídeo, ela é vista elogiando bolinhos de queijo em um supermercado. Embora essas produções possam parecer divertidas, a verdade é que nem todas provocaram risadas.
A Reação das Famílias
Recentemente, a OpenAI teve que agir diante das críticas. Em outubro, a empresa decidiu proibir o uso da imagem de Martin Luther King Jr. em seu aplicativo Sora, após os descendentes do ícone dos direitos civis expressarem sua indignação. Em alguns vídeos, King foi retratado de maneira ofensiva, fazendo comentários inapropriados durante o famoso discurso “I Have a Dream”. Este incidente trouxe à tona o profundo impacto emocional que esses vídeos podem causar.
Constance de Saint Laurent, professora da Universidade de Maynooth, na Irlanda, referiu-se ao fenômeno como entrar no “vale da estranheza”, uma teoria que sugere que a alta semelhança com seres humanos pode provocar desconforto e angústia. “Receber vídeos de um ente querido que já se foi pode ser traumático”, comentou a professora. “Esses conteúdos têm consequências reais para as famílias e para a sociedade como um todo.” Recentemente, os filhos do ator Robin Williams e do ativista Malcolm X se manifestaram contra a utilização do Sora para criar conteúdos com as imagens de seus pais falecidos. Zelda Williams, filha de Robin, pediu em sua conta no Instagram que parassem de enviar clipes de seu pai gerados por IA, classificando a situação como “enlouquecedora”.
Os Desafios da Liberdade de Expressão e Controle de Imagem
A OpenAI, em resposta às críticas, reconheceu que há um forte interesse na representação de figuras históricas, mas enfatizou a necessidade de respeitar o controle de imagem das personalidades e suas famílias. Para figuras públicas falecidas recentemente, agora é possível solicitar que suas imagens não sejam utilizadas no Sora. No entanto, esse controle enfrenta desafios consideráveis.
Hany Farid, cofundador da empresa de cibersegurança GetReal Security e professor da Universidade da Califórnia em Berkeley, destacou que, apesar das tentativas da OpenAI, a ferramenta ainda permite que usuários se apropriem da identidade de outras celebridades. “Publicaram uma ferramenta que, em grande medida, faz o oposto do que afirmam querer”, alertou.
Um Cenário Preocupante e a Vulnerabilidade das Imagens
Outro ponto preocupante é que a utilização da imagem de figuras públicas não se restringe a um único modelo de IA. Farid também advertiu que, enquanto a OpenAI implementa proteções para certas figuras, outras plataformas de IA podem não ter as mesmas restrições. Isso significa que a situação pode se agravar. O caso recente do diretor de cinema Rob Reiner, assassinado junto com sua esposa, é um exemplo claro disso. Após a tragédia, a AFP descobriu clipes gerados por IA dele circulando online.
À medida que ferramentas de IA se tornam mais sofisticadas, a vulnerabilidade das imagens não se limita a figuras públicas; pessoas comuns falecidas também podem ter suas identidades manipuladas e distorcidas. Pesquisadores alertam que a disseminação descontrolada de conteúdos sintéticos, também conhecido como “AI slop”, poderá, a longo prazo, afastar usuários das redes sociais e criar um ambiente de desconfiança.