A evolução da inteligência artificial trouxe avanços impressionantes, mas também novos perigos, como as deepfakes. Essa tecnologia, capaz de manipular vídeos e áudios de maneira incrivelmente realista, tem potencial para desestabilizar democracias e ampliar a crise de desinformação. A advogada Marcela Bocayuva alerta que as deepfakes não apenas colocam em risco a credibilidade das informações, mas também podem ser usadas como armas em campanhas políticas, danos à reputação de indivíduos e até ameaças à segurança internacional.
“Estamos diante de uma ferramenta que, em mãos erradas, pode desestabilizar instituições e manipular a opinião pública. O impacto disso nas eleições, por exemplo, pode ser devastador, já que cria cenários em que eleitores tomam decisões baseadas em informações completamente falsas”, afirma a Dra. Marcela Bocayuva.
O alcance global das redes sociais intensifica os danos causados por deepfakes. Em poucos minutos, um vídeo manipulado pode viralizar e causar danos irreparáveis, mesmo que seja desmentido posteriormente. “A lógica das redes é baseada no compartilhamento rápido e na emoção, o que torna as deepfakes uma ferramenta perfeita para espalhar desinformação em massa. E, infelizmente, muitas pessoas acreditam no que veem sem questionar a autenticidade do conteúdo,” observa Bocayuva.
O caso recente de deepfake envolvendo a simulação de uma declaração polêmica de um chefe de Estado destaca como a tecnologia pode ser usada para manipular relações internacionais. Vídeos manipulados com discursos fabricados podem levar a tensões diplomáticas e crises políticas, mesmo em situações onde os fatos sejam rapidamente corrigidos.
O combate a essa tecnologia ainda enfrenta desafios regulatórios significativos. Bocayuva destaca que o ordenamento jurídico brasileiro, assim como o de muitos outros países, não foi estruturado para lidar com ameaças tão específicas. “Ainda há poucas legislações que abordem diretamente o uso de deepfakes. Precisamos de normas claras que criminalizem não só a criação, mas também a disseminação dessas ferramentas em contextos maliciosos”, aponta a advogada.
Leia + sobre Tecnologia, ciência e celulares
Ao mesmo tempo, iniciativas de regulação em países como a União Europeia têm buscado impor maior responsabilidade às plataformas digitais, obrigando-as a identificar e remover conteúdos manipulados. No entanto, Bocayuva argumenta que a legislação precisa ser acompanhada por tecnologias capazes de rastrear e identificar deepfakes em tempo real.
“Mesmo com leis rigorosas, a velocidade com que as deepfakes se propagam exige soluções técnicas avançadas. Detectores baseados em inteligência artificial são promissores, mas ainda estão em um estágio inicial de desenvolvimento e precisam ser amplamente adotados para fazer diferença no curto prazo,” acrescenta a Dra. Marcela Bocayuva.
Além de medidas legais e tecnológicas, a especialista defende que a educação digital deve ser uma prioridade. “A sociedade precisa estar preparada para lidar com o volume de informações manipuladas. Isso inclui ensinar as pessoas a questionarem fontes, verificarem autenticidade e reconhecerem sinais de manipulação em vídeos e áudios,” sugere.
Campanhas educativas nas escolas, integradas a programas de alfabetização digital, poderiam desempenhar um papel importante. Essas iniciativas ajudariam a combater a ingenuidade que torna as pessoas suscetíveis a acreditar em conteúdos falsos, especialmente em momentos de alta polarização política ou crise social.
Como as deepfakes não respeitam fronteiras, Bocayuva reforça a importância de uma abordagem coordenada internacionalmente. “Assim como temos tratados para lidar com crimes cibernéticos, precisamos de um pacto global para regular a criação e disseminação de conteúdos manipulados por IA. É um esforço que deve unir governos, empresas de tecnologia e organizações internacionais.”
Afinas as deepfakes
Enquanto a tecnologia avança, o desafio para governos, sociedade civil e empresas de tecnologia será equilibrar os benefícios da inovação com a necessidade de proteger os pilares democráticos. “As deepfakes nos colocam em um momento crucial. Ou agimos agora para mitigar seus riscos, ou enfrentaremos consequências graves para nossas democracias e liberdades individuais,” conclui Marcela Bocayuva.
