Um vídeo produzido com inteligência artificial mostra o extático primeiro-ministro indiano, Narendra Modi, dançando em um palco ao som de uma música de Bollywood enquanto a multidão aplaude. O primeiro-ministro partilhou o vídeo no X e disse que “esta criatividade no auge do período eleitoral é verdadeiramente encantadora”.
Outro vídeo, com a mesma configuração, mostra a rival do primeiro-ministro, Mamata Banerjee, dançando com roupas tradicionais indianas, mas a trilha sonora de fundo faz parte de seu discurso criticando aqueles que deixaram seu partido para se juntar ao de Modi. A polícia iniciou uma investigação dizendo que o vídeo poderia “afetar a lei e a ordem”.
As diferentes reações aos vídeos criados com recurso a ferramentas de IA destacam como o uso e o abuso da tecnologia estão a aumentar e a criar preocupações para os reguladores e autoridades de segurança, à medida que o país mais populoso do mundo realiza as suas eleições nacionais.
Vídeos de IA que contêm sombras e movimentos de mãos quase perfeitos às vezes podem enganar até mesmo pessoas com conhecimento digital. Mas os riscos são maiores num país onde muitos dos 1,4 mil milhões de pessoas têm dificuldades tecnológicas e onde os conteúdos manipulados podem facilmente provocar tensões sectárias, especialmente em época de eleições.
De acordo com um estudo do Fórum Económico Mundial publicado em Janeiro, o risco de desinformação para a Índia é considerado maior do que o risco de doenças infecciosas ou actividades económicas ilícitas nos próximos dois anos.
“A Índia já corre um alto risco de desinformação – com a IA em cena, ela poderia se espalhar a uma velocidade 100x”, disse o consultor Sagar Vishnoi, que está aconselhando alguns partidos políticos sobre o uso da IA nas eleições indianas. .
“As pessoas mais velhas, que geralmente não são um grupo conhecedor de tecnologia, caem cada vez mais em narrativas falsas auxiliadas por vídeos de IA. Isto pode ter consequências graves, como desencadear o ódio contra uma comunidade, casta ou religião.”
As eleições nacionais de 2024 – que serão realizadas em seis semanas e terminarão em 1º de junho – são as primeiras em que a IA está sendo implementada. Os exemplos iniciais foram inocentes, restritos a alguns políticos que usaram a tecnologia para criar vídeos e áudios para personalizar suas campanhas.
Mas grandes casos de uso indevido chegaram às manchetes em abril, incluindo deepfakes de atores de Bollywood criticando Modi e vídeos falsos envolvendo dois dos principais assessores do primeiro-ministro, que levaram à prisão de nove pessoas.
Na semana passada, a Comissão Eleitoral da Índia alertou os partidos políticos contra a utilização da IA para espalhar desinformação e partilhou sete disposições de tecnologia da informação e outras leis que atraem penas de prisão até três anos por crimes incluindo falsificação, promoção de rumores e inimizade.
Um oficial de segurança nacional em Nova Deli disse que as autoridades estão preocupadas que notícias falsas possam levar a distúrbios. A fácil disponibilidade de ferramentas de IA torna possível fabricar essas notícias falsas, especialmente durante as eleições, e é difícil combatê-las, disse ela.
A IA e os deepfakes são cada vez mais utilizados em eleições noutras partes do mundo, incluindo nos Estados Unidos, no Paquistão e na Indonésia. A última divulgação dos vídeos na Índia mostra os desafios enfrentados pelas autoridades.
Compartilhar:
