A Meta disse nesta quarta-feira (29) que encontrou conteúdo “provavelmente gerado por inteligência artificial” sendo usado de forma enganosa em suas plataformas Facebook e Instagram, incluindo comentários elogiando a forma como Israel conduz sua guerra em Gaza publicados abaixo de postagens de organizações de notícias globais e parlamentares norte-americanos.
A empresa de redes sociais, num relatório trimestral de segurança, disse que as contas se faziam passar por estudantes judeus, afro-americanos e outros cidadãos relacionados, visando públicos nos Estados Unidos e no Canadá. A campanha foi atribuída a uma empresa de marketing político com sede em Tel Aviv chamada STOIC.
O STOIC inicialmente não respondeu a um pedido de comentário sobre as alegações.
Embora Meta tenha encontrado fotos de perfil básicas geradas por IA em operações de influência desde 2019, este foi o primeiro relatório a revelar o uso de tecnologia de IA generativa baseada em texto desde que surgiu no final de 2022.
Os investigadores temem que a IA generativa, que pode produzir texto e áudio semelhantes aos humanos de forma rápida e barata, possa levar a campanhas de desinformação mais eficientes e influenciar as eleições.
Numa teleconferência com a imprensa, os executivos da Meta Security disseram que retiraram a campanha de Israel e que não acham que as novas tecnologias de IA tenham impedido a sua capacidade de perturbar as redes de influência, que são tentativas coordenadas de publicar mensagens.
Os executivos disseram que não viram imagens de políticos geradas por IA suficientemente realistas para serem confundidas com fotos autênticas.
“Existem vários exemplos nessas redes de como elas provavelmente usam ferramentas generativas de IA para criar conteúdo. Talvez isso lhes dê a capacidade de fazer isso mais rápido ou com mais volume. Mas isso realmente não afetou nossa capacidade de detectá-los”, disse o chefe de investigações de ameaças da Meta, Mike Dvilyanski.
O relatório destacou seis operações secretas de influência que a Meta interrompeu no primeiro trimestre.
Além da rede STOIC, a Meta fechou uma rede baseada no Irão focada no conflito entre Israel e o Hamas, embora não tenha identificado o uso de IA generativa nessa campanha.
A Meta e outros gigantes da tecnologia têm-se concentrado em como abordar o potencial uso inadequado de novas tecnologias de inteligência artificial, especialmente em eleições.
Os pesquisadores encontraram exemplos de geradores de imagens de empresas como OpenAI e Microsoft produzindo fotos com desinformação relacionada a eleições, apesar de essas empresas terem políticas contra esse tipo de conteúdo.
As empresas têm enfatizado os sistemas de etiquetagem digital para marcar o conteúdo gerado pela IA à medida que é criado, mas as ferramentas não funcionam em texto e os investigadores têm dúvidas sobre a sua eficácia.
As eleições na União Europeia no início de Junho e nos Estados Unidos em Novembro serão testes fundamentais para as defesas do Meta.
Compartilhar:
