Se uma foto estranha recentemente chamou sua atenção enquanto você navegava pelo feed do Facebook, você não está sozinho.
Os usuários que antes usavam o Facebook para se conectar com amigos e familiares estão cada vez mais reclamando de conteúdo aleatório, spam e lixo eletrônico – muitos deles aparentemente gerados por inteligência artificial (IA) – que aparecem em seus feeds.
Às vezes, são obviamente imagens falsas geradas por IA, como o agora infame “Camarão Jesus”. Outras vezes, são postagens antigas de criadores reais que parecem estar sendo compartilhadas por contas de bot para gerar engajamento. Em alguns casos, são páginas que compartilham fluxos de conteúdo aparentemente inofensivo, mas aleatório – memes ou clipes de filmes, compartilhados a cada poucas horas.
Mas o spam é mais do que apenas um incômodo; também pode ser usado maliciosamente. Algumas páginas de spam parecem ter sido projetadas para enganar outros usuários. Em casos extremos, as páginas de spam que ganham seguidores podem eventualmente ser utilizadas, por exemplo, por intervenientes estrangeiros que procuram semear a discórdia antes das eleições, de acordo com especialistas que estudam o comportamento inautêntico online.
O aumento coincide com uma mudança intencional na estratégia do Facebook nos últimos anos. A empresa despriorizou os eventos atuais e a política após alegações de que contribuiu para a fraude eleitoral e a violência no mundo real. Sentindo a pressão do crescimento do TikTok e seu foco no entretenimento em vez de nas conexões sociais, o Facebook redesenhou os feeds principais dos usuários em um “mecanismo de descoberta” na esperança de fazer com que as pessoas interajam com conteúdo que de outra forma não veriam.
Mas a pressão por mais conteúdo “detectável” levou a um algoritmo que promove regularmente conteúdo fútil, muitas vezes enganoso, gerado por computador.
A mudança é palpável. Conteúdo gerado por IA ou memes reciclados apareceram na lista trimestral de conteúdo mais visto do Facebook. Postagens com imagens obviamente geradas por IA e legendas confusas às vezes recebem milhares de curtidas, centenas de comentários e compartilhamentos.
De acordo com especialistas, os maus atores e os “agricultores de engajamento” estão mais do que dispostos a atender à demanda do Facebook por novos conteúdos. E a proliferação de ferramentas de IA tornou muito mais fácil para eles produzirem rapidamente grandes volumes de imagens e textos falsos.
“É uma coisa realmente interessante que muito mais pessoas estão começando a discutir porque agora é um problema aleatório e enfadonho, mas obviamente há preocupações teóricas de longo prazo”, disse Ben Decker, CEO da empresa de análise de ameaças online Memetica.
Enquanto isso, a empresa-mãe do Facebook, Meta, trabalha “para remover e reduzir a propagação de conteúdo de spam para garantir uma experiência positiva do usuário, dando aos usuários controle sobre seus feeds e incentivando os criadores a usar ferramentas de IA para produzir conteúdo de alta qualidade que atenda aos nossos Padrões da Comunidade, ”, disse a porta-voz Erin Logan em um comunicado.
“Também tomamos medidas contra aqueles que tentam manipular o tráfego através de envolvimento não autêntico, independentemente de usarem IA ou não.”
Aventuras no pântano da IA
Antes de começar a relatar essa história em julho, meu feed do Facebook parecia bastante normal, com fotos de bebês de amigos da faculdade e listagens do Facebook Marketplace.
Mas, curioso com as reclamações, comecei a clicar em qualquer conteúdo que parecesse estranho, e o algoritmo entrou em ação. Agora, semanas depois, quase uma em cada três postagens em meu feed parece o chamado “lixo de IA”.
Um exemplo recente: uma imagem em preto e branco mostrando uma cabana na floresta com uma família sentada na frente, compartilhada por uma página chamada “História para Todos”.
À primeira vista, a postagem parece algo que você encontrará em um livro de história. Mas quando você olha mais de perto, as pessoas na imagem apresentam características faciais desfocadas e indefinidas, e as mãos e os pés das crianças parecem desaparecer na paisagem ao seu redor – marcas registradas de imagens geradas por IA.
A legenda da postagem afirma que a imagem foi tirada em 1910, no estado americano de Nova Jersey, em uma “pequena cabana em Forsythe Swamp, ocupada pela família De Marco, 10 pessoas da família morando neste quarto individual”, pelo fotógrafo National Child Comitê Trabalhista, Lewis Hine. Curioso, copiei a legenda completa para o Google, o que me direcionou para a legenda real de uma foto completamente diferente que foi publicada pela Biblioteca do Congresso.
Coloquei a imagem do Facebook em uma pesquisa reversa de imagens no Google, e os únicos outros lugares onde ela apareceu online foram dois outros grupos semelhantes do Facebook chamados “Memórias do Passado” e “Fotos Históricas”.
É impossível dizer com certeza como a imagem foi criada, mas a equipe fotográfica da CNN analisou-o com software de detecção de IA – que ainda está na fase inicial de testes – e encontrou “evidências substanciais” de que foi manipulado. Hany Farid, especialista em forense digital e professor da Universidade da Califórnia em Berkeley que estudou IA, acrescentou que a imagem parecia ter sido gerada por IA e pode ter sido criada usando a legenda histórica real da imagem como alerta para a IA, potencialmente para evitar violação de direitos autorais.
O grupo que compartilhou a postagem, “História para Todos”, é gerenciado por uma página de mesmo nome, criada em 2022 e que anteriormente mudou de nome para “Cubs” e “Chikn.Nuggit”. A página não respondeu a uma mensagem direta.
A postagem História para Todos ilustra grande parte do conteúdo que apareceu em meu feed – perturbador, bizarro, mas também aparentemente inofensivo.
Outros exemplos incluem uma página chamada “Amy Couch”, que também compartilha fotos “históricas”, com uma foto de perfil aparentemente gerada por IA que mostra uma mulher com um dente gigante onde deveriam estar seus dois dentes da frente. Ou uma página de arte e história de um “artista” chamado “Kris Artist”, cuja foto de perfil rastreei até um verdadeiro influenciador de mídia social que me disse por e-mail: “Este definitivamente não é meu perfil, mas eles estão usando minha foto. ”
Quando enviei uma mensagem para a página “Kris Artist”, recebi o que parecia ser uma resposta automática: “Olá, obrigado por nos contatar. Recebemos sua mensagem e agradecemos por entrar em contato. Por favor, junte-se ao nosso grupo.”
Depois que relatei a postagem do History for Everyone, bem como as páginas de Amy Couch e Kris Artist, ao Meta, elas foram removidas por violar a política de spam.
Por trás do lixo da IA
Não está claro exatamente quanto desse conteúdo existe no Facebook. Mas pode haver muitas pessoas vendo isso. A página “Histórico para todos” tem mais de 40.000 seguidores, embora postagens individuais geralmente recebam apenas alguns engajamentos.
Pesquisadores de Stanford e Georgetown rastrearam 120 páginas do Facebook que postavam frequentemente imagens geradas por IA no início deste ano – e descobriram que as imagens receberam coletivamente “centenas de milhões de engajamentos e exposições”, de acordo com um estudo. artigo lançado em marçoque ainda não foi revisado por pares.
“O Feed do Facebook às vezes mostra aos usuários imagens geradas por IA, mesmo quando eles não seguem as páginas que postam essas imagens. Suspeitamos que as imagens geradas por IA aparecem nos feeds dos usuários porque o algoritmo de classificação de feeds do Facebook promove conteúdo que provavelmente gerará engajamento”, escreveram os pesquisadores Renee DiResta e Josh Goldstein no artigo. Eles acrescentaram que muitas vezes os usuários que interagiam com esse conteúdo não pareciam perceber que era IA.
Especialistas que monitoram esse tipo de comportamento online dizem que provavelmente existem diferentes tipos de atores por trás do spam no Facebook, com motivações variadas.
Alguns querem apenas ganhar dinheiro, por exemplo, através de pagamentos de bônus que o Facebook oferece aos criadores que publicam conteúdo público. Existem dezenas de vídeos no YouTube ensinando as pessoas como serem pagas por postar conteúdo de IA no Facebook – conforme relatado pelo site de notícias de tecnologia 404 Mídia no início deste mês – com alguns alegando que ganham milhares de dólares todos os meses usando a tática.
“Mesmo no domínio político, as tácticas dos manipuladores têm sido defendidas há muito tempo por aqueles com uma motivação diferente: ganhar dinheiro. Spammers e golpistas são frequentemente os primeiros a adotar novas tecnologias”, escreveram os pesquisadores de Stanford.
Em outras páginas, os golpistas usam os comentários como um local para vender produtos falsos ou coletar informações pessoais dos usuários.
Em alguns casos, o que parece ser uma conta inofensiva que compartilha conteúdo principalmente aleatório irá ocasionalmente fornecer informações erradas ou memes ofensivos como forma de escapar dos mecanismos de fiscalização do Facebook.
“Se algo parecer apenas uma campanha de spam comum, pode não acionar os principais investigadores da empresa e, portanto, passar despercebido por mais tempo”, disse David Evan Harris, pesquisador de IA que trabalhou na Meta.
Harris acrescentou que também existe um mercado online para contas “antigas” do Facebook, porque contas mais antigas têm maior probabilidade de parecerem humanas e escaparem dos filtros de spam da plataforma.
“É como um mercado negro, basicamente, você pode vender a alguém 1.000 dessas contas com mais de cinco anos e então eles podem transformá-las em uma fraude ou operação de influência”, disse Harris.
“Isso é algo que você vê nas eleições: alguém pode criar um grupo no Facebook que diz ‘Todo mundo adora cheeseburgers’, e o grupo publica fotos dos melhores cheeseburgers todos os dias durante dois anos e, de repente, um mês antes de um eleição, torna-se um ‘voto no grupo do (ex-presidente brasileiro Jair) Bolsonaro’.”
O que fazer com o spam de IA?
Com as ferramentas de IA, os malfeitores não precisam mais de muitas pessoas para produzir rapidamente uma grande quantidade de conteúdo falso – a tecnologia pode fazer isso por eles.
Seria um desafio para o Facebook identificar todas as imagens geradas por IA que são carregadas todos os dias sem cometer erros, “especialmente num momento em que esta tecnologia está a avançar incrivelmente rapidamente”, disse Farid. Mesmo que pudesse, “isso não significa que você deva banir todo conteúdo gerado por IA, certo? …É uma questão política muito sutil”, disse ele.
No início deste ano, a Meta disse que adicionaria tags de “informações de IA” ao conteúdo criado por determinados geradores de terceiros que usam metadados para informar outros sites que a IA estava envolvida. Meta também rotula automaticamente imagens geradas por IA criadas com suas próprias ferramentas.
No entanto, ainda existem maneiras de os usuários removerem esses metadados (ou criarem imagens de IA sem eles) para evitar a detecção.
A Meta também pode ser prejudicada por uma equipe menor dedicada a lidar com conteúdo falso, depois de – como outros gigantes da tecnologia – ter reduzido sua equipe de confiança e segurança no ano passado, o que significa que deve confiar mais em sistemas automatizados de moderação que podem ser manipulados.
“As comunidades de mídia social com experiência digital sempre estiveram um passo e meio à frente dos esforços de confiança e segurança em todas as plataformas. É quase um jogo de gato e rato que nunca acaba”, disse Harris.
IA generativa: especialista explica como a ferramenta é treinada
empréstimo consignado banco bmg
whatsapp bmg
empréstimo bmg whatsapp
refinanciamento bmg
bmg itaú
banco bmg emprestimos
empréstimo banco bmg
banco bmg telefone
banco bmg emprestimo
consignado bmg telefone
consignado bmg itaú
empréstimo no banco bmg
consignado itau bmg
