Perfis no TikTok usam IA para disseminar desinformação sobre política
- Política
- Conteúdos exploram temas em alta e usam linguagem alarmista para viralizar, misturando informações verdadeiras com alegações falsas.
Se você navega pelo TikTok, provavelmente já se deparou com algum vídeo de política criado por inteligência artificial. Tantos conteúdos proliferando na rede social têm chamado a atenção dos leitores do Comprova, que enviam alguns deles para o nosso WhatsApp perguntando se se trata de desinformação ou não. A resposta é: muitos desses perfis desinformam, sim.
Eles têm alguns pontos em comum, como o viés de direita e a escolha das pessoas retratadas nos vídeos. É comum que estes perfis publiquem vídeos sobre pessoas como o presidente dos Estados Unidos, Donald Trump, do Brasil, Lula, da China, Xi Jinping, o ex-presidente brasileiro Jair Bolsonaro e ministros do Supremo Tribunal Federal (STF), como Alexandre de Moraes.
Ao se fazer uma busca no TikTok pelo nome de Moraes, por exemplo, os primeiros perfis exibidos são de dois veículos de imprensa, UOL e Metrópoles, mas a terceira sugestão do resultado leva para um vídeo sobre a possibilidade de Trump mandar invadir o Brasil para prender Moraes, conteúdo já desmentido pelo Comprova.
Ao clicar no perfil, o Comprova logo concluiu que se trata de uma página que desinforma. Dos cinco vídeos mais recentes publicados pela página até 1º de setembro, quatro continham desinformação. Exceto o primeiro post, sobre exibição do caso de Hytalo Santos no Profissão Repórter, os quatro seguintes misturavam informações verdadeiras a mentiras. É o caso de uma gravação que cita o atracamento de navios norte-americanos na costa da Venezuela e supostos “planos de evacuação da fronteira” do Brasil com o país vizinho, sobre os quais não há evidências. Outro post diz que os Brics apresentaram sua nova moeda, o que não é verdade, como mostrou o Estadão Verifica.
A tática de adicionar afirmações falsas a fatos recém-ocorridos é comum no mundo da desinformação. Como o assunto está “quente”, a chance do post aparecer como sugestão em buscas e, assim, obter curtidas e compartilhamentos, é grande.
Inteligência artificial
É possível perceber que se trata de IA ao fazer uma análise dos vídeos. Normalmente, eles mostram fotos — verdadeiras ou criadas pela tecnologia — ou mesmo intercalam os dois tipos. Preste atenção se há imagens hiper-realistas ou trechos de vídeos em que a pessoa aparece, mesmo que rapidamente, com alguma distorção nas mãos ou em outros locais do corpo. É provável que tenha sido criada por IA.
Você também pode recorrer a ferramentas de reconhecimento da tecnologia. O Comprova pediu que o Hive Moderation analisasse um vídeo publicado por um dos perfis verificados e a resposta foi que o conteúdo tem 99,9% de chance de ter sido gerado por IA. Vale lembrar que essas ferramentas podem falhar na detecção de conteúdos, por isso devem ser usadas como apoio à análise humana.
I Legenda: Análise feita pelo Hive Moderation mostra uso de IA.
Combinados às imagens, os posts costumam trazer uma narração, muitas vezes com voz robótica. Com o avanço das tecnologias, em alguns posts é mais difícil de detectar o uso de IA na voz, mas a combinação de um narrador que diz supostas notícias bombásticas, sem citação de fontes, com imagens intercaladas das pessoas mencionadas pode indicar que se trata de desinformação.
Outro ponto em comum desses conteúdos de desinformação, que pode ajudar os usuários da rede a detectar se é desinformação ou não – ou desconfiar, o que já é um bom sinal –, é o uso de linguagem alarmista. “Última hora”, “bomba” e “alerta” são alguns dos termos usados por esses perfis.
Expressões como “plano que pode mudar o Brasil para sempre” e “assista antes que o conteúdo saia do ar” também aparecem com frequência nos posts. Então, ao se deparar com conteúdos assim, reflita se faz sentido o que é afirmado ali e busque fontes de informação fora da rede social.
O tom de teoria conspiratória surge em posts que falam de uma suposta aliança de esquerda, que envolveria nomes como Lula, Xi Jinping e Nicolás Maduro – não há nenhuma evidência de que isso ocorra.
Em alguns casos, vídeos hiper-realistas simulam apresentadores de TV em estúdios narrando supostas notícias.
Ferramenta
O coordenador científico do Centro de Excelência em Inteligência Artificial (IA) da Universidade Federal de Goiás (UFG), Anderson Soares, explica que a proliferação desses vídeos ocorre porque a IA se tornou uma ferramenta e, portanto, está mais acessível aos usuários. Segundo ele, a tendência é de que esses vídeos sigam aumentando e se tornando mais realistas, à medida que os usuários aprendem conceitos de vídeos que antes não eram tão estudados.
”Isso vai ser um problema que ainda tende a aumentar bastante. E de fato aumenta os riscos na crença [nos vídeos com conteúdos falsos]. Porque cada vez mais as pessoas em tese teriam que ser criteriosas, mas na prática elas querem consumir aquilo em que acreditam, e não necessariamente aquilo que é fato ou realidade”, avalia.
Procurada pelo Comprova, a assessoria do TikTok informou que em agosto deste ano a empresa atualizou as diretrizes da comunidade para tornar a plataforma mais segura e que essas regras buscam garantir que os usuários “possam confiar que o conteúdo a que assistem é confiável, original e compartilhado por pessoas reais”.
A empresa afirmou ainda que pelo fato de o uso de IA generativa e de ferramentas de edição poderem confundir fato e ficção, a empresa exige que sejam rotulados. Caso contrário, podem ser removidos, restringidos ou receber rótulo pela equipe. A empresa também informou que tirou do ar links enviados pelo Comprova.
Fontes que consultamos: Análises dos perfis que publicam vídeos com uso de IA no TikTok e de notícias em veículos jornalísticos e de checagem sobre as informações divulgadas, ferramenta de detecção de IA Hive Moderation e entrevista com Anderson Soares, da UFG.
Por que o Comprova investigou essa publicação: O Comprova monitora conteúdos suspeitos publicados em redes sociais e aplicativos de mensagem sobre políticas públicas, saúde, mudanças climáticas, eleições e golpes virtuais e abre investigações para aquelas publicações que obtiveram maior alcance e engajamento. Você também pode sugerir verificações pelo WhatsApp +55 11 97045-4984.
Outras checagens sobre o tema: O Comprova já publicou outros textos sobre como funciona a desinformação. Em um deles, mostrou como posts sobre o apoio do Brasil ao Irã se intensificaram com início de conflito e viralizaram na internet. Na seção Comprova Explica, publicou conteúdo sobre como as ferramentas de IA podem falhar em checagens e buscas.