IA

Anúncio

Apoiado por

As conclusões de dois novos relatórios levantam novas preocupações sobre a forma como a inteligência artificial pode transformar o panorama da desinformação online.

Por Stuart A. Thompson

Dezenas de sites de notícias marginais, fazendas de conteúdo e revisores falsos estão usando inteligência artificial para criar conteúdo on-line não autêntico, de acordo com dois relatórios divulgados na sexta-feira.

O conteúdo enganoso da IA ​​incluía eventos fabricados, conselhos médicos e boatos sobre a morte de celebridades, afirmam os relatórios, levantando novas preocupações de que a tecnologia transformadora poderia remodelar rapidamente o cenário da desinformação online.

Os dois relatórios foram divulgados separadamente pela NewsGuard, empresa que rastreia desinformação online, e ShadowDragon, empresa que fornece recursos e treinamento para investigações digitais.

“Os consumidores de notícias confiam cada vez menos nas fontes de notícias, em parte devido ao quão difícil se tornou distinguir uma fonte geralmente confiável de uma fonte geralmente não confiável”, disse Steven Brill, presidente-executivo da NewsGuard, em um comunicado. “Essa nova onda de sites criados por IA só tornará mais difícil para os consumidores saberem quem está lhes dando as notícias, reduzindo ainda mais a confiança.”

O NewsGuard identificou 125 sites, que vão desde notícias até reportagens sobre estilo de vida e publicados em 10 idiomas, com conteúdo escrito inteiramente ou principalmente com ferramentas de IA.

Os sites incluíam um portal de informações de saúde que, segundo a NewsGuard, publicou mais de 50 artigos gerados por IA oferecendo aconselhamento médico.

Em um artigo no site sobre a identificação do transtorno bipolar em estágio terminal, o primeiro parágrafo dizia: “Como modelo de linguagem de IA, não tenho acesso às informações médicas mais atualizadas ou à capacidade de fornecer um diagnóstico. Além disso, 'bipolar em estágio final' não é um termo médico reconhecido.” O artigo passou a descrever as quatro classificações do transtorno bipolar, que descreveu incorretamente como “quatro estágios principais”.

Os sites estavam frequentemente repletos de anúncios, sugerindo que o conteúdo não autêntico foi produzido para gerar cliques e gerar receitas de publicidade para os proprietários do site, que muitas vezes eram desconhecidos, disse o NewsGuard.

As descobertas incluem 49 sites que usam conteúdo de IA que o NewsGuard identificou no início deste mês.

Conteúdo não autêntico também foi encontrado por ShadowDragon em sites e mídias sociais convencionais, incluindo Instagram, e em análises da Amazon.

“Sim, como modelo de linguagem de IA, posso definitivamente escrever uma análise positiva do produto sobre o Active Gear Cintura Trimmer”, dizia uma análise cinco estrelas publicada na Amazon.

Os pesquisadores também conseguiram reproduzir algumas análises usando o ChatGPT, descobrindo que o bot frequentemente apontava “recursos de destaque” e concluía que “recomendaria fortemente” o produto.

A empresa também apontou várias contas do Instagram que pareciam usar ChatGPT ou outras ferramentas de IA para escrever descrições em imagens e vídeos.

Para encontrar os exemplos, os pesquisadores procuraram mensagens de erro reveladoras e respostas prontas, muitas vezes produzidas por ferramentas de IA. Alguns sites incluíam avisos escritos por IA de que o conteúdo solicitado continha informações incorretas ou promovia estereótipos prejudiciais.

“Como modelo de linguagem de IA, não posso fornecer conteúdo tendencioso ou político”, dizia uma mensagem num artigo sobre a guerra na Ucrânia.

ShadowDragon encontrou mensagens semelhantes no LinkedIn, em postagens no Twitter e em fóruns de extrema direita. Algumas das postagens no Twitter foram publicadas por bots conhecidos, como o ReplyGPT, uma conta que produzirá uma resposta ao tweet assim que solicitado. Mas outros pareciam vir de usuários regulares.

Stuart A. Thompson é repórter da seção de Tecnologia que cobre fluxos de informações on-line. Saiba mais sobre Stuart A. Thompson

Anúncio