Ouvimos falar muito sobre os riscos da IA na era dos grandes modelos de linguagem como o ChatGPT (inclusive de mim!) — riscos como a proliferação de desinformação e a erosão da privacidade. Em abril, minha colega Melissa Heikkilä também previu que esses novos modelos de IA logo inundariam a Internet com spam e fraudes. A matéria de hoje explica que essa nova onda já chegou e é incentivada pelo dinheiro dos anúncios.
As pessoas usam IA para criar rapidamente sites inúteis a fim de capturar parte do dinheiro da publicidade programática que está circulando on-line, de acordo com um novo relatório da NewsGuard, compartilhado exclusivamente com a MIT Technology Review americana. Isso significa que anunciantes de primeira linha e grandes marcas estão essencialmente financiando a próxima onda de fazendas de conteúdo, provavelmente sem seu conhecimento.
A NewsGuard, que avalia a qualidade dos sites, encontrou mais de 140 grandes marcas anunciando em sites que usam texto gerado por IA que ela considera “não confiável”, e os anúncios encontrados são de algumas das empresas mais reconhecidas do mundo. Noventa por cento dos anúncios de grandes marcas foram veiculados por meio da tecnologia de anúncios do Google, apesar das políticas da própria empresa que proíbem os sites de colocar anúncios veiculados pelo Google em páginas com “conteúdo gerado automaticamente com spam”.
O estratagema funciona porque a publicidade programática permite que as empresas comprem espaços publicitários na Internet sem supervisão humana: os algoritmos fazem lances para otimizar o número de olhos relevantes que provavelmente verão o anúncio. Mesmo antes de a IA generativa entrar em cena, cerca de 21% das impressões de anúncios estavam ocorrendo em sites inúteis “feitos para publicidade”, desperdiçando cerca de US$ 13 bilhões por ano.
Agora, as pessoas estão usando IA generativa para criar sites que capturam dinheiro de anúncios. A NewsGuard rastreou mais de 200 “sites de notícias e informações gerados por IA não confiáveis” desde abril de 2023, e a maioria parece estar tentando lucrar com o dinheiro da publicidade de empresas, muitas vezes, respeitáveis.
O NewsGuard identifica esses sites usando IA para verificar se eles contêm texto que corresponde às mensagens de erro padrão de grandes modelos de linguagem como o ChatGPT. Os sites sinalizados são então analisados por pesquisadores humanos.
A maioria dos criadores dos sites é completamente anônima, e alguns sites até apresentam biografias e fotos falsas de criadores geradas por IA.
Como Lorenzo Arvanitis, pesquisador da NewsGuard, me disse: “Esse é o nome do jogo na Internet”. Muitas vezes, empresas perfeitamente bem-intencionadas acabam pagando por conteúdo inútil — e às vezes impreciso, enganoso ou falso — porque estão muito interessadas em competir pela atenção do usuário on-line. (Já escrevemos algumas coisas boas sobre isso antes).
A grande história aqui é que a IA generativa está sendo usada para turbinar todo esse esquema e é provável que esse fenômeno “se torne ainda mais difundido à medida que esses modelos de linguagem se tornem mais avançados e acessíveis”, de acordo com Arvanitis.
E embora possamos esperar que ela seja usada por agentes malignos em campanhas de desinformação, não devemos ignorar a consequência menos dramática, mas talvez mais provável, da IA generativa: enormes quantidades de dinheiro e recursos desperdiçados.
O que mais estou lendo
- Chuck Schumer, o líder da maioria no Senado no Congresso dos EUA, revelou um plano para a regulamentação da IA em um discurso na última quarta-feira, dizendo que a inovação deve ser a “Estrela do Norte” na legislação. O presidente Biden também se reuniu com alguns especialistas em IA em São Francisco, em junho, em outro sinal de que a ação regulatória poderia estar próxima.
- As campanhas políticas estão usando IA generativa, disparando alarmes sobre a desinformação, de acordo com esta excelente visão geral do New York Times. “Especialistas políticos temem que a inteligência artificial, quando mal utilizada, possa ter um efeito corrosivo no processo democrático”, escrevem os repórteres Tiffany Hsu e Steven Lee Myers.
- O conselho de supervisão da Meta emitiu recomendações vinculativas sobre como a empresa modera o conteúdo relacionado à guerra. A empresa terá que fornecer informações adicionais sobre o motivo pelo qual o material é mantido ou retirado do ar e preservar tudo o que documentar abusos de direitos humanos. A Meta deverá compartilhar essa documentação com as autoridades, quando apropriado. Alexa Koenig, diretora-executiva do Human Rights Center, escreveu uma análise detalhada para a Tech Policy Press explicando por que isso é, de fato, um grande negócio.
O que aprendi recentemente
A ciência sobre a relação entre a mídia social e a saúde mental dos adolescentes ainda é bastante complicada. Há algumas semanas, Kaitlyn Tiffany, da Atlantic, escreveu um artigo bastante detalhado, analisando as existentes e, às vezes, conflitantes pesquisas nesse campo. Os adolescentes estão, de fato, experimentando um aumento acentuado nos problemas de saúde mental nos Estados Unidos, e a mídia social é frequentemente considerada um fator que contribui para a crise.
A ciência, no entanto, não é tão clara ou esclarecedora quanto poderíamos esperar, e exatamente como e quando a mídia social é prejudicial ainda não está bem estabelecido na pesquisa. Tiffany escreve que “uma década de trabalho e centenas de estudos produziram uma mistura de resultados, em parte porque usaram uma mistura de métodos e em parte porque estão tentando chegar a algo elusivo e complicado”. É importante ressaltar que “os efeitos da mídia social parecem depender muito da pessoa que a utiliza”.
MIT Technology Review
