Nos últimos quatro anos, as grandes empresas de tecnologia se esforçaram muito para colocar Inteligência Artificial em tudo. Agora, algumas começam a criar ferramentas para nos proteger do excesso de conteúdo produzido pela própria IA. Do Pinterest ao TikTok, do Spotify ao LinkedIn, surgem ferramentas para tentar reduzir, ou pelo menos denunciar, conteúdos classificados como “AI slop”: conteúdos sintéticos produzidos em massa e que, muitas vezes, são rasos e de baixa qualidade.
Sejamos francos e pragmáticos. Para quem produz, a lógica faz sentido. Se uma ferramenta permite criar dezenas de posts ou imagens numa fração de segundo, por que não usá-la? O problema começa quando todos pensam a mesma coisa.
Um exemplo de efeito colateral negativo, que vai além das redes sociais, aconteceu recentemente na Austrália. O parlamento começou a receber contribuições de cidadãos e organizações feitas com Inteligência Artificial. Acontece que algumas continham referências inventadas e outras informações falsas. Mesmo usando a tecnologia de forma correta e com propósito benéfico, a conta pode não fechar. A IA é capaz de fazer com que pessoas sem tempo e sem conhecimento técnico protocolem documentos ou participem mais facilmente de consultas públicas. Parece ótimo. Mas quanto maior o volume de material, maior o esforço para ler e verificar tudo. Minutos economizados por milhares de pessoas podem se transformar em milhares de horas adicionais para uma instituição pública. O argumento aqui não é propor um freio à participação da sociedade, mas sim pensar em consequências que, por sua vez, podem prejudicar a maioria.
Esse tipo de paradoxo é conhecido como “tragédia dos comuns”. Em 1968, o biólogo Garrett Hardin publicou na Science um ensaio usando a imagem de um pasto compartilhado. Para cada criador, colocar mais uma vaca no campo é racional. O ganho é individual e o desgaste do pasto é dividido por todos. Se todos fizerem o mesmo, porém, o recurso se degrada. Quatro décadas depois, Elinor Ostrom recebeu o Nobel de Economia mostrando que esse destino não é inevitável. Comunidades podem preservar recursos compartilhados quando criam regras e mecanismos de governança.
No caso da IA, vale pensarmos sobre os efeitos coletivos de determinadas escolhas. Numa pesquisa publicada na revista Big Data & Society, as cientistas políticas Amelia Arsenault e Sarah Kreps dividiram em grupos 386 participantes. Eles deveriam analisar uma proposta de política pública e escrever uma manifestação sobre ela. Metade podia utilizar o ChatGPT. Quem recebeu assistência da IA considerou a tarefa mais fácil e produziu textos avaliados como melhores. O benefício apareceu inclusive entre participantes com menor nível educacional. Mas tinha um detalhe. O acesso à IA não produziu uma melhora estatisticamente significativa na compreensão que os participantes declaravam ter do assunto. Ou seja, o texto até ficava melhor, mas quem escrevia não necessariamente entendia melhor. Pensando coletivamente, no longo prazo, isso poderia acarretar algum tipo de perda cognitiva social.
Mesmo uma pessoa preocupada em manter sua autonomia pode ter poucos motivos para usar menos IA se todos ao redor estiverem usando mais. Imagine, dentro de uma empresa, um profissional que decida escrever relatórios sem IA para preservar algumas habilidades pessoais. Se os colegas produzirem documentos na metade do tempo, essa escolha passa a ter um custo pessoal. Não seria mais vantajoso adotar a novidade? Novamente, ganhos imediatos poderiam agradar individualmente a maioria, mas acabar prejudicando o conhecimento e a cultura da empresa com o passar do tempo. O mesmo vale para estudantes, pesquisadores etc. O pesquisador Taylor Collins descreveu esse tipo de impasse no artigo “A tragédia da servidão voluntária”, publicado há poucos dias, na revista “AI & Society”. Aderir é a estratégia individualmente mais vantajosa, ainda que todos prefiram o cenário oposto. A competição pressiona o individual com vantagens no curto prazo, mas pode acabar gerando perdas coletivas mais para frente.
No dia a dia, continuamos nos perguntando “como eu posso usar IA para melhorar o meu desempenho?”. Talvez seja a hora de também perguntarmos “o que acontecerá quando todos usarem?”, ou “deveríamos ter uma estratégia coletiva para que todos possam ganhar lá na frente?”.
A Coreia do Sul começou um experimento interessante nessa direção. O governo acaba de selecionar três consórcios empresariais para o programa “AI for All”. A proposta é oferecer gratuitamente à população serviços de Inteligência Artificial baseados em modelos coreanos. Entre eles estão chatbots e agentes capazes de interagir com serviços públicos. A iniciativa faz parte de uma estratégia mais ampla de uso da IA na indústria, nos serviços e na sociedade. Em vez de esperar que cada cidadão pague uma assinatura e descubra sozinho como usar a tecnologia, existe uma tentativa de tratá-la como infraestrutura, numa estratégia coletiva de longo prazo. É claro que existem riscos. Universalizar o acesso à IA também pode universalizar a dependência dela, seja a cognitiva, seja a de sistemas cujas regras são definidas por poucas organizações. Oferecer mais Inteligência Artificial não resolve, por si só, a questão de como ela será usada. Distribuir o pasto não é o mesmo que cuidar dele.
A IA tem se tornado algo cada vez mais difícil de se recusar. Para cada um de nós, escrever mais rápido, produzir mais ou automatizar tarefas parece quase sempre uma ótima escolha imediata e racional. Resta saber o que acontece quando essa mesma escolha é repetida bilhões de vezes. Geralmente, no início, bons recursos compartilhados parecem infinitos. Até começarem a faltar.
Rafael Coimbra