CTO da Wikimedia: na era da IA, os colaboradores humanos ainda são importantes
Computação

CTO da Wikimedia: na era da IA, os colaboradores humanos ainda são importantes

Selena Deckelmann argumenta que, nesta era de conteúdo gerado por máquinas, a Wikipédia se torna ainda mais valiosa.

Selena Deckelmann nunca teve medo das pessoas na internet. Com um avô que consertava TV e era entusiasta de rádio CB (rádio do cidadão) e um padrasto instalador de canos, Deckelmann cresceu resolvendo problemas por meio de conversas e ajustes. Assim, quando ela chegou ao Linux, um dos primeiros sistemas operacionais de código aberto, como estudante universitária nos anos 90, a comunidade online lhe pareceu confortavelmente familiar. E a nova e empolgante tecnologia inspirou Deckelmann a mudar sua especialização de química para ciência da computação.   

Agora, após quase três décadas de carreira em tecnologia de código aberto, Deckelmann é a diretora de produtos e tecnologia (CPTO) da Wikimedia Foundation, a organização sem fins lucrativos que hospeda e gerencia a Wikipédia. Lá, ela não apenas orienta uma das fontes de informação mais procuradas do mundo, mas também atende a uma vasta comunidade de “wikipedistas”, as centenas de milhares de pessoas reais que passam seu tempo livre escrevendo, editando e discutindo verbetes — em mais de 300 idiomas — para fazer da Wikipédia o que ela é hoje.  

É inegável que os avanços tecnológicos e as mudanças culturais transformaram nosso universo online ao longo dos anos — especialmente com o recente aumento do conteúdo gerado por Inteligência Artificial —, mas Deckelmann ainda não tem medo das pessoas na internet. Ela acredita que elas são o futuro da internet.   

No verão de 2022, quando assumiu a recém-criada função de CPTO, Deckelmann não sabia que, alguns meses depois, a corrida para criar IA generativa se aceleraria em um ritmo alucinante. Com o lançamento do ChatGPT da OpenAI e de outros grandes modelos de linguagem, e o ciclo de financiamento multibilionário que se seguiu, 2023 se tornou o ano do chatbot. E como esses modelos exigem um monte de conteúdo barato (ou, de preferência, até mesmo gratuito) para funcionar, as dezenas de milhões de artigos da Wikipédia se tornaram uma rica fonte de combustível.  

Para qualquer pessoa que já tenha passado algum tempo online, faz sentido que bots e criadores de bots procurem a Wikipédia para fortalecer suas próprias coleções de conhecimento. Ao longo de seus 23 anos, a Wikipédia se tornou uma das fontes de informação mais confiáveis — e totalmente gratuita, graças à missão de código aberto do site e ao apoio de fundações. Porém, com a proliferação de textos e imagens gerados por IA contribuindo para um problema crescente de desinformação, Deckelmann precisa lidar com uma questão existencial para o produto e a comunidade da Wikipédia: como o ethos de código aberto do site pode sobreviver à inundação de conteúdo que está por vir?  

Deckelmann argumenta que a Wikipédia se tornará um recurso ainda mais valioso à medida que perspectivas humanas e diferenciadas se tornarem mais difíceis de encontrar online. Mas o cumprimento dessa promessa exige foco contínuo na preservação e proteção do coração pulsante da Wikipédia: os wikipedistas que dedicam seu tempo e cuidado para manter as informações atualizadas por meio de conversas e ajustes à moda antiga. Deckelmann e sua equipe se dedicam a uma estratégia de IA que prioriza a criação de ferramentas para colaboradores, editores e moderadores para tornar seu trabalho mais rápido e fácil, ao mesmo tempo em que realizam experimentos de IA fora da plataforma com feedback contínuo da comunidade. “Minha função é concentrar a atenção na sustentabilidade e nas pessoas”, diz Deckelmann. “Como estamos realmente melhorando a vida delas enquanto brincamos com uma tecnologia bacana?” 

O que Deckelmann quer dizer com “sustentabilidade” é uma preocupação urgente no espaço de código aberto de forma mais ampla. Quando serviços complexos ou plataformas inteiras, como a Wikipédia, dependem do tempo e do trabalho de voluntários, os colaboradores podem não receber o apoio de que precisam para continuar — e manter esses projetos em funcionamento. A criação de caminhos sustentáveis para as pessoas que fazem a internet tem sido a paixão pessoal de Deckelmann há anos. Além de trabalhar como líder de engenharia e de produtos em empresas como Intel e Mozilla e de contribuir para projetos de código aberto, ela fundou, dirigiu e prestou consultoria a várias organizações e conferências que apoiam comunidades de código aberto e abrem portas para colaboradores de grupos sub-representados. “Ela sempre colocou a comunidade em primeiro lugar, mesmo quando a comunidade está cheia de idiotas que dificultam desnecessariamente a vida”, diz Valerie Aurora, cofundadora da Ada Initiative, uma antiga organização sem fins lucrativos que apoiava mulheres na tecnologia de código aberto e que trouxe Deckelmann para sua diretoria e conselho consultivo. 

Atender às necessidades de uma comunidade e às prioridades de uma organização pode ser um ato de equilíbrio desafiador que está no centro da filosofia de código aberto. Na Wikimedia Foundation, tudo, desde a direção de longo prazo do produto até os detalhes de seu primeiro redesenho em décadas, está aberto ao feedback público da enorme e expressiva comunidade da Wikipédia.  

Hoje, Deckelmann vê um problema de sustentabilidade mais recente no desenvolvimento de IA: o método predominante para treinar modelos é extrair conteúdo de sites como a Wikipédia, geralmente gerado por criadores de código aberto sem remuneração ou até mesmo, às vezes, sem saber como seu trabalho será usado. “Se as pessoas pararem de ser motivadas a [contribuir com conteúdo online]”, ela adverte, “seja porque acham que esses modelos não estão dando nada em troca ou porque estão criando muito valor para um número muito pequeno de pessoas — então isso não é sustentável”. Na Wikipédia, a estratégia interna de IA de Deckelmann gira em torno de apoiar os colaboradores com a tecnologia, em vez de causar um curto-circuito neles. As equipes de aprendizado de máquina e de produtos estão trabalhando no lançamento de novos recursos que, por exemplo, automatizam resumos de debates detalhados nas páginas “Talk” de um wiki (onde as discussões podem durar até 20 anos) ou sugerem links relacionados quando os editores estão atualizando as páginas. “Estamos procurando novas maneiras de economizar muito tempo dos voluntários, resumindo textos, detectando vandalismo ou respondendo a diferentes tipos de ameaças”, diz ela. 

Mas as equipes de produto e engenharia também estão se preparando para um possível futuro em que a Wikipédia talvez precise encontrar seus leitores em outro lugar online, dadas as tendências atuais. Embora o tráfego da Wikipédia não tenha mudado significativamente durante a ascensão meteórica do ChatGPT, o site registrou um declínio geral de visitantes na última década como resultado das atualizações de pesquisa contínuas do Google e das mudanças geracionais no comportamento on-line. Em julho de 2023, como parte de um projeto para explorar como a Wikimedia Foundation poderia oferecer sua base de conhecimento como um serviço para outras plataformas, a equipe de Deckelmann lançou um experimento de IA: um plug-in para a plataforma do ChatGPT que permite que o chatbot use e resuma as informações mais atualizadas da Wikipédia para responder à consulta de um usuário. Os resultados desse experimento ainda estão sendo analisados, mas Deckelmann diz que ainda não está claro como e se os usuários podem querer interagir com a Wikipédia fora da plataforma. Enquanto isso, em fevereiro, ela reuniu líderes de tecnologia de código aberto, pesquisa, academia e setor para discutir maneiras de colaborar e coordenar a abordagem das grandes e espinhosas questões levantadas pela IA. Essa é a primeira de várias reuniões que Deckelmann espera que impulsionem a conversa sobre sustentabilidade.  

A abordagem de produto de Deckelmann é cuidadosa e ponderada – e isso é intencional. Em contraste com grande parte da corrida louca do setor de tecnologia para capitalizar sobre o hype da IA, seu objetivo é levar a Wikipédia adiante para atender ao momento, ao mesmo tempo em que apoia o complexo ecossistema humano que a torna especial. É uma missão particularmente humilde, mas que decorre de sua dedicação de toda a carreira ao apoio a comunidades saudáveis e sustentáveis on-line. “A Wikipédia é uma coisa incrível, e você pode olhar para ela e pensar: ‘Ah, cara, eu quero deixar minha marca nela’. Mas eu não quero”, diz ela. “Quero ajudar [a Wikipédia] apenas o suficiente para que ela possa continuar funcionando por muito tempo.” Ela tem fé que as pessoas da internet poderão continuar com isso. 

  

Rebecca Ackermann é escritora, designer e artista e mora em São Francisco.

——

Último vídeo

Nossos tópicos