A Inteligência Artificial (IA) precisa enfrentar o problema do trabalhador invisível
Inteligência artificial

A Inteligência Artificial (IA) precisa enfrentar o problema do trabalhador invisível

Os modelos de machine learning são treinados digitalmente por trabalhadores de baixa remuneração. Eles não vão embora, mas podemos mudar a maneira como trabalham, diz Saiph Savage.

SAIPH SAVAGE

Muitos dos modelos de machine learning mais bem-sucedidos e amplamente usados ​​são treinados com a ajuda de milhares de  trabalhadores mal pagos.  Milhões de pessoas em todo o mundo ganham dinheiro  em plataformas como a Amazon Mechanical Turk, que permite que empresas e pesquisadores terceirizem pequenas tarefas para  crowdworkers  online.  De acordo com  uma estimativa, mais de um milhão de pessoas só nos Estados Unidos ganham dinheiro a cada mês trabalhando nessas plataformas.  Cerca de 250.000 deles ganham pelo menos três quartos de sua renda dessa forma.  Mas embora muitos  trabalhem  para alguns dos laboratórios de IA mais ricos do mundo, eles são pagos abaixo do salário mínimo e não têm oportunidades de desenvolver suas habilidades.

Saiph Savage  é a diretora do laboratório de interação humano-computador na West Virginia University, onde trabalha com tecnologia cívica, com foco em questões como o  combate à desinformação  e ajudar os trabalhadores freelancers e independentes a melhorarem suas condições de trabalho.  No início dezembro, ela deu uma palestra à convite da  NeurIPS, uma das maiores conferências de IA do mundo, intitulada “O futuro do trabalho para os trabalhadores invisíveis de IA”.  Falei com Savage no Zoom um dia antes de ela dar sua palestra.

Nossa conversa foi editada e condensada para maior clareza.

Você fala sobre os trabalhadores invisíveis de IA.  Que tipo de trabalho essas pessoas estão fazendo?  

Muitas tarefas envolvem rotular dados — especialmente dados de imagem — que são alimentados em modelos de machine learning supervisionados para que eles entendam melhor o mundo.  Outras tarefas envolvem transcrever áudio.  Por exemplo, quando você fala com Alexa da Amazon, você pode ter funcionários transcrevendo o que você diz para que o algoritmo de reconhecimento de voz aprenda a entender melhor a fala.  E acabei de ter uma reunião com  crowdworkers  na zona rural de Virgínia Ocidental, EUA.  Eles são contratados pela Amazon para ler muitos diálogos que ajudem Alexa a entender como as pessoas daquela região falam.  Você também pode pedir aos funcionários que rotulem sites que podem estar cheios de discurso de ódio ou pedofilia.  É por isso que, ao pesquisar imagens no Google ou Bing, você não está exposto a essas coisas.

Pessoas são contratadas para fazer essas tarefas em plataformas como Amazon Mechanical Turk.  Grandes empresas de tecnologia podem usar versões internas — Facebook e Microsoft têm as suas próprias, por exemplo.  A diferença com o Amazon Mechanical Turk é que qualquer pessoa pode usá-lo.  Pesquisadores e startups podem se conectar à plataforma e buscar ajuda desses trabalhadores invisíveis.

Que problemas esses trabalhadores invisíveis têm?

Na verdade, não vejo o crowdwork  como uma coisa ruim; é uma ideia muito boa.  Isso tornou muito fácil para as empresas adicionar uma força de trabalho externa.

Mas existem vários problemas.  Uma é que os trabalhadores nessas plataformas ganham salários muito baixos.  Fizemos um estudo no qual acompanhamos centenas de trabalhadores do Amazon Mechanical Turk por vários anos e descobrimos que eles estavam ganhando cerca de US $ 2 por hora.  Isso é muito menos do que o salário mínimo dos EUA.  Existem pessoas que dedicam suas vidas a essas plataformas; é sua principal fonte de renda.

E isso traz outros problemas.  Essas plataformas também  impedem  futuras oportunidades de emprego, porque os  crowdworkers em  tempo  integral  não têm como desenvolver suas habilidades — pelo menos não aquelas que são reconhecidas.  Descobrimos que muitas pessoas não colocam esses trabalhos realizados nas plataformas em seus currículos.  Se eles disserem que trabalharam no Amazon Mechanical Turk, a maioria dos empregadores nem saberá o que é.  A maioria das empresas não está ciente de que esses são os trabalhadores por trás de nossa IA.

É claro que você tem uma verdadeira paixão pelo que faz. Como você acabou trabalhando nisso?

Trabalhei em um projeto de pesquisa em Stanford, onde eu era basicamente uma  crowdworker, e isso me expôs aos problemas.  Ajudei a projetar uma nova plataforma, que era como o Amazon Mechanical Turk, mas controlada pelos trabalhadores.  Mas também trabalhei em tecnologia na Microsoft.  E isso também abriu meus olhos para o que é trabalhar em uma grande empresa de tecnologia. Você se torna sem rosto, o que é muito semelhante ao que  acontece  com os  crowdworkers.  E isso realmente me estimulou a querer mudar o local de trabalho.

Você mencionou fazer um estudo. Como você descobre o que esses trabalhadores estão fazendo e que condições eles enfrentam?

Eu faço três coisas.  Entrevisto trabalhadores, conduzo pesquisas e construo ferramentas que me dão uma perspectiva mais quantitativa sobre o que está acontecendo nessas plataformas.  Consegui medir quanto tempo os trabalhadores investem na conclusão de tarefas.  Também estou medindo a quantidade de trabalho não remunerado que os trabalhadores fazem, como procurar tarefas ou comunicar-se com o empregador – coisas pelas quais você seria pago se tivesse um salário.

Você foi convidada para dar uma palestra no NeurIPS no início de dezembro. Por que isso é algo que a comunidade de IA precisa ouvir?

Bem, eles estão alimentando suas pesquisas com o trabalho desses trabalhadores.  Acho muito importante perceber que um carro que dirige sozinho ou o que quer que seja existe por causa de pessoas que não recebem um salário mínimo.  Enquanto pensamos no futuro da IA, devemos pensar no futuro do trabalho.  É útil lembrar que esses trabalhadores são humanos.

Você está dizendo que as empresas ou pesquisadores estão deliberadamente pagando menos?

Não, não é isso.  Acho que eles podem subestimar o que estão pedindo aos trabalhadores para fazer e quanto tempo vai demorar.  Mas, na maioria das vezes, eles simplesmente não pensam no outro lado da transação.

Porque eles só veem uma plataforma na internet.  E é barato.

Sim, exatamente.

O que fazemos sobre isso?  

Muitas coisas.  Estou ajudando os trabalhadores a ter uma ideia de quanto tempo uma tarefa pode levar para fazer.  Dessa forma, eles podem avaliar se uma tarefa vai valer a pena.  Portanto, estou desenvolvendo um plug-in de IA para essas plataformas que ajuda os funcionários a compartilhar informações e treinar uns aos outros sobre quais tarefas valem seu tempo e quais permitem que você desenvolva certas habilidades.  A IA aprende que tipo de conselho é mais eficaz.  Ela recebe os comentários do texto que os trabalhadores escrevem uns para os outros e aprende quais recomendações levam a melhores resultados e os promove na plataforma.

Digamos que os trabalhadores queiram aumentar seus salários.  A IA identifica que tipo de conselho ou estratégia é mais adequado para ajudar os trabalhadores a fazer isso.  Por exemplo, pode sugerir que você execute esses tipos de tarefas com esses empregadores, mas não com esses outros.  Ou ele dirá para você não gastar mais do que cinco minutos procurando trabalho.  O modelo de aprendizado de máquina é baseado na opinião subjetiva dos trabalhadores do Amazon Mechanical Turk, mas descobri que ele ainda pode aumentar os salários dos trabalhadores e desenvolver suas habilidades.

Então, se trata de ajudar os trabalhadores a obter o máximo dessas plataformas?

Isso é um começo. Mas seria interessante pensar sobre planos de carreira.  Por exemplo, poderíamos orientar os funcionários a fazer uma série de tarefas diferentes que lhes permitissem desenvolver suas habilidades.  Também podemos pensar em oferecer outras oportunidades.  As empresas que colocam empregos nessas plataformas podem oferecer microestágios online para os trabalhadores.

E devemos apoiar os empreendedores.  Tenho desenvolvido ferramentas que ajudam as pessoas a criar seus próprios mercados de demandas.  Pense nesses trabalhadores: eles estão muito familiarizados com esse tipo de trabalho e podem ter novas ideias sobre como operar uma plataforma.  O problema é que eles não têm as habilidades técnicas para configurá-la, então estou construindo uma ferramenta que torna a criação de uma plataforma similar a configuração de um modelo de site.

Muito disso se refere ao uso de tecnologia para alterar o equilíbrio de poder.

É sobre mudar a narrativa também.  Recentemente, me encontrei com dois  crowdworkers com  quem tenho conversado e eles realmente se autodenominam trabalhadores tecnológicos, o que é verdade já que de certa forma impulsionam nossa tecnologia.  Quando falamos sobre  crowdworkers,  eles normalmente são apresentados como tendo esses empregos horrívei.  Mas pode ser útil mudar a maneira como pensamos sobre quem são essas pessoas.  É  apenas  mais um  trabalho  tecnológico.

Nossos tópicos