Anos atrás, o LinkedIn descobriu que os algoritmos de recomendação que usa para combinar candidatos com oportunidades de emprego estavam produzindo resultados tendenciosos. Os algoritmos classificavam os candidatos em parte com base na probabilidade de se candidatarem a uma posição ou de responderem a um recrutador. O sistema acabou encaminhando mais homens do que mulheres para os cargos disponíveis simplesmente porque os homens costumam ser mais agressivos na busca de novas oportunidades.
O LinkedIn descobriu o problema e construiu outro programa de IA para neutralizar a parcialidade nos resultados do primeiro. Enquanto isso, alguns dos maiores sites de busca de empregos do mundo — incluindo CareerBuilder, ZipRecruiter e Monster — estão adotando abordagens muito diferentes para lidar com o preconceito em suas próprias plataformas, um dos assuntos discutidos em episódio recente do podcast MIT Technology Review Brasil “Algoritmos de recrutamento precisam de revisão?“. No entanto, uma vez que essas plataformas não divulgam exatamente como seus sistemas funcionam, é difícil para quem procura emprego saber a eficácia de qualquer uma dessas medidas na prevenção da discriminação.
Se você começasse a procurar um novo emprego hoje, a Inteligência Artificial provavelmente influenciaria sua busca. A IA pode determinar quais postagens você vê nas plataformas de busca de empregos e decidir se deve encaminhar seu currículo para os recrutadores de uma empresa. Algumas podem pedir que você jogue videogames com tecnologia de IA que medem seus traços de personalidade e avaliam se você seria adequado para funções específicas.
Cada vez mais empresas estão usando IA para recrutar e contratar novos funcionários, e a IA pode estar presente em quase qualquer estágio do processo de contratação. A Covid-19 gerou uma nova demanda por essas tecnologias. Tanto a Curious Thing quanto a HireVue, empresas especializadas em entrevistas com inteligência artificial, relataram um aumento nos negócios durante a pandemia.
A maioria das buscas de emprego, porém, começa com uma simples pesquisa. Os candidatos a emprego recorrem a plataformas como LinkedIn, Monster ou ZipRecruiter, onde podem fazer upload de currículos, procurar ofertas de emprego e se candidatar a vagas.
O objetivo desses sites é combinar candidatos qualificados com as vagas disponíveis. Para organizar todas essas vagas e candidatos, muitas plataformas empregam algoritmos de recomendação baseados em IA. Os algoritmos, às vezes chamados de mecanismos de correspondência, processam informações do candidato a emprego e do empregador para selecionar uma lista de recomendações para cada um.
“Você costuma ouvir a história de que um recrutador passa seis segundos olhando seu currículo, certo?” diz Derek Kan, vice-presidente de gerenciamento de produto da Monster. “Quando olhamos para o mecanismo de recomendação que criamos, você pode reduzir esse tempo para milissegundos”.
A maioria dos mecanismos de combinação são otimizados para gerar candidaturas às vagas, diz John Jersin, ex-vice-presidente de gerenciamento de produtos do LinkedIn. Esses sistemas baseiam suas recomendações em três categorias de dados: informações que o usuário fornece diretamente à plataforma; dados atribuídos ao usuário com base em outros com conjuntos de habilidades, experiências e interesses semelhantes; e dados comportamentais, como a frequência com que um usuário responde a mensagens ou interage com anúncios de emprego.
No caso do LinkedIn, esses algoritmos excluem o nome, idade, sexo e raça de uma pessoa, porque incluir essas características pode contribuir para a parcialidade em processos automatizados. Mas a equipe de Jersin descobriu que, mesmo assim, os algoritmos do serviço ainda podiam detectar padrões de comportamento exibidos por grupos com identidades de gênero específicas.
Por exemplo, enquanto os homens são mais propensos a se candidatar a empregos que exigem experiência de trabalho além de suas qualificações, as mulheres tendem a apenas procurar empregos em que suas qualificações correspondam aos requisitos da posição. O algoritmo interpreta essa variação de comportamento e ajusta suas recomendações de uma forma que, inadvertidamente, prejudica as mulheres.
“Por exemplo, você pode acabar recomendando mais cargos seniores para um grupo de pessoas do que para outro, mesmo que possuam o mesmo nível de qualificação”, diz Jersin. “Essas pessoas podem não ter as mesmas oportunidades. E, realmente, é desse impacto que estamos falando.”
Os homens também incluem mais habilidades em seus currículos, com um grau de proficiência menor do que as mulheres, e costumam se envolver de forma mais agressiva com os recrutadores na plataforma.
Para resolver esses problemas, Jersin e sua equipe no LinkedIn criaram uma nova IA projetada para produzir resultados mais representativos e a implantaram em 2018. Era, essencialmente, um algoritmo separado projetado para neutralizar recomendações direcionadas a um grupo específico. A nova IA garante que, antes de encaminhar as correspondências curadas pelo mecanismo original, o sistema de recomendação inclua uma distribuição de gênero uniforme dos usuários.
Kan diz que a Monster, que possui cerca de 5 a 6 milhões de anúncios de emprego, também incorpora dados comportamentais em suas recomendações, mas não corrige o preconceito da mesma forma que o LinkedIn faz. Em vez disso, a equipe de marketing se concentra em fazer com que usuários de origens diversas se inscrevam no serviço, e a empresa então conta com os empregadores para relatar à Monster se ela repassou ou não um conjunto representativo de candidatos.
Irina Novoselsky, CEO da CareerBuilder, diz que está focada em usar os dados que o serviço coleta para ensinar os empregadores a eliminar a parcialidade de seus anúncios de vagas de emprego. Por exemplo, “quando um candidato lê a descrição de um cargo com a palavra ‘rockstar’, uma porcentagem menor de mulheres se candidata”, diz ela.
Ian Siegel, CEO e cofundador da ZipRecruiter, diz que os algoritmos da empresa não levam em consideração certas características de identificação, como nomes, ao classificar os candidatos; em vez disso, eles classificam as pessoas com base em outros 64 tipos de informações, incluindo dados geográficos. Ele diz que a empresa não discute os detalhes de seus algoritmos, citando questões de propriedade intelectual, mas acrescenta: “Acredito que estejamos tão perto de avaliar as pessoas baseado em seu mérito quanto é possível no momento”.
Com a automação em cada etapa do processo de contratação, os candidatos devem agora aprender como se destacar tanto para o algoritmo quanto para os gerentes de contratação. Mas sem informações claras sobre o que esses algoritmos fazem, os candidatos enfrentam desafios significativos.
“Acho que as pessoas subestimam o impacto dos algoritmos e dos mecanismos de recomendação nas tarefas”, diz Kan. “A maneira como você se apresenta é provavelmente lida por milhares de máquinas e servidores primeiro, antes mesmo de chegar ao olho humano”.
MIT Technology Review
