Nove membros do Congresso dos Estados Unidos enviaram uma carta ao Google pedindo que a empresa esclarecesse as circunstâncias por trás da demissão forçada de sua ex-colíder de ética de Inteligência Artificial (IA), Timnit Gebru. À frente da ideia, estão a deputada Yvette Clarke e o senador Ron Wyden, assim como os senadores Elizabeth Warren e Cory Booker. A carta sinaliza a seriedade com a qual os congressistas estão inspecionando as gigantes de tecnologias e pensando sobre a regulamentação futura.
Gebru, uma porta-voz importante quanto a ética de Inteligência Artificial e uma das poucas mulheres negras no Google, foi demitida sem cerimônias no início de dezembro de 2020, após um longo desentendimento quanto a um artigo de pesquisa. Ele detalhava os riscos do uso extensivo de modelos de linguagem de IA treinados em enormes quantidades de dados de texto, que são a linha principal de pesquisa no Google, impulsionando vários produtos, incluindo sua lucrativa Google Search.
Citando a cobertura da MIT Technology Review americana, a carta levantava três questões: o potencial enviesamento de grandes modelos de linguagem, a crescente influência corporativa sob a pesquisa de IA, e a falta de diversidade no Google. Os congressistas pedem ao CEO do Google, Sundar Pichai, por um plano concreto sobre como abordará cada um desses pontos, bem como sua política atual de revisão de pesquisas e detalhes sobre sua investigação em andamento sobre a saída de Gebru (Pichai se comprometeu com esta investigação em um memorando interno, primeiro publicado pela Axios). “Como membros do Congresso que buscam ativamente aprimorar a pesquisa, a responsabilidade e a diversidade de IA por meio de legislação e supervisão, respeitosamente solicitamos sua atenção para as seguintes indagações”, afirma a carta.
Em abril de 2019, Clarke e Wyden apresentaram um projeto de lei, o Algorithmic Accountability Act (tradução livre para Lei de Responsabilidade Algorítmica), que exigia que grandes empresas auditassem seus sistemas de machine learning quanto a preconceitos e tomassem ações corretivas em tempo hábil se tais problemas fossem identificados. Também exigia a fiscalização de todos os processos que envolvem dados confidenciais — incluindo informações pessoalmente identificáveis, biométricas e genéticas — quanto a riscos de privacidade e segurança. Na época, muitos especialistas jurídicos e de tecnologia elogiaram o projeto por sua compreensão diferenciada de IA e conhecimentos baseadas em dados. “Grande primeiro passo”, escreveu no Twitter Andrew Selbst, professor assistente da Escola de Direito da Universidade da Califórnia em Los Angeles. “Exigiria documentação, avaliação e tentativas de abordar os impactos previstos. Isso é novo, excitante e extremamente necessário”.
A última carta não se vincula diretamente à Lei de Responsabilidade Algorítmica, mas é parte do mesmo movimento de certos membros do Congresso para elaborar uma legislação que atenuaria o viés da IA e outros danos dos sistemas automatizados baseados em dados. Notavelmente, ela surge em meio à crescente pressão pela regulamentação antitruste. No início de dezembro de 2020, a Comissão Federal de Comércio dos Estados Unidos abriu uma ação antitruste contra o Facebook por sua “conduta anticompetitiva e métodos desleais de concorrência”. Durante o verão, os democratas da Câmara publicaram um relatório de 449 páginas sobre as práticas monopolistas da Big Tech.
A carta também vem no contexto de crescentes tensões geopolíticas. Como as relações EUA-China atingiram o nível mais baixo durante a pandemia, as autoridades americanas enfatizaram a importância estratégica de tecnologias emergentes como IA e 5G. Ela também levanta essa dimensão, reconhecendo a liderança do Google em IA e seu papel na manutenção da liderança nos Estados Unidos. Mas deixa claro que isso não deve minar a ação regulatória, uma linha de argumentação popularizada pelo CEO do Facebook, Mark Zuckerberg. “Para garantir que a América vença a corrida da IA”, diz a carta, “as empresas americanas de tecnologia não devem apenas liderar o mundo em inovação; elas também devem garantir que tais mudanças reflitam os valores de nossa nação”.
“Nossa carta deve avisar a todos no setor de tecnologia, não apenas o Google, que estamos prestando atenção”, disse Clarke em uma declaração a MIT Technology Review americana. “A IA ética é o campo de batalha pelo futuro dos direitos civis. Nossas preocupações sobre desenvolvimentos recentes não são apenas sobre uma pessoa; são sobre como será o século 21 se a liberdade e a inclusão acadêmica ficarem em segundo plano em relação a outras prioridades. Não podemos reduzir o viés algorítmico se impedirmos aqueles que procuram pesquisá-lo e estudá-lo”.
MIT Technology Review
