Oferecido por
Você certamente já deve ter ouvido falar que os dados são o novo petróleo. E a afirmação está longe de ser um exagero, tendo em vista a importância que eles têm para organizações de diferentes segmentos. É por meio dessas informações, por exemplo, que as empresas conseguem identificar as preferências de seus consumidores sobre produtos e serviços, melhores canais de compra, entre outros detalhes importantes.
No entanto, na mesma medida em que o acesso a diferentes dados pode auxiliar as empresas a desenvolverem produtos e serviços alinhados às necessidades de seus clientes, a má utilização dessas informações é uma questão que preocupa. Como garantir o tratamento ético do volume de dados gerados todos os dias por clientes, fornecedores, parceiros e colaboradores?
Por conceituação, a ética em dados refere-se ao ato de sistematizar modelos de conduta e compreender a necessidade de regulação dos dados. A importância dessa discussão, segundo Ronald Rowlands, gerente de Customer Advisor do SAS, vai além da questão tecnológica; tem a ver com a necessidade de descobrir como usar a tecnologia para o maior benefício da sociedade.
“Organizações em todo o mundo estão examinando com mais atenção à equidade e à responsabilidade em todas as suas atividades comerciais. Não só essa é a coisa certa a fazer, como os consumidores também valorizam marcas que priorizam essas áreas.”
Conceito de ética em dados e a inovação responsável
Muitas vezes, a ética em dados é associada à privacidade de dados, mas, de acordo com Rowlands existem outros fatores fundamentais que devem entrar em pauta quando se aborda o conceito. Segundo ele, a temática precisa ser analisada a partir de uma abordagem de inovação responsável, considerando questões como equidade e justiça em todas as etapas do processo de inovação, desde a ideia até o desenvolvimento e implantação de novas soluções.
Isso leva a outro conceito igualmente importante para essa discussão: a ética por design. Essa é uma abordagem em que todo o desenvolvimento de produtos e estratégias de mercado consideram não só as implicações relacionadas ao uso de dados pessoais, como os impactos sociais atrelados a utilização dessas informações.
Um exemplo que ajuda a clarear as ideias em torno desses conceitos é a Prática de Ética de Dados do SAS, cujos esforços são para ajudar funcionários e clientes a implantar sistemas orientados por dados que promovam o bem-estar humano e a equidade. “O SAS acredita que os seres humanos devem estar no centro da inovação e está comprometido em criar tecnologia que eleve as pessoas. Fundada em 2021, a Prática de Ética em Dados garante que nossas plataformas, pessoas e processos estejam sempre centrados no ser humano”, explicou Rowlands.
A Prática de Ética de Dados do SAS mencionada por Rowlands consiste em uma equipe multifuncional liderada por Reggie Townsend, recentemente nomeado para o Conselho Nacional de Consultoria de IA do Departamento de Comércio dos EUA (NAIAC).
“A prática de ética de dados trata de garantir que, onde quer que nossa tecnologia apareça, seja como for implantada, no final do dia não prejudique as pessoas. E, portanto, estamos focando particularmente nas populações vulneráveis em todo o mundo. Porque a crença é que se você puder ajudar os mais vulneráveis entre nós, todos os outros estarão bem”, disse Townsend no vídeo de apresentação da Prática de Ética de Dados do SAS.
O trabalho é feito de forma coordenada com a área de Pesquisa e Desenvolvimento do SAS e outros grupos dentro da empresa, com o objetivo de incorporar princípios de inovação responsáveis como o foco nas pessoas, inclusão, transparência, responsabilização, robustez e privacidade e segurança.
De acordo com a empresa, “o SAS vai continuar trabalhando e aprendendo com clientes, parceiros, universidades, estudantes e organizações sem fins lucrativos para divulgar suas próprias práticas e explorar novas maneiras de exaltar pessoas com dados e analytics.”
Inteligência Artificial e ética em dados
A ética em dados é uma discussão recorrente no mundo dos negócios, por conta da importância em assegurar a conduta correta na utilização das informações às quais as empresas têm acesso todos os dias. Mas, ainda assim, muitas companhias consideram o tema desafiador, principalmente com o surgimento de inovações tecnológicas e com o rápido desenvolvimento da Inteligência Artificial.
Para Ronald Rowlands, o que falta é a construção da confiança na tecnologia. As empresas precisam investir em uma diretoria ativa, preparada e engajada para lidar com assuntos relacionados à IA. Além disso, as decisões analíticas devem ser repetíveis, governadas, transparentes e interpretáveis. O objetivo final deve ser a redução de vieses negativos em dados e algoritmos, a melhoria do valor e qualidade dos dados e a construção da confiança na justiça dos modelos.
“No final tudo é uma questão de pessoas. Elas precisam estar dispostas a ver seus valores serem implementados através da tecnologia, e depois precisam de vontade para mudar as formas como constroem IA. Se estivermos trabalhando com conjuntos de dados que sabemos que podem ser distorcidos negativamente de alguma forma, devemos estar preparados para retirar esses dados”, pontuou.
Se por um lado trabalhar iniciativas voltadas para a ética em dados nas empresas é desafiador, por outro ignorar a questão pode acarretar problemas.
O gerente de Customer Advisor do SAS, relembrou casos ocorridos nos EUA, quando em 2007 o sistema automatizado de benefícios públicos do Texas (TIERS) fez determinações incorretas de elegibilidade para vales-alimentação. No mesmo ano, o algoritmo usado por hospitais e médicos para orientar as decisões em torno de partos vaginais versus cesarianas estavam racialmente tendenciosos. Sem dúvidas, a falta de estratégias voltadas para ética em dados pode gerar consequências negativas.
MIT Technology Review