No início de abril, eu e minha colega Eileen Guo publicamos um artigo que apresenta um debate tenso e acalorado sobre privacidade em um dos programas de ciência da computação mais prestigiados do mundo.
Pesquisadores da Universidade Carnegie Mellon (EUA) decidiram criar sensores inteligentes avançados chamados Mites que deveriam coletar 12 tipos de dados ambientais (incluindo movimento, temperatura e áudio codificado). A intenção era que eles protegessem a privacidade das pessoas de uma forma mais segura do que a infraestrutura existente da Internet das Coisas (Internet of Things ou IoT, sigla pela qual é mais conhecida). Mas depois que centenas de sensores foram instalados em um novo prédio do campus, o projeto tomou um rumo até mesmo irônico quando alguns alunos e membros do corpo docente acusaram os pesquisadores envolvidos de violar seu direito a privacidade ao não pedirem pelo consentimento deles em primeiro lugar.
O debate que se seguiu no Departamento de Software e Sistemas Sociais tornou-se acalorado e complicado, ressaltando a complexidade envolvida na discussão sobre privacidade e tecnologia. Esses são temas com os quais todos nós temos que lidar, já que uma quantidade enorme de dados sobre nós é coletada dentro de nossas casas, nas ruas, em nossos carros, locais de trabalho e em praticamente todos os espaços pelos quais circulamos. Como escrevemos no artigo mencionado acima, se os tecnólogos cujas pesquisas definem as pautas sobre esses pontos não conseguem chegar a um consenso sobre privacidade, como isso poderá nos afetar?
O artigo levou mais de um ano para ser escrito. Tentamos apresentar diferentes pontos de vista sobre privacidade, consentimento e o futuro da tecnologia IoT. Além disso, reconhecemos os papéis muito importantes envolvidos na implantação dessas ferramentas pelo poder de algumas empresas e organizações, o processo de desenvolvimento e como comunicamos aspectos relevantes do tratamento de dados.
Mas uma coisa ficou bem clara ao longo da apuração da reportagem: a privacidade é subjetiva. Não há um conjunto claro de critérios para definir o que constitui uma tecnologia de proteção à privacidade, mesmo em pesquisas acadêmicas. No caso da Universidade Carnegie Mellon (CMU), pessoas de todos os lados do debate estavam tentando defender um futuro melhor de acordo com seu próprio entendimento de privacidade. David Widder, um estudante de doutorado focado na ética da tecnologia e um personagem central no artigo, nos disse: “Não quero aceitar a premissa da existência de… um futuro em que existam todos esses tipos de sensores em todos os lugares”.
Mas os próprios pesquisadores que ele estava criticando também estavam tentando construir um futuro melhor. O diretor do departamento, James Herbsleb, incentivou as pessoas a apoiar a pesquisa dos Mites. “Quero reforçar a ideia de que este é um projeto muito importante… se você quiser evitar um futuro em que a vigilância seja rotineira e inevitável!” ele escreveu em um e-mail aos membros do departamento.
Grandes questões sobre o futuro estiveram no centro do debate da CMU e refletem as mesmas questões com as quais todos estamos lidando. Um mundo cheio de dispositivos IoT é inevitável? Devemos gastar nosso tempo e energia tentando tornar nosso novo mundo tecnologicamente mais seguro e protegido? Ou devemos rejeitar a tecnologia completamente? Em que circunstâncias devemos escolher uma das opções e quais mecanismos são necessários para tomarmos essas decisões de forma coletiva e individual?
A temática do consentimento e a maneira adequada de comunicar sobre a coleta de dados se tornaram pontos críticos no debate da CMU, e esses são temas fundamentais nas discussões atuais sobre regulamentação de tecnologia. Na Europa, por exemplo, as agências reguladoras estão debatendo as regras em torno do consentimento informado e a coleta de dados em resposta às janelas pop-ups que vêm poluindo a Internet desde a aprovação do Regulamento Geral de Proteção de Dados (RGPD), a lei de privacidade de dados da União Europeia. As empresas usam esse recurso para se adequarem à lei, mas a forma como as mensagens nos pop-ups são apresentadas foram criticadas por serem inúteis quando se trata de informar os usuários sobre a coleta de dados e os termos do serviço.
No artigo do início de abril, também focamos nas diferenças entre as abordagens técnicas à privacidade e as normas sociais em torno de coisas como notificação sobre coleta de dados e consentimento para a realização dessa coleta. Técnicas avançadas como processamento de ponta podem ajudar a preservar a privacidade dos indivíduos, mas isso não significa que elas possam substituir completamente a solicitação inicial do consentimento das pessoas para participarem ou não da coleta de dados. Também encontramos constantemente confusão sobre o que era o projeto envolvendo os Mites e quais dados estavam sendo, de fato, coletados. Além disso, as comunicações sobre a coleta de dados que revisamos sobre o assunto eram, com frequência, vagas e incompletas.
Pedi à minha co-repórter, Eileen, que nos ajudasse a refletir sobre a história do artigo. De forma clara e eloquente, ela explicou: “A história dos Mites era meio que duas histórias em uma. Por um lado, fala sobre conceitos: o que é privacidade? Quando precisamos de consentimento? Que futuro queremos construir? E, por outro lado, é uma narrativa sobre uma situação específica na Universidade de Carnegie Mellon que se tornou incrivelmente pessoal para as pessoas envolvidas, e com muita coisa em jogo”.
Eu também acrescentaria que, embora essas questões não sejam novas, como sociedade, estamos no início de uma realidade em que nossos dados podem ser extraídos de quase tudo o que fazemos. E a capacidade de usar esses dados, tanto para o bem quanto para o mal, só tende a ser aprimorada.
Esperamos que o artigo sobre o projeto encoraje as pessoas a pensarem sobre sua própria posição em relação à privacidade. Como Eileen observou, “É realmente interessante e significativo ver como os pesquisadores de IoT estão pensando sobre essas questões agora, porque sempre leva algum tempo antes que a pesquisa acadêmica eventualmente se transforme ou influencie a criação de um produto comercial. Estamos meio que tendo um assento na primeira fila para o que pode estar por vir daqui a alguns anos”.
É um artigo longo e uma história complexa, então pegue seu café ou chá e boa leitura. Depois, caso se sinta à vontade, conte para nós o que achou.
O que estou lendo esta semana
De acordo com esta investigação detalhada realizada por Mark Mazzetti e Ronen Bergman, do New York Times, agências do governo dos EUA estão usando a tecnologia de rastreamento de geolocalização de telefones celulares da NSO Group, apesar do governo Biden ter proibido o uso de ferramentas de vigilância do grupo. (Escrevemos extensivamente sobre a NSO, incluindo este perfil da empresa e este artigo sobre as tendências da indústria de hackers pagos em geral.)
A OpenAI promete resolver as preocupações das agências reguladoras na Itália que optaram por banir o ChatGPT no país no final de março devido a questões sobre a coleta de dados realizadas pelo modelo de linguagem. Ainda não está claro quais ações a empresa tomará exatamente, mas muitos outros países estão acompanhando de perto a situação.
Na segunda Cúpula pela Democracia do presidente Biden, houve muita discussão sobre o papel da tecnologia e o futuro da democracia. Alex Engler, que apresentei em uma The Technocrat recentemente, escreveu um ótimo resumo na Tech Policy Press. Foi dado destaque ao papel da tecnologia cívica e à importância dos serviços públicos digitais, que é um tópico que provavelmente ouviremos bastante do governo Biden.
E o que aprendi
A Reuters informou que os trabalhadores da Tesla compartilharam entre si imagens e vídeos que foram gravados pelos carros da empresa. Alguns são de natureza delicada, como um cliente nu que se aproxima de seu carro. A política de privacidade da empresa afirma que as gravações são anônimas e não vinculadas aos veículos, e que a coleta de dados “ajuda a Tesla a melhorar seus produtos”. Mas ex-funcionários disseram à Reuters que o software da empresa pode mostrar a localização das gravações. Em certas ocasiões, a Tesla estava coletando gravações mesmo quando os veículos estavam desligados, se os clientes consentissem.
É outra história que expõe os riscos de privacidade criados quando as empresas coletam dados. Em dezembro, Eileen Guo relatou uma situação semelhante com os robôs aspiradores Roomba, em que imagens sensíveis captadas pelos aparelhos, como uma mulher no banheiro, eram compartilhadas entre funcionários de uma empresa contratada e iam parar no Facebook.
MIT Technology Review
