O panóptipo benevolente
Humanos e tecnologia

O panóptipo benevolente

O combate ao coronavírus pode exigir a entrega de dados extremamente pessoais. Esta é uma chance de reinventar a maneira como coletamos e compartilhamos informações privadas para que possam ajudar em vez de prejudicar?

Eu paro o carro quando eu o vejo andando devagar pela calçada vazia fora do nosso (agora fechado) edifício — Eu sei que ele vive no campus e está longe de casa. Dispensei meus alunos há mais de uma semana; Eu penso neles como diaspóricos agora, não necessariamente remotos, mas ainda é um choque vê-lo. Falamos sobre seus estudos e sua noiva em São Francisco, Califórnia, e como é estranho este momento em que nos encontramos — estamos no limite do que a linguagem pode descrever. Depois de uma última checada e da promessa de me ligar se eu puder ajudar, ele diz com uma voz estranha: “Você sabe que terei que relatar isso”.

A Australian National University (ANU), na qual trabalho, está agindo rapidamente em resposta à Covid19. Nossas aulas passaram a ser online e mandamos nossas equipes para casa; estamos todos navegando em um novo mundo composto por intermediação digital e distância. Para os alunos que permanecem em residências universitárias, trancados em um país que fechou suas fronteiras e para o qual as companhias aéreas não voam mais, é uma situação em constante mudança. Mantê-los seguros é uma grande prioridade; há distanciamento social, aumento da limpeza e escalonamento temporal do acesso aos serviços. Existem regras e prescrições e a realidade iminente das verificações diárias de temperatura. E, aparentemente, há um registro de contatos no qual irei apresentar agora, e que poderá ser repassado aos serviços de saúde locais posteriormente.

O uso rigoroso de rastreamento de contato, em ambientes digitais e físicos, tem sido creditado por ajudar a limitar a disseminação da Covid19 em vários lugares, notavelmente Cingapura, Taiwan e Coreia do Sul, bem como Kerala, Índia. Como metodologia, tem uma longa história de uso contra doenças de SARS e AIDS a febre tifoide e a pandemia de influenza de 1918-19. Em suas instâncias atuais — como o aplicativo para celular que os sul-coreanos expostos ao vírus devem fazer o download para que possam ser monitorados durante a autoquarentena —, ele levantou novas preocupações sobre vigilância e privacidade e sobre as compensações entre saúde, bem-estar da comunidade e direitos individuais. Mesmo aqui na ANU, estamos tentando encontrar uma maneira de equilibrar tudo.

Talvez estejamos negociando novos contratos sociais, com nossos vizinhos, nossas comunidades e nossos governos, que se estendem ao papel que a tecnologia desempenha na resposta a uma crise de saúde. E, à medida que negociamos esses novos contratos, surgem inevitavelmente questões sobre nossos relacionamentos com os dados que existem sobre nós, a grande abundância de informações que geramos e como elas poderiam ser usadas para nos ajudar ou nos prejudicar.

É muito para contemplar. Imagine fazer o rastreamento de contato em você mesmo. Você sabe onde você estava ontem e com quem? O que você estava fazendo? E que tal há uma semana? Duas semanas atrás? Como você se lembraria? Seu calendário? Sua caixa de entrada? Seus recibos do cartão de crédito ou carteira digital? O Facebook? O Google Maps? Seu cartão do transporte público? Seus perfis de serviço compartilhado? Seu aplicativo de relacionamento? Seu aplicativo de mensagens? Seu relógio inteligente? Sua câmera? Seu telefone? Você confiaria na sua memória ou na de outra pessoa? Seus dispositivos digitais; seus dados; os dados deles? Você poderia reconstruir tudo?

E se você pudesse, o que significaria e como poderia ser usado, por quem, para quê e por quanto tempo? Como seria saber que você fez parte da reconstrução de outra pessoa; que você foi um rastro em seus dias e semanas? Ou saber que um momento passageiro foi agora capturado, estabilizado, despojado de seu contexto e usado para contar um tipo diferente de história — uma história não sobre duas pessoas, mas sobre dois nós possíveis em uma epidemia?

E quando você soubesse o arco das últimas duas semanas e todos os seus pontos de intersecção e encontro, a quem você se sentiria confortável em contar? Seus filhos? Seus parceiros? Seus pais? Seu melhor amigo? Seu amante? Seu provedor de serviços? Seu empregador? Seu professor? Seu médico? Seus vizinhos? Sua comunidade? Seu governo? Como você se sentiria se não tivesse escolha na divulgação? E se você nem soubesse que a divulgação aconteceu?

Quando menina, visitei Port Arthur com minha mãe. Era um campo de prisioneiros, construído na Tasmânia para abrigar os detentos mais obstinados enviados para a Austrália durante o início do período colonial. Em 1853, uma nova prisão foi construída lá, inspirada na Penitenciária Estadual do Leste da Filadélfia e fortemente influenciada pelas ideias de Jeremy Bentham sobre o panóptico, uma prisão onde todos os presidiários podem ser vigiados o tempo todo, mas nunca o observador — uma protoversão de vigilância em massa. Em Port Arthur, os guardas podiam se ver e observar os prisioneiros por meio de um pequeno buraco de fechadura — coloquialmente conhecido como “buraco de judas” — em cada porta da cela, colocado de forma que nenhuma parte dela ficasse fora de vista. Os prisioneiros não podiam ver ninguém. Na única hora do dia em que eram liberados de suas celas, ficavam mascarados e caminhavam em silêncio em pátios murados a céu aberto. A vida do prisioneiro foi regulamentada, documentada e restringida; claro, eles encontraram maneiras de resistir e subverter o processo, mas era uma existência dura. As relações entre poder, vigilância e disciplina eram claras para mim desde criança.

O rastreamento de contatos também tem esse tipo de história. Foi usado para identificar Mary Mallon, uma cozinheira imigrante irlandesa, como portadora assintomática de febre tifoide na cidade de Nova York do século 19. Ela foi repetidamente colocada em quarentena e demonizada, e é lembrada até hoje com a frase “Maria Tifoide”. Foi implantado em grande escala durante a Segunda Guerra Mundial para controlar a propagação de doenças venéreas por soldados americanos no Reino Unido — as camadas de nacionalismo, interesse lascivo por sexo e dinâmica de poder nas relações de gênero são altamente visíveis. Na década de 1980, na Austrália, foi usado para identificar comunidades em risco no início da epidemia de AIDS, e os gays sofreram o impacto da política conservadora, da reação religiosa e do estigma.

Neste contexto, podemos precisar reavaliar como pensamos sobre “contato” (que nos últimos dois exemplos significava um contato sexual que a sociedade desaprovava) e “rastreamento” (associado a investigações criminais e punição) e perguntar: podemos retirá-los de suas camadas morais e punitivas? Temos que quebrar algumas das associações sociais e culturais do passado para usar essas táticas de forma mais eficaz no futuro.

Acho que a questão é: podemos imaginar rastreamento de contato e outras formas de revelação de dados que não pareçam um buraco de judas?

Parte da resposta está em como pensamos sobre a base do rastreamento de contatos — ou seja, dados e sua coleta. Obviamente, já existem preocupações antigas sobre as maneiras como as grandes corporações e governos usam e controlam os dados. Certamente haverá perguntas: quem pode usar os dados ou ser seu proprietário? Os dados de fontes que originalmente deveriam permanecer separados, como serviços de saúde e polícia, podem ser combinados? As decisões sobre quem terá acesso aos seus dados serão automatizadas ou os humanos as revisarão? Seus diagnósticos e status de anticorpos serão compartilhados com outros países quando você viajar ou você fará o teste na fronteira? As pessoas em risco serão visadas, e por quem? E não vamos esquecer que tudo isso está acontecendo em sistemas e contextos maiores.

O trabalho já está em andamento em vários países que pensam como melhor regulamentar a coleta de dados, evitar o viés algorítmico e limitar o uso de vigilância em massa (incluindo tecnologia de reconhecimento facial): essa consciência será claramente relevante para responder a essas perguntas. O mesmo acontecerá com as regulamentações e padrões atualmente emergentes — principalmente da Europa — sobre privacidade, o uso de dados pessoais e a tomada de decisões aprimorada por algoritmos. E tudo precisa acontecer, como um amigo meu começou a me lembrar, na velocidade do coronavírus — ou seja, muito rapidamente.

No entanto, há mais para tirarmos do panóptico potencial do que meramente implementar restrições técnicas e legais sobre quem controla seus dados. Também podemos precisar pensar de forma diferente sobre por que os dados estão sendo coletados e para que fim.

Talvez possamos começar diferenciando três objetivos distintos para o rastreamento de contatos: um centrado na saúde pública, outro nos pacientes e o último nos cidadãos. Todos são necessários; todos são diferentes.

A saúde pública é o foco mais óbvio. É nesse sentido que países como Coreia do Sul e Cingapura têm feito rastreamento de contato para o coronavírus, bem como as intervenções médicas concomitantes — notificação, divulgação, registro, isolamento, tratamento. Trata-se de ajudar a fazer o melhor uso de recursos finitos em nome de uma saúde pública mais abrangente: aqui, o rastreamento de contato é voltado em como você pode conter um surto antes que ele se torne muito grande.

VOCÊ SABE ONDE ESTAVA ONTEM? COM QUEM VOCÊ ESTAVA? O QUE ESTAVA FAZENDO? E HÁ UMA SEMANA? DUAS SEMANAS ATRÁS?

O propósito centrado no paciente exige que modifiquemos nossa noção de rastreamento de contato para algo que se assemelha a uma jornada do paciente. Aqui, o foco pode ser ajudar alguém a decidir se e como procurar atendimento e orientar os profissionais de saúde quanto ao tratamento adequado. Como um médico me disse recentemente, trata-se de ajudar os pacientes a “fazer a triagem de suas preocupações” — descobrir quando deveriam se preocupar e, na mesma medida, quando não deveriam. Os primeiros exemplos estão sendo testados em Massachusetts e em outros lugares.

O foco nos cidadãos, no entanto, é algo bem diferente. Podemos imaginar o rastreamento de contatos na comunidade? Pode ser uma forma de identificar pontos de atenção sem diferenciar indivíduos – um repositório de traços e padrões anônimos ou rastreamento de proximidade descentralizado e que preserva a privacidade. Esses dados podem ajudar pesquisadores ou agências governamentais a criar estratégias em nível de comunidade —talvez mudando o layout de um parque para reduzir o congestionamento, por exemplo. Pode nos ajudar a ver nosso mundo de maneira um pouco diferente e fazer escolhas distintas — um achatamento da curva coletiva. Podemos criar soluções de código aberto ou ferramentas locais.

Em todos os três contextos, precisamos expandir consideravelmente nossa compreensão dos dados, plataformas e dispositivos que podem ser úteis. Os dados do telefone móvel poderiam identificar lugares que precisam de ajuda para alcançar um melhor distanciamento social? Os termômetros inteligentes podem ajudar a identificar potenciais pontos de atenção? Os dados no nível da comunidade são tão úteis quanto os dados pessoais para mapear uma epidemia e as respostas a ela? Também precisaríamos mudar nossa forma de criar sentido em torno dos dados: a questão com a qual devemos lidar não é mais apenas os dados pessoais ou as ideias de privacidade que temos contestado há anos. Também são dados íntimos e compartilhados e que implicam outras pessoas. Pode ser sobre os padrões, não sobre os indivíduos.
A forma como esses dados são armazenados e acessados, e por quem, também variam dependendo das ferramentas disponíveis para acessá-los. Haverá muitas decisões — e, espera-se, muitas conversas.

A velocidade do vírus e a resposta que ele exige não devem nos levar a pensar que precisamos construir soluções que durem para sempre. Há um forte argumento de que muito do que construímos para essa pandemia deve ter uma cláusula de caducidade — em particular quando se trata de dados privados, íntimos e da comunidade que podemos coletar. As decisões que tomamos ao optar pela coleta e análise de dados agora podem não se parecer com as decisões que tomaríamos em outras ocasiões. A criação de estruturas que permitem uma mudança nos valores e cálculos de compensação também parece importante.

Haverá muitas respostas e muitas soluções, e nenhuma será fácil. Vamos testar soluções aqui na ANU, e sei que outros farão o mesmo. Precisaremos elaborar arranjos técnicos, atualizar regulamentos e até mesmo modificar algumas de nossas instituições e hábitos de longa data. E talvez um dia, não muito longe de agora, possamos nos encontrar em público, em uma grande reunião, e compartilhar o que aprendemos e o que ainda precisamos acertar – para tratar esta pandemia, mas também para construir sociedades justas e equitativas sem buracos de judas à vista.

Nossos tópicos