Shubnam estava encaixotando seus pertences durante uma mudança para uma nova casa quando um amigo lhe enviou um vídeo do Instagram. As imagens tinham sido publicadas havia apenas algumas horas, mas eram de dias antes, gravadas em um protesto em Delhi, naquela primavera, contra um projeto de lei que teria reduzido o reconhecimento legal de pessoas transgênero na Índia.
No vídeo, um criador de conteúdo conhecido por vídeos de provocação deliberada, feitos para gerar indignação, havia abordado Shubnam, uma designer gráfica e educadora trans de 38 anos. Shubnam, que usa único nome escolhido, vestia uma sari verde e tinha a cabeça raspada quando o criador perguntou por que a pessoa estava usando “roupas femininas”. Shubnam pediu que ele se afastasse. Só quando o vídeo chegou às suas mãos percebeu que ele havia gravado a interação com óculos inteligentes da Meta, projetados para parecerem óculos Wayfarer comuns.
Editadas em um vídeo de tom debochado, as imagens alcançaram milhões de visualizações, acompanhadas de ataques transfóbicos, vídeos de reação e memes gerados por Inteligência Artificial. O conteúdo se espalhou do Instagram para o X e o YouTube. Cópias continuam disponíveis on-line até hoje.
Para Shubnam, o vídeo causou um enorme dano. “Bastou um único vídeo feito sem consentimento para apagar duas décadas de progresso que construí por conta própria”, disse à MIT Technology Review. “Por um momento, parecia que toda aquela vida adulta que eu havia vivido era apenas um longo sonho lúcido, e que eu acordaria como aquela criança queer sem noção de antes.” Desde então, Shubnam não usou mais sari fora do próprio bairro.
Especialistas alertam que muitas outras pessoas passarão por situações semelhantes à medida que os óculos inteligentes se tornarem populares. E afirmam que os problemas relacionados à privacidade estão se tornando especialmente graves na Índia, onde gravações clandestinas e a circulação de imagens sem consentimento já são práticas disseminadas.
Casos de perseguição virtual, sextorsão, deepfakes e outras formas de abuso on-line estão crescendo no país. E as chances de uma repressão a tecnologias como os óculos inteligentes são pequenas, considerando que as próprias autoridades de segurança pública indianas estão adotando cada vez mais ferramentas de vigilância com Inteligência Artificial, incluindo sistemas de reconhecimento facial e seus próprios óculos inteligentes equipados com IA.
Um peso desigual
Os óculos inteligentes estão entre os dispositivos de crescimento mais rápido no mercado de dispositivos vestíveis da Índia, segundo a International Data Corporation, uma empresa de pesquisa. E a Reliance Jio, uma das maiores companhias de telecomunicações do país, afirma que, ainda este ano, deve lançar um concorrente dos óculos da Meta por menos de 105 dólares, enquanto o modelo mais recente da empresa custa 420 dólares na Índia.
O principal problema de privacidade é que essas câmeras não parecem câmeras, portanto as pessoas filmadas podem não perceber que estão sendo gravadas. No entanto, a Meta rejeita a ideia de que seja sua responsabilidade proteger as pessoas contra invasões de privacidade, afirma Janusz Świerczyński, pesquisador da Oxford Saïd Business School que estuda privacidade e tecnologias emergentes.
“Cada vez mais, a expectativa é de que os espectadores ao redor cuidem da própria proteção”, avalia. Isso significa que cabe a eles identificar um pequeno LED na armação dos óculos, que se acende quando a gravação está em andamento. A Meta também espera que os usuários ajam de maneira responsável, afirma Świerczyński. A Reliance Jio não respondeu ao nosso pedido de comentário sobre questões de privacidade relacionadas aos seus próximos óculos.
Criadores de conteúdo já demonstraram maneiras de contornar a luz indicadora de gravação dos óculos da Meta. Tutoriais mostram aos usuários como cobrir ou ocultar o LED de outra forma enquanto continuam gravando. Em março, a revista Wired documentou um mercado de modificações de “modo furtivo”, que desativam fisicamente a luz ou a removem completamente.
Tudo isso torna as gravações clandestinas mais fáceis, e os riscos não são distribuídos de maneira igual. Świerczyński afirma que mulheres e outros grupos marginalizados sofrem danos maiores quando dispositivos discretos capturam e disseminam imagens sem consentimento, como aconteceu com Shubnam.
O problema maior, porém, é que, na Índia, os óculos inteligentes não estão sendo usados apenas para transformar pessoas comuns em alvos de “pegadinhas” virais. Eles também estão sendo adotados como ferramenta de vigilância policial.
Em junho, quando milhares de jovens manifestantes se reuniram para protestar contra problemas no sistema educacional do país, a polícia de Delhi usou óculos inteligentes da Meta para gravá-los. De fato, uma petição apresentada ao Tribunal Superior de Delhi por Aishe Ghosh, ex-presidente do Sindicato de Estudantes da Universidade Jawaharlal Nehru, alegou que a polícia havia filmado manifestantes de forma contínua durante semanas, inclusive enquanto eles comiam e descansavam. A petição também alegou que a polícia havia ameaçado enviar as imagens dos estudantes manifestantes a seus pais e universidades.
No mês seguinte, o procurador-geral da Índia classificou o caso no tribunal como “litigância de luxo”. Em vez de investigar as queixas dos estudantes, a polícia voltou-se contra eles, abrindo dez investigações criminais por delitos que incluem tumulto, agressão a funcionários públicos e danos ao patrimônio público. Alguns dos manifestantes, que falaram com a MIT Technology Review sob condição de anonimato, afirmam que nunca viram o LED dos óculos de IA da Meta usados pela polícia durante os protestos.
Filmagem sem consentimento
A Meta afirma que sua proteção funciona. A empresa disse à MIT Technology Review: “Todos os pares têm um LED de captura que pisca quando você tira uma foto ou grava um vídeo que pode ser salvo ou compartilhado; ele não pode ser desligado e, se alguém cobrir ou danificar o LED, a câmera é desativada”. A empresa também afirma que os usuários são responsáveis por cumprir a lei e respeitar a privacidade das pessoas.
Essa abordagem é arriscada, especialmente na Índia, onde as normas sobre gravação e consentimento ainda são amplamente debatidas e o letramento digital continua desigual, afirma Sameer Parmar, conselheiro da Meri Trustline, uma parceira de segurança que trabalha com a Meta e o YouTube para apoiar pessoas prejudicadas por conteúdos on-line.
“O hardware está melhorando, mas a compreensão limitada do país sobre consentimento dá a uma câmera invisível muito mais espaço para causar danos”, comenta. A simples presença em um espaço público muitas vezes é tratada como consentimento implícito para ser fotografado ou filmado. Ele afirma que a linha de apoio tem registrado um aumento nos casos envolvendo gravações clandestinas e imagens obtidas sem consentimento.
“As violações desse acesso aumentaram significativamente e espera-se que continuem crescendo na Índia”, afirma. Pessoas são gravadas em ambientes médicos, durante encontros privados e em espaços públicos. Aqueles que têm menos poder para contestar essas situações são particularmente vulneráveis, acrescenta.
“Ou é perseguição virtual, ou é fazer pegadinhas com essas pessoas e depois gravá-las”, diz. Os abusadores “tendem a escolher pessoas que estão um pouco menos conscientes ou mais suscetíveis aos danos facilitados por essa tecnologia”.
A legislação da Índia ainda não acompanhou esse novo tipo de dano, afirma Apar Gupta, advogado e fundador-diretor da Internet Freedom Foundation. “As leis indianas contra voyeurismo e compartilhamento de imagens íntimas foram elaboradas, em grande parte, em torno de formas de abuso mais reconhecíveis”, explica citando crimes como filmar alguém secretamente enquanto a pessoa se despe, usa o banheiro ou pratica um ato sexual. “As [leis] oferecem proteção limitada quando alguém é filmado secretamente em um ambiente público comum e as imagens são usadas posteriormente para humilhar essa pessoa”, afirma.
As regras das plataformas de redes sociais oferecem outro caminho para remover conteúdos prejudiciais gravados com óculos inteligentes, mas isso não é uma solução imediata. “De acordo com as regras atuais da Índia, as plataformas podem levar até 36 horas para agir em determinadas reclamações, um intervalo que pode ser tempo suficiente para que um vídeo seja baixado, copiado e distribuído em outros lugares”, conta.
O problema das gravações sem consentimento parece destinado a crescer. De acordo com o Financial Times, alguns protótipos internos dos novos óculos da Meta incluem recursos de IA que fotografam e escutam continuamente o ambiente ao redor do usuário, permitindo que os óculos recuperem posteriormente informações sobre o que viram ou ouviram. Essas funções não ativariam o indicador externo de gravação, tornando impossível para as pessoas próximas saberem quando informações sobre elas estão sendo coletadas.
A Meta afirmou que pretende manter o LED para capturas ativas, como tirar fotos ou gravar vídeos, mas não para recursos de IA que interpretam o ambiente ao redor do usuário. O argumento da empresa é que uma luz piscando constantemente poderia, com o tempo, se tornar tão comum que as pessoas deixariam de notá-la.
Mas essa lógica corre o risco de colocar a sociedade em um eterno jogo de recuperação, afirma Woodrow Hartzog, professor de direito da Boston University. “As empresas de tecnologia têm uma capacidade extraordinária de lançar essas ferramentas mais rápido do que a sociedade consegue se adaptar de forma significativa às ameaças”, diz. “Quando a sociedade consegue acompanhar, já existe certo grau de normalização.”
Para Shubnam, o perigo não é apenas que as pessoas possam se acostumar a ser gravadas. É que elas se acostumem a ver versões de si mesmas que nunca escolheram colocar no mundo.
“Ser compreendido a partir de uma narrativa que eu não criei nem autorizei, esse reconhecimento imposto faz você sentir que não tem poder sobre a forma como as pessoas conhecem você”, afirma.
Anuj Behal
