Uma empresa de telecomunicações dos Estados Unidos treinou um modelo de IA com anos de ligações telefônicas e chamadas de vídeo de detentos e agora está fazendo um projeto-piloto desse modelo para examinar suas ligações, mensagens de texto e e-mails, na esperança de prever e prevenir crimes.
O presidente da Securus Technologies, Kevin Elder, disse à MIT Technology Review que a empresa começou a construir suas ferramentas de IA em 2023, usando seu enorme banco de dados de chamadas gravadas para treinar modelos de IA a detectar atividade criminosa. Ela criou um modelo, por exemplo, usando sete anos de chamadas feitas por detentos no sistema prisional do Texas, mas vem trabalhando para construir outros modelos específicos por estado ou condado.
Ao longo do último ano, diz Elder, a Securus tem feito projetos-piloto das ferramentas de IA para monitorar conversas de detentos em tempo real. A empresa se recusou a especificar onde isso está ocorrendo, mas seus clientes incluem cadeias que mantêm pessoas aguardando julgamento e prisões para aqueles que cumprem pena. Algumas dessas unidades que usam a tecnologia da Securus também têm acordos com o Immigration and Customs Enforcement para deter imigrantes, embora a Securus não contrate diretamente com o ICE.
“Podemos apontar esse modelo de linguagem grande para um verdadeiro tesouro [de dados]”, diz Elder, “para detectar e entender quando crimes estão sendo pensados ou cogitados, de modo que você os pegue muito mais cedo no ciclo”.
Assim como com suas outras ferramentas de monitoramento, investigadores em unidades de detenção podem implementar os recursos de IA para monitorar conversas selecionadas aleatoriamente ou as de indivíduos suspeitos, por investigadores da unidade, de atividade criminosa, segundo Elder. O modelo vai analisar ligações telefônicas e chamadas de vídeo, mensagens de texto e e-mails e então sinalizar trechos para revisão por agentes humanos. Esses agentes então os enviam a investigadores para acompanhamento.
Em uma entrevista, Elder disse que os esforços de monitoramento da Securus ajudaram a interromper o tráfico de pessoas e atividades de gangues organizadas a partir de dentro das prisões, entre outros crimes, e disse que suas ferramentas também são usadas para identificar funcionários de prisões que estão levando contrabando para dentro. Mas a empresa não forneceu à MIT Technology Review nenhum caso especificamente descoberto por seus novos modelos de IA.
Pessoas na prisão, e aquelas para quem elas ligam, são notificadas de que suas conversas são gravadas. Mas isso não significa que elas estejam cientes de que essas conversas poderiam ser usadas para treinar um modelo de IA, diz Bianca Tylek, diretora executiva do grupo de defesa dos direitos de pessoas presas Worth Rises.
“Isso é consentimento coercitivo; literalmente não há outra maneira de você se comunicar com a sua família”, diz Tylek. E, como detentos na vasta maioria dos estados pagam por essas ligações, ela acrescenta: “você não só não os está compensando pelo uso de seus dados, como, na verdade, está cobrando deles enquanto coleta seus dados.”
Um porta-voz da Securus disse que o uso de dados para treinar a ferramenta “não está focado em vigiar ou mirar indivíduos específicos, mas sim em identificar padrões mais amplos, anomalias e comportamentos ilegais em todo o sistema de comunicação”. Ele acrescentou que unidades prisionais determinam suas próprias políticas de gravação e monitoramento, que a Securus segue, e não respondeu diretamente se detentos podem optar por não ter suas gravações usadas para treinar IA.
Outros defensores de detentos dizem que a Securus tem um histórico de violar suas liberdades civis. Por exemplo, vazamentos de seus bancos de dados de gravações mostraram que a empresa havia gravado de forma indevida milhares de ligações entre detentos e seus advogados. Corene Kendrick, diretora adjunta do National Prison Project, da ACLU, diz que o novo sistema de IA permite um sistema de vigilância invasiva, e tribunais especificaram poucos limites para esse poder.
“[Vamos] impedir o crime antes que ele aconteça porque estamos monitorando cada enunciação e pensamento de pessoas encarceradas?”, diz Kendrick. “Acho que esta é uma de muitas situações em que a tecnologia está muito, muito à frente da lei.”
O porta-voz da empresa disse que a função da ferramenta é tornar o monitoramento mais eficiente em meio à falta de pessoal, “não vigiar indivíduos sem motivo”.
A Securus terá mais facilidade para financiar sua ferramenta de IA graças à vitória recente da empresa em uma disputa com reguladores sobre como empresas de telecomunicações podem gastar o dinheiro que arrecadam com ligações de detentos.
Em 2024, a Federal Communications Commission emitiu uma grande reforma, moldada e elogiada por defensores dos direitos de pessoas presas, que proibiu empresas de telecomunicações de repassar para detentos os custos de gravar e vigiar ligações. As empresas puderam continuar a cobrar dos detentos uma tarifa limitada para as ligações, mas prisões e cadeias foram obrigadas a pagar a maior parte dos custos de segurança com seus próprios orçamentos.
As reações negativas a essa mudança foram rápidas. Associações de xerifes (que normalmente administram as cadeias de condado) reclamaram que já não podiam arcar com o monitoramento adequado das ligações, e procuradores-gerais de 14 estados processaram por causa da decisão. Algumas prisões e cadeias alertaram que cortariam o acesso a ligações telefônicas.
Enquanto construía e fazia projetos-piloto de sua ferramenta de IA, a Securus realizou reuniões com a FCC e fez lobby por uma mudança na regra, argumentando que a reforma de 2024 foi longe demais e pedindo que a agência voltasse a permitir que empresas usassem as tarifas arrecadadas com detentos para pagar por segurança.
Em junho, Brendan Carr, a quem o presidente Donald Trump nomeou para liderar a FCC, disse que a agência adiaria todos os prazos para que cadeias e prisões adotassem as reformas de 2024 e até sinalizou que a agência quer ajudar empresas de telecomunicações a financiar seus esforços de vigilância por IA com as tarifas pagas por detentos. Em um comunicado à imprensa, Carr escreveu que reverter as reformas de 2024 “levaria a uma adoção mais ampla de ferramentas benéficas de segurança pública que incluem IA avançada e aprendizado de máquina”.
Em 28 de outubro, a agência foi além: votou para aprovar novos tetos tarifários, mais altos, e permitir que empresas como a Securus repassem aos detentos os custos de segurança relacionados à gravação e ao monitoramento de ligações, como armazenar gravações, transcrevê-las ou construir ferramentas de IA para analisar essas ligações, por exemplo. Um porta-voz da Securus disse à MIT Technology Review que a empresa busca equilibrar acessibilidade com a necessidade de financiar ferramentas essenciais de segurança e proteção. “Essas ferramentas, que incluem nossas capacidades avançadas de monitoramento e IA, são fundamentais para manter unidades seguras para pessoas encarceradas e funcionários correcionais e para proteger o público”, escreveu.
A comissária da FCC Anna Gomez discordou da decisão do mês passado. “A aplicação da lei”, escreveu ela em uma declaração, “deveria arcar com a conta de custos de segurança e proteção não relacionados, não as famílias de pessoas encarceradas”.
A FCC buscará comentários sobre essas novas regras antes que elas entrem em vigor de forma definitiva.
James O'Donnell
