Imagine o seguinte: você tem se sentido mal e liga para o consultório do seu médico para marcar uma consulta. Para sua surpresa, eles agendam para o dia seguinte. No atendimento, você não é apressado ao descrever suas preocupações de saúde; em vez disso, você tem meia hora completa para compartilhar seus sintomas, inquietações e todos os detalhes exaustivos do seu histórico médico com alguém que escuta atentamente e faz perguntas de acompanhamento cuidadosas. Você sai com um diagnóstico, um plano de tratamento e a sensação de que, pela primeira vez em muito tempo, conseguiu falar sobre sua saúde com a atenção que ela merece.
O detalhe? É possível que você não tenha falado com um médico, ou com qualquer outro profissional de saúde licenciado, em momento algum.
Essa é a nova realidade para pacientes de um pequeno número de clínicas no sul da Califórnia administradas pela startup médica Akido Labs. Esses pacientes, alguns deles beneficiários do Medicaid (programa de saúde social dos EUA para famílias e indivíduos de baixa renda), conseguem acessar consultas com especialistas em curto prazo, um privilégio normalmente reservado a poucos, geralmente aqueles que frequentam clínicas mais caras, com atendimentos altamente personalizados.
A diferença fundamental é que pacientes da Akido passam relativamente pouco tempo, ou até nenhum tempo, com seus médicos. Em vez disso, eles veem um assistente médico, que pode oferecer uma escuta acolhedora, mas possui treinamento clínico limitado. A tarefa de formular diagnósticos e elaborar um plano de tratamento é realizada por um sistema proprietário baseado em LLM chamado ScopeAI, que transcreve e analisa o diálogo entre paciente e assistente. Um médico então aprova, ou corrige, as recomendações do sistema de IA.
“Nosso foco é realmente descobrir o que podemos fazer para tirar o médico da consulta”, diz Jared Goodner, CTO da Akido.
Segundo Prashant Samant, CEO da Akido, essa abordagem permite que médicos atendam de quatro a cinco vezes mais pacientes do que antes. Há boas razões para querer que médicos sejam muito mais produtivos. Os americanos estão envelhecendo e ficando mais doentes, e muitos têm dificuldade de acessar cuidados de saúde adequados. A iminente redução de 15% no financiamento federal do Medicaid só deve piorar a situação.
Mas especialistas não estão convencidos de que deslocar tanto do trabalho cognitivo da medicina para a IA seja o caminho certo para resolver a escassez de médicos. Existe um grande abismo de expertises entre médicos e assistentes médicos apoiados por IA, afirma Emma Pierson, cientista da computação da UC Berkeley. Saltar esse abismo pode introduzir riscos. “De modo geral, estou animada com o potencial da IA para ampliar o acesso à expertise médica”, diz ela. “Só não me parece óbvio que esse caminho específico seja a forma de fazer isso.”
A IA já está em toda parte na medicina. Ferramentas de visão computacional identificam cânceres durante exames preventivos, sistemas automatizados de pesquisa permitem que médicos filtrem rapidamente a literatura médica e escribas médicos baseados em LLMs podem fazer as anotações da consulta em nome do clínico. Mas esses sistemas são projetados para apoiar os médicos enquanto eles seguem suas rotinas médicas típicas.
O que distingue o ScopeAI, diz Goodner, é sua capacidade de concluir de forma independente as tarefas cognitivas que constituem uma consulta médica, desde levantar o histórico médico de um paciente até elaborar uma lista de diagnósticos potenciais, identificar o diagnóstico mais provável e propor os próximos passos adequados.
Por baixo do capô, o ScopeAI é um conjunto de modelos de linguagem amplo, cada um dos quais pode executar uma etapa específica da consulta, desde gerar perguntas de acompanhamento apropriadas com base no que o paciente disse até preencher uma lista de condições prováveis. Em sua maior parte, esses LLMs são versões ajustadas dos modelos Llama, de acesso aberto, da Meta, embora Goodner diga que o sistema também faça uso dos modelos Claude, da Anthropic.
Durante a consulta, os assistentes leem as perguntas a partir da interface do ScopeAI, e o ScopeAI produz novas perguntas à medida que analisa o que o paciente diz. Para os médicos que irão revisar seus resultados depois, o ScopeAI produz uma nota concisa que inclui um resumo da consulta do paciente, o diagnóstico mais provável, dois ou três diagnósticos alternativos e os próximos passos recomendados, como encaminhamentos ou prescrições. Ele também apresenta uma justificativa para cada diagnóstico e recomendação.
O ScopeAI está sendo usado atualmente em clínicas de cardiologia, endocrinologia e atenção primária, além da equipe de street medicine da Akido, que atende a população em situação de rua de Los Angeles. Essa equipe, liderada por Steven Hochman, médico especializado em medicina de dependência, encontra os pacientes na própria comunidade para ajudá-los a acessar cuidados médicos, incluindo tratamento para transtornos por uso de substâncias.
Antes, para prescrever um medicamento para tratar dependência de opioides, Hochman precisava encontrar o paciente pessoalmente; agora, assistentes sociais munidos do ScopeAI podem entrevistar os pacientes sozinhos, e Hochman pode aprovar ou rejeitar as recomendações do sistema depois. “Isso me permite estar em dez lugares ao mesmo tempo”, diz ele.
Desde que começaram a usar o ScopeAI, a equipe conseguiu garantir que os pacientes tenham acesso a medicamentos para tratar o uso de substâncias em até 24 horas, algo que Hochman considera “inédito”.
Esse arranjo só é possível porque pacientes em situação de rua geralmente obtêm seu seguro de saúde por meio do Medicaid. Enquanto o Medicaid permite que médicos aprovem prescrições e planos de tratamento gerados pelo ScopeAI de forma assíncrona, tanto para consultas itinerantes, nas ruas, quanto para consultas em clínicas, muitos outros provedores de seguro exigem que os médicos conversem diretamente com os pacientes antes de aprovar essas recomendações. Pierson afirma que essa discrepância levanta preocupações. “Há o receio de que isso aprofunde as disparidades em saúde”, diz ela.
Samant está ciente da percepção de desigualdade e afirma que a discrepância não é intencional, é apenas uma característica de como os planos de seguro funcionam hoje. Ele também ressalta que ser atendido rapidamente por um assistente médico apoiado por IA pode ser melhor do que lidar com longas filas de espera e pouca disponibilidade de profissionais, que é o status quo para pacientes do Medicaid. E “todos os pacientes da Akido podem optar por consultas tradicionais com médicos, se estiverem dispostos a esperar por elas”, diz ele.
Parte do desafio de implementar uma ferramenta como o ScopeAI é navegar por um cenário regulatório e de seguros que não foi desenhado para sistemas de IA capazes de conduzir consultas médicas de forma independente. Glenn Cohen, professor da Harvard Law School, afirma que qualquer sistema de IA que, na prática, funcione como um “médico em uma caixa” provavelmente precisaria ser aprovado pela FDA e poderia entrar em conflito com leis de licenciamento médico, que determinam que apenas médicos e outros profissionais licenciados podem exercer a medicina.
A California Medical Practice Act estabelece que a IA não pode substituir a responsabilidade do médico de diagnosticar e tratar um paciente, mas os médicos estão autorizados a usar IA em seu trabalho e não precisam ver os pacientes presencialmente ou em tempo real antes de diagnosticá-los. Nem a FDA nem o Medical Board of California conseguiram dizer se o ScopeAI está ou não em terreno jurídico sólido baseando-se apenas em uma descrição escrita do sistema.
Samant, porém, está confiante de que a Akido está em conformidade, já que o ScopeAI foi intencionalmente projetado para não se configurar como um “médico em uma caixa”. Como o sistema exige que um médico humano revise e aprove todas as suas recomendações diagnósticas e terapêuticas, ele afirma, não há necessidade de aprovação pela FDA.
Na clínica, esse equilíbrio delicado entre IA e decisão médica acontece totalmente nos bastidores. Os pacientes nunca veem diretamente a interface do ScopeAI, em vez disso, conversam com um assistente médico que faz perguntas da mesma forma que um médico faria em uma consulta típica. Esse arranjo pode fazer com que os pacientes se sintam mais confortáveis. Mas Zeke Emanuel, professor de ética médica e políticas de saúde na Universidade da Pensilvânia, que atuou nas administrações Obama e Biden, teme que esse conforto possa esconder dos pacientes o grau em que um algoritmo está influenciando o cuidado que recebem.
Pierson concorda. “Isso certamente não é bem o que, tradicionalmente, se entendia como o toque humano na medicina”, diz ela.
DeAndre Siringoringo, médico-assistente que trabalha no consultório de cardiologia da Akido, em Rancho Cucamonga, afirma que, embora ele informe aos pacientes que um sistema de IA estará ouvindo a consulta para reunir informações para o médico, ele não explica os detalhes de como o ScopeAI funciona, incluindo o fato de que o sistema faz recomendações diagnósticas aos médicos.
Como todas as recomendações do ScopeAI são revisadas por um médico, isso pode não parecer um grande problema, afinal, é o médico quem faz o diagnóstico final, não a IA. Mas está amplamente documentado que médicos que utilizam sistemas de IA tendem a seguir as recomendações desses sistemas mais frequentemente do que deveriam, um fenômeno conhecido como viés de automação (automation bias).
Neste momento, é impossível saber se o viés de automação está influenciando as decisões dos médicos nas clínicas da Akido, embora Pierson diga que isso é um risco, especialmente quando os médicos não estão fisicamente presentes nas consultas. “Me preocupa que isso possa predispor você a simplesmente concordar, de uma forma que talvez não acontecesse se estivesse realmente na sala, vendo tudo acontecer”, diz ela.
Uma porta-voz da Akido afirma que o viés de automação é uma preocupação válida para qualquer ferramenta de IA que auxilie na tomada de decisão médica, e que a empresa tem feito esforços para mitigá-lo. “Projetamos o ScopeAI especificamente para reduzir vieses, combatendo de forma proativa pontos cegos que podem influenciar decisões médicas, historicamente muito baseadas na intuição e na experiência pessoal do médico”, diz ela. “Também treinamos os médicos de forma explícita em como usar o ScopeAI de maneira criteriosa, para que mantenham a responsabilidade e evitem a dependência excessiva.”
A Akido avalia o desempenho do ScopeAI testando-o em dados históricos e monitorando com que frequência os médicos corrigem suas recomendações; essas correções também são usadas para treinar ainda mais os modelos subjacentes. Antes de implantar o ScopeAI em uma determinada especialidade, a Akido garante que, quando testado em conjuntos de dados históricos, o sistema inclua o diagnóstico correto entre suas três principais recomendações em pelo menos 92% dos casos.
Mas a Akido não realizou testes mais rigorosos, como estudos que comparem consultas com o ScopeAI a consultas tradicionais presenciais ou por telemedicina, para determinar se o sistema melhora, ou ao menos mantém, os desfechos dos pacientes. Um estudo desse tipo poderia ajudar a indicar se o viés de automação é uma preocupação realmente relevante.
“Tornar o cuidado médico mais barato e mais acessível é um objetivo louvável”, diz Pierson. “Mas eu só acho importante conduzir avaliações robustas em comparação com esse ponto de partida.”
Grace Huckins
