Robôs Cirúrgicos com IA “Alucinando”: Riscos Ocultos na Medicina Moderna

Dispositivos médicos com inteligência artificial apresentam falhas graves, gerando preocupações sobre a segurança dos pacientes em procedimentos cirúrgicos.

A promessa da IA na saúde e a realidade dos erros médicos

A inteligência artificial (IA) tem sido apresentada como um divisor de águas na área da saúde, prometendo avanços significativos em diagnósticos, tratamentos e até mesmo em procedimentos cirúrgicos. No entanto, uma análise mais aprofundada revela que a confiança cega em sistemas de IA imperfeitos pode levar a consequências desastrosas. Um relatório recente da Reuters expõe a crescente utilização de IA em dispositivos médicos e sistemas de apoio cirúrgico, e os resultados indicam que, em vez de aprimorar, essa tecnologia pode estar comprometendo a segurança dos pacientes.

O cenário mais temido da IA, a consciência e a revolta contra humanos, parece distante. A realidade mais premente, porém, é que sistemas de IA falhos, quando integrados em áreas críticas como a medicina, podem causar danos irreparáveis. A questão não é a superinteligência, mas a dependência excessiva de tecnologias que ainda não atingiram a maturidade e a confiabilidade necessárias.

O caso do Sistema de Navegação TruDi: um alerta da FDA

Um exemplo alarmante dessa problemática é o Sistema de Navegação TruDi, um dispositivo de navegação guiada por imagens desenvolvido para tratar a sinusite crônica. Inicialmente, o dispositivo já apresentava relatos de mau funcionamento. Contudo, após a integração de inteligência artificial em 2021, com o objetivo de auxiliar especialistas em otorrinolaringologia, o número de incidentes disparou. A Food and Drug Administration (FDA) dos Estados Unidos registrou mais de 100 notificações de falhas, incluindo pelo menos 10 casos em que pacientes teriam se ferido devido a informações incorretas fornecidas pelo sistema.

Os incidentes foram particularmente graves. O sistema, ao fornecer informações equivocadas sobre a localização dos instrumentos cirúrgicos dentro do paciente, levou a casos de perfuração da base do crânio, vazamento de líquido cefalorraquidiano pelo nariz e até mesmo derrames, resultado do atingimento acidental de artérias importantes. Embora a FDA ainda esteja investigando oficialmente a causa desses eventos, as vítimas acreditam que a IA desempenhou um papel crucial. Duas pacientes que sofreram derrames entraram com ações judiciais, argumentando que o sistema era mais seguro antes da implementação das atualizações de IA.

Estatísticas alarmantes: IA em dispositivos médicos e a taxa de recalls

O Sistema de Navegação TruDi é apenas a ponta do iceberg. Segundo o relatório, existem 1.357 dispositivos médicos com IA aprovados pela FDA, e muitos deles carregam preocupações significativas. Uma pesquisa publicada no JAMA Health Forum revelou que dispositivos médicos habilitados com IA possuem uma taxa de recall surpreendentemente alta: 43% deles apresentaram problemas graves que levaram à sua retirada do mercado em menos de um ano, o dobro da taxa de dispositivos sem IA.

Essa alta incidência de problemas pode estar ligada à pressa das empresas, muitas delas de capital aberto como a Johnson & Johnson, em lançar seus produtos no mercado. A alegação em uma das ações judiciais contra o Sistema de Navegação TruDi é que os recursos de IA foram mais uma ferramenta de marketing do que um avanço real em precisão, e que o padrão de segurança foi reduzido para “80% de precisão” para acelerar a introdução da nova tecnologia.

IA “alucinando” e a resposta das empresas e da FDA

Mesmo em aplicações que não envolvem procedimentos cirúrgicos diretos, a IA pode falhar. O sistema Sonio Detect, que usa IA para analisar imagens fetais, supostamente rotula estruturas fetais de forma incorreta, associando-as aos grupos corporais errados. Esse tipo de falha se alinha com relatos anteriores de uma IA médica do Google que vinha “alucinando” partes do corpo.

As empresas responsáveis por essas tecnologias parecem minimizar a gravidade dos problemas. A Integra LifeSciences, que adquiriu o Sistema de Navegação TruDi, afirmou que os relatos da FDA “não fazem nada além de indicar que um sistema TruDi esteve em uso em uma cirurgia que resultou em um evento adverso” e que “não há evidências credíveis que demonstrem uma ligação causal entre o Sistema de Navegação TruDi, a tecnologia de IA e as supostas lesões.”

A resposta da FDA também é motivo de preocupação. A agência sofreu cortes severos em seu departamento de avaliação de dispositivos médicos com IA, perdendo 15 de seus 40 cientistas. Outra unidade focada em IA na medicina também reduziu sua equipe em um terço. Curiosamente, o Departamento de Eficiência Governamental (DOGE), liderado por Elon Musk, também cortou pessoal da FDA responsável pela revisão da segurança de dispositivos de interface cérebro-computador da Neuralink. Enquanto isso, mais dispositivos com IA parecem estar sendo liberados para uso sem uma revisão adequada.

A abordagem de “mover rápido e quebrar coisas”, comum no setor de tecnologia, parece inadequada quando a “coisa” em questão é a saúde e a vida humana. A segurança e a confiabilidade devem ser prioridade máxima, especialmente quando falamos de inteligência artificial em cirurgias e outros procedimentos médicos críticos.