Inteligência Artificial não está pronta para fazer diagnósticos médicos, dizem especialistas

Outro estudo recente mostrou que a Inteligência Artificial falha ao tentar diagnosticar pacientes.
[Imagem: Mohamed Hassan/Pixabay]

Inteligência artificial obscura

Tem havido muita agitação em torno dos programas de inteligência artificial capazes de interpretar imagens médicas, prometendo melhorar a capacidade dos profissionais de saúde de fazer diagnósticos precisos, com menos falsos positivos e falsos negativos, além de diminuir a sobrecarga de trabalho, permitindo que os médicos se concentrem em casos críticos e deixem as tarefas rotineiras com os computadores.

Mas os modelos de IA não têm transparência, sendo o que os próprios cientistas da computação chamam de "caixa preta" - o resultado sai, mas nunca sabemos como o programa chegou àquela conclusão. E esse "raciocínio obscuro" diminui a confiança na ferramenta computadorizada, desencorajando seu uso.

Por outro lado, a grande propaganda em torno da inteligência artificial pode levar os médicos a confiar demais na interpretação dos computadores.

Mapas de calor de relevância

Já existe um grande esforço para tentar eliminar essas incertezas, um conceito conhecido como "inteligência artificial explicável", mas parece que mesmo isto não está sendo capaz de dotar os programas da confiabilidade necessária.

Por exemplo, no campo das imagens médicas, uma maneira de criar programas de IA mais compreensíveis e desmistificar o modo como eles tomam decisões são as avaliações de relevância, uma abordagem que usa mapas de calor para identificar se o programa está focando corretamente apenas nas partes relevantes de uma determinada imagem ou focando em partes irrelevantes dela.

Os mapas de calor funcionam destacando áreas em uma imagem que influenciaram a interpretação do programa, o que pode ajudar os médicos humanos a ver se o modelo se concentrou nas mesmas áreas que eles sabem ser importantes.

Mas uma análise detalhada, feita por Adriel Saporta e colegas da Universidade de Stanford (EUA), mostrou que, apesar de todos os esforços, os mapas de calor de relevância ainda não estão prontos para legitimar o uso clínico da IA em tarefas de diagnóstico.

Especialistas pedem cautela no uso de inteligência artificial em mamografias.
[Imagem: CC0 Public Domain/Pixabay]

Métodos de relevância

A análise quantificou a validade de sete métodos de relevância amplamente utilizados para determinar sua confiabilidade e precisão na identificação de patologias associadas a 10 condições comumente diagnosticadas em raios X, como lesões pulmonares, derrame pleural, edema ou estruturas cardíacas aumentadas. Como referência, o desempenho de cada ferramenta foi comparado com o julgamento de especialistas humanos.

As ferramentas que usam mapas de calor baseados em relevância tiveram um desempenho consistentemente inferior na avaliação das imagens e em sua capacidade de detectar lesões patológicas, em comparação com os radiologistas humanos.

"Nossa análise mostra que os mapas de relevância ainda não são confiáveis o suficiente para validar decisões clínicas individuais feitas por um modelo de IA," disse o professor Pranav Rajpurkar, coordenador da equipe. "Identificamos limitações importantes que levantam sérias preocupações de segurança para seu uso na prática clínica diária."

Os pesquisadores alertam que, devido às importantes limitações identificadas no estudo, os mapas de calor baseados em relevância devem ser ainda mais refinados, antes de serem amplamente adotados em modelos clínicos de IA.