IA prevê se você morrerá em breve - mas não temos ideia de como funciona

Três cardiologistas que revisaram separadamente os ECGs de aparência normal não conseguiram captar os padrões de risco mesmo depois de saberem que a inteligência artificial havia detectado problemas.
[Imagem: CC0 Public Domain/Pixabay]

Oráculo artificial

Um programa de inteligência artificial conseguiu prever as chances de uma pessoa morrer dentro de um ano observando os resultados dos seus testes cardíacos - mesmo quando esses exames pareciam normais para os médicos.

Mas como isso é possível é um mistério, uma vez que os cientistas não entendem exatamente como os programas de inteligência artificial funcionam - eles chamam isso de "caixa preta da inteligência artificial".

Brandon Fornwalt e seus colegas colocaram o programa de aprendizagem profunda para examinar 1,77 milhão de eletrocardiogramas (ECG) de quase 400.000 pessoas para prever quem estava em maior risco de morrer no próximo ano.

Um ECG registra a atividade elétrica do coração. Seu padrão muda em condições cardíacas como ataques cardíacos e fibrilação atrial.

A equipe treinou duas versões da inteligência artificial: em uma, o algoritmo recebeu apenas os dados brutos do ECG, que medem a voltagem ao longo do tempo. No outro, foram alimentados dados de ECG em combinação com a idade e o sexo do paciente.

A inteligência artificial previu com precisão o risco de morte, mesmo em pessoas consideradas por cardiologistas como tendo um ECG normal. Três cardiologistas que revisaram separadamente os ECGs de aparência normal não conseguiram captar os padrões de risco mesmo depois de saberem que a inteligência artificial havia detectado problemas.

"Essa descoberta sugere que o modelo está vendo coisas que os humanos provavelmente não podem ver, ou pelo menos que simplesmente ignoramos e pensamos que são normais," diz Fornwalt. "A inteligência artificial pode potencialmente nos ensinar coisas que talvez tenhamos interpretado mal por décadas."

Computador vê o que não vemos

Os resultados exigem cautela porque outros pesquisadores já mostraram que a inteligência artificial na área de exames médicos pode ser facilmente enganada.
[Imagem: Chelsea Turner/MIT]

Os pesquisadores mediram o desempenho da inteligência artificial usando uma métrica conhecida como AUC (sigla em inglês para Área Abaixo da Curva Característica de Operação do Receptor), que mede quão bem um modelo distingue entre dois grupos de pessoas - nesse caso, pacientes que morreram dentro de um ano e aqueles que sobreviveram.

O programa pontuou consistentemente acima de 0,85, onde uma pontuação perfeita é 1 e uma pontuação de 0,5 indica que não há distinção entre os dois grupos. As AUCs para os modelos de pontuação de risco atualmente usadas pelos médicos variam entre 0,65 e 0,8, diz Fornwalt.

Para fazer um comparativo, os pesquisadores também criaram um algoritmo baseado nas características mostradas no exame ECG que os médicos medem atualmente, como certos padrões das gravações.

"Não importa o que aconteça, o modelo baseado em voltagem sempre foi melhor do que qualquer modelo que você pudesse construir com as coisas que já medimos a partir de um ECG," diz Fornwalt.