Jens Schlueter/EPA, via Shutterstock
Jens Schlueter/EPA, via Shutterstock

Possíveis armadilhas no uso de inteligência artificial na medicina

Alterando alguns 'pixels' em uma tomografia, por exemplo, seria possível enganar o sistema, levando-o a ver uma doença que não existe

Cade Metz e Craig Smith, The New York Times

26 de abril de 2019 | 06h00

No ano passado, a Administração de Alimentos e Medicamentos dos Estados Unidos aprovou um dispositivo capaz de captar uma imagem da nossa retina e detectar imediatamente sinais de cegueira causada pelo diabetes. Esta nova geração de tecnologia está sendo rapidamente aplicada no campo da medicina, enquanto cientistas desenvolvem sistemas que podem identificar sinais de doença em uma ampla variedade de imagens - o que promete ajudar médicos com uma avaliação mais eficiente e menos dispendiosa de pacientes.

Formas semelhantes de inteligência artificial provavelmente farão parte dos sistemas computadorizados usados pelas seguradoras de saúde no mundo todo. Mas também poderão acarretar consequências indesejadas, segundo alerta um grupo de pesquisadores da Universidade Harvard e do Massachusetts Institute of Technology.

Em um estudo recente, os pesquisadores acenam com a possibilidade de “ataques adversos” - manipulações que podem modificar o comportamento dos sistemas da IA. Alterando alguns pixels em uma tomografia, por exemplo, seria possível enganar um sistema artificialmente inteligente, levando-o a ver uma doença que não existe, ou a não ver uma doença que está lá. Desenvolvedores e reguladores terão de levar em conta estas possibilidades ao construir e avaliar as tecnologias da IA, afirmam os autores.

A IA é cada vez mais governada por redes neurais, complexos sistemas matemáticos que aprendem tarefas em grande parte por conta própria, analisando enormes quantidades de dados. Este “aprendizado da máquina” ocorre em uma escala de tal modo que ela pode produzir um comportamento inesperado por conta própria.

Pesquisadores também alertaram que os ataques adversos poderão enganar, por exemplo, automóveis com direção automática. Fazendo pequenas mudanças na sinalização viária, já os levaram a detectar uma placa de preferência em lugar de um “pare”.

No fim do ano passado, uma equipe da Tandon School of Engineering, da New York University, criou impressões digitais virtuais capazes de enganar os leitores em 22% do tempo. Em outras palavras, 22% de todos os celulares ou PCs que usavam tais leitores poderiam ser desbloqueados.

As implicações são graves, considerando o crescente predomínio dos dispositivos biométricos de segurança e outros sistemas de IA. A Índia adotou o maior sistema de identificação de impressões digitais do mundo, na distribuição de bolsas e serviços do governo. Os bancos começaram a introduzir o reconhecimento facial nos caixas eletrônicos. Companhias como a Waymo, que pertence à mesma controladora do Google, testam automóveis com direção automática em estradas públicas.

Samuel Finlayson, um dos autores do novo estudo, e seus colegas deram recentemente o mesmo alarme no campo da medicina. Se as reguladoras criarem sistemas de IA para avaliar a nova tecnologia, os fabricantes de dispositivos poderão alterar dados e enganar o sistema, levando-o a conceder aprovações no lugar das autoridades reguladoras.

Pesquisadores mostraram que modificando alguns pixels na imagem de uma lesão benigna da pele, é possível enganar um sistema de diagnósticos baseado na IA, fazendo com que ele identifique a lesão como maligna. A mudança destes diagnósticos poderá beneficiar as seguradores e os serviços sanitários. Quando a IA for plenamente introduzida no sistema de saúde americano, afirmam os pesquisadores, as empresas adotarão gradativamente um comportamento que proporcionará ganhos fabulosos. As mudanças dos dados irão parar na ficha médica de um paciente e afetarão decisões posteriores.

Segundo Finlayson, "a ambiguidade das informações médicas, juntamente com incentivos financeiros frequentemente competitivos, favorece a tomada de decisões de alto risco na manipulação de informações extremamente sutis”. / TRADUÇÃO DE ANNA CAPOVILLA

 

Encontrou algum erro? Entre em contato

Comentários

Os comentários são exclusivos para assinantes do Estadão.

Tendências:

O Estadão deixou de dar suporte ao Internet Explorer 9 ou anterior. Clique aqui e saiba mais.