Inteligência Artificial na Medicina: Protetor Contra Ataques Cibernéticos
Com o aumento do uso da inteligência artificial (IA) na medicina, surgem preocupações sobre a segurança dos sistemas de análise de imagens médicas, que estão sendo alvos de ataques cibernéticos. Esses ataques podem comprometer diagnósticos e colocar em risco a saúde dos pacientes. Para lidar com esse problema, foi desenvolvido o Radar-Mix, uma ferramenta inovadora que detecta e analisa ataques externos em sistemas de IA.
Radar-Mix: Desenvolvimento e Inovação
O Radar-Mix é o resultado de um projeto financiado pela FAPESP e liderado por Erikson Júlio de Aguiar, doutorando do Instituto de Ciências Matemáticas e de Computação da Universidade de São Paulo (ICMC-USP). Sob a orientação da professora Agma Juci Machado Traina, a pesquisa se concentra na proteção de sistemas médicos contra vulnerabilidades.
A ferramenta será apresentada por Aguiar no SPIE Medical Imaging, um importante evento da Sociedade Internacional de Óptica e Fotônica, que ocorrerá entre 16 e 20 de fevereiro na Califórnia, Estados Unidos. Em junho de 2024, Aguiar também foi premiado com o “Best Student Paper” no 37º Simpósio Internacional de Sistemas Médicos Baseados em Computador (CBMS) em Guadalajara, no México, onde apresentou o artigo “RADAR-MIX: How to Uncover Adversarial Attacks in Medical Image Analysis through Explainability”.
Como Funciona o Radar-Mix
Ataques cibernéticos frequentemente envolvem a inserção de pequenas alterações ou ruídos em imagens médicas, como as de raios X e ressonância magnética, comprometendo sistemas e causando diagnósticos errôneos. O Radar-Mix foi desenvolvido para mitigar esses riscos, fornecendo análises detalhadas dos ataques.
“A IA tem sido uma grande aliada no diagnóstico de doenças, mas hackers frequentemente encontram formas de comprometer esses sistemas. O Radar-Mix detecta e explica esses ataques, oferecendo uma compreensão aprofundada do que ocorreu, fundamental para assegurar diagnósticos seguros,” afirma Aguiar.
Utilizando ferramentas avançadas como Grad-CAM e SHAP, o Radar-Mix fornece uma representação visual das partes de uma imagem afetada por ataques, permitindo uma proteção mais robusta. Essa capacidade de identificar e explicar falhas em sistemas de IA representa uma grande evolução em relação às soluções já disponíveis no mercado.
Implementação em Sistemas de Saúde
O potencial do Radar-Mix para ser implementado em sistemas médicos é significativo. Segundo a professora Traina, sua estrutura modular facilita a adaptação em diferentes contextos, funcionando como um filtro de segurança entre os serviços e os servidores. Em um cenário onde os ataques cibernéticos a instituições de saúde têm aumentado, essa camada adicional de proteção é vital.
Aguiar destaca que um ataque cibernético pode prejudicar a reputação de um hospital, resultando em perdas financeiras e operacionais significativas. “O Radar-Mix mantém a confiança nos sistemas de IA, essencial para médicos e pacientes,” acrescenta.
O Radar-Mix é de código-fonte aberto, permitindo que outros pesquisadores reproduzam ou aprimorem a ferramenta. Interessados podem acessar o projeto no GitHub.
O reconhecimento recebido no CBMS 2024, junto com a participação no SPIE Medical Imaging, destaca a relevância dessas experiências no cenário internacional e o impacto positivo na carreira de Aguiar, conforme ressalta Traina.
Informações da Agência FAPESP