Um novo conjunto de diretrizes, denominado “FUTURE-AI”, foi recentemente lançado para ajudar hospitais a integrar a inteligência artificial (IA) de forma segura e eficaz. Desenvolvido por um consórcio internacional de 117 especialistas, incluindo Nikolas Papanikolaou da Fundação Champalimaud, o documento oferece um guia abrangente que abrange desde a conceção até à implementação e monitorização de sistemas de IA na medicina. O objetivo é garantir que as ferramentas de IA sejam justas, transparentes e fiáveis, evitando armadilhas como a parcialidade e a falta de rastreabilidade.

O FUTURE-AI estabelece 30 recomendações organizadas em seis pilares: Equidade, Universalidade, Rastreabilidade, Usabilidade, Robustez e Explicabilidade. Estas diretrizes visam envolver todas as partes interessadas desde o início do processo, assegurando que os sistemas desenvolvidos atendam às necessidades de todos os grupos de pacientes. A importância de dados diversificados e multicêntricos é enfatizada, pois modelos treinados com conjuntos de dados limitados podem falhar quando aplicados em contextos diferentes.

Além disso, o consórcio destaca a necessidade de validação rigorosa e monitorização contínua dos modelos de IA. Papanikolaou sublinha que a colaboração entre cientistas informáticos e profissionais de saúde é crucial para evitar erros que possam comprometer a segurança dos pacientes. A iniciativa FUTURE-AI promete transformar o uso da IA na medicina, melhorando os resultados clínicos e reduzindo os encargos para os sistemas de saúde.

Tradução da imagem:
Equidade
Garantir o mesmo desempenho quando aplicada a indivíduos em situações semelhantes
e a subgrupos de indivíduos, incluindo os grupos subrepresentados
Universalidade
Promover a adopção de normas existentes durante o desenvolvimento, a avaliação e a
implementação dos algoritmos
Rastreabilidade
Adoptar mecanismos para documentar e monitorizar a totalidade do ciclo de vida do
desenvolvimento, bem como o funcionamento das ferramentas de IA após
implementação
Usabilidade
Garantir que os sistemas de IA são utilizáveis, aceitáveis e implementáveis pelo utilizador
final para a prática da imagiologia médica no mundo real
Robustez
Assegurar a capacidade de generalização e a fiabilidade dos modelos de IA
Explicabilidade
Fornecer aos clínicos explicações relevantes e úteis sobre as previsões feitas por cada
modelo de IA

PR/HN/MM