Em 2021, a Organização Mundial da Saúde (OMS) publicou o primeiro relatório global sobre inteligência artificial na saúde (Ethics and Governance of Artificial Intelligence for Health1). Fruto de consultas realizadas por um painel de especialistas indicados pela entidade, o documento fornece informações importantes sobre como maximizar os benefícios da inteligência artificial, minimizar riscos e evitar armadilhas.

O relatório afirma que os sistemas de inteligência artificial devem ser projetados para refletir a diversidade de ambientes socioeconômicos e de saúde, evitando-se, assim, o agravamento de iniquidades. Destaca o documento que é preciso capacitar profissionais de saúde e usuários em habilidades digitais para o uso eficiente de tais ferramentas. Adverte, também, que não basta cautela na sua adoção, mas é necessário que os países preocupem-se em regulamentar o uso não apenas para garantir sua eficácia, mas também para que direitos e interesses dos pacientes sejam protegidos de interesses comerciais.

Passados dois anos, o desenvolvimento de softwares de inteligência artificial avança e ganha grandes espaços nos serviços de saúde. Preocupada com essa tendência, em 16 de maio de 2023, a OMS manifestou-se2 pedindo cautela com o uso de ferramentas de modelo de linguagem (LLMs) geradas por inteligência artificial. Segundo a nota:

As preocupações que exigem uma supervisão rigorosa necessária para que as tecnologias sejam usadas de maneira segura, eficaz e ética incluem:

• os dados usados para treinar IA podem ser tendenciosos, gerando informações enganosas ou imprecisas que podem representar riscos à saúde, equidade e inclusão;
• as LLMs geram respostas que podem parecer confiáveis e plausíveis para um usuário final; no entanto, essas respostas podem estar completamente incorretas ou conter erros graves, especialmente para respostas relacionadas à saúde;
• as LLMs podem ser treinados em dados para os quais o consentimento pode não ter sido fornecido anteriormente para tal uso, e as LLMs podem não proteger dados confidenciais (incluindo dados de saúde) que um usuário fornece a um aplicativo para gerar uma resposta;
• LLMs podem ser mal utilizadas para gerar e disseminar desinformação altamente convincente na forma de conteúdo de texto, áudio ou vídeo que é difícil para o público diferenciar de conteúdo de saúde confiável; e
• embora comprometida em aproveitar novas tecnologias, incluindo IA e saúde digital para melhorar a saúde humana, a OMS recomenda que os formuladores de políticas garantam a segurança e a proteção do paciente enquanto as empresas de tecnologia trabalham para comercializar LLMs.

Diante da rápida popularização dessas ferramentas, a entidade propõe que essas preocupações sejam abordadas a partir da determinação clara de seus benefícios, devendo-se aplicar os princípios éticos estabelecidos no Relatório Ethics and Governance of Artificial Intellligence for Heatlh: (1) proteger a autonomia; (2) promover o bem-estar humano, a segurança humana e o interesse público;(3) garantir transparência, explicabilidade e inteligibilidade; (4) promover responsabilidade e prestação de contas; (5) garantir inclusão e equidade; (6) promover uma IA responsiva e sustentável.

_____________________________

1Disponível em: https://www.who.int/publications/i/item/9789240029200

2Disponível em: https://www.who.int/news/item/16-05-2023-who-calls-for-safe-and-ethical-ai-for-health