Como avaliar o risco de um sistema de IA em uma instituição de saúde

O risco de um sistema de inteligência artificial depende de como e onde ele será utilizado. A mesma ferramenta pode exigir avaliações diferentes conforme sua finalidade, seu grau de autonomia, a supervisão humana e as consequências de um erro. Por isso, conhecer o produto e seu fornecedor é necessário, mas não substitui a avaliação do uso pretendido pela instituição.

O que observar na avaliação

Para sistemas com uso assistencial, a avaliação precisa considerar, entre outros aspectos:

1. Impacto clínico: como uma resposta incorreta pode afetar o cuidado.
2. Autonomia: o que o sistema faz por conta própria e o que depende de uma pessoa.
3. Reversibilidade: se é possível perceber e corrigir um erro antes que ele cause dano.
4. Dados: quais informações o sistema utiliza e sua sensibilidade.
5. Populações vulneráveis: se o uso pode produzir consequências diferentes para determinados grupos.
6. Transparência: se profissionais conseguem compreender o papel e as limitações do sistema.
7. Exigências aplicáveis: quais regras e condições específicas precisam ser observadas.

Esses pontos ajudam a estruturar a análise. A pontuação e a classificação utilizadas pela MedGovernance fazem parte da metodologia da plataforma; não são uma tabela de pontuação estabelecida pela Resolução CFM nº 2.454/2026.

O que a classificação permite decidir

A classificação indica a atenção e as medidas de controle necessárias para o uso proposto. Ela não é uma autorização automática. Antes de utilizar o sistema, a instituição ainda precisa examinar as evidências disponíveis, definir responsabilidades e registrar sua decisão.

A avaliação também não termina na implantação. Mudanças na finalidade, no funcionamento, na autonomia ou no contexto de uso podem alterar o risco e exigir revisão.

Na MedGovernance, a avaliação fica vinculada ao sistema identificado no inventário e pode ser acompanhada junto com sua situação, seus responsáveis e as decisões registradas. Isso permite que a classificação seja usada no processo contínuo de governança, em vez de permanecer isolada em um documento.

Leia também: Como fazer um inventário de sistemas de IA, como a MedGovernance classifica riscos e conheça a plataforma.

Fonte normativa: Resolução CFM nº 2.454/2026, especialmente os arts. 12 e 13, para sistemas de IA abrangidos pela norma.