Como avaliar um fornecedor de IA para uma instituição de saúde

Ao avaliar uma solução de inteligência artificial, a instituição precisa conhecer o fornecedor e entender o que a solução faz, quais evidências sustentam suas afirmações e em que condições ela pode ser usada. Uma apresentação comercial ou uma classificação de risco informada pelo fornecedor é um ponto de partida, não uma decisão institucional de uso.

O que perguntar ao fornecedor

1. Qual é a finalidade da solução? Peça uma descrição do uso pretendido, das pessoas que a utilizarão e dos limites conhecidos. Verifique se a proposta corresponde ao processo em que a instituição deseja aplicá-la.
2. Que evidências existem? Solicite informações sobre desenvolvimento, validação e desempenho. Observe em quais populações e ambientes a solução foi avaliada e se esses resultados são pertinentes ao uso planejado.
3. Como a solução funciona na prática? Esclareça quais dados utiliza, como apresenta seus resultados, que supervisão humana exige e o que acontece quando falha ou não consegue produzir uma resposta.
4. O que muda depois da contratação? Entenda como o fornecedor comunica alterações no sistema, acompanha seu desempenho e recebe relatos de problemas. Uma atualização pode exigir que a instituição reveja sua avaliação anterior.
5. Quem responde por cada parte? Registre os contatos e as responsabilidades do fornecedor e da instituição para implantação, suporte, monitoramento e tratamento de incidentes.

A declaração do fornecedor e a avaliação da instituição

O fornecedor conhece a solução que desenvolveu, mas não controla todos os contextos em que ela será utilizada. Sua declaração de risco ajuda a iniciar a análise. A instituição precisa verificar essa informação à luz da finalidade, dos pacientes, dos profissionais e dos processos envolvidos no seu próprio uso.

Na MedGovernance, fornecedores podem apresentar suas soluções e registrar uma declaração de risco. A instituição consegue consultar essas informações ao cadastrar ou avaliar um sistema, aproveitando a declaração como referência ou iniciando sua avaliação do zero. O resultado fica ligado ao inventário, à decisão institucional e ao acompanhamento do uso.

Assim, a informação fornecida pela empresa não fica perdida em apresentações e documentos separados. Ela passa a integrar um processo em que a instituição pode comparar o que foi declarado com o que avaliou e decidiu.

Leia também: Como fazer um inventário de sistemas de IA, como avaliar o risco de um sistema de IA e conheça a plataforma.