Como acompanhar um sistema de IA depois da aprovação

A aprovação de um sistema de inteligência artificial registra uma decisão sobre um uso específico, em determinadas condições. Depois que ele entra em operação, a instituição precisa verificar se essas condições continuam válidas e se surgiram problemas que justifiquem uma revisão.

O que acompanhar

Uso real. Confira se o sistema está sendo utilizado nas áreas, finalidades e condições previstas na decisão. Um uso diferente do aprovado precisa ser avaliado.

Mudanças no sistema. Registre atualizações relevantes comunicadas pelo fornecedor ou feitas pela equipe responsável, especialmente quando alteram resultados, dados utilizados, autonomia ou supervisão humana.

Problemas e incidentes. Estabeleça como profissionais podem relatar respostas inadequadas, falhas e consequências observadas. Cada relato precisa ser analisado no seu contexto, sem presumir que todo problema foi causado pela IA.

Responsabilidades. Mantenha identificados os responsáveis por acompanhar o sistema, receber relatos, acionar o fornecedor e encaminhar uma possível revisão da decisão.

Reavaliação. Defina quando haverá uma revisão periódica e quais acontecimentos exigem uma revisão antes do prazo. Uma mudança relevante pode alterar a avaliação de risco e as condições de uso.

Quando a decisão precisa ser revista

A instituição pode manter, restringir, suspender ou encerrar o uso de um sistema conforme o que encontrar no acompanhamento. O importante é registrar o que motivou a nova decisão, quem participou dela e quais providências foram tomadas.

Na MedGovernance, o sistema permanece associado ao seu inventário, à avaliação de risco, à decisão institucional e aos responsáveis. Esse vínculo permite acompanhar alterações e incidentes com o histórico necessário para revisar o uso de forma organizada.

Leia também: Como avaliar o risco de um sistema de IA, como registrar a decisão institucional e conheça a plataforma.