L'IA a besoin d'une chaîne de preuves, en particulier dans le domaine des sciences de la vie

Un récent article d'opinion publié dans MedCity News a soulevé un point pertinent concernant l'intelligence artificielle dans le développement de médicaments : la contrainte ne réside souvent pas dans la quantité de données, mais dans la capacité à considérer ces données comme des preuves. Cette question dépasse largement le cadre du développement de médicaments.

L'IA est capable d'analyser de grands volumes d'informations, d'identifier des tendances et de synthétiser des données qu'une personne ne pourrait jamais examiner manuellement. Ses résultats dépendent toutefois toujours de la base d'informations sur laquelle elle s'appuie. Lorsqu'un modèle génère un signal, une recommandation ou un résumé, les équipes doivent se poser des questions fondamentales : quelles données sources viennent étayer ces résultats ? Que signifiaient ces données à l’époque ? Étaient-elles complètes ? Qui les a modifiées ? Le résultat peut-il être reproduit ou remis en cause ultérieurement ?

Les données ne deviennent des informations exploitables que si leur signification, leur provenance, leurs liens et les mécanismes de contrôle qui s'y rapportent restent accessibles. Sans ce contexte, il s'agit peut-être encore de données, mais elles ne constituent plus des éléments probants fiables.

Cela est important car les données peuvent subsister alors que les éléments de preuve disparaissent. Un document clinique peut être copié dans un lac de données sans ses identifiants d’origine, son historique de validation ou son lien avec le protocole qu’il étayait. Un résultat de laboratoire peut être exporté sans le contexte de l’instrument, de la méthode, de la version et de la révision qui le rendaient interprétable. Un essai clinique achevé peut survivre aux systèmes qui hébergeaient son eTMF, ses dossiers qualité et ses données structurées, laissant derrière lui des fichiers mais affaiblissant la capacité à expliquer l’ensemble du dossier.

Le fait n’est pas que chaque cas d’utilisation de l’IA nécessite un référentiel d’entreprise unique et parfait. Il s’agit plutôt de souligner que les décisions à forte valeur ajoutée doivent pouvoir être retracées jusqu’aux informations et aux contrôles qui les sous-tendent. Ce parcours doit être défini avant que les données ne soient réutilisées, migrées ou intégrées à un modèle.

Commencez par constituer un dossier de preuves, et non par un ensemble de données

Pour chaque catégorie de documents susceptible de servir à la recherche, à l'assurance qualité, à la sécurité ou à la prise de décisions réglementaires, définissez les éléments qui doivent accompagner le contenu.

Le dossier comprend généralement plus que le document ou l’extrait de données. Il peut nécessiter l’identifiant de la source faisant autorité, des métadonnées métier et techniques, les horodatages pertinents, la version en vigueur à ce moment-là, les enregistrements associés, les validations, les preuves de signature ou de révision, ainsi que la base de conservation. La liste exacte variera selon qu’il s’agit d’un dossier de lot, d’un document issu d’un essai clinique, d’un événement qualité ou d’un dossier de demande d’autorisation. L’essentiel est que l’organisation puisse expliquer pourquoi un élément donné correspond bien à ce qu’il prétend être et comment il s’inscrit dans le processus global.

Cela devrait constituer une exigence fonctionnelle, approuvée par les responsables de la qualité, de la réglementation, des données et les responsables métier. Si l'on s'en remet à un script d'exportation ou à une future équipe de migration, la chaîne de traçabilité risque de devenir incomplète.

Préserver la traçabilité à chaque étape de la transformation

C'est principalement lors des transferts que la valeur probante des données se perd. Lors d'une exportation de système, les données sont nettoyées, mappées, enrichies, converties puis chargées sur une autre plateforme. Chaque étape peut être techniquement irréprochable, mais rend le résultat plus difficile à interpréter par la suite.

Conservez une trace de la source, de la date d’extraction, des règles de transformation, de la version du schéma et de la validation effectuée. Lorsque l’IA intervient dans un processus, consignez la version du modèle ou du service, les données d’entrée qui lui ont été fournies, les données de sortie conservées, ainsi que l’examen ou la décision humaine qui a suivi. Cela n’implique pas de conserver indéfiniment chaque détail éphémère du traitement. Il est toutefois nécessaire de disposer d’une trace proportionnée pour les résultats susceptibles d’influencer une décision réglementée ou significative.

Considérez le résultat généré par l'IA comme un document dérivé doté de sa propre traçabilité. Un évaluateur doit pouvoir passer de ce résultat aux éléments justificatifs qui le sous-tendent sans avoir à s'appuyer sur la mémoire institutionnelle ou sur une application qui n'est plus en service.

Préservez le temps et les relations

Les informations relatives aux sciences de la vie ont rarement un sens lorsqu’elles sont considérées isolément. Un résultat ne peut prendre tout son sens qu’en relation avec une modification de protocole, un échantillon, la configuration d’un dispositif, l’autorisation d’un investigateur ou une observation antérieure. Le temps joue également un rôle important : l’heure de l’événement, l’heure de la saisie, l’heure de la correction et l’heure de l’autorisation peuvent chacune apporter une réponse à une question différente.

Une conception adaptée à la production de preuves préserve ces liens au lieu de les réduire à un simple dossier de fichiers ou à un ensemble de lignes sans lien entre elles. Elle permet de distinguer le document original d’une version dérivée, une version corrigée de la version précédente, et une référence croisée d’un doublon. Elle doit également indiquer clairement quel système faisait autorité à une étape donnée du cycle de vie.

Cela ne signifie pas pour autant que chaque relation doive être modélisée dans une seule application. Cela signifie simplement que les liens nécessaires à la compréhension et à la défense d'un enregistrement doivent rester disponibles, documentés et consultables.

Faites de la vérifiabilité une capacité opérationnelle

La validité des preuves est vérifiée au fil du temps, souvent après que le système opérationnel a été modifié ou a cessé d'exister. Le simple fait de conserver un document ne suffit pas à garantir que celui-ci soit resté intact, lisible et correctement géré tout au long de cette période.

Les mesures de contrôle pratiques sont bien connues, mais elles doivent fonctionner de concert : contrôles d’intégrité, accès contrôlé, pistes d’audit, gestion de la conservation et de la conservation à des fins juridiques, planification des formats et de la migration, ainsi que la possibilité d’exporter le document avec le contexte nécessaire à son inspection. Pour les documents signés numériquement, l’approche de conservation doit également tenir compte des preuves de validation qui seront nécessaires une fois que les certificats, les algorithmes et les services auront évolué.

Le véritable test est simple. Un auditeur habilité serait-il en mesure de comprendre en quoi consiste cet enregistrement, comment il a été traité et pourquoi on peut s'y fier, sans avoir à rouvrir le système d'origine ni à contacter d'anciens membres de l'équipe du projet ?

Mettez en place une gouvernance adaptée au cas d'utilisation

Il n’existe pas de modèle unique d’architecture de gestion des données adapté à toutes les charges de travail du secteur des sciences de la vie. Un ensemble de données issues de la recherche, une archive d’essais cliniques achevés, un dossier de pharmacovigilance et un système qualité désaffecté présentent des durées de conservation, des attentes en matière d’accès et des risques d’inspection différents.

Les équipes devraient donc commencer par définir un petit ensemble de cas d’utilisation prioritaires et travailler en remontant à partir des questions auxquelles elles pourraient devoir répondre ultérieurement. Identifiez les sources faisant autorité, les données qui doivent rester liées entre elles, les transformations nécessitant une traçabilité et les contrôles qui doivent être préservés lors d’un changement de système. Veillez ensuite à ce que ces exigences puissent être vérifiées lors de la mise en œuvre et de la migration.

Il s'agit d'un poste interfonctionnel. La science des données permet de déterminer ce qui est utile pour l'analyse. Les équipes chargées de la qualité et de la conformité peuvent définir ce qui est défendable. Les services informatiques et de gouvernance de l'information peuvent veiller à ce que les résultats restent accessibles et contrôlés aussi longtemps que nécessaire. L'IA s'avère plus utile lorsque ces disciplines collaborent dès le début du processus, plutôt qu'après qu'un modèle a déjà produit des résultats que personne ne peut expliquer pleinement.

La solution concrète consiste à conserver les documents, le contexte, les liens et les éléments probants qui permettent de comprendre ces informations au fil du temps.

Le rôle de Docbyte Vault

Docbyte Vault s'avère utile lorsque ces exigences en matière de conservation des preuves doivent perdurer au-delà de la durée de vie des systèmes sources à l'origine de ces informations. Découvrez sciences de la vie et archivage GxP, la discipline pratique de mise hors service d’applications, et le Options d'intégration et de conservation dans Docbyte Vault.

Cet article s'inspire de L'IA dans le développement de médicaments n'est pas un problème de données, mais un problème de preuves sur MedCity News.