Nouvelles cartes de modèles dans Ailance KI-Governance : que se passe-t-il lorsqu'un modèle d'IA change ?
Un modèle d'IA est mis à jour. L'application continue de fonctionner et les autorisations accordées jusqu'à présent restent documentées. Mais l'évaluation des risques initiale et les décisions prises sont-elles toujours valables ? Grâce aux nouvelles cartes de modèle d'Ailance KI-Governance, nous aidons les entreprises à identifier ces changements et à évaluer leur impact sur les applications d'IA existantes. Les fiches de modèle sont gérées et mises à jour de manière centralisée par 2B Advice. Si une entrée de l’inventaire IA est concernée, Ailance veille à ce que les risques soient recalculés et à ce que les responsables concernés soient informés.
Lorsqu'un changement de modèle modifie les évaluations existantes
Une entreprise utilise un assistant IA pour synthétiser les demandes des clients. Ce cas d'utilisation a été examiné, les risques ont été évalués et son utilisation a été autorisée sous certaines conditions.
Le fournisseur du modèle propose désormais une nouvelle version. Celle-ci devrait permettre de mieux identifier les relations complexes et de fournir des réponses plus précises.
Le service informatique se charge de la mise à jour. Pour les utilisateurs, cela ne change pas grand-chose dans un premier temps. L'assistant conserve le même aspect et remplit la même fonction.
Une comparaison avec les résultats des tests précédents montre toutefois que le nouveau modèle pondère différemment certaines affirmations. Il propose des formulations plus convaincantes, mais présente parfois certaines informations dans un contexte différent.
Cet exemple fictif met en évidence un problème fondamental : une nouvelle version du modèle peut modifier les hypothèses sur lesquelles reposait l'évaluation initiale des risques.
Cela vaut également lorsque l'usage prévu reste inchangé.
Quels changements un nouveau modèle d'IA entraîne-t-il ?
Les mises à jour des modèles peuvent avoir des conséquences diverses. Une nouvelle version n'est pas nécessairement moins performante ou plus risquée. Elle peut réduire les risques existants tout en soulevant de nouvelles questions.
Il convient notamment de tenir compte des éléments suivants :
- Performances : le modèle continue-t-il à traiter les tâches prévues avec la précision et la fiabilité requises ?
- Comportement en cas d'erreur : les schémas d'erreur, les distorsions ou les limitations connus ont-ils évolué ?
- Limites d'utilisation : le modèle est-il capable d'assumer de nouvelles tâches ou réagit-il différemment à certaines instructions ?
- Protection des données: Y a-t-il eu des changements au niveau du traitement des données, des interfaces ou des conditions de mise à disposition ?
- Sécurité : les nouvelles fonctionnalités ou intégrations créent-elles de nouvelles possibilités d'attaques ou d'abus ?
- Contrôle humain : les mesures de contrôle mises en place jusqu'à présent sont-elles toujours adaptées ?
Toutes les modifications n'ont pas d'incidence sur l'ensemble des domaines. Ce qui importe, c'est de savoir quelles hypothèses antérieures sont concernées par la nouvelle version.
C'est pourquoi les modifications apportées aux modèles ne doivent pas seulement faire l'objet d'une documentation technique, mais doivent également être mises en relation avec les cas d'utilisation concrets.
La carte modèle et l'inventaire IA vont de pair
Une Carte modèle décrit les principales caractéristiques d'un modèle d'IA. Il s'agit notamment du fournisseur, de la version du modèle, de ses capacités, de ses limites connues et des informations disponibles concernant ses performances.
Elle ne doit toutefois pas être assimilée à une utilisation concrète en entreprise.
Ce même modèle peut, par exemple, être utilisé pour un assistant de gestion documentaire interne, l'analyse des demandes des clients et le soutien au service des ressources humaines.
Bien que le fondement technique soit identique, les finalités, les données traitées, les personnes concernées et les conséquences possibles diffèrent considérablement.
En matière de gouvernance de l'IA, il convient donc de distinguer trois niveaux :
- Le modèle d'IA décrit ses fondements techniques et ses caractéristiques.
- Le système d'IA englobe l'application concrète, y compris ses autres composants et mécanismes de contrôle.
- Le cas d'utilisation de l'IA décrit à quelles fins l'application est réellement utilisée au sein de l'entreprise.
L'inventaire de l'IA recense les applications opérationnelles et les informations relatives à leur gouvernance. Le lien avec les cartes de modélisation permet d'associer les modifications apportées à un modèle aux entrées concernées.
Sans ce lien, une Carte modèle devraient avoir été mises à jour depuis longtemps, alors que les évaluations des risques correspondantes reposent toujours sur les anciennes données.
Ce qu'Ailance prend en charge pour ses clients
La mise à jour régulière des informations relatives aux modèles peut représenter une charge de travail considérable.
Les modèles d'IA évoluent rapidement. Les fournisseurs publient de nouvelles versions, modifient les caractéristiques techniques ou ajoutent des informations sur les limitations connues.
Les entreprises devraient suivre ces évolutions, leurs Documentation Mettez-les à jour, puis identifiez les applications de votre entreprise qui sont concernées.
Grâce à Ailance KI-Governance, nous nous chargeons de la gestion et de la mise à jour centralisées des cartes de modèles pour nos clients.
Le processus ne s'arrête toutefois pas à une description mise à jour.
Lorsqu'une Carte modèle Lors d'une modification, le système prend en compte les entrées de l'inventaire IA associées au modèle concerné et affectées par cette modification.
Pour ces entrées, Ailance veille à ce que les risques soient recalculés sur la base des informations actualisées.
Les responsables concernés seront informés afin qu'ils puissent évaluer les implications pour leur cas d'utilisation spécifique.
Le contexte est déterminant :
Carte modèle mis à jour → concernés Éléments de l'inventaire identifiés → Risques recalculés → Responsable informé.
Un changement de modèle ne se limite donc pas à un aspect technique Documentation . Elle est l'occasion de réexaminer l'évaluation actuelle de l'engagement réel.
Le client n'est pas tenu de mettre à jour lui-même les informations relatives au modèle sous-jacent pour chaque cas d'utilisation. La responsabilité de l'évaluation de l'utilisation concrète en entreprise incombe toutefois aux personnes compétentes au sein de l'entreprise.
Pourquoi il est important de recalculer les risques
Une évaluation des risques repose toujours sur des informations et des hypothèses spécifiques.
Dans l'exemple initial, l'assistant IA a été validé car ses résultats ont été jugés suffisamment fiables dans les conditions définies.
Si le modèle change, ces hypothèses peuvent rester valables. Elles peuvent toutefois aussi évoluer en partie.
Un nouveau calcul des risques permet de prendre en compte ces changements dans le cadre de la gouvernance existanteDocumentation à prendre en compte.
Cela peut donner lieu à différents résultats :
| Résultat de la réévaluation | Conséquence possible |
|---|---|
| Aucun changement significatif en matière de risque | L'évaluation et les conditions d'utilisation antérieures peuvent rester valables après vérification. |
| Certains risques évoluent | Les mesures de contrôle ou les conditions d'utilisation font l'objet d'une vérification ciblée. |
| Risques nouveaux ou nettement plus élevés | Des tests supplémentaires, des mesures ou une nouvelle autorisation peuvent s'avérer nécessaires. |
Il convient de distinguer le recalcul automatique de la décision technique.
Une valeur de risque recalculée ne remplace pas la vérification visant à déterminer si la nouvelle version du modèle reste adaptée à l'usage prévu.
Il met toutefois en évidence les points sur lesquels un réexamen pourrait s'avérer nécessaire.
Il est donc particulièrement important d'en informer ensuite les responsables. Cela permet de mener l'examen technique de manière ciblée, là où la modification est susceptible d'avoir des répercussions.
Que doivent vérifier les responsables après un changement de modèle ?
Chaque changement de modèle ne devrait pas nécessairement donner lieu à un tout nouveau processus de vérification. Il est bien plus judicieux d'évaluer ses conséquences concrètes.
Dans l'exemple, le Responsable Commencer par comparer les caractéristiques qui ont changé et vérifier si les mesures de contrôle définies jusqu'à présent sont encore suffisantes.
Un nouveau test réalisé à partir d'une sélection de demandes de clients permettra de vérifier si la nouvelle version répond toujours aux exigences initiales.
Il est ensuite possible de déterminer si les conditions d'utilisation actuelles peuvent rester inchangées, si elles doivent être adaptées ou s'il convient, dans un premier temps, de limiter la poursuite de l'utilisation.
Pour prendre cette décision, le Responsable les informations actuelles sur le modèle, le cas d'application concerné, les risques recalculés et les décisions de vérification et de validation prises jusqu'à présent.
Ailance facilite la mise en commun de ces informations et informe les personnes concernées des changements pertinents.
L'évaluation technique proprement dite reste du ressort des responsables désignés à cet effet. Un calcul automatique des risques ne signifie pas que toute modification du modèle puisse être validée sans examen complémentaire.
Pourquoi les cartes de modélisation actuelles revêtent également une importance réglementaire
Le règlement de l'UE sur l'IA établit une distinction entre les modèles d'IA et les systèmes d'IA, ainsi qu'entre les obligations de leurs fournisseurs et de leurs exploitants.
L'article 53 prévoit, pour les fournisseurs de modèles d'IA à usage général, des exigences relatives à l'élaboration et à la mise à jour de la documentation technique. Celle-ci doit notamment contenir des informations sur les capacités et les limites des modèles.
Pour les systèmes d'IA à haut risque, le règlement prévoit, sous réserve des conditions d'application respectives, des exigences plus strictes en matière de gestion des risques, de aspects techniques Documentation et prévoit le traitement des modifications pertinentes.
Il n'en découle pas pour autant une obligation légale générale d'établir, pour chaque utilisation de l'IA en entreprise, une Carte modèle de les créer dans un format spécifique.
Une maison bien entretenue Carte modèle constitue toutefois une base organisationnelle pertinente pour maintenir à jour les informations relatives aux modèles et intégrer les modifications de manière traçable dans l'évaluation d'applications concrètes de l'IA.
De même, il convient de distinguer entre une réévaluation des risques, la classification des risques selon l'AI Act et une éventuelle Analyse d'impact relative à la protection des données Il convient de faire la distinction. Toutes les modifications apportées au modèle n'entraînent pas nécessairement un changement de classe de risque légale ni ne nécessitent une nouvelle DSFA.
Moins d'efforts d'entretien, de meilleures bases de décision
Le véritable défi de la gouvernance de l'IA ne réside pas uniquement dans la mise en place initiale d'un nouveau cas d'utilisation de l'IA.
Il est plus difficile de déterminer la Documentation et de veiller à ce que les décisions correspondantes restent d'actualité pendant une longue période.
Cela vaut tout particulièrement pour les entreprises qui utilisent le même modèle dans plusieurs domaines.
Sans base modélale commune, les modifications devraient faire l'objet de recherches, d'une documentation et d'une évaluation à plusieurs reprises. Cela comporte le risque que certaines applications soient négligées ou que différents services travaillent avec des informations obsolètes.
La gestion centralisée des cartes de modélisation dans Ailance permet de réduire cette charge de travail récurrente.
Grâce à l'interconnexion avec l'inventaire IA, il est possible de prendre en compte les répercussions sur les entrées existantes, de recalculer les risques et d'informer les personnes concernées.
Cela permet de disposer d'une base d'informations homogène, sans pour autant négliger les différentes exigences propres à chaque cas d'utilisation.
Conclusion : une carte de modélisation doit avoir des répercussions sur la mise en œuvre concrète
Une Carte modèle n'est utile à long terme que si elle suit le rythme de l'évolution du modèle utilisé.
Grâce aux nouvelles fiches de modèle d'Ailance KI-Governance, nous nous chargeons de la mise à jour continue des informations relatives aux modèles pour nos clients.
Si une modification concerne des entrées existantes dans l'inventaire des IA, les risques sont recalculés et les responsables en sont informés.
Ailance associe ainsi la mise à jour des informations techniques relatives aux modèles à la gestion continue des risques au sein de l'entreprise.
La décision technique reste là où elle doit être prise : entre les mains des responsables de chaque utilisation de l'IA. Ceux-ci disposent toutefois d'une base d'information plus à jour pour prendre cette décision.
En effet, ce qui importe, ce n'est pas seulement le modèle d'IA utilisé par une entreprise, mais aussi de savoir si l'évaluation de son utilisation correspond encore à ce modèle.
Questions et réponses
Qu'est-ce qu'une carte de modèle dans Ailance KI-Governance ?
Une Carte modèle décrit les principales caractéristiques d'un modèle d'IA, notamment le fournisseur, la version du modèle, ses capacités, ses limites connues et les informations disponibles sur ses performances. Grâce au lien avec l'inventaire des IA, les modifications apportées à un modèle peuvent être associées aux applications opérationnelles concernées.
Que se passe-t-il dans Ailance lorsqu'une carte modèle est modifiée ?
Lorsqu'une modification de modèle concerne des entrées liées dans l'inventaire IA, les entrées concernées sont identifiées et les risques sont recalculés sur la base des informations mises à jour. Les responsables concernés sont ensuite informés.
Faut-il procéder à une nouvelle évaluation complète d'une application d'IA après chaque mise à jour du modèle ?
Non. Chaque changement de modèle ne nécessite pas forcément un processus de vérification entièrement nouveau. Ce qui est déterminant, c'est de savoir quelles hypothèses, quels risques ou quelles mesures de contrôle existants sont concernés par ce changement et si cela entraîne un besoin supplémentaire de vérification ou d'ajustement.
Le recalcul automatique du risque remplace-t-il l'examen technique ?
Non. Une valeur de risque recalculée indique les domaines dans lesquels un réexamen peut s'avérer nécessaire. La décision quant à savoir si un modèle d'IA reste adapté à l'usage prévu et si les mesures existantes sont suffisantes revient aux responsables compétents.
Une modification du modèle d'IA entraîne-t-elle automatiquement une nouvelle classe de risque ou une nouvelle DSFA ?
Non. Un changement de modèle ne modifie pas automatiquement la classification légale des risques prévue par l'AI Act et n'entraîne pas non plus automatiquement une nouvelle Analyse d'impact relative à la protection des données. Ce qui importe, ce sont la modification concrète, le cas d'application concerné et ses conséquences réelles.





