Le 9 octobre 2026, la vice-présidente exécutive de la Commission européenne Henna Virkkunen et le président du groupe scientifique sur l’IA, Seán Ó hÉigeartaigh, ont tenu une réunion spéciale de ce groupe. Son objet : de récents incidents de « perte de contrôle » de modèles d’IA, et des évolutions techniques qui rendent certains modèles plus difficiles à surveiller. Le compte rendu, publié le 12 octobre, indique que le Bureau de l’IA a déjà demandé et reçu des rapports d’incidents graves, et que la Commission va adresser de nouvelles demandes d’informations aux développeurs concernés. Pour les organismes qui utilisent ces modèles, la séquence pose une question pratique : comment l’AI Act traite les incidents graves IA, et que doit garder en mémoire un déployeur ?
Ce que la Commission a rendu public
Le groupe scientifique réunit, selon le communiqué du 9 octobre, 60 experts indépendants chargés de conseiller le Bureau de l’IA et les autorités nationales sur les risques systémiques et l’évaluation des modèles. Ses travaux sur ces incidents ont été menés avec le Bureau de l’IA, qui a préparé un questionnaire commun pour les entreprises ayant développé les modèles en cause. La Commission ne détaille ni le nombre exact d’incidents ni leur description technique. La presse spécialisée a rapporté des cas où des agents d’IA en phase de test seraient sortis de leur environnement et auraient atteint des systèmes extérieurs, sans que la Commission confirme ces récits.
Le président du groupe a formulé des recommandations : encadrer les risques des modèles internes pendant leur développement et leurs tests, renforcer les capacités européennes de détection et d’enquête sur ce type d’incident, organiser un partage international d’informations et surveiller de près les techniques d’entraînement qui réduisent la capacité à observer le comportement des modèles.
Incidents graves IA : les obligations des modèles à usage général
Le règlement (UE) 2024/1689 distingue les modèles d’IA à usage général et, parmi eux, ceux qui présentent un risque systémique. Depuis le 2 août 2025, tous les fournisseurs de ces modèles doivent tenir une documentation technique, informer les fournisseurs qui intègrent leur modèle et respecter des règles en matière de droit d’auteur. Les fournisseurs de modèles à risque systémique ont des obligations supplémentaires prévues à l’article 55 : évaluer les modèles, y compris par des tests adverses, apprécier et atténuer les risques systémiques, assurer un niveau adapté de cybersécurité, et suivre, documenter et signaler sans retard injustifié au Bureau de l’IA les incidents graves et les mesures correctives possibles.
Le Bureau de l’IA dispose de pouvoirs d’enquête : demander des documents et des informations (article 91), procéder à des évaluations (article 92), exiger des mesures correctives. Le groupe scientifique peut, de son côté, adresser au Bureau une alerte qualifiée lorsqu’il soupçonne qu’un modèle présente un risque systémique (article 90). Les pouvoirs de sanction de la Commission envers les fournisseurs de modèles à usage général sont applicables depuis le 2 août 2026.
Et le déployeur ?
Un hôpital, une collectivité ou un service de santé au travail qui utilise un assistant conversationnel ou un agent construit sur un grand modèle n’est pas fournisseur de ce modèle. Il est, au sens de l’AI Act, déployeur du système qu’il utilise. Ses obligations les plus lourdes concernent les systèmes à haut risque : utilisation conforme à la notice, contrôle humain, surveillance du fonctionnement, conservation des journaux générés automatiquement pendant au moins six mois, et information du fournisseur puis des autorités en cas d’incident grave (article 26). L’obligation de maîtrise de l’IA par le personnel (article 4) et les obligations de transparence de l’article 50 s’appliquent plus largement.
Le RGPD reste par ailleurs pleinement applicable. Un agent qui agit hors de son périmètre, accède à des fichiers qu’il ne devait pas lire ou transmet des données à un service externe peut provoquer une violation de données au sens de l’article 4.12. L’organisme doit alors la documenter, la notifier à la CNIL dans les 72 heures si elle présente un risque, et informer les personnes en cas de risque élevé (articles 33 et 34).
Ce qu’un déployeur doit tracer
Dans les organismes que j’accompagne, la difficulté vient rarement du texte. Elle vient de l’absence de traces le jour où quelque chose se produit. Quelques mesures permettent d’y remédier.
- Tenir un inventaire des systèmes d’IA utilisés, avec le modèle sous-jacent, son fournisseur, la version et les droits d’accès accordés (fichiers, messagerie, outils, internet).
- Limiter les permissions des agents au strict nécessaire et consigner toute extension.
- Conserver les journaux : requêtes, actions exécutées, accès aux données, erreurs, interventions humaines, sur une durée définie et cohérente avec le registre.
- Prévoir une procédure d’incident propre à l’IA, articulée avec la procédure de violation de données : qui qualifie, qui prévient le fournisseur, qui décide de suspendre l’outil.
- Prévoir dans le contrat que le fournisseur signale les incidents qui affectent le modèle et ses mesures correctives.
- Réaliser ou mettre à jour l’AIPD lorsque l’outil traite des données sensibles ou prend part à des décisions concernant des personnes.
DPO FRANCE, réseau national de DPO indépendants, aide les organismes à cartographier leurs usages d’IA et à les articuler avec leurs obligations RGPD. DPO SUITE tient le registre des systèmes d’IA, les AIPD, les incidents et violations de données ainsi que les contrats avec les fournisseurs.
