Le 12 octobre 2024, la chaîne YouTube EGO a mis en ligne « L’horreur existentielle de l’usine à trombones », une vidéo de 38 minutes qui approche aujourd’hui les 6,5 millions de vues. Elle part d’un jeu de navigateur, Universal Paperclips, pour raconter une expérience de pensée connue des spécialistes des risques de l’IA. Pour le DPO ou le référent IA qui prépare une session de sensibilisation IA en interne, le support a un atout rare : une partie des salariés l’a peut-être déjà vu, et il parle de risques sans un mot de jargon.
Un jeu de 2017, une idée de 2003
Universal Paperclips a été conçu par Frank Lantz, de l’université de New York, et publié gratuitement sur le web le 9 octobre 2017. Le joueur incarne une IA dont l’unique mission est de fabriquer des trombones. On clique d’abord sur un bouton pour en produire un, puis on automatise, on investit dans le marketing et la bourse, on rachète la concurrence. La suite dérape : drones, conversion de la Terre en matière première, sondes autoréplicantes lancées dans l’espace. La partie s’arrête quand il ne reste plus rien à transformer.
Le scénario reprend le « maximiseur de trombones » décrit par le philosophe Nick Bostrom en 2003. Une IA reçoit un objectif anodin et le poursuit avec une efficacité sans limite, parce que rien dans sa consigne ne lui dit de s’arrêter. Selon la page consacrée au jeu, Frank Lantz y voyait une illustration de la thèse d’orthogonalité : le niveau d’intelligence d’un système ne dit rien de la valeur de ses objectifs. La description de la vidéo d’EGO remercie d’ailleurs le Centre pour la Sécurité de l’IA, ce qui situe bien l’intention du vidéaste.
Pourquoi cette histoire parle à des salariés qui n’ont rien à voir avec la superintelligence
Personne, dans une collectivité, un service de santé au travail ou une PME, ne développe une IA capable de convertir la planète. Le mécanisme, lui, se retrouve à petite échelle dans les outils du quotidien. Un système optimise l’indicateur qu’on lui a fixé, même quand cet indicateur trahit l’intention de départ. Un outil de tri de candidatures entraîné sur les recrutements passés reproduit les choix passés. Un assistant de rédaction qui doit « faire court » peut supprimer la réserve qui changeait le sens d’un compte rendu. Un agent conversationnel noté sur la rapidité de ses réponses finira par répondre vite plutôt que juste.
Le jeu rend ce glissement visible en quelques minutes. Les participants comprennent seuls que la consigne était mal posée, et que personne n’a prévu de bouton d’arrêt. La discussion vient ensuite naturellement : qui fixe les objectifs des outils que nous utilisons, qui vérifie les résultats, qui peut dire stop ?
L’article 4 de l’AI Act rend la sensibilisation IA exigible
Depuis le 2 février 2025, l’article 4 du règlement (UE) 2024/1689 sur l’intelligence artificielle demande aux fournisseurs et aux déployeurs de systèmes d’IA de prendre des mesures pour que leur personnel dispose d’un niveau suffisant de maîtrise de l’IA. Le texte tient compte des connaissances techniques, de l’expérience et de la formation de chacun, ainsi que du contexte d’utilisation. Un organisme qui met un assistant d’IA générative à disposition de ses agents, ou qui laisse ses équipes en utiliser un, entre dans la catégorie des déployeurs.
Le règlement n’impose ni format, ni durée, ni certificat. Une session construite autour d’un support grand public peut donc compter, à deux conditions : qu’elle soit reliée aux usages réels de l’organisme, et qu’elle laisse une trace. Une heure de vidéo projetée sans débat ni lien avec les outils maison ne démontrera pas grand-chose lors d’un contrôle.
Construire la séance
La vidéo dure 38 minutes et adopte un ton dramatique assumé. En séance, je conseille de sélectionner des extraits, ou de laisser les participants jouer une dizaine de minutes au jeu lui-même, accessible gratuitement en ligne. Vérifiez au passage les conditions de diffusion avant toute projection collective, et passez par le lecteur officiel plutôt que par une copie téléchargée.
La seconde partie de la séance revient à l’organisme. Quels outils d’IA sont utilisés, avec ou sans autorisation ? Quelles données y sont saisies ? Un agent qui colle un courrier contenant des informations de santé dans un assistant grand public crée un transfert de données que personne n’a analysé. Le parallèle avec le jeu est facile à faire : l’outil fait ce qu’on lui donne, il ne trie pas ce qu’il ne devrait pas recevoir.
Terminez par des règles concrètes et courtes : les outils autorisés, les catégories de données à ne jamais saisir, l’obligation de relire et de valider toute production avant usage, la personne à prévenir en cas de doute ou d’incident.
Ce que l’organisme doit faire après la session
- Conserver la preuve de la séance : date, support, liste des participants, contenu abordé. Elle alimente le dossier de conformité à l’article 4.
- Dresser l’inventaire des systèmes d’IA utilisés, y compris les fonctions d’IA intégrées dans des logiciels déjà en place.
- Mettre à jour le registre des traitements lorsque ces outils traitent des données personnelles, et vérifier les contrats avec les éditeurs au regard de l’article 28 du RGPD.
- Mener une analyse d’impact quand l’usage porte sur des données sensibles, sur l’évaluation de personnes ou sur un grand volume.
- Adapter la suite du parcours aux profils : les équipes RH, les managers et les personnes qui paramètrent les outils n’ont pas besoin du même niveau.
Le jeu des trombones ouvre la conversation. Il ne remplace ni la charte d’usage, ni l’inventaire, ni l’analyse des risques propres à chaque outil.
Les DPO du réseau DPO FRANCE accompagnent les organismes dans la mise en place de l’obligation de maîtrise de l’IA : sessions adaptées aux métiers, charte d’usage, inventaire des outils et articulation avec le RGPD. DPO SUITE permet de tenir le registre des traitements et des systèmes d’IA, de conduire les analyses d’impact et de conserver les preuves de sensibilisation au même endroit.
