Le 30 septembre 2026, une habitante de Bonita Springs, en Floride, a été inculpée pour menace écrite ou électronique de fusillade de masse ou d’acte terroriste. Selon Tom’s Hardware, elle avait écrit le 26 septembre, dans une conversation avec Claude, l’assistant d’Anthropic, qu’elle allait ouvrir le feu sur le bureau du shérif du comté de Lee. Le message a été repéré par les outils de détection de l’éditeur, examiné par une équipe humaine, puis signalé aux forces de l’ordre. Pour un organisme dont les salariés utilisent des assistants d’IA, l’affaire pose concrètement la question de la confidentialité des conversations IA.
Comment le signalement a eu lieu
Le média décrit un système qui repère des formulations et des contenus menaçants. Selon leur gravité, les conversations repérées passent devant une équipe de revue humaine, qui décide d’alerter ou non les autorités. L’utilisatrice a été interpellée à son domicile. Anthropic n’a pas commenté le dossier. Tom’s Hardware cite deux autres affaires depuis août 2026, à San Antonio et à San Francisco, dans lesquelles des conversations avec un assistant d’IA ont abouti à un signalement à la police.
La politique de confidentialité d’Anthropic, en vigueur depuis le 10 septembre 2026, prévoit la communication de données aux autorités lorsque l’entreprise estime de bonne foi qu’elle est raisonnablement nécessaire, notamment pour prévenir un dommage grave à une personne ou à des biens. Elle indique aussi que les échanges signalés pour un examen de sécurité peuvent servir à améliorer les modèles, même si l’utilisateur a refusé que ses conversations servent à l’entraînement.
Confidentialité des conversations IA : un écrit transmis à un tiers
Le shérif du comté a résumé l’affaire en déclarant que ce que l’on confie à une IA n’est « jamais vraiment anonyme ». Beaucoup d’utilisateurs écrivent à un assistant comme à un carnet personnel. Les conditions des éditeurs disent autre chose : les échanges sont conservés pendant une durée que l’éditeur fixe, peuvent être relus par des personnes habilitées dans certains cas, et peuvent être remis aux autorités.
Le cas de Floride concerne une menace grave, et peu de salariés écriront un tel message. Il montre pourtant que des conversations sont lues par des personnes, chez l’éditeur, dans des circonstances que l’utilisateur ne maîtrise pas. La plupart des éditeurs prévoient aussi des revues humaines pour la qualité ou la lutte contre les abus, selon des règles propres à chaque offre.
Pour un usage strictement privé, chacun fait ses propres choix. Dès qu’un salarié utilise un compte personnel pour son travail, l’organisme est concerné. Les données de ses usagers, de ses adhérents ou de ses collègues sortent de son périmètre sans contrat, sans maîtrise de la durée de conservation et sans information des personnes. Dans les services de santé au travail, les collectivités ou les CSE, la tentation est courante : adoucir le ton d’un courrier délicat, résumer un compte rendu, préparer la réponse à un signalement. Chacun de ces textes peut contenir des données de santé, des éléments disciplinaires ou des propos sur un tiers.
Ce que l’organisme doit faire
- Distinguer les offres. Un compte personnel, gratuit ou payant, relève des conditions grand public de l’éditeur. Une offre professionnelle doit être couverte par un contrat conforme à l’article 28, qui précise la conservation, l’usage pour l’entraînement et les cas d’accès humain.
- Inscrire chaque assistant autorisé au registre, avec ses finalités, les catégories de données admises et la durée de conservation chez l’éditeur.
- Poser une règle claire dans la charte informatique : aucune donnée de santé, aucune donnée nominative sur un salarié suivi, un usager ou un collègue dans un outil non autorisé.
- Dire aux salariés que leurs conversations peuvent être relues par l’éditeur et communiquées aux autorités dans les cas prévus par sa politique.
- Mettre à jour l’information des personnes (articles 13 et 14 du RGPD) quand leurs données sont traitées avec un assistant d’IA, en mentionnant l’éditeur parmi les destinataires et, le cas échéant, le transfert hors de l’Union.
- Prévoir la conduite à tenir après la saisie de données sensibles dans un outil grand public : signalement au DPO, analyse du risque, inscription au registre des violations.
Reste la tentation inverse, celle de surveiller. Un employeur qui voudrait consulter les échanges de ses salariés avec un assistant d’IA doit respecter les règles du contrôle de l’activité : finalité légitime, proportionnalité, information préalable des salariés et consultation du CSE prévue à l’article L. 2312-38 du code du travail. L’affaire de Floride ne justifie pas une surveillance généralisée des conversations. Une règle d’usage connue de tous et des outils couverts par contrat protègent mieux l’organisme.
Le réseau DPO FRANCE réunit des DPO indépendants qui aident les organismes à encadrer l’usage des assistants d’IA et à sensibiliser leurs équipes. Le logiciel DPO SUITE recense les outils autorisés, les rattache au registre et aux contrats, et conserve le registre des violations et les preuves de sensibilisation des salariés.
