Les Dangers de l’IA Générative en Médecine : Focus sur les Services de Prévention et de Santé au Travail (SPST)

L’intelligence artificielle ou IA Générative, en Médecine , comme les modèles tels que ChatGPT ou DALL-E, révolutionne de nombreux secteurs. Cependant, son intégration dans le domaine médical soulève des préoccupations majeures. Si elle promet d’améliorer l’efficacité et l’accès aux soins, elle expose également à des risques graves, particulièrement dans les Services de Prévention et de Santé au Travail (SPST), où les décisions impactent la santé des travailleurs et la sécurité des environnements professionnels. Cet article explore ces dangers, illustrés par des exemples concrets de pratiques à éviter et de bonnes approches à adopter.

Les Risques Inhérents à l’IA Générative en Médecine

L’IA générative excelle dans la création de contenus à partir de données apprises, mais elle n’est pas infaillible. Contrairement à l’IA traditionnelle, qui suit des règles prédéfinies, les modèles génératifs comme ceux basés sur des transformers peuvent « halluciner » – c’est-à-dire inventer des informations plausibles mais fausses. Dans le médical, cela peut mener à des diagnostics erronés, des traitements inappropriés ou des conseils dangereux.

1. Hallucinations et Inexactitudes : L’IA peut générer des réponses basées sur des patterns statistiques plutôt que sur des faits vérifiés. Par exemple, elle pourrait confondre des symptômes ou ignorer des évolutions récentes en recherche médicale.
2. Biais et Discrimination : Les données d’entraînement proviennent souvent d’ensembles biaisés (par exemple, sous-représentant certaines ethnies ou genres), ce qui perpétue des inégalités. En SPST, cela pourrait affecter l’évaluation des risques professionnels pour des groupes vulnérables, comme les travailleurs migrants ou les femmes enceintes.
3. Problèmes de Confidentialité et de Sécurité : L’utilisation d’IA générative implique souvent le partage de données sensibles. Sans protocoles stricts, cela risque des fuites de données personnelles, violant le RGPD en Europe.
4. Sur-dépendance et Perte de Compétences Humaines : Les professionnels pourraient se fier aveuglément à l’IA, réduisant leur vigilance et entraînant des erreurs critiques. Dans les SPST, où les évaluations préventives sont cruciales pour éviter accidents et maladies professionnelles, cela pourrait avoir des conséquences légales et humaines.
5. Manque de Transparence et de Responsabilité : Qui est responsable si une IA génère un conseil erroné ? Les algorithmes « boîtes noires » rendent difficile la traçabilité des décisions, compliquant les recours en cas d’erreur.

Ces risques sont amplifiés dans les SPST, qui gèrent la santé au travail pour des millions de salariés en France. Selon un rapport de l’ANSES (Agence nationale de sécurité sanitaire), l’intégration hâtive de l’IA pourrait aggraver les inégalités et augmenter les incidents liés au travail.

Exemples de Pratiques à Éviter : Les Erreurs Courantes

Pour illustrer ces dangers, examinons des scénarios fictifs mais réalistes inspirés de cas rapportés dans la littérature médicale.

• Exemple 1 : Diagnostic Automatisé sans Vérification Un médecin du travail dans un SPST utilise un outil IA génératif pour analyser les symptômes d’un ouvrier rapportant des douleurs dorsales récurrentes. L’IA suggère un « syndrome de fatigue chronique lié au stress professionnel », en se basant sur des patterns généraux. Sans vérification, le professionnel conseil un repos sans explorer une hernie discale réelle – entendons nous l’exemple est totalement fictif. Résultat : aggravation de la blessure, poursuites judiciaires et perte de confiance. Danger principal : Hallucinations de l’IA menant à un diagnostic faux.
• Exemple 2 : Génération de Rapports Personnalisés avec Données Sensibles Une infirmière en SPST entre des données confidentielles d’un employé (historique médical, exposition à des substances chimiques) dans un chatbot IA pour générer un rapport de prévention. L’IA, non sécurisée, stocke ces données sur des serveurs externes, entraînant une fuite. Danger principal : Violation de la confidentialité, exposant à des risques de chantage ou de discrimination.
• Exemple 3 : Conseils Préventifs Biaisés Pour évaluer les risques dans une usine, un SPST utilise l’IA pour générer des recommandations sur les équipements de protection. L’algorithme, entraîné sur des données majoritairement masculines, sous-estime les besoins pour les travailleuses, ignorant des facteurs comme la grossesse. Résultat : augmentation des accidents chez les femmes. Danger principal : Biais inhérents aux données d’entraînement.

Ces cas montrent comment une utilisation naïve peut transformer un outil prometteur en source de préjudices.

Exemples de Bonnes Pratiques : Comment Intégrer l’IA de Manière Responsable

Heureusement, il est possible d’atténuer ces risques en adoptant une approche éthique et encadrée. Voici des stratégies recommandées par des experts comme ceux de l’OMS et de la Haute Autorité de Santé (HAS) en France.

• Exemple 1 : Utilisation comme Assistant Secondaire avec Vérification Humaine Au lieu de laisser l’IA diagnostiquer seule, un médecin l’utilise pour générer une liste de symptômes possibles basés sur une description. Il vérifie ensuite manuellement avec des examens cliniques et des références médicales validées. Par exemple, pour des douleurs dorsales, l’IA propose des hypothèses, mais le professionnel croise avec des imageries et des consultations. Avantage : Réduit les hallucinations en plaçant l’humain au centre.
• Exemple 2 : Sécurisation des Données et Choix d’Outils Certifiés Un SPST opte pour une IA générative hébergée localement ou certifiée (comme celles conformes à la norme ISO 27001 pour la sécurité). Avant d’entrer des données, elles sont anonymisées. Pour un rapport, l’IA génère un brouillon que l’équipe révise et valide. Avantage : Protège la confidentialité et assure la traçabilité.
• Exemple 3 : Formation et Audit pour Combattre les Biais Les équipes SPST suivent des formations sur les biais de l’IA et auditent régulièrement les outputs. Pour des évaluations de risques, l’IA est utilisée avec des datasets diversifiés, et les recommandations sont testées sur des groupes variés. Par exemple, en incluant des données spécifiques aux femmes et minorités dans les prompts. Avantage : Favorise l’équité et renforce la responsabilité.

L’IA générative offre un potentiel immense en médecine et dans les SPST, mais son déploiement doit être prudent. Les autorités appellent à des régulations plus strictes, comme celles en discussion au niveau européen. Les professionnels doivent prioriser l’éthique, la formation et la supervision humaine pour transformer ces outils en alliés plutôt qu’en menaces. Pour plus d’informations, consultez les guidelines de la HAS ou de l’INRS (Institut national de recherche et de sécurité).

Les Dangers de l’IA Générative en Médecine : Focus RGPD sensibilise le personnel

Face à ces défis, des initiatives émergentes visent à renforcer la sensibilisation. La plateforme FOCUS RGPD, dédiée à la formation sur le Règlement Général sur la Protection des Données (RGPD), propose des modules adaptés aux professions médicales et particulièrement aux SPST. En répondant aux exigences de sensibilisation RGPD imposées par le référentiel de certification AFNOR SPEC 2217 pour les Services de Prévention et de Santé au Travail Interentreprises (SPSTI), cette plateforme offre une solution simple et complète pour former les équipes. Au-delà du RGPD, elle prévoit d’étendre ses contenus à des sujets connexes, tels que l’utilisation responsable de l’intelligence artificielle dans le métier des SPST, aidant ainsi les professionnels à naviguer les intersections entre protection des données, éthique et innovation technologique.