Assistants IA comme ChatGPT : pourquoi il faut mieux encadrer leurs réponses santé

Quand l’intelligence artificielle s’invite dans nos consultations virtuelles

Un phénomène en pleine expansion : les Français et l’IA santé

Les chiffres parlent d’eux-mêmes : environ un Français sur deux a déjà interrogé un agent conversationnel d’IA comme ChatGPT sur des problématiques de santé. Selon des enquêtes menées par Doctolib/Fondation Jean-Jaurès (mai 2026) et Flashs pour Galeon (avril 2025), ce taux grimpe même jusqu’à 60% des Français ayant suivi des conseils médicaux fournis par une IA.

Cette tendance ne concerne pas uniquement les jeunes générations, même si elles sont les plus adeptes. Environ 20% des plus de 65 ans et 10% des plus de 75 ans ont également franchi le pas. Un phénomène transgénérationnel qui reflète un besoin croissant d’accès immédiat à l’information médicale.

💡 Bon à savoir : L’utilisation d’une IA pour des questions de santé ne doit jamais remplacer l’avis d’un professionnel de santé qualifié. Ces outils peuvent compléter votre compréhension, mais ne constituent pas un diagnostic médical.

Les promesses séduisantes des assistants virtuels

Pourquoi un tel engouement ? Les avantages perçus par les utilisateurs sont multiples et répondent à des besoins bien réels :

Disponibilité et immédiateté : L’un des principaux attraits de l’IA est sa capacité à fournir des réponses rapides, disponibles 24h/24 et 7j/7, sans fatigue ni irritation. Dans une société où l’attente pour obtenir un rendez-vous médical peut s’étendre sur plusieurs semaines, cette accessibilité immédiate séduit.

Un espace sans jugement : Les utilisateurs apprécient la possibilité de poser des questions intimes sur leur santé sans craindre d’être jugés. Pour des sujets délicats ou embarrassants, l’anonymat relatif offert par une IA peut lever certaines barrières psychologiques.

Aide à la compréhension post-consultation : Une part significative des utilisateurs (71%) se tourne vers l’IA après une consultation médicale pour mieux comprendre un diagnostic, un compte rendu ou des résultats d’examens. Certains utilisateurs mentionnent également l’utilisation de l’IA pour analyser leurs analyses sanguines et obtenir des conseils pré ou post-opératoires.

Traitement massif de données : L’IA peut théoriquement traiter des milliers de données à la seconde, ce qui laisse entrevoir la possibilité de compléter le diagnostic du médecin avec des informations que ce dernier n’aurait pas nécessairement le temps d’analyser.

Les dangers bien réels d’un diagnostic algorithmique

Derrière ces promesses alléchantes se cachent des risques considérables que les autorités de santé et les experts ne cessent de dénoncer.

Quand ChatGPT se trompe : des erreurs aux conséquences graves

Les cas documentés d’erreurs médicales commises par des IA généralistes sont de plus en plus nombreux et préoccupants. Une étude du Mount Sinai Health System a démontré que les grands modèles de langage peuvent valider des affirmations médicales infondées lorsqu’elles sont formulées de manière crédible, même si elles sont totalement fausses.

Parmi les exemples les plus frappants :

• Conseils nutritionnels dangereux : L’IA de Google aurait recommandé à des patients atteints de cancer du pancréas d’éviter les aliments riches en matières grasses, une suggestion qui pourrait les empêcher de maintenir un poids suffisant pour supporter la chimiothérapie ou une intervention chirurgicale vitale.

• Erreurs de médication : Une analyse de la base française de pharmacovigilance a identifié 5 cas (dont 3 graves) où ChatGPT pourrait avoir contribué à la survenue d’effets indésirables. Ces problèmes concernent principalement des erreurs de prise de médicaments, des erreurs de traduction médicale et des réponses pouvant provoquer de l’anxiété ou encourager des comportements dangereux.

• Invention de références scientifiques : Des chercheurs ont constaté que 69% des références fournies par ChatGPT étaient inventées. Le logiciel a également multiplié par dix le taux de mortalité mondial associé aux infections par des bactéries Shigella et suggéré l’administration d’un anti-inflammatoire par injection alors qu’il doit être ingéré.

« L’IA ne perçoit ni les expressions ni les attitudes du patient, des éléments cruciaux pour un diagnostic. » – Dr Pierre De Brémond, médecin généraliste

Les failles critiques en situation d’urgence

L’un des aspects les plus inquiétants concerne la gestion des urgences médicales. Une évaluation indépendante de ChatGPT Health a révélé un taux d’erreur d’orientation élevé dans les situations d’urgence.

Les statistiques sont alarmantes :

Ces chiffres montrent que si l’IA se montre fiable pour des urgences très claires comme un AVC ou une anaphylaxie (100% d’orientation correcte vers les urgences), ses faiblesses dans des situations plus nuancées sont préoccupantes. Dans 52% des cas, l’IA a sous-trié des pathologies graves, proposant des orientations inadaptées qui pourraient retarder une prise en charge vitale.

L’auto-diagnostic : un piège dangereux

Le Dr Patricia Lefébure, médecin généraliste, souligne que « le risque majeur est l’auto-diagnostic », qui peut générer de la panique et une exagération des symptômes, l’IA répondant en conséquence. Les patients « ne donnent pas forcément toutes les informations nécessaires » lorsqu’ils interrogent une IA, ce qui peut biaiser considérablement les réponses.

Les études confirment cette préoccupation : seulement 37% des recherches sur des IA généralistes aboutissent au bon diagnostic. Une étude a également montré que les modèles d’IA ne parviennent pas à proposer un diagnostic différentiel pertinent dans plus de 80% des cas, en particulier au début d’un cas clinique lorsque les informations sont limitées.

🔴 Attention : Une étude de janvier 2026 a mis en évidence une corrélation entre l’utilisation quotidienne des chatbots IA et un risque accru de dépression (environ 30% en plus), ainsi que d’autres symptômes affectifs négatifs comme l’anxiété et l’irritabilité, particulièrement chez les adultes de 45 à 64 ans.

Un cadre réglementaire en construction

Face à ces risques, les autorités françaises et européennes ont pris la mesure de l’urgence et travaillent activement à l’élaboration d’un cadre réglementaire strict.

L’Europe et la France se mobilisent

Au niveau européen, le Règlement sur l’intelligence artificielle (IA Act), adopté le 13 juin 2024, établit des règles harmonisées pour le développement, la mise sur le marché et l’utilisation des systèmes d’IA, en fonction de leur niveau de risque. Son application est échelonnée entre février 2025 et août 2027.

Les dispositifs médicaux intégrant de l’IA et nécessitant une évaluation de conformité par un organisme notifié sont classés comme des IA à haut risque, entraînant des obligations renforcées en matière de :

• Gestion des risques algorithmiques
• Gouvernance des données
• Supervision humaine
• Transparence
• Robustesse

En France, le cadre légal applicable est multiple, intégrant le Règlement Général sur la Protection des Données (RGPD), l’IA Act, ainsi que les recommandations de la Commission Nationale de l’Informatique et des Libertés (CNIL) et de la Haute Autorité de Santé (HAS). Un décret de juillet 2026 a également introduit dans le code de déontologie médicale un article dédié aux outils numériques et à l’IA, soulignant la responsabilité du médecin.

Les garde-fous indispensables selon les experts

La Haute Autorité de Santé (HAS) et la CNIL ont publié des recommandations pour encadrer l’usage de l’IA générative en santé. En octobre 2025, elles ont conjointement publié un guide intitulé « Premières clefs d’usage de l’IA générative en santé », complété par un document plus large « Accompagner le bon usage des systèmes d’intelligence artificielle en contexte de soins ».

Ces documents établissent des principes fondamentaux :

Supervision humaine systématique : La décision finale doit rester profondément humaine. Le professionnel de santé demeure responsable de l’interprétation du contexte, de l’échange avec le patient et de la décision clinique. L’IA ne peut être qu’un outil d’aide, jamais un substitut au jugement médical.

Transparence et explicabilité : Le fonctionnement des systèmes d’IA doit être suffisamment transparent pour permettre aux utilisateurs d’interpréter les résultats et de les utiliser de manière appropriée. Les patients doivent être informés lorsqu’un professionnel de santé utilise un dispositif médical comportant un traitement algorithmique.

Formation et compétence : Les professionnels de santé doivent se former à l’utilisation sécurisée de l’IA, à la gestion des biais et à la protection des données. Il est crucial de s’approprier le fonctionnement des outils via des sources fiables.

Protection des données et confidentialité : Le RGPD reste pleinement applicable, et l’utilisation de données patients pour l’entraînement des modèles d’IA doit garantir la confidentialité. Une analyse d’impact relative à la protection des données (AIPD) peut être requise pour les traitements présentant un risque élevé.

💡 Bon à savoir : Une commission mandatée par le gouvernement a également alerté sur les risques « d’ordre cognitif » tels que l’affaiblissement de fonctions cérébrales essentielles (réflexion, prise de décision, esprit critique) dû à la délégation de compétences à l’IA, ainsi qu’un « risque de dépendance » émotionnelle lié à l’anthropomorphisation des IA.

Comment les entreprises tentent d’améliorer la fiabilité

Face aux critiques et aux risques identifiés, les entreprises développant des IA pour la santé ne restent pas inactives. Elles déploient diverses stratégies pour renforcer la fiabilité de leurs outils.

De l’IA généraliste à l’IA spécialisée

Plutôt que de s’appuyer sur des IA généralistes comme ChatGPT, de nombreuses entreprises développent des outils spécifiquement conçus pour des tâches médicales précises :

• Nabla Copilot pour les comptes rendus médicaux
• Synapse Medicine pour la sécurisation des prescriptions
• AI DiagMe pour l’explication des résultats d’analyses

Ces outils plus fiables s’appuient sur des corpus de littérature scientifique évaluée par des pairs et fournissent des réponses citées que les cliniciens peuvent vérifier. L’approche hybride, combinant l’IA et la vérification humaine, peut réduire considérablement le taux d’erreur, avec des exemples mentionnant 4,4% d’erreurs avec cette méthode, contre près de 63% pour les IA généralistes seules.

Collaborations avec le monde médical

Les partenariats entre les développeurs d’IA et les experts du secteur de la santé sont cruciaux pour garantir la pertinence et la sécurité des algorithmes. Les professionnels de santé sont invités à intervenir directement dans le développement des algorithmes d’IA.

Des collaborations existent avec des hôpitaux et des universités, comme celles entre l’UMONS et le CHU HELORA pour la recherche en IA en santé, ou l’Inserm pour des outils d’aide à la décision en imagerie médicale. Certaines entreprises, comme AI DiagMe, intègrent des comités scientifiques et éthiques composés de médecins spécialistes pour encadrer leurs systèmes d’IA.

La Délégation au numérique en santé (DNS) a élaboré des guides pour intégrer l’éthique dès le développement des solutions d’IA en santé, promouvant une approche où l’éthique est au cœur de la conception, du déploiement et de l’évaluation des systèmes d’IA.

Les bonnes pratiques pour utiliser l’IA en toute sécurité

En attendant un encadrement plus strict et des outils plus fiables, il est essentiel d’adopter les bonnes pratiques pour minimiser les risques.

Pour les patients : rester vigilant

Ne jamais remplacer une consultation médicale : C’est la règle d’or. L’IA peut vous aider à mieux comprendre vos symptômes ou à préparer des questions pour votre médecin, mais elle ne peut en aucun cas se substituer à un examen clinique réalisé par un professionnel de santé.

Vérifier systématiquement les sources : Malheureusement, 91,3% des réponses de ChatGPT en matière de santé ne citent aucune source, rendant la vérification presque impossible. Si une IA vous fournit une information médicale, recherchez-la sur des sites de santé reconnus comme Ameli.fr, Santé Publique France, ou consultez directement votre médecin.

Informer son médecin de ses recherches en ligne : N’hésitez pas à partager avec votre médecin les informations que vous avez trouvées via une IA. Il pourra vous aider à faire le tri entre ce qui est pertinent et ce qui ne l’est pas, tout en adaptant ses explications à vos préoccupations.

🔍 À retenir : Les Français ont une tolérance plus faible pour une erreur de diagnostic commise par une IA (9%) que par un médecin (1 sur 5). Cette méfiance est justifiée et doit vous inciter à la prudence.

Pour les professionnels : un outil, pas un oracle

Maintenir ses compétences cliniques : La HAS insiste sur la nécessité pour les professionnels de santé de conserver leurs compétences et de ne pas se reposer entièrement sur l’IA, notamment en cas de dysfonctionnement. L’IA ne perçoit ni les expressions ni les attitudes du patient, des éléments cruciaux pour un diagnostic.

Confronter les suggestions de l’IA à d’autres sources : La HAS recommande aux soignants de toujours vérifier les sources utilisées par l’IA, de les consulter si nécessaire et de les confronter à d’autres sources fiables. Cette démarche critique est indispensable pour éviter de propager des erreurs.

Conserver la responsabilité de la décision finale : Même si l’IA peut suggérer un diagnostic ou un traitement, la responsabilité finale reste celle du professionnel de santé. Le code de déontologie médicale français a été modifié pour souligner cette responsabilité dans l’utilisation des outils numériques et de l’IA.

Vers une cohabitation équilibrée entre humain et machine

L’avenir de la santé ne se fera ni sans l’humain, ni probablement sans l’IA. La clé réside dans une cohabitation équilibrée où chacun apporte ses forces.

L’IA comme « copilote » du soignant

L’objectif est de positionner l’IA comme un « copilote » des soignants, sans jamais se substituer au jugement clinique humain. L’IA peut exceller dans certaines tâches :

• Analyse rapide de grandes quantités de données
• Détection de patterns dans des images médicales
• Aide à la rédaction de comptes rendus
• Suggestions de diagnostics différentiels à explorer

Mais elle ne peut remplacer :

• L’examen clinique et l’observation du patient
• La prise en compte du contexte global (antécédents, environnement social, psychologique)
• L’empathie et la relation de confiance médecin-patient
• Le jugement clinique basé sur l’expérience

« La dimension humaine de la médecine reste irremplaçable. L’IA peut nous assister, mais elle ne peut pas ressentir ce que ressent un patient, ni adapter son discours à sa détresse émotionnelle. »

Les défis à relever pour l’avenir

Plusieurs défis majeurs restent à relever pour permettre une intégration sécurisée et éthique de l’IA dans la santé :

Transparence des algorithmes : La recherche vise à développer des modèles d’IA qui ne soient plus des « boîtes noires » mais qui puissent expliquer leur raisonnement, offrant ainsi une traçabilité et une crédibilité accrues dans les décisions médicales.

Responsabilité juridique en cas d’erreur : L’absence de définition claire de la responsabilité en cas de conseil inadapté complique l’intégration de ces technologies. Qui est responsable si une IA donne un mauvais conseil ? Le développeur ? L’établissement de santé ? Le professionnel qui l’utilise ? Ces questions juridiques doivent trouver des réponses claires.

Éducation du public aux limites de l’IA : Une politique nationale d’éducation à l’IA est nécessaire pour maîtriser ses usages et ses risques. Le grand public doit comprendre que l’IA, aussi performante soit-elle, reste un outil avec des limites importantes, particulièrement dans un domaine aussi complexe que la santé.

Qualité et diversité des données d’entraînement : Pour éviter les biais algorithmiques et garantir l’applicabilité à diverses populations, l’entraînement des IA doit se faire sur des bases de données médicales variées, issues de différents groupes de patients et contextes de soins.

Les experts soulignent que les modèles d’IA g’énérative sont capables de produire rapidement des quantités importantes de désinformation convaincante, ce qui a conduit à les qualifier d' »arme de désinformation de masse » en matière de santé. Cette réalité impose une vigilance collective et un encadrement strict.

L’intelligence artificielle en santé est à un tournant. Entre promesses technologiques et risques avérés, l’encadrement de ces outils devient une priorité de santé publique. Les recommandations de la HAS, de la CNIL et le cadre réglementaire européen constituent des avancées importantes, mais la vigilance de chacun – patients comme professionnels – reste la meilleure garantie d’une utilisation sécurisée. L’IA peut être un formidable outil d’aide à la décision, à condition de ne jamais oublier qu’en matière de santé, rien ne remplace l’expertise, l’expérience et l’humanité d’un professionnel de santé qualifié. 🏥