SYDNEY. Le ministère fédéral de la Santé australien a averti que les scribes IA utilisés par les médecins pour enregistrer et transcrire les consultations avec les patients fonctionnent avec « peu de surveillance », soulevant des questions urgentes sur la vie privée, le consentement des patients et la possibilité que ces outils fonctionnent illégalement comme des dispositifs médicaux non réglementés.
Cet avertissement, contenu dans des documents d’information fédéraux obtenus par Guardian Australia, intervient alors que l’utilisation des scribes IA a explosé dans le secteur des soins primaires du pays. On estime que 40 % des médecins généralistes australiens utilisent désormais cette technologie, selon un sondage du Royal Australian College of General Practitioners (RACGP), contre seulement 22 % un an plus tôt. Parmi les outils populaires figurent Lyrebird, Heidi Health, Amplify+, i-scribe et Medilit, parmi un domaine de fournisseurs en pleine expansion.
La technologie est facile à comprendre comme une proposition commerciale. Une IA ambiante écoute la conversation entre un médecin et son patient, puis génère automatiquement des notes cliniques, des résumés et des lettres d’orientation. Ses partisans affirment qu’elle réduit l’épuisement administratif, permet aux médecins de regarder leurs patients dans les yeux plutôt que sur un écran et récupère des heures de paperasse après le travail chaque semaine.
Mais les évaluations internes du ministère de la Santé dressent un tableau plus inquiétant. Les documents d’information, préparés pour les auditions budgétaires du Sénat en février 2026, préviennent que de nombreux produits de scribes IA « sortent du cadre » des cadres réglementaires existants et sont commercialisés de manière à contourner délibérément la surveillance. Certains fournisseurs font explicitement la publicité de leurs outils comme « non médical » ou « conforme à la vie privée », souvent avec une transparence limitée sur la façon dont les données des patients circulent réellement dans leurs systèmes.
« La crainte est que certains fournisseurs ne sachent même pas que leurs plateformes cloud envoient des données en dehors de l’Australie », indique un document, soulevant le risque que des dossiers médicaux sensibles aboutissent sur des serveurs situés dans des juridictions offrant une protection plus faible de la vie privée.
L’exposition des données n’est pas hypothétique. Les politiques de confidentialité de certains fournisseurs de scribes IA divulguent que les informations des patients peuvent être partagées avec des employés, des fournisseurs tiers, des sociétés affiliées, des agences gouvernementales, des forces de l’ordre et transférées à l’étranger. Une seule consultation de patient génère une chaîne de transferts de données via des moteurs de reconnaissance vocale, des API de grands modèles de langage, des couches de stockage et des plateformes d’analyse, chacun représentant un point de fuite potentiel.
L’Administration des produits thérapeutiques (TGA) a signalé une préoccupation encore plus fondamentale : de nombreux scribes IA qui prétendent être de simples outils de transcription prennent en réalité des décisions médicales. Dans une déclaration officielle, la TGA a indiqué que des professionnels de santé signalent que les scribes IA « proposent fréquemment des diagnostics ou des traitements aux patients au-delà du diagnostic ou du traitement déclaré qu’un clinicien avait identifié lors des consultations ». En vertu de la loi australienne, un outil qui propose des diagnostics ou des traitements est un dispositif médical nécessitant une approbation préalable à la commercialisation de la TGA. Si les fournisseurs ont fourni de tels outils sans approbation, ils pourraient enfreindre la loi sur les produits thérapeutiques.
Le consentement des patients est une autre lacune béante. Les documents fédéraux préviennent que le consentement éclairé exige que les patients comprennent ce à quoi ils consentent, notamment si l’audio est enregistré et conservé, où les données sont traitées, si des sous-traitants sont impliqués et si les données sont utilisées pour entraîner les modèles d’IA. Dans la pratique, on dit simplement à de nombreux patients qu’un scribe IA sera utilisé, sans explication significative.
Le groupe de consommateurs CHOICE rapporte qu’un parent a décrit le processus de consentement ainsi : « Vous avez peu de chances de savoir quand on vous demande de signer un consentement. Vous n’avez aucun contrôle si vos données sont piratées. »
L’experte en IA, le Dr Kobi Leins, a annulé un rendez-vous chez un spécialiste pour son enfant après avoir été informée que l’IA serait utilisée, citant des préoccupations concernant les caractéristiques de confidentialité et de sécurité du modèle spécifique. « Il n’y a pas besoin de beaucoup de ces outils, et fondamentalement, nous devons nous demander pourquoi ils sont poussés si fort », a déclaré Leins. Elle a souligné une étude financée par le Royaume-Uni qui a révélé que le modèle Gemma de Google minimisait les problèmes de santé physique et mentale des femmes par rapport à ceux des hommes dans les résumés de cas cliniques, mettant en évidence la manière dont les biais de genre peuvent être intégrés dans les outils d’IA qui influencent les dossiers médicaux.
Le RACGP a adopté avec prudence les scribes IA comme moyen de réduire la paperasse, mais prévient que les outils sont développés par des entreprises technologiques à but lucratif sans surveillance des cliniciens. « La valeur pour les actionnaires des entreprises technologiques pourrait être priorisée par rapport aux résultats pour les patients », a écrit le RACGP dans une déclaration de position.
Heidi Health, l’un des fournisseurs de scribes IA les plus importants d’Australie, a déclaré à CHOICE qu’il ne partage pas les informations identifiables des patients avec des parties externes, sauf si la loi l’exige, et qu’il n’utilise pas les données des patients pour entraîner son IA. La société a déclaré être le seul scribe IA en Australie certifié ISO 27001, une norme internationale de sécurité de l’information.
Mais la mosaïque de réponses des fournisseurs individuels ne remplace pas un cadre réglementaire cohérent. Actuellement, la surveillance est répartie entre plusieurs agences. La TGA décide si un produit est un dispositif médical. L’Australian Health Practitioner Regulation Agency (Ahpra) traite la conduite professionnelle. Le Bureau du Commissaire australien à l’information (OAIC) applique les règles de confidentialité. Aucun organisme unique ne possède l’ensemble de l’expérience du patient, ce qui signifie qu’un scribe pourrait passer pour « non médical » tout en étant dangereux, ou « conforme à la vie privée » tout en ne garantissant pas un consentement éclairé.
Il existe également des incitations financières inquiétantes. Certains fournisseurs de scribes IA font directement de la publicité auprès des professionnels de santé, affirmant qu’ils peuvent obtenir une augmentation de 30 % de leurs revenus sans heures supplémentaires ni consultations de patients. Le ministère de la Santé a signalé cela comme un moteur potentiel de l’augmentation des coûts du régime Medicare, faisant passer la proposition de valeur de la technologie de la réduction de l’épuisement professionnel des cliniciens à l’optimisation de la facturation.
Pour l’avenir de l’IA dans les soins de santé, l’expérience australienne avec les scribes IA offre une mise en garde. La technologie a une utilité réelle et a été adoptée plus rapidement que presque toute autre application d’IA en milieu clinique. Mais cette rapidité a exposé un système réglementaire conçu pour une époque où les logiciels n’écoutaient pas, ne résumaient pas, ne diagnostiquaient pas et n’apprenaient pas à partir des données des patients en temps réel.
Le défi fondamental à l’avenir sera de savoir si l’Australie peut construire un cadre de gouvernance qui corresponde au rythme du déploiement de l’IA. Sans cela, les patients restent exposés au risque de flux de données opaques, de résultats cliniques non vérifiés et d’un processus de consentement qui offre l’illusion du choix sans la substance de la protection.
Traduit par Lydie