シドニー発。オーストラリア連邦保健省は、医師が患者の診察を記録・転写するために使用するAI書記官が「ほとんど監視されていない」状態で運用されていると警告し、プライバシー、患者の同意、そしてこれらのツールが規制されていない医療機器として違法に機能している可能性について緊急の疑問を提起した。
この警告は、ガーディアン・オーストラリアが入手した連邦政府の説明資料に記載されたもので、国内の一次医療部門でAI書記官の利用が急増している中で出された。オーストラリア王立一般開業医協会（RACGP）の調査によると、オーストラリアの一般開業医の約40％が現在この技術を利用しており、1年前のわずか22％から増加している。人気のあるツールには、Lyrebird、Heidi Health、Amplify+、i-scribe、Medilitなどがあり、急速に成長しているベンダー分野に属している。
この技術は提案として理解しやすい。周囲のAIが医師と患者の会話を聞き、臨床ノート、要約、紹介状を自動的に生成する。支持者らは、管理業務の負担を軽減し、医師が画面ではなく患者の目を見て診察できるようになり、毎週の時間外事務作業を削減できると主張している。
しかし、保健省の内部評価はより憂慮すべき状況を示している。2026年2月の上院予算聴聞会のために作成された説明資料は、多くのAI書記官製品が既存の規制枠組みの「範囲外」であり、監視を意図的に回避する方法で販売されている可能性があると警告している。一部のベンダーは自社のツールを「医療機器ではない」または「プライバシー準拠」と明示的に宣伝しているが、患者データが実際にどのようにシステムを流れるかについての透明性は限られている。
「一部の供給業者は、自社のクラウドプラットフォームがデータをオーストラリア国外に送信していることすら知らない可能性がある」とある文書は述べており、機密性の高い医療記録がプライバシー保護の弱い管轄区域のサーバーに保存されるリスクを提起している。
データ露出は仮定の話ではない。一部のAI書記官ベンダーのプライバシーポリシーでは、患者情報が従業員、第三者サプライヤー、関連会社、政府機関、法執行機関と共有され、海外に転送される可能性があることが開示されている。1回の患者診察で、音声認識エンジン、大規模言語モデルAPI、ストレージ層、分析プラットフォームを通じたデータ転送の連鎖が発生し、それぞれが潜在的な漏洩ポイントとなる。
治療用品管理局（TGA）はさらに根本的な懸念を指摘している。単なる転写ツールであると主張する多くのAI書記官が、実際には医療上の決定を行っているという。正式な声明でTGAは、医療専門家らがAI書記官は「臨床医が診察中に特定したとされる診断や治療を超えて、患者に対して診断や治療を頻繁に提案する」と報告していると述べた。オーストラリア法の下では、診断や治療を提案するツールは医療機器であり、TGAの事前承認が必要となる。ベンダーが承認なしにそのようなツールを供給している場合、治療用品法に違反している可能性がある。
患者の同意も大きな欠陥である。連邦政府の文書は、インフォームドコンセントには、音声が記録・保存されるかどうか、データがどこで処理されるか、下請け業者が関与しているかどうか、データがAIモデルの訓練に使用されるかどうかなど、患者が同意する内容を理解することが必要だと警告している。実際には、多くの患者はAI書記官が使用されることだけを告げられ、意味のある説明は行われていない。
消費者団体CHOICEは、ある親が同意プロセスを次のように説明したと報告している。「同意書に署名するよう求められても、その内容を知ることはほとんどありません。データがハッキングされても、あなたには何のコントロールもありません。」
AI専門家のコビ・ラインズ博士は、AIが使用されると告げられた後、子供の専門医の予約をキャンセルし、特定のモデルのプライバシーとセキュリティ機能について懸念を表明した。「これらのツールの多くは必要なく、根本的に、なぜこれほど強く推し進められているのかを問う必要がある」とラインズ氏は述べた。同氏は、英国が資金提供した研究で、GoogleのGemmaモデルが臨床ケースノートの要約において女性の身体的・精神的健康問題を男性と比較して軽視していることが判明したことを指摘し、医療記録に影響を与えるAIツールにジェンダーバイアスが組み込まれる可能性を浮き彫りにした。
RACGPは事務作業を減らす方法としてAI書記官を暫定的に受け入れているが、ツールは臨床医の監視なしに利益追求型のテクノロジー企業によって開発されていると警告している。「テクノロジー企業の株主への価値が患者の転帰より優先される可能性がある」とRACGPは声明で述べた。
オーストラリアで最も著名なAI書記官プロバイダーの1つであるHeidi HealthはCHOICEに対し、法律で義務付けられている場合を除き、患者を特定できる情報を外部と共有しておらず、患者データをAIの訓練に使用していないと述べた。同社は、国際的な情報セキュリティ基準であるISO 27001の認証を取得したオーストラリア唯一のAI書記官であると述べている。
しかし、個々のベンダーからの断片的な対応は、一貫した規制枠組みの代わりにはならない。現在、監視は複数の機関に分散している。TGAは製品が医療機器かどうかを判断する。オーストラリア健康従事者規制機関（Ahpra）は職業上の行為を扱う。オーストラリア情報コミッショナー事務局（OAIC）はプライバシーを執行する。患者体験全体を所管する単一の機関は存在せず、書記官が「医療機器ではない」としても安全でない可能性があり、「プライバシー準拠」でありながらインフォームドコンセントを確保できない可能性がある。
また、憂慮すべき金銭的インセンティブも存在する。一部のAI書記官ベンダーは、追加の時間や患者診察なしで30％の収益増加が達成できると医療専門家に直接宣伝している。保健省はこれがメディケア給付スケジュールのコスト増加の潜在的要因であると指摘し、この技術の価値提案を臨床医の burnout 軽減から請求最適化へとシフトさせている。
医療におけるAIの将来にとって、オーストラリアのAI書記官の経験は教訓的な話を提供している。この技術には真の有用性があり、臨床現場では他のどのAIアプリケーションよりも速く採用されている。しかし、その速度は、ソフトウェアがリアルタイムで患者データを聞き、要約し、診断し、学習する時代のために設計されていない規制システムを露呈させた。
今後の核心的な課題は、オーストラリアがAI導入のペースに合ったガバナンス枠組みを構築できるかどうかである。それがなければ、患者は不透明なデータフロー、検証されていない臨床出力、そして選択の幻想を与えながら保護の実質を欠いた同意プロセスのリスクを負うことになる。
雅子 訳