オンタリオ州の監査で判明、AI医療書記ツールが虚偽情報を生成

オンタリオ州の監査により、医師が使用するAIメモ作成ツールが、不正確、不完全、あるいは捏造された情報を頻繁に生成していることが判明した ^[1]。

この結果は、患者の安全性と臨床記録の信頼性に懸念を抱かせるものである。AIが生成した「ハルシネーション（幻覚）」が患者の恒久的な医療ファイルに混入した場合、誤診や不適切な治療につながる可能性がある。

シェリー・スペンス会計監査員は、オンタリオ州の医師が使用することを目的としたAIメモ作成ツールが、不正確または不完全な情報を提供し、あるいは「ハルシネーション」を示しており、十分な評価がなされていなかったと述べた ^[3]。報告書によると、承認された20のベンダーによるすべてのAI書記システムにおいて、調達テスト段階で1つ以上の不正確な点が認められた ^[2]。

監査の結果、これらの文字起こしツールは調達プロセスにおいて適切に評価されていなかったと結論付けられた ^[1]。このような監視の欠如により、既知のエラーを持つツールが臨床現場に導入される結果となった ^[4]。

監査による警告にもかかわらず、一部の医療専門家はこの技術を概ね肯定的であると見ている。オンタリオ州の医師らは、AI書記は有用であり、時間の節約になると述べている ^[1]。これにより、臨床医が称賛する業務効率と、会計監査員が求めるデータの整合性要件との間に緊張関係が生じている。

一部の医師は、監査の結論に反論している。彼らは、会計監査員がこれらのツールを実際の現場でどのように使用しているかという評価において、極めて重要な品質管理ステップを見落としていると主張した ^[1]。

報告書は土曜日の午前11時に発表された ^[3]。これは、州政府が新興技術を臨床現場に導入する前の審査プロセスに、システム上の不備があることを浮き彫りにしている。