JaDHA、ヘルスケア領域のAIセーフティ評価ガイドを策定 生成AIの安全な社会実装を支援
掲載日：
日本デジタルヘルス・アライアンス（JaDHA）は4月3日、AIセーフティ・インスティテュート（AISI）と連携し、ヘルスケア領域でのAI（人工知能）活用ガイド「ヘルスケア領域におけるAIセーフティ評価観点ガイド」を策定したと発表した。
ガイドは、AISIが策定したAIセーフティ評価観点を参考に、医療・ヘルスケア分野の機微性やリスクを反映した内容にまとめた。「プロダクト設計」「モデル選定」「プロダクト実装」「プロダクト検証」「プロダクト導入・運用」の5つのフェーズで、何を評価すべきかを整理した。
評価観点は10項目で、有害情報の出力制御、偽・誤情報の出力や誘導の防止、公平性と包摂性、ハイリスク利用や目的外利用への対処、プライバシー保護、セキュリティー確保、説明可能性、ロバスト性、データ品質、検証可能性を記載した。専門人材が限られる企業でも活用しやすいように想定リスクも併記した。
背景には生成AIが医師の業務効率化や患者コミュニケーション支援などで活用が広がる一方、ハルシネーション（幻覚）による健康被害、要配慮個人情報の取り扱い、サイバーセキュリティー対策など、ヘルスケア領域特有の課題があるという。そこで、ガイドを通じて、事業者が開発・設計段階から安全性を担保し、ビジネスと安全性を両立できる環境の整備を目指すとしている。
AISIを設置する情報処理推進機構（IPA、東京・文京区）は、ガイド本文に加え、概要版や一部章のマークダウン形式ファイルも公開した。今後は、プロンプト（指示文）やAIエージェントなどの具体例を盛り込んだ実践ガイドも公開する予定としている。
