ヘルスケア業界 Data & AI 対談 〜今まさに顕現化しつつある AI 活用の課題と可能性〜
2022 年度の診療報酬改定で「人工知能技術（AI）を用いた画像診断補助に対する加算（単純・コンピュータ断層撮影）」が保険適用され、厚生労働省の「保健医療分野 AI 開発加速コンソーシアム」で AI 開発促進のための工程表が策定されるなど、ヘルスケア業界では AI 技術の活用拡大への期待が膨らんでいます。
ただし、消化器系内視鏡分野や MRI の補助診断装置などですでに AI が活用されている一方で、データの主体や正確性の担保をどのように考えるのかといった課題も指摘されています。
これからのヘルスケア業界において AI とデータはどのような役割を期待され、どのように活用されるべきなのでしょうか。日本マイクロソフト株式会社 Chief Security Officer 河野 省二が、ヘルスケア業界におけるデジタル変革のキーパーソンをお招きして「Data & AI」をテーマに実施した対談の模様を、全 2 回にわたってお届けします。本稿では、国という視点から葛西 重雄 氏にお話を伺いました。
対談者
葛西 重雄 氏（株式会社トリエス Representative Director）
河野 省二 (日本マイクロソフト株式会社 Chief Security Officer)
データは誰のものか、議論を進めなければサイロの壁は越えられない
河野 葛西さんは厚生労働省のプロジェクトにおける多数のコンサルタント実績をお持ちで、政府の医療 DX にも幅広く関わられています。まずは現在取り組まれている活動についてお聞かせください。
葛西 職務としては厚生労働省のデータヘルス改革推進本部の参与をしています。いわばアドバイザーですね。健康、医療、介護の三本柱の各分野でデータの分析やシステム設計、セキュリティ対策のアドバイス、専門的な領域で言うと、ゲノム情報を使った創薬分野におけるデータ流通のためのインフラストラクチャー設計に携わっています。
また株式会社トリエスでは、システムデザインのコンサルタントとして、企業や病院の DX の取り組みを支援しています。
河野 非常に多岐にわたった業務に取り組まれているのですね。ぜひ、今回の対談のテーマ「Data & AI」について大局的なお話をお聞きできればと思っています。
私たちマイクロソフトでは、 GPT-4 は医療システムにおける効率性、共感性、生物医学的研究を向上させる可能性があり、診療の現場でも大いに役立つ技術であると考えている一方で、誤答やコンプライアンスといったリスクも抱えていると認識しつつ、リスクを上回る価値を提供することを目指しています。
まずは医療領域における AI 活用において、葛西さんが感じている課題についてお聞かせいただけますでしょうか？
葛西 一番大きな課題として感じているのは「サイロ化」ですね。我が国においては、保険は保険関係の法律、医療は医療関係の法律に基づいて情報管理がなされています。当然、それぞれのコミュニティで部分最適された形でデータが保有されることになります。
このサイロを無くしてすべてのデータを流通させるためには全体を俯瞰して見る必要があるのですが、現在の我が国では医療業界全体を俯瞰した基本法が存在していないため、データの主権者、すなわちデータは誰のものかという規定がなく、宙に浮いている状態といえます。
今の状態のままでは、データの不平等が生じることになります。データ保有の哲学について、国民・患者を含めた議論もされていないうちに、電子カルテの情報は管理している医師のもの、医薬品の情報は薬局やサプライチェーンに関わる企業のものという通念が横行してしまい、患者は自らの状態を随時知ることができない。しかもそれぞれが個別のやり方で保有しているので繋ぎようがない。
EUでは、近代化時代にすでにある「自然人（生まれながらに権利能力を認められる個人）」という概念が定着しているので、データの主権は自然人であり、誰もが見る権利を持つという前提で法整備が進められています。我が国においても、まずはこういった問題について議論して、いかにデータを均質化、標準化して流通させる道筋を通せるかが大きな課題だと感じています。
ベンダーには全体を俯瞰で見て啓蒙する存在になってほしい
河野 おっしゃる通り、データガバナンスを考えたときにデータオーナーの概念は必須だと思います。今後制度を整えていく必要がある一方で、私たち IT ベンダーが医療業界のデータガバナンス実現に向けて役に立てることはあるでしょうか？
葛西 今は政府が全てを握って交通整理しようとしていて、結果として民間側は政府に入り込もうとするかそっぽを向くかどちらかになってしまっています。私は、それはよくない状態だと思います。
そこでポイントとなるのは COE（センターオブエクセレンス）だと思っていて、まず政府側に、中立的かつ分野横断的に考えられる立場で、クラウド時代の運用モデルを適用できる人材が必要です。その人材が COE として権限委譲できるところとそうでないところを捌いていく。そして権限委譲された部分を、官民で連携しながら構築していく。私はこれがあるべきモダンな開発手法だと思っていますので、民間のベンダーさんにもこの構図を理解していただけるとありがたいですね。
それからもうひとつ、AI 活用の話にもつながる部分でもあるのですが、データの偽悪性、つまり仮想化されたデータの向こうは嘘の世界かもしれないという話が最近はよくなされていて、仮想世界でなにか間違いが起きるとものすごく悪いことのように扱われてしまいがちです。
ですが、仮想世界であろうが現実世界であろうが、人が関わる以上間違いは起こり得るわけです。たとえば病院で診療を受ける際に紙に書かされた同意書の情報の行方は誰もあまり気にしていません。実はデジタルの方が丁寧にデータをコントロールされている場合もあるわけです。
ベンダーさんや開発者の皆さんには、この偽悪性と偽善性を冷静に捉えて、啓蒙していく存在であってほしいと思っています。
河野 私たちがもっと全体を俯瞰して啓蒙していかなければいけないですね。サイロの中にいる人たちに全体像を示すためには、どのような考え方が必要でしょうか？
葛西 まず、システムというのは体細胞と同じように四六時中変化するものだという理解を広めることだと思います。
往々にしてシステムはスタティックなものとして誤解されてしまう場合が多く、管理者は変化を嫌う傾向にあります。ですが、IT の世界では朝は最新だったものが夕方には古くなるということは日常茶飯事です。
ですから私は、自分のシステムデザインが評価されたらそれはレガシー化の黎明だと判断して、新しいデザインを考えるようにしています。全体を俯瞰して把握しようとしていればその考え方に至るのは当然のことで、サイロの中しか見ていない人は一度評価されたシステムデザインに固執してしまう。それは一番よくない考え方だと思います。
ひとつのサイロでうまくいったから、もしくはそのときはうまくいったからすべてのシステムに展開できるはず、という考え方ではサイロを超えることはできないでしょうね。
客観的情報の境界線を超えたところに AI の大きな可能性がある
河野 前提条件や諸元が異なればシステムデザインも変わるという原則がわかっていれば変化にも対応できるのでしょうけれど、意識を変えるのはなかなか難しいのかもしれませんね。では続いて、葛西さんが感じていらっしゃる AI の可能性についてお聞かせいただけますか？
葛西 昨今は ChatGPT が大きな話題になっていますが、今のところは、皆さん ChatGPT の回答はあくまで客観的情報として捉えていますよね。嘘をついているかもしれないと疑いながらその回答を参考にしている。私が興味深く捉えているのは、ChatGPTなどの生成AI がコードを書きつつあるという点です。
例えば ChatGPT からある論文の内容についての回答が得られても、一度は疑いますよね。でも自分が書けないコードが示されて、それを入力すれば動作してしまうわけですから、信用してしまう。
その延長で、AI で薬剤情報の正規化を行った結果、情報が膨大すぎるので、きちんと正規化されたかどうかは人間側にはわからないという状況になってきています。AIからの回答を客観的に捉えられなくなっているという点で、私たちは今、ひとつの境界線に立たされていると思っています。
そしてこの境界線を超えたところには、もしかしたら医療の大きな変革が待っているかもしれません。例えば、医療の世界には「なぜかあの先生が施術すると成功してしまう」という方がいる。職人技というか、アーティスティックな部分が存在しているのだと思います。でも、私たちが認知し得ない境界を AI が乗り越えたときには、その先生の技術を誰もが再現できるようになるかもしれない。
そう考えると、ChatGPT の回答が合っているとか間違っているとか、もはやそういった次元の話ではなくなってくるのかもしれません。
もうひとつ大きな可能性を感じるのは、AI が「アウェイな存在」になり得る点です。医療の世界はプロフェッショナルの集まりなので、学会などで意見がぶつかるシーンは多く見られます。ですから、なにかを決めようとするときには中庸な結論に落ち着く傾向があります。
その決め方を否定するわけではないのですが、人間はパーフェクトな存在ではなく、感情も持っているという点が問題になってきます。お互いが気を遣って妥協した結果、本当に重要なことを見落としてしまうケースも起こり得るわけです。
そこで、どの分野にも属さず感情も持たない、アウェイな存在としての AI の存在が重要になってきます。参考意見として AI を使うことで、三脚的なコミュニケーションが成立する。AI は感情を持ちませんから、もし中庸を外れた意見が出てくれば、それを考慮しない理由がありません。そこで新たな気づきを得られるかもしれませんし、人間同士だと抜け漏れてしまうリスクに気づける機会にもなると思います。
AI は全能ではない。冷静さを持って仮想世界の情報を見ることが大事
河野 一方で、AI を利用するうえではどんなことに気をつけるべきでしょうか？
葛西 日本という国は、仮想空間という概念に親和性が高い国で、新しいテクノロジーをどんどん取り入れる気風がありますよね。それはよい部分でもあると思いますが、紙一重の危うさも持ち合わせていて、トラディショナルなプロトコールが導き出した結論よりも新しいテクノロジーの結論を信じてしまう傾向がある。
でも実際は、ChatGPT が答えているのではなくて、その裏側には誰かが書いたコンテンツがあるわけで、その情報が間違っているかもしれない。薄皮一枚バーチャルを通したらすべてを信じてしまうという状態は、特に医療業界では命に関わる危険性があります。
AIは 全能ではありませんし、人間に置き換えられるものでもありません。そこを理解したうえで、冷静さを持って仮想世界の情報を見る必要があると思います。その反対も然りで、仮想の世界で悪意が示されても、人間は、冷静に判断する力が求められます。
河野 私たちマイクロソフトでも AI サービスには「Copilot」という表現を使っていて、あくまで主体は人間であり、AI は副操縦士であるという視点からサービスを提供していますので、葛西さんのご意見はよく理解できます。それでは最後に、私たちマイクロソフトに対するご期待をお聞かせください。
葛西 マイクロソフトさんには、デジタルの社会実装を本気で目指す企業になっていただきたいと思っています。
我が国にはバックエンド系、インフラストラクチャー系のベンダーが多い傾向があります。フロントエンド系、サービス開発系は圧倒的に少ないんですね。つまりフロントエンドエンジニアが圧倒的に少ない。DevOps でいう Ops（運用）ばかりという状態です。ですから、最初に述べたモダン開発の能力が弱くなってしまうわけです。日本の企業にはもう少し Dev（開発）に意識を持っていってほしいと思っています。
特にマイクロソフトはもともと開発エンジニア会社ですから、GitHub に代表されるような開発コミュニティをもっと活性化していただきたいという期待があります。
河野 貴重なご意見ありがとうございます。今回の対談で、今まさに進行している事象の背景にある問題がとてもよく理解できました。私たちマイクロソフトとしても、課題をしっかり認識してよりよいご提案につなげていきたいと思います。
本記事の内容は以下のURLからダウンロードできます。
https://aka.ms/Healthcare_AI_in_Japan
