国内外の AI 活用事例と、導入・運用時に意識すべきポイント。金融機関向け AI Transformation with the Microsoft Cloud セミナーレポート。

2023 年 12 月 6 日 (水)、マイクロソフトは品川本社にて「金融機関向け AI Transformation with the Microsoft Cloud セミナー」を開催しました。本セミナーでは、AI を活用したトランスフォーメーションのために必要な情報、国内外の事例をご紹介。本稿では、当日行われた以下のプログラムの概要を紹介します。

開会のご挨拶 ～ 生成 AI 活用を支援するマイクロソフトの想い

セミナーの冒頭、マイクロソフト金子が挨拶を行い、2023 年を振り返りながら、本セミナーへ込めた想いを語ります。「( 2023 年は)お客様が生成 AI に触れて、ビジネスの中でどのように使っていくかの議論が繰り返された 1 年だったと思います。マイクロソフトも、製品を一変させるような機能を提供していく準備があります。AI を活用したトランスフォーメーションをマイクロソフトが支援させていただく想いをセミナー名に込めました」

Microsoft Ignite 2023 Keynote 解説

最初のセッションでは、マイクロソフトテクノロジーセンター センター長 吉田 雄哉が、2023 年 11 月に US で開催された Microsoft Ignite 2023 のキーノートの内容をわかりやすく解説しました。

はじめに、キーノートの冒頭で「Microsoft は Copilot の会社である」と述べたサティア・ナデラのメッセージや、副操縦士である Copilot の世界観について次のように紹介しました。

・Copilot は、世界中の知識と組織の知識にアクセスするのに役立つ新しい UI である
・常にアクティブに人間が動いているときに相談する相手
・デジタルのパーソナルアシスタントがユーザーの意図を汲んで、様々な情報を検索し、分析、整理する

Copilot の開発背景 –アプリケーション間で統一されたインターフェースを実現する「Copilot stack」が拡充

ユーザーが Word や Excel といった様々なアプリケーションを開いた際、Copilot の解釈が異ならないように統一させたのが「Copilot stack」です。

「フロントエンドは、ブラウザや Word、Excel などのアプリケーションで、ユーザーが  AI に触れるインターフェースにあたる部分です。ここは、みんなが普通に使えるようになってくると差別化の要因にはなりません。回答生成だけでなく、複雑なことができるようになる連鎖反応を仕切るレイヤーがオーケストレーションです。そして、最終的に重要になってくるのが、バックエンドの部分。業務ノウハウや社内のデータを活用すれば、スケールアウト、差別化ができます」

Copilot を活用する 3 つのアプローチ

次に、Copilot を活用するアプローチについて、次のように語りました。

「ひとつ目が、用意されたものを使うアプローチです。アプリケーションを改造して Copilot を導入します。Microsoft が提供するアプリケーションに Copilot が練りこまれてくるアプローチです。ふたつ目が、より複雑な入口としてみて、その先を創りこんでいくアプローチ。アプリケーションを開発して Copilot を導入します。簡易的に拡張するアプローチとしては、カスタマイズし市民開発としてユーザーがアプリケーションを作れる『Copilot Studio』がリリースされてきます」

さらに、Microsoft Copilot for Sales では、Salesforce などのサービスと連携ができます。

「Salesforce の案件情報との連携など、他のシステム間を結合してくれます。さらに、Teams の会議の内容を自動的に読み取り、情報をトランスクリプト化しサポート。お客様からの問い合わせに対しても、コンテキストを見た上でドラフトを書くこともできるため、ホスピタリティ高い顧客対応が実現します。SaaS を提供している企業が Copilot Ecosystem の名のもとに、こういった連携をたくさん作ることを表明してくれています」

まとめ～ 生成 AI を活用するために必要な行動

最後に、次のようにまとめ、セッションを締めくくりました。

「体質を作るために、まずは生成 AI に加えられているサービスを利用していくことが重要です。また、社内のあらゆる仕事の中で生成AIを使えるようにしていくことが効果的。さらに、外に向けて新しいサービスを作っていくためには、社内システムの改造やデータを見えるようにしておく活動も重要です。自分たちはどんな情報を持っていて、それをどこで使うとビジネス的なインパクトがあるのかにフォーカスして、検討をしていただくのが良いと思います」

世界の成功事例から学ぶ Generative AI 活用と展開

次のセッションでは、Microsoft Corporation Director, Financial Service Industry Advisor Amit Ranjan 氏が、世界での AI 活用の成功事例を紹介しました。

「JPモルガンでは、IndexGPT を活用して、市場情報を集約し、富裕層だけでなく中間層のお客様にも投資を容易にする環境を整えました。お客様一人ひとりのニーズと予算に合わせたカスタマイズされたサービスを提供しています。BAJAJ FINSERV では、モバイル端末を通じたローンの事前承認と積極的なオファーにより、コールセンターの負担を軽減しました。オランダのABN・AMRO銀行では、コールセンターで顧客の問い合わせ理由を特定し、エージェントが迅速かつ正確に対応することで、通話時間を短縮し、コストを削減しつつサービスの質を向上させ、顧客満足度を高めることに成功しました。金融業界はマイクロソフトの最先端テクノロジーを駆使して、顧客のニーズに応え、業務の効率化と従業員の満足度向上を実現しています。これにより、ビジネスの枠組みが変わり、顧客サービスが次のレベルへと進化しています」

お客様事例 『三菱UFJ銀行×生成 AI 金融サービスの革新と展望』

次のセッションでは、株式会社三菱UFJ銀行 デジタル戦略統括部 AI・データ推進Gr谷川 綾氏が、三菱UFJ銀行での活用の取り組みやユースケースについて、同社システム企画部DX推進Gr 中本 博久氏がシステム開発／リスク対応について紹介しました。

同行ではセキュアな環境で ChatGPT と同等のサービスを利用できるように、Azure Open AI Service を使い、2023 年 5 月末から社内での利用を開始。ユースケースの検証や、アイデアソンも開催したと言います。同年 11 月から国内の全社員約 3 万人向けのシステムをリリース。社内の業務への活用を本格化しています。

三菱UFJ銀行における AI 活用の取り組み

同行での活用の取り組みについて、谷川氏は次のように語ります。

「稟議作成アシスト、手続照会のふたつについて、初期検証の段階においては短期間の検証ながら多くの効果実感を得ることができました。金融レポートの要約サポートでは、検証段階で約 40 %の削減効果を実感。また、社内で出てきた 110 を超えるユースケースの深掘りを行い、更なる効果創出を図っていきたいと考えているところです」

AI 活用で見えてきた課題と対策

次に、谷川氏は AI を活用する中で見えてきた課題と、その対策について次のように語りました。

「ひとつ目が、『いきなり道具を渡されても使えない』という点。とある金融機関では、月間の ChatGPT のアクティブユーザー割合が 10％ 未満でした。対策として、弊行ではアイデアソンでのノウハウ蓄積、充実した利用ガイドラインの作成、『業態横断 PT』を立ち上げ、様々なノウハウの共有を蓄積し、個々の対策を打っています。ふたつ目が、『生成 AI ならではの新たなリスク』です。生成 AI の登場により、多くの企業にとって AI のリスク管理の重要性が増していると考えます。弊行では元々 AI 管理手続きを設けていたのですが、その中に生成 AI 対応のアップデートを実施しました。また、利用者に向けて全社員向けに e ラーニングを提供しています。最後が、『ドキュメントの加工負担』です。社内に様々なファイル形式、構造のドキュメントがある中で、RAG にドキュメントをそのまま読み込ませても上手く回答されないことがわかってきました。そこで、( 2023 年) 10 月末時点で約 5 万件のドキュメントを前処理した上で RAG に格納し、検証を行っている状況です」

AI 環境のシステム詳細とリスク対策

続いて中本氏が、生成 AI のシステム開発とリスク対応について、同行の取り組みを紹介しました。

「2020 年頃から、当行では Azure(IaaS) を利用した MUFG グループで利用可能な共同基盤を構築しています。今回はこの共同基盤の上で ChatGPT のシステムを作りました。この共同基盤システムの構成はハブスポーク構成を採用しており、ハブに監視などの共通機能を集約し、ゲストシステム単位でスポークを作る構成にしています。ゲスト単位のスポークには各業態のデータセンターから専用線を通してハブ経由で繋ぎ、ゲストシステム間は直接通信しないようなセキュアな構成にしています。また、グループ会社ごとにテナントを分けることで銀証ファイアウォール規制といったコンプライアンスリスクにも対応できる構成にしています。
今回の ChatGPT システムの開発手法についてはアジャイルとウォーターフォールを組み合わせています。ユースケース検証用の PoC 環境についてはアジャイルを採用し、システム企画部で内製開発を行いました。また、全社員向けの本番環境の開発時にはウォーターフォールを採用し、開発会社 (MUIT) に開発を委託しました。この対応によりスピードと品質の両方を実現しました。」

今後の展望

最後に、中本氏は今後の展望について語りました。

「社員が ChatGPT を利用したチャットやファイル検索を行えるようになりましたが、今後は Copilot for M365 導入等、手元のファイルへの対応も行いたいと考えています。また、開発を行う社員の支援として GitHub Copilot の導入も検討していきます。一方で社員からの ChatGPT の直接利用以外の観点では、業務システムからの ChatGPT 利用の為の API の仕組みの導入や社内のデータを蓄積しているシステムとの自動連携を予定しています。」

生成 AI モデル選択と導入アプローチ ～RAG と Finetune の使い分け～

次のセッションでは、マイクロソフト業務執行役員 クラウド＆ AI ソリューションズ事業本部 データプラットフォーム統括本部 統括本部長  大谷 健が、生成 AI を運用する上で大切なステップについて紹介しました。

「この 1 年、AI を活用する中でお客様から、正しく聞いているのに正しく答えてくれない状況(ハルシネーション)もあったと聞いています。嘘をついているというのは、『データがない』だけなのです。そのため、まず手をつけるべきは社内のナレッジベース( Your Data )。データにも構造化(数字的なデータ)と非構造化(テキスト)の 2 種類がありますが、それらにオペレーショナルとトランザクション・データを掛け算することで、多様性のある膨大なデータになり、それを利活用することができます」

これらのデータは家で例えるなら 1 階部分。その上で、「Your Prompts」「Your App」の順で考えていくことが重要だと続けます。

「この質問だったら正しく答えてくれるというプロンプトを使いながら見つけること、つまり、問いかけ上手になることが大切です。ここまでで、ある程度良い答えを回答してくれるようにはなります。ただ、生産性は上がるけれども、イノベーションとまではいきません。そこで重要になるのが、『Your App』の部分。UI・UX が生成 AI に合った形でアプリケーションを作るべきですし、アプリケーションを制作してこそのイノベーションです。ただ単に単独で存在しているのではなく、皆様が普段使っている業務アプリケーションの中に入り込んでいくことが大切です」

AI 環境を整えるためのマイクロソフトの支援

次に、大谷はそうした環境を実現するためのマイクロソフトの支援について語ります。

「AI 管理コンソール Azure AI Studio には、イノベーションを生み出すためのデータなどが詰め込まれています。早くイノベーションを起こしたい場合には、活用してショートカットしていただければと思います。他にも、生成 AI と一緒にコーディングができる『GitHub Copilot』、プロの開発者だけでなく市民開発者がアプリケーションを作れる『Power Platform』も用意しています。また、データを安全に保存するデータベースなど、マイクロソフトでは様々なサービスを提供しています。ORACLE、Snowflake、Databricks に入っているデータとも連携可能です」

LLM (大規模言語モデル)を最適化していく方法

OpenAI 社の提供する ChatGPT だけではなく、AI には様々な選択肢があります。それらを目的別に使い分けていくことが重要だと大谷は語ります。

「マイクロソフトは『選択肢を提供する』ことを心がけており、それぞれの領域に強い LLM も選択肢として提供できるスタンスを取っています。性能とコストのバランスを見ながら、タスクや使用目的に応じてモデルを使い分けることが重要です。また、生成 AI を使ったユースケースの 90 ％は、RAG とプロンプトエンジニアリングでカバーできます。残りの 10 %は、90 %をやり切った後に、ファインチューニングすることを推奨します。ファインチューニングから始めてしまうと、今までできたことができなくなる例もあります。まず LLM を選んでいただき、それを RAG やプロンプトエンジニアリングで良くしていただいて、実際にアプリケーションを導入する。その PDCA を回していく『LLM ライフサイクル』を実現してほしいと思っています」

マイクロソフトにおける責任ある AI と Customer Copyright Commitment

最後のセッションでは、マイクロソフト政策渉外・法務本部　中島 麻里が、ガバナンス面におけるマイクロソフトの取り組みを紹介。はじめに、AI 事業者としての取り組みについて、中島は次のように語りました。

「現在は、AI を利用するフェーズと、実際に AI に対してどのような法規制を設けるべきかという議論が同時並行して進んでいる段階です。マイクロソフトは、生成 AI のガバナンスに関する国際指針、行動規範といった部分に、生成 AI の事業者として、積極的に関与・支援をしています。製品にはコンテンツフィルタリングを設けるなど技術面による保護に加えて、実際に生成 AI サービスを使っていただく際の契約条件も改良しています」(中島)

責任ある AI のガバナンスフレームワーク

次に、中島は責任ある AI のガバナンスフレームワークにおける 6 つの原則について語ります。

「公平性、信頼性と安全性、プライバシーとセキュリティ、包摂性が大切な価値観です。これら 4 つの価値観を支えるものとして『透明性』と『説明責任』が必要と考えています。」
続けて、中島はマイクロソフトが提供する、透明性に関するツール「Transparency Documents」について語ります。

「Transparency Documents」とは、MS の生成 AI サービスについて、どういったユースケースが向いているのか、使用する上で何を考慮する必要があるのかを文書化しウェブサイトで発表しているものです。皆様が AI のシステムを作る際、役立てていただきたいのが『Impact Assessment Template』です。AI システムが人や組織、社会に与える影響を分析するためのアセスメントテンプレートとしてご活用いただければ幸いです」

Customer Copyright Commitment

セッションの後半では、生成 AI をより安心して使用してもらうために 2023 年 9 月にマイクロソフトが発表した「Customer Copyright Commitment」の内容について語りました。

「Microsoft の生成 AI サービスの利用に関して、お客様が第三者から著作権や特許権等の知的財産権の侵害を主張された場合には Microsoft が防御いたします。2023 年 11 月の IGNITE で Azure OpenAI Service も対象とすることを発表しました。Microsoft は、生成 AI の事業者として、製品の利用者であるお客様を支援することは重要と考えています。クリエイターからは『自分たちの著作権が侵害されるのではないか』、お客様からは『意図せず権利侵害というリスクを負うのではないか』という懸念を聞くことがあります。それらの懸念に対し、生成 AI の事業者として Microsoft が何らかの対応をするのが適切と考え、Customer Copyright Commitment を発表しました。また、この Commitment の適用にあたっては、MS サービスに組み込まれている権利侵害を軽減するためのセーフティーガードを利用いただくことを条件としています。」