技術ブログ

Sarah Bird Principal Group Product Manager, Azure AI

Cognitive Services チームの主な優先事項の 1 つは、顔認識を含む AI テクノロジの責任ある開発と使用を徹底することです。マイクロソフトは AI 分野の取り組みの指針となる 6 つの基本原則を幅広く取り入れていますが、顔認識テクノロジがもたらす固有のリスクと可能性に関して一連の指針となる原則を独自に定める必要性について早い段階から認識していました。

これらの原則へのコミットメントを強化し、未来に向けてより確固たる基盤を築くため、このたび、AI 製品の開発と展開の指針となる社内プレイブックである「責任ある AI の基準」の重要な更新を行いました。また、製品をこの新しい基準に合わせる取り組みの一環として、顔認識へのアプローチを更新しました。これには、新しい制限付きアクセス ポリシーの導入や、機密属性の AI 分類子の廃止、公平性と透明性への投資の強化が含まれます。

責任ある使用のためのセーフガード

マイクロソフトは、引き続き顔認識テクノロジの責任ある展開に関する一貫性のある明確なガイダンスを提供し、それを規制する法律を支持していきますが、まだ他にもやるべきことはあります。

本日より、新規のお客様が Azure Face API、Computer Vision、および Video Indexer での顔認識操作の利用を希望される場合は、アクセス権の申請が必要になります。また、既存のお客様が所定のユース ケースに基づいて顔認識サービスへのアクセスを引き続き希望される場合は、1 年以内に承認を申請し取得してください。制限付きアクセスを導入することで、顔認識の使用と展開に新たなセキュリティ レイヤーを加え、これらのサービスの利用がマイクロソフトの「責任ある AI の基準」に沿うようにし、エンドユーザーと社会に大きなメリットをもたらすようにすることが狙いです。これには、これらのサービスへのアクセス権を得るためのユース ケースとお客様の適格性要件の導入が含まれます。ユース ケースの例と避けるべきユース ケースについては、こちらをご覧ください。2023 年 6 月 30 日以降、顔認識サービスの利用申請が承認されていない既存のお客様は、顔認識機能にアクセスできなくなります。Face API、Computer Vision、および Azure Video Indexer での顔および著名人認識操作の利用申請フォームをこちらから送信してください。追って、マイクロソフトのチームが電子メールでご連絡いたします。

顔検出機能 (ぼかし、露出、眼鏡、頭部姿勢、ランドマーク、ノイズ、オクルージョン、顔の境界ボックスなど) は引き続き一般提供を行いますので、申請は不要です。

他の変更点として、性別、年齢、笑顔、顔ひげ、髪、メイクなど、感情状態や ID 属性の推測に使用できる顔分析機能が廃止されます。マイクロソフトは、内外の研究者と連携して、このテクノロジの制限事項と潜在的メリットについて理解し、トレードオフについて検討しました。特に感情の分類については、このような取り組みによって、プライバシーや、”感情” の定義に対する合意不足のほか、さまざまなユース ケース、地域、人口統計における表情と感情状態の関連性を一般化することができないといった重要な問題が浮上しました。また、機密属性を予測する各機能への API アクセスも、それらの機能がさまざまな形で誤用されるリスクをもたらします (人々がステレオタイプ化や差別、不当なサービスの拒否にさらされるなど)。

このようなリスクを軽減するため、感情状態、性別、年齢、笑顔、顔ひげ、髪、メイクの推測に使用できる Face API では、汎用システムのサポートを取りやめることにしました。新規のお客様は、2022 年 6 月 21 日以降、これらの属性の検出機能を利用できなくなります。既存のお客様は、廃止前の 2023 年 6 月 30 日までに、これらの属性の使用を中止してください。

汎用目的のお客様はこれらの属性への API アクセスを利用できなくなりますが、一連の制御されたアクセシビリティのシナリオで使用される場合にはこれらの機能が役立つ可能性があることも認識しています。マイクロソフトは、障碍を持つ人々に役立つテクノロジのサポートに引き続き取り組んでおり、今後もこの目標達成に向けてこれらの機能を Seeing AI などのアプリケーションに組み込むことで活用する予定です。

責任ある開発: インクルーシブ AI に向けたパフォーマンスの向上

「責任ある AI の基準」にまとめられているマイクロソフトの公平性に関する AI の原則とそれを支える目標や要件に沿って、マイクロソフトは公平性と透明性への投資を強化しています。責任あるデータ収集を行うことで、人口層間のテクノロジのパフォーマンスにおける格差を明らかにして軽減すると共に、この情報をお客様にとって洞察に富む実用的な形で示すための方法を評価しています。

顔認識テクノロジがもたらす可能性のある社会技術的なリスクを踏まえ、マイクロソフトは、社内だけでなく社外にも目を向けながら、統計学の専門家や、AI/機械学習の公平性におけるエキスパート、人とコンピューターの対話におけるエキスパートが持つ専門知識をこの活動に取り入れています。また、人類学者にも相談して、人間の顔の形態学に対する理解を深め、マイクロソフトのデータ収集をお客様がアプリケーションで直面する多様性を反映したものにできるよう支援を求めてきました。

この取り組みを進める一方で、前述のセーフガード以外にも、お客様が責任を持ってこのテクノロジを展開できるようにするためのガイダンスとツールを提供しています。マイクロソフトが提供する新しいツールやリソースによって、お客様は、独自のデータに対するモデルのパフォーマンスを評価したり、このテクノロジを使って独自の展開における制限事項について理解したりすることができます。また、Azure Cognitive Services のお客様は、オープンソースの Fairlearn パッケージとマイクロソフトの公平性ダッシュボードを利用して、独自のデータに対するマイクロソフトの顔検証アルゴリズムの公平性を測定できるようになるため、テクノロジを展開する前に各人口層に影響を及ぼし得る潜在的な公平性の問題を特定して対処することが可能になります。独自のデータで公平性評価を実施する方法についてご不明点がある場合は、ぜひマイクロソフトまでお問い合わせください。

他にも、透明性に関するドキュメントを更新し、誤認やその他のミスが発生した場合にそれらを検出して解決するための重要な、人によるレビューを取り入れ、結果が間違っていると考える人々にサポートを提供し、運用条件のばらつきによる精度の変動を特定して対処することで、お客様がシステムの精度と公平性を向上できるようにするためのガイダンスを加えました。

Face サービスを利用されているお客様に対応する中で、もともと公平性の問題に起因していたいくつかのエラーの原因が低い画像品質にあったことに気が付きました。誰かが送信した画像が暗すぎたりぼやけていたりした場合、モデルがマッチングを正確に実行できない場合があるためです。マイクロソフトは、このような低い画像品質が人口層間で不公平に集中する可能性があることを認めています。

そのため、マイクロソフトは、顔検出用に送信された画像に含まれる照明、ぼやけ、オクルージョン、顔の角度に関する問題にフラグを付ける、新しい Recognition Quality API をお客様に提供しています。また、正確な結果が得られる可能性がより高くなる、より高品質な画像を撮れるようにするための提案をリアルタイムに提供するリファレンス アプリもご用意しています。

画像品質属性を利用するには、Face Detect API を呼び出す必要があります。Face のクイックスタートを参照し、この API をお試しください。

今後の展望

マイクロソフトは、Azure AI の未来と、責任を持って開発されたテクノロジが世界にもたらす利益に大きな可能性を感じています。責任ある AI の新たな基準とプラクティスにマイクロソフトのアプローチを適応させる中で、お客様とパートナー様には責任ある AI のプラクティスを導入していただき、また取り組みにもご協力いただき、感謝しています。新しい Computer Vision の機能に加えて、顔認識サービスの新しい制限付きアクセス ポリシーを導入するにあたり、皆様のフィードバックが責任ある AI におけるマイクロソフトの理解、プラクティス、テクノロジのさらなる向上につながります。

詳細については、制限付きアクセスに関する FAQ を参照してください。