リスクマネジメントに対応するためのAI
2022年も多くのAI技術が開発され，社会実装も進んでいます．社会実装が進んでいることは喜ばしいことですが，2021年終わり頃からAI活用のリスクマネジメントに関するレポートがいくつか出てきました．さらに法律的な規制も整備され始めています．今回そんな中でプライバシーを守りつつ，AI活用を考えた技術についてマクニカ様にインタビューをしてきました．
今回の技術はプライバシーをマスキングする技術といった位置付けに近く，今までにもそういった技術はありました．しかし，ユニークなポイントもありつつ，圧倒的な技術力で正直驚くレベルになっています．このインタビュー中，技術力の高さに終始興奮していました．
企業紹介
マクニカは，1972 年の設立以来，最先端の半導体，電子デバイス，ネットワーク，サイバーセキュリティ商品に技術的付加価値を加えて提供してきました．従来からの強みであるグローバルにおける最先端テクノロジーのソーシング力と技術企画力をベースに，AI/IoT，自動運転，ロボットなどの分野で新たなビジネスを展開しています．「Co.Tomorrowing」をスローガンに，最先端のテクノロジーとマクニカが持つインテリジェンスをつなぎ，ユニークなサービス＆ソリューションを提供する存在として，社会的価値を生み出し未来社会の発展へ貢献していきます．当社は，横浜に本社を構え，世界23ヶ国85拠点をベースにグローバルなビジネスを展開しています．
AIに対する規制
そもそもこの技術が開発された背景には，年々強まる個人情報保護の規制があります．例えば，PIPEDA・GDPR・CCPA・PDP・CSL&PISなど世界的にこの流れは来ており，その中でAIも規制対象とした改正が数多くされています．すなわち，今後AIの社会実装は個人情報などをクリアしなければ，罰金の対象になる可能性があります．さらにこの規制によって，そもそもAIの検証自体行えない企業も出てくることが予想されます．例えば，企業が保有するデータ自体を検証に使えないことや企業間でのデータの共有などが行えないことが考えられます．
今回の技術はどんな技術になるんですか？
今回ご紹介する技術は上記規制が強まる中でAIの開発を支援する技術になります．それがbrighter AIが提供する映像匿名化ソリューション「brighter Redact」に搭載されている，Precision Blur とDeep Natural Anonymizationです．
brighter AIは次世代匿名加工技術のリーディングプロバイダーカンパニーです．
「Protect every identity in public」というミッションのもと，最先端のAI技術によりカメラ映像データの「個人情報保護」と「画像分析への利用」の両立を可能にします．2017年に設立し，グローバルで自動車，医療，公共，研究開発といったような様々な領域のお客様にサービスを提供しているbrighter AIはNVIDIA社の「Europe’s Hottest AI Startup」や Handelsblatt & McKinsey社の「The Spark - The German Digital Award」 に選ばれています．
まず簡単に説明すると，Precision Blurがオリジナルの画像から個人情報になりそうな部分をマスキングするような技術になります．この技術は他にも多くの企業から似たものが出ていると思います．後ほど詳しく説明しますが，ここにもすごい差別ポイントが多く存在します．
Deep Natural Anonymizationは他の企業と明らかな違いが存在しています．こちらも簡単に説明すると，検出した画像から個人情報となる属性情報だけを推測し，同じ属性情報で別の情報に加工する技術です．データの”質”を下げずに，個人情報を保護することができる技術になります．
ーなるほどですね！いくつか気になる点があるので，まずは詳細を聞かせて下さい
Precision Blur の詳細を教えて下さい
ー正直，今までにも似たような技術があって，どんな違いがあるんですか？
ご覧の通り，まず動きの中で正確にナンバープレートをマスキングできています．ここで注目していただきたいのは，データ劣化を最小限に抑えるために本当にナンバープレートのキワまでマスキングできていることです．ここを中途半端にしてしまうとその後のAI活用に影響してしまいます．ここが他社様との差別化にもなっています．ナンバープレートの検出アルゴリズムが特異的なため，他社の場合は四角い物に引っ張られるのに対して，Precision Blur はそこの精度が高いです．
ー確かに，かなりデータ劣化は少なそうですね！他社製品だと，テールランプの誤検出が多いイメージがあるんですが，どうなんですか？
おっしゃる通りです！他社様の誤検出例としてはテールランプがありますね．そこがPrecision Blurは圧倒的に少ないです．さらにナンバープレートとの距離によっては一瞬マスキングが外れるようなことがこの分野ではあるのですが，そういったことも少ないです．
また他社のツールと大きく違うのが，マスキングをかけるべきか否かまで自動で判断していることです．個人情報を担保するのであれば，全ての情報にマスキングをかければいいです．しかし，それでは処理速度で大きく問題になります．Precision Blurは個人情報がのっているのであれば，マスキングをかける．個人情報としてすでに情報を持っていないのであれば，マスキングをかけない．そういった細かい技術によって，他社よりも1/6の時間で処理を済ませることができます．
ーそういうことですね！確かに，人ではあるけど，個人情報としては取り扱うレベルではないところにもマスキングがかかるものもありますが，そもそもそこの認識さえやってしまえば無駄な処理を済まなくてよくて，そこの処理よりも認識処理の方が楽なんですね．
ーAIのマスキング系でよくあるのが，マスキングを剥がしてしまうようなところもあるのですがその辺りはどうなんでしょうか？
もちろん絶対ではないのですが，これらのマスキングは同じマスキングをかけずにランダムでマスキング自体も変化させています．そのため，マスキングを剥がすような技術にも対応しています．
ー日本の車に対応してたと思うんですが，すでに対応済みなんですか？こういった海外スタートの技術だと，日本に特異的な調整とかもあったりする印象があるのですが
基本的に対応しております．ここは詳細にお伝えすることができないのですが，そもそもアルゴリズム自体がそういった影響を受けづらい技術で開発されていますので人種や車の車種や標識などの影響を受けづらい傾向があります．
現在対応できていないものでいうと，後ほど説明するDeep Natural Anonymizationのナンバープレートの意味の理解です．簡単にいうと，上でざっくり説明しましたが，Deep Natural Anonymizationでは，ナンバープレートも加工することができるのですが，例えば，品川ナンバーをDeep Natural Anonymizationにかけた時に，同じ品川ナンバーの別物へ加工するとか，別の湘南ナンバーに加工するなどの部分がまだ未対応になります．
さらに最後に面白い動画をご紹介させていただきます．我々も正直驚いたのですが，この動画中に練習中の表示をつけた車が走ってくるのですが，練習中の方にはかけずに，ナンバープレートだけを正しくマスキングしています．正しくナンバープレートじゃないことを認識しているんですよ．
ーこれは驚きですね．
Deep Natural Anonymizationの詳細を教えて下さい
そもそも後の技術の背景として単純にマスキングをかけてしまうと，下の画像のようにAIに誤認識されてしまいます．すなわち，個人情報の保護の観点ではいいのですが，AI的なデータの利活用ができなくなってしまうんですね．
そこで個人情報は回避するが，活用したい属性情報などは保てるような技術としてDeep Natural Anonymizationが開発されたという背景があります．
実際にMicrosoft Azureが提供する顔認識AIを用いて検証すると16％のマッチ率(個人情報は隠せた)で，属性情報を一致させることができています．そのためAIの利活用に使えるということです．
普通に顔が写っていて，違和感がないですが，すでにこれはDeep Natural Anonymizationで置き換わっているんですよ．
ーこれはわかんないですね．違和感がないですね．これって確かに違和感はないのですが，AIにとっても違和感がないのですか？
DeepLabv3でのsegmentationの結果も良好であることがわかります．これらの部分に関してはwhite paperもございますのでご確認いただけると幸いです．white paperダウンロードはこちら
さらにドイツの自動車メーカーであるValeo様では，自動運転用のデータを提供されているんですが，利活用のために実際にこの技術を使っています．その際にPSPNetの検証では，オリジナルのデータとDeep Natural Anonymizationをかけたデータでの精度の差がないことが検証によりわかっています．すなわち，個人情報を保護しつつ，利活用ができることを検証の結果，証明したのです．余談ですが，これは魚眼レンズで円形になっているのですが，それでも正しくDeep Natural Anonymizationがかけられています．
ーここまで差がないんですね！これは普通にすごいとしか言いようがないですね．属性認識の部分で苦手な部分ってあったりしますか？
そこでいうと，感情の中では”怒り”と”悲しい”は少し難しい傾向がありますね．眉間の動きでの誤認識の可能性があります．
ー感情や属性も制御できるんですか？
結論可能です．年齢を高めに置き換えることや人種を変えることもできますね．途中でナンバープレートの加工の時にも説明した通りで，ナンバープレートの加工も制御することができます．それによるデータのAugmentationができるのも面白いところです．
活用事例ってどんなものがありますか？
車関係がまず多いですね．次に医療データ・公共施設などの個人情報保護の観点が強いところでの活用が多いです．
他には業種や国を超えたデータのやりとりの際に，この技術が使える可能性がありますね．現在データを国の外に出すだけでも大変だったりするのですが，そういった際にも利用シーンが考えられます．
ーまた，現在公開されているAI用のデータセットが非公開になるものもいくつかあるのですが，もしそれが個人情報由来であれば，この技術の利用で非公開にせずに済むかもしれませんね．
brighter AIに関する詳細・お問合せはこちら
この記事に関するカテゴリー
