Please enable JavaScript in your browser.

fltech - 富士通研究所の技術ブログ

富士通研究所の研究員がさまざまなテーマで語る技術ブログ

Top > Security > いたちごっこにさようなら！定量評価可能なビデオ映像のプライバシー保護技術を開発しました！

いたちごっこにさようなら！定量評価可能なビデオ映像のプライバシー保護技術を開発しました！

Security

こんにちは。富士通のデータ＆セキュリティ研究所の牛田芽生恵です。 富士通では複数のビデオ映像を利用したマルチカメラトラッキングの研究開発をしています。 また、ビデオ映像を用いた行動分析技術にも力を入れています。

ビデオ映像を利活用する際に大切なことのひとつは、ビデオに映る生活者のみなさんのプライバシーをしっかりと守ることです。 しかし、ビデオ映像に対するプライバシー保護手法は、世の中に多数存在するものの、場当たり的な手法が多く、攻撃とのいたちごっこが続いています。というのも、どのような手法でプライバシーを保護すれば、どのような性質のプライバシーが、どの程度守られるのかという定量的な評価がなされていない技術が多いからです。そこで、差分プライバシーというデータベースに対するプライバシー保護の評価指標をビデオ映像に拡張することで、定量評価可能なビデオ映像のプライバシー技術を開発しました。本技術を利用することで、ビデオ映像を取り扱う事業者様が、取得したビデオ映像の安全な利活用ができるようになることを目指しています*1。

研究の背景

今までのビデオ映像に対するプライバシー保護技術とその課題

いままでもビデオ映像に映る人物に対するプライバシー保護技術はたくさん考えられてきました。古くは、モザイクやぼかしを入れる方法から、顔を黒く塗り潰す、人物の骨格情報のみを映像に残すなど、たくさんの方法があります。しかし、これらの方法に対する攻撃も、たくさん発見されています。

骨格化の例（参考文献[1]より引用）

たとえば、モザイクやぼかしの除去ツールは、ウェブを探せば簡単に手に入ります。SNSなどの発達により、顔を塗りつぶしたとしても、姿や背景から、だれかを特定されるリスクは年々増加しています。骨格化された映像から、その骨格が誰であるかを特定する技術[1]も研究されています（もちろん、骨格化によって容姿が隠せること自体には価値があります。詳しくはこちらのブログをご参照ください）。

「ビデオ映像にどのような処理を行うと、どのようなプライバシーが保護されているといえるのだろうか？」

「ビデオ映像のプライバシー保護技術を定量的に評価することはできないだろうか？」

このような疑問を解決するため、我々はアマゾンの奥地に向か・・・わずに、ビデオ映像でなく、データベースを対象としたプライバシー保護技術の研究に解決の糸口を求めました。

解決の糸口：差分プライバシー

データベースを対象としたプライバシー保護技術においても、データに意図的にランダムな値を加えたり（これを"摂動"と呼びます）、近いデータ同士をグループ化して代表値に置き換えるなど、さまざまなプライバシー保護手法が取られてきました。しかし、これらの手法のうち、どの手法が良いのか、またどのようなプライバシーをどの程度保護しているのかがよくわからない、という状況が続いていました。しかし、2006年にDworkら[2]が提案した差分プライバシーという、プライバシー保護の定量的な評価指標によって、データベースを対象としたプライバシー保護技術の分野は大きな発展を遂げました*2。

調べてみると、ビデオ映像に差分プライバシーの概念を応用した技術[3, 4]もいくつか提案されていることがわかりました。中でも、2020年にWangら[3]が提案したVERRO(Video with Randomly Responded Objects)では、ビデオ映像に映る人物をピクトグラムに置き換え、かつ、移動経路に摂動を加える手法を提案し、差分プライバシーを拡張したObject Indistinguishablityというプライバシー保護の指標で評価を行った興味深いものでした。

ピクトグラムと摂動によるビデオ映像のプライバシー保護(参考文献[3]より引用)

しかし、これらの研究成果を眺めていて、「このようなプライバシ保護技術を適用すると、ビデオ映像から富士通が得意とする行動分析技術が利用できなくなってしまうなぁ」と問題意識を持ちました。

新しいビデオ映像に対するプライバシー保護手法を開発！

そこで、ビデオ映像から生活者の方の行動分析を可能にする新しいプライバシー保護技術を開発することにしました。ポイントは以下の3つです。

ポイント1: 骨格化にとどめて行動分析を可能に！

まず、ビデオ映像に映る人物のプライバシーを保護する第一の工夫として、骨格化を採用しました。ピクトグラムと異なり、骨格化された映像は人物の動作が情報として残るので、行動分析に支障をきたさずにすむと考えました。同時に、容姿などを秘匿できるため、ビデオ映像に対する心理的な抵抗感も軽減できます。

ポイント2: 骨格情報を一定確率で置換して言い逃れできる余地を作る！

しかし、骨格化された映像から、たとえ容姿を秘匿していても、それが誰であるのか特定できる可能性があります。ビデオ映像がいつどこで撮影されたものかがわかると、そこに映っていた人物が、いつ何処にいたのかというプライバシーに関する情報が特定されてしまいます。そこで、ビデオ映像に映り込んでいる人物の骨格情報を、同じ場所で異なる時刻に映り込んだ人物の骨格情報と、一定の確率で置換するという摂動を加えます。この置換により、たとえある時刻のビデオ映像に映っていても、その時刻にその場所にいたことを否認する余地を与えることができます。

CSS2024で発表したビデオ映像のプライバシー保護技術をPRW dataset[5]に適用した例。

ポイント3: 差分プライバシーの考えを応用してプライバシーを評価する！

このような工夫を行うことで、どのようなプライバシーがどの程度保護できているのかを、差分プライバシーを拡張したVideo Indistinguishablityというプライバシー保護の指標を導入し、評価を行いました。プライバシー保護されたビデオ映像を見ることができる攻撃者が、ある人物が本当にそのビデオに映っていたのかどうかを、どの程度の確率で納得するかを表す指標としてVideo Indistinguishablityを導入し、上記の手法を用いた場合、骨格情報を置換する確率などのパラメータの値とVideo Indistinguishablityとの関係を明らかにしました。

CSS2024で論文発表してきました！

このビデオ映像に対する新しいプライバシー保護技術を論文にまとめて、本年10月に日本最大級の規模を誇る情報セキュリティのシンポジウムであるComputer Security Symposium 2024（CSS2024）にて発表して参りました！今回の研究の詳しい内容について興味のある方はぜひ、以下の論文をお読みいただけると嬉しいです*3。

  • 牛田芽生恵, 松山佳彦, 菊池浩明. "PerturbationCity: プライバシ保護合成ビデオ." コンピュータセキュリティシンポジウム 2024 論文集 (2024): 1846-1853. (外部リンク)

今回の研究では、プライバシー保護と差分プライバシーの研究のスペシャリストである明治大学の菊池浩明先生に、たくさんのご協力とご助言を頂きました。この場を借りて、改めて御礼申し上げます。

おわりに

今回のブログでは、新たに開発したビデオ映像のプライバシー保護技術について、どんなきっかけで、何に疑問と課題意識をもって、どのような狙いで、技術開発をしたのかを中心に、技術の内容を簡単にご紹介させていただきました。今後も引き続き、プライバシーを守りつつ、新しい技術を安心して使っていただけるための取り組みを続けていきたいと思います。

参考文献

  • [1] Kikuchi, Hiroaki, et al. "A Vulnerability in Video Anonymization–Privacy Disclosure from Face-obfuscated video." 2022 19th Annual International Conference on Privacy, Security & Trust (PST). IEEE, 2022.
  • [2] Dwork, Cynthia, et al. "Calibrating noise to sensitivity in private data analysis." Theory of Cryptography: Third Theory of Cryptography Conference, TCC 2006, New York, NY, USA, March 4-7, 2006. Proceedings 3. Springer Berlin Heidelberg, 2006.
  • [3] Wang, Han, et al. "Publishing video data with indistinguishable objects." Advances in database technology: proceedings. International Conference on Extending Database Technology. Vol. 2020. NIH Public Access, 2020.
  • [4] Wang, Han, Shangyu Xie, and Yuan Hong. "VideoDP: A universal platform for video analytics with differential privacy." arXiv preprint arXiv:1909.08729 (2019).
  • [5] Zheng, L., Zhang, H., Sun, S., Chandraker, M. and Tian, Q.: Person Re-identification in the Wild, arXiv preprint arXiv:1604.02531 (2016).
  • [6] 佐久間淳. データ解析におけるプライバシー保護. 講談社, 2016.
  • [7] 寺田雅之. "差分プライバシ: 2. 差分プライバシの基礎と動向." 情報処理 61.6 (2020): 591-599.

*1:今回の開発技術を用いてプライバシー保護を行っても、個人情報保護法上は「個人情報」として扱う必要があります。今回の開発技術は技術的安全管理措置を目的とした技術であることにご留意ください。

*2:差分プライバシーとは、ざっくり言うと、データに与えた摂動が、データ内のプライバシーの保護にどの程度寄与するかを定量的に評価する指標です。詳しく知りたい方には参考文献[6][7]などがおすすめです。

*3:完全に余談ですが、タイトルの"PerturbationCity"は、実は私の好きなSF小説、グレッグ・イーガンの『順列都市』（Permutation City）のオマージュなのでした。（Perturbationとは摂動のことです。）