オーストラリア、Facebookでのリベンジポルノ拡散を未然に防ぐ取り組み

headless 曰く、

オーストラリア政府機関Office of the eSafety CommnissonerがFacebookと提携し、Facebookのプラットフォーム上でリベンジポルノや不正アクセスにより第三者の手に渡ったヌード写真/動画の拡散を防ぐ取り組みを開始したそうだ(メディアリリース、 ABC Newsの記事、 The Guardianの記事、 The Vergeの記事)。

Office of the eSafety Commnissonerでは画像による嫌がらせ(Image-based abuse: IBA)の防止に取り組んでいる。今回の取り組みはFacebookが実施するパイロットプログラムに参加して行われるもので、オーストラリアのほかに3か国が参加しているという。

拡散が懸念されるヌード写真/動画のあるユーザーがWebフォームを通じてOffice of the eSafety Commnissonerに連絡すると、FacebookのMessengerアプリで自分自身あてに問題の写真/動画を送信するよう求められる。あとはユーザーが送信した写真/動画からハッシュが生成され、一致する写真/動画がFacebookやMessenger、Facebook Group、Instagramでブロックされるという仕組みだ。写真/動画は一時的にサーバーに保存されるが、短時間で削除され、以降の処理では生成したハッシュのみが使われるとのこと。

Facebookでは画像マッチング技術を用い、4月からFacebookおよびMessenger、Instagramで報告されたリベンジポルノをブロックしている。今回のパイロットプログラムは事前の報告という仕組みを追加し、対象を拡大するものとなる。

The Guardianの記事ではMicrosoftと米ダートマス大学が共同で開発した画像マッチング技術「PhotoDNA」を使用しているような記述になっているが、詳細は不明だ。Facebookでは米National Center for Missing and Exploited Children(NCMEC)のPhotoDNAプログラムに2011年から参加し、児童ポルノ拡散防止の取り組みを行っている。