パスワードを忘れた? アカウント作成
11411432 story
犯罪

GoogleがGmail内で保存されている児童ポルノ画像を発見、通報 54

ストーリー by hylom
Googleは見ていた 部門より
eggy 曰く、

GoogleがGmail内のメールに添付されていた「子供の性的な画像」を発見し、これをNational Center for Missing and Exploited Childrenに通報していたことが明らかになった (Business InsiderSlashdot)。結果、男性が逮捕される事態になったという。

Googleは2006年より児童に対する性的虐待問題に取り組み始めているとのことで。2008年以降、ハッシュを使った児童の性的画像に対するタグ付けを行っているそうだ。米国ではオンラインサービスを提供する企業に対し、児童ポルノを発見した場合それを通報することが義務づけられている。だがこれは、発見した場合の通報を義務づけているだけであり、あえて児童ポルノ画像を探し出すことまでは求めていない。

しかし、GoogleはGmailに添付された児童ポルノ画像をあえて検索しているという。Googleは「システムが児童性的画像を特定できるよう、児童性的画像にはそれぞれ特有のデジタル指紋が与えられます。覚えておいて頂きたいのは、この技術が用いられるのは児童の性的虐待画像を特定するためだけであり、他の犯罪活動に関連しうる内容を含む電子メール(例えば、電子メールを用いて強盗を計画)には用いられないということです」と述べている。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • 写真だけだったら、自分の子供が裸でベビープールに入っている写真を夫婦間で送るのも逮捕されそう。

  • by Anonymous Coward on 2014年08月06日 15時42分 (#2652286)

    GIGAZINEの記事 [gigazine.net]によると、

    画像は単純に「JPEG画像を添付していた」というものではなく巧妙に偽装されていたとのことで、
    ICAC Task Force(児童に対するインターネット犯罪特別捜査班)・ヒューストン支部のデイヴィッド・ネトルズ捜査官は
    「私たちの知る方法では画像を見つけることができませんでした。どのようにGoogleが見つけたのか、わかりません」と語っています。

    Google、どんだけしげしげとユーザーのメールを見てるんだよ。

    • by Anonymous Coward

      「デジタル指紋」で見つけたと書いてあるじゃん。
      捜査官にはそれに必要なデータがないというだけでしょ。
      仮に技術があっても、「児童ポルノ画像のデータベース」がなきゃ発見できない。

      ・・・あれGoogleが逮捕されるんじゃねこれ?

      • by Anonymous Coward

        いや、偽装の方法とデジタル指紋の生成アルゴリズムにもよるけど、普通「巧妙な偽装」って奴でデータをいじって隠蔽したら、
        指紋も変わってくるんじゃないのと言う話。

        それでも見つけてくるって事は、どんだけ深い解析をしてるんだ?ってこと。

        • by Anonymous Coward

          拡張子を手動で変えただけでハッシュ変わってないとかそんなオチな予感

          • by Anonymous Coward

            まあそうだとしたら、それはそれで「拡張子を変える」ってのが「私たちの知る方法」の内に含まれていない
            インターネット犯罪特別捜査班ってのが問題な気もするが。

      • by Anonymous Coward

        単純所持は違法、ってことで、Googleとしては画像のハッシュをとって画像は捨ててると思われる。
        ということは、個人でもおまわりさん来た時「これのハッシュとって捨てるところだったんだよ〜」と言い逃れで切るかもしれない。

  • by Anonymous Coward on 2014年08月06日 15時06分 (#2652252)

    他はしてない保証はない

    • Google musicやdriveにアップしてる個人の音楽ファイルリストが欲しそうな団体はいますね( in Japan.)eに
      そのうちGoogleのサービスに保管されてるファイルの検索結果を売ってもらえるように・・・ はならないことを祈る。

      親コメント
    • by Anonymous Coward

      Gmailの中身は全部チェックされて、Googleの"サービス向上"に役立っているでしょう。
      そんなことしていないと考える方が無理があります。

    • by Anonymous Coward

      そこですよね。
      この理屈で行けるなら割と何でも行ける訳ですし。

  • by Anonymous Coward on 2014年08月06日 15時27分 (#2652272)

    この手の正義が行き着くところまで行き着くなら、
    そのうちアンチウイルスソフトに「子供の性的な画像」を発見して
    通報する機能が付いたりするのかな。

    • by Anonymous Coward
      Google Chromeでローカルフォルダーくらい漁ってるだろ
    • by Anonymous Coward

      もともとゲートウェイでvirusやspamのスキャンはしている筈なので、そのパターンファイルに
      児童ポルノ画像のFingerPrintを含めていた、ということなのでしょうね。

      そう考えると、同じ仕組みがローカルのanti-virusソフトに適用されるのは、むしろ自然な
      話に思えます。自動通報は兎も角、検知については実現するんじゃないでしょうか。

      利用者側から見ると、ネットサーフィン中に意図せず児童ポルノをキャッシュしてしまうとか、
      メールで送り付けられるといった際に即座に気付いて削除できるので、自分の身を守れる
      メリットがあるように思います。

  • 個人情報は (スコア:0, 参考になる)

    by Anonymous Coward on 2014年08月06日 15時46分 (#2652290)

    どうやってポルノ画像をポルノと判定したのか知りたいね。
    アルゴリズムによってポルノと判定自動通報→セーフ
    google職員がメールを直接読んで発見→アウト

    • by Anonymous Coward on 2014年08月06日 16時15分 (#2652304)

      ちゃんと読んでくれ。タレコミ文に書いてあるから。
      既存の児童ポルノ画像のFingerPrintを取り、Googleの管理するストレージから同じFingerPrintの画像を探したってこと。
      これはすなわち児童ポルノ画像のコピーを探したってことなんだね。

      だから、自分で撮影したり、画像を何か手を加えてあるとFingerPrintが変わってしまうので検知できないわけ。

      ってことはだ、そのFingerPrintを取るためにGoogleは児童ポルノ画像を一時的にしろ所有している必要があるわけで、Googleも児童ポルノ所持で摘発しろってことになるんじゃね?

      親コメント
      • by Anonymous Coward

        > ってことはだ、そのFingerPrintを取るためにGoogleは児童ポルノ画像を一時的にしろ
        > 所有している必要があるわけで、Googleも児童ポルノ所持で摘発しろってことになるんじゃね?

        例えば個人のメールアドレスに児童ポルノを送り付けられた場合、
        気付いた時点で速やかに警察へ通報すれば、「所持」とは
        認められないでしょう。
        逆に気付いているのに削除せず放置していたら、「所持」に
        なると思います。

        Googleも自らが所持していることに気付いた上で放置していたら、
        児童ポルノ所持で摘発されていた可能性がありますね。

        • by Anonymous Coward on 2014年08月07日 11時37分 (#2652822)

          日本の場合ですが、自公政権が改正を進める中では児童ポルノの単純所持でも摘発されます。
          警察のさじ加減で、逮捕もありえます。
          メールで送り付けられるだけの単純所持では有罪まではいかないでしょうけど、警察が逮捕するくらいはいけます。
          ご存知の通り、日本の警察による逮捕は社会的制裁になりますし、拘置所も代用監獄といわれるくらい刑務所みたいなものです。

          さらに、欧米はもっと厳しいですよね。
          児童ポルノを単純所持していただけでも、その人の人権なんか失うほどの社会的制裁を喰らいます。

          Googleは目的はともかく、児童ポルノであると認識したうえで保存し利用しているわけです。
          これは単純所持ではないでしょう。

          では性的欲求を晴らすために使ったわけではないので問題ないとするなら、それが抜け道になってしまいます。
          児童ポルノを所持していても、医学的な目的だとか言ってしまえば合法になってしまうわけで。
          当たり前ですが、医学書には子供の全裸や性器の写真なんかいくらでもあるわけです。

          性趣向の問題は難しくて、普通の人は何とも感じない写真でも、異常に性欲を感じる人もいるわけです。
          普通の人は何でもない体操着の児童に性的興奮を感じる者もいて、小学校の運動会に紛れ込んで撮影している変質者もいるわけです。
          保安に厳しい学校では、運動会に父兄以外の無関係な人物が入り込まないようにチェックするところもあるくらいです。

          そういう体操着の写真は児童ポルノか?といわれると難しい。
          水着や下着はポルノではないがグレーゾーンで扱われつつありますが、摘発には難しい。

          Googleは、その写真が児童ポルノかどうかと、どうやって判断しているのかという心配もあります。

          確かに児童ポルノ問題は子供たちを守るためには放置できないので、何か対策しないといけない。
          でも、その対策が何の罪もない人を陥れてしまう可能性も高いことが怖いというのも現実。
          痴漢冤罪が、痴漢撲滅を背景として多数発生し、無実の善良な人間の人生をめちゃくちゃにする事例がいくつあることか。

          親コメント
        • by Anonymous Coward

          自らが所持していることに気付いた上で放置していたら

          放置せず利用していたんだからセーフって言ってます?

          #そんな馬鹿な理屈ないよね?

        • by Anonymous Coward

          迷惑メールフィルタにはSPAM業者からのいかがわしいのやあやしいのや日経ナントカメールが
          沢山振り分けられていた気がしますが、全然チェックしていません。これはアウトなんでしょうか?

          # 一番多いのが日経ナントカメール。
          # あそこは日本有数のSPAM業者認定していいと思う…。

        • by Anonymous Coward

          判例が積み重なっていることを書くのならともかく、「ボクが脳内だけで考えた解釈」を書くのならばそう明記した方がいいよ。

          > 「所持」とは認められないでしょう。
          こうやって、一般的にそう解釈されているかの様に書くと、信じる人が出てきちゃう。

      • by Anonymous Coward
        その程度の判定だと、犯罪者たちが自分の所持ファイルに画像に影響しないノイズ追加するだけで回避できちゃうじゃない。EXIF領域に何か書くとかでもいいし。Googleともあろうものがンなザルな対応するかな?
        • by Anonymous Coward

          とりあえずEXIFは回避できるでしょ、そりゃハッシュの取り方次第
          画像を復元したうえで適当にぼかすなり2値化するなりしてからFingerPrintを取れば
          ノイズや多少の変更はすり抜けられるようになる。CPUコストは段違いになるけど。
          まぁそれぐらいはやればできるだろう。
          でも「FalsePositiveを肉眼で確認する」っていうのもまずいのかな?
          するとFalsePositiveが出やすそうな手段はとっていない?のかも。
          警察ナリに通報してかくにんしてもらうんならOKなのか?
          かなり微妙だよな・・・
          全部自動化した上でバグがあってFalsePositive通報で警察にDOS攻撃になっちゃうかもしれん。

        • by Anonymous Coward

          ぶっちゃけ一般向けのイメージ検索でもロゴ入りサイズ違いぐらいは余裕で類似判定出ます [goo.gl]からねえ……。

        • by Anonymous Coward

          多分だとは思いますが、画像検索と同じようなアルゴリズムを使っているのでしょう。元となる画像はGoogleのローカルに保存しておいて、画像検索をかけて類似の画像を探す。デジタル指紋と呼んでいるのはおそらくこのためでは?

    • by miyuri (33181) on 2014年08月06日 18時50分 (#2652415) 日記

      検索した時の文字列で判定できる。

      親コメント
typodupeerror

クラックを法規制強化で止められると思ってる奴は頭がおかしい -- あるアレゲ人

読み込み中...