by
Anonymous Coward
on 2018年07月28日 21時44分
(#3451063)
「Amazonによるデフォルトの一致検出設定」(We used the default match settings that Amazon sets for Rekognition.) でマッチしたって話だからこれが「同一人物」確認用の設定として提供されているのであれば非常に低品質なライブラリって言う他無いよね。 「類似画像検出用のデフォルト設定」とか「類似人物検出用のデフォルト設定」として提供されているならACLUによる飛ばしって言えなくもないけど、その状態では警察に売り込むなんてとてもじゃないけど無理だなぁ…
逃亡犯罪者リストに一致したのではなく、逮捕歴持つ人たちと顔が「似てる」 (スコア:0)
逃亡犯罪者リストに一致する個人を群衆から探した、中国のケースと全く異なり、
Amazon の機械学習ライブラリを使って、逮捕歴を持つ人たちに共通の「何か」を検出させたら国会議員の 28 / 529 が該当した。
ってこと。
問題点は双方にあって、
* 逮捕歴を持つ人たちに共通の「何か」は、本当に存在するのか。それも顔写真からだけで。
* ACLU が独自に機械学習させた手順に問題はなかったのか？元記事でも、こういった問題を扱う場合にしては判定閾値が小さい（ご判断が多い設定）ことに疑問を呈している。
* そもそもの学習元データに、何らかの偏りがあるのではないか。という点の検証が終わっていない。
Amazon が警察に売り込みしているため単純に Amazon 無実。とはとても言えないが Rekognition 自体は汎用の機械学習ライブラリなので、そこをごちゃまぜにされるとこまる。
Re:逃亡犯罪者リストに一致したのではなく、逮捕歴持つ人たちと顔が「似てる」 (スコア:0)
「Amazonによるデフォルトの一致検出設定」(We used the default match settings that Amazon sets for Rekognition.)
でマッチしたって話だからこれが「同一人物」確認用の設定として提供されているのであれば非常に低品質なライブラリって言う他無いよね。
「類似画像検出用のデフォルト設定」とか「類似人物検出用のデフォルト設定」として提供されているならACLUによる飛ばしって言えなくもないけど、その状態では警察に売り込むなんてとてもじゃないけど無理だなぁ…
群衆にスキャン掛けて個別確認前にざっくり絞り込む程度の用途になら使えなくもないけど、この誤検出率だと見逃しの可能性も高いのでは無かろうか。