by
Anonymous Coward
on 2018年07月28日 20時35分
(#3451037)
> 逮捕歴を持つ人たちに共通の「何か」を検出 the software incorrectly matched 28 members of Congress, identifying them as other people who have been arrested for a crime. ソフトウェアは間違って28人議員メンバーにマッチし、逮捕暦のある他人と特定した ACLUのブログ記事より
逃亡犯罪者リストに一致したのではなく、逮捕歴持つ人たちと顔が「似てる」 (スコア:0)
逃亡犯罪者リストに一致する個人を群衆から探した、中国のケースと全く異なり、
Amazon の機械学習ライブラリを使って、逮捕歴を持つ人たちに共通の「何か」を検出させたら国会議員の 28 / 529 が該当した。
ってこと。
問題点は双方にあって、
* 逮捕歴を持つ人たちに共通の「何か」は、本当に存在するのか。それも顔写真からだけで。
* ACLU が独自に機械学習させた手順に問題はなかったのか?元記事でも、こういった問題を扱う場合にしては判定閾値が小さい(ご判断が多い設定)ことに疑問を呈している。
* そもそもの学習元データに、何らかの偏りがあるのではないか。という点の検証が終わっていない。
Amazon が警察に売り込みしているため単純に Amazon 無実。とはとても言えないが Rekognition 自体は汎用の機械学習ライブラリなので、そこをごちゃまぜにされるとこまる。
Re:逃亡犯罪者リストに一致したのではなく、逮捕歴持つ人たちと顔が「似てる」 (スコア:0)
> 逮捕歴を持つ人たちに共通の「何か」を検出
the software incorrectly matched 28 members of Congress, identifying them as other people who have been arrested for a crime.
ソフトウェアは間違って28人議員メンバーにマッチし、逮捕暦のある他人と特定した
ACLUのブログ記事より
> Rekognition 自体は汎用の機械学習ライブラリ
Q: Amazon Rekognition とは何ですか?
Amazon Rekognition は、強力な画像分析をアプリケーションに簡単に追加できるようにするサービスです。
RekognitionのFAQより
> Amazon 無実。とはとても言えない
まあここには同意するけどね