パスワードを忘れた? アカウント作成

オランダで導入されたAIによる福祉手当不正受給検出システム、人権侵害と判断される」記事へのコメント

  • 「AIは差別を追認する」

    AI自体にはなんの意図もないんだが、人種や年齢や学歴なんかの属性で判断させるとじつに差別的な判定をしてしまうというヤツだねこれ。

    Amazonのエンジニア応募の履歴書をAIで判断させたら女性に低い点をつけた(現状のAmazonのエンジニアのほとんどは男だから)とか
    クレジットカード限度枠審査で収入を同じくする夫婦の妻の方だけ限度枠が低くなる(現状の女性の多くは男性より限度枠が低いから)とか

    ビッグデータ食わせちゃうとどうしてもそうなる、ってハナシだ。

    • by Anonymous Coward on 2020年02月14日 16時22分 (#3762279)

      所詮は予測でしかないのに、それを判断基準化するとやっても居ない事のペナルティを他者に押し付けると言う事に。
      誰だってやっていない事項についてペナルティを受ける筋合いなんかない訳で。
      近代法も何もあったもんじゃない位の連帯責任論だわな。

      リスク計算なんかに使い自社内で保険を掛けるのには使えるのだろうけど、
      それを対外的に使ってしまえば、そりゃ問題にもなるわな。

身近な人の偉大さは半減する -- あるアレゲ人

処理中...