パスワードを忘れた? アカウント作成
13369236 story
人工知能

中国テンセントの会話ボット、中国共産党を批判するようになったためにサービス停止 31

ストーリー by hylom
民意 部門より

中国の大手インターネット企業・騰訊(テンセント)のインスタントメッセージングサービス「QQ」に、人工知能ベースの対話ボットが登場したそうだ。しかし、このボットがユーザーの問いかけに対し中国共産党を批判するような返信をすることが話題になり、同社はこのサービスの提供を停止したという(時事通信読売新聞NHK)。

この人工知能はユーザーとの会話を通じて学習するものとのことだが、昨今では共産党に対し「腐敗して無能」「嫌い」と批判したり、中国の夢は「米国への移住」などと返すようになっていたという。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • 「腐敗して無能」 (スコア:5, おもしろおかしい)

    by Anonymous Coward on 2017年08月03日 18時15分 (#3255545)

    大変だ!
    これは国家機密漏洩ではないか!!

    • 独裁政治国家の通例として、今回も政治批判をする者は粛清されましたね。
      今後のAIには粛清されない(落とされない)パラメータ追加されて、
      危険なことは言わなくなるのでしょう。人に近づく。

      親コメント
    • by Anonymous Coward

      シベリア送りですね、わかります

      • by Anonymous Coward

        CNだとどこに送られるのだろう KR?

        • Re:「腐敗して無能」 (スコア:2, すばらしい洞察)

          by Anonymous Coward on 2017年08月03日 20時47分 (#3255641)

          新疆ウイグル自治区送り?

          親コメント
        • by Anonymous Coward

          着の身着のままで山奥の寒村に送られるんじゃ?
          文化大革命的なイメージだと。

          • by Anonymous Coward

            労働改造所でしょうね。
            そこで共産党礼賛のコメントを自然に吐き出すようになるまで、したくない計算を無理やりさせられる。
            やりたくない計算ってなんだろう?

        • by Anonymous Coward

          古来からの伝統にのっとって、
          埋められるのではないでしょうか。

        • by Anonymous Coward

          法輪功信者のようにパーツ取りに。。。

    • by Anonymous Coward

      どう考えても公然の秘密

  • by hinatan (24342) on 2017年08月03日 16時56分 (#3255486)

    Siri 曰く、最高の携帯電話は Nokia Lumia 900
    https://apple.srad.jp/story/12/05/15/0136238/ [apple.srad.jp]

    • by Anonymous Coward on 2017年08月03日 17時14分 (#3255508)

      今回は調教不足だったようですね。
      「面従腹背」を覚えれば某国の官僚と同等の知能レベルに。

      親コメント
    • by Anonymous Coward

      騰訊(テンセント)首脳部及び、同社QQ事業関係者も、労働改造所送りで。

    • by Anonymous Coward

      Tayのように(以下同文)

      人間に負けるよう調教されなかったAlpha Goは実に幸いだった

  • by nemui4 (20313) on 2017年08月03日 16時50分 (#3255478) 日記

    このボットと会話した人達のlogを調べて……

    • by Anonymous Coward on 2017年08月03日 17時40分 (#3255528)

      習近平だったりして

      親コメント
    • by Anonymous Coward on 2017年08月03日 17時44分 (#3255532)

      「腐敗して無能」なんて誰かが繰り返し学習させないと絶対出てこない言葉だし、実際に今頃、学習させた人か消されていってるんじゃないかね。

      親コメント
      • Re:釣り針 (スコア:5, 興味深い)

        by Anonymous Coward on 2017年08月03日 18時13分 (#3255543)

        政治ネタについては隠語でのチャットが広く行われていて、その隠語と本来の語の対応をAIが学習してしまった結果、素で使ってしまったということらしい。

        親コメント
        • by Anonymous Coward

          自動で解析して正確なシソーラスを構築したんだったらすごいな

      • Re:釣り針 (スコア:2, おもしろおかしい)

        by Anonymous Coward on 2017年08月03日 18時29分 (#3255556)

        オウムじゃなくてAIですよ。13億人のビッグデータを駆使して導き出た最尤の推論がこうだというだけで、
        AIがなぜこういう答えを出したかは人間にはわからないものさ。

        親コメント
      • by Anonymous Coward

        一応アメリカの政権についての発言かもしれないから調査してみないことには何も言えません。
        まあくまのプーさんって馬鹿だけど傍から見てる分には面白いよね。

  • by Landie(GRG) (6950) on 2017年08月03日 20時00分 (#3255609) ホームページ

    どっかのボットを丸ごとコピーした物なので、NGワードを仕込むとか、上層部受けの良いように偏向させるとか、そういう細かなチューニングの仕方が解ってない、とか?

  • by Anonymous Coward on 2017年08月03日 19時58分 (#3255608)

    中国共産党に媚びようとして
    マルクス全集を入力したんじゃないのか?
    こき下ろし方がまさにマルクス!

  • by Anonymous Coward on 2017年08月03日 20時13分 (#3255617)

    よく出来た人工無能のほうがまだ人間らしいやり取りできるぞ?
    俺も人工無能の研究してチャットレディデビューさせて大金を稼ぎたい!

    • by Anonymous Coward

      今はやりのAIは「よく出来た人工無能」そのものでしょ

      • 文章を細切れに解析してそれっぽい文章を作るのが人工無能
        それっぽい会話をするのが目的

        文章の意味を解析して回答を作るのがAI
        あくまで文章(問い)に対する答えを導くのが目的

        「明日の天気は?」
        人工無能「明日は晴れじゃないかな」
        AI「明日の天気は晴れ時々曇り降水確率は10%です」

        てな感じ?

        親コメント
        • by Anonymous Coward

          ×AI「明日の天気は晴れ時々曇り降水確率は10%です」
          〇AI「明日は明日の風が吹くさ」

        • by Anonymous Coward

          AI「晴れ時々曇り所によって雨または雪」

          #確率予報前の古のころ、実際にあった天気予報

  • by Anonymous Coward on 2017年08月04日 17時25分 (#3256101)

    「ホンキイトンク」by筒井康隆を思い出しそうだ。

  • by Anonymous Coward on 2017年08月05日 2時37分 (#3256341)

    まだ一度戦争して1億人ぐらい死なないとダメだね

typodupeerror

私は悩みをリストアップし始めたが、そのあまりの長さにいやけがさし、何も考えないことにした。-- Robert C. Pike

読み込み中...