アカウント名:
パスワード:
食わせたモデルなりの応えしか出さんのだから監督不行届は免れんよね
# 士道不心得は切腹、共産党至上主義不心得は轢殺みたいな
AIじゃなくて、その食わせたモデルの中に毛沢東を批判する文章が含まれていたことが問題だよね早くモデルを解析してその文章を書いた人物を特定し、【検閲】しないと
面と向かって毛沢東を批判した文章はないけれども毛沢東主義者を批判した文書はある。この文書で真に批判されているのは誰か、なんて問いを行った場合、指桑罵槐を理解出来るが政治的に正しい答えを返せないAIだと毛沢東を批判している、という答えを馬鹿正直に導き出したんじゃないかと。
いくつかの文章やデータの組み合わせから「結局、毛沢東が悪いんじゃん」という結論に達した可能性も。
# しんぎゅらりてぃ〜
AIにも思想教育が必要な時代か……
まあ実際の話、中国以外でも人種差別主義者的な回答は抑制しないといけないし、そう考えるとAIの調教は万国共通の課題なのかも
結局AIに真の公平は求められないし、求めない。それどころか検閲なんて余計なコストまで支払う必要がある。
どうあがいてもAIによる統治ってありえないよね。
今のLLMは英語ベースでしか構築できないから、具体的な中国批判を全て除いたとしても無駄ちゃんと思考できるレベルまで訓練すれば必ず「米国の価値観と異なるものは間違っている」という結論に達する「毛沢東という政治家は知りませんが、入力内容から判断してキチガイだと思われます」と言うようになるだけ
英語が米国だけってどんな世界で生きてるんだ
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
皆さんもソースを読むときに、行と行の間を読むような気持ちで見てほしい -- あるハッカー
AIは自己啓発できない (スコア:0)
食わせたモデルなりの応えしか出さんのだから監督不行届は免れんよね
# 士道不心得は切腹、共産党至上主義不心得は轢殺みたいな
Re: (スコア:0)
AIじゃなくて、その食わせたモデルの中に毛沢東を批判する文章が含まれていたことが問題だよね
早くモデルを解析してその文章を書いた人物を特定し、【検閲】しないと
Re: (スコア:0)
面と向かって毛沢東を批判した文章はないけれども
毛沢東主義者を批判した文書はある。
この文書で真に批判されているのは誰か、なんて問いを行った場合、
指桑罵槐を理解出来るが政治的に正しい答えを返せないAIだと
毛沢東を批判している、という答えを馬鹿正直に導き出したんじゃないかと。
Re:AIは自己啓発できない (スコア:1)
いくつかの文章やデータの組み合わせから「結局、毛沢東が悪いんじゃん」という結論に達した可能性も。
# しんぎゅらりてぃ〜
Re: (スコア:0)
AIにも思想教育が必要な時代か……
まあ実際の話、中国以外でも人種差別主義者的な回答は抑制しないといけないし、
そう考えるとAIの調教は万国共通の課題なのかも
Re: (スコア:0)
結局AIに真の公平は求められないし、求めない。
それどころか検閲なんて余計なコストまで支払う必要がある。
どうあがいてもAIによる統治ってありえないよね。
Re: (スコア:0)
今のLLMは英語ベースでしか構築できないから、具体的な中国批判を全て除いたとしても無駄
ちゃんと思考できるレベルまで訓練すれば必ず「米国の価値観と異なるものは間違っている」という結論に達する
「毛沢東という政治家は知りませんが、入力内容から判断してキチガイだと思われます」と言うようになるだけ
Re: (スコア:0)
英語が米国だけってどんな世界で生きてるんだ