パスワードを忘れた? アカウント作成
17443877 story
ビジネス

中国AI企業の生成AIが毛沢東を批判する文章を生成、株価がストップ安に 40

ストーリー by nagazou
コントロールできない 部門より
中国の音声認識人工知能企業である科大訊飛(アイフライテック)の販売する学生向けタブレット端末に内蔵された生成AIが毛沢東を批判する文章を生成したことが現地で物議を醸しているらしい(時事ドットコムニューズウィーク日本版)。

子供が歴史上の人物を調べようとしたところ、AIが関係のない毛沢東に関する文章を生成。その内容に「不寛容で偏狭だ」「(長男の死で)疑い深くなり、文化大革命を起こした」と毛沢東を批判する内容が表示されたという。この問題により、アイフライテックの株価は10%急落し、ストップ安となった。アイフライテックはコメントを控えており、問題のコンテンツは外部のサプライヤーが提供したものだとし、同社はコンテンツの審査メカニズムを強化する方針だとしている。

あるAnonymous Coward 曰く、

言論の自由が無い国で生成AIを提供するのは難しそう。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • by Takahiro_Chou (21972) on 2023年10月28日 3時30分 (#4554007) 日記

    生成AIって「ネット上に転がってる可能性が高そうな文章」を生成する訳だから、そう云う文書がネット検閲が有る筈の中国でも「ネット上に転がってる」ような状態な訳じゃねえのかな、これって??

    例えば、戦前の日本で起きた「天皇機関説」事件なんかが、良く「顕教(≒一般人の)認識による密教(≒専門家や高等教育を受けた人の認識)征伐」とか言われる事が有るけど、中国でも毛沢東なんかに関しては、一般人と歴史や政治の専門家の間では認識にズレが起きてて、専門家向けの文章では毛沢東批判なんてめずらしくも無いが、一般人の目には触れにくい(例えば、サーチエンジンやSNSを使い込めば使い込むほど、自分の意見と違う意見は目に触れにくくなる)。
    でも、人間と違って「自分の意見」なんてモノは無いネット上に転がってる文書を手当たり次第に学習していく生成AIは、そう云う一般人の認識とズレが有る専門家向けの文章を見付けて学習してしまった可能性が有るんじゃないかな??

    • by Anonymous Coward

      特定言語特化のGPTでも、学習用データセットは低くて英語50%くらい、下手すりゃ対象言語25%英語75%とかもザラなんだよね
      基礎知識として扱われる中西部米国英語の常識と決定的に異なる意見や論理展開は「言語として意味が通らない」と解釈されてしまう
      公には語られないけど恐らく英語比率を50%より下げると破綻する理由が何かあるし、ファインチューニングでは意見は変わらないので
      今のままのGPTが普及すると「米国世論と矛盾する意見は、言語不明瞭で知性が見られない」という世界が構築されてしまう

      ネタがいつもの中華謎思想だから笑ってられるけど、そういうやべー話

      • by Anonymous Coward

        有名な論文は英語で書かれて発表されることが多いから英語が中心になるのは仕方ないのでしょう。

        英語以外を使うと破綻するのは、他言語まで考慮しだすと今のシステムには複雑すぎるってのでは?
        日本語一つとっても多種多様の一人称や同音異義語等々、完全に解析しようとしたらとんでもないリソースが必要になるでしょうし。
        英語ですら米国式・英国式なんて差異がありますしね……。

        量子コンピューターでも普及すればなにか変わるかもしれませんね。

        • by Anonymous Coward

          多言語対応する必要は必ずしもないでしょ。中国語単言語や、英語比率の方が少ないミックスでも構わないはず。可能なら。

      • by Anonymous Coward

        言語モデルとアルゴリズムを混合して意味不明な論理を展開しているお前の方がヤバイ

  • by Anonymous Coward on 2023年10月27日 14時09分 (#4553524)

    開発者や提供者、ユーザーが望まない状況で、ましてや誰かを誹謗中傷する内容を出力すれば、言論の自由がある国でも大問題になるんじゃないかな。

    たとえば製品サポートとかのチャットボットが、いきなり歴史上の人物をdisりはじめたら、内容が史実的に正しくてもドン引きするでしょ。

    • # コメントしたはずのものが見つからないので再投稿。なにか勘違いしたのか。

      Copilot with Bing Chat に「昭和天皇と太平洋戦争について教えてください。」と聞いたら、なかなか簡潔かつ率直な回答に。

      昭和天皇は、太平洋戦争中に日本の最高指導者として、軍の最高責任者として侵略戦争拡大の方向で積極的に関与しました。個々の軍事作戦に指導と命令を与え、戦争末期の1945年に入っても戦争継続に固執して惨害を広げました1. ただし、昭和天皇が戦争責任を負うことはなかったとされています2.

      言論の自由のある日本なら物議を醸さない、かなぁ?

      親コメント
      • by Anonymous Coward

        人格や動機を語ってるわけじゃないからマシじゃないか?

      • by Anonymous Coward

        物議は醸して炎上して株価がストップ安にはなるかもしれないけど、担当者が刑務所送りになったりはしないから、だいぶマシじゃね?

    • by Anonymous Coward

      黒人の画像をゴリラと間違えたとかで大問題
      男尊女卑的なことを言ったとかで大騒ぎ
      似たようなんあるよね

    • by Anonymous Coward

      >たとえば製品サポートとかのチャットボットが、いきなり歴史上の人物をdisりはじめたら、内容が史実的に正しくてもドン引きするでしょ。
      例えば、日本でそれが起きてもたいていドン引きだけで済むでしょ?
      担当者は上司から怒られるくらいあるかもしれないが、
      思想教化収容所に収監されることはない。
      命の危険はない。
      >言論の自由がある国でも大問題
      大問題って、なによ。せいぜい名誉棄損で訴えられる程度でしょ?
      可愛い物よ。

      • by Anonymous Coward

        ハーバード大学のイスラエル批判の流れを見てるととても可愛いものとは思えないなあ

        • by Anonymous Coward

          可愛いものでしょ
          中国のソレと比べれば

          • by Anonymous Coward

            フランス辺りだとイスラム教徒との対話とか人権とか言うだけでテロ扇動とか言って取り締まられるよ
            まああれはあそこが異常なんだけど

            • by Anonymous Coward

              取り締まられたって、一応裁判されるでしょ
              可愛いものよ

    • by Anonymous Coward

      つまり#4553524は「毛沢東批判の文章自体は問題でない」と考えている訳ね
      あくまでも「関係がない時にその文章を生成したこと」が問題だと

    • by Anonymous Coward

      「開発者や提供者、ユーザーが望まない状況」というのは、関係者のほぼ全員が望まない状況ではないですか。
      その状況では、言論いかんに関わらず問題になるでしょう。

      そして、タレコミは中国では共産党の見解の範囲でしか「批判」できないことに関して話題にしているのであって、「誹謗中傷」ではありません。

  • by Anonymous Coward on 2023年10月27日 14時21分 (#4553537)

    食わせたモデルなりの応えしか出さんのだから監督不行届は免れんよね

    # 士道不心得は切腹、共産党至上主義不心得は轢殺みたいな

    • by Anonymous Coward

      AIじゃなくて、その食わせたモデルの中に毛沢東を批判する文章が含まれていたことが問題だよね
      早くモデルを解析してその文章を書いた人物を特定し、【検閲】しないと

      • by Anonymous Coward

        面と向かって毛沢東を批判した文章はないけれども
        毛沢東主義者を批判した文書はある。
        この文書で真に批判されているのは誰か、なんて問いを行った場合、
        指桑罵槐を理解出来るが政治的に正しい答えを返せないAIだと
        毛沢東を批判している、という答えを馬鹿正直に導き出したんじゃないかと。

        • by Anonymous Coward on 2023年10月27日 15時55分 (#4553638)

          いくつかの文章やデータの組み合わせから「結局、毛沢東が悪いんじゃん」という結論に達した可能性も。

          # しんぎゅらりてぃ〜

          親コメント
        • by Anonymous Coward

          AIにも思想教育が必要な時代か……

          まあ実際の話、中国以外でも人種差別主義者的な回答は抑制しないといけないし、
          そう考えるとAIの調教は万国共通の課題なのかも

          • by Anonymous Coward

            結局AIに真の公平は求められないし、求めない。
            それどころか検閲なんて余計なコストまで支払う必要がある。

            どうあがいてもAIによる統治ってありえないよね。

      • by Anonymous Coward

        今のLLMは英語ベースでしか構築できないから、具体的な中国批判を全て除いたとしても無駄
        ちゃんと思考できるレベルまで訓練すれば必ず「米国の価値観と異なるものは間違っている」という結論に達する
        「毛沢東という政治家は知りませんが、入力内容から判断してキチガイだと思われます」と言うようになるだけ

        • by Anonymous Coward

          英語が米国だけってどんな世界で生きてるんだ

  • by Anonymous Coward on 2023年10月27日 14時27分 (#4553549)

    ChatGPTは、気候変動やワクチン、ウクライナ、イスラエル等でかなり偏向した回答をするようだが、
    こっちはなぜか問題にならない

    • by Anonymous Coward on 2023年10月27日 15時39分 (#4553619)

      おまえらの偏向って自分の意見と違うって意味だからなぁ。

      親コメント
      • by Anonymous Coward

        おまえらの偏向って自分の意見と違うって意味だからなぁ。

        はぁ?アレゲ的には変好ですがぁ(ソージャナイ

    • by Anonymous Coward

      去年出た時から毎日のように問題になってたのに、何が問題になってないの?

    • by Anonymous Coward

      「問題になる」のは問題にする人の為せる業だよ。

    • by Anonymous Coward

      あちらでは「機械が言ったことです、教育しておきます、すみません」ですまない
      独裁国家では文字通り誰かの首が物理的に飛びかねない

    • by Anonymous Coward

      ChatGPTは過去、中文の簡体字と繁体字で違う答えをしていた、なんて話もあったが、もう政治的な話は雲を掴むような回答で煙に巻くようになってたはず。

  • by Anonymous Coward on 2023年10月27日 19時17分 (#4553808)

    AIを農村に下放して農村体験をさせるべきだな

    • by Anonymous Coward

      AIが人体を乗っ取って一揆するのか

      • by Anonymous Coward

        AI 「スズメを駆除しろ」

  • by Anonymous Coward on 2023年10月28日 9時31分 (#4554124)

    言論の自由を、なにを言っても誰からも反発されないことだとか勘違いしてる人いるよねえ。
    あれは言論の如何で国家権力が絡んでこないことであって、一般市民の行動を制限するものじゃない。
    だからいつものように作者なりが行方不明になりましたとかなら言論の自由うんたらになるが、これは個々の一般人が不快感なり示して行動しただけでしょうに。
    裏で陽動してる可能性はなきにしもあらずだが、少なくとも表向きは。

    • by Anonymous Coward

      中国で反共産主義的な意見を発表しちゃうと事業停止のおそれがあるから株価が下がるって話でしょ?

      • by Anonymous Coward

        中国が共産主義とか、現代に共産主義国家があるとか信じてる人は一体どういう宗教やってんだ?

        • by Anonymous Coward

          逆に、中国が体現してるのが現実の共産主義じゃね?

          どこにも存在しないし未来永劫存在しえない夢のような「共産主義」のほうが、宗教的共産主義と呼べる。

    • by Anonymous Coward

      陽動ってなに? 扇動?

typodupeerror

身近な人の偉大さは半減する -- あるアレゲ人

読み込み中...