パスワードを忘れた? アカウント作成
15791703 story
グラフィック

中国製の画像生成AIでは天安門広場は生成できない 23

ストーリー by nagazou
NGワード 部門より
最近では画像生成AIが流行っているが、中国のBaiduが新たに開発した画像生成AI「ERNIE-ViLG」では、既存のAIよりも正確に中国固有の歴史的なモノや有名人を示す画像を生成できるそうだ。MIT Technology Reviewの記事によれば、DALL-E 2やほかの欧米製画像生成AIよりも優れたアニメ絵が作れるという。ERNIE-ViLGは同社の自然言語処理の大規模プロジェクトであるWenxinの一環として開発された。この画像生成AIでは1億4500万の画像とテキストのペアのデータセットでトレーニングされたとされる(MIT Technology Review)。

8月下旬にこのソフトウェアのデモ版が公開されると、ユーザーたちはすぐに政治指導者の名前が含まれた単語や、政治的かつ議論を呼びそうな単語などを入力する実験がおこなわれたようだ。その結果、こうした特定の単語は「センシティブ」というラベルを付けられて、結果を生成できないようになっていたことが判明したとのこと。記事では中国の高度なネット検閲システムは、AIの最新トレンドにも及んでいるようだと述べている。

具体的にダメだった単語としては「天安門広場」や「革命」、中国でVPNサービスを使用するための暗喩である「壁を登る」といった言葉、BaiduのCEOであるYanhong (Robin) Li氏の名前などがあった模様。なお「民主主義」や「政府」などの単語自体は入力できるが、「民主主義中東」や「英国政府」などを組み合わせた場合はアウトであるらしい。
  • 「民主主義」には中国の全国人民代表大会の様子を、「天安門 デモ」には暴徒にしか見えない連中の画像を、「民主主義 アメリカ」「民主主義 イギリス」「民主主義 日本」には、アメリカやイギリスや日本の中で一番治安が悪そうな地域か、アメリカの歴代大統領やイギリスや日本の歴代首相の中で阿呆っぽい外見のヤツの絵を表示するように教育すると思う。

    ここに返信
  • by Anonymous Coward on 2022年09月16日 19時02分 (#4327779)

    赤いチョッキ着た黄色いクマと陽気なトラが並んで歩いている様子
    は生成できるか試した?

    ここに返信
    • by Anonymous Coward

      固有名詞を避けろとな
      中国人の青年が、自国の戦車の列に向き合って立って、列を止めている
      とかは出来るのだろうかなあ

  • by Anonymous Coward on 2022年09月16日 19時25分 (#4327795)

    「革命」って単語がNGって、今の中国人は自分たちの国の建国がどういう過程でなされたと思っているんだろう。
    あと、文化大革命の立場は? 今は否定されてるんだっけ?
    まあ、革命によって成立した国の政権が長く続けば、次世代の革命軍によって打倒されるものなのかもしれないけど。

    ここに返信
    • by Anonymous Coward

      あの国、反日、反米も時として規制対象になるらしいね
      加熱しすぎると国の対応が生ぬるいと批判の矛先が政府に向くことを恐れてるらしいとか
      ワケワカンネ

    • by Anonymous Coward

      大悪人孔子の名前をつけた孔子学院を外国に作りまくってるなんて外国人を馬鹿にしてるよな
      ところで四人組はNGワード

  • by Anonymous Coward on 2022年09月16日 20時07分 (#4327828)

    中国を革命する力を!

    #天安門64

    ここに返信
  • by Anonymous Coward on 2022年09月16日 20時23分 (#4327842)

    天安門事件の話の度に20世紀最大の虐殺たる大躍進政策や文化大革命と比べれば生ぬるいと言ってるが、「革命」が入ってるね。
    共産主義者が革命を否定するってのは不思議。
    「反革命」とか昔は人気の粛清ワードだったのにね。

    それは置いといて中国は大量のデータセット集めるみたいな事業ではやっぱ強いね。
    日本もニコニコなりPixivなりがやる気ならそれなりにはなるだろうけど。
    「中国も頑張ってるね」くらいの状況ならまだ良いけど、今後中国無しでは成り立たないくらいになって共産主義汚染したようなAIに頼らないといけない時代が来ると大変だ。
    廉価帯のスマホやスマートウォッチなんてそんな感じだし。
    まぁディープラーニングではせいぜいワードベースのフィルタリングくらいしかできないようだからそう警戒することもないが。

    ここに返信
    • by Anonymous Coward

      いまの中国って共産主義なんですか?

      • by Anonymous Coward

        横だが、日本と同じ拝金共産主義でした
        ちなみに日本の拝金共産主義制は崩壊し、拝金主義だけが残りました

        • by Anonymous Coward

          拝金主義は残ってないよ
          共産主義も残ってるかは疑わしいけど

          残ってたら「失われた50年」なんてバカなこと言えないでしょ

          • by Anonymous Coward

            我々は等しくお金を拝んでいんのだが、お金はお互いが大好きなので、この50年でお金持ちはますますお金持ちになったのでした。富は有限なので、貧乏人は必然的に増加しました

            • by Anonymous Coward

              お金は、運用しなければ増えていかないからね。
              銀行口座に入れて、毎日通帳を拝むだけでは増えるはずがない。

              たまにシャドウバンクで痛い目にあったりもするが、それでもみな運用が大好き。

    • by Anonymous Coward

      只のディープラーニングではそうかも知れないが、トランスフォーマーとか使えば、「天安門事件」を指し示す語の連なりを検出出来そうではある
      教師信号が必要だからアノテーションしなければならないだろうが、アノテーションする人間なら沢山居るのではないかな

  • by Anonymous Coward on 2022年09月17日 21時48分 (#4328269)

    「日本が作った中華人民共和国政府」だということを、もっと世界中にアピールするべき。

    ここに返信
typodupeerror

弘法筆を選ばず、アレゲはキーボードを選ぶ -- アレゲ研究家

読み込み中...