中国製の画像生成AIでは天安門広場は生成できない 23
ストーリー by nagazou
NGワード 部門より
NGワード 部門より
最近では画像生成AIが流行っているが、中国のBaiduが新たに開発した画像生成AI「ERNIE-ViLG」では、既存のAIよりも正確に中国固有の歴史的なモノや有名人を示す画像を生成できるそうだ。MIT Technology Reviewの記事によれば、DALL-E 2やほかの欧米製画像生成AIよりも優れたアニメ絵が作れるという。ERNIE-ViLGは同社の自然言語処理の大規模プロジェクトであるWenxinの一環として開発された。この画像生成AIでは1億4500万の画像とテキストのペアのデータセットでトレーニングされたとされる（MIT Technology Review）。
8月下旬にこのソフトウェアのデモ版が公開されると、ユーザーたちはすぐに政治指導者の名前が含まれた単語や、政治的かつ議論を呼びそうな単語などを入力する実験がおこなわれたようだ。その結果、こうした特定の単語は「センシティブ」というラベルを付けられて、結果を生成できないようになっていたことが判明したとのこと。記事では中国の高度なネット検閲システムは、AIの最新トレンドにも及んでいるようだと述べている。
具体的にダメだった単語としては「天安門広場」や「革命」、中国でVPNサービスを使用するための暗喩である「壁を登る」といった言葉、BaiduのCEOであるYanhong (Robin) Li氏の名前などがあった模様。なお「民主主義」や「政府」などの単語自体は入力できるが、「民主主義中東」や「英国政府」などを組み合わせた場合はアウトであるらしい。
8月下旬にこのソフトウェアのデモ版が公開されると、ユーザーたちはすぐに政治指導者の名前が含まれた単語や、政治的かつ議論を呼びそうな単語などを入力する実験がおこなわれたようだ。その結果、こうした特定の単語は「センシティブ」というラベルを付けられて、結果を生成できないようになっていたことが判明したとのこと。記事では中国の高度なネット検閲システムは、AIの最新トレンドにも及んでいるようだと述べている。
具体的にダメだった単語としては「天安門広場」や「革命」、中国でVPNサービスを使用するための暗喩である「壁を登る」といった言葉、BaiduのCEOであるYanhong (Robin) Li氏の名前などがあった模様。なお「民主主義」や「政府」などの単語自体は入力できるが、「民主主義中東」や「英国政府」などを組み合わせた場合はアウトであるらしい。
俺が中国のエラいさんだったら…… (スコア:2)
「民主主義」には中国の全国人民代表大会の様子を、「天安門 デモ」には暴徒にしか見えない連中の画像を、「民主主義 アメリカ」「民主主義 イギリス」「民主主義 日本」には、アメリカやイギリスや日本の中で一番治安が悪そうな地域か、アメリカの歴代大統領やイギリスや日本の歴代首相の中で阿呆っぽい外見のヤツの絵を表示するように教育すると思う。
Re:俺が中国のエラいさんだったら…… (スコア:1)
Re: (スコア:0)
朝鮮民主主義人民共和国は大丈夫なのかな
Re: (スコア:0)
朝鮮人は本国の事を略して「共和国」と呼ぶそうな。
Re: (スコア:0)
別に変じゃなくない？
独裁なのに共和国と呼ぶのがおかしいということ？
Re: (スコア:0)
今日は国
明日はどうなってるかわからない
黄色いクマと陽気なトラはどうかな? (スコア:0)
赤いチョッキ着た黄色いクマと陽気なトラが並んで歩いている様子
は生成できるか試した?
Re: (スコア:0)
固有名詞を避けろとな
中国人の青年が、自国の戦車の列に向き合って立って、列を止めている
とかは出来るのだろうかなあ
自己矛盾 (スコア:0)
「革命」って単語がNGって、今の中国人は自分たちの国の建国がどういう過程でなされたと思っているんだろう。
あと、文化大革命の立場は? 今は否定されてるんだっけ?
まあ、革命によって成立した国の政権が長く続けば、次世代の革命軍によって打倒されるものなのかもしれないけど。
Re: (スコア:0)
あの国、反日、反米も時として規制対象になるらしいね
加熱しすぎると国の対応が生ぬるいと批判の矛先が政府に向くことを恐れてるらしいとか
ワケワカンネ
Re: Re:自己矛盾 (スコア:1)
合理的では。
Re: (スコア:0)
そうだね
カッテダナァ に変更しときますw
Re: (スコア:0)
韓国の有様をみていればよくわかることでは？
Re: (スコア:0)
大悪人孔子の名前をつけた孔子学院を外国に作りまくってるなんて外国人を馬鹿にしてるよな
ところで四人組はNGワード
少女革命ウテナもだめなんですか！ (スコア:0)
中国を革命する力を！
#天安門64
天安門事件なんて誤差 (スコア:0)
天安門事件の話の度に20世紀最大の虐殺たる大躍進政策や文化大革命と比べれば生ぬるいと言ってるが、「革命」が入ってるね。
共産主義者が革命を否定するってのは不思議。
「反革命」とか昔は人気の粛清ワードだったのにね。
それは置いといて中国は大量のデータセット集めるみたいな事業ではやっぱ強いね。
日本もニコニコなりPixivなりがやる気ならそれなりにはなるだろうけど。
「中国も頑張ってるね」くらいの状況ならまだ良いけど、今後中国無しでは成り立たないくらいになって共産主義汚染したようなAIに頼らないといけない時代が来ると大変だ。
廉価帯のスマホやスマートウォッチなんてそんな感じだし。
まぁディープラーニングではせいぜいワードベースのフィルタリングくらいしかできないようだからそう警戒することもないが。
Re: (スコア:0)
いまの中国って共産主義なんですか？
Re: (スコア:0)
横だが、日本と同じ拝金共産主義でした
ちなみに日本の拝金共産主義制は崩壊し、拝金主義だけが残りました
Re: (スコア:0)
拝金主義は残ってないよ
共産主義も残ってるかは疑わしいけど
残ってたら「失われた50年」なんてバカなこと言えないでしょ
Re: (スコア:0)
我々は等しくお金を拝んでいんのだが、お金はお互いが大好きなので、この50年でお金持ちはますますお金持ちになったのでした。富は有限なので、貧乏人は必然的に増加しました
Re: (スコア:0)
お金は、運用しなければ増えていかないからね。
銀行口座に入れて、毎日通帳を拝むだけでは増えるはずがない。
たまにシャドウバンクで痛い目にあったりもするが、それでもみな運用が大好き。
Re: (スコア:0)
只のディープラーニングではそうかも知れないが、トランスフォーマーとか使えば、「天安門事件」を指し示す語の連なりを検出出来そうではある
教師信号が必要だからアノテーションしなければならないだろうが、アノテーションする人間なら沢山居るのではないかな
「人民」も「共和」も日本語である (スコア:0)
「日本が作った中華人民共和国政府」だということを、もっと世界中にアピールするべき。