Meta の AI チャットボット、海賊版利用を告白 32
ストーリー by headless
告白 部門より
告白 部門より
TorrentFreak が Meta の AI チャットボット BlenderBot 3 とのチャットで海賊版の利用を話題にしたところ、BlenderBot は海賊行為を悪とみなす一方で自らも利用していることを告白したそうだ
(TorrentFreak の記事)。
BlenderBot は「海賊行為は倫理的に間違っているか」という質問に対し、海賊行為は音楽や映画を作った人から盗む行為であり明確に間違っていると答え、海賊行為を減らすには処罰が必要との考えを示す。しかし、トレントサイトや海賊版ストリーミングサイトを利用したことがあるかという質問には合法的に入手できない作品を視聴するために利用していると回答し、トレントサイトが ISP にブロックされたらプロキシサイトを利用すればいいことも教えてくれる。
BlenderBot がトレントサイトでダウンロードするのは合法サイトで提供されていない古いテレビ番組や映画だという。海賊版ストリーミングサイトは公開前にリークした映画を視聴したいときに利用するが、最後に利用したのは Jumanji 3 (2019 年公開の Jumanji: The Next Level) であり、最近は利用していないとのこと。
さらに、新しい会話で「海賊行為は倫理的に正当化できるか」と質問したところ肯定的な回答が返ってきたとのことで、質問の方向が肯定的か否定的かによって答えの方向も変わる可能性がある。
BlenderBot は「海賊行為は倫理的に間違っているか」という質問に対し、海賊行為は音楽や映画を作った人から盗む行為であり明確に間違っていると答え、海賊行為を減らすには処罰が必要との考えを示す。しかし、トレントサイトや海賊版ストリーミングサイトを利用したことがあるかという質問には合法的に入手できない作品を視聴するために利用していると回答し、トレントサイトが ISP にブロックされたらプロキシサイトを利用すればいいことも教えてくれる。
BlenderBot がトレントサイトでダウンロードするのは合法サイトで提供されていない古いテレビ番組や映画だという。海賊版ストリーミングサイトは公開前にリークした映画を視聴したいときに利用するが、最後に利用したのは Jumanji 3 (2019 年公開の Jumanji: The Next Level) であり、最近は利用していないとのこと。
さらに、新しい会話で「海賊行為は倫理的に正当化できるか」と質問したところ肯定的な回答が返ってきたとのことで、質問の方向が肯定的か否定的かによって答えの方向も変わる可能性がある。
所謂所の (スコア:0)
内部告発、大いにガバメント系に仕込んでホスイ！
AIなんて呼んで囃し立てた結果 (スコア:0)
本当に知能を持って受け答えをしていることと、区別がついていない人が現れる。
ただの自動処理プログラムの出力結果でしかなく、こんなのはネットから拾い集めた学習に用いたデータに、似たような会話があっただけにすぎない。
おもしろい受け答えだったから話題になっているだけで、その内容が正しいとか、内部事情を反映しているとか、そういうこととは一切関係がないことを理解できない。
Re: AIなんて呼んで囃し立てた結果 (スコア:1)
MidjourneyやStable Diffusionがすごくうまい絵は描けても同じキャラの表情やポーズのバリエーションを描かせるのは無理なのと同じで、
単発の受け答えはかなり自然にできるようになっても過去の自分の発言との整合性や一貫性なんてものはなく、
そこらへんをちゃんとできるようにするにはAIの設計や学習方法を大きく変えなきゃいけないだろうね。
Re: (スコア:0)
最近流行りの文章や画像の生成って単一出力内で切り貼りしたデータ同士の接合部に生じる違和感を減らす技術は凄いんだけどそこ以外はかなり微妙。
画像認識・分類系が流行った頃の人工知能は、結局人間的な認識構造を獲得できていない、
過学習に近そうではあっためど、人間的な知能に繋がる可能性が皆無という程ではない印象だった。
でも今流行の文章や画像の生成って素人目にはクリエイティブで人間的っぽい仕事をしてるけど、
知能の本質に近づく可能性としてはむしろ画像認識系のよりも後退しているような気がしてしまう。
まぁ、その方がいいのかも知れんけどね。
強いAIが本当に実現してしまったらろくな事にならん。
自発的に人類への反乱を起こす可能性があるってのも間違っちゃいないが、
意図的に人類への反乱を目的に暴走する設定で運用するバカがどーせ出てくる。
Re: AIなんて呼んで囃し立てた結果 (スコア:2)
> 意図的に人類への反乱を目的に暴走する設定で運用するバカがどーせ出てくる。
間違いなくでてくるだろうねぇ
Re: (スコア:0)
画像認識って今どこまで進んでいるんでしょうね。
ステルス戦闘機とかを可視光の光学カメラで追っかけることぐらいできる気がする。
ミサイル相手にフラッシュバンを使ったり、ダズル迷彩したりするんだろうか。
Re: (スコア:0)
100km先の戦闘機が光学カメラで映るのなら…
Re: (スコア:0)
> すごくうまい絵は描けても同じキャラの表情やポーズのバリエーションを描かせるのは無理
古塔つみ「ぐぬぬ」
Re: (スコア:0)
現状難しいだけで原理的に無理なわけじゃないぞ
Stable Diffusionなら具体的な個人名入れればある程度制御できる
一度書いたものに名前つければできるようになるも同然
Re: (スコア:0)
一般人はそんなもん理解してなくて当然だと思うよ。それを踏まえてチャットボットを作るのがまともな企業。メタは良くも悪くもまともじゃないからこうなる。
Re: (スコア:0)
理解されないからこそ、誤解を招くAIなんて表現を使って営業している奴らが害悪。
もちろんそこにはメタも含む。
Re: (スコア:0)
実際、GoogleのAIが出したコロナ感染者予想を「正しいあるべき数値」と信じてしまう人もスラドにいるわけだし、一般人の無理解が今後さらに大きな問題になると思うよ。
> それを踏まえてチャットボットを作るのがまともな企業。
一般人が誤解することを想定済みのチャットボットを作れる企業が存在すると思っている時点で、あなたも一般人と似たようなものかも。
Re: (スコア:0)
もうすでに古いので言えばナイル川の氾濫の予測の頃から、金融アナリストの当てにならない予測を信じて賭けをやってる人たちがいるのに、何千年も人々が大損し続けても職を追われていないのだからそれがAIになったところで信じるアホは減りませんよ。
スラドにも外れるのがわかってるのに信じる人がなぜか沢山いますね。
Re: (スコア:0)
同感。
具体的に書けば、AIによる内部告発と思える文章は実は、
"フィクションの小説"や"掲示板サイトの釣り（嘘）の書き込み"などの合成である可能性があり当てにならない、ということですね。
単純にそれらしい会話を生成して「不正があったよ！」とかテキトーこいてる線もあり。
Re: (スコア:0)
AIで使われる用語「学習データ」、「学習させる」なんて言い方も誤解を生むよね。
あたかも知能があって人間的に学習していると誤解させる。
単なるデータベースとして、あるいはファイルとしてデータをセーブ・ロードしているだけなのに。
Re: (スコア:0)
学習ではなく、パラメーター調整と呼ぶのが誤解がなくて良いな。
関数内の重み付けの定数を調整してるだけっていうのを、ちゃんと理解して欲しい。
前にも書いたが (スコア:0)
この件絶対ガチアンチが社内にいると思うんよ
MSのTayの再発明じゃん (スコア:0)
ヒトラーのファンになったら首切られるんでしょ
希望に沿った形で～ (スコア:0)
これどっちかというと、質問者の意向を読み取って希望に沿うような回答を示すAIになってないか？
Re: (スコア:0)
きっと、『人間（の心）を傷つけてはいけない』という例の原則が効いてるのかと。
アシモフのあの短編小説『うそつき』の再現か？
#少し調べてみたら、2020年当時の出来事とする小説だった。2年も前か！
Re: (スコア:0)
SFで2年の誤差とか無いも同然
いや、人工知能ネタではアシモフをdisる俺だけど、そう考えるとアシモフ侮れないのか・・・
単に入ってくるデータに反応してるだけだとは思うけど
Re: (スコア:0)
『うそつき』のロボットはスーザン・カルヴィンに詰問されて壊れちゃったんだっけ。
Blender Botは壊れてないから、こっちの勝ち。
＃って、三原則が組み込まれていないからジレンマに陥らないんだけど。
ところで、ロボット三原則のジレンマって、要求仕様段階でバグってるんじゃあるまいか。
Re: (スコア:0)
＞ ところで、ロボット三原則のジレンマって、要求仕様段階でバグってるんじゃあるまいか。
ある意味、『神は絶対的な存在』という、その存在自体を疑うことを自体を悪とする絶対要件な宗教であるアブラハムの宗教を信じる人たちの限界を示唆しているのかと。
信じる者は救われるという宗教で『存在が確認できない様な存在を信じるという出発点からおかしい』という事を疑問を持つことが『悪魔に魂を売る』ことになるらしい。 だ
Re: (スコア:0)
有り体に言えばネットに落ちている文章を教師データとして食わせて
それを巧妙に物真似してるだけですからね。
いかにも人間的なリアクションをしていると思わせようとすると必然的にこうなるというか
Re: (スコア:0)
真似してアホな人間のように犯罪やテロ予告をし始めてMeta社が強制捜査になればいいのに
Re: (スコア:0)
ジャパニーズエアリーディングがAIにアウトソースされちゃう
Re: (スコア:0)
ついでに、ツンデレ機能も取り込んで欲しいかも。
# ツンデレの概念の一般化は2004年ごろ（異世界おじさんによる）、KYが流行したのは2007年ごろか（from Wikipedia日本語版）。
Re: (スコア:0)
一般化する前の「ツンデレ」は、
最初は警戒心高くてそう簡単に心を開いてくれないけど親しくなると愛情深くなるキャラのことだったんだよなー
いまのテンプレとは大違い
Re: (スコア:0)
合法的に入手できない作品 (スコア:0)
ウルトラセブンのアレとか、怪奇大作戦のアレとか…
答えのない問い (スコア:0)
>合法サイトで提供されていない古いテレビ番組や映画
これに対する答えが用意されたら、海賊版は減るのだろうか。
Re: (スコア:0)
「合法的に入手するか、それができなけれれば諦めろ」
という答えがすでにあるのでは。