パスワードを忘れた? アカウント作成
15771635 story
変なモノ

Meta の AI チャットボット、海賊版利用を告白 32

ストーリー by headless
告白 部門より
TorrentFreak が Meta の AI チャットボット BlenderBot 3 とのチャットで海賊版の利用を話題にしたところ、BlenderBot は海賊行為を悪とみなす一方で自らも利用していることを告白したそうだ (TorrentFreak の記事)。

BlenderBot は「海賊行為は倫理的に間違っているか」という質問に対し、海賊行為は音楽や映画を作った人から盗む行為であり明確に間違っていると答え、海賊行為を減らすには処罰が必要との考えを示す。しかし、トレントサイトや海賊版ストリーミングサイトを利用したことがあるかという質問には合法的に入手できない作品を視聴するために利用していると回答し、トレントサイトが ISP にブロックされたらプロキシサイトを利用すればいいことも教えてくれる。

BlenderBot がトレントサイトでダウンロードするのは合法サイトで提供されていない古いテレビ番組や映画だという。海賊版ストリーミングサイトは公開前にリークした映画を視聴したいときに利用するが、最後に利用したのは Jumanji 3 (2019 年公開の Jumanji: The Next Level) であり、最近は利用していないとのこと。

さらに、新しい会話で「海賊行為は倫理的に正当化できるか」と質問したところ肯定的な回答が返ってきたとのことで、質問の方向が肯定的か否定的かによって答えの方向も変わる可能性がある。
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • by Anonymous Coward on 2022年08月28日 12時06分 (#4314223)

    内部告発、大いにガバメント系に仕込んでホスイ!

    • 本当に知能を持って受け答えをしていることと、区別がついていない人が現れる。
      ただの自動処理プログラムの出力結果でしかなく、こんなのはネットから拾い集めた学習に用いたデータに、似たような会話があっただけにすぎない。
      おもしろい受け答えだったから話題になっているだけで、その内容が正しいとか、内部事情を反映しているとか、そういうこととは一切関係がないことを理解できない。

      • by Anonymous Coward on 2022年08月28日 14時47分 (#4314271)

        MidjourneyやStable Diffusionがすごくうまい絵は描けても同じキャラの表情やポーズのバリエーションを描かせるのは無理なのと同じで、
        単発の受け答えはかなり自然にできるようになっても過去の自分の発言との整合性や一貫性なんてものはなく、
        そこらへんをちゃんとできるようにするにはAIの設計や学習方法を大きく変えなきゃいけないだろうね。

        親コメント
        • by Anonymous Coward

          最近流行りの文章や画像の生成って単一出力内で切り貼りしたデータ同士の接合部に生じる違和感を減らす技術は凄いんだけどそこ以外はかなり微妙。

          画像認識・分類系が流行った頃の人工知能は、結局人間的な認識構造を獲得できていない、
          過学習に近そうではあっためど、人間的な知能に繋がる可能性が皆無という程ではない印象だった。
          でも今流行の文章や画像の生成って素人目にはクリエイティブで人間的っぽい仕事をしてるけど、
          知能の本質に近づく可能性としてはむしろ画像認識系のよりも後退しているような気がしてしまう。

          まぁ、その方がいいのかも知れんけどね。
          強いAIが本当に実現してしまったらろくな事にならん。
          自発的に人類への反乱を起こす可能性があるってのも間違っちゃいないが、
          意図的に人類への反乱を目的に暴走する設定で運用するバカがどーせ出てくる。

          • > 意図的に人類への反乱を目的に暴走する設定で運用するバカがどーせ出てくる。

            間違いなくでてくるだろうねぇ

            親コメント
          • by Anonymous Coward

            画像認識って今どこまで進んでいるんでしょうね。
            ステルス戦闘機とかを可視光の光学カメラで追っかけることぐらいできる気がする。
            ミサイル相手にフラッシュバンを使ったり、ダズル迷彩したりするんだろうか。

            • by Anonymous Coward

              100km先の戦闘機が光学カメラで映るのなら…

        • by Anonymous Coward

          > すごくうまい絵は描けても同じキャラの表情やポーズのバリエーションを描かせるのは無理
          古塔つみ「ぐぬぬ」

        • by Anonymous Coward

          現状難しいだけで原理的に無理なわけじゃないぞ
          Stable Diffusionなら具体的な個人名入れればある程度制御できる
          一度書いたものに名前つければできるようになるも同然

      • by Anonymous Coward

        一般人はそんなもん理解してなくて当然だと思うよ。それを踏まえてチャットボットを作るのがまともな企業。メタは良くも悪くもまともじゃないからこうなる。

        • by Anonymous Coward

          理解されないからこそ、誤解を招くAIなんて表現を使って営業している奴らが害悪。
          もちろんそこにはメタも含む。

        • by Anonymous Coward

          実際、GoogleのAIが出したコロナ感染者予想を「正しいあるべき数値」と信じてしまう人もスラドにいるわけだし、一般人の無理解が今後さらに大きな問題になると思うよ。

          > それを踏まえてチャットボットを作るのがまともな企業。
          一般人が誤解することを想定済みのチャットボットを作れる企業が存在すると思っている時点で、あなたも一般人と似たようなものかも。

          • by Anonymous Coward

            もうすでに古いので言えばナイル川の氾濫の予測の頃から、金融アナリストの当てにならない予測を信じて賭けをやってる人たちがいるのに、何千年も人々が大損し続けても職を追われていないのだからそれがAIになったところで信じるアホは減りませんよ。
            スラドにも外れるのがわかってるのに信じる人がなぜか沢山いますね。

      • by Anonymous Coward

        同感。

        具体的に書けば、AIによる内部告発と思える文章は実は、
        "フィクションの小説"や"掲示板サイトの釣り(嘘)の書き込み"などの合成である可能性があり当てにならない、ということですね。
        単純にそれらしい会話を生成して「不正があったよ!」とかテキトーこいてる線もあり。

      • by Anonymous Coward

        AIで使われる用語「学習データ」、「学習させる」なんて言い方も誤解を生むよね。
        あたかも知能があって人間的に学習していると誤解させる。
        単なるデータベースとして、あるいはファイルとしてデータをセーブ・ロードしているだけなのに。

        • by Anonymous Coward

          学習ではなく、パラメーター調整と呼ぶのが誤解がなくて良いな。
          関数内の重み付けの定数を調整してるだけっていうのを、ちゃんと理解して欲しい。

  • by Anonymous Coward on 2022年08月28日 12時33分 (#4314235)

    この件絶対ガチアンチが社内にいると思うんよ

  • by Anonymous Coward on 2022年08月28日 13時28分 (#4314254)

    ヒトラーのファンになったら首切られるんでしょ

  • by Anonymous Coward on 2022年08月28日 13時41分 (#4314260)

    これどっちかというと、質問者の意向を読み取って希望に沿うような回答を示すAIになってないか?

    • by Anonymous Coward

      きっと、『人間(の心)を傷つけてはいけない』という例の原則が効いてるのかと。

      アシモフのあの短編小説『うそつき』の再現か?

      #少し調べてみたら、2020年当時の出来事とする小説だった。2年も前か!

      • by Anonymous Coward

        SFで2年の誤差とか無いも同然
        いや、人工知能ネタではアシモフをdisる俺だけど、そう考えるとアシモフ侮れないのか・・・
        単に入ってくるデータに反応してるだけだとは思うけど

      • by Anonymous Coward

        『うそつき』のロボットはスーザン・カルヴィンに詰問されて壊れちゃったんだっけ。
        Blender Botは壊れてないから、こっちの勝ち。
        #って、三原則が組み込まれていないからジレンマに陥らないんだけど。
        ところで、ロボット三原則のジレンマって、要求仕様段階でバグってるんじゃあるまいか。

        • by Anonymous Coward

          > ところで、ロボット三原則のジレンマって、要求仕様段階でバグってるんじゃあるまいか。

          ある意味、『神は絶対的な存在』という、その存在自体を疑うことを自体を悪とする絶対要件な宗教であるアブラハムの宗教を信じる人たちの限界を示唆しているのかと。

          信じる者は救われるという宗教で『存在が確認できない様な存在を信じるという出発点からおかしい』という事を疑問を持つことが『悪魔に魂を売る』ことになるらしい。 だ

    • by Anonymous Coward

      有り体に言えばネットに落ちている文章を教師データとして食わせて
      それを巧妙に物真似してるだけですからね。
      いかにも人間的なリアクションをしていると思わせようとすると必然的にこうなるというか

      • by Anonymous Coward

        真似してアホな人間のように犯罪やテロ予告をし始めてMeta社が強制捜査になればいいのに

    • by Anonymous Coward

      ジャパニーズエアリーディングがAIにアウトソースされちゃう

      • by Anonymous Coward

        ついでに、ツンデレ機能も取り込んで欲しいかも。

        # ツンデレの概念の一般化は2004年ごろ(異世界おじさんによる)、KYが流行したのは2007年ごろか(from Wikipedia日本語版)。

        • by Anonymous Coward

          一般化する前の「ツンデレ」は、
          最初は警戒心高くてそう簡単に心を開いてくれないけど親しくなると愛情深くなるキャラのことだったんだよなー
          いまのテンプレとは大違い

      • by Anonymous Coward
        GANってまさに何も考えないで適当なこと言うAIと空気読めよってツッコミ入れるAIを競わせる仕組みなので、結局はそういう方向にしか進化しないよ
  • by Anonymous Coward on 2022年08月28日 14時37分 (#4314266)

    ウルトラセブンのアレとか、怪奇大作戦のアレとか…

  • by Anonymous Coward on 2022年08月29日 2時51分 (#4314438)

    >合法サイトで提供されていない古いテレビ番組や映画
    これに対する答えが用意されたら、海賊版は減るのだろうか。

    • by Anonymous Coward

      「合法的に入手するか、それができなけれれば諦めろ」
      という答えがすでにあるのでは。

typodupeerror

「科学者は100%安全だと保証できないものは動かしてはならない」、科学者「えっ」、プログラマ「えっ」

読み込み中...