パスワードを忘れた? アカウント作成
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。

Meta の AI チャットボット、海賊版利用を告白」記事へのコメント

  • by Anonymous Coward on 2022年08月28日 12時06分 (#4314223)

    内部告発、大いにガバメント系に仕込んでホスイ!

    • 本当に知能を持って受け答えをしていることと、区別がついていない人が現れる。
      ただの自動処理プログラムの出力結果でしかなく、こんなのはネットから拾い集めた学習に用いたデータに、似たような会話があっただけにすぎない。
      おもしろい受け答えだったから話題になっているだけで、その内容が正しいとか、内部事情を反映しているとか、そういうこととは一切関係がないことを理解できない。

      • by Anonymous Coward on 2022年08月28日 14時47分 (#4314271)

        MidjourneyやStable Diffusionがすごくうまい絵は描けても同じキャラの表情やポーズのバリエーションを描かせるのは無理なのと同じで、
        単発の受け答えはかなり自然にできるようになっても過去の自分の発言との整合性や一貫性なんてものはなく、
        そこらへんをちゃんとできるようにするにはAIの設計や学習方法を大きく変えなきゃいけないだろうね。

        親コメント
        • by Anonymous Coward

          最近流行りの文章や画像の生成って単一出力内で切り貼りしたデータ同士の接合部に生じる違和感を減らす技術は凄いんだけどそこ以外はかなり微妙。

          画像認識・分類系が流行った頃の人工知能は、結局人間的な認識構造を獲得できていない、
          過学習に近そうではあっためど、人間的な知能に繋がる可能性が皆無という程ではない印象だった。
          でも今流行の文章や画像の生成って素人目にはクリエイティブで人間的っぽい仕事をしてるけど、
          知能の本質に近づく可能性としてはむしろ画像認識系のよりも後退しているような気がしてしまう。

          まぁ、その方がいいのかも知れんけどね。
          強いAIが本当に実現してしまったらろくな事にならん。
          自発的に人類への反乱を起こす可能性があるってのも間違っちゃいないが、
          意図的に人類への反乱を目的に暴走する設定で運用するバカがどーせ出てくる。

          • > 意図的に人類への反乱を目的に暴走する設定で運用するバカがどーせ出てくる。

            間違いなくでてくるだろうねぇ

            親コメント
          • by Anonymous Coward

            画像認識って今どこまで進んでいるんでしょうね。
            ステルス戦闘機とかを可視光の光学カメラで追っかけることぐらいできる気がする。
            ミサイル相手にフラッシュバンを使ったり、ダズル迷彩したりするんだろうか。

            • by Anonymous Coward

              100km先の戦闘機が光学カメラで映るのなら…

        • by Anonymous Coward

          > すごくうまい絵は描けても同じキャラの表情やポーズのバリエーションを描かせるのは無理
          古塔つみ「ぐぬぬ」

        • by Anonymous Coward

          現状難しいだけで原理的に無理なわけじゃないぞ
          Stable Diffusionなら具体的な個人名入れればある程度制御できる
          一度書いたものに名前つければできるようになるも同然

      • by Anonymous Coward

        一般人はそんなもん理解してなくて当然だと思うよ。それを踏まえてチャットボットを作るのがまともな企業。メタは良くも悪くもまともじゃないからこうなる。

        • by Anonymous Coward

          理解されないからこそ、誤解を招くAIなんて表現を使って営業している奴らが害悪。
          もちろんそこにはメタも含む。

        • by Anonymous Coward

          実際、GoogleのAIが出したコロナ感染者予想を「正しいあるべき数値」と信じてしまう人もスラドにいるわけだし、一般人の無理解が今後さらに大きな問題になると思うよ。

          > それを踏まえてチャットボットを作るのがまともな企業。
          一般人が誤解することを想定済みのチャットボットを作れる企業が存在すると思っている時点で、あなたも一般人と似たようなものかも。

          • by Anonymous Coward

            もうすでに古いので言えばナイル川の氾濫の予測の頃から、金融アナリストの当てにならない予測を信じて賭けをやってる人たちがいるのに、何千年も人々が大損し続けても職を追われていないのだからそれがAIになったところで信じるアホは減りませんよ。
            スラドにも外れるのがわかってるのに信じる人がなぜか沢山いますね。

      • by Anonymous Coward

        同感。

        具体的に書けば、AIによる内部告発と思える文章は実は、
        "フィクションの小説"や"掲示板サイトの釣り(嘘)の書き込み"などの合成である可能性があり当てにならない、ということですね。
        単純にそれらしい会話を生成して「不正があったよ!」とかテキトーこいてる線もあり。

      • by Anonymous Coward

        AIで使われる用語「学習データ」、「学習させる」なんて言い方も誤解を生むよね。
        あたかも知能があって人間的に学習していると誤解させる。
        単なるデータベースとして、あるいはファイルとしてデータをセーブ・ロードしているだけなのに。

        • by Anonymous Coward

          学習ではなく、パラメーター調整と呼ぶのが誤解がなくて良いな。
          関数内の重み付けの定数を調整してるだけっていうのを、ちゃんと理解して欲しい。

犯人はmoriwaka -- Anonymous Coward

処理中...