アカウント名:
パスワード:
内部告発、大いにガバメント系に仕込んでホスイ!
本当に知能を持って受け答えをしていることと、区別がついていない人が現れる。ただの自動処理プログラムの出力結果でしかなく、こんなのはネットから拾い集めた学習に用いたデータに、似たような会話があっただけにすぎない。おもしろい受け答えだったから話題になっているだけで、その内容が正しいとか、内部事情を反映しているとか、そういうこととは一切関係がないことを理解できない。
MidjourneyやStable Diffusionがすごくうまい絵は描けても同じキャラの表情やポーズのバリエーションを描かせるのは無理なのと同じで、 単発の受け答えはかなり自然にできるようになっても過去の自分の発言との整合性や一貫性なんてものはなく、 そこらへんをちゃんとできるようにするにはAIの設計や学習方法を大きく変えなきゃいけないだろうね。
最近流行りの文章や画像の生成って単一出力内で切り貼りしたデータ同士の接合部に生じる違和感を減らす技術は凄いんだけどそこ以外はかなり微妙。
画像認識・分類系が流行った頃の人工知能は、結局人間的な認識構造を獲得できていない、過学習に近そうではあっためど、人間的な知能に繋がる可能性が皆無という程ではない印象だった。でも今流行の文章や画像の生成って素人目にはクリエイティブで人間的っぽい仕事をしてるけど、知能の本質に近づく可能性としてはむしろ画像認識系のよりも後退しているような気がしてしまう。
まぁ、その方がいいのかも知れんけどね。強いAIが本当に実現してしまったらろくな事にならん。自発的に人類への反乱を起こす可能性があるってのも間違っちゃいないが、意図的に人類への反乱を目的に暴走する設定で運用するバカがどーせ出てくる。
> 意図的に人類への反乱を目的に暴走する設定で運用するバカがどーせ出てくる。
間違いなくでてくるだろうねぇ
画像認識って今どこまで進んでいるんでしょうね。ステルス戦闘機とかを可視光の光学カメラで追っかけることぐらいできる気がする。ミサイル相手にフラッシュバンを使ったり、ダズル迷彩したりするんだろうか。
100km先の戦闘機が光学カメラで映るのなら…
> すごくうまい絵は描けても同じキャラの表情やポーズのバリエーションを描かせるのは無理古塔つみ「ぐぬぬ」
現状難しいだけで原理的に無理なわけじゃないぞStable Diffusionなら具体的な個人名入れればある程度制御できる一度書いたものに名前つければできるようになるも同然
一般人はそんなもん理解してなくて当然だと思うよ。それを踏まえてチャットボットを作るのがまともな企業。メタは良くも悪くもまともじゃないからこうなる。
理解されないからこそ、誤解を招くAIなんて表現を使って営業している奴らが害悪。もちろんそこにはメタも含む。
実際、GoogleのAIが出したコロナ感染者予想を「正しいあるべき数値」と信じてしまう人もスラドにいるわけだし、一般人の無理解が今後さらに大きな問題になると思うよ。
> それを踏まえてチャットボットを作るのがまともな企業。一般人が誤解することを想定済みのチャットボットを作れる企業が存在すると思っている時点で、あなたも一般人と似たようなものかも。
もうすでに古いので言えばナイル川の氾濫の予測の頃から、金融アナリストの当てにならない予測を信じて賭けをやってる人たちがいるのに、何千年も人々が大損し続けても職を追われていないのだからそれがAIになったところで信じるアホは減りませんよ。スラドにも外れるのがわかってるのに信じる人がなぜか沢山いますね。
同感。
具体的に書けば、AIによる内部告発と思える文章は実は、"フィクションの小説"や"掲示板サイトの釣り(嘘)の書き込み"などの合成である可能性があり当てにならない、ということですね。単純にそれらしい会話を生成して「不正があったよ!」とかテキトーこいてる線もあり。
AIで使われる用語「学習データ」、「学習させる」なんて言い方も誤解を生むよね。あたかも知能があって人間的に学習していると誤解させる。単なるデータベースとして、あるいはファイルとしてデータをセーブ・ロードしているだけなのに。
学習ではなく、パラメーター調整と呼ぶのが誤解がなくて良いな。関数内の重み付けの定数を調整してるだけっていうのを、ちゃんと理解して欲しい。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
犯人はmoriwaka -- Anonymous Coward
所謂所の (スコア:0)
内部告発、大いにガバメント系に仕込んでホスイ!
AIなんて呼んで囃し立てた結果 (スコア:0)
本当に知能を持って受け答えをしていることと、区別がついていない人が現れる。
ただの自動処理プログラムの出力結果でしかなく、こんなのはネットから拾い集めた学習に用いたデータに、似たような会話があっただけにすぎない。
おもしろい受け答えだったから話題になっているだけで、その内容が正しいとか、内部事情を反映しているとか、そういうこととは一切関係がないことを理解できない。
Re: AIなんて呼んで囃し立てた結果 (スコア:1)
MidjourneyやStable Diffusionがすごくうまい絵は描けても同じキャラの表情やポーズのバリエーションを描かせるのは無理なのと同じで、
単発の受け答えはかなり自然にできるようになっても過去の自分の発言との整合性や一貫性なんてものはなく、
そこらへんをちゃんとできるようにするにはAIの設計や学習方法を大きく変えなきゃいけないだろうね。
Re: (スコア:0)
最近流行りの文章や画像の生成って単一出力内で切り貼りしたデータ同士の接合部に生じる違和感を減らす技術は凄いんだけどそこ以外はかなり微妙。
画像認識・分類系が流行った頃の人工知能は、結局人間的な認識構造を獲得できていない、
過学習に近そうではあっためど、人間的な知能に繋がる可能性が皆無という程ではない印象だった。
でも今流行の文章や画像の生成って素人目にはクリエイティブで人間的っぽい仕事をしてるけど、
知能の本質に近づく可能性としてはむしろ画像認識系のよりも後退しているような気がしてしまう。
まぁ、その方がいいのかも知れんけどね。
強いAIが本当に実現してしまったらろくな事にならん。
自発的に人類への反乱を起こす可能性があるってのも間違っちゃいないが、
意図的に人類への反乱を目的に暴走する設定で運用するバカがどーせ出てくる。
Re: AIなんて呼んで囃し立てた結果 (スコア:2)
> 意図的に人類への反乱を目的に暴走する設定で運用するバカがどーせ出てくる。
間違いなくでてくるだろうねぇ
Re: (スコア:0)
画像認識って今どこまで進んでいるんでしょうね。
ステルス戦闘機とかを可視光の光学カメラで追っかけることぐらいできる気がする。
ミサイル相手にフラッシュバンを使ったり、ダズル迷彩したりするんだろうか。
Re: (スコア:0)
100km先の戦闘機が光学カメラで映るのなら…
Re: (スコア:0)
> すごくうまい絵は描けても同じキャラの表情やポーズのバリエーションを描かせるのは無理
古塔つみ「ぐぬぬ」
Re: (スコア:0)
現状難しいだけで原理的に無理なわけじゃないぞ
Stable Diffusionなら具体的な個人名入れればある程度制御できる
一度書いたものに名前つければできるようになるも同然
Re: (スコア:0)
一般人はそんなもん理解してなくて当然だと思うよ。それを踏まえてチャットボットを作るのがまともな企業。メタは良くも悪くもまともじゃないからこうなる。
Re: (スコア:0)
理解されないからこそ、誤解を招くAIなんて表現を使って営業している奴らが害悪。
もちろんそこにはメタも含む。
Re: (スコア:0)
実際、GoogleのAIが出したコロナ感染者予想を「正しいあるべき数値」と信じてしまう人もスラドにいるわけだし、一般人の無理解が今後さらに大きな問題になると思うよ。
> それを踏まえてチャットボットを作るのがまともな企業。
一般人が誤解することを想定済みのチャットボットを作れる企業が存在すると思っている時点で、あなたも一般人と似たようなものかも。
Re: (スコア:0)
もうすでに古いので言えばナイル川の氾濫の予測の頃から、金融アナリストの当てにならない予測を信じて賭けをやってる人たちがいるのに、何千年も人々が大損し続けても職を追われていないのだからそれがAIになったところで信じるアホは減りませんよ。
スラドにも外れるのがわかってるのに信じる人がなぜか沢山いますね。
Re: (スコア:0)
同感。
具体的に書けば、AIによる内部告発と思える文章は実は、
"フィクションの小説"や"掲示板サイトの釣り(嘘)の書き込み"などの合成である可能性があり当てにならない、ということですね。
単純にそれらしい会話を生成して「不正があったよ!」とかテキトーこいてる線もあり。
Re: (スコア:0)
AIで使われる用語「学習データ」、「学習させる」なんて言い方も誤解を生むよね。
あたかも知能があって人間的に学習していると誤解させる。
単なるデータベースとして、あるいはファイルとしてデータをセーブ・ロードしているだけなのに。
Re: (スコア:0)
学習ではなく、パラメーター調整と呼ぶのが誤解がなくて良いな。
関数内の重み付けの定数を調整してるだけっていうのを、ちゃんと理解して欲しい。