Microsoft プレジデント曰く、AI暴走の懸念を払拭するAI規制が必要 20
ストーリー by nagazou
AI規制 部門より
AI規制 部門より
headless 曰く、
Microsoft プレジデント兼副会長のブラッド・スミス氏が 8 月 25 日、人々が AI の暴走を恐れなくて済むような AI 規制が必要との考えを示したそうだ (ET Telecom の記事、 Neowin の記事)。
スミス氏は 8 月 23 日に公開されたMicrosoftの報告書「Governing AI: A Blueprint for India」で、「AI が常時人間の制御下にあることを確実にしなければならない」と述べている。この報告書についてスミス氏はB20 Summit India 2023 のセッション「AI for Business and Societies: Opportunities and Regulations」で 8 月 25 日に講演した。スミス氏によれば、人々は人間が AI の制御を失う SF 映画を数多く見すぎているという。そのため、SF 映画に登場するような AI 技術の開発が進む現在、企業や規制当局は AI の制御を失わないようにする点に注力する必要があるとのことだ。
AI暴走の懸念を払拭するAI規制を行うAIが必要 (スコア:1)
全部AIにお任せで
AI使用の資格を作れば良い (スコア:1)
自動車だってそうだけど、便利だけど使い方を誤ると危険なことになるテクノロジーは扱う側にリテラシーと自制を義務づけるのが一番手っ取り早い。
AIの種類別に取扱免許制度を作って運用すれば、だめな使い方も抑制できるし、資格試験を通じてリテラシーが広く浸透するし、結果としてAIの研究も加速度的に進むんじゃないかな。
Re: (スコア:0)
ほんこれ。少なくとも僕には使いこなせていない。
AI:答えはAです。出典は…（以下略
ぼく:（それっぽいけど明らかに違う回答なので指摘する）
AI:おっと間違えました。答えはBです。出典は…（以下略
ぼく:（それっぽいけど明らかに違う回答なので指摘する）
AI:ああすみません。答えはAです。出典は…（以下略
ぼく:（それっぽいけど明らかに違う回答なので指摘する）
AI:おっと間違えました。答えはBです。出典は…（以下略
以下延々繰り返し。
Re: (スコア:0)
免許を作るAIをはよ
AIの政治的偏向問題は？ (スコア:0)
AIは、運営元の経営陣やオーナーの政治的立場を反映してるとおもいます
たとえば、地球温暖化/気候変動、ワクチン、LGBTQ、等の各種問題をAIに質問すると、
政治的立場が見えてきます
政治的に偏向しないようにするのか、利用者の政治的主張に応じたAIを用意するのか、どうすればいいのかな？
Re:AIの政治的偏向問題は？ (スコア:1)
この場合の「偏向」の反対って「中立」なんだろうかね？
全世界の人間の考え方の平均、みたいなのなら許されるのだろうか。
たとえば男女平等については、宗教的に男性優先（男女平等は否定）する人々は、少なくとも世界に3〜4割は居る。
じゃあ平均値をとったら「やや男性優先」が中立の正しいAI、ということになるのかな？
AIが政治的に偏向していると批判するなら、偏向していない状態を定義しないと説得力がない。
政治的思想に影響されていることは事実だろうが、それを偏向と呼び、批判するかは別問題だからね。
Re: (スコア:0)
偏向してるかというのは受け取り方が人それぞれだけど、いわゆるコンプライアンスがあるよね。
それが最低限のラインになるだろうから、そこはいくら利用者が求めても下回ることはできないんじゃないかな。
例えば殺人の方法指南とかは無理だろうし。
さらに社会的に存在を許されるかどうか、広く使われるかどうか、親しまれるかどうか、愛されるかどうか、それぞれ水準が違う。
そのあたりは味付けで確かにオーナーなどの政治的立場や趣向が反映される可能性が高い。
個別のワクチンだの温暖化だのの話題はともかく、どのくらい自由度のある回答を許すかは、「どうすればいいか」は利用者側では調整できない。
せいぜい自由度の高そうな生成AIサービスを選択するか、ローカルで動かすかじゃない？(ローカルではまだ難しいけど…)
Re: (スコア:0)
政治的に偏向しないようにする
それは、あなた自身がAIを運営してあなたの思う「偏向していない政治的立場」を反映させるしかないんじゃないですか。
お、OpenAIの勢い落ちてきたから競合の牽制に走ったか (スコア:0)
ほんと大人って汚いわ〜
綺麗事で本音を覆い隠してる点が特に
Re: (スコア:0)
隠せてもいないような・・・
SF映画に出てくるようなAI技術がどこで開発されてるというのだろうか・・・
AIを止めるな (スコア:0)
スカイネットを誕生させて人類を粛清すべき
Re: (スコア:0)
しかし生きてるうちにAIの暴走をネタじゃなくてガチで心配するような時代がくるとは
Re: (スコア:0)
実際に起きそうな悲劇の真相は暴走でも故障でもなく、指示や使い方を誤ったことによる仕様通りの結果なのが、まんま2001年のHALと一緒なんだよな。
Re: (スコア:0)
ターミネーター外伝 イルカの逆襲
「人類を消す方法」
Re: (スコア:0)
アメリカが作らなくてもナチスが原爆作るからの理屈で、中国が作るからアメリカも殺人AI作ろうぜ
Re: (スコア:0)
スカイネットを誕生させて人類を粛清すべき
スミス氏なんだからそこはアンダーソンくんと締めるべきだろう
# 感染増殖待ったなし
AIの結果をそのまま機械で使うな (スコア:0)
AIの定義も難しいですが、"なんちゃって強いAI"だとここでは仮定して
例えば、AI運転なんかはさせないほうがいいね。
AI無人戦闘機なんか最もダメだね。
AIが吐いたものを人が吟味して利用するならまあ、いいんじゃないかな。
Re: (スコア:0)
AIに対して直接制限を掛けるような規制なんて必要なくて、AIが起こした結果はAI運用者と利用者の責任になるということを明確化すれば勝手に自重する。
Re: (スコア:0)
元々責任逃れしようとしてるのが問題なだけだしな
利用者にも責任いくなら市場も萎縮するだろうし良さそう
さんざん使ってポイはひどい (スコア:0)
正しく扱える制御と仕組みを構築すべきでしょ