パスワードを忘れた? アカウント作成
16744269 story
マイクロソフト

Microsoft プレジデント曰く、AI暴走の懸念を払拭するAI規制が必要 20

ストーリー by nagazou
AI規制 部門より
headless 曰く、

Microsoft プレジデント兼副会長のブラッド・スミス氏が 8 月 25 日、人々が AI の暴走を恐れなくて済むような AI 規制が必要との考えを示したそうだ (ET Telecom の記事Neowin の記事)。

スミス氏は 8 月 23 日に公開されたMicrosoftの報告書「Governing AI: A Blueprint for India」で、「AI が常時人間の制御下にあることを確実にしなければならない」と述べている。この報告書についてスミス氏はB20 Summit India 2023 のセッション「AI for Business and Societies: Opportunities and Regulations」で 8 月 25 日に講演した。スミス氏によれば、人々は人間が AI の制御を失う SF 映画を数多く見すぎているという。そのため、SF 映画に登場するような AI 技術の開発が進む現在、企業や規制当局は AI の制御を失わないようにする点に注力する必要があるとのことだ。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • 全部AIにお任せで

  • 自動車だってそうだけど、便利だけど使い方を誤ると危険なことになるテクノロジーは扱う側にリテラシーと自制を義務づけるのが一番手っ取り早い。

    AIの種類別に取扱免許制度を作って運用すれば、だめな使い方も抑制できるし、資格試験を通じてリテラシーが広く浸透するし、結果としてAIの研究も加速度的に進むんじゃないかな。

    --
    しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
    • by Anonymous Coward

      ほんこれ。少なくとも僕には使いこなせていない。

      AI:答えはAです。出典は…(以下略
      ぼく:(それっぽいけど明らかに違う回答なので指摘する)
      AI:おっと間違えました。答えはBです。出典は…(以下略
      ぼく:(それっぽいけど明らかに違う回答なので指摘する)
      AI:ああすみません。答えはAです。出典は…(以下略
      ぼく:(それっぽいけど明らかに違う回答なので指摘する)
      AI:おっと間違えました。答えはBです。出典は…(以下略
      以下延々繰り返し。

    • by Anonymous Coward

      免許を作るAIをはよ

  • by Anonymous Coward on 2023年08月30日 7時13分 (#4519308)

    AIは、運営元の経営陣やオーナーの政治的立場を反映してるとおもいます

    たとえば、地球温暖化/気候変動、ワクチン、LGBTQ、等の各種問題をAIに質問すると、
    政治的立場が見えてきます

    政治的に偏向しないようにするのか、利用者の政治的主張に応じたAIを用意するのか、どうすればいいのかな?

    • by Anonymous Coward on 2023年08月30日 12時26分 (#4519537)

      この場合の「偏向」の反対って「中立」なんだろうかね?

      全世界の人間の考え方の平均、みたいなのなら許されるのだろうか。

      たとえば男女平等については、宗教的に男性優先(男女平等は否定)する人々は、少なくとも世界に3〜4割は居る。
      じゃあ平均値をとったら「やや男性優先」が中立の正しいAI、ということになるのかな?

      AIが政治的に偏向していると批判するなら、偏向していない状態を定義しないと説得力がない。
      政治的思想に影響されていることは事実だろうが、それを偏向と呼び、批判するかは別問題だからね。

      親コメント
    • by Anonymous Coward

      偏向してるかというのは受け取り方が人それぞれだけど、いわゆるコンプライアンスがあるよね。
      それが最低限のラインになるだろうから、そこはいくら利用者が求めても下回ることはできないんじゃないかな。
      例えば殺人の方法指南とかは無理だろうし。

      さらに社会的に存在を許されるかどうか、広く使われるかどうか、親しまれるかどうか、愛されるかどうか、それぞれ水準が違う。
      そのあたりは味付けで確かにオーナーなどの政治的立場や趣向が反映される可能性が高い。
      個別のワクチンだの温暖化だのの話題はともかく、どのくらい自由度のある回答を許すかは、「どうすればいいか」は利用者側では調整できない。
      せいぜい自由度の高そうな生成AIサービスを選択するか、ローカルで動かすかじゃない?(ローカルではまだ難しいけど…)

    • by Anonymous Coward

      政治的に偏向しないようにする

      それは、あなた自身がAIを運営してあなたの思う「偏向していない政治的立場」を反映させるしかないんじゃないですか。

  • ほんと大人って汚いわ〜
    綺麗事で本音を覆い隠してる点が特に

    • by Anonymous Coward

      隠せてもいないような・・・
      SF映画に出てくるようなAI技術がどこで開発されてるというのだろうか・・・

  • by Anonymous Coward on 2023年08月30日 8時30分 (#4519331)

    スカイネットを誕生させて人類を粛清すべき

    • by Anonymous Coward

      しかし生きてるうちにAIの暴走をネタじゃなくてガチで心配するような時代がくるとは

      • by Anonymous Coward

        実際に起きそうな悲劇の真相は暴走でも故障でもなく、指示や使い方を誤ったことによる仕様通りの結果なのが、まんま2001年のHALと一緒なんだよな。

    • by Anonymous Coward

      ターミネーター外伝 イルカの逆襲
      「人類を消す方法」

    • by Anonymous Coward

      アメリカが作らなくてもナチスが原爆作るからの理屈で、中国が作るからアメリカも殺人AI作ろうぜ

    • by Anonymous Coward

      スカイネットを誕生させて人類を粛清すべき

      スミス氏なんだからそこはアンダーソンくんと締めるべきだろう

      # 感染増殖待ったなし

  • by Anonymous Coward on 2023年08月30日 11時06分 (#4519472)

    AIの定義も難しいですが、"なんちゃって強いAI"だとここでは仮定して
    例えば、AI運転なんかはさせないほうがいいね。
    AI無人戦闘機なんか最もダメだね。
    AIが吐いたものを人が吟味して利用するならまあ、いいんじゃないかな。

    • by Anonymous Coward

      AIに対して直接制限を掛けるような規制なんて必要なくて、AIが起こした結果はAI運用者と利用者の責任になるということを明確化すれば勝手に自重する。

      • by Anonymous Coward

        元々責任逃れしようとしてるのが問題なだけだしな
        利用者にも責任いくなら市場も萎縮するだろうし良さそう

  • by Anonymous Coward on 2023年08月30日 13時10分 (#4519568)

    正しく扱える制御と仕組みを構築すべきでしょ

typodupeerror

アレゲは一日にしてならず -- アレゲ研究家

読み込み中...