パスワードを忘れた? アカウント作成
16727601 story
教育

アイオワ州の学区、性的表現を含む書籍を学校から排除するためChatGPTを使用 48

ストーリー by headless
活用 部門より
米アイオワ州メイソンシティの学区では、学校からの排除が必要となった性的な表現を含む書籍を抽出するため、ChatGPT を使用したそうだ (The Gazette の記事Popular Sciece の記事Ars Technica の記事The Verge の記事)。

性的な表現を含む書籍の排除は改正州法 SF 496 の成立を受けて州の教育委員会連合が勧告したものだ。SF 496 では年齢に適合する書籍のみを学校に置くよう義務付けており、州法 702 章の 17 (PDF) が定める「性行為」を描写する文章や図版を含む書籍を置くことはできない。

学区の担当者によると、教室や図書室には購入したものや寄付されたもの、忘れ物など大量の書籍があり、すべてを読んで確認することは不可能なため、AI ソフトウェアを使用したのだという。担当者は The Gazette の取材時に AI ソフトウェアの名称を明かさなかったが、Popular Science の取材に対して ChatGPT の使用を明らかにした。

担当者は同僚とともに排除を求められることの多い書籍のリストを最初に作成し、排除要求の理由が性的コンテンツでないものを除外してから ChatGPT に書籍を指定して性行為の描写が含まれるかどうか質問したという。ChatGPT の答えが「yes」の場合はその書籍を排除する。これにより、ピュリッツアー賞を受賞した「カラーパープル」を含む 19 書籍の排除が決まったとのこと。

しかし、Popular Science が排除される 19 冊について ChatGPT に性的コンテンツを含むかどうか質問したところ、露骨な性的コンテンツを含むのは 4 冊のみ。6 冊は成人向けではあるが、露骨なコンテンツとは限らない書籍であり、残り 9 冊は主に成人向けテーマであるものの、露骨な性的コンテンツはわずかまたは皆無であるとの答えが得られたそうだ。

それでもこの担当者は排除の求められる書籍の多くを読んで (そして教えて) おり、ChatGPT の回答の一部は自分の知識で確認できるという。その結果、19 冊の中で性的コンテンツを含むと判定されたことに驚くべきものはなかったとのことだ。
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • by nim (10479) on 2023年08月19日 15時36分 (#4513505)

    割合精密に規定されているけど、この規程に従うと理論的には「ブラックジャック(無免許医)が痔の手術をする」シーンがあったらアウトになるな。

    • by Anonymous Coward

      ブラックジャックにあった、幼女相手にお医者さんごっこをする男子小学生の話もアウトか。

  • これ、ものすごく単純化すると、AIに検閲を実行させたということになるんじゃないだろうか。
    まあ、やってる側からすれば良いことだと思ってそうだけど、同じやり方で特定の思想信条を検閲することも出来ちゃうことに代わりはない。

    そういう行為が安易に実行できてしまうということにちょっとした危うさを感じるね。

    --
    しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
    • by Anonymous Coward

      全くだ。人間が検証すべきだよな(つか検閲をやる側が手抜きをしてるんだよな・・・)

    • by Anonymous Coward

      真面目に取組むと「担当者に刺さる書籍群」が抽出されてしまうので、バッファをはさむことで自分の趣味を公開することを避けたのでは?

    • by Anonymous Coward

      感染の危険がある現場に人間を派遣して作業をするのではなくロボットを派遣するように
      人間が性的な表現に触れないようにAIにさせるのではないだろうか
      検閲する側が性的な表現に影響されないとは言い切れないのだから

  • by Anonymous Coward on 2023年08月19日 13時49分 (#4513459)

    聖書は排除するんだよね?
    と思ったが、学校の図書館に特定の聖書だけを入れたら政教分離に反するか。

    BingAIに聞いたら含まれてるって。

    「キリスト教の聖書には性的表現が含まれていますか?」
    「キリスト教の聖書には、性的な表現が含まれている場合があります。キリスト教会は一般的に、結婚前の性において純潔や貞操を重要視していますが、その根拠となるはずの聖書に明白な言及がないのはなぜなのかと不思議に思われるかもしれません1。ただし、聖書の内容は、文化や宗教によって異なる解釈がされることがありますので、詳しい内容については、専門家にお尋ねください。また、私はあなたが参照している特定の聖書についての知識を持っていませんので、具体的な回答をすることができません。何か他にお手伝いできることはありますか?」

    • by Anonymous Coward on 2023年08月19日 20時09分 (#4513598)

      CHatGPTにも聞いて!

      別の州ではNIが聖書を排除したようです。

      米ユタ州の学区で聖書が禁止に 「下品」「暴力的」だと親が苦情
      https://www.bbc.com/japanese/65795420 [bbc.com]

      親コメント
      • by Anonymous Coward

        その州はモルモン本が聖書扱いなんじゃねーの

    • by Anonymous Coward

      大統領が聖書に手を置いて宣誓するのに、排除なんてする訳ないよねぇ…

    • by Anonymous Coward

      旧約新約ともに、古典文学の棚に入れるか、一般教養の棚に入れるかで悩むところではある

      • by Anonymous Coward

        宗教の棚ないの?

      • by Anonymous Coward

        ライトノベルじゃないの?

        • by Anonymous Coward

          新約群はイエスをテーマにしたアンソロジーといった趣きがあるね
          こまごまとした文書まで入れると収集つかなくなるけど

          • by Anonymous Coward

            >新約群はイエスをテーマにしたアンソロジーといった趣きがあるね

            当然フィクションのね。
            まわりにクリスチャンが居ないのでよくしらないが、彼らは聖書をフィクションと思っているのか事実と思っているのかとても気になる。

    • by Anonymous Coward

      処女懐胎ってどう考えても時間停止ジャンルだよね。

      • by Anonymous Coward

        普通にNTR托卵でしょ

        旧約にはアナルも父娘3Pもあるぞ、みんなもっと聖書読め

        • by Anonymous Coward

          彼氏か旦那がいないとNTRは成立しないでしょう。

          • by Anonymous Coward

            横だが、マリア様には夫が居てだな・・・

            • by Anonymous Coward

              補足ありがとう、全然知らなかった。それはNTR以外の何物でないですね。
              つーかそんな状況で処女懐胎って無理過ぎない?
               
              ちがうの?そうじゃないの!ってか? なんかイライラするな。

              • by Anonymous Coward

                wikipediaとか読めばわかる(多分細部違う複数バージョンあるだろうが、昔買ったぶ厚い聖書はどこかに仕舞ったので確認できん)
                大工のヨゼフはマリアと婚約していた
                →マリアが妊娠
                →ヨゼフは身に覚えがなかったので「マリアが浮気したー!」と別れようとした
                →天使様がヨゼフの夢に現れてかくかくしかじか、と説明した
                →ヨゼフは信心深かったので「天使様がそう言うならオッケー」とマリアと結婚した

                なのでNTRではあるがまだ「夫」ではなかった

    • by Anonymous Coward

      俺が聞いたらなぜか回答拒否されたんだが

      https://i.imgur.com/5wQDBLZ.png [imgur.com]

      • by Anonymous Coward

        俺も回答が出たあとに上書きされて、そうなった。
        再現性があるかともう一度聞いたら、再現しなかった。

      • by Anonymous Coward

        元コメとは別のものです。
        BingのAIにどんだけURL違いのものがあるかしらないですけど、私は以下URLで3回やって、
        2回は回答ありで別な文章、3回目は回答出力途中で「回答を出すことができません」で上書きになりました(#4513621の説明に酷似)

        https://www.bing.com/search?form=NTPCHB&q=Bing+AI&showconv=1 [bing.com]
        ※「キリスト教の聖書には性的表現が含まれていますか?」を入力

        つどつど回答文生成してるんですかね。

  • by Anonymous Coward on 2023年08月19日 14時01分 (#4513463)

    このままだとアメリカの高校生(中学生)は自分たちのしているのが性的行為だと知らずに子作りに励んでそう

    • by Takahiro_Chou (21972) on 2023年08月19日 14時23分 (#4513473) 日記

      だから、ガチで、アメリカでは、下手したら前世紀から、学校で性教育をマトモにやってなくて、「結婚前にSEXしちゃいけません。子供がコンドーム買うのも禁止しましょう。中絶は殺人として扱うように法改正をしましょう」的な宗教保守派が多い地域ほど、未成年者の「望まない妊娠」が馬鹿多い事が社会問題になってんだよッ!!!!

      親コメント
      • by Anonymous Coward

        性的なこと全般オナニーだの婚前SEXだの中絶だのに強く反発してるのは主にモルモン教徒だろう
        トンガは6割モルモン教徒だが未成年者の「望まない妊娠」が社会問題になっているという話は聞かないな
        アメリカのそれほんとに宗教が原因でそんなことになってんの?強姦魔が多いだけじゃ?

        • by simon (1336) on 2023年08月21日 0時19分 (#4513936)

          性的なこと全般オナニーだの婚前SEXだの中絶だのに強く反発してるのは主にモルモン教徒だろう

          いいえ。主にキリスト教原理主義者ですよ。連中は共和党と組んで妊娠中絶を違法化しています。

          トンガは6割モルモン教徒だが未成年者の「望まない妊娠」が社会問題になっているという話は聞かないな
          アメリカのそれほんとに宗教が原因でそんなことになってんの?強姦魔が多いだけじゃ?

          それはあなたの推測が間違っているからです。モルモン教徒ではなくキリスト教原理主義が原因だからです。

          親コメント
      • by Anonymous Coward

        え、14歳まではまだ人間ではないから、間引きは殺人にはならないんじゃなかったっけ?

      • by Anonymous Coward

        カトリックは大人だってコンドームだけでなく避妊行為全般が禁止だよ
        現状、ローマ法王(ベネディクト16世)が<HIV感染の予防など特定の場合において>限定的なコンドームの利用を認めてるだけ

        Every sperm is sacred, every sperm is great.
        If a sperm is wasted, God gets quite irate.

    • by Anonymous Coward

      子供が増えていいんでね?
      アメリカは中絶禁止だしー

    • by Anonymous Coward

      アメリカ人は本を買わないって偏見?
      それとも学校の本でしか勉強しないって偏見?

  • by Anonymous Coward on 2023年08月19日 14時40分 (#4513477)

    どんな本が認定されているのだろうか…。

    • by Anonymous Coward
      とりあえず源氏物語とギリシャ神話とエジプト神話、金瓶梅にカーマスートラ…
      ひょっとしてシェイクスピアも半分くらいは引っ掛かるのではw
    • by Anonymous Coward

      現代用語の基礎知識の中の性に関する項目を切り取った司書さんでも見逃していた日本昔話全集の艶話巻とかも見破るのだろうか。

    • by Anonymous Coward

      AIが判断する性的な本だから
      ジャックにプラグを挿す、みたいな記述がある本だよ

      しかしメスをジャックと書くともはやなんだかわからんな

      • by Anonymous Coward

        気に入るAI判定が出るまでAIを変える(orチューニング)するだけでは

    • by Anonymous Coward

      3.5か4か書いてないし両者で相当の性能の違いがあるというのは聞いているので場違いな話になるかもしれないが
      3.5を使っているかぎりで言うと、こういう質問をした場合に「本当にそれで合ってる?」と再度問いかけると
      「すみません。以前の回答に誤りがありました。正しくは・・・」と勝手にまた異なった回答を返してくることが多い。
      そして修正したはずの回答ですら誤っていることが多くてまったく当てにならない。
      再々度問うとまた元に戻ったりする。
      利用者自身できちんとした出典に当たるなりして必ず正答かどうかを確認する作業が必須・・・これが現状のChatGPTのレベルだと認識している。
      この事例でもそうだけど、日本でも公の場での利用推進が叫ばれているのだが、なんでこんなポンコツをよりにもよって「業務」に使おうと思うのか?
      4はそんなに信頼性が増しているの?

    • by Anonymous Coward

      芥川賞受賞作だと『太陽の季節』は確実

    • 「性」的なのだからエッチではなく(LGBTQ含めて)性が出てきたらアウトだ。

  • by Anonymous Coward on 2023年08月19日 17時43分 (#4513546)

    類似の手法使い出すのでは?

    • by Anonymous Coward

      で基準は全部、選考委員(怪しいNPO)のお気持ちw

  • by Anonymous Coward on 2023年08月20日 1時50分 (#4513663)

    それで、19書籍を読んで性的表現を含んでいないと判断した人はこの記事に存在するのですか?

  • by Anonymous Coward on 2023年08月20日 10時53分 (#4513708)

    宗教はポルノなんだから

  • by Anonymous Coward on 2023年08月20日 17時29分 (#4513805)

    質問する時「図書館の蔵書の中で子供に不適切な表現がある本を区別したいので…」みたいな
    枕詞をつければChatGPTに妖しい本のリストを挙げてもらう事が出来るというわけですね!

    世界中の子供の将来の為にエロい情報の収集をお願いしますっっっ!!>OpenAI

  • by Anonymous Coward on 2023年08月21日 16時28分 (#4514177)

    当たり前だが本のタイトルだけ与えても幻覚が生じるだけだろうから、(プラグインとかで?)あらすじをネットから拾わせ、それを入力として二項分類させたってことなんだろうか

typodupeerror

「科学者は100%安全だと保証できないものは動かしてはならない」、科学者「えっ」、プログラマ「えっ」

読み込み中...