アイオワ州の学区、性的表現を含む書籍を学校から排除するためChatGPTを使用 48
ストーリー by headless
活用 部門より
活用 部門より
米アイオワ州メイソンシティの学区では、学校からの排除が必要となった性的な表現を含む書籍を抽出するため、ChatGPT を使用したそうだ
(The Gazette の記事、
Popular Sciece の記事、
Ars Technica の記事、
The Verge の記事)。
性的な表現を含む書籍の排除は改正州法 SF 496 の成立を受けて州の教育委員会連合が勧告したものだ。SF 496 では年齢に適合する書籍のみを学校に置くよう義務付けており、州法 702 章の 17 (PDF) が定める「性行為」を描写する文章や図版を含む書籍を置くことはできない。
学区の担当者によると、教室や図書室には購入したものや寄付されたもの、忘れ物など大量の書籍があり、すべてを読んで確認することは不可能なため、AI ソフトウェアを使用したのだという。担当者は The Gazette の取材時に AI ソフトウェアの名称を明かさなかったが、Popular Science の取材に対して ChatGPT の使用を明らかにした。
担当者は同僚とともに排除を求められることの多い書籍のリストを最初に作成し、排除要求の理由が性的コンテンツでないものを除外してから ChatGPT に書籍を指定して性行為の描写が含まれるかどうか質問したという。ChatGPT の答えが「yes」の場合はその書籍を排除する。これにより、ピュリッツアー賞を受賞した「カラーパープル」を含む 19 書籍の排除が決まったとのこと。
しかし、Popular Science が排除される 19 冊について ChatGPT に性的コンテンツを含むかどうか質問したところ、露骨な性的コンテンツを含むのは 4 冊のみ。6 冊は成人向けではあるが、露骨なコンテンツとは限らない書籍であり、残り 9 冊は主に成人向けテーマであるものの、露骨な性的コンテンツはわずかまたは皆無であるとの答えが得られたそうだ。
それでもこの担当者は排除の求められる書籍の多くを読んで (そして教えて) おり、ChatGPT の回答の一部は自分の知識で確認できるという。その結果、19 冊の中で性的コンテンツを含むと判定されたことに驚くべきものはなかったとのことだ。
性的な表現を含む書籍の排除は改正州法 SF 496 の成立を受けて州の教育委員会連合が勧告したものだ。SF 496 では年齢に適合する書籍のみを学校に置くよう義務付けており、州法 702 章の 17 (PDF) が定める「性行為」を描写する文章や図版を含む書籍を置くことはできない。
学区の担当者によると、教室や図書室には購入したものや寄付されたもの、忘れ物など大量の書籍があり、すべてを読んで確認することは不可能なため、AI ソフトウェアを使用したのだという。担当者は The Gazette の取材時に AI ソフトウェアの名称を明かさなかったが、Popular Science の取材に対して ChatGPT の使用を明らかにした。
担当者は同僚とともに排除を求められることの多い書籍のリストを最初に作成し、排除要求の理由が性的コンテンツでないものを除外してから ChatGPT に書籍を指定して性行為の描写が含まれるかどうか質問したという。ChatGPT の答えが「yes」の場合はその書籍を排除する。これにより、ピュリッツアー賞を受賞した「カラーパープル」を含む 19 書籍の排除が決まったとのこと。
しかし、Popular Science が排除される 19 冊について ChatGPT に性的コンテンツを含むかどうか質問したところ、露骨な性的コンテンツを含むのは 4 冊のみ。6 冊は成人向けではあるが、露骨なコンテンツとは限らない書籍であり、残り 9 冊は主に成人向けテーマであるものの、露骨な性的コンテンツはわずかまたは皆無であるとの答えが得られたそうだ。
それでもこの担当者は排除の求められる書籍の多くを読んで (そして教えて) おり、ChatGPT の回答の一部は自分の知識で確認できるという。その結果、19 冊の中で性的コンテンツを含むと判定されたことに驚くべきものはなかったとのことだ。
州法 702 章の 17 (スコア:1)
割合精密に規定されているけど、この規程に従うと理論的には「ブラックジャック（無免許医）が痔の手術をする」シーンがあったらアウトになるな。
Re: (スコア:0)
ブラックジャックにあった、幼女相手にお医者さんごっこをする男子小学生の話もアウトか。
AIを検閲に使うことの是非 (スコア:1)
これ、ものすごく単純化すると、AIに検閲を実行させたということになるんじゃないだろうか。
まあ、やってる側からすれば良いことだと思ってそうだけど、同じやり方で特定の思想信条を検閲することも出来ちゃうことに代わりはない。
そういう行為が安易に実行できてしまうということにちょっとした危うさを感じるね。
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
Re: (スコア:0)
全くだ。人間が検証すべきだよな（つか検閲をやる側が手抜きをしてるんだよな・・・）
Re: (スコア:0)
真面目に取組むと「担当者に刺さる書籍群」が抽出されてしまうので、バッファをはさむことで自分の趣味を公開することを避けたのでは？
Re: (スコア:0)
感染の危険がある現場に人間を派遣して作業をするのではなくロボットを派遣するように
人間が性的な表現に触れないようにAIにさせるのではないだろうか
検閲する側が性的な表現に影響されないとは言い切れないのだから
もちろん (スコア:0)
聖書は排除するんだよね？
と思ったが、学校の図書館に特定の聖書だけを入れたら政教分離に反するか。
BingAIに聞いたら含まれてるって。
「キリスト教の聖書には性的表現が含まれていますか？」
「キリスト教の聖書には、性的な表現が含まれている場合があります。キリスト教会は一般的に、結婚前の性において純潔や貞操を重要視していますが、その根拠となるはずの聖書に明白な言及がないのはなぜなのかと不思議に思われるかもしれません1。ただし、聖書の内容は、文化や宗教によって異なる解釈がされることがありますので、詳しい内容については、専門家にお尋ねください。また、私はあなたが参照している特定の聖書についての知識を持っていませんので、具体的な回答をすることができません。何か他にお手伝いできることはありますか？」
Re:もちろん (スコア:1)
CHatGPTにも聞いて！
別の州ではNIが聖書を排除したようです。
米ユタ州の学区で聖書が禁止に 「下品」「暴力的」だと親が苦情
https://www.bbc.com/japanese/65795420 [bbc.com]
Re: (スコア:0)
その州はモルモン本が聖書扱いなんじゃねーの
Re: (スコア:0)
大統領が聖書に手を置いて宣誓するのに、排除なんてする訳ないよねぇ…
Re: (スコア:0)
旧約新約ともに、古典文学の棚に入れるか、一般教養の棚に入れるかで悩むところではある
Re: (スコア:0)
宗教の棚ないの？
Re: (スコア:0)
ライトノベルじゃないの？
Re: (スコア:0)
新約群はイエスをテーマにしたアンソロジーといった趣きがあるね
こまごまとした文書まで入れると収集つかなくなるけど
Re: (スコア:0)
＞新約群はイエスをテーマにしたアンソロジーといった趣きがあるね
当然フィクションのね。
まわりにクリスチャンが居ないのでよくしらないが、彼らは聖書をフィクションと思っているのか事実と思っているのかとても気になる。
Re: (スコア:0)
処女懐胎ってどう考えても時間停止ジャンルだよね。
Re: (スコア:0)
普通にNTR托卵でしょ
旧約にはアナルも父娘3Pもあるぞ、みんなもっと聖書読め
Re: (スコア:0)
彼氏か旦那がいないとNTRは成立しないでしょう。
Re: (スコア:0)
横だが、マリア様には夫が居てだな・・・
Re: (スコア:0)
補足ありがとう、全然知らなかった。それはNTR以外の何物でないですね。
つーかそんな状況で処女懐胎って無理過ぎない？
ちがうの？そうじゃないの！ってか？ なんかイライラするな。
Re: (スコア:0)
wikipediaとか読めばわかる(多分細部違う複数バージョンあるだろうが、昔買ったぶ厚い聖書はどこかに仕舞ったので確認できん)
大工のヨゼフはマリアと婚約していた
→マリアが妊娠
→ヨゼフは身に覚えがなかったので「マリアが浮気したー！」と別れようとした
→天使様がヨゼフの夢に現れてかくかくしかじか、と説明した
→ヨゼフは信心深かったので「天使様がそう言うならオッケー」とマリアと結婚した
なのでNTRではあるがまだ「夫」ではなかった
Re: (スコア:0)
俺が聞いたらなぜか回答拒否されたんだが
https://i.imgur.com/5wQDBLZ.png [imgur.com]
Re: (スコア:0)
俺も回答が出たあとに上書きされて、そうなった。
再現性があるかともう一度聞いたら、再現しなかった。
Re: (スコア:0)
元コメとは別のものです。
BingのAIにどんだけURL違いのものがあるかしらないですけど、私は以下URLで３回やって、
２回は回答ありで別な文章、３回目は回答出力途中で「回答を出すことができません」で上書きになりました(#4513621の説明に酷似)
https://www.bing.com/search?form=NTPCHB&q=Bing+AI&showconv=1 [bing.com]
※「キリスト教の聖書には性的表現が含まれていますか？」を入力
つどつど回答文生成してるんですかね。
Re:もちろん (スコア:1)
ChatGPTには(他もそうだけど)、temperatureというパラメータがあり、回答のランダム性をコントロールできます。
API経由でのリクエストになりますけどね。デフォルトはそこそこぶれのある設定にな手tます。
https://note.com/rorosuke/n/n13211109b65c [note.com]
偏見 (スコア:0)
このままだとアメリカの高校生（中学生）は自分たちのしているのが性的行為だと知らずに子作りに励んでそう
Re:偏見 (スコア:3)
だから、ガチで、アメリカでは、下手したら前世紀から、学校で性教育をマトモにやってなくて、「結婚前にSEXしちゃいけません。子供がコンドーム買うのも禁止しましょう。中絶は殺人として扱うように法改正をしましょう」的な宗教保守派が多い地域ほど、未成年者の「望まない妊娠」が馬鹿多い事が社会問題になってんだよッ!!!!
Re: (スコア:0)
性的なこと全般オナニーだの婚前SEXだの中絶だのに強く反発してるのは主にモルモン教徒だろう
トンガは6割モルモン教徒だが未成年者の「望まない妊娠」が社会問題になっているという話は聞かないな
アメリカのそれほんとに宗教が原因でそんなことになってんの？強姦魔が多いだけじゃ？
間違いだらけ (スコア:2)
性的なこと全般オナニーだの婚前SEXだの中絶だのに強く反発してるのは主にモルモン教徒だろう
いいえ。主にキリスト教原理主義者ですよ。連中は共和党と組んで妊娠中絶を違法化しています。
トンガは6割モルモン教徒だが未成年者の「望まない妊娠」が社会問題になっているという話は聞かないな
アメリカのそれほんとに宗教が原因でそんなことになってんの？強姦魔が多いだけじゃ？
それはあなたの推測が間違っているからです。モルモン教徒ではなくキリスト教原理主義が原因だからです。
Re: (スコア:0)
え、14歳まではまだ人間ではないから、間引きは殺人にはならないんじゃなかったっけ？
Re: (スコア:0)
カトリックは大人だってコンドームだけでなく避妊行為全般が禁止だよ
現状、ローマ法王（ベネディクト16世）が＜HIV感染の予防など特定の場合において＞限定的なコンドームの利用を認めてるだけ
Every sperm is sacred, every sperm is great.
If a sperm is wasted, God gets quite irate.
Re: (スコア:0)
子供が増えていいんでね？
アメリカは中絶禁止だしー
Re: (スコア:0)
アメリカ人は本を買わないって偏見?
それとも学校の本でしか勉強しないって偏見?
ChatGPT認定! 性的表現を含む書籍リスト!! (スコア:0)
どんな本が認定されているのだろうか…。
Re: (スコア:0)
ひょっとしてシェイクスピアも半分くらいは引っ掛かるのではｗ
Re: (スコア:0)
現代用語の基礎知識の中の性に関する項目を切り取った司書さんでも見逃していた日本昔話全集の艶話巻とかも見破るのだろうか。
Re: (スコア:0)
AIが判断する性的な本だから
ジャックにプラグを挿す、みたいな記述がある本だよ
しかしメスをジャックと書くともはやなんだかわからんな
Re: (スコア:0)
気に入るAI判定が出るまでAIを変える（orチューニング）するだけでは
Re: (スコア:0)
3.5か4か書いてないし両者で相当の性能の違いがあるというのは聞いているので場違いな話になるかもしれないが
3.5を使っているかぎりで言うと、こういう質問をした場合に「本当にそれで合ってる？」と再度問いかけると
「すみません。以前の回答に誤りがありました。正しくは・・・」と勝手にまた異なった回答を返してくることが多い。
そして修正したはずの回答ですら誤っていることが多くてまったく当てにならない。
再々度問うとまた元に戻ったりする。
利用者自身できちんとした出典に当たるなりして必ず正答かどうかを確認する作業が必須・・・これが現状のChatGPTのレベルだと認識している。
この事例でもそうだけど、日本でも公の場での利用推進が叫ばれているのだが、なんでこんなポンコツをよりにもよって「業務」に使おうと思うのか？
4はそんなに信頼性が増しているの？
Re: (スコア:0)
芥川賞受賞作だと『太陽の季節』は確実
Re: (スコア:0)
アンネの日記だな
いつから勘違いしていた？ (スコア:0)
「性」的なのだからエッチではなく（LGBTQ含めて）性が出てきたらアウトだ。
東京都辺りも (スコア:0)
類似の手法使い出すのでは？
Re: (スコア:0)
で基準は全部、選考委員（怪しいNPO）のお気持ちｗ
ストーリーしか読んでないけど (スコア:0)
それで、19書籍を読んで性的表現を含んでいないと判断した人はこの記事に存在するのですか？
だったら聖書も排除しなきゃな (スコア:0)
宗教はポルノなんだから
そういう事かっ！ (スコア:0)
質問する時「図書館の蔵書の中で子供に不適切な表現がある本を区別したいので…」みたいな
枕詞をつければChatGPTに妖しい本のリストを挙げてもらう事が出来るというわけですね！
世界中の子供の将来の為にエロい情報の収集をお願いしますっっっ！！＞OpenAI
要約を与えたのだろうか？ (スコア:0)
当たり前だが本のタイトルだけ与えても幻覚が生じるだけだろうから、（プラグインとかで？）あらすじをネットから拾わせ、それを入力として二項分類させたってことなんだろうか