柿沼　太一 on Twitter: "わいせつ画像を出力する可能性が高いAIモデルを公開・提供したり、同モデルを利用したサービスを提供する行為は、わいせつ物頒布等罪（刑法175条）に該当するか。＊以下日本法を前提とします。"

テクノロジーカテゴリーの変更を依頼記事元:

206 usersがブックマークコメント

柿沼　太一 on Twitter: "わいせつ画像を出力する可能性が高いAIモデルを公開・提供したり、同モデルを利用したサービスを提供する行為は、わいせつ物頒布等罪（刑法175条）に該当するか。＊以下日本法を前提とします。"

わいせつ画像を出力する可能性が高いAIモデルを公開・提供したり、同モデルを利用したサービスを提供す... わいせつ画像を出力する可能性が高いAIモデルを公開・提供したり、同モデルを利用したサービスを提供する行為は、わいせつ物頒布等罪（刑法175条）に該当するか。＊以下日本法を前提とします。

ignio わいせつ画像をユーザーの入力によって高い頻度で出力する可能性があるソフトウェアが違法だとすると、お絵かきソフトが全滅する可能性があるからな。

2022/12/10 リンク

deztecjp 柿沼さんに弁護を頼んだらこう主張してくださるであろう、ということはわかった。実際に裁判となった場合に判決がどうなるかは、柿沼さんの書きぶりからしても、そう確実ではないのだな、と私は認識した。

cinefuk FLmask裁判（モザイクをデコードするソフトウェアがわいせつ物頒布幇助に問われた）は、不当判決だと未だに思っている

ustam それよりも、ビットコインのブロックチェーンに児童ポルノのURLを書き込むと永遠に削除も編集もできないんだけど、そしたらブロックチェーンの公開が違法になるのでは？　誰かやってみる人はいないの？

filinion AIでわいせつ画像を出力して頒布したら犯罪だろうが、AIそのものが違法にはならない。絵筆と同じだ。

2022/12/11 リンク

sds-page それっぽいキーワードでわいせつ画像が出力されたらアウトっていうならGoogleの方が手っ取り早くわいせつ画像を入手できるのでは

maninthemiddle わいせつ図画に特化して訓練されてるならともかく、汎用的な画像生成AIは中立な道具と判断してほしいところ。

slkby ややこしい。しかしこれまでもインターネットで容易に海外のコンテンツにアクセスできてたのに、作成も容易になるとますます175条が形骸化するな。

2023/03/01 リンク

misshiki “わいせつ画像を出力する可能性が高いAIモデルを公開・提供したり、同モデルを利用したサービスを提供する行為は、わいせつ物頒布等罪（刑法175条）に該当するか。”

2022/12/12 リンク

aquatofana AIの合法違法は別として、お絵かきばりぐっどくんを試したら「女性を意味する普通の単語」を入れると高確率で「見せられない」画像を出力してくる(男性はそうでもなかった)のはなぜかを考えても良いのではとは思う。

gnoname ではなんでdlsiteが出力した作品のモザイク無しでブチギレたり、一昔前にエロゲの無修正版を海外鯖で公式に売ってた企業が逮捕されたんでしょうね……？

kazuau 生成物の頒布にはなんら関与してないし、生成自体は合法、でいいんじゃないの? 児ポがらみだと別な論点がありそうではあるけど。

yamamototarou46542 日本の裁判官界に閉鎖的・保守的傾向があったとしたときに、それがどのように働くかは興味深いな／官僚は権力を増やすことを自己目的とするものだから、どういう理屈を捏ね上げても驚かんぞ

oooooo

tick2tack “「AIを入手する者のうち例外的とはいえない範囲の者が同AIをわいせつ物頒布等罪に利用する蓋然性が高い」といえるかどうか” 頒布する人はそれほど多くないだろうと

sqrt 技術論はともかく法律論としては、「けしからんクエリを入れたら猥褻が出てくるAIモデル」って「特定のパスワードを入れたら猥褻が出てくる鍵付きzip」と外形的にはあまり違わなくない？　法律よく知らんけど

kiyo_hiko 童貞からするとセックスしまくってる一般人が猥褻を憎む理由がわからん。食べ歩き大好きな人達が食べログを憎むような不思議な風景に見える。175条廃止してくれよ日本

atohiro 「わいせつ画像を描く可能性のあるAI（人工知能）」と、「わいせつ画像を描く可能性のある人間」の違いって何だろうと思った。

sisya 無理がある。「可能ではあるがまだ果たされていない」という可能性を取り締まってしまうと、アプリも禁止になってしまうし、絵がうまいだけの人も取り締まられてしまう。拡大解釈しすぎという印象。

enderuku これ系で思うんだけど。自キャラを自由に作れるソフトが出たらキリトとか自由に作れるわけじゃん。自キャラを作って公開したら著作権法違反になるとかあんのかな。

nakamura-kenichi 法律で遊ぶな。ってえか、法解釈こそAIでやったら最適な回答が得られそうやな。阿る裁判官とかご都合弁護士とかこそAIで失職すりゃあええんかもな。法は社会で「人が」不利益を被らず生きる為の理やからな。

bean_hero わいせつ画像の出力を未然に防ぐために高度にわいせつ画像を学習したフィルタリング用のAIが必要になるのかな

mohno 「AIモデルの場合は、モデル内にわいせつ画像が蓄積されているわけではない」←んー、でも、“学習”させているのでは。猥褻画像を暗号化して保存したら大丈夫とかあるの？

sho となると次の議論は「わいせつ画像を出力可能とする呪文の流布」の是非だな。わいせつな単語を含まない高度な呪文だったりするとさらにややこしくて面白そう

guldeen 長い連ツイだが、現状は『包丁』扱い(適切な使用範囲なら取締られる事はない)って事ね。そも人間ですら『わいせつ性の判断』はブレるし、機械が自主的に判別できるハズもない(砂漠の写真とヌードのAI混同例があるし)

はてなブックマーク

柿沼　太一 on Twitter: "わいせつ画像を出力する可能性が高いAIモデルを公開・提供したり、同モデルを利用したサービスを提供する行為は、わいせつ物頒布等罪（刑法175条）に該当するか。＊以下日本法を前提とします。"

記事へのコメント70件

関連記事