実在児童に酷似した性的画像、生成ＡＩで作成か…ネット上で追加学習用データを売買

世の中カテゴリーの変更を依頼記事元:

www.yomiuri.co.jp

189 usersがブックマークコメント

実在児童に酷似した性的画像、生成ＡＩで作成か…ネット上で追加学習用データを売買

【読売新聞】　画像生成ＡＩ（人工知能）で、実在の児童に酷似した画像を生成できる追加学習用データが... 【読売新聞】　画像生成ＡＩ（人工知能）で、実在の児童に酷似した画像を生成できる追加学習用データが、ネット上で売買されていることがわかった。過去に日本で活動した児童タレントの追加データもあり、追加データで作ったとみられる児童タレントに

sato0427 生成AIガイドラインでもあったけど、元データの如何によらず似た画像を侵害で訴えることは可能だし本人の名前を冠して売り出したら普通にアウト。元データの有無を気にしたら論点がブレるので出力結果が全てだよ。

2024/06/02 リンク

oisux 似ているからアウトなのであって、学習されているからアウトとなるべきではない/学習されていないので似ているけどセーフとはならないだろう

by-king 『酷似をどう定義するか』とか『実写を参照した上で全く似ていないモノを出力するケースをどうするか』あたりがはっきりしていない議論は無意味と思う

amunku イラストレーターが生成AIに権利を主張してるのを辛辣に批判してる主婦がいたが、自分の子供の写真をバンバンXに上げてて、これ勝手にアップロードされて児童ポルノに使われると思わないのかなと思ったことある

worris “児童ポルノ禁止法は、被害児童が実在していることが適用の要件とされる。判例では、コンピューターで製造したものでも、特定の実在児童に見えるように描写した場合は規制対象”／ナマモノ二次創作エロ漫画は？

shira0211tama 無許諾学習をOKにしたのを戻して許諾取れにすればいいだけ。そもそも無許諾学習も「研究目的なら」の建前なのに研究したのをネットに放流して使ったのは他の誰かなので〜をOKにしてる時点で破綻してるだろ

nakakzs まあ絵や声の著作権問題も含めて、学習データの公開(最低でも要請があった場合の回答義務)あたりが妥当だろうなあ。実在と関係ない絵を一緒くたに規制するような幅広い規制は避けなければ。

AI
ネット

allezvous 生成AIの場合、実在児童に酷似する画像をひとりでに生み出したのはAIだから操作した人間には酷似する画像を作る故意がないと争われる可能性があり、そのことを言っているのでは

puhu208n 海外ではぼちぼち被害報告を見かける。創作という概念が無いので実在人物に走るらしい。日本が十年単位で先に通過しているアイコラ問題を今更発見して、個人が人権を主張したら社会が停滞するなどと揉めている状態。

urajp 実在の人物をモデルにしたCGの児童ポルノでは有罪判決が出ている。https://www.courts.go.jp/app/hanrei_jp/detail3?id=87027　記事にもあるがどこまでその人物と同定出来るのかが判断の決め手になる感じか。

misshiki “画像生成ＡＩ（人工知能）で、実在の児童に酷似した画像を生成できる追加学習用データが、ネット上で売買されていることがわかった。”

2024/06/03 リンク

UhoNiceGuy アイコラでしょ。アイコラはどんな罪になるんだっけ？//AIのモデルデータだって、本人と結びつけられたらダメでしょ。

harumomo2006 児童ポルノは実在することが条件だからAI画像に対して訴えるのは難しい。精神的苦痛とかならできるかもしれないけど有名人じゃないとそれも難しそう

sekiryo 結局AI画像生成って粗製濫造ポルノか後々写真から文化を探るのに邪魔になるAIマークなしのネタコラかスパムの賑やかしばっかりでクリエイティブの解放だみたいなのとは程遠いのが現状なんすよね。

gun_kata id:worris 仮に実在の人物をモデルとしていても、児童ポルノは「実在の児童の姿態を忠実に描写したものであると認識できる」必要があるので、漫画などの表現の場合は「児童ポルノ」にはならない。

hatebu_admin 問題になりそうな点が多過ぎて何を問題にしてるのかわからん。実写風画像の生成が問題？アイコラと同じく似てることが問題？実在人物を学習させることが問題？生成AIそのものが問題？

technocutzero アイコラと同等だと判断されたら日本では刑事でも民事でも訴えることができるので本気でやるなら被害者サポート強化の方向で法整備するんだろうけど、消すことが出来ないネットの拡散力と戦うのは無理だろうなぁ

preciar やってることは「公開写真を見て似顔絵を描く」でしかないので、規制するのは無理だしするべきでもない。名前を冠して売ってたら普通に差し止めできる／上位、データセットは元絵じゃねえぞ

xll 二次元作品の著作権が論点なら、アウトプットで議論した方が良いと思う。三次元の児童ポルノとか肖像権みたいな人権の文脈が出てきたら、アウトプットでなく、学習データで議論した方が良いのかなと思った。

gewaa たまたま似たケースと、知っていて似せたケースは法律で区別されていて裁判でも重要な論点になる（依拠性の有無）。「学習データは関係なく出力結果が全て」と知ったかぶってる奴は法律知らないアホ。

enderuku AIが初音ミクを1万枚生成してもそれは1万枚の初音ミクに似たピクセルの集合であって、それを初音ミクと頭の中で脳内変換して見るのは人間なのと同じだと思う。AIは個人を区別していない

atsushieno 顔でなく肢体の部分は実在児童のポルノとして既存の法規制対象なのでは。学習するためにはデータが必要だったはず。そっちはそっちで規制して、実在の顔でポルノを生成したら名誉権ベースの法規制のほうが馴染むはず

sirotar 実在の人物の名前を出したら（あるいは示唆したら）アウトでいいのでは。完全な創作でも、写実に寄せれば似ている人が出てくる事は避けられない。

はてなブックマーク

実在児童に酷似した性的画像、生成ＡＩで作成か…ネット上で追加学習用データを売買

関連記事