私の写真が知らぬ間に？！AIグラビアが浮き彫りにしたリスクは
AIで作られた本物の写真のような画像を集めた“AIグラビア写真集”がインターネット上で販売され話題を集めました。
本物の写真と見間違えてしまうほどの高画質な画像の数々。
ただ、一部のサイトでは、幼い子どもをモデルにしたような画像まであらわれました。
著作権は？悪用の危険性は？画像生成AIの現状に思わぬリスクが見えてきました。
本物の写真と見間違えてしまうほどの高画質な画像の数々。
ただ、一部のサイトでは、幼い子どもをモデルにしたような画像まであらわれました。
著作権は？悪用の危険性は？画像生成AIの現状に思わぬリスクが見えてきました。
“AIグラビア写真集” 突然の販売停止
先月大手出版社が発売したデジタル写真集がSNSで注目を集めました。
表紙には水着を着た女性の写真が掲載されているように見えましたが、実はAIが生成した画像でした。
“AIグラビアの写真集”として注目されたものの、この出版社が発売から10日後に販売を取りやめました。
SNSではこの写真集に掲載された画像が実在する俳優に似ていると指摘する声もあがっていました。
出版社は販売停止の理由について次のように説明しました。
“AIグラビアの写真集”として注目されたものの、この出版社が発売から10日後に販売を取りやめました。
SNSではこの写真集に掲載された画像が実在する俳優に似ていると指摘する声もあがっていました。
出版社は販売停止の理由について次のように説明しました。
集英社
「編集部内で改めて検証をいたしました。その結果、制作過程において編集部で生成AIを取り巻く様々な論点・問題点についての検討が十分ではなく、AI生成物の商品化については、世の中の議論の深まりを見据えつつ、より慎重に考えるべきであったと判断するにいたりました」
「編集部内で改めて検証をいたしました。その結果、制作過程において編集部で生成AIを取り巻く様々な論点・問題点についての検討が十分ではなく、AI生成物の商品化については、世の中の議論の深まりを見据えつつ、より慎重に考えるべきであったと判断するにいたりました」
さらに、NHKの取材に対しては。
集英社の担当者
「架空の人物の画像で、特定の人物をもとに生成したものではありません。写真集の販売は終了しましたが、違法性があるものを販売したわけではないと認識しています」
「架空の人物の画像で、特定の人物をもとに生成したものではありません。写真集の販売は終了しましたが、違法性があるものを販売したわけではないと認識しています」
作品の無断利用訴え
いま、ネット通販のサイト上ではAIが生成した画像を使ったとする“AIグラビア写真集”が大量に売り出されていて、数百円程度で購入できるものもあります。
画像をめぐってはさまざまな課題が指摘され「著作権などを侵害してしまうのでは？」といった懸念の声もあります。
実際にイラストなどの作品が無断でAIに利用されたという訴えもあります。
俳優や音楽家などで作る「日本芸能従事者協会」が、先月インターネット上で実施したアンケートにはイラストレーターを中心に2万6000あまりの回答が寄せられました。
（AIリテラシーに関する全クリエイターアンケート 回答数:2万6891 調査期間:2023年5月8日～5月28日）
このうち94％あまりが「AIによる権利侵害などに不安がある」と回答しました。
具体的な権利の侵害を尋ねた質問に対する回答では、クリエイターが生成AIへの対応に悩まされていることが伺えます。
画像をめぐってはさまざまな課題が指摘され「著作権などを侵害してしまうのでは？」といった懸念の声もあります。
実際にイラストなどの作品が無断でAIに利用されたという訴えもあります。
俳優や音楽家などで作る「日本芸能従事者協会」が、先月インターネット上で実施したアンケートにはイラストレーターを中心に2万6000あまりの回答が寄せられました。
（AIリテラシーに関する全クリエイターアンケート 回答数:2万6891 調査期間:2023年5月8日～5月28日）
このうち94％あまりが「AIによる権利侵害などに不安がある」と回答しました。
具体的な権利の侵害を尋ねた質問に対する回答では、クリエイターが生成AIへの対応に悩まされていることが伺えます。
「自分が描いたイラストを勝手にAIに取り込まれ、似たような絵柄・構図などのイラストを大量に生成された」
「SNSにイラストを掲載したところ見ず知らずの人に『あなたのイラストをAIでもっと上手にしてみました』と言われた」
「SNSにイラストを掲載したところ見ず知らずの人に『あなたのイラストをAIでもっと上手にしてみました』と言われた」
中には、アダルトコンテンツに改変されたと訴える回答もありました。
「自身の作品を成人向けの性的画像に改変された」
日本芸能従事者協会代表理事 森崎めぐみさん
「イラストレーターや小説家、声優、モデル、写真家など、想像よりはるかに多くのクリエイターに影響が出ていることがわかる結果に驚きました。国にはアンケート結果を受け止めていただき、相談窓口の設置などを求めていきたい」
「イラストレーターや小説家、声優、モデル、写真家など、想像よりはるかに多くのクリエイターに影響が出ていることがわかる結果に驚きました。国にはアンケート結果を受け止めていただき、相談窓口の設置などを求めていきたい」
AIが生成した画像の著作権はどう考えれば？
他人の著作物に似たものをつくってしまう懸念も指摘されるAI。
AIが生成した画像を扱う場合、どのような点に注意すれば良いのか。
文化庁は19日、オンラインセミナーを開きました。
この中で文化庁は、生成AIと著作権を考えるにあたって、（1）「AI開発・学習」と（2）「生成・利用」といった段階に分ける必要があると説明しました。
AIが生成した画像を扱う場合、どのような点に注意すれば良いのか。
文化庁は19日、オンラインセミナーを開きました。
この中で文化庁は、生成AIと著作権を考えるにあたって、（1）「AI開発・学習」と（2）「生成・利用」といった段階に分ける必要があると説明しました。
＜（1）開発・学習＞
文化庁によると日本の著作権法では、AI開発のための情報解析のように、著作物に表現された思想などの享受を目的としない利用目的は、原則として著作権を持つ人の許諾なく行うことが可能だということです。
文化庁によると日本の著作権法では、AI開発のための情報解析のように、著作物に表現された思想などの享受を目的としない利用目的は、原則として著作権を持つ人の許諾なく行うことが可能だということです。
＜（2）生成・利用＞
一方、生成した画像などをアップロードして公表したり、生成した画像のイラスト集などを販売する行為については、既存の著作物とどのぐらい似ているかという「類似性」と、他社の作品を利用して創作したかどうかという「依拠性」の両方が認められた場合、著作権を持つ人の利用許諾が必要で、許諾がない場合は、著作権侵害の可能性があると説明しました。※説明を一部追記しました。
一方、生成した画像などをアップロードして公表したり、生成した画像のイラスト集などを販売する行為については、既存の著作物とどのぐらい似ているかという「類似性」と、他社の作品を利用して創作したかどうかという「依拠性」の両方が認められた場合、著作権を持つ人の利用許諾が必要で、許諾がない場合は、著作権侵害の可能性があると説明しました。※説明を一部追記しました。
AIと著作権 今後はどうなる？
こうした現状を踏まえた注意点について、AIの利活用などを検討する政府の委員会で委員を務めた早稲田大学法学学術院の上野達弘教授に聞きました。
早稲田大学法学学術院 上野達弘教授
「日本では、インターネットやSNS上にある膨大な画像や写真についてAIによる学習は自由に行えることになるが、AIを使って画像や写真を生成し、生成したものを販売するなどは著作権を侵害するリスクが生じてくることがあり注意が必要だ」
「今後、文章や画像だけではなく、アニメや映画などAIによる生成物は、ますます広がっていくことが予想される。生成されたものが著作権を侵害しているとして訴えられるような事例も出てくるかもしれない」
「日本では、インターネットやSNS上にある膨大な画像や写真についてAIによる学習は自由に行えることになるが、AIを使って画像や写真を生成し、生成したものを販売するなどは著作権を侵害するリスクが生じてくることがあり注意が必要だ」
「今後、文章や画像だけではなく、アニメや映画などAIによる生成物は、ますます広がっていくことが予想される。生成されたものが著作権を侵害しているとして訴えられるような事例も出てくるかもしれない」
「著作権対策」をうたうAIも登場
国内では多くのクリエーターが不安を抱えているとみられますが、ことし3月、アメリカのIT大手の「アドビ」は、開発中の生成AIのベータ版を公開しました。
これはAIの学習を「アドビ」のデータベースに登録されている「クリエイターの許可が取れた画像」、「著作権がない画像」、「著作権が放棄された画像」に限定し、著作権を侵害するおそれがないとしています。
さらにこのAIが生成したことを示すタグが表示されるほか、性的・暴力的なコンテンツは生成できないようになっているということです。
「アドビ」はこうした生成AIの開発は、クリエーターの不安を解消することが1つの狙いだと説明し、今後はAIが学習するためのデータを提供したクリエイターが収益を得られる仕組み作りも検討しているということです。
さらにこのAIが生成したことを示すタグが表示されるほか、性的・暴力的なコンテンツは生成できないようになっているということです。
「アドビ」はこうした生成AIの開発は、クリエーターの不安を解消することが1つの狙いだと説明し、今後はAIが学習するためのデータを提供したクリエイターが収益を得られる仕組み作りも検討しているということです。
アドビ マーケティング本部 鈴木正義 広報本部長
「生成AIはクリエーターを手助けするものであって、不利益をもたらすものであってはならない。安心して使えるツールを提供するのが責任だと考えている」
「生成AIはクリエーターを手助けするものであって、不利益をもたらすものであってはならない。安心して使えるツールを提供するのが責任だと考えている」
私の写真は大丈夫？専門家は
急速に進化している生成AI。生成された画像への対策が始まった一方、一般の人がネットに出した画像を使われてしまう危険性も指摘されています。
こうした状況に対し、AIによる偽画像の検出技術に詳しい国立情報学研究所の越前功教授は次のように説明しています。
こうした状況に対し、AIによる偽画像の検出技術に詳しい国立情報学研究所の越前功教授は次のように説明しています。
国立情報学研究所 越前功教授
「生成AIがどんな画像を学習しているか明らかにされておらず、ネット上の個人の写真が使われている可能性は十分にあります」
「最近では生成AIで、驚くほど高画質な特定の人物の画像を、容易につくれるようになってきました。実在する人物について、何十枚かの写真があれば作成者の望むままに本当かうそかわからない画像を作ることができるのです。これは、不適切なものも作れるということなので深刻です。一般の人でも効率的かつ、低コストでできるようになっています」
「生成AIがどんな画像を学習しているか明らかにされておらず、ネット上の個人の写真が使われている可能性は十分にあります」
「最近では生成AIで、驚くほど高画質な特定の人物の画像を、容易につくれるようになってきました。実在する人物について、何十枚かの写真があれば作成者の望むままに本当かうそかわからない画像を作ることができるのです。これは、不適切なものも作れるということなので深刻です。一般の人でも効率的かつ、低コストでできるようになっています」
越前教授はこれからは、ネットに投稿する側が注意する必要があると警鐘を鳴らしています。
国立情報学研究所 越前功教授
「技術が進展し、1年後にどのような世界になっているかわからないことを知ってもらい、リスクを理解してもらう必要があると思います。技術の発展を止めることはできないので、例えば偽画像を見抜くツールの開発といった技術的手段や、法律の整備、啓蒙活動など多角的に取り組んで行く必要があります」
「技術が進展し、1年後にどのような世界になっているかわからないことを知ってもらい、リスクを理解してもらう必要があると思います。技術の発展を止めることはできないので、例えば偽画像を見抜くツールの開発といった技術的手段や、法律の整備、啓蒙活動など多角的に取り組んで行く必要があります」
気づかぬうちに巻き込まれてしまう…？
研究者も驚くようなスピードで進化を続けるAI。
新たなリスクが生まれ、気付かぬうちに巻き込まれる可能性も否定できません。
自己防衛をしながら、AIを使いこなさなければならない時代に入っているのかもしれません。
新たなリスクが生まれ、気付かぬうちに巻き込まれる可能性も否定できません。
自己防衛をしながら、AIを使いこなさなければならない時代に入っているのかもしれません。
ネットワーク報道部 記者
廣岡 千宇
2006年入局
廣岡 千宇
2006年入局
ネットワーク報道部 記者
柳澤 あゆみ
2008年入局
柳澤 あゆみ
2008年入局
ネットワーク報道部 記者
高杉 北斗
2014年入局
高杉 北斗
2014年入局