AIイラスト

えーあいいらすと

AIイラストとは、人工知能（AI）が作ったイラストのこと。

pixivで「AIイラスト」のイラストを見る

pixivで「AIイラスト」の小説を読む

pixivで「AIイラスト」のイラストを投稿する

pixivで「AIイラスト」の小説を投稿する

目次 [非表示]

1 概要

2 歴史

3 AIイラストは合法か否か

4 PixivにおけるAIイラスト

5 AIイラストであることの大まかな見分け方

6 現状の問題点・注意点

6.1 その他、生成AIに関連する問題

7 余談

8 AIイラストに反対する方法及び外部サービス

9 もしも「被害」に遭ったら？

10 関連タグ

11 外部リンク

概要

「AIイラスト」とは人工知能（AI）が作ったイラストの総称で、イラストが生成される仕組みとして、インターネットに存在する膨大なイラストのビッグデータを学習することで法則性を編み出し画像を生成している。

学習の仕組み自体は、AIの自動運転技術などの習得方法と同じで、イラストを作成する際に自分の好みに合う単語を入力する必要があるが、これらは総じて「プロンプト」や「呪文」などと呼ばれている。逆に好ましくない要素を排除する「ネガティブプロンプト」もある。

自分が生成したい文字列を入力すれば誰でも綺麗なイラストを生成することができ、入力する単語次第で画風を変えることができる。t2i(text-to-imags)と呼ばれる方法だが、棒人間などでポーズや構図を指示するi2i(image-to-imege)と組み合わせることも可能である。

そのため、イラストを描く技術や依頼する予算の無い一部のゲームクリエイターや作曲家、また予算に限りのある団体やイベントにおける安価なイラスト作成などに注目されている。

一方でAIは人間と違って数十秒～数分で大量のイラストを作成できる点から絵師、アニメーターの仕事を文字通り奪ってしまうのではないかと懸念されている。

なお著作権法上で「学習＝情報解析およびそのための複製」を可能にしている部分は『IoT・ビッグデータ・人工知能（AI）等の技術を活用したイノベーションに関わる著作物の利用に係るニーズのうち、著作物の市場に大きな影響を与えないものについては、平成30年の著作権法改正により、相当程度柔軟性を確保する形で、著作物の利用の円滑化を図るべく、「柔軟な権利制限規定」が整備されました。』（文化庁HPより）として制定された部分であり、「新しい技術に法律が追いついていない」のではなく、「AI学習含めた情報解析も可能なように早い時期にあらかじめ法改正をした」が正しい理解である。

また、ある作者がお絵かき配信をしていた時のラフ画像を無断で撮影したものをAIに読み込ませ、オリジナルの作者よりも先に完成・投稿して自作発言するという悪意ある第三者が現れたことがあり、物議を醸したことで、AIイラストに否定的な姿勢を示す者が現れることになった。

またこれらAIに対する防止・対策ツールの開発も盛んである。ただし実際に効果があるかは検証して用いないと、ただイラストを汚損するだけになる可能性もある点には注意が必要である

参考百科内記事⇒Nightshade　ウォーターマーク

また、NovelAIを提供する米Anlatan社から不正にハッキングされ流出した『リークモデル』が流通する事態に陥ったことがあったことが問題視されたが、NovelAIがV3にバージョンアップしたりSDXLを始めとする最新バージョンに移行するなどして過去のものになったことに加え、DALLE3やMidjourney、Adobe Fireflyなど選択肢も増えている。

CommonArt βのように許可された画像・権利切れ画像のみを用いた完全オプトインのモデルも存在する。

歴史

2021年1月頃

架空のアニメ画像を生成できる「This Anime Does Not Exist(このアニメは存在しません)」が登場した。

しかし、構図や画風は指定できず、後述のサービスと比べて顔や体が崩れたコラージュのような絵も多かった。

2022年8月頃

StableDiffusionやMidjourneyなどが描く風景画やサイバーパンク風のイラストが注目を集めた。

この時期とほぼ前後する形でAIによるアイコン作成サイトも話題になる。

さらに描き手の個性や画風などを学習しイラストを生成する日本版AIサービス「mimic」のベータ版が公開されたが、盗作などの不正利用を懸念する声を受けてサービスの提供を一時停止した。

2022年10月3日

画像生成機能を開始したNovelAIは、アニメ風の二次元画像を人間が描いたイラストと見分けがつかないほど高いクオリティで生成できるようになったため、Twitterなどを中心として大きく話題となり、同時に上記のような論争を生むこととなった。

NovelAIをきっかけとして、pixivで新たにAIイラスト投稿を始めたり、逆にAIイラストに忌避感を覚えてpixivを去ったり、筆を折ってしまった人も多い。人々は写真機が発明された頃の衝撃を追体験することになった。

また、NovelAIの学習元が商用・非商用問わず無断で画像を集める「danbooru」というサイトであると判明し、これも大きく物議を醸すことになった。

2022年11月4日

サービスを一時停止していた「mimic」が復活する。

不正利用対策としてイラストを描く人かどうか手動で審査し、生成したイラストはmimicのサイト上で公開され、イラストに透かしが入るなどの対策が施された。

2022年11月中旬

StableDiffusionの特化モデルである「Anything v3.0」が登場した。

NovelAIと比べて構図が崩れにくく、描写が綺麗だと言われている。

2022年11月下旬

画像加工アプリである「Meitu」が「AI Art」というAIイラスト生成機能を開始した。

また、Tiktokはエフェクトの一つとして「AIマンガ」という画像生成機能をサポートしている。

2023年1月31日

Netflixが実験的な取り組みとして画像生成技術を全面的に利用したアニメ作品「犬と少年」を公開した。

このアニメは実験的な取り組みであり、アニメ業界の人手不足の解消を手助けするものになると説明されているが、一部の海外ユーザーからは「人間の仕事を奪う事態になる」などの批判が寄せられた。

2023年2月10日

web漫画サイト「くらげバンチ」にて「サイバーパンク桃太郎」が連載を開始。

あわせて「Midjourney」に関する特集も同時掲載。

2023年4月13日

AIアート（Midjourney）としてだが、星雲賞の自由部門にノミネート。同部門には同じくAIが関係するChatGPTもノミネートされている。

最終的に自由部門は「受賞なし」という結果となった。

AIイラストは合法か否か

文化庁　令和５年度著作権セミナー「AIと著作権」

文化庁　AIと著作権について

上記リンクの説明の通り合法か違法かはAIイラストであるかどうかという事が判断材料には含まれない。AIイラストだろうと手書きだろうと、違法行為は違法であり、合法行為は合法である。

通常、著作権侵害を判断する際に類似性（似てるか）と依拠性（元ネタにしてるか）の二つを同時に満たしているかで侵害を判断しており、依拠性の判断も学習データに当該著作物が含まれているかどうかは判断に含まず、学習データと生成は完全に切り分けて考える事となる。

日本においては、2018年に著作権法が改正され、AIのディープラーニングを含む機械学習のために著作権者の許諾なく収集し解析のために利用することが明確に合法となった。

著作権者になりすましてイラストや漫画を販売したりグッズを無断で販売、収益化した場合などはAIだろうと手書きだろうと著作権法に抵触しており逮捕される可能性はある。

サービスによっては二次創作の生成や掲載をできないようにしているものもある。

また、意図せずして元イラストそっくりに出力される可能性もありその点は侵害していないかの留意が必要であり文化庁が推奨する通り依拠性が存在しないことを証明するため生成した時のプロンプトを残しておくのも生成者の自衛の手段の一つである。

PixivにおけるAIイラスト

Pixivには数多くのAIイラストが公開されている。

他サイトではAIイラストの投稿を禁止（ないし規制）する動きが進んでいる中、AIイラストが登場した2022年当初、Pixiv運営はAIイラストの「完全な排斥は考えていない」とし、AIイラストの制限や禁止などをせず、棲み分けをする方針であることを明らかにしていたが、次第に、pixivFANBOXでのAIイラスト投稿の一切禁止やpixivリクエストでのAIイラストのリクエスト募集禁止など方針を転換するようになった(pixivFANBOXは無料の全体公開や全年齢＝一般向けのみでも禁止となる)。

具体的には、投稿時に「AI作品」であると設定できる機能や、検索時のフィルタリング機能、AI作品限定のランキング機能などが導入された。2022年10月31日に設定より作品投稿時とプロフィールからのフィルタリングで調整ができるようになっている。

現状では利用者の自己申告で「AIイラスト」のつけるなどで委ねる他なく、AIイラストであることを隠す利用者や、AIイラストではないイラストに「AIイラストのタグ」をつける嫌がらせを止める手立てはない。

フィルタリングができると言っても、PixivではAIイラストを検索結果から除外しようとしても根本的に完全なフィルタリングはできないようにされており、あくまで「減らす」ことしかできない（「減らす」にしても、客観的な基準を示していないため、完全に弾くことはできない）。

カテゴリではなくタグとして「AI」と付けられていればそれをマイナス検索で弾くことは可能だが、タグゆえに消されたりすることもあるし、AI生成のカテゴリを付けてなおタグにも付ける投稿者は少ないため、これはこれで不完全でもある。

また、ごく一部の悪質な投稿者は「AI生成」のカテゴリを付けず、ユーザーのタグ編集を禁止、もしくはタグを全て埋めて追加できないようにし、コメント機能も最初からオフにすることで、AIイラストであることを隠し、その指摘をさせないようにしている投稿者もいる（タグ荒らし対策としてタグを追加できないようにしたり、コメント機能をオフにするのは任意であるため、それ自体は問題ない）。

これに関しては、日本と海外で文化の違いもあるということも留意しないといけない部分も生じている。

また、AI生成イラストを投稿するユーザーのうち少なくない割合で最初はAI生成タグを付けていたが途中で上記のようにタグを付けなくなり、タグ編集もコメントも禁止するようになるというケースが見られる。

これは「荒らしに遭っていた」というわけでもない投稿者でも見られるもので、AI生成作品にマイナス検索をする閲覧者が多い事から、AI生成イラストである事を公開していると閲覧数が伸びないため、AI生成である事を隠すようになるのだと見られる。

投稿作品のうち特定のメジャーなカテゴリ(=タグ検索からの閲覧数が期待できる)の作品だけAI生成であることを隠そうとしたり、タグは頑なに付けないでいながらプロフィール欄などにはAI生成である旨を記述していたりなどのケースから、AI生成作品である事を隠して手描きであると偽るのは批判の対象になる行為であると自覚しながら閲覧数を稼ぐためにマイナス検索避けを試みているユーザーが多々いるのもマイナスイメージを助長する要因である。

2023年5月9日に「AI生成に関わる問題と、対応についてご報告」としてお知らせを出している。

2024年には、閲覧者側でも「プロフィール」の設定画面で「AIイラストの表示／非表示」の切り替えができるようになったので、「AIイラストを表示したくない・見たくない」閲覧者にはそちらの設定をしておくといい。ただしマイピクやフォローユーザーのAIイラストは、設定を非表示にしていても冒頭のフォローユーザー・マイピクの作品でも表示されてしまう。

AIイラストであることの大まかな見分け方

以下に基本的なAIイラストの見分け方を記載する。

ただし、これに該当するとしても、必ずAIであるとの断定はできないので注意（後述）。

2022年10月3日以降から投稿し始めている、またはその日を境に一気に絵柄が変わっている。
- 特に独特の絵柄だったり、柔らかいタッチの絵を描く人が急激に変化している場合が多い。
版権・オリジナルを問わずに顔面は二次元、体は三次元になる場合もある
差分（レイヤー）が一切ない。服装差分などは元より、僅かな表情差分すら一つもない。代わりに、微妙に構図が異なる「似ているだけの全く別の絵」は大量にある。
- 元から絵を学んでいるユーザーであれば「修正」で差分を生み出せるが、そうでないユーザーは「似た」構図・衣装で誤魔化すか「単品」でゴリ押すかのどちらかを選ぶことになる。
- 2024年現在、表情差分を作れるサービス・機能も存在する。
同じキャラクターを続けて描いているはずなのに、毎回特徴が異なる。そのキャラクターの固有の特徴が消えている。
- 例えば前髪に特徴的なメッシュが入っているキャラクターの場合、そのメッシュがあったり無かったり、メッシュの色が毎回違ったりする。
- ケモミミキャラの場合、耳が1つしかない場合がよくある。
- そもそも瞳の色が毎回違う、何の脈絡もなくオリジナルのアクセサリーがついたり消えたりする。
- ほとんどが裸体か、簡素な下着や水着、一般的なカジュアルな服装しかない。キャラクターを象徴するような特徴的な服装をしていることが少ない。
- 服装のディテール、装飾品の細かい部分が毎回違ったりする。
  - 軍服の勲章は色分けはされているものの一枚の板になりがち。
  - 洋服の前合わせが1人は左前、もう1人は右前などになる。
  - 一卵性双生児などの外見が酷似したキャラが複数人いる場合、該当キャラ達を折衷したような外見になる。
手の指や目などの人体の細かい部分のパーツや、背景の小物などが単純に下手とかではなく、異常な形をしている。
- 腕や指が増える、もしくは枝分かれする、途中で癒着する
- 明らかに左右の腕の位置にズレが生じている
- 左右で腕の長さや太さが異なる
- 物を持つ際に指で握らずに沿わせている
- 複雑な指の構図が描ききれず、溶けているような表現になる
- 指先が物越しから部分的に見えるような構図の場合、人体の構造を無視した長さになる
- 掌が手首から離れて浮遊している
- 肘から指が生える
- 指が衣服や道具と一体化する
  - 酷いと胸部や腹部と一体化する
  - 抱き合うイラストでは交差した腕が一体化、または分離して宙に浮く、何故か腰や脇腹から指が生える
足が並列に生える
耳が潰れているor尖っている（手書きでもよくあるミスではあるが、指の本数が5本ではないのもしばしば特徴として見られる）
妊婦や肥満体の腹部かつ、へそ出しの構図だと後述のミスが頻出する（＝一般的な体型だとほぼ起こらない。それはそれとして指定も無いのにやたらとへそ出し化させたがりもするが）
- 臍（おへそ）が2つ以上ある or 1つもない
- 臍の周囲が胸部、臍そのものが胸部の先端めいた形状になる（腹部が膨らんだせいで、それを胸部と誤認してしまったからと推測。実際にひどいミスになると、臍から出ている。尚、この誤認はヒップでも起こる場合がある）
- 臍が……を連想させる形状と化している（腹部と股間の境目の判別が不可能になったからと推測）
- 臍が正中線からズレて配置される
- ボタンの付いた衣服を着ている場合、臍とボタンが一体化してしまう（「臍」を表す英語の1つに「ベリーボタン」の単語があるのも原因か？）
  - ボタンの衣服ならば生じる天使の小窓から谷間が見えないor谷間が複数列見える
- 腹部の表皮の色だけ他の部位と異なる（トップス、あるいはボトムスの色味の影響を受けたからと推測される）
- 似た事例として、臍を出していると腹巻きor腹掛けのような布が配置される、服のボタンと引っかける穴の数が一致しない
  - よりひどいケースだと、衣服や装飾品と皮膚が途中で一体化する
柄物の衣服を着ていると、肌にも柄が描かれる
- 汗が滴る構図の場合、汗に衣服の色味を帯びる
- 時に汗の大きさや色味によっては、皮膚が溶けている風に見えてしまう
- 瞳孔がぐちゃぐちゃに描かれている、ハイライトが左右で違う、前髪と重なって溶ける。
- 網戸やキーボード、歯車の歯など、小さいものが沢山並んだ構造のものが正しく描けていない。
物の配置や登場人物の行動に整合性がない。
- ラーメンを箸を5本くらい持って食べたり、素手で食べたりする。
- 食べ物が口に近づくにつれて細くなり、口に吸い込まれている
- 食べ物が途中で変質する（照明効果のミスと推測）
- 口や下顎のラインが崩壊し、溶けているような表現になる（正面から飲食する構図と側面から飲食する構図が混在してしまったからと推測）
- 顔と食べ物が癒着・結合する
- 口ではなく顎で食べる（顎を上唇、首や喉を下唇と誤認したからと推測）
- 指or箸とパスタが融合している場合もある
背景画の場合、ロッカーの取っ手がそれぞれ違う場所についている、テーブルなら隣り合っているテーブルの大きさが違う。バス・電車の場合は座席はあっても吊り革と手すり、荷物棚が無い不便極まりない構造に。
- パースがおかしかったり、水平線や家具などの造形物が段違いになっている。特に人物が遮ると発生しやすい。
- 水深1mもないはずの海岸の波打ち際に巨大客船が停泊している。
- 鏡や湖面などの周囲の景色を反射するものがある場合、配置されているものと映っている像が一致しない。
- 左車線を走っている車と右車線を走っている車が混在している。
衣服や看板などに書かれている文字が支離滅裂になっている。
- ディープラーニングで得た影響か、四隅にロゴやウォーターマークらしきものが付いてたり、作品によってはモザイクまで表現しているものも出ている。
- 精度の高いAIで作ったものなら読める文字になっている事もあるが、例えば「SCHOOL（学校）」なら「SCHHL」、「GIRL（少女）」は「GRRL」などスペルが多々間違っている。
光の当たり方がおかしい
- 光量の加減が同じなのかあるいは肌質がフィギュアっぽいのかテカテカしているように見える。
- 指の数のおかしさやパーツのある無し以外で分かりやすい部分。
- 暗い室内なのにその人物の周りだけ松明の如く明るくなっている、などの不自然さがある。
複数人の絵を生成させるとユーザーが描きたいであろうキャラクターはクオリティが高く、それ以外のキャラクターは顔が崩れている・デザインが適当・コピペ状態など差が歴然。
- また、この手のイラストは集合写真になりがちなのも特徴的。
コミッションサイトでのアドプト販売においては背景付きのイラストが時間と手間を考えると釣り合わないほど安い値段で販売されている。
有料販売サイトはBOOTHやpatreonに限られ、PixivFANBOXやFantiaを利用しない。
- 当然ながら後者はAI生成イラストの取り扱いを禁止しているため。
- それでもAIイラストであることを隠して、または公表していても堂々と規約違反してこれらを利用する者も稀にいるが…。
- その様なユーザーを見かけた場合、「何故そう推測したか？」等の理由を添えて、積極的に運営に通報する事を推奨する。特にPixivFANBOXは限りなく黒に近い悪質なユーザーに対して厳格に対処してくれるケースが多い。
「絵柄が安定しない」との言い回し
- これ自体は描き慣れていない・自分の絵柄が無い手描きのイラストレーターにもみられる言い回しだが、生成AI利用者が出力するイラストの傾向が定まっていない場合は本当の意味で「絵柄が安定しない」ことになる。

※絵柄「だけ」で判断するのはあまり当てにならない場合もある。

「その人の独特の絵柄」があることで「AIではない」と判断することは可能だが、「独特の絵柄の特徴がなく、AIの絵柄に似ている」からといって、それだけで「AI生成イラストである」と断定することは難しい。

何故ならAIの絵柄は多量のデータを元に作られた「平均値」であるため(2010年代末〜2020年代にかけて大きく発展し話題になっているタイプのAIは、いわば「極めて高度な統計処理」の側面が有る為)、「AIに似せられたオリジナル」が大勢いるということだからだ。

逆に言えば、「流行りの絵柄に合わせよう」と努力してきた人の絵ほど、AIイラストが一般的になった時代においては「素人目にはAIが生成したように見える絵」と誤認される危険性が大きくなっているとも言える。

実際に2024年秋に古参アダルトゲーム会社の新規イラストが「AIイラストじゃないのか？」と攻撃的な内容も含む問い合わせが多数来たために公式が否定しなくてはならなくなった事例がある。

今後のAIイラストの発達やAIイラストに対する規制の有無や規制内容によっては、商業レベルでは「流行りの絵柄のイラストなら人間の絵師に描かせるよりAIに描かせた方がコストパフォーマンスが良い」という新しい技術により「ゲームのルール」が大きく変わるような事態も起きかねない。

「それでも絵柄や特徴で見分けられるようになりたい！」と考えるのであれば「Human or AI」というwebサービスで審美眼を養ってみるのも良い。

これはお題として出された絵が「人間が描いたもの」か「AIが出力したもの」かを当てるゲームだ。

Human or AI

Human or AI 2

現状の問題点・注意点

既存のイラストを学習素材にすることの著作権上の問題
- 現状ではAIの学習素材にすることそのものは著作権を侵害するとの判断はされていない、が…。
- イラスト生成AIサービスが公開され有名になった当初、イラストの無断転載サイトを学習素材として使っていたことが判明し、大きな批判を浴びた。
- 現在でも学習素材としてネット上にあるイラストを無差別に収集されており、中には無断転載と同様にAI学習への無断利用を禁止すると明記している人も多い(特に2024年後期以降)が、それらは無視されて無断利用されている可能性の方が高い。
  - なおタグやプロフィール、透かしに「AI学習禁止」と書くだけでは法的・技術的どちらも実効性に乏しい。pixiv百科内「AI学習禁止」「ウォーターマーク」にて解説あり。
- 特に日本の版権は権利関係が曖昧な傾向にあるため、未然のトラブルを防ぐためにはこの点に注意すべきである。

画風のマンネリ
- 現状のAIイラストは平均的なクオリティこそ高くなるものの、上述した通り、少し触れた人間なら一目で「AIイラスト」と分かる似たり寄ったりの画風となっており、それもまんまCGイラストで手書き感が全くない。
- 重ねて上述した通り、細かな監修・手直しが出来ない自動出力故、よく見るとその題材に必須な部位がオミットされていたり、細部が不自然に歪んでいたりするケースも珍しくなく、まともなイラストが身近な現代人にとっては違和感が大きくなり易い。
- 「各人の味や個人差」も大きな評価点・愛され要素となる創作文化にとって、こうした点は致命的であり、AIイラストを忌避して、生成AIを利用したクリエイターを見限った人も多くみられる。

非常識な量の大量連投
- イラスト生成AIが一般公開された直後はイラスト投稿サービスサイトのサーバーに多大な負荷を与えるレベルでの大量の投稿が繰り返された（大量の投稿もまた、多くのイラスト投稿サービスがAIイラストの排斥を選んだ理由の一つになっている）。
- 2024年現在はある程度落ち着いてはいるが、それでも今まで自力でイラストを描くことができなかった人物がAIによるイラスト生成を覚えた直後は一気に大量投稿をする傾向が続いており、実質的な粗製濫造に等しい。
- 当たり前だが、手描きのイラストは1枚描き上げるだけでも相応の時間がかかるため、よほど描き溜めしていない限り投稿スピードには限度があるし、描き溜めしている人がいても全体からすれば一部に過ぎない。
- しかし、AI生成にはそれがないため、描き溜めをしていなくても一気に何十枚も用意することが可能で、連投をする人間の総数にも圧倒的な違いがある。
  - なお高額な金額を出し高性能なパソコンでローカル環境を構築していない限りは外部サービスを用いることになる。

特定の人物の絵柄の盗用

参考動画⇒

- AIは特定の絵師のイラストを集中的に学習させることでその絵柄に近づけることが可能であり、第三者が有名絵師を偽ってイラストを生成・投稿することが可能。一般公開されているAIサービスはこのような特定の絵師の絵柄の集中学習は行われておらず、これをするには自前でサーバーを立ててAIプログラムを用意する必要があるが、少なくとも現在メジャーなAIサービスの一つである「novelAI」はソースコードが流出したことがあるため、機材とある程度の知識があれば誰でもできることだ。
- AIを独自運用しなくとも、先述のように「線画を読み込ませて途中から生成させる」事でほぼ同じ絵柄のイラストを作成できてしまう。
  - なおまっとうなAIサービスは他者の著作物のアップロードを規約で禁じていることがほとんどだが、実際にこれが遵守されているかは不明である。
- これをすることにより、自身をオリジナルと偽って本来のオリジナルの側に盗作の疑いをかけることもできてしまう。
- こう言った絵柄の盗用行為への批判に対する反論として「絵柄の私物化をするな」という暴言を吐いた生成AIユーザーがいた事もイメージ悪化の一因になっている。
  - pixiv百科内の絵柄パクの項でも触れられているが、法律上は著作権が認められるのは「できあがった作品」であり、画風や作風に対してではないため、盗作やトレパクではない限りは、法律上・権利上は画風を真似て描いても何の問題もない点には留意されたい。ただし、度の過ぎた絵柄の模倣をすれば営業妨害行為になりかねない事もまた留意するべきだろう。
- 2023年5月6日以降、一部のイラストレーターが次々と投稿イラストを非公開ないし削除することが相次いでおり、中にはpixivから撤退を表明した投稿者も存在する。これは各イラストレーター達が自身のイラストをAIで盗用させることを危惧した行動であり、pixiv運営に明確な対策を打ち出すよう抗議の意味合いもあるとされる。
- 「盗られるのは上手い人の絵だから(下手な)自分の絵は大丈夫だろう」と安堵してはいけない。「ネガティブプロンプト(好ましくない絵柄を生成しないコマンド)」の材料として取り込まれてしまうので極端に言えば「成長のためなら泥だろうが虫だろうが食べる悪食」である。

参考記事：生成AIに絵柄を無断学習される“なりすまし横行”に苦言「削除困難ギリギリ現行法を回避する」 - 樋口紀信

検索妨害行為
- 無関係のジャンルのタグを複数手当たり次第につけるような検索妨害行為を行う投稿者の存在。これ自体はAI生成イラストに全く関係ないのだが、これを行う人物いた場合、上記の理由で自力でイラストを描いている人物に比べ一度に大量に投稿されることが多く、検索結果の汚染が目に見えて酷い傾向がある。
- 意図的な妨害行為でなくても、作品を大して理解せず流行りに飛びついただけのユーザーも(真っ当に手描きをしているユーザーに比べて)多いため、他作品と勘違いしたまま関係ないタグを付けて投稿される事が少なくない。
- この手の投稿者はタグ編集のロック、コメント機能のオフ、AI生成イラストカテゴリの不使用など、検索避けや指摘をさせない工作を同時にしている場合がほとんどで、より迷惑度合いが高い。

規約・法律では禁止されているジャンルの作品の販売
- 規約または法律などで禁止されているジャンルは当然ながら販売サイトなどでは無人であり、自身の手で技術を持って描いている作品であれば手間がかかっているため、「禁を破って締め出される・コンテンツが潰れる」ことがリスクとなり躊躇するものだが、AI生成イラストを販売する者にはこの手の遠慮が全くない人間が少なくなく、堂々と禁止されている作品を販売して荒稼ぎしている者がいる他、さらにAIを利用した絵柄の盗用によるイラストレーターへのなりすましによって風評加害を狙う化け物まで出ている。参考⇒ ウマ娘のサイゲームスが注意喚起
- 例1：ウマ娘プリティーダービーのアダルト作品　→　AIウマシコ問題、胸のボリューム気を付けてください、この娘とかを参照。AIが勝手に描いたという言い訳はしない。
- 例2：実写ロリポルノ(風)作品。小学生など、明らかな未成年の女性の性的な実写写真は当然ながら違法となるが、指示の出し方によっては限りなく実写写真に近い画像を生成できるAIをもって明らかな未成年の女性の画像を生成して販売している。なお、令和2年1月27日の最高裁の「児童買春，児童ポルノに係る行為等の処罰及び児童の保護等に関する法律違反被告事件」において、いわゆる児童ポルノは「実在する児童の姿態を視覚により認識することができる方法により描写したものをいい，実在しない児童の姿態を描写したものは含まない」としているため、プロンプトから作成した実写ロリポルノ風作品は日本における児童ポルノには該当しないとされる。ただし、実在する児童のポルノ写真や写真集などから、i2iで作成した実写ロリポルノ(風)作品は日本における児童ポルノに該当すると考えられる。なお、大抵の販売サイトのサーバーは海外にあり、海外のサーバー会社や司法機関等は日本の最高裁の判例を調べるといったことはほぼないので、日本における児童ポルノに該当せずとも販売サイト側に警告を発し、販売サイトが該当画像やアカウントを非公開・凍結することが多くみられる。もっともアニメ・マンガ風ロリポルノ作品であろうとも一般的に海外では児童ポルノ扱いされることが度々あるので、同様の規制はAIイラストに限られているわけではない。参考⇒

コミケへのダミーサークル申し込み
- コミケ（コミックマーケット）は一般入場で入ろうとするととてつもない長蛇の列に並ぶ必要があるが、サークル参加していれば並ぶ事無く、一般入場者よりも先に入場できる。そのため、並ばずに入場するためだけに、自身の同人誌を頒布する気が最初からないのにサークルとして申し込むという者が相当数いる疑惑が上がっている。サークル参加は基本的に会場のキャパシティよりも遥かに多い数が申し込まれるため抽選となるが、ダミーサークルで申し込んでそれが当選するという事は、真っ当に活動しようとして申し込んだ他のサークルが落選するという事であり、常に問題視されているものである。
- これ自体は昔から存在した（C45（1993年）のデータだと、『持ち込み部数が0で販売実態が無いのに準備会への理由届け出が無かったサークル』が全体の7.5％存在した）。そのため、回を重ねるごとにあからさまなダミーサークルは抽選前に弾かれるようになっているが、その対策の対策としてAIイラスト生成によって活動実績のようなものをでっちあげる事が簡単になってしまったというもの。参考⇒

イラスト文化の破壊と価値観の変遷、対立の激化
- 参考⇒「OpenAIのミラ・ムラティ氏『クリエイティブな仕事はなくなるかもしれないが、そもそも存在すべきではなかったのかもしれない』」
- 絵を描く仕事を目指し、絵の勉強をしていた若者が将来性に絶望して筆を折る。どれだけ努力しても、時間をかけて一生懸命描いた絵より短時間で何枚も出力するAIイラストの方がクオリティが高い場合も多く、進化速度も異常に速いため戦う気がなくなる。
- 絶望した若いクリエイターに対し「筆を折るならその程度の情熱、産業革命の時の職人と同じで淘汰される側になっただけ」と突き放す意見の醸成。クリエイターとそうでないもの、あるいはクリエイター間でも意見が分かれ、対立が激化しAIイラストに対し冷静な批判や分析、前向きな議論がしにくくなる。
- 人間が描かなくなる、あるいはイラスト投稿サイトで実力派のプロイラストレーターが投稿をやめてしまう事で、イラスト学習が進まなくなり、AIそのものが発展せず、かといってイラストもネット上に投稿する文化がリスクしかなくなり、イラストをネットで鑑賞する、イラストレーターを応援する文化が消滅する。
- 生まれたときからAIイラストがある世代は、楽が出来るならAIの方がいいと悪気なく主張し、旧来の手書き、デジタルドローイングのクリエイターとの世代間対立が起こる。AIイラストは進化速度が速く、今のAIイラストの弱点は数年後にはなくなっている可能性が高い。
- 今の伝統芸能やそろばんなど、無くても困らないが何かしら理由をつけて生き残りをかける文化の様に、人間が描くイラストそのものが、今の価値を失い細々と辛うじて生き残る文化になってしまう危険性。
- 参考動画:生成AIの闇に物申す

その他、生成AIに関連する問題

フェイクニュースの作成
- 上述した実写風ロリポルノのように、AI生成はぱっと見では見分けがつかないほど限りなく実写画像に近いイラストを生成する事もできる。これを利用して、実際には存在しない事件の画像などを作成し、嘘のニュースを作成してデマを流す事が可能。AIイラスト生成技術が広まるまではデマを流すにせよ画像等が一切無いか、あっても過去の事件の使いまわしでバレるケースが殆どだったが、AIイラスト生成の悪用により信憑性が高く見えてしまうフェイクニュースを作成可能になってしまう。
- 例1：嘘の災害報告の拡散：[[2022年9月26日、静岡県で台風により深刻な浸水被害が起きたとする画像のツイートが投稿された問題。静岡県では台風による浸水被害は起きてはいたが、明らかに実態とは異なる被害状況のデマを拡散した事になり、問題視された。
- 例2：岸田首相卑猥発言の嘘動画：2023年11月2日、岸田首相が卑猥な発言をしている様子のニュース映像を装った動画が投稿された問題。岸田首相の画像を元に口の部分を動かした加工画像などを利用し疑似的な映像を作成、さらにAI音声を利用して岸田首相に似せた音声を併用し、あたかもニュース番組のインタビューで卑猥な発言をしている様子の動画を作成したもの。単純な名誉毀損の可能性に加え、同動画では日本テレビのロゴを無断使用もしており、大きな問題になった。

余談

ユーザーがプロンプトを入力して生成するAIイラストではないが、近年では撮影した写真データの補正にAIを使用しているデジタルカメラが存在する。遠方の景色の詳細部分など、ぼやけて潰れてしまっている部分を鮮明化するなどの目的だが、写真の真実性が失われるという深刻な問題が提起されている。
- 手振れ補正や明るさの自動調整程度の補正なら以前から存在したが、近年のAI補正つきデジカメは「不鮮明な部分をAIによって書き足すことで補足する」機能が増えており、これにより本来存在しないものが混入するケースが見られる。看板やポスターの文字が地球上に存在しない文字になっているケースが多い。
- 写真にこのような「書き足し」が入るようになると、写真がありのままを写しているものであるとは保証されなくなってしまう。事件などの証拠として撮影された写真も、不鮮明だった細部だけでなく主たる被写体にも何らかの加工が行われて真実ではなくなっている画像であるという疑いが発生してしまい、証拠としての信用能力を失ってしまうのだ。また、動植物の画像を生成した結果、実在する生物とは異なる怪物まがいの生物画像が生成されてしまう上に、画像検索サイトでそういった画像が上位に表示されるという問題も多発している。

「絵が下手ならば生成AIに利用されない」と考えている人が多いがこれには大きな間違いがある。
- イラストを取り込んだ上で前述されている「ネガティブプロンプト」を利用することで「6本指を描くな」「足を3本にするな」と命令を与えることができる。
- もちろん、それをしたからと言って100%「5本指」「2本足」を生成してくれるというわけではないが「除外」する「確率」を増やすための「保険」として使われることが多い。
- 結局、「絵が巧かろうが下手だろうが利用される」というのが最大の問題点であるとされている。