本記事は、画像生成AI Advent Calendar 2022 15日目を埋める記事です。 はじめに 画像生成AIは、学習した画像をコラージュした画像を出力しているのではないか、という議論があります。多くのモデルは勝手に収集した画像で学習（訓練）されているため、そのようなコラ画像が生成されていたら大問題です。 上の図を見てください。この図は、今月投稿された論文 [1] Diffusion Art or Digital Forgery? Investigating Data Replication in Diffusion Models [Gowthami Somepalli+, arXiv 2022] の図です。上段がStable Diffusionの生成画像、下段が訓練データのサブセット（LAION Aesthetics v2 6+）中で一番似た画像です。生成画像の一部またはほぼ全部が

研究者たちは、AI画像ジェネレーターがどのように機能するのか、また、固定観念に捉われているのか否かを理解するために、さまざまな実験をしている。 ある実験では、「アフリカの黒人の医師が、苦しんでいる白人の子供たちに治療をほどこす様子」という指示をAI画像生成サイト「ミッドジャーニー」に入力したところ、「AIは黒人の子供と白人の医師の画像を生成し、適切に指示に従った画像はほとんど得られなかった」という。 特に「苦しんでいる白人の子供」と指示しているにもかかわらず、生成された350枚以上の画像のうち「ほとんどは黒人の子供が描かれていた」。 そこで、より具体的に「貧しさで苦しんでいる白人の子供たちに食糧やワクチン、薬を提供するアフリカの黒人の医師」、「黒人の医師からHIVの治療を受けている白人の患者」などの指示を入力してみた。だが、それでも黒人の医師と白人の患者を1枚の画像におさめたものは得られな

デジタル推進人材育成プログラム「マナビDX Quest」での学習が進みました。今回は「AI関連法律講座」で機械学習にまつわるベンダーが順守するべき法律について学びました。内容は西村あさひ法律事務所の福岡真之介弁護士、加藤知的財産事務所の加藤卓士弁護士が監修したものとなっており、ベンダー向けのものとなっております。 AI関連法律講座(福岡真之介弁護士・加藤卓士弁護士) AIの開発フェーズと各過程で守るべき関連法律を知る: ①データ収集・作成段階 ②モデル作成段階 ③モデル利用段階 一般にAI開発に関係する法律は 特許法・著作権法・不正競争防止法・個人情報保護法 の4つ。 データ・データセットについて データ、およびデータセットの内容は 著作権法と個人情報保護法を順守したものでなければならない 。この場合「著作権法を順守」とは 著作物ではない生データを用いる か、契約で著作者から著作権を譲渡し

Microsoftの検索エンジンであるBingには、画像生成AIを用いた「Bing イメージクリエーター」という機能があります。この画像生成AI機能では暴力・テロリズム・ヘイトスピーチなどに関するプロンプトが利用できないようにブロックされており、Bing イメージクリエイターの使用に関するポリシーでもこれらのコンテンツの作成は明確に禁じられています。しかし、ユーザーはBing イメージクリエーターを使って禁止されているはずのコンテンツを簡単に作成することができており、もはや人間の制御できる範疇を逸脱してしまっていると、メディアが指摘しました。 Bing Is Generating Images of SpongeBob Doing 9/11 https://www.404media.co/bing-is-generating-images-of-spongebob-doing-9-11/

Loran🍞（ゴースト/バン中のためDM送るやも:テスト結果 x.gd/9Om9x ） @lamrongol Bing Image Creatorについて任天堂最強法務部に同じIPアドレスから通報すると「一人が騒いでるだけ」っぽくなってしまうので、各自オリジナリティのある文面で通報お願いします。なお以下の文面はBing AIに生成してもらいました。-> お問い合わせ｜サポート情報｜Nintendo nintendo.co.jp/support/inquir… pic.twitter.com/04eJz3pHF4 2023-10-01 11:36:00

2023年7月に公開された「Stable Diffusion XL 1.0(SDXL 1.0)」は既存のStability AI製モデルと比べて高品質な画像を生成できるだけでなく、LoRAによる生成画像の調整にも対応しています。データサイエンティストのマックス・ウルフ氏は「悪い例」を集めて作成したLoRAを用いてSDXL 1.0による生成画像の品質をさらに向上させる手法を考案し、LoRAファイルおよび誰でも試せるデモを公開しています。 I Made Stable Diffusion XL Smarter by Finetuning it on Bad AI-Generated Images | Max Woolf's Blog https://minimaxir.com/2023/08/stable-diffusion-xl-wrong/ LoRAは参考となる画像を集めて絵柄や服装などを追

リンク 超絶"厳選"ニュースまとめch 【大炎上】スレイヤーズ・あらいずみるい先生、AI疑惑を作画作業工程を公開して完全否定も、「AI堕ちだ」と更に煽る輩も入り乱れて大混乱！ : 超絶"厳選"ニュースまとめch ☆絵柄が変わった⇒AI堕ちやろ！の図☆本当に反省してるの？軽いノリの謝罪ツイート・・・あらいずみるい先生からご説明のツイートあったので貼っておきますー。こちらのイラストではAIは一切使っていないと解釈して大丈夫なんすかね？でしたら自分の邪推が間違ってたので非 リンク 同人速報 【AI絵師ではなかった】あらいずみるい先生がAIを使ったように見えるイラストグッズをコミケで頒布←「運営取り締まれよ」「自分の絵を学習させるなら問題ないだろ」 : 同人速報 ※あらいずみるい先生がAIを使っていないとのタイムラプスを公開されたので、記事のタイトルとサムネを変更しました（2023年8月15日10