「ChatGPTの全貌」（その４）
岡嶋裕史「ChatGPTの全貌 何がすごくて、何が危険なのか？」の４回目。
４回目ではAIが人間を置き換えていく、人間が要らなくなるという言説、AIと社会の問題をとりあげる。
まず、AIが得意な仕事はAIにやらせるのが合理的だということには誰も異論はないだろう。
そうした類の仕事として、ふーん、そういうものなんだと感心した例を挙げよう。
シナリオ・ライターがこんなことを考えてシナリオを書いているとは知らなかった。
今、日本では人手不足が大きな問題になっている。とりわけ深刻なのはバスの運転手とかで、運転手不足で本数が減ったり、廃止される路線も出始めていると伝えられている。バスの運転をAIに任せるのは、一部で実験もされているけれど、まだまだ難しそうだが、多くの作業で一部にAI応用ソフトを使用することはかなり進んでいる。
たとえば道路の維持管理で、目視で傷み具合を確認ていたところを、AIの画像判断を使うことで、検査チームの人員を減らし、検査時間を短縮するなどがある。
医療分野では、AIの画像診断は既に専門医のレベルには達しているともいわれる。
既にAIは社会になくてはならないものになっていると言って過言ではないと思う。
本書で、著者は面白いことを言っている。発想の大転換である。
荒唐無稽なようだが、物によっては社会システムに実装できるものもありそうだ。上の話の前にこんなことも書かれている。
本書の書評を終えるにあたって、次の適切な指摘を引用しておこう。
４回目ではAIが人間を置き換えていく、人間が要らなくなるという言説、AIと社会の問題をとりあげる。まず、AIが得意な仕事はAIにやらせるのが合理的だということには誰も異論はないだろう。
そうした類の仕事として、ふーん、そういうものなんだと感心した例を挙げよう。
シナリオ作成サポート
シナリオ作成のサポートなども得意そうだ。
近年のコンテンツはそれが映画にしろゲームにしろ、かなり理詰めで感情曲線を設計する。最初の2分で視聴者を驚かせて途中退出しないようにし、5分目にアドレナリンを分泌させるような高揚感を演出する。上げっぱなしだと起伏が楽しめないので8分目にはダウナーな要素を挿入してアップダウンに酔わせ、次の4分は平坦な流れを挟むことで疲れすぎによる満足度の低下や離脱者増加を抑制する。
こうした曲線のピークに合わせてシーンを作り、シーンとシーンをつなぐお話は後から考える。そのようなモデルである。印象的なシーンをクリエイトしたり、シーンとシーンを結ぶストーリーをひねり出したりするのは人間が得意だろうが、どんな感情曲線を描けば興行収益を最大化できるかはAIのほうが上手にやるかもしれない。
シナリオ作成のサポートなども得意そうだ。
近年のコンテンツはそれが映画にしろゲームにしろ、かなり理詰めで感情曲線を設計する。最初の2分で視聴者を驚かせて途中退出しないようにし、5分目にアドレナリンを分泌させるような高揚感を演出する。上げっぱなしだと起伏が楽しめないので8分目にはダウナーな要素を挿入してアップダウンに酔わせ、次の4分は平坦な流れを挟むことで疲れすぎによる満足度の低下や離脱者増加を抑制する。
こうした曲線のピークに合わせてシーンを作り、シーンとシーンをつなぐお話は後から考える。そのようなモデルである。印象的なシーンをクリエイトしたり、シーンとシーンを結ぶストーリーをひねり出したりするのは人間が得意だろうが、どんな感情曲線を描けば興行収益を最大化できるかはAIのほうが上手にやるかもしれない。
| AIに知性はない。では人間は？―はじめに | |
| 第１章 ChatGPTの基礎知識 | |
| どんな話題でも精度の高い答えが返ってくる/話相手として成立する/堅い話題にも対応/うますぎる読書感想文/読書感想文の書き換え/知らないこともある/文脈を覚えている文体や語調、語彙を整える/なぜ世界的なブームになったのか？/よくわかっていない「知能」の実態/ふわっとした「シンギュラリティ」という概念/「強いAI」と「弱いAI」/すべてが弱いAI/1960年代の第1次人工知能ブーム/幻滅期/1980年代の第2次ブーム/将棋ソフト/羽生善治の慧眼/機械学習の登場―第3次ブーム/機械学習3つの手法/手法を組み合わせる/「人間の能力」という制約を超える/ディープラーニングという切り札/画像認識と自然言語処理で威力を発揮/ユーザーもChatGPTの開発に貢献/コンピュータに囲まれた環境に馴染んだタイミング/ChatGPTはイノベーションと呼べるのか？/「でかくする」はイノベーションか？/新たな価値を生み出した、という意味ではイノベーション/誰がどうやって作ったのか？―OpenAI/育てる難しさ/Generative Pre-trained Transformerの略/データセットの良し悪し/ChatGPTは育成ずみ/自然言語処理向けのディープラーニングモデル/乱立する「○○GPT」「××GPT」/空前絶後の大ヒット/巨大なコーパスと特徴量/でかさは正義 | |
| 第２章 ChatGPTはここがすごい | |
| 途方もなくでかいシステムをファインチューニングするすごさ/ChatGPTはシュヴァルの理想宮？/詳細は非開示/秘密主義への道のり/マイクロソフトの資金提供/イーロン・マスクの発言の真意/切り捨てられていた分野を包含/表と俳句を作る/アナグラムを作るプログラムの作成/組み合わせによって新しい回答を創造できる/聞き方を変えた効果/命令次第で発揮する能力が異なる/「いい頼み方」のポイント/「サンプル」の幅が広く、精度が高い/文脈が追える/環境に左右されない/話を膨らませられる/ディスカッションの相方として有能/今から使っておくべき/間の力を加えてイノベーションを起こす/マルチモーダル/画像生成系AIとの連携/人間とAIが協力して互いの苦手部分を補い合う世界/人間もAIも同じ | |
| 第３章 ChatGPTはここが危うい | |
| AIの統合/権力の集中/あまたのサービスの結節点に/ブラックボックス問題/情報システムは容易にブラックボックスに陥る/ディープラーニングなんてわかりっこない/EUはAIの規制に乗り出す/魔術研究そのもの/機械学習における過学習、破壊的忘却/プロンプトエンジニアリングの内実/ELIZA効果/『エクス・マキナ』の世界観/Lovotの戦略/間のコントロールは簡単/人は操られたがっている/「妖精配給会社」/妖精とSNS/妖精役の人間をAIに任せたら…/ゲームのNPCはすでにAIが担っている/妖精をシミュレーション/AIに侵食されるのはいやだ/中国語の部屋/言語モデルの中核は尤度/ChatGPTの知能検査/「考える」問いは苦手/相関関係と因果関係の区別/質問に回答例を足してあげる/AIに誘導されて自殺した男/AIを活用したスイスの安楽死装置/トリアージでの活用/ルールを作るのはあくまで人間/学習用データは2021年9月まで/人付き合いと一緒/AIを神格化しない/生成系AIを活用する際の5原則/出典の開示/AI利用は麻酔と同じ？ | |
| 第４章 大学と社会とChatGPT | |
| 「ここだけの話」ができる場だった/AIは権威/相談相手は昔教員、今AI/学術とAI/学生の二極化/AIで承認欲求を満たす/Web3ムーブメントとの共通点/パノプティコンのディストピアのはずが....../人は監視されたがっている/人はGAFAに自ら積極的に情報を差し出す/エリートの幻想/二重構造と権力の非人称化/公平で透明な社会の到来か？/AIに思考を侵食されないための処方箋/プロンプト入力はプログラミングに似ている/今後求められる重要リテラシ/上手な付き合い方を学ぶしかない/webのマネタイズモデルの大転換/友達になるのはいいが、主人にするのはまずい | |
| 第５章 クリエイティブとChatGPT | |
| 画像生成AIの実力/苦手な部分/著作権の問題/プライバシーの問題/AIの学習データセットに自分の情報が･････/作家へのダメージ/コピーに該当する生成物/生成系AIによるパクリ/出典明示の必要性、対価を取れるしくみ/AIに仕事を奪われるイラストレータ/ビッグテックをベーシックインカムの担い手に/創造性を発揮できるのはまだ先？/創造性が不要な場はAIの進出が続く/程良い成果物はAIの独壇場/クラウドワーカーへのサポートの必要性/カメラが生まれても画家は存在する/ゲームのデバッグ要員に最適/シナリオ作成サポート/アダルトビデオ制作 | |
| 第６章 人類の未来とChatGPT | |
| 自閉症とChatGPT/人間もAⅠも関数/プロンプトインジェクション/ライバルを潰す手段としての規制/判断の様子の可視化は有効か？/AIへの嫌悪感が少ない日本だが･････/人間の脳もたいしたことはしていなかった？/「創造的な仕事」をしたい人は多くない/AIに仕事を奪われたら補償してもらえばいい/AIに常識を実装できるか/AIのトリガー | |
ただし、こうした「感情曲線」に基づいてシナリオ・ライターに意見し、書き直しを求めるプロデューサーやディレクターは居そうだ。そしてそれに対して、自由な創作を妨げると反発するライター…。というような設定のドラマもあったように思う。
今、日本では人手不足が大きな問題になっている。とりわけ深刻なのはバスの運転手とかで、運転手不足で本数が減ったり、廃止される路線も出始めていると伝えられている。バスの運転をAIに任せるのは、一部で実験もされているけれど、まだまだ難しそうだが、多くの作業で一部にAI応用ソフトを使用することはかなり進んでいる。
たとえば道路の維持管理で、目視で傷み具合を確認ていたところを、AIの画像判断を使うことで、検査チームの人員を減らし、検査時間を短縮するなどがある。
上にあげたシナリオ・ライターの場合は、ライターの仕事が減るのか、プロデューサーの仕事が減るのか、どっちだろう。
医療分野では、AIの画像診断は既に専門医のレベルには達しているともいわれる。
既にAIは社会になくてはならないものになっていると言って過言ではないと思う。
本書で、著者は面白いことを言っている。発想の大転換である。
AIに仕事を奪われたら補償してもらえばいい
その仕事だって、別に創造的だから偉いわけでもない。
創造的な仕事の能力でAIに先を越されても、それはその人の人としての価値を毀損しない。 創造的でない仕事で暮らしていけばよい。
問題は、「AIに意図せず仕事を奪われて、食い扶持を失ってしまったとき」だが、別章でも議論したように、仕事を奪われることと食い詰めることは必ずしもセットではない。「AIに仕事を取られたことで、耐えがたい精神的苦痛を受けた」とでも言って、補償してもらってもいいのだ。
重ねて言うが、AIがお金を欲しがることはないので、AIが稼いだ上がりは仕事を取られた人間が受け取って何の不都合もない。AIは恨んだりしない。
恨むとしたらAIの運営企業だろう。彼らは人も物も知恵も電力も、いろんなものを惜しげもなくぶっ込んでAIを作り、動かしている。そのぶんは回収すべきだが、それを補って余りある余剰分はみんなに還元したらどうか。むしろ、現在形成されつつある国際ガイドラインで、「その覚悟がない企業はAIを作るな」と宣言してもいいのだ。
そうしたら、AIは人間の生活水準向上に貢献したと間違いなく言えるだろうし､『Ｒ，Ｕ．Ｒ．』（カレル・チャペック）が言う「人間は好きなことだけをするのです」の実現に向けて、何歩も歩みを進めたことになるだろう。
その仕事だって、別に創造的だから偉いわけでもない。
創造的な仕事の能力でAIに先を越されても、それはその人の人としての価値を毀損しない。 創造的でない仕事で暮らしていけばよい。
問題は、「AIに意図せず仕事を奪われて、食い扶持を失ってしまったとき」だが、別章でも議論したように、仕事を奪われることと食い詰めることは必ずしもセットではない。「AIに仕事を取られたことで、耐えがたい精神的苦痛を受けた」とでも言って、補償してもらってもいいのだ。
重ねて言うが、AIがお金を欲しがることはないので、AIが稼いだ上がりは仕事を取られた人間が受け取って何の不都合もない。AIは恨んだりしない。
恨むとしたらAIの運営企業だろう。彼らは人も物も知恵も電力も、いろんなものを惜しげもなくぶっ込んでAIを作り、動かしている。そのぶんは回収すべきだが、それを補って余りある余剰分はみんなに還元したらどうか。むしろ、現在形成されつつある国際ガイドラインで、「その覚悟がない企業はAIを作るな」と宣言してもいいのだ。
そうしたら、AIは人間の生活水準向上に貢献したと間違いなく言えるだろうし､『Ｒ，Ｕ．Ｒ．』（カレル・チャペック）が言う「人間は好きなことだけをするのです」の実現に向けて、何歩も歩みを進めたことになるだろう。
荒唐無稽なようだが、物によっては社会システムに実装できるものもありそうだ。上の話の前にこんなことも書かれている。
ビッグテックをベーシックインカムの担い手に
だから出典を明示できるようにして、自分の作品が学習データセットに使われたら、コンテンツ生成の過程で参照され、作品に貢献したら、対価が取れるしくみが必要だと考えるのである。 カラオケで歌われたら、著作権者にいくらか入るようなものだ。 カラオケに使われること自体を完全に拒否することは難しいから、ならいっそ利潤を取るのである。ひょっとしたらビジネスチャンスになるかもしれない。
奪われるなら奪ってもらっても構わないという考え方もある。たいていの人は労働はいやで、お金のためにしぶしぶやっているので(※個人の感想です。そうでもないかもしれない。特に作家は何かを表現したい人の集まりなので、仕事が好きかも)、AIがより良くやってくれるなら存分に奪ってもらう。
でも、その仕事で得たぶんのお金は、仕事を奪われた人に還元する。AIはお金を欲しがらないから、別にいいよね? AIの運用には大金がかかるから、そのぶん抜いてもいいけど、それにしたってのが余る。 それを作家に戻すのである。
別に仕事を奪われた人に限定しなくてもいい。ベーシックインカムというと、どうしても国がやるものといったイメージが強いが、今やビッグテックは国家をしのぐキャッシュフローを持つところも多いのだ、ピッグテックがベーシックインカムの担い手になっていけない理由はない。社会実験好きだろうし…
だから出典を明示できるようにして、自分の作品が学習データセットに使われたら、コンテンツ生成の過程で参照され、作品に貢献したら、対価が取れるしくみが必要だと考えるのである。 カラオケで歌われたら、著作権者にいくらか入るようなものだ。 カラオケに使われること自体を完全に拒否することは難しいから、ならいっそ利潤を取るのである。ひょっとしたらビジネスチャンスになるかもしれない。
奪われるなら奪ってもらっても構わないという考え方もある。たいていの人は労働はいやで、お金のためにしぶしぶやっているので(※個人の感想です。そうでもないかもしれない。特に作家は何かを表現したい人の集まりなので、仕事が好きかも)、AIがより良くやってくれるなら存分に奪ってもらう。
でも、その仕事で得たぶんのお金は、仕事を奪われた人に還元する。AIはお金を欲しがらないから、別にいいよね? AIの運用には大金がかかるから、そのぶん抜いてもいいけど、それにしたってのが余る。 それを作家に戻すのである。
別に仕事を奪われた人に限定しなくてもいい。ベーシックインカムというと、どうしても国がやるものといったイメージが強いが、今やビッグテックは国家をしのぐキャッシュフローを持つところも多いのだ、ピッグテックがベーシックインカムの担い手になっていけない理由はない。社会実験好きだろうし…
本書の書評を終えるにあたって、次の適切な指摘を引用しておこう。
エリートの幻想
人間にとって自分で考えること、自分で決めることが重要で、価値があり、みんながそれを望んでいると思っていたのに、それは一部の能力や環境、資源に恵まれた、要するにエリートの幻想であって、AIが(たとえその中身がしかけのわからないブラックボックスであっても自分よりずっともっともらしい回答を導いてくれるのであれば、それに従って生きたほうが楽で責任も負わなくてすむと考える人はたくさんいるのではないだろうか。
むしろ、AIの託宣を受けて人生の岐路をどちらに進むか決めるだけでなく、AIに評価され、認められることで嬉しいのではないか。移り気な大衆の「いいね!」やレピュテーシヨンに一喜一憂するのではなく、AIに「いい行動だ」と評されるほうがずっと公平で納得できる承認欲求の満たし方なのではないだろうか。その萌芽はすでに社会のそこここで発見できると思うのだ。
会社訪問や面接の手応えではなく、AIの診断で行く会社を決める。自分で感じた形勢ではなく、AIがつけてくれた点数で棋力の向上を実感する。いずれもAIが権威としてすでに機能している証左である。
人間にとって自分で考えること、自分で決めることが重要で、価値があり、みんながそれを望んでいると思っていたのに、それは一部の能力や環境、資源に恵まれた、要するにエリートの幻想であって、AIが(たとえその中身がしかけのわからないブラックボックスであっても自分よりずっともっともらしい回答を導いてくれるのであれば、それに従って生きたほうが楽で責任も負わなくてすむと考える人はたくさんいるのではないだろうか。
むしろ、AIの託宣を受けて人生の岐路をどちらに進むか決めるだけでなく、AIに評価され、認められることで嬉しいのではないか。移り気な大衆の「いいね!」やレピュテーシヨンに一喜一憂するのではなく、AIに「いい行動だ」と評されるほうがずっと公平で納得できる承認欲求の満たし方なのではないだろうか。その萌芽はすでに社会のそこここで発見できると思うのだ。
会社訪問や面接の手応えではなく、AIの診断で行く会社を決める。自分で感じた形勢ではなく、AIがつけてくれた点数で棋力の向上を実感する。いずれもAIが権威としてすでに機能している証左である。
六二郎。
