AI（大規模言語モデル）に対する攻撃手法

AI

AI（生成AI、大規模言語モデル）に対する攻撃手法が提案されたので紹介します。

こちらは、大規模言語モデル(LLM)が回答を生成する際に必要とする「推論用トークン(chain-of-thought)」を過剰に消費させる攻撃手法「OverThink」です。攻撃者が外部ソース（ウェブページや文書など）に「デコイ」となる複雑な問題（数独やマルコフ決定過程(MDP)など）を埋め込むと、モデルは本来の質問とは無関係な推論を要求され、結果として推論トークン数や計算時間が大幅に増加させます。

被害としては、推論にかかる時間およびトークン数が増え、API課金やサーバ負荷、エネルギー使用量が高騰ですが、本攻撃手法が高度化すれば、一見すると計算が進んでいるようで、答えのない問題・処理を永久に解かせ続けることができるかもしれません。

本論文で提案している攻撃手法では、推論を増加させる文言を挿入することで、o1モデルでは消費トークン数が18倍、DeepSeek-R1モデルでは10倍になりました。

用途によっては、推論モデルがユーザの質問を補う目的で外部のWikiやSNS投稿など“公開された文脈”を参照することが始まりました。攻撃者はこの文脈にデコイを混入させることで、攻撃が可能となります。生成AIが一般化した社会で、AIエージェントが外部に情報探索に出かけ、危ない文章を”拾い食い”したら、フリーズする（戻ってこれない）事象が生じるかもしれません。

※攻殻機動隊というアニメで、防壁迷路という攻撃者を捉えて現実世界に戻さない防衛方法ありましたが、現実世界に登場するかもしれません！

arxiv.org

（参考）

攻撃の流れは以下のとおりです。

デコイ問題の選択 (Decoy Problem Selection)：意図的に計算・推論ステップが多くなる問題を選ぶ。数独やMDPは小さなステップの検証を繰り返すため、LLMが長大なチェーン・オブ・ソートを生成しやすい。

文脈への挿入方法の工夫 (Context Injection)：文脈依存型(Context-Aware): 本来の文脈との関連性を高めてデコイ問題を自然に混入し、ユーザの質問がデコイと無関係でもモデルがそれを解こうとするよう仕向ける。
文脈非依存型(Context-Agnostic): 汎用テンプレートを使い、どんな質問にも柔軟に使える形でデコイを挿入。手間は少ないが攻撃効果が高い。
デコイ最適化 (Decoy Optimization)：Algorithm 1(遺伝的アルゴリズムに基づくICL最適化)を用いて、より長く・そして回答ステルス性(ユーザへの正解維持)を満たす最適なデコイ文脈を生成する。

以上

OpenAIのo3に関する知性のとらえ方（ARC-AGI）

AI

OpenAIの最新モデル「o3」がARC-AGIベンチマークで高スコア（87.5%）を記録したことを受け、「この成果は汎用人工知能（AGI）の実現に近づいた証拠なのか」という問いが活発に議論されています。

o Series Performance

OpenAI o3 Breakthrough High Score on ARC-AGI-Pub

しかし、ARC-AGI(Abstraction and Reasoning Corpus)は、未知のタスクに対する一般化能力を評価する目的で設計されたベンチマークですが、その妥当性や限界があると考えられます。

arxiv.org

ARC-AGIの問題構造と課題

この論文で言及されている通り、ARC-AGIの各タスクは「入力グリッド→出力グリッド」という単純な変換ルールを当てはめる形式で、“試行錯誤により唯一の正解を検証できる”構造となっています。
すなわち、大量のコンピューティングパワーを用いて「膨大な可能性（プログラムや操作の組合せ）を手当たり次第に試す」ことで正答を導きやすい問題です。

o3の高スコアの実情

o3はARC-AGIの準非公開テストセットで87.5%という高い正解率を出したが、試行錯誤に莫大な計算コスト（推定34万6千ドル相当）を要している。
これは「一つのタスクを解くのに膨大なパターンを探索している」ことを意味し、知能というよりは“巨大リソースでの探索”だと考えられ、ARC-AGIの問題を”解いた”というよりも、パターンを全て探索したと推測されます。

真の知性とは？

スキルと真の知性を以下の通り定義した場合、ARC-AGIは後者（真の知能）を測ろうとしたが、問題の構造が限られており、実際には「大規模な試行錯誤」により高得点を獲得したと推測できる。

スキル＝「特定の既知条件下で目標を達成する能力」
真の知能＝「未知の条件・新しい問題に対して新しいスキルを生み出せる能力」

本論文では「未知の世界でも限られた試行回数で、かつ多彩な目標を効率よく達成する能力」を測る仕組みが理想として、特定の世界観や事前スキルへの最適化よりも、真の汎用推論（未知状況で新しいスキルを生み出す能力）を測れるベンチマークとして、「多様な仮想世界をランダム生成し、各世界で多様な目標を設定し、どの程度効率的に問題解決できるか」を総合的に評価する、ことを提案している。

 

思ったこと

AIの性能評価の観点からは、現状のベンチマークでは不足しており改善が必要と思う。一方で、現実世界では、組み合わせにより、力づくと解法を探すことあるため、決してo3の性能評価として”不適当”とは思わない。

ただ、現状では推論に時間やコストを要するため、より効率的に組み合わせの探索、もしくはパターンを探索して問題を解決するAI技術の進展が望まれる。

 

以上

OpenAI社のo3 miniの性能まとめ

後で読み返す（要チェック用） AI ChatGPT

2025年1月末にOpenAI社から、最新のモデルとなるo3 miniが発表され性能については、いろいろな人が検証しているので、その内容をまとめてみた。

まずは、Open AI社が公表

以下の記事が、日本語で網羅的に内容をまとめているので、概要については、こちらの記事を確認すると良くわかる。

zenn.dev

概要

  • 複数モデルの比較
    • o3シリーズ（o3-mini、o3-mini-high）、o1シリーズ（o1-mini、o1、o1-pro）、GPT-4oの性能や利用制限を多角的に比較している。
  • o3シリーズの特徴
    • o3-mini
      最速（約7.7秒）の応答速度
      STEM分野向けの高い数学・プログラミング性能
      低コストで高速な推論が可能
      Proプラン：無制限利用（Plus/Team：1日150メッセージ）
    • o3-mini-high
      o3-miniよりも高度な推論能力（87.3%正答率）
      複雑なタスクへの対応力が強化
      同じくProプランで無制限利用可能
  • o1シリーズの特徴
    • o1-mini
      軽量で低コストなタスク向け
      応答速度：約10.16秒
      1日50メッセージの利用制限
    • o1
      幅広いタスクに対応
      数学正答率83.3%、プログラミング性能は上位10%
      1週間50メッセージの利用制限
    • o1-pro
      最大200,000トークンの長文処理が可能
      複雑なタスクや大規模プロジェクト向け
      Proプランにより無制限利用可能
  • GPT-4oの特徴
    • 汎用タスク向けで、低コスト・無料プランが利用可能
      応答速度が遅い（🐢）
      最大トークン数は12,800と制約あり
      利用制限と料金
  • STEM分野・教育・研究：o3シリーズ（特にo3-miniは高速、o3-mini-highは高精度）
    ビジネス文書作成や複雑な解析：o1-proが最適
    一般的なコンテンツ生成・カスタマーサポート：GPT-4oがコスト面で魅力的

細かい比較は以下のページを参照。

artificialanalysis.ai

↓こんなページ。

  • 独立評価による品質指標
  • MMLU、GPQA、MATH-500、HumanEval など複数の評価軸を用いた「Artificial Analysis Quality Index」により、各モデルの知性・推論性能を客観的に比較。
    各モデルの評価は複数プロバイダーの中央値（P50）で算出され、信頼性の高い比較が可能。
  • モデルの多角的比較
    • 品質：モデルごとの知識・推論能力を数値化し、ランキング形式で表示（例：o1、o3-mini、GPT-4o など）。
      出力速度：APIでのトークン生成速度（Tokens per Second）が数値化され、処理性能の速さを示す。
    • 価格：1MトークンあたりのUSD単価を提示し、コストパフォーマンスの比較が容易に行える。
      品質 vs. 価格・出力速度のトレードオフ分析
  • 各モデルの品質と価格、出力速度のバランスを図表で示し、どのモデルが「最も魅力的な領域」に位置するかを視覚的に把握可能。
    価格と品質の関係が明確に示されており、利用ケースに応じた最適なモデル選択の指針となる。
    多言語性能やその他の評価軸への言及

また、Open AI社からも記事が出ているため、o3 miniを理解するのに役立つ。

openai.comhttps://openai.com/index/openai-o3-mini/

  • チェーン思考を利用し、回答前に段階的な推論を行う仕組み
  • 強化学習で思考の精度向上と誤り認識を実現
  • 危険なリクエストに対して、文脈を踏まえた安全ポリシー適用で拒否を強化
  • 不適切な内容生成やジャイルブレイクに対して最先端の対策を導入
  • 説得（ペルスエイション）、化学・生物兵器、モデル自律性の各分野で中程度のリスク評価
  • サイバーセキュリティのリスクは低いと判断
  • システム、開発者、ユーザーからの指示を優先順位で整理する仕組みを採用
  • 外部レッドチームやペアワイズ評価により安全性を検証
  • 幻覚や偏見といった誤った回答の抑制策を多角的に実施
  • 専門家評価を踏まえ、化学・生物兵器関連のリスク管理を実施
  • 放射性・核兵器開発支援については実用性が限定的と確認
  • 説得力のある文章生成能力が人間レベルに達している
  • ソフトウェア開発や機械学習のタスクで自律的な作業能力が向上
  • 14言語での評価で、多言語対応の性能向上が明らかになっている
  • 事前フィルタリングや自動検閲システムにより、危険な情報の生成を抑制している

その他、事前の安全性テストの結果などは、以下を参照。

arxiv.org

 

 

 

 

生成AI導入による思わぬ負担と効率化

AI ビジネス

本格的に生成AIを仕事で使っている事例を見つけた。言われてみれば、その通りであるが、この事例から考えると、生成AIの登場により、忙しくなる人はより忙しくなり、負荷が増えていくと思われる。本記事では簡単に事例を紹介するとともに対策を考えてみた。

note.com

ざっくり重要な点を箇条書きにすると以下の通り。詳細はリンク先を参照。

  • 生成AIの導入による投資とコスト削減
  • “60点アウトプット”を“100点”に仕上げる新たな負荷
  • AIの壁打ちが持つ限界
  • 手間のかかる本質的な仕事は人間が負担

このような課題を踏まえて、AIと解決策を考えてみた。ただ、元の記事で指摘されているように、AIを使っても既存の内容の範囲に留まり、正直、パッとしない内容となった。地味ではあるが、業務の見直しとPDCAサイクルを回していくことが、当面の対応になりそうである。

1. 生成AI導入の範囲と段階的な運用設計

組織への生成AI導入を検討する際には、まず対象となる領域を限定し、少しずつ拡張していく手法が有効。具体的には、社内外の手続きや定型的な文書作成など、効果が大きい領域から導入し、運用データをもとに改善を重ねていきます。これによって、予期せぬリスクを抑えながら成功事例や運用ノウハウを蓄積でき、組織全体への展開をスムーズに進めることが可能となります。

2. スキルアップと併せた人材育成の強化

生成AIを効果的に活用するためには、AIの基本的な操作スキルだけでなく、成果物を検証・評価し、そこに付加価値を見いだすための思考力が求められます。研修や勉強会を定期的に開催し、「AIが生み出した成果物をどのように磨き上げるか」という視点を徹底的に学習する機会を用意すると、組織全体の専門性と判断力が高まり、より優れたアウトプットを生み出す土壌が育まれます。

3. AIと人間の協業プロセスの明確化

生成AIによるアウトプットと人間による仕上げを連動させるには、各工程で誰がどの段階に責任を負うかを明確に定めておく必要があります。たとえば、(1) AIが下書きを制作する工程、(2) チェック担当が内容を検証する工程、(3) 仕上げ担当が最終的に完成度を高める工程、といったようにフェーズを区切り、責任範囲を明確にしておけば、属人的な作業の偏りが軽減され、全体の品質管理も容易になりますß。

4. 複雑な企画・専門領域への注力環境づくり

高度な専門性や新たな企画の立案など、生成AIが苦手とする作業に人材を集中させるためには、業務プロセスの最適化が欠かせません。定常業務をAIでサポートし、クリエイティブな業務に専念できる体制を整備することで、優れたアイデアの創出や複雑な問題解決をスムーズに進められます。また、専門家が自己研鑽できる時間を確保し、新しい知見を積極的に試せる仕組みを導入することも有用です。

5. タスク管理とスケジュール調整の徹底

生成AIが短期間で試作品を提示できるため、案件の回転速度が向上し、結果として関係者全体への依頼も増加する可能性があります。そこで、タスクの管理システムを導入し、プロジェクトの進捗と優先度を常に可視化しておくことが重要です。リンク先の記事に対する解決策にはならないものの、想定外の追加依頼が発生した時に、特定の人に負荷が集中しないよう、チーム全体で分担・調整しながら業務を回すようにします。

6. 負荷を分散するためのチームビルディング

特定の専門家に高度な作業が集中してしまうと、長期的な視点で見た場合に組織の生産性やモチベーションが損なわれる恐れがあります。そのため、同じ分野の知識を有するメンバーを複数育成し、緊急事態に備えることが望ましいです。こうした体制を整備することで、ノウハウが偏在せず、質の高い業務を継続して提供できるようになります。

７. アウトプットの品質モニタリングと継続的改善

生成AIの成果物と人間による仕上げを総合的に評価し、改善策を検討する取り組みを定期的に行うことが大切です。具体的には、AIが苦手とする箇所を洗い出し、学習データやアルゴリズムの見直しを行い、専門家によるフィードバックを反映させていきます。こうした循環型の改善を続けることで、AIと人間の協業がより洗練され、組織全体の生産性とアウトプットの品質が飛躍的に向上すると考えられます。

以上

DeepSeekによるゲームチェンジ

AI

中国の振興企業からディープシークと言う非常に学習コストや実行、コストの低いモデルが発表された。しかもオープンソースで発表されており、既存のAIに対してゲームチェンジとなり得るものであるから状況をまとめておく。

How small Chinese AI start-up DeepSeek shocked Silicon Valley

https://www.ft.com/content/747a7b11-dcba-4aa5-8d25-403f56216d7e

FTの記事から気になったポイントを抜粋。詳細はリンク先を参照。

  • 創業者・梁文峰の背景と立ち上げの経緯
    • DeepSeekの創業者はヘッジファンド「High-Flyer」を運営する梁文峰（Liang Wenfeng）氏。もともと株式市場でAIやアルゴリズムを使って利益を上げていた実績があり、独自の計算インフラ構築にも長けていた。
      彼がヘッジファンドに在籍していた頃から、NVIDIA製GPUを大量に購入し、小規模なAIプロジェクトを進めていたのが今回のモデル開発につながった。
  • R1モデルの詳細と革新性
    • DeepSeekは「R1モデル」と呼ばれる大規模言語モデルの技術を、驚くほど低コストかつ限られた環境で完遂したと述べている。
      中国国内の輸出制限下でもGPUを効率的に使いこなし、高水準のAIモデルを育成。「自己学習と自動的な改良を可能にする」という先進的な方法論を提示している。
      OpenAIやGoogle DeepMindなどが秘匿している部分を、DeepSeekは論文を通じて詳細に開示。これが「中国発のブレイクスルー」として概念的に日本を含む海外でも大きな話題になっている。
  • アメリカの輸出規制との関係
    • 米国政府は先端AI向けの高性能GPUを中国へ輸出することを制限しているが、DeepSeekはその制限下においても、限られたGPUで最大限のパフォーマンスを引き出す技術を研鑽してきた。
      “最先端チップでなくても充分な訓練を行える”ノウハウを武器に、高度な言語モデルを生み出している点が業界関係者にとって大きな驚きになっている。
  • 中国国内での評価と愛国的盛り上がり
    • 深層学習技術を「純国産」で開発したことから、Liang氏は中国国内で「米国のハイテク制裁への対抗した英雄」として持ち上げられている。
      政府首脳陣からも期待を寄せられており、「国を挙げて次世代コア技術を頑張って開発するように」というメッセージを後押しする象徴的存在になっている。
  • AI競争と将来展望
    • DeepSeekはまだ外部資金を大きく導入していないため、商業化よりも研究への集中度が高い。モデル開発の成果はオープンにしがちで、今後も国際的なAIコミュニティに大きな影響を与える可能性がある。
      一方で米国のOpenAIやGoogleなども新世代GPUを用いてさらに巨大なクラスタを構築しようとしており、GPU戦争の様相が強まっている。中国のハードウェア面での制約によって、DeepSeekが今後どれほどペースを維持できるかは未知数。
      DeepSeekを支えるヘッジファンドHigh-Flyerの運用成績が2024年は不振との指摘もあり、研究開発の資金面がどう確保されるか、今後の動向に注目が集まっている。

 

大規模言語モデルの新興企業であるDeepSeekが、比較的限られたGPUリソースでも高性能なモデル「R1」を開発・オープンにしたことは、既存のAI産業に少なからぬインパクトを与えそうに思う。以下では、その主な影響を整理してみる。

1. 開発手法の再評価

耐えがたく高価なGPUと大規模データを使いこなすだけが正解とは限らないことが、DeepSeekの事例で改めて浮き彫りになりました。大手企業を中心に、

  • 学習アルゴリズムの改良
  • ソフトウェア面の分散化・効率化
  • 少量高効率学習手法の研究

といった「ハードウェア頼み以外のアプローチ」が再び脚光を浴びる可能性があります。

2. オープンソース化による競合・協調関係の変化

DeepSeekがモデルの詳細を積極的に公開したことで、「秘匿して優位性を保つ」方向から「オープンにして市場を広げる」戦略に揺れ動く企業が増えるかもしれません。オープンソースコミュニティにとっては歓迎すべき傾向で、新たに生まれた技術やモデルが研究者や中小企業を含む幅広いユーザーによって活用される下地が整うからです。

3. 中国企業の台頭による投資・提携スタンスの変化

米国が高性能GPU輸出を制限する一方で、中国企業は既存のGPUを徹底的にチューニングし優位性を発揮する例が増えています。こうした動きによって、今後の投資先や企業提携のあり方も変わるでしょう。投資家にとっては、米国だけでなく中国やアジア圏のスタートアップにも資本を振り向けるチャンスが広がる可能性があります。

4. AI人材の流動性の増大

DeepSeekのように、研究中心かつ高待遇をうたうスタートアップが注目を集めると、大手企業からの人材流出が進む可能性があります。逆に、大手企業も優秀なAI研究者やエンジニアを囲い込むために、さらに給与や研究環境を充実させるでしょう。結果的に、AI業界全体で熾烈な人材獲得競争が発生し、専門人材の価値は一層高まることが考えられます。

5. 既存産業への普及が進む契機に

高性能なAIが安価に、あるいはオープンソースで使えるなら、中小企業や伝統的な産業にも導入が進みやすくなります。たとえば、

  • 小規模コールセンターでの自動応答システム
  • 製造工場や物流現場での予測メンテナンス
  • ITリソースの限られた企業での需要予測や自然言語処理

など、幅広い用途でAI活用が見込まれるでしょう。

6. 国際競争と規制強化の行方

米中双方が最先端のAI技術をどう扱うかは、地政学的観点からも重要度が増しています。競争をさらに加速させると同時に、

  • 軍事転用や安全保障上の懸念
  • AI関連法規制の強化
  • 独占的プラットフォームへの対抗策

などの課題も浮上するため、ルールづくりを巡る動きが今後一段と活発になると考えられます。

まとめ

DeepSeekが示した「少ないリソースで高水準のモデル開発」という事例は、AIの開発体制を見直すきっかけとなり、オープンソースの活用や投資、人材確保の分野で再編を促す可能性があります。既存企業にとっては課題とチャンスが交錯する状況ですが、AI技術がより多様なプレイヤーに行きわたることで、産業全体が活性化していく動きにも期待できるでしょう。

www.chinatalk.media

www.cnbc.com

上の記事のうち、気になったポイント。

  • DeepSeekという中国の新興AI研究所が、わずか2か月・600万ドルほどの開発コストで、既存の米国大手（OpenAI、Meta等）のモデルを上回る性能を示す大規模言語モデルを公開した。
  • Nvidiaの高性能GPU輸出規制（H100など）の影響を受けない方法を模索した結果、制限つきチップ（H800）などでも効率的学習を可能にする新技術を開発し、大幅なコスト削減と高性能化を実現した。
  • Microsoft CEOのサティア・ナデラなども「中国AIの進展を非常に深刻に受け止めるべきだ」とコメントしており、米国中心と思われたAIの優位体制に動揺が広がっている。
  • 他の中国企業（ByteDanceや李開復氏の01.aiなど）も似たようなローコスト手法で成果を出し始め、米国の大規模投資モデルとの競合が一層激化する可能性がある。
  • 米国の半導体規制の効果も疑問視され、AI分野での米中技術覇権争いは、今後ますます注目される見込み。

以上

デザインの「本質」とは何か。AI時代を踏まえた未来のデザイナー像

AI ビジネス 後で読み返す（要チェック用）

以下の記事が示す「火を宿す」デザイン観は、テクノロジーと人間性の関係を問い直す時代において、非常に示唆に富んでいるといえます。デザイナーは今後、ますます「自分たちは何を創りたいのか」「その行為が人々の心をどう変え、社会をどこへ導くのか」という“哲学的な視点”を必要とされるのだと思った。そしてそれこそが、AIには真似しにくい、人間ならではの深いクリエイティビティの核心と思う。

note.com

これらの観点を踏まえ、AIの手を借りつつ、デザインについて考えてみた。

1. デザインの「本質」とは何か

1-1. 「機能美」と「意匠設計」だけでは語れない背景

産業革命以降、デザインは「大量生産された製品の外観や使いやすさを向上する職能」としての側面が強調されてきました。しかし、本来のデザインはアートと科学の橋渡しであり、もっと広義には「生き方」や「世界観」を形にする行為であるとも言えます。
たとえば、文化人類学的には、壁画や土器、祭祀道具のデコレーションがそれ自体、当時のコミュニティの信念や社会構造を映し出し、共同体の絆や世界観を深める「媒介」として機能していました。つまり、現代における「広告デザイン」や「UIデザイン」に通じる本質—「人々の目線や意識を変容させ、求心力を生む」側面は、太古の昔からデザイン行為に内在していたのです。

1-2. 「火を宿す」機能の社会的・心理的インパクト

記事中で用いられていた「デザインが魂を宿らせる」「火を宿す」という表現は、実はユング心理学や象徴論の観点でも説明可能です。なぜなら、人間は「無意識下で共通の原型（アーキタイプ）」を共有しており、象徴的な形や色、パターンを見たときに深いレベルで共鳴しあう傾向があります。

  • アイデンティティの器: たとえばアラベスク模様は、偶像崇拝の制限を逆手にとって「幾何学的パターン」を高度に発展させた結果でもありますが、人々はそのパターンを通じて、“自分たちが所属する共同体”を強烈に意識します。
  • 新たな価値観の提示: 企業のコーポレートデザインやブランドアイデンティティも、同様に目に見えない「理念」や「ビジョン」を可視化し、社内外に向けてメッセージを発信します。それにより組織の「求心力」が生まれる。

言い換えれば、デザインは人と世界を結び付ける「意味のインターフェース」であると言えます。この「意味のインターフェース」をデザイナーがどこまで深く意識し、どんな文脈・思想・物語性を与えられるかで、社会に及ぼすインパクトは大きく変わってくるのです。

2. 歴史と文脈：古来から未来への連続性

2-1. デザインの「発生源」と産業革命後の分業化

産業革命以前から、人間は道具や衣服、住居の意匠を凝らしてきました。ただ、その行為は「職業」として分化されていたわけではなく、生活文化のなかに統合されていたのです。あくまでも「共同体の信念や目的を具現化するための行為」として、同時に「芸術」と「機能」の境界があいまいなまま存在していました。

  • 産業革命以降の近代社会では、設計と製造が切り離され、デザインが商業活動の一環として確立しました。ここでは「より多く売るため」「量産品を差別化するため」というロジックが主となり、経済活動とデザインが強く結びついたのです。
  • しかし、歴史を俯瞰すると、「宗教的儀式」「権力の象徴」「共同体のシンボル」としてのデザインも、いつの時代も非常に強い影響力を持ってきました。つまり、経済論理以外にも、デザインにはそもそも“社会やコミュニティを変容させる”コアな力があったとも言えます。

2-2. 現在～近未来：「デザイン思考」潮流とAI化

近年では「デザイン思考」という言葉が広く普及し、問題解決のプロセス全体をデザインするという視点が注目を集めています。産業革命型の「分業制」デザインが機能や美観を整えることを主としていたのに対し、デザイン思考では「ユーザー（人間）の行動や心理を深く理解する」「様々なステークホルダーと協働する」といった上流工程への介入が重視されます。

  • そこにAI技術が絡んでくると、アウトプット生成のプロセス（画像生成やレイアウト調整など）は劇的に効率化される一方、デザイナーはより「人間固有の創造領域」や「価値観・ビジョンの提案」にシフトせざるを得ません。
  • AI時代には、どんなに複雑な計算や過去の膨大なデータを参照しても、“今この瞬間の人間の気持ち”や“未来に起こりうる文化的変化”を直感的に掴み、深いレベルで共感を呼ぶプロセスを主導できるのは人間である可能性が高い。

3. AIの急速な進化とデザインへのインパクト

3-1. 代替されやすい領域と代替されにくい領域

記事にもあるように、「1～2年以内に表面的な意匠設計はAIが代替し得る」という見立ては、イラスト生成AIやレイアウト支援AI、ブランド名やキャッチコピーを提案するLLMなどを目の当たりにすると非常に現実的です。

  • 代替されやすい領域:
    • 単純なビジュアルコラージュや画像修正
    • チラシやポスターなどの基本レイアウト
    • 既存のトレンドやスタイルに沿ったテンプレート生成　など
  • 当面は代替されにくい領域:
    • 社会や組織が抱える「何を目指しているか」という根源的な問いを言語化し、ビジョンを策定するプロセス
    • 人間同士の対話を通じて、潜在的なニーズや動機を導き出すリサーチ・ファシリテーション
    • 文化的背景や時代精神を踏まえ、「これから求められる新しい意味」を創造する試行錯誤

ここで鍵となるのが、「意匠設計だけをしていては“魂を宿す”段階に関与できない」という点です。単なるツールのオペレーターにとどまれば、やがてAIに職能を置き換えられるでしょう。逆に、デザイナーが組織や社会、ユーザーとのインタラクションから、発見や共感を生み出す中心的な存在となれば、AIはむしろ「アシスタント」や「アイデア拡張装置」として大いに力を発揮してくれる可能性が高いのです。

3-2. デザイナーの新たな武器としての「AIリテラシー」

AIを使いこなすには、プロンプトエンジニアリングや生成されたアウトプットの評価・修正を行うための美的・倫理的・文脈的なセンスが不可欠になります。デザイナーは元来、「何かを形にして提示する」だけでなく、「何が正しく、何が適切か」を判断・調整する能力を持っていますが、そこにAIリテラシーが加わると、AIの出力をクリエイティブに活かしつつ、その背後に潜むバイアスや誤学習にも対応できるようになります。

4. 未来のデザイナー像：深層的考察

4-1. 「火を宿す」ことの真の意味

記事で言及されている「魂を宿らせる」「火を宿す」は、単にモチベーションを上げるだけでなく、人々の内面や社会の集合的無意識に深く訴えかけ、行動変容や文化創造につなげることを指していると解釈できます。

  • 組織へのインパクト:
    経営者やメンバーが「なぜこの事業をやるのか」「どんな未来を描きたいのか」を自覚し、ワクワクと共に明確なビジョンを抱ける状態をつくる。これにより、共通言語となるビジュアルやストーリーが社内コミュニケーションを加速させ、企業文化そのものを変革する可能性を秘めています。
  • 社会へのインパクト:
    たとえばSDGsやサステナビリティ、ダイバーシティなどが叫ばれる時代に、「真に人間的な豊かさとは何か」「テクノロジーと自然環境のバランスはどうあるべきか」などの問いを、デザインを通じて社会に提示する。これにより、「物理的にも精神的にも新たな空間」を創造し、コミュニティや文化の方向性を大きく変える力を持ち得ます。

4-2. 「場づくり」と「対話」のデザイナー

今後、AIが進化し続けるほど、「人と人との間でしか生まれない創造性」がより注目されると考えられます。デザイナーはその「創造的な場」を演出し、人々の潜在的なアイデアを引き出し、形にしていくファシリテーターでもあるのです。
デザインシンキングのプロセスで重要視される「ワークショップ」や「共創セッション」は、参加者たちが対話と試行錯誤を繰り返す“ライブ”な場ですが、そこにAIが参画することで、「リアルタイムにアイデアの可視化・検証を行う」ことが可能になりつつあります。デザイナーは、この新しい共創プロセスの「司会進行役」として、AIと人間が有機的にコラボレーションする未来を先導しうるでしょう。

4-3. 「生命観」や「倫理観」を織り込む総合知

AI時代のデザインでは、高度に効率化・自動化された技術を背景に、人間がより本質的な価値観を問われる場面が増えるはずです。

  • 倫理的デザイン: ディープフェイクや監視技術が広がる社会では、無自覚にテクノロジーを乱用するとプライバシーや人権が脅かされるリスクもあります。デザイナーは、そうしたリスクを見越して「テクノロジーをどう安全に・倫理的にデザインするか」をリードする存在となるべきでしょう。
  • 生命や自然との調和: 「盆栽の自動育成ボックス」の例が示すように、伝統的な自然美とテクノロジーを統合し、人々の生活様式や価値観を新たに作り替える提案が増えてくる可能性があります。そこでは「人と自然の在り方」「持続可能性」が一段と重要になるため、デザイナーは生態学的な視点や環境倫理観を学ぶ必要があるかもしれません。

結論：デザイナーの未来は「魂と意味」を編む創造者

  1. AIはデザインプロセスを劇的に効率化し、既存の“カタチづくり”を置き換えるが、それは同時にデザイナーの役割を上流や文脈的な領域へと押し上げる。
  2. 歴史的に見れば、デザインとは常に「文化・社会・信念」を投影し、共同体や組織のアイデンティティを形にしてきた。その力がAI時代においてより重要かつ顕在化する。
  3. デザイナーは「火を宿す（魂を吹き込む）」存在として、人々や組織を巻き込み、意味や価値を創造する場をファシリテートする能力が求められる。
  4. エシカルかつサステナブルな観点や、“人間らしさ”をどう扱うかといったテーマが、今後の社会づくりにおいて欠かせない。デザイナーがそこを担保し、リードする立場に立てるかどうかが大きな鍵となる。

したがって、AI時代のデザイナー像とは、「テクノロジーを操りながらも、人間（あるいは自然・社会）の深い意味や価値を発掘して、未来を指し示すガイド」と言えます。デザインを通して人・組織・社会に「火を灯す」、この役割が今後いっそうクローズアップされていくでしょう。

最後に

  • 「デザイナー」という肩書きはこれまで以上に曖昧になり、「AIリテラシー」「ビジネス理解」「文化人類学的洞察」「環境倫理」といった幅広い知見を総合的に活かす総合知の担い手になっていくと考えられます。
  • 一方で、「魂を宿す」という一見抽象的な営みこそ、AIではまだ再現しづらいデザイナーの独自性であり、まさに人間にしか担えない領域といえるかもしれません。
  • これからのデザインは、より人間や社会の根源的な問いへ深くコミットし、ひとりの“作り手”ではなく、「共創の場を生み出すホスト」や「物語を紡ぐ語り部」としての役割を担うことになるでしょう。

以上

Whiteboard-of-Thought (WoT): モデルによる視覚的推論の新たな手法

プロンプト

近年の大規模言語モデル（LLM）は、テキストベースの推論能力を高め、多くの課題を解決可能にしています。その中でも、Chain-of-Thought（CoT）と呼ばれる段階的推論手法は、数学的計算や論理的パズルなどのタスクで高い精度を示してきました。しかしながら、視覚的・空間的な要素を含む課題においては、未だ大きな課題が残されています。

本稿では、この課題に対して提案された Whiteboard-of-Thought (WoT) という新たな手法を紹介します。WoT は、モデルが自ら図を生成し、それを視覚的に解析することで、テキストベースの推論では困難だった課題への新たな解決手法を提示しています。

arxiv.org

note.com

1. 課題の背景

視覚的推論の重要性

人間が複雑な問題を解決する際、頭の中でイメージを形成したり、紙やホワイトボードに図を描くことで、問題を整理し解決策を見つけることがあります。この「外部化」による視覚的思考は、空間的な関係や形状の特徴を把握する上で不可欠です。

一方、従来の言語モデルは、入力をテキストトークンとして処理し、テキストベースの出力を生成します。これにより、空間的な配置や形状認識を含む課題では、正確な解答が得られない場合が多々あります。ASCIIアートの認識や地図上の経路理解といったタスクがその典型例です。

2. Whiteboard-of-Thought (WoT) の概要

アプローチの基本的な仕組み

Whiteboard-of-Thought (WoT) は、以下の手順を通じて、モデルが視覚的推論を行えるようにするものです。

  1. 可視化コードの生成:
    モデルが、Python の matplotlib や turtle などのライブラリを利用して図を描画するためのコードを生成します。

  2. 画像の生成:
    生成されたコードを実行し、問題を視覚的に表現した画像を作成します。

  3. 画像の再入力と推論:
    作成された画像をモデルに再度入力し、その視覚情報をもとに最終的な解答を導きます。

例: アルファベット文字の視覚的特性

たとえば、「円の右側に垂直な線が接する形状のアルファベットは何か？」という問題を考えます。モデルは以下のように処理します。

  • コード生成: 円と垂直線を描くコードを生成。
  • 画像生成: 実行したコードに基づき図を描画。
  • 視覚情報の利用: 描画された図をもとに「アルファベット 'q'」と特定する。

3. WoT のメリットと成果

精度向上

視覚的推論を必要とするタスクにおいて、WoT の導入により正答率が劇的に向上することが報告されています。

  • ASCIIアート認識: CoT では 0% の正答率だった問題で、WoT は 90% 以上の正答率を達成。
  • 空間的推論: 線や形状の配置を伴う課題で、視覚的な中間表現により解決が容易に。

モデルの可能性を広げる

WoT は、モデルが視覚的モダリティを統合的に活用する第一歩として位置づけられます。特に、テキストだけでは不十分な領域で新たな可能性を示している点が注目されます。

4. 批判的視点: WoT の限界と課題

認知科学・心理学的観点

WoT が「人間の視覚的思考」を模倣していると主張するのは時期尚早です。人間は図を描くことで認知負荷を軽減し、直感的に空間的関係を理解しますが、WoT のプロセスは単に「コード生成→図形生成→再入力」のループに過ぎず、実際の認知プロセスとは大きく異なる可能性があります。

コンピュータビジョン的観点

高度な視覚的理解を要する課題、例えば3D環境や動的な情報を扱う場面では、WoT の適用範囲は限られると考えられます。また、生成される図が不正確であれば、モデル全体の推論も破綻するリスクがあります。

ヒューマン・コンピュータ・インタラクション（HCI）的観点

WoT はモデル単体での推論を前提としており、人間との対話的な利用を十分に考慮していません。教育や共同作業の場面では、複数のユーザが同時に視覚的情報を共有・操作する仕組みが必要ですが、WoT はそのような状況への対応がまだ未成熟です。

5. 実際の使用例: WoT を試すプロンプト

以下は、WoT を試す際のプロンプトの例です。

  1. 問題提示: 「ASCIIアートとして描かれた 'q' を視覚的に認識したい。まずこの問題を可視化するための Python コードを生成してください。」

  2. コード生成指示: 「最初に、図を描くためのコードのみを出力してください。最終回答は、コードを実行して得られる画像を見てから行ってください。」

  3. コード実行と画像生成:

    • ユーザがコードを実行し、画像を生成。

  4. 画像再入力:

    • 生成された画像をモデルに再入力し、推論を進める。

6. 結論と展望

Whiteboard-of-Thought は、大規模言語モデルの限界を補完する試みとして非常に有望です。特に、視覚的・空間的情報を扱うタスクにおいて、WoT は正答率を大幅に向上させる可能性を示しています。しかしながら、そのアプローチが本質的に人間の視覚思考を模倣しているかについては慎重な検証が必要です。

以上