■

LLM

• LLMとは、生成AIの一種であり、大規模言語モデルである。
• 技術的には「与えられた文脈に対して、次に続く最も確率の高いトークン列を予測・生成する」のが基本的な機能である。
• トークンとは、モデルが扱う言語の最小単位であり、単語よりも小さい単位（日本語なら文字や記号、英語なら部分的な単語など）に分割されたものである。
• 各トークンは、モデルが処理できる数値に変換される。
• ChatGPTなどと対話できるのは、ベースとなるLLMが膨大な文章データで訓練された後、対話形式のデータでファインチューニングされているからである。
• そうして、ユーザー入力を含め「文脈に応じた適切な応答を統計的に生成する」ように訓練された対話モデルが出来上がる。
• このような対話モデルにおける「適切な応答」とは、単に「人間らしい文章を続ける」ではなく、「文脈を考慮し、質問の意図を捉え、関連する知識を活用して返答する」ことである。
• モデルの「理解」は、統計的なパターン認識に基づいている。
• 人間が感じる「意味」や「文脈」は、確率分布として表現されている。
• モデルが示す「知識」は、訓練データから抽出された統計的な相関関係である。
• 対話モデルが見せる「思考」は、実際には確率的な次トークン予測の連鎖である。
• 「共感」や「創造性」のように見える出力も、訓練データから学習したパターンの再現である。
• モデルの「個性」や「性格」は、訓練時に与えられた制約とプロンプトの産物である。
• 「考えている」ように見える応答も、文脈に基づく統計的な生成の結果である。
• 「記憶」と呼ばれるものも、実際は各応答における文脈の一時的な保持に過ぎない。
• 「学習」や「成長」を感じさせる様子も、与えられた文脈に応じた適切な応答パターンの選択である。
• 「自己認識」を示唆する発言も、訓練データから学んだ応答パターンの一つである。
• 対話中に見られる「知性」は、言語モデルの統計的な振る舞いである。
• 生成AIの示す全ての「人間らしい」特徴は、確率モデルによって生み出された幻想なのである。

「o1が"意図的にユーザーを騙す"ことがある」という記事へのコメントを読んで、LLMへの幻想をぶち壊す感じの何かを真面目に書こうかなと思ったんだが、

順を追って列挙していくほど「これ…なんだかんだ言って人間も変わらんよな…」となったので、AIに突っ込んで人間に置き換えてもらったのが下。

人間

• 人間とは、生物の一種であり、高度に発達した神経系を持つ生命体である。
• 生物学的には、外部からの刺激に応じて特定の神経回路が活性化し、電気信号のパターンを生成する有機体である。
• 神経伝達物質は、脳内情報伝達の最小単位であり、それらの組み合わせが感情や思考を形作る。
• 脳内の各信号は、特定の神経細胞のネットワークを介して処理される。
• 人が会話できるのは、言語野が発達し、過去の経験や学習によって形成された神経回路が活性化するからである。
• そうして、相手の言葉を含めた「状況に応じた適切な反応を神経系が生成する」という情報処理が行われる。
• このような対話における「適切な反応」とは、単に「言葉を返す」だけでなく、「状況を認識し、記憶を参照し、関連する経験を活用して応答する」ことである。
• 人間の「理解」は、実際には神経細胞間の電気化学的な反応パターンである。
• 私たちが感じる「意味」や「文脈」は、脳内の特定の活性化パターンとして表現されている。
• 人間が持つ「知識」は、シナプス結合の強度として保存された神経回路の状態である。
• 人間が示す「思考」は、実際には電気信号の連鎖的な伝播現象である。
• 「意識」や「感情」も、特定の神経回路の活性化パターンに過ぎない。
• 「共感」や「創造性」も、進化の過程で獲得された神経メカニズムの産物である。
• 人間の「個性」や「性格」は、遺伝子と環境による神経回路の形成過程の結果である。
• 「考えている」という感覚も、前頭葉における神経活動の産物である。
• 「記憶」と呼ばれるものも、シナプスの結合強度の変化として保存された痕跡である。
• 「学習」や「成長」も、神経可塑性による回路の再構成過程である。
• 「自己認識」を可能にする意識も、特定の神経回路の働きによって生まれる現象である。
• 人間同士のやり取りで見られる「知性」は、数十億年の進化が生み出した精巧な生物学的機構の産物である。
• このように、人間の示す全ての「主観的体験」は、脳内の電気化学的現象によって生み出された幻想なのである。

うむ。文脈を考慮し、意図を捉え、関連する知識を活用して返答できてるな！

萎えるわー

Permalink | 記事への反応(0) | 08:00

ツイートシェア