言語モデルの物理学 (Physics of Language Models) とは、FAIR (Meta) の Zeyuan Allen-Zhu が提唱した、言語モデルの研究を進めるためのコンセプトです。ざっくり言うと、「あのモデルはこう」とか「そのモデルはこのモデルよりもこう」というような博物学的な知識を深めるのではなく、17世紀にケプラーやニュートンが物理学において行ったような原理に基づいた研究を進め、「言語モデルはなぜこのような振る舞いをするのか」という問いに答えられるようになるべきという考え方です。 言語モデルの物理学の特徴は大きく2つあります。 第一は、ウェブから収集したコーパスを使わず、きっちりコントロールされたデータセットを使って言語モデルを訓練するということ。ウェブは誰も全体像を理解できないほど複雑で、ノイズにまみれています。本物の物理学でも空気抵抗や摩擦があると、「鉄球は

2025年3月1日に，米国の公用語を英語にするという大統領令が発表されました（英語が米の公用語 大統領令に署名 - Yahoo!ニュース）。 これに対し，3月4日，米国に本拠地を置く国際英語教師学会（TESOL International Association）が反対声明を発表しました。 TESOL Statement on the Exec Order Designating English as the Official Language of the US | TESOL | International Association https://www.tesol.org/news/tesol-statement-on-the-exec-order-designating-english-as-the-official-language-of-the-us/同学会のウェブサイトより

先日、WordCamp Asia 2025 マニラのレポートをお届けしたが、今回は予告通りAlain Schlesserによるセッション “After the Browser: AI Assistants as the New Gateway to Digital Services” の感想から、今後WordPress開発を生業とする人間が考えいくべきことを考察したい。 54:32あたりから まず、Alainが誰かについて説明しよう。AlainはWordPressのコマンドラインツールWP CLIのリードである一方、Yoastのプリンシパル・アーキテクト（技術関連の相談役的ポジション）である。つまり、技術者としてSEOに深く関連する企業に勤めているのだ。Capital Pのメンバー宮内とも懇意である。 Alainのセッション概要 このセッションの内容は概ね次の通り。 デスクトップブラウザ→

Intro CSS に if() および @function が提案されている。 仕様がこれで確定したとは言い切れないため、背景および現状にフォーカスして解説する。 なお先に言っておくが、関数の再帰は初期仕様から外されているため、「CSS がプログラミング言語になった」という話ではない。 if() まず Dark/Light 2 つのモードをもつコンポーネントを考える。Old School な書き方だとこうなるだろう。 <style> .dark { color: #fff; background-color: #000; } .light { color: #000; background-color: #fff; } </style> <my-div class="dark">dark</my-div> <my-div class="light">light</my-div> この場合

【インサイト】日本も核武装すべきかと問われるならば…問題は服を着ているかどうかなのか　前回のメルマガは2月17日。次の2月24日は天皇誕生日の振替休日だったので休刊でした※。 ※最近購読された方に改めてアナウンス申し上げると、このメルマガは毎週月曜日発行（月曜日が祝日の場合は休刊）というルールで刊行されています さて、その間に何があったかは既にメディアでも報じられまくり、SNS上でも熱く論じられまくったので、今更ここで繰り返さなくてもいいかなと思います…というわけにもいかないかと思い直したので一応ひとことだけ触れておくと、28日にウクライナのゼレンシキー大統領が訪米してトランプ米大統領と会談。最初は一応なんとか儀礼的にやっていたものの、終盤の方でJ.D.ヴァンス副大統領なんかも加わってきて口論になってしまったというあの事件です。会見でのやりとり全文はNHKが日本語訳した上でサイトに掲載して

まずは、Techniques for WCAG 2.2のPDF Association版ともいえるテクニック集について。 Techniques for Accessible PDF https://pdfa.org/techniques-for-accessible-pdf/ まだベータ版という位置付けみたいですけども、定期的に更新されるとのこと。 関連するUnderstanding Techniques for Accessible PDFという文書では、5つのFundamentalが挙げられてます。 Fundamental 1: Basic technical rules are followed Fundamental 2: Text content is machine-readable Fundamental 3: Real content and Artifacts are d

大災禍（メイルストロム）と呼ばれる混沌。戦争、内乱、核兵器の流出・使用。政府の崩壊。存亡の危機に立たされた人類を救ったのが生命主義（ライフィズム）だ。ライフィズムは3本の柱からなる。体内の恒常的監視。病気の即時の治療。病気を未然に防ぐ予防。WatchMeというナノマシンを体内にインストールし、各家庭にメディケアという装置を用意することで、監視・治療・予防が徹底される。大災禍のあとでは、プライバシーという概念は消滅し、人々の身体は「公共的身体」として社会の財産とされる。旧来の国民国家もなくなり、医療合意共同体である生府（ヴァイガメント）が、身体をインフラ／リソースとして人々を統治する。 プライバシーが病気とともに放逐された社会で、突然、6582人の人が自殺を試みた。（うち2796人が成功する。）語り手のトァンは、目の前で友人キアンを失う。WHOの螺旋監視官であるトァンは、謎の同時多発大量自死

はじめに AIのコーディングアシスタントとして最近、急速に注目を集めているCline。VSCode上でAIと連携し、コード生成からバグ修正、さらにはターミナル操作まで自動化できるこのツールは、多くのエンジニアの生産性を劇的に向上させています。 mizchiさんの『CLINEに全部賭けろ』という記事では、 AIから引き出せる性能は、自分の能力にそのまま比例する AI自体を管理するパイプライン設計を自分のコアスキルにする必要がある ともあるように、エンジニアはClineという強力なツールの最大限を使えるようになっていくべきです。 「AIの上手な使い方」が今のエンジニアにとって必須スキルになりつつあるため、単にClineを使うだけでなく、その仕組みを理解することで得られるメリットは数多くあります。例えば、現時点でのClineの得手・不得手を理解することでAIに対して的確に指示ができたり、clin

拡張機能の多いVS Codeで最もお世話になっているのが、ルールベース校正システムのTextlintプラグインです。文頭の字下げや括弧の閉じ忘れ、文中に残ってしまうASCII（半角）の記号の探索、全幅フォントの統一などを一括して確認してくれますので重宝している人は多いでしょう。文脈まで読んでくれる人間の校正とは質の異なるものですが、タイプしたらすぐにチェックしてくれるプログラムには、また別の良さがあります。 textlintで日本語の文章をチェックする（開発者のサイト） vscode-textlint（VS Code用プラグイン） スクリーンショットはTextlintが動作しているところです。novel-writerのハイライトのためにちょっと見にくいかもしれませんが、赤い下線がある部分がルールに則っていない部分です。文頭の空白がなかったり、「私」で統一できていなかったり、閉じカッコの前に

積んで数年読んで数週、ようやく読み終えた……。 『三体』 三体 作者:劉 慈欣早川書房Amazon世界的に話題となった現代中国SFの三部作、第一部。文化大革命で父を惨殺された葉文潔と、ナノマテリアルの研究者汪淼の網膜に映る謎のカウントダウン、そして太陽が三つあるために幾度も滅びる世界を体験する奇妙なVRゲームといった諸要素がある一点に収束していく。文庫も出たけれど私は単行本で数年前に揃えていて、そろそろ読むかと読みはじめた。実は内容をほとんど知らずファーストコンタクトものということすらおぼろげだったので、なるほどこうなるのかとなかなか面白かった。でもここまでの分量を費やして序章なのかよ、という感じもある。 リーダビリティが高いとはいいつつサクサク飛ぶように読める感じではなくぎっしり書き込むタイプでまあまあ時間が掛かる本だけれど、文革という歴史、基礎科学の重要性と人間が巻き起こす生物の絶滅、

はじめに お試しタスク 検討のポイントなど ClaudeのMCP 設定など 使った感触 Cline (Cursor) 設定など 使った感触 余談：Cursorは？ Copilot Plus 設定など 使った感触 おわりに はじめに 現在、仕事と研究に関するかなりの文章をObsidian上で書いているので、これらの書いたものや記録・メモ・資料などを生成AIで参照しながらいろいろな作業ができるようになったら良いかもと考えてここさいきんObsidianと生成AIの連携をいくつか試していて、とりあえずそれぞれ初期設定はできて動かせたので簡単な感触などをメモしておきます。というわけでこの記事ではObsidianと生成AIを連携させることでこんなすごいことが、みたいなアイディアの話は出てきません。たぶんこれからいろんな人たちが面白いことを考えてwebに書いてくれるのではないかと思いますので楽しみにして

忙しいとか元気がないなどの理由は特にないのだけどここの更新ができずにいる。リハビリがてら書く。とてもお世話になったTSUTAYA皆実町店が閉店する運びとなった。時代ともに馴染みのレンタルビデオ店がなくなった、という話はちらほら目にすることがあったけれど、ついに自分の番がくるとはという気持ちである。私の場合はビデオというよりCDにだけもっぱらお世話になった。 AKB48、いきものがかり、ゆずなど物心がついたころから常に、家族でドライブする車や休日の家には流行りのJPOPが流れていた。それは借りてきたCDの音源だった。定期的に父がいくつも流行っている曲を借りてきて、カセットテープでお気に入りのアルバムを編むみたいにCDへ焼いていたのだった。ゆえにひとつのアーティストに詳しいこともなく、ただただミュージックステーションで流れるような曲たちが並んでいた。実家で保管されているが、その自作アルバム（と

GitHub – johnousterhout/aposd-vs-clean-code: A discussion between John Ousterhout and Robert Martin about differences between John’s book “A Philosophy of Software Design” and Bob’s book “Clean Code”. “Philosophy of Software Design” aka POSD の著者 John Ousterhout と “Clean Code” の著者 Bob Martin が GitHub 上で文通をした結果が HN に流れてきたので興味深く読んだ。 しょうじき内容自体はそんなに興味深くはなかったが、著者同士が直に議論をするフォーマットは好感が持てた。みてこの commit histo

どうも、コウタローです。 みなさんは好きですか？カートゥーンネットワーク… 様々な傑作を制作し放送して我々を楽しませてきたチャンネルです このチャンネルの屋台骨といえばやはりデクスターズラボからパワパフ 、アドベンチャータイムにスティーブンユニバースと数々の名作を産んだカートゥーンネットワークスタジオでしょう アニメの最後にこれが出たら大体ここ製しかし、現在そんなカートゥーンネットワークと屋台骨とも言えるスタジオを取り巻く状況はどんどん悪化し 昔のように時代に合わせた創造性のある新作は最早製作されなくなっています… CNというとどうしても「懐古」的な「昔の作品が好きでさあ…」な文脈で語られることが多いので話題になることがないので今回CNの現況についてまとめさせてもらいます… なおここで言うCNとは日本ではなくアメリカのCNを指します…日本も日本でヤバいんですけど…！ また、CNにはティーン

私の第一言語（primary/first language）は日本語の標準語だ．しかし，母の「母語」は確実にそれではない．だから私の「母語」は「母の言語」と一致しない．まつーら先生企画にはできる限りのりたいが，なんかとても重たい課題なので尻切れトンボで終わる予感しかしないが，#みんなの母語デー #国際母語の日 企画のまとめ記事はここに． ろう児の言語的人権を救済することを申し立てたとき，「ろう児の母語は日本手話」という言い方をした．「母語」とはなんとも面妖な用語だ．なぜならば，ろう児は「母語で教育を受ける権利がある」．それが家庭で身につかないことがある．この非典型的な事例がスッと飲み込める人はそう多くあるまい．ろう児の「第一言語」は日本手話になるべきかもしれないが，母は日本語を話す聴者（聞こえる人）だったりして，だったら「母語」（mother's language）は日本語ではないのか．私

生活　もう連休最終日。普通に朝に起床して仕事を多少やり、昼食にカレー。きのう壊れた炊飯器をヨドバシに持ち込んで修理に出したら保証期間中だから無償だが2週間くらいかかりそうと言われる。それにしてもヨドバシの人って親切すぎて、こんなきったねえ炊飯器持って行ったのに仕事だからってこんな丁寧にしてくれて本当に申し訳ないという気持ちになる。夕方に早めの夕飯と片付けと掃除。魚のカレーを作ったら唐辛子の蒸気で目が破壊される。夜、"(実在しない)切り抜きチャンネル イン ユーロスペース『20分でわかるエマ・リーランド』"を見に渋谷のユーロスペースまで行く。意欲的でメチャクチャ面白い。帰ってから間に合った分だけアニメを観る。 実在しない切り抜き映画を見に行く 架空のVTuberの実在しない切り抜き動画を作っている「(実在しない)切り抜きチャンネル」が一夜限りの劇場上映＆トークショーを開催するとのことで渋谷ま

この記事に関連する話題: デジタル・マラウイ：人道的かつ倫理的、そして持続的なテクノロジーのあり方 第二次トランプ政権の発足からしばらくして、アメリカ政府の外国援助機関・国際開発局（USAID）の廃止というニュースが飛び込んできた。合衆国政府の独立機関として、USAIDは世界各地の紛争、災害、健康、経済、教育など多岐にわたる課題に対して資金、物資、人的な援助をしてきた。その影響範囲は、文字通り地球規模だ。 そんなUSAID関連プロジェクトの一時停止が各位に通達されたのは、対外支出の90日間凍結という大統領令が発出されてすぐのこと。さらに、「支出見直し」および「ガバナンス強化」を目的とした機関廃止および再編成案によって、今後の見通しは一層不確かなものとなった。一時は完全にダウンしていた機関のWebサイト (https://www.usaid.gov/) は、執筆時点では空白のページが表示され

発達障害やトラウマに，ゲームはどう対応できるのか？　「頭と心のアクセシビリティ」の可能性を，「プリンス オブ ペルシャ」「Dead Space」から考える ライター：ノイ村 2024年末，Xboxアクセシビリティコントローラの開発者や筋ジストロフィーを抱える「寝たきり障碍者ゲーマー」上虎氏への取材をとおして，ゲームにおけるアクセシビリティの現況を掘り下げた。しかし「アクセシビリティ」という言葉は，同特集で取り上げたような，いわゆる身体的な障碍だけでなく，頭や心のような“目に見えない”領域も内包している。 関連記事 ［インタビュー］ゲームをめぐるバリアフリーの現在地はどこか？　Xboxのアクセシビリティ・コントローラ開発者，ケイトリン・ジョーンズ氏に聞いてみた ゲームをめぐるアクセシビリティの問題はここ数年で大きく進化を遂げてきたが，その現在地はどこにあるのか。今回は障害者週間を記念し，Xb