急速に進化する大規模言語モデル（LLM）を、視覚的に理解しながら実践的に学べるハンズオンガイド。本書では、Jupyter Notebookやクラウド上で実際にモデルを動かしながら学ぶことができます。大規模言語モデルに欠かせないTransformerの仕組みをはじめ、要約、セマンティック検索、テキスト分類、クラスタリング、RAG（検索拡張生成）といった技術も、図解とともに直感的に理解できます。豊富なコード例と既存ライブラリの活用法を通じて、直感を重視したアプローチでLLMを学びたい読者に最適な一冊です。 賞賛の声 訳者まえがき まえがき 第I部　言語モデルの理解 1章　入門大規模言語モデル 1.1　言語AIとは？ 1.2　言語AIの近年の歴史 1.2.1　Bag-of-Wordsによる言語の表現 1.2.2　埋め込みによる言語の表現 1.2.3　埋め込みの種類 1.2.4　注意機構による文脈

「AIとかの新技術に投資できるのは若者の特権」 先日ゲンロンカフェのイベントであずまん*1が、「AIとかの新技術に投資できるのは若者の特権。俺みたいなおっさんが1年かけてAI勉強したとしても、それを使える時間は10年もない。だったらこれまで磨き上げてきた技術を使い続けた方が人生トータルで見て効率がいい。でもこれが若者からは老害に見える」的なことを言っていて激しく納得した。 たとえば現在の自分が100の力を持っているとしてゼロからAIを使い始め、1年で10ずつ成長していくと仮定したら同じ100の力を出すのに10年かかる。だったら現状の100のやり方で10年やるわという話。 現状のやり方：100*10 = 1000 新しいやり方：10+20+30+… = 550 ↑の話を計算してみると10年でこれだけの差が出る。もちろんこの後採算ラインに乗ったAIがMAX150(仮)まで成長して長期的には人間

小学校小6～中学1年まで極度に勉強ができなかった。 テストの問題文の理解ができなかったり、問題文の日本語は読めるが表現が気になってその所を何度も確認して先に進めず1問目以降白紙などもあった。 このような状態だと学校や集団塾では改善はしないだろうと感じたので、自分が勉強につきっきりになることにした。 幸い、私はある程度勉強はでき、中学レベルなら英国数ならほぼ満点はとれる。 まず、問題文を読んで頭がパンクしてしまうことに関しては、深く考えるとパンクしてしまうということなので、そのパンクの兆候がでたらその問題から離れる訓練をした。 日々の家庭学習で問題集をとかせ、それが発生しそうなら知らせてスキップする。 テストのときでも、損切して0点を防ぐ効果がでた。 そのあと、問題文でパンクする問題を一緒に説いて、問題文は何を求めているのか2人でじっくり考えるようにした。 そうすることで、問題文の表現のパタ

『科学的根拠に基づく最高の勉強法』という本はamazonで評価が高く、「星の評価が５つと半端ない」と絶賛しておられる方もいらっしゃいます。 しかし、それを言うなら、キャロル・デュエックさんの成長マインドセットの本だって、アメリカのamazonで2万1138人に評価されて☆4.6という半端ない高評価ですが、その科学的信憑性については、この記事に書いたとおりです。 『科学的根拠に基づく最高の勉強法』のすべての主張を逐一検証するのは時間がかかりすぎるので、この本の「CHAPTER1 科学的に効果が高くない勉強法」の最初のセクションである「科学的に効果が高くない勉強法１　繰り返し読む(再読)」の「繰り返し読む(再読)のは他の勉強法と比較すると効果が低い」という主張について見てみましょう。 この本がその根拠の一つとして挙げているRawsonらの2005年の論文の中には、以下の３つの条件で行った実験に

私の塾は基本、成績のあまりよろしくない生徒が来ていたのだけれど、たまに勘違い（？）した親が、ものすごく成績の良い子を連れてきて「お願いします」と言ってくる場合があった。中学受験に失敗し、高校受験で挽回したい、という熱意を母親が持っていた。面接のとき、母親は子どもに語りかけた。 「あなた、同級生の○○ちゃんが合格して、泣いて悔しがったでしょう？高校受験で挽回する、って誓ったじゃない！？○○ちゃんは今頃頑張っているよ。負けていられないわよ」子どもはうなづきつつも、またその話か、といった、辟易とした顔をした。 不合格だった時は、本人も口にしてその通りのことを言ったのだろう。けれど、それを言質に取られて、母親からヤイノヤイノと急き立てられる毎日に、ほとほと疲れ切った様子だった。塾以外の時間も勉強漬けにされ、中学１年なのに眉間に険が走っていた。大の勉強嫌いになってしまっていた。 自分の親とはいえ、他

研修がはじまるという画像でサーブレットJSPの本が並んでて、サーブレットを最初に勉強させるのをやめてあげてほしいと思った話。 オブジェクト指向もそうなんだけど、現状で使わなくなっているにもかかわらず情報更新がされずオブジェクト指向やサーブレットJSPが教えられ続け本が売り続けられるという現状がある。 でももうさすがに変わってほしさ。 ただ、JSPはそこまで悪くないので、サーブレットで話を進める。(ただし、サーブレットが動かない環境ではJSPは動かない) 使われていない まず、いまの案件の多くがSpring / Spring Bootになってて、サーブレットをさわるということは少ない。 2020年のJetBrainsの調査ではこんな感じ https://blog.jetbrains.com/ja/idea/2020/10/a-picture-of-java-in-2020-ja/ 2021年

コンサルタントをやっていた時、「この人、コンサルタント向いてないよなあ」という人が何人も中途で転職してきた記憶がある。 例えば「本を1か月に10冊読む」という課題をやらない人。 いつも時間ギリギリにしか行動せず、重要な会合に遅刻する人。 自社の「目標」の達成度合いを気にせず、お客さんの成果にも無関心な人。 別の仕事や、前の会社では許されたかもしれないが、たいてい「コンサルタント」としてはうまくいかない。 私が在籍していたコンサルティング会社は、上のような「問題行動」には非常に厳しく、該当者には「コンサルタントとしての活躍は難しい」と、はっきりと告げていた。 「勤勉さ」は身につかない こうした事例を何度も見るにつけ、私は 「勤勉さ」 「時間を守る」 「目標遵守」 などの行動特性は、たとえ厳しく注意をしても、ほとんど身につかないか、改善したとしても、結局一時的なものにとどまる、という事を知った

“ギフテッドサバイバー“としてSNSなどを中心に自分の体験を発信している吉沢拓さん（37）。 現在、会社員として働きながら、ギフテッドの特性を伝えるさまざまな活動を行っている。そもそもギフテッドとは何なのか、吉沢さんに詳しく話を聞いた。（全2回の1回目／続きを読む） ◆◆◆ ギフテッドは、単純に勉強ができるというだけではない ーー吉沢さんはギフテッドの特性があることを公表されていますが、改めてギフテッドとはどういったものなのか教えてください。 吉沢　小学生の時に、授業や勉強を「簡単すぎてつまらない」みたいに言い出したり、「なんで？　どうして？」と先生への質問がしつこかったり、周りとズレた部分があって周囲から浮いている人っていませんでしたか。それが私です。人によりますが、ギフテッドとは、単純に勉強ができるというだけでなく、「なんかヘンな子」という異質さを持っていることがあります。

エヌユル @ncaq 数学得意な人って「公式なんて覚えなくてもその場で導出すれば良い」ってよく言うけどマジで言ってるの? 公式を導出するのにはその前提を相当知っている必要があるので、その場で導出するには公式を覚えるより多くを覚える必要があるとしか思えない 数学と暗記が苦手な人に真顔でアドバイスしてるの? 2023-05-20 11:05:04 エヌユル @ncaq それとも「公式が覚えられなくて数学のテストが一切出来ない/出来なかった」に対して「出来ない人は一生出来ないのは仕方ないね」と言いたくなくて誤魔化したいから? 数学と暗記が苦手な人がその場で導出とか必死に暗記するよりよほど難しいと思うんですが… 2023-05-20 11:14:36 エヌユル @ncaq 「一つの公式から複数の公式がたくさん導出できるってことですよ」と言う指摘がドシドシ寄せられてきますが、それその一つの公式は記憶

今はプログラミングができないけれども、ゆくゆくはできるようになりたい。そう思っている人は多いだろう。そうした人が知りたいのは「独学でプログラミングができるようになるのか」ということではないだろうか。 こうしたことを考えているのは、「独学コンピューターサイエンティスト Pythonで学ぶアルゴリズムとデータ構造」（日経BP発行）という書籍を読み始めたからだ。著者のコーリー・アルソフ氏は、大学の政治学科を卒業し、独学でプログラミングを学んで職業プログラマーになったという。前著の「独学プログラマー Python言語の基本から仕事のやり方まで」（日経BP発行）は、そうした経験を通して同氏が得たプログラミングの知識をまとめたもの。そうした知識の中から、特にアルゴリズムやデータ構造といったコンピューターサイエンスに焦点を当てて解説したのが本書だ。 もっとも同氏がいう「独学」は、大学でコンピューターサイ

ろぼいん@一般人 @keita_roboin @Larva06_com の技術開発部兼企画部リーダー（白土玲衣）のメインアカウント。RTめっちゃ多い。ブルアカ、動画編集とプログラミングが趣味。デザインはちょっとできる。サブ @orizin_project ブログ robot-inventor.github.io youtube.com/channel/UCJFnl… ろぼいん@VTuberではない @keita_roboin （見かけたから一応書いておくけど、AIは既存のイラストを切り貼りしているわけではない。内部の仕組みは違うけど、どちらかといえば人間がイラストを観察して学習するのに似てる） 2022-10-05 17:08:21 ろぼいん@VTuberではない @keita_roboin じゃあどういう仕組みかというと ・画像と、それにノイズを加えたものを用意する ・ノイズを加えた画像

・お題箱104 469.最近LWさんのことを知ったのですが、言える範囲で今までのご経歴を教えて欲しいです。 最近僕と同じ筑駒→東大のフォロワーのきらじゃんさんが半生を振り返る記事を書いていて、めちゃめちゃ経歴が似ててビックリしたので僕もリスペクトして主にペーパーテストから半生を回顧する文章を書こうと思います。 筑駒とか鉄緑会とか東大の基本的なシステムはそちらに書いてあるので、先に読んでおくことをお勧めします（あまりにも同じイベントを通過してきているので基本設定の説明が参照で済んでしまう）。 kirarajump.blogspot.com 小学生 僕の一番古いペーパーテストの記憶は小学二年生のときにSAPIXだか日能研だかの全国模試で全国1位を取ったことです。 今にして思えば、人生において「勉強を頑張ろう」みたいな言説が発生する前の段階で雑に頂点を取ってしまったことはその後のペーパーテストの

高校生の息子が見てる受験系のYouTubeとか、ファッション雑誌とか、息子や娘の通ってる塾の合格体験記とかを見たりすると強烈なむず痒さを感じる。会社の若手にも感じる。 現役東大生のYouTuberとか塾の合格体験記だったら「私はこれだけ勉強頑張りました！」とか、お洒落系YouTuberだったら「昔はこんなに芋だったけど、努力してお洒落になりました！」とか、若手だったら「今回のプロジェクトのためにこれだけのことをやりました！」みたいな感じ。 俺が若かった頃だとこれってめちゃくちゃ恥ずかしいんだよね。勉強なら、本当は家でめちゃくちゃ勉強してるけど「元々パズルとか数学的な思考が好きで、面白いな〜と思ってやってたらできるようになったから苦労してないよ」って言う。ファッションだって本当は杉山清貴の雑誌とかジャケ写を調べまくって服屋探したりコーデにこだわったりしてたけど「これ？ああ。服にこだわりないか

ヘルマン・エビングハウスはドイツの心理学者です。 記憶に関する実験的研究の先駆者で、忘却曲線を発見した人です。 このため、エビングハウスが忘却曲線を発見することになった実験を根拠にした勉強法を提唱するYouTube動画、Web記事、ツイート、本がたくさんあります。 たとえば「エビングハウス」でググると、検索結果上位に『エビングハウスの忘却曲線で分かる、最適な復習のタイミング』というWeb記事が出てきます。 この記事には、以下のように書かれています。 この記事で紹介したベストな復習のタイミングは、 1日以内に10分 1週間以内に5分 1か月以内に2~4分 の3回です。 この方法を上手く取り入れて勉強し、大きな成果を上げていきましょう。 (『エビングハウスの忘却曲線で分かる、最適な復習のタイミング』 https://ryugaku-kuchikomi.com/blog/ebbinghaus-t

2018年度から継続的に実施しているスキル変革等に関する調査から、大人になってから学んでいない方が多いという結果が浮き彫りになりました。そこで、大人が学ぶためにはどのように取り組めばよいか「考えるヒント」をパターン・ランゲージ（注釈1）として、30のパターンで整理しました。 「大人の学びのパターン・ランゲージ（略称まなパタ）」は、学び続けている実践者の方々にインタビューでお話を伺い、その考え方や工夫、課題を整理し、抽象化することによって制作しています。

ｺｰﾄ @court_ossan_bot 特に塾とかも行かず高学歴パターンの知人パパがボソッと言ってたことあったけど「正直ちょっとやったら関関同立のどっかぐらい行けるもんだという感覚でいたけど、自分の子供に勉強教えてて思ったのは関関同立に行かせるの凄いむずい。普通にやってるだけだとまず行けない。」っつってた。 2022-02-14 21:25:48

「九九をいつまでも覚えられない」、「簡単な計算にとても時間がかかる」。もしかしたらその原因は「算数障害」かもしれません。発達障害の1つである学習障害に分類される算数障害。筑波大学教授で学習障害の子どもの教育相談や支援を行っている熊谷恵子さんに、算数障害の定義や特徴、算数に困難のある子どもをサポートする方法などをうかがいました。 教室長：学習障害は、ここ10数年で多くの人に知られるようになりました。今回は学習障害の1つである算数障害について注目していきます。お話をうかがうのは、学習障害のお子さんの教育相談や支援を通して算数障害の研究をされている、筑波大学教授の熊谷恵子さんです。 母：あまり耳慣れない言葉ですけれど、算数障害とはどんな障害なんですか？ 熊谷恵子さん：発達障害に分類される学習障害の1つです。算数障害であることを判断する基準として、「数処理」「数概念」「計算」「数的推論」があります

わたしがこれまでに書籍でなにか新しいことを学ぼうと思ったときにどういう手段で目的を達成してきたかについて書きます。生業にしているIT系のこともそうですが、それ以外も同じ方法を使っています。 はじめに書いておくと、これまでの自分自身の体験や優秀な人の観察などから、学習の原則コツコツと反復練習を続けることであり、近道は無いと思っています。原則を守るための典型的な方法の一つが「網羅的に書かれた決定版と呼ばれる本を何度も精読する」です。これができる人はこうしたほうがいいと思いますし、ここから先を読む必要はないです。しかしながら、わたしはこの方法がうまくいったためしがないので、自分なりに工夫して、金銭的コストがやや高いながらそこそこうまくいく方法にたどり着きました。本記事ではこの方法を紹介します。 わたしは何かを理解しようとするときには、まずは初心者向きのページ数が少なくて読みやすそうな本をたくさん

「要点の見分け方をどうやって身に着ければいいのか」という話をします。 いきなり例示から入るんですけど、ちょっと次の引用文を読んでみて頂けるでしょうか。面倒な方は斜め読みで大丈夫です。 鎌倉を拠点とした源頼朝は、無断で朝廷から官位を受けた弟の義経を許さず、義経をかくまった平泉の奥州藤原氏をほろぼして、東北地方をも支配下におきました。一方、にげた義経をとらえることを口実に、1185年、国ごとに守護を、荘園や公領に地頭を設置しました。頼朝は1192年に征夷大将軍となり、武士による新しい政治を始めました。 頼朝の開いた鎌倉幕府は、家来となることを誓った武士を御家人にして、先祖から引きついできたその領地の支配を認め、てがらに応じて新たな領地や守護・地頭の職を与えました。 鎌倉幕府成立前後の経緯についての記述ですね。 文章としては、帝国書院、「中学生の歴史」からの引用です。長男が学校で使ってる教科書な