プログラマーにとって、プログラムを書くだけでなく読むことも重要だ。読むスキルは書くスキルや設計スキルにもつながる。プログラムを読むコツを解説する。 プログラマーなら「プログラムを書く」のがメインであって、技術が必要なほど読むことが大事とは思えない――。そう思う人は少なくないのではないでしょうか。逆に、「確かに読むのは大事なこと。効率良く読むためのテクニックがあるならぜひ知りたい」と思う人もいるでしょう。 恐らくプログラムを読むことの大事さがわかっている人は、ある程度プログラミングの経験があり、特に仕事でプログラミングやソフトウェア開発に携わっている人、そして恐らくはまだ仕事を始めてまだ年数が浅い人なのではないかと思います。 一方、「プログラムを読む」と言われてピンと来ない人は、プログラミング言語の入門書を読んで、さあいよいよ自分でもプログラムを作ってみようという段階の人が多いのではないかと

先日、博士（情報学）になりました。学部と大学院をあわせた 9 年間で読んだ情報科学関連の教科書・専門書を思い出を振り返りつつここにまとめます。私は授業はあまり聞かずに独学するタイプだったので、ここに挙げた書籍を通読すれば、大学に通わなくてもおおよそ情報学博士ほどの知識は身につくものと思われます。ただし、特に大学院で重要となる論文を読み書きすることについては本稿には含めておりません。それらについては論文読みの日課についてや論文の書き方などを参考にしてください。 joisino.hatenablog.com 凡例：（半端）とは、数章だけ読んだ場合か、最後まで読んだものの理解が浅く、今となっては薄ぼんやりとしか覚えていないことを指します。☆は特におすすめなことを表します。 学部一年 寺田 文行『線形代数 増訂版』 黒田 成俊『微分積分』 河野 敬雄『確率概論』 東京大学教養学部統計学教室『統計学

ローマ字のつづり方について国が定めたルールが、約70年ぶりに改められる見通しとなった。小学校で習うローマ字もこのルールを踏まえているが、駅名や案内表示など一般社会では、英語の発音により近い別の表記が浸透しているのが実情だ。文化審議会の小委員会は、統一的な考え方を示すことも視野に検討を進めている。 ローマ字のつづりは主に、母音と子音を規則的に組み合わせる「訓令式」と、「ヘボン式」がある。例えば「し」は訓令式では「si」、ヘボン式では「shi」と表記される。「愛知」は「aiti」（訓令式）、「aichi」（ヘボン式）になる。 国は1954年、内閣告示で「一般に国語を書き表す場合」は訓令式を用いると定めた。ヘボン式は「にわかに改めがたい事情がある場合に限り」使うとした。 学習指導要領も、小学3年の国語で、ローマ字について内閣告示を踏まえた学習をするよう求めている。だが、実際には訓令式は定着せず、

コンピューターの理論を学ぼうと思っても、複雑な専門書を読む必要があったり、講習を受ける必要があったりと、高いハードルに圧倒されて諦めてしまった経験がある人は多いはず。そんなコンピューターの理論やプログラミングの基礎を手軽に学べるゲームが「Turing Complete」です。今回はTuring Completeがどんなゲームか気になったので、実際にプレイしてみました。 Steam：Turing Complete https://store.steampowered.com/app/1444480/Turing_Complete/ Turing CompleteはSteam上で配信されており、上記リンクから購入可能です。販売価格は2050円。以下は起動した画面で、「Play Campaign」をクリックしてプレイを開始します。 Turing Completeは「宇宙人にさらわれた主人公が生存

研究者たちは、棘皮動物の一種であるクモヒトデが、特徴として古典的条件付けと呼ばれる学習形態を示すことを発見した。一点集中型である脳を持つ動物とは異なり、クモヒトデは中枢神経系を持たず、分散的な神経索を持っている。研究者によると、それぞれの神経索は独立して機能することができ、階層的な構造ではなく、むしろ委員会のようなシステムを形成しているという。 「処理を行う中心的存在がないのです」とジュリア・ノターは言う。彼女はデューク大学のソンケ・ジョンセン教授の研究室で、生物学博士号の一環としてこの新しい研究の先頭に立った人物である。 古典的条件付けは、ロシアの生理学者イワン・パブロフによって発見された学習プロセスであり、無条件刺激に中立刺激を関連付け、条件付けされた反応を生じさせるものである。長年にわたり、古典的条件付けは行動心理学を理解する上で重要な役割を果たし、刺激と反応の間の関連付けが経験を通

「Developers Meetup 急成長ベンチャーが向き合う『開発生産性』」は、開発組織や事業フェーズの異なる株式会社Another works・株式会社SmartHR・株式会社スタメンの3社が、開発生産性について語り尽くすイベントです。ここで株式会社SmartHRのすがわらまさのり氏が登壇。チーム増加に伴い起きた「認知負荷が高い」状況をどのように解決したかについて紹介します。 チームの増加に伴いできるようになったこと、やりにくくなったこと すがわらまさのり氏：ここから本題ですね。「開発生産性について、上から見るか、下から見るか」ということで、よろしくお願いします。過去に私が登壇したもので似たテーマがいくつかあるので、軽く紹介しておきます。もし気になる方がいれば後で見てください。 前提の共有というところで、先ほどもお話ししたように、私が担当したのは「SmartHR」の基本機能というプロ

2017年にGoogleの研究者が提唱した深層学習モデルで、チャットAI「Chat GPT」などに使われる。「どこに注目するか」を重視したことで、自然言語処理での精度や処理速度を大幅に高めた。 米OpenAIの「ChatGPT」は2022年に公開されるやいなや、その精度の高さに世界が衝撃を受けた。このChatGPTは、同社の大規模言語モデル（LLM）「GPT（Chat Generative Pre-trained Transformer）」をベースにしている。Transformerこそ、LLMの根幹である。 Transformerはエンコーダー（符号器）とデコーダー（復号器）で構成し、「どこに注目するか」を重視するアテンション機構を中心としている。大規模並列処理に向いたモデルで、GPUでの処理を想定して設計した。 Transformerは米Google Brain（現在の米Google D

関連キーワード アプリケーション開発 | プログラマー | プログラミング 世界的な不況の中でも、プログラマーやエンジニアなど技術職の雇用市場は安定する傾向にある。同じ技術職でもさまざまな職種が存在する。特にこれから需要が高まるのはどの職種なのか。“引く手あまた”になる見通しの、プログラマーやエンジニア関連の職種「10選」と、それぞれどのような仕事なのかを紹介する。 これから人気のプログラマーやエンジニア職「10選」　その仕事とは？ 併せて読みたいお薦め記事 連載：プログラミングのこれまでとこれから 第1回：不況でも稼げるプログラマーが知っている「プログラミング」の基本はこれだ 第2回：今と昔の「プログラミング」は何が全然違うのか？　新時代をもたらす劇的変化 第3回：人気のプログラミング言語「7種」の特徴とそれぞれの違い AIで開発現場はどう変わる？ “生成AIが仕事を奪う”なんて話より大

「繰り返し勉強しているのに覚えられない……」 「せっかく覚えたことをすぐに忘れてしまう」 「何度も復習しているのに、学んだ内容が身についていない」と悩んだ経験は、多くの人にあるのではないでしょうか。時間をかけたのに成果が出ていないと、モチベーションが下がってしまいますよね。 本記事では “復習” に焦点を当て、「効果が出にくい繰り返し方法」と「効果の出る繰り返し方法」を紹介します。この記事を読み、正しい繰り返し方を実践すれば、勉強内容が身につきやすくなること間違いなしです。 【ライタープロフィール】 髙橋瞳 大学では機械工学を専攻。現在は特許関係の難関資格取得のために勉強中。タスク管理術を追求して勉強にあてられる時間を生み出し、毎日3時間以上勉強に取り組む。資格取得に必要な長い学習時間を確保するべく、積極的に仕事・勉強の効率化に努めている。 △「1ジャンルのみ」繰り返す→◎「関連する別のジ

認定証の取得により子育てとキャリアアップ、 柔軟な働き方を実現 神奈川県 デジタルサイネージ業 小松 恵美さん 育児とキャリアの両立に悩んでいた時に日本リスキリングコンソーシアムの存在を知り、Google データアナリティクス プロフェッショナル認定証を取得しました。転職活動を始めた当初は小さな子どもがいることもあり、不安を感じていたものの、新しいスキルを身につけたことで未経験分野での転職を実現できました。 データ分析の仕事に就いた今では年収が大幅に上がっただけでなく、リモートワークやフレックスなど、これまで以上に柔軟な働き方ができるようになりました。子育てをしながら新たな分野でのキャリアをスタートできたことで、将来の可能性が一気に広がったと実感しています。 育児とキャリアに悩んでいた時にコンソーシアムを知り、Google データアナリティクス プロフェッショナル認定証を取得。転職活動当初

LLaMaやFalconといった小型の大規模言語モデル(LLM)が矢継ぎ早にリリースされる中、Microsoft ResearchのAI研究チームが、プレプリントサーバーのarXivで、Transformerベースのモデル「phi-1」を発表しました。このモデルは、パラメーター数がGPT-3.5の100分の1以下の13億しかないにもかかわらず、テスト用データセット・HumanEvalでGPT-3.5を上回る成績を収めたことが報告されています。 [2306.11644] Textbooks Are All You Need https://doi.org/10.48550/arXiv.2306.11644 Microsoft Releases 1.3 Bn Parameter Language Model, Outperforms LLaMa https://analyticsindiama

流行のLLMを勉強したくて沢山本を読みました。 この後もしばらくLLM（GPT）関係の出版が続きそうなので、現状の本でまとめてみました。 参考： nowokay.hatenablog.com まとめ。 Transformerの仕組みを知りたい人で、画像のDeep Learningなら分かるって人はVision Transformer入門 言語モデルをデータセットを作る所からやってみたい人には、作ってわかる! 自然言語処理AI とにかくすぐに動かしたい人には、機械学習エンジニアのためのTransformers ビジネス的に何ができるのかを知りたい人はBERT入門 Vision Transformer入門 Vison Transformerになっていますが、Transformerの説明がとても詳しくお勧めです。実際に写経してパーツパーツで動かせるのはこの本だけ。Transformer一点突破な

42（フォーティーツー）は、フランス発のエンジニア養成機関です。 現在は、世界31カ国にて展開されており、2020年6月に東京校として 42 Tokyo を設立しました。 多くの企業の支援、寄付で支えられており、授業料は完全無料。 学生は、18歳以上であれば経歴を問わず入学することができ、 その後のキャリアは起業をしたり、就職するなど、自由です。 また、基礎カリキュラムを終えたら、他の42キャンパスに留学することも可能です。 革新的で、日々最新にアップデートされるカリキュラム。 世界中の学生たちが、今この瞬間も42でスキルを磨いています。

Stanford大学哲学博士修了後、同大学哲学部講師として論理学で教鞭をとりながら、Stanford Online High Schoolスタートアッププロジェクトに参加。2016年より校長に就任。 現職の傍ら、哲学、論理学、リーダーシップの講義活動や、米国、アジアにむけて、教育及び教育関連テクノロジー（EdTech）のコンサルティングにも取り組む。2001年、東京大学文学部思想文化学科哲学専修課程卒業。2002年より渡米し、2003年にTexas A&M大学哲学修士修了。著書に『全米トップ校が教える　自己肯定感の育て方』 （朝日新書）、『「ダメ子育て」を科学が変える！全米トップ校が親に教える57のこと』（SB新書）、『スタンフォードが中高生に教えていること』（SB新書）などがある。 スタンフォード式生き抜く力 全米トップ校の白熱授業を再現した『スタンフォード式生き抜く力』。 予測不可能な

2022年11月にChatGPTが公開され、たった1週間で100万ユーザーを超えたのをきっかけに、GoogleのBardやMicrosoftのBing AI Chatなど、大規模言語モデルを利用したチャットAIが続々とリリースされています。チャットAIを研究しているセバスティアン・ラシュカさんが、チャットAIが実用化されるまでの研究の軌跡を重要な論文24個に絞って要約しています。 Understanding Large Language Models - by Sebastian Raschka https://magazine.sebastianraschka.com/p/understanding-large-language-models ◆目次 ・主要なアーキテクチャとタスク ・スケーリングと効率性の向上 ・言語モデルを意図した方向へ誘導する ・人間のフィードバックによる強化学習(

忘れてしまった数学の知識が効率的に復習できる 現代において数学の知識はあらゆる分野で必要不可欠なものになっています。 最近では理系・文系の垣根も崩れ、「経済学」や「心理学」など、さまざまな分野で高校数学程度の素養が求められています。 しかしながら、いざ学び直そうと思っても、数学の参考書は厳密に解説し過ぎており、学習に時間がかかってしまいます。 そのため、本書では、忘れてしまった数学の知識を効率的に復習したい人のために、重要な公式などに絞って学習し直すことができます。 【本書の特徴】 ・さまざまな分野で登場する可能性の高い数学の公式・定理を解説しています ・数学を必要としている人が効率的に・要領よく学び直すことができます ・充実した索引を活用し、リファレンスとしても利用できます ・各項目に「教養」「実用」「受験」それぞれの重要性を星5段階で示しています ・「こんなふうに使われている」という項

テキストを読んだり動画を見たりして「わかった」はずなのに、いざやろうとするとなぜか「できない……」。一生懸命理解したはずのことがテストや仕事に活かせず、お困りではありませんか？　「わかる」と「できる」のあいだには、なにか見えない壁があるように感じている方も多いのではないでしょうか。 そこで今回は、わかったのにできないという現象が起こる原因を深掘りし、覚えた知識を自在に扱えるようになるコツをご紹介します。 「わかったのにできない」のはなぜか 「わかった！ できた！」へと変える方法1. インプットとアウトプットの比率を「3：7」にする 「わかった！ できた！」へと変える方法2.  適切なタイミングで復習する 「わかった！ できた！」へと変える方法3. 人に教えるように説明する 「わかったのにできない」のはなぜか わかったのにできない――こういったことが生じるのは、「わかる」と「できる」は異なる

ITジャーナリスト／Publickeyブロガー。IT系の雑誌編集者、オンラインメディア発行人を経て独立。2009年にPublickeyを開始しました。 Amazon Web Services（AWS）は、コメントやコードの一部からAIがコードを自動生成してくれるサービス「Amazon CodeWhisperer」が正式版になったことを発表しました。 Amazon CodeWhispererは昨年（2022年）6月に行われたAWSの機械学習にフォーカスしたイベント「Amazon re:MARS 2022」で発表され、プレビュー公開されていました。 コメントや書きかけのコードからコードを自動生成Amazon CodeWhispererは、オープンソースリポジトリ、Amazon内部リポジトリ、APIドキュメント、フォーラムなどから収集した数十億行のコードを基にした機械学習から、プログラマーが書き