第１節　ＡＩとは ＡＩとは人工知能（Artificial Intelligence）の略称です。ＡＩという言葉は、1955年に米国の計算機科学研究者ジョン・マッカーシー博士が作った言葉で、ダートマス会議（1956年）の開催提案書の中で使われました（※1）。ＡＩについては、いまだ国際的に合意された定義はありませんが（※2）、人間の思考プロセスと同じような形で動作するプログラム、あるいは人間が知的と感じる情報処理・技術といった広い概念で理解されています。近年、様々な新しい技術とコンピュータの性能が大きく向上したことにより、機械であるコンピュータが「学ぶ」ことができるようになりました。それが現在のＡＩの中心技術となっている「機械学習」です。機械学習の進展により、翻訳や自動運転、医用画像診断といった人間の活動に、ＡＩが大きな役割を果たしつつあります。 第２節　ＡＩ技術の潮流（※3） ＡＩ技術のこれ

本記事は、LLM・LLM活用 Advent Calendar 2025 21日目の記事です。 はじめに pytorchは、Meta社が開発した機械学習・深層学習のためのpythonライブラリです。ユーザーは、pytorchを使用することで、画像分類モデルや強化学習モデルをはじめとし、大規模言語モデルや拡散モデルなど、多種多様なニューラルネットワークモデルを構築することが可能です。 また、pytorch内部では、CPU、TPU、GPUといった様々なプロセッサ向けに最適化された処理が実装されており、これらのプロセッサ間を容易に切り替えて使用することが可能です。例えば、大規模言語モデルの推論処理をGPU上で行いたい場合は、以下のように記述します。このようにユーザーは、入力テンソルとモデルインスタンスに対して.to("cuda")をつけるだけで、GPUを使用した処理が実行可能です。GPUを使用した

各AI企業はAIにトレンドやニュースを扱わせるために最新の情報を学習させていますが、一方でAIが生成した誤情報を別のAIが学習してまき散らす悪循環が発生するなど、新しい情報で汚染されてしまうケースもあります。チューリッヒ大学の研究者らが発表した「Ranke-4B」は、タイムスタンプ付きデータのみを使用した「History-LLMs」プロジェクトの一環としてリリースされており、100年以上前の社会における知識や見解などを表現できるAIとして構築されています。 history-llms/ranke-4b/prerelease_notes.md at main · DGoettlich/history-llms · GitHub https://github.com/DGoettlich/history-llms/blob/main/ranke-4b/prerelease_notes.md Gi

最近、ふとした気づきがありました。 それは、「同じものを見ていても、過去と現在の自分では見えている世界がまったく違っている」ということです。 みなさんには、このコードからどんな世界が見えますか？ async function getUserName(userId) { const response = await fetch(`https://api.example.com/users/${userId}`); const user = await response.json(); return user.name; } はじめに こんにちは、株式会社ココナラ在籍のKです。 本記事では、冒頭の5行のコードを通して、私たちが学ぶ理由について考えてみたいと思います。 TL;DR 同じコードを見ても、人によって見えるものが違っている 学習を重ねることで、それまで見えなかった世界が見えてくる 学習

4/9(水) お昼にYouTubeでも解説します🙌 やさしいMCP入門 ＆ 実践LT会（KAGと学ぼう！勉強会） https://kddi-agile.connpass.com/event/351600/

GoogleやMetaなどの大手IT企業は大規模なプロジェクトをたくさん推進していますが、それらのプロジェクトは必ずしも成功するとは限りません。AI関連製品のコンサルティングを行っており、かつてMetaで機械学習に取り組んでいたこともあるジェフリー・リュウ氏が、「なぜGoogleのプロジェクトは失敗するのにMetaのプロジェクトは成功するのか？」という疑問について分析しています。 Google's Lost Moonshots · Jerry Liu https://www.jerry.wtf/posts/googles-lost-moonshots/ リュウ氏は、Googleはかつて製品を作るだけでなく「未来を定義する」会社でもあり、Googleが生み出したイノベーションやスローガンは世界に大きな影響を及ぼしてきたと指摘。たとえばGoogle マップはナビゲーションの世界に革命をもたらし

オープンテクノロジー技術者認定機関としてLinux技術者認定「LinuC（リナック）」（注1）などを実施する特定非営利活動法人エルピーアイジャパン（以下：LPI-Japan、東京都千代田区、理事長 鈴木 敦夫）は、初心者の方が基礎からLinuxを学べる学習用教材「Linux標準教科書」（以下：本教科書）を改訂し、「バージョン4.0.0」として2024年12月16日にリリースしました。 新版は、「Linuxを初めて触る人のはじめの一歩」として位置づけ、初学者がLinuxを学ぶ際に必要な最低限の内容に全面改訂しています。この内容は、業務で必要とされる体系的なLinuxスキルを習得できる「LinuCレベル1」の学習をする際の基礎知識としても役立ちます。 PDF版（無料）、ePub版（無料）、Kindle版（有料）は2024年12月16日より提供を開始し、製本版（有料）は2024年12月16日より

プログラマーにとって、プログラムを書くだけでなく読むことも重要だ。読むスキルは書くスキルや設計スキルにもつながる。プログラムを読むコツを解説する。 プログラマーなら「プログラムを書く」のがメインであって、技術が必要なほど読むことが大事とは思えない――。そう思う人は少なくないのではないでしょうか。逆に、「確かに読むのは大事なこと。効率良く読むためのテクニックがあるならぜひ知りたい」と思う人もいるでしょう。 恐らくプログラムを読むことの大事さがわかっている人は、ある程度プログラミングの経験があり、特に仕事でプログラミングやソフトウェア開発に携わっている人、そして恐らくはまだ仕事を始めてまだ年数が浅い人なのではないかと思います。 一方、「プログラムを読む」と言われてピンと来ない人は、プログラミング言語の入門書を読んで、さあいよいよ自分でもプログラムを作ってみようという段階の人が多いのではないかと

先日、博士（情報学）になりました。学部と大学院をあわせた 9 年間で読んだ情報科学関連の教科書・専門書を思い出を振り返りつつここにまとめます。私は授業はあまり聞かずに独学するタイプだったので、ここに挙げた書籍を通読すれば、大学に通わなくてもおおよそ情報学博士ほどの知識は身につくものと思われます。ただし、特に大学院で重要となる論文を読み書きすることについては本稿には含めておりません。それらについては論文読みの日課についてや論文の書き方などを参考にしてください。 joisino.hatenablog.com 凡例：（半端）とは、数章だけ読んだ場合か、最後まで読んだものの理解が浅く、今となっては薄ぼんやりとしか覚えていないことを指します。☆は特におすすめなことを表します。 学部一年 寺田 文行『線形代数 増訂版』 黒田 成俊『微分積分』 河野 敬雄『確率概論』 東京大学教養学部統計学教室『統計学

ローマ字のつづり方について国が定めたルールが、約70年ぶりに改められる見通しとなった。小学校で習うローマ字もこのルールを踏まえているが、駅名や案内表示など一般社会では、英語の発音により近い別の表記が浸透しているのが実情だ。文化審議会の小委員会は、統一的な考え方を示すことも視野に検討を進めている。 ローマ字のつづりは主に、母音と子音を規則的に組み合わせる「訓令式」と、「ヘボン式」がある。例えば「し」は訓令式では「si」、ヘボン式では「shi」と表記される。「愛知」は「aiti」（訓令式）、「aichi」（ヘボン式）になる。 国は1954年、内閣告示で「一般に国語を書き表す場合」は訓令式を用いると定めた。ヘボン式は「にわかに改めがたい事情がある場合に限り」使うとした。 学習指導要領も、小学3年の国語で、ローマ字について内閣告示を踏まえた学習をするよう求めている。だが、実際には訓令式は定着せず、

コンピューターの理論を学ぼうと思っても、複雑な専門書を読む必要があったり、講習を受ける必要があったりと、高いハードルに圧倒されて諦めてしまった経験がある人は多いはず。そんなコンピューターの理論やプログラミングの基礎を手軽に学べるゲームが「Turing Complete」です。今回はTuring Completeがどんなゲームか気になったので、実際にプレイしてみました。 Steam：Turing Complete https://store.steampowered.com/app/1444480/Turing_Complete/ Turing CompleteはSteam上で配信されており、上記リンクから購入可能です。販売価格は2050円。以下は起動した画面で、「Play Campaign」をクリックしてプレイを開始します。 Turing Completeは「宇宙人にさらわれた主人公が生存

研究者たちは、棘皮動物の一種であるクモヒトデが、特徴として古典的条件付けと呼ばれる学習形態を示すことを発見した。一点集中型である脳を持つ動物とは異なり、クモヒトデは中枢神経系を持たず、分散的な神経索を持っている。研究者によると、それぞれの神経索は独立して機能することができ、階層的な構造ではなく、むしろ委員会のようなシステムを形成しているという。 「処理を行う中心的存在がないのです」とジュリア・ノターは言う。彼女はデューク大学のソンケ・ジョンセン教授の研究室で、生物学博士号の一環としてこの新しい研究の先頭に立った人物である。 古典的条件付けは、ロシアの生理学者イワン・パブロフによって発見された学習プロセスであり、無条件刺激に中立刺激を関連付け、条件付けされた反応を生じさせるものである。長年にわたり、古典的条件付けは行動心理学を理解する上で重要な役割を果たし、刺激と反応の間の関連付けが経験を通

「Developers Meetup 急成長ベンチャーが向き合う『開発生産性』」は、開発組織や事業フェーズの異なる株式会社Another works・株式会社SmartHR・株式会社スタメンの3社が、開発生産性について語り尽くすイベントです。ここで株式会社SmartHRのすがわらまさのり氏が登壇。チーム増加に伴い起きた「認知負荷が高い」状況をどのように解決したかについて紹介します。 チームの増加に伴いできるようになったこと、やりにくくなったことすがわらまさのり氏：ここから本題ですね。「開発生産性について、上から見るか、下から見るか」ということで、よろしくお願いします。過去に私が登壇したもので似たテーマがいくつかあるので、軽く紹介しておきます。もし気になる方がいれば後で見てください。 前提の共有というところで、先ほどもお話ししたように、私が担当したのは「SmartHR」の基本機能というプロダ

2017年にGoogleの研究者が提唱した深層学習モデルで、チャットAI「Chat GPT」などに使われる。「どこに注目するか」を重視したことで、自然言語処理での精度や処理速度を大幅に高めた。 米OpenAIの「ChatGPT」は2022年に公開されるやいなや、その精度の高さに世界が衝撃を受けた。このChatGPTは、同社の大規模言語モデル（LLM）「GPT（Chat Generative Pre-trained Transformer）」をベースにしている。Transformerこそ、LLMの根幹である。 Transformerはエンコーダー（符号器）とデコーダー（復号器）で構成し、「どこに注目するか」を重視するアテンション機構を中心としている。大規模並列処理に向いたモデルで、GPUでの処理を想定して設計した。 Transformerは米Google Brain（現在の米Google D

関連キーワード アプリケーション開発 | プログラマー | プログラミング 世界的な不況の中でも、プログラマーやエンジニアなど技術職の雇用市場は安定する傾向にある。同じ技術職でもさまざまな職種が存在する。特にこれから需要が高まるのはどの職種なのか。“引く手あまた”になる見通しの、プログラマーやエンジニア関連の職種「10選」と、それぞれどのような仕事なのかを紹介する。 これから人気のプログラマーやエンジニア職「10選」　その仕事とは？ 併せて読みたいお薦め記事 連載：プログラミングのこれまでとこれから 第1回：不況でも稼げるプログラマーが知っている「プログラミング」の基本はこれだ 第2回：今と昔の「プログラミング」は何が全然違うのか？　新時代をもたらす劇的変化 第3回：人気のプログラミング言語「7種」の特徴とそれぞれの違い AIで開発現場はどう変わる？ “生成AIが仕事を奪う”なんて話より大

「繰り返し勉強しているのに覚えられない……」 「せっかく覚えたことをすぐに忘れてしまう」 「何度も復習しているのに、学んだ内容が身についていない」と悩んだ経験は、多くの人にあるのではないでしょうか。時間をかけたのに成果が出ていないと、モチベーションが下がってしまいますよね。 本記事では “復習” に焦点を当て、「効果が出にくい繰り返し方法」と「効果の出る繰り返し方法」を紹介します。この記事を読み、正しい繰り返し方を実践すれば、勉強内容が身につきやすくなること間違いなしです。 【ライタープロフィール】 髙橋瞳 大学では機械工学を専攻。現在は特許関係の難関資格取得のために勉強中。タスク管理術を追求して勉強にあてられる時間を生み出し、毎日3時間以上勉強に取り組む。資格取得に必要な長い学習時間を確保するべく、積極的に仕事・勉強の効率化に努めている。 △「1ジャンルのみ」繰り返す→◎「関連する別のジ

独学で学んできたAIスキルを体系的に 学び直し、業務の質とスピードが向上 KDDI株式会社　勝尾 優大さん 職場でAIツールを使用する機会が増え、より知識を身につけたいと思い、AIの学習をはじめました。 動画や書籍での独学では、体系的な学習が難しく、試行錯誤を繰り返していました。そんな時、日本リスキリングコンソーシアムのAIのトレーニングプログラムを受講し、AIの活用スキルが大きく向上。特にプロンプト作成のスキルが身につき、AIからより精度の高い回答を得られるようになりました。 マーケティング部門の業務では、キャッチコピーの作成や業績報告書の作成などでAIツールにアイデアや方向性を求め、実務を効率化しています。 AIスキルの習得と業務効率化で自信をつけ、 広がったキャリアの可能性 外資系製造業　50代 Sさん(女性) マーケティングの仕事に携わっている中、日本リスキリングコンソーシアムでデ

LLaMaやFalconといった小型の大規模言語モデル(LLM)が矢継ぎ早にリリースされる中、Microsoft ResearchのAI研究チームが、プレプリントサーバーのarXivで、Transformerベースのモデル「phi-1」を発表しました。このモデルは、パラメーター数がGPT-3.5の100分の1以下の13億しかないにもかかわらず、テスト用データセット・HumanEvalでGPT-3.5を上回る成績を収めたことが報告されています。 [2306.11644] Textbooks Are All You Need https://doi.org/10.48550/arXiv.2306.11644 Microsoft Releases 1.3 Bn Parameter Language Model, Outperforms LLaMa https://analyticsindiama

流行のLLMを勉強したくて沢山本を読みました。 この後もしばらくLLM（GPT）関係の出版が続きそうなので、現状の本でまとめてみました。 参考： nowokay.hatenablog.com まとめ。 Transformerの仕組みを知りたい人で、画像のDeep Learningなら分かるって人はVision Transformer入門 言語モデルをデータセットを作る所からやってみたい人には、作ってわかる! 自然言語処理AI とにかくすぐに動かしたい人には、機械学習エンジニアのためのTransformers ビジネス的に何ができるのかを知りたい人はBERT入門 Vision Transformer入門 Vison Transformerになっていますが、Transformerの説明がとても詳しくお勧めです。実際に写経してパーツパーツで動かせるのはこの本だけ。Transformer一点突破な