🚀 はじめに Google Antigravity、使っていますか？ 最近、新機能として Skills が追加されました。 これまでもカスタム指示（Customizations/Rules）でエージェントの挙動を調整できましたが、Skills はどうやら「もっと高度なタスク」を「必要な時だけ」実行させるための機能のようです。 「これは開発フローが変わるかもしれない...」と思い、実際に試してみました。 今回は、実用的な自動コードレビュースキルの作成を通して、その使い勝手を解説します。 📚 概要: Skills（スキル）とは？ Skills は、エージェントに特定のタスクの進め方やベストプラクティスを教えるため再利用可能なパッケージです。 単なるプロンプトテンプレートではありません。以下の 4 つの要素を組み合わせることで、複雑な作業を自律的に行わせることができます。 SKILL.md:

このブログは、株式会社フィックスターズのエンジニアが、あらゆるテーマについて自由に書いているブログです。 投稿者より 本記事はインターンシップで勤務された前田 優希さんによる寄稿となります。 最新 GPU の NVIDIA RTX PRO 6000 Blackwell Max-Q を用いて、LLM の fine-tuning にかかる実行速度とメモリ量を調査していただきました。 記事の要約 本記事では、以下のことを示しています。 1. fine-tuning 手法とその速度・メモリ消費の実験的測定について 効率的な fine-tuning 手法である LoRA、QLoRA を用いて LLM を fine-tuning する方法を調査した。また、fine-tuning を高速・省メモリで行うことのできるライブラリである unsloth の使い方を調査した。 NVIDIA RTX PRO 60

A tool that connects everyday work into one space. It gives you and your teams AI tools—search, writing, note-taking—inside an all-in-one, flexible workspace.

エンジニアの又川です。 皆さんは LLM (大規模言語モデル) の 「特殊トークン」 をご存知でしょうか？ ChatGPT や Claude などを使っていると意識することは少ないかもしれませんが、実はモデルの内部では 「ここからユーザの発話だよ」「ここで思考を始めるよ」 といった制御情報を伝えるための特別なトークンが使われています。 この記事では、 GPT-1 や BERT、GPT-2 といった黎明期の Transformer モデルから始まり、 T5 のようなテキスト補完から脱却した Transformer モデル、 GPT-3 のような初期の LLM、 InstructGPT のような指示追従型 LLM、 GPT-3.5 Turbo のようなチャット機能付き LLM、 GPT-4 のようなマルチモーダル LLM、そして GPT-5.2 のような思考機能付き LLM (Reasonin

米NVIDIAは12月15日（現地時間）、エージェント型AIの構築に最適化されたオープンな基盤モデルファミリー「Nemotron 3」を発表した。 計算資源とユースケースに応じて選択可能な「Nano」「Super」「Ultra」の3モデル構成。モデルの重みだけでなく、データセット、トレーニングレシピ、開発ツールチェーンを含めたフルスタックのオープンソースとして提供される。 Nemotron 3は、アーキテクチャにハイブリッドなMixture-of-Experts（MoE：混合エキスパート）を採用している。8月に発表した「Nemotron Nano 2」の設計思想を継承しつつ、大規模なエージェントワークフロー向けに改良を加えたものだ。推論時にアクティブになるパラメータを動的にルーティングすることで、高スループットを維持しながら、複雑な推論タスクにおける回答精度を向上させたとしている。 最大1

美しいAPIドキュメントを生成する優れたAPIテストツールが欲しいですか？ 開発チームが最大限の生産性で共同作業できる、統合されたオールインワンプラットフォームが欲しいですか？ Apidogはあなたのすべての要求に応え、Postmanをはるかに手頃な価格で置き換えます！ buttonさあ、お気に入りの飲み物を片手に、コーディングプロセスを劇的に加速させるこの旅に出かけましょう！ 舞台設定：Minimax M2とClaudeを組み合わせる理由まず最初に、「なぜ2つのAIモデルを使う手間をかける必要があるのか？1つで十分ではないのか？」と疑問に思うかもしれません。これは当然の質問です！その答えは、専門化とコラボレーションという概念にあります。 私たちのAIパワーデュオを理解するClaude (Anthropic製) は、その深い推論能力、複雑で微妙な指示を把握する能力、そして巨大なコンテキスト

デジタル庁プロダクトマネージャーユニットの土岐竜一です。事業者の手続システム総括班で、Jグランツを含む事業者向けシステムなどを担当しています。 この記事では、デジタル庁が運用する補助金電子申請システム「Jグランツ」のAPIを、Anthropic社が提唱するModel Context Protocol（MCP） によりラッピングし、LLMから利用可能なシステムのサンプル設計および実装について説明します。 具体的には、Pythonで簡単に実装できるFastMCPフレームワークを利用し、Jグランツの補助金検索や詳細の取得などの実用的な機能を備えたMCPサーバーを例として実装します。なお、本記事におけるコードはGitHubよりダウンロード可能です。 本実装例で実現できること今回紹介するMCPサーバーを利用すると、LLM（Claudeなど）を通じて、以下のような自然言語によるJグランツの補助金検索や

AIスタートアップPathwayが、人間の脳神経回路に着想を得た新アーキテクチャ「Baby Dragon Hatchling（BDH）」を発表した。現在の主流であるTransformerモデルの限界を打破する可能性を秘め、より解釈可能で自律的なAIへの道を拓くものとして、業界に静かな衝撃が走っている。 Transformer時代の黄昏と新たな地平線 近年のAIの進化は、OpenAIのGPTシリーズに代表されるTransformerアーキテクチャによって牽引されてきた。膨大なデータと計算資源を投入する「スケーリング則」により、その性能は飛躍的に向上した。しかし、その輝かしい成功の裏で、いくつかの根深い課題が顕在化しつつある。 一つは「ブラックボックス問題」だ。モデルがなぜ特定の結論に至ったのか、その思考プロセスを人間が理解することは極めて困難である。もう一つは「時間経過に伴う汎化能力の欠如」

LLM の注意機構には色んな機能があることが分かっています。注意機構を分析することで、なぜ LLM は文脈内学習や思考の連鎖に成功し、ひいてはなぜ LLM が外挿に成功することがあるのかについての理解が得られます。本稿ではさまざまな種類の注意機構を観察することでこの問題をひも解きたいと思います。 目次 目次 基本的な考え方 文法ヘッド 注意の受け皿とレジスタトークン 逐次ヘッドと検索ヘッド 帰納ヘッド 関数ベクトル 反復ヘッド まとめ 基本的な考え方 LLM の多くは注意機構と多層パーセプトロン (MLP) を交互に積み上げたアーキテクチャを持ちます。各層は複数の注意機構をもち、それぞれの機構を注意ヘッドと呼びます。 注意機構の役割は 文脈内の検索 ルール・アルゴリズムの実現 です。文脈とはプロンプトと今までの出力のことで、これを踏まえて次トークン予測を行います。注意機構は文脈から次トーク

OpenAIの創設メンバーでAI開発エンジニアのアンドレイ・カルパティ氏が、ChatGPTのようなAIチャットボットを一から構築するためのオープンソースプロジェクト「nanochat」を公開しました。nanochatを使えば約100ドル(約1万5000円)の予算で、数時間で基本的な大規模言語モデル(LLM)の学習からChatGPTのようなAIチャットボットを構築することが可能となっています。 Excited to release new repo: nanochat! (it's among the most unhinged I've written). Unlike my earlier similar repo nanoGPT which only covered pretraining, nanochat is a minimal, from scratch, full-stack

“今いちばん使うAI”は国産ローカルLLM。｢PLaMo翻訳｣で言語の壁が粉々に2025.10.03 13:0049,109 かみやまたくみ 最優のAIのひとつだと思います。 英語から日本語への翻訳に特化したローカルLLM｢PLaMo翻訳（plamo-2-translate）｣。バケモノじみた翻訳能力は｢便利｣の次元を越えており、気づいたらいちばん使うAIに。見える世界も変わっていました。 長い外国語の文章を1発で日本語にplamo-2-translateはLM Studioなどで動かすローカルLLM、その名の通り｢翻訳専門のAI｣です。年商要件はありますが、企業・個人でも無償で利用できます。（執筆時点、変更の可能性もありますので、ご利用のタイミングで必ずご確認ください） Photo: かみやまたくみ｢運用がめちゃ楽｣なのがまず大きな特徴です。なんとプロンプト不要、いちいち｢あなたは優秀な

llama.cppにMoEに適したCPU/GPUの振り分けのオプションが入って、LM Studioでもそのオプションに対応したことによって、MoEモデルであるGPT-ossが少ないGPUメモリでもそれなりに動くようになりました。拡大するとわかりますが、LM Studioの右下の表示によると、メインメモリは12GBくらい使います。 14tok/sec出ています。 CPUだけで動かすと10tok/secだったので、5割マシですね。 0.3.23.0に「Force Model Expert weight onto CPU」というスイッチが入っているので、これをOnにするとExpertのウェイトがすべてCPUに乗るようになります。アテンションはGPUで。 詳しくはリリースノートにありますが、llama.cppの--n-cpu-moeの仕組みを使ってるとのこと。 https://lmstudio.a

中国の大手テクノロジー企業「Alibaba」のAI研究チームが低コストかつ高性能なAIモデル「Qwen3-Next」を開発して無料公開しました。Qwen3-Nextは従来モデルと比べて10分の1以下のコストでトレーニングされており、入力トークンが多い状況では10倍以上高速な推論処理が可能。それでいて、性能は従来モデルと同等以上で、一部のテストではGoogleのGemini-2.5-Flash-Thinkingを上回っているとアピールされています。 Qwen3-Next: Towards Ultimate Training & Inference Efficiency https://qwen.ai/blog?id=4074cca80393150c248e508aa62983f9cb7d27cd&from=research.latest-advancements-list Qwen3-Nex

AIプログラムの開発、つまり、AIにコードを書かせるのではなくて、LLMを呼び出したりRAGを実装したりエージェントを作ったりといったAIを組み込むプログラミングの演習をしたいときに、参加者のPCに十分なリソースを前提とできないことは多いと思います。 Java AIプログラミング記事でQwen3 1.7B Q4_K_Mを選んだ 先月gihyo.jpの連載で、「JavaでAIプログラミングをはじめよう」という記事を出しました。 「JavaでAIプログラミングをはじめよう」という短期連載をgihyo.jpで出しました - きしだのHatena そのときに、読者のPCにGPUが載ってたりMacであることだったりは前提にできないので、なるべく必要なリソースが少ないモデルを選ぶ必要があって、最終的にQwen3 1.7BのQ4_K_Mを選びました。初回に、LM Studioとあわせた導入方法を載せてま

みなさんが最近Claude Codeの性能劣化を嘆いているのをよく観測するので、できる限り劣化を防ぐために自分がとった行動を記載してみる。 Micro Compactを無効にする LLMは基本的にコンテキストが伸びるほど推論コストが重くなり、LLMプロバイダーにとって負担となる。 そのため、どのバージョンからかClaude Codeは、コンテキスト上限に達する前から、過去参照したファイルの内容やツール使用のログを要約するようになった模様。 直接的な健忘の原因っぽそう。 詳細はこちらのツイートを参照。 DISABLE_MICROCOMPACT=1で無効にできる。 IDEとの統合をやめる IDEとClaude Codeとの連携によって無駄なコンテキストが注入されるのを防ぐ。 ただし、UXに大きく関わるのでやったほうがいいかどうかは人による。 IDEのExtensionからClaude Code

（上記、Github の README.md を一部日本語に翻訳して引用） Unsloth の良い点としては、学習の高速さやVRAM消費量が小さいことに加え、学習の効率化において近似計算を一切使用していないことから、精度低下がゼロと自信を持って書かれていることや、Huggingface において様々な動的量子化/GGUFモデル等を公開していることが挙げられます。 また、Unsloth を用いてLLMのダウンロードを行うと、謎の仕組みで高速に進みます。(Unsloth: Fast downloading is enabled と出てくるので多分早くなっている) インストールは以下のコマンドで行えます。 余談ですが、Unsloth の公式ドキュメントに書かれた LLM のファインチューニングガイド、どのモデルを使うべきか？、LoRA のハイパラのガイド は情報が綺麗にまとまっていて個人的にかな