2025-03-10, 言語処理学会 第31回年次大会でのチュートリアル「言語モデルの内部機序：解析と解釈」のスライドです。

その国は「世界一だまされない国」と言えるかもしれません。 「フェイクニュースとの戦いに勝利した」とも。 北欧のフィンランド。 ロシアと長い国境線を接し、歴史的に脅威にさらされ、対抗してきました。 ロシアのメディアなどによるとみられる偽情報は、日本でもSNSで広がっています。 偽情報に惑わされないようにするためには…現地で取材しました。 目次 子どもたちも実践的に学ぶ 偽情報対策の新システムも

世界が喝采！日本の小学校に驚いた !! いま、小学校を知ることは、未来の日本を考えること 。 1 2/13 ( 金 ) よりシネスイッチ銀座ほか全国順次公開

どうも、無精者の宵働きです。SEをしています。 IPA資格はFE,AP,SC,SM,SAを持っています。 令和6年度高校教員（情報）資格認定試験合格。 2025年から教員としても働き始めます。

「DeNAはAIにオールインします」 2025年2月5日に開催したイベント「DeNA × AI Day || DeNA TechCon 2025」のオープニングでDeNA代表取締役会長 南場 智子（なんば ともこ）はそう高らかに謳い、「1999年に創業したDeNAの第2の創業、チャプター2が始まる」と表明しました。 日々目まぐるしく発展するAIと、DeNAはどう向き合っていくのか。 そしてAIが導く未来に対し「やはり起点は人間である」と語った真意とは。 南場の講演内容をノーカットでお届けします！ AIのパワーで“楽”を手に入れる皆さんこんにちは。ご視聴ありがとうございます。まず私からは、「DeNAがAIとどう向き合っていくのか」についてお話したいと思います。 まず、経営者としてAIをどう見るかなんですけれども、現実、確かなものとして、劇的な経営の効率化があります。いろんな会社が「こうやって

FacebookXBlueskyHatenaPocketCopy 今回はPreferred Networksとその子会社のPreferred Elementsが共同で開発した1Bサイズの小型のLLM、PLaMo 2 1Bに対してSFTをするコードの紹介になります。 Google Colabの無料枠で推論を回す方法は前回記事にしましたので、そもそもPLaMo 2 1Bって何と思った方や推論を回してみたいという方はそちらをご覧ください。 小型LLM PLaMo 2 1BをGoogle Colabの無料枠の範囲で使ってみる また、今回説明に使うコードはこちらに置いてありますので、適宜参照してください。 https://github.com/shu65/plamo-2-1b-sft-example Google Colabにおける一連の実行に関してはJupyter Notebookにまとめてありま

例えば、こちらのブログですが、グラフィカルな解説部分が、画像になっています。 Claudeはマルチモーダルに対応しているので、画像を添付した状態で「文字を抽出して」というと文字を抽出してくれますが、日本語で要約して回答したり、元の文章を正確に抽出する のは、意外と難しいと感じていました。 以下は、Claude.aiを使って「添付画像から文字を抽出して」と依頼した際の結果です。 原文そのままを正確に抽出したいときってありますよね？それを解決する方法を編み出しました。 方法は、「 HTMLで再現させる 」です！ 本投稿の先頭の画像を添付して「添付画像をHTMLで再現して」と依頼した際の結果がこちらです。 感動！！！ （注：右側が画像をもとに生成したHTMLを、プレビューした状態です。Claude.aiのArtifactsという機能です） アイコンがちょっと違うとか省略されてるとかはありますが、

娘（中３）が女子なので慶應女子と早稲田実業を比較した訳ですが、男子についても比較してみたいと思います。 男子の場合、入試日が同じなのは以下です。 ２／１０：慶應義塾と早稲田実業 ２／１１：早稲田高等学院と慶應義塾志木（２次試験） 早大学院と慶應志木は同じとは言えないかもしれませんが。。。 早大学院と慶應志木は両方出願する方が多いようです。慶應志木で１次試験に合格すればそのまま２次試験を受ける方が多いように感じます。早大学院の志願者の内、４００人近い人が受験していないことからも分かります。 慶應志木の２次試験は１８０名ぐらいの方が不合格になりますが、１次試験の結果に連動すると聞きます。１次試験でギリギリ合格かなと思った時には早大学院に向かうようです。 まずは慶應義塾と早稲田実業についてクレア様の情報を使って比較してみたいと思います。 （慶應義塾）

winningticket-2025のブログ（2025年 高校受験） 中3の娘の2025年度の高校受験に向けた記録です。いつか娘に見せられると良いなと。。。 twitter： @winningticket25 今回は、慶應志木の二次試験の不合格者数について記載します。 皆さんが気になっている？！ぽま先生のブログに以下の記載がありました。 「慶應志木の２次試験は面接なので、１次が受かれば２次も受かる気がしますが、実際にはかなりの数が２次で不合格になります。」 これは慶應志木の学校HPから取った入試結果になりますが、これを見ると確かに一般で、１８５人の不合格者が出ているように見えます。帰国も合わせると１９４人です。 慶應志木の二次試験は、早大学院の入試日（２／１１）と重なっているので、志望度合いが両校に対してそこまで変わらない生徒が、慶應志木の一次試験に合格した場合、２／１１はどちらを受けるの

複合主語は「等位接続詞」に注目しよう どうも、こういった複合主語は「それぞれの形を暗記して対応する動詞の形を覚える」と考えている方が多いですね。 そんなことやってたらすぐ忘れますし、日が暮れてしまいます。 それよりもある言葉に注目してそのパターンを覚えてしまった方がはるかに効率的・かつ忘れにくくなるんです。 その言葉とはand、but、orなどの「等位接続詞」。 なんとこの複合主語は一見複雑に見える形をしていたとしても、等位接続詞の何が使われているかによってパターン化することができるのです。 ですからまずは複合主語だ！と思ったらまずはこの点に注目すると良いでしょう。 A and B → 基本は複数 まずはAとBがandでつながっているパターン。この場合、例外を除いてAとBに関係なく「複数」扱い。 例①　Mike and Ken are good friends. 「マイクとケンは仲がよい」

新手法「TAID」によって学習された小規模日本語言語モデル「TinySwallow-1.5B」は、同規模のモデルの中で最高性能を達成しています。さらに、小規模のため、APIなどを介さずお手元のスマートフォンやPCで完結してチャットが可能です。ウェブアプリまたは、GitHubにてお試しいただけます。 本稿は、経済産業省とNEDOが推進するGENIACによって支援されたSakana AIの研究成果を紹介するブログシリーズの第3回目です。 概要 日常的な対話はもとより、数学やコーティングといった複雑なタスクまでも人間と遜色ないレベルでこなせるようになった大規模言語モデル（LLM）は、今後ますます多くの場面での利活用が期待されています。こうした大きな期待の一方で、LLMの開発・活用の現場では、莫大な計算資源の必要性が大きな壁として立ちはだかってます。まずLLMの開発現場では、「大規模データと巨大計

サイバーエージェントは1月27日、大規模言語モデル（LLM）「DeepSeek-R1」を使った新たなAIモデルを無料公開した。「DeepSeek-R1-Distill-Qwen-14B/32B」をベースに、日本語を追加学習させたLLM「DeepSeek-R1-Distill-Qwen-14B/32B-Japanese」をHugging Face上で公開。ライセンスは、MITライセンスで商用利用なども可能だ。

Preferred Networks（以下、PFN）および Preferred Elements（以下、PFE）では、大規模言語モデル（以下、LLM）の開発を進めており、PLaMo 100B を 2024 年 10 月に公開しました。現在は次世代モデルである PLaMo 2 の開発（※）を行っています。今回の記事では、PLaMo 2 に採用したトークナイザの改善について紹介します。 PLaMo 2 のトークナイザは、前のバージョンである PLaMo 100 B と比較して、日本語のトークン効率が 45 %、英語のトークン効率が 25 % 向上しました。ここでいうトークン効率とは、入出力に使われる文字列において 1 トークンで平均で何文字表現できるかを表します。これが改善する（増える）ことは、日本語の文章生成が 45 % 高速化し、同じ計算資源で学習できるデータ量が 45 % 増えることを意

カプコン: ゲーム開発に必要な数十万件のアイデア出しを生成 AI で支援し、クリエイターの生産性を大幅に向上 『モンスターハンター』シリーズや『ストリートファイター』シリーズなど、世界中のゲーマーから圧倒的に支持される人気タイトルを次々にリリースしてきた株式会社カプコン（以下、カプコン）。同社はこれからも高品質な作品を生み出し続けるべく、生成 AI をはじめとする新技術の活用に積極的に取り組んでいます。そうした先端技術の導入に向けた取り組みについて、タイトル横断で技術開発に取り組む担当者から最新の事例を伺いました。 利用しているサービス: Vertex AI, Gemini Pro, Gemini Flash, Imagen, Cloud Run など 利用しているソリューション: 生成 AI 費用・工数が増大するゲーム開発を生成 AI を活用して効率化世界で受け入れられるヒット コンテン