2014年から先端テクノロジーの研究を論文単位で記事にして紹介しているWebメディアのSeamless（シームレス）を運営し、執筆しています。 1週間の気になる生成AI技術・研究をいくつかピックアップして解説する連載「生成AIウィークリー」から、特に興味深いAI技術や研究にスポットライトを当てる生成AIクローズアップ。 今回は、日本語でリアルタイムに音声対話してくれるAIモデル「J-Moshi」に注目します。名古屋大学の研究者らが開発したこのAIモデルは、ユーザーの声を聞いて内容に応じた発話を同時に行います。 ▲J-Moshiのプロジェクトページ J-Moshiは、英語の対話システム「Moshi」をベースに開発され、人間同士の自然な会話で見られる発話の重なり（オーバーラップ）や相槌などの同時双方向的な特徴を再現できる日本語対応システムです。モデルサイズが7Bと軽量です。 特徴的なのが、ユー

TL;DR Q: HPCプログラマの書くコードってなんで古臭いの？ A: そうしないと性能が出なかったから はじめに スパコンを使ってそれなりに長いこと研究をしています。初めてスパコンを使ったのは今から25年くらい前です。発展の早い世界ですので、昔と今ではだいぶ違ってきています。この前、スパコンを使う時の「常識」がすでに現在では常識ではなくなっているっぽいことを知り、私も「そっち側」になったのか、と感慨深くなりました。以下は、HPC業界の語り部に片足を突っ込んだおっさんの戯言です。 なお、以下では主に「京」の話をするため、富士通のC++コンパイラに文句を言う形になりますが、富士通が悪いのではなく、昔のスパコンに搭載されていたC++コンパイラはどれもかなり酷かったということはあらかじめ言っておきたい気がします。IBMのコンパイラとかも酷かったし、なんならIntelのコンパイラもバグだらけだっ

Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? 本記事は K3 Advent Calendar 2024 23日目の記事です 本記事では、趣味がSurveyで毎日論文漬けの僕から、論文の探し方・読み方のTipsを伝授します！ もちろん、研究分野によっても論文の書き方や特徴は変わってきます！基本的に普遍的なことを書くつもりですが、僕の専門であるコンピュータサイエンス・機械学習・コンピュータビジョン・自然言語処理の分野に依存した部分もたたあると思います！あくまで参考程度に、もし指導教員の話とコンフリクトしたら、そちら優先してマージしてください！ この記事を読んでる人の中には、来年度から研

現代の高速インターネットは光を利用して、光ファイバーケーブルを通じて大量のデータを迅速かつ確実に送信しますが、データ処理が必要な時に光信号を電気信号に変換する必要があり、これがボトルネックになるという問題を抱えています。これを解決するために、光で光を直接制御する「全光スイッチ」を用いる手法が模索されています。 Cavity Floquet engineering | Nature Communications https://www.nature.com/articles/s41467-024-52014-0 All-optical switch device paves way for faster fiber-optic communication https://phys.org/news/2024-10-optical-device-paves-faster-fiber.html

全３回のシリーズパート２の本記事では、GPTの能力と可能性をAttention/Transformerの仕組みをふまえて考察します。 というつもりでしたが、凄く長くなってしまったのでパート2は以下の3回に分けようと思います。 （2.1）各技術の定性的な説明（本記事） （2.2）Transformerのアルゴリズム詳細 （2.3）GPTの能力と可能性について 2.1 各技術の定性的な説明 自然言語の構造を考えてみる まず我々が使う言語についてちょっと振り返るところから話を始めましょう。 文や文章は、おおもとのデータである文字から始まって、単語、文節、句、節、文、文章、さらにその上の意味、という風に階層的な構造を持っていると我々は概念的に認識してますよね。 構文の階層 そして、各階層や階層間には、文法や語法といった言葉のルールがあります。 深層学習はその名の通り、層を深くしたニューラルネットワ

要点 50 ℃未満で水素と窒素からアンモニアを合成できる触媒の開発に初めて成功 今回、開発した触媒は既存の触媒を凌駕する性能で、CO2排出ゼロを実現 開発した触媒によって自然エネルギーからのアンモニア生産へ道が開かれた 概要 東京工業大学 科学技術創成研究院の原亨和教授、元素戦略研究センター長の細野秀雄栄誉教授らは、50 ℃未満の温度で水素と窒素からアンモニアを合成する新触媒の開発に成功した。この触媒は豊富なカルシウムに水素とフッ素が結合した物質「水素化フッ素化カルシウム（CaFH）[用語1]」とルテニウム（Ru）ナノ粒子の複合材料「Ru/CaFH」で、室温で水素と窒素からアンモニアを合成できる。 原教授らはCaFHが低い温度で電子を与える力が強いことに着目し、その学理を低温でアンモニアを合成する触媒の開発に繋げた。アンモニア生産の大幅な効率化だけでなく、自然エネルギーを使った温室効果ガス

こんにちは、みのんです。 今回は「どうやって論文を読んだらいいかわからない」と悩んでいる学生の方向けに 「論文の読み方」について紹介したいと思います。 この話題に関して、以前こんなツイートをしました。 実験のやり方や原理は教えても、論文の読み方や問いに対する仮説の立て方等を教えてくれる人が少ないのは何でだろうと思ったけど、多くの人は経験から感覚的にやっていて、体系立てて説明できる人が居ないんじゃないかと思う。自分も後輩に教えようと思って始めて整理し始めたけどこれがけっこう難しい — みのん (@min0nmin0n) August 31, 2019 実験のやり方や原理は教えても、論文の読み方や問いに対する仮説の立て方等を教えてくれる人が少ないのは何でだろうと思ったけど、多くの人は経験から感覚的にやっていて、体系立てて説明できる人が居ないんじゃないかと思う。自分も後輩に教えようと思って始めて

近年様々な分野に対してDeep learningの応用が研究されてきています。 化学の分野でも物性値の予測モデルや、化合物の生成モデルの研究などが盛んになってきています。最近では、有機化合物の合成を行う際に必要な化学反応の予測をDeep learningで行うという試みが行われてきているのでその先行研究サーベイをしました。 サーベイ資料はこちらのSlideshareにアップロードしています。 問題設定：反応予測および逆合成経路探索 化学反応で、反応物 (reactant) AとBを触媒 (reagent) Cの下で反応させたときに 生成物 (product) D ができたようなプロセスは Reaction SMILES を用いると “A.B.C>>D” というように表すことができます。 ここで、 AとBとC から何ができるか？ （答えはD）を予測する問題を順方向の反応予測問題と呼び、Dを作

はじめに 本記事では2019年6月~8月にかけて開催され、約2800チームが参加したKaggleのコンペ Predicting Molecular Properties（通称分子コンペ）について、振り返りを兼ねてまとめたいと思います。 www.kaggle.com はじめに コンペ概要 データ データ数について xyzファイルについて scalar couplingについて Additional Dataについて 評価指標 Graph Convolutional Networks (GCN) Message Passing Neural Networks (MPNN) GCNの本コンペへの適用 その他GCNモデル GNNの参考資料 最後に コンペ概要 まず初めに本コンペのポイントをいくつか挙げます。 分子内の2つの原子間の磁気的相互作用（scalar coupling constant、以

2. はじめに  このスライドは最初，第一原理計算と密度汎関数理論を， 「誰にでも」理解できるように，説明する目的で作り始めま した。  しかし残念ながら，著者の不勉強と理論の難解さで，とて も「誰にでも」理解できる内容にはなりませんでした。  また著者自身，密度汎関数理論を完全に理解できていな いので，間違っている部分があるかもしれません。  Richard P. Feynmanが言ったように，「高校生レベルの知識 層に説明して伝えることができなければ，その人は科学を 理解しているとは言えない。」のですが，このスライドが少 しでも皆様の理解の助けになれば幸いです。  なお，著者が特に尊敬している物理学者は，Wikipediaか ら拝借した写真を入れさせて頂きました。

物理学や情報科学を学ぶ中で数学の一分野である「群論」の知識が必要となる場面が多々あります。 しかしながら群論は抽象数学の入門的な分野であり、抽象数学に慣れ親しんだ方でないとなかなか厳しい物があると思います。 実は群論を学ぶためには微積分や行列・線形代数といった高度な前提知識は全く必要なく、 中学生程度の数学の知識さえあれば理解できるはずなのですが、 基本的な考え方が非常に抽象的ですので、 東大の情報科学科の学生であってもかなり苦労しているようです（筆者調べ）。 確かに群論を系統的に学ぼうとすると抽象的な概念が多く、躓くとこも多いと思いますが、 情報科学や暗号理論で必要な最低限の知識のみに絞れば、さほど難しくはありません。 また、必要な前提知識も先程述べたように中学生レベルの数学の知識のみですので、 文系の方でも十分理解していただける内容だと思います。 そこで本記事では、これから群論を学ぼう

Separate references by semicolumns or new lines (Shift+Enter).