楽天が日本語特化の言語生成AIを発表　LLMだけでなくSLMも

楽天が日本語特化の言語生成AIを発表　LLMだけでなくSLMも

楽天グループは2024年12月18日、日本語に最適化した新たなAIモデル「Rakuten AI 2.0」および「Rakuten A...概要を表示 楽天グループは2024年12月18日、日本語に最適化した新たなAIモデル「Rakuten AI 2.0」および「Rakuten AI 2.0 mini」を発表した。 「Rakuten AI 2.0」はMoEアーキテクチャーを採用した8x7B構成で、日本語性能を従来モデルより大幅に向上させた。「Rakuten AI 2.0 mini」はコンパクトな15億パラメーターのSLMでプライバシー保護やコスト効率が求められる用途に最適とされる。これらのモデルは来春にオープンソースコミュニティーに公開予定であり、AIアプリケーション開発の効率化と日本語LLMの発展に寄与することを目指している。 「Rakuten AI 2.0」は日本語特化の基盤モデル「Rakuten AI 7B」（2024年3月公開）を基に開発した8x7BのMoE（混合専門家）モデルだ。8つの70億パラメーターで構築した「エキスパート」