注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
こんにちは。さくらのナレッジ編集部の安永です。 2024年6月15日(土)、札幌コンベンションセンターに... こんにちは。さくらのナレッジ編集部の安永です。 2024年6月15日(土)、札幌コンベンションセンターにて「CloudNative Days Summer 2024 」が開催されました。このイベントで、株式会社Preferred Networks(以下「PFN」と称します)の清水翔さんと上野裕一郎さんが、さくらインターネットのサービスを利用した生成AI向け機械学習クラスタ構築の方法について発表しました。そのレポートをお届けします。 最初に、生成AIの学習とは何かについて説明します。生成AIの学習では、非常に大規模なパラメータを持つ言語モデル(LLM)を使用します。PFNや株式会社Preferred Elements(以下「PFE」と称します)では、「PLaMo」という大規模言語モデルを開発しています。例えば、100億のパラメータを持つモデルの場合、メモリ使用量はパラメータとパラメータ更新時
2024/09/25 リンク