注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
この連載について AIやデータ分析の分野では、毎日のように新しい技術やサービスが登場している。その中... この連載について AIやデータ分析の分野では、毎日のように新しい技術やサービスが登場している。その中にはビジネスに役立つものも、根底をひっくり返すほどのものも存在する。本連載では、ITサービス企業・日本TCSの「AIラボ」で所長を務める三澤瑠花氏が、データ分析や生成AIの分野で注目されている最新論文や企業発表をビジネス視点から紹介する。 「LLMの小型化なんて結局は出力品質とのトレードオフでしょう」──そんな常識が覆される日が迫っているかもしれません。 Microsoftは2024年2月に「BitNet」という技術を発表しました。一般的なLLMはパラメーターを16bitで表現していますが、BitNetはこれを約1.58bit(1、0、-1の3値)で表現することに成功したのです。 この技術が驚異的なのは、モデルの性能を犠牲にせずに推論に必要なメモリ使用量と消費電力を削減できる点です。理論的に
2024/12/20 リンク