菱洋エレクトロ、GDEPソリューションズのローカルLLMパッケージ「LLM／RAGスターターセット」を販売

　菱洋エレクトロ株式会社は24日、ローカルLLM（大規模言語モデル）を迅速に導入できる、GDEPソリューションズ株式会社のパッケージ製品「LLMスターターセット」と「RAGスターターセット」の取り扱いを開始すると発表した。菱洋エレクトロが、顧客のニーズに合わせて必要なハードウェアとソフトウェアを厳選してプリインストールした状態で提供することで、初期導入の手間を省き、迅速かつハードルの低いLLM導入を支援する。

　菱洋エレクトロでは、近年、企業内に蓄積された膨大な情報資産をいかに活用するかが重要な課題であり、社内データを効果的に活用し、情報の信頼性を高めるRAG（検索拡張生成）が注目されていると説明。また、企業では、LLM導入の取り組みが事業部や現場レベルで始まるケースが多く、導入コスト、セキュリティ、スケジュールにおいてのハードルが課題となっているとして、RAGスターターセットを通じて、高精度な回答を生成する仕組みを迅速に構築し、社内データの最大活用を支援するとしている。

　スターターセットは、データを自社内で管理できるローカルLLMによるセキュリティ面での安心とコスト効率を実現。カスタマイズが容易で、特定の業務ニーズに合わせた調整ができ、数百名規模の従業員数であれば、ワークステーション1台で十分な性能を発揮し、総コストを抑えられる。

　ハードウェアは、LLM運用に必要なGPU性能や規模を専門的に評価し、NVIDIA RTX 4500 AdaやRTXシリーズの中で最上位のNVIDIA RTX 6000 Adaなどが搭載された最適なハードウェアを選定。迅速な導入を可能にするオールインワンパッケージで、必要なハードウェアに、動作検証済みのソフトウェアをプリインストールして提供し、導入後すぐに使用を開始できるため、プロジェクトの立ち上げ期間を短縮できる。

　また、導入後のサポートも付帯しているため、運用の立ち上げを安心して進められる。使い方マニュアルやインストール手順書に加え、「Q&Aチケット」が付き、必要なサポートを柔軟に受けられる。選択するモデルによって3～6枚のQ&Aチケットが付属し、導入後の具体的な質問に対応する。また、購入から1年間は無償アップデートサイトへのアクセス権を提供し、ローカルLLMの構築や運用に必要な最新情報を提供する。