生成AI活用を阻む3つの課題　汎用型LLMと共存する「自社特化型LLM」構築のポイントとは

自社専用LLMは必要か？ 活用を阻む3つの課題

　ChatGPTは2022年11月の公開以来、2024年8月時点で週間アクティブユーザーが2億人を突破し^[1]、大きなイノベーションを生み出している。一方で、特に企業での生成AI活用に焦点を絞ると、実際の利用頻度は定常利用（1日2回以上）が21％、定期利用（1日1回）が14％、不定期利用（数日に1回程度）が35％、未利用（それ以下、または使っていない）が30％と、いまだ実態として定常利用には至っていない^[2]。

　企業活用を阻む大きな要因としては、以下のような課題が挙げられる。

1. ハルシネーションの抑止

　多くの企業が抱えるデータには、自社の専門用語などを用いて記述された、難解な文書が多数存在する。汎用型のLLMでは読解が難しく、結果としてハルシネーション（人工知能が学習したデータからは正当化できないはずの回答を堂々とする現象）が多発してしまうケースがある^[3]。

2. セキュリティの懸念

　企業内の文書は、秘匿性が極めて高いケースがある。たとえば、日本の製造業が保有している社内文書には、国防に関わるような機密データが含まれる場合があるため、ChatGPTなどといったブラックボックス性の高いAPI型のLLMを使えないことがある。

3. コスト効率の課題

　信頼性という点に加えて、コスト効率性という観点からLLMを業務で用いていないケースもある。LLMのモデルサイズは大型化しており、ChatGPTのモデルサイズは1000億パラメータ以上あると推定される。

　1000億パラメータのLLMを運用する場合、購入すると数千万円はするH100 GPU 8基などの高火力計算サーバーを用意する必要がある。結果として、コストがメリットに見合わずに導入見送りとなるケースも存在する。

　これらの汎用型LLMの課題を解決する手段として、自社専用の特化型LLMを構築し対応するという方法がある。ただし、開発工数がいたずらに大きくなるケースも有り得るため、いくつかのステップに分けて自社専用LLMの構築を段階的に行うことが必要だ。