Amazon Web Servicesジャパンは今年6月、年次イベント「AWS Summit Japan 2025」を開催した。同イベントでは毎回、さまざまな企業がAWSのサービスを活用した事例を紹介する。

トヨタ自動車は「トヨタ自動車が保有する膨大なデータを活用した業務ドメイン特化型のRAG SaaS」というテーマの下、講演を行った。同社の本部横断の重点プロジェクトに対してデジタル技術を活用し、業務改革をリードするカスタマーファースト統括部ではRAG（Retrieval-Augmented Generation）アプリケーションを展開している。

AIを有効活用するための策として、RAGは注目されているが、導入にはポイントがあると言われている。同社はどのようにしてRAGを導入し、効果を得ているのだろうか。同社の講演からそのヒントを明らかにしてみたい。

グローバル1.5億台を対象とするトヨタ自動車カスタマーサービスの課題

トヨタ自動車 カスタマーファースト統括部 オペレーションDX改善室 佐井友洋氏

同社は車両の開発から製造販売、アフターサービスまでの流れの中で「販売・品質管理」と「アフターサービス」の領域を中心に受け持つ部門としてカスタマーファースト統括部を設けている。同組織は顧客満足度向上を目指す「最も市場に近い本部」「最もお客様に近い本部」だ。所属部署間の連携を効率化・高品質化、本部全体を一つの組織として顧客に高付加価値サービスを提供する役割を担っているという。

そして、グローバルで1.5億台存在するトヨタ自動車の車両保有ユーザーすべてを対象に業務を行い、ユーザーからの声、車両開発や販売に関する知見など多岐にわたる情報を業務効率化向上につなげるのが、カスタマーファースト統括部のオペレーションDX改善室だ。同部署は本部横断の重点プロジェクトに対してデジタル技術を活用し、業務改革をリードする立場として、カスタマーファースト統括部内にRAGアプリケーションを展開している。

カスタマーファースト統括部 オペレーションDX改善室の佐井友洋氏はRAG導入前の課題について、次のように説明した。

「お客様からの問い合わせには販売店が基本的に対応しているが、メーカーの知見がなければ回答できないものもある。その場合、過去に問い合わせがあったかどうかを調査したうえで回答するが、膨大な情報が別々の場所とシステムで管理されているため、検索に課題があった」

分散する情報検索をRAGで一元化、調査工数を約34％削減

過去の問い合わせ事例、案件情報、車両仕様、部品情報などが分散して管理されており、検索仕様も異なる。主にキーワード検索を利用するための表記揺れなどに対応しきれない状態でもあった。そのため、調査は工数のかかる業務だったが、これを正確かつ迅速に回答する仕組みにするために導入されたのがRAGだ。

  • RAG導入で業務の負担を軽減

「文書情報を読み込ませた上で、ベクトル化した情報を検索し、内容をAIに渡して回答させる仕組みを構築することで、分散していた情報を集約し、一元的に検索できるようにした。全文検索だけでなく、ベクトル検索も組み合わせることで検索精度の向上にもつながると考えて導入した結果、昨年と比べて約34％の調査工数削減に寄与した」（佐井氏）

検索効率を向上させるだけでなく、回答提示時に根拠となる文書を明確化や精度向上のための工夫を行うことで、業務で活用可能なRAGを構築した。ユーザーからも「作業に時間を割けるようになったため、品質向上につながった」「調査にかける時間が短縮された」「他の業務にも導入したい」といった好意的な声が寄せられたという。

RAG導入が業務改善につながることが確信され、複数プロジェクトで利用できる仕組みとしてRAGのSaaS化、RAGのマルチテナント化の検討が開始された。

コストを抑えた社内展開に向けてRAGをマルチテナント化

トヨタ自動車 カスタマーファースト統括部 オペレーションDX改善室 時津弘太朗氏

トヨタ自動車におけるRAG構築の第一歩として、AWSの生成AIアプリケーションビルダーが活用されている。AWS CloudFormationテンプレートをベースに構築することで、不慣れな状態でも簡単にアプリを構築できたという。

「テンプレートをダウンロードし、管理アプリを構築した後は数クリックするだけでRAG環境が新規作成できたり、パラメータが変更できたりするメリットがある。ユーザーもクリックするだけでRAGが試せる状況を作れる。私自身、AWS CloudFormationには不慣れだったが1時間程度でアプリを構築でき、市から作るより圧倒的に効率的だった」と語ったのはトヨタ自動車 カスタマーファースト統括部 オペレーションDX改善室の時津弘太朗氏だ。

社内で展開するにあたって、プロジェクトごとにRAG環境を複製する方法も考えられたが、プロジェクト数に比例して運用コストが増大することになる。従業員数が多く、今後の大規模なスケールが見込まれるため、最小限のコストで運用できる設計は不可欠だった。そのため、可能な限り1つの環境で複数プロジェクトを処理できるようマルチテナント化が進められた。

プロジェクトごとにユーザー認証とそれに応じたデータアクセスを可能にすることがマルチテナント化のポイントだった。そこで採用されたのが、Amazon Bedrockのメタデータフィルタリング機能だ。

Amazon Cognitoにユーザーグループを作成することで、各グループがRAGを利用できるようにしている。Amazon S3の1つのバケットにプロジェクトごとのディレクトリを作成し、データを保存。ユーザーがプロンプトを実行すると、AWS LambdaがCognitoからユーザーグループ情報を取得する。Amazon OpenSearch Serviceに検索をかける際は、そこにメタデータとして格納されているAmazon S3のディレクトリ名のうち、AWS Lambdaが取得したユーザーグループ情報と一致するディレクトリのデータのみをフィルタリングして検索する。

「これによってユーザーグループに応じたデータアクセスをセキュアな状態で可能にしている。既に20以上のプロジェクトで利用されているがRAG環境は1つであるため、実質コストは1/2に抑えられている」と、時津氏はマルチテナント化の効果を語った。

  • 単一環境で複数プロジェクトを処理可能に。ユーザーグループに応じたデータアクセスの実現

ハルシネーション対策に効くUIカスタマイズ

UIのカスタマイズも社内へRAGを展開する時のポイントだという。「これまでの経験からハルシネーションを完全に抑制することは困難だと考えている。経験の浅いユーザーが生成AIの回答を鵜呑みにせず、根拠となるデータソースを確認し、判断する習慣づくりが必要。テンプレートで構築した環境だと回答の後にデータソースを見に行く形式だった。AI回答への依存度が高く、ハルシネーションを鵜呑みにするリスクがあった。そこでUIの順序から見直し、Reactベースで作り直した」と時津氏。

回答時はデータソースを先に表示し、回答を後にするよう調整。回答がデータソースを要約したものや補足であると感じられるように工夫した。これによってユーザーはデータソースを見に行く習慣作りが可能になり、ハルシネーションが起きても重大な影響になりにくい。ビジネスでの活用に適した形だとしている。

  • ハルシネーション対策のためのUIカスタマイズ

安全と手軽さを両立させる運用プロセスの効率化と改善・啓蒙活動

さらに運用プロセスの効率化も行っている。導入当初は検索したいデータは運用担当者がAmazon S3にアップロードする形式をとっていた。しかしユーザー増加と比例して運用工数が増大し、ユーザーを待たせるリードタイムも伸びることが課題と考え、ユーザー自身がブラウザから直接操作できるように変更された。

具体的には、AWSが提供するUIコンポーネントであるStorage Browser for Amazon S3を既存アプリに組み込むことで、ユーザーがブラウザ上から直接S3のファイル操作できるようにした。

「RAGを導入して試行錯誤する中で、変更の要望が多かった部分を調整した。Storage Browser for Amazon S3を使うことでユーザーはわれわれに依頼する必要がなくなり、データを簡単に出し入れ可能になった。ここでもユーザーグループに応じてアクセス可能なフォルダを制限し、他プロジェクトのフォルダなどはアクセスできないようにしている」と、時津氏はセキュリティを考慮しつつユーザー要望に添う改善を実施したことを語った。

最後のポイントとして挙げられたのは、ユーザーに寄り添った改善活動だ。「ユーザーと議論しながらUIなどのシステム改善を行いつつ、啓蒙活動にも力を入れている」と時津氏。

システムに長けた人材ばかりではない中、誰でも気軽に使えるよう、ユーザー向けにプロンプト改善やドキュメント改善のトレーニングを実施。社内サイトでRAGを業務活用するためのTipsなど情報発信も行っているという。プロンプトにどのような情報を入れたらいいか、どのようなドキュメントがRAGにヒットしやすいかなど、トライアルで得たナレッジが共有されているようだ。

  • ユーザーに寄り添った改善・啓蒙活動

自社に合わせたカスタマイズで効果的に活用

トヨタ自動車ではCloudFormationテンプレート、UIコンポーネントといった既存のAWSサービスをうまく組み合わせることでRAG SaaSを実現している。メタデータフィルタリングとStorage Browser for Amazon S3の活用でセキュリティを保ちながらも気軽にRAGを活用できる環境が構築され、コストも最小限に抑えられている。

「AWSの環境は、トヨタ自動車のCCoE（Cloud Center of Excellence）が提供するTORO（TOyota Reliable Observatory/Orchestration）プラットフォームを利用。通常だと1からアカウントを作成し、セキュリティ対策を行うだけでも非常だが、TOROプラットフォームを利用することで構築工数も大幅に削減できた」と時津氏。

今後もRAG SaaSに最新技術を組み込みながら、業務改善に貢献していきたいとした上で、時津氏は今回の取り組みで学んだことを次のように語った。

「AWSソリューションを組み合わせたため構築工数を大きく削減できた。そのため最新技術のキャッチアップを継続していくことは重要だと感じている。一方でソリューションをそのまま利用するのではなく、自分たちに合ったカスタマイズも必要だと感じている。AWSソリューションはカスタマイズしやすい作りになっているので、今後も積極的に活用していきたい」