AIと社会心理学の融合により適切な対応の習得を支援するカスタマーハラスメント体験AIツール

こんにちは。コンバージングテクノロジー研究所の吉岡です。私たちは、富士通のＡＩ技術と、行動科学や心理学などを融合した研究開発を行っています。今回、AIアバターとのやり取りを通して、カスタマーハラスメント（カスハラ）への応対スキル習得を支援するカスタマーハラスメント体験AIツールを発表しましたのでご紹介します。

カスハラ対策に向けた取り組み

近年カスハラは深刻な社会課題となっています。2023年9月には厚生労働省がカスハラによる精神障害を労災認定基準に追加、また2024年10月には東京都議会で全国初となるカスハラ防止条例が可決されるなど、国や自治体でカスハラ対策が強化されています。企業や組織においても、組織でも従業員を守る取り組みが求められています。

これに対して、富士通は社会心理学とデジタル技術を融合したカスタマーハラスメント体験ＡＩツールを開発しました。コールセンター従業員などツールの体験者は、仮想カスハラ客を再現したＡＩと苦情やカスハラを想定したシナリオの応対体験を行います。この間、カスハラ体験ＡＩツールは、体験者のバイタルを計測します。応対体験が終了すると、体験中の受け答えの内容や、体験中のバイタルの変化を観測し、カスハラにつながりにくくなる適切な応対方法について、ＡＩアバターからアドバイスや問いかけをインタラクティブに受けることができます。ＡＩアバターは、人によって異なるストレスの感じ方などを踏まえて、体験者個人に合わせた成長ポイントを特定し、体験者の行動変容を促します。

開発したカスハラ体験ＡＩツールの概要

カスハラ体験ＡＩツールの構成

ここで、具体的にカスハラ体験ＡＩツールがどのような構成になっているかを見てみます。カスハラ体験ＡＩツールは大きく２つのフェーズに分かれています。一つは、カスハラを含む応答を疑似体験する体験フェーズ、二つ目は、体験を振り返り自身の成長ポイントを明確化するフィードバックフェーズです。それぞれについて解説します。

体験フェーズでは、体験者は仮想カスハラ客とのやりとりをリアルタイムに行うことができます。ここでは、社会心理学の知見を活用し、カスハラに共通する会話のパターンを学習したＡＩによってカスハラの現場を再現します。攻撃の仕方から声のトーンまでリアルに再現したＡＩとやりとりを行うことができ、業種や業態におけるカスハラの疑似体験ができます（下図、左側）。また、体験中には、富士通が開発しているミリ波センサーを用いて、非接触にバイタルを計測しています（下図、右側）。カスハラ体験は心理的な負担が大きいため、疑似体験であっても細心の注意が必要です。そこで、計測したバイタルデータからストレス状態を把握し、過度なストレスをかけないように仮想カスハラ客とのやりとりのシナリオをコントロールすることで、体験者への負担を軽減した疑似体験を実現しています。

体験フェーズの様子。画面左側がやりとり（灰色吹き出しがＡＩ、青色吹き出しが体験者の発言）、画面右側が体験中のバイタルの計測結果。

フィードバックフェーズでは、体験フェーズで取得したやりとりの内容やバイタルを分析した結果を体験者にフィードバックしながら、専門家の知見をもとにしたＡＩアバターが応対スキルを向上させるためのアドバイスを行います。社会心理学によると、カスハラには様々な攻撃タイプがあり、それぞれ適切な応対が異なるといわれています。私たちはこうした知見に基づいた独自の分析方法を用いて、体験者にとって適切な対応が取れていたか、あるいは改善すべき点は何かを分析します。ＡＩアバターは分析結果から具体的にどのような応対が望ましいかを把握し、体験者に問いかけながらアドバイスを行います。体験者はＡＩアバターとのやりとりを通して新たな気づきを獲得し、実際の顧客応対に活かすことができるようになります。

フィードバックフェーズの様子。画面左側はＡＩアバターとのやりとり（灰色吹き出しがＡＩ、青色吹き出しが体験者の発言）、画面右側は上から体験したシナリオの概要、応対スコアや応対スキルの評価やバイタルから推定したストレス状態、ワンポイントアドバイス。

さいごに

この記事でご紹介したカスハラ体験ＡＩツールは、2024年12月12日に開催された富士通テクノロジー戦略説明会でも展示しました。この体験ＡＩツールは様々な応用が期待される技術であり、人々が安心して暮らすことのできる社会実現への貢献を目指します。

関連リンク

・Fujitsu Research Portal - 適切な対応の習得を支援するカスタマーハラスメント体験AIツール
・非接触ミリ波センサーでリアルタイムに複数人のバイタル情報を計測する技術を開発
・犯罪心理学と生成AIの融合によるカスタマーハラスメント体験AIツールを開発
・犯罪心理学×ＡＩでカスハラから従業員を守る！～東洋大学と富士通の革新的な取り組み事例～
・富士通、東洋大学、ココロバランス研究所、適切な対応の習得を支援するカスタマーハラスメント体験AIツールを活用した教育プログラムの実証実験を開始