見出し画像

新規AIプロダクトで、事前に知るべきだった3つの壁 〜医療AIを1年間作って、従来の開発が通用しなかった話〜

こんにちは、ユビー(Ubie)でtoCプロダクトのプロダクトマネージャーをやっている敷地(@shikichee)です。
現在は生成AIを活用した新規プロダクトの立ち上げを行っています。

本記事では、私がこの1年間、医療AIプロダクト 医療AIパートナー ユビーの立ち上げで経験した「リアルな迷走と試行錯誤」について書きたいと思います。

AIプロダクトを作る中で直面した「3つの壁」と、そこから得られた「事前に知っておきたかったこと」を共有できればと思います。

医療AIパートナー ユビーとは

今回お話しする1年前から構想を始めたAIプロダクトは、24時間いつでも病気や健康の相談ができる医療AIパートナーです。
2025年2月ベータ版をリリースし、2025年9月に正式リリースしました。
Android, iOSのアプリがあるのでぜひ。

なぜ新規プロダクトで生成AIを導入したのか?

構想は2024年の年末頃のことです。
既存のtoCプロダクトである、質問に答えていくと受診の手がかりが分かる症状検索エンジン「ユビー」と病気の疑問や悩みに答える病気のQ&Aでは、月間1300万人の方に利用していただいてる状態でした。

一方で、症状を自覚したユーザーが受診を検討する、病気にかかった人が気になりを調べる、という特定の点の場面でしか価値を発揮できていませんでした
医療において、患者さんの置かれている状況は千差万別。
一人一人に合わせた継続的な線のサポートをしようと、様々なプロダクトを立ち上げては潰し、ルールベースだけの価値提供では限界を感じているところでした。

生成AIに投資するしかないという状況だったのです。

きっかけは「彼氏」のようなAIを作りたかった

きっかけは、あるユーザーインタビューでの言葉でした。

「体調が悪い時、私は彼氏に相談します。彼も過去に同じ病気を持っていたので、心配して話を聞いてくれ、病院に行くサポートをしてくれるんです」

この話を聞いた時、「これだ」と思いました。
この「彼氏(パートナー)」のような関係性をAIで再現したい。
そう考えてプロジェクトはスタートしました。
(プロダクト立ち上げの詳細はこちら)

しかし、そこから長い迷走が始まります。
当時の私は、AIプロダクトを作る難しさを本当の意味で理解していなかった
のです。

2025年、ぶつかった3つの壁

AIでパートナーを作ることは、想像以上に難しく、以下3つの壁にぶつかりました。

  1. 使い始めてもらえない

  2. 行動につながらない

  3. 品質が安定しない

それぞれの壁と、どう乗り越えていったのかを赤裸々に書きたいと思います。

壁1:使い始めてもらえない

最初のMVPは2ヶ月ほどで開発し、「今日はどんなことを話したい?」と聞く自由入力形式のチャットUIをリリースしました。

しかし結果は惨敗。
多くのユーザーが一言も入力せずに離脱してしまったのです。

学び:自由すぎるUIは不親切

「何でも聞いてください」というAIは、ユーザーからすると「何ができるか分からない」状態でした。
生成AIを使いこなしている人にとって、自由入力から始まる体験は当たり前の日常ですが、リテラシーが高い人はごく一部ということに気付かされました。

会話のきっかけすら掴めない日々が続きました。

開始対策:使い方の「想起」を促す

そこで、「何でも入力できるAI」から「使いどころが想起できるAI」へと方針を転換しました。
プロダクトのいたるところに、事前に具体ユースケースを分かりやすくしたり、操作の自由度を下げたりする工夫を行いました

具体的には以下のような事例があります。
まず、チャットの自由入力欄に何を入れたらいいか分からないため、オンボーディングで具体例を提示したり、会話を促進していくために会話中での選択肢を提示したりしました。

例えば、受診前に体調を振り返る受診メモ機能というのがあるのですが、「これまでの会話をまとめて」とユーザーに自発的に言わせるのではなく、こちらから「受診時のメモを作りましょうか?」と提案する。
具体的ユースケースの作成を丁寧に行なっていきました。

また、ローディング中に使い方のヒント提示するなど、使い方を想起する工夫を行なっていきました。

こうして利用シーンを具体的にイメージさせる工夫を随所に散りばめていくことで、ようやくユーザーに使われていきました。

今回の事例で、自分が知っておくべきポイント1つ目は、以下でした。
Before
何でも自由入力できるAI

After
使いどころの想起ができるAIへ

この時の自分は、
「よし、やっと使われ始めた。あとは、機能を足していけば価値は積み上がるはずだ。」と思っていました。

壁2:行動につながらない

次は「機能」を作っていこうということで、従来の開発手法でよくあるボリュームの大きなユーザーセグメントの課題を解く機能を考えることにしました。
「症状がある人には、病院に行きやすくなる機能が必要だ」という仮説のもと、病院検索や受診導線を提示する機能を実装しました。

医学的にもプロダクト的にも正しいはずの機能です。
しかし、ほとんど使われませんでした。

学び:ユーザーはまだ「解決」される準備ができていない

なぜ正しい課題解決が通用しなかったのか。
それは、ユーザーの心理状態を見誤っていたからです。

症状があるからといって、すぐに病院に行きたいわけではありません。
不安、迷い、怖さが残ったままの状態です。
このプロダクトを信じていいのかも分かっていません。

ユーザーはまだ解決される準備ができていませんでした。
ユーザーは「解決策」を提示される前に、まず自分の不安を「受け止めてほしい」と思っていたのです。
このAIは使えるのか??という不安がある中、機能を提示してもユーザーは使ってくれません。

行動対策:機能よりも「ふるまい」と「信頼」

そこで、「機能を作って出す」という考えから、「まず不安を受け止めて信頼を作る」という考えにシフトしました。

  1. キャラのガイドライン化:一貫した体験を作るためにガイドラインを整備していきました。

  2. 文脈を覚える記憶体験:過去の話を踏まえて寄り添う記憶体験

  3. 寄り添う通知:「心配だから声をかけさせてもらっていい?」といった声かけ

このような情緒的な価値をプロダクトに落とし込む上で、物理世界のベストプラクティスをチームで解像度上げ、重要なエッセンスをAIに魂として注ぎ込むのが1番早いと思っています。

例えば、愛着の持てるロボットの代表格LOVOTを借りて参考にしたりもしました。キャラクターの開発秘話はこちら

KPIの変更:「機能利用数」から「ありがとうの数」へ

信頼が重要だと気づいてから、KPIも見直しました。
単に機能が使われた回数ではなく、リテンションと相関の高かった「ありがとうの数」を指標にしました。

このありがとうの数は、信頼に寄与したであろう発話を総合的に評価するものです。具体的には、以下のような発話があった会話の割合をモニタリングしていきました。

感謝: 「ありがとう」「助かる」「嬉しい」など
理解・納得: 「分かりました」「なるほど」「参考になる」など
信頼・安心: 「安心」「信頼」「頼れる」など
自己開示表現: 個人的体験・症状を含む発話
継続利用意向: 「また相談」「継続」「次回も」など

ユーザーの信頼をKPIとして追っていくと、チームが迷わず進めるようになっていきました。

自分が知っておくべきポイント2つ目は、以下でした。
Before
機能を作って出す

After
まず受け止め信頼を作る

これらの活動により、ユーザーからの感謝の声は着実に増えていきました。
一方で、ユーザーに一度でも違和感を感じさせると離脱していくことが分かってきました。

壁3:品質が安定しない

信頼を獲得できても、それを維持するのは至難の業です。
AIプロダクトにおいて「たまに失敗する」は致命傷になります。

具体的には以下のような課題がありました。

  • 積み上げた信頼が、たった一度の不自然な返答で崩れる

  • モデルの更新やプロンプトの微修正で、人格や体験が壊れる

  • 壊れては直す「モグラ叩き」にチーム全体が疲弊する

モデルの変更で数週間かかることもあり、迷走する日々がつづきました。
チーム全体が迷走するのをひしひしと感じていました。

対策:人が頑張るのをやめ、仕組みで守る

限界を感じていたそんな時、LLMに詳しいエンジニアが参画し、一気に世界が変わりました。

品質評価の専門チームが発足し、「医学的正しさ」だけでなく「情緒的な寄り添い」も評価されるようになり、リリース前後での継続的な自動チェックがされるようになりました。
詳細な品質維持の記事はこちら

「人が頑張って直す」のではなく、「仕組みで品質を担保する」体制へと移行しました。
これにより、安心して継続的にAIプロダクトを磨きこめるようになっていきました。もっと早期に評価の体制を整えるべきでした。数ヶ月は早くなったと思います。

自分が知っておくべきポイント3つ目は、以下でした。
Before
出力を手動で評価・調整

After
出力評価の早期自動化

まとめ:AIプロダクト、こう作ればよかったと後悔したこと

この1年間、AIプロダクトを作る前から知っておきたかったこと、後悔していることをまとめると、以下のようになります。

以下の3点を、開発前から強く意識すべきでした。

  1. なんでも入力できるAIではなく、使いどころの想起ができるAIへ

  2. 機能を作って出すのではなく、まず気持ちを受け止め信頼を作る

  3. 出力を手動で評価・調整するのではなく、出力評価を早期自動化する

これらのことに最初から気づけていれば、数ヶ月早く現在の状態まで持っていけていたかなと思います。

結論:機能よりも「信頼」の設計

AIプロダクトにおいて最も重要なのは、機能そのものよりも
信頼される存在をどう設計し、維持するか」でした。

そして、AIプロダクトは、リリースしてからが本番です。

汎用生成AIとどう共存していくか

汎用生成AIのヘルスケア利用が盛り上がってきてますが、汎用生成AIが担えるのは相談までだと思っています。
医療の課題は深く、本当の課題解決のためにはもっと深い実世界の医療行動の支援が必要です。
わたしたちは、医療現場と一緒に支えていきたいと思っています。

点ではなく線で支えていける体験を
医療における不安は人生においてずっと続きます。
私たちはまだ、その不安に「点」でしか関われていません。
これを「線」で寄り添う体験にしていくこと。
それがこれからの挑戦です。
まだまだ未探索の領域ばかりです。
詳細はこちら

We are hiring!!
Ubieでは、一緒に適切な医療に案内する新しい体験を作る仲間を募集しています。プロダクトマネージャー、デザイナー、エンジニアを募集中です。

自分は、X(旧twitter)にいるので、気軽に声かけてください!!

※今回の内容は、AI時代のプロダクトマネジメント反省会というイベントの登壇資料に沿って文字起こししたものです。

スライド資料はこちら


いいなと思ったら応援しよう!

shikichee やる気が2000%上がって、記事の更新頻度が上がります。 twitterでも情報発信していきます!!https://twitter.com/shikichee