AIヘルスアプリの「使えない」問題を大規模調査

59本のAI健康チャットボットアプリに寄せられた1万5千件超のユーザーレビューを分析した大規模研究が公開された。論文が特定した「崩壊パターン」は3つに集約される。

1. アクセス障害とサービスの不安定さ：ログインできない、アプリが落ちる、回答が返ってこない。使おうとした瞬間に詰まる体験は、そのまま「このAIは使えない」という評価に直結する。

2. 操作性と会話品質の問題：質問を正しく解釈しない、回答が的外れ、会話の文脈が引き継がれない。「聞いてもムダ」と思わせた瞬間、ユーザーは離脱する。

3. 課金とサポートのトラブル：解約できない、問い合わせに返答がない、料金体系が不透明。健康という繊細な領域で信頼を失うと、取り返しがつかない。

なかでも研究が強調しているのは、プライバシー・セキュリティへの不安が最も深刻なネガティブ体験と結びついていたという点だ。「自分の健康データを扱うAIが信頼できない」という感覚は、他の不満とは質が異なる。単なる使い勝手の悪さではなく、サービスへの根本的な不信につながる。

この研究の核心は、AIヘルスチャットボットを「便利なアプリ」ではなく**「情報インフラ」として捉えた**ところにある。

インフラとは、存在して当たり前、壊れたときだけ気づかれるものだ。電気・水道と同じように、「つながって当然」「信頼して当然」という前提で使われる。ところがAIサービスの多くは、まだそこに達していない。アクセスできなければインフラとして機能しない。信頼できなければインフラとして機能しない。使いにくければインフラとして機能しない。この3つが揃って初めて、ユーザーは「使い続けるもの」として組み込む。

この視点は、ヘルス領域に限らない。自分でAIを使ったチャットボットや案内ツールを作ろうとしている人、あるいはAPIをつないで何かのサービスを組み上げようとしている人にとって、この「3つの崩壊パターン」はそのままチェックリストとして機能する。

AIエージェント同士の「信頼」は今まだ幻想だったでも触れたように、AIシステムへの信頼設計は今まさに議論が活発な領域だ。エージェント間の信頼も、ユーザーとAIの信頼も、設計によって大きく変わる。

研究が特に強調している点として、プライバシー・セキュリティに関する不満が他のネガティブ体験と質的に異なる、ということを押さえておきたい。

操作性が悪い、回答がズレている、といった問題はアップデートで改善できる。しかしプライバシーへの不信は、一度芽生えると使い続ける動機そのものを削ぐ。健康情報という極めて個人的なデータを扱うサービスにおいて、「このアプリに入力して大丈夫か」という疑念は、機能の良し悪しより先に来る。

これは健康領域に限らず、パーソナライズのためにユーザー情報を扱うAIサービス全般に言えることだ。「データをどう扱うか」を後付けで説明しようとしても、ユーザーはすでに離れている。設計の初期段階でプライバシーの説明設計を組み込んでおくことが、信頼の基礎になる。

自分でAIサービスを組む場合、「このデータはどこに送られ、どう保存されるか」をユーザーが確認できる場所を作ることが最低限の出発点になる。