AIが詐欺を見破る時代、ChatGPTが警告役に

北海道で60代の男性が、SNSで知り合った相手から「副業」名目で計15万円を送金させられた。その後も追加送金を求められ、不審に思った男性がChatGPTに状況を相談したところ、「詐欺の可能性があります」という警告を受けた——というケースが国内で報告されている。

AIは制作・集客・分析ツールとして語られることが多いが、この事例が示すのは別の使い方だ。「状況を貼り付けて判断を仰ぐ」という、いわば壁打ち・セカンドオピニオン的な活用が、詐欺リスクの早期検知に実際に機能した。要は「疑わしいと思ったことをAIに話すと、感情のない第三者視点で整理してくれる」という使い方が、一般の判断フローに入ってきている。

この事例が注目に値するのは、AI活用が「作る・調べる」だけでなく「判断する」フェーズに広がっている点だ。

SNS詐欺は、手口が巧妙で「ゆっくりと信頼を積み上げる」型が増えている。被害者が「おかしい」と気づいたとき、身近な人に相談しにくかったり、相談しても「大丈夫じゃない？」と流されたりするケースも多い。ChatGPTのような汎用AIは、そこに対して感情も忖度もなくパターン照合的に「これは典型的な詐欺の構造です」と返せる。

使う側として知っておくべきは、AIが「詐欺かどうかを証明する」のではなく、「立ち止まるきっかけを与える」という点だ。警告を出すだけでも、意思決定を一時停止させる効果がある。これは制作や分析の用途とは異なる、判断支援としての価値だ。

また、Claudeのキャラ設定、どこまで通じる？でも触れたように、AIの応答の性格はモデルやプロンプトによって変わる。詐欺リスク検知のような「慎重な判断が求められる場面」では、どのAIにどう聞くかが結果の質に影響する。この視点は、使い方を設計する上で押さえておきたい。

ツール単体の機能更新とは異なり、「AIをどんな用途に持ち込むか」という使い手側の発想の広がりという意味で、このケースは業界の動きの一端を示している。

Q. AIが「詐欺の可能性あり」と言っても、確証はないのでは？

その通りで、AIの判断は確定的なものではない。ただ、ここで期待する効果は「証明」ではなく「立ち止まらせること」だ。AIが「典型的な詐欺の手口に似ています」と返した時点で、送金前に一度考え直す余地が生まれる。その後の判断は本人がする。AIは「最初のブレーキ」として機能するという理解が現実的だ。

Q. 詐欺の情報をAIに入力して、個人情報が漏れたりしないか？

ChatGPT・ClaudeともにWebサービス利用時の入力内容はサービス側に送信される。氏名・住所・口座番号などの個人特定情報は入力しないことが基本だ。「受け取ったメッセージの文章」「状況の概要」に絞って貼り付けるなら、実用上のリスクは抑えられる。APIを使う場合はデータ利用規約の適用外にできるプランもあるが、その場合は別途確認を。

Q. ChatGPTとClaudeで、こういう用途に向き・不向きはある？

公式から詐欺検知専用の機能が提供されているわけではなく、どちらも汎用モデルとして機能する。現時点での公式発表を見ると、モデルの差よりもプロンプトの設計の差が出やすい用途だ。「リストアップしてください」「チェックポイントを出してください」という形式で指示を明確にすることが、どのモデルを使うかよりも先に効く。