WRITING
建設会社が顧客向けAIエージェントを作るとき——設計の落とし穴と正しい始め方
「お客様が工事の進捗を確認できるAIチャットボットを作りたい」「発注者からの質問にAIが自動回答する仕組みが欲しい」——建設会社からこういった要望が出始めています。社内のAI活用が進んだ次のステップとして、顧客向けAIへの展開を検討する会社が増えているのはご存知の方も多いと思います。しかし内部向けAIと顧客向けAIでは、設計の前提が根本的に異なります。「社内でうまくいったから」という理由で顧客向けに展開すると、予期しないリスクが発生することがあります。
内部向けAIと顧客向けAIは別物——5つの違い
社内ツールとして作ったAIと、顧客に向けて公開するAIでは、求められる設計水準が大きく変わります。
内部向けAI(社内利用)
- –利用者:業界知識を持つ社員。誤回答を自分で判断できる
- –誤回答の影響:業務が遅れる・修正が必要。しかし社内での解決が可能
- –情報管理:社内情報を使ってよい(社内規定の範囲内で)
- –信頼水準:「参考として使う」程度の信頼で設計してよい
顧客向けAI(外部公開)
格段に高い設計水準が必要
- –利用者:業界知識を持たない施主・一般発注者。誤回答を判断できない
- –誤回答の影響:顧客の意思決定に影響。法的責任・信頼失墜に繋がる可能性がある
- –情報管理:顧客の個人情報・工事情報の漏洩リスクを徹底的に排除する必要がある
- –信頼水準:「AIが言った」が「会社が言った」と同等の重みを持つ
実態 内部AIを顧客向けに転用しようとしたとき、最も問題になるのが「情報管理」です。社内の工事情報・原価・取引先情報が誤って顧客向けの回答に混入するリスクがあります。転用は「情報の壁」を厳密に設計し直すことから始まります。
顧客向けAIに多い4つの失敗パターン——事前に防げる問題
顧客向けAIのプロジェクトが途中で頓挫したり、リリース後にトラブルになるケースには共通のパターンがあります。思い当たる節がある方も多いのではないでしょうか。
「とりあえず動くものを作る」から始める
技術的に動作するAIチャットボットを短期間で作れるが、「誰に何を回答するか」の設計なしに作ると、想定外の質問に対してAIが回答できなかったり、不適切な回答をするリスクが高まる。設計先行・実装後行が正しい順序だ
免責事項を付ければ問題ないと思う
「AIの回答は参考情報です」という免責事項を付けても、顧客が誤回答を信じて行動した場合のリスクを完全に回避できるわけではない。特に工期・費用・安全に関わる情報は、AIが回答すべきでない項目として最初から設計で除外する
全ての質問に回答しようとする
「できるだけ多くの質問に答えられるAI」を目指すと、設計が複雑になり品質管理が難しくなる。最初は「回答できる質問の範囲を絞る」設計の方が品質が高く、顧客満足度も上がることが多い
担当者への引き継ぎを設計しない
AIが回答できない・難しい質問を担当者に渡すルートが設計されていないと、顧客が問い合わせる先を失う。「AIで答えられない→担当者に繋ぐ」というエスカレーションフローが必須だ
顧客向けAIの設計手順——「何を回答しないか」から決める
顧客向けAIの設計は「何を回答するか」ではなく「何を回答しないか」から始めましょう。この優先順位が設計全体の品質を左右します。
目安 顧客向けAIのパイロットテストは「意地悪な質問100件」を用意して試すことが標準的な品質確認方法です。社内の人間では思いつかない顧客視点の質問を、テスト段階で洗い出しておきましょう。
顧客向けAI開発のロードマップ
- 「何を回答しないか」リストの確定
- 回答する質問カテゴリ20〜30の確定
- エスカレーションフローの設計
- 情報の壁の設計と法務・コンプライアンス確認
- AIエージェントの構築(回答範囲を限定した設計)
- 社内メンバーによる動作テスト
- 「意地悪な質問100件」での品質確認
- 不適切回答・情報漏洩リスクの修正
- 協力顧客(5〜10社)への限定公開
- 実際の顧客質問の収集と分析
- 回答できなかった質問のカテゴリ追加
- エスカレーション件数・顧客満足度の計測
注意 「月1でリリース」という開発速度は顧客向けAIには危険です。Month 1〜2の「設計と方針確定」の期間を短縮すると、後から設計の根本を変えることになり、結果的に時間がかかります。設計に2か月使うことを惜しまないようにしましょう。