社外公開する生成AIチャットボットのリスク管理ガイド2026｜誤回答が「会社の回答」になる前に決めること

社外公開のチャットボットは、社内利用とは別の問題です

生成AIの社内活用が一巡すると、次に検討されるのが「お客様向けの問い合わせ窓口に置く」という使い方です。24時間受け付けられ、担当者の負担も減る。導入の動機としては自然な流れといえます。

ただし、社外に公開した時点で前提が変わります。社内利用なら、AIの答えが多少ずれていても、受け取った社員が気づいて直せます。しかし社外公開のチャットボットが返した答えは、その場でお客様に届く「会社の回答」として受け取られます。間に確認する人がいないという一点が、社内利用との決定的な違いです。

だからこそ、精度を上げる工夫よりも先に決めておくべきことがあります。どこまで答えさせるか、答えられないときにどうするか、間違えたときに誰が何をするか。この三つを公開前に決めておけば、多少の誤りは運用の中で吸収できます。

手順1：答えてよい範囲を先に決める

最初に決めるのは、機能ではなく範囲です。「何でも答えられるボット」を目指すと、答えてはいけないことまで答えてしまいます。先に線を引き、その内側だけを担当させるのが安全です。

線引きの目安は、間違えたときの影響の大きさです。営業時間や手続きの流れといった、公開情報をなぞる案内は影響が小さく、任せやすい領域です。一方で、料金の個別見積もり、契約内容の解釈、返金や解約の可否、健康や法務にかかわる判断は、誤りがそのまま不利益や紛争につながります。こうした領域は、最初から対象外にしてください。

「答えない」と決めた領域は、明示的に止める

範囲を決めるだけでは足りません。対象外の質問が来たときに、AIが推測で答えてしまえば意味がないからです。対象外の話題は回答を生成させず、後述する人への引き継ぎに切り替える。設計上の線引きを、動作としても止めるところまでが手順1です。

手順2：答えられないときの逃げ道を用意する

チャットボットで最も評判を落とすのは、誤回答そのものより「同じ答えを繰り返して先に進めない」状態です。お客様は困って問い合わせています。そこで行き止まりに突き当たれば、不満は製品ではなく会社に向かいます。

ですから、人につながる出口を必ず用意してください。対象外の質問が来たとき、同じ趣旨のやり取りが続いたとき、お客様が明らかに困っているとき。この三つは、人へ引き継ぐ合図と考えて差し支えありません。

引き継ぎ先は、有人チャットに限りません。問い合わせフォームやメール窓口の案内でも、次の一手が示されていれば行き止まりにはなりません。営業時間外にどう案内するかも、あわせて決めておくと安心です。

手順3：AIが答えていることを、利用者に伝える

相手が人だと思って話していた場合、後から自動応答だと分かったときの落胆は大きくなります。最初にAIによる自動応答であることを伝えておくほうが、結果として信頼を損ないません。

あわせて、内容の正確性には限界があること、正式な回答は担当窓口で確認できることを、短く添えておきます。長い注意書きは読まれません。会話の入口に一文あれば十分に機能します。

手順4：誤回答が起きた後の手順を決めておく

どれだけ範囲を絞っても、誤った案内はいつか起きます。前提を「起きない」ではなく「起きたときに早く気づき、早く直す」に置いてください。

決めておきたいのは三点です。ひとつめは、誤りに気づいた人がどこに報告するか。お客様からの指摘だけでなく、社員が気づいた場合の窓口も決めておきます。ふたつめは、影響が大きいと判断したとき、誰の判断で回答を止められるか。止める権限を持つ人が不在では、対応が夜まで動きません。みっつめは、同じ誤りを繰り返さないための直し方です。

会話の記録は、直すための材料になります

やり取りの記録が残っていなければ、何をどう間違えたのかを後から確認できません。何を記録し、どこに保存し、誰が見られるかは、公開前に決めておく必要があります。お客様との会話には個人に関わる情報が含まれ得ますから、閲覧できる担当を絞ることもあわせて設計してください。

手順5：公開前に「困った質問」で試す

公開前の確認で、うまく答えられる質問ばかり試しても意味がありません。確かめるべきは、想定外の質問にどう振る舞うかです。

試しておきたいのは、対象外だと決めた領域の質問、事実と違う前提を含んだ質問、感情的な言い回しの苦情、そして何度聞いても解決しないやり取りです。ここで推測で答えず、人への引き継ぎに切り替わるかを確認します。切り替わらないなら、公開はまだ早いということです。

この確認は、担当者ひとりで行わないほうが賢明です。実際に問い合わせを受けている窓口の担当者に、日ごろ来る質問をそのまま投げてもらう。現場の質問が、最も実戦に近い試験になります。

つまずきやすい三つの落とし穴

ひとつめは、回答範囲を決めずに公開することです。何でも答えられる状態は便利に見えますが、答えてはいけない領域まで開いています。先に線を引いてください。

ふたつめは、人につながる出口がないことです。行き止まりは、誤回答よりも強い不満を生みます。次の一手を必ず示してください。

みっつめは、公開後に誰も会話を見ていないことです。運用を始めた直後こそ、想定と現実のずれが最も多く出ます。しばらくは定期的に記録を確認し、案内の内容を直す時間を確保してください。

まとめ：完璧な回答より、崩れない運用を

社外公開のチャットボットで目指すべきは、あらゆる質問に正しく答えることではありません。答える範囲を絞り、答えられないときは人につなぎ、誤ったときに早く直せること。この三つがそろっていれば、多少の不完全さは運用で吸収できます。

取りかかりとして、まずは直近の問い合わせをいくつか見返し、そのうちどれをボットに任せてよいかを分けてみてください。任せてよいものと、人が答えるべきものが見えた時点で、設計の骨格はほぼ決まります。範囲を絞って小さく始め、記録を見ながら広げていくほうが、結果的に早く安定します。

なお、どのような会話ログが取得でき、外部サービスとどこまで連携できるかは、利用するツールの仕様や契約プランによって異なります。運用設計の前提になる部分ですので、最新の扱いは必ず提供元の公式情報でご確認ください。