カスタマーサポート用LLM API

本番アプリでのカスタマーサポート

SaaSの利用者が、請求が二重になった理由を尋ねます。 サポートサービスが最新の請求規約と、個人情報を除いた請求状況を取得します。その情報に基づく回答か、担当者への引き継ぎ情報をモデルに求めます。

モデルは返金を実行せず、アカウントの状況を推測で作りません。 本人確認ができない、資料が矛盾する、請求ツールが失敗する場合は、要約と資料IDを添えて担当者に引き継ぎます。

カスタマーサポートの処理の流れ

• 問い合わせを分類し、本人確認の要否を確認する。
• 承認済みの規約と、個人情報を除いたアカウント情報を取得する。
• 社内資料ID付きの回答か、引き継ぎ情報を作る。
• 回答の各内容に根拠があるか確認する。
• アカウントに影響する操作の前に担当者へ回す。

LLMFly AIでgemini-2.5-flashを呼び出す

リクエストはサーバーから送ります。例の内容と仮のツールスキーマを、アプリのデータとツールに置き換えてください。

curl https://app.llmfly.ai/v1/chat/completions \
  -H "Authorization: Bearer $LLMFLY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemini-2.5-flash",
    "messages": [
      {"role": "system", "content": "Answer only from SOURCES and ACCOUNT_FACTS. If evidence is missing, identity is unverified, or an action requires permission, return ESCALATE with a concise reason."},
      {"role": "user", "content": "The customer says this invoice was charged twice. Explain the status or escalate."}
    ],
    "response_format": {"type": "json_object"}
  }'

主モデルにgemini-2.5-flashを選ぶ理由

Gemini 2.5 Flashは、回答範囲と引き継ぎ条件が明確な大量の問い合わせの初期候補です。自分の問い合わせで言葉の品質と規約の遵守を確認してください。

Flashが回答仕様を守れない場合は、検証済みのTerraに切り替えます。 複雑な規約の矛盾や複数ツールを使うアカウント対応は、Solまたは担当者に回します。

カスタマーサポートの合格基準

本番前に対処する失敗

• 引き継がないことだけを優先する
• ボットに規約を作らせる
• 不要な個人情報を送る
• 1回の応答だけで評価する

出力と実行記録

根拠と社内資料IDのある回答、または形式を揃えた引き継ぎ理由を返します。

本番の実行ごとにモデルID、リクエストID、トークン使用量、再試行、検証結果、最終的な扱いを記録してください。