本番用の用途例

業務フロー自動化用LLM API

支払い処理が請求書を読み、注文書と照合します。モデルが差異を分類し、承認待ちにするか例外対応のチケットを作ります。 処理の状態は会話履歴ではなく、アプリのデータベースに保存します。

再試行、確認地点、最終状態のある複数段階の自動処理
業務フロー自動化用LLM API

本番用の実装例

API・主モデル・代替の設定

本番向けの選択推奨理由
APIPOST /v1/chat/completionsOpenAI互換のサーバー側リクエスト
主モデルgpt-5.6-terra範囲の決まった判断はTerraが担当します。規約と例外の分類に必要な推論を維持します。
代替モデルgemini-2.5-flash検証に合格する限定的な分類にはGemini 2.5 Flashを使います。 新しい例外はモデルの権限を広げず、Solまたは担当者へ回します。
難しい作業の上位モデルgpt-5.6-sol主モデルが品質・複雑さの基準を満たせない場合だけ使う
出力仕様検証済みJSON決まった形式の分類、規約ID、説明、必要なら確認依頼の理由を返します。
01
利用場面

本番アプリでの業務フロー自動化

支払い処理が請求書を読み、注文書と照合します。モデルが差異を分類し、承認待ちにするか例外対応のチケットを作ります。 処理の状態は会話履歴ではなく、アプリのデータベースに保存します。

モデルは曖昧な分類だけを判断します。 解析、計算、重複検出、書き込み、再試行、期限は固定の処理で管理します。 外部への書き込みには必ず重複防止キーを付けます。

02
構成

業務フロー自動化の処理の流れ

  • 状態と変更しない入力の参照を保存する。
  • 固定のロジックで解析・照合する。
  • 曖昧な判断にだけモデルを呼ぶ。
  • 判断が規約と確信度の基準を満たすか確認する。
  • 重複せず次の状態を保存するか、確認待ちに回す。
03
APIリクエスト

LLMFly AIでgpt-5.6-terraを呼び出す

リクエストはサーバーから送ります。例の内容と仮のツールスキーマを、アプリのデータとツールに置き換えてください。

request.example
curl https://app.llmfly.ai/v1/chat/completions \
  -H "Authorization: Bearer $LLMFLY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-5.6-terra",
    "messages": [
      {"role": "system", "content": "Classify the invoice discrepancy using the supplied policy. Return MATCH, REVIEW, or REJECT with the exact policy rule. Do not perform any external action."},
      {"role": "user", "content": "Classify this invoice and purchase-order discrepancy."}
    ],
    "response_format": {"type": "json_object"}
  }'
04
モデル選び

主モデルにgpt-5.6-terraを選ぶ理由

範囲の決まった判断はTerraが担当します。規約と例外の分類に必要な推論を維持します。

検証に合格する限定的な分類にはGemini 2.5 Flashを使います。 新しい例外はモデルの権限を広げず、Solまたは担当者へ回します。

05
合格基準

業務フロー自動化の合格基準

測定項目合格条件
全工程の完了率必須の全工程を満たし、成功状態を記録する
重複書き込み率再実行してもメッセージ、チケット、支払い、更新が重複しない
手動対応の割合事前に決めた例外だけ、人の対応で処理を再開する
処理ごとの費用と時間成功した実行が、処理の時間と費用の予算内に収まる
06
失敗時の対処

本番前に対処する失敗

  • 会話履歴を状態の保存先にする
  • 重複する書き込みを再試行する
  • 不要な権限を付ける
  • 失敗で終了する経路がない
07
出力

出力と実行記録

決まった形式の分類、規約ID、説明、必要なら確認依頼の理由を返します。

本番の実行ごとにモデルID、リクエストID、トークン使用量、再試行、検証結果、最終的な扱いを記録してください。

よくある質問

処理の状態はどこに保存しますか?

アプリのデータベースや処理エンジンに保存し、モデルには必要な状態だけを渡します。

何を重複実行から守る必要がありますか?

再試行の可能性がある外部書き込みすべてです。メッセージ、チケット、支払い、更新を含みます。

再試行はいつ止めますか?

回数などに上限を設け、最終的な失敗は復旧情報とともに確認待ちへ回します。

自分の入力で構成を試す

同じリクエスト、ツール、検証ルールで主モデルと代替モデルを比較します。

モデルを比較する