РАБОЧИЙ СЦЕНАРИЙ

API LLM для многоязычных чат-ботов

Туристический сервис поддерживает английский, японский, испанский и китайский. Система определяет язык и регион беседы, загружает местный глоссарий и правила и просит отвечать без перевода защищённых названий продуктов.

Многоязычный разговор поддержки с сохранением местных терминов
API LLM для многоязычных чат-ботов

Рабочий пример

API, основная модель и резервная конфигурация

Выбор для рабочей средыРекомендацияПочему
APIPOST /v1/chat/completionsСерверный запрос, совместимый с OpenAI
Основная модельgemini-2.5-flashGemini 2.5 Flash — первый выбор для многоязычного чата с требованиями к скорости ответа.
Запасная модельgpt-5.6-terraИспользуйте Terra только для языков, прошедших такую же проверку носителями. Ошибки в сложных правилах или смешанной речи передавайте Sol либо человеку.
Модель для сложных задачgpt-5.6-solИспользуйте только при выходе за возможности основной модели по качеству или сложности
Требования к выводуТекст или исправление под задачуОтвет соответствует языку и региону, сохраняет защищённые термины и не использует правила другого региона.
01
Сценарий

Рабочее приложение для многоязычных чат-ботов

Туристический сервис поддерживает английский, японский, испанский и китайский. Система определяет язык и регион беседы, загружает местный глоссарий и правила и просит отвечать без перевода защищённых названий продуктов.

Качество оценивается отдельно для каждого языка. Хорошего среднего балла недостаточно для запуска языка. Сначала носители должны одобрить передачу смысла, термины, тон и отказы для этого региона.

02
Архитектура

Как устроен процесс многоязычных чат-ботов

  • Определяйте язык и регион отдельно.
  • Загрузите местный глоссарий и утверждённые правила.
  • Создавайте ответ сразу на целевом языке.
  • Проверьте защищённые термины, числа и формулировки правил.
  • Передавайте человеку неподдерживаемые языки и ответы с низкой уверенностью.
03
Запрос API

Вызовите gemini-2.5-flash через LLMFly AI

Отправляйте запрос с сервера. Замените пример и схему-заглушку данными и инструментами приложения.

request.example
curl https://app.llmfly.ai/v1/chat/completions \
  -H "Authorization: Bearer $LLMFLY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemini-2.5-flash",
    "messages": [
      {"role": "system", "content": "Reply in the detected locale. Preserve GLOSSARY terms exactly. Use only the supplied locale policy and do not translate protected product names."},
      {"role": "user", "content": "Explain the cancellation window in the customer's language using the locale policy."}
    ]
  }'
04
Выбор модели

Почему основная модель — gemini-2.5-flash

Gemini 2.5 Flash — первый выбор для многоязычного чата с требованиями к скорости ответа.

Используйте Terra только для языков, прошедших такую же проверку носителями. Ошибки в сложных правилах или смешанной речи передавайте Sol либо человеку.

05
Приёмка

Проверки результата многоязычных чат-ботов

ПоказательУсловие успеха
Сохранение смыслаЗапрошенное действие и ограничения сохраняются на всех поддерживаемых языках
Точность терминовЗащищённые продуктовые, юридические и отраслевые термины соответствуют местному глоссарию
Одобрение носителями языкаНоситель одобряет смысл, тон и естественность без существенного переписывания
Задержка и стоимость по языкамКаждый запускаемый язык укладывается в свои сроки ответа и бюджет беседы
06
Обработка ошибок

Ошибки, которые нужно обработать до запуска

  • Судить обо всех языках по английскому
  • Машинно переводить весь набор тестов
  • Игнорировать местные правила
  • Скрывать слабые языки средним баллом
07
Выход

Вывод и журналы выполнения

Ответ соответствует языку и региону, сохраняет защищённые термины и не использует правила другого региона.

Для каждого рабочего запуска записывайте ID модели и запроса, токены, повторы, проверку и итоговое решение.

Частые вопросы

Можно ли использовать переведённые английские запросы?

Используйте примеры носителей: смысл, тон, термины и правила зависят от региона.

Должна ли одна модель обслуживать все языки?

Только после тестов каждого языка. Разные проверенные модели для разных языков могут быть надёжнее.

Как тестировать смешанную речь?

Используйте реальные сообщения со смешанными языками и проверяйте сохранение смысла и нужных терминов.

Проверьте настройки на своих данных

Сравните основную и запасную модели с одинаковыми запросами, инструментами и правилами проверки.

Сравнить модели