Сначала всё просто. Один аккаунт у DeepSeek, второй у Qwen, третий у GLM. Потом добавляется Kimi, потому что для длинных документов она удобнее. У каждого свой ключ, свой баланс, своя история платежей. Через месяц выясняется, что часть рабочего времени уходит не на продукт, а на выяснение, где кончились деньги и почему один сценарий отвечает ошибкой.
Шлюз к ИИ убирает эту возню: одно подключение, один ключ, один счёт. Ниже разберём, что именно он делает и в какой момент становится нужен.
Четыре аккаунта — четыре отдельные проблемы
Пока модель одна, вопрос не возникает. Как только их несколько, начинается бытовая механика.
- Балансы. У каждого провайдера свой счёт, свой способ пополнения, свой минимум. Деньги размазаны по четырём местам, и часть простаивает.
- Документы. Бухгалтерии нужен один счёт и одно закрывающее. Четыре мелких платежа в разные сервисы превращаются в отдельную задачу на неделю.
- Ключи. Четыре ключа лежат в четырёх конфигах и на трёх машинах. Ротация одного из них — это поиск по всем репозиториям.
- Учёт. Когда расход вырос, непонятно, какой сервис его сделал. Логи у всех разные, форматы разные.
По отдельности проблемы мелкие. Вместе они съедают время, которого в небольшой команде и так мало.
Что такое шлюз к ИИ
Шлюз — это промежуточный сервис между вашим кодом и моделями. Вы обращаетесь не к DeepSeek и не к Qwen напрямую, а к одной точке входа. Она принимает запрос в привычном формате, сама решает, к какому провайдеру его отправить, и возвращает ответ в том же виде.
Такая прослойка даёт три вещи.
- Один протокол. Запросы идут в формате OpenAI API, поэтому код, написанный под OpenAI, работает без переписывания.
- Один ключ. На вашей стороне один токен. Он же отвечает за лимиты, учёт и разделение окружений.
- Одна точка учёта. Расход видно в одном месте, с разбивкой по моделям и сценариям.
По сути шлюз убирает разницу между провайдерами там, где она не нужна продукту.
Что меняется в коде
Меньше всего изменений там, где их обычно боятся. Если приложение использовало OpenAI SDK, меняются две строки: адрес и ключ.
from openai import OpenAI
client = OpenAI(
base_url="https://gateway.example/v1",
api_key=os.environ["GATEWAY_KEY"],
)
resp = client.chat.completions.create(
model="deepseek-chat",
messages=[{"role": "user", "content": "..."}],
)
Смена модели — это замена значения в поле model. Проверка новой версии на части трафика — тот же вызов с другим model и разводка на вашей стороне. Не нужно заводить второй аккаунт, второй ключ и второй договор, чтобы просто попробовать.
Шлюз при этом не прячет различия полностью. У моделей бывают разные ограничения на размер контекста и разное поведение в редких режимах. Это всё равно проверяется тестами. Как устроен переход, разбирали в материале «OpenAI SDK и китайские модели».
Где на самом деле утекает бюджет
Наценка посредника редко бывает главной статьёй расходов. Дороже обходится то, что не видно.
- Сценарий в цикле, который никто не ограничил по числу итераций.
- Повторные прогоны тестов на боевом ключе.
- Ключ из черновика, который забыли отозвать.
- Модель, выбранная с запасом: там, где хватало дешёвой, стоит дорогая.
Шлюз помогает здесь не низкой ценой, а тем, что расход видно по каждому ключу и сценарию. Когда счёт приходит одной строкой без деталей, виновника ищут догадками. Как ставить потолки, разбирали в статье «Лимиты расходов на API».
Что ломается без шлюза на этапе роста
Первые месяцы всё держится на человеке, который помнит, где какой ключ. Потом появляется второй разработчик, затем подрядчик, затем клиент с вопросом, почему у него такая сумма в отчёте.
Последовательность обычно такая.
- Ключи расходятся по конфигам и перепискам.
- Один из них попадает в публичный репозиторий.
- Ротация превращается в аварию, потому что полный список мест неизвестен.
- Бухгалтерия просит сводный документ, а платежи разбросаны по четырём сервисам и двум валютам.
Ни один пункт по отдельности не выглядит катастрофой. Вместе они означают, что продукт зависит от памяти конкретного человека, а не от настроенной системы.
Когда шлюз не нужен
Без этого пункта разбор был бы рекламой. Прослойка лишняя, если модель у вас одна и меняться не будет, запросов мало и они идут вручную, а документы для бухгалтерии не требуются.
Другое дело, когда моделей несколько, доступ из России требует обходных путей, а на выходе нужны рубли и закрывающие. Тогда шлюз перестаёт быть удобством и становится способом работать вообще. Обзор вариантов доступа есть в материале «Китай-API и OpenRouter».
Что можно применить прямо сейчас
Проверка занимает полчаса и не требует ни договора, ни предоплаты.
- Выпишите, какие модели используются в продукте, а какие в тестах.
- Найдите все места, где лежат ключи. Скорее всего, их больше, чем вы думали.
- Посчитайте, сколько платежей в месяц уходит в каждый сервис и в какой валюте.
- Проверьте, есть ли лимит на ключ и кто получит уведомление, когда он сработает.
Если на третьем шаге список длиннее двух строк, вопрос о единой точке входа уже стоит денег.
Как это устроено в Китай-API
Мы делаем Китай-API — российский шлюз к китайским моделям DeepSeek, Qwen, GLM и Kimi. Один OpenAI-совместимый ключ на все модели, оплата в рублях, счета с НДС для юрлиц. Платформа готовится, запуск — скоро.
Заявку на ранний доступ можно оставить на главной странице или в Telegram-боте: напишем, когда откроем доступ первым. Про документы и счета есть разбор «Оплата API юрлицом», про экономию на токенах — «Как снизить стоимость ИИ в продукте».