Сценарий бота продуман, ответы отрепетированы, осталась техническая часть. И именно на ней работа часто встаёт: нужен ключ, нужен аккаунт с балансом, нужен адрес, по которому этот ключ принимают. У разработчика из России к списку добавляется вопрос оплаты и доступности сервиса.
Разберём весь путь до первого осмысленного ответа. Сначала то, что боту нужно кроме ключа, затем проверка связки одной командой, затем превращение запроса в логику бота. Примеры на Python, потому что на нём пишут большинство небольших ботов.
Ключ открывает дверь, но за дверью нужна комната
Новичок обычно думает, что ключ решает всё. На деле боту нужны три вещи сразу:
- адрес API — база, на которую приложение отправляет запросы. У OpenAI-совместимых сервисов это обычный URL, его подставляют в клиент вместо стандартного;
- ключ — строка авторизации, привязанная к вашему аккаунту и балансу;
- идентификатор модели — например deepseek-chat или qwen-plus. Один ключ обычно открывает несколько моделей, и бот должен явно сказать, какую просит.
Если хотя бы одного элемента нет, ответ придёт не тот, которого вы ждёте. Самая частая причина молчания бота — опечатка в названии модели, а не проблема с ключом. Сервер в таком случае отвечает ошибкой, но разработчик смотрит на ключ и ищет причину не там.
Ключ под бота, а не «на всякий случай»
Заведите для бота отдельный ключ. Не потому что так принято, а потому что иначе вы теряете управление. Когда ключ один на все задачи, отозвать его вместе с утечкой демо-стенда невозможно: вместе с ним встанет и прод, и рабочие эксперименты.
Практика простая. Имя ключа — по сервису, который его использует: bot-support, bot-avito, test-sandbox. Для теста отдельный ключ, для прода отдельный. Так в логах провайдера видно, кто именно потратил бюджет, и разговор «почему вырос расход» занимает минуту вместо дня.
Ключу стоит сразу выставить потолок расходов, если провайдер это позволяет. Бот — это цикл, который работает без вас ночью. Ошибка в промпте или зацикленный диалог съедят баланс быстрее, чем вы откроете почту. Про механику лимитов у нас есть отдельный разбор: лимиты расходов на API.
Проверка до первой строки кода
Начинать отладку бота с обработчиков — плохая идея. Сначала убедитесь, что связка ключ — адрес — модель рабочая. Это одна команда curl с заголовком авторизации и коротким телом запроса.
Что должно быть в ответе: код 200 и осмысленный текст в поле с содержимым. Если пришёл 401, ключ не принят. Если 404, скорее всего неверный адрес или имя модели. Если 429, вы упёрлись в лимит частоты. Три разных ответа, три разных действия — и ни одно из них не требует правки кода бота.
Проверку стоит сохранить как отдельный скрипт и запускать после любой смены ключа или модели. Это дешевле, чем искать причину в логах бота, где перемешаны сообщения пользователей и ответы сервера.
Первый запрос из Python
Дальше подключаем OpenAI-совместимый клиент. Здесь важны две вещи: адрес указывается при создании клиента, а ключ берётся из переменной окружения, а не из файла в репозитории.
from openai import OpenAI
client = OpenAI(base_url="https://АДРЕС_ШЛЮЗА/v1", api_key=os.environ["LLM_API_KEY"])
resp = client.chat.completions.create(model="deepseek-chat", messages=[{"role": "user", "content": "Привет"}], max_tokens=200)
print(resp.choices[0].message.content)
Если этот фрагмент отработал, у вас есть рабочая труба. Дальше бот — это обвязка вокруг него: приём сообщения, сборка истории, вызов модели, отправка ответа. Про сам клиент и его отличия от оригинального SDK мы писали в статье OpenAI SDK и китайские модели.
Ответ модели — ещё не бот
Самая недооценённая часть. Голый ответ модели на вопрос «сколько стоит доставка» будет уверенным и бесполезным. Ботом он становится, когда рядом появляется системная инструкция и правила поведения.
- Роль и рамки. Системное сообщение задаёт, кто говорит с клиентом, что можно обещать и о чём нужно молчать. Без него модель отвечает как энциклопедия.
- История с обрезкой. Храните последние сообщения, а не весь диалог за месяц. Каждый запрос отправляет историю заново, и старые сообщения оплачиваются снова и снова.
- Правило отказа. Пропишите, что делать при вопросах вне темы: перевести на человека или вернуть короткий шаблон. Иначе бот начнёт сочинять.
Модель под задачу выбирается не по обзорам, а по вашим диалогам. Для коротких ответов в поддержке хватает быстрой модели, для разбора заявок нужна та, что держит длинный контекст. Если сомневаетесь между двумя, посмотрите сравнение DeepSeek и Qwen и прогоните десяток своих реальных вопросов на обеих.
Где утекает бюджет на токенах
Токены — это куски текста, на которые модель режет вход и выход. Платите за оба. Поэтому расход растёт не от числа пользователей, а от длины того, что вы отправляете и получаете.
Три привычки, которые экономят заметно. Ограничьте длину ответа параметром max_tokens: бот, которому разрешили писать бесконечно, напишет поэму. Храните историю в усечённом виде. И не отправляйте в контекст весь каталог товаров, если можно передать три подходящих позиции.
Отдельно про цены. Тарифы и лимиты провайдеров меняются, поэтому сверяйтесь с документацией на день запуска. Наш прайс в статьях не публикуем: он появится вместе с запуском, до этого оплата физически выключена.
Три поломки, которые видно в логах
401. Ключ не принят. Проверьте, что скопировали его целиком, без пробела в конце, и что он от того аккаунта, на котором есть баланс.
429. Слишком много запросов. Бот получил больше, чем разрешено в минуту. Лечится очередью и паузой между попытками, а не новым ключом.
Таймаут. Запрос ушёл и не вернулся. Ставьте свой таймаут на вызов и запасной ответ пользователю. Молчащий бот в интерфейсе выглядит как сломанный сервис, даже если модель просто думает дольше обычного.
Чек-лист перед тем, как пускать людей
- отдельный ключ с понятным именем и потолком расходов;
- ключ в переменных окружения, не в коде и не в чате;
- проверочный скрипт, который подтверждает связку за секунды;
- системная инструкция с рамками и правилом отказа;
- обрезка истории и ограничение длины ответа;
- свой таймаут и запасная фраза на случай сбоя;
- журнал запросов, чтобы разбирать спорные диалоги.
Этого набора достаточно, чтобы бот отработал первую неделю без сюрпризов. Всё остальное — тюнинг промптов и разбор реальных диалогов, и делать его лучше на живых данных, а не в теории.
Мы собираем российский шлюз к китайским моделям: один ключ на DeepSeek, Qwen, GLM и Kimi, оплата в рублях, документы для бухгалтерии. Продукт в подготовке, поэтому единственное, что мы сейчас открываем — ранний доступ. Оставьте заявку, если хотите подключить бота к моделям без переезда в другую юрисдикцию и без валютных платежей.