Нейросети
Сколько стоит нейросеть внутри сервиса
Как считать расходы на API до запуска и где их можно сократить в разы.
Коротко
Расходы на нейросеть по API считаются в токенах — кусочках текста, за которые модель берёт плату отдельно на входе и на выходе. Месячный счёт — это число запросов, умноженное на средний объём входа и выхода и на цену модели. Сильнее всего его снижают выбор облегчённой модели для типовых задач, короткий контекст, кэширование и лимиты на пользователя.
За что платят, когда подключают нейросеть
Модели вроде GPT, Claude и Gemini по API тарифицируются не подпиской, а за объём текста. Текст делится на токены — короткие фрагменты слов. Платите вы за токены, которые отправили модели (вход), и за токены, которые она написала в ответ (выход). Выход обычно стоит в несколько раз дороже входа.
На русском языке токенов на то же количество слов уходит заметно больше, чем на английском, — это стоит учитывать в расчётах.
Формула расчёта
Месячные расходы = число запросов в месяц × (средний вход × цена входа + средний выход × цена выхода).
Вход — это не только вопрос пользователя. Сюда же попадают инструкция для модели (системный промпт), история диалога и фрагменты документов, если ассистент ищет ответ в базе знаний. Именно они чаще всего раздувают счёт.
Пример на условных ценах
Цены моделей меняются часто, поэтому возьмём условные: 300 ₽ за миллион входных токенов и 1 200 ₽ за миллион выходных. Ассистент на сайте отвечает на 3 000 вопросов в месяц.
| Вариант | Вход на запрос | Выход на запрос | В месяц |
|---|---|---|---|
| Короткий контекст | 2 000 токенов | 300 токенов | ≈ 2 900 ₽ |
| Вся история диалога и 5 документов | 12 000 токенов | 300 токенов | ≈ 11 900 ₽ |
| Та же задача на облегчённой модели | 2 000 токенов | 300 токенов | в разы меньше |
Одна и та же задача может стоить в четыре раза дороже только из-за того, что в каждый запрос отправляется лишний контекст.
Пять способов снизить расходы
- Выбирайте модель под задачу. Флагманская нужна для сложных рассуждений, а сортировку заявок и типовые ответы облегчённая модель делает в разы дешевле.
- Сжимайте историю. Вместо всей переписки отправляйте короткую выжимку предыдущих сообщений.
- Ищите в базе знаний точно. Два релевантных фрагмента документа лучше десяти «на всякий случай».
- Кэшируйте. Одинаковые вопросы не нужно отправлять в модель заново, а у многих поставщиков повторяющаяся часть промпта стоит дешевле.
- Ставьте лимиты. Ограничение запросов на пользователя защищает от случайных всплесков и злоупотреблений.
Что ещё заложить в бюджет
- Сервер, на котором работает интеграция, и хранение логов.
- Разработку: промпты, поиск по базе знаний, обработку ошибок и лимитов.
- Резервного поставщика на случай недоступности основной модели.
- Время на проверку качества ответов в первые недели.
Для большинства задач малого бизнеса расходы на сами запросы оказываются небольшими — от сотен до нескольких тысяч рублей в месяц. Главная статья затрат — разработка и настройка, поэтому расчёт лучше делать до запуска, на ваших реальных данных.
Вопросы и ответы
Что такое токен?
Фрагмент текста, которым оперирует модель: часть слова, слово или знак препинания. По токенам считается и объём запроса, и стоимость.
Почему ответ модели стоит дороже вопроса?
Генерация текста требует больше вычислений, чем его чтение, поэтому поставщики берут за выходные токены больше, чем за входные.
Можно ли заранее узнать точную стоимость?
Да, с хорошей точностью. Достаточно прогнать на модели 50–100 типичных запросов и умножить средний расход на ожидаемый объём.