Тарификация моделей¶

Главные тезисы¶

1. 1 RC (Request Credit) ≈ 1 средний API-запрос к модели, калькуляция по фактическим токенам.
2. Тарифы дают разные модели и пакеты кредитов; переход только вверх, RC можно покупать на любом тарифе.
3. Списываются сначала тарифные RC, затем дополнительные; тарифные сгорают при месячном сбросе, дополнительные бессрочны.
4. Внешние модели тарифицируются по коэффициентам: чем выше коэффициент, тем дороже каждый запрос.
5. Расход RC зависит от выбранной модели, размера контекста и файлов, кэша токенов, переключения модели, уровня рассуждений и субагентов.
6. Сторонние модели — недоступны для SaaS, подключаются по своему API-ключу и не тарифицируются Koda.

Ниже — обо всём подробнее.

Что такое RC?¶

RC (Request Credit) — единица тарификации моделей. Она соответствует стоимости среднестатистического API-запроса к модели в своей категории: Pro, Base или внешние модели. Например, для Koda Pro 1 RC равен одному среднему запросу к модели.

При решении одной задачи агент обычно выполняет 10–15 API-запросов к модели: передаёт накопленный контекст и получает очередной ответ.

Стоимость каждого обращения рассчитывается по фактически использованным токенам. Короткий запрос с небольшим контекстом и ответом может стоить, например, 0,1 RC, а запрос с большим контекстом — больше 1 RC.

Раньше тарификация зависела от количества обращений к модели. Теперь она точнее учитывает фактический объём использованного контекста и генерации. В среднем лимита хватит примерно на то же число запросов, но вы можете управлять расходом: снижать усилия рассуждения, начинать новую сессию или суммировать историю, чтобы уменьшить контекст.

Подписки (тарифы) и дополнительные кредиты¶

Разные подписки покрывают разные модели и предоставляют пакеты с разным количеством кредитов.

Модели по тарифу доступны с момента оплаты и сбрасываются в исходное состояние, согласно тарифа, по прошествии месяца с момента регистрации или оплаты.

Сразу после установки нашего ПО вам как анонимному пользователю доступно небольшое количество бесплатных кредитов. Они пригодятся, если вы хотите проверить Koda в деле и принять решение о регистрации.

Сразу после регистрации вам будет установлен минимальный бесплатный тариф. Он тоже полностью бесплатен и позволит закрывать пласт задач, которые не требуют длительных агентных сессий. Например, уточняющие вопросы по проекту и точечные исправления.

При грамотной работе с контекстом, такого тарифа может хватить надолго. Но если вам требуются альтернативные модели или больше количество кредитов, то у вас есть выбор:

• расширить текущие лимиты покупкой дополнительных кредитов;
• перейти на повышенный тариф.

Переход между тарифами осуществляется только вверх — от дешёвых к дорогим. Обратный переход с дорогих тарифов на дешёвые в данный момент не предусмотрен.

Поэтому в разных случаях может быть выгоден тот или иной вариант. Например, далеко не всегда может требоваться длительная агентность по большому проекту, так что расширение лимитов окажется гибче: вы платите только если вам это требуется.

А когда вы постоянно и активно работаете в Koda над большими проектами, вам проще перейти на тариф дороже, чем постоянно тратиться на дополнительные кредиты.

Списание кредитов¶

Списываются всегда сначала тарифные RC. Если есть дополнительные RC, то они списываются после окончания тарифных (даже если есть одновременно и те, и другие).

Тарифные кредиты сгорают, если:

• они не были истрачены в течение месяца;
• вы переходите на следующий тариф;
• вы прекратили оплачивать текущий тариф — тогда вы возвращаетесь на минимальный.

Дополнительные кредиты не имеют срока действия, но расходуются после истечения тарифных.

Если все кредиты исчерпаны, доступ к моделям текущего тарифа будет закрыт до даты ближайшего сброса или следующей покупки.

Тарификация внешних моделей¶

Мы стремимся к стабильности и приемлемым ценам для пользователей, чтобы любой мог найти свой баланс между ценой, качеством и скоростью.

Каждая модель тарифицируется по-своёму — у них есть коэффициенты. В коэффициенты заложена цена обслуживания моделей, и они зависят от характеристик модели и её провайдера (для внешних).

Модели koda-base и koda-pro не имеют коэффициента, поскольку мы сами отвечаем за их дообучение, размещение внутри РФ и стабильную работу.

Внешние модели (обозначаются как other) интегрированы в нашу систему от сторонних провайдеров и имеют свои коэффициенты.

• Чем он выше (например, x2.9), тем дороже будет каждый запрос.

  

• Чем он ниже (например, x0.9), тем дешевле будет каждый запрос.

  

Это влияет на списание RC: чем выше коэффициент, тем выше может быть цена каждого запроса или вызова инструмента. Но в активных сессиях списание может оказаться выгоднее за счёт оптимизации количества токенов в запросах, уровня рассуждений или контекста.

Что влияет на расход RC?¶

1. Выбранная модель. Поскольку у каждой модели свой коэффициент, он непосредственно будет влиять на списание кредитов.
2. Размер контекста.
   Чем больше контекст, тем больше токенов будет обрабатываться на входе.
3. Размер файлов.
   Объёмные операции чтения/записи также непоредственно влияют на количество обрабатываемых или генерируемых токенов.
4. Серверный кэш токенов.
   Обычно он живёт минуту-две, и чем активнее сессия, тем больше токенов кэшируется, а значит тем меньше токенов приходится обрабатывать заново. Пауза в сессии может потребовать новой обработки следующего запроса уже без кэша.
5. Переключение модели.
   Связано с кэшированием токенов: новой модели придётся заново обработать весь контекст и закэшировать токены, чтобы следующие запросы становились дешевле.
6. Уровень рассуждений.
   Чем он выше, тем больше токенов обычно генерирует модель.
7. Использование субагентов. Их контроль ограничен, основная модель запускает их на своё усмотрение и они работают до тех пор, пока не посчитают свою подзадачу законченной.

Подключение сторонних моделей¶

Если вы уже имеете доступ к моделям у сторонних провайдеров, вы можете подключить их к Koda.

Мы не тарифицируем запросы к таким моделям. Никакие кредиты за использование сторонних моделей не списываются с вашего аккаунта и подписка Koda на это никак не влияет.

Вы оплачиваете доступ тому провайдеру, который выдал ключ к API.

«У меня списались кредиты, но меня не устроил результат»¶

Да, так работают LLM в настоящее время. У каждой модели есть свои ограничения и возможности, и они обучались в разное время разными людьми на разных данных.

Но качество результата напрямую зависит не только от выбранной модели ИИ. То, чего пользователь хочет получить от модели в итоге, во многом зависит от пользователя и тех входных данных, которые он подаёт на вход.

Главное здесь — максимально чёткая постановка задачи, декомпозиция, грамотная работа с контекстом и активное взаимодействие с агентом.

На страницах этой документации вы сможете узнать как работать с моделями максимально эффективно и как экосистема Koda может с этим помочь, чтобы не сжигать RC впустую.