Раздел

Стоимость токенов

Открывайте эту страницу, когда хотите понять, что обычно делает диалоги дороже. Она объясняет основные причины расхода простыми продуктовыми словами, а не бухгалтерским языком.

Когда открывать эту страницу

Когда вам нужны точные правила, поля, лимиты или поддерживаемое поведение по теме «Стоимость токенов».

Для кого

Владелец, Редактор

С чем вы уйдете

Точные факты, на которые можно опираться при настройке и эксплуатации.

Основные token drivers

СобытиеМодель списанияПрактическая заметка
Промпт и ответПеременнаяЧем больше prompt и output, тем дороже turn.
KB searchФиксированно по depth-stepБолее глубокий поиск дороже при каждом запуске.
External stepФиксированноКаждый выполненный внешний шаг добавляет настроенную фиксированную стоимость. Текущее runtime-значение по умолчанию - 500 токенов.

Почему это важно продуктовым командам

Эта страница нужна не только финансам или владельцам биллинга. Она влияет на длину промпта, настройки памяти, политику KB и решение, должны ли prompt rules вообще оркестрировать внешний запрос.

Еще в этом разделе

Связанные страницы