Три вида токенов
В сессии отправляется свежий вход (текст, которого модель ещё не видела: ваш запрос, прочитанные файлы и результаты инструментов), кэшированный вход (контекст, который провайдер уже хранит: системный промпт, прошлые шаги и ранее прочитанные файлы) и выход (код, объяснения и вызовы инструментов). Выход обычно самая малая часть, а кэшированный вход самая большая.
Почему счёт решает кэш
Агент заново отправляет весь разговор на каждом шаге. Провайдер узнаёт повторяющийся префикс и отдаёт его из кэша за долю обычной цены входа. В длинной сессии нормально, когда больше 80% входа кэшируется, поэтому цена кэшированных токенов важнее заголовочной цены за токен.
Как Model.sale считает сессию
Model.sale списывает один тариф за миллион списываемых токенов, кэшированный вход считается за 40%. Для сессии: списанные токены = свежий вход + выход + 0,4 x кэшированный вход. На момент написания тарифы такие: $0,08 за миллион для gpt-6-luna, $0,38 для gpt-6-sol и $0,40 для gpt-6.1-sol; живая таблица на странице моделей. Метод сравнения с прайсами открыт в методологии цен.
Пример расчёта
Возьмём средний рефакторинг: 150 000 токенов свежего входа, 2 000 000 кэшированного входа за много шагов и 60 000 токенов выхода. Списанные токены = 150 000 + 60 000 + 0,4 x 2 000 000 = 1 010 000. При $0,38 за миллион (gpt-6-sol) это около $0,38; при $0,40 (gpt-6.1-sol) около $0,40; при $0,08 (gpt-6-luna) около $0,08. Небольшая правка бага: 20 000 свежих, 200 000 кэшированных и 8 000 токенов выхода это 108 000 списанных токенов, около $0,04 на gpt-6-sol. Десять средних сессий в день обойдутся примерно в $3,80 в день на gpt-6-sol.
Оцените свой счёт
В кабинете видна точная сумма каждого запроса, поэтому сначала запустите одну типичную задачу и посмотрите итог, затем умножьте на ожидаемое число таких задач. Калькулятор на сайте принимает свежие, кэшированные и выходные токены. Сравнивайте результат со счётом любого другого провайдера за ту же сессию, а не с заголовочной ценой за токен.
Держите расход предсказуемым
Создайте отдельный ключ на проект, задайте ему дневной лимит расхода и список разрешённых моделей, а баланс держите предоплаченным: когда деньги кончаются, запросы останавливаются, а не создают неожиданный счёт. Чтобы подключить Codex CLI или Cursor, следуйте гайдам по настройке и для рутинных правок начинайте с модели поменьше.