Экономия токенов: зачем резать слова

Справочник к скиллу «пещерный». Отвечает на вопрос, который у скилла остался без ответа: что именно экономится, когда ответ становится короче.

Главное: платит не ответ, а контекст

Короткий ответ экономит не только себя. Каждый следующий ход заново отправляет модели весь диалог целиком — system prompt, инструкции, историю, выводы инструментов. Поэтому длинный ответ стоит дороже один раз, а короткий экономит на каждом последующем ходу, пока живёт сессия.

Замер на живом счёте (одна генерация, 23.10.2026):

total_tokens: 173163
  prompt_tokens: 172036        ← сколько ушло модели на вход
    из них cached: 151898      ← 88 % входа — это переотправка того же контекста
  completion_tokens: 1127      ← а вот столько модель написала в ответ

Полезный вывод из этих чисел: вход в 150 раз больше выхода. Один лишний абзац, оставшийся в истории, переотправляется десятки раз. Один лишний ход («сейчас посмотрю файл» → посмотрел → «вот что я нашёл») стоит ещё один полный проход со всем контекстом.

Что именно экономится

Самая большая экономия — не в формулировках, а в числе ходов и объёме прочитанного. Ответ в три слова, за которым последовали два лишних вызова инструментов, дороже ответа в тридцать слов без них.

Где выгода почти нулевая

• Короткий диалог. На первых ходах контекст маленький — резать нечего.
• Ответ-код. Код и так идёт целиком; обёртка вокруг него на экономию не влияет.
• Числа, пути, ошибки. Их нельзя сокращать, и это не потеря.

Экономия накапливается по мере роста сессии. Чем длиннее разговор, тем дороже каждое слово в истории.

Что не сокращать никогда

Прямое продолжение правил скилла: краткость — про текст, а не про содержание.

• код — целиком;
• текст ошибок — дословно;
• пути к файлам — точно;
• вывод команд — нужные строки как есть;
• числа, версии и идентификаторы — точно.

Практическая проверка перед отправкой

1. В ответе есть фраза о том, что ты собираешься сделать, вместо самого действия? — Убери, сделай.
2. Есть пересказ вопроса? — Убери.
3. Есть итог, который уже виден из самого ответа? — Убери.
4. Есть предложение следующих шагов, которого не просили? — Убери.
5. Оставшееся можно прочитать без потери смысла? — Отправляй.

Если после этих пяти шагов ответ стал непонятен — значит резал не то: убирай слова, а не факты.