Модуль 06 — Экономика и выбор модели
Время: 3 часа · Формат: теория 60 мин + практика 120 мин
Теория
1. Из чего складывается стоимость
Цена указывается за 1 миллион токенов и делится на:
| Тип | Что это | Обычно |
|---|---|---|
| input | ваш контекст | дорого |
| output | ответ модели | дороже input в 3–5 раз |
| cache write | запись в кэш | ≈ input |
| cache read | чтение из кэша | в 5–10 раз дешевле input |
Формула сессии:
стоимость ≈ (input_tokens × price_in + output_tokens × price_out) / 1_000_000
Но в агентном цикле input умножается на число шагов: каждый шаг заново отправляет весь контекст. 10 шагов с контекстом 50k — это 500k входных токенов.
2. Кэш — главный рычаг экономии
Провайдеры кэшируют стабильный префикс запроса. Если структура всегда:
[инструкции] [файлы проекта] [вопрос]
то при повторных шагах префикс читается из кэша, и платите вы копейки.
Что убивает кэш:
- менять инструкции в середине сессии;
- переставлять файлы местами;
- вставлять текущее время/случайные данные в начало;
- начинать каждый шаг «с чистого листа».
3. Латентность
Важна для UX, но не только:
- reasoning-модель думает 30–120 секунд перед первым токеном;
- на коротких правках это раздражает;
- на архитектурных задачах — окупается.
4. Классы моделей
| Класс | Признак | Для чего |
|---|---|---|
| fast / mini / flash | дешёвая, быстрая | переименования, тесты по образцу, поиск |
| balanced | средняя | обычная разработка, рефакторинг |
| frontier + reasoning | дорогая, думает | архитектура, сложная отладка, миграции |
| long-context | окно 500k–2M | анализ больших репозиториев/логов |
Правило: 80% задач решаются дешёвой моделью, если есть тесты и хорошая спека.
5. Как выбирать на практике
1. Есть ли проверка? нет → сначала оракул, потом модель
2. Задача типовая? да → fast
3. Нужно думать? да → reasoning
4. Контекст > 200k? да → long-context обязателен
5. Много tool-calls? да → важна надёжность tool-calling, не «ум»
Ещё нюанс: характер модели. Одна любит писать тесты, другая сразу лезет в код, третья слишком многословна. Под задачу нужны 2–3 любимые модели, а не одна «лучшая».
6. Бюджет и лимиты
- Ставьте лимиты на провайдера (месячный бюджет).
- Ограничивайте
max_tokensдля рутинных задач. - Следите за
opencode stats. - Одна «вайб-сессия» на 2M токенов может стоить как день работы — это нормально, если результат того стоит, и катастрофа, если это была правка заголовка.
7. Когда дорогая модель дешевле
Парадокс: frontier-модель за 3 итерации может стоить дешевле mini-модели за 15 итераций с вашим временем на ревью. Считать надо полную стоимость: токены + ваше время + баги.
Чек-лист понимания
- Почему в агентном цикле input умножается на число шагов?
- Что убивает кэш и как это исправить?
- Назовите три задачи, где дешёвая модель объективно лучше дорогой.
- Как посчитать «полную стоимость» задачи?
Практика
См. practice.md.