Контекст, сжатие истории, расход и повторы

Контекст — всё, что видит модель на каждом шаге: ваши сообщения, ответы агента, прочитанные файлы, вывод команд, правила проекта. У каждой модели есть предел — окно контекста. Окно и расход измеряют в токенах: в этих единицах модель считает текст. Чем длиннее чат, тем полнее окно и тем дороже каждый следующий шаг. На этой странице — как следить за контекстом и расходом и что делать, когда чат разросся или запрос к модели не прошёл.

#Кружок контекста

Под полем ввода справа, рядом с моделью и режимом, стоит кружок. Он заполняется вместе с окном контекста. Наведите на него указатель — появится подсказка «Контекст агента: N%». Нажмите — откроется карточка:

#Сжатие истории

Когда окно заполняется до порога из строки «Автосжатие», агент сам сжимает раннюю часть разговора в краткую сводку и продолжает работу. Сжать историю можно и вручную:

• кнопка «Сжать историю» в карточке контекста;
• команда /compact в поле ввода.

В ленте сначала появится строка «Сжимает историю», потом «История сжата». Нажмите на «История сжата», чтобы прочитать сводку. Пока агент не ответит снова, кружок пустой: «История сжата — размер станет известен после следующего ответа».

Что важно знать:

• Сжатие — тоже запрос к модели, и он тратит лимит.
• Подробности ранних шагов после сжатия остаются только в сводке. Если важная деталь могла потеряться, напомните её агенту.
• Новую задачу, не связанную с прошлой, дешевле начать в новом чате, чем продолжать в длинном старом.

Агент и сам бережёт контекст. В длинной задаче он реже пересылает модели старый вывод команд и содержимое файлов, а если они снова нужны — перечитывает. Если провайдер не принимает слишком большой запрос, агент убирает из него старые картинки и крупные ответы инструментов, а потом продолжает работу.

#«Кэш модели сброшен»

Провайдер модели хранит уже отправленную часть разговора, и повторные шаги стоят дешевле. Если провайдер перестал её хранить, под шагом появится предупреждение: «Кэш модели сброшен. Каждый шаг теперь стоит полную цену всей истории.» Рядом видно, сколько лимита ушло на последний шаг. Там же стоит кнопка «Сжать контекст». Она делает то же, что «Сжать историю» в карточке контекста и команда /compact: укоротит историю, и дальше шаги будут стоить меньше.

#Расход и лимит

В приложении расход показан как доля лимита тарифа, а не в деньгах:

• расход чата — в карточке контекста, строка «Расход сессии»;
• расход тарифа — там же и в «Настройки → Аккаунт и тариф»;
• подробно по дням и моделям — в веб-кабинете (см. Аккаунт и оплата).

Цена модели видна в меню моделей: от одного до четырёх значков «$». Значки сравнивают модель с другими моделями каталога, а подсказка у значков называет цену словами: «Дёшево», «Умеренно», «Дорого» или «Очень дорого».

Если выбрана модель «Авто», сервер сам подбирает модель под каждый шаг. Под ответом видно, какая модель ответила, и лимит списывается по её цене (см. Модели).

Когда лимит заканчивается посреди задачи, агент останавливается и показывает карточку с выбором тарифа или пакета. Задача и всё, что агент успел сделать, остаются, а после оплаты он продолжит с того же места. Цены — на странице тарифов, условия — в разделе Тарифы и лимиты.

#Повторы и обрывы связи

#Агент повторяет запрос сам

Если запрос к модели не прошёл, агент ждёт и повторяет запрос. Над полем ввода появляется строка с обратным отсчётом:

• «Лимит запросов — повтор через N с» — сервер просит подождать. Агент дождётся и продолжит ход;
• «Нет связи с сервером — повтор через N с» — пропал интернет или сервер DevMachine недоступен;
• «<причина> — повтор через N с» — другая причина, описанная словами.

В строке есть «Повторить сейчас», «Остановить ход» и номер попытки. В списке чатов у такого чата статус «Ждёт повтора».

Если модель две минуты не присылает ни слова, шаг обрывается и начинается заново, а ход идёт дальше. Время, пока агент ждёт вашего «Разрешить», в эти две минуты не входит. В строке повтора такой сбой подписан «Сервер не ответил вовремя».

#Ход закончился ошибкой

Если повторы не помогли, ход останавливается. Под ним — карточка с причиной и кнопками «Повторить ход», «Подробности» (исходный текст ошибки) и «Сообщить» (отправить отчёт об ошибке).

#Сервер не отвечает

Если сервер DevMachine недоступен, внизу левой колонки появляется карточка «Сервер не отвечает»: «Чаты, файлы и git работают как обычно. Агент ответит, когда связь вернётся — проверяем каждые 15 с.» Кнопка «Проверить сейчас» проверяет связь сразу.

Если связь рвёт VPN, в новом чате появится красная кнопка «Внести DevMachine в исключения VPN» с инструкцией. Другие причины — в разделе Если что-то не работает.

#Память между чатами

Агент помнит проект между чатами. Он сам записывает заметки — решения, договорённости, подводные камни — и в начале новой задачи вспоминает то, что к ней относится. Заметки привязаны к проекту. Факты о вас, верные в любом проекте, агент может сохранить сразу для всех проектов.

• Заметки хранятся только на этом компьютере, в файле ~/.koder/memory.db.
• К модели заметка попадает, только когда агент её вспомнил.
• Всё, что похоже на ключи и пароли, перед сохранением маскируется.
• Память включена всегда: в настройках её не выключить. Отключить память может только организация.
• Отдельного экрана с заметками в приложении нет. Чтобы агент что-то запомнил, скажите ему об этом в чате.

То, что агент должен знать в каждом чате, надёжнее записать в правила проекта (см. Правила проекта).

#Ограничения

• Размер окна контекста зависит от модели. Если модель его не сообщает, кружок пустой.
• После сжатия часть подробностей остаётся только в сводке.
• Сжатие истории и веб-поиск тратят лимит, как обычные шаги.

#Что дальше

• Модели — модель «Авто», уровень рассуждений, модель субагентов.
• Тарифы и лимиты — что будет, когда лимит закончится.
• Если что-то не работает.