Управление контекстом¶

Контекст — это объём информации, который агент удерживает в текущей сессии. Он включает историю чата, содержимое прочитанных файлов, результаты поиска и выводы команд.

Индикатор заполненности¶

Рядом с полем запроса отображается кольцевой индикатор заполненности контекста. Он показывает, сколько токенов из доступного лимита занято текущей сессией.

Цветовая маркировка:

Зелёный — менее 60 % заполнено
Жёлтый — 60–85 % заполнено, стоит следить
Красный — более 85 %, требуется сжатие
«Контекст полон» — контекст переполнен, сжать его нужно перед следующим запросом

Расширенная информация открывается по клику на индикатор:

точное количество использованных и доступных токенов
способ подсчёта: если данные получены от провайдера модели, пометки нет; при оценке по истории показывается знак ≈ и подпись «Оценка по текущей истории»
кнопка сжатия контекста

Сжатие контекста¶

Когда контекст переполняется, качество ответов агента может снижаться. Сжатие контекста (compaction) позволяет агентному рантайму свернуть историю чата в краткое резюме, сохранив важные факты.

Когда сжимать¶

Сжатие бывает ручным и автоматическим. Автоматическое сжатие агент выполняет сам, когда контекст подходит к лимиту; вручную сжимать стоит:

при заполненности более 85 % — индикатор станет красным
перед сложным запросом в длинной сессии
если агент начал «забывать» детали из начала чата

Как сжать¶

Нажмите на кольцевой индикатор контекста рядом с полем запроса
В открывшемся меню нажмите Сжать контекст или Сжать сейчас
Дождитесь завершения — отправка нового запроса будет заблокирована до окончания сжатия

Ограничения¶

Сжатие выполняет CLI-рантайм агента. Если запущенная версия CLI не поддерживает сжатие, приложение сообщит: «Текущая версия Koda CLI не поддерживает сжатие контекста» — обновите CLI и повторите попытку
После сжатия следующий запрос отправляется с новым, сжатым контекстом
Повторное сжатие возможно только после нового сообщения в чате

Отчёт о сжатии в чате¶

После сжатия в истории чата остаётся строка с результатом, например:

Контекст сжат автоматически: 154 320 → 21 500 токенов.

При ручном сжатии слово «автоматически» не добавляется. Если сжимать было нечего, строка не появляется.

Если сжатие не удалось, в чате показывается предупреждение с причиной:

при ручном сжатии — «Не удалось сжать контекст»;
при автоматическом — «Не удалось сжать контекст, ответ продолжен без сжатия»: автоматическое сжатие — оптимизация, и ответ продолжается без него.

В обоих случаях можно повторить сжатие позже или начать новый чат.

Как контекст влияет на выбор модели¶

У разных моделей разный максимальный размер контекста. При выборе модели в композере можно ориентироваться на индикатор: если контекст текущей сессии превышает лимит выбранной модели, агент может работать некорректно.

Контекст в CLI-режимах¶

При использовании внешнего CLI (npx или глобальный koda) управление контекстом зависит от версии запущенного CLI. Если CLI устарел и не поддерживает сжатие, при попытке сжатия появится сообщение с предложением обновить CLI. Встроенный режим обновляется вместе с приложением и всегда поддерживает сжатие контекста.