Безопасность¶
Инструменты предоставляют мощные возможности, поэтому требуют мер безопасности и ответственного применения.
Принципы безопасной работы¶
- Явное подтверждение — критические действия требуют одобрения пользователя
- Ограничение прав — инструменты работают с минимально необходимыми разрешениями
- Валидация параметров — все входные данные проверяются перед выполнением
- Логирование — все вызовы инструментов записываются для аудита
- Изоляция — выполнение команд в контролируемой среде
Риски
Некоторые инструменты (например, выполнение команд терминала) могут быть опасны при неправильном использовании.
Всегда проверяйте предложенные моделью действия перед подтверждением.
Что можно автоматизировать¶
Обычно безопаснее автоматически разрешать действия, связанные с чтением и навигацией:
- просмотр файлов;
- поиск по проекту;
- изучение структуры директорий;
- обращение к уже подключённой документации.
Когда стоит быть особенно внимательным¶
Если агент хочет менять критичные файлы:
Конфигурация, безопасность, доступы, маршрутизация, инфраструктурные файлы — всё это лучше просматривать вручную даже если задача кажется простой.
Если агент хочет запустить команду:
Перед подтверждением полезно быстро проверить:
- понятна ли вам команда;
- не затрагивает ли она лишние части проекта;
- не выглядит ли она слишком широкой или рискованной для вашей задачи.
Если задача касается чувствительных данных:
Не стоит без отдельного контроля поручать агенту работу с секретами, ключами, продакшен-конфигурацией и любыми сценариями, где ошибка может дорого стоить.
Как ещё можно снизить риски¶
Хорошо работают простые явные ограничения прямо в запросе:
Никогда не выполняй команду git rebaseИзменяй только файлы в src/features/authСначала покажи изменения, потом переходи к следующему файлу
Такие инструкции обычно помогают сильнее, чем попытка описать всё слишком абстрактно.