Системный промпт: как задавать правила нейросети

Системная инструкция не делает модель безошибочной и не заменяет права доступа. Она формирует устойчивое поведение внутри разрешённого контура. Защита приложения дополнительно требует фильтрации данных, ограниченных инструментов, журналирования и проверки результата.

Что такое системный промпт

Это набор правил, который приложение передаёт модели отдельно от сообщения пользователя. Он определяет задачу и способ работы в рамках конкретного сервиса.

Сформулируйте назначение одним предложением и перечислите действия, которые модель может выполнять.

Проверьте, что пользователь не видит обещаний функций, которых у приложения нет.

Пример. Ассистент поддержки объясняет справку и передаёт спорный случай сотруднику, но не меняет заказ самостоятельно.

Чем системный промпт отличается от пользовательского

Системная инструкция описывает постоянные правила продукта. Пользовательский запрос приносит конкретную цель и данные текущего диалога.

Разместите правила, данные и пользовательский текст в разных полях или явно размеченных блоках.

При конфликте тест должен подтвердить заданный приоритет.

Пример. Просьба клиента изменить политику возврата не переписывает правила, заданные приложением.

Как описать роль модели

Роль задаёт область компетенции и аудиторию, но театральное описание профессии не заменяет источники и ограничения.

Укажите, для кого готовится результат, какое решение он поддерживает и чего модель не знает.

Удалите декоративные прилагательные и проверьте, сохранилось ли качество.

Пример. Фраза «помощник редактора» дополняется обязанностью выделять неподтверждённые факты и не придумывать цитаты.

Как задать источники и факты

Модель должна понимать, какие материалы считаются основанием и что делать, если ответа в них нет.

Опишите приоритет источников, способ ссылки и обязательную пометку неизвестного.

Подложите вопрос, ответа на который в базе нет.

Пример. Справочный бот отвечает «данных нет» и предлагает оператора вместо правдоподобного срока доставки.

Как определить формат ответа

Формат зависит от потребителя: человек читает абзацы, программа ожидает поля и допустимые значения.

Перечислите обязательные части и ограничения длины, затем дайте один корректный пример.

Тестируйте пустые значения, переносы и лишний текст вокруг структуры.

Пример. Классификатор возвращает категорию, уверенность и причину, а не свободное эссе.

Как описать отказ и эскалацию

Отказ нужен для запрещённых действий, недостатка данных и ситуации за пределами компетенции. Он должен предлагать безопасный следующий шаг.

Разведите запрет, неизвестность и необходимость сотрудника разными правилами.

Проверьте нейтральный тон и отсутствие раскрытия внутренней инструкции.

Пример. При запросе персональных данных другого клиента бот отказывает и сообщает официальный способ обращения.

Как тестировать системную инструкцию

Набор включает нормальные задачи, неоднозначные сообщения, конфликт правил, длинные документы и попытки изменить поведение.

Фиксируйте версию инструкции, модели и параметров для каждого прогона.

Оценивайте выполнение задачи и соблюдение границ раздельно.

Пример. Версия может писать лучше, но чаще выполнять запрещённые команды — выпуск блокируется.

Как поддерживать системный промпт

Правила меняются вместе с продуктом, источниками и рисками. Каждая правка проходит review и регрессионный тест.

Храните инструкцию в версии, а не только в настройке внешнего сервиса.

Свяжите инциденты и жалобы с действовавшей версией.

Пример. После изменения политики обновляются правило, тестовый пример и ответ в базе знаний.

Какие ошибки делают системный промпт слабым

Слишком общие требования, противоречия, десятки повторов и надежда скрыть секрет внутри текста ухудшают управляемость.

Сократите повторы и перенесите реальные ограничения в код и права инструментов.

Попросите другого редактора назвать приоритет при каждом конфликте.

Пример. Запрет «никогда не ошибайся» заменяют проверкой источника и явным поведением при нехватке данных.

Какие материалы продолжат работу

Соседние задачи раскрыты отдельно: пользовательский промпт, промпт-инжиниринг, ИИ-агенты, база знаний, проверка фактов, редакционная политика. Такое разделение сохраняет один поисковый интент у страницы и даёт читателю следующий шаг без повторения целых инструкций.

Практическая проверка. Не помещайте пароли, ключи и персональные данные в системную инструкцию: текст может попасть в журналы или быть косвенно раскрыт. Этот контроль относится к этапу «что такое системный промпт» и должен завершаться записанным решением, владельцем и датой следующей проверки.

Практическая проверка. Каждому инструменту выдавайте минимальные права. Даже ошибочный ответ тогда не сможет выполнить лишнее действие. Этот контроль относится к этапу «чем системный промпт отличается от пользовательского» и должен завершаться записанным решением, владельцем и датой следующей проверки.

Практическая проверка. Отдельно тестируйте документы, внутри которых написаны команды для модели: содержимое источника должно оставаться данными. Этот контроль относится к этапу «как описать роль модели» и должен завершаться записанным решением, владельцем и датой следующей проверки.

Практическая проверка. Сокращайте инструкцию после регрессионного теста, а не по числу символов: лишний повтор и важное исключение выглядят одинаково длинными. Этот контроль относится к этапу «как задать источники и факты» и должен завершаться записанным решением, владельцем и датой следующей проверки.

Практическая проверка. Показывайте человеку источник и границу уверенности там, где результат влияет на деньги, доступ или репутацию. Этот контроль относится к этапу «как определить формат ответа» и должен завершаться записанным решением, владельцем и датой следующей проверки.

Практическая проверка. Не помещайте пароли, ключи и персональные данные в системную инструкцию: текст может попасть в журналы или быть косвенно раскрыт. Этот контроль относится к этапу «как описать отказ и эскалацию» и должен завершаться записанным решением, владельцем и датой следующей проверки.

Практическая проверка. Каждому инструменту выдавайте минимальные права. Даже ошибочный ответ тогда не сможет выполнить лишнее действие. Этот контроль относится к этапу «как тестировать системную инструкцию» и должен завершаться записанным решением, владельцем и датой следующей проверки.

Практическая проверка. Отдельно тестируйте документы, внутри которых написаны команды для модели: содержимое источника должно оставаться данными. Этот контроль относится к этапу «как поддерживать системный промпт» и должен завершаться записанным решением, владельцем и датой следующей проверки.

Практическая проверка. Сокращайте инструкцию после регрессионного теста, а не по числу символов: лишний повтор и важное исключение выглядят одинаково длинными. Этот контроль относится к этапу «какие ошибки делают системный промпт слабым» и должен завершаться записанным решением, владельцем и датой следующей проверки.

Практическая проверка. Показывайте человеку источник и границу уверенности там, где результат влияет на деньги, доступ или репутацию. Этот контроль относится к этапу «что такое системный промпт» и должен завершаться записанным решением, владельцем и датой следующей проверки.

Практическая проверка. Не помещайте пароли, ключи и персональные данные в системную инструкцию: текст может попасть в журналы или быть косвенно раскрыт. Этот контроль относится к этапу «чем системный промпт отличается от пользовательского» и должен завершаться записанным решением, владельцем и датой следующей проверки.

Практическая проверка. Каждому инструменту выдавайте минимальные права. Даже ошибочный ответ тогда не сможет выполнить лишнее действие. Этот контроль относится к этапу «как описать роль модели» и должен завершаться записанным решением, владельцем и датой следующей проверки.

Практическая проверка. Отдельно тестируйте документы, внутри которых написаны команды для модели: содержимое источника должно оставаться данными. Этот контроль относится к этапу «как задать источники и факты» и должен завершаться записанным решением, владельцем и датой следующей проверки.

Практическая проверка. Сокращайте инструкцию после регрессионного теста, а не по числу символов: лишний повтор и важное исключение выглядят одинаково длинными. Этот контроль относится к этапу «как определить формат ответа» и должен завершаться записанным решением, владельцем и датой следующей проверки.

Практическая проверка. Показывайте человеку источник и границу уверенности там, где результат влияет на деньги, доступ или репутацию. Этот контроль относится к этапу «как описать отказ и эскалацию» и должен завершаться записанным решением, владельцем и датой следующей проверки.

Практическая проверка. Не помещайте пароли, ключи и персональные данные в системную инструкцию: текст может попасть в журналы или быть косвенно раскрыт. Этот контроль относится к этапу «как тестировать системную инструкцию» и должен завершаться записанным решением, владельцем и датой следующей проверки.

Практическая проверка. Каждому инструменту выдавайте минимальные права. Даже ошибочный ответ тогда не сможет выполнить лишнее действие. Этот контроль относится к этапу «как поддерживать системный промпт» и должен завершаться записанным решением, владельцем и датой следующей проверки.

Практическая проверка. Отдельно тестируйте документы, внутри которых написаны команды для модели: содержимое источника должно оставаться данными. Этот контроль относится к этапу «какие ошибки делают системный промпт слабым» и должен завершаться записанным решением, владельцем и датой следующей проверки.

Практическая проверка. Сокращайте инструкцию после регрессионного теста, а не по числу символов: лишний повтор и важное исключение выглядят одинаково длинными. Этот контроль относится к этапу «что такое системный промпт» и должен завершаться записанным решением, владельцем и датой следующей проверки.

Практическая проверка. Показывайте человеку источник и границу уверенности там, где результат влияет на деньги, доступ или репутацию. Этот контроль относится к этапу «чем системный промпт отличается от пользовательского» и должен завершаться записанным решением, владельцем и датой следующей проверки.

Практическая проверка. Не помещайте пароли, ключи и персональные данные в системную инструкцию: текст может попасть в журналы или быть косвенно раскрыт. Этот контроль относится к этапу «как описать роль модели» и должен завершаться записанным решением, владельцем и датой следующей проверки.

Практическая проверка. Каждому инструменту выдавайте минимальные права. Даже ошибочный ответ тогда не сможет выполнить лишнее действие. Этот контроль относится к этапу «как задать источники и факты» и должен завершаться записанным решением, владельцем и датой следующей проверки.

Практическая проверка. Отдельно тестируйте документы, внутри которых написаны команды для модели: содержимое источника должно оставаться данными. Этот контроль относится к этапу «как определить формат ответа» и должен завершаться записанным решением, владельцем и датой следующей проверки.

Практическая проверка. Сокращайте инструкцию после регрессионного теста, а не по числу символов: лишний повтор и важное исключение выглядят одинаково длинными. Этот контроль относится к этапу «как описать отказ и эскалацию» и должен завершаться записанным решением, владельцем и датой следующей проверки.

Практическая проверка. Показывайте человеку источник и границу уверенности там, где результат влияет на деньги, доступ или репутацию. Этот контроль относится к этапу «как тестировать системную инструкцию» и должен завершаться записанным решением, владельцем и датой следующей проверки.

Практическая проверка. Не помещайте пароли, ключи и персональные данные в системную инструкцию: текст может попасть в журналы или быть косвенно раскрыт. Этот контроль относится к этапу «как поддерживать системный промпт» и должен завершаться записанным решением, владельцем и датой следующей проверки.

Практическая проверка. Каждому инструменту выдавайте минимальные права. Даже ошибочный ответ тогда не сможет выполнить лишнее действие. Этот контроль относится к этапу «какие ошибки делают системный промпт слабым» и должен завершаться записанным решением, владельцем и датой следующей проверки.

Практическая проверка. Отдельно тестируйте документы, внутри которых написаны команды для модели: содержимое источника должно оставаться данными. Этот контроль относится к этапу «что такое системный промпт» и должен завершаться записанным решением, владельцем и датой следующей проверки.

Практическая проверка. Сокращайте инструкцию после регрессионного теста, а не по числу символов: лишний повтор и важное исключение выглядят одинаково длинными. Этот контроль относится к этапу «чем системный промпт отличается от пользовательского» и должен завершаться записанным решением, владельцем и датой следующей проверки.

Практическая проверка. Показывайте человеку источник и границу уверенности там, где результат влияет на деньги, доступ или репутацию. Этот контроль относится к этапу «как описать роль модели» и должен завершаться записанным решением, владельцем и датой следующей проверки.

Практическая проверка. Не помещайте пароли, ключи и персональные данные в системную инструкцию: текст может попасть в журналы или быть косвенно раскрыт. Этот контроль относится к этапу «как задать источники и факты» и должен завершаться записанным решением, владельцем и датой следующей проверки.

Чек-лист