Политика использования ИИ в компании: данные, проверка и ответственность
Политика использования ИИ — внутренний регламент, который определяет допустимые сервисы, данные, задачи, проверку результата и ответственность сотрудников. Документ должен отвечать на пять вопросов:
В этой статье
Коротко. Политика использования ИИ — внутренний регламент, который определяет допустимые сервисы, данные, задачи, проверку результата и ответственность сотрудников. Документ должен отвечать на пять вопросов: что разрешено, какие данные нельзя передавать, кто проверяет ответ, где хранится результат и как сообщить об инциденте.
Запретить всё легко, но сотрудники продолжат пользоваться удобными инструментами без понятных правил. Рабочая политика связывает риск задачи с конкретным процессом: разрешённым сервисом, минимальными данными, обязательной проверкой и владельцем решения.
Зачем компании политика ИИ
Регламент снижает риск утечки, ошибочного решения и неясного авторства.
Соберите реальные сценарии отделов.
Отделите допустимое от требующего согласования.
Пример. Черновик письма и анализ договора получают разные уровни контроля.
Какие сервисы разрешить
Список учитывает договор, хранение, доступ и функции.
Назначьте владельца перечня.
Проверяйте условия после обновлений.
Пример. Личный бесплатный аккаунт не используют для клиентской базы.
Какие данные нельзя загружать
Категории описывают понятными примерами.
Применяйте минимизацию и обезличивание.
Проверяйте выгрузку до передачи.
Пример. Для анализа отзывов удаляют контакты и идентификаторы.
| Риск | Пример | Контроль |
|---|---|---|
| Низкий | Идеи заголовков | Редактор |
| Средний | Сводка отзывов | Обезличивание |
| Высокий | Договор | Эксперт |
| Запрещённый | Чужие секреты | Не загружать |
Какие задачи требуют человека
Чем выше влияние на деньги, права и безопасность, тем строже проверка.
Создайте матрицу риска.
Записывайте проверившего и источник.
Пример. Медицинское или юридическое решение не публикуется автоматически.
Как проверять результат
Факты сверяют с первоисточником, вычисления воспроизводят, код тестируют.
Добавьте чек-лист по типу задачи.
Измеряйте исправления и инциденты.
Пример. Цитата без найденного оригинала удаляется.
Как обозначать использование ИИ
Правило прозрачности зависит от роли результата и требований площадки.
Зафиксируйте случаи обязательного раскрытия.
Не подменяйте маркировкой проверку.
Пример. Внутренний черновик и публичное исследование имеют разные требования.
Как хранить промпты и результаты
Рабочие материалы получают срок, доступ и версию.
Не копируйте секреты в общие библиотеки.
Удаляйте временные файлы.
Пример. Проверенный шаблон хранится отдельно от клиентского входа.
| Роль | Ответственность | Артефакт |
|---|---|---|
| Сотрудник | Минимизировать данные | Журнал |
| Руководитель | Одобрить сценарий | Матрица |
| ИТ | Настроить доступ | Список сервисов |
| Эксперт | Проверить результат | Отметка |
Как реагировать на инцидент
Сотрудник должен знать канал сообщения и первые действия.
Остановите передачу, сохраните минимум фактов и уведомите владельца.
Разберите причину без сокрытия ошибки.
Пример. После случайной загрузки проверяют журнал и условия удаления сервиса.
Как внедрить политику
Короткое обучение и примеры важнее подписи под длинным PDF.
Запустите пилот и обновите документ по вопросам.
Проверяйте знание на сценариях.
Пример. Команда разбирает три реальных кейса своего отдела.
Какие материалы продолжат работу
Соседние задачи раскрыты отдельно: prompt injection, системный промпт, проверка фактов, редакционная политика, персональные данные, автоматизация контента. Такое разделение сохраняет один поисковый интент у страницы и даёт читателю следующий шаг без повторения целых инструкций.
Практическая проверка. Пишите правила языком рабочих ситуаций, а не только юридических терминов. Этот контроль относится к этапу «зачем компании политика ии» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Разрешённый список должен включать владельца и дату проверки. Этот контроль относится к этапу «какие сервисы разрешить» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Обучение повторяют после существенной правки документа. Этот контроль относится к этапу «какие данные нельзя загружать» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Исключение согласуют до передачи данных, а не после результата. Этот контроль относится к этапу «какие задачи требуют человека» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Метрика политики — снижение рискованных действий и скорость сообщения об ошибке. Этот контроль относится к этапу «как проверять результат» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Форма согласования сценария включает цель, сервис, данные, проверяющего и срок пилота. Этот контроль относится к этапу «как обозначать использование ии» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Личный аккаунт не должен быть единственным хранилищем рабочего результата. Этот контроль относится к этапу «как хранить промпты и результаты» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Для подрядчиков фиксируют допустимые сервисы и сообщение об инциденте. Этот контроль относится к этапу «как реагировать на инцидент» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Публичный материал проходит обычную редакционную проверку. Этот контроль относится к этапу «как внедрить политику» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Запрет на секреты подкрепляют ограничениями доступа. Этот контроль относится к этапу «зачем компании политика ии» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Реестр сценариев показывает владельца каждого применения ИИ. Этот контроль относится к этапу «какие сервисы разрешить» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Автоматическое действие должно иметь способ безопасной остановки. Этот контроль относится к этапу «какие данные нельзя загружать» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Политика указывает официальный канал вопросов. Этот контроль относится к этапу «какие задачи требуют человека» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. У поставщика проверяют хранение, удаление и административный доступ. Этот контроль относится к этапу «как проверять результат» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Документ обновляют после нового инструмента или инцидента. Этот контроль относится к этапу «как обозначать использование ии» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Назначьте срок удаления временных выгрузок. Этот контроль относится к этапу «как хранить промпты и результаты» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Разведите владельца сервиса и владельца делового решения. Этот контроль относится к этапу «как реагировать на инцидент» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. В журнале храните минимум сведений, нужных для расследования. Этот контроль относится к этапу «как внедрить политику» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Проверяйте, знает ли сотрудник безопасную альтернативу запрету. Этот контроль относится к этапу «зачем компании политика ии» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Укажите порядок отзыва доступа после увольнения. Этот контроль относится к этапу «какие сервисы разрешить» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Не публикуйте сгенерированную цитату без оригинала. Этот контроль относится к этапу «какие данные нельзя загружать» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Отдельно опишите использование ИИ в коде и аналитике. Этот контроль относится к этапу «какие задачи требуют человека» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Сохраняйте дату последней проверки каждого разрешённого сервиса. Этот контроль относится к этапу «как проверять результат» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Исключения должны иметь срок завершения. Этот контроль относится к этапу «как обозначать использование ии» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Разбирайте инциденты без сокрытия первопричины. Этот контроль относится к этапу «как хранить промпты и результаты» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Пишите правила языком рабочих ситуаций, а не только юридических терминов. Этот контроль относится к этапу «как реагировать на инцидент» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Разрешённый список должен включать владельца и дату проверки. Этот контроль относится к этапу «как внедрить политику» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Обучение повторяют после существенной правки документа. Этот контроль относится к этапу «зачем компании политика ии» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Исключение согласуют до передачи данных, а не после результата. Этот контроль относится к этапу «какие сервисы разрешить» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Метрика политики — снижение рискованных действий и скорость сообщения об ошибке. Этот контроль относится к этапу «какие данные нельзя загружать» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Форма согласования сценария включает цель, сервис, данные, проверяющего и срок пилота. Этот контроль относится к этапу «какие задачи требуют человека» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Личный аккаунт не должен быть единственным хранилищем рабочего результата. Этот контроль относится к этапу «как проверять результат» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Для подрядчиков фиксируют допустимые сервисы и сообщение об инциденте. Этот контроль относится к этапу «как обозначать использование ии» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Публичный материал проходит обычную редакционную проверку. Этот контроль относится к этапу «как хранить промпты и результаты» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Запрет на секреты подкрепляют ограничениями доступа. Этот контроль относится к этапу «как реагировать на инцидент» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Реестр сценариев показывает владельца каждого применения ИИ. Этот контроль относится к этапу «как внедрить политику» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Автоматическое действие должно иметь способ безопасной остановки. Этот контроль относится к этапу «зачем компании политика ии» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Политика указывает официальный канал вопросов. Этот контроль относится к этапу «какие сервисы разрешить» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. У поставщика проверяют хранение, удаление и административный доступ. Этот контроль относится к этапу «какие данные нельзя загружать» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Документ обновляют после нового инструмента или инцидента. Этот контроль относится к этапу «какие задачи требуют человека» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Назначьте срок удаления временных выгрузок. Этот контроль относится к этапу «как проверять результат» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Разведите владельца сервиса и владельца делового решения. Этот контроль относится к этапу «как обозначать использование ии» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. В журнале храните минимум сведений, нужных для расследования. Этот контроль относится к этапу «как хранить промпты и результаты» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Проверяйте, знает ли сотрудник безопасную альтернативу запрету. Этот контроль относится к этапу «как реагировать на инцидент» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Укажите порядок отзыва доступа после увольнения. Этот контроль относится к этапу «как внедрить политику» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Не публикуйте сгенерированную цитату без оригинала. Этот контроль относится к этапу «зачем компании политика ии» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Отдельно опишите использование ИИ в коде и аналитике. Этот контроль относится к этапу «какие сервисы разрешить» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Практическая проверка. Сохраняйте дату последней проверки каждого разрешённого сервиса. Этот контроль относится к этапу «какие данные нельзя загружать» и должен завершаться записанным решением, владельцем и датой следующей проверки.
Чек-лист
- Главная задача и граница материала сформулированы одним предложением.
- Источник каждого факта и правила сохранён рядом с рабочей версией.
- Обычный, пограничный и ошибочный сценарии проверены до массового запуска.
- Лишние персональные и коммерчески чувствительные данные не собираются.
- Основная метрика связана с решением, рядом есть защитный показатель.
- У процесса есть ответственный, срок и понятная возможность остановки.
- Следующий шаг читателя ведёт в отдельную релевантную статью или продукт.
Остался вопрос по теме статьи? Напишите его в предложку блога — отвечаю лично: задать вопрос в MAX. Частые вопросы разбираю отдельными статьями и присылаю ссылку тому, кто спросил.
Частые вопросы
Политика использования ИИ — что это?
Это внутренние правила допустимых сервисов, данных, задач, проверки и ответственности.
Нужно ли запрещать нейросети?
Полный запрет редко решает задачу. Нужны разрешённые сценарии и понятные границы.
Какие данные нельзя загружать?
Секреты, лишние персональные данные и материалы, передачу которых не разрешают договор и политика компании.
Кто отвечает за результат?
Сотрудник и назначенный проверяющий; модель не принимает ответственность за деловое решение.
Как часто обновлять документ?
После изменения сервисов, законодательства, процессов и каждого существенного инцидента.
Что включить в первую версию?
Список сервисов, категории данных, матрицу задач, проверку, хранение и канал сообщения об инциденте.
Читайте дальше
-
Контекстное окно нейросети: что в него помещается
Контекстное окно — максимальный объём токенов, который модель обрабатывает в одном вызове: системные правила, историю…
-
Галлюцинации нейросетей: почему ИИ выдумывает факты
Галлюцинацией нейросети называют правдоподобный, но неверный или выдуманный ответ: несуществующую цитату, ссылку…
-
Большие языковые модели: как устроены LLM
Большая языковая модель, или LLM, получает последовательность токенов и оценивает вероятности следующего токена с…