Human in the Loop: где человеку контролировать ИИ

Human in the loop — практическая система, в которой человек подключается в заранее выбранных точках с понятными полномочиями и сроком решения.

27 октября 2026 16 мин чтения

Николай Шаповалов Основатель Tapbox, делает сервисы для MAX

Коротко. Human in the loop должна приводить к проверяемому результату: человек подключается в заранее выбранных точках с понятными полномочиями и сроком решения. Начните с одного потока, сохраните исходную линию и меняйте процесс поэтапно.

В этом руководстве разбираем отдельный интент: Участие человека в конкретных решениях, исключениях и обратной связи. U877 остаётся общей системой управления ИИ, U936 — автоматическими ограничителями. Пример для сквозной проверки: AI-агент просит подтверждение перед возвратом крупного платежа. Цель — не внедрить больше полей, а сделать ход решения видимым для клиента и команды.

Этап	Действие	Критерий
01	Оценить цену ошибки	для «Human in the Loop» есть владелец и артефакт
02	Разделить классы решений	для «Human in the Loop» есть владелец и артефакт
03	Задать порог уверенности	для «Human in the Loop» есть владелец и артефакт
04	Выбрать контрольную точку	для «Human in the Loop» есть владелец и артефакт
05	Показать человеку контекст	для «Human in the Loop» есть владелец и артефакт
06	Назначить полномочия	для «Human in the Loop» есть владелец и артефакт

Оценить цену ошибки: Human in the Loop

Зафиксируйте исходное обещание до первого изменения. Контрольная точка человека «оценить цену ошибки» нужна там, где цена ошибки выше выгоды полной автоматизации. В теме «Human in the Loop» роль владелец AI-продукта получает «карточка приёмки «оценить цену ошибки» с версией правила; отдельный контроль — артефакт операции «оценить цену ошибки» для темы «Human in the Loop»: цель, критерий и рабочий пример» и решает случай «ситуация «при действии «оценить цену ошибки» в теме «Human in the Loop» возникает отклонение: цель проверки не описана наблюдаемым результатом» требует от роли «владелец AI-продукта» выполнить «оценить цену ошибки»; к примеру прикладывается артефакт операции «оценить цену ошибки» для темы «Human in the Loop»: цель, критерий и рабочий пример». Сигнал «при действии «оценить цену ошибки» в теме «Human in the Loop» возникает отклонение: цель проверки не описана наблюдаемым результатом» блокирует автоматический проход. Метрика «доля операций «оценить цену ошибки», принятых без повтора, и время до завершения; разрез для анализа — артефакт операции «оценить цену ошибки» для темы «Human in the Loop»: цель, критерий и рабочий пример» показывает и качество, и задержку очереди. Полномочия человека, срок ответа и запасной маршрут фиксируются до запуска.

Рабочий объект: операция «оценить цену ошибки» в контуре «Human in the Loop».
Владелец результата: владелец AI-продукта.
Стоп-сигнал: при действии «оценить цену ошибки» в теме «Human in the Loop» возникает отклонение: цель проверки не описана наблюдаемым результатом.
Материал приёмки: артефакт операции «оценить цену ошибки» для темы «Human in the Loop»: цель, критерий и рабочий пример.

Разделить классы решений: Human in the Loop

Сверьте термин с двумя соседними типами обращений. Контрольная точка человека «разделить классы решений» нужна там, где цена ошибки выше выгоды полной автоматизации. В теме «Human in the Loop» роль редактор набора данных получает «карточка приёмки «разделить классы решений» с версией правила; отдельный контроль — артефакт операции «разделить классы решений» для темы «Human in the Loop»: срез данных и правило включения» и решает случай «ситуация «при действии «разделить классы решений» в теме «Human in the Loop» возникает отклонение: данные оценки не соответствуют рабочему потоку» требует от роли «редактор набора данных» выполнить «разделить классы решений»; к примеру прикладывается артефакт операции «разделить классы решений» для темы «Human in the Loop»: срез данных и правило включения». Сигнал «при действии «разделить классы решений» в теме «Human in the Loop» возникает отклонение: данные оценки не соответствуют рабочему потоку» блокирует автоматический проход. Метрика «доля операций «разделить классы решений», принятых без повтора, и время до завершения; разрез для анализа — артефакт операции «разделить классы решений» для темы «Human in the Loop»: срез данных и правило включения» показывает и качество, и задержку очереди. Полномочия человека, срок ответа и запасной маршрут фиксируются до запуска.

Рабочий объект: операция «разделить классы решений» в контуре «Human in the Loop».
Владелец результата: редактор набора данных.
Стоп-сигнал: при действии «разделить классы решений» в теме «Human in the Loop» возникает отклонение: данные оценки не соответствуют рабочему потоку.
Материал приёмки: артефакт операции «разделить классы решений» для темы «Human in the Loop»: срез данных и правило включения.

Задать порог уверенности: Human in the Loop

Проверьте ключ записи на входах из разных каналов. Контрольная точка человека «задать порог уверенности» нужна там, где цена ошибки выше выгоды полной автоматизации. В теме «Human in the Loop» роль ML-инженер получает «карточка приёмки «задать порог уверенности» с версией правила; отдельный контроль — артефакт операции «задать порог уверенности» для темы «Human in the Loop»: версии модели, промпта и конфигурации» и решает случай «ситуация «при действии «задать порог уверенности» в теме «Human in the Loop» возникает отклонение: версия модели или промпта не зафиксирована» требует от роли «ML-инженер» выполнить «задать порог уверенности»; к примеру прикладывается артефакт операции «задать порог уверенности» для темы «Human in the Loop»: версии модели, промпта и конфигурации». Сигнал «при действии «задать порог уверенности» в теме «Human in the Loop» возникает отклонение: версия модели или промпта не зафиксирована» блокирует автоматический проход. Метрика «доля операций «задать порог уверенности», принятых без повтора, и время до завершения; разрез для анализа — артефакт операции «задать порог уверенности» для темы «Human in the Loop»: версии модели, промпта и конфигурации» показывает и качество, и задержку очереди. Полномочия человека, срок ответа и запасной маршрут фиксируются до запуска.

Рабочий объект: операция «задать порог уверенности» в контуре «Human in the Loop».
Владелец результата: ML-инженер.
Стоп-сигнал: при действии «задать порог уверенности» в теме «Human in the Loop» возникает отклонение: версия модели или промпта не зафиксирована.
Материал приёмки: артефакт операции «задать порог уверенности» для темы «Human in the Loop»: версии модели, промпта и конфигурации.

Выбрать контрольную точку: Human in the Loop

Назовите сотрудника, который вправе принять итог. Контрольная точка человека «выбрать контрольную точку» нужна там, где цена ошибки выше выгоды полной автоматизации. В теме «Human in the Loop» роль специалист по качеству получает «карточка приёмки «выбрать контрольную точку» с версией правила; отдельный контроль — артефакт операции «выбрать контрольную точку» для темы «Human in the Loop»: метрики по сегментам и журнал ошибок» и решает случай «ситуация «при действии «выбрать контрольную точку» в теме «Human in the Loop» возникает отклонение: одна средняя метрика скрывает провал сегмента» требует от роли «специалист по качеству» выполнить «выбрать контрольную точку»; к примеру прикладывается артефакт операции «выбрать контрольную точку» для темы «Human in the Loop»: метрики по сегментам и журнал ошибок». Сигнал «при действии «выбрать контрольную точку» в теме «Human in the Loop» возникает отклонение: одна средняя метрика скрывает провал сегмента» блокирует автоматический проход. Метрика «доля операций «выбрать контрольную точку», принятых без повтора, и время до завершения; разрез для анализа — артефакт операции «выбрать контрольную точку» для темы «Human in the Loop»: метрики по сегментам и журнал ошибок» показывает и качество, и задержку очереди. Полномочия человека, срок ответа и запасной маршрут фиксируются до запуска.

Рабочий объект: операция «выбрать контрольную точку» в контуре «Human in the Loop».
Владелец результата: специалист по качеству.
Стоп-сигнал: при действии «выбрать контрольную точку» в теме «Human in the Loop» возникает отклонение: одна средняя метрика скрывает провал сегмента.
Материал приёмки: артефакт операции «выбрать контрольную точку» для темы «Human in the Loop»: метрики по сегментам и журнал ошибок.

Показать человеку контекст: Human in the Loop

Разберите приоритет на обычном и критическом случаях. Контрольная точка человека «показать человеку контекст» нужна там, где цена ошибки выше выгоды полной автоматизации. В теме «Human in the Loop» роль владелец риска получает «карточка приёмки «показать человеку контекст» с версией правила; отдельный контроль — артефакт операции «показать человеку контекст» для темы «Human in the Loop»: матрица разрешённых данных и действий» и решает случай «ситуация «при действии «показать человеку контекст» в теме «Human in the Loop» возникает отклонение: доступ или действие выходит за разрешённую границу» требует от роли «владелец риска» выполнить «показать человеку контекст»; к примеру прикладывается артефакт операции «показать человеку контекст» для темы «Human in the Loop»: матрица разрешённых данных и действий». Сигнал «при действии «показать человеку контекст» в теме «Human in the Loop» возникает отклонение: доступ или действие выходит за разрешённую границу» блокирует автоматический проход. Метрика «доля операций «показать человеку контекст», принятых без повтора, и время до завершения; разрез для анализа — артефакт операции «показать человеку контекст» для темы «Human in the Loop»: матрица разрешённых данных и действий» показывает и качество, и задержку очереди. Полномочия человека, срок ответа и запасной маршрут фиксируются до запуска.

Рабочий объект: операция «показать человеку контекст» в контуре «Human in the Loop».
Владелец результата: владелец риска.
Стоп-сигнал: при действии «показать человеку контекст» в теме «Human in the Loop» возникает отклонение: доступ или действие выходит за разрешённую границу.
Материал приёмки: артефакт операции «показать человеку контекст» для темы «Human in the Loop»: матрица разрешённых данных и действий.

Назначить полномочия: Human in the Loop

Передайте карточку другой смене без устной подсказки. Контрольная точка человека «назначить полномочия» нужна там, где цена ошибки выше выгоды полной автоматизации. В теме «Human in the Loop» роль инженер наблюдаемости получает «карточка приёмки «назначить полномочия» с версией правила; отдельный контроль — артефакт операции «назначить полномочия» для темы «Human in the Loop»: трасса входа, контекста, вызовов и ответа» и решает случай «ситуация «при действии «назначить полномочия» в теме «Human in the Loop» возникает отклонение: журнал не позволяет восстановить решение» требует от роли «инженер наблюдаемости» выполнить «назначить полномочия»; к примеру прикладывается артефакт операции «назначить полномочия» для темы «Human in the Loop»: трасса входа, контекста, вызовов и ответа». Сигнал «при действии «назначить полномочия» в теме «Human in the Loop» возникает отклонение: журнал не позволяет восстановить решение» блокирует автоматический проход. Метрика «доля операций «назначить полномочия», принятых без повтора, и время до завершения; разрез для анализа — артефакт операции «назначить полномочия» для темы «Human in the Loop»: трасса входа, контекста, вызовов и ответа» показывает и качество, и задержку очереди. Полномочия человека, срок ответа и запасной маршрут фиксируются до запуска.

Рабочий объект: операция «назначить полномочия» в контуре «Human in the Loop».
Владелец результата: инженер наблюдаемости.
Стоп-сигнал: при действии «назначить полномочия» в теме «Human in the Loop» возникает отклонение: журнал не позволяет восстановить решение.
Материал приёмки: артефакт операции «назначить полномочия» для темы «Human in the Loop»: трасса входа, контекста, вызовов и ответа.

Настроить очередь проверки: Human in the Loop

Сопоставьте используемую инструкцию с её актуальной версией. Контрольная точка человека «настроить очередь проверки» нужна там, где цена ошибки выше выгоды полной автоматизации. В теме «Human in the Loop» роль руководитель выпуска получает «карточка приёмки «настроить очередь проверки» с версией правила; отдельный контроль — артефакт операции «настроить очередь проверки» для темы «Human in the Loop»: результат контрольной группы и решение о выпуске» и решает случай «ситуация «при действии «настроить очередь проверки» в теме «Human in the Loop» возникает отклонение: изменение выпускается без контрольной группы» требует от роли «руководитель выпуска» выполнить «настроить очередь проверки»; к примеру прикладывается артефакт операции «настроить очередь проверки» для темы «Human in the Loop»: результат контрольной группы и решение о выпуске». Сигнал «при действии «настроить очередь проверки» в теме «Human in the Loop» возникает отклонение: изменение выпускается без контрольной группы» блокирует автоматический проход. Метрика «доля операций «настроить очередь проверки», принятых без повтора, и время до завершения; разрез для анализа — артефакт операции «настроить очередь проверки» для темы «Human in the Loop»: результат контрольной группы и решение о выпуске» показывает и качество, и задержку очереди. Полномочия человека, срок ответа и запасной маршрут фиксируются до запуска.

Рабочий объект: операция «настроить очередь проверки» в контуре «Human in the Loop».
Владелец результата: руководитель выпуска.
Стоп-сигнал: при действии «настроить очередь проверки» в теме «Human in the Loop» возникает отклонение: изменение выпускается без контрольной группы.
Материал приёмки: артефакт операции «настроить очередь проверки» для темы «Human in the Loop»: результат контрольной группы и решение о выпуске.

Обработать тайм-аут: Human in the Loop

Дайте новичку учебный пример и сохраните его решение. Контрольная точка человека «обработать тайм-аут» нужна там, где цена ошибки выше выгоды полной автоматизации. В теме «Human in the Loop» роль дежурный аналитик получает «карточка приёмки «обработать тайм-аут» с версией правила; отдельный контроль — артефакт операции «обработать тайм-аут» для темы «Human in the Loop»: ручная выборка для проверки сигнала» и решает случай «ситуация «при действии «обработать тайм-аут» в теме «Human in the Loop» возникает отклонение: автоматический сигнал принят без ручной проверки» требует от роли «дежурный аналитик» выполнить «обработать тайм-аут»; к примеру прикладывается артефакт операции «обработать тайм-аут» для темы «Human in the Loop»: ручная выборка для проверки сигнала». Сигнал «при действии «обработать тайм-аут» в теме «Human in the Loop» возникает отклонение: автоматический сигнал принят без ручной проверки» блокирует автоматический проход. Метрика «доля операций «обработать тайм-аут», принятых без повтора, и время до завершения; разрез для анализа — артефакт операции «обработать тайм-аут» для темы «Human in the Loop»: ручная выборка для проверки сигнала» показывает и качество, и задержку очереди. Полномочия человека, срок ответа и запасной маршрут фиксируются до запуска.

Рабочий объект: операция «обработать тайм-аут» в контуре «Human in the Loop».
Владелец результата: дежурный аналитик.
Стоп-сигнал: при действии «обработать тайм-аут» в теме «Human in the Loop» возникает отклонение: автоматический сигнал принят без ручной проверки.
Материал приёмки: артефакт операции «обработать тайм-аут» для темы «Human in the Loop»: ручная выборка для проверки сигнала.

Собирать исправления: Human in the Loop

Возьмите рисковый сегмент отдельно от общей средней. Контрольная точка человека «собирать исправления» нужна там, где цена ошибки выше выгоды полной автоматизации. В теме «Human in the Loop» роль руководитель реагирования получает «карточка приёмки «собирать исправления» с версией правила; отдельный контроль — артефакт операции «собирать исправления» для темы «Human in the Loop»: условие остановки и процедура отката» и решает случай «ситуация «при действии «собирать исправления» в теме «Human in the Loop» возникает отклонение: у команды нет владельца и безопасного отката» требует от роли «руководитель реагирования» выполнить «собирать исправления»; к примеру прикладывается артефакт операции «собирать исправления» для темы «Human in the Loop»: условие остановки и процедура отката». Сигнал «при действии «собирать исправления» в теме «Human in the Loop» возникает отклонение: у команды нет владельца и безопасного отката» блокирует автоматический проход. Метрика «доля операций «собирать исправления», принятых без повтора, и время до завершения; разрез для анализа — артефакт операции «собирать исправления» для темы «Human in the Loop»: условие остановки и процедура отката» показывает и качество, и задержку очереди. Полномочия человека, срок ответа и запасной маршрут фиксируются до запуска.

Рабочий объект: операция «собирать исправления» в контуре «Human in the Loop».
Владелец результата: руководитель реагирования.
Стоп-сигнал: при действии «собирать исправления» в теме «Human in the Loop» возникает отклонение: у команды нет владельца и безопасного отката.
Материал приёмки: артефакт операции «собирать исправления» для темы «Human in the Loop»: условие остановки и процедура отката.

Пересматривать пороги: Human in the Loop

Назначьте дату повторного замера и условие возврата. Контрольная точка человека «пересматривать пороги» нужна там, где цена ошибки выше выгоды полной автоматизации. В теме «Human in the Loop» роль финансовый аналитик получает «карточка приёмки «пересматривать пороги» с версией правила; отдельный контроль — артефакт операции «пересматривать пороги» для темы «Human in the Loop»: расчёт качества, задержки и полной стоимости» и решает случай «ситуация «при действии «пересматривать пороги» в теме «Human in the Loop» возникает отклонение: улучшение качества оплачено неприемлемой стоимостью или задержкой» требует от роли «финансовый аналитик» выполнить «пересматривать пороги»; к примеру прикладывается артефакт операции «пересматривать пороги» для темы «Human in the Loop»: расчёт качества, задержки и полной стоимости». Сигнал «при действии «пересматривать пороги» в теме «Human in the Loop» возникает отклонение: улучшение качества оплачено неприемлемой стоимостью или задержкой» блокирует автоматический проход. Метрика «доля операций «пересматривать пороги», принятых без повтора, и время до завершения; разрез для анализа — артефакт операции «пересматривать пороги» для темы «Human in the Loop»: расчёт качества, задержки и полной стоимости» показывает и качество, и задержку очереди. Полномочия человека, срок ответа и запасной маршрут фиксируются до запуска.

Рабочий объект: операция «пересматривать пороги» в контуре «Human in the Loop».
Владелец результата: финансовый аналитик.
Стоп-сигнал: при действии «пересматривать пороги» в теме «Human in the Loop» возникает отклонение: улучшение качества оплачено неприемлемой стоимостью или задержкой.
Материал приёмки: артефакт операции «пересматривать пороги» для темы «Human in the Loop»: расчёт качества, задержки и полной стоимости.

Матрица контроля и владения

Проверка	Доказательство	Когда смотреть
Полнота	вход, история и итог «Human in the Loop» связаны	ежедневно
Срок	таймер «Human in the Loop» имеет начало, паузы и финиш	еженедельно
Качество	выборка «Human in the Loop» сверена с исходниками	еженедельно
Причина	отклонение «Human in the Loop» привязано к этапу	ежемесячно
Эффект	для «Human in the Loop» есть исходная и контрольная линии	после каждого изменения

Что изучить дальше

Чек-лист запуска

Граница «Human in the Loop» записана одним предложением.
Каждый статус «Human in the Loop» означает наблюдаемое состояние.
Для риска «Human in the Loop» есть ручной маршрут.
Поля «Human in the Loop» собираются только для решения.
Версия правила «Human in the Loop» сохраняется с результатом.
Исходная линия «Human in the Loop» снята до автоматизации.
Метрики «Human in the Loop» разделены по типу и сложности.
Для «Human in the Loop» назначены дата проверки и откат.

Остался вопрос по теме статьи? Напишите его в предложку блога — отвечаю лично: задать вопрос в MAX. Частые вопросы разбираю отдельными статьями и присылаю ссылку тому, кто спросил.

Частые вопросы

С чего начать работу по теме «Human in the Loop»?

Для «Human in the Loop» выберите один поток, зафиксируйте исходные метрики и пройдите весь цикл вручную. После этого будет видно, какой шаг требует изменения.

Какую метрику выбрать для «Human in the Loop»?

Основной набор: доля передач человеку, точность решений, время очереди и предотвращённые ошибки. Обязательно разделяйте его по типу запроса, каналу и сложности.

Когда нужна ручная проверка в «Human in the Loop»?

Для «Human in the Loop» ручная проверка нужна при новой теме, низкой уверенности автоматики, высоком риске для клиента и после изменения правил.

Как понять, что «Human in the Loop» работает?

Целевое состояние такое: человек подключается в заранее выбранных точках с понятными полномочиями и сроком решения. Проверяйте не только средний показатель, но и выборку конкретных случаев.

Как часто пересматривать правила «Human in the Loop»?

Правила «Human in the Loop» пересматривают раз в месяц при стабильном потоке и сразу после релиза, нового канала или заметного сдвига защитной метрики.

Темы #служба поддержки #практическое руководство

Статья помогла?

Николай Шаповалов Основатель Tapbox, делает сервисы для MAX Канал автора в MAX