Коротко
Человек в контуре (human-in-the-loop) означает, что человек проверяет или подтверждает работу ИИ-системы в важных точках. Для ИИ-агентов это обычно значит, что агент сам выполняет безопасные шаги, например чтение и черновики, и останавливается, ожидая вашего подтверждения, перед шагами, которые что-то меняют: отправкой, оплатой, удалением или публикацией.
Типичные контрольные точки
- Перед действием за пределами приложения: отправить письмо, создать счёт, изменить DNS.
- Перед удалением или перезаписью чего-либо.
- Перед сохранением в долговременную память того, что узнано из внешнего источника.
- В конце: проверить результат, прежде чем отметить задачу выполненной.
В BusyBee.Day
Боты показывают карточку подтверждения с точным описанием того, что они хотят сделать, и ждут. Результаты задач ждут вашей проверки. Для каждого подключённого действия можно выбрать: выполнять само, спрашивать заранее или выключить.
Вопросы и ответы
Замедляет ли человек в контуре работу агента?
Только в контрольных точках. Остальное агент делает сам, поэтому вы тратите секунды на подтверждение вместо минут на выполнение.