简短回答
人在回路(human-in-the-loop)是指由人在关键节点审核或批准 AI 系统的工作。对于 AI 智能体,这通常意味着智能体会自己完成安全的步骤,例如读取和起草,而在会改变内容的步骤之前停下来等待你的批准,例如发送、付款、删除或发布。
常见的检查点
- 在应用之外执行操作之前:发送电子邮件、创建发票、更改 DNS。
- 在删除或覆盖任何内容之前。
- 在把从外部来源学到的内容保存到长期记忆之前。
- 在最后:标记完成之前审核结果。
在 BusyBee.Day 中
机器人会显示审批卡片,准确说明它们想做什么,然后等待。任务结果会等待你的审核。你可以把每个已连接的操作设为自动运行、先询问或关闭。
常见问题
人在回路会让智能体变慢吗?
只在检查点。其余的工作由智能体自己完成,因此你只需花几秒钟批准,而不是花几分钟自己动手。