把 Agent 设计原则变成可测试约束

技术可行不等于体验合理

Agent 可以在后台读取、判断和行动，因此设计错误不只会生成一段差文本，还可能让人失去控制。官方课程从空间、时间与核心三个维度提出设计原则。

空间：连接，而非替代

Agent 应帮助人连接到他人、事件与可行动知识，而不是把人的判断与关系“压扁”为一次自动决定。

例如，学习助手可以整理课程证据和练习建议，但不应伪装成老师替学习者证明掌握；旅行助手可以比较方案，但不能在缺少授权时替用户下单。

时间：理解过去、服务现在、适应未来

• 过去：历史必须连同当时状态与上下文保存，不能只留一个结论；
• 现在：在恰当时刻轻推，而不是用通知制造压力；
• 未来：允许偏好与策略被更新，不把旧信息永久固化。

核心：拥抱不确定性，但建立信任

Agent 不可能永远知道答案。可靠行为不是隐藏不确定性，而是：

• 显示使用过的证据；
• 标出推断与缺口；
• 在高影响动作前暂停；
• 让用户查看、纠正与撤回；
• 失败后留下可理解的恢复路径。

把原则变成约束

“尊重用户”无法直接测试。下面的规则可以：

如果动作会对外发布内容，则必须等待明确确认。
如果保存的是敏感信息，则拒绝写入长期记忆。
如果提醒被忽略，则不在同一会话重复弹出。
如果答案证据不足，则显示缺口，不伪造确定结论。

每条约束都应包含触发条件、系统行为和可观察结果。它们应位于真正的执行路径，而不只是产品说明或提示词。

评审一段用户旅程

对任何 Agent 流程，逐步检查：

1. 用户是否知道当前阶段发生了什么；
2. 后台行为是否超出合理预期；
3. 系统何时主动出现，是否可以忽略；
4. 关键动作前是否有足够信息做决定；
5. 完成后是否能查看历史与来源；
6. 错误信息能否被修正或删除；
7. 最坏失败是否有恢复路径。

设计原则不是给界面增加“友好语气”，而是重新分配系统与人的控制权。

Course Helper 的具体约束

首版 Course Helper 使用本地确定性数据，因此可以明确写出：

• 只读取课程索引与内容，不访问其他文件；
• 不把反思答案当成对学习者的永久画像；
• 复习建议可以跳过，课程也不会被锁定；
• 导入覆盖、重置与未来的外部行动需要明确确认；
• Trace 显示动作与观察，但不伪装成模型的隐藏思维过程。

最后一条尤其重要。展示 Agent Trace 的目标是解释系统事件与决策依据，不是声称暴露某个模型完整的内部推理。

本课完成定义

你需要把至少三条抽象设计原则改写成可测试约束，并能评审一个 Agent 用户旅程中的通知、权限、历史和恢复。

本课依据锁定版本的AI Agent 设计原则重构。