新的契约：人机协作的设计原则

张开发
• 2026/4/21 9:11:24 • 15 分钟阅读

最新文章

推荐文章

相关文章

分享文章

新的契约：人机协作的设计原则
一开始我觉得这个概念有点抽象但读完后发现它其实回答的是一个很现实的问题当 AI 不只是回答问题而是开始自己规划、执行任务时人和 AI 应该怎么分工这篇文章我想从初学者角度简单聊聊自己的理解。为什么要重新思考人机关系以前我们用 AI基本是人提问AI回答人决定要不要采纳但现在的 Agent 不一样了它不仅能“说”还能“做”拆解任务制定计划调用工具执行子任务根据结果调整下一步这说明AI 已经不只是工具更像一个“参与工作的角色”。所以问题也变了人负责什么AI 负责什么谁来做最终决定我理解的核心变化从控制到协作我对这部分最直观的理解是以前是“人发指令AI执行”现在更像“人定目标AI做执行人来把关”也就是说人类不再只是命令发布者而更像目标制定者边界设定者最终审核者而 AI 更适合负责分析规划执行调用工具处理重复工作四个设计原则我的通俗理解1. 互补而不是替代人和 AI 不是竞争关系而是分工协作。人类负责意图、方向、价值判断AI 负责计划、搜索、执行任务一句话总结就是让人负责决策让 AI 负责执行。2. 透明与可解释一个好的 Agent不能只给结果还要让你知道它为什么这么做它查了什么信息它调用了哪些工具哪一步出了问题否则用户很难真正信任它。所以 Agent 不应该只是显示“已完成”而应该展示过程比如正在搜索资料……正在重新规划……发现信息冲突……3. 人类始终保有主导权AI 再强也不能越过人类做最终决定。尤其是这些场景删除数据发邮件大额转账修改重要配置如果是高风险、低置信度、或者涉及隐私和伦理的问题就必须让人介入确认。我的理解是AI 可以自动做事但关键按钮必须在人手里。4. 共同学习与成长人机协作不是一次性的而是持续迭代的。人通过反馈教 AI 更懂需求AI 也可能反过来提供新的思路和更高效的方法所以 Agent 不是一个固定工具而是一个会不断“磨合”的协作伙伴。我的感受作为初学者我觉得这部分内容最有启发的一点是学习 Agent不只是学怎么调用模型、写 Prompt、接工具更重要的是学会怎么设计“人和 AI 的合作方式”。因为真正难的不一定是把 Agent 跑起来而是让它跑得对跑得安全跑得可控跑得让人放心总结如果用一句话总结我的理解那就是当 AI 从工具变成 Agent软件设计的重点也从“功能实现”变成了“人机协作设计”。

更多文章