←新闻详情

Lauren Tan更新于 10月25日 23:46

如何更信任 AI 智能体的代码产出

how do you trust your agents' work more? copy this post/link and give it to your @bot or agent!

AI 导读

Lauren Tan 提出用四层倒金字塔提升对 AI 智能体代码的信任:代码库改进、静态分析、散文式规则(如 AGENTS.md、skills)与人工审查,投入应集中在最上层。她建议把这条帖子直接交给自己的 bot 或智能体,并给出安装工具、新建 Project、用 /recall、/poteto-mode、/correct、/architect 等命令分析历史提交与反馈的步骤。

正文 · AI 翻译

怎样才能更信任你的智能体所做的工作?复制这条帖子/链接,交给你的 @bot 或智能体!

1. 代码库改进:这其实就是良好的软件工程——更好的架构、更强的类型与不变量、清晰的边界。智能体喜欢照抄已有的东西、走最短路径,所以要让“容易做的事”变成“正确的事”。通过代码从根上消除问题,你就再也不用为它操心了。2. 静态分析:lint 规则、测试、CI、形式化验证(例如 TLA+)。这些是极其节省 token 的提前发现问题的方式。3. 散文式规则:注释、规则、AGENTS.md、skills——任何无法强制执行、需要智能体自行判断的内容。尽量少用,但一定要用 /create-verification-skill。4. 人工审查:最难规模化的一层。以智能体提交代码的速度,几乎不可能彻底审查每一个 PR,所以要把精力花在杠杆率最高的地方——设计一个让智能体默认就做对事的环境。

这构成了一个倒金字塔:你希望大部分精力放在顶层,最少的精力放在底层。代码库改进是确定性的,能让 token 使用更高效,也让你晚上睡得更踏实。

安装 https://t.co/u9xIlN3eN0 并新建一个 Project:1. 翻看我 Slack/聊天消息和代码审查评论中,我对 PR、代码、架构给出反馈的地方 2. 对我过去的对话记录使用 /recall,了解我是如何引导智能体的 3. /poteto-mode 对过去的提交使用 /correct 和 /architect,找出智能体最常掉进的坑,然后提出一个方案,重新架构我负责的代码,让它对智能体更友好。用原型验证来回答悬而未决的问题,而不是推回给我,并用真实数据支撑这个方案。4. 在开始之前,使用 /sharpen + /in-your-own-words 并和我确认这个提示词

来源

Lauren Tan