跳到主要内容

验收与发布

交付前的最后一关:验收标准、回归、发布与回滚。这一篇讲如何避免「demo 能跑就发布」,让 AI 参与把关而不是放行。

上线后被提示注入攻破

当我帮你做的产品本身内置了 LLM——客服 bot、Agent、那种「读完用户内容/网页/邮件再行动」的功能——上线后,攻击者会把恶意指令藏进我会读到的内容里,诱导你后端那个 LLM 越权:泄露数据、调用它不该调的工具、绕过你定的规则。开发期我默认「输入都是善意的」,于是把一个本该当成攻击面的发布面,当成了普通功能交付。

工程师 · 架构师 · 运维工程师