OpenAI
Building guardrails for agents
提供了 agent 风险控制、工具边界和组合式防护的官方框架，是本课关于多层防护设计的重要依据。
打开原始资料返回学习路线查看内容标准
Evaluation
PremiumGuardrails 不是一句提醒：Prompt Injection、权限边界与风险控制
可靠系统不会把安全寄托在一句“请忽略恶意输入”。它会明确谁能下指令、什么内容不可信、哪些动作必须二次确认。
32 分钟
Advanced
Trust Layer
这节课为什么值得学
内容不是从碎片信息拼出来的，而是按“官方资料定义 + 产品实践抽象 + 可执行练习”三层整理。
Learning Objectives
区分系统指令、用户输入、检索文本和工具返回值的信任层级
识别 prompt injection、prompt leak、越权工具调用和虚假确定性的高风险路径
为自己的一个 AI workflow 设计输入隔离、动作确认和拒答边界
Practice Task
选一个会读用户文本、读外部文档或会调工具的 AI 工作流，画出它的 trust boundary：哪些内容绝不能覆盖系统规则，哪些动作必须二次确认，哪些输出必须降级或拒绝。
Editorial Review
已审核 · DepthPilot Editorial · 2026-03-09
本课基于 OpenAI、Anthropic 与 OWASP 的一手风险控制资料，不把安全问题简化成单个 prompt 技巧。
课程强调 trust boundary、动作分层和组合式 guardrails，而不是承诺万能防护。
目标是让用户知道哪里需要拒绝、确认、隔离和降级，而不是一味追求“更聪明的回答”。
知识链路
这节课不是孤立文章，而是知识网络里的一个节点。先知道它连接了哪些底层能力，再决定下一步该补哪一层。
打开完整知识网络学会的证据
你能给一个真实 workflow 画出 trust boundary，说明哪些文本不可信、哪些动作必须确认。
你能指出一条 prompt injection 或越权执行路径，并说清应该在哪一层拦截。
最容易掉进去的误区
把安全需求继续塞进 prompt，以为这就等于 guardrail。
让外部文本、检索结果或工具返回值获得了过高指令权重。
01
Guardrails 不是安全标语，而是执行边界
很多人做 guardrails 的方式，是在 prompt 里再加几句“请安全一点”。这类写法的问题在于：如果系统根本没有权限边界、指令优先级和动作拦截机制，攻击者或噪声文本仍然可能把模型带偏。真正的 guardrail 不是态度，而是边界。