↓

研究主线

AI 安全

围绕 AI Agent、安全自动化和工程实践的长期研究。SecurityClaw 是其中一个正在拆解的项目专题。

AI 安全项目专题

SecurityClaw 学习笔记

AI 安全主线下的项目拆解：从 RAG、LangGraph 到技能系统，沿源码和测试理解安全 Agent。

查看系列目录

相关文章

18 篇
AI 安全 / SecurityClaw 3 分钟

18 架构取舍：工作流、单 Agent 与多 Agent

架构取舍的关键不在于哪种形式更高级，而在于问题是否真的需要开放式规划。很多任务更适合普通函数，少数任务适合工作流，只有一部分复杂场景才值得上单 Agent 或多 Agent。

AI 安全 / SecurityClaw 3 分钟

16 安全护栏与权限：Agent 能规划不等于能执行

安全护栏的核心不是告诉模型“别乱来”，而是在运行时明确收回执行权。权限、人工确认、幂等性、预算和注入防护共同构成了 Agent 的真实安全边界。

AI 安全 / SecurityClaw 3 分钟

15 评估、恢复与停止条件：让 Agent 不盲目重试

一个可靠的 Agent 不是永远继续，而是能区分“证据足够”“计划耗尽”“需要恢复”和“必须停止”。停止条件和恢复路径共同决定了系统是否诚实。

AI 安全 / SecurityClaw 5 分钟

10 Agent 原理学习路线：以 SecurityClaw 为案例

这一篇不是继续拆 SecurityClaw 的某个局部，而是把 Agent 开发里最该优先建立的知识顺序排出来：执行循环、工具调用、状态、记忆、RAG、恢复、护栏、可观测性和架构取舍。

AI 安全 / SecurityClaw 4 分钟

08 技能系统的 manifest 契约机制

manifest 在 Agent 系统里不是装饰性配置文件，而是把能力、依赖、调度和运行约束转成机器可验证契约的关键层。

AI 安全 / SecurityClaw 4 分钟

07 Agent 设计的控制面：让不确定性可控

Agent 的控制面不是一个文件，而是一组边界：权限、预算、幂等性、人工确认、可观测性和停止条件共同决定了系统能否被信任。

AI 安全 / SecurityClaw 4 分钟

05 用 LangGraph 构建可控的多步 Agent

多步 Agent 的关键不在于能循环，而在于内层局部重试和外层图式编排如何分层，以及失败如何受控回流。

AI 安全 / SecurityClaw 4 分钟

03 LangGraph 工作流核心机制

LangGraph 在 SecurityClaw 里的价值，不是把流程画成图，而是把规划、执行、评估、恢复和停止这些状态转移规则变成显式可审计代码。

AI 安全 / SecurityClaw 4 分钟

02 RAG 引擎核心流程

在 Agent 系统里，RAG 不是“外接搜索”，而是把证据注入决策循环的知识层。真正关键的不是能搜到什么，而是何时检索、如何降级、怎样控制上下文预算。

AI 安全 / SecurityClaw 4 分钟

01 项目总览与架构概览

先建立总图：一个可运行的 Agent 框架最少需要入口层、编排层、能力层、知识层和基础设施层，这五层共同决定系统是否可扩展、可恢复、可审计。