QwenPaw 2.0 Runtime 架构升级解析:架构、实现与扩展

Cosolar 5 阅读 大模型技术架构

声明:本文转载自 QwenPaw,资料仅供学习参考使用。

1. 背景与动机——为什么需要 Runtime 架构升级

核心痛点

在 Runtime 架构升级之前,QwenPaw 的请求处理集中在一个 AgentRunner.query_handler() 方法中——这是一个超过 650 行的 god method。每个新功能(任务模式、编程模式、计划模式、定时任务隔离、Skill 注入……)都需要侵入式修改这个核心函数,不断增加 if/else 分支和交叉的状态管理。

一个具体的例子:当时要加一个 /mission 功能,需要改动 8 个文件,其中 2 个是核心文件的侵入式修改。每次新增功能,runner.py 都要多出 ~40 行。这样的开发模式带来了严重的维护负担和合并冲突。

具体痛点总结:

目标

一个功能 = 一个目录。Runtime 主体代码 = 零行改动。


2. 整体架构

分层设计

升级后的架构采用了操作系统风格的分层架构:

Runtime 架构升级 — 分层设计

以下是代码中实际实现的结构:

AppServiceManager(FastAPI lifespan 级,跨 workspace 共享)
│   ├── TaskTracker(跨 workspace 任务追踪)
│   ├── ToolCoordinator(跨 workspace tool 生命周期管控)
│   └── ApprovalCoordinator(子 agent 审批)
│
└── Workspace (per-agent)
    ├── Runtime(执行引擎:8-phase orchestration)
    ├── ServiceManager(per-agent 资源生命周期)
    │   ├── MemoryManager / CronManager / ChatManager
    │   ├── DriverManager (MCP / Channel / ACP / A2A)
    │   └── SessionManager
    └── WorkspacePlugins(per-workspace 注册表)
        ├── HookRegistry(8 阶段 hook 编排)
        ├── SlashCommandRegistry(统一命令分发)
        ├── ToolRegistry(声明式 tool 注册)
        ├── PromptManager(可插拔 prompt 构建)
        └── modes: list[AgentMode](行为模式列表)

核心职责分离

严格契约:AppServiceManager 有且只有三个字段——task_trackertool_coordinatorapproval_coordinator。代码通过 __slots__ 强制约束,添加任何其他字段都违反契约。Per-workspace 的状态属于 WorkspacePlugins / ServiceManager

代码中的实际约束:

# src/qwenpaw/app/app_services/app_service_manager.py

class AppServiceManager:
    __slots__ = (
        "task_tracker",
        "tool_coordinator",
        "approval_coordinator",
    )

3. Runtime:8 阶段编排引擎

核心:Runtime.run()

之前的痛点是 runner 是一个 god method。解决方案是把请求处理拆成 8 个固定阶段,每个阶段是 hook 的挂载点。

Runtime 类(src/qwenpaw/runtime/runtime.py)是 per-workspace 的请求编排器。每个请求调用 run(),通过 8 阶段生命周期产出 SSE 信封对象。

class Runtime:
    """Per-workspace request orchestrator.
    One ``Runtime`` instance per ``Workspace``.  ``run()`` is called once
    per ``AgentRequest`` and yields SSE envelope objects."""

8 个阶段

定义在 src/qwenpaw/runtime/phases.py 中:

class Phase(str, Enum):
    PRE_DISPATCH = "pre_dispatch"       # 请求规范化,slash 分发前
    POST_DISPATCH = "post_dispatch"     # slash 分发无匹配后
    PRE_AGENT_BUILD = "pre_agent_build" # session 加载等构建前准备
    POST_AGENT_BUILD = "post_agent_build"  # agent 已构建;注入模式上下文
    PRE_EXECUTE = "pre_execute"         # bootstrap / prompt 刷新
    POST_RESPONSE = "post_response"     # session 保存 / cron 写回
    ON_ERROR = "on_error"               # 异常规范化
    FINALLY = "finally"                 # 幂等清理

执行流程

Runtime.run() 的实际执行流程将 hook 阶段固定步骤交替排列:

Runtime.run() — 8 阶段编排引擎

[Phase 1] PRE_DISPATCH hooks           ← 可插拔
[Fixed 1] SlashCommandRegistry.dispatch ← 固定:统一命令分发
[Phase 2] POST_DISPATCH hooks           ← 可插拔
[Phase 3] PRE_AGENT_BUILD hooks         ← 可插拔(session load 等)
[Fixed 2] AgentBuilder.build(ctx)       ← 固定:构建 agent
[Phase 4] POST_AGENT_BUILD hooks        ← 可插拔
[Phase 5] PRE_EXECUTE hooks             ← 可插拔(bootstrap 等)
[Fixed 3] AgentExecutor.run(msgs)       ← 固定:执行 agent
[Phase 6] POST_RESPONSE hooks           ← 可插拔(session save 等)
[Phase 7] ON_ERROR hooks                ← 异常时触发
[Phase 8] FINALLY hooks                 ← 始终执行(清理)

关键设计:阶段点位固定,注册在每个阶段的 hook 可插拔。 新增功能 = 新增 hook,不需修改 Runtime.run()

三种 Hook 动作

每个 hook 返回 HookResult,包含三种动作之一(src/qwenpaw/runtime/hooks.py):

class HookAction(str, Enum):
    CONTINUE = "continue"           # 继续执行下一个 hook / phase
    SHORT_CIRCUIT = "short_circuit" # 立即返回 payload,结束当前请求
    SKIP_AGENT = "skip_agent"       # 跳过 agent 构建和执行,但后续 hook 仍执行

例如,当匹配到 slash 命令时,Runtime.run() 设置 skip_agent = True——agent 构建和执行步骤被跳过,但 POST_RESPONSEFINALLY hook 仍然执行,确保 session 持久化和清理。


4. Agent 构建与执行

之前的痛点是 tool 硬编码在 agent 类中、prompt 拼接分散。解决方案是通过 AgentBuilder 声明式组装和 AgentExecutor 心跳执行。

AgentBuilder — 每个请求的 Agent 组装

AgentBuildersrc/qwenpaw/runtime/builder.py)负责为每个请求构建一个完整的 QwenPawAgent,它整合了:

关键改进:tool 不再硬编码在 agent 类中。 它们通过 workspace 的 list_tools() 获取,该方法内部使用 ToolRegistry(tool 通过 @tool_descriptor 装饰器注册)根据活跃的 mode、skill 和 feature 按请求过滤。

AgentExecutor 与 Envelope

AgentExecutorsrc/qwenpaw/runtime/executor.py)驱动 agent 的 reply stream,并包装心跳机制——确保在长时间空闲期间(如 tool-guard 审批等待),发出 keep-alive 信封而不是让 SSE 连接断开。

Envelopesrc/qwenpaw/runtime/envelope.py)是 SSE 状态机,负责将 agentscope 的 EventType 事件翻译为前端的流式信封协议,跟踪每个请求的状态(文本块、推理块、工具调用、数据块)并产出正确的事件序列。


5. Hook 系统——核心可扩展性机制

这是本次架构升级的核心可扩展性机制。之前加一个新功能要侵入 runner,现在只需注册 hook。

Hook 系统类层次与执行机制

两类 Hook

升级后的架构提供两种 hook 基类,服务于不同场景:

两者都继承自 runtime/hooks.py 中的 HookBaseModeGatedHook 自动在 run() 中检查 self.owner_mode.is_active(ctx),不满足则直接跳过。这个设计消除了旧代码中反复出现的 bug:每个 hook 忘记添加 mode 激活检查。

HookRegistry — 拓扑排序

HookRegistrysrc/qwenpaw/runtime/hooks.py)管理 hook 的注册和执行:

  • Hook 按 Phase 分组
  • 同一 phase 内,hook 通过 before / after 约束拓扑排序,priority 作为平局破除
  • 启动时检测环路并抛出 HookCycleError
  • 排序结果缓存,新注册时自动失效
class HookBase:
    phase: Phase
    name: str
    priority: int = 100
    before: tuple[str, ...] = ()  # "run before these hooks"
    after: tuple[str, ...] = ()   # "run after these hooks"

例如,SessionLoadHook 声明 priority = 10(在 PRE_AGENT_BUILD 中较早执行),而 MissionStateLoadHook 声明 after = ("session_load",),确保任务状态在会话状态之后加载。

内置 LifecycleHook

项目当前内置的 LifecycleHook 如下(许多以 setup/cleanup 成对出现,分布在不同阶段):

一个值得注意的模式:setup/cleanup hook 对(如 SkillEnvHook 在 PRE_EXECUTE / SkillEnvCleanupHook 在 FINALLY)通过 ctx.extras 字典在阶段间传递上下文管理器句柄。

AgentMode — 功能包

AgentModesrc/qwenpaw/modes/base.py)是一个行为包:命令、工具、hook 和 prompt contributor 打包在一起。

class AgentMode:
    name: str

    def setup(self, workspace):
        for spec in self.commands():
            workspace.plugins.slash_command_registry.register(spec)
        for desc in self.tools():
            workspace.plugins.tool_registry.register(desc)
        for hook in self.hooks():
            workspace.plugins.hook_registry.register(hook)
        for contributor in self.prompt_contributors():
            workspace.plugins.prompt_manager.register(contributor)

    def commands(self) -> list[CommandSpec]: ...
    def tools(self) -> list[ToolDescriptor]: ...
    def hooks(self) -> list[HookBase]: ...
    def prompt_contributors(self) -> list[PromptContributor]: ...
    def is_active(self, ctx: HookContext) -> bool: ...

setup(workspace) 是注册的唯一入口点。"哪个 mode 拥有什么"可以从四个内容方法中轻松推导。

WorkspacePlugins — 注册表容器

所有 per-workspace 的注册表都位于 WorkspacePluginssrc/qwenpaw/app/workspace/workspace_plugins.py):

@dataclass
class WorkspacePlugins:
    slash_command_registry: SlashCommandRegistry
    hook_registry: HookRegistry
    tool_registry: ToolRegistry
    prompt_manager: PromptManager
    modes: list[AgentMode]

    def register_mode(self, mode: AgentMode, workspace):
        # 实际代码含重复名称检测,重复注册会抛出 ValueError
        self.modes.append(mode)
        mode.setup(workspace)  # one call registers everything

    def active_mode_names(self, ctx) -> set[str]:
        return {m.name for m in self.modes if m.is_active(ctx)}

PromptManager — 可组合的 System Prompt

之前 system prompt 构建分散在 mixin、runner 和 env 模块中,新增一个 prompt 片段需要找到正确的注入点。现在,PromptManagersrc/qwenpaw/runtime/prompt_manager.py)从有序的 PromptContributor 实例中声明式组装 system prompt:

class PromptContributor:
    name: str
    priority: int = 100  # lower = appears earlier

    async def contribute(self, ctx) -> str | None:
        raise NotImplementedError

class PromptManager:
    async def build(self, ctx) -> str:
        parts = []
        for c in self._contributors:  # sorted by priority
            fragment = await c.contribute(ctx)
            if fragment:
                parts.append(fragment.strip())
        return "\n\n".join(parts)

项目内置 9 个 contributors:

新增 prompt 片段 = 写一个 PromptContributor 并注册。不需改动其他文件。值得一提的是,PromptManager.build() 内置了容错机制——单个 contributor 抛异常会被记录日志并跳过,不会导致整个 prompt 构建失败。

ToolRegistry — 声明式 Tool 注册

之前的痛点是 tool 硬编码在 agent 类中,每次加 tool 必须侵入 agent 类 ~80 行。ToolRegistrysrc/qwenpaw/runtime/tool_registry.py)用声明式、可过滤的注册表替代了旧的硬编码 tool 字典。

每个 tool 由一个 ToolDescriptor 描述(以下为核心门控字段,完整定义还包含 async_executiondescriptionmetadata 等):

@dataclass(frozen=True)
class ToolDescriptor:
    name: str
    func: Callable
    enabled_by_default: bool = True
    requires_modes: tuple[str, ...] = ()    # 需要的活跃 mode(任一匹配)
    requires_skills: tuple[str, ...] = ()   # 需要的活跃 skill(任一匹配)
    requires_features: tuple[str, ...] = () # 需要的 feature flag(全部匹配)
    requires_sandbox: tuple[str, ...] = ()  # 沙箱资源需求
    # 此外还有: async_execution, description, metadata 等字段

内置 tool 使用 @tool_descriptor 装饰器在 import 时自动收集

@tool_descriptor(
    requires_modes=("goal",),
    description="Get the current goal status.",
)
async def get_goal(...):
    ...

构建时,ToolRegistry.filter() 根据当前请求的 mode、skill 和 feature 选出正确的 tool——不需要 if/else。

SlashCommandRegistry — 统一命令分发

之前 QwenPaw 有四套并行命令机制:conversation、control、daemon 和 skill,每个方法手写 3 遍。SlashCommandRegistrysrc/qwenpaw/runtime/slash_command_registry.py)将它们统一为一个分发点。

@dataclass(frozen=True)
class CommandSpec:
    name: str
    handler: CommandHandler   # async (ctx, args) -> Msg | None
    aliases: tuple[str, ...]
    category: str             # "builtin" / "daemon" / "control" / "skill" / "user"
    help_text: str

@api_action — 三路自动生成

对于之前列出的痛点 “对外接口三套重复”,@api_actionsrc/qwenpaw/api_action.py)从根本上解决了这个问题:一个装饰器,同时生成 HTTP API、CLI 子命令和 slash 命令

@api_action — 三路自动生成

Manager 类继承 ManagerBase,用 @api_action 标记方法即可:

class CronManager(ManagerBase):
    endpoint_prefix = "crons"

    @api_action(
        methods={"http", "cli", "slash"},
        http_method="GET",
        http_path="/crons/jobs",
        slash_command="cron-list",
    )
    async def list_jobs(self) -> list[CronJobSpec]:
        return await self._repo.list_jobs()

三路生成的实现分布在三个自动注册器中:

新增一个管理接口 = 写一个 @api_action 方法。三路注册自动完成,零重复代码。


7. 跨 Workspace 服务:AppServiceManager

AppServiceManager 持有恰好三个跨 workspace 的 coordinator,通过 __slots__ 强制约束——添加任何其他字段都违反契约。Per-workspace 状态属于 Workspace.plugins / Workspace.service_manager

TaskTracker — 跨 Agent 会话追踪

TaskTracker 跨所有 workspace 追踪进行中的流式请求。它支持优雅关闭(等待活跃会话完成)并提供对当前处理请求的 agent 的可见性。

ToolCoordinator — Tool 调用生命周期

ToolCoordinatorsrc/qwenpaw/tool_calls/)提供了单 tool call 粒度的控制。旧系统中 /stop 只能杀掉整个 agent。现在可以追踪、取消或后台化单个 tool 调用。

关键组件包括 ToolCallEntry(per-call 状态)、ToolCallStatus(PENDING → RUNNING → DONE / CANCELLED 状态机)、ToolCoordinatorMiddleware(注入 agent 中间件栈)、ToolResultPruningMiddleware(工具结果裁剪)、ToolStream(流式工具输出)、ToolCallContext / ToolHookRegistry(HITL 生命周期钩子)等。

ApprovalCoordinator — 跨 Agent 审批

ApprovalCoordinator 处理子 agent 的审批链。因为它位于 AppServiceManager(FastAPI lifespan 级),天然跨所有 workspace——子 agent 的审批请求对父 agent 可见。

ServiceManager — Per-Agent 资源生命周期

ServiceManagersrc/qwenpaw/app/workspace/service_manager.py)管理 per-agent 服务,支持:

  • 声明式描述符 — 每个服务有 ServiceDescriptor,包含优先级、依赖、start/stop 方法
  • 基于优先级的并行启动 — 同优先级服务并发启动
  • 可复用服务 — 标记的服务在 workspace reload 时存活(如 MemoryManager)
  • 可选服务 — 可选服务失败只记日志,不中止 workspace
@dataclass
class ServiceDescriptor:
    name: str
    service_class: type | Callable[[Workspace], type]  # 支持动态类工厂
    init_args: Callable[[Workspace], dict]
    post_init: Callable[[Workspace, Any], None]  # 创建后的可选钩子
    start_method: str
    stop_method: str
    reusable: bool = False
    reload_func: Callable[[Workspace, Any], None]  # 可复用服务 reload 回调
    dependencies: List[str] = []
    priority: int = 100
    concurrent_init: bool = True
    optional: bool = False

8. 全链路实战:一个请求的完整旅程

前面分别介绍了各个模块,现在我们用一个具体场景把它们全部串起来——看一条用户消息从进入系统到返回响应,每个模块分别扮演了什么角色

场景:用户在 Mission Mode 下发送一条对话消息

假设用户之前已经通过 /mission start "部署一个 ECS 实例" 启动了一个任务,此时 Mission Mode 处于激活状态。用户现在发送了一条后续消息:

“先帮我检查一下当前有哪些可用的 ECS 规格”

这条消息不是 slash 命令,所以会走完整的 agent 执行路径。以下是它在系统中的完整旅程:

第一站:Workspace 接收请求

Workspace 是 per-agent 的资源和执行单元。它持有 RuntimeServiceManagerWorkspacePlugins

收到请求后,Workspace 调用 Runtime.run(),开始 8 阶段编排。

第二站:Runtime.run() — 8 阶段逐一执行

Phase 1 + Fixed 1 — 请求规范化与命令分发

LifecycleHook 注入 per-request 上下文变量(workspace_dir、session_id 等)。随后 SlashCommandRegistry 尝试匹配用户消息——“先帮我检查……” 不是 slash 命令,skip_agent 保持 False,继续进入 agent 构建流程。

Phase 3 · PRE_AGENT_BUILD — ModeGatedHook + 拓扑排序实战

这里体现了新架构的两个核心设计:

  • SessionLoadHook(LifecycleHook)先加载 session 状态和对话历史
  • MissionStateLoadHookModeGatedHook, after=("session_load",))随后加载任务状态

关键点:MissionStateLoadHook 声明了 after=("session_load",),HookRegistry 的拓扑排序确保它一定在 SessionLoadHook 之后执行。同时,因为它是 ModeGatedHook,Mission Mode 未激活时会被自动跳过——开发者无需写任何 if/else。

Fixed 2 · AgentBuilder — 三个注册表联动

AgentBuilder 为本次请求声明式组装 agent:ToolRegistry.filter() 根据当前激活的 mode 过滤出正确的 tool 集合;PromptManager.build_sync() 按优先级拼装完整 system prompt;同时注入 ToolCoordinatorMiddleware 使每个 tool call 可被追踪和取消。

→ Tool 不是硬编码的,prompt 不是手拼的——全部声明式、按请求过滤。

Phase 5 — 执行前准备

多个 LifecycleHook 协同完成环境准备:媒体处理、Langfuse trace 开启、Bootstrap 引导信息注入、Skill 环境变量推入等。

Fixed 3 · AgentExecutor — ToolCoordinator 跨层控制

Agent 开始执行,决定调用 alicloud_cli 查询 ECS 规格。这个 tool call 经过 ToolCoordinatorMiddleware,创建 ToolCallEntry 并追踪其状态。如果此时用户发送 /stopToolCoordinator(位于 AppServiceManager 层)可以精确取消这一个 tool call,而不是杀掉整个 agent。Envelope 将产出事件翻译为 SSE 信封协议,心跳机制确保长时间执行期间连接不断开。

Phase 6 + Phase 8 — 持久化与清理

执行完成后,MissionStateSaveHook(ModeGatedHook)保存任务状态,SessionSaveHook 回写 session——与 Phase 3 的 load 形成对称。最后 FINALLY 阶段始终执行清理工作(环境变量弹栈、trace 关闭),无论请求成功还是失败。

对比:如果用户发送的是 Slash 命令

如果用户发送的是 /mission status 而非普通消息:

  1. Phase 1 — 同上,ContextVars 注入
  2. Fixed 1SlashCommandRegistry.dispatch() 匹配到 mission 命令 → 调用 _mission_handler → 返回状态信息 Msg → skip_agent = True
  3. Phase 2 — 命令已匹配成功,POST_DISPATCH 分支不会进入
  4. Phase 3 ~ Fixed 3 — 因 skip_agent = True,agent 构建和执行被跳过
  5. Phase 6SessionSaveHook 仍然执行,确保状态持久化
  6. Phase 8 — 清理 hook 仍然执行

关键点:skip_agent 跳过的是 Phase 3 ~ Fixed 3(构建和执行),但 POST_RESPONSE 和 FINALLY 阶段的 hook 始终执行。这就是为什么 phase 设计比简单的 “提前返回” 更安全——不会遗漏清理和持久化。

对比:开发者想新增一个 Mode

假设你是一个开发者,想在 QwenPaw 中新增一个 Mode。你不需要修改 Runtime 任何一行代码

以项目中已有的 GoalMode 为例,它的目录结构为:

modes/goal/
├── __init__.py      # 导入
├── goal_mode.py     # GoalMode(AgentMode) + setup()
├── tools.py         # get_goal, create_goal, update_goal 等 goal 专属 tool
└── contributor.py   # GoalPromptContributor(PromptContributor)

GoalMode.setup(workspace) 一次调用,commands / tools / prompt 全部注册到 WorkspacePlugins 的注册表中。

这里值得注意:不是每个 Mode 都需要用到全部扩展点。AgentMode 的四个内容方法(commands()tools()hooks()prompt_contributors())都是可选的:

  • GoalMode 使用了 tools + prompt contributor,没有 hooks——它通过 StopHandler 的 Gate 机制(GoalIterationGateGoalBudgetGate)来控制迭代循环
  • MissionMode 使用了 command + hooks + prompt contributor,通过 ModeGatedHook 管理任务状态加载/保存
  • 未来新增的 Mode 可以根据需要自由组合这些扩展点

当 GoalMode 激活时:

  • ToolRegistry 自动过滤出带 requires_modes=("goal",) 的 tool
  • PromptManager 自动包含 GoalMode 的 prompt contributor
  • Runtime 代码改动:零行

9. 总结

前后对比

Runtime 架构升级 — 前后对比

本次架构升级达成了什么

  1. OS 式分层AppServiceManager 管理跨 workspace 共享服务;Workspace per-agent;Runtime per-request 纯执行
  2. 一个功能一个模块 — AgentMode 打包 commands + tools + hooks + prompt;LifecycleHook 处理跨 mode 基础设施
  3. Runtime 零侵入 — 8 阶段 hook 机制扩展;Runtime 仅三个固定步骤(dispatch, build, execute)
  4. 声明式 Agent 构建 — Tool 通过 ToolRegistry + @tool_descriptor;Prompt 通过 PromptManager + PromptContributor
  5. 统一命令分发SlashCommandRegistry 替代四套并行机制
  6. @api_action 三路自动生成 — 一个装饰器同时生成 HTTP API + CLI + slash command,彻底消除接口重复
  7. 单 Tool Call 粒度控制ToolCoordinator 支持单个 tool call 的追踪、取消和后台化
  8. 拓扑排序 Hookbefore / after 约束 + 环路检测,替代脆弱的手动排序
  9. 轻量隔离ServiceManager 处理 per-agent 服务生命周期,支持依赖排序启动和可复用服务