实战 SOP
实战 SOP

Bedrock AgentCore V2 快照:四种架构模式别都叫预热

按 AWS 官方四个章节名,把 Bedrock AgentCore runtime V2 的会话启动落成可自行核对的步骤:先看 CloudWatch 的 Latency 与 OverheadLatency,再把 imports 与静态数据移进 init,用 Working with hooks 处理构建期大文件,最后以 Pre-warm on user engagement 在后台发预热请求并复用 session ID。写明 120 秒 /ping 闸门、默认 V2 只针对新建与更新、存量须显式 platformVersion=V2、示例代码属非生产用途;官方两页的 Region 数与冷启动口径分歧原样两存。

发布于 2026年11月15日9 分钟阅读
<!-- bedrock-agentcore-v2-session-sop | sop | Bedrock AgentCore V2 快照:四种架构模式别都叫预热 -->

截至 2026 年 11 月 14 日,围绕 Bedrock AgentCore runtime 这一轮更新,最常见的转述偏差是把 AWS 官方给出的四个章节一律叫成「预热模式」。官方在 2026 年 11 月 13 日的架构文章里,原话是 four patterns to keep work off the first request,也就是四种把工作从首个请求前移的架构模式,本篇下文统称四种架构模式。四个章节里,第一项是测量,第二项是代码结构调整,第三项是构建期钩子,只有第四项 Pre-warm on user engagement 字面上才是预热。把四项都叫预热,会让读者误以为平台准备了四套预热开关,也会把测量、改造初始化逻辑、钩子这三类动作混成一谈;落到实操上,往往就是该量化的没量化、该改代码的却跑去调开关。本篇按官方四个章节名逐一落成可核对步骤,把 V2 的快照恢复机制、120 秒 /ping 闸门、两类 CloudWatch 指标,以及四种架构模式各自解决的边界,整理成一份能自己逐项复核的会话启动清单。文中数字与措辞以 AWS 官方四页为准,核验时以官方页与实测为准。

一、先看清楚 V2 改了什么:默认、快照与迁移开关

把「预热」这个词先放一边,得先弄清 V2 到底改了哪一层。按 What's New 页(Posted on: Nov 12, 2026)的表述,新 runtime 会从你已初始化的 agent 的一份快照恢复每个会话,计算与内存随实际工作伸缩,并让空闲的 agent 伸缩到零;每个会话仍然跑在各自硬件隔离的 Firecracker microVM 里。换句话说,会话启动不再是每次从零把进程拉起来,而是从一份已经初始化好的状态恢复,这就是冷启动不再随镜像体积线性增长的前提。时间点要写准:自 2026 年 11 月 12 日起,新建 runtime 默认使用下一代,官方原句里那个相对时间词在本篇按要求改写,不逐字引用。

「默认」两个字有严格边界,值得单独拎出来。它只针对新建与更新:已存在的 runtime 会一直留在当前版本,直到你主动迁移。也就是说,存量并不会因为这次更新就自动升级到 V2;要把存量切到下一代,必须显式设 platformVersion=V2,若确实想留在旧版,则设 V1。把「默认 V2」读成「存量自动升级」,是这篇最容易被转错的一处,核验时务必分清新建与存量两条线。

与快照配套的还有一道时间闸门,实操里不能忽略。按 Weekly Roundup 页(November 9, 2026),创建与更新会花上数分钟来准备快照,容器必须在 120 秒内于 /ping 上报健康。架构文章写得更细:创建或更新 runtime 时,AgentCore runtime 会在一个全新的 microVM 里启动容器,等待第一个健康 ping,也就是 GET /ping,这个 ping 必须在 120 秒内到达;随后它会清空操作系统的文件缓存以保持快照体积,冻结 microVM,并把内存与磁盘存成一份快照。把这条串起来看,快照不是凭空生成的,而是「启动容器、等健康 ping、清缓存、冻结、落盘」这一串动作的结果,/ping 能否在 120 秒内返回健康,直接决定这份快照能不能成立。

容量与指标也有明确口径,别当成实测数字去读。官方写的是会话可伸缩到 8 vCPU、32 GB 内存,支持上限 10 GB 的容器镜像;这是单会话的容量上限,不是某次实测跑出来的用量。指标那句同样带限定:On a 2 GB image,会话在 P75 于 under 2 seconds 内启动,相比上一代的 29.7 seconds;这里必须带上 P75 与「2 GB 镜像」这两个条件,不能写成平均值,也不能推成「所有镜像都在两秒内」。至于多轮 agent 的账单内存,官方用的是 up to 68% less billed memory per session,这是一个上限值,不是保证值。另外 V2 当时标注为在 10 Regions 可用,committed baseline pricing 标注为 coming soon,这两点按官方措辞保留即可。

二、Measure before you optimize:先测量,别先动手

第一个章节名就是一句方法要求:Measure before you optimize。官方说明,AgentCore runtime 把两类指标都发到 AWS/Bedrock-AgentCore 命名空间的 Amazon CloudWatch metrics 里。一类是 Latency,含义是 time to first byte,即首字节时间;另一类是 OverheadLatency,指属于平台的那一部分,例如在新会话里启动 microVM、恢复快照所花的开销。这两类指标分开看,才能判断慢的是平台侧还是应用侧。

这一项之所以排在四步之首,是因为后面三步动的是完全不同的地方:改 init、加构建钩子、后台预热,各自针对的瓶颈并不一样。若不做测量就上手,很容易把平台开销误当成应用初始化慢,或者反过来,把时间花在收益最小的那一环。官方建议报 P90 或 P99 而不是均值,原因也在这里:均值会把长尾抹平,而用户真正感知到的卡顿往往正是长尾那部分。把这个测量结果留作基线,第三步、第四步做完后才有可比性。需要说清楚的是,Measure before you optimize 本身是一项测量动作,既不是预热,也不改变任何代码路径,它只是让后面三步有据可依。

三、Keep work off the first request:把工作从首个请求前移

第二个章节名是 Keep work off the first request,字面意思就是把工作从首个请求上挪走。做法是把 imports、建立客户端、加载静态数据这些事放进 init 阶段,也就是 app.run() 之前、/ping 报健康之前完成。结合第一节的快照流程就明白了:init 发生在容器冻结成快照之前,初始化好的状态会随快照一起被恢复,于是原本要在首个请求里做的事,被前移到了会话恢复之前。这是四种架构模式里最像「改代码」的一项,本质上是代码结构调整,不是什么预热开关。

这里有一处很容易踩空的细节。官方写明 Files from your image are loaded lazily,镜像里的文件是惰性加载的;而文件缓存又会在冻结前被清除。两者叠加的后果是:如果在 init 里只是去读镜像中的文件,并不能带来加速,因为惰性加载加上冻结前清缓存,会让「init 里读过一遍」这件事在快照里留不下多少有用的东西。所以这一节的要点不是「把文件读进 init」,而是把能驻留内存的状态、客户端、静态数据真正构造好。

针对确实需要文件与工具链的场景,官方给的方向是:把长驻的 helper 进程、工具链复制到 RAM 盘 /dev/shm,并设置 UV_COMPILE_BYTECODE=1 预编译字节码。前者让需要的内容待在内存盘里,后者把字节码编译提前完成,都是把工作从运行期挪到准备期。核验时抓三个点:初始化是否在 app.run() 之前、是否误以为 init 读镜像文件就能加速、需要常驻的东西是否放到了 /dev/shm。

四、Working with hooks:用构建期钩子补 init 的盲区

第三个章节名是 Working with hooks。架构文章提到 runtime 现已支持 build hooks:构建钩子会在构建期收到两次 POST,一次在生成快照之前,一次在测试恢复之后。它的定位很清楚,用来处理 init 覆盖不到的内容,例如大文件、命令行工具、浏览器二进制这类不便在 init 里构造的东西。

两次 POST 靠一个请求头来区分。官方原话是 The X-Amzn-Bedrock-AgentCore-Runtime-Warmup-Type header tells your agent which call it's handling,其中第一次对应 memory,第二次对应 disk。也就是说,同一个钩子端点要能按 X-Amzn-Bedrock-AgentCore-Runtime-Warmup-Type 的值判断当前处理的是哪一次调用,分别做内存侧与磁盘侧的准备。这让「构建期」与「运行期」的边界变得很具体:能在构建期固化下来的大件走钩子,而动态数据不能靠它。

官方特别点明,动态数据(例如工具目录、feature flags、凭证)仍须在 handler 里带 TTL 缓存加载。原因与快照机制一致:快照冻结的是某一刻的状态,把会变的东西固化进去只会拿到过期值。因此这一节要同时记住两件事:构建钩子负责把静态大件提前备好,handler 里的动态数据则保持带 TTL 缓存的运行时加载。Working with hooks 是构建期钩子这第三类动作,和字面预热无关;把它也算作「预热模式」,就会模糊「构建期固化」与「首个请求前触发会话」这两条完全不同的路径。

五、Pre-warm on user engagement:四项里只有这一项字面是预热

第四个章节名是 Pre-warm on user engagement,这才是四项里字面带 Pre-warm 的那一项。官方做法写得很具体:Generate a session ID,在后台给 agent 发一个 warm-up request,并把这个 session ID 与会话绑定保留下来。之后用户真正发消息时,沿用同一个 session ID,命中已经准备好的会话,于是启动那段等待被提前消化掉。

它与前三项的思路恰好构成对照:前三项是把工作从首个请求前移(测量是量化、init 是改代码结构、构建钩子是构建期固化),这一项则是不移动工作,而是提前把会话触发起来,用一次后台请求把会话准备好的时间藏到用户操作之前。官方说 This pattern needs no extra infrastructure,不需要额外基础设施,并在用户从进入到发出消息超过约 2 秒时,完全隐藏会话启动;这里的「超过约 2 秒」是前提条件,不能读成无条件地零冷启动。

代价也写得明白:It costs a session for each user who engages but never sends a prompt,每个进入却始终没发消息的用户都会占掉一个会话;A short idle timeout keeps that small,用一个较短的 idle timeout 能把这部分开销收敛住。核验时把前提与代价一起记:后台预热请求、复用 session ID、超过约 2 秒才隐藏启动、短 idle timeout 收敛空会话。把四种架构模式逐一对照下来,只有 Pre-warm on user engagement 是字面预热,其余三项分别是测量、代码结构调整与构建期钩子,这正是标题里「别都叫预热」要纠正的地方。

六、收尾:可核对清单、官方两处分歧与 H4 的边界

把全篇收成一份能自己逐项复核的清单:四种架构模式各自解决什么(测量、把工作从首个请求前移、构建期钩子、字面预热)、/ping 须在 120 秒内报健康、两类 CloudWatch 指标 Latency 与 OverheadLatency 的分工、动态数据不能进快照、示例代码属非生产用途。这五条覆盖了机制、指标与边界,逐条对照官方页即可核验,不需要任何本站之外的推断。

有两处官方两页口径不一致,按红线原样两存,既不二选一,也不替官方解释原因。其一是 Region 数量:Weekly Roundup 页写 10 Regions,而 What's New 页列出 19 个 Region,两处数字并陈保留。其二是冷启动口径:What's New 页给的是固定 2 GB 镜像的点值,即 On a 2 GB image、P75 under 2 seconds、上一代 29.7 seconds;Weekly Roundup 页给的是区间趋势,即从 200 MB 到 2 GB 都约 2 秒,而原 runtime 随镜像变大从约 5.4 秒升到近 30 秒。一处是点值,一处是趋势,本篇都按原文保留,不做取舍,也不推测差异缘由。

同一批里还有一篇 2026 年 11 月 13 日的指南只作一句方法论背景:price per token alone isn't a reliable guide,判断路由应看 cost per solved task,即总运行成本除以测试通过的运行数。本篇不把它展开成成本路由 SOP。要特别分开的是,那篇里的 Stage 与 Random 是两种路由策略(Neither strategy calls a judge model.),与本篇 H3 的四种架构模式是两条不同的线索,不能混为一谈。该指南附带的示例也要标清边界:示例从 crates.io 安装 switchyard-server 0.3.0、运行已发布的 LiteLLM v1.102.0 镜像,NVIDIA 把 switchyard-server 0.3.0 记为 demo and evaluation component,官方写明 This is sample code,for non-production usage,集成属 experimental;因此它是示例代码、非生产用途、实验性集成,不能照搬进生产。本篇通篇不编造控制台按钮、菜单路径或截图,也不承诺照做即可零冷启动,一切以官方页与实测为准。

需要区分开的是,本篇讲的是会话启动阶段这四种把工作从首个请求前移的架构模式,并不覆盖运行时整体选型、并发或可观测性。谈运行时选型的见站内专文运行时选型专文,并发维度见并发对照,指标与追踪见可观测性专文,SDK 之间的差异见SDK 对照。至于启动与关停热点,那是热点评述而非步骤教程,取向不同,别与本篇的可核对步骤混读。

常见问题

Q1:四种架构模式是不是四种预热? A1:不是。四种架构模式对应官方四个章节名,Measure before you optimize 是测量,Keep work off the first request 是代码结构调整,Working with hooks 是构建期钩子,只有第四项 Pre-warm on user engagement 字面才是预热。把四项都叫预热,会混淆测量、改 init 与钩子这三类不同动作。

Q2:已有 runtime 会不会自动升级到 V2? A2:不会。自 2026 年 11 月 12 日起默认使用下一代只针对新建与更新,存量会留在当前版本直到你主动迁移。要把存量切过去须显式设 platformVersion=V2,想留在旧版则设 V1,别把默认写成存量自动升级。

Q3:/ping 与 120 秒到底卡在哪一步? A3:创建或更新 runtime 时,容器在一个全新 microVM 里启动,AgentCore runtime 等第一个健康 ping,即 GET /ping,这个 ping 必须在 120 秒内到达;之后平台清文件缓存、冻结 microVM、把内存与磁盘存成快照。创建与更新因此要花数分钟准备快照,120 秒 /ping 是快照能否成立的前置闸门。

Q4:8 vCPU、32 GB、10 GB 和 under 2 seconds 是实测值吗? A4:不是实测用量。8 vCPU、32 GB 内存、10 GB 镜像是单会话容量上限;under 2 seconds 须带限定 On a 2 GB image 与 P75,上一代为 29.7 seconds,不能写成平均或所有镜像。up to 68% less billed memory per session 是上限值而非保证值。

Q5:为什么动态数据不能靠构建钩子或快照固化? A5:快照冻结的是某一刻的状态,把会变的工具目录、feature flags、凭证固化进去只会拿到过期值。官方要求动态数据仍须在 handler 里带 TTL 缓存加载;构建钩子负责的是 init 覆盖不到的大文件、命令行工具、浏览器二进制这类静态大件。

延伸阅读

本文由 AI 辅助生成,经人工审核编辑。最后更新:2026-11-15

常见问题

四种架构模式是不是四种预热?
不是。四种架构模式对应官方四个章节名,Measure before you optimize 是测量,Keep work off the first request 是代码结构调整,Working with hooks 是构建期钩子,只有第四项 Pre-warm on user engagement 字面才是预热。把四项都叫预热,会混淆测量、改 init 与钩子这三类不同动作。
已有 runtime 会不会自动升级到 V2?
不会。自 2026 年 11 月 12 日起默认使用下一代只针对新建与更新,存量会留在当前版本直到你主动迁移。要把存量切过去须显式设 platformVersion=V2,想留在旧版则设 V1,别把默认写成存量自动升级。
/ping 与 120 秒到底卡在哪一步?
创建或更新 runtime 时,容器在一个全新 microVM 里启动,AgentCore runtime 等第一个健康 ping,即 GET /ping,这个 ping 必须在 120 秒内到达;之后平台清文件缓存、冻结 microVM、把内存与磁盘存成快照。创建与更新因此要花数分钟准备快照,120 秒 /ping 是快照能否成立的前置闸门。
8 vCPU、32 GB、10 GB 和 under 2 seconds 是实测值吗?
不是实测用量。8 vCPU、32 GB 内存、10 GB 镜像是单会话容量上限;under 2 seconds 须带限定 On a 2 GB image 与 P75,上一代为 29.7 seconds,不能写成平均或所有镜像。up to 68% less billed memory per session 是上限值而非保证值。
为什么动态数据不能靠构建钩子或快照固化?
快照冻结的是某一刻的状态,把会变的工具目录、feature flags、凭证固化进去只会拿到过期值。官方要求动态数据仍须在 handler 里带 TTL 缓存加载;构建钩子负责的是 init 覆盖不到的大文件、命令行工具、浏览器二进制这类静态大件。

相关文章

实战 SOP

GitHub Copilot 弃用六个模型:12 月 14 日前改什么

按 GitHub 官方 changelog 的 2026 年 11 月 13 日公告,把六个模型在 2026 年 12 月 14 日弃用的六句迁移动作摊成可照做的清单:更新 workflows 与 integrations 里硬编码的模型名、在 Copilot settings 的 model policies 启用替代表、model selector 与 global default 各自动哪一处、管理员与普通用户分别会看到什么。六个型号与官方替代建议逐字照表,Kimi K3 的 To be announced 不替官方补型号,Claude Haiku 4.5 年付个人订阅者例外单独写明。官方全文未给任何配置文件名或路径,本篇就不编。

2026年11月16日9 分钟阅读
实战 SOP

OpenRouter 实测:MCP 42 倍 token,大头是工具结果

OpenRouter 在 2026 年 11 月 11 日的官方实测里,把同一个 cli/cli 仓库提问换了三种接法:在 Claude Sonnet 5.5 上,默认开启的 MCP 服务用掉 CLI 的 42 倍输入 token,费用是 17 倍,每 1,000 个任务 $127 对 $7.50。官方 TL;DR 指出的成本大头不是工具定义,而是工具调用后回传的结果,20,400、42,182、8,336 裁剪到 714 等数字都能逐行核对。本篇是单任务实测口径与自测清单,不是接入教程、也不是单价横评;Tool Search 依模型而异,整任务在 Sonnet 上下降、在 Haiku 与 Gemini 上反而变贵,官方也说明它不缩小工具结果。定结论前请照官方建议用 mcp_cost.py 在自己的任务上重测。

2026年11月13日9 分钟阅读