← 返回

Envoy CPU 性能分析：用火焰图定位 C++ 热路径

章亦春发布于 Feb 27, 2024 更新于 Aug 24, 2026

用时 5 分钟

阅读次数

即使只是返回一个简单的 “hello world” 响应，Envoy 代理服务器也能将整个 CPU 核心消耗在内部事务处理上。在本案例研究中，OpenResty XRay 生成的 C++ CPU 火焰图揭示了正在运行的 Envoy 进程中三条最热的代码路径——其中 SchedulableCallbackImpl 运算符排名第一——全程无需重启或重新编译二进制文件。吞吐量对比还显示 OpenResty 在相同硬件上处理的请求量比 Envoy 高出 200% 以上。

以下是完整的性能分析流程、火焰图解读和自动化报告配置。

使用 OpenResty XRay 快速透视和解决您的软件问题

场景：Envoy 进程 CPU 占用超 90%

使用 cat 命令查看 Envoy 服务器的配置文件。

您可以看到它通过 1088 端口监听。

它回复的是 “Hello world” 响应体。

测试一下 /hello 接口的响应。响应确实是 “Hello World”。

运行 top 命令来检查 CPU 使用情况。看一下这个名为 envoy 的进程。

可以看到，它消耗了超过 90% 的 CPU 核心资源。

运行 ps 命令查看此进程的完整命令行。这是从 Envoy 官方二进制包仓库下载安装的。

用 C++ 火焰图分析 Envoy CPU 消耗

对实时 Envoy 进程进行性能分析

打开 OpenResty XRay Web 控制台。该机器的仪表盘已经显示 CPU 接近满载，并检测到正在运行的 Envoy 应用。

进入”Guided Analysis”页面，选择”High CPU usage”问题类型。然后选择 Envoy 工作进程——显示 93% CPU 占用，与 top 中看到的一致：

保持默认设置（应用类型：Envoy，语言级别：C/C++，最长运行时间：300 秒），开始分析。经过两轮采样后，OpenResty XRay 自动生成报告，列出最热的 C++ 代码路径：

这是我们要分析的问题类型，CPU。

第一热路径——SchedulableCallbackImpl

这是占用 CPU 时间最多的 C++ 代码路径。

这是 SchedulableCallbackImpl 类重载的运算符。

点击 “More” 查看详情。

上面的热代码路径是从这个 C++ 语言级别的 CPU 火焰图中自动推导出来的。

点击图标放大火焰图。

放大这个 invoke_impl 函数。

Envoy 网络 socket 类的 write 方法执行 socket 写入操作。它会发送 HTTP 响应数据。

Envoy 缓冲区类的 drain 方法用于释放写缓冲区中未使用的内存，并执行其他清理工作。

Envoy 调度类的 clearDeferredDeletedList 方法会释放与当前请求关联的所有资源，并执行所有清理工作。

第二热路径——emitLog 访问日志格式化

看一下这条 CPU 时间占用排名第二的 C++ 热代码路径。

Envoy 代理中的 emitLog 函数用于将访问日志写入文件。

放大火焰图。

放大这个 emitLog 函数。

大多数 emitLog 的 CPU 时间用于格式化日志消息字符串，而不是花在写文件的操作上面。

第三热路径——prepareLocalReplayViaFilterChain

这是花费 CPU 时间第三多的热代码路径。

prepareLocalReplayViaFilterChain 函数在 Envoy 响应输出过滤器链中。链中的每个过滤器都有可能修改响应。

放大火焰图。

放大 prepareLocalReplayViaFilterChain 函数。

createHeaderMap 函数被调用了很多次。它主要用于为 HTTP 头分配新的哈希表。

newUri 函数主要用于分配和格式化 URI 字符串。

setStatus 函数用于设置响应状态码。

BodyFormatter 类的 format 方法用于格式化响应体数据。

setContentLength 方法也用于设置响应长度头。

setReferenceContentType 方法用于设置 Content-Type 响应头。

Envoy 与 OpenResty 吞吐量对比

这是 Envoy 服务器和 OpenResty 之间的性能比较图表。可以看到，OpenResty 的吞吐量比 Envoy 服务器高出 200% 以上。

立即申请 OpenResty XRay 试用

持续 CPU 监控与自动化报告

OpenResty XRay 也可以自动监控在线进程，并生成分析报告。切换到 “Insights” 页面。

您可以在 “Insights” 页面中找到以日和周为周期的报告。其实您不是非得用 “Guided Analysis” 功能。

当然， “Guided Analysis” 对于应用的开发和演示是很有用的。

关于 OpenResty XRay

OpenResty XRay 是一个动态追踪产品，它可以自动分析运行中的应用，以解决性能问题、行为问题和安全漏洞，并提供可行的建议。在底层实现上，OpenResty XRay 由我们的 Y 语言驱动，可以在不同环境下支持多种不同的运行时，如 Stap+、eBPF+、GDB 和 ODB。

立即申请 OpenResty XRay 试用

FAQ：Envoy CPU 性能分析

为什么我的 Envoy 代理 CPU 占用这么高？

本案例的火焰图揭示了常见的 CPU 消耗来源：socket 写入回调与缓冲区清理（SchedulableCallbackImpl）、访问日志字符串格式化（emitLog）、以及包含 HTTP 头哈希表分配在内的响应过滤器链处理（prepareLocalReplayViaFilterChain）。使用 CPU 火焰图分析运行中的进程——而非依赖指标猜测——可以精确定位真正消耗 CPU 的 C++ 代码路径。

如何为 Envoy 生成 CPU 火焰图？

将动态追踪分析器指向 Envoy 工作进程的 PID 即可。OpenResty XRay 的引导式分析会对运行中的二进制文件进行采样，生成 C 语言级别的 CPU 火焰图，并自动排列最热的 C++ 代码路径——无需重编译、重启或代码埋点。另一种方法是使用 gperftools 重新编译 Envoy 并使用 pprof，但这需要源码访问权限和服务重启。

能否在不重启的情况下对生产环境的 Envoy 进行 CPU 分析？

可以。动态追踪工具从外部分析运行中的进程，不修改其代码，也不需要目标进程的任何配合。采样开销可以忽略不计，不采样时对目标进程的影响严格为零——适合对延迟敏感的生产环境部署。

关于作者

章亦春是开源 OpenResty^® 项目创始人兼 OpenResty Inc. 公司 CEO 和创始人。

章亦春（Github ID: agentzh），生于中国江苏，现定居美国湾区。他是中国早期开源技术和文化的倡导者和领军人物，曾供职于多家国际知名的高科技企业，如 Cloudflare、雅虎、阿里巴巴, 是 “边缘计算“、”动态追踪 “和 “机器编程 “的先驱，拥有超过 22 年的编程及 16 年的开源经验。作为拥有超过 4000 万全球域名用户的开源项目的领导者。他基于其 OpenResty^® 开源项目打造的高科技企业 OpenResty Inc. 位于美国硅谷中心。其主打的两个产品 OpenResty XRay（利用动态追踪技术的非侵入式的故障剖析和排除工具）和 OpenResty Edge（最适合微服务和分布式流量的全能型网关软件），广受全球众多上市及大型企业青睐。在 OpenResty 以外，章亦春为多个开源项目贡献了累计超过百万行代码，其中包括，Linux 内核、Nginx、LuaJIT、GDB、SystemTap、LLVM、Perl 等，并编写过 60 多个开源软件库。