线上快速定位阻塞线程的 Go 代码路径(使用 OpenResty XRay)
今天我将向您展示如何使用 OpenResty XRay 快速定位一些阻塞操作系统线程的 Go 代码路径。这些代码可能导致您的进程变慢并使它们不能充分利用 CPU 资源。
问题: CPU 使用率上不去
首先运行 top
命令检查 CPU 的使用情况。
可以看到这个名为 chat-service
的进程。我们已经事先知道这个进程是用 Go 语言实现的。它的 CPU 使用率非常低,只有 2%。即使有很多请求进来,它也不会上升。
让我们看一下这个 golang 应用程序的访问日志。
可以看到,有许多客户端请求正在涌入,可是 CPU 使用率仍然很低。 这意味着有一些东西阻塞了 golang 代码高效运行。我们怎么才能找到原因呢?
使用 OpenResty XRay 的引导式分析功能定位 off-CPU 时间占比最大的 Go 代码路径
我们可以使用 OpenResty XRay 来检查这个未修改的进程。可以对它进行实时分析,并找出原因。
在浏览器中打开 OpenResty XRay 的 Web 控制台。
确保我们当前分析的是正确的机器。
进入 “Guided Analysis” 页面。
这里可以看到系统能分析的不同类型的问题。
让我们选择 “Low CPU usage and cannot go up”。
点击“下一步”。
选择之前的 Go 应用程序。
选择消耗 2% CPU 资源的进程。也就是我们之前在 top
中看到的。
确保应用程序的类型是正确的。通常默认值就是对的。
这里的语言级别就只有 “Go” 了。
我们还可以设置最大分析时间,这里保持默认的 300 秒不变。
开始分析。
系统将持续执行多轮分析,现在它正在运行第一轮分析。
第一轮分析已经完成,现在进入第二轮分析。对这个例子来说,运行一轮分析就够了。
现在停止分析。
可以看到自动生成了一份分析报告。
这是现在我们要分析的问题类型,off-CPU。
这是阻止 CPU 高效运行的 Go 代码路径。
第一个函数是 Syscall6
,一个带有 6 个参数的系统调用。为了确定它是什么样的系统调用,我们需要查看更多的上下文信息。
根据 Process.wait
这个函数名,底层调用的系统调用应当是 waitpid
。
再看一下这个在标准 os
模块中定义的 golang 函数 exec.Cmd.run
。这意味着 golang 程序正在运行系统 shell 命令,并等待它完成。
chat.RateLimit
函数在我们的业务级别 golang 代码中。
点击 “More” 查看细节信息。
最显著的阻塞代码路径是从这个 Go 级别的 off-CPU 火焰图中推导出来的。
下面是对当前问题更详细的解释和建议。
它提到了我们之前看到的 chat.RateLimit
函数。
也提到这个函数正在运行一个系统命令并等待它完成。
让我们回到之前的热代码路径。
把鼠标放在名为 chat.RateLimit
的 Go 函数的绿色框上。
可以看到这个函数的 Go 源文件名。在提示框中还可以看到 processor.go
文件的完整路径。
源码的行号是 46。
点击这个图标,复制这个函数完整的 Go 源文件路径。
在终端上,当前工作目录已经在这个 Go 应用的源码目录里了。使用 find
命令来查找源文件。
粘贴我们刚刚复制的文件路径。
复制完整的文件路径。使用 vim 编辑器,查看这个文件里的业务 Go 代码。您可以使用任何您喜欢的编辑器。
正如 OpenResty XRay 建议的那样跳转到第 46 行。
可以看到,这行 Go 代码确实是调用了 cmd.Run
函数。
这行代码也确实在之前报告里提到的 RateLimit
函数中。现在我们优化这个瓶颈就很容易了!
全自动分析与报告
OpenResty XRay 也可以自动监控在线进程,并显示分析报告。
跳转到 “Insights” 页面。
您可以在 “Insights” 页面中找到以日和周为周期的报告。
其实您不是非得用 “Guided Analysis” 功能。当然 “Guided Analysis” 对于应用程序的开发和演示是很有用的。
关于 OpenResty XRay
OpenResty XRay 是一个动态追踪产品,它可以自动分析运行中的应用程序,以解决性能问题、行为问题和安全漏洞,并提供可行的建议。在底层实现上,OpenResty XRay 由我们的 Y 语言驱动,可以在不同环境下支持多种不同的运行时,如 Stap+、eBPF+、GDB 和 ODB。
关于作者
章亦春是开源 OpenResty® 项目创始人兼 OpenResty Inc. 公司 CEO 和创始人。
章亦春(Github ID: agentzh),生于中国江苏,现定居美国湾区。他是中国早期开源技术和文化的倡导者和领军人物,曾供职于多家国际知名的高科技企业,如 Cloudflare、雅虎、阿里巴巴, 是 “边缘计算“、”动态追踪 “和 “机器编程 “的先驱,拥有超过 22 年的编程及 16 年的开源经验。作为拥有超过 4000 万全球域名用户的开源项目的领导者。他基于其 OpenResty® 开源项目打造的高科技企业 OpenResty Inc. 位于美国硅谷中心。其主打的两个产品 OpenResty XRay(利用动态追踪技术的非侵入式的故障剖析和排除工具)和 OpenResty Edge(最适合微服务和分布式流量的全能型网关软件),广受全球众多上市及大型企业青睐。在 OpenResty 以外,章亦春为多个开源项目贡献了累计超过百万行代码,其中包括,Linux 内核、Nginx、LuaJIT、GDB、SystemTap、LLVM、Perl 等,并编写过 60 多个开源软件库。
关注我们
如果您喜欢本文,欢迎关注我们 OpenResty Inc. 公司的博客网站 。也欢迎扫码关注我们的微信公众号:
翻译
我们提供了英文版原文和中译版(本文)。我们也欢迎读者提供其他语言的翻译版本,只要是全文翻译不带省略,我们都将会考虑采用,非常感谢!