即使只是返回一個簡單的 “hello world” 響應,Envoy 代理伺服器也能將整個 CPU 核心消耗在內部事務處理上。在本案例研究中,OpenResty XRay 生成的 C++ CPU 火焰圖揭示了正在執行的 Envoy 程序中三條最熱的程式碼路徑——其中 SchedulableCallbackImpl 運算子排名第一——全程無需重啟或重新編譯二進位制檔案。吞吐量對比還顯示 OpenResty 在相同硬體上處理的請求量比 Envoy 高出 200% 以上。

以下是完整的效能分析流程、火焰圖解讀和自動化報告配置。

場景:Envoy 程序 CPU 佔用超 90%

使用 cat 命令檢視 Envoy 伺服器的配置檔案。

終端顯示透過 cat 命令檢視的 Envoy 伺服器配置檔案

您可以看到它透過 1088 埠監聽。

Envoy 配置檔案顯示監聽埠 1088

它回覆的是 “Hello world” 響應體。

Envoy 直接響應配置返回 hello world

測試一下 /hello 介面的響應。響應確實是 “Hello World”。

curl 響應確認 Envoy 返回 hello world

執行 top 命令來檢查 CPU 使用情況。看一下這個名為 envoy 的程序。

top 命令輸出顯示 Envoy 程序高 CPU 佔用

可以看到,它消耗了超過 90% 的 CPU 核心資源。

Envoy 程序消耗超過 90% 的 CPU 核心

執行 ps 命令檢視此程序的完整命令列。這是從 Envoy 官方二進位制包倉庫下載安裝的。

ps 命令顯示從官方倉庫安裝的 Envoy 二進位制檔案路徑

用 C++ 火焰圖分析 Envoy CPU 消耗

對實時 Envoy 程序進行效能分析

開啟 OpenResty XRay Web 控制檯。該機器的儀表盤已經顯示 CPU 接近滿載,並檢測到正在執行的 Envoy 應用。

OpenResty XRay 儀表盤顯示 envoy-app-server 的高 CPU 使用率

進入”Guided Analysis”頁面,選擇”High CPU usage”問題型別。然後選擇 Envoy 工作程序——顯示 93% CPU 佔用,與 top 中看到的一致:

選擇 CPU 佔用 93% 的 Envoy 工作程序進行分析

保持預設設定(應用型別:Envoy,語言級別:C/C++,最長執行時間:300 秒),開始分析。經過兩輪取樣後,OpenResty XRay 自動生成報告,列出最熱的 C++ 程式碼路徑:

OpenResty XRay 分析報告顯示 Envoy 的 CPU 熱點程式碼路徑

這是我們要分析的問題型別,CPU。

報告識別 CPU 為診斷的問題型別

第一熱路徑——SchedulableCallbackImpl

這是佔用 CPU 時間最多的 C++ 程式碼路徑。

Envoy CPU 報告中排名第一的 C++ 熱程式碼路徑

這是 SchedulableCallbackImpl 類過載的運算子。

SchedulableCallbackImpl 過載運算子被識別為頭號 CPU 消耗者

點選 “More” 檢視詳情。

展開熱程式碼路徑的詳細資訊

上面的熱程式碼路徑是從這個 C++ 語言級別的 CPU 火焰圖中自動推匯出來的。

Envoy 程序的 C++ CPU 火焰圖顯示 SchedulableCallbackImpl 熱路徑

點選圖示放大火焰圖。

放大後的 Envoy CPU 火焰圖供詳細檢查

放大這個 invoke_impl 函式。

火焰圖放大顯示 invoke_impl 函式

Envoy 網路 socket 類的 write 方法執行 socket 寫入操作。它會傳送 HTTP 響應資料。

火焰圖高亮顯示 Envoy socket 寫入方法

Envoy 緩衝區類的 drain 方法用於釋放寫緩衝區中未使用的記憶體,並執行其他清理工作。

火焰圖顯示 buffer drain 方法釋放寫緩衝區記憶體

Envoy 排程類的 clearDeferredDeletedList 方法會釋放與當前請求關聯的所有資源,並執行所有清理工作。

火焰圖顯示 Envoy 排程器中的 clearDeferredDeletedList 清理操作

第二熱路徑——emitLog 訪問日誌格式化

看一下這條 CPU 時間佔用排名第二的 C++ 熱程式碼路徑。

Envoy CPU 報告中排名第二的 C++ 熱程式碼路徑

Envoy 代理中的 emitLog 函式用於將訪問日誌寫入檔案。

emitLog 函式被識別為 Envoy 中第二大 CPU 密集型路徑

放大火焰圖。

emitLog 程式碼路徑的放大火焰圖

放大這個 emitLog 函式。

火焰圖放大顯示 Envoy 中的 emitLog 函式

大多數 emitLog 的 CPU 時間用於格式化日誌訊息字串,而不是花在寫檔案的操作上面。

火焰圖揭示 emitLog 大部分 CPU 時間花在字串格式化上

第三熱路徑——prepareLocalReplayViaFilterChain

這是花費 CPU 時間第三多的熱程式碼路徑。

Envoy CPU 報告中排名第三的 C++ 熱程式碼路徑

prepareLocalReplayViaFilterChain 函式在 Envoy 響應輸出過濾器鏈中。鏈中的每個過濾器都有可能修改響應。

Envoy 響應過濾器鏈中的 prepareLocalReplayViaFilterChain

放大火焰圖。

Envoy 過濾器鏈程式碼路徑的放大火焰圖

放大 prepareLocalReplayViaFilterChain 函式。

火焰圖放大顯示 prepareLocalReplayViaFilterChain

createHeaderMap 函式被呼叫了很多次。它主要用於為 HTTP 頭分配新的雜湊表。

火焰圖顯示 createHeaderMap 為 HTTP 頭分配雜湊表

newUri 函式主要用於分配和格式化 URI 字串。

火焰圖顯示 newUri 分配和格式化 URI 字串

setStatus 函式用於設定響應狀態碼。

火焰圖顯示 setStatus 設定響應狀態碼

BodyFormatter 類的 format 方法用於格式化響應體資料。

火焰圖顯示 BodyFormatter 格式化響應體

setContentLength 方法也用於設定響應長度頭。

火焰圖顯示 setContentLength 設定響應長度頭

setReferenceContentType 方法用於設定 Content-Type 響應頭。

火焰圖顯示 setReferenceContentType 設定 Content-Type 頭

Envoy 與 OpenResty 吞吐量對比

這是 Envoy 伺服器和 OpenResty 之間的效能比較圖表。可以看到,OpenResty 的吞吐量比 Envoy 伺服器高出 200% 以上。

吞吐量對比圖表顯示 OpenResty 比 Envoy 快 200% 以上

持續 CPU 監控與自動化報告

OpenResty XRay 也可以自動監控線上程序,並生成分析報告。切換到 “Insights” 頁面。

OpenResty XRay Insights 頁面用於自動化 CPU 報告

您可以在 “Insights” 頁面中找到以日和周為週期的報告。其實您不是非得用 “Guided Analysis” 功能。

Insights 頁面上的每日和每週 CPU 分析報告

當然, “Guided Analysis” 對於應用的開發和演示是很有用的。

引導式分析選項用於開發和演示用途

關於 OpenResty XRay

OpenResty XRay 是一個動態追蹤產品,它可以自動分析執行中的應用,以解決效能問題、行為問題和安全漏洞,並提供可行的建議。在底層實現上,OpenResty XRay 由我們的 Y 語言 驅動,可以在不同環境下支援多種不同的執行時,如 Stap+、eBPF+、GDB 和 ODB。

FAQ:Envoy CPU 效能分析

為甚麼我的 Envoy 代理 CPU 佔用這麼高?

本案例的火焰圖揭示了常見的 CPU 消耗來源:socket 寫入回撥與緩衝區清理(SchedulableCallbackImpl)、訪問日誌字串格式化(emitLog)、以及包含 HTTP 頭雜湊表分配在內的響應過濾器鏈處理(prepareLocalReplayViaFilterChain)。使用 CPU 火焰圖分析執行中的程序——而非依賴指標猜測——可以精確定位真正消耗 CPU 的 C++ 程式碼路徑。

如何為 Envoy 生成 CPU 火焰圖?

將動態追蹤分析器指向 Envoy 工作程序的 PID 即可。OpenResty XRay 的引導式分析會對執行中的二進位制檔案進行取樣,生成 C 語言級別的 CPU 火焰圖,並自動排列最熱的 C++ 程式碼路徑——無需重編譯、重啟或程式碼埋點。另一種方法是使用 gperftools 重新編譯 Envoy 並使用 pprof,但這需要原始碼訪問許可權和服務重啟。

能否在不重啟的情況下對生產環境的 Envoy 進行 CPU 分析?

可以。動態追蹤工具從外部分析執行中的程序,不修改其程式碼,也不需要目標程序的任何配合。取樣開銷可以忽略不計,不取樣時對目標程序的影響嚴格為零——適合對延遲敏感的生產環境部署。

關於作者

章亦春是開源 OpenResty® 專案創始人兼 OpenResty Inc. 公司 CEO 和創始人。

章亦春(Github ID: agentzh),生於中國江蘇,現定居美國灣區。他是中國早期開源技術和文化的倡導者和領軍人物,曾供職於多家國際知名的高科技企業,如 Cloudflare、雅虎、阿里巴巴, 是 “邊緣計算“、”動態追蹤 “和 “機器程式設計 “的先驅,擁有超過 22 年的程式設計及 16 年的開源經驗。作為擁有超過 4000 萬全球域名使用者的開源專案的領導者。他基於其 OpenResty® 開源專案打造的高科技企業 OpenResty Inc. 位於美國矽谷中心。其主打的兩個產品 OpenResty XRay(利用動態追蹤技術的非侵入式的故障剖析和排除工具)和 OpenResty Edge(最適合微服務和分散式流量的全能型閘道器軟體),廣受全球眾多上市及大型企業青睞。在 OpenResty 以外,章亦春為多個開源專案貢獻了累計超過百萬行程式碼,其中包括,Linux 核心、Nginx、LuaJITGDBSystemTapLLVM、Perl 等,並編寫過 60 多個開源軟體庫。

關注我們

如果您喜歡本文,歡迎關注我們 OpenResty Inc. 公司的部落格網站 。也歡迎掃碼關注我們的微信公眾號:

我們的微信公眾號

翻譯

我們提供了英文版原文和中譯版(本文)。我們也歡迎讀者提供其他語言的翻譯版本,只要是全文翻譯不帶省略,我們都將會考慮採用,非常感謝!