← Back
llama.cpp

OpenResty XRay Sep 21, 2023

OpenResty XRay 更新於 Sep 21, 2023 預計閱讀 5 分鐘

CPU 時間是如何耗費在 llama.cpp 程式和 LLaMA2 模型內部的（使用 OpenResty XRay）

  • 問題: 高 CPU 使用率
  • 使用 OpenResty XRay 的引導式分析功能定位最熱的 C++ 程式碼路徑
  • 全自動分析與報告
  • 問題: 高 CPU 使用率
  • 使用 OpenResty XRay 的引導式分析功能定位最熱的 C++ 程式碼路徑
  • 全自動分析與報告
xray request demo
熱門文章

OpenResty XRay May 2, 2016

OpenResty XRay May 2, 2016

動態追蹤技術漫談
Photo by Philip Brown
  • 甚麼是動態追蹤
  • 動態追蹤的優點
  • DTrace 與 SystemTap
  • SystemTap 在生產上的應用
  • 火焰圖
  • 方法論
  • 知識就是力量
  • 開源與除錯符號
  • Linux 核心的支援
  • 硬體追蹤
  • 死亡程序的遺骸分析
  • 傳統的除錯技術
  • 凌亂的除錯世界
  • OpenResty XRay

OpenResty XRay Sep 7, 2020

OpenResty XRay Sep 7, 2020

Lua 級別 CPU 火焰圖簡介
Photo by Guido Jansen
  • 甚麼是火焰圖
  • 簡單的 Lua 樣例
  • 複雜的 Lua 應用
  • 取樣開銷
  • 安全性
  • 相容性
  • 其他型別的 Lua 級別火焰圖

OpenResty XRay Aug 10, 2020

OpenResty XRay Aug 10, 2020

OpenResty 與 Nginx 共享記憶體區的記憶體碎片問題
Photo by Elena Mozhvilo
  • 空的共享記憶體區
  • 填充類似大小的條目
  • 刪除奇數鍵
  • 刪除前半部分的鍵
  • 緩解記憶體碎片

OpenResty XRay Aug 4, 2020

OpenResty XRay Aug 4, 2020

OpenResty 和 Nginx 的共享記憶體區是如何消耗實體記憶體的
Photo by Jose G. Ortega Castro
  • Slab 與記憶體頁
  • 分配的記憶體不一定有消耗
  • 虛假的記憶體洩漏
  • HUP 重新載入

OpenResty XRay Jan 21, 2020

OpenResty XRay Jan 21, 2020

OpenResty 和 Nginx 如何分配和管理記憶體
Photo by Harrison Broadbent
  • 系統層面
  • 應用層面
  • 傳統的 Nginx 伺服器

OPENRESTY Apr 25, 2019

OPENRESTY Apr 25, 2019

長期招聘優秀人才
長期招聘優秀人才
  • 後端工程師/系統工程師
  • 銷售工程師
最新文章

OpenResety Edge May 8, 2024

OpenResety Edge May 8, 2024

在 OpenResty Edge 中啟用閘道器伺服器的自動健康檢查
在 OpenResty Edge 中啟用閘道器伺服器的自動健康檢查
  • 建立一個新的頁面規則
  • 開啟健康檢查
  • 測試結果
  • 關於 OpenResty Edge

OpenResety Edge Apr 28, 2024

OpenResety Edge Apr 28, 2024

如何使用 OpenResty Edge 中的閘道器分割槽
如何使用 OpenResty Edge 中的閘道器分割槽
  • 建立一個新的分割槽
  • 在新分割槽裡建立一個新的應用
  • 新建一個頁面規則
  • 測試新建的分割槽
  • 關於 OpenResty Edge

OpenResety Edge Apr 10, 2024

OpenResety Edge Apr 10, 2024

在 OpenResty Edge 中精準還原真實的客戶端 IP 地址
在 OpenResty Edge 中精準還原真實的客戶端 IP 地址
  • 在全域性配置中設定 “真實來源 IP 信任地址” 和 “真實 IP 來源”
  • 配置應用使其輸出客戶端地址
  • 驗證在 OpenResty Edge 中接收到的客戶端地址
  • 關於 OpenResty Edge

OpenResty XRay Apr 4, 2024

OpenResty XRay Apr 4, 2024

使用 C++ 動態追蹤 C++ 應用
Photo by 章亦春
  • 設定目標 C++ 程式
  • 編寫 C++（或 Y++）分析器
  • 將目標和分析器投入執行
  • 支援複雜 C++ 應用的進展
  • 關於除錯符號
  • 結論

OpenResty XRay Apr 1, 2024

OpenResty XRay Apr 1, 2024

線上快速定位 CPU 最熱的 Erlang 程式碼路徑（使用 OpenResty XRay）
線上快速定位 CPU 最熱的 Erlang 程式碼路徑（使用 OpenResty XRay）
  • 問題：高 CPU 使用率
  • 使用引導式分析功能定位 CPU 最熱的 Erlang 程式碼路徑
  • 全自動分析與報告
歸檔
2024 May
2024 Apr
2024 Mar
2024 Feb
2024 Jan
2023 Dec
2023 Nov
2023 Oct
2023 Sep
2023 Aug
2023 Jul
2023 Jun
2023 May
2023 Apr
2023 Feb
2022 Jul
2022 Jun
2022 Mar
2021 Oct
2021 Sep
2021 Aug
2021 Jun
2021 May
2021 Apr
2021 Mar
2021 Feb
2020 Dec
2020 Nov
2020 Oct
2020 Sep
2020 Aug
2020 Jul
2020 Jun
2020 May
2020 Mar
2020 Jan
2019 Aug
2019 Apr
2019 Jan
2016 May
聯絡我們

很樂意聽到您的反饋，請與我們聯絡 👋

成功傳送訊息！

我們的專家團隊將在 24 小時之內與您聯絡。
x