llama.cpp プログラムと LLaMA2 モデル内部で CPU 時間がどのように消費されているか（OpenResty XRay を使用）
- 問題: 高 CPU 使用率
- 最もホットな C++ コードパスを特定
- 完全自動化された分析とレポート
- 問題: 高 CPU 使用率
- 最もホットな C++ コードパスを特定
- 完全自動化された分析とレポート
← Back
Openresty-Xray
Ylang: eBPF、Stap+、GDB などのフレームワーク向け汎用言語（第4回、全4回）
- コンテナを透過的に横断するトレース機能
- 効率的なスタックアンワインディング
- 終了したプロセスの分析（core dumps）
- 極めて低いトレーシングオーバーヘッド
- 標準 Ylang ライブラリとツール
- ネットワークフィルタリングと制御
- Ylang コンパイラの実装
- オペレーティングシステムのサポート
- オープンソースコミュニティへの貢献
- 結論
- 謝辞
- コンテナを透過的に横断するトレース機能
- 効率的なスタックアンワインディング
- 終了したプロセスの分析（core dumps）
- 極めて低いトレーシングオーバーヘッド
- 標準 Ylang ライブラリとツール
- ネットワークフィルタリングと制御
- Ylang コンパイラの実装
- オペレーティングシステムのサポート
- オープンソースコミュニティへの貢献
- 結論
- 謝辞
オンラインで Go コードパスのブロッキングスレッドを迅速に特定する方法（OpenResty XRay を使用）
- 問題: CPU 使用率が上がらない
- off-CPU 時間を最も占有する Go コードパスを特定
- 完全自動化された分析とレポート
- 問題: CPU 使用率が上がらない
- off-CPU 時間を最も占有する Go コードパスを特定
- 完全自動化された分析とレポート
オンラインで Go コードの CPU 使用率が最も高いパスを素早く特定する方法（OpenResty XRay を使用）
- 問題: 高 CPU 使用率
- 最も CPU 使用率の高い Go コードパスを特定
- 完全自動化された分析とレポート
- 問題: 高 CPU 使用率
- 最も CPU 使用率の高い Go コードパスを特定
- 完全自動化された分析とレポート
Ylang: eBPF、Stap+、GDB などのフレームワーク向け汎用言語（第3回、全4回）
- Ylang の文法（前回の続き）
- 文字列
- 組み込み正規表現サポート
- 完全な制御フロー機能のサポート
- 浮動小数点数のサポート
- オープンソースツールチェーンとの比較
- 明確なデバッグシンボルの手法
- デバッグシンボル：実行時のシステムオーバーヘッドなし
- 集中管理されたパッケージデータベース
- デバッグシンボルのファジーマッチング
- Ylang の文法（前回の続き）
- 文字列
- 組み込み正規表現サポート
- 完全な制御フロー機能のサポート
- 浮動小数点数のサポート
- オープンソースツールチェーンとの比較
- 明確なデバッグシンボルの手法
- デバッグシンボル：実行時のシステムオーバーヘッドなし
- 集中管理されたパッケージデータベース
- デバッグシンボルのファジーマッチング
Ylang: eBPF、Stap+、GDB などのフレームワーク向け汎用言語（第２回、全4回）
- 言語文法（前述の続き）
- マクロ拡張
- トレーサー空間とトレーシー空間
- プローブ
- 拡張変数型
- 言語文法（前述の続き）
- マクロ拡張
- トレーサー空間とトレーシー空間
- プローブ
- 拡張変数型
オンラインで Python コードパスのブロッキングスレッドを迅速に特定する方法（OpenResty XRay を使用）
- 問題: CPU 使用率が上がらない
- off-CPU 時間を最も占有する Python コードパスを特定
- 完全自動化された分析とレポート
- 問題: CPU 使用率が上がらない
- off-CPU 時間を最も占有する Python コードパスを特定
- 完全自動化された分析とレポート
OpenResty XRay を使用して Linux カーネルのトレースサブシステムにおける 2 つのバグを捕捉
- ユーザー空間メモリ読み取り時のカーネルデッドロック
- カーネル内の x86 ブレークポイント挿入におけるデータ競合
- ユーザー空間メモリ読み取り時のカーネルデッドロック
- カーネル内の x86 ブレークポイント挿入におけるデータ競合
オンラインで CPU 使用率が最も高い Perl コードパスを素早く特定する方法（OpenResty XRay を使用）
- 問題: 高 CPU 使用率
- 最も CPU 使用率の高い Perl コードパスを特定
- 完全自動化された分析とレポート
- 問題: 高 CPU 使用率
- 最も CPU 使用率の高い Perl コードパスを特定
- 完全自動化された分析とレポート
OpenResty XRay を使用してオンラインで CPU 負荷の高い Lua コードパスを素早く特定する方法
- 問題: 高 CPU 使用率
- 最も CPU 使用率の高い Lua コードパスを特定
- 完全自動化された分析とレポート
- 問題: 高 CPU 使用率
- 最も CPU 使用率の高い Lua コードパスを特定
- 完全自動化された分析とレポート
OpenResty XRay を使用して、カスタム Kong プラグインの Lua 例外による CPU ボトルネックを解決した方法
- 問題：Kong サーバーの高 CPU 使用率
- 分析とレポート
- 結果：パフォーマンスの向上と CPU 使用率の低下
- 問題：Kong サーバーの高 CPU 使用率
- 分析とレポート
- 結果：パフォーマンスの向上と CPU 使用率の低下
OpenResty XRay を使用して、オンラインの Kong サービスプロセス内のプラグインの CPU およびメモリ使用量をリアルタイムで統計化する方法
- サーバープロセス内のすべての Kong プラグインの CPU 使用状況
- サーバープロセス内のすべての Kong プラグインのメモリ使用状況
- サーバーへの追加負荷
- 今後の展開
- サーバープロセス内のすべての Kong プラグインの CPU 使用状況
- サーバープロセス内のすべての Kong プラグインのメモリ使用状況
- サーバーへの追加負荷
- 今後の展開
Ylang: eBPF、Stap+、GDB などのフレームワーク向け汎用言語（第1回、全4回）
- 動的トレーシングとは
- なぜ「Y」と名付けたのか
- はじめに
- 各種バックエンドとランタイム
- なぜ統一されたフロントエンド言語が必要なのか
- 言語の構文
- 続く
- 動的トレーシングとは
- なぜ「Y」と名付けたのか
- はじめに
- 各種バックエンドとランタイム
- なぜ統一されたフロントエンド言語が必要なのか
- 言語の構文
- 続く
オンラインリクエストの 200ms 追加遅延の自動診断
- 課題
- 分析プロセス
- 完全自動化された分析
- OpenResty XRay とは
- 課題
- 分析プロセス
- 完全自動化された分析
- OpenResty XRay とは
OpenResty XRay のコマンドラインツールを使用してメモリリークしている Lua テーブルを特定する
- LuaJIT のメモリ管理方法
- OpenResty XRay のコマンドラインツール
- リークの例
- 分析プロセス
- lj-gco-ref アナライザ
- 完全自動分析
- LuaJIT のメモリ管理方法
- OpenResty XRay のコマンドラインツール
- リークの例
- 分析プロセス
- lj-gco-ref アナライザ
- 完全自動分析
YSQL 言語を使用した Nginx プロセスのリアルタイムリクエスト数カウント
- run-ysql ツールのインストール方法
- リアルタイムの総リクエスト数の統計
- 特定のリクエストのフィルタリング
- Web コンソールでの YSQL の使用
- 真の非侵襲的トレーシング
- run-ysql ツールのインストール方法
- リアルタイムの総リクエスト数の統計
- 特定のリクエストのフィルタリング
- Web コンソールでの YSQL の使用
- 真の非侵襲的トレーシング
Microsoft Azure クラウド上に OpenResty XRay オンプレミス版をインストールする
- サブスクリプションとリソースグループの作成
- Azure Kubernetes サービスの作成
- 環境変数の準備
- コマンドラインから Azure にログイン\n* Kubernetes の namespace と secret の作成
- Azure ディスクの作成
- 永続化ボリュームの設定ファイルの更新
- Kubernetes の設定ファイルの更新
- 永続化ボリュームの作成
- Kubernetes サービスのデプロイ
- アプリケーションゲートウェイの設定
- サブスクリプションとリソースグループの作成
- Azure Kubernetes サービスの作成
- 環境変数の準備
- コマンドラインから Azure にログイン\n* Kubernetes の namespace と secret の作成
- Azure ディスクの作成
- 永続化ボリュームの設定ファイルの更新
- Kubernetes の設定ファイルの更新
- 永続化ボリュームの作成
- Kubernetes サービスのデプロイ
- アプリケーションゲートウェイの設定
- 問題点
- 分析
- 解決策
- 結果
巨大な Nginx 設定による メモリフラグメンテーションの最適化
- 課題
- 分析
- 解決策
- 結果
- 課題
- 分析
- 解決策
- 結果
OpenResty XRay についての FAQ
OpenResty XRay 製品のための「よくある質問」ドキュメントを作成
OpenResty XRay 製品のための「よくある質問」ドキュメントを作成
OpenResty XRay の自動分析レポート
- 過去
- 現在
- 将来
- 過去
- 現在
- 将来
OpenResty XRay による B 站（ビリビリ動画）の重大なオンライン障害の分析と解決
- 障害の説明
- 障害分析のプロセス
- 障害後の修復と強化
- OpenResty XRay の製品とサービス
- 障害の説明
- 障害分析のプロセス
- 障害後の修復と強化
- OpenResty XRay の製品とサービス
OpenResty または Nginx プロセスにおける最も遅い PCRE 正規表現のトレース
- システム環境
- 推測せずに原因を絞り込む
- PCRE の実行オーバーヘッドの制限
- バックトラッキングを行わない正規表現エンジン
- Lua の組み込みパターン
- コンテナ内のアプリケーションのトレース
- ツールの実装方法
- ツールのオーバーヘッド
- システム環境
- 推測せずに原因を絞り込む
- PCRE の実行オーバーヘッドの制限
- バックトラッキングを行わない正規表現エンジン
- Lua の組み込みパターン
- コンテナ内のアプリケーションのトレース
- ツールの実装方法
- ツールのオーバーヘッド
OpenResty または Nginx プロセスにおける読み込み済み Lua モジュールの一覧表示
- システム環境
- 読み込み済み Lua モジュールの名前
- Web コンソールで直接実行
- コンテナ内のアプリケーションのトレース
- ツールの実装方法
- ツールのオーバーヘッド
- システム環境
- 読み込み済み Lua モジュールの名前
- Web コンソールで直接実行
- コンテナ内のアプリケーションのトレース
- ツールの実装方法
- ツールのオーバーヘッド
OpenResty または Nginx における最も CPU を消費するリクエストの分析
- システム環境
- CPU 使用率が最も高いリクエストのホスト名
- CPU 使用率が最も高いリクエストの URI
- さらに深く掘り下げる
- Web コンソールで直接実行する
- コンテナ内のアプリケーションのトレース
- ツールの実装方法
- ツールのオーバーヘッド
- システム環境
- CPU 使用率が最も高いリクエストのホスト名
- CPU 使用率が最も高いリクエストの URI
- さらに深く掘り下げる
- Web コンソールで直接実行する
- コンテナ内のアプリケーションのトレース
- ツールの実装方法
- ツールのオーバーヘッド
メモリ使用量が 60% 削減、OpenResty XRay で問題コードを正確に特定し、迅速に修正・デプロイを実現
- worker プロセスのメモリ使用量が高い問題について
- OpenResty XRay による分析プロセス
- worker プロセスのメモリが解放されない疑問について
- worker プロセスのメモリ使用量が高い問題について
- OpenResty XRay による分析プロセス
- worker プロセスのメモリが解放されない疑問について
Lua レベル CPU フレームグラフの概要
- フレームグラフとは何か
- 簡単な Lua の例
- 複雑な Lua アプリケーション
- サンプリングのオーバーヘッド
- セキュリティ
- 互換性
- その他の種類の Lua レベルフレームグラフ
- フレームグラフとは何か
- 簡単な Lua の例
- 複雑な Lua アプリケーション
- サンプリングのオーバーヘッド
- セキュリティ
- 互換性
- その他の種類の Lua レベルフレームグラフ
OpenResty と Nginx の共有メモリ領域におけるメモリフラグメンテーションの問題
- 空の共有メモリ領域
- 類似サイズのエントリで埋める
- 奇数キーの削除
- 前半部分のキーの削除
- メモリフラグメンテーションの緩和
- 空の共有メモリ領域
- 類似サイズのエントリで埋める
- 奇数キーの削除
- 前半部分のキーの削除
- メモリフラグメンテーションの緩和
OpenResty と Nginx の共有メモリ領域が物理メモリをどのように消費するか
- Slab とメモリページ
- 割り当てられたメモリが必ずしも消費されるわけではない
- 偽のメモリリーク
- HUP による再読み込み
- Slab とメモリページ
- 割り当てられたメモリが必ずしも消費されるわけではない
- 偽のメモリリーク
- HUP による再読み込み
OpenResty と Nginx のメモリ割り当てと管理方法
- システムレベル
- アプリケーションレベル
- 従来の Nginx サーバー
- システムレベル
- アプリケーションレベル
- 従来の Nginx サーバー
LuaJIT GC64 モード
- 旧メモリ制限
- このメモリ制限に遭遇する時期
- メモリ制限はプロセスごと
- GC が管理するメモリ
- GC が管理しないメモリ
- x64 モードのメモリ上限を 4 GB に引き上げる
- 新しい GC64 モード
- GC64 モードの有効化方法
- パフォーマンスへの影響
- デバッグ分析ツールチェーン
- 旧メモリ制限
- このメモリ制限に遭遇する時期
- メモリ制限はプロセスごと
- GC が管理するメモリ
- GC が管理しないメモリ
- x64 モードのメモリ上限を 4 GB に引き上げる
- 新しい GC64 モード
- GC64 モードの有効化方法
- パフォーマンスへの影響
- デバッグ分析ツールチェーン
動的トレース技術についての雑談
- 動的トレーシングとは
- 動的トレーシングの利点
- DTrace と SystemTap
- SystemTap の実運用での活用
- フレームグラフ
- 方法論
- 知識は力なり
- オープンソースとデバッグシンボル
- Linux カーネルのサポート
- ハードウェアトレーシング
- 終了プロセスの解析
- 従来のデバッグ技術
- 混沌としたデバッグの世界
- OpenResty XRay
- 動的トレーシングとは
- 動的トレーシングの利点
- DTrace と SystemTap
- SystemTap の実運用での活用
- フレームグラフ
- 方法論
- 知識は力なり
- オープンソースとデバッグシンボル
- Linux カーネルのサポート
- ハードウェアトレーシング
- 終了プロセスの解析
- 従来のデバッグ技術
- 混沌としたデバッグの世界
- OpenResty XRay