このチュートリアルでは、OpenResty XRay を活用して、オンラインの Python アプリケーションにおけるディスク I/O の高負荷問題を定量的に分析する方法をご紹介いたします。OpenResty XRay が生成する Python レベルのディスク書き込み回数、遅延、およびスループットのフレームグラフを通じて、ディスクの読み書きに最も時間がかかり、最大のデータ量を扱う Python コードパスを特定できます。さらに、具体的な Python コードまで深堀り、問題を素早く突き止め、最適化を導くことができます。

問題:ディスク I/O の高負荷

OpenResty XRay の Dashboard 上で、order-service という名前の Python アプリケーションが発見されました。XRay によるサンプリングと分析の結果、このアプリケーションのディスク I/O に問題があることが判明しました。

Screenshot

まず、ps コマンドを実行してこのアプリケーションを確認します。

Screenshot

完全なコマンドラインを確認できます。

Screenshot

OpenResty XRay を使用して、この未修正のアプリケーションを検査します。リアルタイムで分析を行い、原因を特定することができます。

問題のある Python コードパスの特定

OpenResty XRay の Web コンソールに切り替えます。現在分析中のマシンが正しいことを確認します。

Screenshot

正しくない場合は、リストから再選択できます。

Screenshot

「Guided Analysis」ページに進みます。

Screenshot

ここでは、システムが分析できる様々な種類の問題を確認できます。

Screenshot

「High disk IO」を選択します。

Screenshot

「Next」をクリックします。

Screenshot

order-service という名前の Python アプリケーションを選択します。

Screenshot

先ほど ps コマンドで確認したプロセスを選びます。

Screenshot

アプリケーションのタイプが正しいことを確認します。通常、デフォルト値が正しいです。

Screenshot

OpenResty XRay は様々な言語レベルで分析を行うことができます。ここでは Python と C/C++ の両方を選択したままにします。

Screenshot

最長分析時間を設定することもできます。ここではデフォルトの 300 秒のままにします。

Screenshot

分析を開始します。

Screenshot

システムの分析は継続的に複数回実行します。現在、初回の分析を実行中です。

Screenshot

初回の分析が完了し、現在 2 回目に入っています。この例では、1 回の分析で十分です。

Screenshot

分析を停止します。

Screenshot

自動生成された分析レポートをご確認しましょう。

Screenshot

これが分析対象の問題タイプ、「Disk I/O」です。

Screenshot

これはディスク読み取り回数の分析です。

Screenshot

ディスク読み取りが最も頻繁に行われているのは、このコードパスです。

Screenshot

__read はファイルからデータを読み取るための関数です。

Screenshot

download_file はファイルをダウンロードするための業務レベルの関数です。

Screenshot

詳細を表示するにはクリックしてください。

Screenshot

このホットコードパスは、Python レベルのディスク読み取り回数のフレームグラフから自動的に導出されたものです。

Screenshot

以下は問題に関するより詳細な説明と提案です。先ほど確認した __read 関数について詳しい説明があります。

Screenshot

元のコードパスに戻りましょう。この関数の緑色のボックスにマウスを合わせます。ツールチップにこの関数のソースファイル名と完全なパスが表示されています。

Screenshot

このソースコードの行番号は 10 です。

Screenshot

アイコンをクリックして、この関数の Python ソースファイルのパスをコピーします。

Screenshot

vim エディタでソースファイルを開きます。ファイル内の Python ソースコードを確認しましょう。お好みのエディタをご使用いただいて構いません。

Screenshot

OpenResty XRay が提案したように、10 行目を注目しましょう。

Screenshot

このコード行はファイルからデータを読み取っています。

Screenshot

これはディスク読み取りスループットの分析です。

Screenshot

このコードパスも、ファイルのダウンロードを処理しています。

Screenshot

このパスのデータ読み取り速度は約 269 メガバイト/秒です。

Screenshot

これはディスク読み取りレイテンシーの分析です。

Screenshot

このコードパスは、先ほど分析したコードパスと同じで、ファイルのダウンロードを処理しています。

Screenshot

これがディスク読み取りレイテンシーの全ての原因となっています。

Screenshot

これは最も読み取られたファイルの分析です。

Screenshot

最も多くのデータが読み取られたファイルは pic-ocean-wave.jpg です。

Screenshot

そのデータの読み取り速度は 193 メガバイト/秒に達しています。

Screenshot

これらは累積読み取りレイテンシーが最も長いファイルです。

Screenshot

レイテンシーが最も長いファイルは pic-ocean-wave.jpg です。

Screenshot

レイテンシーの割合は 75% です。

Screenshot

これはディスク書き込み操作回数の分析です。

Screenshot

ディスクの書き込み操作は全てこのコードパスから発生しています。

Screenshot

write はファイルにデータを書き込む関数です。

Screenshot

flush は Python のログモジュールの関数で、全てのログ情報が完全に書き込まれたことを確認するために使用されます。

Screenshot

emit はログモジュールの関数で、ログ記録を処理するために使用されます。

Screenshot

自動生成レポート

OpenResty XRay はオンラインプロセスを自動的に監視し、分析レポートを生成することができます。「Insights」ページに切り替えてください。

Screenshot

「Insights」ページでは、日次および週次の自動レポートをご確認できます。そのため、「Guided Analysis」機能を必ずしも使用する必要はないですが、

Screenshot

その機能はアプリケーションの開発やデモンストレーションに非常に有用です。

Screenshot

OpenResty XRay について

OpenResty XRay動的トレーシング製品であり、実行中のアプリケーションを自動的に分析して、パフォーマンスの問題、動作の問題、セキュリティの脆弱性を解決し、実行可能な提案を提供いたします。基盤となる実装において、OpenResty XRay は弊社の Y 言語によって駆動され、Stap+、eBPF+、GDB、ODB など、様々な環境下で複数の異なるランタイムをサポートしております。

著者について

章亦春(Zhang Yichun)は、オープンソースの OpenResty® プロジェクトの創始者であり、OpenResty Inc. の CEO および創業者です。

章亦春(GitHub ID: agentzh)は中国江蘇省生まれで、現在は米国ベイエリアに在住しております。彼は中国における初期のオープンソース技術と文化の提唱者およびリーダーの一人であり、Cloudflare、Yahoo!、Alibaba など、国際的に有名なハイテク企業に勤務した経験があります。「エッジコンピューティング」、「動的トレーシング」、「機械プログラミング」 の先駆者であり、22 年以上のプログラミング経験と 16 年以上のオープンソース経験を持っております。世界中で 4000 万以上のドメイン名を持つユーザーを抱えるオープンソースプロジェクトのリーダーとして、彼は OpenResty® オープンソースプロジェクトをベースに、米国シリコンバレーの中心部にハイテク企業 OpenResty Inc. を設立いたしました。同社の主力製品である OpenResty XRay動的トレーシング技術を利用した非侵襲的な障害分析および排除ツール)と OpenResty XRay(マイクロサービスおよび分散トラフィックに最適化された多機能ゲートウェイソフトウェア)は、世界中の多くの上場企業および大企業から高い評価を得ております。OpenResty 以外にも、章亦春は Linux カーネル、Nginx、LuaJITGDBSystemTapLLVM、Perl など、複数のオープンソースプロジェクトに累計 100 万行以上のコードを寄与し、60 以上のオープンソースソフトウェアライブラリを執筆しております。

翻訳

英語版の原文と日本語訳版(本文)をご用意しております。読者の皆様による他の言語への翻訳版も歓迎いたします。全文翻訳で省略がなければ、採用を検討させていただきます。心より感謝申し上げます!