監視のいろはを学ぶ !入門 監視を読んだ
会社では,オンプレにあるサービスの監視はZabbix
を使っているが,クラウドで動いているサービスの監視はこれといった監視システムは決まっていない.何か新しいものを導入するのか,そのままZabbix
を使っていくのかにかかわらず,Webサービスを提供する上での監視ってそもそもなんだっけ?という漠然としたことを知りたかったので,今回は「入門 監視」を読んだ.各章で語られる内容を今運用しているZabbix
に当てはめて考えながら読んでみると,なるほどと納得することが多かった.この本では,監視する対象が網羅的に書かれていて,それぞれの詳しい監視の方法については別途他の書籍や記事が紹介されている.この記事では,監視の基本的なことが書いてある1章と2章,そして3章のアラートについてまとめようと思う.
- 作者:Mike Julian
- 出版社/メーカー: オライリージャパン
- 発売日: 2019/01/17
- メディア: 単行本(ソフトカバー)
目次
- 1章 : 監視のアンチパターン
- 2章 : 監視のデザインパターン
- 3章 : アラート、オンコール、インシデント管理
- 4章 : 統計入門
- 5章 : ビジネスを監視する
- 6章 : フロントエンド監視
- 7章 : アプリケーション監視
- 8章 : サーバ監視
- 9章 : ネットワーク監視
- 10章 : セキュリティ監視
- 11章 : 監視アセスメントの実行
- 付録A : 手順書の例:Demo App
- 付録B : 可用性表
- 付録C : 実践 監視 SaaS
監視のアンチパターン1:ツール依存
ここでは「何を実現したいか」よりも「どのツールを使うか」に焦点があたってしまう問題を指摘している.
監視とは,単一の問題ではなく,いくつかの問題が複雑にからみあっているので,このツールを使えばいいという銀の弾丸はない.また,成功した企業が使っているツールを採用すればいいかと考える人もいるかもしれないが,それらの企業は成功するために必要だったからそのツールを採用したのであってその逆ではない.
そして,銀の弾丸がないからこそ複数のツールを使って問題を解決することもあるが,ツールを増やすことを無意味に怖がってはいけない.「仕事ができる最低限の数」であればツールは増やしても良いというのが執筆者の考えだ.
監視で可視化は重要であるが,「一目でわかるようにしてほしい」と言われたときは注意が必要だ.監視における「一目でわかる」アプローチとは,状態を見るための1つの場所が欲しいのであって,1つのツールや1つのダッシュボードが欲しいわけではない.ツールとダッシュボードは1対1に対応している必要はないので,複数のツールから1つのダッシュボードに出力することだってある.それらのダッシュボードシステムが「一目でわかる場所」にあればいいだけだ.
監視のアンチパターン2:役割としての監視
ここでは,監視は現場の人間が仕組み化することが重要だと述べられている.
会社に監視専門部隊があるとして,すべての監視をその部隊にやらせるのはアンチパターンである,監視対象に詳しくない人間が監視をするのは無理なので,アプリケーション・データベース・ネットワークエンジニアなどの現場のメンバーが監視の仕組みをデザインするべき.監視とは役割ではなくスキルである.監視専門部隊の仕事は現場のチームに監視ツールをサービスとして提供することになる.
監視のアンチパターン3:チェックボックス監視
チェックボックス監視とは「これを監視しています」と言うための,とりあえず設定したような監視システムのこと.以下のような兆候があると,このアンチパターンに陥ってしまっている可能性がある.
- システム負荷,CPU使用率,メモリ使用率などのメトリクスは記録しているが,システムがダウンしたことの理由は分からない
- 誤検知が多すぎるのでアラートを常に無視する
- 各メトリクスを5分あるいはそれより長い間隔で監視している
- メトリクスの履歴を保存していない
このアンチパターンは,監視のアンチパターン2と一緒に見つかることがある.監視を設定する人がシステムの動作を完全に理解していないと,シンプルで簡単なものの監視設定をしただけになるからである.このアンチパターンを直すにはいくつかの方法がある.
「動いている」かどうかを監視する
「動いている」ことを定義すると,何を監視すればよいかが決まり,それらは「何か」がおかしいことを示す優れた指標となる.
例えば,Webアプリケーションの場合,HTTPでGET /
したレスポンスコードを記録し,HTTP 200 OK
が返ってきているか,ページに特定の文字列があるかどうか,さらにリクエストのレイテンシが小さいかどうかを確認する.この監視1つで,アプリケーションが本当に動いているかどうかに関するたくさんの情報を得ることができる.
アラートに関してはOSのメトリクスはあまり意味がない
例えば,MySQLが継続的にCPUを全部使っていたとしても,レスポンスタイムが許容範囲に収まっていれば何も問題はない. CPU使用率やメモリ使用率のような低レベルなメトリクスで判断してアラートを送るよりは,「動いている」かどうかでアラートを送る方が有益である.
メトリクスをもっと高頻度で取得する
複雑なシステムでは,数分あるいは数秒の間にたくさんのことが起きるので,5分に1回しかメトリクスを取得しない設定などは実質的に何も見ていないのと同じ.最低でも60秒に1回メトリクスを取得する.
監視のアンチパターン4:監視を支えにする
アプリケーションのバグが出た時に根本解決をせずにその場所に監視を仕込んで気づけるようにしておく暫定対応はよくない.監視を増やしてもシステムが直るわけではないので,状況の改善にならない.
監視のアンチパターン5:手動設定
監視は100%自動化する.新しい監視設定を自動化していないと監視設定がストレスになり,やがて考えるのをやめてしまう.
監視のデザインパターン1:組み合わせ可能な監視
組み合わせ可能な監視とは,専門化されたツールを複数使い,それらを疎に結合させて作る「監視プラットフォーム」である.利点として,1つのツールややり方に長期間にわたってコミットする必要がないことが挙げられる.あるツールがやり方に合わなくなった時,監視プラットフォーム全体を置き換えるのではなく,そのツールだけを削除して他のもので置き換えることが可能である.監視サービスには以下の5つの要素がある.
- データ収集
- データストレージ
- 可視化
- 分析とレポート
- アラート
1.データ収集
データ収集コンポーネントは,その名の通りデータを収集する.データ収集を行うには主な方法としてプル型とプッシュ型がある.プル型は,サービスがリモートノードに対して,ノードの情報を送りつけてくるよう要求を出す.一方,プッシュ型は,クライアント(サーバやアプリケーションなど)はデータを他の場所に,一定間隔あるいはイベントが発生したタイミングでプッシュする.どちらの方法もそれぞれメリットとユースケースがある.
どんなデータを集めるかによって,メトリクスとログという2種類のデータがある.
メトリクス
メトリクスには2つの表現方法がある.
1つはカウンタである.カウンタは,車の走行距離計のような増加していくメトリクスで,Webサイトに訪れる累計人数を数えるといった用途に最適である.
もう1つはゲージである.ゲージは,車の速度計のようなある時点の値を表す.
ログ
ログは,基本的には連続した文字列のことで,いつイベントが発生したのかを示すタイムスタンプが関連づけられたものである.ログには構造化ログと非構造化ログの2種類がある.
非構造化ログとは,各フィールドに対して明確な意味のマッピングはない.例えば,Webサーバがデフォルトで出力するようなログが非構造化ログである.
反対に,構造化ログは各フィールドの意味が分かるようJSONやその他さまざまな形で非構造化ログをパースしたものである.
2.データストレージ
時系列データであるメトリクスは,通常は時系列データベース(TSDB:Time Series Database)に保存される.TSDBは,基本的にはタイムスタンプと値というキーと値のペアから構成される時系列データを保存するためにデザインされた専用のデータベースである.このキーと値のペアをデータポイントという.
TSDBの多くは,一定期間後にデータの「間引き」や「有効期限切れ」が発生する.これは,データが古くなったら,複数のデータポイントが1つのデータポイントにまとめられることを意味する.よくある間引きの方法としては平均化がある.
ログのストレージにはシステムにファイルとして保存するか検索エンジン(Elasticsearchなど)に保存するかの2つの方法がある.
3.可視化
収集したログやメトリクスをダッシュボードにまとめたりして可視化する.可視化はそれだけで1冊の本が書ける.以下はこの本で紹介されていた可視化についての書籍である.
The Visual Display of Quantitative Information
- 作者:Edward R. Tufte
- 出版社/メーカー: Graphics Pr
- 発売日: 2001/05/01
- メディア: ハードカバー
Information Dashboard Design: The Effective Visual Communication Of Data
- 作者:Stephen Few
- 出版社/メーカー: Oreilly & Associates Inc
- 発売日: 2005/03/27
- メディア: ペーパーバック
4.分析とレポート
監視データの種類によっては,単なる可視化を超えて,分析とレポートの分野に踏み込むと有益な場合がある.よくあるユースケースの1つとして,アプリケーションとサービスのサービスレベルアグリーメント(SLA:Service Level Agreement)を決定し,レポートする場合が挙げられる.SLAとは,サービス提供者と顧客との間で取り交わされる,アプリケーションやサービスに期待される可用性についての契約である.
5.アラート
監視した結果をアラートとして人間に知らせる必要があるが,監視の目的をしっかり理解することが重要である.後半で詳しく説明する.
監視のデザインパターン2:ユーザ視点での監視
監視対象は数多く存在するが,まず監視するべきなのは,ユーザがアプリケーションとやり取りをするところである.もっとも効果的な監視ができる方法の1つが,HTTPレスポンスコードを使うことである.ここから監視を始め,徐々にWebのノードやワーカノードといったコンポーネントに監視を広げていくことになるが,常に「このメトリクスはユーザへの影響をどう教えてくれるか」と自問自答するべきである.
監視のデザインパターン3:作るのではなく買う
監視ツールのSaaSサービスを使う.これはツール依存アンチパターンの答えにもなるようなデザインパターンである.執筆者がSaaSの購入を勧める理由は以下の通り.
- 安いから
- 監視ツールの設計を行う人がその道の専門家ではないことが多いから
- 簡単かつすぐに監視の仕組みを立ち上げられるのでプロダクトにフォーカスできるから
- SaaSを使わない合理的な理由が少ないから
SaaSを使いたがらない人が挙げる理由のほとんどは,上記の認知コストに行き着く.オンプレの監視の仕組みを成長させるのに必要なお金や時間が,SaaSの監視の仕組みを成長させるお金や時間を超えることは往往にしてあるので検討する余地はある.
監視のデザインパターン4:継続的改善
監視の仕組みを常に改善したり再構築を重ねることで監視を育てていく.
どうしたらアラートをよくできるか
監視システムを構築すれば必ずアラートの設定は必要になるのに,アラートはなぜか無視されたり気づかれなかったりする.人間の注意力には限りがあるので,アラートをどうやったらよくできるかという課題はとても重要である.アラートをコンテキストによって2つの意味で使い分けている人が多いので,まずそれを定義する.
- 誰かを叩き起こすアラート
- 緊急の対応が求められ,でなければシステムがダウンしてしまう
- 例:全Webサーバがダウンし,メインサイトへの疎通が取れない
- 参考情報としてのアラート
- すぐに対応する必要はないが,アラートが来たことは誰かが確認すべきもの
- 例:夜間バックアップジョブの失敗
ここでは前者について取り上げる.よいアラートの仕組みを作るために気をつけるべき項目を以下に示す.
- アラートにメールを使うのをやめる
- 手順書を書く
- 固定の閾値を決めることだけが方法ではない
- アラートを削除してチューニングする
- メンテナンス期間を使う
- まずは自動復旧を試す
それぞれ説明する.
1.アラートにメールを使うのをやめる
メールでアラートを送るのは,受け取る人がうるさくて最もうんざりしてしまう方法で,アラート疲れの原因になる.そこで以下の3つのパターンでアラートの送り先を変える.
すぐに応答かアクションが必要なアラート
これらはSMS,PagerDutyなどに送る.
注意は必要だがすぐにアクションは必要ないアラート
これらは社内のチャットルームに送るのがおすすめ.メールだと受信箱をいっぱいにしてしまいがちなので,他の場所があるならそちらの方がよい.
履歴や診断のために保存しておくアラート
必要なアラートはログファイルにも送る.アラートを保存しておくと,あとでどのアプリケーションやサービスでトラブルが多いかというレポートを送ることができる.
2.手順書を書く
手順書は,アラートが来た時に自分のやるべきことが分かるすばらしい方法である.また,環境が複雑になってくると,チームの誰もが各システムのことを知っているわけではなくなるので,手順書が知識を広めるよい方法にもなる.よい手順書とは,以下のような質問に答えるように書かれたものである.
- これは何のサービスで,何をするものか
- 誰が責任者か
- どんな依存性を持っているか
- インフラの構成はどのようなものか
- どんなメトリクスやログを送っていて,それらはどういう意味なのか
- どんなアラートが設定されていて,その理由は何なのか
ただし,手順書はなんでもかんでも作ればいいというものではない.例えば,修復手順がコピーアンドペーストでできるような内容ならば,その修復を自動化してアラート自体を削除できる.手順書は,何らかの問題を解決するのに,人間の判断と診断が必要な時に使うものである.
3.固定の閾値を決めることだけが方法ではない
「この値がXを超えた」といったアラートに意味がない場合はたくさんある.典型的な例としては,ディスク使用量がある.「空き容量が10%以下」という固定された閾値を決めてしまうと,ディスク使用量が11%から80%まで急激に増えるというケースを見逃してしまう.これを解決する方法の1つに,変化量やグラフの傾きを使うことがあげられる.
4.アラートを削除してチューニングする
うるさすぎるアラートは監視システムの信頼をなくし,アラートを受け取る人はアラートを無視してしまうようになる.しかし,それが監視の仕組みを完全に信頼しない理由にはならないので監視を継続するが,時間が経つとアラート疲れを起こしてしまう.この対策はシンプルでアラートを減らすことに尽きる.以下に示すのは,アラートを減らす際に考えるべき項目である.
- すべてのアラートは誰かがアクションする必要がある状態か
- 1ヶ月間のアラートの履歴を見て,どんなアラートがあるか,どんなアクションを取ったか,各アラートの影響はどうか,削除できるか,閾値を変更できるか,監視の内容をより正確にできるかを考える
- アラートを完全に削除するために,どんな自動化の仕組みが作れるか
5.メンテナンス期間を使う
何らかのサービスで作業をする必要があり,そのサービスにはアラートが設定されているなら,アラートをメンテナンス期間に入れる.これにより不要なアラートは飛ばなくなる.ただし,アラートの止めすぎには注意する.作業をしていたら,知らなかった依存性があり,他のサービスで問題が起きることもある.
6.まずは自動復旧を試す
自動復旧はアラート疲れを避けるすばらしい方法なので,アラートを送る前にまずは自動復旧ができるかを考える.
まとめ
- 「入門 監視」を読んだ
- 1,2章を読んで,目的にあったツールを選んでいこうと思えた
- レイヤーに関係なく網羅的に監視の話が書かれているので,それぞれのレイヤーで何が監視対象になりうるか全体像が把握できた