Amazon CloudWatch と Datadog で実現する IVRy の SLI/SLO 運用とパフォーマンス調査

システムの可用性やパフォーマンスを確保するために、SLIとSLO の設定は非常に重要です。これらの指標を適切に運用することにより、サービス品質を維持し、ユーザー体験を向上させることができます。

IVRy のような音声通話を中心としたサービスでは、SLI/SLO の運用が特に重要です。なぜなら、IVRy はユーザーとのリアルタイムでのやり取りを提供しており、その品質が直接的にビジネスや顧客満足度に影響を与えるからです。例えば、通話の接続成功率はサービスの評価に直結します。このため、SLI/SLO の運用を通じて、サービスの可用性やパフォーマンスを維持することは、IVRy の運用における重要な要素です。

SLI はサービスの健全性を測るための指標であり、SLO はその指標に基づいて達成すべき目標値を設定するものです。IVRy においては、例えば「通話成功率」や「通話品質」「API のレスポンス時間」などが SLI として設定され、これらを達成することが SLO として目指されています。これにより、IVRy はサービスレベルを明確に定義し、サービス品質を維持しながら運営することが可能となります。

SLI/SLO 運用の最大の利点は、サービスの状態を定量的に把握できる点です。Datadog などのツールを用いて、これらの指標をリアルタイムでモニタリングすることで、問題が発生した際には迅速に対応でき、顧客に対して一貫したサービス品質を提供し続けることができます。

IVRy のサービス特性上、特に重要なのは「リアルタイム性」と「信頼性」です。音声通話という特性上、遅延や不安定な接続は即座にユーザー体験に影響を与えます。IVRy が提供する音声通話や自動音声応答システム (IVR) は、24 時間 365 日稼働し続ける必要があり、障害が発生すると即座にユーザーに影響を及ぼします。

そのため、IVRy ではサービスの健全性を常に監視し、目標とするサービスレベルを確実に達成することが必須です。IVRy における SLI/SLO 運用は、サービスの品質を保つためだけでなく、ユーザー体験を向上させ、信頼性を高めるために不可欠な要素となっています。

Datadog は、リアルタイムでメトリクスを収集し、監視ダッシュボードを通じて可視化するツールです。IVRy では、Datadog を利用して、以下のような SLI/SLO を監視しています。(数値と指標については実際の値ではなく分かりやすくするために記載しています)

• 通話開始までのレイテンシー
  通話開始までのレイテンシーは、ユーザーが通話を発信してから実際に通話が開始されるまでの時間を測定する重要な指標です。IVRy では、この指標の SLI とし「99.9% の通話でレイテンシーが ◯ ms 以下」という SLO を設定しています。この目標を達成することで、ユーザーにスムーズで快適な通話体験を提供しています。
• API レスポンスタイム
  API のレスポンスタイムを測定し、SLO として「95% のリクエストは ◯ms 以内に応答する」という目標を設定しています。Datadog の APM 機能を活用し、レスポンスの遅延や障害を迅速に検知します。
  

IVRy では 2024 年 12 月ごろにリリースされた Amazon CloudWatch Database Insights といった機能も積極的に有効化して使用しています。CloudWatch Database Insights では Performance Insights と合わせて調査する際にシームレスな操作で大変便利です。

コンテナごとのヘルスチェックの状態なども確認することができます。特定のコンテナだけ調子が悪くなっているケース (AZ 障害など) を確認することができ以降のドリルダウン時のヒントとして有効な情報を得ることができます。具体的な活用例としてはあるサービスで定期的に外形監視が落ちてしまうという事象が発生していました。サービス単位のメトリクスだけを監視しているとメトリクスが平均で表示されてそれぞれ問題が起きていなかったのですが、コンテナ単位で確認することで起動直後のコンテナがリソースを大量に使うために、API のレスポンスが遅延してしまっていたということが判明しました。

本記事では、IVRy における SLI/SLO の運用方法と、その実現に向けた Datadog や Amazon CloudWatch Container Insights with Enhanced Observability、Amazon CloudWatch Database Insights の活用方法について詳しく紹介しました。IVRy のようなリアルタイム音声通話サービスにおいて、SLI と SLO は、サービス品質を維持し、顧客満足度を高めるために欠かせない指標であり、その運用はサービスの信頼性とパフォーマンス向上に直結します。

今後も、IVRy では SLI/SLO の運用をさらに進化させ、サービス品質を高めるために最適なツールと技術を活用し続けます。これにより、ユーザーの期待を超える信頼性の高いサービスを提供し、継続的な成長を目指していきます。