AWS Blackbelt 2015シリーズ Elastic Load Balancing

1
Elastic Load Balancing (ELB)
AWS Black Belt Tech Webinar 2015
アマゾンデータサービスジャパン株式会社
ソリューションアーキテクト舟﨑健治
2015/5/13

2
質問を投げることができます！
• Adobe Connectのチャット機能を使って、質問を書き込んでく
ださい。（書き込んだ質問は、主催者にしか見えません）
• Twitterへツイートする際はハッシュタグ#awsblackbeltをご
利用ください。
①画面右下のチャッ
トボックスに質問を
書き込んでください
②吹き出しマークで
送信してください
AWS Black Belt Tech Webinar へようこそ！

3
AWS Black Belt Tech Webinar 2015
• 今後の配信予定
4月から5月は「春のベーシックサービス祭り月間」
– 5/20(水) Amazon EC2 Windowsインスタンス
– 5/27(水) Amazon RDS
• 申し込みサイト
– http://aws.amazon.com/jp/event_schedule/

4
本資料では2015年5月13日時点のサービス内容および価格についてご説明しています。
最新の情報はAWS公式ウェブサイト(http://aws.amazon.com)にてご確認ください。
資料作成には十分注意しておりますが、資料内の価格とAWS公式ウェブサイト記載の価
格に相違があった場合、AWS公式ウェブサイトの価格を優先とさせていただきます。
内容についての注意点
AWS does not offer binding price quotes. AWS pricing is publicly available and is subject to change in
accordance with the AWS Customer Agreement available at http://aws.amazon.com/agreement/. Any
pricing information included in this document is provided only as an estimate of usage charges for AWS
services based on certain information that you have provided. Monthly charges will be based on your actual
use of AWS services, and may vary from the estimates provided.
価格は税抜表記となっています。日本居住者のお客様が東京リージョンを使用する場合、
別途消費税をご請求させていただきます。

5
Agenda
• ELBの基本
• ELBの各種機能
• ELBと各種サービスの連携
• ELB負荷試験時のTips
• まとめ

7
Elaastic Load Balancing (ELB) とは？
〜 AWSクラウド上のロードバランシングサービス〜
ELBで実現できるシステム
 スケーラブル : 複数のEC2インスタンスに負荷分散
 高い可用性 : 複数のアベイラビリティゾーンにある複数のEC2インスタンス
の中から正常なEC2インスタンスにのみ振り分け
ELB自体の特徴
 スケーラブル : ELB自体も負荷に応じてキャパシティを自動増減
 安価な従量課金 : 従量課金で利用可能
 運用管理が楽 : マネージドサービスなので管理が不要
 豊富な連携機能 : Auto Scaling, Route 53, Cloud Formation… などと連携

8
アベイラビリティゾーン a
ELB
ユーザー
マネージメント
コンソール
開発・管理者
EC2
ELBの使い方イメージ
EC2
アベイラビリティゾーン b
myLB-xxx.elb.amazonaws.com

9
負荷分散してスケーラブルなシステムを
バックエンドのEC2インスタンスのリクエスト数やコネクション数が
均等になるよう負荷分散
接続が少ない新インスタンスに
新しい接続を振り分ける
新サーバ追加！
過負荷
過負荷
対応プロトコル
L7： HTTP, HTTPS
L4： TCP(1025-65535番ポート), SSL

10
ELB自体もスケーラブル
• ELB自体も負荷の増減に応じて自動でスケール
（キャパシティが自動で増加する）
[注意]
ELBがスケールするときには、IPアドレスが変化します。
ELBへアクセスするときには必ずDNS名で！
DNSに登録することで独自ドメインでのアクセスも可能。

11
複数アベイラビリティゾーン(AZ)に分散
2段階で負荷分散
1) DNSラウンドロビンで各AZ内のELBに振り分け
2) 負荷が均等になるようにバックエンドのEC2に振り分け
ELB
AZ - a
AZ - b
DNS
ラウンドロビンで
振り分け
負荷分散

12
分散した上でヘルスチェックして高い可用性
• ELBは指定した設定に基づき、バックエンドの
インスタンスのヘルスチェックを行う
– Pingプロトコル例：HTTP (200番が返るのを確認）
– Pingポート例：80番
– Pingパス（HTTP/S利用時）例：/index.html
– タイムアウト時間例：20秒
– ヘルスチェック間隔例：30秒
– 異常判定までの回数例：4回
– 正常判定までの回数例：2回
• 正常との判定が遅いと追加したインスタンスが
使えるまでに時間がかかる。逆に異常との判定が厳しすぎても、
過負荷時に処理できるインスタンスを減らしてしまうことにも。

13
• 時間当たりの利用料は、複数AZ配置構成でも同じ
• SSLを利用しても同じ料金
• ELBにリザーブドプランはなし
• 処理量の課金は合計処理量
安価な従量課金
2015年5月13日現在
参照 http://aws.amazon.com/jp/elasticloadbalancing/pricing/

15
ELBの各種機能
 ELB利用時のTips
 独自ドメイン名で利用
 クライアントのIPアドレス取得
 AZとバックエンドキャパシティの関係
 ELBとバックエンドとのコネクション
 SSLサポート
 スティッキーセッション
 Connection Draining
 アクセスログのS3保管
 ELBのタグ対応
 ELB自身のスケーリング
 VPCでの利用
 ELBとSecurity Group

16
• Route 53以外のDNSを使用する場合はCNAMEで登録
• Route 53を使用する場合は、Route 53エイリアスレコードで登録
（CNAMEでの登録も可能）
• Zone Apex (www.exapmple.com ではなく
example.com を指定) の場合
 通常のDNSサーバではCNAME設定不可
 Route 53のエイリアスレコードを
使うことで実現可能
独自ドメイン名で利用
www.example.com CNAME myLB-xxxx.ap-northeast-1.elb.amazonaws.com
参照 http://docs.aws.amazon.com/ja_jp/ElasticLoadBalancing/latest/DeveloperGuide/using-
domain-names-with-elb.html

17
クライアントのIPアドレス取得
X-Forwarded-For: 203.0.113.7, 10.12.33.44, 10.12.23.88
Client IP address
送信元経由するルート
バックエンドサーバへの接続は、
ソースIPアドレスがELBのIPアドレスとなる
– クライアント⇔ELB, ELB⇔バックエンドの接続はそれぞれ独立しているため
– アクセスログにはELBのIPアドレスが記録される
 HTTP/HTTPSならHTTPヘッダ上のX-Forwarded-Forで参照可
利用例： - アクセスログにクライアントのIPアドレスを記録
- IPアドレスによるアクセス制限
参照 http://docs.aws.amazon.com/ja_jp/ElasticLoadBalancing/latest/DeveloperGuide/TerminologyandKeyConcepts.html#x-
forwarded-for

18
AZとバックエンドキャパシティの関係
• リージョン内の複数AZに負荷分散可能
– 複数リージョンへの分散にはRoute 53を併用できる
• 各EC2インスタンスのタイプは同じに
• AZごとのEC2インスタンス数はできれば均等に
– クロスゾーン負荷分散でAZ間を越えて負荷を均等にできる
（クロスゾーン負荷分散はデフォルトで有効）
AZ-b
3
2
良くない例：AZ間でキャパシティが不均等
AZ-a
50%
50%
もう一方より
負荷が高くなる
クロスゾーン負荷分散が有効であれば
50%
50%
台
台
AZ-b
3
2
AZ-a
台
台
負荷を基に
均等に
参照 http://docs.aws.amazon.com/ja_jp/ElasticLoadBalancing/latest/DeveloperGuide/enable-disable-
crosszone-lb.html

19
ELBのコネクションタイムアウト
• 無通信状態が続くとそのコネクションを自動で切断する
– デフォルトではコネクションタイムアウト値は60秒
• コネクションタイムアウト値を変更可能
– 1~3600秒の間で自由に設定可能
– 設定方法は※参照
※ http://docs.aws.amazon.com/ja_jp/ElasticLoadBalancing/latest/DeveloperGuide/config-
idle-timeout.html
New 2014.7

20
ELB自体のスケーリング
ELBは負荷に応じて自動でスケールする
• 但し、ELBへの接続・リクエストが瞬間的に急増したために、ELBのス
ケーリングが間に合わない場合、HTTP 503を返す
– 新サービス開始
– TVやメディアによるサービス紹介
– 負荷テスト等
• 回避方法は事前にELBをスケールさせておく
– Pre-Warming（暖気運転）の申請を行う ※Business/Enterpriseサポート要
– 負荷を段階的にかける
参照 http://d36cz9buwru1tt.cloudfront.net/jp/documentation/BestPracticesInEvaluatingELB-
ja-final.pdf

21
VPCでの利用
• ELBを配置するサブネットをAZごとに1つ指定
サブネットは最小 /27 CIDRブロックで、20個以上の空きIPが必要
• EC2 Classicに設置する場合と比べた制約：IPv6サポートなし (2015年5月時点)
AZ - a
AZ - b
ELBサブネット Webサブネッ
ト
参照
http://docs.aws.amazon.com/ja_jp/ElasticLoadBalancing/latest/DeveloperGuide/UserScenariosForVPC.html

22
Internet-Facing ELB / Internal ELB
 Internet-Facing ELB
インターネットからアクセスできるELB
 Internal ELB
VPC内やオンプレミス環境からのみ
アクセスできればよいELB
プライベートサブネットにも配置できる
※どちらのELBもDNSレコードはパブリックで解決される
Internet-Facing ELB
Webサーバ
Internal ELB
APサーバ
参照
http://docs.aws.amazon.com/ja_jp/ElasticLoadBalancing/latest/DeveloperGuide/vpc-loadbalancer-types.html

23
ELBとSecurity Group
• EC2 ClassicのSecurity Groupは”amazon-elb/amazon-elb-sg”、
VPCではELBに任意のSecurity Groupを指定可能
• ICMP Echo Request/Replyを許可
すれば、ELBがpingにも応答
• バックエンドのEC2インスタンスは
ELBからのみリクエストを
受け付ける設定を推奨
443
80
80
80
80
sg-ELB
443: 0.0.0.0/0
22
sg-EC2
80: sg-ELB
22:10.0.0.0/24
参照 http://docs.aws.amazon.com/ja_jp/ElasticLoadBalancing/latest/DeveloperGuide/elb-vpc-
security-groups.html

24
ELBの各種機能
 SSLサポート
 VPCでの利用

25
SSLサポート
ELBでSSL Terminationできる
a) ELBでSSL Terminationし、バックエンドとはSSLなし
バックエンドのEC2インスタンスでSSL処理せずに済むため
負荷をオフロードできる。
b) ELBでSSL Terminationし、バックエンドとは別途SSL
c) SSLをバイパスしてバックエンドにTCPで送信
クライアント証明書認証などを利用するためにはTCPとして扱う
a) HTTPS HTTP
b) HTTPS / SSL HTTPS / SSL
c) TCP TCP
参照 http://docs.aws.amazon.com/ja_jp/ElasticLoadBalancing/latest/DeveloperGuide/elb-listener-
config.html#using-elb-listenerconfig-quickref

26
HTTPS/SSL利用時のサーバ証明書
ELBにサーバ証明書をアップロード
• HTTPS/SSL利用にはサーバ証明書のアップロードが必須
• 複数ホスト名には別名・ワイルドカードか複数ELBで対応（SNI未対応）
• バックエンドとの通信にSSLを用いないなら証明書の管理が容易
• マネージメントコンソール or CLI or IAM APIで設定
SSL証明書のライセンスに関し
ては、サーバ単位/ドメイン単位
で発行などそれぞれ異なるので
発行元に問い合わせの事
サーバ証明書
参照
http://docs.aws.amazon.com/ja_jp/ElasticLoadBalancing/latest/DeveloperGuide/ssl-server-cert.html

27
SSLのセキュリティ強化
• TLS 1.1, 1.2のサポート
• Perfect Forward Secrecy (PFS) のサポート
• Server Order Preference
• 新しい定義済みのセキュリティポリシー
新しく作ったELBではELBSecurity-Policy-2015-03がデフォルト
 既存のELBには互換性確認の上 ELBSecurity-Policy-2015-03 の適用を
参照
https://docs.aws.amazon.com/ja_jp/ElasticLoadBalancing/latest/DeveloperGuide/ssl-config-update.html

28
バックエンドインスタンスのサーバ証明書認証
ELBとバックエンドのEC2インスタンス間でHTTPS/SSL使用時に、
特定の証明書を使用しているかどうかバックエンドを認証

29
ELBの各種機能
 SSLサポート
 VPCでの利用

30
スティッキーセッション (stickness)
同じユーザから来たリクエストを全て同じEC2インスタンスに送信
• デフォルトで無効、使うには有効に
• アプリケーションでのセッション情報、一時ファイルなどを
EC2インスタンスが保持する構成の場合に必要となる。
• HTTP/HTTPSでのみ利用可能
• ELBは独自のセッションCookieを挿入
EC2インスタンスの増減を柔軟にできるように、
セッション情報などは別のDBサーバやキャッ
シュサーバに持たせるのが望ましい。
この場合スティッキーセッションは不要。

31
有効期間の制御方法は以下２パターン
 Application Generated Cookie Stickiness（アプリケーション制御）
アプリケーションが作成したCookieにあわせる
– アプリケーションが作成するCookie名を指定
– Cookieの有効パスもあわせる
 Load Balancer Generated Cookie Stickiness（期間ベース）
セッション開始からの有効期間を指定してELBで制御
– 秒単位で指定
– 無期限にする事も可（無期限でもブラウザを閉じれば終了）
スティッキーセッションの有効期間

32
ELBの各種機能
 SSLサポート
 VPCでの利用

33
バックエンドのEC2インスタンスをELBから登録解除したり、ヘルスチェッ
クが失敗した時に、新規割り振りは中止して、処理中のリクエストは終わる
まで一定期間待つ。
• 新しく作成したELBではデフォルトで有効、タイムアウト 300秒。
• タイムアウト最大 3600秒
• Connection Draining 動作中
– Management Consoleではインスタンスの表示が消える
– API/SDK/CLIでは状況がわかる
Connection Draining
（2015.5時点）

34
$ aws elb describe-instance-health --load-balancer-name (ELB Name)
{
"InstanceStates": [
{
"InstanceId": "i-XXXXXXXX",
"ReasonCode": "N/A",
"State": "InService",
"Description": “N/A”
}
]
}
登録解除時のAWS CLIでの表示
State Description
正常時 InService N/A
Connection
Draining 動作中
InService Instance deregistration currently in progress.
全接続終了後 or
タイムアウト後
OutOfService Instance is not currently registered with the
LoadBalancer.

35
ELBの各種機能
 SSLサポート
 接続のストリーミング
 VPCでの利用

36
ELBのアクセスログを指定したS3に自動保管
• 簡単にログのS3保管が実現できる
• ログに含まれる項目の例
– timestamp
– elb_status_code
– backend_status_code
– received_bytes
– sent_bytes
– request
アクセスログのS3保管
参照 http://docs.aws.amazon.com/ja_jp/ElasticLoadBalancing/latest/DeveloperGuide/access-
log-collection.html

37
ELBの各種機能
 SSLサポート
 接続のストリーミング
 VPCでの利用

38
ELBのタグ対応
• ELBにタグ付けが可能に。
– アプリケーションやプロジェクト名によるリソース管理
– タグによるコスト配分、可視化が可能
New 2014.8

39
ELBと各種サービスの連携

40
CloudWatchとの連携
監視
CloudWatchによりELBの以下を1分単位で監視可能
• 正常なバックエンドのホスト数 (HealthyHostCount)
• 異常なバックエンドのホスト数 (UnHealthyHostCount)
• リクエスト数 (RequestCount)
• 遅延時間 (Lantency)
• ELBが返した4xx,5xxのレスポンス数 (HTTPCode_ELB_4xx)
• バックエンドが返した2xx,3xx,4xx,5xxレスポンス数 (HTTPCode_Backend_2xxx)
• バックエンドへの接続エラー回数 (BackendConnectionError)
• バックエンドへの送信保留中の件数 (SurgeQueueLength)
• キュー溢れのため拒否した件数 (SpilloverCount)
計13項目
参照
http://docs.aws.amazon.com/ja_jp/ElasticLoadBalancing/latest/DeveloperGuide/US_MonitoringLoadBalancerWithCW.html

41
Auto Scalingとの連携
Auto scaling Group
増減
• Auto Scalingによるインスタンス増減時にELBへの追加・削除が可能
• ELBのヘルスチェックの結果をAuto Scalingに反映可能
• インスタンス削減時は、Connection Drainingでの処理中の接続を待つ
• 利用例
– 一定間隔でレスポンスをチェックし、遅延が増加したらインスタンスを
自動追加
– ELBのヘルスチェックが成功したEC2インスタンスを常にX台以上

42
Route 53 DNSフェイルオーバ対応
Route 53のヘルスチェック機能とELBが連携
例：アプリケーション障害時にSorryページヘ誘導
正常時フェイルオーバ時
S3 Bucket
1. DBに問題発生
2. AppサーバのELB
ヘルスチェック失敗
3. ELB配下に正常なEC2
インスタンスなし 4. フェイルオーバ
5. Sorry
ページ

43
OpsWorksのELB対応
OpsWorksでELBをレイヤーにアタッチして、負荷分散が可能
User AWS Management
Console
App Serverレイヤー
Databaseレイヤー
レシピ
レシピ DB
Web
/App
Web
/App
①スタックの作成
②レイヤーの作成
③レシピの作成・設定
（ビルトイン
レシピ利用可）
④レイヤーにインスタ
ンス追加・起動
⑤レシピによって
パッケージインス
トール、設定
ELBを追加可能
スタック
参照
http://docs.aws.amazon.com/ja_jp/opsworks/latest/userguide/load-balancer-elb.html

44
EC2 Container Service(ECS)のELB対応
• ELBによりECSのコンテナをまたがった負荷分
散が可能
Task
Container1
Container2
80
9000
xxx.elb.amazonaws.com:80
xxx.elb.amazonaws.com:9000
EC2インスタンス
New 2015.4
参照 http://aws.typepad.com/aws_japan/2015/04/ec2-container-service-ready-for-
production-use.html

45
AWS Trusted AdvisorによるELBのチェック項目追加
• ELBのセキュリティとフォールトトレランスを
チェックする項目をTrusted Advisorに追加
– ELBリスナーのセキュリティ
– ELBセキュリティグループ
– ELBクロスゾーン負荷分散
– ELB Connection Draining
※ http://aws.typepad.com/aws_japan/2015/03/new-elastic-load-balancer-checks-for-aws-
trusted-advisor.html
ELBリスナーのセキュリティの例
New 2015.3

46
ELB負荷テストに関するTips

47
ELBを負荷テストする必要性について
ELBのいくつかの特長がテストシナリオに影響を与える可能性がある。
• ELBのスケーリング
• ELBの初期キャパシティ
• アイドル時のコネクションタイムアウト
• バックエンドインスタンスのヘルスチェック
• Stickyセッション等
ご利用内容に合わせたシナリオでテストが必要

48
 シングルクライアントテスト
例：Apache Bench(ab)
 マルチクライアントテスト
例：curl-loader
(都度DNS解決を行うツールが望ましい)
 分散テスト
例：Fabricフレームワーク、
BeesWithMachineGuns
クライアントの負荷が足りない場合はクライアント数を増やす等で対応可
ELBの負荷テスト方法の種類
負荷生成
クライアント
バックエンド
インスタンス

49
• 想定する最大負荷のテスト
• 通常のトラフィック時のテスト
– トラフィックの多い時
– トラフィックの少ない時
– トラフィックの傾向に変化がある時（朝や昼の時間帯など）
• 短い時間でトラフィックが大きく変化する場合のテスト
ELB以外にも負荷生成クライアント、バックエンドEC2インスタンスも
監視すべき
– アプリケーション内部の動作も要確認
– どこかボトルネックになっているか把握しておく
推奨テストアプローチ
時間
負
荷

50
• ELBの初期スケールに注意
– スケールするまでに、HTTP 503レスポンスを返す期間があり得る
– 回避策：
• ELBの暖気運転（ Pre-Warming）申請をする
• 5分間隔で50%以上のトラフィック増加をしないよう負荷テストを設定
• DNSクエリの仕方に注意
– テストクライアント側で少なくとも1分に1回DNSの再解決をする
• スティッキーセッション利用時の割り振り方
– 同じCookieでリクエストを続けた場合などは振り分けに偏りが発生
• バックエンドインスタンスのアイドルタイムアウト
– ELBのタイムアウト値以上に設定しないとELBが誤って不健全なホストと見なす可能性
あり
負荷テストの注意事項
詳細
http://d36cz9buwru1tt.cloudfront.net/jp/documentation/BestPracticesInEvaluatingELB-ja-final.pdf

52
まとめ
〜ELBはAWSが提供するロードバランシングサービス〜
 運用管理コストを抑えながら
スケーラブルで高可用なインフラを構築可能
 各種サービスとの連携もスムーズ＆随時拡充
 負荷試験時はその特性を理解した上で
 急激な負荷の増大が想定される場合には、
サポート加入の上で暖気申請（Pre-Warming）を

53
参考資料（日本語）
• Elastic Load Balancing開発者ガイド
http://docs.aws.amazon.com/ja_jp/ElasticLoadBalancing/latest/DeveloperGuide/Welcome.html
• Elasitc Load Balancingを評価するための
ベストプラクティス
http://d36cz9buwru1tt.cloudfront.net/jp/documentation/BestPracticesInEvaluatingELB-ja-final.pdf
• Amazon ELB FAQ
http://aws.amazon.com/jp/ec2/faqs/#elastic-load-balancing

54
参考資料（英語）
• Amazon Elastic Load Balancing Developer Guide
http://docs.aws.amazon.com/ElasticLoadBalancing/latest/DeveloperGuide/Welcome.html
• Best Practices in Evaluating Elastic Load Balancing
http://aws.amazon.com/articles/1636185810492479
• Amazon ELB FAQ
http://aws.amazon.com/ec2/faqs/?nc2=h_ls#elastic-load-balancing
• AWS CLI – ELB
http://docs.aws.amazon.com/cli/latest/reference/elb/
• [AWS re:Invent 2012] CPN 205: Zero to Millions of Requests
https://www.youtube.com/watch?v=xKF-Aawz9oc

55
Q&A
次回Webinarのお申し込み
http://aws.amazon.com/jp/event_schedule/
AWS Summit Tokyo 2015
参加登録受付中！
http://www.awssummit.tokyo/

56
Webinar資料の配置場所
• AWS クラウドサービス活用資料集
– http://aws.amazon.com/jp/aws-jp-introduction/

57
公式Twitter/Facebook
AWSの最新情報をお届けします
@awscloud_jp
検索
最新技術情報、イベント情報、お役立ち情報、お得なキャンペーン情報などを
日々更新しています！
もしくは
http://on.fb.me/1vR8yWm

58
AWS初心者向けWebinar
• AWSをこれからご使用になる向けのソリュー
ションカットのオンラインセミナー
• 今後の配信予定
– 5/19(火) AWS料金の見積もり方法
※18時~19時15分の時間帯です！
• 申し込みサイト
– http://aws.amazon.com/jp/about-aws/events/

59
次回のAWS Black Belt Tech Webinar は、
5月20日 18:00〜
Amazon EC2 Windowsインスタンス

60
ご参加ありがとうございました。

ELB Updates
• 2015.4 EC2 Container ServiceのELB対応
• 2015.3 AWS Trusted AdvisorによるELBチェック項目の追加
• 2014.8 ELBのタグ対応
• 2014.7 ELBのコネクションタイムアウト変更
• 2014.4 CloudTrail対象に追加
• 2014.3 接続のストリーミング
• 2014.3 アクセスログのS3保管
• 2014.2 SSLサポート強化（Perfect Forward Secrecy(PFS)、Server Order Preference、
ELBSecurityPolicy-2014-01ポリシー追加）
• 2013.11 クロスゾーン負荷分散
• 2013.10 CloudWatchのメトリック追加（BackendConnectionError、SurgeQueueLength、
SpilloverCount）
• 2014.7 Proxy Protocol
• 2013.5 全てのHTTPメソッド対応
• 2013.5 Route 53のフェールオーバ連携
• 2012.6 Internal ELB

AWS Blackbelt 2015シリーズ Elastic Load Balancing

Recommended

More Related Content

What's hot (20)

Viewers also liked (8)

Similar to AWS Blackbelt 2015シリーズ Elastic Load Balancing (20)

More from Amazon Web Services Japan (20)

AWS Blackbelt 2015シリーズ Elastic Load Balancing