20170308 古参awsユーザーが悩むap-northeast-1bからの脱却

15
ap-northeast-1b かかかかか かかかかかかかかかかかかかか かか

Upload: tsuyoshi-hisamatsu

Post on 19-Mar-2017

662 views

Category:

Engineering


0 download

TRANSCRIPT

Page 1: 20170308 古参AWSユーザーが悩むap-northeast-1bからの脱却

ap-northeast-1b からの脱却株式会社ネットマーケティング

久松 剛

Page 2: 20170308 古参AWSユーザーが悩むap-northeast-1bからの脱却

話者紹介 管理本部インフラチームシニアマネージャー 広告事業、メディア事業 Omiai ・ Switch 、社内インフラの責任者 エンジニア採用担当補佐 慶應義塾大学政策メディア研究科博士

2000 年より村井純環境情報学部長・教授に師事 IT 革命から事業仕分けまで 在学時のテーマは動画転送、オーバーレイネットワークを用いた次世代インターネット

Page 3: 20170308 古参AWSユーザーが悩むap-northeast-1bからの脱却

ap-northeast-1b というのがあるんです今どきのアカウント 長寿アカウント

※{a,b,c} のマッピングはアカウントによって違うとのこと※ ただ一般的に 1b のことを話すと共感される傾向

Page 4: 20170308 古参AWSユーザーが悩むap-northeast-1bからの脱却

AWS と Omiai 2011 年 3 月 2 日 Tokyo リージョンサービス開始

http://aws.typepad.com/aws_japan/2011/03/now-open-aws-region-in-tokyo.html 当初は ap-northeast-1{a,b} でサービス

2012 年 9 月 12 日 ap-northeast-1c ローンチ https://forums.aws.amazon.com/ann.jspa?annID=1629

2014 年 6 月 17 日 General Purpose ( SSD )の追加

2012 年 8 月 Omiai インフラ構築開始

2012 年 10 月 2 日 AWS への移行完了

2015 年 12 月 X Day

Page 5: 20170308 古参AWSユーザーが悩むap-northeast-1bからの脱却

サービス開始から抱えていた業 ap-northeast-1a と b でサービス開始

意識高い MAZ 運用・・・ Magnetic から始まったサーバ群

LVM を使わない限り 1TB が上限 そんなサーバに NFS が居た・・・

Page 6: 20170308 古参AWSユーザーが悩むap-northeast-1bからの脱却

辛い ap-northeast-1b 最新技術は投入されにくい

今風のインスタンス 高スペック EBS

(当時)新規 VPC サブネットが切り出せず VPC のみサポートするマネージドサービスを享受できず

Page 7: 20170308 古参AWSユーザーが悩むap-northeast-1bからの脱却

NFS が抱えた闇 ap-northeast-1b

障害があった際に正副が反転・・・

ディレクトリ構成が超深い && 多い magnetic

1TB 上限

そして X Day がやってきた

Page 8: 20170308 古参AWSユーザーが悩むap-northeast-1bからの脱却

NFS を移行しようゴール

ゴール ap-northeast-1{a,c} に移りたい ボリュームの拡張 (1TB→4TB) 十分な IOPS NFS の利用はキープ

S3 に移行とかは工数と検証の問題が

考えられる手段 ( 当時 ) EBS Snapshot backup lsyncd で常時バックアップ 新規ボリュームをマウントして dd 地道に rsync

Page 9: 20170308 古参AWSユーザーが悩むap-northeast-1bからの脱却

立ちはだかる ap-northeast-1b

Page 10: 20170308 古参AWSユーザーが悩むap-northeast-1bからの脱却

EBS Snapshot Backup

超遅い

1TB のバックアップに 5-6 時間Magnetic 辛い

Page 11: 20170308 古参AWSユーザーが悩むap-northeast-1bからの脱却

lsyncd

いつの間にか超遅くなってた深いディレクトリ構造( lsyncd はディレクトリ単位で監視する )

Magnetic 辛い

Page 12: 20170308 古参AWSユーザーが悩むap-northeast-1bからの脱却

新規ボリュームを追加して dd

SSD が・・・無い

当時、 SSD は ap-northeast-1b に来ていなかった

今も io1 などはない・・・

Page 13: 20170308 古参AWSユーザーが悩むap-northeast-1bからの脱却

地道に rsyncディレクトリ単位で分けて rsync を並列 3 本で実行

テストでは平均 3 時間で完了本番は 4 時間で終了・・・

logrotate の時間帯に当たったから?Magnetic のパフォーマンスは揺らぎやすい?

採用せざるを得ない

Page 14: 20170308 古参AWSユーザーが悩むap-northeast-1bからの脱却

まとめ ap-northeast-1b は勢いで引っ越す

新しいインスタンスタイプ 新しいストレージタイプ VPC でしか使えないマネージドサービスの登場

古いタイプのソリューションは更新すべき

Page 15: 20170308 古参AWSユーザーが悩むap-northeast-1bからの脱却

次号予告 続 AWS で NFS

今どきの AWS ストレージサービスを検証・適用してみた AWS Storage Gateway で S3 を NFS マウント

パフォーマンス 移行手順

EBS ボリュームをリアルタイム拡張 インスタンスタイプと制限事項と移行手順と

結局どうやって運用するか?