data center 140824

新卒エンジニアから見たデータセンター移行

DevLove甲子園

株式会社じげん田口哲也

@yokozuna_hanao

田口哲也@yokozuna_hanao

株式会社じげん

2014年入社

インフラエンジニア

アルバイトEXエンジニア

アメフト系エンジニア

2

インフラチームのご紹介

• インフラ:2名

• エンジニア:18名

• 全社員(本体):70名

インフラチームのご紹介

• インフラ:2名

• リーダーはベトナムの子会社「Ventura」へ

インフラチームのご紹介sqwiggleによるリモートワーク

インフラチームのご紹介Trelloによるタスク管理

じげんのインフラを支える技術

話すこと

• 今日のプレゼンの対象者は、

–サーバ移行を試みるインフラエンジニア

–新人インフラエンジニア

• データセンター移行の動機

• データセンター移行の準備

• データセンター移行の実行

• 気づいたこと・良かったこと・学んだこと

株式会社じげん

0

2

4

6

8

10

12

14

16

18

20

2008 2009 2010 2011 2012 2013 2014

サービス18個

じげんのサービスの数

10

成長する会社増える新規サービス

それに対して…

現場の抱える問題

• 複数のSPOF(単一障害点)

• サービスごとに微妙に異なるインフラ

• 開発者個人に依存した設定

単一障害点の恐怖

• 複数のサービスが同時に落ちるので、

–原因がわからなくなる

–ダウンしたときのダメージが大きい

そうだ

データセンター

移行。

どうして今まで移行出来なかったの？

優先順位が判断できない

• 重要度を説明できない

• 誰がやればいいのかわからない

データセンターを移行するために準備したこと

• 組織

• プラン

• 設計

データセンターを移行するために準備したこと

• 組織

• プラン

• 設計

“正式な推進担当者になる”

• インフラチームは存在しなかった

“正式な推進担当者になる”

• インフラチームは存在しなかった

• インフラチームを作る

“正式な推進担当者になる”

• 経営陣に説明しないといけない

• 方針を確固たるものにしないといけない

“著名人を招く”

• 経営陣に説明しないといけない

• 方針を確固たるものにしないといけない

• ZOID(ZIGExN Outstanding Innovative

Director)制度

“著名人を招く”

• 経営陣に説明しないといけない

• 方針を確固たるものにしないといけない

• ZOID(ZIGExN Outstanding Innovative

Director)制度

@naoya

データセンターを移行するために準備したこと

• 組織

• プラン

• 設計

L1 L2 L3 L4 L5 備考

Webサーバ(Nginxリバースプロキシ導入)

アプリケーションサーバ切り出し

DBレプリケーション

DBサービス別切り分け

Solrサービス別切り分け

SPOF解消進捗シート•初期設定

Level1

•モデルPJ導入

•開発環境へ適

用

Level2

•本番PJ一部導

入

•本番環境へ一

部適用

Level3・本番適用範

囲拡大中Level4

本番全体運用

メンバー全体

運用

Level5

データセンターを移行するために準備したこと

• 組織

• プラン

• 設計

クラウド×ハウジング

• 回線、サーバをサービスで切り分けたい

• webサーバは簡単にスケールアウト出来るようにしたい

• Solrは高機能のサーバを使いたい

Solr01

Solr02

FW FW FW FW

回線A 回線B 回線C 回線D

回線B 回線B

Solr03

Solr04

回線A 回線C

Solr05

回線C

Batch01

Batch02

回線B 回線B

Batch03

Batch04

回線A 回線A

Bkup01

Phy01(VM)

回線D 回線D

File01

回線B

ネットワーク回線図Web DB

Solr

Image file and other(sitemap)

mailbomber

Mail Magazine

web

Solr

gateway

FTP batch

NFS

web

app

app

app

app

サーバ構成図

NGINX

Apache

MySQL

Solr

Image file and other(sitemap)

mailbomber

Mail Magazine

web

Solr

gateway

FTP batch

NFS

web

app

app

app

app

サーバ構成図

• 単一障害点を少なくする

• この構成を標準とする

データセンターを移行する

• データセンター決定

• ラッキング

• 環境構築

環境構築

• Infrastructure as code

• ソーシャルコーディング

• サービス担当者と確認をとりながら環境を構築

• レビューしてもらえる

環境構築

• Infrastructure as code

• ソーシャルコーディング

• サービス担当者と確認をとりながら環境を構築

• レビューしてもらえる

成果・よかったこと・学んだこと

成果

• 単一障害点の解消

• インフラ構成の標準化

• 属人化されていた作業の見える化

よかったこと

インフラ移行の成功要因

• 組織、プラン、設計をおさえる

– “正式な推進担当者になる”

– “著名人を招く”

サーバ構成図は、コミュニケーションツール

サーバ構成図は、コミュニケーションツール

• 全サーバの構成図を書いた

• これを元にサーバの構成を話し合うことが出来る

みんなを巻き込むソーシャルコーディング

• インフラの作業は関係者が多い

• コミュニケーションをGitHubで取れる

• コミュニケーションコストの削減

学んだこと

• インフラが全くわからない状態から、システムの構成がわかるようになった

• インフラとサービスのつながりがわかった

• ツールは使えるけど、理解は出来てる？

じげんでは、一緒にインフラをもっともっと改善したいエンジニアを募集しています。

というか、飲みましょう！