読者です 読者をやめる 読者になる 読者になる

データセンタやマシンルームの選び方

前回のゼータセンタの熱による障害事象に関してお話しさせて頂きましたが

データセンタはどのように選んでいらっしゃいますか?

耐震機能、セキュリティ、ミサイルを撃ち込まれても大丈夫な建屋色々あると思います。

実は私も10年ほど前には某企業がラック単位ではなくスペース単位で借りていたデータセンタのファシリティ管理業務も4年ほどネットワークやサーバ案件と並行で対応していました。このため今でもデータセンタの床下LAN配線を一人でやろうと思えば問題なくできます。

この観点で私はデータセンタで作業中に稀に見る見学会にいらっしゃる他企業の方が、ラックの配置状況だけを見て帰られる方をよく見かけ、そのたびに『あぁ、この方々は何を見ておくべきなのか把握されずに来館されたんだな』と残念に思います。

もちろん、費用対効果も考慮すべきですので安かろう悪かろうであっても、大規模災害時にデータ通信は出来なくとも災害の影響でシステムが完全停止してしまいデータロストを防ぐというレベルでの検討の場合もあるので一概高いデータセンタがいいとは言えないでしょうが見るポイントが分かるだけでも随分違うでしょう。


仮想化による集約が進んだ今、データセンタを見る際にどのような点に気を付ければよいでしょうか?いくつかのポイントがあると思います。

その前に一つURLを紹介させてください。

HP ProLiant White Paper 高密度コンピューティングのためのデータセンターの最適化:冷却装置の効果の最適化 | HPE 日本
※以下画像に関しては流用させていただきます


①ラック間距離
築年数のあるデータセンタではラックのコンソール側が90cm、背面側が60-80cm程度の場合が多いと思いますが、最近のブレードサーバを利用した集約化を考慮すると
120cmでは足りない場合も多々あります。
http://h50146.www5.hpe.com/products/servers/proliant/whitepaper/wp019_040430/images/p3_img10.gif

特に某H社のブレードサーバはデータセンタではかなりの厄介者で異常なまでの排気量とその排気音で周囲に設置された機器のシステム管理者を機器故障で悩ませる原因となります。伊達に機器名に音に関する名前がついているわけではないな、と個人的に感じています。
なぜ、音と排気音なのか、ですが音については大音量の回転音がしていれば、ハードウェアアラートを巡回時に見落としてしまい故障の影響を大きくする原因につながります。また、排気量が大きいと背面側の対面のラックの廃棄を阻害してしまい、廃熱が出来なくなってしまい機器故障を連発することもあります。実際に私もこれを経験しておりその際には私が管理しているサーバが数年前から設置されていた事と設置したSIerがデータセンタの管理者だったため、冷却対応をかなり行って頂いたものの排気量の差があまりに酷く、ラック内にファンを増設したりサーキュレータの設置もして頂きましたが、思ったほどの効果が得られない程にH社の廃棄はとんでもないレベルだということです。

このように集約化による機器の大排気量化が進んでいる中であまり距離が近いとこのようなトラブルを招くことになるので注意が必要となります。

次にデータセンタ内のエアコンのエアフローですが、HPさんのサイトでは横にはフロアの壁に吸気用のCRACが描かれていますが、この構造では『床下からの冷気とサーバ背面からの熱気がサーバラックの壁を伝って混じり合った物を吸気して屋外に廃棄する』ことになり、この場合は高い冷却効率を望むことは難しくなります。このため新しいデータセンタでは、ラックの列の間に扉を付けて冷気と熱気を分けるいわゆる『コールドアイルとホットアイルの分割』が行われています。もちろん古いデータセンタでも扉を設置するだけのコストが掛けられなくともテーブルクロスとして利用するビニールを暖簾のように下げることでこの対応を行っている場合もあります。私はデータセンタにこの概念を担当者に説明して設備部門へ私の管理するラックにしてもらったところ、いつの間にか設置範囲が一気に広まったことがあります。
このように熱の横移動を阻害する仕組みがされている事とそれらを吸い上げて熱気を帯びた空気が降りてこないようにするための天井(天井に吸気構が付いていることが望ましい)構造になっているとなお良いといえます。

②電源、LAN、ファイバ類の敷設経路と敷設方法
古いデータセンタでは特に上記の配線が全て床下で且つ電源ケーブルがラックのフロント側を通っている事が多いと思います。これは床下を通る冷風を乱流にする原因になりやすいため、選択から外したほうが良い可能性が高いです。
また、HPさんのサイトで『図5.フリーアクセスフロア下の未整理のケーブル (左) と整理されたケーブル (右)』という二つの写真がありますが、左は床下が浅く、右は床下が60cmになっていることが分かります。当然ながら床下配線が綺麗で床が深いほうが冷却効率が上がりやすいでしょう。エアコンの出力が弱かったら話になりませんが。

上記を考慮すると、データセンタ見学では、ラックの背面側の床下と通路部の配線状況を見せてもらうとよいでしょう。

 

③ブランクパネル
数年前の集約化が進む前はそこまで意識する必要がない場合が多かったですが、集約化することでCPUの利用率が上がり、ラック内自体の排気量もかなり増えています。ここで利用するのが目隠し板とも呼ばれるブランクパネルです。ブランクパネルの主用途は熱気の循環を防ぐことです。このため設置されているラックにブランクパネルが設置が徹底されているかどうかこれも焦点になると思います。

http://h50146.www5.hpe.com/products/servers/proliant/whitepaper/wp019_040430/images/p3_img6.gif

正直なところ、ブランクパネルはデータセンタ利用者が用意するつもりでいるほうが望ましいですが、データセンタが例えお手製のプラ板のブランクパネルであっても提供してもらえるのであれば、借りることで冷却効率が上がるため結果として故障率を下げることにつながります。

④耐震構造
建物には耐震構造と免震構造があります。免震構造の場合はラックが固定査定ることが一般的で耐震構造の場合は、ISOベースと呼ばれるものが導入されていることが必要です。ない場合は選定基準から外してもよいレベルといえます。

⑤電気系統
発電所2か所以上からの給電が必須です。また、ブレーカがUPSを兼ねている事と建屋に発電施設があることを確認しましょう。

⑥機器設置のガイドラインがあるかどうか
④であげた耐震構造ですが、ラックと床には耐荷重と引き抜き強度と呼ばれる床が引っ張られることに対する強度があります。重量があるものをラックの上段に設置すれば、横揺れが発生した際にその上段の重量で床下のコンクリートが破損し、ラックが点灯することもあります。
また、ISOベースの場合は床とラックの間にボールベアリングが設置されているため直接的には引き抜き強度を考慮する必要はないと思いますが、それでも横揺れ時を想定して重量バランスが上に来ないように機器を設置することが重要となること、廃熱を考慮しケーブリングについてどのようにすべきかサンプル写真がある事。それ以外ではラック単位での熱量および積載制限がある事と高集約システムでは200Vの電源提供が基本であることなどが挙げられていることが望ましいといえます。

なお、200Vが、ということに関してですがこれはデータセンタ利用者にとって200Vでメリットが得られる話ではありません。電気量の計算はV×A=Wであり発熱量もWをベースに計算するため100Vも200Vも大差ありませんが、ラック内の電気配線数を減らす事でケーブルが整理しやすくなることと廃棄効率がよくなることが挙げられます。また、データセンタには大きなメリットがあります。それは電気工事では100V15A(NEMA15と呼ばれるいわゆる平行2ピンアース付き)か200V20A、もしくは30Aでの手配が一般的で、100V15Aでは1500W、200V20Aでは4000Wとなりますのでラックに供給する電力量が100Vでは不足しがちになる=無駄にブレーカを消費することにつながりコスト回収がしづらくなってしまいます。その観点では『200Vは追加料金が掛かる』というデータセンタは施設投資に関する考えが足りているとは感じないため、ラックに関するハードウェア的なトラブルがあった場合にサーキュレータ設置等の対応が期待できないだろうと思いますので選択からは除外すると思います。

⑦機器設置エリアについて
どのような理由があろうと、サーバラックを追加した際にまったく関係のないエリアに設置させられるようなことがない、いわゆるエリアマネージメントを行っている事は確認しましょう。
その場合のLANもしくはファイバ敷設工事に関して費用請求されないことは確認したほうが良いでしょう。私も実際にそのような業者にあったことがあり、本数が多いとは言えどファイバ敷設で500万近い見積もりを提示されたことがあり突っ返しました。