KVM(Kernel based Virtual Machine)を語れ ２

1 ：login:Penguin：2012/01/01(日) 12:02:24.44 ID:j6P2SYaT.net

落ちてたので立ててみた。

本家
http://www.linux-kvm.org/page/Main_Page

参考: Linux カーネル仮想マシンを探る
http://www.ibm.com/developerworks/jp/linux/library/l-linux-kvm/index.html

前スレ
http://engawa.2ch.net/test/read.cgi/linux/1254504654/

451 ：login:Penguin：2013/02/01(金) 22:59:21.03 ID:xi34RPkr.net

>1つのVMが使えるNFS帯域に何かボトルネックがあるらしく
自分の環境では1Gbpsまではちゃんと出たので、NFS帯域のボトルネックなんて無いと思うんです。
先にHDDの限界がくるんじゃないかな。

1台のストレージに何台本番が乗ってるの？
単純にHDDのシークタイムがオーバーヘッドになってるように思うのですが。

452 ：446：2013/02/02(土) 09:22:03.00 ID:OWeSb/8E.net

>>451
KVMホストは5台、ゲストは20台ぐらい。
ある1ゲストだけ飛び抜けて高負荷なんだけど、
いずれにしてもそんなにストレージへのアクセスが頻繁なものではなくて、
そのゲストが高負荷な時でもNFSサーバ自体の負荷は余裕、
他ゲストからのNFSパフォーマンスも落ちない(常時70MB/s程度)。
ので、KVMonNFSそのものがもうキツいのかな…と思ったんだけど、
確かに載せすぎでシークタイムが厳しいのかも。
NFSサーバーは7本のRAID6。

453 ：login:Penguin：2013/02/02(土) 11:42:17.62 ID:MLdeUHoW.net

その構成にゲスト20台ならストレージやNFS自体はまだ余裕あるはず。
ゲスト達がどんな動きしてるか解らんので妄想入ってますが。

最初に思いつくのは、そのゲストに当ててるCPUやメモリが足りないとか、
それ以外のDBとかが足引っ張ってる可能性もあるとおもふ。
そのゲストがWindowsの場合はCPU使用率とかメモリ利用率を見て、足りないなら足せばいいいし、
Linuxの場合はロードアベレージは当てにならんから、CPU使用率を見てCPU負荷が高いのか、
IOウェイトが発生してるのかを見れば、原因がどこにあるかが判るはず。

あとは、ストレージのネットワーク速度すかね。

454 ：login:Penguin：2013/02/02(土) 12:04:05.27 ID:M7wDuqSH.net

>>452
NFSサーバが余裕なのは、本当に処理負荷がひくいからなのかな。
NFSサーバがリソースを使いきれるようにチューニングされていなくて、NFSクライアントを待たせながらのんびり動いてからかもよ。

455 ：login:Penguin：2013/02/02(土) 12:06:56.75 ID:MLdeUHoW.net

>>454
それだとKVMホストのロードアベレージがやたら上がるはずなのよね。

456 ：login:Penguin：2013/02/02(土) 12:19:52.49 ID:M7wDuqSH.net

>>455
あがらないだろ。
ioとかnfsのqueueが長くなるだけだから。
nfs しばらく使ってないのではずしてると思うが、概念的にはworkerが足りないときとは処理要求は多いのにcpuの負荷は低くなると思うが、そんなケースがないかと想像してる。

457 ：login:Penguin：2013/02/02(土) 12:28:00.61 ID:MLdeUHoW.net

>456
ううん、NSFサーバがNFSクライアントを待たせると、
クライアント側ではCPUのウェイトのパーセンテージが上がって、
それでロードアベレージがあがるんですよ。

クライアントはデータの読み書きをサーバに依頼するけど、
サーバがモタモタしてると、クライアントは自分のHDDの処理が遅いような認識になって、
ロードアベレージがあがるんです。

ロードアベレージって実行待ちプロセスの平均値でしょ、だからそうなるの。

458 ：login:Penguin：2013/02/02(土) 12:44:33.71 ID:wmtiBWeW.net

その「1台だけ高負荷なKVMゲスト」の
何の負荷が高いのかから調査して行かないと厳しそうでは。

459 ：446：2013/02/02(土) 13:21:45.53 ID:OWeSb/8E.net

・その高負荷ゲスト(Linux)では、とあるWebグループウェアが稼働。DBも同居。ゲストは8CPU/32GB
・高負荷なので臨時にホストをそのゲスト1台で占有使用させてる。ホストは12コア36GB
・高負荷時、ゲスト上でiowait30〜50、ロードアベレージ7程度
・高負荷時、ホスト上でiowait20〜40、ロードアベレージ4〜6程度
・高負荷時でも、他のノードからNFS転送速度を計測すると普通に80MB/sとか出る(無負荷時で90MB/s程度)し、
　他ゲストのパフォーマンスにはさほどの低下がみられない
・各物理危機はL2機器で直結
・NFSサーバーはほぼ吊るし設定。CPUもIOもtopで見る限りまったく余裕

こんな状態です。

460 ：login:Penguin：2013/02/02(土) 14:13:22.25 ID:MLdeUHoW.net

NFSのマウントオプションはどうなってる？
syncかasyncでかなり違う。
NFSのバージョンも気になるけど、v3以降ならパフォーマンス面の不安はほとんど無いはず。

NFSってかなりオプションあるけど、いくつか押さえておけば基本的に吊るしでおｋ。

NFSクライアントで
nfsstat -m

NFSサーバで
exportfs -v

だったと思う、ステータスが確認できるお。