Schau dir mal HAproxy an das könnte damit ggf. gehen.