Amigo, para essa sua aplicação recomendo..
R210 com o melhor processador que você conseguir comprar..
O mínimo de ram e o mínimo de HD..
RB44Ge.
E é 1U.
Seja feliz.!
Não desmereço o linux+iptables, pelo contrário, acho ótimo.
Mas pelo que você citou das facilidades e tudo mais.. ta ai o caminho das pedras.
Att.
Edit: Agora que lembrei.. você quer colocar em uma 1100Ahx2.. Sei não. Eu não arriscaria tudo isso.
O server ai de cima sai o dobro do preço.. Mas é aquilo.. Uma vez só..