Amigo,
para 500 clientes o minimo é um dual core, 1 gb de ram.
o Ideal é você ter um DNS Master e um Slave em máquinas separadas, mas pode-se colocar os 2 IPs num mesmo servidor DNS.
Porém eu não recomendo.
E o FreeBSD + Bind vai te servir muito bem.
No Grupo de Telecom onde eu fui Gerente de TI, implantamos 6 Servidores DNS's em FreeBSD + Bind.
Estão a mais de 4 anos funcionando sem dar problemas.
Utilize FreeBSD + Bind, Configure-o corretamente apenas para seu bloco de IP e esqueça que você tem servidores DNS's na sua rede.
Seus clientes agradecerão! ;)