eu tenho este mesmo problema!
só que eu tenho que subir ele assim:

vncserver -depth 16

pq a aplicação que eu uso precisa de 16bits.