Limitar memória para processo. Tem como ?

Olá senhores,
Estou com um problema com o X, quando o computador
fica ligado por um longo período, em torno de 24 a 30 horas de funcionamento, observo que o consumo de memória do X chega a uns 90% e vai só subindo.
A maquina é um Pentium IV com 512 MB. A partir daí começa então a fazer SWAP, e depois fica inacessível (não consigo nem digitar no terminal). Para resolver, só reiniciando o X. Depois do reboot, volta tudo ao normal.

A questão é:
Existe algum comando que possa limitar o uso de memória desse processo que está consumindo demais ????
Eu estava dando uma olhada no comando "ulimit", mas não entendi muito bem sua sintaxe. Ele faz isso ?
Caso não, existe algum outro comando que eu possa limitar o uso de memória (só deste processo), para o sistema ficar sempre acessível ?

Desde já, meu muito obrigado.

teu problema parece ser outro, aparentemente o sistema nao esta reclicando a memoria, usar 90% com X eh comum, e até mesmo um pouco de swap, mas conforme for sendo utilizado ele vai limpando. No teu caso parece que isso nao acontece, mas fica dificil identificar o porque, tente reinstalar seu X.

Voce também pode nos informar quais sao os aplicativos que ficam abertos junto com o X, pois é comum em casos onde vc usa o Eclipse que a memoria chegue a 100% + Swap, isso porque o java consome MUITA memoria.

Citação:

Postado originalmente por SDM

Voce também pode nos informar quais sao os aplicativos que ficam abertos junto com o X, pois é comum em casos onde vc usa o Eclipse que a memoria chegue a 100% + Swap, isso porque o java consome MUITA memoria.

Basicamente só é um programa que fica rodando quando o linux é ligado. Um programa que controla dados em uma rede interna aqui no serviço. Esse programa monitora apenas conexões. (o arquivo de log gerado por ele atualiza a cada 3 minutos). O problema é quando há algum erro de conexão, ele cria um log gigantesco. O normal do log diário é 300 kb. Quando ocorre um erro ele chega facilmente a espantosos 100 Mb. (100 megas é loucura).
Então depois disso ele trava o computador, só com reboot no botão do gabinete.
Já fiz um script para apagar os log se o arquivo for maior que 1 mega. Não está adiantando nada. Parece que ele armazena em memória e consome tudo, deixando o computador sem acesso.
Será que existe como limitar memória para esse programa ?
Outra coisa: um reboot a cada X horas resolveria o problema, mas como fazer para ele rebootar depois do primeiro reboot ? Pois quando é rebootado, ele entra como usuário comum, então o próximo reboot não seria feito, visto que não está logado como root. Isto confere ?