Olá douglas, eu estava sem o mod_security instalado, apos a instalação do mesmo não tive mais problemas com spam pelo apache, todas as requisições a porta 25 que são passadas pelo apache estão sendo bloqueadas, obrigado pela dica e até mais.