vc poderia tentar o layer7 do iptables ...
é um patch do netfilter que trabalha na camada 7
do modelo OSI ... talvez possa ser a sua solução