Acredito que no seu roteador não faça isso, mesmo tendo 100 conexões já acho muita coisa para ele.
Sobre a máscara de sub-rede é está mesmo, da uma procurada aí em como configurar uma rb mikrotik, não é tão complicado não.
Se tiver uma noção de rede e vendo alguns tutoriais você já consegue. E outra coisa, você precisa dar uma olhada na quantidade de unifi, porque, para segurar 500 dispositivos, vai precisar de bastante equipamentos...