Disculpa, ponerle seguridad a un servidor no pasa por usar windows y la chorronada de antivirus y antimalwares, solo desperdicias memoria y cpu, un servidor no se infecta de la misma manera que un pc, tiene politicas de seguridad distintas, si realmente buscas seguridad parte por no usar windows server pero si forzadamente debes usarlo entonces usa un buen firewall y dale una buena administración, para todo lo demás tienes las herramientas administrativas de windows. Hay firewalls que detectan incluso rootkits y ataques vía overflows los cuales son los puntos mas buscados por hackers en servidores de cualquier tipo.