Lo mejor que puedes hacer contra ataques DDOS es implementar un sistema de "banneo" de direcciones IP, de tal forma que cuando se detecte una actividad "poco usual" el sistema permita interceptar y rechazar dichas conexiones, para ello quizas te pueda valer FANBAN o Snort como soluciones Libres, sin embargo aquí tienes un tutorial corto con otras soluciones validas.
http://foros.ovh.es/showthread.php?t=5571
http://foros.ovh.es/showthread.php?t=5571