Tienes que usar una variable global que almacene cual es el siguiente video, te dejo un pseudocódigo
Código (html4strict) [Seleccionar]
<script>
// indice del siguiente elemento
// inicializamos en 1 si empezamos con el video 0
var next = 0;
// total de videos
var total = 5;
// función que reproduce el video
function play(index)
{
// aqui ponemos el código para el video de youtube
// calculamos el siguiente video
next = index + 1;
next = next % total;
}
// función que reproduce el siguiente video
function playNext()
{
play(next);
}
</script>
<html>
<body>
<div id="video_container">
</div>
<a href="javascript:playNext()">Siguiente</a>
</body>
</html>