Acabo de ejecutar tu código y si que lo muestra. He puesto un par de saltos de línea para que sea mas legible:
Código (cpp) [Seleccionar]
#include <stdio.h>
int main()
{
int num;
printf("Introduce un numero para convertir. \n");
scanf_s("%d", &num);
if (num != 0) printf("El numero en octal es %o y en hexadecimal es %X.\n",num,num);
else return 0;
while (num != 0)
{
printf("Introduce otro numero para convertir. \n");
scanf_s("%d", &num);
printf("El numero en octal es %o y en hexadecimal es %X.\n", num, num);
}
}