Si quieres crear un engine 3D, te dire que Qt y wxWidgets son bibliotecas para la creacion de interfaces graficas, no para manejo de graficos 3D. Si quieres crear un engine 3D, puedes hacerlo como una abstraccion de DirectX, OpenGL, y el que sea el motor grafico de OS X.
Saludos.
Saludos.