1) Il faut placer le pthread_mutex_unlock(&Physic->oMut) avant le sleep, mais ça changera pas le problème de saccade.
2) Tu as pensé à les virer (les lock et unlock) pour voir s'il y a un changement ? (vu qu'ils ne sont pas utiles ici)
3) Teste aussi en mettant à 400Hz le moteur physique (60 me parait trop juste avec ODE - c'est pas le le moteur UNREAL non plus ;o)

La différence OpenGL/DirectX viendrait du fait que l'un consomme peut-être plus de temps que l'autre... Je me demande si une sémaphore sur toute la partie "coordonnées/rotation" des vertex n'est pas nécessaire - c'est là qu'il faut le mutex je pense.