j'ai ecri n'importe quoi j' avais fait ca de tete sans la doc .
Effectivement il s'agit bien de getRelativeTransformation(), pour ce qui est de l'erreur cela vient du fait que transformBox est du type void donc elle modifie directement box ,la ligne devient simplement :

mAnimatedNode->getTransformation().transformBox(box);

Teste ,et si ca ne marche pas c'est que je n'ai pas compris le probleme.