Les fichiers .FX sont des fichier dit "Effect File", en gros se sont des shaders.
Irrlicht n'interprete pas directement les fichiers .fx, c'est à toi de programmer ton propre lecteur de fichier .fx ou alors d'utiliser la méthode que DeusXL à employé dans sa démo de waterSceneNode, je pense que DeusXL en sait bien plus que moi sur le sujet d'ailleurs.
Tu retrouveras se format de fichier sous renderMonkey de chez Ati et sous FX Composer de chez NVidia.Attention cependant, il semblerai que du format ATI au format NVidia il y ai également des différences.