Yo instancie tu material dentro del override mtl que se encuentra dentro de global switches y no tuve problemas, por cierto, lo hice en 3dsmax 2010 Vray service pack 3 pero no creo que sea ese el problema.
Recuerda dejar el Color Mapping en linear con valores 1-1-1.
Adjunto imagen. Saludos desde Perú.