Hola a todos es mi primer mensaje, así que, saludos y gracias de antemano por vuestra sabiduría, para los novatos del render como yo.
Bueno en base a tu problema, yo diría que es una cuestión de directorios o de bits, o de las dos a la vez. Me explico.
Si tienes instalado 3dsMax 64b y estas instalando Vray de 32, es muy probable que al instalar por defecto, lo haga a una carpeta de Autodesk está en archivos de programa (x86) y no en archivos de programa (donde se instalan los programsas de 64 bits).
Personalmente no sé si son compatibles una versión de 32bits de Vray y una de 64 de 3dsMax (no al revés, eso sería imposible), aunque lo dudo mucho.
Mira a ver si es algo de esto y mañana hago una prueba a ver si va o no y te lo confirmo y por cierto, no es necesario que reinicies para que salga, en cuyo caso únicamente el 3d max.
Yo uso Vista Ultimate x64 y me parece mejor sistema que el XP, mucho más estable y como sistema rápido es muy parecido al XP de 32 bits, del x64 de XP no puedo opinar no lo probé, leí tanta sobre el que no me animé (he leído que para render va bastante bien, pero me da pereza desinstalar todo por aquello de la no retrocompatibilidad de Windows nuevos con viejos). De hecho, estoy ahora mismo con una beta ultimate del seven x64 y va de maravilla, muchos drivers que no encontré los buscó solo y otros tantos son compatibles y en el caso de las gráficas ya están disponibles para w7. Saludos, espero a ver sido de ayuda.