¿Qué es? Vray es un motor de render, así como lo es Scanline u otros.
¿Qué gano? En general ganas velocidad y mejor calidad de render. Vray genera sombras físicamente correctas y configurarlo no es tan difícil. Mental Ray (que no lo he usado), logra lo mismo, pero antes era menos fácil de configurar. La versión 9 ha simplificado esto.
¿Por qué usarlo? Compara las diferencias de un render con Scanline y con Vray, por ejem. Y en función a que te dediques y qué tipo de trabajo haces. Por ejemplo, existen empresas que trabajan realizando animaciones (paseos virtuales) con Scanline, simulando iluminación global con domos de luces. Trabajan así por su velocidad de render en animación, urgencia de entrega y no por el realismo de las escenas.
¿Y Mental Ray? En la presentación de 3ds Max 9 se ve que ya no es tan complicado de usar como antes. Es una opción.
Si aún no conoces Vray échale un vistazo a este enlace. Son tutoriales prácticos para empezar a usarlo, en español. https://Alzhem, brinkster.net/sub1/tutoriales.htm.
Espero que te sirva de ayuda. Y si corrigen o añaden, mejor.