Posibles causas,: falta de memoria en Ram, mala configuración como abuso de displacements y subdivs, abuso de librerías con exceso de polígonos como lo es la vegetación, etc.
Usa Vray proxies, revisa tus configuraciones, tanto del Vray como de los materiales e iluminación, n.
Pon en system del Vray que sea dinámica en lugar de static, eso ayuda.
La mayoría de las veces es por esa causa (malas config), es más fácil echársela al hardware y si uno cae en eso, nunca será suficiente. Saludos.