Yo te lo diré: el error no es tal, y se soluciona yendo un poco más, allá de lo que te dice el tutorial. Que un tutorial está muy bien para hacer eso, pero, ¿Qué ocurre cuando tu resultado no es el mismo que el que se describe? Esto. Ahora, lo que deberías cogerte es la ayuda de Vray y empezar a leer y, de paso, tu manual de 3ds Max, porque lo que te está ocurriendo es muy básico, y deberías empezar desde abajo.
Y después de la charla moral, para que no pienses que soy un petardo, te lo cuento: no a activado el cálculo de antialiasing en tu escena. ¿Qué es esto del antlialiasing? Es un cálculo que hace que los bordes de los objetos (por explicarlo así a lo bestia) no salgan en forma de sierra, debido a la matriz de píxeles de que está compuesta la pantalla. Lo que hace es, más o menos, tomar muestras de los colores más cercanos para que esos bordes se vean suaves. Échale un ojo a esto: image sampler examples. Saludos, y a darle caña, ¿eh?