Mental Ray y Vray tienen cáustica reflexiva, nunca lo he intentado, pero lo que si se es que toman bastante tiempo y memoria, inténtalo solo si tienes una buena máquina, más aún si piensas hacer una animación.
Vaya, y si quieres que solo refleje por un lado puedes tratar:
-Usar el far attenuation del omni y darle forma con non uniform scale, lo diriges hacia donde quieres que refleje.
-Mejor aun:usa free direct o free spotlight, son más fáciles de dirigir, usando claro el projector, con gradiente Ramp en circular o box, tal vez resulte, no lo sé, tendría que probar. Suerte.