Por desgracia, los formatos que dices que soporta Final Cut son todos basados en píxeles, con lo que habrá problemas en caso de zoom o similar.
Tif, PNG, da igual, son pixelados.
Si el problema son los colores, prueba alguno que incluya el Perfil de color (creo que Jpeg, tif, lo soportan).
Si el problema es el suavizado, habría que disparar la resolución de la imagen que exportes. Creo recordar que al exportar te permite indicar los DPI. Sube el número.