vf_paletteuse: fix color cache lookup for Bayer dithering mode.