vf_paletteuse: Add error checking to apply_palette