avfilter/palettegen: fix frame mem leak