hwcontext_vdpau: implement av_hwdevice_get_hwframe_constraints()
authorwm4 <nfxjfg@googlemail.com>
Sat, 13 Jan 2018 06:05:09 +0000 (07:05 +0100)
committerwm4 <nfxjfg@googlemail.com>
Mon, 15 Jan 2018 11:37:30 +0000 (12:37 +0100)
commitcbbb2067341d7c2d98f560f81c6fb103af33a490
tree295515241c45e81941e93092070d15e8e6d8d0f6
parent43e1ccfea186080b1c4cb4cd1e59ac1a3c3dc446
hwcontext_vdpau: implement av_hwdevice_get_hwframe_constraints()

In addition, this does not allow creating frames contexts with sw_format
for which no known transfer formats exist. In theory, we should check
whether the chroma format (i.e. the sw_format) is supported at all by
the vdpau driver, but checking for transfer formats has the same effect.

Note that the pre-existing code adds 1 to priv->nb_pix_fmts[i] for
unknown reason, and some checks need to account for that to check for
empty lists. They are not off-by-one errors.
libavutil/hwcontext_vdpau.c