avcodec/hevc: Track long and short term RPS size for VDPAU
authorPhilip Langdale <philipl@overt.org>
Sat, 13 Jun 2015 16:34:43 +0000 (09:34 -0700)
committerPhilip Langdale <philipl@overt.org>
Sun, 14 Jun 2015 04:09:24 +0000 (21:09 -0700)
commit1b19d0c6328181d7f680a534b2bb17eadde01dd0
treef0373b99b9234dea1fc0645fb70d137a1382805e
parent01fac84fe4351eeadf852bd5a932eea517a9b210
avcodec/hevc: Track long and short term RPS size for VDPAU

Today, we track the short term RPS size for DXVA, but only if the
SliceHeader RPS is being used. Otherwise it's left uninitialized.

NVIDIA's VDPAU implementation requires that the size be accurately
tracked even if an SPS RPS is being used. In this case, it's really
counting the size of the RPS idx information, but you end up with
mangled output if the value is not accurate.

VDPAU also needs the size of the long term RPS.

Signed-off-by: Philip Langdale <philipl@overt.org>
libavcodec/hevc.c
libavcodec/hevc.h