avcodec/mpegvideo_enc: Don't segfault on unorthodox mpeg_quant
authorAndreas Rheinhardt <andreas.rheinhardt@outlook.com>
Tue, 6 Apr 2021 13:45:42 +0000 (15:45 +0200)
committerAndreas Rheinhardt <andreas.rheinhardt@outlook.com>
Thu, 8 Apr 2021 09:59:08 +0000 (11:59 +0200)
commit5c457c673fbd8d2d0ef1ed10dbd269ee3570e628
treed8e5a0c6455d367bed70000f217404d907b5746a
parentfb7cd459778d6ae8975bf26766109ad82859c0e8
avcodec/mpegvideo_enc: Don't segfault on unorthodox mpeg_quant

The (deprecated) field AVCodecContext.mpeg_quant has no range
restriction; MpegEncContext.mpeg_quant is restricted to 0..1.
If the former is set, the latter is overwritten with it without
checking the range. This can trigger an av_assert2() with the MPEG-4
encoder when writing said field.

Fix this by just setting MpegEncContext.mpeg_quant to 1 if
AVCodecContext.mpeg_quant is set.

Signed-off-by: Andreas Rheinhardt <andreas.rheinhardt@outlook.com>
(cherry picked from commit d393c45051ddaf6146e7e29ec2ea97035a727529)
libavcodec/mpegvideo_enc.c