vaapi_encode_h264: Properly set constraint flags
authorMark Thompson <sw@jkqxz.net>
Tue, 18 Sep 2018 22:30:49 +0000 (23:30 +0100)
committerMark Thompson <sw@jkqxz.net>
Sun, 23 Sep 2018 13:42:34 +0000 (14:42 +0100)
commit4cc367bf9dc9d25cd7f96b4ceb5f6e648466cc43
treec7e1a896322377703934396d25c7404738a22ce1
parent851a63c22a824ce5f8e5da0d2ea2ef1d461b4742
vaapi_encode_h264: Properly set constraint flags

constraint_set1_flag should be set for constrained baseline and main
profiles, because the stream conforms to main profile.

constraint_set3_flag should be set for high profile when the stream
is intra-only.

constraint_set4_flag should always be set for main and high profiles
because interlaced encoding is not supported.

constraint_set5_flag should be set for main and high profiles when
B-frames are not used.

Also fix the setting of max_num_ref_frames - use the gop_size value
to check for intra-only rather than the constraint flag (which is not
necessarily set).
libavcodec/vaapi_encode_h264.c