Merge commit 'a6e27f7add2698fdd89911632b570c3d0c3f2aaa'
authorDerek Buitenhuis <derek.buitenhuis@gmail.com>
Tue, 17 May 2016 14:16:38 +0000 (15:16 +0100)
committerDerek Buitenhuis <derek.buitenhuis@gmail.com>
Tue, 17 May 2016 14:16:38 +0000 (15:16 +0100)
* commit 'a6e27f7add2698fdd89911632b570c3d0c3f2aaa':
  h264: factor out parsing the reference count into a separate file

Merged-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>
1  2 
libavcodec/h264.c
libavcodec/h264.h
libavcodec/h264_parse.c
libavcodec/h264_parse.h
libavcodec/h264_parser.c
libavcodec/h264_slice.c

@@@ -997,57 -965,6 +997,11 @@@ int ff_h264_get_profile(SPS *sps
      return profile;
  }
  
- int ff_set_ref_count(H264Context *h, H264SliceContext *sl)
- {
-     int ref_count[2], list_count;
-     int num_ref_idx_active_override_flag;
-     // set defaults, might be overridden a few lines later
-     ref_count[0] = h->pps.ref_count[0];
-     ref_count[1] = h->pps.ref_count[1];
-     if (sl->slice_type_nos != AV_PICTURE_TYPE_I) {
-         unsigned max[2];
-         max[0] = max[1] = h->picture_structure == PICT_FRAME ? 15 : 31;
-         num_ref_idx_active_override_flag = get_bits1(&sl->gb);
-         if (num_ref_idx_active_override_flag) {
-             ref_count[0] = get_ue_golomb(&sl->gb) + 1;
-             if (sl->slice_type_nos == AV_PICTURE_TYPE_B) {
-                 ref_count[1] = get_ue_golomb(&sl->gb) + 1;
-             } else
-                 // full range is spec-ok in this case, even for frames
-                 ref_count[1] = 1;
-         }
-         if (ref_count[0]-1 > max[0] || ref_count[1]-1 > max[1]){
-             av_log(h->avctx, AV_LOG_ERROR, "reference overflow %u > %u or %u > %u\n", ref_count[0]-1, max[0], ref_count[1]-1, max[1]);
-             sl->ref_count[0] = sl->ref_count[1] = 0;
-             sl->list_count   = 0;
-             return AVERROR_INVALIDDATA;
-         }
-         if (sl->slice_type_nos == AV_PICTURE_TYPE_B)
-             list_count = 2;
-         else
-             list_count = 1;
-     } else {
-         list_count   = 0;
-         ref_count[0] = ref_count[1] = 0;
-     }
-     sl->ref_count[0] = ref_count[0];
-     sl->ref_count[1] = ref_count[1];
-     sl->list_count   = list_count;
-     return 0;
- }
 +
 +#if FF_API_CAP_VDPAU
 +static const uint8_t start_code[] = { 0x00, 0x00, 0x01 };
 +#endif
 +
  static int get_last_needed_nal(H264Context *h)
  {
      int nals_needed = 0;
@@@ -1182,12 -1054,8 +1182,11 @@@ int ff_h264_slice_context_init(H264Cont
  
  void ff_h264_draw_horiz_band(const H264Context *h, H264SliceContext *sl, int y, int height);
  int ff_init_poc(H264Context *h, int pic_field_poc[2], int *pic_poc);
- int ff_set_ref_count(H264Context *h, H264SliceContext *sl);
  
  int ff_h264_decode_slice_header(H264Context *h, H264SliceContext *sl);
 +#define SLICE_SINGLETHREAD 1
 +#define SLICE_SKIPED 2
 +
  int ff_h264_execute_decode_slices(H264Context *h, unsigned context_count);
  int ff_h264_update_thread_context(AVCodecContext *dst,
                                    const AVCodecContext *src);
@@@ -186,3 -176,49 +186,51 @@@ int ff_h264_check_intra_pred_mode(void 
  
      return mode;
  }
 -                            int slice_type_nos, int picture_structure)
+ int ff_h264_parse_ref_count(int *plist_count, int ref_count[2],
+                             GetBitContext *gb, const PPS *pps,
 -    int num_ref_idx_active_override_flag, max_refs;
++                            int slice_type_nos, int picture_structure, void *logctx)
+ {
+     int list_count;
 -            if (ref_count[0] < 1)
 -                return AVERROR_INVALIDDATA;
++    int num_ref_idx_active_override_flag;
+     // set defaults, might be overridden a few lines later
+     ref_count[0] = pps->ref_count[0];
+     ref_count[1] = pps->ref_count[1];
+     if (slice_type_nos != AV_PICTURE_TYPE_I) {
++        unsigned max[2];
++        max[0] = max[1] = picture_structure == PICT_FRAME ? 15 : 31;
++
+         num_ref_idx_active_override_flag = get_bits1(gb);
+         if (num_ref_idx_active_override_flag) {
+             ref_count[0] = get_ue_golomb(gb) + 1;
 -                if (ref_count[1] < 1)
 -                    return AVERROR_INVALIDDATA;
 -            }
+             if (slice_type_nos == AV_PICTURE_TYPE_B) {
+                 ref_count[1] = get_ue_golomb(gb) + 1;
 -    max_refs = picture_structure == PICT_FRAME ? 16 : 32;
 -
 -    if (ref_count[0] > max_refs || ref_count[1] > max_refs) {
 -        ref_count[0] = ref_count[1] = 0;
 -        return AVERROR_INVALIDDATA;
 -    }
 -
++            } else
++                // full range is spec-ok in this case, even for frames
++                ref_count[1] = 1;
++        }
++
++        if (ref_count[0] - 1 > max[0] || ref_count[1] - 1 > max[1]) {
++            av_log(logctx, AV_LOG_ERROR, "reference overflow %u > %u or %u > %u\n",
++                   ref_count[0] - 1, max[0], ref_count[1] - 1, max[1]);
++            ref_count[0] = ref_count[1] = 0;
++            *plist_count = 0;
++            return AVERROR_INVALIDDATA;
+         }
+         if (slice_type_nos == AV_PICTURE_TYPE_B)
+             list_count = 2;
+         else
+             list_count = 1;
+     } else {
+         list_count   = 0;
+         ref_count[0] = ref_count[1] = 0;
+     }
+     *plist_count = list_count;
+     return 0;
+ }
@@@ -60,4 -61,8 +61,8 @@@ int ff_h264_check_intra_pred_mode(void 
                                    int left_samples_available,
                                    int mode, int is_chroma);
  
 -                            int slice_type_nos, int picture_structure);
+ int ff_h264_parse_ref_count(int *plist_count, int ref_count[2],
+                             GetBitContext *gb, const struct PPS *pps,
++                            int slice_type_nos, int picture_structure, void *logctx);
  #endif /* AVCODEC_H264_PARSE_H */
@@@ -153,7 -121,8 +154,8 @@@ static int scan_mmco_reset(AVCodecParse
      if (sl->slice_type_nos == AV_PICTURE_TYPE_B)
          get_bits1(&sl->gb); // direct_spatial_mv_pred
  
-     if (ff_set_ref_count(h, sl) < 0)
+     if (ff_h264_parse_ref_count(&list_count, ref_count, &sl->gb, &h->pps,
 -                                sl->slice_type_nos, h->picture_structure) < 0)
++                                sl->slice_type_nos, h->picture_structure, h->avctx) < 0)
          return AVERROR_INVALIDDATA;
  
      if (sl->slice_type_nos != AV_PICTURE_TYPE_I) {
@@@ -1692,7 -1457,9 +1692,9 @@@ int ff_h264_decode_slice_header(H264Con
      if (sl->slice_type_nos == AV_PICTURE_TYPE_B)
          sl->direct_spatial_mv_pred = get_bits1(&sl->gb);
  
-     ret = ff_set_ref_count(h, sl);
+     ret = ff_h264_parse_ref_count(&sl->list_count, sl->ref_count,
+                                   &sl->gb, &h->pps, sl->slice_type_nos,
 -                                  h->picture_structure);
++                                  h->picture_structure, h->avctx);
      if (ret < 0)
          return ret;