Add partially accelerated mc_luma
[x262.git] / encoder / set.c
1 /*****************************************************************************
2  * set: header writing
3  *****************************************************************************
4  * Copyright (C) 2003-2014 x264 project
5  *
6  * Authors: Laurent Aimar <fenrir@via.ecp.fr>
7  *          Loren Merritt <lorenm@u.washington.edu>
8  *
9  * This program is free software; you can redistribute it and/or modify
10  * it under the terms of the GNU General Public License as published by
11  * the Free Software Foundation; either version 2 of the License, or
12  * (at your option) any later version.
13  *
14  * This program is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
17  * GNU General Public License for more details.
18  *
19  * You should have received a copy of the GNU General Public License
20  * along with this program; if not, write to the Free Software
21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA  02111, USA.
22  *
23  * This program is also available under a commercial proprietary license.
24  * For more information, contact us at licensing@x264.com.
25  *****************************************************************************/
26
27 #include "common/common.h"
28 #include "set.h"
29
30 #define bs_write_ue bs_write_ue_big
31
32 // Indexed by pic_struct values
33 static const uint8_t num_clock_ts[10] = { 0, 1, 1, 1, 2, 2, 3, 3, 2, 3 };
34 const static uint8_t avcintra_uuid[] = {0xF7, 0x49, 0x3E, 0xB3, 0xD4, 0x00, 0x47, 0x96, 0x86, 0x86, 0xC9, 0x70, 0x7B, 0x64, 0x37, 0x2A};
35
36 static void transpose( uint8_t *buf, int w )
37 {
38     for( int i = 0; i < w; i++ )
39         for( int j = 0; j < i; j++ )
40             XCHG( uint8_t, buf[w*i+j], buf[w*j+i] );
41 }
42
43 static void scaling_list_write( bs_t *s, x264_pps_t *pps, int idx )
44 {
45     const int len = idx<4 ? 16 : 64;
46     const uint8_t *zigzag = idx<4 ? x264_zigzag_scan4[0] : x264_zigzag_scan8[0];
47     const uint8_t *list = pps->scaling_list[idx];
48     const uint8_t *def_list = (idx==CQM_4IC) ? pps->scaling_list[CQM_4IY]
49                             : (idx==CQM_4PC) ? pps->scaling_list[CQM_4PY]
50                             : (idx==CQM_8IC+4) ? pps->scaling_list[CQM_8IY+4]
51                             : (idx==CQM_8PC+4) ? pps->scaling_list[CQM_8PY+4]
52                             : x264_cqm_jvt[idx];
53     if( !memcmp( list, def_list, len ) )
54         bs_write1( s, 0 );   // scaling_list_present_flag
55     else if( !memcmp( list, x264_cqm_jvt[idx], len ) )
56     {
57         bs_write1( s, 1 );   // scaling_list_present_flag
58         bs_write_se( s, -8 ); // use jvt list
59     }
60     else
61     {
62         int run;
63         bs_write1( s, 1 );   // scaling_list_present_flag
64
65         // try run-length compression of trailing values
66         for( run = len; run > 1; run-- )
67             if( list[zigzag[run-1]] != list[zigzag[run-2]] )
68                 break;
69         if( run < len && len - run < bs_size_se( (int8_t)-list[zigzag[run]] ) )
70             run = len;
71
72         for( int j = 0; j < run; j++ )
73             bs_write_se( s, (int8_t)(list[zigzag[j]] - (j>0 ? list[zigzag[j-1]] : 8)) ); // delta
74
75         if( run < len )
76             bs_write_se( s, (int8_t)-list[zigzag[run]] );
77     }
78 }
79
80 void x264_sei_write( bs_t *s, uint8_t *payload, int payload_size, int payload_type )
81 {
82     int i;
83
84     bs_realign( s );
85
86     for( i = 0; i <= payload_type-255; i += 255 )
87         bs_write( s, 8, 255 );
88     bs_write( s, 8, payload_type-i );
89
90     for( i = 0; i <= payload_size-255; i += 255 )
91         bs_write( s, 8, 255 );
92     bs_write( s, 8, payload_size-i );
93
94     for( i = 0; i < payload_size; i++ )
95         bs_write( s, 8, payload[i] );
96
97     bs_rbsp_trailing( s );
98     bs_flush( s );
99 }
100
101 void x264_sps_init( x264_sps_t *sps, int i_id, x264_param_t *param )
102 {
103     int csp = param->i_csp & X264_CSP_MASK;
104
105     sps->i_id = i_id;
106     sps->i_mb_width = ( param->i_width + 15 ) / 16;
107     sps->i_mb_height= ( param->i_height + 15 ) / 16;
108     sps->i_chroma_format_idc = csp >= X264_CSP_I444 ? CHROMA_444 :
109                                csp >= X264_CSP_I422 ? CHROMA_422 : CHROMA_420;
110
111     sps->b_qpprime_y_zero_transform_bypass = param->rc.i_rc_method == X264_RC_CQP && param->rc.i_qp_constant == 0;
112
113     if( param->b_mpeg2 )
114     {
115         if( param->i_intra_dc_precision > X264_INTRA_DC_10_BIT || param->b_high_profile )
116             sps->i_profile_idc = MPEG2_PROFILE_HIGH;
117         else if( sps->i_chroma_format_idc == CHROMA_422 || param->b_422_profile )
118             sps->i_profile_idc = MPEG2_PROFILE_422;
119         else if( param->i_bframe > 0 || param->b_interlaced || param->b_fake_interlaced || param->b_main_profile )
120             sps->i_profile_idc = MPEG2_PROFILE_MAIN;
121         else
122             sps->i_profile_idc = MPEG2_PROFILE_SIMPLE;
123     }
124     else if( sps->b_qpprime_y_zero_transform_bypass || sps->i_chroma_format_idc == CHROMA_444 )
125         sps->i_profile_idc  = PROFILE_HIGH444_PREDICTIVE;
126     else if( sps->i_chroma_format_idc == CHROMA_422 )
127         sps->i_profile_idc  = PROFILE_HIGH422;
128     else if( BIT_DEPTH > 8 )
129         sps->i_profile_idc  = PROFILE_HIGH10;
130     else if( param->analyse.b_transform_8x8 || param->i_cqm_preset != X264_CQM_FLAT )
131         sps->i_profile_idc  = PROFILE_HIGH;
132     else if( param->b_cabac || param->i_bframe > 0 || param->b_interlaced || param->b_fake_interlaced || param->analyse.i_weighted_pred > 0 )
133         sps->i_profile_idc  = PROFILE_MAIN;
134     else
135     {
136         if( sps->b_qpprime_y_zero_transform_bypass )
137             sps->i_profile_idc  = PROFILE_HIGH444_PREDICTIVE;
138         else if( BIT_DEPTH > 8 )
139             sps->i_profile_idc  = PROFILE_HIGH10;
140         else if( param->analyse.b_transform_8x8 || param->i_cqm_preset != X264_CQM_FLAT )
141             sps->i_profile_idc  = PROFILE_HIGH;
142         else if( param->b_cabac || param->i_bframe > 0 || param->b_interlaced || param->b_fake_interlaced || param->analyse.i_weighted_pred > 0 )
143             sps->i_profile_idc  = PROFILE_MAIN;
144         else
145             sps->i_profile_idc  = PROFILE_BASELINE;
146     }
147
148     sps->i_frame_rate_code = param->i_frame_rate_code;
149
150     sps->b_constraint_set0  = sps->i_profile_idc == PROFILE_BASELINE;
151     /* x264 doesn't support the features that are in Baseline and not in Main,
152      * namely arbitrary_slice_order and slice_groups. */
153     sps->b_constraint_set1  = sps->i_profile_idc <= PROFILE_MAIN;
154     /* Never set constraint_set2, it is not necessary and not used in real world. */
155     sps->b_constraint_set2  = 0;
156     sps->b_constraint_set3  = 0;
157
158     sps->i_level_idc = param->i_level_idc;
159
160     if( sps->i_profile_idc == MPEG2_PROFILE_422 )
161     {
162         // 4:2:2 Profile only has Main and High levels
163         if( sps->i_level_idc == X264_MPEG2_LEVEL_LOW )
164             sps->i_level_idc = X264_MPEG2_LEVEL_MAIN;
165         else if( sps->i_level_idc < X264_MPEG2_LEVEL_MAIN )
166             sps->i_level_idc = X264_MPEG2_LEVEL_HIGH;
167     }
168
169     if( param->i_level_idc == 9 && ( sps->i_profile_idc == PROFILE_BASELINE || sps->i_profile_idc == PROFILE_MAIN ) )
170     {
171         sps->b_constraint_set3 = 1; /* level 1b with Baseline or Main profile is signalled via constraint_set3 */
172         sps->i_level_idc      = 11;
173     }
174     /* Intra profiles */
175     if( param->i_keyint_max == 1 && sps->i_profile_idc > PROFILE_HIGH )
176         sps->b_constraint_set3 = 1;
177
178     sps->vui.i_num_reorder_frames = param->i_bframe_pyramid ? 2 : param->i_bframe ? 1 : 0;
179     /* extra slot with pyramid so that we don't have to override the
180      * order of forgetting old pictures */
181     sps->vui.i_max_dec_frame_buffering =
182     sps->i_num_ref_frames = X264_MIN(X264_REF_MAX, X264_MAX4(param->i_frame_reference, 1 + sps->vui.i_num_reorder_frames,
183                             param->i_bframe_pyramid ? 4 : 1, param->i_dpb_size));
184     sps->i_num_ref_frames -= param->i_bframe_pyramid == X264_B_PYRAMID_STRICT;
185     if( param->i_keyint_max == 1 )
186     {
187         sps->i_num_ref_frames = 0;
188         sps->vui.i_max_dec_frame_buffering = 0;
189     }
190
191     /* number of refs + current frame */
192     int max_frame_num = sps->vui.i_max_dec_frame_buffering * (!!param->i_bframe_pyramid+1) + 1;
193     /* Intra refresh cannot write a recovery time greater than max frame num-1 */
194     if( param->b_intra_refresh )
195     {
196         int time_to_recovery = X264_MIN( sps->i_mb_width - 1, param->i_keyint_max ) + param->i_bframe - 1;
197         max_frame_num = X264_MAX( max_frame_num, time_to_recovery+1 );
198     }
199
200     sps->i_log2_max_frame_num = 4;
201     while( (1 << sps->i_log2_max_frame_num) <= max_frame_num )
202         sps->i_log2_max_frame_num++;
203
204     sps->i_poc_type = param->i_bframe || param->b_interlaced ? 0 : 2;
205     if( sps->i_poc_type == 0 )
206     {
207         int max_delta_poc = (param->i_bframe + 2) * (!!param->i_bframe_pyramid + 1) * 2;
208         sps->i_log2_max_poc_lsb = 4;
209         while( (1 << sps->i_log2_max_poc_lsb) <= max_delta_poc * 2 )
210             sps->i_log2_max_poc_lsb++;
211     }
212
213     sps->b_vui = 1;
214
215     sps->b_gaps_in_frame_num_value_allowed = 0;
216     sps->b_frame_mbs_only = !(param->b_interlaced || param->b_fake_interlaced);
217     if( !sps->b_frame_mbs_only )
218         sps->i_mb_height = ( sps->i_mb_height + 1 ) & ~1;
219     sps->b_mb_adaptive_frame_field = param->b_interlaced;
220     sps->b_direct8x8_inference = 1;
221
222     sps->crop.i_left   = param->crop_rect.i_left;
223     sps->crop.i_top    = param->crop_rect.i_top;
224     sps->crop.i_right  = param->crop_rect.i_right + sps->i_mb_width*16 - param->i_width;
225     sps->crop.i_bottom = (param->crop_rect.i_bottom + sps->i_mb_height*16 - param->i_height) >> !sps->b_frame_mbs_only;
226     sps->b_crop = sps->crop.i_left  || sps->crop.i_top ||
227                   sps->crop.i_right || sps->crop.i_bottom;
228
229     sps->vui.b_aspect_ratio_info_present = 0;
230     if( param->vui.i_sar_width > 0 && param->vui.i_sar_height > 0 )
231     {
232         sps->vui.b_aspect_ratio_info_present = 1;
233         sps->vui.i_sar_width = param->vui.i_sar_width;
234         sps->vui.i_sar_height= param->vui.i_sar_height;
235     }
236
237     sps->vui.b_overscan_info_present = param->vui.i_overscan > 0 && param->vui.i_overscan <= 2;
238     if( sps->vui.b_overscan_info_present )
239         sps->vui.b_overscan_info = ( param->vui.i_overscan == 2 ? 1 : 0 );
240
241     sps->vui.b_signal_type_present = 0;
242     sps->vui.i_vidformat = ( param->vui.i_vidformat >= 0 && param->vui.i_vidformat <= 5 ? param->vui.i_vidformat : 5 );
243     sps->vui.b_fullrange = ( param->vui.b_fullrange >= 0 && param->vui.b_fullrange <= 1 ? param->vui.b_fullrange :
244                            ( csp >= X264_CSP_BGR ? 1 : 0 ) );
245     sps->vui.b_color_description_present = 0;
246
247     sps->vui.i_colorprim = ( param->vui.i_colorprim >= 0 && param->vui.i_colorprim <=  9 ? param->vui.i_colorprim : 2 );
248     sps->vui.i_transfer  = ( param->vui.i_transfer  >= 0 && param->vui.i_transfer  <= 15 ? param->vui.i_transfer  : 2 );
249     sps->vui.i_colmatrix = ( param->vui.i_colmatrix >= 0 && param->vui.i_colmatrix <= 10 ? param->vui.i_colmatrix :
250                            ( csp >= X264_CSP_BGR ? 0 : 2 ) );
251     if( sps->vui.i_colorprim != 2 ||
252         sps->vui.i_transfer  != 2 ||
253         sps->vui.i_colmatrix != 2 )
254     {
255         sps->vui.b_color_description_present = 1;
256     }
257
258     if( sps->vui.i_vidformat != 5 ||
259         sps->vui.b_fullrange ||
260         sps->vui.b_color_description_present )
261     {
262         sps->vui.b_signal_type_present = 1;
263     }
264
265     /* FIXME: not sufficient for interlaced video */
266     sps->vui.b_chroma_loc_info_present = param->vui.i_chroma_loc > 0 && param->vui.i_chroma_loc <= 5 &&
267                                          sps->i_chroma_format_idc == CHROMA_420;
268     if( sps->vui.b_chroma_loc_info_present )
269     {
270         sps->vui.i_chroma_loc_top = param->vui.i_chroma_loc;
271         sps->vui.i_chroma_loc_bottom = param->vui.i_chroma_loc;
272     }
273
274     sps->vui.b_timing_info_present = param->i_timebase_num > 0 && param->i_timebase_den > 0;
275
276     if( sps->vui.b_timing_info_present )
277     {
278         sps->vui.i_num_units_in_tick = param->i_timebase_num;
279         sps->vui.i_time_scale = param->i_timebase_den * 2;
280         sps->vui.b_fixed_frame_rate = !param->b_vfr_input;
281     }
282
283     sps->vui.b_vcl_hrd_parameters_present = 0; // we don't support VCL HRD
284     sps->vui.b_nal_hrd_parameters_present = !!param->i_nal_hrd;
285     sps->vui.b_pic_struct_present = param->b_pic_struct;
286
287     // NOTE: HRD related parts of the SPS are initialised in x264_ratecontrol_init_reconfigurable
288
289     sps->vui.b_bitstream_restriction = param->i_keyint_max > 1;
290     if( sps->vui.b_bitstream_restriction )
291     {
292         sps->vui.b_motion_vectors_over_pic_boundaries = 1;
293         sps->vui.i_max_bytes_per_pic_denom = 0;
294         sps->vui.i_max_bits_per_mb_denom = 0;
295         sps->vui.i_log2_max_mv_length_horizontal =
296         sps->vui.i_log2_max_mv_length_vertical = (int)log2f( X264_MAX( 1, param->analyse.i_mv_range*4-1 ) ) + 1;
297     }
298 }
299
300 void x264_sps_write( bs_t *s, x264_sps_t *sps )
301 {
302     bs_realign( s );
303     bs_write( s, 8, sps->i_profile_idc );
304     bs_write1( s, sps->b_constraint_set0 );
305     bs_write1( s, sps->b_constraint_set1 );
306     bs_write1( s, sps->b_constraint_set2 );
307     bs_write1( s, sps->b_constraint_set3 );
308
309     bs_write( s, 4, 0 );    /* reserved */
310
311     bs_write( s, 8, sps->i_level_idc );
312
313     bs_write_ue( s, sps->i_id );
314
315     if( sps->i_profile_idc >= PROFILE_HIGH )
316     {
317         bs_write_ue( s, sps->i_chroma_format_idc );
318         if( sps->i_chroma_format_idc == CHROMA_444 )
319             bs_write1( s, 0 ); // separate_colour_plane_flag
320         bs_write_ue( s, BIT_DEPTH-8 ); // bit_depth_luma_minus8
321         bs_write_ue( s, BIT_DEPTH-8 ); // bit_depth_chroma_minus8
322         bs_write1( s, sps->b_qpprime_y_zero_transform_bypass );
323         bs_write1( s, 0 ); // seq_scaling_matrix_present_flag
324     }
325
326     bs_write_ue( s, sps->i_log2_max_frame_num - 4 );
327     bs_write_ue( s, sps->i_poc_type );
328     if( sps->i_poc_type == 0 )
329         bs_write_ue( s, sps->i_log2_max_poc_lsb - 4 );
330     bs_write_ue( s, sps->i_num_ref_frames );
331     bs_write1( s, sps->b_gaps_in_frame_num_value_allowed );
332     bs_write_ue( s, sps->i_mb_width - 1 );
333     bs_write_ue( s, (sps->i_mb_height >> !sps->b_frame_mbs_only) - 1);
334     bs_write1( s, sps->b_frame_mbs_only );
335     if( !sps->b_frame_mbs_only )
336         bs_write1( s, sps->b_mb_adaptive_frame_field );
337     bs_write1( s, sps->b_direct8x8_inference );
338
339     bs_write1( s, sps->b_crop );
340     if( sps->b_crop )
341     {
342         int h_shift = sps->i_chroma_format_idc == CHROMA_420 || sps->i_chroma_format_idc == CHROMA_422;
343         int v_shift = sps->i_chroma_format_idc == CHROMA_420;
344         bs_write_ue( s, sps->crop.i_left   >> h_shift );
345         bs_write_ue( s, sps->crop.i_right  >> h_shift );
346         bs_write_ue( s, sps->crop.i_top    >> v_shift );
347         bs_write_ue( s, sps->crop.i_bottom >> v_shift );
348     }
349
350     bs_write1( s, sps->b_vui );
351     if( sps->b_vui )
352     {
353         bs_write1( s, sps->vui.b_aspect_ratio_info_present );
354         if( sps->vui.b_aspect_ratio_info_present )
355         {
356             int i;
357             static const struct { uint8_t w, h, sar; } sar[] =
358             {
359                 // aspect_ratio_idc = 0 -> unspecified
360                 {  1,  1, 1 }, { 12, 11, 2 }, { 10, 11, 3 }, { 16, 11, 4 },
361                 { 40, 33, 5 }, { 24, 11, 6 }, { 20, 11, 7 }, { 32, 11, 8 },
362                 { 80, 33, 9 }, { 18, 11, 10}, { 15, 11, 11}, { 64, 33, 12},
363                 {160, 99, 13}, {  4,  3, 14}, {  3,  2, 15}, {  2,  1, 16},
364                 // aspect_ratio_idc = [17..254] -> reserved
365                 { 0, 0, 255 }
366             };
367             for( i = 0; sar[i].sar != 255; i++ )
368             {
369                 if( sar[i].w == sps->vui.i_sar_width &&
370                     sar[i].h == sps->vui.i_sar_height )
371                     break;
372             }
373             bs_write( s, 8, sar[i].sar );
374             if( sar[i].sar == 255 ) /* aspect_ratio_idc (extended) */
375             {
376                 bs_write( s, 16, sps->vui.i_sar_width );
377                 bs_write( s, 16, sps->vui.i_sar_height );
378             }
379         }
380
381         bs_write1( s, sps->vui.b_overscan_info_present );
382         if( sps->vui.b_overscan_info_present )
383             bs_write1( s, sps->vui.b_overscan_info );
384
385         bs_write1( s, sps->vui.b_signal_type_present );
386         if( sps->vui.b_signal_type_present )
387         {
388             bs_write( s, 3, sps->vui.i_vidformat );
389             bs_write1( s, sps->vui.b_fullrange );
390             bs_write1( s, sps->vui.b_color_description_present );
391             if( sps->vui.b_color_description_present )
392             {
393                 bs_write( s, 8, sps->vui.i_colorprim );
394                 bs_write( s, 8, sps->vui.i_transfer );
395                 bs_write( s, 8, sps->vui.i_colmatrix );
396             }
397         }
398
399         bs_write1( s, sps->vui.b_chroma_loc_info_present );
400         if( sps->vui.b_chroma_loc_info_present )
401         {
402             bs_write_ue( s, sps->vui.i_chroma_loc_top );
403             bs_write_ue( s, sps->vui.i_chroma_loc_bottom );
404         }
405
406         bs_write1( s, sps->vui.b_timing_info_present );
407         if( sps->vui.b_timing_info_present )
408         {
409             bs_write32( s, sps->vui.i_num_units_in_tick );
410             bs_write32( s, sps->vui.i_time_scale );
411             bs_write1( s, sps->vui.b_fixed_frame_rate );
412         }
413
414         bs_write1( s, sps->vui.b_nal_hrd_parameters_present );
415         if( sps->vui.b_nal_hrd_parameters_present )
416         {
417             bs_write_ue( s, sps->vui.hrd.i_cpb_cnt - 1 );
418             bs_write( s, 4, sps->vui.hrd.i_bit_rate_scale );
419             bs_write( s, 4, sps->vui.hrd.i_cpb_size_scale );
420
421             bs_write_ue( s, sps->vui.hrd.i_bit_rate_value - 1 );
422             bs_write_ue( s, sps->vui.hrd.i_cpb_size_value - 1 );
423
424             bs_write1( s, sps->vui.hrd.b_cbr_hrd );
425
426             bs_write( s, 5, sps->vui.hrd.i_initial_cpb_removal_delay_length - 1 );
427             bs_write( s, 5, sps->vui.hrd.i_cpb_removal_delay_length - 1 );
428             bs_write( s, 5, sps->vui.hrd.i_dpb_output_delay_length - 1 );
429             bs_write( s, 5, sps->vui.hrd.i_time_offset_length );
430         }
431
432         bs_write1( s, sps->vui.b_vcl_hrd_parameters_present );
433
434         if( sps->vui.b_nal_hrd_parameters_present || sps->vui.b_vcl_hrd_parameters_present )
435             bs_write1( s, 0 );   /* low_delay_hrd_flag */
436
437         bs_write1( s, sps->vui.b_pic_struct_present );
438         bs_write1( s, sps->vui.b_bitstream_restriction );
439         if( sps->vui.b_bitstream_restriction )
440         {
441             bs_write1( s, sps->vui.b_motion_vectors_over_pic_boundaries );
442             bs_write_ue( s, sps->vui.i_max_bytes_per_pic_denom );
443             bs_write_ue( s, sps->vui.i_max_bits_per_mb_denom );
444             bs_write_ue( s, sps->vui.i_log2_max_mv_length_horizontal );
445             bs_write_ue( s, sps->vui.i_log2_max_mv_length_vertical );
446             bs_write_ue( s, sps->vui.i_num_reorder_frames );
447             bs_write_ue( s, sps->vui.i_max_dec_frame_buffering );
448         }
449     }
450
451     bs_rbsp_trailing( s );
452     bs_flush( s );
453 }
454
455 void x264_pps_init( x264_t *h, x264_pps_t *pps, int i_id, x264_param_t *param, x264_sps_t *sps )
456 {
457     pps->i_id = i_id;
458     pps->i_sps_id = sps->i_id;
459     pps->b_cabac = param->b_cabac;
460
461     pps->b_pic_order = !param->i_avcintra_class && param->b_interlaced;
462     pps->i_num_slice_groups = 1;
463
464     pps->i_num_ref_idx_l0_default_active = param->i_frame_reference;
465     pps->i_num_ref_idx_l1_default_active = 1;
466
467     pps->b_weighted_pred = param->analyse.i_weighted_pred > 0;
468     pps->b_weighted_bipred = param->analyse.b_weighted_bipred ? 2 : 0;
469
470     pps->i_pic_init_qp = param->rc.i_rc_method == X264_RC_ABR || param->b_stitchable ? 26 + QP_BD_OFFSET : SPEC_QP( param->rc.i_qp_constant );
471     pps->i_pic_init_qs = 26 + QP_BD_OFFSET;
472
473     pps->i_chroma_qp_index_offset = param->analyse.i_chroma_qp_offset;
474     pps->b_deblocking_filter_control = 1;
475     pps->b_constrained_intra_pred = param->b_constrained_intra;
476     pps->b_redundant_pic_cnt = 0;
477
478     pps->b_transform_8x8_mode = param->analyse.b_transform_8x8 ? 1 : 0;
479
480     pps->i_cqm_preset = param->i_cqm_preset;
481
482     switch( pps->i_cqm_preset )
483     {
484     case X264_CQM_FLAT:
485         for( int i = 0; i < 8; i++ )
486             pps->scaling_list[i] = x264_cqm_flat16;
487         if( MPEG2 )
488         {
489             pps->scaling_list[CQM_8IY] = x264_cqm_intra_mpeg2;
490             pps->scaling_list[CQM_8IC] = x264_cqm_intra_mpeg2;
491         }
492         break;
493     case X264_CQM_JVT:
494         if( MPEG2 )
495             for( int i = 0; i < 4; i++ )
496                 pps->scaling_list[i] = x264_cqm_jvt[i+4];
497         else
498             for( int i = 0; i < 8; i++ )
499                 pps->scaling_list[i] = x264_cqm_jvt[i];
500         break;
501     case X264_CQM_CUSTOM:
502         /* match the transposed DCT & zigzag */
503         transpose( param->cqm_4iy, 4 );
504         transpose( param->cqm_4py, 4 );
505         transpose( param->cqm_4ic, 4 );
506         transpose( param->cqm_4pc, 4 );
507         transpose( param->cqm_8iy, 8 );
508         transpose( param->cqm_8py, 8 );
509         transpose( param->cqm_8ic, 8 );
510         transpose( param->cqm_8pc, 8 );
511         pps->scaling_list[CQM_4IY] = param->cqm_4iy;
512         pps->scaling_list[CQM_4PY] = param->cqm_4py;
513         pps->scaling_list[CQM_4IC] = param->cqm_4ic;
514         pps->scaling_list[CQM_4PC] = param->cqm_4pc;
515         pps->scaling_list[CQM_8IY+4] = param->cqm_8iy;
516         pps->scaling_list[CQM_8PY+4] = param->cqm_8py;
517         pps->scaling_list[CQM_8IC+4] = param->cqm_8ic;
518         pps->scaling_list[CQM_8PC+4] = param->cqm_8pc;
519         if( MPEG2 )
520         {
521             pps->scaling_list[CQM_8IY] = param->cqm_8iy;
522             pps->scaling_list[CQM_8PY] = param->cqm_8py;
523             pps->scaling_list[CQM_8IC] = param->cqm_8ic;
524             pps->scaling_list[CQM_8PC] = param->cqm_8pc;
525             for( int i = 0; i < 4; i++ )
526                 for( int j = 0; j < 64; j++ )
527                     if( pps->scaling_list[i][j] < 4 )
528                         pps->scaling_list[i] = x264_cqm_flat16;
529         }
530         else
531         {
532             for( int i = 0; i < 8; i++ )
533                 for( int j = 0; j < (i < 4 ? 16 : 64); j++ )
534                     if( pps->scaling_list[i][j] == 0 )
535                         pps->scaling_list[i] = x264_cqm_jvt[i];
536         }
537         break;
538     }
539 }
540
541 void x264_pps_write( bs_t *s, x264_sps_t *sps, x264_pps_t *pps )
542 {
543     bs_realign( s );
544     bs_write_ue( s, pps->i_id );
545     bs_write_ue( s, pps->i_sps_id );
546
547     bs_write1( s, pps->b_cabac );
548     bs_write1( s, pps->b_pic_order );
549     bs_write_ue( s, pps->i_num_slice_groups - 1 );
550
551     bs_write_ue( s, pps->i_num_ref_idx_l0_default_active - 1 );
552     bs_write_ue( s, pps->i_num_ref_idx_l1_default_active - 1 );
553     bs_write1( s, pps->b_weighted_pred );
554     bs_write( s, 2, pps->b_weighted_bipred );
555
556     bs_write_se( s, pps->i_pic_init_qp - 26 - QP_BD_OFFSET );
557     bs_write_se( s, pps->i_pic_init_qs - 26 - QP_BD_OFFSET );
558     bs_write_se( s, pps->i_chroma_qp_index_offset );
559
560     bs_write1( s, pps->b_deblocking_filter_control );
561     bs_write1( s, pps->b_constrained_intra_pred );
562     bs_write1( s, pps->b_redundant_pic_cnt );
563
564     if( pps->b_transform_8x8_mode || pps->i_cqm_preset != X264_CQM_FLAT )
565     {
566         bs_write1( s, pps->b_transform_8x8_mode );
567         bs_write1( s, (pps->i_cqm_preset != X264_CQM_FLAT) );
568         if( pps->i_cqm_preset != X264_CQM_FLAT )
569         {
570             scaling_list_write( s, pps, CQM_4IY );
571             scaling_list_write( s, pps, CQM_4IC );
572             bs_write1( s, 0 ); // Cr = Cb
573             scaling_list_write( s, pps, CQM_4PY );
574             scaling_list_write( s, pps, CQM_4PC );
575             bs_write1( s, 0 ); // Cr = Cb
576             if( pps->b_transform_8x8_mode )
577             {
578                 if( sps->i_chroma_format_idc == CHROMA_444 )
579                 {
580                     scaling_list_write( s, pps, CQM_8IY+4 );
581                     scaling_list_write( s, pps, CQM_8IC+4 );
582                     bs_write1( s, 0 ); // Cr = Cb
583                     scaling_list_write( s, pps, CQM_8PY+4 );
584                     scaling_list_write( s, pps, CQM_8PC+4 );
585                     bs_write1( s, 0 ); // Cr = Cb
586                 }
587                 else
588                 {
589                     scaling_list_write( s, pps, CQM_8IY+4 );
590                     scaling_list_write( s, pps, CQM_8PY+4 );
591                 }
592             }
593         }
594         bs_write_se( s, pps->i_chroma_qp_index_offset );
595     }
596
597     bs_rbsp_trailing( s );
598     bs_flush( s );
599 }
600
601 void x264_sei_recovery_point_write( x264_t *h, bs_t *s, int recovery_frame_cnt )
602 {
603     bs_t q;
604     uint8_t tmp_buf[100];
605     bs_init( &q, tmp_buf, 100 );
606
607     bs_realign( &q );
608
609     bs_write_ue( &q, recovery_frame_cnt ); // recovery_frame_cnt
610     bs_write1( &q, 1 );   //exact_match_flag 1
611     bs_write1( &q, 0 );   //broken_link_flag 0
612     bs_write( &q, 2, 0 ); //changing_slice_group 0
613
614     bs_align_10( &q );
615     bs_flush( &q );
616
617     x264_sei_write( s, tmp_buf, bs_pos( &q ) / 8, SEI_RECOVERY_POINT );
618 }
619
620 int x264_sei_version_write( x264_t *h, bs_t *s )
621 {
622     // random ID number generated according to ISO-11578
623     static const uint8_t uuid[16] =
624     {
625         0xdc, 0x45, 0xe9, 0xbd, 0xe6, 0xd9, 0x48, 0xb7,
626         0x96, 0x2c, 0xd8, 0x20, 0xd9, 0x23, 0xee, 0xef
627     };
628     char *opts = x264_param2string( &h->param, 0 );
629     char *payload;
630     int length;
631
632     if( !opts )
633         return -1;
634     CHECKED_MALLOC( payload, 200 + strlen( opts ) );
635
636     memcpy( payload, uuid, 16 );
637     sprintf( payload+16, "x264 - core %d%s - H.264/MPEG-4 AVC codec - "
638              "Copy%s 2003-2014 - http://www.videolan.org/x264.html - options: %s",
639              X264_BUILD, X264_VERSION, HAVE_GPL?"left":"right", opts );
640     length = strlen(payload)+1;
641     MPEG2 ? x264_user_data_write_mpeg2( s, (uint8_t *)payload, length ) :
642             x264_sei_write( s, (uint8_t *)payload, length, SEI_USER_DATA_UNREGISTERED );
643
644     x264_free( opts );
645     x264_free( payload );
646     return 0;
647 fail:
648     x264_free( opts );
649     return -1;
650 }
651
652 void x264_sei_buffering_period_write( x264_t *h, bs_t *s )
653 {
654     x264_sps_t *sps = h->sps;
655     bs_t q;
656     uint8_t tmp_buf[100];
657     bs_init( &q, tmp_buf, 100 );
658
659     bs_realign( &q );
660     bs_write_ue( &q, sps->i_id );
661
662     if( sps->vui.b_nal_hrd_parameters_present )
663     {
664         bs_write( &q, sps->vui.hrd.i_initial_cpb_removal_delay_length, h->initial_cpb_removal_delay );
665         bs_write( &q, sps->vui.hrd.i_initial_cpb_removal_delay_length, h->initial_cpb_removal_delay_offset );
666     }
667
668     bs_align_10( &q );
669     bs_flush( &q );
670
671     x264_sei_write( s, tmp_buf, bs_pos( &q ) / 8, SEI_BUFFERING_PERIOD );
672 }
673
674 void x264_sei_pic_timing_write( x264_t *h, bs_t *s )
675 {
676     x264_sps_t *sps = h->sps;
677     bs_t q;
678     uint8_t tmp_buf[100];
679     bs_init( &q, tmp_buf, 100 );
680
681     bs_realign( &q );
682
683     if( sps->vui.b_nal_hrd_parameters_present || sps->vui.b_vcl_hrd_parameters_present )
684     {
685         bs_write( &q, sps->vui.hrd.i_cpb_removal_delay_length, h->fenc->i_cpb_delay - h->i_cpb_delay_pir_offset );
686         bs_write( &q, sps->vui.hrd.i_dpb_output_delay_length, h->fenc->i_dpb_output_delay );
687     }
688
689     if( sps->vui.b_pic_struct_present )
690     {
691         bs_write( &q, 4, h->fenc->i_pic_struct-1 ); // We use index 0 for "Auto"
692
693         // These clock timestamps are not standardised so we don't set them
694         // They could be time of origin, capture or alternative ideal display
695         for( int i = 0; i < num_clock_ts[h->fenc->i_pic_struct]; i++ )
696             bs_write1( &q, 0 ); // clock_timestamp_flag
697     }
698
699     bs_align_10( &q );
700     bs_flush( &q );
701
702     x264_sei_write( s, tmp_buf, bs_pos( &q ) / 8, SEI_PIC_TIMING );
703 }
704
705 void x264_sei_frame_packing_write( x264_t *h, bs_t *s )
706 {
707     int quincunx_sampling_flag = h->param.i_frame_packing == 0;
708     bs_t q;
709     uint8_t tmp_buf[100];
710     bs_init( &q, tmp_buf, 100 );
711
712     bs_realign( &q );
713
714     bs_write_ue( &q, 0 );                         // frame_packing_arrangement_id
715     bs_write1( &q, 0 );                           // frame_packing_arrangement_cancel_flag
716     bs_write ( &q, 7, h->param.i_frame_packing ); // frame_packing_arrangement_type
717     bs_write1( &q, quincunx_sampling_flag );      // quincunx_sampling_flag
718
719     // 0: views are unrelated, 1: left view is on the left, 2: left view is on the right
720     bs_write ( &q, 6, 1 );                        // content_interpretation_type
721
722     bs_write1( &q, 0 );                           // spatial_flipping_flag
723     bs_write1( &q, 0 );                           // frame0_flipped_flag
724     bs_write1( &q, 0 );                           // field_views_flag
725     bs_write1( &q, h->param.i_frame_packing == 5 && !(h->fenc->i_frame&1) ); // current_frame_is_frame0_flag
726     bs_write1( &q, 0 );                           // frame0_self_contained_flag
727     bs_write1( &q, 0 );                           // frame1_self_contained_flag
728     if ( quincunx_sampling_flag == 0 && h->param.i_frame_packing != 5 )
729     {
730         bs_write( &q, 4, 0 );                     // frame0_grid_position_x
731         bs_write( &q, 4, 0 );                     // frame0_grid_position_y
732         bs_write( &q, 4, 0 );                     // frame1_grid_position_x
733         bs_write( &q, 4, 0 );                     // frame1_grid_position_y
734     }
735     bs_write( &q, 8, 0 );                         // frame_packing_arrangement_reserved_byte
736     bs_write_ue( &q, 1 );                         // frame_packing_arrangement_repetition_period
737     bs_write1( &q, 0 );                           // frame_packing_arrangement_extension_flag
738
739     bs_align_10( &q );
740     bs_flush( &q );
741
742     x264_sei_write( s, tmp_buf, bs_pos( &q ) / 8, SEI_FRAME_PACKING );
743 }
744
745 void x264_filler_write( x264_t *h, bs_t *s, int filler )
746 {
747     bs_realign( s );
748
749     for( int i = 0; i < filler; i++ )
750         bs_write( s, 8, 0xff );
751
752     bs_rbsp_trailing( s );
753     bs_flush( s );
754 }
755
756 void x264_sei_dec_ref_pic_marking_write( x264_t *h, bs_t *s )
757 {
758     x264_slice_header_t *sh = &h->sh_backup;
759     bs_t q;
760     uint8_t tmp_buf[100];
761     bs_init( &q, tmp_buf, 100 );
762
763     bs_realign( &q );
764
765     /* We currently only use this for repeating B-refs, as required by Blu-ray. */
766     bs_write1( &q, 0 );                 //original_idr_flag
767     bs_write_ue( &q, sh->i_frame_num ); //original_frame_num
768     if( !h->sps->b_frame_mbs_only )
769         bs_write1( &q, 0 );             //original_field_pic_flag
770
771     bs_write1( &q, sh->i_mmco_command_count > 0 );
772     if( sh->i_mmco_command_count > 0 )
773     {
774         for( int i = 0; i < sh->i_mmco_command_count; i++ )
775         {
776             bs_write_ue( &q, 1 );
777             bs_write_ue( &q, sh->mmco[i].i_difference_of_pic_nums - 1 );
778         }
779         bs_write_ue( &q, 0 );
780     }
781
782     bs_align_10( &q );
783     bs_flush( &q );
784
785     x264_sei_write( s, tmp_buf, bs_pos( &q ) / 8, SEI_DEC_REF_PIC_MARKING );
786 }
787
788 /* MPEG-2 */
789 static void x264_write_cqm_mpeg2( x264_t *h, bs_t *s, int chroma )
790 {
791     uint8_t temp[64];
792     int b_keyframe = h->fenc ? h->fenc->b_keyframe : 1;
793
794     if( chroma )
795     {
796         // load_chroma_intra_quantiser_matrix
797         if( b_keyframe &&
798             memcmp( h->pps->scaling_list[CQM_8IC],
799                     h->pps->scaling_list[CQM_8IY], 64*sizeof(uint8_t) ) )
800         {
801             bs_write1( s, 1 );
802             zigzag_scan_8x8_cqm( temp, h->pps->scaling_list[CQM_8IC] );
803             bs_write( s, 8, 8 ); // first value must be 8
804             for( int i = 1; i < 64; i++ )
805                 bs_write( s, 8, temp[i] );
806         }
807         else
808             bs_write1( s, 0 );
809
810         // load_chroma_non_intra_quantiser_matrix
811         if( memcmp( h->pps->scaling_list[CQM_8PC],
812                     h->pps->scaling_list[CQM_8PY], 64*sizeof(uint8_t) ) )
813         {
814             bs_write1( s, 1 );
815             zigzag_scan_8x8_cqm( temp, h->pps->scaling_list[CQM_8PC] );
816             for( int i = 0; i < 64; i++ )
817                 bs_write( s, 8, temp[i] );
818         }
819         else
820             bs_write1( s, 0 );
821     }
822     else
823     {
824         // load_intra_quantiser_matrix
825         if( b_keyframe &&
826             memcmp( h->pps->scaling_list[CQM_8IY], x264_cqm_intra_mpeg2, 64*sizeof(uint8_t) ) )
827         {
828             bs_write1( s, 1 );
829             zigzag_scan_8x8_cqm( temp, h->pps->scaling_list[CQM_8IY] );
830             bs_write( s, 8, 8 ); // first value must be 8
831             for( int i = 1; i < 64; i++ )
832                 bs_write( s, 8, temp[i] );
833         }
834         else
835             bs_write1( s, 0 );
836
837         // load_non_intra_quantiser_matrix
838         if( memcmp( h->pps->scaling_list[CQM_8PY], x264_cqm_flat16, 64*sizeof(uint8_t) ) )
839         {
840             bs_write1( s, 1 );
841             zigzag_scan_8x8_cqm( temp, h->pps->scaling_list[CQM_8PY] );
842             for( int i = 0; i < 64; i++ )
843                 bs_write( s, 8, temp[i] );
844         }
845         else
846             bs_write1( s, 0 );
847     }
848 }
849
850 void x264_seq_header_write_mpeg2( x264_t *h, bs_t *s )
851 {
852     int i;
853     bs_realign( s );
854
855     bs_write( s, 12, h->param.i_width & 0xfff );  // horizontal_size_value
856     bs_write( s, 12, h->param.i_height & 0xfff ); // vertical_size_value
857     bs_write( s, 4, h->param.vui.i_aspect_ratio_information ); // aspect_ratio_information
858     bs_write( s, 4, h->sps->i_frame_rate_code ); // frame_rate_code
859
860     /* If vbv parameters are not set, choose a common value. */
861     if( h->param.rc.i_vbv_max_bitrate > 0 )
862         i = ((h->param.rc.i_vbv_max_bitrate * 1000 + 399) / 400) & 0x3ffff;
863     else if( h->param.i_width > 720 )
864         i = 48500; // ATSC A/53, (19400 * 1000 + 399) / 400
865     else
866         i = 24500; // DVD, (9800 * 1000 + 399) / 400
867     bs_write( s, 18, i ); // bit_rate_value
868
869     bs_write1( s, 1 ); // marker_bit
870
871     if( h->param.rc.i_vbv_buffer_size > 0 )
872         i = ((h->param.rc.i_vbv_buffer_size * 1000 + 16383) / 16384) & 0x3ff;
873     else if( h->param.i_width > 720 )
874         i = 488; // ATSC A/53, (7995 * 1000 + 16383) / 16384
875     else
876         i = 112; // DVD, (1835 * 1000 + 16383) / 16384
877     bs_write( s, 10, i ); // vbv_buffer_size_value
878
879     bs_write1( s, 0 ); // constrained_parameters_flag
880
881     x264_write_cqm_mpeg2( h, s, 0 );
882
883     bs_align_0( s );
884     bs_flush( s );
885 }
886
887 void x264_seq_extension_write_mpeg2( x264_t *h, bs_t *s )
888 {
889     x264_sps_t *sps = h->sps;
890     bs_realign( s );
891
892     bs_write( s, 4, MPEG2_SEQ_EXT_ID );   // extension_start_code_identifier
893     bs_write1( s, sps->i_profile_idc == MPEG2_PROFILE_422 ); // escape bit
894     bs_write( s, 3, sps->i_profile_idc ); // profile identification
895
896     int level;
897     if( sps->i_profile_idc == MPEG2_PROFILE_422 )
898         level = sps->i_level_idc == X264_MPEG2_LEVEL_HIGH ? 2 : 5;
899     else
900         level = sps->i_level_idc;
901     bs_write( s, 4, level ); // level identification
902
903     bs_write1( s, !( PARAM_INTERLACED || h->param.b_fake_interlaced ||
904                      h->param.b_pulldown ) ); // progressive_sequence
905     bs_write( s, 2, sps->i_chroma_format_idc ); // chroma_format
906     bs_write( s, 2, (h->param.i_width >> 12) & 0x3 );  // horizontal_size_extension
907     bs_write( s, 2, (h->param.i_height >> 12) & 0x3 ); // vertical_size_extension
908     bs_write( s, 12, (h->param.rc.i_vbv_max_bitrate * 1000 + 399) / 400 >> 18 & 0xfff );   // bit_rate_extension
909     bs_write1( s, 1 );   // marker_bit
910     bs_write( s, 8, (h->param.rc.i_vbv_buffer_size * 1000 + 16383) / 16384 >> 10 & 0xff ); // vbv_buffer_size_extension
911     bs_write1( s, !h->param.i_bframe ); // low_delay
912     bs_write( s, 2, 0 ); // frame_rate_extension_n
913     bs_write( s, 5, 0 ); // frame_rate_extension_d
914
915     bs_align_0( s );
916     bs_flush( s );
917 }
918
919 void x264_seq_disp_extension_write_mpeg2( x264_t *h, bs_t *s )
920 {
921     x264_sps_t *sps = h->sps;
922     bs_realign( s );
923
924     bs_write( s, 4, MPEG2_SEQ_DISPLAY_EXT_ID ); // extension_start_code_identifier
925     bs_write( s, 3, sps->vui.i_vidformat );    // video_format
926     bs_write1( s, sps->vui.b_color_description_present ); // colour_description
927     if( sps->vui.b_color_description_present )
928     {
929         bs_write( s, 8, sps->vui.i_colorprim );
930         bs_write( s, 8, sps->vui.i_transfer );
931         bs_write( s, 8, sps->vui.i_colmatrix );
932     }
933     bs_write( s, 14, h->param.i_width - h->param.crop_rect.i_left - h->param.crop_rect.i_right ); // display_horizontal_size
934     bs_write1( s, 1 ); // marker_bit
935     bs_write( s, 14, h->param.i_height - h->param.crop_rect.i_top - h->param.crop_rect.i_bottom ); // display_vertical_size
936
937     bs_align_0( s );
938     bs_flush( s );
939 }
940
941 void x264_gop_header_write_mpeg2( x264_t *h, bs_t *s )
942 {
943     bs_realign( s );
944
945     int hrs, min, sec;
946     int frames = h->i_frame;
947     int fps = h->param.i_fps_num > 60 ? h->param.i_fps_num / 1000 : h->param.i_fps_num;
948
949     hrs = frames  / ( 60 * 60 * fps );
950     frames -= hrs * ( 60 * 60 * fps );
951     min = frames  / ( 60 * fps );
952     frames -= min * ( 60 * fps );
953     sec = frames  / ( fps );
954     frames -= sec * ( fps );
955
956     // timecode
957     bs_write1( s, 0 );   // drop_frame_flag
958     bs_write( s, 5, hrs % 24 ); // time_code_hours
959     bs_write( s, 6, min ); // time_code_minutes
960     bs_write1( s, 1 );   // marker_bit
961     bs_write( s, 6, sec ); // time_code_seconds
962     bs_write( s, 6, frames ); // time_code_pictures
963
964     bs_write1( s, h->fenc->i_frame == h->fenc->i_coded ); // closed_gop
965     bs_write1( s, 0 );   // broken_link
966
967     bs_align_0( s );
968     bs_flush( s );
969 }
970
971 void x264_pic_header_write_mpeg2( x264_t *h, bs_t *s )
972 {
973     bs_realign( s );
974
975     int temporal_ref;
976     if( IS_X264_TYPE_I( h->fenc->i_type ) )
977         temporal_ref = h->fenc->i_frame - h->fenc->i_coded;
978     else
979         temporal_ref = h->fenc->i_frame - h->frames.i_last_temporal_ref;
980     bs_write( s, 10, temporal_ref % 1024 ); // temporal_reference
981     bs_write( s, 3, IS_X264_TYPE_I( h->fenc->i_type ) ? 1 : h->fenc->i_type == X264_TYPE_P ? 2 : 3 ); // picture_coding_type
982     bs_write( s, 16, 0xffff ); // vbv_delay FIXME
983     if( !IS_X264_TYPE_I( h->fenc->i_type ) )
984     {
985         bs_write1( s, 0 );   // full_pel_forward_vector
986         bs_write( s, 3, 7 ); // forward_f_code
987
988         if( h->fenc->i_type == X264_TYPE_B )
989         {
990             bs_write1( s, 0 );   // full_pel_forward_vector
991             bs_write( s, 3, 7 ); // forward_f_code
992         }
993     }
994     bs_write1( s, 0 ); // extra_bit_picture
995
996     bs_align_0( s );
997     bs_flush( s );
998 }
999
1000 void x264_pic_coding_extension_write_mpeg2( x264_t *h, bs_t *s )
1001 {
1002     x264_param_t *param = &h->param;
1003
1004     bs_realign( s );
1005
1006     bs_write( s, 4, MPEG2_PIC_CODING_EXT_ID ); // extension_start_code_identifier
1007
1008     // FIXME decide fcodes during lookahead
1009     int fcode_max[2];
1010     switch( param->i_level_idc )
1011     {
1012     case X264_MPEG2_LEVEL_LOW:
1013         fcode_max[0] = 7;
1014         fcode_max[1] = 4;
1015         break;
1016     case X264_MPEG2_LEVEL_MAIN:
1017         fcode_max[0] = 8;
1018         fcode_max[1] = 5;
1019         break;
1020     default:
1021         fcode_max[0] = 9;
1022         fcode_max[1] = 5;
1023     }
1024     h->fenc->mv_fcode[0][0] = h->fenc->mv_fcode[1][0] = fcode_max[0];
1025     h->fenc->mv_fcode[0][1] = h->fenc->mv_fcode[1][1] = fcode_max[1];
1026
1027     // f_code[s][t]
1028     if( IS_X264_TYPE_I( h->fenc->i_type ) )
1029         bs_write( s, 16, 0xffff );
1030     else if( h->fenc->i_type == X264_TYPE_P )
1031     {
1032         for( int i = 0; i < 2; i++ )
1033             bs_write( s, 4, h->fenc->mv_fcode[0][i] );
1034         bs_write( s, 8, 0xff );
1035     }
1036     else
1037     {
1038         for( int j = 0; j < 2; j++ )
1039             for( int i = 0; i < 2; i++ )
1040                 bs_write( s, 4, h->fenc->mv_fcode[j][i] );
1041     }
1042     bs_write( s, 2, param->i_intra_dc_precision ); // intra_dc_precision
1043     bs_write( s, 2, 3 ); // picture_structure (support for frame pictures only)
1044     bs_write1( s, ( PARAM_INTERLACED || param->b_fake_interlaced  || param->b_pulldown ) ? h->fenc->b_tff : 0 ); // top_field_first
1045     bs_write1( s, !( PARAM_INTERLACED || param->b_fake_interlaced ) ); // frame_pred_frame_dct
1046     bs_write1( s, 0 ); // concealment_motion_vectors
1047     bs_write1( s, param->b_nonlinear_quant ); // q_scale_type
1048     bs_write1( s, param->b_alt_intra_vlc );   // intra_vlc_format
1049     bs_write1( s, param->b_alternate_scan );  // alternate_scan
1050     bs_write1( s, h->fenc->b_rff ); // repeat_first_field
1051     bs_write1( s, CHROMA_FORMAT == CHROMA_420 ? !( PARAM_INTERLACED || param->b_fake_interlaced ) : 0 ); // chroma_420_type
1052     bs_write1( s, !( PARAM_INTERLACED || param->b_fake_interlaced ) ); // progressive_frame
1053     bs_write1( s, 0 ); // composite_display_flag
1054
1055     bs_align_0( s );
1056     bs_flush( s );
1057 }
1058
1059 void x264_quant_matrix_extension_write_mpeg2( x264_t *h, bs_t *s )
1060 {
1061     bs_realign( s );
1062
1063     bs_write( s, 4, MPEG2_QUANT_MATRIX_EXT_ID ); // extension_start_code_identifier
1064
1065     if( !h->fenc->b_keyframe )
1066         x264_write_cqm_mpeg2( h, s, 0 );
1067     else
1068     {
1069         bs_write1( s, 0 ); // load_intra_quantiser_matrix
1070         bs_write1( s, 0 ); // load_non_intra_quantiser_matrix
1071     }
1072
1073     if( CHROMA_FORMAT == CHROMA_422 )
1074         x264_write_cqm_mpeg2( h, s, 1 );
1075     else
1076     {
1077         bs_write1( s, 0 ); // load_chroma_intra_quantiser_matrix
1078         bs_write1( s, 0 ); // load_chroma_non_intra_quantiser_matrix
1079     }
1080
1081     bs_align_0( s );
1082     bs_flush( s );
1083 }
1084
1085 void x264_pic_display_extension_write_mpeg2( x264_t *h, bs_t *s )
1086 {
1087     bs_realign( s );
1088
1089     bs_write( s, 4, MPEG2_PIC_DISPLAY_EXT_ID ); // extension_start_code_identifier
1090
1091     int progressive_sequence = !( PARAM_INTERLACED || h->param.b_fake_interlaced || h->param.b_pulldown );
1092     int offsets = progressive_sequence ? h->fenc->b_rff ? h->fenc->b_tff ? 3 : 2 : 1 :
1093                   h->fenc->b_rff ? 3 : 2;
1094
1095     int cx = h->param.i_width / 2;
1096     int cy = h->param.i_height / 2;
1097     for( int i = 0; i < offsets; i++ )
1098     {
1099         bs_write( s, 16, ( cx - h->param.crop_rect.i_left ) * 16 ); // frame_centre_horizontal_offset
1100         bs_write1( s, 1 ); // marker_bit
1101         bs_write( s, 16, ( cy - h->param.crop_rect.i_top ) * 16 ); // frame_centre_vertical_offset
1102         bs_write1( s, 1 ); // marker_bit
1103     }
1104
1105     bs_align_0( s );
1106     bs_flush( s );
1107 }
1108
1109 void x264_user_data_write_mpeg2( bs_t *s, uint8_t *payload, int payload_size )
1110 {
1111     bs_realign( s );
1112
1113     for( int i = 0; i < payload_size; i++ ) // payload cannot contain a start code
1114         bs_write( s, 8, payload[i] );
1115
1116     bs_align_0( s );
1117     bs_flush( s );
1118 }
1119
1120 int x264_sei_avcintra_umid_write( x264_t *h, bs_t *s )
1121 {
1122     uint8_t data[512];
1123     const char *msg = "UMID";
1124     const int len = 497;
1125
1126     memset( data, 0xff, len );
1127     memcpy( data, avcintra_uuid, sizeof(avcintra_uuid) );
1128     memcpy( data+16, msg, strlen(msg) );
1129
1130     data[20] = 0x13;
1131     /* These bytes appear to be some sort of frame/seconds counter in certain applications,
1132      * but others jump around, so leave them as zero for now */
1133     data[21] = data[22] = 0;
1134
1135     data[28] = 0x14;
1136     data[36] = 0x60;
1137     data[41] = 0x22; /* Believed to be some sort of end of basic UMID identifier */
1138
1139     x264_sei_write( &h->out.bs, data, len, SEI_USER_DATA_UNREGISTERED );
1140
1141     return 0;
1142 }
1143
1144 int x264_sei_avcintra_vanc_write( x264_t *h, bs_t *s, int len )
1145 {
1146     uint8_t data[6000];
1147     const char *msg = "VANC";
1148     if( len > sizeof(data) )
1149     {
1150         x264_log( h, X264_LOG_ERROR, "AVC-Intra SEI is too large (%d)\n", len );
1151         return -1;
1152     }
1153
1154     memset( data, 0xff, len );
1155     memcpy( data, avcintra_uuid, sizeof(avcintra_uuid) );
1156     memcpy( data+16, msg, strlen(msg) );
1157
1158     x264_sei_write( &h->out.bs, data, len, SEI_USER_DATA_UNREGISTERED );
1159
1160     return 0;
1161 }
1162
1163 const x264_level_t x264_levels[] =
1164 {
1165     { 10,    1485,    99,    396,     64,    175,  64, 64,  0, 2, 0, 0, 1 },
1166     {  9,    1485,    99,    396,    128,    350,  64, 64,  0, 2, 0, 0, 1 }, /* "1b" */
1167     { 11,    3000,   396,    900,    192,    500, 128, 64,  0, 2, 0, 0, 1 },
1168     { 12,    6000,   396,   2376,    384,   1000, 128, 64,  0, 2, 0, 0, 1 },
1169     { 13,   11880,   396,   2376,    768,   2000, 128, 64,  0, 2, 0, 0, 1 },
1170     { 20,   11880,   396,   2376,   2000,   2000, 128, 64,  0, 2, 0, 0, 1 },
1171     { 21,   19800,   792,   4752,   4000,   4000, 256, 64,  0, 2, 0, 0, 0 },
1172     { 22,   20250,  1620,   8100,   4000,   4000, 256, 64,  0, 2, 0, 0, 0 },
1173     { 30,   40500,  1620,   8100,  10000,  10000, 256, 32, 22, 2, 0, 1, 0 },
1174     { 31,  108000,  3600,  18000,  14000,  14000, 512, 16, 60, 4, 1, 1, 0 },
1175     { 32,  216000,  5120,  20480,  20000,  20000, 512, 16, 60, 4, 1, 1, 0 },
1176     { 40,  245760,  8192,  32768,  20000,  25000, 512, 16, 60, 4, 1, 1, 0 },
1177     { 41,  245760,  8192,  32768,  50000,  62500, 512, 16, 24, 2, 1, 1, 0 },
1178     { 42,  522240,  8704,  34816,  50000,  62500, 512, 16, 24, 2, 1, 1, 1 },
1179     { 50,  589824, 22080, 110400, 135000, 135000, 512, 16, 24, 2, 1, 1, 1 },
1180     { 51,  983040, 36864, 184320, 240000, 240000, 512, 16, 24, 2, 1, 1, 1 },
1181     { 52, 2073600, 36864, 184320, 240000, 240000, 512, 16, 24, 2, 1, 1, 1 },
1182     { 0 }
1183 };
1184
1185 const x264_level_mpeg2_t x264_levels_mpeg2[] =
1186 {
1187     { 10,   3041280,        0,  352,  288, 5,  4000,      0,  475136,        0,  512,  64 },
1188     {  8,  10368000, 14745600,  720,  608, 5, 15000,  20000, 1835008,  2441216, 1024, 128 },
1189     {  6,  47001600, 62668800, 1440, 1088, 8, 60000,  80000, 7340032,  9781248, 2048, 128 },
1190     {  4,  62668800, 83558400, 1920, 1088, 8, 80000, 100000, 9781248, 12222464, 2048, 128 },
1191     {  2, 125337600,        0, 1920, 1088, 8, 80000,      0, 9781248,        0, 2048, 128 },
1192     { 0 }
1193 };
1194
1195 const x264_fps_mpeg2_t x264_allowed_fps_mpeg2[] =
1196 {
1197     { 1, 24000, 1001 },
1198     { 2, 24, 1 },
1199     { 3, 25, 1 },
1200     { 4, 30000, 1001 },
1201     { 5, 30, 1 },
1202     { 6, 50, 1 },
1203     { 7, 60000, 1001 },
1204     { 8, 60, 1 },
1205     { 0 }
1206 };
1207
1208 #define ERROR(...)\
1209 {\
1210     if( verbose )\
1211         x264_log( h, X264_LOG_WARNING, __VA_ARGS__ );\
1212     ret = 1;\
1213 }
1214
1215 #define CHECK( name, limit, val ) \
1216     if( (val) > (limit) ) \
1217         ERROR( name " (%"PRId64") > level limit (%d)\n", (int64_t)(val), (limit) );
1218
1219 int x264_validate_levels( x264_t *h, int verbose )
1220 {
1221     int ret = 0;
1222     int mbs = h->sps->i_mb_width * h->sps->i_mb_height;
1223     int dpb = mbs * h->sps->vui.i_max_dec_frame_buffering;
1224     int cbp_factor = h->sps->i_profile_idc>=PROFILE_HIGH422 ? 16 :
1225                      h->sps->i_profile_idc==PROFILE_HIGH10 ? 12 :
1226                      h->sps->i_profile_idc==PROFILE_HIGH ? 5 : 4;
1227
1228     if( MPEG2 )
1229     {
1230         const x264_level_mpeg2_t *l = x264_levels_mpeg2;
1231         while( l->level_idc != 0 && l->level_idc != h->param.i_level_idc )
1232             l++;
1233         CHECK( "framerate", l->fps_code, h->sps->i_frame_rate_code );
1234
1235         if( h->param.i_fps_den > 0 )
1236             CHECK( "luminance sample rate", l->luma_main, h->param.i_width * h->param.i_height *
1237                                                           h->param.i_fps_num / h->param.i_fps_den );
1238         CHECK( "width", l->width, h->param.i_width );
1239         CHECK( "height", l->height, h->param.i_height );
1240         // CHECK( "max bitrate", l->bitrate, h->param.rc.i_vbv_max_bitrate );
1241         // CHECK( "vbv size", l->vbv, h->param.rc.i_vbv_buffer_size );
1242         CHECK( "Vertical MV range", l->mv_max_v >> h->param.b_interlaced, h->param.analyse.i_mv_range );
1243     }
1244     else
1245     {
1246         const x264_level_t *l = x264_levels;
1247         while( l->level_idc != 0 && l->level_idc != h->param.i_level_idc )
1248             l++;
1249
1250         if( l->frame_size < mbs
1251             || l->frame_size*8 < h->sps->i_mb_width * h->sps->i_mb_width
1252             || l->frame_size*8 < h->sps->i_mb_height * h->sps->i_mb_height )
1253             ERROR( "frame MB size (%dx%d) > level limit (%d)\n",
1254                    h->sps->i_mb_width, h->sps->i_mb_height, l->frame_size );
1255         if( dpb > l->dpb )
1256             ERROR( "DPB size (%d frames, %d mbs) > level limit (%d frames, %d mbs)\n",
1257                     h->sps->vui.i_max_dec_frame_buffering, dpb, l->dpb / mbs, l->dpb );
1258
1259     #define CHECK( name, limit, val ) \
1260         if( (val) > (limit) ) \
1261             ERROR( name " (%"PRId64") > level limit (%d)\n", (int64_t)(val), (limit) );
1262
1263         CHECK( "VBV bitrate", (l->bitrate * cbp_factor) / 4, h->param.rc.i_vbv_max_bitrate );
1264         CHECK( "VBV buffer", (l->cpb * cbp_factor) / 4, h->param.rc.i_vbv_buffer_size );
1265         CHECK( "MV range", l->mv_range, h->param.analyse.i_mv_range );
1266         CHECK( "interlaced", !l->frame_only, h->param.b_interlaced );
1267         CHECK( "fake interlaced", !l->frame_only, h->param.b_fake_interlaced );
1268
1269         if( h->param.i_fps_den > 0 )
1270             CHECK( "MB rate", l->mbps, (int64_t)mbs * h->param.i_fps_num / h->param.i_fps_den );
1271     }
1272
1273     return ret;
1274 }