f6e1b8792cf703528700ed3d412eddb4bb1c7aed
[x262.git] / encoder / set.c
1 /*****************************************************************************
2  * set: h264 encoder (SPS and PPS init and write)
3  *****************************************************************************
4  * Copyright (C) 2003 Laurent Aimar
5  * $Id: set.c,v 1.1 2004/06/03 19:27:08 fenrir Exp $
6  *
7  * Authors: Laurent Aimar <fenrir@via.ecp.fr>
8  *
9  * This program is free software; you can redistribute it and/or modify
10  * it under the terms of the GNU General Public License as published by
11  * the Free Software Foundation; either version 2 of the License, or
12  * (at your option) any later version.
13  *
14  * This program is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
17  * GNU General Public License for more details.
18  *
19  * You should have received a copy of the GNU General Public License
20  * along with this program; if not, write to the Free Software
21  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA  02111, USA.
22  *****************************************************************************/
23
24 #ifdef HAVE_STDINT_H
25 #include <stdint.h>
26 #else
27 #include <inttypes.h>
28 #endif
29 #include <stdlib.h>
30 #include <stdio.h>
31 #include <string.h>
32 #include <stdarg.h>
33
34 #include "x264.h"
35 #include "common/bs.h"
36 #include "common/set.h"
37
38 void x264_sps_init( x264_sps_t *sps, int i_id, x264_param_t *param )
39 {
40     sps->i_id               = i_id;
41
42     if( param->b_cabac || param->i_bframe > 0 )
43         sps->i_profile_idc      = PROFILE_MAIN;
44     else
45         sps->i_profile_idc      = PROFILE_BASELINE;
46     sps->i_level_idc = param->i_level_idc;
47
48     sps->b_constraint_set0  = 0;
49     sps->b_constraint_set1  = 0;
50     sps->b_constraint_set2  = 0;
51
52     sps->i_log2_max_frame_num = 4;  /* at least 4 */
53     while( (1 << sps->i_log2_max_frame_num) <= param->i_keyint_max )
54     {
55         sps->i_log2_max_frame_num++;
56     }
57     sps->i_log2_max_frame_num++;    /* just in case */
58
59     sps->i_poc_type = 0;
60     if( sps->i_poc_type == 0 )
61     {
62         sps->i_log2_max_poc_lsb = sps->i_log2_max_frame_num + 1;    /* max poc = 2*frame_num */
63     }
64     else if( sps->i_poc_type == 1 )
65     {
66         int i;
67
68         /* FIXME */
69         sps->b_delta_pic_order_always_zero = 1;
70         sps->i_offset_for_non_ref_pic = 0;
71         sps->i_offset_for_top_to_bottom_field = 0;
72         sps->i_num_ref_frames_in_poc_cycle = 0;
73
74         for( i = 0; i < sps->i_num_ref_frames_in_poc_cycle; i++ )
75         {
76             sps->i_offset_for_ref_frame[i] = 0;
77         }
78     }
79
80     sps->i_num_ref_frames = param->i_frame_reference;
81     if( param->i_bframe )
82         sps->i_num_ref_frames++; /* for backwards ref in B */
83     if( param->b_bframe_pyramid )
84         sps->i_num_ref_frames++; /* for 2nd backwards ref */
85     sps->b_gaps_in_frame_num_value_allowed = 0;
86     sps->i_mb_width = ( param->i_width + 15 ) / 16;
87     sps->i_mb_height= ( param->i_height + 15 )/ 16;
88     sps->b_frame_mbs_only = 1;
89     sps->b_mb_adaptive_frame_field = 0;
90     sps->b_direct8x8_inference = 0;
91     if( sps->b_frame_mbs_only == 0 ||
92         !(param->analyse.inter & X264_ANALYSE_PSUB8x8) )
93     {
94         sps->b_direct8x8_inference = 1;
95     }
96
97     if( param->i_width % 16 != 0 || param->i_height % 16 != 0 )
98     {
99         sps->b_crop = 1;
100         sps->crop.i_left    = 0;
101         sps->crop.i_right   = ( 16 - param->i_width % 16)/2;
102         sps->crop.i_top     = 0;
103         sps->crop.i_bottom  = ( 16 - param->i_height % 16)/2;
104     }
105     else
106     {
107         sps->b_crop = 0;
108         sps->crop.i_left    = 0;
109         sps->crop.i_right   = 0;
110         sps->crop.i_top     = 0;
111         sps->crop.i_bottom  = 0;
112     }
113
114     sps->b_vui = 0;
115     sps->vui.b_aspect_ratio_info_present = 0;
116
117     if( param->vui.i_sar_width > 0 && param->vui.i_sar_height > 0 )
118     {
119         sps->vui.b_aspect_ratio_info_present = 1;
120         sps->vui.i_sar_width = param->vui.i_sar_width;
121         sps->vui.i_sar_height= param->vui.i_sar_height;
122     }
123     sps->b_vui |= sps->vui.b_aspect_ratio_info_present;
124
125     if( param->i_fps_num > 0 && param->i_fps_den > 0)
126     {
127         sps->vui.b_timing_info_present = 1;
128         /* The standard is confusing me, but this seems to work best
129            with other encoders */
130         sps->vui.i_num_units_in_tick = param->i_fps_den;
131         sps->vui.i_time_scale = param->i_fps_num;
132         sps->vui.b_fixed_frame_rate = 1;
133     }
134     sps->b_vui |= sps->vui.b_timing_info_present;
135 }
136
137
138 void x264_sps_write( bs_t *s, x264_sps_t *sps )
139 {
140     bs_write( s, 8, sps->i_profile_idc );
141     bs_write( s, 1, sps->b_constraint_set0 );
142     bs_write( s, 1, sps->b_constraint_set1 );
143     bs_write( s, 1, sps->b_constraint_set2 );
144
145     bs_write( s, 5, 0 );    /* reserved */
146
147     bs_write( s, 8, sps->i_level_idc );
148
149     bs_write_ue( s, sps->i_id );
150     bs_write_ue( s, sps->i_log2_max_frame_num - 4 );
151     bs_write_ue( s, sps->i_poc_type );
152     if( sps->i_poc_type == 0 )
153     {
154         bs_write_ue( s, sps->i_log2_max_poc_lsb - 4 );
155     }
156     else if( sps->i_poc_type == 1 )
157     {
158         int i;
159
160         bs_write( s, 1, sps->b_delta_pic_order_always_zero );
161         bs_write_se( s, sps->i_offset_for_non_ref_pic );
162         bs_write_se( s, sps->i_offset_for_top_to_bottom_field );
163         bs_write_ue( s, sps->i_num_ref_frames_in_poc_cycle );
164
165         for( i = 0; i < sps->i_num_ref_frames_in_poc_cycle; i++ )
166         {
167             bs_write_se( s, sps->i_offset_for_ref_frame[i] );
168         }
169     }
170     bs_write_ue( s, sps->i_num_ref_frames );
171     bs_write( s, 1, sps->b_gaps_in_frame_num_value_allowed );
172     bs_write_ue( s, sps->i_mb_width - 1 );
173     bs_write_ue( s, sps->i_mb_height - 1);
174     bs_write( s, 1, sps->b_frame_mbs_only );
175     if( !sps->b_frame_mbs_only )
176     {
177         bs_write( s, 1, sps->b_mb_adaptive_frame_field );
178     }
179     bs_write( s, 1, sps->b_direct8x8_inference );
180
181     bs_write( s, 1, sps->b_crop );
182     if( sps->b_crop )
183     {
184         bs_write_ue( s, sps->crop.i_left );
185         bs_write_ue( s, sps->crop.i_right );
186         bs_write_ue( s, sps->crop.i_top );
187         bs_write_ue( s, sps->crop.i_bottom );
188     }
189
190     bs_write( s, 1, sps->b_vui );
191     if( sps->b_vui )
192     {
193         bs_write1( s, sps->vui.b_aspect_ratio_info_present );
194         if( sps->vui.b_aspect_ratio_info_present )
195         {
196             int i;
197             static const struct { int w, h; int sar; } sar[] =
198             {
199                 { 1,   1, 1 }, { 12, 11, 2 }, { 10, 11, 3 }, { 16, 11, 4 },
200                 { 40, 33, 5 }, { 24, 11, 6 }, { 20, 11, 7 }, { 32, 11, 8 },
201                 { 80, 33, 9 }, { 18, 11, 10}, { 15, 11, 11}, { 64, 33, 12},
202                 { 160,99, 13}, { 0, 0, -1 }
203             };
204             for( i = 0; sar[i].sar != -1; i++ )
205             {
206                 if( sar[i].w == sps->vui.i_sar_width &&
207                     sar[i].h == sps->vui.i_sar_height )
208                     break;
209             }
210             if( sar[i].sar != -1 )
211             {
212                 bs_write( s, 8, sar[i].sar );
213             }
214             else
215             {
216                 bs_write( s, 8, 255);   /* aspect_ratio_idc (extented) */
217                 bs_write( s, 16, sps->vui.i_sar_width );
218                 bs_write( s, 16, sps->vui.i_sar_height );
219             }
220         }
221
222         bs_write1( s, 0 );      /* overscan_info_present_flag */
223
224         bs_write1( s, 0 );      /* video_signal_type_present_flag */
225 #if 0
226         bs_write( s, 3, 5 );    /* unspecified video format */
227         bs_write1( s, 1 );      /* video full range flag */
228         bs_write1( s, 0 );      /* colour description present flag */
229 #endif
230         bs_write1( s, 0 );      /* chroma_loc_info_present_flag */
231
232         bs_write1( s, sps->vui.b_timing_info_present );
233         if( sps->vui.b_timing_info_present )
234         {
235             bs_write( s, 32, sps->vui.i_num_units_in_tick );
236             bs_write( s, 32, sps->vui.i_time_scale );
237             bs_write1( s, sps->vui.b_fixed_frame_rate );
238         }
239
240         bs_write1( s, 0 );      /* nal_hrd_parameters_present_flag */
241         bs_write1( s, 0 );      /* vcl_hrd_parameters_present_flag */
242         bs_write1( s, 0 );      /* pic_struct_present_flag */
243         bs_write1( s, 0 );      /* bitstream_restriction_flag */
244     }
245
246     bs_rbsp_trailing( s );
247 }
248
249 void x264_pps_init( x264_pps_t *pps, int i_id, x264_param_t *param, x264_sps_t *sps )
250 {
251     pps->i_id = i_id;
252     pps->i_sps_id = sps->i_id;
253     pps->b_cabac = param->b_cabac;
254
255     pps->b_pic_order = 0;
256     pps->i_num_slice_groups = 1;
257
258     if( pps->i_num_slice_groups > 1 )
259     {
260         int i;
261
262         pps->i_slice_group_map_type = 0;
263         if( pps->i_slice_group_map_type == 0 )
264         {
265             for( i = 0; i < pps->i_num_slice_groups; i++ )
266             {
267                 pps->i_run_length[i] = 1;
268             }
269         }
270         else if( pps->i_slice_group_map_type == 2 )
271         {
272             for( i = 0; i < pps->i_num_slice_groups; i++ )
273             {
274                 pps->i_top_left[i] = 0;
275                 pps->i_bottom_right[i] = 0;
276             }
277         }
278         else if( pps->i_slice_group_map_type >= 3 &&
279                  pps->i_slice_group_map_type <= 5 )
280         {
281             pps->b_slice_group_change_direction = 0;
282             pps->i_slice_group_change_rate = 0;
283         }
284         else if( pps->i_slice_group_map_type == 6 )
285         {
286             pps->i_pic_size_in_map_units = 1;
287             for( i = 0; i < pps->i_pic_size_in_map_units; i++ )
288             {
289                 pps->i_slice_group_id[i] = 0;
290             }
291         }
292     }
293     pps->i_num_ref_idx_l0_active = 1;
294     pps->i_num_ref_idx_l1_active = 1;
295
296     pps->b_weighted_pred = 0;
297     pps->b_weighted_bipred = param->analyse.b_weighted_bipred ? 2 : 0;
298
299     pps->i_pic_init_qp = 26;
300     pps->i_pic_init_qs = 26;
301
302     pps->i_chroma_qp_index_offset = 0;
303     pps->b_deblocking_filter_control = 1;
304     pps->b_constrained_intra_pred = 0;
305     pps->b_redundant_pic_cnt = 0;
306 }
307
308 void x264_pps_write( bs_t *s, x264_pps_t *pps )
309 {
310     bs_write_ue( s, pps->i_id );
311     bs_write_ue( s, pps->i_sps_id );
312
313     bs_write( s, 1, pps->b_cabac );
314     bs_write( s, 1, pps->b_pic_order );
315     bs_write_ue( s, pps->i_num_slice_groups - 1 );
316
317     if( pps->i_num_slice_groups > 1 )
318     {
319         int i;
320
321         bs_write_ue( s, pps->i_slice_group_map_type );
322         if( pps->i_slice_group_map_type == 0 )
323         {
324             for( i = 0; i < pps->i_num_slice_groups; i++ )
325             {
326                 bs_write_ue( s, pps->i_run_length[i] - 1 );
327             }
328         }
329         else if( pps->i_slice_group_map_type == 2 )
330         {
331             for( i = 0; i < pps->i_num_slice_groups; i++ )
332             {
333                 bs_write_ue( s, pps->i_top_left[i] );
334                 bs_write_ue( s, pps->i_bottom_right[i] );
335             }
336         }
337         else if( pps->i_slice_group_map_type >= 3 &&
338                  pps->i_slice_group_map_type <= 5 )
339         {
340             bs_write( s, 1, pps->b_slice_group_change_direction );
341             bs_write_ue( s, pps->b_slice_group_change_direction - 1 );
342         }
343         else if( pps->i_slice_group_map_type == 6 )
344         {
345             bs_write_ue( s, pps->i_pic_size_in_map_units - 1 );
346             for( i = 0; i < pps->i_pic_size_in_map_units; i++ )
347             {
348                 /* FIXME */
349                 /* bs_write( s, ceil( log2( pps->i_pic_size_in_map_units +1 ) ),
350                  *              pps->i_slice_group_id[i] );
351                  */
352             }
353         }
354     }
355
356     bs_write_ue( s, pps->i_num_ref_idx_l0_active - 1 );
357     bs_write_ue( s, pps->i_num_ref_idx_l1_active - 1 );
358     bs_write( s, 1, pps->b_weighted_pred );
359     bs_write( s, 2, pps->b_weighted_bipred );
360
361     bs_write_se( s, pps->i_pic_init_qp - 26 );
362     bs_write_se( s, pps->i_pic_init_qs - 26 );
363     bs_write_se( s, pps->i_chroma_qp_index_offset );
364
365     bs_write( s, 1, pps->b_deblocking_filter_control );
366     bs_write( s, 1, pps->b_constrained_intra_pred );
367     bs_write( s, 1, pps->b_redundant_pic_cnt );
368
369     bs_rbsp_trailing( s );
370 }
371
372 void x264_sei_version_write( bs_t *s )
373 {
374     int i;
375     // random ID number generated according to ISO-11578
376     const uint8_t uuid[16] = {
377         0xdc, 0x45, 0xe9, 0xbd, 0xe6, 0xd9, 0x48, 0xb7,
378         0x96, 0x2c, 0xd8, 0x20, 0xd9, 0x23, 0xee, 0xef
379     };
380     char version[256];
381     int length;
382     sprintf( version, "x264 - core 0x%x - H.264/MPEG-4 AVC codec - Copyleft 2005 - http://www.videolan.org/x264.html",
383              X264_BUILD );
384     length = strlen(version)+1+16;
385
386     bs_write( s, 8, 0x5 ); // payload_type = user_data_unregistered
387     while( length > 255 )
388         bs_write( s, 8, 255 ), length -= 255;
389     bs_write( s, 8, length ); // payload_size
390
391     for( i = 0; i < 16; i++ )
392         bs_write( s, 8, uuid[i] );
393     for( i = 0; i < length-16; i++ )
394         bs_write( s, 8, version[i] );
395
396     bs_rbsp_trailing( s );
397 }