* all: Patches by Loren Merritt:
[x262.git] / core / common.c
1 /*****************************************************************************
2  * common.c: h264 library
3  *****************************************************************************
4  * Copyright (C) 2003 Laurent Aimar
5  * $Id: common.c,v 1.1 2004/06/03 19:27:06 fenrir Exp $
6  *
7  * Authors: Laurent Aimar <fenrir@via.ecp.fr>
8  *
9  * This program is free software; you can redistribute it and/or modify
10  * it under the terms of the GNU General Public License as published by
11  * the Free Software Foundation; either version 2 of the License, or
12  * (at your option) any later version.
13  *
14  * This program is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
17  * GNU General Public License for more details.
18  *
19  * You should have received a copy of the GNU General Public License
20  * along with this program; if not, write to the Free Software
21  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA  02111, USA.
22  *****************************************************************************/
23
24 #include <stdlib.h>
25 #include <stdio.h>
26 #include <string.h>
27 #include <stdarg.h>
28
29 #ifdef HAVE_MALLOC_H
30 #include <malloc.h>
31 #endif
32
33 #include "common.h"
34 #include "cpu.h"
35
36 static void x264_log_default( void *, int, const char *, va_list );
37
38 /****************************************************************************
39  * x264_param_default:
40  ****************************************************************************/
41 void    x264_param_default( x264_param_t *param )
42 {
43     /* */
44     memset( param, 0, sizeof( x264_param_t ) );
45
46     /* CPU autodetect */
47     param->cpu = x264_cpu_detect();
48
49     /* Video properties */
50     param->i_csp           = X264_CSP_I420;
51     param->i_width         = 0;
52     param->i_height        = 0;
53     param->vui.i_sar_width = 0;
54     param->vui.i_sar_height= 0;
55     param->i_fps_num       = 25;
56     param->i_fps_den       = 1;
57
58     /* Encoder parameters */
59     param->i_frame_reference = 1;
60     param->i_idrframe = 2;
61     param->i_iframe = 60;
62     param->i_bframe = 0;
63
64     param->b_deblocking_filter = 1;
65     param->i_deblocking_filter_alphac0 = 0;
66     param->i_deblocking_filter_beta = 0;
67
68     param->b_cabac = 0;
69     param->i_cabac_init_idc = -1;
70
71     param->rc.b_cbr = 0;
72     param->rc.i_bitrate = 3000;
73     param->rc.i_rc_buffer_size = 0;
74     param->rc.i_rc_init_buffer = 0;
75     param->rc.i_rc_sens = 100;
76     param->rc.i_qp_constant = 26;
77     param->rc.i_qp_min = 0;
78     param->rc.i_qp_max = 51;
79     param->rc.i_qp_step = 4;
80     param->rc.f_ip_factor = 2.0;
81     param->rc.f_pb_factor = 2.0;
82
83     param->rc.b_stat_write = 0;
84     param->rc.psz_stat_out = "x264_2pass.log";
85     param->rc.b_stat_read = 0;
86     param->rc.psz_stat_in = "x264_2pass.log";
87     param->rc.psz_rc_eq = "(tex^qComp)*(avgTex^(1-qComp))";
88     param->rc.f_qcompress = 0.6;
89     param->rc.f_qblur = 0.5;
90
91     /* Log */
92     param->pf_log = x264_log_default;
93     param->p_log_private = NULL;
94     param->i_log_level = X264_LOG_DEBUG;
95
96     /* */
97     param->analyse.intra = X264_ANALYSE_I4x4;
98     param->analyse.inter = X264_ANALYSE_I4x4 | X264_ANALYSE_PSUB16x16;
99     param->analyse.i_subpel_refine = 1;
100     param->analyse.b_psnr = 1;
101 }
102
103 /****************************************************************************
104  * x264_log:
105  ****************************************************************************/
106 void x264_log( x264_t *h, int i_level, const char *psz_fmt, ... )
107 {
108     if( i_level <= h->param.i_log_level )
109     {
110         va_list arg;
111         va_start( arg, psz_fmt );
112         h->param.pf_log( h->param.p_log_private, i_level, psz_fmt, arg );
113         va_end( arg );
114     }
115 }
116
117 static void x264_log_default( void *p_unused, int i_level, const char *psz_fmt, va_list arg )
118 {
119     char *psz_prefix;
120     switch( i_level )
121     {
122         case X264_LOG_ERROR:
123             psz_prefix = "error";
124             break;
125         case X264_LOG_WARNING:
126             psz_prefix = "warning";
127             break;
128         case X264_LOG_INFO:
129             psz_prefix = "info";
130             break;
131         case X264_LOG_DEBUG:
132             psz_prefix = "debug";
133             break;
134         default:
135             psz_prefix = "unknown";
136             break;
137     }
138     fprintf( stderr, "x264 [%s]: ", psz_prefix );
139     vfprintf( stderr, psz_fmt, arg );
140 }
141
142 /****************************************************************************
143  * x264_picture_alloc:
144  ****************************************************************************/
145 void x264_picture_alloc( x264_picture_t *pic, int i_csp, int i_width, int i_height )
146 {
147     pic->i_type = X264_TYPE_AUTO;
148     pic->i_qpplus1 = 0;
149     pic->img.i_csp = i_csp;
150     switch( i_csp & X264_CSP_MASK )
151     {
152         case X264_CSP_I420:
153         case X264_CSP_YV12:
154             pic->img.i_plane = 3;
155             pic->img.plane[0] = x264_malloc( 3 * i_width * i_height / 2 );
156             pic->img.plane[1] = pic->img.plane[0] + i_width * i_height;
157             pic->img.plane[2] = pic->img.plane[1] + i_width * i_height / 4;
158             pic->img.i_stride[0] = i_width;
159             pic->img.i_stride[1] = i_width / 2;
160             pic->img.i_stride[2] = i_width / 2;
161             break;
162
163         case X264_CSP_I422:
164             pic->img.i_plane = 3;
165             pic->img.plane[0] = x264_malloc( 2 * i_width * i_height );
166             pic->img.plane[1] = pic->img.plane[0] + i_width * i_height;
167             pic->img.plane[2] = pic->img.plane[1] + i_width * i_height / 2;
168             pic->img.i_stride[0] = i_width;
169             pic->img.i_stride[1] = i_width / 2;
170             pic->img.i_stride[2] = i_width / 2;
171             break;
172
173         case X264_CSP_I444:
174             pic->img.i_plane = 3;
175             pic->img.plane[0] = x264_malloc( 3 * i_width * i_height );
176             pic->img.plane[1] = pic->img.plane[0] + i_width * i_height;
177             pic->img.plane[2] = pic->img.plane[1] + i_width * i_height;
178             pic->img.i_stride[0] = i_width;
179             pic->img.i_stride[1] = i_width;
180             pic->img.i_stride[2] = i_width;
181             break;
182
183         case X264_CSP_YUYV:
184             pic->img.i_plane = 1;
185             pic->img.plane[0] = x264_malloc( 2 * i_width * i_height );
186             pic->img.i_stride[0] = 2 * i_width;
187             break;
188
189         case X264_CSP_RGB:
190         case X264_CSP_BGR:
191             pic->img.i_plane = 1;
192             pic->img.plane[0] = x264_malloc( 3 * i_width * i_height );
193             pic->img.i_stride[0] = 3 * i_width;
194             break;
195
196         case X264_CSP_BGRA:
197             pic->img.i_plane = 1;
198             pic->img.plane[0] = x264_malloc( 4 * i_width * i_height );
199             pic->img.i_stride[0] = 4 * i_width;
200             break;
201
202         default:
203             fprintf( stderr, "invalid CSP\n" );
204             pic->img.i_plane = 0;
205             break;
206     }
207 }
208
209 /****************************************************************************
210  * x264_picture_clean:
211  ****************************************************************************/
212 void x264_picture_clean( x264_picture_t *pic )
213 {
214     x264_free( pic->img.plane[0] );
215
216     /* just to be safe */
217     memset( pic, 0, sizeof( x264_picture_t ) );
218 }
219
220 /****************************************************************************
221  * x264_nal_encode:
222  ****************************************************************************/
223 int x264_nal_encode( void *p_data, int *pi_data, int b_annexeb, x264_nal_t *nal )
224 {
225     uint8_t *dst = p_data;
226     uint8_t *src = nal->p_payload;
227     uint8_t *end = &nal->p_payload[nal->i_payload];
228
229     int i_count = 0;
230
231     /* FIXME this code doesn't check overflow */
232
233     if( b_annexeb )
234     {
235         /* long nal start code (we always use long ones)*/
236         *dst++ = 0x00;
237         *dst++ = 0x00;
238         *dst++ = 0x00;
239         *dst++ = 0x01;
240     }
241
242     /* nal header */
243     *dst++ = ( 0x00 << 7 ) | ( nal->i_ref_idc << 5 ) | nal->i_type;
244
245     while( src < end )
246     {
247         if( i_count == 2 && *src <= 0x03 )
248         {
249             *dst++ = 0x03;
250             i_count = 0;
251         }
252         if( *src == 0 )
253         {
254             i_count++;
255         }
256         else
257         {
258             i_count = 0;
259         }
260         *dst++ = *src++;
261     }
262     *pi_data = dst - (uint8_t*)p_data;
263
264     return *pi_data;
265 }
266
267 /****************************************************************************
268  * x264_nal_decode:
269  ****************************************************************************/
270 int x264_nal_decode( x264_nal_t *nal, void *p_data, int i_data )
271 {
272     uint8_t *src = p_data;
273     uint8_t *end = &src[i_data];
274     uint8_t *dst = nal->p_payload;
275
276     nal->i_type    = src[0]&0x1f;
277     nal->i_ref_idc = (src[0] >> 5)&0x03;
278
279     src++;
280
281     while( src < end )
282     {
283         if( src < end - 3 && src[0] == 0x00 && src[1] == 0x00  && src[2] == 0x03 )
284         {
285             *dst++ = 0x00;
286             *dst++ = 0x00;
287
288             src += 3;
289             continue;
290         }
291         *dst++ = *src++;
292     }
293
294     nal->i_payload = dst - (uint8_t*)p_data;
295     return 0;
296 }
297
298
299
300 /****************************************************************************
301  * x264_malloc:
302  ****************************************************************************/
303 void *x264_malloc( int i_size )
304 {
305 #ifdef HAVE_MALLOC_H
306     return memalign( 16, i_size );
307 #else
308     uint8_t * buf;
309     uint8_t * align_buf;
310     buf = (uint8_t *) malloc( i_size + 15 + sizeof( void ** ) +
311               sizeof( int ) );
312     align_buf = buf + 15 + sizeof( void ** ) + sizeof( int );
313     align_buf -= (long) align_buf & 15;
314     *( (void **) ( align_buf - sizeof( void ** ) ) ) = buf;
315     *( (int *) ( align_buf - sizeof( void ** ) - sizeof( int ) ) ) = i_size;
316     return align_buf;
317 #endif
318 }
319
320 /****************************************************************************
321  * x264_free:
322  ****************************************************************************/
323 void x264_free( void *p )
324 {
325     if( p )
326     {
327 #ifdef HAVE_MALLOC_H
328         free( p );
329 #else
330         free( *( ( ( void **) p ) - 1 ) );
331 #endif
332     }
333 }
334
335 /****************************************************************************
336  * x264_realloc:
337  ****************************************************************************/
338 void *x264_realloc( void *p, int i_size )
339 {
340 #ifdef HAVE_MALLOC_H
341     return realloc( p, i_size );
342 #else
343     int       i_old_size = 0;
344     uint8_t * p_new;
345     if( p )
346     {
347         i_old_size = *( (int*) ( (uint8_t*) p ) - sizeof( void ** ) -
348                          sizeof( int ) );
349     }
350     p_new = x264_malloc( i_size );
351     if( i_old_size > 0 && i_size > 0 )
352     {
353         memcpy( p_new, p, ( i_old_size < i_size ) ? i_old_size : i_size );
354     }
355     x264_free( p );
356     return p_new;
357 #endif
358 }
359