removed warnings
[ffmpeg.git] / libavcodec / utils.c
1 /*
2  * utils for libavcodec
3  * Copyright (c) 2001 Fabrice Bellard.
4  *
5  * This library is free software; you can redistribute it and/or
6  * modify it under the terms of the GNU Lesser General Public
7  * License as published by the Free Software Foundation; either
8  * version 2 of the License, or (at your option) any later version.
9  *
10  * This library is distributed in the hope that it will be useful,
11  * but WITHOUT ANY WARRANTY; without even the implied warranty of
12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13  * Lesser General Public License for more details.
14  *
15  * You should have received a copy of the GNU Lesser General Public
16  * License along with this library; if not, write to the Free Software
17  * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
18  */
19  
20 /**
21  * @file utils.c
22  * utils.
23  */
24  
25 #include "avcodec.h"
26 #include "dsputil.h"
27 #include "mpegvideo.h"
28
29 void *av_mallocz(unsigned int size)
30 {
31     void *ptr;
32     
33     ptr = av_malloc(size);
34     if (!ptr)
35         return NULL;
36     memset(ptr, 0, size);
37     return ptr;
38 }
39
40 char *av_strdup(const char *s)
41 {
42     char *ptr;
43     int len;
44     len = strlen(s) + 1;
45     ptr = av_malloc(len);
46     if (!ptr)
47         return NULL;
48     memcpy(ptr, s, len);
49     return ptr;
50 }
51
52 /**
53  * realloc which does nothing if the block is large enough
54  */
55 void *av_fast_realloc(void *ptr, unsigned int *size, unsigned int min_size)
56 {
57     if(min_size < *size) 
58         return ptr;
59     
60     *size= min_size + 10*1024;
61
62     return av_realloc(ptr, *size);
63 }
64
65
66 /* allocation of static arrays - do not use for normal allocation */
67 static unsigned int last_static = 0;
68 static char*** array_static = NULL;
69 static const unsigned int grow_static = 64; // ^2
70 void *__av_mallocz_static(void** location, unsigned int size)
71 {
72     unsigned int l = (last_static + grow_static) & ~(grow_static - 1);
73     void *ptr = av_mallocz(size);
74     if (!ptr)
75         return NULL;
76
77     if (location)
78     {
79         if (l > last_static)
80             array_static = av_realloc(array_static, l);
81         array_static[last_static++] = (char**) location;
82         *location = ptr;
83     }
84     return ptr;
85 }
86 /* free all static arrays and reset pointers to 0 */
87 void av_free_static(void)
88 {
89     if (array_static)
90     {
91         unsigned i;
92         for (i = 0; i < last_static; i++)
93         {
94             av_free(*array_static[i]);
95             *array_static[i] = NULL;
96         }
97         av_free(array_static);
98         array_static = 0;
99     }
100     last_static = 0;
101 }
102
103 /* cannot call it directly because of 'void **' casting is not automatic */
104 void __av_freep(void **ptr)
105 {
106     av_free(*ptr);
107     *ptr = NULL;
108 }
109
110 /* encoder management */
111 AVCodec *first_avcodec;
112
113 void register_avcodec(AVCodec *format)
114 {
115     AVCodec **p;
116     p = &first_avcodec;
117     while (*p != NULL) p = &(*p)->next;
118     *p = format;
119     format->next = NULL;
120 }
121
122 typedef struct InternalBuffer{
123     int last_pic_num;
124     uint8_t *base[4];
125     uint8_t *data[4];
126 }InternalBuffer;
127
128 #define INTERNAL_BUFFER_SIZE 32
129
130 int avcodec_default_get_buffer(AVCodecContext *s, AVFrame *pic){
131     int i;
132     const int width = s->width;
133     const int height= s->height;
134     InternalBuffer *buf;
135     
136     assert(pic->data[0]==NULL);
137     assert(INTERNAL_BUFFER_SIZE > s->internal_buffer_count);
138
139     if(s->internal_buffer==NULL){
140         s->internal_buffer= av_mallocz(INTERNAL_BUFFER_SIZE*sizeof(InternalBuffer));
141     }
142 #if 0
143     s->internal_buffer= av_fast_realloc(
144         s->internal_buffer, 
145         &s->internal_buffer_size, 
146         sizeof(InternalBuffer)*FFMAX(99,  s->internal_buffer_count+1)/*FIXME*/
147         );
148 #endif
149      
150     buf= &((InternalBuffer*)s->internal_buffer)[s->internal_buffer_count];
151
152     if(buf->base[0]){
153         pic->age= pic->coded_picture_number - buf->last_pic_num;
154         buf->last_pic_num= pic->coded_picture_number;
155     }else{
156         int align, h_chroma_shift, v_chroma_shift;
157         int w, h, pixel_size;
158         
159         avcodec_get_chroma_sub_sample(s->pix_fmt, &h_chroma_shift, &v_chroma_shift);
160         switch(s->pix_fmt){
161         case PIX_FMT_RGB555:
162         case PIX_FMT_RGB565:
163         case PIX_FMT_YUV422:
164             pixel_size=2;
165             break;
166         case PIX_FMT_RGB24:
167         case PIX_FMT_BGR24:
168             pixel_size=3;
169             break;
170         case PIX_FMT_RGBA32:
171             pixel_size=4;
172             break;
173         default:
174             pixel_size=1;
175         }
176         
177         if(s->codec_id==CODEC_ID_SVQ1) align=63;
178         else                           align=15;
179     
180         w= (width +align)&~align;
181         h= (height+align)&~align;
182     
183         if(!(s->flags&CODEC_FLAG_EMU_EDGE)){
184             w+= EDGE_WIDTH*2;
185             h+= EDGE_WIDTH*2;
186         }
187         
188         buf->last_pic_num= -256*256*256*64;
189
190         for(i=0; i<3; i++){
191             const int h_shift= i==0 ? 0 : h_chroma_shift;
192             const int v_shift= i==0 ? 0 : v_chroma_shift;
193
194             pic->linesize[i]= pixel_size*w>>h_shift;
195
196             buf->base[i]= av_mallocz((pic->linesize[i]*h>>v_shift)+16); //FIXME 16
197             if(buf->base[i]==NULL) return -1;
198             memset(buf->base[i], 128, pic->linesize[i]*h>>v_shift);
199         
200             if(s->flags&CODEC_FLAG_EMU_EDGE)
201                 buf->data[i] = buf->base[i];
202             else
203                 buf->data[i] = buf->base[i] + (pic->linesize[i]*EDGE_WIDTH>>v_shift) + (EDGE_WIDTH>>h_shift);
204         }
205         pic->age= 256*256*256*64;
206         pic->type= FF_BUFFER_TYPE_INTERNAL;
207     }
208
209     for(i=0; i<4; i++){
210         pic->base[i]= buf->base[i];
211         pic->data[i]= buf->data[i];
212     }
213     s->internal_buffer_count++;
214
215     return 0;
216 }
217
218 void avcodec_default_release_buffer(AVCodecContext *s, AVFrame *pic){
219     int i;
220     InternalBuffer *buf, *last, temp;
221
222     assert(pic->type==FF_BUFFER_TYPE_INTERNAL);
223     assert(s->internal_buffer_count);
224
225     buf = NULL; /* avoids warning */
226     for(i=0; i<s->internal_buffer_count; i++){ //just 3-5 checks so is not worth to optimize
227         buf= &((InternalBuffer*)s->internal_buffer)[i];
228         if(buf->data[0] == pic->data[0])
229             break;
230     }
231     assert(i < s->internal_buffer_count);
232     s->internal_buffer_count--;
233     last = &((InternalBuffer*)s->internal_buffer)[s->internal_buffer_count];
234
235     temp= *buf;
236     *buf= *last;
237     *last= temp;
238
239     for(i=0; i<3; i++){
240         pic->data[i]=NULL;
241 //        pic->base[i]=NULL;
242     }
243 //printf("R%X\n", pic->opaque);
244 }
245
246 enum PixelFormat avcodec_default_get_format(struct AVCodecContext *s, enum PixelFormat * fmt){
247     return fmt[0];
248 }
249
250 void avcodec_get_context_defaults(AVCodecContext *s){
251     s->bit_rate= 800*1000;
252     s->bit_rate_tolerance= s->bit_rate*10;
253     s->qmin= 2;
254     s->qmax= 31;
255     s->mb_qmin= 2;
256     s->mb_qmax= 31;
257     s->rc_eq= "tex^qComp";
258     s->qcompress= 0.5;
259     s->max_qdiff= 3;
260     s->b_quant_factor=1.25;
261     s->b_quant_offset=1.25;
262     s->i_quant_factor=-0.8;
263     s->i_quant_offset=0.0;
264     s->error_concealment= 3;
265     s->error_resilience= 1;
266     s->workaround_bugs= FF_BUG_AUTODETECT;
267     s->frame_rate_base= 1;
268     s->frame_rate = 25;
269     s->gop_size= 50;
270     s->me_method= ME_EPZS;
271     s->get_buffer= avcodec_default_get_buffer;
272     s->release_buffer= avcodec_default_release_buffer;
273     s->get_format= avcodec_default_get_format;
274     s->me_subpel_quality=8;
275     
276     s->intra_quant_bias= FF_DEFAULT_QUANT_BIAS;
277     s->inter_quant_bias= FF_DEFAULT_QUANT_BIAS;
278 }
279
280 /**
281  * allocates a AVCodecContext and set it to defaults.
282  * this can be deallocated by simply calling free() 
283  */
284 AVCodecContext *avcodec_alloc_context(void){
285     AVCodecContext *avctx= av_mallocz(sizeof(AVCodecContext));
286     
287     if(avctx==NULL) return NULL;
288     
289     avcodec_get_context_defaults(avctx);
290     
291     return avctx;
292 }
293
294 /**
295  * allocates a AVPFrame and set it to defaults.
296  * this can be deallocated by simply calling free() 
297  */
298 AVFrame *avcodec_alloc_frame(void){
299     AVFrame *pic= av_mallocz(sizeof(AVFrame));
300     
301     return pic;
302 }
303
304 int avcodec_open(AVCodecContext *avctx, AVCodec *codec)
305 {
306     int ret;
307
308     avctx->codec = codec;
309     avctx->codec_id = codec->id;
310     avctx->frame_number = 0;
311     if (codec->priv_data_size > 0) {
312         avctx->priv_data = av_mallocz(codec->priv_data_size);
313         if (!avctx->priv_data) 
314             return -ENOMEM;
315     } else {
316         avctx->priv_data = NULL;
317     }
318     ret = avctx->codec->init(avctx);
319     if (ret < 0) {
320         av_freep(&avctx->priv_data);
321         return ret;
322     }
323     return 0;
324 }
325
326 int avcodec_encode_audio(AVCodecContext *avctx, uint8_t *buf, int buf_size, 
327                          const short *samples)
328 {
329     int ret;
330
331     ret = avctx->codec->encode(avctx, buf, buf_size, (void *)samples);
332     avctx->frame_number++;
333     return ret;
334 }
335
336 int avcodec_encode_video(AVCodecContext *avctx, uint8_t *buf, int buf_size, 
337                          const AVFrame *pict)
338 {
339     int ret;
340
341     ret = avctx->codec->encode(avctx, buf, buf_size, (void *)pict);
342     
343     emms_c(); //needed to avoid a emms_c() call before every return;
344
345     avctx->frame_number++;
346     return ret;
347 }
348
349 /** 
350  * decode a frame. 
351  * @param buf bitstream buffer, must be FF_INPUT_BUFFER_PADDING_SIZE larger then the actual read bytes
352  * because some optimized bitstream readers read 32 or 64 bit at once and could read over the end
353  * @param buf_size the size of the buffer in bytes
354  * @param got_picture_ptr zero if no frame could be decompressed, Otherwise, it is non zero
355  * @return -1 if error, otherwise return the number of
356  * bytes used. 
357  */
358 int avcodec_decode_video(AVCodecContext *avctx, AVFrame *picture, 
359                          int *got_picture_ptr,
360                          uint8_t *buf, int buf_size)
361 {
362     int ret;
363     
364     ret = avctx->codec->decode(avctx, picture, got_picture_ptr, 
365                                buf, buf_size);
366
367     emms_c(); //needed to avoid a emms_c() call before every return;
368     
369     if (*got_picture_ptr)                           
370         avctx->frame_number++;
371     return ret;
372 }
373
374 /* decode an audio frame. return -1 if error, otherwise return the
375    *number of bytes used. If no frame could be decompressed,
376    *frame_size_ptr is zero. Otherwise, it is the decompressed frame
377    *size in BYTES. */
378 int avcodec_decode_audio(AVCodecContext *avctx, int16_t *samples, 
379                          int *frame_size_ptr,
380                          uint8_t *buf, int buf_size)
381 {
382     int ret;
383
384     ret = avctx->codec->decode(avctx, samples, frame_size_ptr, 
385                                buf, buf_size);
386     avctx->frame_number++;
387     return ret;
388 }
389
390 int avcodec_close(AVCodecContext *avctx)
391 {
392     if (avctx->codec->close)
393         avctx->codec->close(avctx);
394     av_freep(&avctx->priv_data);
395     avctx->codec = NULL;
396     return 0;
397 }
398
399 AVCodec *avcodec_find_encoder(enum CodecID id)
400 {
401     AVCodec *p;
402     p = first_avcodec;
403     while (p) {
404         if (p->encode != NULL && p->id == id)
405             return p;
406         p = p->next;
407     }
408     return NULL;
409 }
410
411 AVCodec *avcodec_find_encoder_by_name(const char *name)
412 {
413     AVCodec *p;
414     p = first_avcodec;
415     while (p) {
416         if (p->encode != NULL && strcmp(name,p->name) == 0)
417             return p;
418         p = p->next;
419     }
420     return NULL;
421 }
422
423 AVCodec *avcodec_find_decoder(enum CodecID id)
424 {
425     AVCodec *p;
426     p = first_avcodec;
427     while (p) {
428         if (p->decode != NULL && p->id == id)
429             return p;
430         p = p->next;
431     }
432     return NULL;
433 }
434
435 AVCodec *avcodec_find_decoder_by_name(const char *name)
436 {
437     AVCodec *p;
438     p = first_avcodec;
439     while (p) {
440         if (p->decode != NULL && strcmp(name,p->name) == 0)
441             return p;
442         p = p->next;
443     }
444     return NULL;
445 }
446
447 AVCodec *avcodec_find(enum CodecID id)
448 {
449     AVCodec *p;
450     p = first_avcodec;
451     while (p) {
452         if (p->id == id)
453             return p;
454         p = p->next;
455     }
456     return NULL;
457 }
458
459 void avcodec_string(char *buf, int buf_size, AVCodecContext *enc, int encode)
460 {
461     const char *codec_name;
462     AVCodec *p;
463     char buf1[32];
464     char channels_str[100];
465     int bitrate;
466
467     if (encode)
468         p = avcodec_find_encoder(enc->codec_id);
469     else
470         p = avcodec_find_decoder(enc->codec_id);
471
472     if (p) {
473         codec_name = p->name;
474         if (!encode && enc->codec_id == CODEC_ID_MP3) {
475             if (enc->sub_id == 2)
476                 codec_name = "mp2";
477             else if (enc->sub_id == 1)
478                 codec_name = "mp1";
479         }
480     } else if (enc->codec_name[0] != '\0') {
481         codec_name = enc->codec_name;
482     } else {
483         /* output avi tags */
484         if (enc->codec_type == CODEC_TYPE_VIDEO) {
485             snprintf(buf1, sizeof(buf1), "%c%c%c%c", 
486                      enc->codec_tag & 0xff,
487                      (enc->codec_tag >> 8) & 0xff,
488                      (enc->codec_tag >> 16) & 0xff,
489                      (enc->codec_tag >> 24) & 0xff);
490         } else {
491             snprintf(buf1, sizeof(buf1), "0x%04x", enc->codec_tag);
492         }
493         codec_name = buf1;
494     }
495
496     switch(enc->codec_type) {
497     case CODEC_TYPE_VIDEO:
498         snprintf(buf, buf_size,
499                  "Video: %s%s",
500                  codec_name, enc->mb_decision ? " (hq)" : "");
501         if (enc->codec_id == CODEC_ID_RAWVIDEO) {
502             snprintf(buf + strlen(buf), buf_size - strlen(buf),
503                      ", %s",
504                      avcodec_get_pix_fmt_name(enc->pix_fmt));
505         }
506         if (enc->width) {
507             snprintf(buf + strlen(buf), buf_size - strlen(buf),
508                      ", %dx%d, %0.2f fps",
509                      enc->width, enc->height, 
510                      (float)enc->frame_rate / enc->frame_rate_base);
511         }
512         if (encode) {
513             snprintf(buf + strlen(buf), buf_size - strlen(buf),
514                      ", q=%d-%d", enc->qmin, enc->qmax);
515         }
516         bitrate = enc->bit_rate;
517         break;
518     case CODEC_TYPE_AUDIO:
519         snprintf(buf, buf_size,
520                  "Audio: %s",
521                  codec_name);
522         switch (enc->channels) {
523             case 1:
524                 strcpy(channels_str, "mono");
525                 break;
526             case 2:
527                 strcpy(channels_str, "stereo");
528                 break;
529             case 6:
530                 strcpy(channels_str, "5:1");
531                 break;
532             default:
533                 sprintf(channels_str, "%d channels", enc->channels);
534                 break;
535         }
536         if (enc->sample_rate) {
537             snprintf(buf + strlen(buf), buf_size - strlen(buf),
538                      ", %d Hz, %s",
539                      enc->sample_rate,
540                      channels_str);
541         }
542         
543         /* for PCM codecs, compute bitrate directly */
544         switch(enc->codec_id) {
545         case CODEC_ID_PCM_S16LE:
546         case CODEC_ID_PCM_S16BE:
547         case CODEC_ID_PCM_U16LE:
548         case CODEC_ID_PCM_U16BE:
549             bitrate = enc->sample_rate * enc->channels * 16;
550             break;
551         case CODEC_ID_PCM_S8:
552         case CODEC_ID_PCM_U8:
553         case CODEC_ID_PCM_ALAW:
554         case CODEC_ID_PCM_MULAW:
555             bitrate = enc->sample_rate * enc->channels * 8;
556             break;
557         default:
558             bitrate = enc->bit_rate;
559             break;
560         }
561         break;
562     default:
563         av_abort();
564     }
565     if (encode) {
566         if (enc->flags & CODEC_FLAG_PASS1)
567             snprintf(buf + strlen(buf), buf_size - strlen(buf),
568                      ", pass 1");
569         if (enc->flags & CODEC_FLAG_PASS2)
570             snprintf(buf + strlen(buf), buf_size - strlen(buf),
571                      ", pass 2");
572     }
573     if (bitrate != 0) {
574         snprintf(buf + strlen(buf), buf_size - strlen(buf), 
575                  ", %d kb/s", bitrate / 1000);
576     }
577 }
578
579 unsigned avcodec_version( void )
580 {
581   return LIBAVCODEC_VERSION_INT;
582 }
583
584 unsigned avcodec_build( void )
585 {
586   return LIBAVCODEC_BUILD;
587 }
588
589 /* must be called before any other functions */
590 void avcodec_init(void)
591 {
592     static int inited = 0;
593
594     if (inited != 0)
595         return;
596     inited = 1;
597
598     dsputil_static_init();
599 }
600
601 /**
602  * Flush buffers, should be called when seeking or when swicthing to a different stream.
603  */
604 void avcodec_flush_buffers(AVCodecContext *avctx)
605 {
606     if(avctx->codec->flush)
607         avctx->codec->flush(avctx);
608 }
609
610 void avcodec_default_free_buffers(AVCodecContext *s){
611     int i, j;
612
613     if(s->internal_buffer==NULL) return;
614     
615     for(i=0; i<INTERNAL_BUFFER_SIZE; i++){
616         InternalBuffer *buf= &((InternalBuffer*)s->internal_buffer)[i];
617         for(j=0; j<4; j++){
618             av_freep(&buf->base[j]);
619             buf->data[j]= NULL;
620         }
621     }
622     av_freep(&s->internal_buffer);
623     
624     s->internal_buffer_count=0;
625 }
626
627 char av_get_pict_type_char(int pict_type){
628     switch(pict_type){
629     case I_TYPE: return 'I'; 
630     case P_TYPE: return 'P'; 
631     case B_TYPE: return 'B'; 
632     case S_TYPE: return 'S'; 
633     case SI_TYPE:return 'i'; 
634     case SP_TYPE:return 'p'; 
635     default:     return '?';
636     }
637 }
638
639 int av_reduce(int *dst_nom, int *dst_den, int64_t nom, int64_t den, int64_t max){
640     int exact=1, sign=0;
641     int64_t gcd, larger;
642
643     assert(den != 0);
644
645     if(den < 0){
646         den= -den;
647         nom= -nom;
648     }
649     
650     if(nom < 0){
651         nom= -nom;
652         sign= 1;
653     }
654     
655     for(;;){ //note is executed 1 or 2 times 
656         gcd = ff_gcd(nom, den);
657         nom /= gcd;
658         den /= gcd;
659     
660         larger= FFMAX(nom, den);
661     
662         if(larger > max){
663             int64_t div= (larger + max - 1) / max;
664             nom =  (nom + div/2)/div;
665             den =  (den + div/2)/div;
666             exact=0;
667         }else 
668             break;
669     }
670     
671     if(sign) nom= -nom;
672     
673     *dst_nom = nom;
674     *dst_den = den;
675     
676     return exact;
677 }
678
679 int64_t av_rescale(int64_t a, int b, int c){
680     uint64_t h, l;
681     assert(c > 0);
682     assert(b >=0);
683     
684     if(a<0) return -av_rescale(-a, b, c);
685     
686     h= a>>32;
687     if(h==0) return a*b/c;
688     
689     l= a&0xFFFFFFFF;
690     l *= b;
691     h *= b;
692
693     l += (h%c)<<32;
694
695     return ((h/c)<<32) + l/c;
696 }