lavc: remove disabled FF_API_OLD_SAMPLE_FMT cruft.
[ffmpeg.git] / libavcodec / utils.c
1 /*
2  * utils for libavcodec
3  * Copyright (c) 2001 Fabrice Bellard
4  * Copyright (c) 2002-2004 Michael Niedermayer <michaelni@gmx.at>
5  *
6  * This file is part of Libav.
7  *
8  * Libav is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * Libav is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with Libav; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 /**
24  * @file
25  * utils.
26  */
27
28 #include "libavutil/avassert.h"
29 #include "libavutil/avstring.h"
30 #include "libavutil/crc.h"
31 #include "libavutil/mathematics.h"
32 #include "libavutil/pixdesc.h"
33 #include "libavutil/audioconvert.h"
34 #include "libavutil/imgutils.h"
35 #include "libavutil/samplefmt.h"
36 #include "libavutil/dict.h"
37 #include "avcodec.h"
38 #include "dsputil.h"
39 #include "libavutil/opt.h"
40 #include "imgconvert.h"
41 #include "thread.h"
42 #include "audioconvert.h"
43 #include "internal.h"
44 #include "bytestream.h"
45 #include <stdlib.h>
46 #include <stdarg.h>
47 #include <limits.h>
48 #include <float.h>
49
50 static int volatile entangled_thread_counter=0;
51 static int (*ff_lockmgr_cb)(void **mutex, enum AVLockOp op);
52 static void *codec_mutex;
53 static void *avformat_mutex;
54
55 void *av_fast_realloc(void *ptr, unsigned int *size, size_t min_size)
56 {
57     if(min_size < *size)
58         return ptr;
59
60     min_size= FFMAX(17*min_size/16 + 32, min_size);
61
62     ptr= av_realloc(ptr, min_size);
63     if(!ptr) //we could set this to the unmodified min_size but this is safer if the user lost the ptr and uses NULL now
64         min_size= 0;
65
66     *size= min_size;
67
68     return ptr;
69 }
70
71 void av_fast_malloc(void *ptr, unsigned int *size, size_t min_size)
72 {
73     void **p = ptr;
74     if (min_size < *size)
75         return;
76     min_size= FFMAX(17*min_size/16 + 32, min_size);
77     av_free(*p);
78     *p = av_malloc(min_size);
79     if (!*p) min_size = 0;
80     *size= min_size;
81 }
82
83 /* encoder management */
84 static AVCodec *first_avcodec = NULL;
85
86 AVCodec *av_codec_next(AVCodec *c){
87     if(c) return c->next;
88     else  return first_avcodec;
89 }
90
91 #if !FF_API_AVCODEC_INIT
92 static
93 #endif
94 void avcodec_init(void)
95 {
96     static int initialized = 0;
97
98     if (initialized != 0)
99         return;
100     initialized = 1;
101
102     dsputil_static_init();
103 }
104
105 static av_always_inline int codec_is_encoder(AVCodec *codec)
106 {
107     return codec && (codec->encode || codec->encode2);
108 }
109
110 static av_always_inline int codec_is_decoder(AVCodec *codec)
111 {
112     return codec && codec->decode;
113 }
114
115 void avcodec_register(AVCodec *codec)
116 {
117     AVCodec **p;
118     avcodec_init();
119     p = &first_avcodec;
120     while (*p != NULL) p = &(*p)->next;
121     *p = codec;
122     codec->next = NULL;
123
124     if (codec->init_static_data)
125         codec->init_static_data(codec);
126 }
127
128 unsigned avcodec_get_edge_width(void)
129 {
130     return EDGE_WIDTH;
131 }
132
133 void avcodec_set_dimensions(AVCodecContext *s, int width, int height){
134     s->coded_width = width;
135     s->coded_height= height;
136     s->width = -((-width )>>s->lowres);
137     s->height= -((-height)>>s->lowres);
138 }
139
140 #define INTERNAL_BUFFER_SIZE (32+1)
141
142 void avcodec_align_dimensions2(AVCodecContext *s, int *width, int *height,
143                                int linesize_align[AV_NUM_DATA_POINTERS])
144 {
145     int i;
146     int w_align= 1;
147     int h_align= 1;
148
149     switch(s->pix_fmt){
150     case PIX_FMT_YUV420P:
151     case PIX_FMT_YUYV422:
152     case PIX_FMT_UYVY422:
153     case PIX_FMT_YUV422P:
154     case PIX_FMT_YUV440P:
155     case PIX_FMT_YUV444P:
156     case PIX_FMT_GBRP:
157     case PIX_FMT_GRAY8:
158     case PIX_FMT_GRAY16BE:
159     case PIX_FMT_GRAY16LE:
160     case PIX_FMT_YUVJ420P:
161     case PIX_FMT_YUVJ422P:
162     case PIX_FMT_YUVJ440P:
163     case PIX_FMT_YUVJ444P:
164     case PIX_FMT_YUVA420P:
165     case PIX_FMT_YUV420P9LE:
166     case PIX_FMT_YUV420P9BE:
167     case PIX_FMT_YUV420P10LE:
168     case PIX_FMT_YUV420P10BE:
169     case PIX_FMT_YUV422P9LE:
170     case PIX_FMT_YUV422P9BE:
171     case PIX_FMT_YUV422P10LE:
172     case PIX_FMT_YUV422P10BE:
173     case PIX_FMT_YUV444P9LE:
174     case PIX_FMT_YUV444P9BE:
175     case PIX_FMT_YUV444P10LE:
176     case PIX_FMT_YUV444P10BE:
177     case PIX_FMT_GBRP9LE:
178     case PIX_FMT_GBRP9BE:
179     case PIX_FMT_GBRP10LE:
180     case PIX_FMT_GBRP10BE:
181         w_align = 16; //FIXME assume 16 pixel per macroblock
182         h_align = 16 * 2; // interlaced needs 2 macroblocks height
183         break;
184     case PIX_FMT_YUV411P:
185     case PIX_FMT_UYYVYY411:
186         w_align=32;
187         h_align=8;
188         break;
189     case PIX_FMT_YUV410P:
190         if(s->codec_id == CODEC_ID_SVQ1){
191             w_align=64;
192             h_align=64;
193         }
194     case PIX_FMT_RGB555:
195         if(s->codec_id == CODEC_ID_RPZA){
196             w_align=4;
197             h_align=4;
198         }
199     case PIX_FMT_PAL8:
200     case PIX_FMT_BGR8:
201     case PIX_FMT_RGB8:
202         if(s->codec_id == CODEC_ID_SMC){
203             w_align=4;
204             h_align=4;
205         }
206         break;
207     case PIX_FMT_BGR24:
208         if((s->codec_id == CODEC_ID_MSZH) || (s->codec_id == CODEC_ID_ZLIB)){
209             w_align=4;
210             h_align=4;
211         }
212         break;
213     default:
214         w_align= 1;
215         h_align= 1;
216         break;
217     }
218
219     *width = FFALIGN(*width , w_align);
220     *height= FFALIGN(*height, h_align);
221     if(s->codec_id == CODEC_ID_H264 || s->lowres)
222         *height+=2; // some of the optimized chroma MC reads one line too much
223                     // which is also done in mpeg decoders with lowres > 0
224
225     for (i = 0; i < AV_NUM_DATA_POINTERS; i++)
226         linesize_align[i] = STRIDE_ALIGN;
227 //STRIDE_ALIGN is 8 for SSE* but this does not work for SVQ1 chroma planes
228 //we could change STRIDE_ALIGN to 16 for x86/sse but it would increase the
229 //picture size unneccessarily in some cases. The solution here is not
230 //pretty and better ideas are welcome!
231 #if HAVE_MMX
232     if(s->codec_id == CODEC_ID_SVQ1 || s->codec_id == CODEC_ID_VP5 ||
233        s->codec_id == CODEC_ID_VP6 || s->codec_id == CODEC_ID_VP6F ||
234        s->codec_id == CODEC_ID_VP6A) {
235         for (i = 0; i < AV_NUM_DATA_POINTERS; i++)
236             linesize_align[i] = 16;
237     }
238 #endif
239 }
240
241 void avcodec_align_dimensions(AVCodecContext *s, int *width, int *height){
242     int chroma_shift = av_pix_fmt_descriptors[s->pix_fmt].log2_chroma_w;
243     int linesize_align[AV_NUM_DATA_POINTERS];
244     int align;
245     avcodec_align_dimensions2(s, width, height, linesize_align);
246     align = FFMAX(linesize_align[0], linesize_align[3]);
247     linesize_align[1] <<= chroma_shift;
248     linesize_align[2] <<= chroma_shift;
249     align = FFMAX3(align, linesize_align[1], linesize_align[2]);
250     *width=FFALIGN(*width, align);
251 }
252
253 int avcodec_fill_audio_frame(AVFrame *frame, int nb_channels,
254                              enum AVSampleFormat sample_fmt, const uint8_t *buf,
255                              int buf_size, int align)
256 {
257     int ch, planar, needed_size, ret = 0;
258
259     needed_size = av_samples_get_buffer_size(NULL, nb_channels,
260                                              frame->nb_samples, sample_fmt,
261                                              align);
262     if (buf_size < needed_size)
263         return AVERROR(EINVAL);
264
265     planar = av_sample_fmt_is_planar(sample_fmt);
266     if (planar && nb_channels > AV_NUM_DATA_POINTERS) {
267         if (!(frame->extended_data = av_mallocz(nb_channels *
268                                                 sizeof(*frame->extended_data))))
269             return AVERROR(ENOMEM);
270     } else {
271         frame->extended_data = frame->data;
272     }
273
274     if ((ret = av_samples_fill_arrays(frame->extended_data, &frame->linesize[0],
275                                       buf, nb_channels, frame->nb_samples,
276                                       sample_fmt, align)) < 0) {
277         if (frame->extended_data != frame->data)
278             av_free(frame->extended_data);
279         return ret;
280     }
281     if (frame->extended_data != frame->data) {
282         for (ch = 0; ch < AV_NUM_DATA_POINTERS; ch++)
283             frame->data[ch] = frame->extended_data[ch];
284     }
285
286     return ret;
287 }
288
289 static int audio_get_buffer(AVCodecContext *avctx, AVFrame *frame)
290 {
291     AVCodecInternal *avci = avctx->internal;
292     InternalBuffer *buf;
293     int buf_size, ret;
294
295     buf_size = av_samples_get_buffer_size(NULL, avctx->channels,
296                                           frame->nb_samples, avctx->sample_fmt,
297                                           32);
298     if (buf_size < 0)
299         return AVERROR(EINVAL);
300
301     /* allocate InternalBuffer if needed */
302     if (!avci->buffer) {
303         avci->buffer = av_mallocz(sizeof(InternalBuffer));
304         if (!avci->buffer)
305             return AVERROR(ENOMEM);
306     }
307     buf = avci->buffer;
308
309     /* if there is a previously-used internal buffer, check its size and
310        channel count to see if we can reuse it */
311     if (buf->extended_data) {
312         /* if current buffer is too small, free it */
313         if (buf->extended_data[0] && buf_size > buf->audio_data_size) {
314             av_free(buf->extended_data[0]);
315             if (buf->extended_data != buf->data)
316                 av_free(&buf->extended_data);
317             buf->extended_data = NULL;
318             buf->data[0] = NULL;
319         }
320         /* if number of channels has changed, reset and/or free extended data
321            pointers but leave data buffer in buf->data[0] for reuse */
322         if (buf->nb_channels != avctx->channels) {
323             if (buf->extended_data != buf->data)
324                 av_free(buf->extended_data);
325             buf->extended_data = NULL;
326         }
327     }
328
329     /* if there is no previous buffer or the previous buffer cannot be used
330        as-is, allocate a new buffer and/or rearrange the channel pointers */
331     if (!buf->extended_data) {
332         if (!buf->data[0]) {
333             if (!(buf->data[0] = av_mallocz(buf_size)))
334                 return AVERROR(ENOMEM);
335             buf->audio_data_size = buf_size;
336         }
337         if ((ret = avcodec_fill_audio_frame(frame, avctx->channels,
338                                             avctx->sample_fmt, buf->data[0],
339                                             buf->audio_data_size, 32)))
340             return ret;
341
342         if (frame->extended_data == frame->data)
343             buf->extended_data = buf->data;
344         else
345             buf->extended_data = frame->extended_data;
346         memcpy(buf->data, frame->data, sizeof(frame->data));
347         buf->linesize[0] = frame->linesize[0];
348         buf->nb_channels = avctx->channels;
349     } else {
350         /* copy InternalBuffer info to the AVFrame */
351         frame->extended_data = buf->extended_data;
352         frame->linesize[0]   = buf->linesize[0];
353         memcpy(frame->data, buf->data, sizeof(frame->data));
354     }
355
356     frame->type          = FF_BUFFER_TYPE_INTERNAL;
357
358     if (avctx->pkt) frame->pkt_pts = avctx->pkt->pts;
359     else            frame->pkt_pts = AV_NOPTS_VALUE;
360     frame->reordered_opaque = avctx->reordered_opaque;
361
362     if (avctx->debug & FF_DEBUG_BUFFERS)
363         av_log(avctx, AV_LOG_DEBUG, "default_get_buffer called on frame %p, "
364                "internal audio buffer used\n", frame);
365
366     return 0;
367 }
368
369 static int video_get_buffer(AVCodecContext *s, AVFrame *pic)
370 {
371     int i;
372     int w= s->width;
373     int h= s->height;
374     InternalBuffer *buf;
375     AVCodecInternal *avci = s->internal;
376
377     if(pic->data[0]!=NULL) {
378         av_log(s, AV_LOG_ERROR, "pic->data[0]!=NULL in avcodec_default_get_buffer\n");
379         return -1;
380     }
381     if(avci->buffer_count >= INTERNAL_BUFFER_SIZE) {
382         av_log(s, AV_LOG_ERROR, "buffer_count overflow (missing release_buffer?)\n");
383         return -1;
384     }
385
386     if(av_image_check_size(w, h, 0, s))
387         return -1;
388
389     if (!avci->buffer) {
390         avci->buffer = av_mallocz((INTERNAL_BUFFER_SIZE+1) *
391                                   sizeof(InternalBuffer));
392     }
393
394     buf = &avci->buffer[avci->buffer_count];
395
396     if(buf->base[0] && (buf->width != w || buf->height != h || buf->pix_fmt != s->pix_fmt)){
397         if(s->active_thread_type&FF_THREAD_FRAME) {
398             av_log_missing_feature(s, "Width/height changing with frame threads is", 0);
399             return -1;
400         }
401
402         for (i = 0; i < AV_NUM_DATA_POINTERS; i++) {
403             av_freep(&buf->base[i]);
404             buf->data[i]= NULL;
405         }
406     }
407
408     if (!buf->base[0]) {
409         int h_chroma_shift, v_chroma_shift;
410         int size[4] = {0};
411         int tmpsize;
412         int unaligned;
413         AVPicture picture;
414         int stride_align[AV_NUM_DATA_POINTERS];
415         const int pixel_size = av_pix_fmt_descriptors[s->pix_fmt].comp[0].step_minus1+1;
416
417         avcodec_get_chroma_sub_sample(s->pix_fmt, &h_chroma_shift, &v_chroma_shift);
418
419         avcodec_align_dimensions2(s, &w, &h, stride_align);
420
421         if(!(s->flags&CODEC_FLAG_EMU_EDGE)){
422             w+= EDGE_WIDTH*2;
423             h+= EDGE_WIDTH*2;
424         }
425
426         do {
427             // NOTE: do not align linesizes individually, this breaks e.g. assumptions
428             // that linesize[0] == 2*linesize[1] in the MPEG-encoder for 4:2:2
429             av_image_fill_linesizes(picture.linesize, s->pix_fmt, w);
430             // increase alignment of w for next try (rhs gives the lowest bit set in w)
431             w += w & ~(w-1);
432
433             unaligned = 0;
434             for (i=0; i<4; i++){
435                 unaligned |= picture.linesize[i] % stride_align[i];
436             }
437         } while (unaligned);
438
439         tmpsize = av_image_fill_pointers(picture.data, s->pix_fmt, h, NULL, picture.linesize);
440         if (tmpsize < 0)
441             return -1;
442
443         for (i=0; i<3 && picture.data[i+1]; i++)
444             size[i] = picture.data[i+1] - picture.data[i];
445         size[i] = tmpsize - (picture.data[i] - picture.data[0]);
446
447         memset(buf->base, 0, sizeof(buf->base));
448         memset(buf->data, 0, sizeof(buf->data));
449
450         for(i=0; i<4 && size[i]; i++){
451             const int h_shift= i==0 ? 0 : h_chroma_shift;
452             const int v_shift= i==0 ? 0 : v_chroma_shift;
453
454             buf->linesize[i]= picture.linesize[i];
455
456             buf->base[i]= av_malloc(size[i]+16); //FIXME 16
457             if(buf->base[i]==NULL) return -1;
458             memset(buf->base[i], 128, size[i]);
459
460             // no edge if EDGE EMU or not planar YUV
461             if((s->flags&CODEC_FLAG_EMU_EDGE) || !size[2])
462                 buf->data[i] = buf->base[i];
463             else
464                 buf->data[i] = buf->base[i] + FFALIGN((buf->linesize[i]*EDGE_WIDTH>>v_shift) + (pixel_size*EDGE_WIDTH>>h_shift), stride_align[i]);
465         }
466         for (; i < AV_NUM_DATA_POINTERS; i++) {
467             buf->base[i] = buf->data[i] = NULL;
468             buf->linesize[i] = 0;
469         }
470         if(size[1] && !size[2])
471             ff_set_systematic_pal2((uint32_t*)buf->data[1], s->pix_fmt);
472         buf->width  = s->width;
473         buf->height = s->height;
474         buf->pix_fmt= s->pix_fmt;
475     }
476     pic->type= FF_BUFFER_TYPE_INTERNAL;
477
478     for (i = 0; i < AV_NUM_DATA_POINTERS; i++) {
479         pic->base[i]= buf->base[i];
480         pic->data[i]= buf->data[i];
481         pic->linesize[i]= buf->linesize[i];
482     }
483     pic->extended_data = pic->data;
484     avci->buffer_count++;
485
486     if(s->pkt) pic->pkt_pts= s->pkt->pts;
487     else       pic->pkt_pts= AV_NOPTS_VALUE;
488     pic->reordered_opaque= s->reordered_opaque;
489
490     if(s->debug&FF_DEBUG_BUFFERS)
491         av_log(s, AV_LOG_DEBUG, "default_get_buffer called on pic %p, %d "
492                "buffers used\n", pic, avci->buffer_count);
493
494     return 0;
495 }
496
497 int avcodec_default_get_buffer(AVCodecContext *avctx, AVFrame *frame)
498 {
499     switch (avctx->codec_type) {
500     case AVMEDIA_TYPE_VIDEO:
501         return video_get_buffer(avctx, frame);
502     case AVMEDIA_TYPE_AUDIO:
503         return audio_get_buffer(avctx, frame);
504     default:
505         return -1;
506     }
507 }
508
509 void avcodec_default_release_buffer(AVCodecContext *s, AVFrame *pic){
510     int i;
511     InternalBuffer *buf, *last;
512     AVCodecInternal *avci = s->internal;
513
514     assert(s->codec_type == AVMEDIA_TYPE_VIDEO);
515
516     assert(pic->type==FF_BUFFER_TYPE_INTERNAL);
517     assert(avci->buffer_count);
518
519     if (avci->buffer) {
520         buf = NULL; /* avoids warning */
521         for (i = 0; i < avci->buffer_count; i++) { //just 3-5 checks so is not worth to optimize
522             buf = &avci->buffer[i];
523             if (buf->data[0] == pic->data[0])
524                 break;
525         }
526         assert(i < avci->buffer_count);
527         avci->buffer_count--;
528         last = &avci->buffer[avci->buffer_count];
529
530         if (buf != last)
531             FFSWAP(InternalBuffer, *buf, *last);
532     }
533
534     for (i = 0; i < AV_NUM_DATA_POINTERS; i++) {
535         pic->data[i]=NULL;
536 //        pic->base[i]=NULL;
537     }
538 //printf("R%X\n", pic->opaque);
539
540     if(s->debug&FF_DEBUG_BUFFERS)
541         av_log(s, AV_LOG_DEBUG, "default_release_buffer called on pic %p, %d "
542                "buffers used\n", pic, avci->buffer_count);
543 }
544
545 int avcodec_default_reget_buffer(AVCodecContext *s, AVFrame *pic){
546     AVFrame temp_pic;
547     int i;
548
549     assert(s->codec_type == AVMEDIA_TYPE_VIDEO);
550
551     /* If no picture return a new buffer */
552     if(pic->data[0] == NULL) {
553         /* We will copy from buffer, so must be readable */
554         pic->buffer_hints |= FF_BUFFER_HINTS_READABLE;
555         return s->get_buffer(s, pic);
556     }
557
558     /* If internal buffer type return the same buffer */
559     if(pic->type == FF_BUFFER_TYPE_INTERNAL) {
560         if(s->pkt) pic->pkt_pts= s->pkt->pts;
561         else       pic->pkt_pts= AV_NOPTS_VALUE;
562         pic->reordered_opaque= s->reordered_opaque;
563         return 0;
564     }
565
566     /*
567      * Not internal type and reget_buffer not overridden, emulate cr buffer
568      */
569     temp_pic = *pic;
570     for(i = 0; i < AV_NUM_DATA_POINTERS; i++)
571         pic->data[i] = pic->base[i] = NULL;
572     pic->opaque = NULL;
573     /* Allocate new frame */
574     if (s->get_buffer(s, pic))
575         return -1;
576     /* Copy image data from old buffer to new buffer */
577     av_picture_copy((AVPicture*)pic, (AVPicture*)&temp_pic, s->pix_fmt, s->width,
578              s->height);
579     s->release_buffer(s, &temp_pic); // Release old frame
580     return 0;
581 }
582
583 int avcodec_default_execute(AVCodecContext *c, int (*func)(AVCodecContext *c2, void *arg2),void *arg, int *ret, int count, int size){
584     int i;
585
586     for(i=0; i<count; i++){
587         int r= func(c, (char*)arg + i*size);
588         if(ret) ret[i]= r;
589     }
590     return 0;
591 }
592
593 int avcodec_default_execute2(AVCodecContext *c, int (*func)(AVCodecContext *c2, void *arg2, int jobnr, int threadnr),void *arg, int *ret, int count){
594     int i;
595
596     for(i=0; i<count; i++){
597         int r= func(c, arg, i, 0);
598         if(ret) ret[i]= r;
599     }
600     return 0;
601 }
602
603 enum PixelFormat avcodec_default_get_format(struct AVCodecContext *s, const enum PixelFormat *fmt){
604     while (*fmt != PIX_FMT_NONE && ff_is_hwaccel_pix_fmt(*fmt))
605         ++fmt;
606     return fmt[0];
607 }
608
609 void avcodec_get_frame_defaults(AVFrame *pic){
610     memset(pic, 0, sizeof(AVFrame));
611
612     pic->pts= AV_NOPTS_VALUE;
613     pic->key_frame= 1;
614     pic->sample_aspect_ratio = (AVRational){0, 1};
615     pic->format = -1;           /* unknown */
616 }
617
618 AVFrame *avcodec_alloc_frame(void){
619     AVFrame *pic= av_malloc(sizeof(AVFrame));
620
621     if(pic==NULL) return NULL;
622
623     avcodec_get_frame_defaults(pic);
624
625     return pic;
626 }
627
628 #if FF_API_AVCODEC_OPEN
629 int attribute_align_arg avcodec_open(AVCodecContext *avctx, AVCodec *codec)
630 {
631     return avcodec_open2(avctx, codec, NULL);
632 }
633 #endif
634
635 int attribute_align_arg avcodec_open2(AVCodecContext *avctx, AVCodec *codec, AVDictionary **options)
636 {
637     int ret = 0;
638     AVDictionary *tmp = NULL;
639
640     if (avctx->extradata_size < 0 || avctx->extradata_size >= FF_MAX_EXTRADATA_SIZE)
641         return AVERROR(EINVAL);
642
643     if (options)
644         av_dict_copy(&tmp, *options, 0);
645
646     /* If there is a user-supplied mutex locking routine, call it. */
647     if (ff_lockmgr_cb) {
648         if ((*ff_lockmgr_cb)(&codec_mutex, AV_LOCK_OBTAIN))
649             return -1;
650     }
651
652     entangled_thread_counter++;
653     if(entangled_thread_counter != 1){
654         av_log(avctx, AV_LOG_ERROR, "insufficient thread locking around avcodec_open/close()\n");
655         ret = -1;
656         goto end;
657     }
658
659     if(avctx->codec || !codec) {
660         ret = AVERROR(EINVAL);
661         goto end;
662     }
663
664     avctx->internal = av_mallocz(sizeof(AVCodecInternal));
665     if (!avctx->internal) {
666         ret = AVERROR(ENOMEM);
667         goto end;
668     }
669
670     if (codec->priv_data_size > 0) {
671       if(!avctx->priv_data){
672         avctx->priv_data = av_mallocz(codec->priv_data_size);
673         if (!avctx->priv_data) {
674             ret = AVERROR(ENOMEM);
675             goto end;
676         }
677         if (codec->priv_class) {
678             *(AVClass**)avctx->priv_data= codec->priv_class;
679             av_opt_set_defaults(avctx->priv_data);
680         }
681       }
682       if (codec->priv_class && (ret = av_opt_set_dict(avctx->priv_data, &tmp)) < 0)
683           goto free_and_end;
684     } else {
685         avctx->priv_data = NULL;
686     }
687     if ((ret = av_opt_set_dict(avctx, &tmp)) < 0)
688         goto free_and_end;
689
690     if(avctx->coded_width && avctx->coded_height)
691         avcodec_set_dimensions(avctx, avctx->coded_width, avctx->coded_height);
692     else if(avctx->width && avctx->height)
693         avcodec_set_dimensions(avctx, avctx->width, avctx->height);
694
695     if ((avctx->coded_width || avctx->coded_height || avctx->width || avctx->height)
696         && (  av_image_check_size(avctx->coded_width, avctx->coded_height, 0, avctx) < 0
697            || av_image_check_size(avctx->width,       avctx->height,       0, avctx) < 0)) {
698         av_log(avctx, AV_LOG_WARNING, "ignoring invalid width/height values\n");
699         avcodec_set_dimensions(avctx, 0, 0);
700     }
701
702     /* if the decoder init function was already called previously,
703        free the already allocated subtitle_header before overwriting it */
704     if (codec_is_decoder(codec))
705         av_freep(&avctx->subtitle_header);
706
707 #define SANE_NB_CHANNELS 128U
708     if (avctx->channels > SANE_NB_CHANNELS) {
709         ret = AVERROR(EINVAL);
710         goto free_and_end;
711     }
712
713     avctx->codec = codec;
714     if ((avctx->codec_type == AVMEDIA_TYPE_UNKNOWN || avctx->codec_type == codec->type) &&
715         avctx->codec_id == CODEC_ID_NONE) {
716         avctx->codec_type = codec->type;
717         avctx->codec_id   = codec->id;
718     }
719     if (avctx->codec_id != codec->id || (avctx->codec_type != codec->type
720                            && avctx->codec_type != AVMEDIA_TYPE_ATTACHMENT)) {
721         av_log(avctx, AV_LOG_ERROR, "codec type or id mismatches\n");
722         ret = AVERROR(EINVAL);
723         goto free_and_end;
724     }
725     avctx->frame_number = 0;
726 #if FF_API_ER
727
728     av_log(avctx, AV_LOG_DEBUG, "err{or,}_recognition separate: %d; %d\n",
729            avctx->error_recognition, avctx->err_recognition);
730     /* FF_ER_CAREFUL (==1) implies AV_EF_CRCCHECK (== 1<<1 - 1),
731        FF_ER_COMPLIANT (==2) implies AV_EF_{CRCCHECK,BITSTREAM} (== 1<<2 - 1), et cetera} */
732     avctx->err_recognition |= (1<<(avctx->error_recognition-(avctx->error_recognition>=FF_ER_VERY_AGGRESSIVE))) - 1;
733     av_log(avctx, AV_LOG_DEBUG, "err{or,}_recognition combined: %d; %d\n",
734            avctx->error_recognition, avctx->err_recognition);
735 #endif
736
737     if (HAVE_THREADS && !avctx->thread_opaque) {
738         ret = ff_thread_init(avctx);
739         if (ret < 0) {
740             goto free_and_end;
741         }
742     }
743     if (!HAVE_THREADS && !(codec->capabilities & CODEC_CAP_AUTO_THREADS))
744         avctx->thread_count = 1;
745
746     if (avctx->codec->max_lowres < avctx->lowres) {
747         av_log(avctx, AV_LOG_ERROR, "The maximum value for lowres supported by the decoder is %d\n",
748                avctx->codec->max_lowres);
749         ret = AVERROR(EINVAL);
750         goto free_and_end;
751     }
752     if (codec_is_encoder(avctx->codec)) {
753         int i;
754         if (avctx->codec->sample_fmts) {
755             for (i = 0; avctx->codec->sample_fmts[i] != AV_SAMPLE_FMT_NONE; i++)
756                 if (avctx->sample_fmt == avctx->codec->sample_fmts[i])
757                     break;
758             if (avctx->codec->sample_fmts[i] == AV_SAMPLE_FMT_NONE) {
759                 av_log(avctx, AV_LOG_ERROR, "Specified sample_fmt is not supported.\n");
760                 ret = AVERROR(EINVAL);
761                 goto free_and_end;
762             }
763         }
764         if (avctx->codec->supported_samplerates) {
765             for (i = 0; avctx->codec->supported_samplerates[i] != 0; i++)
766                 if (avctx->sample_rate == avctx->codec->supported_samplerates[i])
767                     break;
768             if (avctx->codec->supported_samplerates[i] == 0) {
769                 av_log(avctx, AV_LOG_ERROR, "Specified sample_rate is not supported\n");
770                 ret = AVERROR(EINVAL);
771                 goto free_and_end;
772             }
773         }
774         if (avctx->codec->channel_layouts) {
775             if (!avctx->channel_layout) {
776                 av_log(avctx, AV_LOG_WARNING, "channel_layout not specified\n");
777             } else {
778                 for (i = 0; avctx->codec->channel_layouts[i] != 0; i++)
779                     if (avctx->channel_layout == avctx->codec->channel_layouts[i])
780                         break;
781                 if (avctx->codec->channel_layouts[i] == 0) {
782                     av_log(avctx, AV_LOG_ERROR, "Specified channel_layout is not supported\n");
783                     ret = AVERROR(EINVAL);
784                     goto free_and_end;
785                 }
786             }
787         }
788         if (avctx->channel_layout && avctx->channels) {
789             if (av_get_channel_layout_nb_channels(avctx->channel_layout) != avctx->channels) {
790                 av_log(avctx, AV_LOG_ERROR, "channel layout does not match number of channels\n");
791                 ret = AVERROR(EINVAL);
792                 goto free_and_end;
793             }
794         } else if (avctx->channel_layout) {
795             avctx->channels = av_get_channel_layout_nb_channels(avctx->channel_layout);
796         }
797     }
798
799     if(avctx->codec->init && !(avctx->active_thread_type&FF_THREAD_FRAME)){
800         ret = avctx->codec->init(avctx);
801         if (ret < 0) {
802             goto free_and_end;
803         }
804     }
805 end:
806     entangled_thread_counter--;
807
808     /* Release any user-supplied mutex. */
809     if (ff_lockmgr_cb) {
810         (*ff_lockmgr_cb)(&codec_mutex, AV_LOCK_RELEASE);
811     }
812     if (options) {
813         av_dict_free(options);
814         *options = tmp;
815     }
816
817     return ret;
818 free_and_end:
819     av_dict_free(&tmp);
820     av_freep(&avctx->priv_data);
821     av_freep(&avctx->internal);
822     avctx->codec= NULL;
823     goto end;
824 }
825
826 int ff_alloc_packet(AVPacket *avpkt, int size)
827 {
828     if (size > INT_MAX - FF_INPUT_BUFFER_PADDING_SIZE)
829         return AVERROR(EINVAL);
830
831     if (avpkt->data) {
832         uint8_t *pkt_data;
833         int pkt_size;
834
835         if (avpkt->size < size)
836             return AVERROR(EINVAL);
837
838         pkt_data = avpkt->data;
839         pkt_size = avpkt->size;
840         av_init_packet(avpkt);
841         avpkt->data = pkt_data;
842         avpkt->size = pkt_size;
843         return 0;
844     } else {
845         return av_new_packet(avpkt, size);
846     }
847 }
848
849 int attribute_align_arg avcodec_encode_audio2(AVCodecContext *avctx,
850                                               AVPacket *avpkt,
851                                               const AVFrame *frame,
852                                               int *got_packet_ptr)
853 {
854     int ret;
855     int user_packet = !!avpkt->data;
856     int nb_samples;
857
858     if (!(avctx->codec->capabilities & CODEC_CAP_DELAY) && !frame) {
859         av_init_packet(avpkt);
860         avpkt->size = 0;
861         return 0;
862     }
863
864     /* check for valid frame size */
865     if (frame) {
866         nb_samples = frame->nb_samples;
867         if (avctx->codec->capabilities & CODEC_CAP_SMALL_LAST_FRAME) {
868             if (nb_samples > avctx->frame_size)
869                 return AVERROR(EINVAL);
870         } else if (!(avctx->codec->capabilities & CODEC_CAP_VARIABLE_FRAME_SIZE)) {
871             if (nb_samples != avctx->frame_size)
872                 return AVERROR(EINVAL);
873         }
874     } else {
875         nb_samples = avctx->frame_size;
876     }
877
878     if (avctx->codec->encode2) {
879         *got_packet_ptr = 0;
880         ret = avctx->codec->encode2(avctx, avpkt, frame, got_packet_ptr);
881         if (!ret && *got_packet_ptr &&
882             !(avctx->codec->capabilities & CODEC_CAP_DELAY)) {
883             avpkt->pts = frame->pts;
884             avpkt->duration = av_rescale_q(frame->nb_samples,
885                                            (AVRational){ 1, avctx->sample_rate },
886                                            avctx->time_base);
887         }
888     } else {
889         /* for compatibility with encoders not supporting encode2(), we need to
890            allocate a packet buffer if the user has not provided one or check
891            the size otherwise */
892         int fs_tmp   = 0;
893         int buf_size = avpkt->size;
894         if (!user_packet) {
895             if (avctx->codec->capabilities & CODEC_CAP_VARIABLE_FRAME_SIZE) {
896                 av_assert0(av_get_bits_per_sample(avctx->codec_id) != 0);
897                 buf_size = nb_samples * avctx->channels *
898                            av_get_bits_per_sample(avctx->codec_id) / 8;
899             } else {
900                 /* this is a guess as to the required size.
901                    if an encoder needs more than this, it should probably
902                    implement encode2() */
903                 buf_size = 2 * avctx->frame_size * avctx->channels *
904                            av_get_bytes_per_sample(avctx->sample_fmt);
905                 buf_size += FF_MIN_BUFFER_SIZE;
906             }
907         }
908         if ((ret = ff_alloc_packet(avpkt, buf_size)))
909             return ret;
910
911         /* Encoders using AVCodec.encode() that support
912            CODEC_CAP_SMALL_LAST_FRAME require avctx->frame_size to be set to
913            the smaller size when encoding the last frame.
914            This code can be removed once all encoders supporting
915            CODEC_CAP_SMALL_LAST_FRAME use encode2() */
916         if ((avctx->codec->capabilities & CODEC_CAP_SMALL_LAST_FRAME) &&
917             nb_samples < avctx->frame_size) {
918             fs_tmp = avctx->frame_size;
919             avctx->frame_size = nb_samples;
920         }
921
922         /* encode the frame */
923         ret = avctx->codec->encode(avctx, avpkt->data, avpkt->size,
924                                    frame ? frame->data[0] : NULL);
925         if (ret >= 0) {
926             if (!ret) {
927                 /* no output. if the packet data was allocated by libavcodec,
928                    free it */
929                 if (!user_packet)
930                     av_freep(&avpkt->data);
931             } else {
932                 if (avctx->coded_frame)
933                     avpkt->pts = avctx->coded_frame->pts;
934                 /* Set duration for final small packet. This can be removed
935                    once all encoders supporting CODEC_CAP_SMALL_LAST_FRAME use
936                    encode2() */
937                 if (fs_tmp) {
938                     avpkt->duration = av_rescale_q(avctx->frame_size,
939                                                    (AVRational){ 1, avctx->sample_rate },
940                                                    avctx->time_base);
941                 }
942             }
943             avpkt->size = ret;
944             *got_packet_ptr = (ret > 0);
945             ret = 0;
946         }
947
948         if (fs_tmp)
949             avctx->frame_size = fs_tmp;
950     }
951     if (!ret)
952         avctx->frame_number++;
953
954     /* NOTE: if we add any audio encoders which output non-keyframe packets,
955              this needs to be moved to the encoders, but for now we can do it
956              here to simplify things */
957     avpkt->flags |= AV_PKT_FLAG_KEY;
958
959     return ret;
960 }
961
962 #if FF_API_OLD_DECODE_AUDIO
963 int attribute_align_arg avcodec_encode_audio(AVCodecContext *avctx,
964                                              uint8_t *buf, int buf_size,
965                                              const short *samples)
966 {
967     AVPacket pkt;
968     AVFrame frame0;
969     AVFrame *frame;
970     int ret, samples_size, got_packet;
971
972     av_init_packet(&pkt);
973     pkt.data = buf;
974     pkt.size = buf_size;
975
976     if (samples) {
977         frame = &frame0;
978         avcodec_get_frame_defaults(frame);
979
980         if (avctx->frame_size) {
981             frame->nb_samples = avctx->frame_size;
982         } else {
983             /* if frame_size is not set, the number of samples must be
984                calculated from the buffer size */
985             int64_t nb_samples;
986             if (!av_get_bits_per_sample(avctx->codec_id)) {
987                 av_log(avctx, AV_LOG_ERROR, "avcodec_encode_audio() does not "
988                        "support this codec\n");
989                 return AVERROR(EINVAL);
990             }
991             nb_samples = (int64_t)buf_size * 8 /
992                          (av_get_bits_per_sample(avctx->codec_id) *
993                          avctx->channels);
994             if (nb_samples >= INT_MAX)
995                 return AVERROR(EINVAL);
996             frame->nb_samples = nb_samples;
997         }
998
999         /* it is assumed that the samples buffer is large enough based on the
1000            relevant parameters */
1001         samples_size = av_samples_get_buffer_size(NULL, avctx->channels,
1002                                                   frame->nb_samples,
1003                                                   avctx->sample_fmt, 1);
1004         if ((ret = avcodec_fill_audio_frame(frame, avctx->channels,
1005                                             avctx->sample_fmt,
1006                                             samples, samples_size, 1)))
1007             return ret;
1008
1009         /* fabricate frame pts from sample count.
1010            this is needed because the avcodec_encode_audio() API does not have
1011            a way for the user to provide pts */
1012         frame->pts = av_rescale_q(avctx->internal->sample_count,
1013                                   (AVRational){ 1, avctx->sample_rate },
1014                                   avctx->time_base);
1015         avctx->internal->sample_count += frame->nb_samples;
1016     } else {
1017         frame = NULL;
1018     }
1019
1020     got_packet = 0;
1021     ret = avcodec_encode_audio2(avctx, &pkt, frame, &got_packet);
1022     if (!ret && got_packet && avctx->coded_frame) {
1023         avctx->coded_frame->pts       = pkt.pts;
1024         avctx->coded_frame->key_frame = !!(pkt.flags & AV_PKT_FLAG_KEY);
1025     }
1026     /* free any side data since we cannot return it */
1027     if (pkt.side_data_elems > 0) {
1028         int i;
1029         for (i = 0; i < pkt.side_data_elems; i++)
1030             av_free(pkt.side_data[i].data);
1031         av_freep(&pkt.side_data);
1032         pkt.side_data_elems = 0;
1033     }
1034
1035     if (frame && frame->extended_data != frame->data)
1036         av_free(frame->extended_data);
1037
1038     return ret ? ret : pkt.size;
1039 }
1040 #endif
1041
1042 int attribute_align_arg avcodec_encode_video(AVCodecContext *avctx, uint8_t *buf, int buf_size,
1043                          const AVFrame *pict)
1044 {
1045     if(buf_size < FF_MIN_BUFFER_SIZE){
1046         av_log(avctx, AV_LOG_ERROR, "buffer smaller than minimum size\n");
1047         return -1;
1048     }
1049     if(av_image_check_size(avctx->width, avctx->height, 0, avctx))
1050         return -1;
1051     if((avctx->codec->capabilities & CODEC_CAP_DELAY) || pict){
1052         int ret = avctx->codec->encode(avctx, buf, buf_size, pict);
1053         avctx->frame_number++;
1054         emms_c(); //needed to avoid an emms_c() call before every return;
1055
1056         return ret;
1057     }else
1058         return 0;
1059 }
1060
1061 int avcodec_encode_subtitle(AVCodecContext *avctx, uint8_t *buf, int buf_size,
1062                             const AVSubtitle *sub)
1063 {
1064     int ret;
1065     if(sub->start_display_time) {
1066         av_log(avctx, AV_LOG_ERROR, "start_display_time must be 0.\n");
1067         return -1;
1068     }
1069     if(sub->num_rects == 0 || !sub->rects)
1070         return -1;
1071     ret = avctx->codec->encode(avctx, buf, buf_size, sub);
1072     avctx->frame_number++;
1073     return ret;
1074 }
1075
1076 static void apply_param_change(AVCodecContext *avctx, AVPacket *avpkt)
1077 {
1078     int size = 0;
1079     const uint8_t *data;
1080     uint32_t flags;
1081
1082     if (!(avctx->codec->capabilities & CODEC_CAP_PARAM_CHANGE))
1083         return;
1084
1085     data = av_packet_get_side_data(avpkt, AV_PKT_DATA_PARAM_CHANGE, &size);
1086     if (!data || size < 4)
1087         return;
1088     flags = bytestream_get_le32(&data);
1089     size -= 4;
1090     if (size < 4) /* Required for any of the changes */
1091         return;
1092     if (flags & AV_SIDE_DATA_PARAM_CHANGE_CHANNEL_COUNT) {
1093         avctx->channels = bytestream_get_le32(&data);
1094         size -= 4;
1095     }
1096     if (flags & AV_SIDE_DATA_PARAM_CHANGE_CHANNEL_LAYOUT) {
1097         if (size < 8)
1098             return;
1099         avctx->channel_layout = bytestream_get_le64(&data);
1100         size -= 8;
1101     }
1102     if (size < 4)
1103         return;
1104     if (flags & AV_SIDE_DATA_PARAM_CHANGE_SAMPLE_RATE) {
1105         avctx->sample_rate = bytestream_get_le32(&data);
1106         size -= 4;
1107     }
1108     if (flags & AV_SIDE_DATA_PARAM_CHANGE_DIMENSIONS) {
1109         if (size < 8)
1110             return;
1111         avctx->width  = bytestream_get_le32(&data);
1112         avctx->height = bytestream_get_le32(&data);
1113         avcodec_set_dimensions(avctx, avctx->width, avctx->height);
1114         size -= 8;
1115     }
1116 }
1117
1118 int attribute_align_arg avcodec_decode_video2(AVCodecContext *avctx, AVFrame *picture,
1119                          int *got_picture_ptr,
1120                          AVPacket *avpkt)
1121 {
1122     int ret;
1123
1124     *got_picture_ptr= 0;
1125     if((avctx->coded_width||avctx->coded_height) && av_image_check_size(avctx->coded_width, avctx->coded_height, 0, avctx))
1126         return -1;
1127
1128     avctx->pkt = avpkt;
1129     apply_param_change(avctx, avpkt);
1130
1131     if((avctx->codec->capabilities & CODEC_CAP_DELAY) || avpkt->size || (avctx->active_thread_type&FF_THREAD_FRAME)){
1132         if (HAVE_THREADS && avctx->active_thread_type&FF_THREAD_FRAME)
1133              ret = ff_thread_decode_frame(avctx, picture, got_picture_ptr,
1134                                           avpkt);
1135         else {
1136             ret = avctx->codec->decode(avctx, picture, got_picture_ptr,
1137                               avpkt);
1138             picture->pkt_dts= avpkt->dts;
1139             picture->sample_aspect_ratio = avctx->sample_aspect_ratio;
1140             picture->width  = avctx->width;
1141             picture->height = avctx->height;
1142             picture->format = avctx->pix_fmt;
1143         }
1144
1145         emms_c(); //needed to avoid an emms_c() call before every return;
1146
1147         if (*got_picture_ptr)
1148             avctx->frame_number++;
1149     }else
1150         ret= 0;
1151
1152     return ret;
1153 }
1154
1155 #if FF_API_OLD_DECODE_AUDIO
1156 int attribute_align_arg avcodec_decode_audio3(AVCodecContext *avctx, int16_t *samples,
1157                          int *frame_size_ptr,
1158                          AVPacket *avpkt)
1159 {
1160     AVFrame frame;
1161     int ret, got_frame = 0;
1162
1163     if (avctx->get_buffer != avcodec_default_get_buffer) {
1164         av_log(avctx, AV_LOG_ERROR, "Custom get_buffer() for use with"
1165                "avcodec_decode_audio3() detected. Overriding with avcodec_default_get_buffer\n");
1166         av_log(avctx, AV_LOG_ERROR, "Please port your application to "
1167                "avcodec_decode_audio4()\n");
1168         avctx->get_buffer = avcodec_default_get_buffer;
1169     }
1170
1171     ret = avcodec_decode_audio4(avctx, &frame, &got_frame, avpkt);
1172
1173     if (ret >= 0 && got_frame) {
1174         int ch, plane_size;
1175         int planar = av_sample_fmt_is_planar(avctx->sample_fmt);
1176         int data_size = av_samples_get_buffer_size(&plane_size, avctx->channels,
1177                                                    frame.nb_samples,
1178                                                    avctx->sample_fmt, 1);
1179         if (*frame_size_ptr < data_size) {
1180             av_log(avctx, AV_LOG_ERROR, "output buffer size is too small for "
1181                    "the current frame (%d < %d)\n", *frame_size_ptr, data_size);
1182             return AVERROR(EINVAL);
1183         }
1184
1185         memcpy(samples, frame.extended_data[0], plane_size);
1186
1187         if (planar && avctx->channels > 1) {
1188             uint8_t *out = ((uint8_t *)samples) + plane_size;
1189             for (ch = 1; ch < avctx->channels; ch++) {
1190                 memcpy(out, frame.extended_data[ch], plane_size);
1191                 out += plane_size;
1192             }
1193         }
1194         *frame_size_ptr = data_size;
1195     } else {
1196         *frame_size_ptr = 0;
1197     }
1198     return ret;
1199 }
1200 #endif
1201
1202 int attribute_align_arg avcodec_decode_audio4(AVCodecContext *avctx,
1203                                               AVFrame *frame,
1204                                               int *got_frame_ptr,
1205                                               AVPacket *avpkt)
1206 {
1207     int ret = 0;
1208
1209     *got_frame_ptr = 0;
1210
1211     avctx->pkt = avpkt;
1212
1213     if (!avpkt->data && avpkt->size) {
1214         av_log(avctx, AV_LOG_ERROR, "invalid packet: NULL data, size != 0\n");
1215         return AVERROR(EINVAL);
1216     }
1217
1218     apply_param_change(avctx, avpkt);
1219
1220     if ((avctx->codec->capabilities & CODEC_CAP_DELAY) || avpkt->size) {
1221         ret = avctx->codec->decode(avctx, frame, got_frame_ptr, avpkt);
1222         if (ret >= 0 && *got_frame_ptr) {
1223             avctx->frame_number++;
1224             frame->pkt_dts = avpkt->dts;
1225             if (frame->format == AV_SAMPLE_FMT_NONE)
1226                 frame->format = avctx->sample_fmt;
1227         }
1228     }
1229     return ret;
1230 }
1231
1232 int avcodec_decode_subtitle2(AVCodecContext *avctx, AVSubtitle *sub,
1233                             int *got_sub_ptr,
1234                             AVPacket *avpkt)
1235 {
1236     int ret;
1237
1238     avctx->pkt = avpkt;
1239     *got_sub_ptr = 0;
1240     ret = avctx->codec->decode(avctx, sub, got_sub_ptr, avpkt);
1241     if (*got_sub_ptr)
1242         avctx->frame_number++;
1243     return ret;
1244 }
1245
1246 void avsubtitle_free(AVSubtitle *sub)
1247 {
1248     int i;
1249
1250     for (i = 0; i < sub->num_rects; i++)
1251     {
1252         av_freep(&sub->rects[i]->pict.data[0]);
1253         av_freep(&sub->rects[i]->pict.data[1]);
1254         av_freep(&sub->rects[i]->pict.data[2]);
1255         av_freep(&sub->rects[i]->pict.data[3]);
1256         av_freep(&sub->rects[i]->text);
1257         av_freep(&sub->rects[i]->ass);
1258         av_freep(&sub->rects[i]);
1259     }
1260
1261     av_freep(&sub->rects);
1262
1263     memset(sub, 0, sizeof(AVSubtitle));
1264 }
1265
1266 av_cold int avcodec_close(AVCodecContext *avctx)
1267 {
1268     /* If there is a user-supplied mutex locking routine, call it. */
1269     if (ff_lockmgr_cb) {
1270         if ((*ff_lockmgr_cb)(&codec_mutex, AV_LOCK_OBTAIN))
1271             return -1;
1272     }
1273
1274     entangled_thread_counter++;
1275     if(entangled_thread_counter != 1){
1276         av_log(avctx, AV_LOG_ERROR, "insufficient thread locking around avcodec_open/close()\n");
1277         entangled_thread_counter--;
1278         return -1;
1279     }
1280
1281     if (HAVE_THREADS && avctx->thread_opaque)
1282         ff_thread_free(avctx);
1283     if (avctx->codec && avctx->codec->close)
1284         avctx->codec->close(avctx);
1285     avcodec_default_free_buffers(avctx);
1286     avctx->coded_frame = NULL;
1287     av_freep(&avctx->internal);
1288     if (avctx->codec && avctx->codec->priv_class)
1289         av_opt_free(avctx->priv_data);
1290     av_opt_free(avctx);
1291     av_freep(&avctx->priv_data);
1292     if (codec_is_encoder(avctx->codec))
1293         av_freep(&avctx->extradata);
1294     avctx->codec = NULL;
1295     avctx->active_thread_type = 0;
1296     entangled_thread_counter--;
1297
1298     /* Release any user-supplied mutex. */
1299     if (ff_lockmgr_cb) {
1300         (*ff_lockmgr_cb)(&codec_mutex, AV_LOCK_RELEASE);
1301     }
1302     return 0;
1303 }
1304
1305 AVCodec *avcodec_find_encoder(enum CodecID id)
1306 {
1307     AVCodec *p, *experimental=NULL;
1308     p = first_avcodec;
1309     while (p) {
1310         if (codec_is_encoder(p) && p->id == id) {
1311             if (p->capabilities & CODEC_CAP_EXPERIMENTAL && !experimental) {
1312                 experimental = p;
1313             } else
1314                 return p;
1315         }
1316         p = p->next;
1317     }
1318     return experimental;
1319 }
1320
1321 AVCodec *avcodec_find_encoder_by_name(const char *name)
1322 {
1323     AVCodec *p;
1324     if (!name)
1325         return NULL;
1326     p = first_avcodec;
1327     while (p) {
1328         if (codec_is_encoder(p) && strcmp(name,p->name) == 0)
1329             return p;
1330         p = p->next;
1331     }
1332     return NULL;
1333 }
1334
1335 AVCodec *avcodec_find_decoder(enum CodecID id)
1336 {
1337     AVCodec *p;
1338     p = first_avcodec;
1339     while (p) {
1340         if (codec_is_decoder(p) && p->id == id)
1341             return p;
1342         p = p->next;
1343     }
1344     return NULL;
1345 }
1346
1347 AVCodec *avcodec_find_decoder_by_name(const char *name)
1348 {
1349     AVCodec *p;
1350     if (!name)
1351         return NULL;
1352     p = first_avcodec;
1353     while (p) {
1354         if (codec_is_decoder(p) && strcmp(name,p->name) == 0)
1355             return p;
1356         p = p->next;
1357     }
1358     return NULL;
1359 }
1360
1361 static int get_bit_rate(AVCodecContext *ctx)
1362 {
1363     int bit_rate;
1364     int bits_per_sample;
1365
1366     switch(ctx->codec_type) {
1367     case AVMEDIA_TYPE_VIDEO:
1368     case AVMEDIA_TYPE_DATA:
1369     case AVMEDIA_TYPE_SUBTITLE:
1370     case AVMEDIA_TYPE_ATTACHMENT:
1371         bit_rate = ctx->bit_rate;
1372         break;
1373     case AVMEDIA_TYPE_AUDIO:
1374         bits_per_sample = av_get_bits_per_sample(ctx->codec_id);
1375         bit_rate = bits_per_sample ? ctx->sample_rate * ctx->channels * bits_per_sample : ctx->bit_rate;
1376         break;
1377     default:
1378         bit_rate = 0;
1379         break;
1380     }
1381     return bit_rate;
1382 }
1383
1384 size_t av_get_codec_tag_string(char *buf, size_t buf_size, unsigned int codec_tag)
1385 {
1386     int i, len, ret = 0;
1387
1388     for (i = 0; i < 4; i++) {
1389         len = snprintf(buf, buf_size,
1390                        isprint(codec_tag&0xFF) ? "%c" : "[%d]", codec_tag&0xFF);
1391         buf      += len;
1392         buf_size  = buf_size > len ? buf_size - len : 0;
1393         ret      += len;
1394         codec_tag>>=8;
1395     }
1396     return ret;
1397 }
1398
1399 void avcodec_string(char *buf, int buf_size, AVCodecContext *enc, int encode)
1400 {
1401     const char *codec_name;
1402     const char *profile = NULL;
1403     AVCodec *p;
1404     char buf1[32];
1405     int bitrate;
1406     AVRational display_aspect_ratio;
1407
1408     if (encode)
1409         p = avcodec_find_encoder(enc->codec_id);
1410     else
1411         p = avcodec_find_decoder(enc->codec_id);
1412
1413     if (p) {
1414         codec_name = p->name;
1415         profile = av_get_profile_name(p, enc->profile);
1416     } else if (enc->codec_id == CODEC_ID_MPEG2TS) {
1417         /* fake mpeg2 transport stream codec (currently not
1418            registered) */
1419         codec_name = "mpeg2ts";
1420     } else if (enc->codec_name[0] != '\0') {
1421         codec_name = enc->codec_name;
1422     } else {
1423         /* output avi tags */
1424         char tag_buf[32];
1425         av_get_codec_tag_string(tag_buf, sizeof(tag_buf), enc->codec_tag);
1426         snprintf(buf1, sizeof(buf1), "%s / 0x%04X", tag_buf, enc->codec_tag);
1427         codec_name = buf1;
1428     }
1429
1430     switch(enc->codec_type) {
1431     case AVMEDIA_TYPE_VIDEO:
1432         snprintf(buf, buf_size,
1433                  "Video: %s%s",
1434                  codec_name, enc->mb_decision ? " (hq)" : "");
1435         if (profile)
1436             snprintf(buf + strlen(buf), buf_size - strlen(buf),
1437                      " (%s)", profile);
1438         if (enc->pix_fmt != PIX_FMT_NONE) {
1439             snprintf(buf + strlen(buf), buf_size - strlen(buf),
1440                      ", %s",
1441                      av_get_pix_fmt_name(enc->pix_fmt));
1442         }
1443         if (enc->width) {
1444             snprintf(buf + strlen(buf), buf_size - strlen(buf),
1445                      ", %dx%d",
1446                      enc->width, enc->height);
1447             if (enc->sample_aspect_ratio.num) {
1448                 av_reduce(&display_aspect_ratio.num, &display_aspect_ratio.den,
1449                           enc->width*enc->sample_aspect_ratio.num,
1450                           enc->height*enc->sample_aspect_ratio.den,
1451                           1024*1024);
1452                 snprintf(buf + strlen(buf), buf_size - strlen(buf),
1453                          " [PAR %d:%d DAR %d:%d]",
1454                          enc->sample_aspect_ratio.num, enc->sample_aspect_ratio.den,
1455                          display_aspect_ratio.num, display_aspect_ratio.den);
1456             }
1457             if(av_log_get_level() >= AV_LOG_DEBUG){
1458                 int g= av_gcd(enc->time_base.num, enc->time_base.den);
1459                 snprintf(buf + strlen(buf), buf_size - strlen(buf),
1460                      ", %d/%d",
1461                      enc->time_base.num/g, enc->time_base.den/g);
1462             }
1463         }
1464         if (encode) {
1465             snprintf(buf + strlen(buf), buf_size - strlen(buf),
1466                      ", q=%d-%d", enc->qmin, enc->qmax);
1467         }
1468         break;
1469     case AVMEDIA_TYPE_AUDIO:
1470         snprintf(buf, buf_size,
1471                  "Audio: %s",
1472                  codec_name);
1473         if (profile)
1474             snprintf(buf + strlen(buf), buf_size - strlen(buf),
1475                      " (%s)", profile);
1476         if (enc->sample_rate) {
1477             snprintf(buf + strlen(buf), buf_size - strlen(buf),
1478                      ", %d Hz", enc->sample_rate);
1479         }
1480         av_strlcat(buf, ", ", buf_size);
1481         av_get_channel_layout_string(buf + strlen(buf), buf_size - strlen(buf), enc->channels, enc->channel_layout);
1482         if (enc->sample_fmt != AV_SAMPLE_FMT_NONE) {
1483             snprintf(buf + strlen(buf), buf_size - strlen(buf),
1484                      ", %s", av_get_sample_fmt_name(enc->sample_fmt));
1485         }
1486         break;
1487     case AVMEDIA_TYPE_DATA:
1488         snprintf(buf, buf_size, "Data: %s", codec_name);
1489         break;
1490     case AVMEDIA_TYPE_SUBTITLE:
1491         snprintf(buf, buf_size, "Subtitle: %s", codec_name);
1492         break;
1493     case AVMEDIA_TYPE_ATTACHMENT:
1494         snprintf(buf, buf_size, "Attachment: %s", codec_name);
1495         break;
1496     default:
1497         snprintf(buf, buf_size, "Invalid Codec type %d", enc->codec_type);
1498         return;
1499     }
1500     if (encode) {
1501         if (enc->flags & CODEC_FLAG_PASS1)
1502             snprintf(buf + strlen(buf), buf_size - strlen(buf),
1503                      ", pass 1");
1504         if (enc->flags & CODEC_FLAG_PASS2)
1505             snprintf(buf + strlen(buf), buf_size - strlen(buf),
1506                      ", pass 2");
1507     }
1508     bitrate = get_bit_rate(enc);
1509     if (bitrate != 0) {
1510         snprintf(buf + strlen(buf), buf_size - strlen(buf),
1511                  ", %d kb/s", bitrate / 1000);
1512     }
1513 }
1514
1515 const char *av_get_profile_name(const AVCodec *codec, int profile)
1516 {
1517     const AVProfile *p;
1518     if (profile == FF_PROFILE_UNKNOWN || !codec->profiles)
1519         return NULL;
1520
1521     for (p = codec->profiles; p->profile != FF_PROFILE_UNKNOWN; p++)
1522         if (p->profile == profile)
1523             return p->name;
1524
1525     return NULL;
1526 }
1527
1528 unsigned avcodec_version( void )
1529 {
1530   return LIBAVCODEC_VERSION_INT;
1531 }
1532
1533 const char *avcodec_configuration(void)
1534 {
1535     return LIBAV_CONFIGURATION;
1536 }
1537
1538 const char *avcodec_license(void)
1539 {
1540 #define LICENSE_PREFIX "libavcodec license: "
1541     return LICENSE_PREFIX LIBAV_LICENSE + sizeof(LICENSE_PREFIX) - 1;
1542 }
1543
1544 void avcodec_flush_buffers(AVCodecContext *avctx)
1545 {
1546     if(HAVE_THREADS && avctx->active_thread_type&FF_THREAD_FRAME)
1547         ff_thread_flush(avctx);
1548     else if(avctx->codec->flush)
1549         avctx->codec->flush(avctx);
1550 }
1551
1552 static void video_free_buffers(AVCodecContext *s)
1553 {
1554     AVCodecInternal *avci = s->internal;
1555     int i, j;
1556
1557     if (!avci->buffer)
1558         return;
1559
1560     if (avci->buffer_count)
1561         av_log(s, AV_LOG_WARNING, "Found %i unreleased buffers!\n",
1562                avci->buffer_count);
1563     for(i=0; i<INTERNAL_BUFFER_SIZE; i++){
1564         InternalBuffer *buf = &avci->buffer[i];
1565         for(j=0; j<4; j++){
1566             av_freep(&buf->base[j]);
1567             buf->data[j]= NULL;
1568         }
1569     }
1570     av_freep(&avci->buffer);
1571
1572     avci->buffer_count=0;
1573 }
1574
1575 static void audio_free_buffers(AVCodecContext *avctx)
1576 {
1577     AVCodecInternal *avci = avctx->internal;
1578     InternalBuffer *buf;
1579
1580     if (!avci->buffer)
1581         return;
1582     buf = avci->buffer;
1583
1584     if (buf->extended_data) {
1585         av_free(buf->extended_data[0]);
1586         if (buf->extended_data != buf->data)
1587             av_free(buf->extended_data);
1588     }
1589     av_freep(&avci->buffer);
1590 }
1591
1592 void avcodec_default_free_buffers(AVCodecContext *avctx)
1593 {
1594     switch (avctx->codec_type) {
1595     case AVMEDIA_TYPE_VIDEO:
1596         video_free_buffers(avctx);
1597         break;
1598     case AVMEDIA_TYPE_AUDIO:
1599         audio_free_buffers(avctx);
1600         break;
1601     default:
1602         break;
1603     }
1604 }
1605
1606 #if FF_API_OLD_FF_PICT_TYPES
1607 char av_get_pict_type_char(int pict_type){
1608     return av_get_picture_type_char(pict_type);
1609 }
1610 #endif
1611
1612 int av_get_bits_per_sample(enum CodecID codec_id){
1613     switch(codec_id){
1614     case CODEC_ID_ADPCM_SBPRO_2:
1615         return 2;
1616     case CODEC_ID_ADPCM_SBPRO_3:
1617         return 3;
1618     case CODEC_ID_ADPCM_SBPRO_4:
1619     case CODEC_ID_ADPCM_CT:
1620     case CODEC_ID_ADPCM_IMA_APC:
1621     case CODEC_ID_ADPCM_IMA_WAV:
1622     case CODEC_ID_ADPCM_IMA_QT:
1623     case CODEC_ID_ADPCM_SWF:
1624     case CODEC_ID_ADPCM_MS:
1625     case CODEC_ID_ADPCM_YAMAHA:
1626     case CODEC_ID_ADPCM_G722:
1627         return 4;
1628     case CODEC_ID_PCM_ALAW:
1629     case CODEC_ID_PCM_MULAW:
1630     case CODEC_ID_PCM_S8:
1631     case CODEC_ID_PCM_U8:
1632     case CODEC_ID_PCM_ZORK:
1633         return 8;
1634     case CODEC_ID_PCM_S16BE:
1635     case CODEC_ID_PCM_S16LE:
1636     case CODEC_ID_PCM_S16LE_PLANAR:
1637     case CODEC_ID_PCM_U16BE:
1638     case CODEC_ID_PCM_U16LE:
1639         return 16;
1640     case CODEC_ID_PCM_S24DAUD:
1641     case CODEC_ID_PCM_S24BE:
1642     case CODEC_ID_PCM_S24LE:
1643     case CODEC_ID_PCM_U24BE:
1644     case CODEC_ID_PCM_U24LE:
1645         return 24;
1646     case CODEC_ID_PCM_S32BE:
1647     case CODEC_ID_PCM_S32LE:
1648     case CODEC_ID_PCM_U32BE:
1649     case CODEC_ID_PCM_U32LE:
1650     case CODEC_ID_PCM_F32BE:
1651     case CODEC_ID_PCM_F32LE:
1652         return 32;
1653     case CODEC_ID_PCM_F64BE:
1654     case CODEC_ID_PCM_F64LE:
1655         return 64;
1656     default:
1657         return 0;
1658     }
1659 }
1660
1661 #if !HAVE_THREADS
1662 int ff_thread_init(AVCodecContext *s){
1663     return -1;
1664 }
1665 #endif
1666
1667 unsigned int av_xiphlacing(unsigned char *s, unsigned int v)
1668 {
1669     unsigned int n = 0;
1670
1671     while(v >= 0xff) {
1672         *s++ = 0xff;
1673         v -= 0xff;
1674         n++;
1675     }
1676     *s = v;
1677     n++;
1678     return n;
1679 }
1680
1681 int ff_match_2uint16(const uint16_t (*tab)[2], int size, int a, int b){
1682     int i;
1683     for(i=0; i<size && !(tab[i][0]==a && tab[i][1]==b); i++);
1684     return i;
1685 }
1686
1687 void av_log_missing_feature(void *avc, const char *feature, int want_sample)
1688 {
1689     av_log(avc, AV_LOG_WARNING, "%s not implemented. Update your Libav "
1690             "version to the newest one from Git. If the problem still "
1691             "occurs, it means that your file has a feature which has not "
1692             "been implemented.\n", feature);
1693     if(want_sample)
1694         av_log_ask_for_sample(avc, NULL);
1695 }
1696
1697 void av_log_ask_for_sample(void *avc, const char *msg, ...)
1698 {
1699     va_list argument_list;
1700
1701     va_start(argument_list, msg);
1702
1703     if (msg)
1704         av_vlog(avc, AV_LOG_WARNING, msg, argument_list);
1705     av_log(avc, AV_LOG_WARNING, "If you want to help, upload a sample "
1706             "of this file to ftp://upload.libav.org/incoming/ "
1707             "and contact the libav-devel mailing list.\n");
1708
1709     va_end(argument_list);
1710 }
1711
1712 static AVHWAccel *first_hwaccel = NULL;
1713
1714 void av_register_hwaccel(AVHWAccel *hwaccel)
1715 {
1716     AVHWAccel **p = &first_hwaccel;
1717     while (*p)
1718         p = &(*p)->next;
1719     *p = hwaccel;
1720     hwaccel->next = NULL;
1721 }
1722
1723 AVHWAccel *av_hwaccel_next(AVHWAccel *hwaccel)
1724 {
1725     return hwaccel ? hwaccel->next : first_hwaccel;
1726 }
1727
1728 AVHWAccel *ff_find_hwaccel(enum CodecID codec_id, enum PixelFormat pix_fmt)
1729 {
1730     AVHWAccel *hwaccel=NULL;
1731
1732     while((hwaccel= av_hwaccel_next(hwaccel))){
1733         if (   hwaccel->id      == codec_id
1734             && hwaccel->pix_fmt == pix_fmt)
1735             return hwaccel;
1736     }
1737     return NULL;
1738 }
1739
1740 int av_lockmgr_register(int (*cb)(void **mutex, enum AVLockOp op))
1741 {
1742     if (ff_lockmgr_cb) {
1743         if (ff_lockmgr_cb(&codec_mutex, AV_LOCK_DESTROY))
1744             return -1;
1745         if (ff_lockmgr_cb(&avformat_mutex, AV_LOCK_DESTROY))
1746             return -1;
1747     }
1748
1749     ff_lockmgr_cb = cb;
1750
1751     if (ff_lockmgr_cb) {
1752         if (ff_lockmgr_cb(&codec_mutex, AV_LOCK_CREATE))
1753             return -1;
1754         if (ff_lockmgr_cb(&avformat_mutex, AV_LOCK_CREATE))
1755             return -1;
1756     }
1757     return 0;
1758 }
1759
1760 int avpriv_lock_avformat(void)
1761 {
1762     if (ff_lockmgr_cb) {
1763         if ((*ff_lockmgr_cb)(&avformat_mutex, AV_LOCK_OBTAIN))
1764             return -1;
1765     }
1766     return 0;
1767 }
1768
1769 int avpriv_unlock_avformat(void)
1770 {
1771     if (ff_lockmgr_cb) {
1772         if ((*ff_lockmgr_cb)(&avformat_mutex, AV_LOCK_RELEASE))
1773             return -1;
1774     }
1775     return 0;
1776 }
1777
1778 unsigned int avpriv_toupper4(unsigned int x)
1779 {
1780     return     toupper( x     &0xFF)
1781             + (toupper((x>>8 )&0xFF)<<8 )
1782             + (toupper((x>>16)&0xFF)<<16)
1783             + (toupper((x>>24)&0xFF)<<24);
1784 }
1785
1786 #if !HAVE_THREADS
1787
1788 int ff_thread_get_buffer(AVCodecContext *avctx, AVFrame *f)
1789 {
1790     f->owner = avctx;
1791     return avctx->get_buffer(avctx, f);
1792 }
1793
1794 void ff_thread_release_buffer(AVCodecContext *avctx, AVFrame *f)
1795 {
1796     f->owner->release_buffer(f->owner, f);
1797 }
1798
1799 void ff_thread_finish_setup(AVCodecContext *avctx)
1800 {
1801 }
1802
1803 void ff_thread_report_progress(AVFrame *f, int progress, int field)
1804 {
1805 }
1806
1807 void ff_thread_await_progress(AVFrame *f, int progress, int field)
1808 {
1809 }
1810
1811 #endif
1812
1813 #if FF_API_THREAD_INIT
1814 int avcodec_thread_init(AVCodecContext *s, int thread_count)
1815 {
1816     s->thread_count = thread_count;
1817     return ff_thread_init(s);
1818 }
1819 #endif
1820
1821 enum AVMediaType avcodec_get_type(enum CodecID codec_id)
1822 {
1823     if (codec_id <= CODEC_ID_NONE)
1824         return AVMEDIA_TYPE_UNKNOWN;
1825     else if (codec_id < CODEC_ID_FIRST_AUDIO)
1826         return AVMEDIA_TYPE_VIDEO;
1827     else if (codec_id < CODEC_ID_FIRST_SUBTITLE)
1828         return AVMEDIA_TYPE_AUDIO;
1829     else if (codec_id < CODEC_ID_FIRST_UNKNOWN)
1830         return AVMEDIA_TYPE_SUBTITLE;
1831
1832     return AVMEDIA_TYPE_UNKNOWN;
1833 }