de3816b27f93ffae6534d962409c65cc25b06ca1
[ffmpeg.git] / libavcodec / utils.c
1 /*
2  * utils for libavcodec
3  * Copyright (c) 2001 Fabrice Bellard
4  * Copyright (c) 2002-2004 Michael Niedermayer <michaelni@gmx.at>
5  *
6  * This file is part of Libav.
7  *
8  * Libav is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * Libav is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with Libav; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 /**
24  * @file
25  * utils.
26  */
27
28 #include "libavutil/avassert.h"
29 #include "libavutil/avstring.h"
30 #include "libavutil/crc.h"
31 #include "libavutil/mathematics.h"
32 #include "libavutil/pixdesc.h"
33 #include "libavutil/audioconvert.h"
34 #include "libavutil/imgutils.h"
35 #include "libavutil/samplefmt.h"
36 #include "libavutil/dict.h"
37 #include "avcodec.h"
38 #include "dsputil.h"
39 #include "libavutil/opt.h"
40 #include "imgconvert.h"
41 #include "thread.h"
42 #include "audioconvert.h"
43 #include "internal.h"
44 #include "bytestream.h"
45 #include <stdlib.h>
46 #include <stdarg.h>
47 #include <limits.h>
48 #include <float.h>
49
50 static int volatile entangled_thread_counter=0;
51 static int (*ff_lockmgr_cb)(void **mutex, enum AVLockOp op);
52 static void *codec_mutex;
53 static void *avformat_mutex;
54
55 void *av_fast_realloc(void *ptr, unsigned int *size, size_t min_size)
56 {
57     if(min_size < *size)
58         return ptr;
59
60     min_size= FFMAX(17*min_size/16 + 32, min_size);
61
62     ptr= av_realloc(ptr, min_size);
63     if(!ptr) //we could set this to the unmodified min_size but this is safer if the user lost the ptr and uses NULL now
64         min_size= 0;
65
66     *size= min_size;
67
68     return ptr;
69 }
70
71 void av_fast_malloc(void *ptr, unsigned int *size, size_t min_size)
72 {
73     void **p = ptr;
74     if (min_size < *size)
75         return;
76     min_size= FFMAX(17*min_size/16 + 32, min_size);
77     av_free(*p);
78     *p = av_malloc(min_size);
79     if (!*p) min_size = 0;
80     *size= min_size;
81 }
82
83 void av_fast_padded_malloc(void *ptr, unsigned int *size, size_t min_size)
84 {
85     void **p = ptr;
86     if (min_size > SIZE_MAX - FF_INPUT_BUFFER_PADDING_SIZE) {
87         av_freep(p);
88         *size = 0;
89         return;
90     }
91     av_fast_malloc(p, size, min_size + FF_INPUT_BUFFER_PADDING_SIZE);
92     if (*size)
93         memset((uint8_t *)*p + min_size, 0, FF_INPUT_BUFFER_PADDING_SIZE);
94 }
95
96 /* encoder management */
97 static AVCodec *first_avcodec = NULL;
98
99 AVCodec *av_codec_next(AVCodec *c){
100     if(c) return c->next;
101     else  return first_avcodec;
102 }
103
104 static void avcodec_init(void)
105 {
106     static int initialized = 0;
107
108     if (initialized != 0)
109         return;
110     initialized = 1;
111
112     dsputil_static_init();
113 }
114
115 static av_always_inline int codec_is_encoder(AVCodec *codec)
116 {
117     return codec && (codec->encode || codec->encode2);
118 }
119
120 static av_always_inline int codec_is_decoder(AVCodec *codec)
121 {
122     return codec && codec->decode;
123 }
124
125 void avcodec_register(AVCodec *codec)
126 {
127     AVCodec **p;
128     avcodec_init();
129     p = &first_avcodec;
130     while (*p != NULL) p = &(*p)->next;
131     *p = codec;
132     codec->next = NULL;
133
134     if (codec->init_static_data)
135         codec->init_static_data(codec);
136 }
137
138 unsigned avcodec_get_edge_width(void)
139 {
140     return EDGE_WIDTH;
141 }
142
143 void avcodec_set_dimensions(AVCodecContext *s, int width, int height){
144     s->coded_width = width;
145     s->coded_height= height;
146     s->width = -((-width )>>s->lowres);
147     s->height= -((-height)>>s->lowres);
148 }
149
150 #define INTERNAL_BUFFER_SIZE (32+1)
151
152 void avcodec_align_dimensions2(AVCodecContext *s, int *width, int *height,
153                                int linesize_align[AV_NUM_DATA_POINTERS])
154 {
155     int i;
156     int w_align= 1;
157     int h_align= 1;
158
159     switch(s->pix_fmt){
160     case PIX_FMT_YUV420P:
161     case PIX_FMT_YUYV422:
162     case PIX_FMT_UYVY422:
163     case PIX_FMT_YUV422P:
164     case PIX_FMT_YUV440P:
165     case PIX_FMT_YUV444P:
166     case PIX_FMT_GBRP:
167     case PIX_FMT_GRAY8:
168     case PIX_FMT_GRAY16BE:
169     case PIX_FMT_GRAY16LE:
170     case PIX_FMT_YUVJ420P:
171     case PIX_FMT_YUVJ422P:
172     case PIX_FMT_YUVJ440P:
173     case PIX_FMT_YUVJ444P:
174     case PIX_FMT_YUVA420P:
175     case PIX_FMT_YUV420P9LE:
176     case PIX_FMT_YUV420P9BE:
177     case PIX_FMT_YUV420P10LE:
178     case PIX_FMT_YUV420P10BE:
179     case PIX_FMT_YUV422P9LE:
180     case PIX_FMT_YUV422P9BE:
181     case PIX_FMT_YUV422P10LE:
182     case PIX_FMT_YUV422P10BE:
183     case PIX_FMT_YUV444P9LE:
184     case PIX_FMT_YUV444P9BE:
185     case PIX_FMT_YUV444P10LE:
186     case PIX_FMT_YUV444P10BE:
187     case PIX_FMT_GBRP9LE:
188     case PIX_FMT_GBRP9BE:
189     case PIX_FMT_GBRP10LE:
190     case PIX_FMT_GBRP10BE:
191         w_align = 16; //FIXME assume 16 pixel per macroblock
192         h_align = 16 * 2; // interlaced needs 2 macroblocks height
193         break;
194     case PIX_FMT_YUV411P:
195     case PIX_FMT_UYYVYY411:
196         w_align=32;
197         h_align=8;
198         break;
199     case PIX_FMT_YUV410P:
200         if(s->codec_id == CODEC_ID_SVQ1){
201             w_align=64;
202             h_align=64;
203         }
204     case PIX_FMT_RGB555:
205         if(s->codec_id == CODEC_ID_RPZA){
206             w_align=4;
207             h_align=4;
208         }
209     case PIX_FMT_PAL8:
210     case PIX_FMT_BGR8:
211     case PIX_FMT_RGB8:
212         if(s->codec_id == CODEC_ID_SMC){
213             w_align=4;
214             h_align=4;
215         }
216         break;
217     case PIX_FMT_BGR24:
218         if((s->codec_id == CODEC_ID_MSZH) || (s->codec_id == CODEC_ID_ZLIB)){
219             w_align=4;
220             h_align=4;
221         }
222         break;
223     default:
224         w_align= 1;
225         h_align= 1;
226         break;
227     }
228
229     *width = FFALIGN(*width , w_align);
230     *height= FFALIGN(*height, h_align);
231     if(s->codec_id == CODEC_ID_H264 || s->lowres)
232         *height+=2; // some of the optimized chroma MC reads one line too much
233                     // which is also done in mpeg decoders with lowres > 0
234
235     for (i = 0; i < 4; i++)
236         linesize_align[i] = STRIDE_ALIGN;
237 }
238
239 void avcodec_align_dimensions(AVCodecContext *s, int *width, int *height){
240     int chroma_shift = av_pix_fmt_descriptors[s->pix_fmt].log2_chroma_w;
241     int linesize_align[AV_NUM_DATA_POINTERS];
242     int align;
243     avcodec_align_dimensions2(s, width, height, linesize_align);
244     align = FFMAX(linesize_align[0], linesize_align[3]);
245     linesize_align[1] <<= chroma_shift;
246     linesize_align[2] <<= chroma_shift;
247     align = FFMAX3(align, linesize_align[1], linesize_align[2]);
248     *width=FFALIGN(*width, align);
249 }
250
251 int avcodec_fill_audio_frame(AVFrame *frame, int nb_channels,
252                              enum AVSampleFormat sample_fmt, const uint8_t *buf,
253                              int buf_size, int align)
254 {
255     int ch, planar, needed_size, ret = 0;
256
257     needed_size = av_samples_get_buffer_size(NULL, nb_channels,
258                                              frame->nb_samples, sample_fmt,
259                                              align);
260     if (buf_size < needed_size)
261         return AVERROR(EINVAL);
262
263     planar = av_sample_fmt_is_planar(sample_fmt);
264     if (planar && nb_channels > AV_NUM_DATA_POINTERS) {
265         if (!(frame->extended_data = av_mallocz(nb_channels *
266                                                 sizeof(*frame->extended_data))))
267             return AVERROR(ENOMEM);
268     } else {
269         frame->extended_data = frame->data;
270     }
271
272     if ((ret = av_samples_fill_arrays(frame->extended_data, &frame->linesize[0],
273                                       buf, nb_channels, frame->nb_samples,
274                                       sample_fmt, align)) < 0) {
275         if (frame->extended_data != frame->data)
276             av_free(frame->extended_data);
277         return ret;
278     }
279     if (frame->extended_data != frame->data) {
280         for (ch = 0; ch < AV_NUM_DATA_POINTERS; ch++)
281             frame->data[ch] = frame->extended_data[ch];
282     }
283
284     return ret;
285 }
286
287 static int audio_get_buffer(AVCodecContext *avctx, AVFrame *frame)
288 {
289     AVCodecInternal *avci = avctx->internal;
290     InternalBuffer *buf;
291     int buf_size, ret;
292
293     buf_size = av_samples_get_buffer_size(NULL, avctx->channels,
294                                           frame->nb_samples, avctx->sample_fmt,
295                                           32);
296     if (buf_size < 0)
297         return AVERROR(EINVAL);
298
299     /* allocate InternalBuffer if needed */
300     if (!avci->buffer) {
301         avci->buffer = av_mallocz(sizeof(InternalBuffer));
302         if (!avci->buffer)
303             return AVERROR(ENOMEM);
304     }
305     buf = avci->buffer;
306
307     /* if there is a previously-used internal buffer, check its size and
308        channel count to see if we can reuse it */
309     if (buf->extended_data) {
310         /* if current buffer is too small, free it */
311         if (buf->extended_data[0] && buf_size > buf->audio_data_size) {
312             av_free(buf->extended_data[0]);
313             if (buf->extended_data != buf->data)
314                 av_free(&buf->extended_data);
315             buf->extended_data = NULL;
316             buf->data[0] = NULL;
317         }
318         /* if number of channels has changed, reset and/or free extended data
319            pointers but leave data buffer in buf->data[0] for reuse */
320         if (buf->nb_channels != avctx->channels) {
321             if (buf->extended_data != buf->data)
322                 av_free(buf->extended_data);
323             buf->extended_data = NULL;
324         }
325     }
326
327     /* if there is no previous buffer or the previous buffer cannot be used
328        as-is, allocate a new buffer and/or rearrange the channel pointers */
329     if (!buf->extended_data) {
330         if (!buf->data[0]) {
331             if (!(buf->data[0] = av_mallocz(buf_size)))
332                 return AVERROR(ENOMEM);
333             buf->audio_data_size = buf_size;
334         }
335         if ((ret = avcodec_fill_audio_frame(frame, avctx->channels,
336                                             avctx->sample_fmt, buf->data[0],
337                                             buf->audio_data_size, 32)))
338             return ret;
339
340         if (frame->extended_data == frame->data)
341             buf->extended_data = buf->data;
342         else
343             buf->extended_data = frame->extended_data;
344         memcpy(buf->data, frame->data, sizeof(frame->data));
345         buf->linesize[0] = frame->linesize[0];
346         buf->nb_channels = avctx->channels;
347     } else {
348         /* copy InternalBuffer info to the AVFrame */
349         frame->extended_data = buf->extended_data;
350         frame->linesize[0]   = buf->linesize[0];
351         memcpy(frame->data, buf->data, sizeof(frame->data));
352     }
353
354     frame->type          = FF_BUFFER_TYPE_INTERNAL;
355
356     if (avctx->pkt) frame->pkt_pts = avctx->pkt->pts;
357     else            frame->pkt_pts = AV_NOPTS_VALUE;
358     frame->reordered_opaque = avctx->reordered_opaque;
359
360     if (avctx->debug & FF_DEBUG_BUFFERS)
361         av_log(avctx, AV_LOG_DEBUG, "default_get_buffer called on frame %p, "
362                "internal audio buffer used\n", frame);
363
364     return 0;
365 }
366
367 static int video_get_buffer(AVCodecContext *s, AVFrame *pic)
368 {
369     int i;
370     int w= s->width;
371     int h= s->height;
372     InternalBuffer *buf;
373     AVCodecInternal *avci = s->internal;
374
375     if(pic->data[0]!=NULL) {
376         av_log(s, AV_LOG_ERROR, "pic->data[0]!=NULL in avcodec_default_get_buffer\n");
377         return -1;
378     }
379     if(avci->buffer_count >= INTERNAL_BUFFER_SIZE) {
380         av_log(s, AV_LOG_ERROR, "buffer_count overflow (missing release_buffer?)\n");
381         return -1;
382     }
383
384     if(av_image_check_size(w, h, 0, s))
385         return -1;
386
387     if (!avci->buffer) {
388         avci->buffer = av_mallocz((INTERNAL_BUFFER_SIZE+1) *
389                                   sizeof(InternalBuffer));
390     }
391
392     buf = &avci->buffer[avci->buffer_count];
393
394     if(buf->base[0] && (buf->width != w || buf->height != h || buf->pix_fmt != s->pix_fmt)){
395         if(s->active_thread_type&FF_THREAD_FRAME) {
396             av_log_missing_feature(s, "Width/height changing with frame threads is", 0);
397             return -1;
398         }
399
400         for (i = 0; i < AV_NUM_DATA_POINTERS; i++) {
401             av_freep(&buf->base[i]);
402             buf->data[i]= NULL;
403         }
404     }
405
406     if (!buf->base[0]) {
407         int h_chroma_shift, v_chroma_shift;
408         int size[4] = {0};
409         int tmpsize;
410         int unaligned;
411         AVPicture picture;
412         int stride_align[AV_NUM_DATA_POINTERS];
413         const int pixel_size = av_pix_fmt_descriptors[s->pix_fmt].comp[0].step_minus1+1;
414
415         avcodec_get_chroma_sub_sample(s->pix_fmt, &h_chroma_shift, &v_chroma_shift);
416
417         avcodec_align_dimensions2(s, &w, &h, stride_align);
418
419         if(!(s->flags&CODEC_FLAG_EMU_EDGE)){
420             w+= EDGE_WIDTH*2;
421             h+= EDGE_WIDTH*2;
422         }
423
424         do {
425             // NOTE: do not align linesizes individually, this breaks e.g. assumptions
426             // that linesize[0] == 2*linesize[1] in the MPEG-encoder for 4:2:2
427             av_image_fill_linesizes(picture.linesize, s->pix_fmt, w);
428             // increase alignment of w for next try (rhs gives the lowest bit set in w)
429             w += w & ~(w-1);
430
431             unaligned = 0;
432             for (i=0; i<4; i++){
433                 unaligned |= picture.linesize[i] % stride_align[i];
434             }
435         } while (unaligned);
436
437         tmpsize = av_image_fill_pointers(picture.data, s->pix_fmt, h, NULL, picture.linesize);
438         if (tmpsize < 0)
439             return -1;
440
441         for (i=0; i<3 && picture.data[i+1]; i++)
442             size[i] = picture.data[i+1] - picture.data[i];
443         size[i] = tmpsize - (picture.data[i] - picture.data[0]);
444
445         memset(buf->base, 0, sizeof(buf->base));
446         memset(buf->data, 0, sizeof(buf->data));
447
448         for(i=0; i<4 && size[i]; i++){
449             const int h_shift= i==0 ? 0 : h_chroma_shift;
450             const int v_shift= i==0 ? 0 : v_chroma_shift;
451
452             buf->linesize[i]= picture.linesize[i];
453
454             buf->base[i]= av_malloc(size[i]+16); //FIXME 16
455             if(buf->base[i]==NULL) return -1;
456             memset(buf->base[i], 128, size[i]);
457
458             // no edge if EDGE EMU or not planar YUV
459             if((s->flags&CODEC_FLAG_EMU_EDGE) || !size[2])
460                 buf->data[i] = buf->base[i];
461             else
462                 buf->data[i] = buf->base[i] + FFALIGN((buf->linesize[i]*EDGE_WIDTH>>v_shift) + (pixel_size*EDGE_WIDTH>>h_shift), stride_align[i]);
463         }
464         for (; i < AV_NUM_DATA_POINTERS; i++) {
465             buf->base[i] = buf->data[i] = NULL;
466             buf->linesize[i] = 0;
467         }
468         if(size[1] && !size[2])
469             ff_set_systematic_pal2((uint32_t*)buf->data[1], s->pix_fmt);
470         buf->width  = s->width;
471         buf->height = s->height;
472         buf->pix_fmt= s->pix_fmt;
473     }
474     pic->type= FF_BUFFER_TYPE_INTERNAL;
475
476     for (i = 0; i < AV_NUM_DATA_POINTERS; i++) {
477         pic->base[i]= buf->base[i];
478         pic->data[i]= buf->data[i];
479         pic->linesize[i]= buf->linesize[i];
480     }
481     pic->extended_data = pic->data;
482     avci->buffer_count++;
483
484     if(s->pkt) pic->pkt_pts= s->pkt->pts;
485     else       pic->pkt_pts= AV_NOPTS_VALUE;
486     pic->reordered_opaque= s->reordered_opaque;
487
488     if(s->debug&FF_DEBUG_BUFFERS)
489         av_log(s, AV_LOG_DEBUG, "default_get_buffer called on pic %p, %d "
490                "buffers used\n", pic, avci->buffer_count);
491
492     return 0;
493 }
494
495 int avcodec_default_get_buffer(AVCodecContext *avctx, AVFrame *frame)
496 {
497     switch (avctx->codec_type) {
498     case AVMEDIA_TYPE_VIDEO:
499         return video_get_buffer(avctx, frame);
500     case AVMEDIA_TYPE_AUDIO:
501         return audio_get_buffer(avctx, frame);
502     default:
503         return -1;
504     }
505 }
506
507 void avcodec_default_release_buffer(AVCodecContext *s, AVFrame *pic){
508     int i;
509     InternalBuffer *buf, *last;
510     AVCodecInternal *avci = s->internal;
511
512     assert(s->codec_type == AVMEDIA_TYPE_VIDEO);
513
514     assert(pic->type==FF_BUFFER_TYPE_INTERNAL);
515     assert(avci->buffer_count);
516
517     if (avci->buffer) {
518         buf = NULL; /* avoids warning */
519         for (i = 0; i < avci->buffer_count; i++) { //just 3-5 checks so is not worth to optimize
520             buf = &avci->buffer[i];
521             if (buf->data[0] == pic->data[0])
522                 break;
523         }
524         assert(i < avci->buffer_count);
525         avci->buffer_count--;
526         last = &avci->buffer[avci->buffer_count];
527
528         if (buf != last)
529             FFSWAP(InternalBuffer, *buf, *last);
530     }
531
532     for (i = 0; i < AV_NUM_DATA_POINTERS; i++) {
533         pic->data[i]=NULL;
534 //        pic->base[i]=NULL;
535     }
536 //printf("R%X\n", pic->opaque);
537
538     if(s->debug&FF_DEBUG_BUFFERS)
539         av_log(s, AV_LOG_DEBUG, "default_release_buffer called on pic %p, %d "
540                "buffers used\n", pic, avci->buffer_count);
541 }
542
543 int avcodec_default_reget_buffer(AVCodecContext *s, AVFrame *pic){
544     AVFrame temp_pic;
545     int i;
546
547     assert(s->codec_type == AVMEDIA_TYPE_VIDEO);
548
549     /* If no picture return a new buffer */
550     if(pic->data[0] == NULL) {
551         /* We will copy from buffer, so must be readable */
552         pic->buffer_hints |= FF_BUFFER_HINTS_READABLE;
553         return s->get_buffer(s, pic);
554     }
555
556     /* If internal buffer type return the same buffer */
557     if(pic->type == FF_BUFFER_TYPE_INTERNAL) {
558         if(s->pkt) pic->pkt_pts= s->pkt->pts;
559         else       pic->pkt_pts= AV_NOPTS_VALUE;
560         pic->reordered_opaque= s->reordered_opaque;
561         return 0;
562     }
563
564     /*
565      * Not internal type and reget_buffer not overridden, emulate cr buffer
566      */
567     temp_pic = *pic;
568     for(i = 0; i < AV_NUM_DATA_POINTERS; i++)
569         pic->data[i] = pic->base[i] = NULL;
570     pic->opaque = NULL;
571     /* Allocate new frame */
572     if (s->get_buffer(s, pic))
573         return -1;
574     /* Copy image data from old buffer to new buffer */
575     av_picture_copy((AVPicture*)pic, (AVPicture*)&temp_pic, s->pix_fmt, s->width,
576              s->height);
577     s->release_buffer(s, &temp_pic); // Release old frame
578     return 0;
579 }
580
581 int avcodec_default_execute(AVCodecContext *c, int (*func)(AVCodecContext *c2, void *arg2),void *arg, int *ret, int count, int size){
582     int i;
583
584     for(i=0; i<count; i++){
585         int r= func(c, (char*)arg + i*size);
586         if(ret) ret[i]= r;
587     }
588     return 0;
589 }
590
591 int avcodec_default_execute2(AVCodecContext *c, int (*func)(AVCodecContext *c2, void *arg2, int jobnr, int threadnr),void *arg, int *ret, int count){
592     int i;
593
594     for(i=0; i<count; i++){
595         int r= func(c, arg, i, 0);
596         if(ret) ret[i]= r;
597     }
598     return 0;
599 }
600
601 enum PixelFormat avcodec_default_get_format(struct AVCodecContext *s, const enum PixelFormat *fmt){
602     while (*fmt != PIX_FMT_NONE && ff_is_hwaccel_pix_fmt(*fmt))
603         ++fmt;
604     return fmt[0];
605 }
606
607 void avcodec_get_frame_defaults(AVFrame *pic){
608     memset(pic, 0, sizeof(AVFrame));
609
610     pic->pts= AV_NOPTS_VALUE;
611     pic->key_frame= 1;
612     pic->sample_aspect_ratio = (AVRational){0, 1};
613     pic->format = -1;           /* unknown */
614 }
615
616 AVFrame *avcodec_alloc_frame(void){
617     AVFrame *pic= av_malloc(sizeof(AVFrame));
618
619     if(pic==NULL) return NULL;
620
621     avcodec_get_frame_defaults(pic);
622
623     return pic;
624 }
625
626 int attribute_align_arg avcodec_open2(AVCodecContext *avctx, AVCodec *codec, AVDictionary **options)
627 {
628     int ret = 0;
629     AVDictionary *tmp = NULL;
630
631     if (avcodec_is_open(avctx))
632         return 0;
633
634     if ((!codec && !avctx->codec)) {
635         av_log(avctx, AV_LOG_ERROR, "No codec provided to avcodec_open2().\n");
636         return AVERROR(EINVAL);
637     }
638     if ((codec && avctx->codec && codec != avctx->codec)) {
639         av_log(avctx, AV_LOG_ERROR, "This AVCodecContext was allocated for %s, "
640                "but %s passed to avcodec_open2().\n", avctx->codec->name, codec->name);
641         return AVERROR(EINVAL);
642     }
643     if (!codec)
644         codec = avctx->codec;
645
646     if (avctx->extradata_size < 0 || avctx->extradata_size >= FF_MAX_EXTRADATA_SIZE)
647         return AVERROR(EINVAL);
648
649     if (options)
650         av_dict_copy(&tmp, *options, 0);
651
652     /* If there is a user-supplied mutex locking routine, call it. */
653     if (ff_lockmgr_cb) {
654         if ((*ff_lockmgr_cb)(&codec_mutex, AV_LOCK_OBTAIN))
655             return -1;
656     }
657
658     entangled_thread_counter++;
659     if(entangled_thread_counter != 1){
660         av_log(avctx, AV_LOG_ERROR, "insufficient thread locking around avcodec_open/close()\n");
661         ret = -1;
662         goto end;
663     }
664
665     avctx->internal = av_mallocz(sizeof(AVCodecInternal));
666     if (!avctx->internal) {
667         ret = AVERROR(ENOMEM);
668         goto end;
669     }
670
671     if (codec->priv_data_size > 0) {
672       if(!avctx->priv_data){
673         avctx->priv_data = av_mallocz(codec->priv_data_size);
674         if (!avctx->priv_data) {
675             ret = AVERROR(ENOMEM);
676             goto end;
677         }
678         if (codec->priv_class) {
679             *(AVClass**)avctx->priv_data= codec->priv_class;
680             av_opt_set_defaults(avctx->priv_data);
681         }
682       }
683       if (codec->priv_class && (ret = av_opt_set_dict(avctx->priv_data, &tmp)) < 0)
684           goto free_and_end;
685     } else {
686         avctx->priv_data = NULL;
687     }
688     if ((ret = av_opt_set_dict(avctx, &tmp)) < 0)
689         goto free_and_end;
690
691     if(avctx->coded_width && avctx->coded_height)
692         avcodec_set_dimensions(avctx, avctx->coded_width, avctx->coded_height);
693     else if(avctx->width && avctx->height)
694         avcodec_set_dimensions(avctx, avctx->width, avctx->height);
695
696     if ((avctx->coded_width || avctx->coded_height || avctx->width || avctx->height)
697         && (  av_image_check_size(avctx->coded_width, avctx->coded_height, 0, avctx) < 0
698            || av_image_check_size(avctx->width,       avctx->height,       0, avctx) < 0)) {
699         av_log(avctx, AV_LOG_WARNING, "ignoring invalid width/height values\n");
700         avcodec_set_dimensions(avctx, 0, 0);
701     }
702
703     /* if the decoder init function was already called previously,
704        free the already allocated subtitle_header before overwriting it */
705     if (codec_is_decoder(codec))
706         av_freep(&avctx->subtitle_header);
707
708 #define SANE_NB_CHANNELS 128U
709     if (avctx->channels > SANE_NB_CHANNELS) {
710         ret = AVERROR(EINVAL);
711         goto free_and_end;
712     }
713
714     avctx->codec = codec;
715     if ((avctx->codec_type == AVMEDIA_TYPE_UNKNOWN || avctx->codec_type == codec->type) &&
716         avctx->codec_id == CODEC_ID_NONE) {
717         avctx->codec_type = codec->type;
718         avctx->codec_id   = codec->id;
719     }
720     if (avctx->codec_id != codec->id || (avctx->codec_type != codec->type
721                            && avctx->codec_type != AVMEDIA_TYPE_ATTACHMENT)) {
722         av_log(avctx, AV_LOG_ERROR, "codec type or id mismatches\n");
723         ret = AVERROR(EINVAL);
724         goto free_and_end;
725     }
726     avctx->frame_number = 0;
727
728     if (avctx->codec_type == AVMEDIA_TYPE_AUDIO &&
729         (!avctx->time_base.num || !avctx->time_base.den)) {
730         avctx->time_base.num = 1;
731         avctx->time_base.den = avctx->sample_rate;
732     }
733
734     if (HAVE_THREADS && !avctx->thread_opaque) {
735         ret = ff_thread_init(avctx);
736         if (ret < 0) {
737             goto free_and_end;
738         }
739     }
740     if (!HAVE_THREADS && !(codec->capabilities & CODEC_CAP_AUTO_THREADS))
741         avctx->thread_count = 1;
742
743     if (avctx->codec->max_lowres < avctx->lowres) {
744         av_log(avctx, AV_LOG_ERROR, "The maximum value for lowres supported by the decoder is %d\n",
745                avctx->codec->max_lowres);
746         ret = AVERROR(EINVAL);
747         goto free_and_end;
748     }
749     if (codec_is_encoder(avctx->codec)) {
750         int i;
751         if (avctx->codec->sample_fmts) {
752             for (i = 0; avctx->codec->sample_fmts[i] != AV_SAMPLE_FMT_NONE; i++)
753                 if (avctx->sample_fmt == avctx->codec->sample_fmts[i])
754                     break;
755             if (avctx->codec->sample_fmts[i] == AV_SAMPLE_FMT_NONE) {
756                 av_log(avctx, AV_LOG_ERROR, "Specified sample_fmt is not supported.\n");
757                 ret = AVERROR(EINVAL);
758                 goto free_and_end;
759             }
760         }
761         if (avctx->codec->supported_samplerates) {
762             for (i = 0; avctx->codec->supported_samplerates[i] != 0; i++)
763                 if (avctx->sample_rate == avctx->codec->supported_samplerates[i])
764                     break;
765             if (avctx->codec->supported_samplerates[i] == 0) {
766                 av_log(avctx, AV_LOG_ERROR, "Specified sample_rate is not supported\n");
767                 ret = AVERROR(EINVAL);
768                 goto free_and_end;
769             }
770         }
771         if (avctx->codec->channel_layouts) {
772             if (!avctx->channel_layout) {
773                 av_log(avctx, AV_LOG_WARNING, "channel_layout not specified\n");
774             } else {
775                 for (i = 0; avctx->codec->channel_layouts[i] != 0; i++)
776                     if (avctx->channel_layout == avctx->codec->channel_layouts[i])
777                         break;
778                 if (avctx->codec->channel_layouts[i] == 0) {
779                     av_log(avctx, AV_LOG_ERROR, "Specified channel_layout is not supported\n");
780                     ret = AVERROR(EINVAL);
781                     goto free_and_end;
782                 }
783             }
784         }
785         if (avctx->channel_layout && avctx->channels) {
786             if (av_get_channel_layout_nb_channels(avctx->channel_layout) != avctx->channels) {
787                 av_log(avctx, AV_LOG_ERROR, "channel layout does not match number of channels\n");
788                 ret = AVERROR(EINVAL);
789                 goto free_and_end;
790             }
791         } else if (avctx->channel_layout) {
792             avctx->channels = av_get_channel_layout_nb_channels(avctx->channel_layout);
793         }
794     }
795
796     if(avctx->codec->init && !(avctx->active_thread_type&FF_THREAD_FRAME)){
797         ret = avctx->codec->init(avctx);
798         if (ret < 0) {
799             goto free_and_end;
800         }
801     }
802 end:
803     entangled_thread_counter--;
804
805     /* Release any user-supplied mutex. */
806     if (ff_lockmgr_cb) {
807         (*ff_lockmgr_cb)(&codec_mutex, AV_LOCK_RELEASE);
808     }
809     if (options) {
810         av_dict_free(options);
811         *options = tmp;
812     }
813
814     return ret;
815 free_and_end:
816     av_dict_free(&tmp);
817     av_freep(&avctx->priv_data);
818     av_freep(&avctx->internal);
819     avctx->codec= NULL;
820     goto end;
821 }
822
823 int ff_alloc_packet(AVPacket *avpkt, int size)
824 {
825     if (size > INT_MAX - FF_INPUT_BUFFER_PADDING_SIZE)
826         return AVERROR(EINVAL);
827
828     if (avpkt->data) {
829         uint8_t *pkt_data;
830
831         if (avpkt->size < size)
832             return AVERROR(EINVAL);
833
834         pkt_data = avpkt->data;
835         av_init_packet(avpkt);
836         avpkt->data = pkt_data;
837         avpkt->size = size;
838         return 0;
839     } else {
840         return av_new_packet(avpkt, size);
841     }
842 }
843
844 int attribute_align_arg avcodec_encode_audio2(AVCodecContext *avctx,
845                                               AVPacket *avpkt,
846                                               const AVFrame *frame,
847                                               int *got_packet_ptr)
848 {
849     int ret;
850     int user_packet = !!avpkt->data;
851     int nb_samples;
852
853     if (!(avctx->codec->capabilities & CODEC_CAP_DELAY) && !frame) {
854         av_init_packet(avpkt);
855         avpkt->size = 0;
856         return 0;
857     }
858
859     /* check for valid frame size */
860     if (frame) {
861         nb_samples = frame->nb_samples;
862         if (avctx->codec->capabilities & CODEC_CAP_SMALL_LAST_FRAME) {
863             if (nb_samples > avctx->frame_size)
864                 return AVERROR(EINVAL);
865         } else if (!(avctx->codec->capabilities & CODEC_CAP_VARIABLE_FRAME_SIZE)) {
866             if (nb_samples != avctx->frame_size)
867                 return AVERROR(EINVAL);
868         }
869     } else {
870         nb_samples = avctx->frame_size;
871     }
872
873     if (avctx->codec->encode2) {
874         *got_packet_ptr = 0;
875         ret = avctx->codec->encode2(avctx, avpkt, frame, got_packet_ptr);
876         if (!ret && *got_packet_ptr) {
877             if (!(avctx->codec->capabilities & CODEC_CAP_DELAY)) {
878                 avpkt->pts = frame->pts;
879                 avpkt->duration = av_rescale_q(frame->nb_samples,
880                                                (AVRational){ 1, avctx->sample_rate },
881                                                avctx->time_base);
882             }
883             avpkt->dts = avpkt->pts;
884         } else {
885             avpkt->size = 0;
886         }
887     } else {
888         /* for compatibility with encoders not supporting encode2(), we need to
889            allocate a packet buffer if the user has not provided one or check
890            the size otherwise */
891         int fs_tmp   = 0;
892         int buf_size = avpkt->size;
893         if (!user_packet) {
894             if (avctx->codec->capabilities & CODEC_CAP_VARIABLE_FRAME_SIZE) {
895                 av_assert0(av_get_bits_per_sample(avctx->codec_id) != 0);
896                 buf_size = nb_samples * avctx->channels *
897                            av_get_bits_per_sample(avctx->codec_id) / 8;
898             } else {
899                 /* this is a guess as to the required size.
900                    if an encoder needs more than this, it should probably
901                    implement encode2() */
902                 buf_size = 2 * avctx->frame_size * avctx->channels *
903                            av_get_bytes_per_sample(avctx->sample_fmt);
904                 buf_size += FF_MIN_BUFFER_SIZE;
905             }
906         }
907         if ((ret = ff_alloc_packet(avpkt, buf_size)))
908             return ret;
909
910         /* Encoders using AVCodec.encode() that support
911            CODEC_CAP_SMALL_LAST_FRAME require avctx->frame_size to be set to
912            the smaller size when encoding the last frame.
913            This code can be removed once all encoders supporting
914            CODEC_CAP_SMALL_LAST_FRAME use encode2() */
915         if ((avctx->codec->capabilities & CODEC_CAP_SMALL_LAST_FRAME) &&
916             nb_samples < avctx->frame_size) {
917             fs_tmp = avctx->frame_size;
918             avctx->frame_size = nb_samples;
919         }
920
921         /* encode the frame */
922         ret = avctx->codec->encode(avctx, avpkt->data, avpkt->size,
923                                    frame ? frame->data[0] : NULL);
924         if (ret >= 0) {
925             if (!ret) {
926                 /* no output. if the packet data was allocated by libavcodec,
927                    free it */
928                 if (!user_packet)
929                     av_freep(&avpkt->data);
930             } else {
931                 if (avctx->coded_frame)
932                     avpkt->pts = avpkt->dts = avctx->coded_frame->pts;
933                 /* Set duration for final small packet. This can be removed
934                    once all encoders supporting CODEC_CAP_SMALL_LAST_FRAME use
935                    encode2() */
936                 if (fs_tmp) {
937                     avpkt->duration = av_rescale_q(avctx->frame_size,
938                                                    (AVRational){ 1, avctx->sample_rate },
939                                                    avctx->time_base);
940                 }
941             }
942             avpkt->size = ret;
943             *got_packet_ptr = (ret > 0);
944             ret = 0;
945         }
946
947         if (fs_tmp)
948             avctx->frame_size = fs_tmp;
949     }
950     if (!ret)
951         avctx->frame_number++;
952
953     /* NOTE: if we add any audio encoders which output non-keyframe packets,
954              this needs to be moved to the encoders, but for now we can do it
955              here to simplify things */
956     avpkt->flags |= AV_PKT_FLAG_KEY;
957
958     return ret;
959 }
960
961 #if FF_API_OLD_DECODE_AUDIO
962 int attribute_align_arg avcodec_encode_audio(AVCodecContext *avctx,
963                                              uint8_t *buf, int buf_size,
964                                              const short *samples)
965 {
966     AVPacket pkt;
967     AVFrame frame0;
968     AVFrame *frame;
969     int ret, samples_size, got_packet;
970
971     av_init_packet(&pkt);
972     pkt.data = buf;
973     pkt.size = buf_size;
974
975     if (samples) {
976         frame = &frame0;
977         avcodec_get_frame_defaults(frame);
978
979         if (avctx->frame_size) {
980             frame->nb_samples = avctx->frame_size;
981         } else {
982             /* if frame_size is not set, the number of samples must be
983                calculated from the buffer size */
984             int64_t nb_samples;
985             if (!av_get_bits_per_sample(avctx->codec_id)) {
986                 av_log(avctx, AV_LOG_ERROR, "avcodec_encode_audio() does not "
987                        "support this codec\n");
988                 return AVERROR(EINVAL);
989             }
990             nb_samples = (int64_t)buf_size * 8 /
991                          (av_get_bits_per_sample(avctx->codec_id) *
992                          avctx->channels);
993             if (nb_samples >= INT_MAX)
994                 return AVERROR(EINVAL);
995             frame->nb_samples = nb_samples;
996         }
997
998         /* it is assumed that the samples buffer is large enough based on the
999            relevant parameters */
1000         samples_size = av_samples_get_buffer_size(NULL, avctx->channels,
1001                                                   frame->nb_samples,
1002                                                   avctx->sample_fmt, 1);
1003         if ((ret = avcodec_fill_audio_frame(frame, avctx->channels,
1004                                             avctx->sample_fmt,
1005                                             samples, samples_size, 1)))
1006             return ret;
1007
1008         /* fabricate frame pts from sample count.
1009            this is needed because the avcodec_encode_audio() API does not have
1010            a way for the user to provide pts */
1011         frame->pts = av_rescale_q(avctx->internal->sample_count,
1012                                   (AVRational){ 1, avctx->sample_rate },
1013                                   avctx->time_base);
1014         avctx->internal->sample_count += frame->nb_samples;
1015     } else {
1016         frame = NULL;
1017     }
1018
1019     got_packet = 0;
1020     ret = avcodec_encode_audio2(avctx, &pkt, frame, &got_packet);
1021     if (!ret && got_packet && avctx->coded_frame) {
1022         avctx->coded_frame->pts       = pkt.pts;
1023         avctx->coded_frame->key_frame = !!(pkt.flags & AV_PKT_FLAG_KEY);
1024     }
1025     /* free any side data since we cannot return it */
1026     if (pkt.side_data_elems > 0) {
1027         int i;
1028         for (i = 0; i < pkt.side_data_elems; i++)
1029             av_free(pkt.side_data[i].data);
1030         av_freep(&pkt.side_data);
1031         pkt.side_data_elems = 0;
1032     }
1033
1034     if (frame && frame->extended_data != frame->data)
1035         av_free(frame->extended_data);
1036
1037     return ret ? ret : pkt.size;
1038 }
1039 #endif
1040
1041 #if FF_API_OLD_ENCODE_VIDEO
1042 int attribute_align_arg avcodec_encode_video(AVCodecContext *avctx, uint8_t *buf, int buf_size,
1043                          const AVFrame *pict)
1044 {
1045     AVPacket pkt;
1046     int ret, got_packet = 0;
1047
1048     if(buf_size < FF_MIN_BUFFER_SIZE){
1049         av_log(avctx, AV_LOG_ERROR, "buffer smaller than minimum size\n");
1050         return -1;
1051     }
1052
1053     av_init_packet(&pkt);
1054     pkt.data = buf;
1055     pkt.size = buf_size;
1056
1057     ret = avcodec_encode_video2(avctx, &pkt, pict, &got_packet);
1058     if (!ret && got_packet && avctx->coded_frame) {
1059         avctx->coded_frame->pts       = pkt.pts;
1060         avctx->coded_frame->key_frame = !!(pkt.flags & AV_PKT_FLAG_KEY);
1061     }
1062
1063     /* free any side data since we cannot return it */
1064     if (pkt.side_data_elems > 0) {
1065         int i;
1066         for (i = 0; i < pkt.side_data_elems; i++)
1067             av_free(pkt.side_data[i].data);
1068         av_freep(&pkt.side_data);
1069         pkt.side_data_elems = 0;
1070     }
1071
1072     return ret ? ret : pkt.size;
1073 }
1074 #endif
1075
1076 #define MAX_CODED_FRAME_SIZE(width, height)\
1077     (8*(width)*(height) + FF_MIN_BUFFER_SIZE)
1078
1079 int attribute_align_arg avcodec_encode_video2(AVCodecContext *avctx,
1080                                               AVPacket *avpkt,
1081                                               const AVFrame *frame,
1082                                               int *got_packet_ptr)
1083 {
1084     int ret;
1085     int user_packet = !!avpkt->data;
1086
1087     if (!(avctx->codec->capabilities & CODEC_CAP_DELAY) && !frame) {
1088         av_init_packet(avpkt);
1089         avpkt->size     = 0;
1090         *got_packet_ptr = 0;
1091         return 0;
1092     }
1093
1094     if (av_image_check_size(avctx->width, avctx->height, 0, avctx))
1095         return AVERROR(EINVAL);
1096
1097     if (avctx->codec->encode2) {
1098         *got_packet_ptr = 0;
1099         ret = avctx->codec->encode2(avctx, avpkt, frame, got_packet_ptr);
1100         if (!ret) {
1101             if (!*got_packet_ptr)
1102                 avpkt->size = 0;
1103             else if (!(avctx->codec->capabilities & CODEC_CAP_DELAY))
1104                 avpkt->pts = avpkt->dts = frame->pts;
1105         }
1106     } else {
1107         /* for compatibility with encoders not supporting encode2(), we need to
1108            allocate a packet buffer if the user has not provided one or check
1109            the size otherwise */
1110         int buf_size = avpkt->size;
1111
1112         if (!user_packet)
1113             buf_size = MAX_CODED_FRAME_SIZE(avctx->width, avctx->height);
1114
1115         if ((ret = ff_alloc_packet(avpkt, buf_size)))
1116             return ret;
1117
1118         /* encode the frame */
1119         ret = avctx->codec->encode(avctx, avpkt->data, avpkt->size, frame);
1120         if (ret >= 0) {
1121             if (!ret) {
1122                 /* no output. if the packet data was allocated by libavcodec,
1123                    free it */
1124                 if (!user_packet)
1125                     av_freep(&avpkt->data);
1126             } else if (avctx->coded_frame) {
1127                 avpkt->pts    = avctx->coded_frame->pts;
1128                 avpkt->flags |= AV_PKT_FLAG_KEY*avctx->coded_frame->key_frame;
1129             }
1130
1131             avpkt->size     = ret;
1132             *got_packet_ptr = (ret > 0);
1133             ret             = 0;
1134         }
1135     }
1136
1137     if (!ret)
1138         avctx->frame_number++;
1139
1140     emms_c();
1141     return ret;
1142 }
1143
1144 int avcodec_encode_subtitle(AVCodecContext *avctx, uint8_t *buf, int buf_size,
1145                             const AVSubtitle *sub)
1146 {
1147     int ret;
1148     if(sub->start_display_time) {
1149         av_log(avctx, AV_LOG_ERROR, "start_display_time must be 0.\n");
1150         return -1;
1151     }
1152     if(sub->num_rects == 0 || !sub->rects)
1153         return -1;
1154     ret = avctx->codec->encode(avctx, buf, buf_size, sub);
1155     avctx->frame_number++;
1156     return ret;
1157 }
1158
1159 static void apply_param_change(AVCodecContext *avctx, AVPacket *avpkt)
1160 {
1161     int size = 0;
1162     const uint8_t *data;
1163     uint32_t flags;
1164
1165     if (!(avctx->codec->capabilities & CODEC_CAP_PARAM_CHANGE))
1166         return;
1167
1168     data = av_packet_get_side_data(avpkt, AV_PKT_DATA_PARAM_CHANGE, &size);
1169     if (!data || size < 4)
1170         return;
1171     flags = bytestream_get_le32(&data);
1172     size -= 4;
1173     if (size < 4) /* Required for any of the changes */
1174         return;
1175     if (flags & AV_SIDE_DATA_PARAM_CHANGE_CHANNEL_COUNT) {
1176         avctx->channels = bytestream_get_le32(&data);
1177         size -= 4;
1178     }
1179     if (flags & AV_SIDE_DATA_PARAM_CHANGE_CHANNEL_LAYOUT) {
1180         if (size < 8)
1181             return;
1182         avctx->channel_layout = bytestream_get_le64(&data);
1183         size -= 8;
1184     }
1185     if (size < 4)
1186         return;
1187     if (flags & AV_SIDE_DATA_PARAM_CHANGE_SAMPLE_RATE) {
1188         avctx->sample_rate = bytestream_get_le32(&data);
1189         size -= 4;
1190     }
1191     if (flags & AV_SIDE_DATA_PARAM_CHANGE_DIMENSIONS) {
1192         if (size < 8)
1193             return;
1194         avctx->width  = bytestream_get_le32(&data);
1195         avctx->height = bytestream_get_le32(&data);
1196         avcodec_set_dimensions(avctx, avctx->width, avctx->height);
1197         size -= 8;
1198     }
1199 }
1200
1201 int attribute_align_arg avcodec_decode_video2(AVCodecContext *avctx, AVFrame *picture,
1202                          int *got_picture_ptr,
1203                          AVPacket *avpkt)
1204 {
1205     int ret;
1206
1207     *got_picture_ptr= 0;
1208     if((avctx->coded_width||avctx->coded_height) && av_image_check_size(avctx->coded_width, avctx->coded_height, 0, avctx))
1209         return -1;
1210
1211     avctx->pkt = avpkt;
1212     apply_param_change(avctx, avpkt);
1213
1214     if((avctx->codec->capabilities & CODEC_CAP_DELAY) || avpkt->size || (avctx->active_thread_type&FF_THREAD_FRAME)){
1215         if (HAVE_THREADS && avctx->active_thread_type&FF_THREAD_FRAME)
1216              ret = ff_thread_decode_frame(avctx, picture, got_picture_ptr,
1217                                           avpkt);
1218         else {
1219             ret = avctx->codec->decode(avctx, picture, got_picture_ptr,
1220                               avpkt);
1221             picture->pkt_dts= avpkt->dts;
1222             picture->sample_aspect_ratio = avctx->sample_aspect_ratio;
1223             picture->width  = avctx->width;
1224             picture->height = avctx->height;
1225             picture->format = avctx->pix_fmt;
1226         }
1227
1228         emms_c(); //needed to avoid an emms_c() call before every return;
1229
1230         if (*got_picture_ptr)
1231             avctx->frame_number++;
1232     }else
1233         ret= 0;
1234
1235     return ret;
1236 }
1237
1238 #if FF_API_OLD_DECODE_AUDIO
1239 int attribute_align_arg avcodec_decode_audio3(AVCodecContext *avctx, int16_t *samples,
1240                          int *frame_size_ptr,
1241                          AVPacket *avpkt)
1242 {
1243     AVFrame frame;
1244     int ret, got_frame = 0;
1245
1246     if (avctx->get_buffer != avcodec_default_get_buffer) {
1247         av_log(avctx, AV_LOG_ERROR, "Custom get_buffer() for use with"
1248                "avcodec_decode_audio3() detected. Overriding with avcodec_default_get_buffer\n");
1249         av_log(avctx, AV_LOG_ERROR, "Please port your application to "
1250                "avcodec_decode_audio4()\n");
1251         avctx->get_buffer = avcodec_default_get_buffer;
1252     }
1253
1254     ret = avcodec_decode_audio4(avctx, &frame, &got_frame, avpkt);
1255
1256     if (ret >= 0 && got_frame) {
1257         int ch, plane_size;
1258         int planar = av_sample_fmt_is_planar(avctx->sample_fmt);
1259         int data_size = av_samples_get_buffer_size(&plane_size, avctx->channels,
1260                                                    frame.nb_samples,
1261                                                    avctx->sample_fmt, 1);
1262         if (*frame_size_ptr < data_size) {
1263             av_log(avctx, AV_LOG_ERROR, "output buffer size is too small for "
1264                    "the current frame (%d < %d)\n", *frame_size_ptr, data_size);
1265             return AVERROR(EINVAL);
1266         }
1267
1268         memcpy(samples, frame.extended_data[0], plane_size);
1269
1270         if (planar && avctx->channels > 1) {
1271             uint8_t *out = ((uint8_t *)samples) + plane_size;
1272             for (ch = 1; ch < avctx->channels; ch++) {
1273                 memcpy(out, frame.extended_data[ch], plane_size);
1274                 out += plane_size;
1275             }
1276         }
1277         *frame_size_ptr = data_size;
1278     } else {
1279         *frame_size_ptr = 0;
1280     }
1281     return ret;
1282 }
1283 #endif
1284
1285 int attribute_align_arg avcodec_decode_audio4(AVCodecContext *avctx,
1286                                               AVFrame *frame,
1287                                               int *got_frame_ptr,
1288                                               AVPacket *avpkt)
1289 {
1290     int ret = 0;
1291
1292     *got_frame_ptr = 0;
1293
1294     avctx->pkt = avpkt;
1295
1296     if (!avpkt->data && avpkt->size) {
1297         av_log(avctx, AV_LOG_ERROR, "invalid packet: NULL data, size != 0\n");
1298         return AVERROR(EINVAL);
1299     }
1300
1301     apply_param_change(avctx, avpkt);
1302
1303     if ((avctx->codec->capabilities & CODEC_CAP_DELAY) || avpkt->size) {
1304         ret = avctx->codec->decode(avctx, frame, got_frame_ptr, avpkt);
1305         if (ret >= 0 && *got_frame_ptr) {
1306             avctx->frame_number++;
1307             frame->pkt_dts = avpkt->dts;
1308             if (frame->format == AV_SAMPLE_FMT_NONE)
1309                 frame->format = avctx->sample_fmt;
1310         }
1311     }
1312     return ret;
1313 }
1314
1315 int avcodec_decode_subtitle2(AVCodecContext *avctx, AVSubtitle *sub,
1316                             int *got_sub_ptr,
1317                             AVPacket *avpkt)
1318 {
1319     int ret;
1320
1321     avctx->pkt = avpkt;
1322     *got_sub_ptr = 0;
1323     ret = avctx->codec->decode(avctx, sub, got_sub_ptr, avpkt);
1324     if (*got_sub_ptr)
1325         avctx->frame_number++;
1326     return ret;
1327 }
1328
1329 void avsubtitle_free(AVSubtitle *sub)
1330 {
1331     int i;
1332
1333     for (i = 0; i < sub->num_rects; i++)
1334     {
1335         av_freep(&sub->rects[i]->pict.data[0]);
1336         av_freep(&sub->rects[i]->pict.data[1]);
1337         av_freep(&sub->rects[i]->pict.data[2]);
1338         av_freep(&sub->rects[i]->pict.data[3]);
1339         av_freep(&sub->rects[i]->text);
1340         av_freep(&sub->rects[i]->ass);
1341         av_freep(&sub->rects[i]);
1342     }
1343
1344     av_freep(&sub->rects);
1345
1346     memset(sub, 0, sizeof(AVSubtitle));
1347 }
1348
1349 av_cold int avcodec_close(AVCodecContext *avctx)
1350 {
1351     /* If there is a user-supplied mutex locking routine, call it. */
1352     if (ff_lockmgr_cb) {
1353         if ((*ff_lockmgr_cb)(&codec_mutex, AV_LOCK_OBTAIN))
1354             return -1;
1355     }
1356
1357     entangled_thread_counter++;
1358     if(entangled_thread_counter != 1){
1359         av_log(avctx, AV_LOG_ERROR, "insufficient thread locking around avcodec_open/close()\n");
1360         entangled_thread_counter--;
1361         return -1;
1362     }
1363
1364     if (avcodec_is_open(avctx)) {
1365         if (HAVE_THREADS && avctx->thread_opaque)
1366             ff_thread_free(avctx);
1367         if (avctx->codec && avctx->codec->close)
1368             avctx->codec->close(avctx);
1369         avcodec_default_free_buffers(avctx);
1370         avctx->coded_frame = NULL;
1371         av_freep(&avctx->internal);
1372     }
1373
1374     if (avctx->priv_data && avctx->codec && avctx->codec->priv_class)
1375         av_opt_free(avctx->priv_data);
1376     av_opt_free(avctx);
1377     av_freep(&avctx->priv_data);
1378     if (codec_is_encoder(avctx->codec))
1379         av_freep(&avctx->extradata);
1380     avctx->codec = NULL;
1381     avctx->active_thread_type = 0;
1382     entangled_thread_counter--;
1383
1384     /* Release any user-supplied mutex. */
1385     if (ff_lockmgr_cb) {
1386         (*ff_lockmgr_cb)(&codec_mutex, AV_LOCK_RELEASE);
1387     }
1388     return 0;
1389 }
1390
1391 AVCodec *avcodec_find_encoder(enum CodecID id)
1392 {
1393     AVCodec *p, *experimental=NULL;
1394     p = first_avcodec;
1395     while (p) {
1396         if (codec_is_encoder(p) && p->id == id) {
1397             if (p->capabilities & CODEC_CAP_EXPERIMENTAL && !experimental) {
1398                 experimental = p;
1399             } else
1400                 return p;
1401         }
1402         p = p->next;
1403     }
1404     return experimental;
1405 }
1406
1407 AVCodec *avcodec_find_encoder_by_name(const char *name)
1408 {
1409     AVCodec *p;
1410     if (!name)
1411         return NULL;
1412     p = first_avcodec;
1413     while (p) {
1414         if (codec_is_encoder(p) && strcmp(name,p->name) == 0)
1415             return p;
1416         p = p->next;
1417     }
1418     return NULL;
1419 }
1420
1421 AVCodec *avcodec_find_decoder(enum CodecID id)
1422 {
1423     AVCodec *p;
1424     p = first_avcodec;
1425     while (p) {
1426         if (codec_is_decoder(p) && p->id == id)
1427             return p;
1428         p = p->next;
1429     }
1430     return NULL;
1431 }
1432
1433 AVCodec *avcodec_find_decoder_by_name(const char *name)
1434 {
1435     AVCodec *p;
1436     if (!name)
1437         return NULL;
1438     p = first_avcodec;
1439     while (p) {
1440         if (codec_is_decoder(p) && strcmp(name,p->name) == 0)
1441             return p;
1442         p = p->next;
1443     }
1444     return NULL;
1445 }
1446
1447 static int get_bit_rate(AVCodecContext *ctx)
1448 {
1449     int bit_rate;
1450     int bits_per_sample;
1451
1452     switch(ctx->codec_type) {
1453     case AVMEDIA_TYPE_VIDEO:
1454     case AVMEDIA_TYPE_DATA:
1455     case AVMEDIA_TYPE_SUBTITLE:
1456     case AVMEDIA_TYPE_ATTACHMENT:
1457         bit_rate = ctx->bit_rate;
1458         break;
1459     case AVMEDIA_TYPE_AUDIO:
1460         bits_per_sample = av_get_bits_per_sample(ctx->codec_id);
1461         bit_rate = bits_per_sample ? ctx->sample_rate * ctx->channels * bits_per_sample : ctx->bit_rate;
1462         break;
1463     default:
1464         bit_rate = 0;
1465         break;
1466     }
1467     return bit_rate;
1468 }
1469
1470 size_t av_get_codec_tag_string(char *buf, size_t buf_size, unsigned int codec_tag)
1471 {
1472     int i, len, ret = 0;
1473
1474     for (i = 0; i < 4; i++) {
1475         len = snprintf(buf, buf_size,
1476                        isprint(codec_tag&0xFF) ? "%c" : "[%d]", codec_tag&0xFF);
1477         buf      += len;
1478         buf_size  = buf_size > len ? buf_size - len : 0;
1479         ret      += len;
1480         codec_tag>>=8;
1481     }
1482     return ret;
1483 }
1484
1485 void avcodec_string(char *buf, int buf_size, AVCodecContext *enc, int encode)
1486 {
1487     const char *codec_name;
1488     const char *profile = NULL;
1489     AVCodec *p;
1490     char buf1[32];
1491     int bitrate;
1492     AVRational display_aspect_ratio;
1493
1494     if (encode)
1495         p = avcodec_find_encoder(enc->codec_id);
1496     else
1497         p = avcodec_find_decoder(enc->codec_id);
1498
1499     if (p) {
1500         codec_name = p->name;
1501         profile = av_get_profile_name(p, enc->profile);
1502     } else if (enc->codec_id == CODEC_ID_MPEG2TS) {
1503         /* fake mpeg2 transport stream codec (currently not
1504            registered) */
1505         codec_name = "mpeg2ts";
1506     } else if (enc->codec_name[0] != '\0') {
1507         codec_name = enc->codec_name;
1508     } else {
1509         /* output avi tags */
1510         char tag_buf[32];
1511         av_get_codec_tag_string(tag_buf, sizeof(tag_buf), enc->codec_tag);
1512         snprintf(buf1, sizeof(buf1), "%s / 0x%04X", tag_buf, enc->codec_tag);
1513         codec_name = buf1;
1514     }
1515
1516     switch(enc->codec_type) {
1517     case AVMEDIA_TYPE_VIDEO:
1518         snprintf(buf, buf_size,
1519                  "Video: %s%s",
1520                  codec_name, enc->mb_decision ? " (hq)" : "");
1521         if (profile)
1522             snprintf(buf + strlen(buf), buf_size - strlen(buf),
1523                      " (%s)", profile);
1524         if (enc->pix_fmt != PIX_FMT_NONE) {
1525             snprintf(buf + strlen(buf), buf_size - strlen(buf),
1526                      ", %s",
1527                      av_get_pix_fmt_name(enc->pix_fmt));
1528         }
1529         if (enc->width) {
1530             snprintf(buf + strlen(buf), buf_size - strlen(buf),
1531                      ", %dx%d",
1532                      enc->width, enc->height);
1533             if (enc->sample_aspect_ratio.num) {
1534                 av_reduce(&display_aspect_ratio.num, &display_aspect_ratio.den,
1535                           enc->width*enc->sample_aspect_ratio.num,
1536                           enc->height*enc->sample_aspect_ratio.den,
1537                           1024*1024);
1538                 snprintf(buf + strlen(buf), buf_size - strlen(buf),
1539                          " [PAR %d:%d DAR %d:%d]",
1540                          enc->sample_aspect_ratio.num, enc->sample_aspect_ratio.den,
1541                          display_aspect_ratio.num, display_aspect_ratio.den);
1542             }
1543             if(av_log_get_level() >= AV_LOG_DEBUG){
1544                 int g= av_gcd(enc->time_base.num, enc->time_base.den);
1545                 snprintf(buf + strlen(buf), buf_size - strlen(buf),
1546                      ", %d/%d",
1547                      enc->time_base.num/g, enc->time_base.den/g);
1548             }
1549         }
1550         if (encode) {
1551             snprintf(buf + strlen(buf), buf_size - strlen(buf),
1552                      ", q=%d-%d", enc->qmin, enc->qmax);
1553         }
1554         break;
1555     case AVMEDIA_TYPE_AUDIO:
1556         snprintf(buf, buf_size,
1557                  "Audio: %s",
1558                  codec_name);
1559         if (profile)
1560             snprintf(buf + strlen(buf), buf_size - strlen(buf),
1561                      " (%s)", profile);
1562         if (enc->sample_rate) {
1563             snprintf(buf + strlen(buf), buf_size - strlen(buf),
1564                      ", %d Hz", enc->sample_rate);
1565         }
1566         av_strlcat(buf, ", ", buf_size);
1567         av_get_channel_layout_string(buf + strlen(buf), buf_size - strlen(buf), enc->channels, enc->channel_layout);
1568         if (enc->sample_fmt != AV_SAMPLE_FMT_NONE) {
1569             snprintf(buf + strlen(buf), buf_size - strlen(buf),
1570                      ", %s", av_get_sample_fmt_name(enc->sample_fmt));
1571         }
1572         break;
1573     case AVMEDIA_TYPE_DATA:
1574         snprintf(buf, buf_size, "Data: %s", codec_name);
1575         break;
1576     case AVMEDIA_TYPE_SUBTITLE:
1577         snprintf(buf, buf_size, "Subtitle: %s", codec_name);
1578         break;
1579     case AVMEDIA_TYPE_ATTACHMENT:
1580         snprintf(buf, buf_size, "Attachment: %s", codec_name);
1581         break;
1582     default:
1583         snprintf(buf, buf_size, "Invalid Codec type %d", enc->codec_type);
1584         return;
1585     }
1586     if (encode) {
1587         if (enc->flags & CODEC_FLAG_PASS1)
1588             snprintf(buf + strlen(buf), buf_size - strlen(buf),
1589                      ", pass 1");
1590         if (enc->flags & CODEC_FLAG_PASS2)
1591             snprintf(buf + strlen(buf), buf_size - strlen(buf),
1592                      ", pass 2");
1593     }
1594     bitrate = get_bit_rate(enc);
1595     if (bitrate != 0) {
1596         snprintf(buf + strlen(buf), buf_size - strlen(buf),
1597                  ", %d kb/s", bitrate / 1000);
1598     }
1599 }
1600
1601 const char *av_get_profile_name(const AVCodec *codec, int profile)
1602 {
1603     const AVProfile *p;
1604     if (profile == FF_PROFILE_UNKNOWN || !codec->profiles)
1605         return NULL;
1606
1607     for (p = codec->profiles; p->profile != FF_PROFILE_UNKNOWN; p++)
1608         if (p->profile == profile)
1609             return p->name;
1610
1611     return NULL;
1612 }
1613
1614 unsigned avcodec_version( void )
1615 {
1616   return LIBAVCODEC_VERSION_INT;
1617 }
1618
1619 const char *avcodec_configuration(void)
1620 {
1621     return LIBAV_CONFIGURATION;
1622 }
1623
1624 const char *avcodec_license(void)
1625 {
1626 #define LICENSE_PREFIX "libavcodec license: "
1627     return LICENSE_PREFIX LIBAV_LICENSE + sizeof(LICENSE_PREFIX) - 1;
1628 }
1629
1630 void avcodec_flush_buffers(AVCodecContext *avctx)
1631 {
1632     if(HAVE_THREADS && avctx->active_thread_type&FF_THREAD_FRAME)
1633         ff_thread_flush(avctx);
1634     else if(avctx->codec->flush)
1635         avctx->codec->flush(avctx);
1636 }
1637
1638 static void video_free_buffers(AVCodecContext *s)
1639 {
1640     AVCodecInternal *avci = s->internal;
1641     int i, j;
1642
1643     if (!avci->buffer)
1644         return;
1645
1646     if (avci->buffer_count)
1647         av_log(s, AV_LOG_WARNING, "Found %i unreleased buffers!\n",
1648                avci->buffer_count);
1649     for(i=0; i<INTERNAL_BUFFER_SIZE; i++){
1650         InternalBuffer *buf = &avci->buffer[i];
1651         for(j=0; j<4; j++){
1652             av_freep(&buf->base[j]);
1653             buf->data[j]= NULL;
1654         }
1655     }
1656     av_freep(&avci->buffer);
1657
1658     avci->buffer_count=0;
1659 }
1660
1661 static void audio_free_buffers(AVCodecContext *avctx)
1662 {
1663     AVCodecInternal *avci = avctx->internal;
1664     InternalBuffer *buf;
1665
1666     if (!avci->buffer)
1667         return;
1668     buf = avci->buffer;
1669
1670     if (buf->extended_data) {
1671         av_free(buf->extended_data[0]);
1672         if (buf->extended_data != buf->data)
1673             av_free(buf->extended_data);
1674     }
1675     av_freep(&avci->buffer);
1676 }
1677
1678 void avcodec_default_free_buffers(AVCodecContext *avctx)
1679 {
1680     switch (avctx->codec_type) {
1681     case AVMEDIA_TYPE_VIDEO:
1682         video_free_buffers(avctx);
1683         break;
1684     case AVMEDIA_TYPE_AUDIO:
1685         audio_free_buffers(avctx);
1686         break;
1687     default:
1688         break;
1689     }
1690 }
1691
1692 int av_get_bits_per_sample(enum CodecID codec_id){
1693     switch(codec_id){
1694     case CODEC_ID_ADPCM_SBPRO_2:
1695         return 2;
1696     case CODEC_ID_ADPCM_SBPRO_3:
1697         return 3;
1698     case CODEC_ID_ADPCM_SBPRO_4:
1699     case CODEC_ID_ADPCM_CT:
1700     case CODEC_ID_ADPCM_IMA_APC:
1701     case CODEC_ID_ADPCM_IMA_WAV:
1702     case CODEC_ID_ADPCM_IMA_QT:
1703     case CODEC_ID_ADPCM_SWF:
1704     case CODEC_ID_ADPCM_MS:
1705     case CODEC_ID_ADPCM_YAMAHA:
1706     case CODEC_ID_ADPCM_G722:
1707         return 4;
1708     case CODEC_ID_PCM_ALAW:
1709     case CODEC_ID_PCM_MULAW:
1710     case CODEC_ID_PCM_S8:
1711     case CODEC_ID_PCM_U8:
1712     case CODEC_ID_PCM_ZORK:
1713         return 8;
1714     case CODEC_ID_PCM_S16BE:
1715     case CODEC_ID_PCM_S16LE:
1716     case CODEC_ID_PCM_S16LE_PLANAR:
1717     case CODEC_ID_PCM_U16BE:
1718     case CODEC_ID_PCM_U16LE:
1719         return 16;
1720     case CODEC_ID_PCM_S24DAUD:
1721     case CODEC_ID_PCM_S24BE:
1722     case CODEC_ID_PCM_S24LE:
1723     case CODEC_ID_PCM_U24BE:
1724     case CODEC_ID_PCM_U24LE:
1725         return 24;
1726     case CODEC_ID_PCM_S32BE:
1727     case CODEC_ID_PCM_S32LE:
1728     case CODEC_ID_PCM_U32BE:
1729     case CODEC_ID_PCM_U32LE:
1730     case CODEC_ID_PCM_F32BE:
1731     case CODEC_ID_PCM_F32LE:
1732         return 32;
1733     case CODEC_ID_PCM_F64BE:
1734     case CODEC_ID_PCM_F64LE:
1735         return 64;
1736     default:
1737         return 0;
1738     }
1739 }
1740
1741 #if !HAVE_THREADS
1742 int ff_thread_init(AVCodecContext *s){
1743     return -1;
1744 }
1745 #endif
1746
1747 unsigned int av_xiphlacing(unsigned char *s, unsigned int v)
1748 {
1749     unsigned int n = 0;
1750
1751     while(v >= 0xff) {
1752         *s++ = 0xff;
1753         v -= 0xff;
1754         n++;
1755     }
1756     *s = v;
1757     n++;
1758     return n;
1759 }
1760
1761 int ff_match_2uint16(const uint16_t (*tab)[2], int size, int a, int b){
1762     int i;
1763     for(i=0; i<size && !(tab[i][0]==a && tab[i][1]==b); i++);
1764     return i;
1765 }
1766
1767 void av_log_missing_feature(void *avc, const char *feature, int want_sample)
1768 {
1769     av_log(avc, AV_LOG_WARNING, "%s not implemented. Update your Libav "
1770             "version to the newest one from Git. If the problem still "
1771             "occurs, it means that your file has a feature which has not "
1772             "been implemented.\n", feature);
1773     if(want_sample)
1774         av_log_ask_for_sample(avc, NULL);
1775 }
1776
1777 void av_log_ask_for_sample(void *avc, const char *msg, ...)
1778 {
1779     va_list argument_list;
1780
1781     va_start(argument_list, msg);
1782
1783     if (msg)
1784         av_vlog(avc, AV_LOG_WARNING, msg, argument_list);
1785     av_log(avc, AV_LOG_WARNING, "If you want to help, upload a sample "
1786             "of this file to ftp://upload.libav.org/incoming/ "
1787             "and contact the libav-devel mailing list.\n");
1788
1789     va_end(argument_list);
1790 }
1791
1792 static AVHWAccel *first_hwaccel = NULL;
1793
1794 void av_register_hwaccel(AVHWAccel *hwaccel)
1795 {
1796     AVHWAccel **p = &first_hwaccel;
1797     while (*p)
1798         p = &(*p)->next;
1799     *p = hwaccel;
1800     hwaccel->next = NULL;
1801 }
1802
1803 AVHWAccel *av_hwaccel_next(AVHWAccel *hwaccel)
1804 {
1805     return hwaccel ? hwaccel->next : first_hwaccel;
1806 }
1807
1808 AVHWAccel *ff_find_hwaccel(enum CodecID codec_id, enum PixelFormat pix_fmt)
1809 {
1810     AVHWAccel *hwaccel=NULL;
1811
1812     while((hwaccel= av_hwaccel_next(hwaccel))){
1813         if (   hwaccel->id      == codec_id
1814             && hwaccel->pix_fmt == pix_fmt)
1815             return hwaccel;
1816     }
1817     return NULL;
1818 }
1819
1820 int av_lockmgr_register(int (*cb)(void **mutex, enum AVLockOp op))
1821 {
1822     if (ff_lockmgr_cb) {
1823         if (ff_lockmgr_cb(&codec_mutex, AV_LOCK_DESTROY))
1824             return -1;
1825         if (ff_lockmgr_cb(&avformat_mutex, AV_LOCK_DESTROY))
1826             return -1;
1827     }
1828
1829     ff_lockmgr_cb = cb;
1830
1831     if (ff_lockmgr_cb) {
1832         if (ff_lockmgr_cb(&codec_mutex, AV_LOCK_CREATE))
1833             return -1;
1834         if (ff_lockmgr_cb(&avformat_mutex, AV_LOCK_CREATE))
1835             return -1;
1836     }
1837     return 0;
1838 }
1839
1840 int avpriv_lock_avformat(void)
1841 {
1842     if (ff_lockmgr_cb) {
1843         if ((*ff_lockmgr_cb)(&avformat_mutex, AV_LOCK_OBTAIN))
1844             return -1;
1845     }
1846     return 0;
1847 }
1848
1849 int avpriv_unlock_avformat(void)
1850 {
1851     if (ff_lockmgr_cb) {
1852         if ((*ff_lockmgr_cb)(&avformat_mutex, AV_LOCK_RELEASE))
1853             return -1;
1854     }
1855     return 0;
1856 }
1857
1858 unsigned int avpriv_toupper4(unsigned int x)
1859 {
1860     return     toupper( x     &0xFF)
1861             + (toupper((x>>8 )&0xFF)<<8 )
1862             + (toupper((x>>16)&0xFF)<<16)
1863             + (toupper((x>>24)&0xFF)<<24);
1864 }
1865
1866 #if !HAVE_THREADS
1867
1868 int ff_thread_get_buffer(AVCodecContext *avctx, AVFrame *f)
1869 {
1870     f->owner = avctx;
1871     return avctx->get_buffer(avctx, f);
1872 }
1873
1874 void ff_thread_release_buffer(AVCodecContext *avctx, AVFrame *f)
1875 {
1876     f->owner->release_buffer(f->owner, f);
1877 }
1878
1879 void ff_thread_finish_setup(AVCodecContext *avctx)
1880 {
1881 }
1882
1883 void ff_thread_report_progress(AVFrame *f, int progress, int field)
1884 {
1885 }
1886
1887 void ff_thread_await_progress(AVFrame *f, int progress, int field)
1888 {
1889 }
1890
1891 #endif
1892
1893 enum AVMediaType avcodec_get_type(enum CodecID codec_id)
1894 {
1895     if (codec_id <= CODEC_ID_NONE)
1896         return AVMEDIA_TYPE_UNKNOWN;
1897     else if (codec_id < CODEC_ID_FIRST_AUDIO)
1898         return AVMEDIA_TYPE_VIDEO;
1899     else if (codec_id < CODEC_ID_FIRST_SUBTITLE)
1900         return AVMEDIA_TYPE_AUDIO;
1901     else if (codec_id < CODEC_ID_FIRST_UNKNOWN)
1902         return AVMEDIA_TYPE_SUBTITLE;
1903
1904     return AVMEDIA_TYPE_UNKNOWN;
1905 }
1906
1907 int avcodec_is_open(AVCodecContext *s)
1908 {
1909     return !!s->internal;
1910 }