matroskaenc: check cue point validity before reallocation
[ffmpeg.git] / libavformat / flvdec.c
1 /*
2  * FLV demuxer
3  * Copyright (c) 2003 The Libav Project
4  *
5  * This demuxer will generate a 1 byte extradata for VP6F content.
6  * It is composed of:
7  *  - upper 4bits: difference between encoded width and visible width
8  *  - lower 4bits: difference between encoded height and visible height
9  *
10  * This file is part of Libav.
11  *
12  * Libav is free software; you can redistribute it and/or
13  * modify it under the terms of the GNU Lesser General Public
14  * License as published by the Free Software Foundation; either
15  * version 2.1 of the License, or (at your option) any later version.
16  *
17  * Libav is distributed in the hope that it will be useful,
18  * but WITHOUT ANY WARRANTY; without even the implied warranty of
19  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
20  * Lesser General Public License for more details.
21  *
22  * You should have received a copy of the GNU Lesser General Public
23  * License along with Libav; if not, write to the Free Software
24  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
25  */
26
27 #include "libavutil/avstring.h"
28 #include "libavutil/dict.h"
29 #include "libavutil/opt.h"
30 #include "libavutil/intfloat.h"
31 #include "libavutil/mathematics.h"
32 #include "libavcodec/bytestream.h"
33 #include "libavcodec/mpeg4audio.h"
34 #include "avformat.h"
35 #include "internal.h"
36 #include "avio_internal.h"
37 #include "flv.h"
38
39 #define KEYFRAMES_TAG            "keyframes"
40 #define KEYFRAMES_TIMESTAMP_TAG  "times"
41 #define KEYFRAMES_BYTEOFFSET_TAG "filepositions"
42
43 #define VALIDATE_INDEX_TS_THRESH 2500
44
45 typedef struct {
46     const AVClass *class; ///< Class for private options.
47     int trust_metadata; ///< configure streams according onMetaData
48     int wrong_dts; ///< wrong dts due to negative cts
49     uint8_t *new_extradata[2];
50     int      new_extradata_size[2];
51     int      last_sample_rate;
52     int      last_channels;
53     struct {
54         int64_t dts;
55         int64_t pos;
56     } validate_index[2];
57     int validate_next;
58     int validate_count;
59 } FLVContext;
60
61 static int flv_probe(AVProbeData *p)
62 {
63     const uint8_t *d;
64
65     d = p->buf;
66     if (d[0] == 'F' && d[1] == 'L' && d[2] == 'V' && d[3] < 5 && d[5]==0 && AV_RB32(d+5)>8) {
67         return AVPROBE_SCORE_MAX;
68     }
69     return 0;
70 }
71
72 static AVStream *create_stream(AVFormatContext *s, int codec_type)
73 {
74     AVStream *st = avformat_new_stream(s, NULL);
75     if (!st)
76         return NULL;
77     st->codec->codec_type = codec_type;
78     avpriv_set_pts_info(st, 32, 1, 1000); /* 32 bit pts in ms */
79     return st;
80 }
81 static int flv_same_audio_codec(AVCodecContext *acodec, int flags)
82 {
83     int bits_per_coded_sample = (flags & FLV_AUDIO_SAMPLESIZE_MASK) ? 16 : 8;
84     int flv_codecid = flags & FLV_AUDIO_CODECID_MASK;
85     int codec_id;
86
87     if (!acodec->codec_id && !acodec->codec_tag)
88         return 1;
89
90     if (acodec->bits_per_coded_sample != bits_per_coded_sample)
91         return 0;
92
93     switch(flv_codecid) {
94         //no distinction between S16 and S8 PCM codec flags
95     case FLV_CODECID_PCM:
96         codec_id = bits_per_coded_sample == 8 ? AV_CODEC_ID_PCM_U8 :
97 #if HAVE_BIGENDIAN
98                             AV_CODEC_ID_PCM_S16BE;
99 #else
100                             AV_CODEC_ID_PCM_S16LE;
101 #endif
102         return codec_id == acodec->codec_id;
103     case FLV_CODECID_PCM_LE:
104         codec_id = bits_per_coded_sample == 8 ? AV_CODEC_ID_PCM_U8 : AV_CODEC_ID_PCM_S16LE;
105         return codec_id == acodec->codec_id;
106     case FLV_CODECID_AAC:
107         return acodec->codec_id == AV_CODEC_ID_AAC;
108     case FLV_CODECID_ADPCM:
109         return acodec->codec_id == AV_CODEC_ID_ADPCM_SWF;
110     case FLV_CODECID_SPEEX:
111         return acodec->codec_id == AV_CODEC_ID_SPEEX;
112     case FLV_CODECID_MP3:
113         return acodec->codec_id == AV_CODEC_ID_MP3;
114     case FLV_CODECID_NELLYMOSER_8KHZ_MONO:
115     case FLV_CODECID_NELLYMOSER_16KHZ_MONO:
116     case FLV_CODECID_NELLYMOSER:
117         return acodec->codec_id == AV_CODEC_ID_NELLYMOSER;
118     case FLV_CODECID_PCM_MULAW:
119         return acodec->sample_rate == 8000 &&
120                acodec->codec_id == AV_CODEC_ID_PCM_MULAW;
121     case FLV_CODECID_PCM_ALAW:
122         return acodec->sample_rate = 8000 &&
123                acodec->codec_id == AV_CODEC_ID_PCM_ALAW;
124     default:
125         return acodec->codec_tag == (flv_codecid >> FLV_AUDIO_CODECID_OFFSET);
126     }
127
128     return 0;
129 }
130
131 static void flv_set_audio_codec(AVFormatContext *s, AVStream *astream, AVCodecContext *acodec, int flv_codecid) {
132     switch(flv_codecid) {
133         //no distinction between S16 and S8 PCM codec flags
134         case FLV_CODECID_PCM:
135             acodec->codec_id = acodec->bits_per_coded_sample == 8 ? AV_CODEC_ID_PCM_U8 :
136 #if HAVE_BIGENDIAN
137                                 AV_CODEC_ID_PCM_S16BE;
138 #else
139                                 AV_CODEC_ID_PCM_S16LE;
140 #endif
141             break;
142         case FLV_CODECID_PCM_LE:
143             acodec->codec_id = acodec->bits_per_coded_sample == 8 ? AV_CODEC_ID_PCM_U8 : AV_CODEC_ID_PCM_S16LE; break;
144         case FLV_CODECID_AAC  : acodec->codec_id = AV_CODEC_ID_AAC;                                    break;
145         case FLV_CODECID_ADPCM: acodec->codec_id = AV_CODEC_ID_ADPCM_SWF;                              break;
146         case FLV_CODECID_SPEEX:
147             acodec->codec_id = AV_CODEC_ID_SPEEX;
148             acodec->sample_rate = 16000;
149             break;
150         case FLV_CODECID_MP3  : acodec->codec_id = AV_CODEC_ID_MP3      ; astream->need_parsing = AVSTREAM_PARSE_FULL; break;
151         case FLV_CODECID_NELLYMOSER_8KHZ_MONO:
152             acodec->sample_rate = 8000; //in case metadata does not otherwise declare samplerate
153             acodec->codec_id = AV_CODEC_ID_NELLYMOSER;
154             break;
155         case FLV_CODECID_NELLYMOSER_16KHZ_MONO:
156             acodec->sample_rate = 16000;
157             acodec->codec_id = AV_CODEC_ID_NELLYMOSER;
158             break;
159         case FLV_CODECID_NELLYMOSER:
160             acodec->codec_id = AV_CODEC_ID_NELLYMOSER;
161             break;
162         case FLV_CODECID_PCM_MULAW:
163             acodec->sample_rate = 8000;
164             acodec->codec_id = AV_CODEC_ID_PCM_MULAW;
165             break;
166         case FLV_CODECID_PCM_ALAW:
167             acodec->sample_rate = 8000;
168             acodec->codec_id = AV_CODEC_ID_PCM_ALAW;
169             break;
170         default:
171             av_log(s, AV_LOG_INFO, "Unsupported audio codec (%x)\n", flv_codecid >> FLV_AUDIO_CODECID_OFFSET);
172             acodec->codec_tag = flv_codecid >> FLV_AUDIO_CODECID_OFFSET;
173     }
174 }
175
176 static int flv_same_video_codec(AVCodecContext *vcodec, int flags)
177 {
178     int flv_codecid = flags & FLV_VIDEO_CODECID_MASK;
179
180     if (!vcodec->codec_id && !vcodec->codec_tag)
181         return 1;
182
183     switch (flv_codecid) {
184         case FLV_CODECID_H263:
185             return vcodec->codec_id == AV_CODEC_ID_FLV1;
186         case FLV_CODECID_SCREEN:
187             return vcodec->codec_id == AV_CODEC_ID_FLASHSV;
188         case FLV_CODECID_SCREEN2:
189             return vcodec->codec_id == AV_CODEC_ID_FLASHSV2;
190         case FLV_CODECID_VP6:
191             return vcodec->codec_id == AV_CODEC_ID_VP6F;
192         case FLV_CODECID_VP6A:
193             return vcodec->codec_id == AV_CODEC_ID_VP6A;
194         case FLV_CODECID_H264:
195             return vcodec->codec_id == AV_CODEC_ID_H264;
196         default:
197             return vcodec->codec_tag == flv_codecid;
198     }
199
200     return 0;
201 }
202
203 static int flv_set_video_codec(AVFormatContext *s, AVStream *vstream, int flv_codecid) {
204     AVCodecContext *vcodec = vstream->codec;
205     switch(flv_codecid) {
206         case FLV_CODECID_H263  : vcodec->codec_id = AV_CODEC_ID_FLV1   ; break;
207         case FLV_CODECID_SCREEN: vcodec->codec_id = AV_CODEC_ID_FLASHSV; break;
208         case FLV_CODECID_SCREEN2: vcodec->codec_id = AV_CODEC_ID_FLASHSV2; break;
209         case FLV_CODECID_VP6   : vcodec->codec_id = AV_CODEC_ID_VP6F   ;
210         case FLV_CODECID_VP6A  :
211             if(flv_codecid == FLV_CODECID_VP6A)
212                 vcodec->codec_id = AV_CODEC_ID_VP6A;
213             if(vcodec->extradata_size != 1) {
214                 vcodec->extradata_size = 1;
215                 vcodec->extradata = av_malloc(1);
216             }
217             vcodec->extradata[0] = avio_r8(s->pb);
218             return 1; // 1 byte body size adjustment for flv_read_packet()
219         case FLV_CODECID_H264:
220             vcodec->codec_id = AV_CODEC_ID_H264;
221             return 3; // not 4, reading packet type will consume one byte
222         default:
223             av_log(s, AV_LOG_INFO, "Unsupported video codec (%x)\n", flv_codecid);
224             vcodec->codec_tag = flv_codecid;
225     }
226
227     return 0;
228 }
229
230 static int amf_get_string(AVIOContext *ioc, char *buffer, int buffsize) {
231     int length = avio_rb16(ioc);
232     if(length >= buffsize) {
233         avio_skip(ioc, length);
234         return -1;
235     }
236
237     avio_read(ioc, buffer, length);
238
239     buffer[length] = '\0';
240
241     return length;
242 }
243
244 static int parse_keyframes_index(AVFormatContext *s, AVIOContext *ioc, AVStream *vstream, int64_t max_pos) {
245     FLVContext *flv = s->priv_data;
246     unsigned int arraylen = 0, timeslen = 0, fileposlen = 0, i;
247     double num_val;
248     char str_val[256];
249     int64_t *times = NULL;
250     int64_t *filepositions = NULL;
251     int ret = AVERROR(ENOSYS);
252     int64_t initial_pos = avio_tell(ioc);
253
254     if (s->flags & AVFMT_FLAG_IGNIDX)
255         return 0;
256
257     while (avio_tell(ioc) < max_pos - 2 && amf_get_string(ioc, str_val, sizeof(str_val)) > 0) {
258         int64_t* current_array;
259
260         // Expect array object in context
261         if (avio_r8(ioc) != AMF_DATA_TYPE_ARRAY)
262             break;
263
264         arraylen = avio_rb32(ioc);
265         if (arraylen >> 28)
266             break;
267
268         /*
269          * Expect only 'times' or 'filepositions' sub-arrays in other case refuse to use such metadata
270          * for indexing
271          */
272         if (!strcmp(KEYFRAMES_TIMESTAMP_TAG, str_val) && !times) {
273             if (!(times = av_mallocz(sizeof(*times) * arraylen))) {
274                 ret = AVERROR(ENOMEM);
275                 goto finish;
276             }
277             timeslen = arraylen;
278             current_array = times;
279         } else if (!strcmp(KEYFRAMES_BYTEOFFSET_TAG, str_val) && !filepositions) {
280             if (!(filepositions = av_mallocz(sizeof(*filepositions) * arraylen))) {
281                 ret = AVERROR(ENOMEM);
282                 goto finish;
283             }
284             fileposlen = arraylen;
285             current_array = filepositions;
286         } else // unexpected metatag inside keyframes, will not use such metadata for indexing
287             break;
288
289         for (i = 0; i < arraylen && avio_tell(ioc) < max_pos - 1; i++) {
290             if (avio_r8(ioc) != AMF_DATA_TYPE_NUMBER)
291                 goto finish;
292             num_val = av_int2double(avio_rb64(ioc));
293             current_array[i] = num_val;
294         }
295         if (times && filepositions) {
296             // All done, exiting at a position allowing amf_parse_object
297             // to finish parsing the object
298             ret = 0;
299             break;
300         }
301     }
302
303     if (!ret && timeslen == fileposlen) {
304         for (i = 0; i < fileposlen; i++) {
305             av_add_index_entry(vstream, filepositions[i], times[i]*1000,
306                                0, 0, AVINDEX_KEYFRAME);
307             if (i < 2) {
308                 flv->validate_index[i].pos = filepositions[i];
309                 flv->validate_index[i].dts = times[i] * 1000;
310                 flv->validate_count = i + 1;
311             }
312         }
313     } else
314         av_log(s, AV_LOG_WARNING, "Invalid keyframes object, skipping.\n");
315
316 finish:
317     av_freep(&times);
318     av_freep(&filepositions);
319     // If we got unexpected data, but successfully reset back to
320     // the start pos, the caller can continue parsing
321     if (ret < 0 && avio_seek(ioc, initial_pos, SEEK_SET) > 0)
322         return 0;
323     return ret;
324 }
325
326 static int amf_parse_object(AVFormatContext *s, AVStream *astream, AVStream *vstream, const char *key, int64_t max_pos, int depth) {
327     AVCodecContext *acodec, *vcodec;
328     FLVContext *flv = s->priv_data;
329     AVIOContext *ioc;
330     AMFDataType amf_type;
331     char str_val[256];
332     double num_val;
333
334     num_val = 0;
335     ioc = s->pb;
336
337     amf_type = avio_r8(ioc);
338
339     switch(amf_type) {
340         case AMF_DATA_TYPE_NUMBER:
341             num_val = av_int2double(avio_rb64(ioc)); break;
342         case AMF_DATA_TYPE_BOOL:
343             num_val = avio_r8(ioc); break;
344         case AMF_DATA_TYPE_STRING:
345             if(amf_get_string(ioc, str_val, sizeof(str_val)) < 0)
346                 return -1;
347             break;
348         case AMF_DATA_TYPE_OBJECT:
349             if ((vstream || astream) && key && !strcmp(KEYFRAMES_TAG, key) && depth == 1)
350                 if (parse_keyframes_index(s, ioc, vstream ? vstream : astream,
351                                           max_pos) < 0)
352                     return -1;
353
354             while (avio_tell(ioc) < max_pos - 2 && amf_get_string(ioc, str_val, sizeof(str_val)) > 0) {
355                 if (amf_parse_object(s, astream, vstream, str_val, max_pos, depth + 1) < 0)
356                     return -1; //if we couldn't skip, bomb out.
357             }
358             if(avio_r8(ioc) != AMF_END_OF_OBJECT)
359                 return -1;
360             break;
361         case AMF_DATA_TYPE_NULL:
362         case AMF_DATA_TYPE_UNDEFINED:
363         case AMF_DATA_TYPE_UNSUPPORTED:
364             break; //these take up no additional space
365         case AMF_DATA_TYPE_MIXEDARRAY:
366             avio_skip(ioc, 4); //skip 32-bit max array index
367             while(avio_tell(ioc) < max_pos - 2 && amf_get_string(ioc, str_val, sizeof(str_val)) > 0) {
368                 //this is the only case in which we would want a nested parse to not skip over the object
369                 if(amf_parse_object(s, astream, vstream, str_val, max_pos, depth + 1) < 0)
370                     return -1;
371             }
372             if(avio_r8(ioc) != AMF_END_OF_OBJECT)
373                 return -1;
374             break;
375         case AMF_DATA_TYPE_ARRAY: {
376             unsigned int arraylen, i;
377
378             arraylen = avio_rb32(ioc);
379             for(i = 0; i < arraylen && avio_tell(ioc) < max_pos - 1; i++) {
380                 if(amf_parse_object(s, NULL, NULL, NULL, max_pos, depth + 1) < 0)
381                     return -1; //if we couldn't skip, bomb out.
382             }
383         }
384             break;
385         case AMF_DATA_TYPE_DATE:
386             avio_skip(ioc, 8 + 2); //timestamp (double) and UTC offset (int16)
387             break;
388         default: //unsupported type, we couldn't skip
389             return -1;
390     }
391
392     if(depth == 1 && key) { //only look for metadata values when we are not nested and key != NULL
393         acodec = astream ? astream->codec : NULL;
394         vcodec = vstream ? vstream->codec : NULL;
395
396         if (amf_type == AMF_DATA_TYPE_NUMBER) {
397             if (!strcmp(key, "duration"))
398                 s->duration = num_val * AV_TIME_BASE;
399             else if (!strcmp(key, "videodatarate") && vcodec && 0 <= (int)(num_val * 1024.0))
400                 vcodec->bit_rate = num_val * 1024.0;
401             else if (!strcmp(key, "audiodatarate") && acodec && 0 <= (int)(num_val * 1024.0))
402                 acodec->bit_rate = num_val * 1024.0;
403             else if (!strcmp(key, "datastream")) {
404                 AVStream *st = create_stream(s, AVMEDIA_TYPE_DATA);
405                 if (!st)
406                     return AVERROR(ENOMEM);
407                 st->codec->codec_id = AV_CODEC_ID_TEXT;
408             } else if (flv->trust_metadata) {
409                 if (!strcmp(key, "videocodecid") && vcodec) {
410                     flv_set_video_codec(s, vstream, num_val);
411                 } else
412                 if (!strcmp(key, "audiocodecid") && acodec) {
413                     flv_set_audio_codec(s, astream, acodec, num_val);
414                 } else
415                 if (!strcmp(key, "audiosamplerate") && acodec) {
416                     acodec->sample_rate = num_val;
417                 } else
418                 if (!strcmp(key, "width") && vcodec) {
419                     vcodec->width = num_val;
420                 } else
421                 if (!strcmp(key, "height") && vcodec) {
422                     vcodec->height = num_val;
423                 }
424             }
425         }
426
427         if (!strcmp(key, "duration")        ||
428             !strcmp(key, "filesize")        ||
429             !strcmp(key, "width")           ||
430             !strcmp(key, "height")          ||
431             !strcmp(key, "videodatarate")   ||
432             !strcmp(key, "framerate")       ||
433             !strcmp(key, "videocodecid")    ||
434             !strcmp(key, "audiodatarate")   ||
435             !strcmp(key, "audiosamplerate") ||
436             !strcmp(key, "audiosamplesize") ||
437             !strcmp(key, "stereo")          ||
438             !strcmp(key, "audiocodecid"))
439             return 0;
440
441         if(amf_type == AMF_DATA_TYPE_BOOL) {
442             av_strlcpy(str_val, num_val > 0 ? "true" : "false", sizeof(str_val));
443             av_dict_set(&s->metadata, key, str_val, 0);
444         } else if(amf_type == AMF_DATA_TYPE_NUMBER) {
445             snprintf(str_val, sizeof(str_val), "%.f", num_val);
446             av_dict_set(&s->metadata, key, str_val, 0);
447         } else if (amf_type == AMF_DATA_TYPE_STRING)
448             av_dict_set(&s->metadata, key, str_val, 0);
449     }
450
451     return 0;
452 }
453
454 static int flv_read_metabody(AVFormatContext *s, int64_t next_pos) {
455     AMFDataType type;
456     AVStream *stream, *astream, *vstream;
457     AVIOContext *ioc;
458     int i;
459     char buffer[11]; //only needs to hold the string "onMetaData". Anything longer is something we don't want.
460
461     astream = NULL;
462     vstream = NULL;
463     ioc = s->pb;
464
465     //first object needs to be "onMetaData" string
466     type = avio_r8(ioc);
467     if (type != AMF_DATA_TYPE_STRING ||
468         amf_get_string(ioc, buffer, sizeof(buffer)) < 0)
469         return -1;
470
471     if (!strcmp(buffer, "onTextData"))
472         return 1;
473
474     if (strcmp(buffer, "onMetaData"))
475         return -1;
476
477     //find the streams now so that amf_parse_object doesn't need to do the lookup every time it is called.
478     for(i = 0; i < s->nb_streams; i++) {
479         stream = s->streams[i];
480         if     (stream->codec->codec_type == AVMEDIA_TYPE_AUDIO) astream = stream;
481         else if(stream->codec->codec_type == AVMEDIA_TYPE_VIDEO) vstream = stream;
482     }
483
484     //parse the second object (we want a mixed array)
485     if(amf_parse_object(s, astream, vstream, buffer, next_pos, 0) < 0)
486         return -1;
487
488     return 0;
489 }
490
491 static int flv_read_header(AVFormatContext *s)
492 {
493     int offset, flags;
494
495     avio_skip(s->pb, 4);
496     flags = avio_r8(s->pb);
497     /* old flvtool cleared this field */
498     /* FIXME: better fix needed */
499     if (!flags) {
500         flags = FLV_HEADER_FLAG_HASVIDEO | FLV_HEADER_FLAG_HASAUDIO;
501         av_log(s, AV_LOG_WARNING, "Broken FLV file, which says no streams present, this might fail\n");
502     }
503
504     s->ctx_flags |= AVFMTCTX_NOHEADER;
505
506     if(flags & FLV_HEADER_FLAG_HASVIDEO){
507         if(!create_stream(s, AVMEDIA_TYPE_VIDEO))
508             return AVERROR(ENOMEM);
509     }
510     if(flags & FLV_HEADER_FLAG_HASAUDIO){
511         if(!create_stream(s, AVMEDIA_TYPE_AUDIO))
512             return AVERROR(ENOMEM);
513     }
514
515     offset = avio_rb32(s->pb);
516     avio_seek(s->pb, offset, SEEK_SET);
517     avio_skip(s->pb, 4);
518
519     s->start_time = 0;
520
521     return 0;
522 }
523
524 static int flv_read_close(AVFormatContext *s)
525 {
526     FLVContext *flv = s->priv_data;
527     av_freep(&flv->new_extradata[0]);
528     av_freep(&flv->new_extradata[1]);
529     return 0;
530 }
531
532 static int flv_get_extradata(AVFormatContext *s, AVStream *st, int size)
533 {
534     av_free(st->codec->extradata);
535     st->codec->extradata = av_mallocz(size + FF_INPUT_BUFFER_PADDING_SIZE);
536     if (!st->codec->extradata)
537         return AVERROR(ENOMEM);
538     st->codec->extradata_size = size;
539     avio_read(s->pb, st->codec->extradata, st->codec->extradata_size);
540     return 0;
541 }
542
543 static int flv_queue_extradata(FLVContext *flv, AVIOContext *pb, int stream,
544                                int size)
545 {
546     av_free(flv->new_extradata[stream]);
547     flv->new_extradata[stream] = av_mallocz(size + FF_INPUT_BUFFER_PADDING_SIZE);
548     if (!flv->new_extradata[stream])
549         return AVERROR(ENOMEM);
550     flv->new_extradata_size[stream] = size;
551     avio_read(pb, flv->new_extradata[stream], size);
552     return 0;
553 }
554
555 static void clear_index_entries(AVFormatContext *s, int64_t pos)
556 {
557     int i, j, out;
558     av_log(s, AV_LOG_WARNING, "Found invalid index entries, clearing the index.\n");
559     for (i = 0; i < s->nb_streams; i++) {
560         AVStream *st = s->streams[i];
561         /* Remove all index entries that point to >= pos */
562         out = 0;
563         for (j = 0; j < st->nb_index_entries; j++) {
564             if (st->index_entries[j].pos < pos)
565                 st->index_entries[out++] = st->index_entries[j];
566         }
567         st->nb_index_entries = out;
568     }
569 }
570
571
572 static int flv_data_packet(AVFormatContext *s, AVPacket *pkt,
573                            int64_t dts, int64_t next)
574 {
575     int ret = AVERROR_INVALIDDATA, i;
576     AVIOContext *pb = s->pb;
577     AVStream *st = NULL;
578     AMFDataType type;
579     char buf[20];
580     int length;
581
582     type = avio_r8(pb);
583     if (type == AMF_DATA_TYPE_MIXEDARRAY)
584         avio_seek(pb, 4, SEEK_CUR);
585     else if (type != AMF_DATA_TYPE_OBJECT)
586         goto out;
587
588     amf_get_string(pb, buf, sizeof(buf));
589     if (strcmp(buf, "type") || avio_r8(pb) != AMF_DATA_TYPE_STRING)
590         goto out;
591
592     amf_get_string(pb, buf, sizeof(buf));
593     //FIXME parse it as codec_id
594     amf_get_string(pb, buf, sizeof(buf));
595     if (strcmp(buf, "text") || avio_r8(pb) != AMF_DATA_TYPE_STRING)
596         goto out;
597
598     length = avio_rb16(pb);
599     ret = av_get_packet(s->pb, pkt, length);
600     if (ret < 0) {
601         ret = AVERROR(EIO);
602         goto out;
603     }
604
605     for (i = 0; i < s->nb_streams; i++) {
606         st = s->streams[i];
607         if (st->codec->codec_type == AVMEDIA_TYPE_DATA)
608             break;
609     }
610
611     if (i == s->nb_streams) {
612         st = create_stream(s, AVMEDIA_TYPE_DATA);
613         if (!st)
614             goto out;
615         st->codec->codec_id = AV_CODEC_ID_TEXT;
616     }
617
618     pkt->dts  = dts;
619     pkt->pts  = dts;
620     pkt->size = ret;
621
622     pkt->stream_index = st->index;
623     pkt->flags |= AV_PKT_FLAG_KEY;
624
625     avio_seek(s->pb, next + 4, SEEK_SET);
626 out:
627     return ret;
628 }
629
630 static int flv_read_packet(AVFormatContext *s, AVPacket *pkt)
631 {
632     FLVContext *flv = s->priv_data;
633     int ret, i, type, size, flags, is_audio;
634     int64_t next, pos;
635     int64_t dts, pts = AV_NOPTS_VALUE;
636     int sample_rate = 0, channels = 0;
637     AVStream *st = NULL;
638
639  for(;;avio_skip(s->pb, 4)){ /* pkt size is repeated at end. skip it */
640     pos = avio_tell(s->pb);
641     type = avio_r8(s->pb);
642     size = avio_rb24(s->pb);
643     dts = avio_rb24(s->pb);
644     dts |= avio_r8(s->pb) << 24;
645     av_dlog(s, "type:%d, size:%d, dts:%"PRId64"\n", type, size, dts);
646     if (s->pb->eof_reached)
647         return AVERROR_EOF;
648     avio_skip(s->pb, 3); /* stream id, always 0 */
649     flags = 0;
650
651     if (flv->validate_next < flv->validate_count) {
652         int64_t validate_pos = flv->validate_index[flv->validate_next].pos;
653         if (pos == validate_pos) {
654             if (FFABS(dts - flv->validate_index[flv->validate_next].dts) <=
655                 VALIDATE_INDEX_TS_THRESH) {
656                 flv->validate_next++;
657             } else {
658                 clear_index_entries(s, validate_pos);
659                 flv->validate_count = 0;
660             }
661         } else if (pos > validate_pos) {
662             clear_index_entries(s, validate_pos);
663             flv->validate_count = 0;
664         }
665     }
666
667     if(size == 0)
668         continue;
669
670     next= size + avio_tell(s->pb);
671
672     if (type == FLV_TAG_TYPE_AUDIO) {
673         is_audio=1;
674         flags = avio_r8(s->pb);
675         size--;
676     } else if (type == FLV_TAG_TYPE_VIDEO) {
677         is_audio=0;
678         flags = avio_r8(s->pb);
679         size--;
680         if ((flags & 0xf0) == 0x50) /* video info / command frame */
681             goto skip;
682     } else {
683         if (type == FLV_TAG_TYPE_META && size > 13+1+4)
684             if (flv_read_metabody(s, next) > 0) {
685                 return flv_data_packet(s, pkt, dts, next);
686             }
687         else /* skip packet */
688             av_log(s, AV_LOG_DEBUG, "skipping flv packet: type %d, size %d, flags %d\n", type, size, flags);
689     skip:
690         avio_seek(s->pb, next, SEEK_SET);
691         continue;
692     }
693
694     /* skip empty data packets */
695     if (!size)
696         continue;
697
698     /* now find stream */
699     for(i=0;i<s->nb_streams;i++) {
700         st = s->streams[i];
701         if (is_audio && st->codec->codec_type == AVMEDIA_TYPE_AUDIO) {
702             if (flv_same_audio_codec(st->codec, flags)) {
703                 break;
704             }
705         } else
706         if (!is_audio && st->codec->codec_type == AVMEDIA_TYPE_VIDEO) {
707             if (flv_same_video_codec(st->codec, flags)) {
708                 break;
709             }
710         }
711     }
712     if(i == s->nb_streams){
713         st = create_stream(s,
714             is_audio ? AVMEDIA_TYPE_AUDIO : AVMEDIA_TYPE_VIDEO);
715     }
716     av_dlog(s, "%d %X %d \n", is_audio, flags, st->discard);
717     if(  (st->discard >= AVDISCARD_NONKEY && !((flags & FLV_VIDEO_FRAMETYPE_MASK) == FLV_FRAME_KEY ||         is_audio))
718        ||(st->discard >= AVDISCARD_BIDIR  &&  ((flags & FLV_VIDEO_FRAMETYPE_MASK) == FLV_FRAME_DISP_INTER && !is_audio))
719        || st->discard >= AVDISCARD_ALL
720        ){
721         avio_seek(s->pb, next, SEEK_SET);
722         continue;
723     }
724     if ((flags & FLV_VIDEO_FRAMETYPE_MASK) == FLV_FRAME_KEY)
725         av_add_index_entry(st, pos, dts, size, 0, AVINDEX_KEYFRAME);
726     break;
727  }
728
729     // if not streamed and no duration from metadata then seek to end to find the duration from the timestamps
730     if(s->pb->seekable && (!s->duration || s->duration==AV_NOPTS_VALUE)){
731         int size;
732         const int64_t pos= avio_tell(s->pb);
733         const int64_t fsize= avio_size(s->pb);
734         avio_seek(s->pb, fsize-4, SEEK_SET);
735         size= avio_rb32(s->pb);
736         avio_seek(s->pb, fsize-3-size, SEEK_SET);
737         if(size == avio_rb24(s->pb) + 11){
738             uint32_t ts = avio_rb24(s->pb);
739             ts |= avio_r8(s->pb) << 24;
740             s->duration = ts * (int64_t)AV_TIME_BASE / 1000;
741         }
742         avio_seek(s->pb, pos, SEEK_SET);
743     }
744
745     if(is_audio){
746         int bits_per_coded_sample;
747         channels    = (flags & FLV_AUDIO_CHANNEL_MASK) == FLV_STEREO ? 2 : 1;
748         sample_rate = (44100 << ((flags & FLV_AUDIO_SAMPLERATE_MASK) >> FLV_AUDIO_SAMPLERATE_OFFSET) >> 3);
749         bits_per_coded_sample = (flags & FLV_AUDIO_SAMPLESIZE_MASK) ? 16 : 8;
750         if(!st->codec->channels || !st->codec->sample_rate || !st->codec->bits_per_coded_sample) {
751             st->codec->channels              = channels;
752             st->codec->sample_rate           = sample_rate;
753             st->codec->bits_per_coded_sample = bits_per_coded_sample;
754         }
755         if(!st->codec->codec_id){
756             flv_set_audio_codec(s, st, st->codec, flags & FLV_AUDIO_CODECID_MASK);
757             flv->last_sample_rate = sample_rate = st->codec->sample_rate;
758             flv->last_channels    = channels    = st->codec->channels;
759         } else {
760             AVCodecContext ctx;
761             ctx.sample_rate = sample_rate;
762             flv_set_audio_codec(s, st, &ctx, flags & FLV_AUDIO_CODECID_MASK);
763             sample_rate = ctx.sample_rate;
764         }
765     }else{
766         size -= flv_set_video_codec(s, st, flags & FLV_VIDEO_CODECID_MASK);
767     }
768
769     if (st->codec->codec_id == AV_CODEC_ID_AAC ||
770         st->codec->codec_id == AV_CODEC_ID_H264) {
771         int type = avio_r8(s->pb);
772         size--;
773         if (st->codec->codec_id == AV_CODEC_ID_H264) {
774             int32_t cts = (avio_rb24(s->pb)+0xff800000)^0xff800000; // sign extension
775             pts = dts + cts;
776             if (cts < 0) { // dts are wrong
777                 flv->wrong_dts = 1;
778                 av_log(s, AV_LOG_WARNING, "negative cts, previous timestamps might be wrong\n");
779             }
780             if (flv->wrong_dts)
781                 dts = AV_NOPTS_VALUE;
782         }
783         if (type == 0) {
784             if (st->codec->extradata) {
785                 if ((ret = flv_queue_extradata(flv, s->pb, is_audio, size)) < 0)
786                     return ret;
787                 ret = AVERROR(EAGAIN);
788                 goto leave;
789             }
790             if ((ret = flv_get_extradata(s, st, size)) < 0)
791                 return ret;
792             if (st->codec->codec_id == AV_CODEC_ID_AAC) {
793                 MPEG4AudioConfig cfg;
794                 avpriv_mpeg4audio_get_config(&cfg, st->codec->extradata,
795                                              st->codec->extradata_size * 8, 1);
796                 st->codec->channels = cfg.channels;
797                 if (cfg.ext_sample_rate)
798                     st->codec->sample_rate = cfg.ext_sample_rate;
799                 else
800                     st->codec->sample_rate = cfg.sample_rate;
801                 av_dlog(s, "mp4a config channels %d sample rate %d\n",
802                         st->codec->channels, st->codec->sample_rate);
803             }
804
805             ret = AVERROR(EAGAIN);
806             goto leave;
807         }
808     }
809
810     /* skip empty data packets */
811     if (!size) {
812         ret = AVERROR(EAGAIN);
813         goto leave;
814     }
815
816     ret= av_get_packet(s->pb, pkt, size);
817     if (ret < 0) {
818         return AVERROR(EIO);
819     }
820     /* note: we need to modify the packet size here to handle the last
821        packet */
822     pkt->size = ret;
823     pkt->dts = dts;
824     pkt->pts = pts == AV_NOPTS_VALUE ? dts : pts;
825     pkt->stream_index = st->index;
826     if (flv->new_extradata[is_audio]) {
827         uint8_t *side = av_packet_new_side_data(pkt, AV_PKT_DATA_NEW_EXTRADATA,
828                                                 flv->new_extradata_size[is_audio]);
829         if (side) {
830             memcpy(side, flv->new_extradata[is_audio],
831                    flv->new_extradata_size[is_audio]);
832             av_freep(&flv->new_extradata[is_audio]);
833             flv->new_extradata_size[is_audio] = 0;
834         }
835     }
836     if (is_audio && (sample_rate != flv->last_sample_rate ||
837                      channels != flv->last_channels)) {
838         flv->last_sample_rate = sample_rate;
839         flv->last_channels    = channels;
840         ff_add_param_change(pkt, channels, 0, sample_rate, 0, 0);
841     }
842
843     if (is_audio || ((flags & FLV_VIDEO_FRAMETYPE_MASK) == FLV_FRAME_KEY))
844         pkt->flags |= AV_PKT_FLAG_KEY;
845
846 leave:
847     avio_skip(s->pb, 4);
848     return ret;
849 }
850
851 static int flv_read_seek(AVFormatContext *s, int stream_index,
852     int64_t ts, int flags)
853 {
854     FLVContext *flv = s->priv_data;
855     flv->validate_count = 0;
856     return avio_seek_time(s->pb, stream_index, ts, flags);
857 }
858
859 #define OFFSET(x) offsetof(FLVContext, x)
860 #define VD AV_OPT_FLAG_VIDEO_PARAM | AV_OPT_FLAG_DECODING_PARAM
861 static const AVOption options[] = {
862     { "flv_metadata", "Allocate streams according the onMetaData array",      OFFSET(trust_metadata), AV_OPT_TYPE_INT,    { .i64 = 0 }, 0, 1, VD},
863     { NULL }
864 };
865
866 static const AVClass class = {
867     .class_name = "flvdec",
868     .item_name  = av_default_item_name,
869     .option     = options,
870     .version    = LIBAVUTIL_VERSION_INT,
871 };
872
873 AVInputFormat ff_flv_demuxer = {
874     .name           = "flv",
875     .long_name      = NULL_IF_CONFIG_SMALL("FLV (Flash Video)"),
876     .priv_data_size = sizeof(FLVContext),
877     .read_probe     = flv_probe,
878     .read_header    = flv_read_header,
879     .read_packet    = flv_read_packet,
880     .read_seek      = flv_read_seek,
881     .read_close     = flv_read_close,
882     .extensions     = "flv",
883     .priv_class     = &class,
884 };