Merge commit '81eec081afea9fc017a175581ceea7c420a0dfc3'
[ffmpeg.git] / libavformat / nutdec.c
1 /*
2  * "NUT" Container Format demuxer
3  * Copyright (c) 2004-2006 Michael Niedermayer
4  * Copyright (c) 2003 Alex Beregszaszi
5  *
6  * This file is part of FFmpeg.
7  *
8  * FFmpeg is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * FFmpeg is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with FFmpeg; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 #include "libavutil/avstring.h"
24 #include "libavutil/avassert.h"
25 #include "libavutil/bswap.h"
26 #include "libavutil/dict.h"
27 #include "libavutil/intreadwrite.h"
28 #include "libavutil/mathematics.h"
29 #include "libavutil/tree.h"
30 #include "libavcodec/bytestream.h"
31 #include "avio_internal.h"
32 #include "nut.h"
33 #include "riff.h"
34
35 #define NUT_MAX_STREAMS 256    /* arbitrary sanity check value */
36
37 static int64_t nut_read_timestamp(AVFormatContext *s, int stream_index,
38                                   int64_t *pos_arg, int64_t pos_limit);
39
40 static int get_str(AVIOContext *bc, char *string, unsigned int maxlen)
41 {
42     unsigned int len = ffio_read_varlen(bc);
43
44     if (len && maxlen)
45         avio_read(bc, string, FFMIN(len, maxlen));
46     while (len > maxlen) {
47         avio_r8(bc);
48         len--;
49     }
50
51     if (maxlen)
52         string[FFMIN(len, maxlen - 1)] = 0;
53
54     if (maxlen == len)
55         return -1;
56     else
57         return 0;
58 }
59
60 static int64_t get_s(AVIOContext *bc)
61 {
62     int64_t v = ffio_read_varlen(bc) + 1;
63
64     if (v & 1)
65         return -(v >> 1);
66     else
67         return  (v >> 1);
68 }
69
70 static uint64_t get_fourcc(AVIOContext *bc)
71 {
72     unsigned int len = ffio_read_varlen(bc);
73
74     if (len == 2)
75         return avio_rl16(bc);
76     else if (len == 4)
77         return avio_rl32(bc);
78     else {
79         av_log(NULL, AV_LOG_ERROR, "Unsupported fourcc length %d\n", len);
80         return -1;
81     }
82 }
83
84 #ifdef TRACE
85 static inline uint64_t get_v_trace(AVIOContext *bc, const char *file,
86                                    const char *func, int line)
87 {
88     uint64_t v = ffio_read_varlen(bc);
89
90     av_log(NULL, AV_LOG_DEBUG, "get_v %5"PRId64" / %"PRIX64" in %s %s:%d\n",
91            v, v, file, func, line);
92     return v;
93 }
94
95 static inline int64_t get_s_trace(AVIOContext *bc, const char *file,
96                                   const char *func, int line)
97 {
98     int64_t v = get_s(bc);
99
100     av_log(NULL, AV_LOG_DEBUG, "get_s %5"PRId64" / %"PRIX64" in %s %s:%d\n",
101            v, v, file, func, line);
102     return v;
103 }
104
105 static inline uint64_t get_4cc_trace(AVIOContext *bc, char *file,
106                                     char *func, int line)
107 {
108     uint64_t v = get_fourcc(bc);
109
110     av_log(NULL, AV_LOG_DEBUG, "get_fourcc %5"PRId64" / %"PRIX64" in %s %s:%d\n",
111            v, v, file, func, line);
112     return v;
113 }
114 #define ffio_read_varlen(bc) get_v_trace(bc,  __FILE__, __PRETTY_FUNCTION__, __LINE__)
115 #define get_s(bc)            get_s_trace(bc,  __FILE__, __PRETTY_FUNCTION__, __LINE__)
116 #define get_fourcc(bc)       get_4cc_trace(bc, __FILE__, __PRETTY_FUNCTION__, __LINE__)
117 #endif
118
119 static int get_packetheader(NUTContext *nut, AVIOContext *bc,
120                             int calculate_checksum, uint64_t startcode)
121 {
122     int64_t size;
123 //    start = avio_tell(bc) - 8;
124
125     startcode = av_be2ne64(startcode);
126     startcode = ff_crc04C11DB7_update(0, (uint8_t*) &startcode, 8);
127
128     ffio_init_checksum(bc, ff_crc04C11DB7_update, startcode);
129     size = ffio_read_varlen(bc);
130     if (size > 4096)
131         avio_rb32(bc);
132     if (ffio_get_checksum(bc) && size > 4096)
133         return -1;
134
135     ffio_init_checksum(bc, calculate_checksum ? ff_crc04C11DB7_update : NULL, 0);
136
137     return size;
138 }
139
140 static uint64_t find_any_startcode(AVIOContext *bc, int64_t pos)
141 {
142     uint64_t state = 0;
143
144     if (pos >= 0)
145         /* Note, this may fail if the stream is not seekable, but that should
146          * not matter, as in this case we simply start where we currently are */
147         avio_seek(bc, pos, SEEK_SET);
148     while (!url_feof(bc)) {
149         state = (state << 8) | avio_r8(bc);
150         if ((state >> 56) != 'N')
151             continue;
152         switch (state) {
153         case MAIN_STARTCODE:
154         case STREAM_STARTCODE:
155         case SYNCPOINT_STARTCODE:
156         case INFO_STARTCODE:
157         case INDEX_STARTCODE:
158             return state;
159         }
160     }
161
162     return 0;
163 }
164
165 /**
166  * Find the given startcode.
167  * @param code the startcode
168  * @param pos the start position of the search, or -1 if the current position
169  * @return the position of the startcode or -1 if not found
170  */
171 static int64_t find_startcode(AVIOContext *bc, uint64_t code, int64_t pos)
172 {
173     for (;;) {
174         uint64_t startcode = find_any_startcode(bc, pos);
175         if (startcode == code)
176             return avio_tell(bc) - 8;
177         else if (startcode == 0)
178             return -1;
179         pos = -1;
180     }
181 }
182
183 static int nut_probe(AVProbeData *p)
184 {
185     int i;
186     uint64_t code = 0;
187
188     for (i = 0; i < p->buf_size; i++) {
189         code = (code << 8) | p->buf[i];
190         if (code == MAIN_STARTCODE)
191             return AVPROBE_SCORE_MAX;
192     }
193     return 0;
194 }
195
196 #define GET_V(dst, check)                                                     \
197     do {                                                                      \
198         tmp = ffio_read_varlen(bc);                                           \
199         if (!(check)) {                                                       \
200             av_log(s, AV_LOG_ERROR, "Error " #dst " is (%"PRId64")\n", tmp);  \
201             return AVERROR_INVALIDDATA;                                       \
202         }                                                                     \
203         dst = tmp;                                                            \
204     } while (0)
205
206 static int skip_reserved(AVIOContext *bc, int64_t pos)
207 {
208     pos -= avio_tell(bc);
209     if (pos < 0) {
210         avio_seek(bc, pos, SEEK_CUR);
211         return AVERROR_INVALIDDATA;
212     } else {
213         while (pos--)
214             avio_r8(bc);
215         return 0;
216     }
217 }
218
219 static int decode_main_header(NUTContext *nut)
220 {
221     AVFormatContext *s = nut->avf;
222     AVIOContext *bc    = s->pb;
223     uint64_t tmp, end;
224     unsigned int stream_count;
225     int i, j, count;
226     int tmp_stream, tmp_mul, tmp_pts, tmp_size, tmp_res, tmp_head_idx;
227
228     end  = get_packetheader(nut, bc, 1, MAIN_STARTCODE);
229     end += avio_tell(bc);
230
231     tmp = ffio_read_varlen(bc);
232     if (tmp < NUT_MIN_VERSION && tmp > NUT_MAX_VERSION) {
233         av_log(s, AV_LOG_ERROR, "Version %"PRId64" not supported.\n",
234                tmp);
235         return AVERROR(ENOSYS);
236     }
237     nut->version = tmp;
238     if (nut->version > 3)
239         nut->minor_version = ffio_read_varlen(bc);
240
241     GET_V(stream_count, tmp > 0 && tmp <= NUT_MAX_STREAMS);
242
243     nut->max_distance = ffio_read_varlen(bc);
244     if (nut->max_distance > 65536) {
245         av_log(s, AV_LOG_DEBUG, "max_distance %d\n", nut->max_distance);
246         nut->max_distance = 65536;
247     }
248
249     GET_V(nut->time_base_count, tmp > 0 && tmp < INT_MAX / sizeof(AVRational));
250     nut->time_base = av_malloc(nut->time_base_count * sizeof(AVRational));
251     if (!nut->time_base)
252         return AVERROR(ENOMEM);
253
254     for (i = 0; i < nut->time_base_count; i++) {
255         GET_V(nut->time_base[i].num, tmp > 0 && tmp < (1ULL << 31));
256         GET_V(nut->time_base[i].den, tmp > 0 && tmp < (1ULL << 31));
257         if (av_gcd(nut->time_base[i].num, nut->time_base[i].den) != 1) {
258             av_log(s, AV_LOG_ERROR, "time base invalid\n");
259             return AVERROR_INVALIDDATA;
260         }
261     }
262     tmp_pts      = 0;
263     tmp_mul      = 1;
264     tmp_stream   = 0;
265     tmp_head_idx = 0;
266     for (i = 0; i < 256;) {
267         int tmp_flags  = ffio_read_varlen(bc);
268         int tmp_fields = ffio_read_varlen(bc);
269
270         if (tmp_fields > 0)
271             tmp_pts = get_s(bc);
272         if (tmp_fields > 1)
273             tmp_mul = ffio_read_varlen(bc);
274         if (tmp_fields > 2)
275             tmp_stream = ffio_read_varlen(bc);
276         if (tmp_fields > 3)
277             tmp_size = ffio_read_varlen(bc);
278         else
279             tmp_size = 0;
280         if (tmp_fields > 4)
281             tmp_res = ffio_read_varlen(bc);
282         else
283             tmp_res = 0;
284         if (tmp_fields > 5)
285             count = ffio_read_varlen(bc);
286         else
287             count = tmp_mul - tmp_size;
288         if (tmp_fields > 6)
289             get_s(bc);
290         if (tmp_fields > 7)
291             tmp_head_idx = ffio_read_varlen(bc);
292
293         while (tmp_fields-- > 8)
294             ffio_read_varlen(bc);
295
296         if (count == 0 || i + count > 256) {
297             av_log(s, AV_LOG_ERROR, "illegal count %d at %d\n", count, i);
298             return AVERROR_INVALIDDATA;
299         }
300         if (tmp_stream >= stream_count) {
301             av_log(s, AV_LOG_ERROR, "illegal stream number\n");
302             return AVERROR_INVALIDDATA;
303         }
304
305         for (j = 0; j < count; j++, i++) {
306             if (i == 'N') {
307                 nut->frame_code[i].flags = FLAG_INVALID;
308                 j--;
309                 continue;
310             }
311             nut->frame_code[i].flags          = tmp_flags;
312             nut->frame_code[i].pts_delta      = tmp_pts;
313             nut->frame_code[i].stream_id      = tmp_stream;
314             nut->frame_code[i].size_mul       = tmp_mul;
315             nut->frame_code[i].size_lsb       = tmp_size + j;
316             nut->frame_code[i].reserved_count = tmp_res;
317             nut->frame_code[i].header_idx     = tmp_head_idx;
318         }
319     }
320     av_assert0(nut->frame_code['N'].flags == FLAG_INVALID);
321
322     if (end > avio_tell(bc) + 4) {
323         int rem = 1024;
324         GET_V(nut->header_count, tmp < 128U);
325         nut->header_count++;
326         for (i = 1; i < nut->header_count; i++) {
327             uint8_t *hdr;
328             GET_V(nut->header_len[i], tmp > 0 && tmp < 256);
329             rem -= nut->header_len[i];
330             if (rem < 0) {
331                 av_log(s, AV_LOG_ERROR, "invalid elision header\n");
332                 return AVERROR_INVALIDDATA;
333             }
334             hdr = av_malloc(nut->header_len[i]);
335             if (!hdr)
336                 return AVERROR(ENOMEM);
337             avio_read(bc, hdr, nut->header_len[i]);
338             nut->header[i] = hdr;
339         }
340         av_assert0(nut->header_len[0] == 0);
341     }
342
343     // flags had been effectively introduced in version 4
344     if (nut->version > 3 && end > avio_tell(bc) + 4) {
345         nut->flags = ffio_read_varlen(bc);
346     }
347
348     if (skip_reserved(bc, end) || ffio_get_checksum(bc)) {
349         av_log(s, AV_LOG_ERROR, "main header checksum mismatch\n");
350         return AVERROR_INVALIDDATA;
351     }
352
353     nut->stream = av_calloc(stream_count, sizeof(StreamContext));
354     if (!nut->stream)
355         return AVERROR(ENOMEM);
356     for (i = 0; i < stream_count; i++)
357         avformat_new_stream(s, NULL);
358
359     return 0;
360 }
361
362 static int decode_stream_header(NUTContext *nut)
363 {
364     AVFormatContext *s = nut->avf;
365     AVIOContext *bc    = s->pb;
366     StreamContext *stc;
367     int class, stream_id;
368     uint64_t tmp, end;
369     AVStream *st;
370
371     end  = get_packetheader(nut, bc, 1, STREAM_STARTCODE);
372     end += avio_tell(bc);
373
374     GET_V(stream_id, tmp < s->nb_streams && !nut->stream[tmp].time_base);
375     stc = &nut->stream[stream_id];
376     st  = s->streams[stream_id];
377     if (!st)
378         return AVERROR(ENOMEM);
379
380     class                = ffio_read_varlen(bc);
381     tmp                  = get_fourcc(bc);
382     st->codec->codec_tag = tmp;
383     switch (class) {
384     case 0:
385         st->codec->codec_type = AVMEDIA_TYPE_VIDEO;
386         st->codec->codec_id   = av_codec_get_id((const AVCodecTag * const []) {
387                                                     ff_nut_video_tags,
388                                                     ff_codec_bmp_tags,
389                                                     0
390                                                 },
391                                                 tmp);
392         break;
393     case 1:
394         st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
395         st->codec->codec_id   = av_codec_get_id((const AVCodecTag * const []) {
396                                                     ff_nut_audio_tags,
397                                                     ff_codec_wav_tags,
398                                                     ff_nut_audio_extra_tags,
399                                                     0
400                                                 },
401                                                 tmp);
402         break;
403     case 2:
404         st->codec->codec_type = AVMEDIA_TYPE_SUBTITLE;
405         st->codec->codec_id   = ff_codec_get_id(ff_nut_subtitle_tags, tmp);
406         break;
407     case 3:
408         st->codec->codec_type = AVMEDIA_TYPE_DATA;
409         st->codec->codec_id   = ff_codec_get_id(ff_nut_data_tags, tmp);
410         break;
411     default:
412         av_log(s, AV_LOG_ERROR, "unknown stream class (%d)\n", class);
413         return AVERROR(ENOSYS);
414     }
415     if (class < 3 && st->codec->codec_id == AV_CODEC_ID_NONE)
416         av_log(s, AV_LOG_ERROR,
417                "Unknown codec tag '0x%04x' for stream number %d\n",
418                (unsigned int) tmp, stream_id);
419
420     GET_V(stc->time_base_id, tmp < nut->time_base_count);
421     GET_V(stc->msb_pts_shift, tmp < 16);
422     stc->max_pts_distance = ffio_read_varlen(bc);
423     GET_V(stc->decode_delay, tmp < 1000); // sanity limit, raise this if Moore's law is true
424     st->codec->has_b_frames = stc->decode_delay;
425     ffio_read_varlen(bc); // stream flags
426
427     GET_V(st->codec->extradata_size, tmp < (1 << 30));
428     if (st->codec->extradata_size) {
429         if (ff_get_extradata(st->codec, bc, st->codec->extradata_size) < 0)
430             return AVERROR(ENOMEM);
431     }
432
433     if (st->codec->codec_type == AVMEDIA_TYPE_VIDEO) {
434         GET_V(st->codec->width,  tmp > 0);
435         GET_V(st->codec->height, tmp > 0);
436         st->sample_aspect_ratio.num = ffio_read_varlen(bc);
437         st->sample_aspect_ratio.den = ffio_read_varlen(bc);
438         if ((!st->sample_aspect_ratio.num) != (!st->sample_aspect_ratio.den)) {
439             av_log(s, AV_LOG_ERROR, "invalid aspect ratio %d/%d\n",
440                    st->sample_aspect_ratio.num, st->sample_aspect_ratio.den);
441             return AVERROR_INVALIDDATA;
442         }
443         ffio_read_varlen(bc); /* csp type */
444     } else if (st->codec->codec_type == AVMEDIA_TYPE_AUDIO) {
445         GET_V(st->codec->sample_rate, tmp > 0);
446         ffio_read_varlen(bc); // samplerate_den
447         GET_V(st->codec->channels, tmp > 0);
448     }
449     if (skip_reserved(bc, end) || ffio_get_checksum(bc)) {
450         av_log(s, AV_LOG_ERROR,
451                "stream header %d checksum mismatch\n", stream_id);
452         return AVERROR_INVALIDDATA;
453     }
454     stc->time_base = &nut->time_base[stc->time_base_id];
455     avpriv_set_pts_info(s->streams[stream_id], 63, stc->time_base->num,
456                         stc->time_base->den);
457     return 0;
458 }
459
460 static void set_disposition_bits(AVFormatContext *avf, char *value,
461                                  int stream_id)
462 {
463     int flag = 0, i;
464
465     for (i = 0; ff_nut_dispositions[i].flag; ++i)
466         if (!strcmp(ff_nut_dispositions[i].str, value))
467             flag = ff_nut_dispositions[i].flag;
468     if (!flag)
469         av_log(avf, AV_LOG_INFO, "unknown disposition type '%s'\n", value);
470     for (i = 0; i < avf->nb_streams; ++i)
471         if (stream_id == i || stream_id == -1)
472             avf->streams[i]->disposition |= flag;
473 }
474
475 static int decode_info_header(NUTContext *nut)
476 {
477     AVFormatContext *s = nut->avf;
478     AVIOContext *bc    = s->pb;
479     uint64_t tmp, chapter_start, chapter_len;
480     unsigned int stream_id_plus1, count;
481     int chapter_id, i;
482     int64_t value, end;
483     char name[256], str_value[1024], type_str[256];
484     const char *type;
485     AVChapter *chapter      = NULL;
486     AVStream *st            = NULL;
487     AVDictionary **metadata = NULL;
488
489     end  = get_packetheader(nut, bc, 1, INFO_STARTCODE);
490     end += avio_tell(bc);
491
492     GET_V(stream_id_plus1, tmp <= s->nb_streams);
493     chapter_id    = get_s(bc);
494     chapter_start = ffio_read_varlen(bc);
495     chapter_len   = ffio_read_varlen(bc);
496     count         = ffio_read_varlen(bc);
497
498     if (chapter_id && !stream_id_plus1) {
499         int64_t start = chapter_start / nut->time_base_count;
500         chapter = avpriv_new_chapter(s, chapter_id,
501                                      nut->time_base[chapter_start %
502                                                     nut->time_base_count],
503                                      start, start + chapter_len, NULL);
504         metadata = &chapter->metadata;
505     } else if (stream_id_plus1) {
506         st       = s->streams[stream_id_plus1 - 1];
507         metadata = &st->metadata;
508     } else
509         metadata = &s->metadata;
510
511     for (i = 0; i < count; i++) {
512         get_str(bc, name, sizeof(name));
513         value = get_s(bc);
514         if (value == -1) {
515             type = "UTF-8";
516             get_str(bc, str_value, sizeof(str_value));
517         } else if (value == -2) {
518             get_str(bc, type_str, sizeof(type_str));
519             type = type_str;
520             get_str(bc, str_value, sizeof(str_value));
521         } else if (value == -3) {
522             type  = "s";
523             value = get_s(bc);
524         } else if (value == -4) {
525             type  = "t";
526             value = ffio_read_varlen(bc);
527         } else if (value < -4) {
528             type = "r";
529             get_s(bc);
530         } else {
531             type = "v";
532         }
533
534         if (stream_id_plus1 > s->nb_streams) {
535             av_log(s, AV_LOG_ERROR, "invalid stream id for info packet\n");
536             continue;
537         }
538
539         if (!strcmp(type, "UTF-8")) {
540             if (chapter_id == 0 && !strcmp(name, "Disposition")) {
541                 set_disposition_bits(s, str_value, stream_id_plus1 - 1);
542                 continue;
543             }
544
545             if (stream_id_plus1 && !strcmp(name, "r_frame_rate")) {
546                 sscanf(str_value, "%d/%d", &st->r_frame_rate.num, &st->r_frame_rate.den);
547                 if (st->r_frame_rate.num >= 1000LL*st->r_frame_rate.den)
548                     st->r_frame_rate.num = st->r_frame_rate.den = 0;
549                 continue;
550             }
551
552             if (metadata && av_strcasecmp(name, "Uses") &&
553                 av_strcasecmp(name, "Depends") && av_strcasecmp(name, "Replaces"))
554                 av_dict_set(metadata, name, str_value, 0);
555         }
556     }
557
558     if (skip_reserved(bc, end) || ffio_get_checksum(bc)) {
559         av_log(s, AV_LOG_ERROR, "info header checksum mismatch\n");
560         return AVERROR_INVALIDDATA;
561     }
562     return 0;
563 }
564
565 static int decode_syncpoint(NUTContext *nut, int64_t *ts, int64_t *back_ptr)
566 {
567     AVFormatContext *s = nut->avf;
568     AVIOContext *bc    = s->pb;
569     int64_t end;
570     uint64_t tmp;
571     int ret;
572
573     nut->last_syncpoint_pos = avio_tell(bc) - 8;
574
575     end  = get_packetheader(nut, bc, 1, SYNCPOINT_STARTCODE);
576     end += avio_tell(bc);
577
578     tmp       = ffio_read_varlen(bc);
579     *back_ptr = nut->last_syncpoint_pos - 16 * ffio_read_varlen(bc);
580     if (*back_ptr < 0)
581         return AVERROR_INVALIDDATA;
582
583     ff_nut_reset_ts(nut, nut->time_base[tmp % nut->time_base_count],
584                     tmp / nut->time_base_count);
585
586     if (nut->flags & NUT_BROADCAST) {
587         tmp = ffio_read_varlen(bc);
588         av_log(s, AV_LOG_VERBOSE, "Syncpoint wallclock %"PRId64"\n",
589                av_rescale_q(tmp / nut->time_base_count,
590                             nut->time_base[tmp % nut->time_base_count],
591                             AV_TIME_BASE_Q));
592     }
593
594     if (skip_reserved(bc, end) || ffio_get_checksum(bc)) {
595         av_log(s, AV_LOG_ERROR, "sync point checksum mismatch\n");
596         return AVERROR_INVALIDDATA;
597     }
598
599     *ts = tmp / nut->time_base_count *
600           av_q2d(nut->time_base[tmp % nut->time_base_count]) * AV_TIME_BASE;
601
602     if ((ret = ff_nut_add_sp(nut, nut->last_syncpoint_pos, *back_ptr, *ts)) < 0)
603         return ret;
604
605     return 0;
606 }
607
608 //FIXME calculate exactly, this is just a good approximation.
609 static int64_t find_duration(NUTContext *nut, int64_t filesize)
610 {
611     AVFormatContext *s = nut->avf;
612     int64_t duration = 0;
613
614     ff_find_last_ts(s, -1, &duration, NULL, nut_read_timestamp);
615
616     if(duration > 0)
617         s->duration_estimation_method = AVFMT_DURATION_FROM_PTS;
618     return duration;
619 }
620
621 static int find_and_decode_index(NUTContext *nut)
622 {
623     AVFormatContext *s = nut->avf;
624     AVIOContext *bc    = s->pb;
625     uint64_t tmp, end;
626     int i, j, syncpoint_count;
627     int64_t filesize = avio_size(bc);
628     int64_t *syncpoints;
629     uint64_t max_pts;
630     int8_t *has_keyframe;
631     int ret = AVERROR_INVALIDDATA;
632
633     if(filesize <= 0)
634         return -1;
635
636     avio_seek(bc, filesize - 12, SEEK_SET);
637     avio_seek(bc, filesize - avio_rb64(bc), SEEK_SET);
638     if (avio_rb64(bc) != INDEX_STARTCODE) {
639         av_log(s, AV_LOG_ERROR, "no index at the end\n");
640
641         if(s->duration<=0)
642             s->duration = find_duration(nut, filesize);
643         return ret;
644     }
645
646     end  = get_packetheader(nut, bc, 1, INDEX_STARTCODE);
647     end += avio_tell(bc);
648
649     max_pts = ffio_read_varlen(bc);
650     s->duration = av_rescale_q(max_pts / nut->time_base_count,
651                                nut->time_base[max_pts % nut->time_base_count],
652                                AV_TIME_BASE_Q);
653     s->duration_estimation_method = AVFMT_DURATION_FROM_PTS;
654
655     GET_V(syncpoint_count, tmp < INT_MAX / 8 && tmp > 0);
656     syncpoints   = av_malloc_array(syncpoint_count, sizeof(int64_t));
657     has_keyframe = av_malloc_array(syncpoint_count + 1, sizeof(int8_t));
658     if (!syncpoints || !has_keyframe) {
659         ret = AVERROR(ENOMEM);
660         goto fail;
661     }
662     for (i = 0; i < syncpoint_count; i++) {
663         syncpoints[i] = ffio_read_varlen(bc);
664         if (syncpoints[i] <= 0)
665             goto fail;
666         if (i)
667             syncpoints[i] += syncpoints[i - 1];
668     }
669
670     for (i = 0; i < s->nb_streams; i++) {
671         int64_t last_pts = -1;
672         for (j = 0; j < syncpoint_count;) {
673             uint64_t x = ffio_read_varlen(bc);
674             int type   = x & 1;
675             int n      = j;
676             x >>= 1;
677             if (type) {
678                 int flag = x & 1;
679                 x >>= 1;
680                 if (n + x >= syncpoint_count + 1) {
681                     av_log(s, AV_LOG_ERROR, "index overflow A %d + %"PRIu64" >= %d\n", n, x, syncpoint_count + 1);
682                     goto fail;
683                 }
684                 while (x--)
685                     has_keyframe[n++] = flag;
686                 has_keyframe[n++] = !flag;
687             } else {
688                 while (x != 1) {
689                     if (n >= syncpoint_count + 1) {
690                         av_log(s, AV_LOG_ERROR, "index overflow B\n");
691                         goto fail;
692                     }
693                     has_keyframe[n++] = x & 1;
694                     x >>= 1;
695                 }
696             }
697             if (has_keyframe[0]) {
698                 av_log(s, AV_LOG_ERROR, "keyframe before first syncpoint in index\n");
699                 goto fail;
700             }
701             av_assert0(n <= syncpoint_count + 1);
702             for (; j < n && j < syncpoint_count; j++) {
703                 if (has_keyframe[j]) {
704                     uint64_t B, A = ffio_read_varlen(bc);
705                     if (!A) {
706                         A = ffio_read_varlen(bc);
707                         B = ffio_read_varlen(bc);
708                         // eor_pts[j][i] = last_pts + A + B
709                     } else
710                         B = 0;
711                     av_add_index_entry(s->streams[i], 16 * syncpoints[j - 1],
712                                        last_pts + A, 0, 0, AVINDEX_KEYFRAME);
713                     last_pts += A + B;
714                 }
715             }
716         }
717     }
718
719     if (skip_reserved(bc, end) || ffio_get_checksum(bc)) {
720         av_log(s, AV_LOG_ERROR, "index checksum mismatch\n");
721         goto fail;
722     }
723     ret = 0;
724
725 fail:
726     av_free(syncpoints);
727     av_free(has_keyframe);
728     return ret;
729 }
730
731 static int nut_read_header(AVFormatContext *s)
732 {
733     NUTContext *nut = s->priv_data;
734     AVIOContext *bc = s->pb;
735     int64_t pos;
736     int initialized_stream_count;
737
738     nut->avf = s;
739
740     /* main header */
741     pos = 0;
742     do {
743         pos = find_startcode(bc, MAIN_STARTCODE, pos) + 1;
744         if (pos < 0 + 1) {
745             av_log(s, AV_LOG_ERROR, "No main startcode found.\n");
746             return AVERROR_INVALIDDATA;
747         }
748     } while (decode_main_header(nut) < 0);
749
750     /* stream headers */
751     pos = 0;
752     for (initialized_stream_count = 0; initialized_stream_count < s->nb_streams;) {
753         pos = find_startcode(bc, STREAM_STARTCODE, pos) + 1;
754         if (pos < 0 + 1) {
755             av_log(s, AV_LOG_ERROR, "Not all stream headers found.\n");
756             return AVERROR_INVALIDDATA;
757         }
758         if (decode_stream_header(nut) >= 0)
759             initialized_stream_count++;
760     }
761
762     /* info headers */
763     pos = 0;
764     for (;;) {
765         uint64_t startcode = find_any_startcode(bc, pos);
766         pos = avio_tell(bc);
767
768         if (startcode == 0) {
769             av_log(s, AV_LOG_ERROR, "EOF before video frames\n");
770             return AVERROR_INVALIDDATA;
771         } else if (startcode == SYNCPOINT_STARTCODE) {
772             nut->next_startcode = startcode;
773             break;
774         } else if (startcode != INFO_STARTCODE) {
775             continue;
776         }
777
778         decode_info_header(nut);
779     }
780
781     s->data_offset = pos - 8;
782
783     if (bc->seekable) {
784         int64_t orig_pos = avio_tell(bc);
785         find_and_decode_index(nut);
786         avio_seek(bc, orig_pos, SEEK_SET);
787     }
788     av_assert0(nut->next_startcode == SYNCPOINT_STARTCODE);
789
790     ff_metadata_conv_ctx(s, NULL, ff_nut_metadata_conv);
791
792     return 0;
793 }
794
795 static int read_sm_data(AVFormatContext *s, AVIOContext *bc, AVPacket *pkt, int is_meta, int64_t maxpos)
796 {
797     int count = ffio_read_varlen(bc);
798     int skip_start = 0;
799     int skip_end = 0;
800     int channels = 0;
801     int64_t channel_layout = 0;
802     int sample_rate = 0;
803     int width = 0;
804     int height = 0;
805     int i;
806
807     for (i=0; i<count; i++) {
808         uint8_t name[256], str_value[256], type_str[256];
809         int value;
810         if (avio_tell(bc) >= maxpos)
811             return AVERROR_INVALIDDATA;
812         get_str(bc, name, sizeof(name));
813         value = get_s(bc);
814
815         if (value == -1) {
816             get_str(bc, str_value, sizeof(str_value));
817             av_log(s, AV_LOG_WARNING, "Unknown string %s / %s\n", name, str_value);
818         } else if (value == -2) {
819             uint8_t *dst = NULL;
820             int64_t v64, value_len;
821
822             get_str(bc, type_str, sizeof(type_str));
823             value_len = ffio_read_varlen(bc);
824             if (avio_tell(bc) + value_len >= maxpos)
825                 return AVERROR_INVALIDDATA;
826             if (!strcmp(name, "Palette")) {
827                 dst = av_packet_new_side_data(pkt, AV_PKT_DATA_PALETTE, value_len);
828             } else if (!strcmp(name, "Extradata")) {
829                 dst = av_packet_new_side_data(pkt, AV_PKT_DATA_NEW_EXTRADATA, value_len);
830             } else if (sscanf(name, "CodecSpecificSide%"SCNd64"", &v64) == 1) {
831                 dst = av_packet_new_side_data(pkt, AV_PKT_DATA_MATROSKA_BLOCKADDITIONAL, value_len + 8);
832                 if(!dst)
833                     return AVERROR(ENOMEM);
834                 AV_WB64(dst, v64);
835                 dst += 8;
836             } else if (!strcmp(name, "ChannelLayout") && value_len == 8) {
837                 channel_layout = avio_rl64(bc);
838                 continue;
839             } else {
840                 av_log(s, AV_LOG_WARNING, "Unknown data %s / %s\n", name, type_str);
841                 avio_skip(bc, value_len);
842                 continue;
843             }
844             if(!dst)
845                 return AVERROR(ENOMEM);
846             avio_read(bc, dst, value_len);
847         } else if (value == -3) {
848             value = get_s(bc);
849         } else if (value == -4) {
850             value = ffio_read_varlen(bc);
851         } else if (value < -4) {
852             get_s(bc);
853         } else {
854             if (!strcmp(name, "SkipStart")) {
855                 skip_start = value;
856             } else if (!strcmp(name, "SkipEnd")) {
857                 skip_end = value;
858             } else if (!strcmp(name, "Channels")) {
859                 channels = value;
860             } else if (!strcmp(name, "SampleRate")) {
861                 sample_rate = value;
862             } else if (!strcmp(name, "Width")) {
863                 width = value;
864             } else if (!strcmp(name, "Height")) {
865                 height = value;
866             } else {
867                 av_log(s, AV_LOG_WARNING, "Unknown integer %s\n", name);
868             }
869         }
870     }
871
872     if (channels || channel_layout || sample_rate || width || height) {
873         uint8_t *dst = av_packet_new_side_data(pkt, AV_PKT_DATA_PARAM_CHANGE, 28);
874         if (!dst)
875             return AVERROR(ENOMEM);
876         bytestream_put_le32(&dst,
877                             AV_SIDE_DATA_PARAM_CHANGE_CHANNEL_COUNT*(!!channels) +
878                             AV_SIDE_DATA_PARAM_CHANGE_CHANNEL_LAYOUT*(!!channel_layout) +
879                             AV_SIDE_DATA_PARAM_CHANGE_SAMPLE_RATE*(!!sample_rate) +
880                             AV_SIDE_DATA_PARAM_CHANGE_DIMENSIONS*(!!(width|height))
881                            );
882         if (channels)
883             bytestream_put_le32(&dst, channels);
884         if (channel_layout)
885             bytestream_put_le64(&dst, channel_layout);
886         if (sample_rate)
887             bytestream_put_le32(&dst, sample_rate);
888         if (width || height){
889             bytestream_put_le32(&dst, width);
890             bytestream_put_le32(&dst, height);
891         }
892     }
893
894     if (skip_start || skip_end) {
895         uint8_t *dst = av_packet_new_side_data(pkt, AV_PKT_DATA_SKIP_SAMPLES, 10);
896         if (!dst)
897             return AVERROR(ENOMEM);
898         AV_WL32(dst, skip_start);
899         AV_WL32(dst+4, skip_end);
900     }
901
902     return 0;
903 }
904
905 static int decode_frame_header(NUTContext *nut, int64_t *pts, int *stream_id,
906                                uint8_t *header_idx, int frame_code)
907 {
908     AVFormatContext *s = nut->avf;
909     AVIOContext *bc    = s->pb;
910     StreamContext *stc;
911     int size, flags, size_mul, pts_delta, i, reserved_count;
912     uint64_t tmp;
913
914     if (!(nut->flags & NUT_PIPE) &&
915         avio_tell(bc) > nut->last_syncpoint_pos + nut->max_distance) {
916         av_log(s, AV_LOG_ERROR,
917                "Last frame must have been damaged %"PRId64" > %"PRId64" + %d\n",
918                avio_tell(bc), nut->last_syncpoint_pos, nut->max_distance);
919         return AVERROR_INVALIDDATA;
920     }
921
922     flags          = nut->frame_code[frame_code].flags;
923     size_mul       = nut->frame_code[frame_code].size_mul;
924     size           = nut->frame_code[frame_code].size_lsb;
925     *stream_id     = nut->frame_code[frame_code].stream_id;
926     pts_delta      = nut->frame_code[frame_code].pts_delta;
927     reserved_count = nut->frame_code[frame_code].reserved_count;
928     *header_idx    = nut->frame_code[frame_code].header_idx;
929
930     if (flags & FLAG_INVALID)
931         return AVERROR_INVALIDDATA;
932     if (flags & FLAG_CODED)
933         flags ^= ffio_read_varlen(bc);
934     if (flags & FLAG_STREAM_ID) {
935         GET_V(*stream_id, tmp < s->nb_streams);
936     }
937     stc = &nut->stream[*stream_id];
938     if (flags & FLAG_CODED_PTS) {
939         int coded_pts = ffio_read_varlen(bc);
940         // FIXME check last_pts validity?
941         if (coded_pts < (1 << stc->msb_pts_shift)) {
942             *pts = ff_lsb2full(stc, coded_pts);
943         } else
944             *pts = coded_pts - (1LL << stc->msb_pts_shift);
945     } else
946         *pts = stc->last_pts + pts_delta;
947     if (flags & FLAG_SIZE_MSB)
948         size += size_mul * ffio_read_varlen(bc);
949     if (flags & FLAG_MATCH_TIME)
950         get_s(bc);
951     if (flags & FLAG_HEADER_IDX)
952         *header_idx = ffio_read_varlen(bc);
953     if (flags & FLAG_RESERVED)
954         reserved_count = ffio_read_varlen(bc);
955     for (i = 0; i < reserved_count; i++)
956         ffio_read_varlen(bc);
957
958     if (*header_idx >= (unsigned)nut->header_count) {
959         av_log(s, AV_LOG_ERROR, "header_idx invalid\n");
960         return AVERROR_INVALIDDATA;
961     }
962     if (size > 4096)
963         *header_idx = 0;
964     size -= nut->header_len[*header_idx];
965
966     if (flags & FLAG_CHECKSUM) {
967         avio_rb32(bc); // FIXME check this
968     } else if (!(nut->flags & NUT_PIPE) &&
969                size > 2 * nut->max_distance ||
970                FFABS(stc->last_pts - *pts) > stc->max_pts_distance) {
971         av_log(s, AV_LOG_ERROR, "frame size > 2max_distance and no checksum\n");
972         return AVERROR_INVALIDDATA;
973     }
974
975     stc->last_pts   = *pts;
976     stc->last_flags = flags;
977
978     return size;
979 }
980
981 static int decode_frame(NUTContext *nut, AVPacket *pkt, int frame_code)
982 {
983     AVFormatContext *s = nut->avf;
984     AVIOContext *bc    = s->pb;
985     int size, stream_id, discard;
986     int64_t pts, last_IP_pts;
987     StreamContext *stc;
988     uint8_t header_idx;
989     int ret;
990
991     size = decode_frame_header(nut, &pts, &stream_id, &header_idx, frame_code);
992     if (size < 0)
993         return size;
994
995     stc = &nut->stream[stream_id];
996
997     if (stc->last_flags & FLAG_KEY)
998         stc->skip_until_key_frame = 0;
999
1000     discard     = s->streams[stream_id]->discard;
1001     last_IP_pts = s->streams[stream_id]->last_IP_pts;
1002     if ((discard >= AVDISCARD_NONKEY && !(stc->last_flags & FLAG_KEY)) ||
1003         (discard >= AVDISCARD_BIDIR  && last_IP_pts != AV_NOPTS_VALUE &&
1004          last_IP_pts > pts) ||
1005         discard >= AVDISCARD_ALL ||
1006         stc->skip_until_key_frame) {
1007         avio_skip(bc, size);
1008         return 1;
1009     }
1010
1011     if (av_new_packet(pkt, size + nut->header_len[header_idx]) < 0)
1012         return AVERROR(ENOMEM);
1013     memcpy(pkt->data, nut->header[header_idx], nut->header_len[header_idx]);
1014     pkt->pos = avio_tell(bc); // FIXME
1015     if (stc->last_flags & FLAG_SM_DATA) {
1016         int sm_size;
1017         if (read_sm_data(s, bc, pkt, 0, pkt->pos + size) < 0)
1018             return AVERROR_INVALIDDATA;
1019         if (read_sm_data(s, bc, pkt, 1, pkt->pos + size) < 0)
1020             return AVERROR_INVALIDDATA;
1021         sm_size = avio_tell(bc) - pkt->pos;
1022         size      -= sm_size;
1023         pkt->size -= sm_size;
1024     }
1025
1026     ret = avio_read(bc, pkt->data + nut->header_len[header_idx], size);
1027     if (ret != size) {
1028         if (ret < 0)
1029             return ret;
1030     }
1031     av_shrink_packet(pkt, nut->header_len[header_idx] + ret);
1032
1033     pkt->stream_index = stream_id;
1034     if (stc->last_flags & FLAG_KEY)
1035         pkt->flags |= AV_PKT_FLAG_KEY;
1036     pkt->pts = pts;
1037
1038     return 0;
1039 }
1040
1041 static int nut_read_packet(AVFormatContext *s, AVPacket *pkt)
1042 {
1043     NUTContext *nut = s->priv_data;
1044     AVIOContext *bc = s->pb;
1045     int i, frame_code = 0, ret, skip;
1046     int64_t ts, back_ptr;
1047
1048     for (;;) {
1049         int64_t pos  = avio_tell(bc);
1050         uint64_t tmp = nut->next_startcode;
1051         nut->next_startcode = 0;
1052
1053         if (tmp) {
1054             pos -= 8;
1055         } else {
1056             frame_code = avio_r8(bc);
1057             if (url_feof(bc))
1058                 return AVERROR_EOF;
1059             if (frame_code == 'N') {
1060                 tmp = frame_code;
1061                 for (i = 1; i < 8; i++)
1062                     tmp = (tmp << 8) + avio_r8(bc);
1063             }
1064         }
1065         switch (tmp) {
1066         case MAIN_STARTCODE:
1067         case STREAM_STARTCODE:
1068         case INDEX_STARTCODE:
1069             skip = get_packetheader(nut, bc, 0, tmp);
1070             avio_skip(bc, skip);
1071             break;
1072         case INFO_STARTCODE:
1073             if (decode_info_header(nut) < 0)
1074                 goto resync;
1075             break;
1076         case SYNCPOINT_STARTCODE:
1077             if (decode_syncpoint(nut, &ts, &back_ptr) < 0)
1078                 goto resync;
1079             frame_code = avio_r8(bc);
1080         case 0:
1081             ret = decode_frame(nut, pkt, frame_code);
1082             if (ret == 0)
1083                 return 0;
1084             else if (ret == 1) // OK but discard packet
1085                 break;
1086         default:
1087 resync:
1088             av_log(s, AV_LOG_DEBUG, "syncing from %"PRId64"\n", pos);
1089             tmp = find_any_startcode(bc, nut->last_syncpoint_pos + 1);
1090             if (tmp == 0)
1091                 return AVERROR_INVALIDDATA;
1092             av_log(s, AV_LOG_DEBUG, "sync\n");
1093             nut->next_startcode = tmp;
1094         }
1095     }
1096 }
1097
1098 static int64_t nut_read_timestamp(AVFormatContext *s, int stream_index,
1099                                   int64_t *pos_arg, int64_t pos_limit)
1100 {
1101     NUTContext *nut = s->priv_data;
1102     AVIOContext *bc = s->pb;
1103     int64_t pos, pts, back_ptr;
1104     av_log(s, AV_LOG_DEBUG, "read_timestamp(X,%d,%"PRId64",%"PRId64")\n",
1105            stream_index, *pos_arg, pos_limit);
1106
1107     pos = *pos_arg;
1108     do {
1109         pos = find_startcode(bc, SYNCPOINT_STARTCODE, pos) + 1;
1110         if (pos < 1) {
1111             av_log(s, AV_LOG_ERROR, "read_timestamp failed.\n");
1112             return AV_NOPTS_VALUE;
1113         }
1114     } while (decode_syncpoint(nut, &pts, &back_ptr) < 0);
1115     *pos_arg = pos - 1;
1116     av_assert0(nut->last_syncpoint_pos == *pos_arg);
1117
1118     av_log(s, AV_LOG_DEBUG, "return %"PRId64" %"PRId64"\n", pts, back_ptr);
1119     if (stream_index == -2)
1120         return back_ptr;
1121     av_assert0(stream_index == -1);
1122     return pts;
1123 }
1124
1125 static int read_seek(AVFormatContext *s, int stream_index,
1126                      int64_t pts, int flags)
1127 {
1128     NUTContext *nut    = s->priv_data;
1129     AVStream *st       = s->streams[stream_index];
1130     Syncpoint dummy    = { .ts = pts * av_q2d(st->time_base) * AV_TIME_BASE };
1131     Syncpoint nopts_sp = { .ts = AV_NOPTS_VALUE, .back_ptr = AV_NOPTS_VALUE };
1132     Syncpoint *sp, *next_node[2] = { &nopts_sp, &nopts_sp };
1133     int64_t pos, pos2, ts;
1134     int i;
1135
1136     if (nut->flags & NUT_PIPE) {
1137         return AVERROR(ENOSYS);
1138     }
1139
1140     if (st->index_entries) {
1141         int index = av_index_search_timestamp(st, pts, flags);
1142         if (index < 0)
1143             index = av_index_search_timestamp(st, pts, flags ^ AVSEEK_FLAG_BACKWARD);
1144         if (index < 0)
1145             return -1;
1146
1147         pos2 = st->index_entries[index].pos;
1148         ts   = st->index_entries[index].timestamp;
1149     } else {
1150         av_tree_find(nut->syncpoints, &dummy, (void *) ff_nut_sp_pts_cmp,
1151                      (void **) next_node);
1152         av_log(s, AV_LOG_DEBUG, "%"PRIu64"-%"PRIu64" %"PRId64"-%"PRId64"\n",
1153                next_node[0]->pos, next_node[1]->pos, next_node[0]->ts,
1154                next_node[1]->ts);
1155         pos = ff_gen_search(s, -1, dummy.ts, next_node[0]->pos,
1156                             next_node[1]->pos, next_node[1]->pos,
1157                             next_node[0]->ts, next_node[1]->ts,
1158                             AVSEEK_FLAG_BACKWARD, &ts, nut_read_timestamp);
1159
1160         if (!(flags & AVSEEK_FLAG_BACKWARD)) {
1161             dummy.pos    = pos + 16;
1162             next_node[1] = &nopts_sp;
1163             av_tree_find(nut->syncpoints, &dummy, (void *) ff_nut_sp_pos_cmp,
1164                          (void **) next_node);
1165             pos2 = ff_gen_search(s, -2, dummy.pos, next_node[0]->pos,
1166                                  next_node[1]->pos, next_node[1]->pos,
1167                                  next_node[0]->back_ptr, next_node[1]->back_ptr,
1168                                  flags, &ts, nut_read_timestamp);
1169             if (pos2 >= 0)
1170                 pos = pos2;
1171             // FIXME dir but I think it does not matter
1172         }
1173         dummy.pos = pos;
1174         sp = av_tree_find(nut->syncpoints, &dummy, (void *) ff_nut_sp_pos_cmp,
1175                           NULL);
1176
1177         av_assert0(sp);
1178         pos2 = sp->back_ptr - 15;
1179     }
1180     av_log(NULL, AV_LOG_DEBUG, "SEEKTO: %"PRId64"\n", pos2);
1181     pos = find_startcode(s->pb, SYNCPOINT_STARTCODE, pos2);
1182     avio_seek(s->pb, pos, SEEK_SET);
1183     av_log(NULL, AV_LOG_DEBUG, "SP: %"PRId64"\n", pos);
1184     if (pos2 > pos || pos2 + 15 < pos)
1185         av_log(NULL, AV_LOG_ERROR, "no syncpoint at backptr pos\n");
1186     for (i = 0; i < s->nb_streams; i++)
1187         nut->stream[i].skip_until_key_frame = 1;
1188
1189     return 0;
1190 }
1191
1192 static int nut_read_close(AVFormatContext *s)
1193 {
1194     NUTContext *nut = s->priv_data;
1195     int i;
1196
1197     av_freep(&nut->time_base);
1198     av_freep(&nut->stream);
1199     ff_nut_free_sp(nut);
1200     for (i = 1; i < nut->header_count; i++)
1201         av_freep(&nut->header[i]);
1202
1203     return 0;
1204 }
1205
1206 AVInputFormat ff_nut_demuxer = {
1207     .name           = "nut",
1208     .long_name      = NULL_IF_CONFIG_SMALL("NUT"),
1209     .flags          = AVFMT_SEEK_TO_PTS,
1210     .priv_data_size = sizeof(NUTContext),
1211     .read_probe     = nut_probe,
1212     .read_header    = nut_read_header,
1213     .read_packet    = nut_read_packet,
1214     .read_close     = nut_read_close,
1215     .read_seek      = read_seek,
1216     .extensions     = "nut",
1217     .codec_tag      = ff_nut_codec_tags,
1218 };