lavf/srtdec: simplify start/end computation.
[ffmpeg.git] / libavformat / nutdec.c
1 /*
2  * "NUT" Container Format demuxer
3  * Copyright (c) 2004-2006 Michael Niedermayer
4  * Copyright (c) 2003 Alex Beregszaszi
5  *
6  * This file is part of FFmpeg.
7  *
8  * FFmpeg is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * FFmpeg is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with FFmpeg; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 #include "libavutil/avstring.h"
24 #include "libavutil/avassert.h"
25 #include "libavutil/bswap.h"
26 #include "libavutil/dict.h"
27 #include "libavutil/mathematics.h"
28 #include "libavutil/tree.h"
29 #include "avio_internal.h"
30 #include "nut.h"
31
32 #define NUT_MAX_STREAMS 256    /* arbitrary sanity check value */
33
34 static int64_t nut_read_timestamp(AVFormatContext *s, int stream_index,
35                                   int64_t *pos_arg, int64_t pos_limit);
36
37 static int get_str(AVIOContext *bc, char *string, unsigned int maxlen)
38 {
39     unsigned int len = ffio_read_varlen(bc);
40
41     if (len && maxlen)
42         avio_read(bc, string, FFMIN(len, maxlen));
43     while (len > maxlen) {
44         avio_r8(bc);
45         len--;
46     }
47
48     if (maxlen)
49         string[FFMIN(len, maxlen - 1)] = 0;
50
51     if (maxlen == len)
52         return -1;
53     else
54         return 0;
55 }
56
57 static int64_t get_s(AVIOContext *bc)
58 {
59     int64_t v = ffio_read_varlen(bc) + 1;
60
61     if (v & 1)
62         return -(v >> 1);
63     else
64         return  (v >> 1);
65 }
66
67 static uint64_t get_fourcc(AVIOContext *bc)
68 {
69     unsigned int len = ffio_read_varlen(bc);
70
71     if (len == 2)
72         return avio_rl16(bc);
73     else if (len == 4)
74         return avio_rl32(bc);
75     else
76         return -1;
77 }
78
79 #ifdef TRACE
80 static inline uint64_t get_v_trace(AVIOContext *bc, const char *file,
81                                    const char *func, int line)
82 {
83     uint64_t v = ffio_read_varlen(bc);
84
85     av_log(NULL, AV_LOG_DEBUG, "get_v %5"PRId64" / %"PRIX64" in %s %s:%d\n",
86            v, v, file, func, line);
87     return v;
88 }
89
90 static inline int64_t get_s_trace(AVIOContext *bc, const char *file,
91                                   const char *func, int line)
92 {
93     int64_t v = get_s(bc);
94
95     av_log(NULL, AV_LOG_DEBUG, "get_s %5"PRId64" / %"PRIX64" in %s %s:%d\n",
96            v, v, file, func, line);
97     return v;
98 }
99
100 static inline uint64_t get_4cc_trace(AVIOContext *bc, char *file,
101                                     char *func, int line)
102 {
103     uint64_t v = get_fourcc(bc);
104
105     av_log(NULL, AV_LOG_DEBUG, "get_fourcc %5"PRId64" / %"PRIX64" in %s %s:%d\n",
106            v, v, file, func, line);
107     return v;
108 }
109 #define ffio_read_varlen(bc) get_v_trace(bc,  __FILE__, __PRETTY_FUNCTION__, __LINE__)
110 #define get_s(bc)            get_s_trace(bc,  __FILE__, __PRETTY_FUNCTION__, __LINE__)
111 #define get_fourcc(bc)       get_4cc_trace(bc, __FILE__, __PRETTY_FUNCTION__, __LINE__)
112 #endif
113
114 static int get_packetheader(NUTContext *nut, AVIOContext *bc,
115                             int calculate_checksum, uint64_t startcode)
116 {
117     int64_t size;
118 //    start = avio_tell(bc) - 8;
119
120     startcode = av_be2ne64(startcode);
121     startcode = ff_crc04C11DB7_update(0, (uint8_t*) &startcode, 8);
122
123     ffio_init_checksum(bc, ff_crc04C11DB7_update, startcode);
124     size = ffio_read_varlen(bc);
125     if (size > 4096)
126         avio_rb32(bc);
127     if (ffio_get_checksum(bc) && size > 4096)
128         return -1;
129
130     ffio_init_checksum(bc, calculate_checksum ? ff_crc04C11DB7_update : NULL, 0);
131
132     return size;
133 }
134
135 static uint64_t find_any_startcode(AVIOContext *bc, int64_t pos)
136 {
137     uint64_t state = 0;
138
139     if (pos >= 0)
140         /* Note, this may fail if the stream is not seekable, but that should
141          * not matter, as in this case we simply start where we currently are */
142         avio_seek(bc, pos, SEEK_SET);
143     while (!url_feof(bc)) {
144         state = (state << 8) | avio_r8(bc);
145         if ((state >> 56) != 'N')
146             continue;
147         switch (state) {
148         case MAIN_STARTCODE:
149         case STREAM_STARTCODE:
150         case SYNCPOINT_STARTCODE:
151         case INFO_STARTCODE:
152         case INDEX_STARTCODE:
153             return state;
154         }
155     }
156
157     return 0;
158 }
159
160 /**
161  * Find the given startcode.
162  * @param code the startcode
163  * @param pos the start position of the search, or -1 if the current position
164  * @return the position of the startcode or -1 if not found
165  */
166 static int64_t find_startcode(AVIOContext *bc, uint64_t code, int64_t pos)
167 {
168     for (;;) {
169         uint64_t startcode = find_any_startcode(bc, pos);
170         if (startcode == code)
171             return avio_tell(bc) - 8;
172         else if (startcode == 0)
173             return -1;
174         pos = -1;
175     }
176 }
177
178 static int nut_probe(AVProbeData *p)
179 {
180     int i;
181     uint64_t code = 0;
182
183     for (i = 0; i < p->buf_size; i++) {
184         code = (code << 8) | p->buf[i];
185         if (code == MAIN_STARTCODE)
186             return AVPROBE_SCORE_MAX;
187     }
188     return 0;
189 }
190
191 #define GET_V(dst, check)                                                     \
192     do {                                                                      \
193         tmp = ffio_read_varlen(bc);                                           \
194         if (!(check)) {                                                       \
195             av_log(s, AV_LOG_ERROR, "Error " #dst " is (%"PRId64")\n", tmp);  \
196             return -1;                                                        \
197         }                                                                     \
198         dst = tmp;                                                            \
199     } while (0)
200
201 static int skip_reserved(AVIOContext *bc, int64_t pos)
202 {
203     pos -= avio_tell(bc);
204     if (pos < 0) {
205         avio_seek(bc, pos, SEEK_CUR);
206         return -1;
207     } else {
208         while (pos--)
209             avio_r8(bc);
210         return 0;
211     }
212 }
213
214 static int decode_main_header(NUTContext *nut)
215 {
216     AVFormatContext *s = nut->avf;
217     AVIOContext *bc    = s->pb;
218     uint64_t tmp, end;
219     unsigned int stream_count;
220     int i, j, count;
221     int tmp_stream, tmp_mul, tmp_pts, tmp_size, tmp_res, tmp_head_idx;
222
223     end  = get_packetheader(nut, bc, 1, MAIN_STARTCODE);
224     end += avio_tell(bc);
225
226     GET_V(tmp, tmp >= 2 && tmp <= 3);
227     GET_V(stream_count, tmp > 0 && tmp <= NUT_MAX_STREAMS);
228
229     nut->max_distance = ffio_read_varlen(bc);
230     if (nut->max_distance > 65536) {
231         av_log(s, AV_LOG_DEBUG, "max_distance %d\n", nut->max_distance);
232         nut->max_distance = 65536;
233     }
234
235     GET_V(nut->time_base_count, tmp > 0 && tmp < INT_MAX / sizeof(AVRational));
236     nut->time_base = av_malloc(nut->time_base_count * sizeof(AVRational));
237
238     for (i = 0; i < nut->time_base_count; i++) {
239         GET_V(nut->time_base[i].num, tmp > 0 && tmp < (1ULL << 31));
240         GET_V(nut->time_base[i].den, tmp > 0 && tmp < (1ULL << 31));
241         if (av_gcd(nut->time_base[i].num, nut->time_base[i].den) != 1) {
242             av_log(s, AV_LOG_ERROR, "time base invalid\n");
243             return AVERROR_INVALIDDATA;
244         }
245     }
246     tmp_pts      = 0;
247     tmp_mul      = 1;
248     tmp_stream   = 0;
249     tmp_head_idx = 0;
250     for (i = 0; i < 256;) {
251         int tmp_flags  = ffio_read_varlen(bc);
252         int tmp_fields = ffio_read_varlen(bc);
253
254         if (tmp_fields > 0)
255             tmp_pts = get_s(bc);
256         if (tmp_fields > 1)
257             tmp_mul = ffio_read_varlen(bc);
258         if (tmp_fields > 2)
259             tmp_stream = ffio_read_varlen(bc);
260         if (tmp_fields > 3)
261             tmp_size = ffio_read_varlen(bc);
262         else
263             tmp_size = 0;
264         if (tmp_fields > 4)
265             tmp_res = ffio_read_varlen(bc);
266         else
267             tmp_res = 0;
268         if (tmp_fields > 5)
269             count = ffio_read_varlen(bc);
270         else
271             count = tmp_mul - tmp_size;
272         if (tmp_fields > 6)
273             get_s(bc);
274         if (tmp_fields > 7)
275             tmp_head_idx = ffio_read_varlen(bc);
276
277         while (tmp_fields-- > 8)
278             ffio_read_varlen(bc);
279
280         if (count == 0 || i + count > 256) {
281             av_log(s, AV_LOG_ERROR, "illegal count %d at %d\n", count, i);
282             return AVERROR_INVALIDDATA;
283         }
284         if (tmp_stream >= stream_count) {
285             av_log(s, AV_LOG_ERROR, "illegal stream number\n");
286             return AVERROR_INVALIDDATA;
287         }
288
289         for (j = 0; j < count; j++, i++) {
290             if (i == 'N') {
291                 nut->frame_code[i].flags = FLAG_INVALID;
292                 j--;
293                 continue;
294             }
295             nut->frame_code[i].flags          = tmp_flags;
296             nut->frame_code[i].pts_delta      = tmp_pts;
297             nut->frame_code[i].stream_id      = tmp_stream;
298             nut->frame_code[i].size_mul       = tmp_mul;
299             nut->frame_code[i].size_lsb       = tmp_size + j;
300             nut->frame_code[i].reserved_count = tmp_res;
301             nut->frame_code[i].header_idx     = tmp_head_idx;
302         }
303     }
304     av_assert0(nut->frame_code['N'].flags == FLAG_INVALID);
305
306     if (end > avio_tell(bc) + 4) {
307         int rem = 1024;
308         GET_V(nut->header_count, tmp < 128U);
309         nut->header_count++;
310         for (i = 1; i < nut->header_count; i++) {
311             uint8_t *hdr;
312             GET_V(nut->header_len[i], tmp > 0 && tmp < 256);
313             rem -= nut->header_len[i];
314             if (rem < 0) {
315                 av_log(s, AV_LOG_ERROR, "invalid elision header\n");
316                 return AVERROR_INVALIDDATA;
317             }
318             hdr = av_malloc(nut->header_len[i]);
319             if (!hdr)
320                 return AVERROR(ENOMEM);
321             avio_read(bc, hdr, nut->header_len[i]);
322             nut->header[i] = hdr;
323         }
324         av_assert0(nut->header_len[0] == 0);
325     }
326
327     if (skip_reserved(bc, end) || ffio_get_checksum(bc)) {
328         av_log(s, AV_LOG_ERROR, "main header checksum mismatch\n");
329         return AVERROR_INVALIDDATA;
330     }
331
332     nut->stream = av_mallocz(sizeof(StreamContext) * stream_count);
333     for (i = 0; i < stream_count; i++)
334         avformat_new_stream(s, NULL);
335
336     return 0;
337 }
338
339 static int decode_stream_header(NUTContext *nut)
340 {
341     AVFormatContext *s = nut->avf;
342     AVIOContext *bc    = s->pb;
343     StreamContext *stc;
344     int class, stream_id;
345     uint64_t tmp, end;
346     AVStream *st;
347
348     end  = get_packetheader(nut, bc, 1, STREAM_STARTCODE);
349     end += avio_tell(bc);
350
351     GET_V(stream_id, tmp < s->nb_streams && !nut->stream[tmp].time_base);
352     stc = &nut->stream[stream_id];
353     st  = s->streams[stream_id];
354     if (!st)
355         return AVERROR(ENOMEM);
356
357     class                = ffio_read_varlen(bc);
358     tmp                  = get_fourcc(bc);
359     st->codec->codec_tag = tmp;
360     switch (class) {
361     case 0:
362         st->codec->codec_type = AVMEDIA_TYPE_VIDEO;
363         st->codec->codec_id   = av_codec_get_id((const AVCodecTag * const []) {
364                                                     ff_nut_video_tags,
365                                                     ff_codec_bmp_tags,
366                                                     0
367                                                 },
368                                                 tmp);
369         break;
370     case 1:
371         st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
372         st->codec->codec_id   = av_codec_get_id((const AVCodecTag * const []) {
373                                                     ff_nut_audio_tags,
374                                                     ff_codec_wav_tags,
375                                                     0
376                                                 },
377                                                 tmp);
378         break;
379     case 2:
380         st->codec->codec_type = AVMEDIA_TYPE_SUBTITLE;
381         st->codec->codec_id   = ff_codec_get_id(ff_nut_subtitle_tags, tmp);
382         break;
383     case 3:
384         st->codec->codec_type = AVMEDIA_TYPE_DATA;
385         break;
386     default:
387         av_log(s, AV_LOG_ERROR, "unknown stream class (%d)\n", class);
388         return -1;
389     }
390     if (class < 3 && st->codec->codec_id == AV_CODEC_ID_NONE)
391         av_log(s, AV_LOG_ERROR,
392                "Unknown codec tag '0x%04x' for stream number %d\n",
393                (unsigned int) tmp, stream_id);
394
395     GET_V(stc->time_base_id, tmp < nut->time_base_count);
396     GET_V(stc->msb_pts_shift, tmp < 16);
397     stc->max_pts_distance = ffio_read_varlen(bc);
398     GET_V(stc->decode_delay, tmp < 1000); // sanity limit, raise this if Moore's law is true
399     st->codec->has_b_frames = stc->decode_delay;
400     ffio_read_varlen(bc); // stream flags
401
402     GET_V(st->codec->extradata_size, tmp < (1 << 30));
403     if (st->codec->extradata_size) {
404         st->codec->extradata = av_mallocz(st->codec->extradata_size +
405                                           FF_INPUT_BUFFER_PADDING_SIZE);
406         avio_read(bc, st->codec->extradata, st->codec->extradata_size);
407     }
408
409     if (st->codec->codec_type == AVMEDIA_TYPE_VIDEO) {
410         GET_V(st->codec->width,  tmp > 0);
411         GET_V(st->codec->height, tmp > 0);
412         st->sample_aspect_ratio.num = ffio_read_varlen(bc);
413         st->sample_aspect_ratio.den = ffio_read_varlen(bc);
414         if ((!st->sample_aspect_ratio.num) != (!st->sample_aspect_ratio.den)) {
415             av_log(s, AV_LOG_ERROR, "invalid aspect ratio %d/%d\n",
416                    st->sample_aspect_ratio.num, st->sample_aspect_ratio.den);
417             return -1;
418         }
419         ffio_read_varlen(bc); /* csp type */
420     } else if (st->codec->codec_type == AVMEDIA_TYPE_AUDIO) {
421         GET_V(st->codec->sample_rate, tmp > 0);
422         ffio_read_varlen(bc); // samplerate_den
423         GET_V(st->codec->channels, tmp > 0);
424     }
425     if (skip_reserved(bc, end) || ffio_get_checksum(bc)) {
426         av_log(s, AV_LOG_ERROR,
427                "stream header %d checksum mismatch\n", stream_id);
428         return -1;
429     }
430     stc->time_base = &nut->time_base[stc->time_base_id];
431     avpriv_set_pts_info(s->streams[stream_id], 63, stc->time_base->num,
432                         stc->time_base->den);
433     return 0;
434 }
435
436 static void set_disposition_bits(AVFormatContext *avf, char *value,
437                                  int stream_id)
438 {
439     int flag = 0, i;
440
441     for (i = 0; ff_nut_dispositions[i].flag; ++i)
442         if (!strcmp(ff_nut_dispositions[i].str, value))
443             flag = ff_nut_dispositions[i].flag;
444     if (!flag)
445         av_log(avf, AV_LOG_INFO, "unknown disposition type '%s'\n", value);
446     for (i = 0; i < avf->nb_streams; ++i)
447         if (stream_id == i || stream_id == -1)
448             avf->streams[i]->disposition |= flag;
449 }
450
451 static int decode_info_header(NUTContext *nut)
452 {
453     AVFormatContext *s = nut->avf;
454     AVIOContext *bc    = s->pb;
455     uint64_t tmp, chapter_start, chapter_len;
456     unsigned int stream_id_plus1, count;
457     int chapter_id, i;
458     int64_t value, end;
459     char name[256], str_value[1024], type_str[256];
460     const char *type;
461     AVChapter *chapter      = NULL;
462     AVStream *st            = NULL;
463     AVDictionary **metadata = NULL;
464
465     end  = get_packetheader(nut, bc, 1, INFO_STARTCODE);
466     end += avio_tell(bc);
467
468     GET_V(stream_id_plus1, tmp <= s->nb_streams);
469     chapter_id    = get_s(bc);
470     chapter_start = ffio_read_varlen(bc);
471     chapter_len   = ffio_read_varlen(bc);
472     count         = ffio_read_varlen(bc);
473
474     if (chapter_id && !stream_id_plus1) {
475         int64_t start = chapter_start / nut->time_base_count;
476         chapter = avpriv_new_chapter(s, chapter_id,
477                                      nut->time_base[chapter_start %
478                                                     nut->time_base_count],
479                                      start, start + chapter_len, NULL);
480         metadata = &chapter->metadata;
481     } else if (stream_id_plus1) {
482         st       = s->streams[stream_id_plus1 - 1];
483         metadata = &st->metadata;
484     } else
485         metadata = &s->metadata;
486
487     for (i = 0; i < count; i++) {
488         get_str(bc, name, sizeof(name));
489         value = get_s(bc);
490         if (value == -1) {
491             type = "UTF-8";
492             get_str(bc, str_value, sizeof(str_value));
493         } else if (value == -2) {
494             get_str(bc, type_str, sizeof(type_str));
495             type = type_str;
496             get_str(bc, str_value, sizeof(str_value));
497         } else if (value == -3) {
498             type  = "s";
499             value = get_s(bc);
500         } else if (value == -4) {
501             type  = "t";
502             value = ffio_read_varlen(bc);
503         } else if (value < -4) {
504             type = "r";
505             get_s(bc);
506         } else {
507             type = "v";
508         }
509
510         if (stream_id_plus1 > s->nb_streams) {
511             av_log(s, AV_LOG_ERROR, "invalid stream id for info packet\n");
512             continue;
513         }
514
515         if (!strcmp(type, "UTF-8")) {
516             if (chapter_id == 0 && !strcmp(name, "Disposition")) {
517                 set_disposition_bits(s, str_value, stream_id_plus1 - 1);
518                 continue;
519             }
520
521             if (stream_id_plus1 && !strcmp(name, "r_frame_rate")) {
522                 sscanf(str_value, "%d/%d", &st->r_frame_rate.num, &st->r_frame_rate.den);
523                 continue;
524             }
525
526             if (metadata && av_strcasecmp(name, "Uses") &&
527                 av_strcasecmp(name, "Depends") && av_strcasecmp(name, "Replaces"))
528                 av_dict_set(metadata, name, str_value, 0);
529         }
530     }
531
532     if (skip_reserved(bc, end) || ffio_get_checksum(bc)) {
533         av_log(s, AV_LOG_ERROR, "info header checksum mismatch\n");
534         return -1;
535     }
536     return 0;
537 }
538
539 static int decode_syncpoint(NUTContext *nut, int64_t *ts, int64_t *back_ptr)
540 {
541     AVFormatContext *s = nut->avf;
542     AVIOContext *bc    = s->pb;
543     int64_t end;
544     uint64_t tmp;
545
546     nut->last_syncpoint_pos = avio_tell(bc) - 8;
547
548     end  = get_packetheader(nut, bc, 1, SYNCPOINT_STARTCODE);
549     end += avio_tell(bc);
550
551     tmp       = ffio_read_varlen(bc);
552     *back_ptr = nut->last_syncpoint_pos - 16 * ffio_read_varlen(bc);
553     if (*back_ptr < 0)
554         return -1;
555
556     ff_nut_reset_ts(nut, nut->time_base[tmp % nut->time_base_count],
557                     tmp / nut->time_base_count);
558
559     if (skip_reserved(bc, end) || ffio_get_checksum(bc)) {
560         av_log(s, AV_LOG_ERROR, "sync point checksum mismatch\n");
561         return -1;
562     }
563
564     *ts = tmp / nut->time_base_count *
565           av_q2d(nut->time_base[tmp % nut->time_base_count]) * AV_TIME_BASE;
566     ff_nut_add_sp(nut, nut->last_syncpoint_pos, *back_ptr, *ts);
567
568     return 0;
569 }
570
571 //FIXME calculate exactly, this is just a good approximation.
572 static int64_t find_duration(NUTContext *nut, int64_t filesize)
573 {
574     AVFormatContext *s = nut->avf;
575     int64_t duration = 0;
576
577     int64_t pos = FFMAX(0, filesize - 2*nut->max_distance);
578     for(;;){
579         int64_t ts = nut_read_timestamp(s, -1, &pos, INT64_MAX);
580         if(ts < 0)
581             break;
582         duration = FFMAX(duration, ts);
583         pos++;
584     }
585     if(duration > 0)
586         s->duration_estimation_method = AVFMT_DURATION_FROM_PTS;
587     return duration;
588 }
589
590 static int find_and_decode_index(NUTContext *nut)
591 {
592     AVFormatContext *s = nut->avf;
593     AVIOContext *bc    = s->pb;
594     uint64_t tmp, end;
595     int i, j, syncpoint_count;
596     int64_t filesize = avio_size(bc);
597     int64_t *syncpoints;
598     int8_t *has_keyframe;
599     int ret = -1;
600
601     if(filesize <= 0)
602         return -1;
603
604     avio_seek(bc, filesize - 12, SEEK_SET);
605     avio_seek(bc, filesize - avio_rb64(bc), SEEK_SET);
606     if (avio_rb64(bc) != INDEX_STARTCODE) {
607         av_log(s, AV_LOG_ERROR, "no index at the end\n");
608
609         if(s->duration<=0)
610             s->duration = find_duration(nut, filesize);
611         return -1;
612     }
613
614     end  = get_packetheader(nut, bc, 1, INDEX_STARTCODE);
615     end += avio_tell(bc);
616
617     ffio_read_varlen(bc); // max_pts
618     GET_V(syncpoint_count, tmp < INT_MAX / 8 && tmp > 0);
619     syncpoints   = av_malloc(sizeof(int64_t) *  syncpoint_count);
620     has_keyframe = av_malloc(sizeof(int8_t)  * (syncpoint_count + 1));
621     for (i = 0; i < syncpoint_count; i++) {
622         syncpoints[i] = ffio_read_varlen(bc);
623         if (syncpoints[i] <= 0)
624             goto fail;
625         if (i)
626             syncpoints[i] += syncpoints[i - 1];
627     }
628
629     for (i = 0; i < s->nb_streams; i++) {
630         int64_t last_pts = -1;
631         for (j = 0; j < syncpoint_count;) {
632             uint64_t x = ffio_read_varlen(bc);
633             int type   = x & 1;
634             int n      = j;
635             x >>= 1;
636             if (type) {
637                 int flag = x & 1;
638                 x >>= 1;
639                 if (n + x >= syncpoint_count + 1) {
640                     av_log(s, AV_LOG_ERROR, "index overflow A %d + %"PRIu64" >= %d\n", n, x, syncpoint_count + 1);
641                     goto fail;
642                 }
643                 while (x--)
644                     has_keyframe[n++] = flag;
645                 has_keyframe[n++] = !flag;
646             } else {
647                 while (x != 1) {
648                     if (n >= syncpoint_count + 1) {
649                         av_log(s, AV_LOG_ERROR, "index overflow B\n");
650                         goto fail;
651                     }
652                     has_keyframe[n++] = x & 1;
653                     x >>= 1;
654                 }
655             }
656             if (has_keyframe[0]) {
657                 av_log(s, AV_LOG_ERROR, "keyframe before first syncpoint in index\n");
658                 goto fail;
659             }
660             av_assert0(n <= syncpoint_count + 1);
661             for (; j < n && j < syncpoint_count; j++) {
662                 if (has_keyframe[j]) {
663                     uint64_t B, A = ffio_read_varlen(bc);
664                     if (!A) {
665                         A = ffio_read_varlen(bc);
666                         B = ffio_read_varlen(bc);
667                         // eor_pts[j][i] = last_pts + A + B
668                     } else
669                         B = 0;
670                     av_add_index_entry(s->streams[i], 16 * syncpoints[j - 1],
671                                        last_pts + A, 0, 0, AVINDEX_KEYFRAME);
672                     last_pts += A + B;
673                 }
674             }
675         }
676     }
677
678     if (skip_reserved(bc, end) || ffio_get_checksum(bc)) {
679         av_log(s, AV_LOG_ERROR, "index checksum mismatch\n");
680         goto fail;
681     }
682     ret = 0;
683
684 fail:
685     av_free(syncpoints);
686     av_free(has_keyframe);
687     return ret;
688 }
689
690 static int nut_read_header(AVFormatContext *s)
691 {
692     NUTContext *nut = s->priv_data;
693     AVIOContext *bc = s->pb;
694     int64_t pos;
695     int initialized_stream_count;
696
697     nut->avf = s;
698
699     /* main header */
700     pos = 0;
701     do {
702         pos = find_startcode(bc, MAIN_STARTCODE, pos) + 1;
703         if (pos < 0 + 1) {
704             av_log(s, AV_LOG_ERROR, "No main startcode found.\n");
705             return AVERROR_INVALIDDATA;
706         }
707     } while (decode_main_header(nut) < 0);
708
709     /* stream headers */
710     pos = 0;
711     for (initialized_stream_count = 0; initialized_stream_count < s->nb_streams;) {
712         pos = find_startcode(bc, STREAM_STARTCODE, pos) + 1;
713         if (pos < 0 + 1) {
714             av_log(s, AV_LOG_ERROR, "Not all stream headers found.\n");
715             return AVERROR_INVALIDDATA;
716         }
717         if (decode_stream_header(nut) >= 0)
718             initialized_stream_count++;
719     }
720
721     /* info headers */
722     pos = 0;
723     for (;;) {
724         uint64_t startcode = find_any_startcode(bc, pos);
725         pos = avio_tell(bc);
726
727         if (startcode == 0) {
728             av_log(s, AV_LOG_ERROR, "EOF before video frames\n");
729             return AVERROR_INVALIDDATA;
730         } else if (startcode == SYNCPOINT_STARTCODE) {
731             nut->next_startcode = startcode;
732             break;
733         } else if (startcode != INFO_STARTCODE) {
734             continue;
735         }
736
737         decode_info_header(nut);
738     }
739
740     s->data_offset = pos - 8;
741
742     if (bc->seekable) {
743         int64_t orig_pos = avio_tell(bc);
744         find_and_decode_index(nut);
745         avio_seek(bc, orig_pos, SEEK_SET);
746     }
747     av_assert0(nut->next_startcode == SYNCPOINT_STARTCODE);
748
749     ff_metadata_conv_ctx(s, NULL, ff_nut_metadata_conv);
750
751     return 0;
752 }
753
754 static int decode_frame_header(NUTContext *nut, int64_t *pts, int *stream_id,
755                                uint8_t *header_idx, int frame_code)
756 {
757     AVFormatContext *s = nut->avf;
758     AVIOContext *bc    = s->pb;
759     StreamContext *stc;
760     int size, flags, size_mul, pts_delta, i, reserved_count;
761     uint64_t tmp;
762
763     if (avio_tell(bc) > nut->last_syncpoint_pos + nut->max_distance) {
764         av_log(s, AV_LOG_ERROR,
765                "Last frame must have been damaged %"PRId64" > %"PRId64" + %d\n",
766                avio_tell(bc), nut->last_syncpoint_pos, nut->max_distance);
767         return AVERROR_INVALIDDATA;
768     }
769
770     flags          = nut->frame_code[frame_code].flags;
771     size_mul       = nut->frame_code[frame_code].size_mul;
772     size           = nut->frame_code[frame_code].size_lsb;
773     *stream_id     = nut->frame_code[frame_code].stream_id;
774     pts_delta      = nut->frame_code[frame_code].pts_delta;
775     reserved_count = nut->frame_code[frame_code].reserved_count;
776     *header_idx    = nut->frame_code[frame_code].header_idx;
777
778     if (flags & FLAG_INVALID)
779         return AVERROR_INVALIDDATA;
780     if (flags & FLAG_CODED)
781         flags ^= ffio_read_varlen(bc);
782     if (flags & FLAG_STREAM_ID) {
783         GET_V(*stream_id, tmp < s->nb_streams);
784     }
785     stc = &nut->stream[*stream_id];
786     if (flags & FLAG_CODED_PTS) {
787         int coded_pts = ffio_read_varlen(bc);
788         // FIXME check last_pts validity?
789         if (coded_pts < (1 << stc->msb_pts_shift)) {
790             *pts = ff_lsb2full(stc, coded_pts);
791         } else
792             *pts = coded_pts - (1LL << stc->msb_pts_shift);
793     } else
794         *pts = stc->last_pts + pts_delta;
795     if (flags & FLAG_SIZE_MSB)
796         size += size_mul * ffio_read_varlen(bc);
797     if (flags & FLAG_MATCH_TIME)
798         get_s(bc);
799     if (flags & FLAG_HEADER_IDX)
800         *header_idx = ffio_read_varlen(bc);
801     if (flags & FLAG_RESERVED)
802         reserved_count = ffio_read_varlen(bc);
803     for (i = 0; i < reserved_count; i++)
804         ffio_read_varlen(bc);
805
806     if (*header_idx >= (unsigned)nut->header_count) {
807         av_log(s, AV_LOG_ERROR, "header_idx invalid\n");
808         return AVERROR_INVALIDDATA;
809     }
810     if (size > 4096)
811         *header_idx = 0;
812     size -= nut->header_len[*header_idx];
813
814     if (flags & FLAG_CHECKSUM) {
815         avio_rb32(bc); // FIXME check this
816     } else if (size > 2 * nut->max_distance || FFABS(stc->last_pts - *pts) >
817                stc->max_pts_distance) {
818         av_log(s, AV_LOG_ERROR, "frame size > 2max_distance and no checksum\n");
819         return AVERROR_INVALIDDATA;
820     }
821
822     stc->last_pts   = *pts;
823     stc->last_flags = flags;
824
825     return size;
826 }
827
828 static int decode_frame(NUTContext *nut, AVPacket *pkt, int frame_code)
829 {
830     AVFormatContext *s = nut->avf;
831     AVIOContext *bc    = s->pb;
832     int size, stream_id, discard;
833     int64_t pts, last_IP_pts;
834     StreamContext *stc;
835     uint8_t header_idx;
836
837     size = decode_frame_header(nut, &pts, &stream_id, &header_idx, frame_code);
838     if (size < 0)
839         return size;
840
841     stc = &nut->stream[stream_id];
842
843     if (stc->last_flags & FLAG_KEY)
844         stc->skip_until_key_frame = 0;
845
846     discard     = s->streams[stream_id]->discard;
847     last_IP_pts = s->streams[stream_id]->last_IP_pts;
848     if ((discard >= AVDISCARD_NONKEY && !(stc->last_flags & FLAG_KEY)) ||
849         (discard >= AVDISCARD_BIDIR  && last_IP_pts != AV_NOPTS_VALUE &&
850          last_IP_pts > pts) ||
851         discard >= AVDISCARD_ALL ||
852         stc->skip_until_key_frame) {
853         avio_skip(bc, size);
854         return 1;
855     }
856
857     if (av_new_packet(pkt, size + nut->header_len[header_idx]) < 0)
858         return AVERROR(ENOMEM);
859     memcpy(pkt->data, nut->header[header_idx], nut->header_len[header_idx]);
860     pkt->pos = avio_tell(bc); // FIXME
861     avio_read(bc, pkt->data + nut->header_len[header_idx], size);
862
863     pkt->stream_index = stream_id;
864     if (stc->last_flags & FLAG_KEY)
865         pkt->flags |= AV_PKT_FLAG_KEY;
866     pkt->pts = pts;
867
868     return 0;
869 }
870
871 static int nut_read_packet(AVFormatContext *s, AVPacket *pkt)
872 {
873     NUTContext *nut = s->priv_data;
874     AVIOContext *bc = s->pb;
875     int i, frame_code = 0, ret, skip;
876     int64_t ts, back_ptr;
877
878     for (;;) {
879         int64_t pos  = avio_tell(bc);
880         uint64_t tmp = nut->next_startcode;
881         nut->next_startcode = 0;
882
883         if (tmp) {
884             pos -= 8;
885         } else {
886             frame_code = avio_r8(bc);
887             if (url_feof(bc))
888                 return -1;
889             if (frame_code == 'N') {
890                 tmp = frame_code;
891                 for (i = 1; i < 8; i++)
892                     tmp = (tmp << 8) + avio_r8(bc);
893             }
894         }
895         switch (tmp) {
896         case MAIN_STARTCODE:
897         case STREAM_STARTCODE:
898         case INDEX_STARTCODE:
899             skip = get_packetheader(nut, bc, 0, tmp);
900             avio_skip(bc, skip);
901             break;
902         case INFO_STARTCODE:
903             if (decode_info_header(nut) < 0)
904                 goto resync;
905             break;
906         case SYNCPOINT_STARTCODE:
907             if (decode_syncpoint(nut, &ts, &back_ptr) < 0)
908                 goto resync;
909             frame_code = avio_r8(bc);
910         case 0:
911             ret = decode_frame(nut, pkt, frame_code);
912             if (ret == 0)
913                 return 0;
914             else if (ret == 1) // OK but discard packet
915                 break;
916         default:
917 resync:
918             av_log(s, AV_LOG_DEBUG, "syncing from %"PRId64"\n", pos);
919             tmp = find_any_startcode(bc, nut->last_syncpoint_pos + 1);
920             if (tmp == 0)
921                 return AVERROR_INVALIDDATA;
922             av_log(s, AV_LOG_DEBUG, "sync\n");
923             nut->next_startcode = tmp;
924         }
925     }
926 }
927
928 static int64_t nut_read_timestamp(AVFormatContext *s, int stream_index,
929                                   int64_t *pos_arg, int64_t pos_limit)
930 {
931     NUTContext *nut = s->priv_data;
932     AVIOContext *bc = s->pb;
933     int64_t pos, pts, back_ptr;
934     av_log(s, AV_LOG_DEBUG, "read_timestamp(X,%d,%"PRId64",%"PRId64")\n",
935            stream_index, *pos_arg, pos_limit);
936
937     pos = *pos_arg;
938     do {
939         pos = find_startcode(bc, SYNCPOINT_STARTCODE, pos) + 1;
940         if (pos < 1) {
941             av_log(s, AV_LOG_ERROR, "read_timestamp failed.\n");
942             return AV_NOPTS_VALUE;
943         }
944     } while (decode_syncpoint(nut, &pts, &back_ptr) < 0);
945     *pos_arg = pos - 1;
946     av_assert0(nut->last_syncpoint_pos == *pos_arg);
947
948     av_log(s, AV_LOG_DEBUG, "return %"PRId64" %"PRId64"\n", pts, back_ptr);
949     if (stream_index == -2)
950         return back_ptr;
951     av_assert0(stream_index == -1);
952     return pts;
953 }
954
955 static int read_seek(AVFormatContext *s, int stream_index,
956                      int64_t pts, int flags)
957 {
958     NUTContext *nut    = s->priv_data;
959     AVStream *st       = s->streams[stream_index];
960     Syncpoint dummy    = { .ts = pts * av_q2d(st->time_base) * AV_TIME_BASE };
961     Syncpoint nopts_sp = { .ts = AV_NOPTS_VALUE, .back_ptr = AV_NOPTS_VALUE };
962     Syncpoint *sp, *next_node[2] = { &nopts_sp, &nopts_sp };
963     int64_t pos, pos2, ts;
964     int i;
965
966     if (st->index_entries) {
967         int index = av_index_search_timestamp(st, pts, flags);
968         if (index < 0)
969             index = av_index_search_timestamp(st, pts, flags ^ AVSEEK_FLAG_BACKWARD);
970         if (index < 0)
971             return -1;
972
973         pos2 = st->index_entries[index].pos;
974         ts   = st->index_entries[index].timestamp;
975     } else {
976         av_tree_find(nut->syncpoints, &dummy, (void *) ff_nut_sp_pts_cmp,
977                      (void **) next_node);
978         av_log(s, AV_LOG_DEBUG, "%"PRIu64"-%"PRIu64" %"PRId64"-%"PRId64"\n",
979                next_node[0]->pos, next_node[1]->pos, next_node[0]->ts,
980                next_node[1]->ts);
981         pos = ff_gen_search(s, -1, dummy.ts, next_node[0]->pos,
982                             next_node[1]->pos, next_node[1]->pos,
983                             next_node[0]->ts, next_node[1]->ts,
984                             AVSEEK_FLAG_BACKWARD, &ts, nut_read_timestamp);
985
986         if (!(flags & AVSEEK_FLAG_BACKWARD)) {
987             dummy.pos    = pos + 16;
988             next_node[1] = &nopts_sp;
989             av_tree_find(nut->syncpoints, &dummy, (void *) ff_nut_sp_pos_cmp,
990                          (void **) next_node);
991             pos2 = ff_gen_search(s, -2, dummy.pos, next_node[0]->pos,
992                                  next_node[1]->pos, next_node[1]->pos,
993                                  next_node[0]->back_ptr, next_node[1]->back_ptr,
994                                  flags, &ts, nut_read_timestamp);
995             if (pos2 >= 0)
996                 pos = pos2;
997             // FIXME dir but I think it does not matter
998         }
999         dummy.pos = pos;
1000         sp = av_tree_find(nut->syncpoints, &dummy, (void *) ff_nut_sp_pos_cmp,
1001                           NULL);
1002
1003         av_assert0(sp);
1004         pos2 = sp->back_ptr - 15;
1005     }
1006     av_log(NULL, AV_LOG_DEBUG, "SEEKTO: %"PRId64"\n", pos2);
1007     pos = find_startcode(s->pb, SYNCPOINT_STARTCODE, pos2);
1008     avio_seek(s->pb, pos, SEEK_SET);
1009     av_log(NULL, AV_LOG_DEBUG, "SP: %"PRId64"\n", pos);
1010     if (pos2 > pos || pos2 + 15 < pos)
1011         av_log(NULL, AV_LOG_ERROR, "no syncpoint at backptr pos\n");
1012     for (i = 0; i < s->nb_streams; i++)
1013         nut->stream[i].skip_until_key_frame = 1;
1014
1015     return 0;
1016 }
1017
1018 static int nut_read_close(AVFormatContext *s)
1019 {
1020     NUTContext *nut = s->priv_data;
1021     int i;
1022
1023     av_freep(&nut->time_base);
1024     av_freep(&nut->stream);
1025     ff_nut_free_sp(nut);
1026     for (i = 1; i < nut->header_count; i++)
1027         av_freep(&nut->header[i]);
1028
1029     return 0;
1030 }
1031
1032 AVInputFormat ff_nut_demuxer = {
1033     .name           = "nut",
1034     .long_name      = NULL_IF_CONFIG_SMALL("NUT"),
1035     .flags          = AVFMT_SEEK_TO_PTS,
1036     .priv_data_size = sizeof(NUTContext),
1037     .read_probe     = nut_probe,
1038     .read_header    = nut_read_header,
1039     .read_packet    = nut_read_packet,
1040     .read_close     = nut_read_close,
1041     .read_seek      = read_seek,
1042     .extensions     = "nut",
1043     .codec_tag      = ff_nut_codec_tags,
1044 };