Merge remote-tracking branch 'qatar/master'
[ffmpeg.git] / libavformat / nutenc.c
1 /*
2  * nut muxer
3  * Copyright (c) 2004-2007 Michael Niedermayer
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include <stdint.h>
23
24 #include "libavutil/intreadwrite.h"
25 #include "libavutil/mathematics.h"
26 #include "libavutil/tree.h"
27 #include "libavutil/dict.h"
28 #include "libavutil/avassert.h"
29 #include "libavcodec/mpegaudiodata.h"
30 #include "nut.h"
31 #include "internal.h"
32 #include "avio_internal.h"
33 #include "riff.h"
34
35 static int find_expected_header(AVCodecContext *c, int size, int key_frame,
36                                 uint8_t out[64])
37 {
38     int sample_rate = c->sample_rate;
39
40     if (size > 4096)
41         return 0;
42
43     AV_WB24(out, 1);
44
45     if (c->codec_id == AV_CODEC_ID_MPEG4) {
46         if (key_frame) {
47             return 3;
48         } else {
49             out[3] = 0xB6;
50             return 4;
51         }
52     } else if (c->codec_id == AV_CODEC_ID_MPEG1VIDEO ||
53                c->codec_id == AV_CODEC_ID_MPEG2VIDEO) {
54         return 3;
55     } else if (c->codec_id == AV_CODEC_ID_H264) {
56         return 3;
57     } else if (c->codec_id == AV_CODEC_ID_MP3 ||
58                c->codec_id == AV_CODEC_ID_MP2) {
59         int lsf, mpeg25, sample_rate_index, bitrate_index, frame_size;
60         int layer           = c->codec_id == AV_CODEC_ID_MP3 ? 3 : 2;
61         unsigned int header = 0xFFF00000;
62
63         lsf           = sample_rate < (24000 + 32000) / 2;
64         mpeg25        = sample_rate < (12000 + 16000) / 2;
65         sample_rate <<= lsf + mpeg25;
66         if      (sample_rate < (32000 + 44100) / 2) sample_rate_index = 2;
67         else if (sample_rate < (44100 + 48000) / 2) sample_rate_index = 0;
68         else                                        sample_rate_index = 1;
69
70         sample_rate = avpriv_mpa_freq_tab[sample_rate_index] >> (lsf + mpeg25);
71
72         for (bitrate_index = 2; bitrate_index < 30; bitrate_index++) {
73             frame_size =
74                 avpriv_mpa_bitrate_tab[lsf][layer - 1][bitrate_index >> 1];
75             frame_size = (frame_size * 144000) / (sample_rate << lsf) +
76                 (bitrate_index & 1);
77
78             if (frame_size == size)
79                 break;
80         }
81
82         header |= (!lsf) << 19;
83         header |= (4 - layer) << 17;
84         header |= 1 << 16; //no crc
85         AV_WB32(out, header);
86         if (size <= 0)
87             return 2;  //we guess there is no crc, if there is one the user clearly does not care about overhead
88         if (bitrate_index == 30)
89             return -1;  //something is wrong ...
90
91         header |= (bitrate_index >> 1) << 12;
92         header |= sample_rate_index << 10;
93         header |= (bitrate_index & 1) << 9;
94
95         return 2; //FIXME actually put the needed ones in build_elision_headers()
96         //return 3; //we guess that the private bit is not set
97 //FIXME the above assumptions should be checked, if these turn out false too often something should be done
98     }
99     return 0;
100 }
101
102 static int find_header_idx(AVFormatContext *s, AVCodecContext *c, int size, int frame_type)
103 {
104     NUTContext *nut = s->priv_data;
105     uint8_t out[64];
106     int i;
107     int len = find_expected_header(c, size, frame_type, out);
108
109     for (i = 1; i < nut->header_count; i++) {
110         if (len == nut->header_len[i] && !memcmp(out, nut->header[i], len)) {
111             return i;
112         }
113     }
114
115     return 0;
116 }
117
118 static void build_elision_headers(AVFormatContext *s)
119 {
120     NUTContext *nut = s->priv_data;
121     int i;
122     //FIXME this is lame
123     //FIXME write a 2pass mode to find the maximal headers
124     static const uint8_t headers[][5] = {
125         { 3, 0x00, 0x00, 0x01 },
126         { 4, 0x00, 0x00, 0x01, 0xB6},
127         { 2, 0xFF, 0xFA }, //mp3+crc
128         { 2, 0xFF, 0xFB }, //mp3
129         { 2, 0xFF, 0xFC }, //mp2+crc
130         { 2, 0xFF, 0xFD }, //mp2
131     };
132
133     nut->header_count = 7;
134     for (i = 1; i < nut->header_count; i++) {
135         nut->header_len[i] = headers[i - 1][0];
136         nut->header[i]     = &headers[i - 1][1];
137     }
138 }
139
140 static void build_frame_code(AVFormatContext *s)
141 {
142     NUTContext *nut = s->priv_data;
143     int key_frame, index, pred, stream_id;
144     int start = 1;
145     int end   = 254;
146     int keyframe_0_esc = s->nb_streams > 2;
147     int pred_table[10];
148     FrameCode *ft;
149
150     ft            = &nut->frame_code[start];
151     ft->flags     = FLAG_CODED;
152     ft->size_mul  = 1;
153     ft->pts_delta = 1;
154     start++;
155
156     if (keyframe_0_esc) {
157         /* keyframe = 0 escape */
158         FrameCode *ft = &nut->frame_code[start];
159         ft->flags    = FLAG_STREAM_ID | FLAG_SIZE_MSB | FLAG_CODED_PTS;
160         ft->size_mul = 1;
161         start++;
162     }
163
164     for (stream_id = 0; stream_id < s->nb_streams; stream_id++) {
165         int start2 = start + (end - start) * stream_id       / s->nb_streams;
166         int end2   = start + (end - start) * (stream_id + 1) / s->nb_streams;
167         AVCodecContext *codec = s->streams[stream_id]->codec;
168         int is_audio          = codec->codec_type == AVMEDIA_TYPE_AUDIO;
169         int intra_only        = /*codec->intra_only || */ is_audio;
170         int pred_count;
171         int frame_size = 0;
172
173         if (codec->codec_type == AVMEDIA_TYPE_AUDIO) {
174             frame_size = av_get_audio_frame_duration(codec, 0);
175             if (codec->codec_id == AV_CODEC_ID_VORBIS && !frame_size)
176                 frame_size = 64;
177         } else {
178             AVRational f = av_div_q(codec->time_base, *nut->stream[stream_id].time_base);
179             if (f.den == 1 && f.num>0)
180                 frame_size = f.num;
181         }
182         if (!frame_size)
183             frame_size = 1;
184
185         for (key_frame = 0; key_frame < 2; key_frame++) {
186             if (!intra_only || !keyframe_0_esc || key_frame != 0) {
187                 FrameCode *ft = &nut->frame_code[start2];
188                 ft->flags     = FLAG_KEY * key_frame;
189                 ft->flags    |= FLAG_SIZE_MSB | FLAG_CODED_PTS;
190                 ft->stream_id = stream_id;
191                 ft->size_mul  = 1;
192                 if (is_audio)
193                     ft->header_idx = find_header_idx(s, codec, -1, key_frame);
194                 start2++;
195             }
196         }
197
198         key_frame = intra_only;
199 #if 1
200         if (is_audio) {
201             int frame_bytes = codec->frame_size * (int64_t)codec->bit_rate /
202                               (8 * codec->sample_rate);
203             int pts;
204             for (pts = 0; pts < 2; pts++) {
205                 for (pred = 0; pred < 2; pred++) {
206                     FrameCode *ft  = &nut->frame_code[start2];
207                     ft->flags      = FLAG_KEY * key_frame;
208                     ft->stream_id  = stream_id;
209                     ft->size_mul   = frame_bytes + 2;
210                     ft->size_lsb   = frame_bytes + pred;
211                     ft->pts_delta  = pts * frame_size;
212                     ft->header_idx = find_header_idx(s, codec, frame_bytes + pred, key_frame);
213                     start2++;
214                 }
215             }
216         } else {
217             FrameCode *ft = &nut->frame_code[start2];
218             ft->flags     = FLAG_KEY | FLAG_SIZE_MSB;
219             ft->stream_id = stream_id;
220             ft->size_mul  = 1;
221             ft->pts_delta = frame_size;
222             start2++;
223         }
224 #endif
225
226         if (codec->has_b_frames) {
227             pred_count    = 5;
228             pred_table[0] = -2;
229             pred_table[1] = -1;
230             pred_table[2] = 1;
231             pred_table[3] = 3;
232             pred_table[4] = 4;
233         } else if (codec->codec_id == AV_CODEC_ID_VORBIS) {
234             pred_count    = 3;
235             pred_table[0] = 2;
236             pred_table[1] = 9;
237             pred_table[2] = 16;
238         } else {
239             pred_count    = 1;
240             pred_table[0] = 1;
241         }
242
243         for (pred = 0; pred < pred_count; pred++) {
244             int start3 = start2 + (end2 - start2) * pred / pred_count;
245             int end3   = start2 + (end2 - start2) * (pred + 1) / pred_count;
246
247             pred_table[pred] *= frame_size;
248
249             for (index = start3; index < end3; index++) {
250                 FrameCode *ft = &nut->frame_code[index];
251                 ft->flags     = FLAG_KEY * key_frame;
252                 ft->flags    |= FLAG_SIZE_MSB;
253                 ft->stream_id = stream_id;
254 //FIXME use single byte size and pred from last
255                 ft->size_mul  = end3 - start3;
256                 ft->size_lsb  = index - start3;
257                 ft->pts_delta = pred_table[pred];
258                 if (is_audio)
259                     ft->header_idx = find_header_idx(s, codec, -1, key_frame);
260             }
261         }
262     }
263     memmove(&nut->frame_code['N' + 1], &nut->frame_code['N'], sizeof(FrameCode) * (255 - 'N'));
264     nut->frame_code[0].flags       =
265         nut->frame_code[255].flags =
266         nut->frame_code['N'].flags = FLAG_INVALID;
267 }
268
269 static void put_tt(NUTContext *nut, AVRational *time_base, AVIOContext *bc, uint64_t val)
270 {
271     val *= nut->time_base_count;
272     val += time_base - nut->time_base;
273     ff_put_v(bc, val);
274 }
275 /**
276  * Store a string as vb.
277  */
278 static void put_str(AVIOContext *bc, const char *string)
279 {
280     int len = strlen(string);
281
282     ff_put_v(bc, len);
283     avio_write(bc, string, len);
284 }
285
286 static void put_s(AVIOContext *bc, int64_t val)
287 {
288     ff_put_v(bc, 2 * FFABS(val) - (val > 0));
289 }
290
291 #ifdef TRACE
292 static inline void ff_put_v_trace(AVIOContext *bc, uint64_t v, const char *file,
293                                   const char *func, int line)
294 {
295     av_log(NULL, AV_LOG_DEBUG, "ff_put_v %5"PRId64" / %"PRIX64" in %s %s:%d\n", v, v, file, func, line);
296
297     ff_put_v(bc, v);
298 }
299
300 static inline void put_s_trace(AVIOContext *bc, int64_t v, const char *file, const char *func, int line)
301 {
302     av_log(NULL, AV_LOG_DEBUG, "put_s %5"PRId64" / %"PRIX64" in %s %s:%d\n", v, v, file, func, line);
303
304     put_s(bc, v);
305 }
306 #define ff_put_v(bc, v)  ff_put_v_trace(bc, v, __FILE__, __PRETTY_FUNCTION__, __LINE__)
307 #define put_s(bc, v)  put_s_trace(bc, v, __FILE__, __PRETTY_FUNCTION__, __LINE__)
308 #endif
309
310 //FIXME remove calculate_checksum
311 static void put_packet(NUTContext *nut, AVIOContext *bc, AVIOContext *dyn_bc,
312                        int calculate_checksum, uint64_t startcode)
313 {
314     uint8_t *dyn_buf = NULL;
315     int dyn_size     = avio_close_dyn_buf(dyn_bc, &dyn_buf);
316     int forw_ptr     = dyn_size + 4 * calculate_checksum;
317
318     if (forw_ptr > 4096)
319         ffio_init_checksum(bc, ff_crc04C11DB7_update, 0);
320     avio_wb64(bc, startcode);
321     ff_put_v(bc, forw_ptr);
322     if (forw_ptr > 4096)
323         avio_wl32(bc, ffio_get_checksum(bc));
324
325     if (calculate_checksum)
326         ffio_init_checksum(bc, ff_crc04C11DB7_update, 0);
327     avio_write(bc, dyn_buf, dyn_size);
328     if (calculate_checksum)
329         avio_wl32(bc, ffio_get_checksum(bc));
330
331     av_free(dyn_buf);
332 }
333
334 static void write_mainheader(NUTContext *nut, AVIOContext *bc)
335 {
336     int i, j, tmp_pts, tmp_flags, tmp_stream, tmp_mul, tmp_size, tmp_fields,
337         tmp_head_idx;
338     int64_t tmp_match;
339
340     ff_put_v(bc, NUT_VERSION);
341     ff_put_v(bc, nut->avf->nb_streams);
342     ff_put_v(bc, nut->max_distance);
343     ff_put_v(bc, nut->time_base_count);
344
345     for (i = 0; i < nut->time_base_count; i++) {
346         ff_put_v(bc, nut->time_base[i].num);
347         ff_put_v(bc, nut->time_base[i].den);
348     }
349
350     tmp_pts      = 0;
351     tmp_mul      = 1;
352     tmp_stream   = 0;
353     tmp_match    = 1 - (1LL << 62);
354     tmp_head_idx = 0;
355     for (i = 0; i < 256; ) {
356         tmp_fields = 0;
357         tmp_size   = 0;
358 //        tmp_res=0;
359         if (tmp_pts      != nut->frame_code[i].pts_delta ) tmp_fields = 1;
360         if (tmp_mul      != nut->frame_code[i].size_mul  ) tmp_fields = 2;
361         if (tmp_stream   != nut->frame_code[i].stream_id ) tmp_fields = 3;
362         if (tmp_size     != nut->frame_code[i].size_lsb  ) tmp_fields = 4;
363 //        if (tmp_res    != nut->frame_code[i].res            ) tmp_fields=5;
364         if (tmp_head_idx != nut->frame_code[i].header_idx) tmp_fields = 8;
365
366         tmp_pts    = nut->frame_code[i].pts_delta;
367         tmp_flags  = nut->frame_code[i].flags;
368         tmp_stream = nut->frame_code[i].stream_id;
369         tmp_mul    = nut->frame_code[i].size_mul;
370         tmp_size   = nut->frame_code[i].size_lsb;
371 //        tmp_res   = nut->frame_code[i].res;
372         tmp_head_idx = nut->frame_code[i].header_idx;
373
374         for (j = 0; i < 256; j++, i++) {
375             if (i == 'N') {
376                 j--;
377                 continue;
378             }
379             if (nut->frame_code[i].pts_delta  != tmp_pts      ||
380                 nut->frame_code[i].flags      != tmp_flags    ||
381                 nut->frame_code[i].stream_id  != tmp_stream   ||
382                 nut->frame_code[i].size_mul   != tmp_mul      ||
383                 nut->frame_code[i].size_lsb   != tmp_size + j ||
384 //              nut->frame_code[i].res        != tmp_res      ||
385                 nut->frame_code[i].header_idx != tmp_head_idx)
386                 break;
387         }
388         if (j != tmp_mul - tmp_size)
389             tmp_fields = 6;
390
391         ff_put_v(bc, tmp_flags);
392         ff_put_v(bc, tmp_fields);
393         if (tmp_fields > 0) put_s(bc, tmp_pts);
394         if (tmp_fields > 1) ff_put_v(bc, tmp_mul);
395         if (tmp_fields > 2) ff_put_v(bc, tmp_stream);
396         if (tmp_fields > 3) ff_put_v(bc, tmp_size);
397         if (tmp_fields > 4) ff_put_v(bc, 0 /*tmp_res*/);
398         if (tmp_fields > 5) ff_put_v(bc, j);
399         if (tmp_fields > 6) ff_put_v(bc, tmp_match);
400         if (tmp_fields > 7) ff_put_v(bc, tmp_head_idx);
401     }
402     ff_put_v(bc, nut->header_count - 1);
403     for (i = 1; i < nut->header_count; i++) {
404         ff_put_v(bc, nut->header_len[i]);
405         avio_write(bc, nut->header[i], nut->header_len[i]);
406     }
407 }
408
409 static int write_streamheader(AVFormatContext *avctx, AVIOContext *bc,
410                               AVStream *st, int i)
411 {
412     NUTContext *nut       = avctx->priv_data;
413     AVCodecContext *codec = st->codec;
414
415     ff_put_v(bc, i);
416     switch (codec->codec_type) {
417     case AVMEDIA_TYPE_VIDEO:    ff_put_v(bc, 0); break;
418     case AVMEDIA_TYPE_AUDIO:    ff_put_v(bc, 1); break;
419     case AVMEDIA_TYPE_SUBTITLE: ff_put_v(bc, 2); break;
420     default:                    ff_put_v(bc, 3); break;
421     }
422     ff_put_v(bc, 4);
423     if (codec->codec_tag) {
424         avio_wl32(bc, codec->codec_tag);
425     } else {
426         av_log(avctx, AV_LOG_ERROR, "No codec tag defined for stream %d\n", i);
427         return AVERROR(EINVAL);
428     }
429
430     ff_put_v(bc, nut->stream[i].time_base - nut->time_base);
431     ff_put_v(bc, nut->stream[i].msb_pts_shift);
432     ff_put_v(bc, nut->stream[i].max_pts_distance);
433     ff_put_v(bc, codec->has_b_frames);
434     avio_w8(bc, 0); /* flags: 0x1 - fixed_fps, 0x2 - index_present */
435
436     ff_put_v(bc, codec->extradata_size);
437     avio_write(bc, codec->extradata, codec->extradata_size);
438
439     switch (codec->codec_type) {
440     case AVMEDIA_TYPE_AUDIO:
441         ff_put_v(bc, codec->sample_rate);
442         ff_put_v(bc, 1);
443         ff_put_v(bc, codec->channels);
444         break;
445     case AVMEDIA_TYPE_VIDEO:
446         ff_put_v(bc, codec->width);
447         ff_put_v(bc, codec->height);
448
449         if (st->sample_aspect_ratio.num <= 0 ||
450             st->sample_aspect_ratio.den <= 0) {
451             ff_put_v(bc, 0);
452             ff_put_v(bc, 0);
453         } else {
454             ff_put_v(bc, st->sample_aspect_ratio.num);
455             ff_put_v(bc, st->sample_aspect_ratio.den);
456         }
457         ff_put_v(bc, 0); /* csp type -- unknown */
458         break;
459     default:
460         break;
461     }
462     return 0;
463 }
464
465 static int add_info(AVIOContext *bc, const char *type, const char *value)
466 {
467     put_str(bc, type);
468     put_s(bc, -1);
469     put_str(bc, value);
470     return 1;
471 }
472
473 static int write_globalinfo(NUTContext *nut, AVIOContext *bc)
474 {
475     AVFormatContext *s   = nut->avf;
476     AVDictionaryEntry *t = NULL;
477     AVIOContext *dyn_bc;
478     uint8_t *dyn_buf = NULL;
479     int count        = 0, dyn_size;
480     int ret          = avio_open_dyn_buf(&dyn_bc);
481     if (ret < 0)
482         return ret;
483
484     while ((t = av_dict_get(s->metadata, "", t, AV_DICT_IGNORE_SUFFIX)))
485         count += add_info(dyn_bc, t->key, t->value);
486
487     ff_put_v(bc, 0); //stream_if_plus1
488     ff_put_v(bc, 0); //chapter_id
489     ff_put_v(bc, 0); //timestamp_start
490     ff_put_v(bc, 0); //length
491
492     ff_put_v(bc, count);
493
494     dyn_size = avio_close_dyn_buf(dyn_bc, &dyn_buf);
495     avio_write(bc, dyn_buf, dyn_size);
496     av_free(dyn_buf);
497     return 0;
498 }
499
500 static int write_streaminfo(NUTContext *nut, AVIOContext *bc, int stream_id) {
501     AVFormatContext *s= nut->avf;
502     AVStream* st = s->streams[stream_id];
503     AVDictionaryEntry *t = NULL;
504     AVIOContext *dyn_bc;
505     uint8_t *dyn_buf=NULL;
506     int count=0, dyn_size, i;
507     int ret = avio_open_dyn_buf(&dyn_bc);
508     if (ret < 0)
509         return ret;
510
511     while ((t = av_dict_get(st->metadata, "", t, AV_DICT_IGNORE_SUFFIX)))
512         count += add_info(dyn_bc, t->key, t->value);
513     for (i=0; ff_nut_dispositions[i].flag; ++i) {
514         if (st->disposition & ff_nut_dispositions[i].flag)
515             count += add_info(dyn_bc, "Disposition", ff_nut_dispositions[i].str);
516     }
517     if (st->codec->codec_type == AVMEDIA_TYPE_VIDEO) {
518         uint8_t buf[256];
519         snprintf(buf, sizeof(buf), "%d/%d", st->codec->time_base.den, st->codec->time_base.num);
520         count += add_info(dyn_bc, "r_frame_rate", buf);
521     }
522     dyn_size = avio_close_dyn_buf(dyn_bc, &dyn_buf);
523
524     if (count) {
525         ff_put_v(bc, stream_id + 1); //stream_id_plus1
526         ff_put_v(bc, 0); //chapter_id
527         ff_put_v(bc, 0); //timestamp_start
528         ff_put_v(bc, 0); //length
529
530         ff_put_v(bc, count);
531
532         avio_write(bc, dyn_buf, dyn_size);
533     }
534
535     av_free(dyn_buf);
536     return count;
537 }
538
539 static int write_chapter(NUTContext *nut, AVIOContext *bc, int id)
540 {
541     AVIOContext *dyn_bc;
542     uint8_t *dyn_buf     = NULL;
543     AVDictionaryEntry *t = NULL;
544     AVChapter *ch        = nut->avf->chapters[id];
545     int ret, dyn_size, count = 0;
546
547     ret = avio_open_dyn_buf(&dyn_bc);
548     if (ret < 0)
549         return ret;
550
551     ff_put_v(bc, 0);                                        // stream_id_plus1
552     put_s(bc, id + 1);                                      // chapter_id
553     put_tt(nut, nut->chapter[id].time_base, bc, ch->start); // chapter_start
554     ff_put_v(bc, ch->end - ch->start);                      // chapter_len
555
556     while ((t = av_dict_get(ch->metadata, "", t, AV_DICT_IGNORE_SUFFIX)))
557         count += add_info(dyn_bc, t->key, t->value);
558
559     ff_put_v(bc, count);
560
561     dyn_size = avio_close_dyn_buf(dyn_bc, &dyn_buf);
562     avio_write(bc, dyn_buf, dyn_size);
563     av_freep(&dyn_buf);
564     return 0;
565 }
566
567 static int write_index(NUTContext *nut, AVIOContext *bc) {
568     int i;
569     Syncpoint dummy= { .pos= 0 };
570     Syncpoint *next_node[2] = { NULL };
571     int64_t startpos = avio_tell(bc);
572     int64_t payload_size;
573
574     put_tt(nut, nut->max_pts_tb, bc, nut->max_pts);
575
576     ff_put_v(bc, nut->sp_count);
577
578     for (i=0; i<nut->sp_count; i++) {
579         av_tree_find(nut->syncpoints, &dummy, (void *) ff_nut_sp_pos_cmp, (void**)next_node);
580         ff_put_v(bc, (next_node[1]->pos >> 4) - (dummy.pos>>4));
581         dummy.pos = next_node[1]->pos;
582     }
583
584     for (i=0; i<nut->avf->nb_streams; i++) {
585         StreamContext *nus= &nut->stream[i];
586         int64_t last_pts= -1;
587         int j, k;
588         for (j=0; j<nut->sp_count; j++) {
589             int flag = (nus->keyframe_pts[j] != AV_NOPTS_VALUE) ^ (j+1 == nut->sp_count);
590             int n = 0;
591             for (; j<nut->sp_count && (nus->keyframe_pts[j] != AV_NOPTS_VALUE) == flag; j++)
592                 n++;
593
594             ff_put_v(bc, 1 + 2*flag + 4*n);
595             for (k= j - n; k<=j && k<nut->sp_count; k++) {
596                 if (nus->keyframe_pts[k] == AV_NOPTS_VALUE)
597                     continue;
598                 av_assert0(nus->keyframe_pts[k] > last_pts);
599                 ff_put_v(bc, nus->keyframe_pts[k] - last_pts);
600                 last_pts = nus->keyframe_pts[k];
601             }
602         }
603     }
604
605     payload_size = avio_tell(bc) - startpos + 8 + 4;
606
607     avio_wb64(bc, 8 + payload_size + av_log2(payload_size) / 7 + 1 + 4*(payload_size > 4096));
608
609     return 0;
610 }
611
612 static int write_headers(AVFormatContext *avctx, AVIOContext *bc)
613 {
614     NUTContext *nut = avctx->priv_data;
615     AVIOContext *dyn_bc;
616     int i, ret;
617
618     ff_metadata_conv_ctx(avctx, ff_nut_metadata_conv, NULL);
619
620     ret = avio_open_dyn_buf(&dyn_bc);
621     if (ret < 0)
622         return ret;
623     write_mainheader(nut, dyn_bc);
624     put_packet(nut, bc, dyn_bc, 1, MAIN_STARTCODE);
625
626     for (i = 0; i < nut->avf->nb_streams; i++) {
627         ret = avio_open_dyn_buf(&dyn_bc);
628         if (ret < 0)
629             return ret;
630         ret = write_streamheader(avctx, dyn_bc, nut->avf->streams[i], i);
631         if (ret < 0)
632             return ret;
633         put_packet(nut, bc, dyn_bc, 1, STREAM_STARTCODE);
634     }
635
636     ret = avio_open_dyn_buf(&dyn_bc);
637     if (ret < 0)
638         return ret;
639     write_globalinfo(nut, dyn_bc);
640     put_packet(nut, bc, dyn_bc, 1, INFO_STARTCODE);
641
642     for (i = 0; i < nut->avf->nb_streams; i++) {
643         ret = avio_open_dyn_buf(&dyn_bc);
644         if (ret < 0)
645             return ret;
646         ret = write_streaminfo(nut, dyn_bc, i);
647         if (ret < 0)
648             return ret;
649         if (ret > 0)
650             put_packet(nut, bc, dyn_bc, 1, INFO_STARTCODE);
651         else {
652             uint8_t *buf;
653             avio_close_dyn_buf(dyn_bc, &buf);
654             av_free(buf);
655         }
656     }
657
658     for (i = 0; i < nut->avf->nb_chapters; i++) {
659         ret = avio_open_dyn_buf(&dyn_bc);
660         if (ret < 0)
661             return ret;
662         ret = write_chapter(nut, dyn_bc, i);
663         if (ret < 0) {
664             uint8_t *buf;
665             avio_close_dyn_buf(dyn_bc, &buf);
666             av_freep(&buf);
667             return ret;
668         }
669         put_packet(nut, bc, dyn_bc, 1, INFO_STARTCODE);
670     }
671
672     nut->last_syncpoint_pos = INT_MIN;
673     nut->header_count++;
674     return 0;
675 }
676
677 static int nut_write_header(AVFormatContext *s)
678 {
679     NUTContext *nut = s->priv_data;
680     AVIOContext *bc = s->pb;
681     int i, j, ret;
682
683     nut->avf = s;
684
685     nut->stream   = av_calloc(s->nb_streams,  sizeof(*nut->stream ));
686     nut->chapter  = av_calloc(s->nb_chapters, sizeof(*nut->chapter));
687     nut->time_base= av_calloc(s->nb_streams +
688                               s->nb_chapters, sizeof(*nut->time_base));
689     if (!nut->stream || !nut->chapter || !nut->time_base) {
690         av_freep(&nut->stream);
691         av_freep(&nut->chapter);
692         av_freep(&nut->time_base);
693         return AVERROR(ENOMEM);
694     }
695
696     for (i = 0; i < s->nb_streams; i++) {
697         AVStream *st = s->streams[i];
698         int ssize;
699         AVRational time_base;
700         ff_parse_specific_params(st->codec, &time_base.den, &ssize, &time_base.num);
701
702         if (st->codec->codec_type == AVMEDIA_TYPE_AUDIO && st->codec->sample_rate) {
703             time_base = (AVRational) {1, st->codec->sample_rate};
704         } else {
705             time_base = ff_choose_timebase(s, st, 48000);
706         }
707
708         avpriv_set_pts_info(st, 64, time_base.num, time_base.den);
709
710         for (j = 0; j < nut->time_base_count; j++)
711             if (!memcmp(&time_base, &nut->time_base[j], sizeof(AVRational))) {
712                 break;
713             }
714         nut->time_base[j]        = time_base;
715         nut->stream[i].time_base = &nut->time_base[j];
716         if (j == nut->time_base_count)
717             nut->time_base_count++;
718
719         if (INT64_C(1000) * time_base.num >= time_base.den)
720             nut->stream[i].msb_pts_shift = 7;
721         else
722             nut->stream[i].msb_pts_shift = 14;
723         nut->stream[i].max_pts_distance =
724             FFMAX(time_base.den, time_base.num) / time_base.num;
725     }
726
727     for (i = 0; i < s->nb_chapters; i++) {
728         AVChapter *ch = s->chapters[i];
729
730         for (j = 0; j < nut->time_base_count; j++)
731             if (!memcmp(&ch->time_base, &nut->time_base[j], sizeof(AVRational)))
732                 break;
733
734         nut->time_base[j]         = ch->time_base;
735         nut->chapter[i].time_base = &nut->time_base[j];
736         if (j == nut->time_base_count)
737             nut->time_base_count++;
738     }
739
740     nut->max_distance = MAX_DISTANCE;
741     build_elision_headers(s);
742     build_frame_code(s);
743     av_assert0(nut->frame_code['N'].flags == FLAG_INVALID);
744
745     avio_write(bc, ID_STRING, strlen(ID_STRING));
746     avio_w8(bc, 0);
747
748     if ((ret = write_headers(s, bc)) < 0)
749         return ret;
750
751     if (s->avoid_negative_ts < 0)
752         s->avoid_negative_ts = 1;
753
754     avio_flush(bc);
755
756     return 0;
757 }
758
759 static int get_needed_flags(NUTContext *nut, StreamContext *nus, FrameCode *fc,
760                             AVPacket *pkt)
761 {
762     int flags = 0;
763
764     if (pkt->flags & AV_PKT_FLAG_KEY)
765         flags |= FLAG_KEY;
766     if (pkt->stream_index != fc->stream_id)
767         flags |= FLAG_STREAM_ID;
768     if (pkt->size / fc->size_mul)
769         flags |= FLAG_SIZE_MSB;
770     if (pkt->pts - nus->last_pts != fc->pts_delta)
771         flags |= FLAG_CODED_PTS;
772     if (pkt->size > 2 * nut->max_distance)
773         flags |= FLAG_CHECKSUM;
774     if (FFABS(pkt->pts - nus->last_pts) > nus->max_pts_distance)
775         flags |= FLAG_CHECKSUM;
776     if (pkt->size < nut->header_len[fc->header_idx] ||
777         (pkt->size > 4096 && fc->header_idx)        ||
778         memcmp(pkt->data, nut->header[fc->header_idx],
779                nut->header_len[fc->header_idx]))
780         flags |= FLAG_HEADER_IDX;
781
782     return flags | (fc->flags & FLAG_CODED);
783 }
784
785 static int find_best_header_idx(NUTContext *nut, AVPacket *pkt)
786 {
787     int i;
788     int best_i   = 0;
789     int best_len = 0;
790
791     if (pkt->size > 4096)
792         return 0;
793
794     for (i = 1; i < nut->header_count; i++)
795         if (pkt->size >= nut->header_len[i]
796             && nut->header_len[i] > best_len
797             && !memcmp(pkt->data, nut->header[i], nut->header_len[i])) {
798             best_i   = i;
799             best_len = nut->header_len[i];
800         }
801     return best_i;
802 }
803
804 static int nut_write_packet(AVFormatContext *s, AVPacket *pkt)
805 {
806     NUTContext *nut    = s->priv_data;
807     StreamContext *nus = &nut->stream[pkt->stream_index];
808     AVIOContext *bc    = s->pb, *dyn_bc;
809     FrameCode *fc;
810     int64_t coded_pts;
811     int best_length, frame_code, flags, needed_flags, i, header_idx;
812     int best_header_idx;
813     int key_frame = !!(pkt->flags & AV_PKT_FLAG_KEY);
814     int store_sp  = 0;
815     int ret;
816
817     if (pkt->pts < 0) {
818         av_log(s, AV_LOG_ERROR,
819                "Negative pts not supported stream %d, pts %"PRId64"\n",
820                pkt->stream_index, pkt->pts);
821         return AVERROR(EINVAL);
822     }
823
824     if (1LL << (20 + 3 * nut->header_count) <= avio_tell(bc))
825         write_headers(s, bc);
826
827     if (key_frame && !(nus->last_flags & FLAG_KEY))
828         store_sp = 1;
829
830     if (pkt->size + 30 /*FIXME check*/ + avio_tell(bc) >= nut->last_syncpoint_pos + nut->max_distance)
831         store_sp = 1;
832
833 //FIXME: Ensure store_sp is 1 in the first place.
834
835     if (store_sp) {
836         Syncpoint *sp, dummy = { .pos = INT64_MAX };
837
838         ff_nut_reset_ts(nut, *nus->time_base, pkt->dts);
839         for (i = 0; i < s->nb_streams; i++) {
840             AVStream *st   = s->streams[i];
841             int64_t dts_tb = av_rescale_rnd(pkt->dts,
842                 nus->time_base->num * (int64_t)nut->stream[i].time_base->den,
843                 nus->time_base->den * (int64_t)nut->stream[i].time_base->num,
844                 AV_ROUND_DOWN);
845             int index = av_index_search_timestamp(st, dts_tb,
846                                                   AVSEEK_FLAG_BACKWARD);
847             if (index >= 0)
848                 dummy.pos = FFMIN(dummy.pos, st->index_entries[index].pos);
849         }
850         if (dummy.pos == INT64_MAX)
851             dummy.pos = 0;
852         sp = av_tree_find(nut->syncpoints, &dummy, (void *)ff_nut_sp_pos_cmp,
853                           NULL);
854
855         nut->last_syncpoint_pos = avio_tell(bc);
856         ret                     = avio_open_dyn_buf(&dyn_bc);
857         if (ret < 0)
858             return ret;
859         put_tt(nut, nus->time_base, dyn_bc, pkt->dts);
860         ff_put_v(dyn_bc, sp ? (nut->last_syncpoint_pos - sp->pos) >> 4 : 0);
861         put_packet(nut, bc, dyn_bc, 1, SYNCPOINT_STARTCODE);
862
863         if ((ret = ff_nut_add_sp(nut, nut->last_syncpoint_pos, 0 /*unused*/, pkt->dts)) < 0)
864             return ret;
865
866         if ((1ll<<60) % nut->sp_count == 0)
867             for (i=0; i<s->nb_streams; i++) {
868                 int j;
869                 StreamContext *nus = &nut->stream[i];
870                 av_reallocp_array(&nus->keyframe_pts, 2*nut->sp_count, sizeof(*nus->keyframe_pts));
871                 if (!nus->keyframe_pts)
872                     return AVERROR(ENOMEM);
873                 for (j=nut->sp_count == 1 ? 0 : nut->sp_count; j<2*nut->sp_count; j++)
874                     nus->keyframe_pts[j] = AV_NOPTS_VALUE;
875         }
876     }
877     av_assert0(nus->last_pts != AV_NOPTS_VALUE);
878
879     coded_pts = pkt->pts & ((1 << nus->msb_pts_shift) - 1);
880     if (ff_lsb2full(nus, coded_pts) != pkt->pts)
881         coded_pts = pkt->pts + (1 << nus->msb_pts_shift);
882
883     best_header_idx = find_best_header_idx(nut, pkt);
884
885     best_length = INT_MAX;
886     frame_code  = -1;
887     for (i = 0; i < 256; i++) {
888         int length    = 0;
889         FrameCode *fc = &nut->frame_code[i];
890         int flags     = fc->flags;
891
892         if (flags & FLAG_INVALID)
893             continue;
894         needed_flags = get_needed_flags(nut, nus, fc, pkt);
895
896         if (flags & FLAG_CODED) {
897             length++;
898             flags = needed_flags;
899         }
900
901         if ((flags & needed_flags) != needed_flags)
902             continue;
903
904         if ((flags ^ needed_flags) & FLAG_KEY)
905             continue;
906
907         if (flags & FLAG_STREAM_ID)
908             length += ff_get_v_length(pkt->stream_index);
909
910         if (pkt->size % fc->size_mul != fc->size_lsb)
911             continue;
912         if (flags & FLAG_SIZE_MSB)
913             length += ff_get_v_length(pkt->size / fc->size_mul);
914
915         if (flags & FLAG_CHECKSUM)
916             length += 4;
917
918         if (flags & FLAG_CODED_PTS)
919             length += ff_get_v_length(coded_pts);
920
921         if (   (flags & FLAG_CODED)
922             && nut->header_len[best_header_idx] > nut->header_len[fc->header_idx] + 1) {
923             flags |= FLAG_HEADER_IDX;
924         }
925
926         if (flags & FLAG_HEADER_IDX) {
927             length += 1 - nut->header_len[best_header_idx];
928         } else {
929             length -= nut->header_len[fc->header_idx];
930         }
931
932         length *= 4;
933         length += !(flags & FLAG_CODED_PTS);
934         length += !(flags & FLAG_CHECKSUM);
935
936         if (length < best_length) {
937             best_length = length;
938             frame_code  = i;
939         }
940     }
941     av_assert0(frame_code != -1);
942     fc           = &nut->frame_code[frame_code];
943     flags        = fc->flags;
944     needed_flags = get_needed_flags(nut, nus, fc, pkt);
945     header_idx   = fc->header_idx;
946
947     ffio_init_checksum(bc, ff_crc04C11DB7_update, 0);
948     avio_w8(bc, frame_code);
949     if (flags & FLAG_CODED) {
950         ff_put_v(bc, (flags ^ needed_flags) & ~(FLAG_CODED));
951         flags = needed_flags;
952     }
953     if (flags & FLAG_STREAM_ID)  ff_put_v(bc, pkt->stream_index);
954     if (flags & FLAG_CODED_PTS)  ff_put_v(bc, coded_pts);
955     if (flags & FLAG_SIZE_MSB )  ff_put_v(bc, pkt->size / fc->size_mul);
956     if (flags & FLAG_HEADER_IDX) ff_put_v(bc, header_idx = best_header_idx);
957
958     if (flags & FLAG_CHECKSUM)   avio_wl32(bc, ffio_get_checksum(bc));
959     else                         ffio_get_checksum(bc);
960
961     avio_write(bc, pkt->data + nut->header_len[header_idx], pkt->size - nut->header_len[header_idx]);
962     nus->last_flags = flags;
963     nus->last_pts   = pkt->pts;
964
965     //FIXME just store one per syncpoint
966     if (flags & FLAG_KEY) {
967         av_add_index_entry(
968             s->streams[pkt->stream_index],
969             nut->last_syncpoint_pos,
970             pkt->pts,
971             0,
972             0,
973             AVINDEX_KEYFRAME);
974         if (nus->keyframe_pts && nus->keyframe_pts[nut->sp_count] == AV_NOPTS_VALUE)
975             nus->keyframe_pts[nut->sp_count] = pkt->pts;
976     }
977
978     if (!nut->max_pts_tb || av_compare_ts(nut->max_pts, *nut->max_pts_tb, pkt->pts, *nus->time_base) < 0) {
979         nut->max_pts = pkt->pts;
980         nut->max_pts_tb = nus->time_base;
981     }
982
983     return 0;
984 }
985
986 static int nut_write_trailer(AVFormatContext *s)
987 {
988     NUTContext *nut = s->priv_data;
989     AVIOContext *bc = s->pb, *dyn_bc;
990     int i, ret;
991
992     while (nut->header_count < 3)
993         write_headers(s, bc);
994
995     ret = avio_open_dyn_buf(&dyn_bc);
996     if (ret >= 0 && nut->sp_count) {
997         write_index(nut, dyn_bc);
998         put_packet(nut, bc, dyn_bc, 1, INDEX_STARTCODE);
999     }
1000
1001     ff_nut_free_sp(nut);
1002     for (i=0; i<s->nb_streams; i++)
1003         av_freep(&nut->stream[i].keyframe_pts);
1004
1005     av_freep(&nut->stream);
1006     av_freep(&nut->chapter);
1007     av_freep(&nut->time_base);
1008
1009     return 0;
1010 }
1011
1012 AVOutputFormat ff_nut_muxer = {
1013     .name           = "nut",
1014     .long_name      = NULL_IF_CONFIG_SMALL("NUT"),
1015     .mime_type      = "video/x-nut",
1016     .extensions     = "nut",
1017     .priv_data_size = sizeof(NUTContext),
1018     .audio_codec    = CONFIG_LIBVORBIS ? AV_CODEC_ID_VORBIS :
1019                       CONFIG_LIBMP3LAME ? AV_CODEC_ID_MP3 : AV_CODEC_ID_MP2,
1020     .video_codec    = AV_CODEC_ID_MPEG4,
1021     .write_header   = nut_write_header,
1022     .write_packet   = nut_write_packet,
1023     .write_trailer  = nut_write_trailer,
1024     .flags          = AVFMT_GLOBALHEADER | AVFMT_VARIABLE_FPS,
1025     .codec_tag      = ff_nut_codec_tags,
1026 };