examples/muxing: factorize write_interleave code
[ffmpeg.git] / doc / examples / muxing.c
1 /*
2  * Copyright (c) 2003 Fabrice Bellard
3  *
4  * Permission is hereby granted, free of charge, to any person obtaining a copy
5  * of this software and associated documentation files (the "Software"), to deal
6  * in the Software without restriction, including without limitation the rights
7  * to use, copy, modify, merge, publish, distribute, sublicense, and/or sell
8  * copies of the Software, and to permit persons to whom the Software is
9  * furnished to do so, subject to the following conditions:
10  *
11  * The above copyright notice and this permission notice shall be included in
12  * all copies or substantial portions of the Software.
13  *
14  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
15  * IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
16  * FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT. IN NO EVENT SHALL
17  * THE AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER
18  * LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING FROM,
19  * OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN
20  * THE SOFTWARE.
21  */
22
23 /**
24  * @file
25  * libavformat API example.
26  *
27  * Output a media file in any supported libavformat format.
28  * The default codecs are used.
29  * @example doc/examples/muxing.c
30  */
31
32 #include <stdlib.h>
33 #include <stdio.h>
34 #include <string.h>
35 #include <math.h>
36
37 #include <libavutil/opt.h>
38 #include <libavutil/mathematics.h>
39 #include <libavutil/timestamp.h>
40 #include <libavformat/avformat.h>
41 #include <libswscale/swscale.h>
42 #include <libswresample/swresample.h>
43
44 /* 5 seconds stream duration */
45 #define STREAM_DURATION   200.0
46 #define STREAM_FRAME_RATE 25 /* 25 images/s */
47 #define STREAM_NB_FRAMES  ((int)(STREAM_DURATION * STREAM_FRAME_RATE))
48 #define STREAM_PIX_FMT    AV_PIX_FMT_YUV420P /* default pix_fmt */
49
50 static int sws_flags = SWS_BICUBIC;
51
52 static void log_packet(const AVFormatContext *fmt_ctx, const AVPacket *pkt)
53 {
54     AVRational *time_base = &fmt_ctx->streams[pkt->stream_index]->time_base;
55
56     printf("pts:%s pts_time:%s dts:%s dts_time:%s duration:%s duration_time:%s stream_index:%d\n",
57            av_ts2str(pkt->pts), av_ts2timestr(pkt->pts, time_base),
58            av_ts2str(pkt->dts), av_ts2timestr(pkt->dts, time_base),
59            av_ts2str(pkt->duration), av_ts2timestr(pkt->duration, time_base),
60            pkt->stream_index);
61 }
62
63 static int write_frame(AVFormatContext *fmt_ctx, const AVRational *time_base, AVStream *st, AVPacket *pkt)
64 {
65     /* rescale output packet timestamp values from codec to stream timebase */
66     pkt->pts = av_rescale_q_rnd(pkt->pts, *time_base, st->time_base, AV_ROUND_NEAR_INF|AV_ROUND_PASS_MINMAX);
67     pkt->dts = av_rescale_q_rnd(pkt->dts, *time_base, st->time_base, AV_ROUND_NEAR_INF|AV_ROUND_PASS_MINMAX);
68     pkt->duration = av_rescale_q(pkt->duration, *time_base, st->time_base);
69     pkt->stream_index = st->index;
70
71     /* Write the compressed frame to the media file. */
72     log_packet(fmt_ctx, pkt);
73     return av_interleaved_write_frame(fmt_ctx, pkt);
74 }
75
76 /* Add an output stream. */
77 static AVStream *add_stream(AVFormatContext *oc, AVCodec **codec,
78                             enum AVCodecID codec_id)
79 {
80     AVCodecContext *c;
81     AVStream *st;
82
83     /* find the encoder */
84     *codec = avcodec_find_encoder(codec_id);
85     if (!(*codec)) {
86         fprintf(stderr, "Could not find encoder for '%s'\n",
87                 avcodec_get_name(codec_id));
88         exit(1);
89     }
90
91     st = avformat_new_stream(oc, *codec);
92     if (!st) {
93         fprintf(stderr, "Could not allocate stream\n");
94         exit(1);
95     }
96     st->id = oc->nb_streams-1;
97     c = st->codec;
98
99     switch ((*codec)->type) {
100     case AVMEDIA_TYPE_AUDIO:
101         c->sample_fmt  = (*codec)->sample_fmts ?
102             (*codec)->sample_fmts[0] : AV_SAMPLE_FMT_FLTP;
103         c->bit_rate    = 64000;
104         c->sample_rate = 44100;
105         c->channels    = 2;
106         break;
107
108     case AVMEDIA_TYPE_VIDEO:
109         c->codec_id = codec_id;
110
111         c->bit_rate = 400000;
112         /* Resolution must be a multiple of two. */
113         c->width    = 352;
114         c->height   = 288;
115         /* timebase: This is the fundamental unit of time (in seconds) in terms
116          * of which frame timestamps are represented. For fixed-fps content,
117          * timebase should be 1/framerate and timestamp increments should be
118          * identical to 1. */
119         c->time_base.den = STREAM_FRAME_RATE;
120         c->time_base.num = 1;
121         c->gop_size      = 12; /* emit one intra frame every twelve frames at most */
122         c->pix_fmt       = STREAM_PIX_FMT;
123         if (c->codec_id == AV_CODEC_ID_MPEG2VIDEO) {
124             /* just for testing, we also add B frames */
125             c->max_b_frames = 2;
126         }
127         if (c->codec_id == AV_CODEC_ID_MPEG1VIDEO) {
128             /* Needed to avoid using macroblocks in which some coeffs overflow.
129              * This does not happen with normal video, it just happens here as
130              * the motion of the chroma plane does not match the luma plane. */
131             c->mb_decision = 2;
132         }
133     break;
134
135     default:
136         break;
137     }
138
139     /* Some formats want stream headers to be separate. */
140     if (oc->oformat->flags & AVFMT_GLOBALHEADER)
141         c->flags |= CODEC_FLAG_GLOBAL_HEADER;
142
143     return st;
144 }
145
146 /**************************************************************/
147 /* audio output */
148
149 static float t, tincr, tincr2;
150
151 AVFrame *audio_frame;
152 static uint8_t **src_samples_data;
153 static int       src_samples_linesize;
154 static int       src_nb_samples;
155
156 static int max_dst_nb_samples;
157 uint8_t **dst_samples_data;
158 int       dst_samples_linesize;
159 int       dst_samples_size;
160 int samples_count;
161
162 struct SwrContext *swr_ctx = NULL;
163
164 static void open_audio(AVFormatContext *oc, AVCodec *codec, AVStream *st)
165 {
166     AVCodecContext *c;
167     int ret;
168
169     c = st->codec;
170
171     /* allocate and init a re-usable frame */
172     audio_frame = av_frame_alloc();
173     if (!audio_frame) {
174         fprintf(stderr, "Could not allocate audio frame\n");
175         exit(1);
176     }
177
178     /* open it */
179     ret = avcodec_open2(c, codec, NULL);
180     if (ret < 0) {
181         fprintf(stderr, "Could not open audio codec: %s\n", av_err2str(ret));
182         exit(1);
183     }
184
185     /* init signal generator */
186     t     = 0;
187     tincr = 2 * M_PI * 110.0 / c->sample_rate;
188     /* increment frequency by 110 Hz per second */
189     tincr2 = 2 * M_PI * 110.0 / c->sample_rate / c->sample_rate;
190
191     src_nb_samples = c->codec->capabilities & CODEC_CAP_VARIABLE_FRAME_SIZE ?
192         10000 : c->frame_size;
193
194     ret = av_samples_alloc_array_and_samples(&src_samples_data, &src_samples_linesize, c->channels,
195                                              src_nb_samples, AV_SAMPLE_FMT_S16, 0);
196     if (ret < 0) {
197         fprintf(stderr, "Could not allocate source samples\n");
198         exit(1);
199     }
200
201     /* compute the number of converted samples: buffering is avoided
202      * ensuring that the output buffer will contain at least all the
203      * converted input samples */
204     max_dst_nb_samples = src_nb_samples;
205
206     /* create resampler context */
207     if (c->sample_fmt != AV_SAMPLE_FMT_S16) {
208         swr_ctx = swr_alloc();
209         if (!swr_ctx) {
210             fprintf(stderr, "Could not allocate resampler context\n");
211             exit(1);
212         }
213
214         /* set options */
215         av_opt_set_int       (swr_ctx, "in_channel_count",   c->channels,       0);
216         av_opt_set_int       (swr_ctx, "in_sample_rate",     c->sample_rate,    0);
217         av_opt_set_sample_fmt(swr_ctx, "in_sample_fmt",      AV_SAMPLE_FMT_S16, 0);
218         av_opt_set_int       (swr_ctx, "out_channel_count",  c->channels,       0);
219         av_opt_set_int       (swr_ctx, "out_sample_rate",    c->sample_rate,    0);
220         av_opt_set_sample_fmt(swr_ctx, "out_sample_fmt",     c->sample_fmt,     0);
221
222         /* initialize the resampling context */
223         if ((ret = swr_init(swr_ctx)) < 0) {
224             fprintf(stderr, "Failed to initialize the resampling context\n");
225             exit(1);
226         }
227
228         ret = av_samples_alloc_array_and_samples(&dst_samples_data, &dst_samples_linesize, c->channels,
229                                                  max_dst_nb_samples, c->sample_fmt, 0);
230         if (ret < 0) {
231             fprintf(stderr, "Could not allocate destination samples\n");
232             exit(1);
233         }
234     } else {
235         dst_samples_data = src_samples_data;
236     }
237     dst_samples_size = av_samples_get_buffer_size(NULL, c->channels, max_dst_nb_samples,
238                                                   c->sample_fmt, 0);
239 }
240
241 /* Prepare a 16 bit dummy audio frame of 'frame_size' samples and
242  * 'nb_channels' channels. */
243 static void get_audio_frame(int16_t *samples, int frame_size, int nb_channels)
244 {
245     int j, i, v;
246     int16_t *q;
247
248     q = samples;
249     for (j = 0; j < frame_size; j++) {
250         v = (int)(sin(t) * 10000);
251         for (i = 0; i < nb_channels; i++)
252             *q++ = v;
253         t     += tincr;
254         tincr += tincr2;
255     }
256 }
257
258 static void write_audio_frame(AVFormatContext *oc, AVStream *st)
259 {
260     AVCodecContext *c;
261     AVPacket pkt = { 0 }; // data and size must be 0;
262     int got_packet, ret, dst_nb_samples;
263
264     av_init_packet(&pkt);
265     c = st->codec;
266
267     get_audio_frame((int16_t *)src_samples_data[0], src_nb_samples, c->channels);
268
269     /* convert samples from native format to destination codec format, using the resampler */
270     if (swr_ctx) {
271         /* compute destination number of samples */
272         dst_nb_samples = av_rescale_rnd(swr_get_delay(swr_ctx, c->sample_rate) + src_nb_samples,
273                                         c->sample_rate, c->sample_rate, AV_ROUND_UP);
274         if (dst_nb_samples > max_dst_nb_samples) {
275             av_free(dst_samples_data[0]);
276             ret = av_samples_alloc(dst_samples_data, &dst_samples_linesize, c->channels,
277                                    dst_nb_samples, c->sample_fmt, 0);
278             if (ret < 0)
279                 exit(1);
280             max_dst_nb_samples = dst_nb_samples;
281             dst_samples_size = av_samples_get_buffer_size(NULL, c->channels, dst_nb_samples,
282                                                           c->sample_fmt, 0);
283         }
284
285         /* convert to destination format */
286         ret = swr_convert(swr_ctx,
287                           dst_samples_data, dst_nb_samples,
288                           (const uint8_t **)src_samples_data, src_nb_samples);
289         if (ret < 0) {
290             fprintf(stderr, "Error while converting\n");
291             exit(1);
292         }
293     } else {
294         dst_nb_samples = src_nb_samples;
295     }
296
297     audio_frame->nb_samples = dst_nb_samples;
298     audio_frame->pts = av_rescale_q(samples_count, (AVRational){1, c->sample_rate}, c->time_base);
299     avcodec_fill_audio_frame(audio_frame, c->channels, c->sample_fmt,
300                              dst_samples_data[0], dst_samples_size, 0);
301     samples_count += dst_nb_samples;
302
303     ret = avcodec_encode_audio2(c, &pkt, audio_frame, &got_packet);
304     if (ret < 0) {
305         fprintf(stderr, "Error encoding audio frame: %s\n", av_err2str(ret));
306         exit(1);
307     }
308
309     if (!got_packet)
310         return;
311
312     ret = write_frame(oc, &c->time_base, st, &pkt);
313     if (ret != 0) {
314         fprintf(stderr, "Error while writing audio frame: %s\n",
315                 av_err2str(ret));
316         exit(1);
317     }
318 }
319
320 static void close_audio(AVFormatContext *oc, AVStream *st)
321 {
322     avcodec_close(st->codec);
323     if (dst_samples_data != src_samples_data) {
324         av_free(dst_samples_data[0]);
325         av_free(dst_samples_data);
326     }
327     av_free(src_samples_data[0]);
328     av_free(src_samples_data);
329     av_frame_free(&audio_frame);
330 }
331
332 /**************************************************************/
333 /* video output */
334
335 static AVFrame *frame;
336 static AVPicture src_picture, dst_picture;
337 static int frame_count;
338
339 static void open_video(AVFormatContext *oc, AVCodec *codec, AVStream *st)
340 {
341     int ret;
342     AVCodecContext *c = st->codec;
343
344     /* open the codec */
345     ret = avcodec_open2(c, codec, NULL);
346     if (ret < 0) {
347         fprintf(stderr, "Could not open video codec: %s\n", av_err2str(ret));
348         exit(1);
349     }
350
351     /* allocate and init a re-usable frame */
352     frame = av_frame_alloc();
353     if (!frame) {
354         fprintf(stderr, "Could not allocate video frame\n");
355         exit(1);
356     }
357     frame->format = c->pix_fmt;
358     frame->width = c->width;
359     frame->height = c->height;
360
361     /* Allocate the encoded raw picture. */
362     ret = avpicture_alloc(&dst_picture, c->pix_fmt, c->width, c->height);
363     if (ret < 0) {
364         fprintf(stderr, "Could not allocate picture: %s\n", av_err2str(ret));
365         exit(1);
366     }
367
368     /* If the output format is not YUV420P, then a temporary YUV420P
369      * picture is needed too. It is then converted to the required
370      * output format. */
371     if (c->pix_fmt != AV_PIX_FMT_YUV420P) {
372         ret = avpicture_alloc(&src_picture, AV_PIX_FMT_YUV420P, c->width, c->height);
373         if (ret < 0) {
374             fprintf(stderr, "Could not allocate temporary picture: %s\n",
375                     av_err2str(ret));
376             exit(1);
377         }
378     }
379
380     /* copy data and linesize picture pointers to frame */
381     *((AVPicture *)frame) = dst_picture;
382 }
383
384 /* Prepare a dummy image. */
385 static void fill_yuv_image(AVPicture *pict, int frame_index,
386                            int width, int height)
387 {
388     int x, y, i;
389
390     i = frame_index;
391
392     /* Y */
393     for (y = 0; y < height; y++)
394         for (x = 0; x < width; x++)
395             pict->data[0][y * pict->linesize[0] + x] = x + y + i * 3;
396
397     /* Cb and Cr */
398     for (y = 0; y < height / 2; y++) {
399         for (x = 0; x < width / 2; x++) {
400             pict->data[1][y * pict->linesize[1] + x] = 128 + y + i * 2;
401             pict->data[2][y * pict->linesize[2] + x] = 64 + x + i * 5;
402         }
403     }
404 }
405
406 static void write_video_frame(AVFormatContext *oc, AVStream *st)
407 {
408     int ret;
409     static struct SwsContext *sws_ctx;
410     AVCodecContext *c = st->codec;
411
412     if (frame_count >= STREAM_NB_FRAMES) {
413         /* No more frames to compress. The codec has a latency of a few
414          * frames if using B-frames, so we get the last frames by
415          * passing the same picture again. */
416     } else {
417         if (c->pix_fmt != AV_PIX_FMT_YUV420P) {
418             /* as we only generate a YUV420P picture, we must convert it
419              * to the codec pixel format if needed */
420             if (!sws_ctx) {
421                 sws_ctx = sws_getContext(c->width, c->height, AV_PIX_FMT_YUV420P,
422                                          c->width, c->height, c->pix_fmt,
423                                          sws_flags, NULL, NULL, NULL);
424                 if (!sws_ctx) {
425                     fprintf(stderr,
426                             "Could not initialize the conversion context\n");
427                     exit(1);
428                 }
429             }
430             fill_yuv_image(&src_picture, frame_count, c->width, c->height);
431             sws_scale(sws_ctx,
432                       (const uint8_t * const *)src_picture.data, src_picture.linesize,
433                       0, c->height, dst_picture.data, dst_picture.linesize);
434         } else {
435             fill_yuv_image(&dst_picture, frame_count, c->width, c->height);
436         }
437     }
438
439     if (oc->oformat->flags & AVFMT_RAWPICTURE) {
440         /* Raw video case - directly store the picture in the packet */
441         AVPacket pkt;
442         av_init_packet(&pkt);
443
444         pkt.flags        |= AV_PKT_FLAG_KEY;
445         pkt.stream_index  = st->index;
446         pkt.data          = dst_picture.data[0];
447         pkt.size          = sizeof(AVPicture);
448
449         ret = av_interleaved_write_frame(oc, &pkt);
450     } else {
451         AVPacket pkt = { 0 };
452         int got_packet;
453         av_init_packet(&pkt);
454
455         /* encode the image */
456         frame->pts = frame_count;
457         ret = avcodec_encode_video2(c, &pkt, frame, &got_packet);
458         if (ret < 0) {
459             fprintf(stderr, "Error encoding video frame: %s\n", av_err2str(ret));
460             exit(1);
461         }
462         /* If size is zero, it means the image was buffered. */
463
464         if (got_packet) {
465             ret = write_frame(oc, &c->time_base, st, &pkt);
466         } else {
467             ret = 0;
468         }
469     }
470     if (ret != 0) {
471         fprintf(stderr, "Error while writing video frame: %s\n", av_err2str(ret));
472         exit(1);
473     }
474     frame_count++;
475 }
476
477 static void close_video(AVFormatContext *oc, AVStream *st)
478 {
479     avcodec_close(st->codec);
480     av_free(src_picture.data[0]);
481     av_free(dst_picture.data[0]);
482     av_frame_free(&frame);
483 }
484
485 /**************************************************************/
486 /* media file output */
487
488 int main(int argc, char **argv)
489 {
490     const char *filename;
491     AVOutputFormat *fmt;
492     AVFormatContext *oc;
493     AVStream *audio_st, *video_st;
494     AVCodec *audio_codec, *video_codec;
495     double audio_time, video_time;
496     int ret;
497
498     /* Initialize libavcodec, and register all codecs and formats. */
499     av_register_all();
500
501     if (argc != 2) {
502         printf("usage: %s output_file\n"
503                "API example program to output a media file with libavformat.\n"
504                "This program generates a synthetic audio and video stream, encodes and\n"
505                "muxes them into a file named output_file.\n"
506                "The output format is automatically guessed according to the file extension.\n"
507                "Raw images can also be output by using '%%d' in the filename.\n"
508                "\n", argv[0]);
509         return 1;
510     }
511
512     filename = argv[1];
513
514     /* allocate the output media context */
515     avformat_alloc_output_context2(&oc, NULL, NULL, filename);
516     if (!oc) {
517         printf("Could not deduce output format from file extension: using MPEG.\n");
518         avformat_alloc_output_context2(&oc, NULL, "mpeg", filename);
519     }
520     if (!oc) {
521         return 1;
522     }
523     fmt = oc->oformat;
524
525     /* Add the audio and video streams using the default format codecs
526      * and initialize the codecs. */
527     video_st = NULL;
528     audio_st = NULL;
529
530     if (fmt->video_codec != AV_CODEC_ID_NONE) {
531         video_st = add_stream(oc, &video_codec, fmt->video_codec);
532     }
533     if (fmt->audio_codec != AV_CODEC_ID_NONE) {
534         audio_st = add_stream(oc, &audio_codec, fmt->audio_codec);
535     }
536
537     /* Now that all the parameters are set, we can open the audio and
538      * video codecs and allocate the necessary encode buffers. */
539     if (video_st)
540         open_video(oc, video_codec, video_st);
541     if (audio_st)
542         open_audio(oc, audio_codec, audio_st);
543
544     av_dump_format(oc, 0, filename, 1);
545
546     /* open the output file, if needed */
547     if (!(fmt->flags & AVFMT_NOFILE)) {
548         ret = avio_open(&oc->pb, filename, AVIO_FLAG_WRITE);
549         if (ret < 0) {
550             fprintf(stderr, "Could not open '%s': %s\n", filename,
551                     av_err2str(ret));
552             return 1;
553         }
554     }
555
556     /* Write the stream header, if any. */
557     ret = avformat_write_header(oc, NULL);
558     if (ret < 0) {
559         fprintf(stderr, "Error occurred when opening output file: %s\n",
560                 av_err2str(ret));
561         return 1;
562     }
563
564     for (;;) {
565         /* Compute current audio and video time. */
566         audio_time = audio_st ? audio_st->pts.val * av_q2d(audio_st->time_base) : 0.0;
567         video_time = video_st ? video_st->pts.val * av_q2d(video_st->time_base) : 0.0;
568
569         if ((!audio_st || audio_time >= STREAM_DURATION) &&
570             (!video_st || video_time >= STREAM_DURATION))
571             break;
572
573         /* write interleaved audio and video frames */
574         if (!video_st || (video_st && audio_st && audio_time < video_time)) {
575             write_audio_frame(oc, audio_st);
576         } else {
577             write_video_frame(oc, video_st);
578         }
579     }
580
581     /* Write the trailer, if any. The trailer must be written before you
582      * close the CodecContexts open when you wrote the header; otherwise
583      * av_write_trailer() may try to use memory that was freed on
584      * av_codec_close(). */
585     av_write_trailer(oc);
586
587     /* Close each codec. */
588     if (video_st)
589         close_video(oc, video_st);
590     if (audio_st)
591         close_audio(oc, audio_st);
592
593     if (!(fmt->flags & AVFMT_NOFILE))
594         /* Close the output file. */
595         avio_close(oc->pb);
596
597     /* free the stream */
598     avformat_free_context(oc);
599
600     return 0;
601 }