utvideoenc: optimize and simplify mangle_rgb_planes
[ffmpeg.git] / libavformat / swfenc.c
1 /*
2  * Flash Compatible Streaming Format muxer
3  * Copyright (c) 2000 Fabrice Bellard
4  * Copyright (c) 2003 Tinic Uro
5  *
6  * This file is part of FFmpeg.
7  *
8  * FFmpeg is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * FFmpeg is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with FFmpeg; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 #include "libavcodec/put_bits.h"
24 #include "libavutil/avassert.h"
25 #include "avformat.h"
26 #include "swf.h"
27
28 static void put_swf_tag(AVFormatContext *s, int tag)
29 {
30     SWFContext *swf = s->priv_data;
31     AVIOContext *pb = s->pb;
32
33     swf->tag_pos = avio_tell(pb);
34     swf->tag = tag;
35     /* reserve some room for the tag */
36     if (tag & TAG_LONG) {
37         avio_wl16(pb, 0);
38         avio_wl32(pb, 0);
39     } else {
40         avio_wl16(pb, 0);
41     }
42 }
43
44 static void put_swf_end_tag(AVFormatContext *s)
45 {
46     SWFContext *swf = s->priv_data;
47     AVIOContext *pb = s->pb;
48     int64_t pos;
49     int tag_len, tag;
50
51     pos = avio_tell(pb);
52     tag_len = pos - swf->tag_pos - 2;
53     tag = swf->tag;
54     avio_seek(pb, swf->tag_pos, SEEK_SET);
55     if (tag & TAG_LONG) {
56         tag &= ~TAG_LONG;
57         avio_wl16(pb, (tag << 6) | 0x3f);
58         avio_wl32(pb, tag_len - 4);
59     } else {
60         av_assert0(tag_len < 0x3f);
61         avio_wl16(pb, (tag << 6) | tag_len);
62     }
63     avio_seek(pb, pos, SEEK_SET);
64 }
65
66 static inline void max_nbits(int *nbits_ptr, int val)
67 {
68     int n;
69
70     if (val == 0)
71         return;
72     val = abs(val);
73     n = 1;
74     while (val != 0) {
75         n++;
76         val >>= 1;
77     }
78     if (n > *nbits_ptr)
79         *nbits_ptr = n;
80 }
81
82 static void put_swf_rect(AVIOContext *pb,
83                          int xmin, int xmax, int ymin, int ymax)
84 {
85     PutBitContext p;
86     uint8_t buf[256];
87     int nbits, mask;
88
89     init_put_bits(&p, buf, sizeof(buf));
90
91     nbits = 0;
92     max_nbits(&nbits, xmin);
93     max_nbits(&nbits, xmax);
94     max_nbits(&nbits, ymin);
95     max_nbits(&nbits, ymax);
96     mask = (1 << nbits) - 1;
97
98     /* rectangle info */
99     put_bits(&p, 5, nbits);
100     put_bits(&p, nbits, xmin & mask);
101     put_bits(&p, nbits, xmax & mask);
102     put_bits(&p, nbits, ymin & mask);
103     put_bits(&p, nbits, ymax & mask);
104
105     flush_put_bits(&p);
106     avio_write(pb, buf, put_bits_ptr(&p) - p.buf);
107 }
108
109 static void put_swf_line_edge(PutBitContext *pb, int dx, int dy)
110 {
111     int nbits, mask;
112
113     put_bits(pb, 1, 1); /* edge */
114     put_bits(pb, 1, 1); /* line select */
115     nbits = 2;
116     max_nbits(&nbits, dx);
117     max_nbits(&nbits, dy);
118
119     mask = (1 << nbits) - 1;
120     put_bits(pb, 4, nbits - 2); /* 16 bits precision */
121     if (dx == 0) {
122         put_bits(pb, 1, 0);
123         put_bits(pb, 1, 1);
124         put_bits(pb, nbits, dy & mask);
125     } else if (dy == 0) {
126         put_bits(pb, 1, 0);
127         put_bits(pb, 1, 0);
128         put_bits(pb, nbits, dx & mask);
129     } else {
130         put_bits(pb, 1, 1);
131         put_bits(pb, nbits, dx & mask);
132         put_bits(pb, nbits, dy & mask);
133     }
134 }
135
136 #define FRAC_BITS 16
137
138 static void put_swf_matrix(AVIOContext *pb,
139                            int a, int b, int c, int d, int tx, int ty)
140 {
141     PutBitContext p;
142     uint8_t buf[256];
143     int nbits;
144
145     init_put_bits(&p, buf, sizeof(buf));
146
147     put_bits(&p, 1, 1); /* a, d present */
148     nbits = 1;
149     max_nbits(&nbits, a);
150     max_nbits(&nbits, d);
151     put_bits(&p, 5, nbits); /* nb bits */
152     put_bits(&p, nbits, a);
153     put_bits(&p, nbits, d);
154
155     put_bits(&p, 1, 1); /* b, c present */
156     nbits = 1;
157     max_nbits(&nbits, c);
158     max_nbits(&nbits, b);
159     put_bits(&p, 5, nbits); /* nb bits */
160     put_bits(&p, nbits, c);
161     put_bits(&p, nbits, b);
162
163     nbits = 1;
164     max_nbits(&nbits, tx);
165     max_nbits(&nbits, ty);
166     put_bits(&p, 5, nbits); /* nb bits */
167     put_bits(&p, nbits, tx);
168     put_bits(&p, nbits, ty);
169
170     flush_put_bits(&p);
171     avio_write(pb, buf, put_bits_ptr(&p) - p.buf);
172 }
173
174 static int swf_write_header(AVFormatContext *s)
175 {
176     SWFContext *swf = s->priv_data;
177     AVIOContext *pb = s->pb;
178     PutBitContext p;
179     uint8_t buf1[256];
180     int i, width, height, rate, rate_base;
181     int version;
182
183     swf->sound_samples = 0;
184     swf->swf_frame_number = 0;
185     swf->video_frame_number = 0;
186
187     for(i=0;i<s->nb_streams;i++) {
188         AVCodecContext *enc = s->streams[i]->codec;
189         if (enc->codec_type == AVMEDIA_TYPE_AUDIO) {
190             if (enc->codec_id == AV_CODEC_ID_MP3) {
191                 swf->audio_enc = enc;
192                 swf->audio_fifo= av_fifo_alloc(AUDIO_FIFO_SIZE);
193                 if (!swf->audio_fifo)
194                     return AVERROR(ENOMEM);
195             } else {
196                 av_log(s, AV_LOG_ERROR, "SWF muxer only supports MP3\n");
197                 return -1;
198             }
199         } else {
200             if (enc->codec_id == AV_CODEC_ID_VP6F ||
201                 enc->codec_id == AV_CODEC_ID_FLV1 ||
202                 enc->codec_id == AV_CODEC_ID_MJPEG) {
203                 swf->video_enc = enc;
204             } else {
205                 av_log(s, AV_LOG_ERROR, "SWF muxer only supports VP6, FLV1 and MJPEG\n");
206                 return -1;
207             }
208         }
209     }
210
211     if (!swf->video_enc) {
212         /* currently, cannot work correctly if audio only */
213         width = 320;
214         height = 200;
215         rate = 10;
216         rate_base= 1;
217     } else {
218         width = swf->video_enc->width;
219         height = swf->video_enc->height;
220         rate = swf->video_enc->time_base.den;
221         rate_base = swf->video_enc->time_base.num;
222     }
223
224     if (!swf->audio_enc)
225         swf->samples_per_frame = (44100. * rate_base) / rate;
226     else
227         swf->samples_per_frame = (swf->audio_enc->sample_rate * rate_base) / rate;
228
229     avio_write(pb, "FWS", 3);
230
231     if (!strcmp("avm2", s->oformat->name))
232         version = 9;
233     else if (swf->video_enc && swf->video_enc->codec_id == AV_CODEC_ID_VP6F)
234         version = 8; /* version 8 and above support VP6 codec */
235     else if (swf->video_enc && swf->video_enc->codec_id == AV_CODEC_ID_FLV1)
236         version = 6; /* version 6 and above support FLV1 codec */
237     else
238         version = 4; /* version 4 for mpeg audio support */
239     avio_w8(pb, version);
240
241     avio_wl32(pb, DUMMY_FILE_SIZE); /* dummy size
242                                       (will be patched if not streamed) */
243
244     put_swf_rect(pb, 0, width * 20, 0, height * 20);
245     avio_wl16(pb, (rate * 256) / rate_base); /* frame rate */
246     swf->duration_pos = avio_tell(pb);
247     avio_wl16(pb, (uint16_t)(DUMMY_DURATION * (int64_t)rate / rate_base)); /* frame count */
248
249     /* avm2/swf v9 (also v8?) files require a file attribute tag */
250     if (version == 9) {
251         put_swf_tag(s, TAG_FILEATTRIBUTES);
252         avio_wl32(pb, 1<<3); /* set ActionScript v3/AVM2 flag */
253         put_swf_end_tag(s);
254     }
255
256     /* define a shape with the jpeg inside */
257     if (swf->video_enc && swf->video_enc->codec_id == AV_CODEC_ID_MJPEG) {
258         put_swf_tag(s, TAG_DEFINESHAPE);
259
260         avio_wl16(pb, SHAPE_ID); /* ID of shape */
261         /* bounding rectangle */
262         put_swf_rect(pb, 0, width, 0, height);
263         /* style info */
264         avio_w8(pb, 1); /* one fill style */
265         avio_w8(pb, 0x41); /* clipped bitmap fill */
266         avio_wl16(pb, BITMAP_ID); /* bitmap ID */
267         /* position of the bitmap */
268         put_swf_matrix(pb, (int)(1.0 * (1 << FRAC_BITS)), 0,
269                        0, (int)(1.0 * (1 << FRAC_BITS)), 0, 0);
270         avio_w8(pb, 0); /* no line style */
271
272         /* shape drawing */
273         init_put_bits(&p, buf1, sizeof(buf1));
274         put_bits(&p, 4, 1); /* one fill bit */
275         put_bits(&p, 4, 0); /* zero line bit */
276
277         put_bits(&p, 1, 0); /* not an edge */
278         put_bits(&p, 5, FLAG_MOVETO | FLAG_SETFILL0);
279         put_bits(&p, 5, 1); /* nbits */
280         put_bits(&p, 1, 0); /* X */
281         put_bits(&p, 1, 0); /* Y */
282         put_bits(&p, 1, 1); /* set fill style 1 */
283
284         /* draw the rectangle ! */
285         put_swf_line_edge(&p, width, 0);
286         put_swf_line_edge(&p, 0, height);
287         put_swf_line_edge(&p, -width, 0);
288         put_swf_line_edge(&p, 0, -height);
289
290         /* end of shape */
291         put_bits(&p, 1, 0); /* not an edge */
292         put_bits(&p, 5, 0);
293
294         flush_put_bits(&p);
295         avio_write(pb, buf1, put_bits_ptr(&p) - p.buf);
296
297         put_swf_end_tag(s);
298     }
299
300     if (swf->audio_enc && swf->audio_enc->codec_id == AV_CODEC_ID_MP3) {
301         int v = 0;
302
303         /* start sound */
304         put_swf_tag(s, TAG_STREAMHEAD2);
305         switch(swf->audio_enc->sample_rate) {
306         case 11025: v |= 1 << 2; break;
307         case 22050: v |= 2 << 2; break;
308         case 44100: v |= 3 << 2; break;
309         default:
310             /* not supported */
311             av_log(s, AV_LOG_ERROR, "swf does not support that sample rate, choose from (44100, 22050, 11025).\n");
312             return -1;
313         }
314         v |= 0x02; /* 16 bit playback */
315         if (swf->audio_enc->channels == 2)
316             v |= 0x01; /* stereo playback */
317         avio_w8(s->pb, v);
318         v |= 0x20; /* mp3 compressed */
319         avio_w8(s->pb, v);
320         avio_wl16(s->pb, swf->samples_per_frame);  /* avg samples per frame */
321         avio_wl16(s->pb, 0);
322
323         put_swf_end_tag(s);
324     }
325
326     avio_flush(s->pb);
327     return 0;
328 }
329
330 static int swf_write_video(AVFormatContext *s,
331                            AVCodecContext *enc, const uint8_t *buf, int size)
332 {
333     SWFContext *swf = s->priv_data;
334     AVIOContext *pb = s->pb;
335
336     /* Flash Player limit */
337     if (swf->swf_frame_number == 16000)
338         av_log(enc, AV_LOG_INFO, "warning: Flash Player limit of 16000 frames reached\n");
339
340     if (enc->codec_id == AV_CODEC_ID_VP6F ||
341         enc->codec_id == AV_CODEC_ID_FLV1) {
342         if (swf->video_frame_number == 0) {
343             /* create a new video object */
344             put_swf_tag(s, TAG_VIDEOSTREAM);
345             avio_wl16(pb, VIDEO_ID);
346             swf->vframes_pos = avio_tell(pb);
347             avio_wl16(pb, 15000); /* hard flash player limit */
348             avio_wl16(pb, enc->width);
349             avio_wl16(pb, enc->height);
350             avio_w8(pb, 0);
351             avio_w8(pb,ff_codec_get_tag(ff_swf_codec_tags, enc->codec_id));
352             put_swf_end_tag(s);
353
354             /* place the video object for the first time */
355             put_swf_tag(s, TAG_PLACEOBJECT2);
356             avio_w8(pb, 0x36);
357             avio_wl16(pb, 1);
358             avio_wl16(pb, VIDEO_ID);
359             put_swf_matrix(pb, 1 << FRAC_BITS, 0, 0, 1 << FRAC_BITS, 0, 0);
360             avio_wl16(pb, swf->video_frame_number);
361             avio_write(pb, "video", 5);
362             avio_w8(pb, 0x00);
363             put_swf_end_tag(s);
364         } else {
365             /* mark the character for update */
366             put_swf_tag(s, TAG_PLACEOBJECT2);
367             avio_w8(pb, 0x11);
368             avio_wl16(pb, 1);
369             avio_wl16(pb, swf->video_frame_number);
370             put_swf_end_tag(s);
371         }
372
373         /* set video frame data */
374         put_swf_tag(s, TAG_VIDEOFRAME | TAG_LONG);
375         avio_wl16(pb, VIDEO_ID);
376         avio_wl16(pb, swf->video_frame_number++);
377         avio_write(pb, buf, size);
378         put_swf_end_tag(s);
379     } else if (enc->codec_id == AV_CODEC_ID_MJPEG) {
380         if (swf->swf_frame_number > 0) {
381             /* remove the shape */
382             put_swf_tag(s, TAG_REMOVEOBJECT);
383             avio_wl16(pb, SHAPE_ID); /* shape ID */
384             avio_wl16(pb, 1); /* depth */
385             put_swf_end_tag(s);
386
387             /* free the bitmap */
388             put_swf_tag(s, TAG_FREECHARACTER);
389             avio_wl16(pb, BITMAP_ID);
390             put_swf_end_tag(s);
391         }
392
393         put_swf_tag(s, TAG_JPEG2 | TAG_LONG);
394
395         avio_wl16(pb, BITMAP_ID); /* ID of the image */
396
397         /* a dummy jpeg header seems to be required */
398         avio_wb32(pb, 0xffd8ffd9);
399         /* write the jpeg image */
400         avio_write(pb, buf, size);
401
402         put_swf_end_tag(s);
403
404         /* draw the shape */
405
406         put_swf_tag(s, TAG_PLACEOBJECT);
407         avio_wl16(pb, SHAPE_ID); /* shape ID */
408         avio_wl16(pb, 1); /* depth */
409         put_swf_matrix(pb, 20 << FRAC_BITS, 0, 0, 20 << FRAC_BITS, 0, 0);
410         put_swf_end_tag(s);
411     }
412
413     swf->swf_frame_number++;
414
415     /* streaming sound always should be placed just before showframe tags */
416     if (swf->audio_enc && av_fifo_size(swf->audio_fifo)) {
417         int frame_size = av_fifo_size(swf->audio_fifo);
418         put_swf_tag(s, TAG_STREAMBLOCK | TAG_LONG);
419         avio_wl16(pb, swf->sound_samples);
420         avio_wl16(pb, 0); // seek samples
421         av_fifo_generic_read(swf->audio_fifo, pb, frame_size, (void*)avio_write);
422         put_swf_end_tag(s);
423
424         /* update FIFO */
425         swf->sound_samples = 0;
426     }
427
428     /* output the frame */
429     put_swf_tag(s, TAG_SHOWFRAME);
430     put_swf_end_tag(s);
431
432     avio_flush(s->pb);
433
434     return 0;
435 }
436
437 static int swf_write_audio(AVFormatContext *s,
438                            AVCodecContext *enc, uint8_t *buf, int size)
439 {
440     SWFContext *swf = s->priv_data;
441
442     /* Flash Player limit */
443     if (swf->swf_frame_number == 16000)
444         av_log(enc, AV_LOG_INFO, "warning: Flash Player limit of 16000 frames reached\n");
445
446     if (av_fifo_size(swf->audio_fifo) + size > AUDIO_FIFO_SIZE) {
447         av_log(s, AV_LOG_ERROR, "audio fifo too small to mux audio essence\n");
448         return -1;
449     }
450
451     av_fifo_generic_write(swf->audio_fifo, buf, size, NULL);
452     swf->sound_samples += av_get_audio_frame_duration(enc, size);
453
454     /* if audio only stream make sure we add swf frames */
455     if (!swf->video_enc)
456         swf_write_video(s, enc, 0, 0);
457
458     return 0;
459 }
460
461 static int swf_write_packet(AVFormatContext *s, AVPacket *pkt)
462 {
463     AVCodecContext *codec = s->streams[pkt->stream_index]->codec;
464     if (codec->codec_type == AVMEDIA_TYPE_AUDIO)
465         return swf_write_audio(s, codec, pkt->data, pkt->size);
466     else
467         return swf_write_video(s, codec, pkt->data, pkt->size);
468 }
469
470 static int swf_write_trailer(AVFormatContext *s)
471 {
472     SWFContext *swf = s->priv_data;
473     AVIOContext *pb = s->pb;
474     AVCodecContext *enc, *video_enc;
475     int file_size, i;
476
477     video_enc = NULL;
478     for(i=0;i<s->nb_streams;i++) {
479         enc = s->streams[i]->codec;
480         if (enc->codec_type == AVMEDIA_TYPE_VIDEO)
481             video_enc = enc;
482         else
483             av_fifo_free(swf->audio_fifo);
484     }
485
486     put_swf_tag(s, TAG_END);
487     put_swf_end_tag(s);
488
489     avio_flush(s->pb);
490
491     /* patch file size and number of frames if not streamed */
492     if (s->pb->seekable && video_enc) {
493         file_size = avio_tell(pb);
494         avio_seek(pb, 4, SEEK_SET);
495         avio_wl32(pb, file_size);
496         avio_seek(pb, swf->duration_pos, SEEK_SET);
497         avio_wl16(pb, swf->video_frame_number);
498         avio_seek(pb, swf->vframes_pos, SEEK_SET);
499         avio_wl16(pb, swf->video_frame_number);
500         avio_seek(pb, file_size, SEEK_SET);
501     }
502     return 0;
503 }
504
505 #if CONFIG_SWF_MUXER
506 AVOutputFormat ff_swf_muxer = {
507     .name              = "swf",
508     .long_name         = NULL_IF_CONFIG_SMALL("SWF (ShockWave Flash)"),
509     .mime_type         = "application/x-shockwave-flash",
510     .extensions        = "swf",
511     .priv_data_size    = sizeof(SWFContext),
512     .audio_codec       = AV_CODEC_ID_MP3,
513     .video_codec       = AV_CODEC_ID_FLV1,
514     .write_header      = swf_write_header,
515     .write_packet      = swf_write_packet,
516     .write_trailer     = swf_write_trailer,
517     .flags             = AVFMT_TS_NONSTRICT,
518 };
519 #endif
520 #if CONFIG_AVM2_MUXER
521 AVOutputFormat ff_avm2_muxer = {
522     .name              = "avm2",
523     .long_name         = NULL_IF_CONFIG_SMALL("SWF (ShockWave Flash) (AVM2)"),
524     .mime_type         = "application/x-shockwave-flash",
525     .priv_data_size    = sizeof(SWFContext),
526     .audio_codec       = AV_CODEC_ID_MP3,
527     .video_codec       = AV_CODEC_ID_FLV1,
528     .write_header      = swf_write_header,
529     .write_packet      = swf_write_packet,
530     .write_trailer     = swf_write_trailer,
531     .flags             = AVFMT_TS_NONSTRICT,
532 };
533 #endif