Merge commit 'f7986239f4dbec91c743c4c5eb0a2339bd325bf6'
[ffmpeg.git] / libavformat / swfdec.c
1 /*
2  * Flash Compatible Streaming Format demuxer
3  * Copyright (c) 2000 Fabrice Bellard
4  * Copyright (c) 2003 Tinic Uro
5  *
6  * This file is part of FFmpeg.
7  *
8  * FFmpeg is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * FFmpeg is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with FFmpeg; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 #include "libavutil/avassert.h"
24 #include "libavutil/channel_layout.h"
25 #include "libavutil/imgutils.h"
26 #include "libavutil/internal.h"
27 #include "libavutil/intreadwrite.h"
28 #include "libavcodec/get_bits.h"
29 #include "swf.h"
30
31 static const AVCodecTag swf_audio_codec_tags[] = {
32     { AV_CODEC_ID_PCM_S16LE,  0x00 },
33     { AV_CODEC_ID_ADPCM_SWF,  0x01 },
34     { AV_CODEC_ID_MP3,        0x02 },
35     { AV_CODEC_ID_PCM_S16LE,  0x03 },
36 //  { AV_CODEC_ID_NELLYMOSER, 0x06 },
37     { AV_CODEC_ID_NONE,          0 },
38 };
39
40 static int get_swf_tag(AVIOContext *pb, int *len_ptr)
41 {
42     int tag, len;
43
44     if (avio_feof(pb))
45         return AVERROR_EOF;
46
47     tag = avio_rl16(pb);
48     len = tag & 0x3f;
49     tag = tag >> 6;
50     if (len == 0x3f) {
51         len = avio_rl32(pb);
52     }
53     *len_ptr = len;
54     return tag;
55 }
56
57
58 static int swf_probe(AVProbeData *p)
59 {
60     GetBitContext gb;
61     int len, xmin, xmax, ymin, ymax;
62
63     if(p->buf_size < 15)
64         return 0;
65
66     /* check file header */
67     if (   AV_RB24(p->buf) != AV_RB24("CWS")
68         && AV_RB24(p->buf) != AV_RB24("FWS"))
69         return 0;
70
71     if (   AV_RB24(p->buf) == AV_RB24("CWS")
72         && p->buf[3] <= 20)
73         return AVPROBE_SCORE_MAX / 4 + 1;
74
75     if (init_get_bits8(&gb, p->buf + 3, p->buf_size - 3) < 0)
76         return 0;
77
78     skip_bits(&gb, 40);
79     len = get_bits(&gb, 5);
80     if (!len)
81         return 0;
82     xmin = get_bits_long(&gb, len);
83     xmax = get_bits_long(&gb, len);
84     ymin = get_bits_long(&gb, len);
85     ymax = get_bits_long(&gb, len);
86     if (xmin || ymin || !xmax || !ymax)
87         return 0;
88
89     if (p->buf[3] >= 20 || xmax < 16 || ymax < 16)
90         return AVPROBE_SCORE_MAX / 4;
91
92     return AVPROBE_SCORE_MAX;
93 }
94
95 #if CONFIG_ZLIB
96 static int zlib_refill(void *opaque, uint8_t *buf, int buf_size)
97 {
98     AVFormatContext *s = opaque;
99     SWFContext *swf = s->priv_data;
100     z_stream *z = &swf->zstream;
101     int ret;
102
103 retry:
104     if (!z->avail_in) {
105         int n = avio_read(s->pb, swf->zbuf_in, ZBUF_SIZE);
106         if (n < 0)
107             return n;
108         z->next_in  = swf->zbuf_in;
109         z->avail_in = n;
110     }
111
112     z->next_out  = buf;
113     z->avail_out = buf_size;
114
115     ret = inflate(z, Z_NO_FLUSH);
116     if (ret < 0)
117         return AVERROR(EINVAL);
118     if (ret == Z_STREAM_END)
119         return AVERROR_EOF;
120
121     if (buf_size - z->avail_out == 0)
122         goto retry;
123
124     return buf_size - z->avail_out;
125 }
126 #endif
127
128 static int swf_read_header(AVFormatContext *s)
129 {
130     SWFContext *swf = s->priv_data;
131     AVIOContext *pb = s->pb;
132     int nbits, len, tag;
133
134     tag = avio_rb32(pb) & 0xffffff00;
135     avio_rl32(pb);
136
137     if (tag == MKBETAG('C', 'W', 'S', 0)) {
138         av_log(s, AV_LOG_INFO, "SWF compressed file detected\n");
139 #if CONFIG_ZLIB
140         swf->zbuf_in  = av_malloc(ZBUF_SIZE);
141         swf->zbuf_out = av_malloc(ZBUF_SIZE);
142         swf->zpb = avio_alloc_context(swf->zbuf_out, ZBUF_SIZE, 0, s,
143                                       zlib_refill, NULL, NULL);
144         if (!swf->zbuf_in || !swf->zbuf_out || !swf->zpb)
145             return AVERROR(ENOMEM);
146         swf->zpb->seekable = 0;
147         if (inflateInit(&swf->zstream) != Z_OK) {
148             av_log(s, AV_LOG_ERROR, "Unable to init zlib context\n");
149             return AVERROR(EINVAL);
150         }
151         pb = swf->zpb;
152 #else
153         av_log(s, AV_LOG_ERROR, "zlib support is required to read SWF compressed files\n");
154         return AVERROR(EIO);
155 #endif
156     } else if (tag != MKBETAG('F', 'W', 'S', 0))
157         return AVERROR(EIO);
158     /* skip rectangle size */
159     nbits = avio_r8(pb) >> 3;
160     len = (4 * nbits - 3 + 7) / 8;
161     avio_skip(pb, len);
162     swf->frame_rate = avio_rl16(pb); /* 8.8 fixed */
163     avio_rl16(pb); /* frame count */
164
165     swf->samples_per_frame = 0;
166     s->ctx_flags |= AVFMTCTX_NOHEADER;
167     return 0;
168 }
169
170 static AVStream *create_new_audio_stream(AVFormatContext *s, int id, int info)
171 {
172     int sample_rate_code, sample_size_code;
173     AVStream *ast = avformat_new_stream(s, NULL);
174     if (!ast)
175         return NULL;
176     ast->id = id;
177     if (info & 1) {
178         ast->codec->channels       = 2;
179         ast->codec->channel_layout = AV_CH_LAYOUT_STEREO;
180     } else {
181         ast->codec->channels       = 1;
182         ast->codec->channel_layout = AV_CH_LAYOUT_MONO;
183     }
184     ast->codec->codec_type = AVMEDIA_TYPE_AUDIO;
185     ast->codec->codec_id   = ff_codec_get_id(swf_audio_codec_tags, info>>4 & 15);
186     ast->need_parsing = AVSTREAM_PARSE_FULL;
187     sample_rate_code = info>>2 & 3;
188     sample_size_code = info>>1 & 1;
189     if (!sample_size_code && ast->codec->codec_id == AV_CODEC_ID_PCM_S16LE)
190         ast->codec->codec_id = AV_CODEC_ID_PCM_U8;
191     ast->codec->sample_rate = 44100 >> (3 - sample_rate_code);
192     avpriv_set_pts_info(ast, 64, 1, ast->codec->sample_rate);
193     return ast;
194 }
195
196 static int swf_read_packet(AVFormatContext *s, AVPacket *pkt)
197 {
198     SWFContext *swf = s->priv_data;
199     AVIOContext *pb = s->pb;
200     AVStream *vst = NULL, *ast = NULL, *st = 0;
201     int tag, len, i, frame, v, res;
202
203 #if CONFIG_ZLIB
204     if (swf->zpb)
205         pb = swf->zpb;
206 #endif
207
208     for(;;) {
209         uint64_t pos = avio_tell(pb);
210         tag = get_swf_tag(pb, &len);
211         if (tag < 0)
212             return tag;
213         if (len < 0) {
214             av_log(s, AV_LOG_ERROR, "invalid tag length: %d\n", len);
215             return AVERROR_INVALIDDATA;
216         }
217         if (tag == TAG_VIDEOSTREAM) {
218             int ch_id = avio_rl16(pb);
219             len -= 2;
220
221             for (i=0; i<s->nb_streams; i++) {
222                 st = s->streams[i];
223                 if (st->codec->codec_type == AVMEDIA_TYPE_VIDEO && st->id == ch_id)
224                     goto skip;
225             }
226
227             avio_rl16(pb);
228             avio_rl16(pb);
229             avio_rl16(pb);
230             avio_r8(pb);
231             /* Check for FLV1 */
232             vst = avformat_new_stream(s, NULL);
233             if (!vst)
234                 return AVERROR(ENOMEM);
235             vst->id = ch_id;
236             vst->codec->codec_type = AVMEDIA_TYPE_VIDEO;
237             vst->codec->codec_id = ff_codec_get_id(ff_swf_codec_tags, avio_r8(pb));
238             avpriv_set_pts_info(vst, 16, 256, swf->frame_rate);
239             len -= 8;
240         } else if (tag == TAG_STREAMHEAD || tag == TAG_STREAMHEAD2) {
241             /* streaming found */
242
243             for (i=0; i<s->nb_streams; i++) {
244                 st = s->streams[i];
245                 if (st->codec->codec_type == AVMEDIA_TYPE_AUDIO && st->id == -1)
246                     goto skip;
247             }
248
249             avio_r8(pb);
250             v = avio_r8(pb);
251             swf->samples_per_frame = avio_rl16(pb);
252             ast = create_new_audio_stream(s, -1, v); /* -1 to avoid clash with video stream ch_id */
253             if (!ast)
254                 return AVERROR(ENOMEM);
255             len -= 4;
256         } else if (tag == TAG_DEFINESOUND) {
257             /* audio stream */
258             int ch_id = avio_rl16(pb);
259
260             for (i=0; i<s->nb_streams; i++) {
261                 st = s->streams[i];
262                 if (st->codec->codec_type == AVMEDIA_TYPE_AUDIO && st->id == ch_id)
263                     goto skip;
264             }
265
266             // FIXME: The entire audio stream is stored in a single chunk/tag. Normally,
267             // these are smaller audio streams in DEFINESOUND tags, but it's technically
268             // possible they could be huge. Break it up into multiple packets if it's big.
269             v = avio_r8(pb);
270             ast = create_new_audio_stream(s, ch_id, v);
271             if (!ast)
272                 return AVERROR(ENOMEM);
273             ast->duration = avio_rl32(pb); // number of samples
274             if (((v>>4) & 15) == 2) { // MP3 sound data record
275                 ast->skip_samples = avio_rl16(pb);
276                 len -= 2;
277             }
278             len -= 7;
279             if ((res = av_get_packet(pb, pkt, len)) < 0)
280                 return res;
281             pkt->pos = pos;
282             pkt->stream_index = ast->index;
283             return pkt->size;
284         } else if (tag == TAG_VIDEOFRAME) {
285             int ch_id = avio_rl16(pb);
286             len -= 2;
287             for(i=0; i<s->nb_streams; i++) {
288                 st = s->streams[i];
289                 if (st->codec->codec_type == AVMEDIA_TYPE_VIDEO && st->id == ch_id) {
290                     frame = avio_rl16(pb);
291                     len -= 2;
292                     if (len <= 0)
293                         goto skip;
294                     if ((res = av_get_packet(pb, pkt, len)) < 0)
295                         return res;
296                     pkt->pos = pos;
297                     pkt->pts = frame;
298                     pkt->stream_index = st->index;
299                     return pkt->size;
300                 }
301             }
302         } else if (tag == TAG_DEFINEBITSLOSSLESS || tag == TAG_DEFINEBITSLOSSLESS2) {
303 #if CONFIG_ZLIB
304             long out_len;
305             uint8_t *buf = NULL, *zbuf = NULL, *pal;
306             uint32_t colormap[AVPALETTE_COUNT] = {0};
307             const int alpha_bmp = tag == TAG_DEFINEBITSLOSSLESS2;
308             const int colormapbpp = 3 + alpha_bmp;
309             int linesize, colormapsize = 0;
310
311             const int ch_id   = avio_rl16(pb);
312             const int bmp_fmt = avio_r8(pb);
313             const int width   = avio_rl16(pb);
314             const int height  = avio_rl16(pb);
315             int pix_fmt;
316
317             len -= 2+1+2+2;
318
319             switch (bmp_fmt) {
320             case 3: // PAL-8
321                 linesize = width;
322                 colormapsize = avio_r8(pb) + 1;
323                 len--;
324                 break;
325             case 4: // RGB15
326                 linesize = width * 2;
327                 break;
328             case 5: // RGB24 (0RGB)
329                 linesize = width * 4;
330                 break;
331             default:
332                 av_log(s, AV_LOG_ERROR, "invalid bitmap format %d, skipped\n", bmp_fmt);
333                 goto bitmap_end_skip;
334             }
335
336             linesize = FFALIGN(linesize, 4);
337
338             if (av_image_check_size(width, height, 0, s) < 0 ||
339                 linesize >= INT_MAX / height ||
340                 linesize * height >= INT_MAX - colormapsize * colormapbpp) {
341                 av_log(s, AV_LOG_ERROR, "invalid frame size %dx%d\n", width, height);
342                 goto bitmap_end_skip;
343             }
344
345             out_len = colormapsize * colormapbpp + linesize * height;
346
347             ff_dlog(s, "bitmap: ch=%d fmt=%d %dx%d (linesize=%d) len=%d->%ld pal=%d\n",
348                     ch_id, bmp_fmt, width, height, linesize, len, out_len, colormapsize);
349
350             zbuf = av_malloc(len);
351             buf  = av_malloc(out_len);
352             if (!zbuf || !buf) {
353                 res = AVERROR(ENOMEM);
354                 goto bitmap_end;
355             }
356
357             len = avio_read(pb, zbuf, len);
358             if (len < 0 || (res = uncompress(buf, &out_len, zbuf, len)) != Z_OK) {
359                 av_log(s, AV_LOG_WARNING, "Failed to uncompress one bitmap\n");
360                 goto bitmap_end_skip;
361             }
362
363             for (i = 0; i < s->nb_streams; i++) {
364                 st = s->streams[i];
365                 if (st->codec->codec_id == AV_CODEC_ID_RAWVIDEO && st->id == -3)
366                     break;
367             }
368             if (i == s->nb_streams) {
369                 vst = avformat_new_stream(s, NULL);
370                 if (!vst) {
371                     res = AVERROR(ENOMEM);
372                     goto bitmap_end;
373                 }
374                 vst->id = -3; /* -3 to avoid clash with video stream and audio stream */
375                 vst->codec->codec_type = AVMEDIA_TYPE_VIDEO;
376                 vst->codec->codec_id = AV_CODEC_ID_RAWVIDEO;
377                 avpriv_set_pts_info(vst, 64, 256, swf->frame_rate);
378                 st = vst;
379             }
380
381             if ((res = av_new_packet(pkt, out_len - colormapsize * colormapbpp)) < 0)
382                 goto bitmap_end;
383             if (!st->codec->width && !st->codec->height) {
384                 st->codec->width  = width;
385                 st->codec->height = height;
386             } else {
387                 ff_add_param_change(pkt, 0, 0, 0, width, height);
388             }
389             pkt->pos = pos;
390             pkt->stream_index = st->index;
391
392             switch (bmp_fmt) {
393             case 3:
394                 pix_fmt = AV_PIX_FMT_PAL8;
395                 for (i = 0; i < colormapsize; i++)
396                     if (alpha_bmp)  colormap[i] = buf[3]<<24 | AV_RB24(buf + 4*i);
397                     else            colormap[i] = 0xffU <<24 | AV_RB24(buf + 3*i);
398                 pal = av_packet_new_side_data(pkt, AV_PKT_DATA_PALETTE, AVPALETTE_SIZE);
399                 if (!pal) {
400                     res = AVERROR(ENOMEM);
401                     goto bitmap_end;
402                 }
403                 memcpy(pal, colormap, AVPALETTE_SIZE);
404                 break;
405             case 4:
406                 pix_fmt = AV_PIX_FMT_RGB555;
407                 break;
408             case 5:
409                 pix_fmt = alpha_bmp ? AV_PIX_FMT_ARGB : AV_PIX_FMT_0RGB;
410                 break;
411             default:
412                 av_assert0(0);
413             }
414             if (st->codec->pix_fmt != AV_PIX_FMT_NONE && st->codec->pix_fmt != pix_fmt) {
415                 av_log(s, AV_LOG_ERROR, "pixel format change unsupported\n");
416             } else
417                 st->codec->pix_fmt = pix_fmt;
418
419             if (linesize * height > pkt->size) {
420                 res = AVERROR_INVALIDDATA;
421                 goto bitmap_end;
422             }
423             memcpy(pkt->data, buf + colormapsize*colormapbpp, linesize * height);
424
425             res = pkt->size;
426
427 bitmap_end:
428             av_freep(&zbuf);
429             av_freep(&buf);
430             return res;
431 bitmap_end_skip:
432             av_freep(&zbuf);
433             av_freep(&buf);
434 #else
435             av_log(s, AV_LOG_ERROR, "this file requires zlib support compiled in\n");
436 #endif
437         } else if (tag == TAG_STREAMBLOCK) {
438             for (i = 0; i < s->nb_streams; i++) {
439                 st = s->streams[i];
440                 if (st->codec->codec_type == AVMEDIA_TYPE_AUDIO && st->id == -1) {
441                     if (st->codec->codec_id == AV_CODEC_ID_MP3) {
442                         avio_skip(pb, 4);
443                         len -= 4;
444                         if (len <= 0)
445                             goto skip;
446                         if ((res = av_get_packet(pb, pkt, len)) < 0)
447                             return res;
448                     } else { // ADPCM, PCM
449                         if (len <= 0)
450                             goto skip;
451                         if ((res = av_get_packet(pb, pkt, len)) < 0)
452                             return res;
453                     }
454                     pkt->pos          = pos;
455                     pkt->stream_index = st->index;
456                     return pkt->size;
457                 }
458             }
459         } else if (tag == TAG_JPEG2) {
460             for (i=0; i<s->nb_streams; i++) {
461                 st = s->streams[i];
462                 if (st->codec->codec_id == AV_CODEC_ID_MJPEG && st->id == -2)
463                     break;
464             }
465             if (i == s->nb_streams) {
466                 vst = avformat_new_stream(s, NULL);
467                 if (!vst)
468                     return AVERROR(ENOMEM);
469                 vst->id = -2; /* -2 to avoid clash with video stream and audio stream */
470                 vst->codec->codec_type = AVMEDIA_TYPE_VIDEO;
471                 vst->codec->codec_id = AV_CODEC_ID_MJPEG;
472                 avpriv_set_pts_info(vst, 64, 256, swf->frame_rate);
473                 st = vst;
474             }
475             avio_rl16(pb); /* BITMAP_ID */
476             len -= 2;
477             if (len < 4)
478                 goto skip;
479             if ((res = av_new_packet(pkt, len)) < 0)
480                 return res;
481             if (avio_read(pb, pkt->data, 4) != 4) {
482                 av_packet_unref(pkt);
483                 return AVERROR_INVALIDDATA;
484             }
485             if (AV_RB32(pkt->data) == 0xffd8ffd9 ||
486                 AV_RB32(pkt->data) == 0xffd9ffd8) {
487                 /* old SWF files containing SOI/EOI as data start */
488                 /* files created by swink have reversed tag */
489                 pkt->size -= 4;
490                 memset(pkt->data+pkt->size, 0, 4);
491                 res = avio_read(pb, pkt->data, pkt->size);
492             } else {
493                 res = avio_read(pb, pkt->data + 4, pkt->size - 4);
494                 if (res >= 0)
495                     res += 4;
496             }
497             if (res != pkt->size) {
498                 if (res < 0) {
499                     av_packet_unref(pkt);
500                     return res;
501                 }
502                 av_shrink_packet(pkt, res);
503             }
504
505             pkt->pos = pos;
506             pkt->stream_index = st->index;
507             return pkt->size;
508         } else {
509             av_log(s, AV_LOG_DEBUG, "Unknown tag: %d\n", tag);
510         }
511     skip:
512         if(len<0)
513             av_log(s, AV_LOG_WARNING, "Cliping len %d\n", len);
514         len = FFMAX(0, len);
515         avio_skip(pb, len);
516     }
517 }
518
519 #if CONFIG_ZLIB
520 static av_cold int swf_read_close(AVFormatContext *avctx)
521 {
522     SWFContext *s = avctx->priv_data;
523     inflateEnd(&s->zstream);
524     av_freep(&s->zbuf_in);
525     av_freep(&s->zbuf_out);
526     av_freep(&s->zpb);
527     return 0;
528 }
529 #endif
530
531 AVInputFormat ff_swf_demuxer = {
532     .name           = "swf",
533     .long_name      = NULL_IF_CONFIG_SMALL("SWF (ShockWave Flash)"),
534     .priv_data_size = sizeof(SWFContext),
535     .read_probe     = swf_probe,
536     .read_header    = swf_read_header,
537     .read_packet    = swf_read_packet,
538 #if CONFIG_ZLIB
539     .read_close     = swf_read_close,
540 #endif
541 };