brstm: fix use of uninitialized variables
[ffmpeg.git] / libavformat / brstm.c
1 /*
2  * BRSTM demuxer
3  * Copyright (c) 2012 Paul B Mahol
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "libavutil/intreadwrite.h"
23 #include "libavcodec/bytestream.h"
24 #include "avformat.h"
25 #include "internal.h"
26
27 typedef struct BRSTMDemuxContext {
28     uint32_t    block_size;
29     uint32_t    block_count;
30     uint32_t    current_block;
31     uint32_t    samples_per_block;
32     uint32_t    last_block_used_bytes;
33     uint32_t    last_block_size;
34     uint32_t    last_block_samples;
35     uint32_t    data_start;
36     uint8_t     *table;
37     uint8_t     *adpc;
38     int         little_endian;
39 } BRSTMDemuxContext;
40
41 static int probe(AVProbeData *p)
42 {
43     if (AV_RL32(p->buf) == MKTAG('R','S','T','M') &&
44         (AV_RL16(p->buf + 4) == 0xFFFE ||
45          AV_RL16(p->buf + 4) == 0xFEFF))
46         return AVPROBE_SCORE_MAX / 3 * 2;
47     return 0;
48 }
49
50 static int probe_bfstm(AVProbeData *p)
51 {
52     if ((AV_RL32(p->buf) == MKTAG('F','S','T','M') ||
53          AV_RL32(p->buf) == MKTAG('C','S','T','M')) &&
54         (AV_RL16(p->buf + 4) == 0xFFFE ||
55          AV_RL16(p->buf + 4) == 0xFEFF))
56         return AVPROBE_SCORE_MAX / 3 * 2;
57     return 0;
58 }
59
60 static int read_close(AVFormatContext *s)
61 {
62     BRSTMDemuxContext *b = s->priv_data;
63
64     av_freep(&b->table);
65     av_freep(&b->adpc);
66
67     return 0;
68 }
69
70 static av_always_inline unsigned int read16(AVFormatContext *s)
71 {
72     BRSTMDemuxContext *b = s->priv_data;
73     if (b->little_endian)
74         return avio_rl16(s->pb);
75     else
76         return avio_rb16(s->pb);
77 }
78
79 static av_always_inline unsigned int read32(AVFormatContext *s)
80 {
81     BRSTMDemuxContext *b = s->priv_data;
82     if (b->little_endian)
83         return avio_rl32(s->pb);
84     else
85         return avio_rb32(s->pb);
86 }
87
88 static int read_header(AVFormatContext *s)
89 {
90     BRSTMDemuxContext *b = s->priv_data;
91     int bom, major, minor, codec, chunk;
92     int64_t h1offset, pos, toffset;
93     uint32_t size, asize, start = 0;
94     AVStream *st;
95     int ret = AVERROR_EOF;
96     int bfstm = !strcmp("bfstm", s->iformat->name);
97
98     st = avformat_new_stream(s, NULL);
99     if (!st)
100         return AVERROR(ENOMEM);
101     st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
102
103     avio_skip(s->pb, 4);
104
105     bom = avio_rb16(s->pb);
106     if (bom != 0xFEFF && bom != 0xFFFE) {
107         av_log(s, AV_LOG_ERROR, "invalid byte order: %X\n", bom);
108         return AVERROR_INVALIDDATA;
109     }
110
111     if (bom == 0xFFFE)
112         b->little_endian = 1;
113
114     if (!bfstm) {
115         major = avio_r8(s->pb);
116         minor = avio_r8(s->pb);
117         avio_skip(s->pb, 4); // size of file
118         size = read16(s);
119         if (size < 14)
120             return AVERROR_INVALIDDATA;
121
122         avio_skip(s->pb, size - 14);
123         pos = avio_tell(s->pb);
124         if (avio_rl32(s->pb) != MKTAG('H','E','A','D'))
125             return AVERROR_INVALIDDATA;
126     } else {
127         uint32_t info_offset = 0, info_size;
128         uint16_t section_count, header_size, i;
129
130         header_size = read16(s); // 6
131
132         avio_skip(s->pb, 4); // Unknown constant 0x00030000
133         avio_skip(s->pb, 4); // size of file
134         section_count = read16(s);
135         avio_skip(s->pb, 2); // padding
136         for (i = 0; avio_tell(s->pb) < header_size
137                     && !(start && info_offset)
138                     && i < section_count; i++) {
139             uint16_t flag = read16(s);
140             avio_skip(s->pb, 2);
141             switch (flag) {
142             case 0x4000:
143                 info_offset = read32(s);
144                 info_size   = read32(s);
145                 break;
146             case 0x4001:
147                 avio_skip(s->pb, 4); // seek offset
148                 avio_skip(s->pb, 4); // seek size
149                 break;
150             case 0x4002:
151                 start = read32(s) + 8;
152                 avio_skip(s->pb, 4); //data_size = read32(s);
153                 break;
154             case 0x4003:
155                 avio_skip(s->pb, 4); // REGN offset
156                 avio_skip(s->pb, 4); // REGN size
157                 break;
158             }
159         }
160
161         if (!info_offset || !start)
162             return AVERROR_INVALIDDATA;
163
164         avio_skip(s->pb, info_offset - avio_tell(s->pb));
165         pos = avio_tell(s->pb);
166         if (avio_rl32(s->pb) != MKTAG('I','N','F','O'))
167             return AVERROR_INVALIDDATA;
168     }
169
170     size = read32(s);
171     if (size < 192)
172         return AVERROR_INVALIDDATA;
173     avio_skip(s->pb, 4); // unknown
174     h1offset = read32(s);
175     if (h1offset > size)
176         return AVERROR_INVALIDDATA;
177     avio_skip(s->pb, 12);
178     toffset = read32(s) + 16LL;
179     if (toffset > size)
180         return AVERROR_INVALIDDATA;
181
182     avio_skip(s->pb, pos + h1offset + 8 - avio_tell(s->pb));
183     codec = avio_r8(s->pb);
184
185     switch (codec) {
186     case 0: codec = AV_CODEC_ID_PCM_S8_PLANAR;    break;
187     case 1: codec = b->little_endian ?
188                     AV_CODEC_ID_PCM_S16LE_PLANAR :
189                     AV_CODEC_ID_PCM_S16BE_PLANAR; break;
190     case 2: codec = b->little_endian ?
191                     AV_CODEC_ID_ADPCM_THP_LE :
192                     AV_CODEC_ID_ADPCM_THP;        break;
193     default:
194         avpriv_request_sample(s, "codec %d", codec);
195         return AVERROR_PATCHWELCOME;
196     }
197
198     avio_skip(s->pb, 1); // loop flag
199     st->codec->codec_id = codec;
200     st->codec->channels = avio_r8(s->pb);
201     if (!st->codec->channels)
202         return AVERROR_INVALIDDATA;
203
204     avio_skip(s->pb, 1); // padding
205
206     st->codec->sample_rate = bfstm ? read32(s) : read16(s);
207     if (!st->codec->sample_rate)
208         return AVERROR_INVALIDDATA;
209
210     if (!bfstm)
211         avio_skip(s->pb, 2); // padding
212     avio_skip(s->pb, 4); // loop start sample
213     st->start_time = 0;
214     st->duration = read32(s);
215     avpriv_set_pts_info(st, 64, 1, st->codec->sample_rate);
216
217     if (!bfstm)
218         start = read32(s);
219     b->current_block = 0;
220     b->block_count = read32(s);
221     if (b->block_count > UINT16_MAX) {
222         av_log(s, AV_LOG_WARNING, "too many blocks: %u\n", b->block_count);
223         return AVERROR_INVALIDDATA;
224     }
225
226     b->block_size = read32(s);
227     if (b->block_size > UINT32_MAX / st->codec->channels)
228         return AVERROR_INVALIDDATA;
229
230     b->samples_per_block = read32(s);
231     b->last_block_used_bytes = read32(s);
232     b->last_block_samples = read32(s);
233     b->last_block_size = read32(s);
234     if (b->last_block_size > UINT32_MAX / st->codec->channels)
235         return AVERROR_INVALIDDATA;
236     if (b->last_block_used_bytes > b->last_block_size)
237         return AVERROR_INVALIDDATA;
238
239
240     if (codec == AV_CODEC_ID_ADPCM_THP || codec == AV_CODEC_ID_ADPCM_THP_LE) {
241         int ch;
242
243         avio_skip(s->pb, pos + toffset - avio_tell(s->pb));
244         if (!bfstm)
245             toffset = read32(s) + 16LL;
246         else
247             toffset = toffset + read32(s) + st->codec->channels * 8 - 8;
248         if (toffset > size)
249             return AVERROR_INVALIDDATA;
250
251         avio_skip(s->pb, pos + toffset - avio_tell(s->pb));
252         b->table = av_mallocz(32 * st->codec->channels);
253         if (!b->table)
254             return AVERROR(ENOMEM);
255
256         for (ch = 0; ch < st->codec->channels; ch++) {
257             if (avio_read(s->pb, b->table + ch * 32, 32) != 32) {
258                 ret = AVERROR_INVALIDDATA;
259                 goto fail;
260             }
261             avio_skip(s->pb, bfstm ? 14 : 24);
262         }
263     }
264
265     if (size < (avio_tell(s->pb) - pos)) {
266         ret = AVERROR_INVALIDDATA;
267         goto fail;
268     }
269
270     avio_skip(s->pb, size - (avio_tell(s->pb) - pos));
271
272     while (!avio_feof(s->pb)) {
273         chunk = avio_rl32(s->pb);
274         size  = read32(s);
275         if (size < 8) {
276             ret = AVERROR_INVALIDDATA;
277             goto fail;
278         }
279         size -= 8;
280         switch (chunk) {
281         case MKTAG('S','E','E','K'):
282         case MKTAG('A','D','P','C'):
283             if (codec != AV_CODEC_ID_ADPCM_THP &&
284                 codec != AV_CODEC_ID_ADPCM_THP_LE)
285                 goto skip;
286
287             asize = b->block_count * st->codec->channels * 4;
288             if (size < asize) {
289                 ret = AVERROR_INVALIDDATA;
290                 goto fail;
291             }
292             if (b->adpc) {
293                 av_log(s, AV_LOG_WARNING, "skipping additional ADPC chunk\n");
294                 goto skip;
295             } else {
296                 b->adpc = av_mallocz(asize);
297                 if (!b->adpc) {
298                     ret = AVERROR(ENOMEM);
299                     goto fail;
300                 }
301                 if (bfstm && codec != AV_CODEC_ID_ADPCM_THP_LE) {
302                     // Big-endian BFSTMs have little-endian SEEK tables
303                     // for some strange reason.
304                     int i;
305                     for (i = 0; i < asize; i += 2) {
306                         b->adpc[i+1] = avio_r8(s->pb);
307                         b->adpc[i]   = avio_r8(s->pb);
308                     }
309                 } else {
310                     avio_read(s->pb, b->adpc, asize);
311                 }
312                 avio_skip(s->pb, size - asize);
313             }
314             break;
315         case MKTAG('D','A','T','A'):
316             if ((start < avio_tell(s->pb)) ||
317                 (!b->adpc && (codec == AV_CODEC_ID_ADPCM_THP ||
318                               codec == AV_CODEC_ID_ADPCM_THP_LE))) {
319                 ret = AVERROR_INVALIDDATA;
320                 goto fail;
321             }
322             avio_skip(s->pb, start - avio_tell(s->pb));
323
324             if (bfstm && (codec == AV_CODEC_ID_ADPCM_THP ||
325                           codec == AV_CODEC_ID_ADPCM_THP_LE))
326                 avio_skip(s->pb, 24);
327
328             b->data_start = avio_tell(s->pb);
329
330             if (!bfstm && (major != 1 || minor))
331                 avpriv_request_sample(s, "Version %d.%d", major, minor);
332
333             return 0;
334         default:
335             av_log(s, AV_LOG_WARNING, "skipping unknown chunk: %X\n", chunk);
336 skip:
337             avio_skip(s->pb, size);
338         }
339     }
340
341 fail:
342     read_close(s);
343
344     return ret;
345 }
346
347 static int read_packet(AVFormatContext *s, AVPacket *pkt)
348 {
349     AVCodecContext *codec = s->streams[0]->codec;
350     BRSTMDemuxContext *b = s->priv_data;
351     uint32_t samples, size, skip = 0;
352     int ret, i;
353
354     if (avio_feof(s->pb))
355         return AVERROR_EOF;
356     b->current_block++;
357     if (b->current_block == b->block_count) {
358         size    = b->last_block_used_bytes;
359         samples = b->last_block_samples;
360         skip    = b->last_block_size - b->last_block_used_bytes;
361     } else if (b->current_block < b->block_count) {
362         size    = b->block_size;
363         samples = b->samples_per_block;
364     } else {
365         return AVERROR_EOF;
366     }
367
368     if (codec->codec_id == AV_CODEC_ID_ADPCM_THP ||
369         codec->codec_id == AV_CODEC_ID_ADPCM_THP_LE) {
370         uint8_t *dst;
371
372         if (av_new_packet(pkt, 8 + (32 + 4 + size) * codec->channels) < 0)
373             return AVERROR(ENOMEM);
374         dst = pkt->data;
375         if (codec->codec_id == AV_CODEC_ID_ADPCM_THP_LE) {
376             bytestream_put_le32(&dst, size * codec->channels);
377             bytestream_put_le32(&dst, samples);
378         } else {
379             bytestream_put_be32(&dst, size * codec->channels);
380             bytestream_put_be32(&dst, samples);
381         }
382         bytestream_put_buffer(&dst, b->table, 32 * codec->channels);
383         bytestream_put_buffer(&dst, b->adpc + 4 * codec->channels *
384                                     (b->current_block - 1), 4 * codec->channels);
385
386         for (i = 0; i < codec->channels; i++) {
387             ret = avio_read(s->pb, dst, size);
388             dst += size;
389             avio_skip(s->pb, skip);
390             if (ret != size) {
391                 av_free_packet(pkt);
392                 break;
393             }
394         }
395         pkt->duration = samples;
396     } else {
397         size *= codec->channels;
398         ret = av_get_packet(s->pb, pkt, size);
399     }
400
401     pkt->stream_index = 0;
402
403     if (ret != size)
404         ret = AVERROR(EIO);
405
406     return ret;
407 }
408
409 static int read_seek(AVFormatContext *s, int stream_index,
410                      int64_t timestamp, int flags)
411 {
412     AVStream *st = s->streams[stream_index];
413     BRSTMDemuxContext *b = s->priv_data;
414     int64_t ret = 0;
415
416     timestamp /= b->samples_per_block;
417     ret = avio_seek(s->pb, b->data_start + timestamp * b->block_size *
418                            st->codec->channels, SEEK_SET);
419     if (ret < 0)
420         return ret;
421
422     b->current_block = timestamp;
423     ff_update_cur_dts(s, st, timestamp * b->samples_per_block);
424     return 0;
425 }
426
427 AVInputFormat ff_brstm_demuxer = {
428     .name           = "brstm",
429     .long_name      = NULL_IF_CONFIG_SMALL("BRSTM (Binary Revolution Stream)"),
430     .priv_data_size = sizeof(BRSTMDemuxContext),
431     .read_probe     = probe,
432     .read_header    = read_header,
433     .read_packet    = read_packet,
434     .read_close     = read_close,
435     .read_seek      = read_seek,
436     .extensions     = "brstm",
437 };
438
439 AVInputFormat ff_bfstm_demuxer = {
440     .name           = "bfstm",
441     .long_name      = NULL_IF_CONFIG_SMALL("BFSTM (Binary Cafe Stream)"),
442     .priv_data_size = sizeof(BRSTMDemuxContext),
443     .read_probe     = probe_bfstm,
444     .read_header    = read_header,
445     .read_packet    = read_packet,
446     .read_close     = read_close,
447     .read_seek      = read_seek,
448     .extensions     = "bfstm,bcstm",
449 };