4xm: Check that the read track value is non-negative
[ffmpeg.git] / libavformat / 4xm.c
1 /*
2  * 4X Technologies .4xm File Demuxer (no muxer)
3  * Copyright (c) 2003  The ffmpeg Project
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * 4X Technologies file demuxer
25  * by Mike Melanson (melanson@pcisys.net)
26  * for more information on the .4xm file format, visit:
27  *   http://www.pcisys.net/~melanson/codecs/
28  */
29
30 #include "libavutil/intreadwrite.h"
31 #include "libavutil/intfloat.h"
32 #include "avformat.h"
33 #include "internal.h"
34
35 #define     RIFF_TAG MKTAG('R', 'I', 'F', 'F')
36 #define  FOURXMV_TAG MKTAG('4', 'X', 'M', 'V')
37 #define     LIST_TAG MKTAG('L', 'I', 'S', 'T')
38 #define     HEAD_TAG MKTAG('H', 'E', 'A', 'D')
39 #define     TRK__TAG MKTAG('T', 'R', 'K', '_')
40 #define     MOVI_TAG MKTAG('M', 'O', 'V', 'I')
41 #define     VTRK_TAG MKTAG('V', 'T', 'R', 'K')
42 #define     STRK_TAG MKTAG('S', 'T', 'R', 'K')
43 #define     std__TAG MKTAG('s', 't', 'd', '_')
44 #define     name_TAG MKTAG('n', 'a', 'm', 'e')
45 #define     vtrk_TAG MKTAG('v', 't', 'r', 'k')
46 #define     strk_TAG MKTAG('s', 't', 'r', 'k')
47 #define     ifrm_TAG MKTAG('i', 'f', 'r', 'm')
48 #define     pfrm_TAG MKTAG('p', 'f', 'r', 'm')
49 #define     cfrm_TAG MKTAG('c', 'f', 'r', 'm')
50 #define     ifr2_TAG MKTAG('i', 'f', 'r', '2')
51 #define     pfr2_TAG MKTAG('p', 'f', 'r', '2')
52 #define     cfr2_TAG MKTAG('c', 'f', 'r', '2')
53 #define     snd__TAG MKTAG('s', 'n', 'd', '_')
54
55 #define vtrk_SIZE 0x44
56 #define strk_SIZE 0x28
57
58 #define GET_LIST_HEADER() \
59     fourcc_tag = avio_rl32(pb); \
60     size       = avio_rl32(pb); \
61     if (fourcc_tag != LIST_TAG) \
62         return AVERROR_INVALIDDATA; \
63     fourcc_tag = avio_rl32(pb);
64
65 typedef struct AudioTrack {
66     int sample_rate;
67     int bits;
68     int channels;
69     int stream_index;
70     int adpcm;
71     int64_t audio_pts;
72 } AudioTrack;
73
74 typedef struct FourxmDemuxContext {
75     int video_stream_index;
76     int track_count;
77     AudioTrack *tracks;
78
79     int64_t video_pts;
80     float fps;
81 } FourxmDemuxContext;
82
83 static int fourxm_probe(AVProbeData *p)
84 {
85     if ((AV_RL32(&p->buf[0]) != RIFF_TAG) ||
86         (AV_RL32(&p->buf[8]) != FOURXMV_TAG))
87         return 0;
88
89     return AVPROBE_SCORE_MAX;
90 }
91
92 static int parse_vtrk(AVFormatContext *s,
93                       FourxmDemuxContext *fourxm, uint8_t *buf, int size,
94                       int left)
95 {
96     AVStream *st;
97     /* check that there is enough data */
98     if (size != vtrk_SIZE || left < size + 8) {
99         return AVERROR_INVALIDDATA;
100     }
101
102     /* allocate a new AVStream */
103     st = avformat_new_stream(s, NULL);
104     if (!st)
105         return AVERROR(ENOMEM);
106
107     avpriv_set_pts_info(st, 60, 1, fourxm->fps);
108
109     fourxm->video_stream_index = st->index;
110
111     st->codec->codec_type     = AVMEDIA_TYPE_VIDEO;
112     st->codec->codec_id       = AV_CODEC_ID_4XM;
113     st->codec->extradata_size = 4;
114     st->codec->extradata      = av_malloc(4);
115     AV_WL32(st->codec->extradata, AV_RL32(buf + 16));
116     st->codec->width  = AV_RL32(buf + 36);
117     st->codec->height = AV_RL32(buf + 40);
118
119     return 0;
120 }
121
122
123 static int parse_strk(AVFormatContext *s,
124                       FourxmDemuxContext *fourxm, uint8_t *buf, int size,
125                       int left)
126 {
127     AVStream *st;
128     int track;
129     /* check that there is enough data */
130     if (size != strk_SIZE || left < size + 8)
131         return AVERROR_INVALIDDATA;
132
133     track = AV_RL32(buf + 8);
134     if (track < 0)
135         return AVERROR_INVALIDDATA;
136     if (track + 1 > fourxm->track_count) {
137         if (av_reallocp_array(&fourxm->tracks, track + 1, sizeof(AudioTrack)))
138             return AVERROR(ENOMEM);
139         memset(&fourxm->tracks[fourxm->track_count], 0,
140                sizeof(AudioTrack) * (track + 1 - fourxm->track_count));
141         fourxm->track_count = track + 1;
142     }
143     fourxm->tracks[track].adpcm       = AV_RL32(buf + 12);
144     fourxm->tracks[track].channels    = AV_RL32(buf + 36);
145     fourxm->tracks[track].sample_rate = AV_RL32(buf + 40);
146     fourxm->tracks[track].bits        = AV_RL32(buf + 44);
147     fourxm->tracks[track].audio_pts   = 0;
148
149     if (fourxm->tracks[track].channels    <= 0 ||
150         fourxm->tracks[track].sample_rate <= 0 ||
151         fourxm->tracks[track].bits        <= 0) {
152         av_log(s, AV_LOG_ERROR, "audio header invalid\n");
153         return AVERROR_INVALIDDATA;
154     }
155     /* allocate a new AVStream */
156     st = avformat_new_stream(s, NULL);
157     if (!st)
158         return AVERROR(ENOMEM);
159
160     st->id = track;
161     avpriv_set_pts_info(st, 60, 1, fourxm->tracks[track].sample_rate);
162
163     fourxm->tracks[track].stream_index = st->index;
164
165     st->codec->codec_type            = AVMEDIA_TYPE_AUDIO;
166     st->codec->codec_tag             = 0;
167     st->codec->channels              = fourxm->tracks[track].channels;
168     st->codec->sample_rate           = fourxm->tracks[track].sample_rate;
169     st->codec->bits_per_coded_sample = fourxm->tracks[track].bits;
170     st->codec->bit_rate              = st->codec->channels *
171                                        st->codec->sample_rate *
172                                        st->codec->bits_per_coded_sample;
173     st->codec->block_align           = st->codec->channels *
174                                        st->codec->bits_per_coded_sample;
175
176     if (fourxm->tracks[track].adpcm){
177         st->codec->codec_id = AV_CODEC_ID_ADPCM_4XM;
178     } else if (st->codec->bits_per_coded_sample == 8) {
179         st->codec->codec_id = AV_CODEC_ID_PCM_U8;
180     } else
181         st->codec->codec_id = AV_CODEC_ID_PCM_S16LE;
182
183     return 0;
184 }
185
186 static int fourxm_read_header(AVFormatContext *s)
187 {
188     AVIOContext *pb = s->pb;
189     unsigned int fourcc_tag;
190     unsigned int size;
191     int header_size;
192     FourxmDemuxContext *fourxm = s->priv_data;
193     unsigned char *header;
194     int i, ret;
195
196     fourxm->track_count = 0;
197     fourxm->tracks      = NULL;
198     fourxm->fps         = 1.0;
199
200     /* skip the first 3 32-bit numbers */
201     avio_skip(pb, 12);
202
203     /* check for LIST-HEAD */
204     GET_LIST_HEADER();
205     header_size = size - 4;
206     if (fourcc_tag != HEAD_TAG || header_size < 0)
207         return AVERROR_INVALIDDATA;
208
209     /* allocate space for the header and load the whole thing */
210     header = av_malloc(header_size);
211     if (!header)
212         return AVERROR(ENOMEM);
213     if (avio_read(pb, header, header_size) != header_size) {
214         av_free(header);
215         return AVERROR(EIO);
216     }
217
218     /* take the lazy approach and search for any and all vtrk and strk chunks */
219     for (i = 0; i < header_size - 8; i++) {
220         fourcc_tag = AV_RL32(&header[i]);
221         size       = AV_RL32(&header[i + 4]);
222
223         if (fourcc_tag == std__TAG) {
224             if (header_size - i < 16) {
225                 ret = AVERROR_INVALIDDATA;
226                 goto fail;
227             }
228             fourxm->fps = av_int2float(AV_RL32(&header[i + 12]));
229         } else if (fourcc_tag == vtrk_TAG) {
230             if ((ret = parse_vtrk(s, fourxm, header + i, size,
231                                   header_size - i)) < 0)
232                 goto fail;
233
234             i += 8 + size;
235         } else if (fourcc_tag == strk_TAG) {
236             if ((ret = parse_strk(s, fourxm, header + i, size,
237                                   header_size - i)) < 0)
238                 goto fail;
239
240             i += 8 + size;
241         }
242     }
243
244     /* skip over the LIST-MOVI chunk (which is where the stream should be */
245     GET_LIST_HEADER();
246     if (fourcc_tag != MOVI_TAG) {
247         ret = AVERROR_INVALIDDATA;
248         goto fail;
249     }
250
251     av_free(header);
252     /* initialize context members */
253     fourxm->video_pts = -1;  /* first frame will push to 0 */
254
255     return 0;
256 fail:
257     av_freep(&fourxm->tracks);
258     av_free(header);
259     return ret;
260 }
261
262 static int fourxm_read_packet(AVFormatContext *s,
263                               AVPacket *pkt)
264 {
265     FourxmDemuxContext *fourxm = s->priv_data;
266     AVIOContext *pb            = s->pb;
267     unsigned int fourcc_tag;
268     unsigned int size;
269     int ret = 0;
270     unsigned int track_number;
271     int packet_read = 0;
272     unsigned char header[8];
273     int audio_frame_count;
274
275     while (!packet_read) {
276         if ((ret = avio_read(s->pb, header, 8)) < 0)
277             return ret;
278         fourcc_tag = AV_RL32(&header[0]);
279         size       = AV_RL32(&header[4]);
280         if (pb->eof_reached)
281             return AVERROR(EIO);
282         switch (fourcc_tag) {
283         case LIST_TAG:
284             /* this is a good time to bump the video pts */
285             fourxm->video_pts++;
286
287             /* skip the LIST-* tag and move on to the next fourcc */
288             avio_rl32(pb);
289             break;
290
291         case ifrm_TAG:
292         case pfrm_TAG:
293         case cfrm_TAG:
294         case ifr2_TAG:
295         case pfr2_TAG:
296         case cfr2_TAG:
297             /* allocate 8 more bytes than 'size' to account for fourcc
298              * and size */
299             if (size + 8 < size || av_new_packet(pkt, size + 8))
300                 return AVERROR(EIO);
301             pkt->stream_index = fourxm->video_stream_index;
302             pkt->pts          = fourxm->video_pts;
303             pkt->pos          = avio_tell(s->pb);
304             memcpy(pkt->data, header, 8);
305             ret = avio_read(s->pb, &pkt->data[8], size);
306
307             if (ret < 0) {
308                 av_free_packet(pkt);
309             } else
310                 packet_read = 1;
311             break;
312
313         case snd__TAG:
314             track_number = avio_rl32(pb);
315             avio_skip(pb, 4);
316             size -= 8;
317
318             if (track_number < fourxm->track_count &&
319                 fourxm->tracks[track_number].channels > 0) {
320                 ret = av_get_packet(s->pb, pkt, size);
321                 if (ret < 0)
322                     return AVERROR(EIO);
323                 pkt->stream_index =
324                     fourxm->tracks[track_number].stream_index;
325                 pkt->pts    = fourxm->tracks[track_number].audio_pts;
326                 packet_read = 1;
327
328                 /* pts accounting */
329                 audio_frame_count = size;
330                 if (fourxm->tracks[track_number].adpcm)
331                     audio_frame_count -= 2 * (fourxm->tracks[track_number].channels);
332                 audio_frame_count /= fourxm->tracks[track_number].channels;
333                 if (fourxm->tracks[track_number].adpcm) {
334                     audio_frame_count *= 2;
335                 } else
336                     audio_frame_count /=
337                         (fourxm->tracks[track_number].bits / 8);
338                 fourxm->tracks[track_number].audio_pts += audio_frame_count;
339             } else {
340                 avio_skip(pb, size);
341             }
342             break;
343
344         default:
345             avio_skip(pb, size);
346             break;
347         }
348     }
349     return ret;
350 }
351
352 static int fourxm_read_close(AVFormatContext *s)
353 {
354     FourxmDemuxContext *fourxm = s->priv_data;
355
356     av_freep(&fourxm->tracks);
357
358     return 0;
359 }
360
361 AVInputFormat ff_fourxm_demuxer = {
362     .name           = "4xm",
363     .long_name      = NULL_IF_CONFIG_SMALL("4X Technologies"),
364     .priv_data_size = sizeof(FourxmDemuxContext),
365     .read_probe     = fourxm_probe,
366     .read_header    = fourxm_read_header,
367     .read_packet    = fourxm_read_packet,
368     .read_close     = fourxm_read_close,
369 };