4xmdemux: prevent use of uninitialized memory
[ffmpeg.git] / libavformat / 4xm.c
1 /*
2  * 4X Technologies .4xm File Demuxer (no muxer)
3  * Copyright (c) 2003  The ffmpeg Project
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * 4X Technologies file demuxer
25  * by Mike Melanson (melanson@pcisys.net)
26  * for more information on the .4xm file format, visit:
27  *   http://www.pcisys.net/~melanson/codecs/
28  */
29
30 #include "libavutil/intreadwrite.h"
31 #include "libavutil/intfloat_readwrite.h"
32 #include "avformat.h"
33
34 #define     RIFF_TAG MKTAG('R', 'I', 'F', 'F')
35 #define  FOURXMV_TAG MKTAG('4', 'X', 'M', 'V')
36 #define     LIST_TAG MKTAG('L', 'I', 'S', 'T')
37 #define     HEAD_TAG MKTAG('H', 'E', 'A', 'D')
38 #define     TRK__TAG MKTAG('T', 'R', 'K', '_')
39 #define     MOVI_TAG MKTAG('M', 'O', 'V', 'I')
40 #define     VTRK_TAG MKTAG('V', 'T', 'R', 'K')
41 #define     STRK_TAG MKTAG('S', 'T', 'R', 'K')
42 #define     std__TAG MKTAG('s', 't', 'd', '_')
43 #define     name_TAG MKTAG('n', 'a', 'm', 'e')
44 #define     vtrk_TAG MKTAG('v', 't', 'r', 'k')
45 #define     strk_TAG MKTAG('s', 't', 'r', 'k')
46 #define     ifrm_TAG MKTAG('i', 'f', 'r', 'm')
47 #define     pfrm_TAG MKTAG('p', 'f', 'r', 'm')
48 #define     cfrm_TAG MKTAG('c', 'f', 'r', 'm')
49 #define     ifr2_TAG MKTAG('i', 'f', 'r', '2')
50 #define     pfr2_TAG MKTAG('p', 'f', 'r', '2')
51 #define     cfr2_TAG MKTAG('c', 'f', 'r', '2')
52 #define     snd__TAG MKTAG('s', 'n', 'd', '_')
53
54 #define vtrk_SIZE 0x44
55 #define strk_SIZE 0x28
56
57 #define GET_LIST_HEADER() \
58     fourcc_tag = avio_rl32(pb); \
59     size = avio_rl32(pb); \
60     if (fourcc_tag != LIST_TAG) \
61         return AVERROR_INVALIDDATA; \
62     fourcc_tag = avio_rl32(pb);
63
64 typedef struct AudioTrack {
65     int sample_rate;
66     int bits;
67     int channels;
68     int stream_index;
69     int adpcm;
70     int64_t audio_pts;
71 } AudioTrack;
72
73 typedef struct FourxmDemuxContext {
74     int width;
75     int height;
76     int video_stream_index;
77     int track_count;
78     AudioTrack *tracks;
79
80     int64_t video_pts;
81     float fps;
82 } FourxmDemuxContext;
83
84 static int fourxm_probe(AVProbeData *p)
85 {
86     if ((AV_RL32(&p->buf[0]) != RIFF_TAG) ||
87         (AV_RL32(&p->buf[8]) != FOURXMV_TAG))
88         return 0;
89
90     return AVPROBE_SCORE_MAX;
91 }
92
93 static int fourxm_read_header(AVFormatContext *s,
94                               AVFormatParameters *ap)
95 {
96     AVIOContext *pb = s->pb;
97     unsigned int fourcc_tag;
98     unsigned int size;
99     int header_size;
100     FourxmDemuxContext *fourxm = s->priv_data;
101     unsigned char *header;
102     int i, ret;
103     AVStream *st;
104
105     fourxm->track_count = 0;
106     fourxm->tracks = NULL;
107     fourxm->fps = 1.0;
108
109     /* skip the first 3 32-bit numbers */
110     avio_skip(pb, 12);
111
112     /* check for LIST-HEAD */
113     GET_LIST_HEADER();
114     header_size = size - 4;
115     if (fourcc_tag != HEAD_TAG || header_size < 0)
116         return AVERROR_INVALIDDATA;
117
118     /* allocate space for the header and load the whole thing */
119     header = av_malloc(header_size);
120     if (!header)
121         return AVERROR(ENOMEM);
122     if (avio_read(pb, header, header_size) != header_size){
123         av_free(header);
124         return AVERROR(EIO);
125     }
126
127     /* take the lazy approach and search for any and all vtrk and strk chunks */
128     for (i = 0; i < header_size - 8; i++) {
129         fourcc_tag = AV_RL32(&header[i]);
130         size = AV_RL32(&header[i + 4]);
131
132         if (fourcc_tag == std__TAG) {
133             fourxm->fps = av_int2flt(AV_RL32(&header[i + 12]));
134         } else if (fourcc_tag == vtrk_TAG) {
135             /* check that there is enough data */
136             if (size != vtrk_SIZE) {
137                 ret= AVERROR_INVALIDDATA;
138                 goto fail;
139             }
140             fourxm->width  = AV_RL32(&header[i + 36]);
141             fourxm->height = AV_RL32(&header[i + 40]);
142
143             /* allocate a new AVStream */
144             st = av_new_stream(s, 0);
145             if (!st){
146                 ret= AVERROR(ENOMEM);
147                 goto fail;
148             }
149             av_set_pts_info(st, 60, 1, fourxm->fps);
150
151             fourxm->video_stream_index = st->index;
152
153             st->codec->codec_type = AVMEDIA_TYPE_VIDEO;
154             st->codec->codec_id = CODEC_ID_4XM;
155             st->codec->extradata_size = 4;
156             st->codec->extradata = av_malloc(4);
157             AV_WL32(st->codec->extradata, AV_RL32(&header[i + 16]));
158             st->codec->width  = fourxm->width;
159             st->codec->height = fourxm->height;
160
161             i += 8 + size;
162         } else if (fourcc_tag == strk_TAG) {
163             int current_track;
164             /* check that there is enough data */
165             if (size != strk_SIZE) {
166                 ret= AVERROR_INVALIDDATA;
167                 goto fail;
168             }
169             current_track = AV_RL32(&header[i + 8]);
170             if((unsigned)current_track >= UINT_MAX / sizeof(AudioTrack) - 1){
171                 av_log(s, AV_LOG_ERROR, "current_track too large\n");
172                 ret= -1;
173                 goto fail;
174             }
175             if (current_track + 1 > fourxm->track_count) {
176                 fourxm->tracks = av_realloc(fourxm->tracks,
177                     (current_track + 1) * sizeof(AudioTrack));
178                 if (!fourxm->tracks) {
179                     ret = AVERROR(ENOMEM);
180                     goto fail;
181                 }
182                 memset(&fourxm->tracks[fourxm->track_count], 0,
183                        sizeof(AudioTrack) * (current_track + 1 - fourxm->track_count));
184                 fourxm->track_count = current_track + 1;
185             }
186             fourxm->tracks[current_track].adpcm       = AV_RL32(&header[i + 12]);
187             fourxm->tracks[current_track].channels    = AV_RL32(&header[i + 36]);
188             fourxm->tracks[current_track].sample_rate = AV_RL32(&header[i + 40]);
189             fourxm->tracks[current_track].bits        = AV_RL32(&header[i + 44]);
190             fourxm->tracks[current_track].audio_pts   = 0;
191             if(   fourxm->tracks[current_track].channels    <= 0
192                || fourxm->tracks[current_track].sample_rate <= 0
193                || fourxm->tracks[current_track].bits        <  0){
194                 av_log(s, AV_LOG_ERROR, "audio header invalid\n");
195                 ret= -1;
196                 goto fail;
197             }
198             i += 8 + size;
199
200             /* allocate a new AVStream */
201             st = av_new_stream(s, current_track);
202             if (!st){
203                 ret= AVERROR(ENOMEM);
204                 goto fail;
205             }
206
207             av_set_pts_info(st, 60, 1, fourxm->tracks[current_track].sample_rate);
208
209             fourxm->tracks[current_track].stream_index = st->index;
210
211             st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
212             st->codec->codec_tag = 0;
213             st->codec->channels              = fourxm->tracks[current_track].channels;
214             st->codec->sample_rate           = fourxm->tracks[current_track].sample_rate;
215             st->codec->bits_per_coded_sample = fourxm->tracks[current_track].bits;
216             st->codec->bit_rate              = st->codec->channels * st->codec->sample_rate *
217                 st->codec->bits_per_coded_sample;
218             st->codec->block_align = st->codec->channels * st->codec->bits_per_coded_sample;
219             if (fourxm->tracks[current_track].adpcm){
220                 st->codec->codec_id = CODEC_ID_ADPCM_4XM;
221             }else if (st->codec->bits_per_coded_sample == 8){
222                 st->codec->codec_id = CODEC_ID_PCM_U8;
223             }else
224                 st->codec->codec_id = CODEC_ID_PCM_S16LE;
225         }
226     }
227
228     /* skip over the LIST-MOVI chunk (which is where the stream should be */
229     GET_LIST_HEADER();
230     if (fourcc_tag != MOVI_TAG){
231         ret= AVERROR_INVALIDDATA;
232         goto fail;
233     }
234
235     av_free(header);
236     /* initialize context members */
237     fourxm->video_pts = -1;  /* first frame will push to 0 */
238
239     return 0;
240 fail:
241     av_freep(&fourxm->tracks);
242     av_free(header);
243     return ret;
244 }
245
246 static int fourxm_read_packet(AVFormatContext *s,
247                               AVPacket *pkt)
248 {
249     FourxmDemuxContext *fourxm = s->priv_data;
250     AVIOContext *pb = s->pb;
251     unsigned int fourcc_tag;
252     unsigned int size;
253     int ret = 0;
254     unsigned int track_number;
255     int packet_read = 0;
256     unsigned char header[8];
257     int audio_frame_count;
258
259     while (!packet_read) {
260
261         if ((ret = avio_read(s->pb, header, 8)) < 0)
262             return ret;
263         fourcc_tag = AV_RL32(&header[0]);
264         size = AV_RL32(&header[4]);
265         if (pb->eof_reached)
266             return AVERROR(EIO);
267         switch (fourcc_tag) {
268
269         case LIST_TAG:
270             /* this is a good time to bump the video pts */
271             fourxm->video_pts ++;
272
273             /* skip the LIST-* tag and move on to the next fourcc */
274             avio_rl32(pb);
275             break;
276
277         case ifrm_TAG:
278         case pfrm_TAG:
279         case cfrm_TAG:
280         case ifr2_TAG:
281         case pfr2_TAG:
282         case cfr2_TAG:
283             /* allocate 8 more bytes than 'size' to account for fourcc
284              * and size */
285             if (size + 8 < size || av_new_packet(pkt, size + 8))
286                 return AVERROR(EIO);
287             pkt->stream_index = fourxm->video_stream_index;
288             pkt->pts = fourxm->video_pts;
289             pkt->pos = avio_tell(s->pb);
290             memcpy(pkt->data, header, 8);
291             ret = avio_read(s->pb, &pkt->data[8], size);
292
293             if (ret < 0){
294                 av_free_packet(pkt);
295             }else
296                 packet_read = 1;
297             break;
298
299         case snd__TAG:
300             track_number = avio_rl32(pb);
301             avio_skip(pb, 4);
302             size-=8;
303
304             if (track_number < fourxm->track_count && fourxm->tracks[track_number].channels>0) {
305                 ret= av_get_packet(s->pb, pkt, size);
306                 if(ret<0)
307                     return AVERROR(EIO);
308                 pkt->stream_index =
309                     fourxm->tracks[track_number].stream_index;
310                 pkt->pts = fourxm->tracks[track_number].audio_pts;
311                 packet_read = 1;
312
313                 /* pts accounting */
314                 audio_frame_count = size;
315                 if (fourxm->tracks[track_number].adpcm)
316                     audio_frame_count -=
317                         2 * (fourxm->tracks[track_number].channels);
318                 audio_frame_count /=
319                       fourxm->tracks[track_number].channels;
320                 if (fourxm->tracks[track_number].adpcm){
321                     audio_frame_count *= 2;
322                 }else
323                     audio_frame_count /=
324                     (fourxm->tracks[track_number].bits / 8);
325                 fourxm->tracks[track_number].audio_pts += audio_frame_count;
326
327             } else {
328                 avio_skip(pb, size);
329             }
330             break;
331
332         default:
333             avio_skip(pb, size);
334             break;
335         }
336     }
337     return ret;
338 }
339
340 static int fourxm_read_close(AVFormatContext *s)
341 {
342     FourxmDemuxContext *fourxm = s->priv_data;
343
344     av_freep(&fourxm->tracks);
345
346     return 0;
347 }
348
349 AVInputFormat ff_fourxm_demuxer = {
350     .name           = "4xm",
351     .long_name      = NULL_IF_CONFIG_SMALL("4X Technologies format"),
352     .priv_data_size = sizeof(FourxmDemuxContext),
353     .read_probe     = fourxm_probe,
354     .read_header    = fourxm_read_header,
355     .read_packet    = fourxm_read_packet,
356     .read_close     = fourxm_read_close,
357 };