roq: fix excessive memory alloc
[ffmpeg.git] / libavformat / idroqdec.c
1 /*
2  * id RoQ (.roq) File Demuxer
3  * Copyright (c) 2003 The ffmpeg Project
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * id RoQ format file demuxer
25  * by Mike Melanson (melanson@pcisys.net)
26  * for more information on the .roq file format, visit:
27  *   http://www.csse.monash.edu.au/~timf/
28  */
29
30 #include "libavutil/intreadwrite.h"
31 #include "avformat.h"
32 #include "internal.h"
33 #include "avio_internal.h"
34
35 #define RoQ_MAGIC_NUMBER 0x1084
36 #define RoQ_CHUNK_PREAMBLE_SIZE 8
37 #define RoQ_AUDIO_SAMPLE_RATE 22050
38 #define RoQ_CHUNKS_TO_SCAN 30
39
40 #define RoQ_INFO           0x1001
41 #define RoQ_QUAD_CODEBOOK  0x1002
42 #define RoQ_QUAD_VQ        0x1011
43 #define RoQ_SOUND_MONO     0x1020
44 #define RoQ_SOUND_STEREO   0x1021
45
46 typedef struct RoqDemuxContext {
47
48     int width;
49     int height;
50     int audio_channels;
51
52     int video_stream_index;
53     int audio_stream_index;
54
55     int64_t video_pts;
56     unsigned int audio_frame_count;
57
58 } RoqDemuxContext;
59
60 static int roq_probe(AVProbeData *p)
61 {
62     if ((AV_RL16(&p->buf[0]) != RoQ_MAGIC_NUMBER) ||
63         (AV_RL32(&p->buf[2]) != 0xFFFFFFFF))
64         return 0;
65
66     return AVPROBE_SCORE_MAX;
67 }
68
69 static int roq_read_header(AVFormatContext *s,
70                            AVFormatParameters *ap)
71 {
72     RoqDemuxContext *roq = s->priv_data;
73     AVIOContext *pb = s->pb;
74     int framerate;
75     AVStream *st;
76     unsigned char preamble[RoQ_CHUNK_PREAMBLE_SIZE];
77
78     /* get the main header */
79     if (avio_read(pb, preamble, RoQ_CHUNK_PREAMBLE_SIZE) !=
80         RoQ_CHUNK_PREAMBLE_SIZE)
81         return AVERROR(EIO);
82     framerate = AV_RL16(&preamble[6]);
83
84     /* init private context parameters */
85     roq->width = roq->height = roq->audio_channels = roq->video_pts =
86     roq->audio_frame_count = 0;
87     roq->audio_stream_index = -1;
88
89     st = avformat_new_stream(s, NULL);
90     if (!st)
91         return AVERROR(ENOMEM);
92     avpriv_set_pts_info(st, 63, 1, framerate);
93     roq->video_stream_index = st->index;
94     st->codec->codec_type = AVMEDIA_TYPE_VIDEO;
95     st->codec->codec_id = CODEC_ID_ROQ;
96     st->codec->codec_tag = 0;  /* no fourcc */
97
98     return 0;
99 }
100
101 static int roq_read_packet(AVFormatContext *s,
102                            AVPacket *pkt)
103 {
104     RoqDemuxContext *roq = s->priv_data;
105     AVIOContext *pb = s->pb;
106     int ret = 0;
107     unsigned int chunk_size;
108     unsigned int chunk_type;
109     unsigned int codebook_size;
110     unsigned char preamble[RoQ_CHUNK_PREAMBLE_SIZE];
111     int packet_read = 0;
112     int64_t codebook_offset;
113
114     while (!packet_read) {
115
116         if (url_feof(s->pb))
117             return AVERROR(EIO);
118
119         /* get the next chunk preamble */
120         if ((ret = avio_read(pb, preamble, RoQ_CHUNK_PREAMBLE_SIZE)) !=
121             RoQ_CHUNK_PREAMBLE_SIZE)
122             return AVERROR(EIO);
123
124         chunk_type = AV_RL16(&preamble[0]);
125         chunk_size = AV_RL32(&preamble[2]);
126         if(chunk_size > INT_MAX)
127             return AVERROR_INVALIDDATA;
128
129         chunk_size = ffio_limit(pb, chunk_size);
130
131         switch (chunk_type) {
132
133         case RoQ_INFO:
134             if (!roq->width || !roq->height) {
135                 AVStream *st = s->streams[roq->video_stream_index];
136                 if (avio_read(pb, preamble, RoQ_CHUNK_PREAMBLE_SIZE) != RoQ_CHUNK_PREAMBLE_SIZE)
137                     return AVERROR(EIO);
138                 st->codec->width  = roq->width  = AV_RL16(preamble);
139                 st->codec->height = roq->height = AV_RL16(preamble + 2);
140                 break;
141             }
142             /* don't care about this chunk anymore */
143             avio_skip(pb, RoQ_CHUNK_PREAMBLE_SIZE);
144             break;
145
146         case RoQ_QUAD_CODEBOOK:
147             /* packet needs to contain both this codebook and next VQ chunk */
148             codebook_offset = avio_tell(pb) - RoQ_CHUNK_PREAMBLE_SIZE;
149             codebook_size = chunk_size;
150             avio_skip(pb, codebook_size);
151             if (avio_read(pb, preamble, RoQ_CHUNK_PREAMBLE_SIZE) !=
152                 RoQ_CHUNK_PREAMBLE_SIZE)
153                 return AVERROR(EIO);
154             chunk_size = AV_RL32(&preamble[2]) + RoQ_CHUNK_PREAMBLE_SIZE * 2 +
155                 codebook_size;
156
157             /* rewind */
158             avio_seek(pb, codebook_offset, SEEK_SET);
159
160             /* load up the packet */
161             ret= av_get_packet(pb, pkt, chunk_size);
162             if (ret != chunk_size)
163                 return AVERROR(EIO);
164             pkt->stream_index = roq->video_stream_index;
165             pkt->pts = roq->video_pts++;
166
167             packet_read = 1;
168             break;
169
170         case RoQ_SOUND_MONO:
171         case RoQ_SOUND_STEREO:
172             if (roq->audio_stream_index == -1) {
173                 AVStream *st = avformat_new_stream(s, NULL);
174                 if (!st)
175                     return AVERROR(ENOMEM);
176                 avpriv_set_pts_info(st, 32, 1, RoQ_AUDIO_SAMPLE_RATE);
177                 roq->audio_stream_index = st->index;
178                 st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
179                 st->codec->codec_id = CODEC_ID_ROQ_DPCM;
180                 st->codec->codec_tag = 0;  /* no tag */
181                 st->codec->channels = roq->audio_channels = chunk_type == RoQ_SOUND_STEREO ? 2 : 1;
182                 st->codec->sample_rate = RoQ_AUDIO_SAMPLE_RATE;
183                 st->codec->bits_per_coded_sample = 16;
184                 st->codec->bit_rate = st->codec->channels * st->codec->sample_rate *
185                     st->codec->bits_per_coded_sample;
186                 st->codec->block_align = st->codec->channels * st->codec->bits_per_coded_sample;
187             }
188         case RoQ_QUAD_VQ:
189             /* load up the packet */
190             if (av_new_packet(pkt, chunk_size + RoQ_CHUNK_PREAMBLE_SIZE))
191                 return AVERROR(EIO);
192             /* copy over preamble */
193             memcpy(pkt->data, preamble, RoQ_CHUNK_PREAMBLE_SIZE);
194
195             if (chunk_type == RoQ_QUAD_VQ) {
196                 pkt->stream_index = roq->video_stream_index;
197                 pkt->pts = roq->video_pts++;
198             } else {
199                 pkt->stream_index = roq->audio_stream_index;
200                 pkt->pts = roq->audio_frame_count;
201                 roq->audio_frame_count += (chunk_size / roq->audio_channels);
202             }
203
204             pkt->pos= avio_tell(pb);
205             ret = avio_read(pb, pkt->data + RoQ_CHUNK_PREAMBLE_SIZE,
206                 chunk_size);
207             if (ret != chunk_size)
208                 ret = AVERROR(EIO);
209
210             packet_read = 1;
211             break;
212
213         default:
214             av_log(s, AV_LOG_ERROR, "  unknown RoQ chunk (%04X)\n", chunk_type);
215             return AVERROR_INVALIDDATA;
216         }
217     }
218
219     return ret;
220 }
221
222 AVInputFormat ff_roq_demuxer = {
223     .name           = "RoQ",
224     .long_name      = NULL_IF_CONFIG_SMALL("id RoQ format"),
225     .priv_data_size = sizeof(RoqDemuxContext),
226     .read_probe     = roq_probe,
227     .read_header    = roq_read_header,
228     .read_packet    = roq_read_packet,
229 };