oggdec: check stream index before using it in ogg_get_length()
[ffmpeg.git] / libavformat / lxfdec.c
1 /*
2  * LXF demuxer
3  * Copyright (c) 2010 Tomas Härdin
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "libavutil/intreadwrite.h"
23 #include "libavcodec/bytestream.h"
24 #include "avformat.h"
25 #include "internal.h"
26 #include "riff.h"
27
28 #define LXF_MAX_PACKET_HEADER_SIZE 256
29 #define LXF_HEADER_DATA_SIZE    120
30 #define LXF_IDENT               "LEITCH\0"
31 #define LXF_IDENT_LENGTH        8
32 #define LXF_SAMPLERATE          48000
33 #define LXF_MAX_AUDIO_PACKET    (8008*15*4) ///< 15-channel 32-bit NTSC audio frame
34
35 static const AVCodecTag lxf_tags[] = {
36     { CODEC_ID_MJPEG,       0 },
37     { CODEC_ID_MPEG1VIDEO,  1 },
38     { CODEC_ID_MPEG2VIDEO,  2 },    //MpMl, 4:2:0
39     { CODEC_ID_MPEG2VIDEO,  3 },    //MpPl, 4:2:2
40     { CODEC_ID_DVVIDEO,     4 },    //DV25
41     { CODEC_ID_DVVIDEO,     5 },    //DVCPRO
42     { CODEC_ID_DVVIDEO,     6 },    //DVCPRO50
43     { CODEC_ID_RAWVIDEO,    7 },    //PIX_FMT_ARGB, where alpha is used for chroma keying
44     { CODEC_ID_RAWVIDEO,    8 },    //16-bit chroma key
45     { CODEC_ID_MPEG2VIDEO,  9 },    //4:2:2 CBP ("Constrained Bytes per Gop")
46     { CODEC_ID_NONE,        0 },
47 };
48
49 typedef struct {
50     int channels;                       ///< number of audio channels. zero means no audio
51     uint8_t temp[LXF_MAX_AUDIO_PACKET]; ///< temp buffer for de-planarizing the audio data
52     int frame_number;                   ///< current video frame
53     uint32_t video_format, packet_type, extended_size;
54 } LXFDemuxContext;
55
56 static int lxf_probe(AVProbeData *p)
57 {
58     if (!memcmp(p->buf, LXF_IDENT, LXF_IDENT_LENGTH))
59         return AVPROBE_SCORE_MAX;
60
61     return 0;
62 }
63
64 /**
65  * Verify the checksum of an LXF packet header
66  *
67  * @param[in] header the packet header to check
68  * @return zero if the checksum is OK, non-zero otherwise
69  */
70 static int check_checksum(const uint8_t *header, int size)
71 {
72     int x;
73     uint32_t sum = 0;
74
75     for (x = 0; x < size; x += 4)
76         sum += AV_RL32(&header[x]);
77
78     return sum;
79 }
80
81 /**
82  * Read input until we find the next ident. If found, copy it to the header buffer
83  *
84  * @param[out] header where to copy the ident to
85  * @return 0 if an ident was found, < 0 on I/O error
86  */
87 static int sync(AVFormatContext *s, uint8_t *header)
88 {
89     uint8_t buf[LXF_IDENT_LENGTH];
90     int ret;
91
92     if ((ret = avio_read(s->pb, buf, LXF_IDENT_LENGTH)) != LXF_IDENT_LENGTH)
93         return ret < 0 ? ret : AVERROR_EOF;
94
95     while (memcmp(buf, LXF_IDENT, LXF_IDENT_LENGTH)) {
96         if (url_feof(s->pb))
97             return AVERROR_EOF;
98
99         memmove(buf, &buf[1], LXF_IDENT_LENGTH-1);
100         buf[LXF_IDENT_LENGTH-1] = avio_r8(s->pb);
101     }
102
103     memcpy(header, LXF_IDENT, LXF_IDENT_LENGTH);
104
105     return 0;
106 }
107
108 /**
109  * Read and checksum the next packet header
110  *
111  * @return the size of the payload following the header or < 0 on failure
112  */
113 static int get_packet_header(AVFormatContext *s)
114 {
115     LXFDemuxContext *lxf = s->priv_data;
116     AVIOContext   *pb  = s->pb;
117     int track_size, samples, ret;
118     uint32_t version, audio_format, header_size, channels, tmp;
119     AVStream *st;
120     uint8_t header[LXF_MAX_PACKET_HEADER_SIZE];
121     const uint8_t *p;
122
123     //find and read the ident
124     if ((ret = sync(s, header)) < 0)
125         return ret;
126
127     ret = avio_read(pb, header + LXF_IDENT_LENGTH, 8);
128     if (ret != 8)
129         return ret < 0 ? ret : AVERROR_EOF;
130
131     p = header + LXF_IDENT_LENGTH;
132     version     = bytestream_get_le32(&p);
133     header_size = bytestream_get_le32(&p);
134     if (version > 1)
135         av_log_ask_for_sample(s, "Unknown format version %i\n", version);
136     if (header_size < (version ? 72 : 60) ||
137         header_size > LXF_MAX_PACKET_HEADER_SIZE ||
138         (header_size & 3)) {
139         av_log(s, AV_LOG_ERROR, "Invalid header size 0x%x\n", header_size);
140         return AVERROR_INVALIDDATA;
141     }
142
143     //read the rest of the packet header
144     if ((ret = avio_read(pb, header + (p - header),
145                           header_size - (p - header))) !=
146                           header_size - (p - header)) {
147         return ret < 0 ? ret : AVERROR_EOF;
148     }
149
150     if (check_checksum(header, header_size))
151         av_log(s, AV_LOG_ERROR, "checksum error\n");
152
153     lxf->packet_type = bytestream_get_le32(&p);
154     p += version ? 20 : 12;
155
156     lxf->extended_size = 0;
157     switch (lxf->packet_type) {
158     case 0:
159         //video
160         lxf->video_format = bytestream_get_le32(&p);
161         ret               = bytestream_get_le32(&p);
162         //skip VBI data and metadata
163         avio_skip(pb, (int64_t)(uint32_t)AV_RL32(p + 4) +
164                       (int64_t)(uint32_t)AV_RL32(p + 12));
165         break;
166     case 1:
167         //audio
168         if (!(st = s->streams[1])) {
169             av_log(s, AV_LOG_INFO, "got audio packet, but no audio stream present\n");
170             break;
171         }
172
173         if (version == 0) p += 8;
174         audio_format = bytestream_get_le32(&p);
175         channels     = bytestream_get_le32(&p);
176         track_size   = bytestream_get_le32(&p);
177
178         //set codec based on specified audio bitdepth
179         //we only support tightly packed 16-, 20-, 24- and 32-bit PCM at the moment
180         st->codec->bits_per_coded_sample = (audio_format >> 6) & 0x3F;
181
182         if (st->codec->bits_per_coded_sample != (audio_format & 0x3F)) {
183             av_log(s, AV_LOG_WARNING, "only tightly packed PCM currently supported\n");
184             return AVERROR_PATCHWELCOME;
185         }
186
187         switch (st->codec->bits_per_coded_sample) {
188         case 16: st->codec->codec_id = CODEC_ID_PCM_S16LE; break;
189         case 20: st->codec->codec_id = CODEC_ID_PCM_LXF;   break;
190         case 24: st->codec->codec_id = CODEC_ID_PCM_S24LE; break;
191         case 32: st->codec->codec_id = CODEC_ID_PCM_S32LE; break;
192         default:
193             av_log(s, AV_LOG_WARNING,
194                    "only 16-, 20-, 24- and 32-bit PCM currently supported\n");
195             return AVERROR_PATCHWELCOME;
196         }
197
198         samples = track_size * 8 / st->codec->bits_per_coded_sample;
199
200         //use audio packet size to determine video standard
201         //for NTSC we have one 8008-sample audio frame per five video frames
202         if (samples == LXF_SAMPLERATE * 5005 / 30000) {
203             avpriv_set_pts_info(s->streams[0], 64, 1001, 30000);
204         } else {
205             //assume PAL, but warn if we don't have 1920 samples
206             if (samples != LXF_SAMPLERATE / 25)
207                 av_log(s, AV_LOG_WARNING,
208                        "video doesn't seem to be PAL or NTSC. guessing PAL\n");
209
210             avpriv_set_pts_info(s->streams[0], 64, 1, 25);
211         }
212
213         //TODO: warning if track mask != (1 << channels) - 1?
214         ret = av_popcount(channels) * track_size;
215
216         break;
217     default:
218         tmp = bytestream_get_le32(&p);
219         ret = bytestream_get_le32(&p);
220         if (tmp == 1)
221             lxf->extended_size = bytestream_get_le32(&p);
222         break;
223     }
224
225     return ret;
226 }
227
228 static int lxf_read_header(AVFormatContext *s)
229 {
230     LXFDemuxContext *lxf = s->priv_data;
231     AVIOContext   *pb  = s->pb;
232     uint8_t header_data[LXF_HEADER_DATA_SIZE];
233     int ret;
234     AVStream *st;
235     uint32_t video_params, disk_params;
236     uint16_t record_date, expiration_date;
237
238     if ((ret = get_packet_header(s)) < 0)
239         return ret;
240
241     if (ret != LXF_HEADER_DATA_SIZE) {
242         av_log(s, AV_LOG_ERROR, "expected %d B size header, got %d\n",
243                LXF_HEADER_DATA_SIZE, ret);
244         return AVERROR_INVALIDDATA;
245     }
246
247     if ((ret = avio_read(pb, header_data, LXF_HEADER_DATA_SIZE)) != LXF_HEADER_DATA_SIZE)
248         return ret < 0 ? ret : AVERROR_EOF;
249
250     if (!(st = avformat_new_stream(s, NULL)))
251         return AVERROR(ENOMEM);
252
253     st->duration          = AV_RL32(&header_data[32]);
254     video_params          = AV_RL32(&header_data[40]);
255     record_date           = AV_RL16(&header_data[56]);
256     expiration_date       = AV_RL16(&header_data[58]);
257     disk_params           = AV_RL32(&header_data[116]);
258
259     st->codec->codec_type = AVMEDIA_TYPE_VIDEO;
260     st->codec->bit_rate   = 1000000 * ((video_params >> 14) & 0xFF);
261     st->codec->codec_tag  = video_params & 0xF;
262     st->codec->codec_id   = ff_codec_get_id(lxf_tags, st->codec->codec_tag);
263
264     av_log(s, AV_LOG_DEBUG, "record: %x = %i-%02i-%02i\n",
265            record_date, 1900 + (record_date & 0x7F), (record_date >> 7) & 0xF,
266            (record_date >> 11) & 0x1F);
267
268     av_log(s, AV_LOG_DEBUG, "expire: %x = %i-%02i-%02i\n",
269            expiration_date, 1900 + (expiration_date & 0x7F), (expiration_date >> 7) & 0xF,
270            (expiration_date >> 11) & 0x1F);
271
272     if ((video_params >> 22) & 1)
273         av_log(s, AV_LOG_WARNING, "VBI data not yet supported\n");
274
275     if ((lxf->channels = (disk_params >> 2) & 0xF)) {
276         if (!(st = avformat_new_stream(s, NULL)))
277             return AVERROR(ENOMEM);
278
279         st->codec->codec_type  = AVMEDIA_TYPE_AUDIO;
280         st->codec->sample_rate = LXF_SAMPLERATE;
281         st->codec->channels    = lxf->channels;
282
283         avpriv_set_pts_info(st, 64, 1, st->codec->sample_rate);
284     }
285
286     avio_skip(s->pb, lxf->extended_size);
287
288     return 0;
289 }
290
291 /**
292  * De-planerize the PCM data in lxf->temp
293  * FIXME: remove this once support for planar audio is added to libavcodec
294  *
295  * @param[out] out where to write the de-planerized data to
296  * @param[in] bytes the total size of the PCM data
297  */
298 static void deplanarize(LXFDemuxContext *lxf, AVStream *ast, uint8_t *out, int bytes)
299 {
300     int x, y, z, i, bytes_per_sample = ast->codec->bits_per_coded_sample >> 3;
301
302     for (z = i = 0; z < lxf->channels; z++)
303         for (y = 0; y < bytes / bytes_per_sample / lxf->channels; y++)
304             for (x = 0; x < bytes_per_sample; x++, i++)
305                 out[x + bytes_per_sample*(z + y*lxf->channels)] = lxf->temp[i];
306 }
307
308 static int lxf_read_packet(AVFormatContext *s, AVPacket *pkt)
309 {
310     LXFDemuxContext *lxf = s->priv_data;
311     AVIOContext   *pb  = s->pb;
312     uint8_t *buf;
313     AVStream *ast = NULL;
314     uint32_t stream;
315     int ret, ret2;
316
317     if ((ret = get_packet_header(s)) < 0)
318         return ret;
319
320     stream = lxf->packet_type;
321
322     if (stream > 1) {
323         av_log(s, AV_LOG_WARNING, "got packet with illegal stream index %u\n", stream);
324         return AVERROR(EAGAIN);
325     }
326
327     if (stream == 1 && !(ast = s->streams[1])) {
328         av_log(s, AV_LOG_ERROR, "got audio packet without having an audio stream\n");
329         return AVERROR_INVALIDDATA;
330     }
331
332     //make sure the data fits in the de-planerization buffer
333     if (ast && ret > LXF_MAX_AUDIO_PACKET) {
334         av_log(s, AV_LOG_ERROR, "audio packet too large (%i > %i)\n",
335             ret, LXF_MAX_AUDIO_PACKET);
336         return AVERROR_INVALIDDATA;
337     }
338
339     if ((ret2 = av_new_packet(pkt, ret)) < 0)
340         return ret2;
341
342     //read non-20-bit audio data into lxf->temp so we can deplanarize it
343     buf = ast && ast->codec->codec_id != CODEC_ID_PCM_LXF ? lxf->temp : pkt->data;
344
345     if ((ret2 = avio_read(pb, buf, ret)) != ret) {
346         av_free_packet(pkt);
347         return ret2 < 0 ? ret2 : AVERROR_EOF;
348     }
349
350     pkt->stream_index = stream;
351
352     if (ast) {
353         if(ast->codec->codec_id != CODEC_ID_PCM_LXF)
354             deplanarize(lxf, ast, pkt->data, ret);
355     } else {
356         //picture type (0 = closed I, 1 = open I, 2 = P, 3 = B)
357         if (((lxf->video_format >> 22) & 0x3) < 2)
358             pkt->flags |= AV_PKT_FLAG_KEY;
359
360         pkt->dts = lxf->frame_number++;
361     }
362
363     return ret;
364 }
365
366 AVInputFormat ff_lxf_demuxer = {
367     .name           = "lxf",
368     .long_name      = NULL_IF_CONFIG_SMALL("VR native stream (LXF)"),
369     .priv_data_size = sizeof(LXFDemuxContext),
370     .read_probe     = lxf_probe,
371     .read_header    = lxf_read_header,
372     .read_packet    = lxf_read_packet,
373     .codec_tag      = (const AVCodecTag* const []){lxf_tags, 0},
374 };