oma: return meaningful errors
[ffmpeg.git] / libavformat / rmdec.c
1 /*
2  * "Real" compatible demuxer.
3  * Copyright (c) 2000, 2001 Fabrice Bellard
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "libavutil/avstring.h"
23 #include "libavutil/channel_layout.h"
24 #include "libavutil/intreadwrite.h"
25 #include "libavutil/dict.h"
26 #include "avformat.h"
27 #include "internal.h"
28 #include "rmsipr.h"
29 #include "rm.h"
30
31 #define DEINT_ID_GENR MKTAG('g', 'e', 'n', 'r') ///< interleaving for Cooker/Atrac
32 #define DEINT_ID_INT0 MKTAG('I', 'n', 't', '0') ///< no interleaving needed
33 #define DEINT_ID_INT4 MKTAG('I', 'n', 't', '4') ///< interleaving for 28.8
34 #define DEINT_ID_SIPR MKTAG('s', 'i', 'p', 'r') ///< interleaving for Sipro
35 #define DEINT_ID_VBRF MKTAG('v', 'b', 'r', 'f') ///< VBR case for AAC
36 #define DEINT_ID_VBRS MKTAG('v', 'b', 'r', 's') ///< VBR case for AAC
37
38 struct RMStream {
39     AVPacket pkt;      ///< place to store merged video frame / reordered audio data
40     int videobufsize;  ///< current assembled frame size
41     int videobufpos;   ///< position for the next slice in the video buffer
42     int curpic_num;    ///< picture number of current frame
43     int cur_slice, slices;
44     int64_t pktpos;    ///< first slice position in file
45     /// Audio descrambling matrix parameters
46     int64_t audiotimestamp; ///< Audio packet timestamp
47     int sub_packet_cnt; // Subpacket counter, used while reading
48     int sub_packet_size, sub_packet_h, coded_framesize; ///< Descrambling parameters from container
49     int audio_framesize; /// Audio frame size from container
50     int sub_packet_lengths[16]; /// Length of each subpacket
51     int32_t deint_id;  ///< deinterleaver used in audio stream
52 };
53
54 typedef struct {
55     int nb_packets;
56     int old_format;
57     int current_stream;
58     int remaining_len;
59     int audio_stream_num; ///< Stream number for audio packets
60     int audio_pkt_cnt; ///< Output packet counter
61 } RMDemuxContext;
62
63 static inline void get_strl(AVIOContext *pb, char *buf, int buf_size, int len)
64 {
65     int i;
66     char *q, r;
67
68     q = buf;
69     for(i=0;i<len;i++) {
70         r = avio_r8(pb);
71         if (i < buf_size - 1)
72             *q++ = r;
73     }
74     if (buf_size > 0) *q = '\0';
75 }
76
77 static void get_str8(AVIOContext *pb, char *buf, int buf_size)
78 {
79     get_strl(pb, buf, buf_size, avio_r8(pb));
80 }
81
82 static int rm_read_extradata(AVIOContext *pb, AVCodecContext *avctx, unsigned size)
83 {
84     if (size >= 1<<24)
85         return -1;
86     avctx->extradata = av_malloc(size + FF_INPUT_BUFFER_PADDING_SIZE);
87     if (!avctx->extradata)
88         return AVERROR(ENOMEM);
89     avctx->extradata_size = avio_read(pb, avctx->extradata, size);
90     memset(avctx->extradata + avctx->extradata_size, 0, FF_INPUT_BUFFER_PADDING_SIZE);
91     if (avctx->extradata_size != size)
92         return AVERROR(EIO);
93     return 0;
94 }
95
96 static void rm_read_metadata(AVFormatContext *s, int wide)
97 {
98     char buf[1024];
99     int i;
100     for (i=0; i<FF_ARRAY_ELEMS(ff_rm_metadata); i++) {
101         int len = wide ? avio_rb16(s->pb) : avio_r8(s->pb);
102         get_strl(s->pb, buf, sizeof(buf), len);
103         av_dict_set(&s->metadata, ff_rm_metadata[i], buf, 0);
104     }
105 }
106
107 RMStream *ff_rm_alloc_rmstream (void)
108 {
109     RMStream *rms = av_mallocz(sizeof(RMStream));
110     rms->curpic_num = -1;
111     return rms;
112 }
113
114 void ff_rm_free_rmstream (RMStream *rms)
115 {
116     av_free_packet(&rms->pkt);
117 }
118
119 static int rm_read_audio_stream_info(AVFormatContext *s, AVIOContext *pb,
120                                      AVStream *st, RMStream *ast, int read_all)
121 {
122     char buf[256];
123     uint32_t version;
124     int ret;
125
126     /* ra type header */
127     version = avio_rb16(pb); /* version */
128     if (version == 3) {
129         int header_size = avio_rb16(pb);
130         int64_t startpos = avio_tell(pb);
131         avio_skip(pb, 14);
132         rm_read_metadata(s, 0);
133         if ((startpos + header_size) >= avio_tell(pb) + 2) {
134             // fourcc (should always be "lpcJ")
135             avio_r8(pb);
136             get_str8(pb, buf, sizeof(buf));
137         }
138         // Skip extra header crap (this should never happen)
139         if ((startpos + header_size) > avio_tell(pb))
140             avio_skip(pb, header_size + startpos - avio_tell(pb));
141         st->codec->sample_rate = 8000;
142         st->codec->channels = 1;
143         st->codec->channel_layout = AV_CH_LAYOUT_MONO;
144         st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
145         st->codec->codec_id = AV_CODEC_ID_RA_144;
146         ast->deint_id = DEINT_ID_INT0;
147     } else {
148         int flavor, sub_packet_h, coded_framesize, sub_packet_size;
149         int codecdata_length;
150         /* old version (4) */
151         avio_skip(pb, 2); /* unused */
152         avio_rb32(pb); /* .ra4 */
153         avio_rb32(pb); /* data size */
154         avio_rb16(pb); /* version2 */
155         avio_rb32(pb); /* header size */
156         flavor= avio_rb16(pb); /* add codec info / flavor */
157         ast->coded_framesize = coded_framesize = avio_rb32(pb); /* coded frame size */
158         avio_rb32(pb); /* ??? */
159         avio_rb32(pb); /* ??? */
160         avio_rb32(pb); /* ??? */
161         ast->sub_packet_h = sub_packet_h = avio_rb16(pb); /* 1 */
162         st->codec->block_align= avio_rb16(pb); /* frame size */
163         ast->sub_packet_size = sub_packet_size = avio_rb16(pb); /* sub packet size */
164         avio_rb16(pb); /* ??? */
165         if (version == 5) {
166             avio_rb16(pb); avio_rb16(pb); avio_rb16(pb);
167         }
168         st->codec->sample_rate = avio_rb16(pb);
169         avio_rb32(pb);
170         st->codec->channels = avio_rb16(pb);
171         if (version == 5) {
172             ast->deint_id = avio_rl32(pb);
173             avio_read(pb, buf, 4);
174             buf[4] = 0;
175         } else {
176             get_str8(pb, buf, sizeof(buf)); /* desc */
177             ast->deint_id = AV_RL32(buf);
178             get_str8(pb, buf, sizeof(buf)); /* desc */
179         }
180         st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
181         st->codec->codec_tag  = AV_RL32(buf);
182         st->codec->codec_id   = ff_codec_get_id(ff_rm_codec_tags,
183                                                 st->codec->codec_tag);
184
185         switch (st->codec->codec_id) {
186         case AV_CODEC_ID_AC3:
187             st->need_parsing = AVSTREAM_PARSE_FULL;
188             break;
189         case AV_CODEC_ID_RA_288:
190             st->codec->extradata_size= 0;
191             ast->audio_framesize = st->codec->block_align;
192             st->codec->block_align = coded_framesize;
193             break;
194         case AV_CODEC_ID_COOK:
195             st->need_parsing = AVSTREAM_PARSE_HEADERS;
196         case AV_CODEC_ID_ATRAC3:
197         case AV_CODEC_ID_SIPR:
198             avio_rb16(pb); avio_r8(pb);
199             if (version == 5)
200                 avio_r8(pb);
201             codecdata_length = avio_rb32(pb);
202             if(codecdata_length + FF_INPUT_BUFFER_PADDING_SIZE <= (unsigned)codecdata_length){
203                 av_log(s, AV_LOG_ERROR, "codecdata_length too large\n");
204                 return -1;
205             }
206
207             ast->audio_framesize = st->codec->block_align;
208             if (st->codec->codec_id == AV_CODEC_ID_SIPR) {
209                 if (flavor > 3) {
210                     av_log(s, AV_LOG_ERROR, "bad SIPR file flavor %d\n",
211                            flavor);
212                     return -1;
213                 }
214                 st->codec->block_align = ff_sipr_subpk_size[flavor];
215             } else {
216                 if(sub_packet_size <= 0){
217                     av_log(s, AV_LOG_ERROR, "sub_packet_size is invalid\n");
218                     return -1;
219                 }
220                 st->codec->block_align = ast->sub_packet_size;
221             }
222             if ((ret = rm_read_extradata(pb, st->codec, codecdata_length)) < 0)
223                 return ret;
224             break;
225         case AV_CODEC_ID_AAC:
226             avio_rb16(pb); avio_r8(pb);
227             if (version == 5)
228                 avio_r8(pb);
229             codecdata_length = avio_rb32(pb);
230             if(codecdata_length + FF_INPUT_BUFFER_PADDING_SIZE <= (unsigned)codecdata_length){
231                 av_log(s, AV_LOG_ERROR, "codecdata_length too large\n");
232                 return -1;
233             }
234             if (codecdata_length >= 1) {
235                 avio_r8(pb);
236                 if ((ret = rm_read_extradata(pb, st->codec, codecdata_length - 1)) < 0)
237                     return ret;
238             }
239             break;
240         default:
241             av_strlcpy(st->codec->codec_name, buf, sizeof(st->codec->codec_name));
242         }
243         if (ast->deint_id == DEINT_ID_INT4 ||
244             ast->deint_id == DEINT_ID_GENR ||
245             ast->deint_id == DEINT_ID_SIPR) {
246             if (st->codec->block_align <= 0 ||
247                 ast->audio_framesize * sub_packet_h > (unsigned)INT_MAX ||
248                 ast->audio_framesize * sub_packet_h < st->codec->block_align)
249                 return AVERROR_INVALIDDATA;
250             if (av_new_packet(&ast->pkt, ast->audio_framesize * sub_packet_h) < 0)
251                 return AVERROR(ENOMEM);
252         }
253         switch (ast->deint_id) {
254         case DEINT_ID_INT4:
255             if (ast->coded_framesize > ast->audio_framesize ||
256                 sub_packet_h <= 1 ||
257                 ast->coded_framesize * sub_packet_h > (2 + (sub_packet_h & 1)) * ast->audio_framesize)
258                 return AVERROR_INVALIDDATA;
259             break;
260         case DEINT_ID_GENR:
261             if (ast->sub_packet_size <= 0 ||
262                 ast->sub_packet_size > ast->audio_framesize)
263                 return AVERROR_INVALIDDATA;
264             break;
265         case DEINT_ID_SIPR:
266         case DEINT_ID_INT0:
267         case DEINT_ID_VBRS:
268         case DEINT_ID_VBRF:
269             break;
270         default:
271             av_log(NULL,0,"Unknown interleaver %X\n", ast->deint_id);
272             return AVERROR_INVALIDDATA;
273         }
274
275         if (read_all) {
276             avio_r8(pb);
277             avio_r8(pb);
278             avio_r8(pb);
279             rm_read_metadata(s, 0);
280         }
281     }
282     return 0;
283 }
284
285 int
286 ff_rm_read_mdpr_codecdata (AVFormatContext *s, AVIOContext *pb,
287                            AVStream *st, RMStream *rst, int codec_data_size)
288 {
289     unsigned int v;
290     int size;
291     int64_t codec_pos;
292     int ret;
293
294     avpriv_set_pts_info(st, 64, 1, 1000);
295     codec_pos = avio_tell(pb);
296     v = avio_rb32(pb);
297     if (v == MKTAG(0xfd, 'a', 'r', '.')) {
298         /* ra type header */
299         if (rm_read_audio_stream_info(s, pb, st, rst, 0))
300             return -1;
301     } else if (v == MKBETAG('L', 'S', 'D', ':')) {
302         avio_seek(pb, -4, SEEK_CUR);
303         if ((ret = rm_read_extradata(pb, st->codec, codec_data_size)) < 0)
304             return ret;
305
306         st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
307         st->codec->codec_tag  = AV_RL32(st->codec->extradata);
308         st->codec->codec_id   = ff_codec_get_id(ff_rm_codec_tags,
309                                                 st->codec->codec_tag);
310     } else {
311         int fps;
312         if (avio_rl32(pb) != MKTAG('V', 'I', 'D', 'O')) {
313         fail1:
314             av_log(st->codec, AV_LOG_ERROR, "Unsupported video codec\n");
315             goto skip;
316         }
317         st->codec->codec_tag = avio_rl32(pb);
318         st->codec->codec_id  = ff_codec_get_id(ff_rm_codec_tags,
319                                                st->codec->codec_tag);
320         av_dlog(s, "%X %X\n", st->codec->codec_tag, MKTAG('R', 'V', '2', '0'));
321         if (st->codec->codec_id == AV_CODEC_ID_NONE)
322             goto fail1;
323         st->codec->width  = avio_rb16(pb);
324         st->codec->height = avio_rb16(pb);
325         avio_skip(pb, 2); // looks like bits per sample
326         avio_skip(pb, 4); // always zero?
327         st->codec->codec_type = AVMEDIA_TYPE_VIDEO;
328         st->need_parsing = AVSTREAM_PARSE_TIMESTAMPS;
329         fps = avio_rb32(pb);
330
331         if ((ret = rm_read_extradata(pb, st->codec, codec_data_size - (avio_tell(pb) - codec_pos))) < 0)
332             return ret;
333
334         av_reduce(&st->avg_frame_rate.den, &st->avg_frame_rate.num,
335                   0x10000, fps, (1 << 30) - 1);
336     }
337
338 skip:
339     /* skip codec info */
340     size = avio_tell(pb) - codec_pos;
341     avio_skip(pb, codec_data_size - size);
342
343     return 0;
344 }
345
346 /** this function assumes that the demuxer has already seeked to the start
347  * of the INDX chunk, and will bail out if not. */
348 static int rm_read_index(AVFormatContext *s)
349 {
350     AVIOContext *pb = s->pb;
351     unsigned int size, n_pkts, str_id, next_off, n, pos, pts;
352     AVStream *st;
353
354     do {
355         if (avio_rl32(pb) != MKTAG('I','N','D','X'))
356             return -1;
357         size     = avio_rb32(pb);
358         if (size < 20)
359             return -1;
360         avio_skip(pb, 2);
361         n_pkts   = avio_rb32(pb);
362         str_id   = avio_rb16(pb);
363         next_off = avio_rb32(pb);
364         for (n = 0; n < s->nb_streams; n++)
365             if (s->streams[n]->id == str_id) {
366                 st = s->streams[n];
367                 break;
368             }
369         if (n == s->nb_streams) {
370             av_log(s, AV_LOG_ERROR,
371                    "Invalid stream index %d for index at pos %"PRId64"\n",
372                    str_id, avio_tell(pb));
373             goto skip;
374         } else if ((avio_size(pb) - avio_tell(pb)) / 14 < n_pkts) {
375             av_log(s, AV_LOG_ERROR,
376                    "Nr. of packets in packet index for stream index %d "
377                    "exceeds filesize (%"PRId64" at %"PRId64" = %"PRId64")\n",
378                    str_id, avio_size(pb), avio_tell(pb),
379                    (avio_size(pb) - avio_tell(pb)) / 14);
380             goto skip;
381         }
382
383         for (n = 0; n < n_pkts; n++) {
384             avio_skip(pb, 2);
385             pts = avio_rb32(pb);
386             pos = avio_rb32(pb);
387             avio_skip(pb, 4); /* packet no. */
388
389             av_add_index_entry(st, pos, pts, 0, 0, AVINDEX_KEYFRAME);
390         }
391
392 skip:
393         if (next_off && avio_tell(pb) < next_off &&
394             avio_seek(pb, next_off, SEEK_SET) < 0) {
395             av_log(s, AV_LOG_ERROR,
396                    "Non-linear index detected, not supported\n");
397             return -1;
398         }
399     } while (next_off);
400
401     return 0;
402 }
403
404 static int rm_read_header_old(AVFormatContext *s)
405 {
406     RMDemuxContext *rm = s->priv_data;
407     AVStream *st;
408
409     rm->old_format = 1;
410     st = avformat_new_stream(s, NULL);
411     if (!st)
412         return -1;
413     st->priv_data = ff_rm_alloc_rmstream();
414     return rm_read_audio_stream_info(s, s->pb, st, st->priv_data, 1);
415 }
416
417 static int rm_read_header(AVFormatContext *s)
418 {
419     RMDemuxContext *rm = s->priv_data;
420     AVStream *st;
421     AVIOContext *pb = s->pb;
422     unsigned int tag;
423     int tag_size;
424     unsigned int start_time, duration;
425     unsigned int data_off = 0, indx_off = 0;
426     char buf[128];
427     int flags = 0;
428
429     tag = avio_rl32(pb);
430     if (tag == MKTAG('.', 'r', 'a', 0xfd)) {
431         /* very old .ra format */
432         return rm_read_header_old(s);
433     } else if (tag != MKTAG('.', 'R', 'M', 'F')) {
434         return AVERROR(EIO);
435     }
436
437     tag_size = avio_rb32(pb);
438     avio_skip(pb, tag_size - 8);
439
440     for(;;) {
441         if (pb->eof_reached)
442             return -1;
443         tag = avio_rl32(pb);
444         tag_size = avio_rb32(pb);
445         avio_rb16(pb);
446         av_dlog(s, "tag=%c%c%c%c (%08x) size=%d\n",
447                 (tag      ) & 0xff,
448                 (tag >>  8) & 0xff,
449                 (tag >> 16) & 0xff,
450                 (tag >> 24) & 0xff,
451                 tag,
452                 tag_size);
453         if (tag_size < 10 && tag != MKTAG('D', 'A', 'T', 'A'))
454             return -1;
455         switch(tag) {
456         case MKTAG('P', 'R', 'O', 'P'):
457             /* file header */
458             avio_rb32(pb); /* max bit rate */
459             avio_rb32(pb); /* avg bit rate */
460             avio_rb32(pb); /* max packet size */
461             avio_rb32(pb); /* avg packet size */
462             avio_rb32(pb); /* nb packets */
463             avio_rb32(pb); /* duration */
464             avio_rb32(pb); /* preroll */
465             indx_off = avio_rb32(pb); /* index offset */
466             data_off = avio_rb32(pb); /* data offset */
467             avio_rb16(pb); /* nb streams */
468             flags = avio_rb16(pb); /* flags */
469             break;
470         case MKTAG('C', 'O', 'N', 'T'):
471             rm_read_metadata(s, 1);
472             break;
473         case MKTAG('M', 'D', 'P', 'R'):
474             st = avformat_new_stream(s, NULL);
475             if (!st)
476                 return AVERROR(ENOMEM);
477             st->id = avio_rb16(pb);
478             avio_rb32(pb); /* max bit rate */
479             st->codec->bit_rate = avio_rb32(pb); /* bit rate */
480             avio_rb32(pb); /* max packet size */
481             avio_rb32(pb); /* avg packet size */
482             start_time = avio_rb32(pb); /* start time */
483             avio_rb32(pb); /* preroll */
484             duration = avio_rb32(pb); /* duration */
485             st->start_time = start_time;
486             st->duration = duration;
487             get_str8(pb, buf, sizeof(buf)); /* desc */
488             get_str8(pb, buf, sizeof(buf)); /* mimetype */
489             st->codec->codec_type = AVMEDIA_TYPE_DATA;
490             st->priv_data = ff_rm_alloc_rmstream();
491             if (ff_rm_read_mdpr_codecdata(s, s->pb, st, st->priv_data,
492                                           avio_rb32(pb)) < 0)
493                 return -1;
494             break;
495         case MKTAG('D', 'A', 'T', 'A'):
496             goto header_end;
497         default:
498             /* unknown tag: skip it */
499             avio_skip(pb, tag_size - 10);
500             break;
501         }
502     }
503  header_end:
504     rm->nb_packets = avio_rb32(pb); /* number of packets */
505     if (!rm->nb_packets && (flags & 4))
506         rm->nb_packets = 3600 * 25;
507     avio_rb32(pb); /* next data header */
508
509     if (!data_off)
510         data_off = avio_tell(pb) - 18;
511     if (indx_off && pb->seekable && !(s->flags & AVFMT_FLAG_IGNIDX) &&
512         avio_seek(pb, indx_off, SEEK_SET) >= 0) {
513         rm_read_index(s);
514         avio_seek(pb, data_off + 18, SEEK_SET);
515     }
516
517     return 0;
518 }
519
520 static int get_num(AVIOContext *pb, int *len)
521 {
522     int n, n1;
523
524     n = avio_rb16(pb);
525     (*len)-=2;
526     n &= 0x7FFF;
527     if (n >= 0x4000) {
528         return n - 0x4000;
529     } else {
530         n1 = avio_rb16(pb);
531         (*len)-=2;
532         return (n << 16) | n1;
533     }
534 }
535
536 /* multiple of 20 bytes for ra144 (ugly) */
537 #define RAW_PACKET_SIZE 1000
538
539 static int sync(AVFormatContext *s, int64_t *timestamp, int *flags, int *stream_index, int64_t *pos){
540     RMDemuxContext *rm = s->priv_data;
541     AVIOContext *pb = s->pb;
542     AVStream *st;
543     uint32_t state=0xFFFFFFFF;
544
545     while(!pb->eof_reached){
546         int len, num, i;
547         *pos= avio_tell(pb) - 3;
548         if(rm->remaining_len > 0){
549             num= rm->current_stream;
550             len= rm->remaining_len;
551             *timestamp = AV_NOPTS_VALUE;
552             *flags= 0;
553         }else{
554             state= (state<<8) + avio_r8(pb);
555
556             if(state == MKBETAG('I', 'N', 'D', 'X')){
557                 int n_pkts, expected_len;
558                 len = avio_rb32(pb);
559                 avio_skip(pb, 2);
560                 n_pkts = avio_rb32(pb);
561                 expected_len = 20 + n_pkts * 14;
562                 if (len == 20)
563                     /* some files don't add index entries to chunk size... */
564                     len = expected_len;
565                 else if (len != expected_len)
566                     av_log(s, AV_LOG_WARNING,
567                            "Index size %d (%d pkts) is wrong, should be %d.\n",
568                            len, n_pkts, expected_len);
569                 len -= 14; // we already read part of the index header
570                 if(len<0)
571                     continue;
572                 goto skip;
573             } else if (state == MKBETAG('D','A','T','A')) {
574                 av_log(s, AV_LOG_WARNING,
575                        "DATA tag in middle of chunk, file may be broken.\n");
576             }
577
578             if(state > (unsigned)0xFFFF || state <= 12)
579                 continue;
580             len=state - 12;
581             state= 0xFFFFFFFF;
582
583             num = avio_rb16(pb);
584             *timestamp = avio_rb32(pb);
585             avio_r8(pb); /* reserved */
586             *flags = avio_r8(pb); /* flags */
587         }
588         for(i=0;i<s->nb_streams;i++) {
589             st = s->streams[i];
590             if (num == st->id)
591                 break;
592         }
593         if (i == s->nb_streams) {
594 skip:
595             /* skip packet if unknown number */
596             avio_skip(pb, len);
597             rm->remaining_len = 0;
598             continue;
599         }
600         *stream_index= i;
601
602         return len;
603     }
604     return -1;
605 }
606
607 static int rm_assemble_video_frame(AVFormatContext *s, AVIOContext *pb,
608                                    RMDemuxContext *rm, RMStream *vst,
609                                    AVPacket *pkt, int len, int *pseq,
610                                    int64_t *timestamp)
611 {
612     int hdr, seq, pic_num, len2, pos;
613     int type;
614
615     hdr = avio_r8(pb); len--;
616     type = hdr >> 6;
617
618     if(type != 3){  // not frame as a part of packet
619         seq = avio_r8(pb); len--;
620     }
621     if(type != 1){  // not whole frame
622         len2 = get_num(pb, &len);
623         pos  = get_num(pb, &len);
624         pic_num = avio_r8(pb); len--;
625     }
626     if(len<0)
627         return -1;
628     rm->remaining_len = len;
629     if(type&1){     // frame, not slice
630         if(type == 3){  // frame as a part of packet
631             len= len2;
632             *timestamp = pos;
633         }
634         if(rm->remaining_len < len)
635             return -1;
636         rm->remaining_len -= len;
637         if(av_new_packet(pkt, len + 9) < 0)
638             return AVERROR(EIO);
639         pkt->data[0] = 0;
640         AV_WL32(pkt->data + 1, 1);
641         AV_WL32(pkt->data + 5, 0);
642         avio_read(pb, pkt->data + 9, len);
643         return 0;
644     }
645     //now we have to deal with single slice
646
647     *pseq = seq;
648     if((seq & 0x7F) == 1 || vst->curpic_num != pic_num){
649         vst->slices = ((hdr & 0x3F) << 1) + 1;
650         vst->videobufsize = len2 + 8*vst->slices + 1;
651         av_free_packet(&vst->pkt); //FIXME this should be output.
652         if(av_new_packet(&vst->pkt, vst->videobufsize) < 0)
653             return AVERROR(ENOMEM);
654         vst->videobufpos = 8*vst->slices + 1;
655         vst->cur_slice = 0;
656         vst->curpic_num = pic_num;
657         vst->pktpos = avio_tell(pb);
658     }
659     if(type == 2)
660         len = FFMIN(len, pos);
661
662     if(++vst->cur_slice > vst->slices)
663         return 1;
664     AV_WL32(vst->pkt.data - 7 + 8*vst->cur_slice, 1);
665     AV_WL32(vst->pkt.data - 3 + 8*vst->cur_slice, vst->videobufpos - 8*vst->slices - 1);
666     if(vst->videobufpos + len > vst->videobufsize)
667         return 1;
668     if (avio_read(pb, vst->pkt.data + vst->videobufpos, len) != len)
669         return AVERROR(EIO);
670     vst->videobufpos += len;
671     rm->remaining_len-= len;
672
673     if (type == 2 || vst->videobufpos == vst->videobufsize) {
674         vst->pkt.data[0] = vst->cur_slice-1;
675         *pkt= vst->pkt;
676         vst->pkt.data= NULL;
677         vst->pkt.size= 0;
678         vst->pkt.buf = NULL;
679 #if FF_API_DESTRUCT_PACKET
680         vst->pkt.destruct = NULL;
681 #endif
682         if(vst->slices != vst->cur_slice) //FIXME find out how to set slices correct from the begin
683             memmove(pkt->data + 1 + 8*vst->cur_slice, pkt->data + 1 + 8*vst->slices,
684                 vst->videobufpos - 1 - 8*vst->slices);
685         pkt->size = vst->videobufpos + 8*(vst->cur_slice - vst->slices);
686         pkt->pts = AV_NOPTS_VALUE;
687         pkt->pos = vst->pktpos;
688         vst->slices = 0;
689         return 0;
690     }
691
692     return 1;
693 }
694
695 static inline void
696 rm_ac3_swap_bytes (AVStream *st, AVPacket *pkt)
697 {
698     uint8_t *ptr;
699     int j;
700
701     if (st->codec->codec_id == AV_CODEC_ID_AC3) {
702         ptr = pkt->data;
703         for (j=0;j<pkt->size;j+=2) {
704             FFSWAP(int, ptr[0], ptr[1]);
705             ptr += 2;
706         }
707     }
708 }
709
710 int
711 ff_rm_parse_packet (AVFormatContext *s, AVIOContext *pb,
712                     AVStream *st, RMStream *ast, int len, AVPacket *pkt,
713                     int *seq, int flags, int64_t timestamp)
714 {
715     RMDemuxContext *rm = s->priv_data;
716
717     if (st->codec->codec_type == AVMEDIA_TYPE_VIDEO) {
718         rm->current_stream= st->id;
719         if(rm_assemble_video_frame(s, pb, rm, ast, pkt, len, seq, &timestamp))
720             return -1; //got partial frame
721     } else if (st->codec->codec_type == AVMEDIA_TYPE_AUDIO) {
722         if ((ast->deint_id == DEINT_ID_GENR) ||
723             (ast->deint_id == DEINT_ID_INT4) ||
724             (ast->deint_id == DEINT_ID_SIPR)) {
725             int x;
726             int sps = ast->sub_packet_size;
727             int cfs = ast->coded_framesize;
728             int h = ast->sub_packet_h;
729             int y = ast->sub_packet_cnt;
730             int w = ast->audio_framesize;
731
732             if (flags & 2)
733                 y = ast->sub_packet_cnt = 0;
734             if (!y)
735                 ast->audiotimestamp = timestamp;
736
737             switch (ast->deint_id) {
738                 case DEINT_ID_INT4:
739                     for (x = 0; x < h/2; x++)
740                         avio_read(pb, ast->pkt.data+x*2*w+y*cfs, cfs);
741                     break;
742                 case DEINT_ID_GENR:
743                     for (x = 0; x < w/sps; x++)
744                         avio_read(pb, ast->pkt.data+sps*(h*x+((h+1)/2)*(y&1)+(y>>1)), sps);
745                     break;
746                 case DEINT_ID_SIPR:
747                     avio_read(pb, ast->pkt.data + y * w, w);
748                     break;
749             }
750
751             if (++(ast->sub_packet_cnt) < h)
752                 return -1;
753             if (ast->deint_id == DEINT_ID_SIPR)
754                 ff_rm_reorder_sipr_data(ast->pkt.data, h, w);
755
756              ast->sub_packet_cnt = 0;
757              rm->audio_stream_num = st->index;
758              rm->audio_pkt_cnt = h * w / st->codec->block_align;
759         } else if ((ast->deint_id == DEINT_ID_VBRF) ||
760                    (ast->deint_id == DEINT_ID_VBRS)) {
761             int x;
762             rm->audio_stream_num = st->index;
763             ast->sub_packet_cnt = (avio_rb16(pb) & 0xf0) >> 4;
764             if (ast->sub_packet_cnt) {
765                 for (x = 0; x < ast->sub_packet_cnt; x++)
766                     ast->sub_packet_lengths[x] = avio_rb16(pb);
767                 rm->audio_pkt_cnt = ast->sub_packet_cnt;
768                 ast->audiotimestamp = timestamp;
769             } else
770                 return -1;
771         } else {
772             av_get_packet(pb, pkt, len);
773             rm_ac3_swap_bytes(st, pkt);
774         }
775     } else
776         av_get_packet(pb, pkt, len);
777
778     pkt->stream_index = st->index;
779
780 #if 0
781     if (st->codec->codec_type == AVMEDIA_TYPE_VIDEO) {
782         if(st->codec->codec_id == AV_CODEC_ID_RV20){
783             int seq= 128*(pkt->data[2]&0x7F) + (pkt->data[3]>>1);
784             av_log(s, AV_LOG_DEBUG, "%d %"PRId64" %d\n", *timestamp, *timestamp*512LL/25, seq);
785
786             seq |= (timestamp&~0x3FFF);
787             if(seq - timestamp >  0x2000) seq -= 0x4000;
788             if(seq - timestamp < -0x2000) seq += 0x4000;
789         }
790     }
791 #endif
792
793     pkt->pts = timestamp;
794     if (flags & 2)
795         pkt->flags |= AV_PKT_FLAG_KEY;
796
797     return st->codec->codec_type == AVMEDIA_TYPE_AUDIO ? rm->audio_pkt_cnt : 0;
798 }
799
800 int
801 ff_rm_retrieve_cache (AVFormatContext *s, AVIOContext *pb,
802                       AVStream *st, RMStream *ast, AVPacket *pkt)
803 {
804     RMDemuxContext *rm = s->priv_data;
805
806     assert (rm->audio_pkt_cnt > 0);
807
808     if (ast->deint_id == DEINT_ID_VBRF ||
809         ast->deint_id == DEINT_ID_VBRS)
810         av_get_packet(pb, pkt, ast->sub_packet_lengths[ast->sub_packet_cnt - rm->audio_pkt_cnt]);
811     else {
812         av_new_packet(pkt, st->codec->block_align);
813         memcpy(pkt->data, ast->pkt.data + st->codec->block_align * //FIXME avoid this
814                (ast->sub_packet_h * ast->audio_framesize / st->codec->block_align - rm->audio_pkt_cnt),
815                st->codec->block_align);
816     }
817     rm->audio_pkt_cnt--;
818     if ((pkt->pts = ast->audiotimestamp) != AV_NOPTS_VALUE) {
819         ast->audiotimestamp = AV_NOPTS_VALUE;
820         pkt->flags = AV_PKT_FLAG_KEY;
821     } else
822         pkt->flags = 0;
823     pkt->stream_index = st->index;
824
825     return rm->audio_pkt_cnt;
826 }
827
828 static int rm_read_packet(AVFormatContext *s, AVPacket *pkt)
829 {
830     RMDemuxContext *rm = s->priv_data;
831     AVStream *st;
832     int i, len, res, seq = 1;
833     int64_t timestamp, pos;
834     int flags;
835
836     for (;;) {
837         if (rm->audio_pkt_cnt) {
838             // If there are queued audio packet return them first
839             st = s->streams[rm->audio_stream_num];
840             ff_rm_retrieve_cache(s, s->pb, st, st->priv_data, pkt);
841             flags = 0;
842         } else {
843             if (rm->old_format) {
844                 RMStream *ast;
845
846                 st = s->streams[0];
847                 ast = st->priv_data;
848                 timestamp = AV_NOPTS_VALUE;
849                 len = !ast->audio_framesize ? RAW_PACKET_SIZE :
850                     ast->coded_framesize * ast->sub_packet_h / 2;
851                 flags = (seq++ == 1) ? 2 : 0;
852                 pos = avio_tell(s->pb);
853             } else {
854                 len=sync(s, &timestamp, &flags, &i, &pos);
855                 if (len > 0)
856                     st = s->streams[i];
857             }
858
859             if(len<0 || s->pb->eof_reached)
860                 return AVERROR(EIO);
861
862             res = ff_rm_parse_packet (s, s->pb, st, st->priv_data, len, pkt,
863                                       &seq, flags, timestamp);
864             if((flags&2) && (seq&0x7F) == 1)
865                 av_add_index_entry(st, pos, timestamp, 0, 0, AVINDEX_KEYFRAME);
866             if (res)
867                 continue;
868         }
869
870         if(  (st->discard >= AVDISCARD_NONKEY && !(flags&2))
871            || st->discard >= AVDISCARD_ALL){
872             av_free_packet(pkt);
873         } else
874             break;
875     }
876
877     return 0;
878 }
879
880 static int rm_read_close(AVFormatContext *s)
881 {
882     int i;
883
884     for (i=0;i<s->nb_streams;i++)
885         ff_rm_free_rmstream(s->streams[i]->priv_data);
886
887     return 0;
888 }
889
890 static int rm_probe(AVProbeData *p)
891 {
892     /* check file header */
893     if ((p->buf[0] == '.' && p->buf[1] == 'R' &&
894          p->buf[2] == 'M' && p->buf[3] == 'F' &&
895          p->buf[4] == 0 && p->buf[5] == 0) ||
896         (p->buf[0] == '.' && p->buf[1] == 'r' &&
897          p->buf[2] == 'a' && p->buf[3] == 0xfd))
898         return AVPROBE_SCORE_MAX;
899     else
900         return 0;
901 }
902
903 static int64_t rm_read_dts(AVFormatContext *s, int stream_index,
904                                int64_t *ppos, int64_t pos_limit)
905 {
906     RMDemuxContext *rm = s->priv_data;
907     int64_t pos, dts;
908     int stream_index2, flags, len, h;
909
910     pos = *ppos;
911
912     if(rm->old_format)
913         return AV_NOPTS_VALUE;
914
915     avio_seek(s->pb, pos, SEEK_SET);
916     rm->remaining_len=0;
917     for(;;){
918         int seq=1;
919         AVStream *st;
920
921         len=sync(s, &dts, &flags, &stream_index2, &pos);
922         if(len<0)
923             return AV_NOPTS_VALUE;
924
925         st = s->streams[stream_index2];
926         if (st->codec->codec_type == AVMEDIA_TYPE_VIDEO) {
927             h= avio_r8(s->pb); len--;
928             if(!(h & 0x40)){
929                 seq = avio_r8(s->pb); len--;
930             }
931         }
932
933         if((flags&2) && (seq&0x7F) == 1){
934             av_dlog(s, "%d %d-%d %"PRId64" %d\n",
935                     flags, stream_index2, stream_index, dts, seq);
936             av_add_index_entry(st, pos, dts, 0, 0, AVINDEX_KEYFRAME);
937             if(stream_index2 == stream_index)
938                 break;
939         }
940
941         avio_skip(s->pb, len);
942     }
943     *ppos = pos;
944     return dts;
945 }
946
947 AVInputFormat ff_rm_demuxer = {
948     .name           = "rm",
949     .long_name      = NULL_IF_CONFIG_SMALL("RealMedia"),
950     .priv_data_size = sizeof(RMDemuxContext),
951     .read_probe     = rm_probe,
952     .read_header    = rm_read_header,
953     .read_packet    = rm_read_packet,
954     .read_close     = rm_read_close,
955     .read_timestamp = rm_read_dts,
956 };
957
958 AVInputFormat ff_rdt_demuxer = {
959     .name           = "rdt",
960     .long_name      = NULL_IF_CONFIG_SMALL("RDT demuxer"),
961     .priv_data_size = sizeof(RMDemuxContext),
962     .read_close     = rm_read_close,
963     .flags          = AVFMT_NOFILE,
964 };