rmdec: Avoid allocating huge packets
[ffmpeg.git] / libavformat / rmdec.c
1 /*
2  * "Real" compatible demuxer.
3  * Copyright (c) 2000, 2001 Fabrice Bellard
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "libavutil/avstring.h"
23 #include "libavutil/intreadwrite.h"
24 #include "libavutil/dict.h"
25 #include "avformat.h"
26 #include "internal.h"
27 #include "avio_internal.h"
28 #include "riff.h"
29 #include "rm.h"
30
31 #define DEINT_ID_GENR MKTAG('g', 'e', 'n', 'r') ///< interleaving for Cooker/Atrac
32 #define DEINT_ID_INT0 MKTAG('I', 'n', 't', '0') ///< no interleaving needed
33 #define DEINT_ID_INT4 MKTAG('I', 'n', 't', '4') ///< interleaving for 28.8
34 #define DEINT_ID_SIPR MKTAG('s', 'i', 'p', 'r') ///< interleaving for Sipro
35 #define DEINT_ID_VBRF MKTAG('v', 'b', 'r', 'f') ///< VBR case for AAC
36 #define DEINT_ID_VBRS MKTAG('v', 'b', 'r', 's') ///< VBR case for AAC
37
38 struct RMStream {
39     AVPacket pkt;      ///< place to store merged video frame / reordered audio data
40     int videobufsize;  ///< current assembled frame size
41     int videobufpos;   ///< position for the next slice in the video buffer
42     int curpic_num;    ///< picture number of current frame
43     int cur_slice, slices;
44     int64_t pktpos;    ///< first slice position in file
45     /// Audio descrambling matrix parameters
46     int64_t audiotimestamp; ///< Audio packet timestamp
47     int sub_packet_cnt; // Subpacket counter, used while reading
48     int sub_packet_size, sub_packet_h, coded_framesize; ///< Descrambling parameters from container
49     int audio_framesize; /// Audio frame size from container
50     int sub_packet_lengths[16]; /// Length of each subpacket
51     int32_t deint_id;  ///< deinterleaver used in audio stream
52 };
53
54 typedef struct {
55     int nb_packets;
56     int old_format;
57     int current_stream;
58     int remaining_len;
59     int audio_stream_num; ///< Stream number for audio packets
60     int audio_pkt_cnt; ///< Output packet counter
61 } RMDemuxContext;
62
63 static const unsigned char sipr_swaps[38][2] = {
64     {  0, 63 }, {  1, 22 }, {  2, 44 }, {  3, 90 },
65     {  5, 81 }, {  7, 31 }, {  8, 86 }, {  9, 58 },
66     { 10, 36 }, { 12, 68 }, { 13, 39 }, { 14, 73 },
67     { 15, 53 }, { 16, 69 }, { 17, 57 }, { 19, 88 },
68     { 20, 34 }, { 21, 71 }, { 24, 46 }, { 25, 94 },
69     { 26, 54 }, { 28, 75 }, { 29, 50 }, { 32, 70 },
70     { 33, 92 }, { 35, 74 }, { 38, 85 }, { 40, 56 },
71     { 42, 87 }, { 43, 65 }, { 45, 59 }, { 48, 79 },
72     { 49, 93 }, { 51, 89 }, { 55, 95 }, { 61, 76 },
73     { 67, 83 }, { 77, 80 }
74 };
75
76 const unsigned char ff_sipr_subpk_size[4] = { 29, 19, 37, 20 };
77
78 static inline void get_strl(AVIOContext *pb, char *buf, int buf_size, int len)
79 {
80     int i;
81     char *q, r;
82
83     q = buf;
84     for(i=0;i<len;i++) {
85         r = avio_r8(pb);
86         if (i < buf_size - 1)
87             *q++ = r;
88     }
89     if (buf_size > 0) *q = '\0';
90 }
91
92 static void get_str8(AVIOContext *pb, char *buf, int buf_size)
93 {
94     get_strl(pb, buf, buf_size, avio_r8(pb));
95 }
96
97 static int rm_read_extradata(AVIOContext *pb, AVCodecContext *avctx, unsigned size)
98 {
99     if (size >= 1<<24)
100         return -1;
101     avctx->extradata = av_malloc(size + FF_INPUT_BUFFER_PADDING_SIZE);
102     if (!avctx->extradata)
103         return AVERROR(ENOMEM);
104     avctx->extradata_size = avio_read(pb, avctx->extradata, size);
105     memset(avctx->extradata + avctx->extradata_size, 0, FF_INPUT_BUFFER_PADDING_SIZE);
106     if (avctx->extradata_size != size)
107         return AVERROR(EIO);
108     return 0;
109 }
110
111 static void rm_read_metadata(AVFormatContext *s, int wide)
112 {
113     char buf[1024];
114     int i;
115     for (i=0; i<FF_ARRAY_ELEMS(ff_rm_metadata); i++) {
116         int len = wide ? avio_rb16(s->pb) : avio_r8(s->pb);
117         get_strl(s->pb, buf, sizeof(buf), len);
118         av_dict_set(&s->metadata, ff_rm_metadata[i], buf, 0);
119     }
120 }
121
122 RMStream *ff_rm_alloc_rmstream (void)
123 {
124     RMStream *rms = av_mallocz(sizeof(RMStream));
125     rms->curpic_num = -1;
126     return rms;
127 }
128
129 void ff_rm_free_rmstream (RMStream *rms)
130 {
131     av_free_packet(&rms->pkt);
132 }
133
134 static int rm_read_audio_stream_info(AVFormatContext *s, AVIOContext *pb,
135                                      AVStream *st, RMStream *ast, int read_all)
136 {
137     char buf[256];
138     uint32_t version;
139     int ret;
140
141     /* ra type header */
142     version = avio_rb16(pb); /* version */
143     if (version == 3) {
144         int header_size = avio_rb16(pb);
145         int64_t startpos = avio_tell(pb);
146         avio_skip(pb, 14);
147         rm_read_metadata(s, 0);
148         if ((startpos + header_size) >= avio_tell(pb) + 2) {
149             // fourcc (should always be "lpcJ")
150             avio_r8(pb);
151             get_str8(pb, buf, sizeof(buf));
152         }
153         // Skip extra header crap (this should never happen)
154         if ((startpos + header_size) > avio_tell(pb))
155             avio_skip(pb, header_size + startpos - avio_tell(pb));
156         st->codec->sample_rate = 8000;
157         st->codec->channels = 1;
158         st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
159         st->codec->codec_id = CODEC_ID_RA_144;
160         ast->deint_id = DEINT_ID_INT0;
161     } else {
162         int flavor, sub_packet_h, coded_framesize, sub_packet_size;
163         int codecdata_length;
164         /* old version (4) */
165         avio_skip(pb, 2); /* unused */
166         avio_rb32(pb); /* .ra4 */
167         avio_rb32(pb); /* data size */
168         avio_rb16(pb); /* version2 */
169         avio_rb32(pb); /* header size */
170         flavor= avio_rb16(pb); /* add codec info / flavor */
171         ast->coded_framesize = coded_framesize = avio_rb32(pb); /* coded frame size */
172         avio_rb32(pb); /* ??? */
173         avio_rb32(pb); /* ??? */
174         avio_rb32(pb); /* ??? */
175         ast->sub_packet_h = sub_packet_h = avio_rb16(pb); /* 1 */
176         st->codec->block_align= avio_rb16(pb); /* frame size */
177         ast->sub_packet_size = sub_packet_size = avio_rb16(pb); /* sub packet size */
178         avio_rb16(pb); /* ??? */
179         if (version == 5) {
180             avio_rb16(pb); avio_rb16(pb); avio_rb16(pb);
181         }
182         st->codec->sample_rate = avio_rb16(pb);
183         avio_rb32(pb);
184         st->codec->channels = avio_rb16(pb);
185         if (version == 5) {
186             ast->deint_id = avio_rl32(pb);
187             avio_read(pb, buf, 4);
188             buf[4] = 0;
189         } else {
190             get_str8(pb, buf, sizeof(buf)); /* desc */
191             ast->deint_id = AV_RL32(buf);
192             get_str8(pb, buf, sizeof(buf)); /* desc */
193         }
194         st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
195         st->codec->codec_tag  = AV_RL32(buf);
196         st->codec->codec_id   = ff_codec_get_id(ff_rm_codec_tags,
197                                                 st->codec->codec_tag);
198
199         switch (st->codec->codec_id) {
200         case CODEC_ID_AC3:
201             st->need_parsing = AVSTREAM_PARSE_FULL;
202             break;
203         case CODEC_ID_RA_288:
204             st->codec->extradata_size= 0;
205             ast->audio_framesize = st->codec->block_align;
206             st->codec->block_align = coded_framesize;
207             break;
208         case CODEC_ID_COOK:
209         case CODEC_ID_ATRAC3:
210         case CODEC_ID_SIPR:
211             avio_rb16(pb); avio_r8(pb);
212             if (version == 5)
213                 avio_r8(pb);
214             codecdata_length = avio_rb32(pb);
215             if(codecdata_length + FF_INPUT_BUFFER_PADDING_SIZE <= (unsigned)codecdata_length){
216                 av_log(s, AV_LOG_ERROR, "codecdata_length too large\n");
217                 return -1;
218             }
219
220             ast->audio_framesize = st->codec->block_align;
221             if (st->codec->codec_id == CODEC_ID_SIPR) {
222                 if (flavor > 3) {
223                     av_log(s, AV_LOG_ERROR, "bad SIPR file flavor %d\n",
224                            flavor);
225                     return -1;
226                 }
227                 st->codec->block_align = ff_sipr_subpk_size[flavor];
228             } else {
229                 if(sub_packet_size <= 0){
230                     av_log(s, AV_LOG_ERROR, "sub_packet_size is invalid\n");
231                     return -1;
232                 }
233                 st->codec->block_align = ast->sub_packet_size;
234             }
235             if ((ret = rm_read_extradata(pb, st->codec, codecdata_length)) < 0)
236                 return ret;
237
238             break;
239         case CODEC_ID_AAC:
240             avio_rb16(pb); avio_r8(pb);
241             if (version == 5)
242                 avio_r8(pb);
243             codecdata_length = avio_rb32(pb);
244             if(codecdata_length + FF_INPUT_BUFFER_PADDING_SIZE <= (unsigned)codecdata_length){
245                 av_log(s, AV_LOG_ERROR, "codecdata_length too large\n");
246                 return -1;
247             }
248             if (codecdata_length >= 1) {
249                 avio_r8(pb);
250                 if ((ret = rm_read_extradata(pb, st->codec, codecdata_length - 1)) < 0)
251                     return ret;
252             }
253             break;
254         default:
255             av_strlcpy(st->codec->codec_name, buf, sizeof(st->codec->codec_name));
256         }
257         if (ast->deint_id == DEINT_ID_INT4 ||
258             ast->deint_id == DEINT_ID_GENR ||
259             ast->deint_id == DEINT_ID_SIPR) {
260             if (st->codec->block_align <= 0 ||
261                 ast->audio_framesize * sub_packet_h > (unsigned)INT_MAX ||
262                 ast->audio_framesize * sub_packet_h < st->codec->block_align)
263                 return AVERROR_INVALIDDATA;
264             if (av_new_packet(&ast->pkt, ast->audio_framesize * sub_packet_h) < 0)
265                 return AVERROR(ENOMEM);
266         }
267         switch (ast->deint_id) {
268         case DEINT_ID_INT4:
269             if (ast->coded_framesize > ast->audio_framesize ||
270                 ast->coded_framesize * sub_packet_h > (2 + (sub_packet_h & 1)) * ast->audio_framesize)
271                 return AVERROR_INVALIDDATA;
272             break;
273         case DEINT_ID_GENR:
274             if (ast->sub_packet_size <= 0 ||
275                 ast->sub_packet_size > ast->audio_framesize)
276                 return AVERROR_INVALIDDATA;
277             break;
278         case DEINT_ID_SIPR:
279         case DEINT_ID_INT0:
280         case DEINT_ID_VBRS:
281         case DEINT_ID_VBRF:
282             break;
283         default:
284             av_log(NULL,0,"Unknown interleaver %X\n", ast->deint_id);
285             return AVERROR_INVALIDDATA;
286         }
287
288         if (read_all) {
289             avio_r8(pb);
290             avio_r8(pb);
291             avio_r8(pb);
292             rm_read_metadata(s, 0);
293         }
294     }
295     return 0;
296 }
297
298 int
299 ff_rm_read_mdpr_codecdata (AVFormatContext *s, AVIOContext *pb,
300                            AVStream *st, RMStream *rst, int codec_data_size)
301 {
302     unsigned int v;
303     int size;
304     int64_t codec_pos;
305     int ret;
306
307     avpriv_set_pts_info(st, 64, 1, 1000);
308     codec_pos = avio_tell(pb);
309     v = avio_rb32(pb);
310     if (v == MKTAG(0xfd, 'a', 'r', '.')) {
311         /* ra type header */
312         if (rm_read_audio_stream_info(s, pb, st, rst, 0))
313             return -1;
314     } else {
315         int fps;
316         if (avio_rl32(pb) != MKTAG('V', 'I', 'D', 'O')) {
317         fail1:
318             av_log(s, AV_LOG_WARNING, "Unsupported stream type %08x\n", v);
319             goto skip;
320         }
321         st->codec->codec_tag = avio_rl32(pb);
322         st->codec->codec_id  = ff_codec_get_id(ff_rm_codec_tags,
323                                                st->codec->codec_tag);
324 //        av_log(s, AV_LOG_DEBUG, "%X %X\n", st->codec->codec_tag, MKTAG('R', 'V', '2', '0'));
325         if (st->codec->codec_id == CODEC_ID_NONE)
326             goto fail1;
327         st->codec->width  = avio_rb16(pb);
328         st->codec->height = avio_rb16(pb);
329         avio_skip(pb, 2); // looks like bits per sample
330         avio_skip(pb, 4); // always zero?
331         st->codec->codec_type = AVMEDIA_TYPE_VIDEO;
332         st->need_parsing = AVSTREAM_PARSE_TIMESTAMPS;
333         fps = avio_rb32(pb);
334
335         if ((ret = rm_read_extradata(pb, st->codec, codec_data_size - (avio_tell(pb) - codec_pos))) < 0)
336             return ret;
337
338         av_reduce(&st->r_frame_rate.den, &st->r_frame_rate.num,
339                   0x10000, fps, (1 << 30) - 1);
340         st->avg_frame_rate = st->r_frame_rate;
341     }
342
343 skip:
344     /* skip codec info */
345     size = avio_tell(pb) - codec_pos;
346     avio_skip(pb, codec_data_size - size);
347
348     return 0;
349 }
350
351 /** this function assumes that the demuxer has already seeked to the start
352  * of the INDX chunk, and will bail out if not. */
353 static int rm_read_index(AVFormatContext *s)
354 {
355     AVIOContext *pb = s->pb;
356     unsigned int size, n_pkts, str_id, next_off, n, pos, pts;
357     AVStream *st;
358
359     do {
360         if (avio_rl32(pb) != MKTAG('I','N','D','X'))
361             return -1;
362         size     = avio_rb32(pb);
363         if (size < 20)
364             return -1;
365         avio_skip(pb, 2);
366         n_pkts   = avio_rb32(pb);
367         str_id   = avio_rb16(pb);
368         next_off = avio_rb32(pb);
369         for (n = 0; n < s->nb_streams; n++)
370             if (s->streams[n]->id == str_id) {
371                 st = s->streams[n];
372                 break;
373             }
374         if (n == s->nb_streams)
375             goto skip;
376
377         for (n = 0; n < n_pkts; n++) {
378             avio_skip(pb, 2);
379             pts = avio_rb32(pb);
380             pos = avio_rb32(pb);
381             avio_skip(pb, 4); /* packet no. */
382
383             av_add_index_entry(st, pos, pts, 0, 0, AVINDEX_KEYFRAME);
384         }
385
386 skip:
387         if (next_off && avio_tell(pb) != next_off &&
388             avio_seek(pb, next_off, SEEK_SET) < 0)
389             return -1;
390     } while (next_off);
391
392     return 0;
393 }
394
395 static int rm_read_header_old(AVFormatContext *s)
396 {
397     RMDemuxContext *rm = s->priv_data;
398     AVStream *st;
399
400     rm->old_format = 1;
401     st = avformat_new_stream(s, NULL);
402     if (!st)
403         return -1;
404     st->priv_data = ff_rm_alloc_rmstream();
405     return rm_read_audio_stream_info(s, s->pb, st, st->priv_data, 1);
406 }
407
408 static int rm_read_header(AVFormatContext *s, AVFormatParameters *ap)
409 {
410     RMDemuxContext *rm = s->priv_data;
411     AVStream *st;
412     AVIOContext *pb = s->pb;
413     unsigned int tag;
414     int tag_size;
415     unsigned int start_time, duration;
416     unsigned int data_off = 0, indx_off = 0;
417     char buf[128];
418     int flags = 0;
419
420     tag = avio_rl32(pb);
421     if (tag == MKTAG('.', 'r', 'a', 0xfd)) {
422         /* very old .ra format */
423         return rm_read_header_old(s);
424     } else if (tag != MKTAG('.', 'R', 'M', 'F')) {
425         return AVERROR(EIO);
426     }
427
428     avio_rb32(pb); /* header size */
429     avio_rb16(pb);
430     avio_rb32(pb);
431     avio_rb32(pb); /* number of headers */
432
433     for(;;) {
434         if (url_feof(pb))
435             return -1;
436         tag = avio_rl32(pb);
437         tag_size = avio_rb32(pb);
438         avio_rb16(pb);
439         av_dlog(s, "tag=%c%c%c%c (%08x) size=%d\n",
440                 (tag      ) & 0xff,
441                 (tag >>  8) & 0xff,
442                 (tag >> 16) & 0xff,
443                 (tag >> 24) & 0xff,
444                 tag,
445                 tag_size);
446         if (tag_size < 10 && tag != MKTAG('D', 'A', 'T', 'A'))
447             return -1;
448         switch(tag) {
449         case MKTAG('P', 'R', 'O', 'P'):
450             /* file header */
451             avio_rb32(pb); /* max bit rate */
452             avio_rb32(pb); /* avg bit rate */
453             avio_rb32(pb); /* max packet size */
454             avio_rb32(pb); /* avg packet size */
455             avio_rb32(pb); /* nb packets */
456             avio_rb32(pb); /* duration */
457             avio_rb32(pb); /* preroll */
458             indx_off = avio_rb32(pb); /* index offset */
459             data_off = avio_rb32(pb); /* data offset */
460             avio_rb16(pb); /* nb streams */
461             flags = avio_rb16(pb); /* flags */
462             break;
463         case MKTAG('C', 'O', 'N', 'T'):
464             rm_read_metadata(s, 1);
465             break;
466         case MKTAG('M', 'D', 'P', 'R'):
467             st = avformat_new_stream(s, NULL);
468             if (!st)
469                 return AVERROR(ENOMEM);
470             st->id = avio_rb16(pb);
471             avio_rb32(pb); /* max bit rate */
472             st->codec->bit_rate = avio_rb32(pb); /* bit rate */
473             avio_rb32(pb); /* max packet size */
474             avio_rb32(pb); /* avg packet size */
475             start_time = avio_rb32(pb); /* start time */
476             avio_rb32(pb); /* preroll */
477             duration = avio_rb32(pb); /* duration */
478             st->start_time = start_time;
479             st->duration = duration;
480             get_str8(pb, buf, sizeof(buf)); /* desc */
481             get_str8(pb, buf, sizeof(buf)); /* mimetype */
482             st->codec->codec_type = AVMEDIA_TYPE_DATA;
483             st->priv_data = ff_rm_alloc_rmstream();
484             if (ff_rm_read_mdpr_codecdata(s, s->pb, st, st->priv_data,
485                                           avio_rb32(pb)) < 0)
486                 return -1;
487             break;
488         case MKTAG('D', 'A', 'T', 'A'):
489             goto header_end;
490         default:
491             /* unknown tag: skip it */
492             avio_skip(pb, tag_size - 10);
493             break;
494         }
495     }
496  header_end:
497     rm->nb_packets = avio_rb32(pb); /* number of packets */
498     if (!rm->nb_packets && (flags & 4))
499         rm->nb_packets = 3600 * 25;
500     avio_rb32(pb); /* next data header */
501
502     if (!data_off)
503         data_off = avio_tell(pb) - 18;
504     if (indx_off && pb->seekable && !(s->flags & AVFMT_FLAG_IGNIDX) &&
505         avio_seek(pb, indx_off, SEEK_SET) >= 0) {
506         rm_read_index(s);
507         avio_seek(pb, data_off + 18, SEEK_SET);
508     }
509
510     return 0;
511 }
512
513 static int get_num(AVIOContext *pb, int *len)
514 {
515     int n, n1;
516
517     n = avio_rb16(pb);
518     (*len)-=2;
519     n &= 0x7FFF;
520     if (n >= 0x4000) {
521         return n - 0x4000;
522     } else {
523         n1 = avio_rb16(pb);
524         (*len)-=2;
525         return (n << 16) | n1;
526     }
527 }
528
529 /* multiple of 20 bytes for ra144 (ugly) */
530 #define RAW_PACKET_SIZE 1000
531
532 static int sync(AVFormatContext *s, int64_t *timestamp, int *flags, int *stream_index, int64_t *pos){
533     RMDemuxContext *rm = s->priv_data;
534     AVIOContext *pb = s->pb;
535     AVStream *st;
536     uint32_t state=0xFFFFFFFF;
537
538     while(!url_feof(pb)){
539         int len, num, i;
540         *pos= avio_tell(pb) - 3;
541         if(rm->remaining_len > 0){
542             num= rm->current_stream;
543             len= rm->remaining_len;
544             *timestamp = AV_NOPTS_VALUE;
545             *flags= 0;
546         }else{
547             state= (state<<8) + avio_r8(pb);
548
549             if(state == MKBETAG('I', 'N', 'D', 'X')){
550                 int n_pkts, expected_len;
551                 len = avio_rb32(pb);
552                 avio_skip(pb, 2);
553                 n_pkts = avio_rb32(pb);
554                 expected_len = 20 + n_pkts * 14;
555                 if (len == 20)
556                     /* some files don't add index entries to chunk size... */
557                     len = expected_len;
558                 else if (len != expected_len)
559                     av_log(s, AV_LOG_WARNING,
560                            "Index size %d (%d pkts) is wrong, should be %d.\n",
561                            len, n_pkts, expected_len);
562                 len -= 14; // we already read part of the index header
563                 if(len<0)
564                     continue;
565                 goto skip;
566             } else if (state == MKBETAG('D','A','T','A')) {
567                 av_log(s, AV_LOG_WARNING,
568                        "DATA tag in middle of chunk, file may be broken.\n");
569             }
570
571             if(state > (unsigned)0xFFFF || state <= 12)
572                 continue;
573             len=state - 12;
574             state= 0xFFFFFFFF;
575
576             num = avio_rb16(pb);
577             *timestamp = avio_rb32(pb);
578             avio_r8(pb); /* reserved */
579             *flags = avio_r8(pb); /* flags */
580         }
581         for(i=0;i<s->nb_streams;i++) {
582             st = s->streams[i];
583             if (num == st->id)
584                 break;
585         }
586         if (i == s->nb_streams) {
587 skip:
588             /* skip packet if unknown number */
589             avio_skip(pb, len);
590             rm->remaining_len = 0;
591             continue;
592         }
593         *stream_index= i;
594
595         return len;
596     }
597     return -1;
598 }
599
600 static int rm_assemble_video_frame(AVFormatContext *s, AVIOContext *pb,
601                                    RMDemuxContext *rm, RMStream *vst,
602                                    AVPacket *pkt, int len, int *pseq,
603                                    int64_t *timestamp)
604 {
605     int hdr, seq, pic_num, len2, pos;
606     int type;
607
608     hdr = avio_r8(pb); len--;
609     type = hdr >> 6;
610
611     if(type != 3){  // not frame as a part of packet
612         seq = avio_r8(pb); len--;
613     }
614     if(type != 1){  // not whole frame
615         len2 = get_num(pb, &len);
616         len2 = ffio_limit(pb, len2);
617         pos  = get_num(pb, &len);
618         pic_num = avio_r8(pb); len--;
619     }
620     if(len<0)
621         return -1;
622     rm->remaining_len = len;
623     if(type&1){     // frame, not slice
624         if(type == 3){  // frame as a part of packet
625             len= len2;
626             *timestamp = pos;
627         }
628         if(rm->remaining_len < len)
629             return -1;
630         rm->remaining_len -= len;
631         if(av_new_packet(pkt, len + 9) < 0)
632             return AVERROR(EIO);
633         pkt->data[0] = 0;
634         AV_WL32(pkt->data + 1, 1);
635         AV_WL32(pkt->data + 5, 0);
636         avio_read(pb, pkt->data + 9, len);
637         return 0;
638     }
639     //now we have to deal with single slice
640
641     *pseq = seq;
642     if((seq & 0x7F) == 1 || vst->curpic_num != pic_num){
643         vst->slices = ((hdr & 0x3F) << 1) + 1;
644         vst->videobufsize = len2 + 8*vst->slices + 1;
645         av_free_packet(&vst->pkt); //FIXME this should be output.
646         if(av_new_packet(&vst->pkt, vst->videobufsize) < 0)
647             return AVERROR(ENOMEM);
648         vst->videobufpos = 8*vst->slices + 1;
649         vst->cur_slice = 0;
650         vst->curpic_num = pic_num;
651         vst->pktpos = avio_tell(pb);
652     }
653     if(type == 2)
654         len = FFMIN(len, pos);
655
656     if(++vst->cur_slice > vst->slices)
657         return 1;
658     AV_WL32(vst->pkt.data - 7 + 8*vst->cur_slice, 1);
659     AV_WL32(vst->pkt.data - 3 + 8*vst->cur_slice, vst->videobufpos - 8*vst->slices - 1);
660     if(vst->videobufpos + len > vst->videobufsize)
661         return 1;
662     if (avio_read(pb, vst->pkt.data + vst->videobufpos, len) != len)
663         return AVERROR(EIO);
664     vst->videobufpos += len;
665     rm->remaining_len-= len;
666
667     if(type == 2 || (vst->videobufpos) == vst->videobufsize){
668         vst->pkt.data[0] = vst->cur_slice-1;
669         *pkt= vst->pkt;
670         vst->pkt.data= NULL;
671         vst->pkt.size= 0;
672         if(vst->slices != vst->cur_slice) //FIXME find out how to set slices correct from the begin
673             memmove(pkt->data + 1 + 8*vst->cur_slice, pkt->data + 1 + 8*vst->slices,
674                 vst->videobufpos - 1 - 8*vst->slices);
675         pkt->size = vst->videobufpos + 8*(vst->cur_slice - vst->slices);
676         pkt->pts = AV_NOPTS_VALUE;
677         pkt->pos = vst->pktpos;
678         vst->slices = 0;
679         return 0;
680     }
681
682     return 1;
683 }
684
685 static inline void
686 rm_ac3_swap_bytes (AVStream *st, AVPacket *pkt)
687 {
688     uint8_t *ptr;
689     int j;
690
691     if (st->codec->codec_id == CODEC_ID_AC3) {
692         ptr = pkt->data;
693         for (j=0;j<pkt->size;j+=2) {
694             FFSWAP(int, ptr[0], ptr[1]);
695             ptr += 2;
696         }
697     }
698 }
699
700 /**
701  * Perform 4-bit block reordering for SIPR data.
702  * @todo This can be optimized, e.g. use memcpy() if data blocks are aligned
703  */
704 void ff_rm_reorder_sipr_data(uint8_t *buf, int sub_packet_h, int framesize)
705 {
706     int n, bs = sub_packet_h * framesize * 2 / 96; // nibbles per subpacket
707
708     for (n = 0; n < 38; n++) {
709         int j;
710         int i = bs * sipr_swaps[n][0];
711         int o = bs * sipr_swaps[n][1];
712
713         /* swap 4bit-nibbles of block 'i' with 'o' */
714         for (j = 0; j < bs; j++, i++, o++) {
715             int x = (buf[i >> 1] >> (4 * (i & 1))) & 0xF,
716                 y = (buf[o >> 1] >> (4 * (o & 1))) & 0xF;
717
718             buf[o >> 1] = (x << (4 * (o & 1))) |
719                 (buf[o >> 1] & (0xF << (4 * !(o & 1))));
720             buf[i >> 1] = (y << (4 * (i & 1))) |
721                 (buf[i >> 1] & (0xF << (4 * !(i & 1))));
722         }
723     }
724 }
725
726 int
727 ff_rm_parse_packet (AVFormatContext *s, AVIOContext *pb,
728                     AVStream *st, RMStream *ast, int len, AVPacket *pkt,
729                     int *seq, int flags, int64_t timestamp)
730 {
731     RMDemuxContext *rm = s->priv_data;
732
733     if (st->codec->codec_type == AVMEDIA_TYPE_VIDEO) {
734         rm->current_stream= st->id;
735         if(rm_assemble_video_frame(s, pb, rm, ast, pkt, len, seq, &timestamp))
736             return -1; //got partial frame
737     } else if (st->codec->codec_type == AVMEDIA_TYPE_AUDIO) {
738         if ((ast->deint_id == DEINT_ID_GENR) ||
739             (ast->deint_id == DEINT_ID_INT4) ||
740             (ast->deint_id == DEINT_ID_SIPR)) {
741             int x;
742             int sps = ast->sub_packet_size;
743             int cfs = ast->coded_framesize;
744             int h = ast->sub_packet_h;
745             int y = ast->sub_packet_cnt;
746             int w = ast->audio_framesize;
747
748             if (flags & 2)
749                 y = ast->sub_packet_cnt = 0;
750             if (!y)
751                 ast->audiotimestamp = timestamp;
752
753             switch (ast->deint_id) {
754                 case DEINT_ID_INT4:
755                     for (x = 0; x < h/2; x++)
756                         avio_read(pb, ast->pkt.data+x*2*w+y*cfs, cfs);
757                     break;
758                 case DEINT_ID_GENR:
759                     for (x = 0; x < w/sps; x++)
760                         avio_read(pb, ast->pkt.data+sps*(h*x+((h+1)/2)*(y&1)+(y>>1)), sps);
761                     break;
762                 case DEINT_ID_SIPR:
763                     avio_read(pb, ast->pkt.data + y * w, w);
764                     break;
765             }
766
767             if (++(ast->sub_packet_cnt) < h)
768                 return -1;
769             if (ast->deint_id == DEINT_ID_SIPR)
770                 ff_rm_reorder_sipr_data(ast->pkt.data, h, w);
771
772              ast->sub_packet_cnt = 0;
773              rm->audio_stream_num = st->index;
774              rm->audio_pkt_cnt = h * w / st->codec->block_align;
775         } else if ((ast->deint_id == DEINT_ID_VBRF) ||
776                    (ast->deint_id == DEINT_ID_VBRS)) {
777             int x;
778             rm->audio_stream_num = st->index;
779             ast->sub_packet_cnt = (avio_rb16(pb) & 0xf0) >> 4;
780             if (ast->sub_packet_cnt) {
781                 for (x = 0; x < ast->sub_packet_cnt; x++)
782                     ast->sub_packet_lengths[x] = avio_rb16(pb);
783                 rm->audio_pkt_cnt = ast->sub_packet_cnt;
784                 ast->audiotimestamp = timestamp;
785             } else
786                 return -1;
787         } else {
788             av_get_packet(pb, pkt, len);
789             rm_ac3_swap_bytes(st, pkt);
790         }
791     } else
792         av_get_packet(pb, pkt, len);
793
794     pkt->stream_index = st->index;
795
796 #if 0
797     if (st->codec->codec_type == AVMEDIA_TYPE_VIDEO) {
798         if(st->codec->codec_id == CODEC_ID_RV20){
799             int seq= 128*(pkt->data[2]&0x7F) + (pkt->data[3]>>1);
800             av_log(s, AV_LOG_DEBUG, "%d %"PRId64" %d\n", *timestamp, *timestamp*512LL/25, seq);
801
802             seq |= (timestamp&~0x3FFF);
803             if(seq - timestamp >  0x2000) seq -= 0x4000;
804             if(seq - timestamp < -0x2000) seq += 0x4000;
805         }
806     }
807 #endif
808
809     pkt->pts = timestamp;
810     if (flags & 2)
811         pkt->flags |= AV_PKT_FLAG_KEY;
812
813     return st->codec->codec_type == AVMEDIA_TYPE_AUDIO ? rm->audio_pkt_cnt : 0;
814 }
815
816 int
817 ff_rm_retrieve_cache (AVFormatContext *s, AVIOContext *pb,
818                       AVStream *st, RMStream *ast, AVPacket *pkt)
819 {
820     RMDemuxContext *rm = s->priv_data;
821
822     assert (rm->audio_pkt_cnt > 0);
823
824     if (ast->deint_id == DEINT_ID_VBRF ||
825         ast->deint_id == DEINT_ID_VBRS)
826         av_get_packet(pb, pkt, ast->sub_packet_lengths[ast->sub_packet_cnt - rm->audio_pkt_cnt]);
827     else {
828         av_new_packet(pkt, st->codec->block_align);
829         memcpy(pkt->data, ast->pkt.data + st->codec->block_align * //FIXME avoid this
830                (ast->sub_packet_h * ast->audio_framesize / st->codec->block_align - rm->audio_pkt_cnt),
831                st->codec->block_align);
832     }
833     rm->audio_pkt_cnt--;
834     if ((pkt->pts = ast->audiotimestamp) != AV_NOPTS_VALUE) {
835         ast->audiotimestamp = AV_NOPTS_VALUE;
836         pkt->flags = AV_PKT_FLAG_KEY;
837     } else
838         pkt->flags = 0;
839     pkt->stream_index = st->index;
840
841     return rm->audio_pkt_cnt;
842 }
843
844 static int rm_read_packet(AVFormatContext *s, AVPacket *pkt)
845 {
846     RMDemuxContext *rm = s->priv_data;
847     AVStream *st;
848     int i, len, res, seq = 1;
849     int64_t timestamp, pos;
850     int flags;
851
852     for (;;) {
853         if (rm->audio_pkt_cnt) {
854             // If there are queued audio packet return them first
855             st = s->streams[rm->audio_stream_num];
856             ff_rm_retrieve_cache(s, s->pb, st, st->priv_data, pkt);
857             flags = 0;
858         } else {
859             if (rm->old_format) {
860                 RMStream *ast;
861
862                 st = s->streams[0];
863                 ast = st->priv_data;
864                 timestamp = AV_NOPTS_VALUE;
865                 len = !ast->audio_framesize ? RAW_PACKET_SIZE :
866                     ast->coded_framesize * ast->sub_packet_h / 2;
867                 flags = (seq++ == 1) ? 2 : 0;
868                 pos = avio_tell(s->pb);
869             } else {
870                 len=sync(s, &timestamp, &flags, &i, &pos);
871                 if (len > 0)
872                     st = s->streams[i];
873             }
874
875             if(len<0 || url_feof(s->pb))
876                 return AVERROR(EIO);
877
878             res = ff_rm_parse_packet (s, s->pb, st, st->priv_data, len, pkt,
879                                       &seq, flags, timestamp);
880             if((flags&2) && (seq&0x7F) == 1)
881                 av_add_index_entry(st, pos, timestamp, 0, 0, AVINDEX_KEYFRAME);
882             if (res)
883                 continue;
884         }
885
886         if(  (st->discard >= AVDISCARD_NONKEY && !(flags&2))
887            || st->discard >= AVDISCARD_ALL){
888             av_free_packet(pkt);
889         } else
890             break;
891     }
892
893     return 0;
894 }
895
896 static int rm_read_close(AVFormatContext *s)
897 {
898     int i;
899
900     for (i=0;i<s->nb_streams;i++)
901         ff_rm_free_rmstream(s->streams[i]->priv_data);
902
903     return 0;
904 }
905
906 static int rm_probe(AVProbeData *p)
907 {
908     /* check file header */
909     if ((p->buf[0] == '.' && p->buf[1] == 'R' &&
910          p->buf[2] == 'M' && p->buf[3] == 'F' &&
911          p->buf[4] == 0 && p->buf[5] == 0) ||
912         (p->buf[0] == '.' && p->buf[1] == 'r' &&
913          p->buf[2] == 'a' && p->buf[3] == 0xfd))
914         return AVPROBE_SCORE_MAX;
915     else
916         return 0;
917 }
918
919 static int64_t rm_read_dts(AVFormatContext *s, int stream_index,
920                                int64_t *ppos, int64_t pos_limit)
921 {
922     RMDemuxContext *rm = s->priv_data;
923     int64_t pos, dts;
924     int stream_index2, flags, len, h;
925
926     pos = *ppos;
927
928     if(rm->old_format)
929         return AV_NOPTS_VALUE;
930
931     if (avio_seek(s->pb, pos, SEEK_SET) < 0)
932         return AV_NOPTS_VALUE;
933
934     rm->remaining_len=0;
935     for(;;){
936         int seq=1;
937         AVStream *st;
938
939         len=sync(s, &dts, &flags, &stream_index2, &pos);
940         if(len<0)
941             return AV_NOPTS_VALUE;
942
943         st = s->streams[stream_index2];
944         if (st->codec->codec_type == AVMEDIA_TYPE_VIDEO) {
945             h= avio_r8(s->pb); len--;
946             if(!(h & 0x40)){
947                 seq = avio_r8(s->pb); len--;
948             }
949         }
950
951         if((flags&2) && (seq&0x7F) == 1){
952 //            av_log(s, AV_LOG_DEBUG, "%d %d-%d %"PRId64" %d\n", flags, stream_index2, stream_index, dts, seq);
953             av_add_index_entry(st, pos, dts, 0, 0, AVINDEX_KEYFRAME);
954             if(stream_index2 == stream_index)
955                 break;
956         }
957
958         avio_skip(s->pb, len);
959     }
960     *ppos = pos;
961     return dts;
962 }
963
964 AVInputFormat ff_rm_demuxer = {
965     .name           = "rm",
966     .long_name      = NULL_IF_CONFIG_SMALL("RealMedia format"),
967     .priv_data_size = sizeof(RMDemuxContext),
968     .read_probe     = rm_probe,
969     .read_header    = rm_read_header,
970     .read_packet    = rm_read_packet,
971     .read_close     = rm_read_close,
972     .read_timestamp = rm_read_dts,
973 };
974
975 AVInputFormat ff_rdt_demuxer = {
976     .name           = "rdt",
977     .long_name      = NULL_IF_CONFIG_SMALL("RDT demuxer"),
978     .priv_data_size = sizeof(RMDemuxContext),
979     .read_close     = rm_read_close,
980     .flags          = AVFMT_NOFILE,
981 };