rmdec: use the deinterleaving mode and not the codec when creating audio packets.
[ffmpeg.git] / libavformat / rmdec.c
1 /*
2  * "Real" compatible demuxer.
3  * Copyright (c) 2000, 2001 Fabrice Bellard
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "libavutil/avstring.h"
23 #include "libavutil/intreadwrite.h"
24 #include "libavutil/dict.h"
25 #include "avformat.h"
26 #include "riff.h"
27 #include "rm.h"
28
29 #define DEINT_ID_GENR MKTAG('g', 'e', 'n', 'r') ///< interleaving for Cooker/Atrac
30 #define DEINT_ID_INT0 MKTAG('I', 'n', 't', '0') ///< no interleaving needed
31 #define DEINT_ID_INT4 MKTAG('I', 'n', 't', '4') ///< interleaving for 28.8
32 #define DEINT_ID_SIPR MKTAG('s', 'i', 'p', 'r') ///< interleaving for Sipro
33 #define DEINT_ID_VBRF MKTAG('v', 'b', 'r', 'f') ///< VBR case for AAC
34 #define DEINT_ID_VBRS MKTAG('v', 'b', 'r', 's') ///< VBR case for AAC
35
36 struct RMStream {
37     AVPacket pkt;      ///< place to store merged video frame / reordered audio data
38     int videobufsize;  ///< current assembled frame size
39     int videobufpos;   ///< position for the next slice in the video buffer
40     int curpic_num;    ///< picture number of current frame
41     int cur_slice, slices;
42     int64_t pktpos;    ///< first slice position in file
43     /// Audio descrambling matrix parameters
44     int64_t audiotimestamp; ///< Audio packet timestamp
45     int sub_packet_cnt; // Subpacket counter, used while reading
46     int sub_packet_size, sub_packet_h, coded_framesize; ///< Descrambling parameters from container
47     int audio_framesize; /// Audio frame size from container
48     int sub_packet_lengths[16]; /// Length of each subpacket
49     int32_t deint_id;  ///< deinterleaver used in audio stream
50 };
51
52 typedef struct {
53     int nb_packets;
54     int old_format;
55     int current_stream;
56     int remaining_len;
57     int audio_stream_num; ///< Stream number for audio packets
58     int audio_pkt_cnt; ///< Output packet counter
59 } RMDemuxContext;
60
61 static const unsigned char sipr_swaps[38][2] = {
62     {  0, 63 }, {  1, 22 }, {  2, 44 }, {  3, 90 },
63     {  5, 81 }, {  7, 31 }, {  8, 86 }, {  9, 58 },
64     { 10, 36 }, { 12, 68 }, { 13, 39 }, { 14, 73 },
65     { 15, 53 }, { 16, 69 }, { 17, 57 }, { 19, 88 },
66     { 20, 34 }, { 21, 71 }, { 24, 46 }, { 25, 94 },
67     { 26, 54 }, { 28, 75 }, { 29, 50 }, { 32, 70 },
68     { 33, 92 }, { 35, 74 }, { 38, 85 }, { 40, 56 },
69     { 42, 87 }, { 43, 65 }, { 45, 59 }, { 48, 79 },
70     { 49, 93 }, { 51, 89 }, { 55, 95 }, { 61, 76 },
71     { 67, 83 }, { 77, 80 }
72 };
73
74 const unsigned char ff_sipr_subpk_size[4] = { 29, 19, 37, 20 };
75
76 static inline void get_strl(AVIOContext *pb, char *buf, int buf_size, int len)
77 {
78     int i;
79     char *q, r;
80
81     q = buf;
82     for(i=0;i<len;i++) {
83         r = avio_r8(pb);
84         if (i < buf_size - 1)
85             *q++ = r;
86     }
87     if (buf_size > 0) *q = '\0';
88 }
89
90 static void get_str8(AVIOContext *pb, char *buf, int buf_size)
91 {
92     get_strl(pb, buf, buf_size, avio_r8(pb));
93 }
94
95 static int rm_read_extradata(AVIOContext *pb, AVCodecContext *avctx, unsigned size)
96 {
97     if (size >= 1<<24)
98         return -1;
99     avctx->extradata = av_malloc(size + FF_INPUT_BUFFER_PADDING_SIZE);
100     if (!avctx->extradata)
101         return AVERROR(ENOMEM);
102     avctx->extradata_size = avio_read(pb, avctx->extradata, size);
103     memset(avctx->extradata + avctx->extradata_size, 0, FF_INPUT_BUFFER_PADDING_SIZE);
104     if (avctx->extradata_size != size)
105         return AVERROR(EIO);
106     return 0;
107 }
108
109 static void rm_read_metadata(AVFormatContext *s, int wide)
110 {
111     char buf[1024];
112     int i;
113     for (i=0; i<FF_ARRAY_ELEMS(ff_rm_metadata); i++) {
114         int len = wide ? avio_rb16(s->pb) : avio_r8(s->pb);
115         get_strl(s->pb, buf, sizeof(buf), len);
116         av_dict_set(&s->metadata, ff_rm_metadata[i], buf, 0);
117     }
118 }
119
120 RMStream *ff_rm_alloc_rmstream (void)
121 {
122     RMStream *rms = av_mallocz(sizeof(RMStream));
123     rms->curpic_num = -1;
124     return rms;
125 }
126
127 void ff_rm_free_rmstream (RMStream *rms)
128 {
129     av_free_packet(&rms->pkt);
130 }
131
132 static int rm_read_audio_stream_info(AVFormatContext *s, AVIOContext *pb,
133                                      AVStream *st, RMStream *ast, int read_all)
134 {
135     char buf[256];
136     uint32_t version;
137     int ret;
138
139     /* ra type header */
140     version = avio_rb16(pb); /* version */
141     if (version == 3) {
142         int header_size = avio_rb16(pb);
143         int64_t startpos = avio_tell(pb);
144         avio_skip(pb, 14);
145         rm_read_metadata(s, 0);
146         if ((startpos + header_size) >= avio_tell(pb) + 2) {
147             // fourcc (should always be "lpcJ")
148             avio_r8(pb);
149             get_str8(pb, buf, sizeof(buf));
150         }
151         // Skip extra header crap (this should never happen)
152         if ((startpos + header_size) > avio_tell(pb))
153             avio_skip(pb, header_size + startpos - avio_tell(pb));
154         st->codec->sample_rate = 8000;
155         st->codec->channels = 1;
156         st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
157         st->codec->codec_id = CODEC_ID_RA_144;
158         ast->deint_id = DEINT_ID_INT0;
159     } else {
160         int flavor, sub_packet_h, coded_framesize, sub_packet_size;
161         int codecdata_length;
162         /* old version (4) */
163         avio_skip(pb, 2); /* unused */
164         avio_rb32(pb); /* .ra4 */
165         avio_rb32(pb); /* data size */
166         avio_rb16(pb); /* version2 */
167         avio_rb32(pb); /* header size */
168         flavor= avio_rb16(pb); /* add codec info / flavor */
169         ast->coded_framesize = coded_framesize = avio_rb32(pb); /* coded frame size */
170         avio_rb32(pb); /* ??? */
171         avio_rb32(pb); /* ??? */
172         avio_rb32(pb); /* ??? */
173         ast->sub_packet_h = sub_packet_h = avio_rb16(pb); /* 1 */
174         st->codec->block_align= avio_rb16(pb); /* frame size */
175         ast->sub_packet_size = sub_packet_size = avio_rb16(pb); /* sub packet size */
176         avio_rb16(pb); /* ??? */
177         if (version == 5) {
178             avio_rb16(pb); avio_rb16(pb); avio_rb16(pb);
179         }
180         st->codec->sample_rate = avio_rb16(pb);
181         avio_rb32(pb);
182         st->codec->channels = avio_rb16(pb);
183         if (version == 5) {
184             ast->deint_id = avio_rl32(pb);
185             avio_read(pb, buf, 4);
186             buf[4] = 0;
187         } else {
188             get_str8(pb, buf, sizeof(buf)); /* desc */
189             ast->deint_id = AV_RL32(buf);
190             get_str8(pb, buf, sizeof(buf)); /* desc */
191         }
192         st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
193         st->codec->codec_tag  = AV_RL32(buf);
194         st->codec->codec_id   = ff_codec_get_id(ff_rm_codec_tags,
195                                                 st->codec->codec_tag);
196
197         switch (ast->deint_id) {
198         case DEINT_ID_GENR:
199         case DEINT_ID_INT0:
200         case DEINT_ID_INT4:
201         case DEINT_ID_SIPR:
202         case DEINT_ID_VBRS:
203         case DEINT_ID_VBRF:
204             break;
205         default:
206             av_log(NULL,0,"Unknown interleaver %X\n", ast->deint_id);
207             return AVERROR_INVALIDDATA;
208         }
209         switch (st->codec->codec_id) {
210         case CODEC_ID_AC3:
211             st->need_parsing = AVSTREAM_PARSE_FULL;
212             break;
213         case CODEC_ID_RA_288:
214             st->codec->extradata_size= 0;
215             ast->audio_framesize = st->codec->block_align;
216             st->codec->block_align = coded_framesize;
217
218             if(ast->audio_framesize >= UINT_MAX / sub_packet_h){
219                 av_log(s, AV_LOG_ERROR, "ast->audio_framesize * sub_packet_h too large\n");
220                 return -1;
221             }
222
223             av_new_packet(&ast->pkt, ast->audio_framesize * sub_packet_h);
224             break;
225         case CODEC_ID_COOK:
226         case CODEC_ID_ATRAC3:
227         case CODEC_ID_SIPR:
228             avio_rb16(pb); avio_r8(pb);
229             if (version == 5)
230                 avio_r8(pb);
231             codecdata_length = avio_rb32(pb);
232             if(codecdata_length + FF_INPUT_BUFFER_PADDING_SIZE <= (unsigned)codecdata_length){
233                 av_log(s, AV_LOG_ERROR, "codecdata_length too large\n");
234                 return -1;
235             }
236
237             ast->audio_framesize = st->codec->block_align;
238             if (st->codec->codec_id == CODEC_ID_SIPR) {
239                 if (flavor > 3) {
240                     av_log(s, AV_LOG_ERROR, "bad SIPR file flavor %d\n",
241                            flavor);
242                     return -1;
243                 }
244                 st->codec->block_align = ff_sipr_subpk_size[flavor];
245             } else {
246                 if(sub_packet_size <= 0){
247                     av_log(s, AV_LOG_ERROR, "sub_packet_size is invalid\n");
248                     return -1;
249                 }
250                 st->codec->block_align = ast->sub_packet_size;
251             }
252             if ((ret = rm_read_extradata(pb, st->codec, codecdata_length)) < 0)
253                 return ret;
254
255             if(ast->audio_framesize >= UINT_MAX / sub_packet_h){
256                 av_log(s, AV_LOG_ERROR, "rm->audio_framesize * sub_packet_h too large\n");
257                 return -1;
258             }
259
260             av_new_packet(&ast->pkt, ast->audio_framesize * sub_packet_h);
261             break;
262         case CODEC_ID_AAC:
263             avio_rb16(pb); avio_r8(pb);
264             if (version == 5)
265                 avio_r8(pb);
266             codecdata_length = avio_rb32(pb);
267             if(codecdata_length + FF_INPUT_BUFFER_PADDING_SIZE <= (unsigned)codecdata_length){
268                 av_log(s, AV_LOG_ERROR, "codecdata_length too large\n");
269                 return -1;
270             }
271             if (codecdata_length >= 1) {
272                 avio_r8(pb);
273                 if ((ret = rm_read_extradata(pb, st->codec, codecdata_length - 1)) < 0)
274                     return ret;
275             }
276             break;
277         default:
278             av_strlcpy(st->codec->codec_name, buf, sizeof(st->codec->codec_name));
279         }
280         if (read_all) {
281             avio_r8(pb);
282             avio_r8(pb);
283             avio_r8(pb);
284             rm_read_metadata(s, 0);
285         }
286     }
287     return 0;
288 }
289
290 int
291 ff_rm_read_mdpr_codecdata (AVFormatContext *s, AVIOContext *pb,
292                            AVStream *st, RMStream *rst, int codec_data_size)
293 {
294     unsigned int v;
295     int size;
296     int64_t codec_pos;
297     int ret;
298
299     av_set_pts_info(st, 64, 1, 1000);
300     codec_pos = avio_tell(pb);
301     v = avio_rb32(pb);
302     if (v == MKTAG(0xfd, 'a', 'r', '.')) {
303         /* ra type header */
304         if (rm_read_audio_stream_info(s, pb, st, rst, 0))
305             return -1;
306     } else {
307         int fps;
308         if (avio_rl32(pb) != MKTAG('V', 'I', 'D', 'O')) {
309         fail1:
310             av_log(st->codec, AV_LOG_ERROR, "Unsupported video codec\n");
311             goto skip;
312         }
313         st->codec->codec_tag = avio_rl32(pb);
314         st->codec->codec_id  = ff_codec_get_id(ff_rm_codec_tags,
315                                                st->codec->codec_tag);
316 //        av_log(s, AV_LOG_DEBUG, "%X %X\n", st->codec->codec_tag, MKTAG('R', 'V', '2', '0'));
317         if (st->codec->codec_id == CODEC_ID_NONE)
318             goto fail1;
319         st->codec->width  = avio_rb16(pb);
320         st->codec->height = avio_rb16(pb);
321         avio_skip(pb, 2); // looks like bits per sample
322         avio_skip(pb, 4); // always zero?
323         st->codec->codec_type = AVMEDIA_TYPE_VIDEO;
324         st->need_parsing = AVSTREAM_PARSE_TIMESTAMPS;
325         fps = avio_rb32(pb);
326
327         if ((ret = rm_read_extradata(pb, st->codec, codec_data_size - (avio_tell(pb) - codec_pos))) < 0)
328             return ret;
329
330         av_reduce(&st->codec->time_base.num, &st->codec->time_base.den,
331                   0x10000, fps, (1 << 30) - 1);
332         st->avg_frame_rate.num = st->codec->time_base.den;
333         st->avg_frame_rate.den = st->codec->time_base.num;
334     }
335
336 skip:
337     /* skip codec info */
338     size = avio_tell(pb) - codec_pos;
339     avio_skip(pb, codec_data_size - size);
340
341     return 0;
342 }
343
344 /** this function assumes that the demuxer has already seeked to the start
345  * of the INDX chunk, and will bail out if not. */
346 static int rm_read_index(AVFormatContext *s)
347 {
348     AVIOContext *pb = s->pb;
349     unsigned int size, n_pkts, str_id, next_off, n, pos, pts;
350     AVStream *st;
351
352     do {
353         if (avio_rl32(pb) != MKTAG('I','N','D','X'))
354             return -1;
355         size     = avio_rb32(pb);
356         if (size < 20)
357             return -1;
358         avio_skip(pb, 2);
359         n_pkts   = avio_rb32(pb);
360         str_id   = avio_rb16(pb);
361         next_off = avio_rb32(pb);
362         for (n = 0; n < s->nb_streams; n++)
363             if (s->streams[n]->id == str_id) {
364                 st = s->streams[n];
365                 break;
366             }
367         if (n == s->nb_streams)
368             goto skip;
369
370         for (n = 0; n < n_pkts; n++) {
371             avio_skip(pb, 2);
372             pts = avio_rb32(pb);
373             pos = avio_rb32(pb);
374             avio_skip(pb, 4); /* packet no. */
375
376             av_add_index_entry(st, pos, pts, 0, 0, AVINDEX_KEYFRAME);
377         }
378
379 skip:
380         if (next_off && avio_tell(pb) != next_off &&
381             avio_seek(pb, next_off, SEEK_SET) < 0)
382             return -1;
383     } while (next_off);
384
385     return 0;
386 }
387
388 static int rm_read_header_old(AVFormatContext *s)
389 {
390     RMDemuxContext *rm = s->priv_data;
391     AVStream *st;
392
393     rm->old_format = 1;
394     st = av_new_stream(s, 0);
395     if (!st)
396         return -1;
397     st->priv_data = ff_rm_alloc_rmstream();
398     return rm_read_audio_stream_info(s, s->pb, st, st->priv_data, 1);
399 }
400
401 static int rm_read_header(AVFormatContext *s, AVFormatParameters *ap)
402 {
403     RMDemuxContext *rm = s->priv_data;
404     AVStream *st;
405     AVIOContext *pb = s->pb;
406     unsigned int tag;
407     int tag_size;
408     unsigned int start_time, duration;
409     unsigned int data_off = 0, indx_off = 0;
410     char buf[128];
411     int flags = 0;
412
413     tag = avio_rl32(pb);
414     if (tag == MKTAG('.', 'r', 'a', 0xfd)) {
415         /* very old .ra format */
416         return rm_read_header_old(s);
417     } else if (tag != MKTAG('.', 'R', 'M', 'F')) {
418         return AVERROR(EIO);
419     }
420
421     avio_rb32(pb); /* header size */
422     avio_rb16(pb);
423     avio_rb32(pb);
424     avio_rb32(pb); /* number of headers */
425
426     for(;;) {
427         if (pb->eof_reached)
428             return -1;
429         tag = avio_rl32(pb);
430         tag_size = avio_rb32(pb);
431         avio_rb16(pb);
432         av_dlog(s, "tag=%c%c%c%c (%08x) size=%d\n",
433                 (tag      ) & 0xff,
434                 (tag >>  8) & 0xff,
435                 (tag >> 16) & 0xff,
436                 (tag >> 24) & 0xff,
437                 tag,
438                 tag_size);
439         if (tag_size < 10 && tag != MKTAG('D', 'A', 'T', 'A'))
440             return -1;
441         switch(tag) {
442         case MKTAG('P', 'R', 'O', 'P'):
443             /* file header */
444             avio_rb32(pb); /* max bit rate */
445             avio_rb32(pb); /* avg bit rate */
446             avio_rb32(pb); /* max packet size */
447             avio_rb32(pb); /* avg packet size */
448             avio_rb32(pb); /* nb packets */
449             avio_rb32(pb); /* duration */
450             avio_rb32(pb); /* preroll */
451             indx_off = avio_rb32(pb); /* index offset */
452             data_off = avio_rb32(pb); /* data offset */
453             avio_rb16(pb); /* nb streams */
454             flags = avio_rb16(pb); /* flags */
455             break;
456         case MKTAG('C', 'O', 'N', 'T'):
457             rm_read_metadata(s, 1);
458             break;
459         case MKTAG('M', 'D', 'P', 'R'):
460             st = av_new_stream(s, 0);
461             if (!st)
462                 return AVERROR(ENOMEM);
463             st->id = avio_rb16(pb);
464             avio_rb32(pb); /* max bit rate */
465             st->codec->bit_rate = avio_rb32(pb); /* bit rate */
466             avio_rb32(pb); /* max packet size */
467             avio_rb32(pb); /* avg packet size */
468             start_time = avio_rb32(pb); /* start time */
469             avio_rb32(pb); /* preroll */
470             duration = avio_rb32(pb); /* duration */
471             st->start_time = start_time;
472             st->duration = duration;
473             get_str8(pb, buf, sizeof(buf)); /* desc */
474             get_str8(pb, buf, sizeof(buf)); /* mimetype */
475             st->codec->codec_type = AVMEDIA_TYPE_DATA;
476             st->priv_data = ff_rm_alloc_rmstream();
477             if (ff_rm_read_mdpr_codecdata(s, s->pb, st, st->priv_data,
478                                           avio_rb32(pb)) < 0)
479                 return -1;
480             break;
481         case MKTAG('D', 'A', 'T', 'A'):
482             goto header_end;
483         default:
484             /* unknown tag: skip it */
485             avio_skip(pb, tag_size - 10);
486             break;
487         }
488     }
489  header_end:
490     rm->nb_packets = avio_rb32(pb); /* number of packets */
491     if (!rm->nb_packets && (flags & 4))
492         rm->nb_packets = 3600 * 25;
493     avio_rb32(pb); /* next data header */
494
495     if (!data_off)
496         data_off = avio_tell(pb) - 18;
497     if (indx_off && pb->seekable && !(s->flags & AVFMT_FLAG_IGNIDX) &&
498         avio_seek(pb, indx_off, SEEK_SET) >= 0) {
499         rm_read_index(s);
500         avio_seek(pb, data_off + 18, SEEK_SET);
501     }
502
503     return 0;
504 }
505
506 static int get_num(AVIOContext *pb, int *len)
507 {
508     int n, n1;
509
510     n = avio_rb16(pb);
511     (*len)-=2;
512     n &= 0x7FFF;
513     if (n >= 0x4000) {
514         return n - 0x4000;
515     } else {
516         n1 = avio_rb16(pb);
517         (*len)-=2;
518         return (n << 16) | n1;
519     }
520 }
521
522 /* multiple of 20 bytes for ra144 (ugly) */
523 #define RAW_PACKET_SIZE 1000
524
525 static int sync(AVFormatContext *s, int64_t *timestamp, int *flags, int *stream_index, int64_t *pos){
526     RMDemuxContext *rm = s->priv_data;
527     AVIOContext *pb = s->pb;
528     AVStream *st;
529     uint32_t state=0xFFFFFFFF;
530
531     while(!pb->eof_reached){
532         int len, num, i;
533         *pos= avio_tell(pb) - 3;
534         if(rm->remaining_len > 0){
535             num= rm->current_stream;
536             len= rm->remaining_len;
537             *timestamp = AV_NOPTS_VALUE;
538             *flags= 0;
539         }else{
540             state= (state<<8) + avio_r8(pb);
541
542             if(state == MKBETAG('I', 'N', 'D', 'X')){
543                 int n_pkts, expected_len;
544                 len = avio_rb32(pb);
545                 avio_skip(pb, 2);
546                 n_pkts = avio_rb32(pb);
547                 expected_len = 20 + n_pkts * 14;
548                 if (len == 20)
549                     /* some files don't add index entries to chunk size... */
550                     len = expected_len;
551                 else if (len != expected_len)
552                     av_log(s, AV_LOG_WARNING,
553                            "Index size %d (%d pkts) is wrong, should be %d.\n",
554                            len, n_pkts, expected_len);
555                 len -= 14; // we already read part of the index header
556                 if(len<0)
557                     continue;
558                 goto skip;
559             } else if (state == MKBETAG('D','A','T','A')) {
560                 av_log(s, AV_LOG_WARNING,
561                        "DATA tag in middle of chunk, file may be broken.\n");
562             }
563
564             if(state > (unsigned)0xFFFF || state <= 12)
565                 continue;
566             len=state - 12;
567             state= 0xFFFFFFFF;
568
569             num = avio_rb16(pb);
570             *timestamp = avio_rb32(pb);
571             avio_r8(pb); /* reserved */
572             *flags = avio_r8(pb); /* flags */
573         }
574         for(i=0;i<s->nb_streams;i++) {
575             st = s->streams[i];
576             if (num == st->id)
577                 break;
578         }
579         if (i == s->nb_streams) {
580 skip:
581             /* skip packet if unknown number */
582             avio_skip(pb, len);
583             rm->remaining_len = 0;
584             continue;
585         }
586         *stream_index= i;
587
588         return len;
589     }
590     return -1;
591 }
592
593 static int rm_assemble_video_frame(AVFormatContext *s, AVIOContext *pb,
594                                    RMDemuxContext *rm, RMStream *vst,
595                                    AVPacket *pkt, int len, int *pseq,
596                                    int64_t *timestamp)
597 {
598     int hdr, seq, pic_num, len2, pos;
599     int type;
600
601     hdr = avio_r8(pb); len--;
602     type = hdr >> 6;
603
604     if(type != 3){  // not frame as a part of packet
605         seq = avio_r8(pb); len--;
606     }
607     if(type != 1){  // not whole frame
608         len2 = get_num(pb, &len);
609         pos  = get_num(pb, &len);
610         pic_num = avio_r8(pb); len--;
611     }
612     if(len<0)
613         return -1;
614     rm->remaining_len = len;
615     if(type&1){     // frame, not slice
616         if(type == 3){  // frame as a part of packet
617             len= len2;
618             *timestamp = pos;
619         }
620         if(rm->remaining_len < len)
621             return -1;
622         rm->remaining_len -= len;
623         if(av_new_packet(pkt, len + 9) < 0)
624             return AVERROR(EIO);
625         pkt->data[0] = 0;
626         AV_WL32(pkt->data + 1, 1);
627         AV_WL32(pkt->data + 5, 0);
628         avio_read(pb, pkt->data + 9, len);
629         return 0;
630     }
631     //now we have to deal with single slice
632
633     *pseq = seq;
634     if((seq & 0x7F) == 1 || vst->curpic_num != pic_num){
635         vst->slices = ((hdr & 0x3F) << 1) + 1;
636         vst->videobufsize = len2 + 8*vst->slices + 1;
637         av_free_packet(&vst->pkt); //FIXME this should be output.
638         if(av_new_packet(&vst->pkt, vst->videobufsize) < 0)
639             return AVERROR(ENOMEM);
640         vst->videobufpos = 8*vst->slices + 1;
641         vst->cur_slice = 0;
642         vst->curpic_num = pic_num;
643         vst->pktpos = avio_tell(pb);
644     }
645     if(type == 2)
646         len = FFMIN(len, pos);
647
648     if(++vst->cur_slice > vst->slices)
649         return 1;
650     AV_WL32(vst->pkt.data - 7 + 8*vst->cur_slice, 1);
651     AV_WL32(vst->pkt.data - 3 + 8*vst->cur_slice, vst->videobufpos - 8*vst->slices - 1);
652     if(vst->videobufpos + len > vst->videobufsize)
653         return 1;
654     if (avio_read(pb, vst->pkt.data + vst->videobufpos, len) != len)
655         return AVERROR(EIO);
656     vst->videobufpos += len;
657     rm->remaining_len-= len;
658
659     if(type == 2 || (vst->videobufpos) == vst->videobufsize){
660         vst->pkt.data[0] = vst->cur_slice-1;
661         *pkt= vst->pkt;
662         vst->pkt.data= NULL;
663         vst->pkt.size= 0;
664         if(vst->slices != vst->cur_slice) //FIXME find out how to set slices correct from the begin
665             memmove(pkt->data + 1 + 8*vst->cur_slice, pkt->data + 1 + 8*vst->slices,
666                 vst->videobufpos - 1 - 8*vst->slices);
667         pkt->size = vst->videobufpos + 8*(vst->cur_slice - vst->slices);
668         pkt->pts = AV_NOPTS_VALUE;
669         pkt->pos = vst->pktpos;
670         vst->slices = 0;
671         return 0;
672     }
673
674     return 1;
675 }
676
677 static inline void
678 rm_ac3_swap_bytes (AVStream *st, AVPacket *pkt)
679 {
680     uint8_t *ptr;
681     int j;
682
683     if (st->codec->codec_id == CODEC_ID_AC3) {
684         ptr = pkt->data;
685         for (j=0;j<pkt->size;j+=2) {
686             FFSWAP(int, ptr[0], ptr[1]);
687             ptr += 2;
688         }
689     }
690 }
691
692 /**
693  * Perform 4-bit block reordering for SIPR data.
694  * @todo This can be optimized, e.g. use memcpy() if data blocks are aligned
695  */
696 void ff_rm_reorder_sipr_data(uint8_t *buf, int sub_packet_h, int framesize)
697 {
698     int n, bs = sub_packet_h * framesize * 2 / 96; // nibbles per subpacket
699
700     for (n = 0; n < 38; n++) {
701         int j;
702         int i = bs * sipr_swaps[n][0];
703         int o = bs * sipr_swaps[n][1];
704
705         /* swap 4bit-nibbles of block 'i' with 'o' */
706         for (j = 0; j < bs; j++, i++, o++) {
707             int x = (buf[i >> 1] >> (4 * (i & 1))) & 0xF,
708                 y = (buf[o >> 1] >> (4 * (o & 1))) & 0xF;
709
710             buf[o >> 1] = (x << (4 * (o & 1))) |
711                 (buf[o >> 1] & (0xF << (4 * !(o & 1))));
712             buf[i >> 1] = (y << (4 * (i & 1))) |
713                 (buf[i >> 1] & (0xF << (4 * !(i & 1))));
714         }
715     }
716 }
717
718 int
719 ff_rm_parse_packet (AVFormatContext *s, AVIOContext *pb,
720                     AVStream *st, RMStream *ast, int len, AVPacket *pkt,
721                     int *seq, int flags, int64_t timestamp)
722 {
723     RMDemuxContext *rm = s->priv_data;
724
725     if (st->codec->codec_type == AVMEDIA_TYPE_VIDEO) {
726         rm->current_stream= st->id;
727         if(rm_assemble_video_frame(s, pb, rm, ast, pkt, len, seq, &timestamp))
728             return -1; //got partial frame
729     } else if (st->codec->codec_type == AVMEDIA_TYPE_AUDIO) {
730         if ((ast->deint_id == DEINT_ID_GENR) ||
731             (ast->deint_id == DEINT_ID_INT4) ||
732             (ast->deint_id == DEINT_ID_SIPR)) {
733             int x;
734             int sps = ast->sub_packet_size;
735             int cfs = ast->coded_framesize;
736             int h = ast->sub_packet_h;
737             int y = ast->sub_packet_cnt;
738             int w = ast->audio_framesize;
739
740             if (flags & 2)
741                 y = ast->sub_packet_cnt = 0;
742             if (!y)
743                 ast->audiotimestamp = timestamp;
744
745             switch (ast->deint_id) {
746                 case DEINT_ID_INT4:
747                     for (x = 0; x < h/2; x++)
748                         avio_read(pb, ast->pkt.data+x*2*w+y*cfs, cfs);
749                     break;
750                 case DEINT_ID_GENR:
751                     for (x = 0; x < w/sps; x++)
752                         avio_read(pb, ast->pkt.data+sps*(h*x+((h+1)/2)*(y&1)+(y>>1)), sps);
753                     break;
754                 case DEINT_ID_SIPR:
755                     avio_read(pb, ast->pkt.data + y * w, w);
756                     break;
757             }
758
759             if (++(ast->sub_packet_cnt) < h)
760                 return -1;
761             if (ast->deint_id == DEINT_ID_SIPR)
762                 ff_rm_reorder_sipr_data(ast->pkt.data, h, w);
763
764              ast->sub_packet_cnt = 0;
765              rm->audio_stream_num = st->index;
766              rm->audio_pkt_cnt = h * w / st->codec->block_align;
767         } else if ((ast->deint_id == DEINT_ID_VBRF) ||
768                    (ast->deint_id == DEINT_ID_VBRS)) {
769             int x;
770             rm->audio_stream_num = st->index;
771             ast->sub_packet_cnt = (avio_rb16(pb) & 0xf0) >> 4;
772             if (ast->sub_packet_cnt) {
773                 for (x = 0; x < ast->sub_packet_cnt; x++)
774                     ast->sub_packet_lengths[x] = avio_rb16(pb);
775                 rm->audio_pkt_cnt = ast->sub_packet_cnt;
776                 ast->audiotimestamp = timestamp;
777             } else
778                 return -1;
779         } else {
780             av_get_packet(pb, pkt, len);
781             rm_ac3_swap_bytes(st, pkt);
782         }
783     } else
784         av_get_packet(pb, pkt, len);
785
786     pkt->stream_index = st->index;
787
788 #if 0
789     if (st->codec->codec_type == AVMEDIA_TYPE_VIDEO) {
790         if(st->codec->codec_id == CODEC_ID_RV20){
791             int seq= 128*(pkt->data[2]&0x7F) + (pkt->data[3]>>1);
792             av_log(s, AV_LOG_DEBUG, "%d %"PRId64" %d\n", *timestamp, *timestamp*512LL/25, seq);
793
794             seq |= (timestamp&~0x3FFF);
795             if(seq - timestamp >  0x2000) seq -= 0x4000;
796             if(seq - timestamp < -0x2000) seq += 0x4000;
797         }
798     }
799 #endif
800
801     pkt->pts = timestamp;
802     if (flags & 2)
803         pkt->flags |= AV_PKT_FLAG_KEY;
804
805     return st->codec->codec_type == AVMEDIA_TYPE_AUDIO ? rm->audio_pkt_cnt : 0;
806 }
807
808 int
809 ff_rm_retrieve_cache (AVFormatContext *s, AVIOContext *pb,
810                       AVStream *st, RMStream *ast, AVPacket *pkt)
811 {
812     RMDemuxContext *rm = s->priv_data;
813
814     assert (rm->audio_pkt_cnt > 0);
815
816     if (ast->deint_id == DEINT_ID_VBRF ||
817         ast->deint_id == DEINT_ID_VBRS)
818         av_get_packet(pb, pkt, ast->sub_packet_lengths[ast->sub_packet_cnt - rm->audio_pkt_cnt]);
819     else {
820         av_new_packet(pkt, st->codec->block_align);
821         memcpy(pkt->data, ast->pkt.data + st->codec->block_align * //FIXME avoid this
822                (ast->sub_packet_h * ast->audio_framesize / st->codec->block_align - rm->audio_pkt_cnt),
823                st->codec->block_align);
824     }
825     rm->audio_pkt_cnt--;
826     if ((pkt->pts = ast->audiotimestamp) != AV_NOPTS_VALUE) {
827         ast->audiotimestamp = AV_NOPTS_VALUE;
828         pkt->flags = AV_PKT_FLAG_KEY;
829     } else
830         pkt->flags = 0;
831     pkt->stream_index = st->index;
832
833     return rm->audio_pkt_cnt;
834 }
835
836 static int rm_read_packet(AVFormatContext *s, AVPacket *pkt)
837 {
838     RMDemuxContext *rm = s->priv_data;
839     AVStream *st;
840     int i, len, res, seq = 1;
841     int64_t timestamp, pos;
842     int flags;
843
844     for (;;) {
845         if (rm->audio_pkt_cnt) {
846             // If there are queued audio packet return them first
847             st = s->streams[rm->audio_stream_num];
848             ff_rm_retrieve_cache(s, s->pb, st, st->priv_data, pkt);
849             flags = 0;
850         } else {
851             if (rm->old_format) {
852                 RMStream *ast;
853
854                 st = s->streams[0];
855                 ast = st->priv_data;
856                 timestamp = AV_NOPTS_VALUE;
857                 len = !ast->audio_framesize ? RAW_PACKET_SIZE :
858                     ast->coded_framesize * ast->sub_packet_h / 2;
859                 flags = (seq++ == 1) ? 2 : 0;
860                 pos = avio_tell(s->pb);
861             } else {
862                 len=sync(s, &timestamp, &flags, &i, &pos);
863                 if (len > 0)
864                     st = s->streams[i];
865             }
866
867             if(len<0 || s->pb->eof_reached)
868                 return AVERROR(EIO);
869
870             res = ff_rm_parse_packet (s, s->pb, st, st->priv_data, len, pkt,
871                                       &seq, flags, timestamp);
872             if((flags&2) && (seq&0x7F) == 1)
873                 av_add_index_entry(st, pos, timestamp, 0, 0, AVINDEX_KEYFRAME);
874             if (res)
875                 continue;
876         }
877
878         if(  (st->discard >= AVDISCARD_NONKEY && !(flags&2))
879            || st->discard >= AVDISCARD_ALL){
880             av_free_packet(pkt);
881         } else
882             break;
883     }
884
885     return 0;
886 }
887
888 static int rm_read_close(AVFormatContext *s)
889 {
890     int i;
891
892     for (i=0;i<s->nb_streams;i++)
893         ff_rm_free_rmstream(s->streams[i]->priv_data);
894
895     return 0;
896 }
897
898 static int rm_probe(AVProbeData *p)
899 {
900     /* check file header */
901     if ((p->buf[0] == '.' && p->buf[1] == 'R' &&
902          p->buf[2] == 'M' && p->buf[3] == 'F' &&
903          p->buf[4] == 0 && p->buf[5] == 0) ||
904         (p->buf[0] == '.' && p->buf[1] == 'r' &&
905          p->buf[2] == 'a' && p->buf[3] == 0xfd))
906         return AVPROBE_SCORE_MAX;
907     else
908         return 0;
909 }
910
911 static int64_t rm_read_dts(AVFormatContext *s, int stream_index,
912                                int64_t *ppos, int64_t pos_limit)
913 {
914     RMDemuxContext *rm = s->priv_data;
915     int64_t pos, dts;
916     int stream_index2, flags, len, h;
917
918     pos = *ppos;
919
920     if(rm->old_format)
921         return AV_NOPTS_VALUE;
922
923     avio_seek(s->pb, pos, SEEK_SET);
924     rm->remaining_len=0;
925     for(;;){
926         int seq=1;
927         AVStream *st;
928
929         len=sync(s, &dts, &flags, &stream_index2, &pos);
930         if(len<0)
931             return AV_NOPTS_VALUE;
932
933         st = s->streams[stream_index2];
934         if (st->codec->codec_type == AVMEDIA_TYPE_VIDEO) {
935             h= avio_r8(s->pb); len--;
936             if(!(h & 0x40)){
937                 seq = avio_r8(s->pb); len--;
938             }
939         }
940
941         if((flags&2) && (seq&0x7F) == 1){
942 //            av_log(s, AV_LOG_DEBUG, "%d %d-%d %"PRId64" %d\n", flags, stream_index2, stream_index, dts, seq);
943             av_add_index_entry(st, pos, dts, 0, 0, AVINDEX_KEYFRAME);
944             if(stream_index2 == stream_index)
945                 break;
946         }
947
948         avio_skip(s->pb, len);
949     }
950     *ppos = pos;
951     return dts;
952 }
953
954 AVInputFormat ff_rm_demuxer = {
955     .name           = "rm",
956     .long_name      = NULL_IF_CONFIG_SMALL("RealMedia format"),
957     .priv_data_size = sizeof(RMDemuxContext),
958     .read_probe     = rm_probe,
959     .read_header    = rm_read_header,
960     .read_packet    = rm_read_packet,
961     .read_close     = rm_read_close,
962     .read_timestamp = rm_read_dts,
963 };
964
965 AVInputFormat ff_rdt_demuxer = {
966     .name           = "rdt",
967     .long_name      = NULL_IF_CONFIG_SMALL("RDT demuxer"),
968     .priv_data_size = sizeof(RMDemuxContext),
969     .read_close     = rm_read_close,
970 };