843706dec3d1de33fa5cc9e600072990c3d342e6
[ffmpeg.git] / libavformat / rmdec.c
1 /*
2  * "Real" compatible demuxer.
3  * Copyright (c) 2000, 2001 Fabrice Bellard
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "libavutil/avstring.h"
23 #include "libavutil/intreadwrite.h"
24 #include "avformat.h"
25 #include "riff.h"
26 #include "rm.h"
27
28 struct RMStream {
29     AVPacket pkt;      ///< place to store merged video frame / reordered audio data
30     int videobufsize;  ///< current assembled frame size
31     int videobufpos;   ///< position for the next slice in the video buffer
32     int curpic_num;    ///< picture number of current frame
33     int cur_slice, slices;
34     int64_t pktpos;    ///< first slice position in file
35     /// Audio descrambling matrix parameters
36     int64_t audiotimestamp; ///< Audio packet timestamp
37     int sub_packet_cnt; // Subpacket counter, used while reading
38     int sub_packet_size, sub_packet_h, coded_framesize; ///< Descrambling parameters from container
39     int audio_framesize; /// Audio frame size from container
40     int sub_packet_lengths[16]; /// Length of each subpacket
41 };
42
43 typedef struct {
44     int nb_packets;
45     int old_format;
46     int current_stream;
47     int remaining_len;
48     int audio_stream_num; ///< Stream number for audio packets
49     int audio_pkt_cnt; ///< Output packet counter
50 } RMDemuxContext;
51
52 static const unsigned char sipr_swaps[38][2] = {
53     {  0, 63 }, {  1, 22 }, {  2, 44 }, {  3, 90 },
54     {  5, 81 }, {  7, 31 }, {  8, 86 }, {  9, 58 },
55     { 10, 36 }, { 12, 68 }, { 13, 39 }, { 14, 73 },
56     { 15, 53 }, { 16, 69 }, { 17, 57 }, { 19, 88 },
57     { 20, 34 }, { 21, 71 }, { 24, 46 }, { 25, 94 },
58     { 26, 54 }, { 28, 75 }, { 29, 50 }, { 32, 70 },
59     { 33, 92 }, { 35, 74 }, { 38, 85 }, { 40, 56 },
60     { 42, 87 }, { 43, 65 }, { 45, 59 }, { 48, 79 },
61     { 49, 93 }, { 51, 89 }, { 55, 95 }, { 61, 76 },
62     { 67, 83 }, { 77, 80 }
63 };
64
65 const unsigned char ff_sipr_subpk_size[4] = { 29, 19, 37, 20 };
66
67 static inline void get_strl(AVIOContext *pb, char *buf, int buf_size, int len)
68 {
69     int i;
70     char *q, r;
71
72     q = buf;
73     for(i=0;i<len;i++) {
74         r = avio_r8(pb);
75         if (i < buf_size - 1)
76             *q++ = r;
77     }
78     if (buf_size > 0) *q = '\0';
79 }
80
81 static void get_str8(AVIOContext *pb, char *buf, int buf_size)
82 {
83     get_strl(pb, buf, buf_size, avio_r8(pb));
84 }
85
86 static int rm_read_extradata(AVIOContext *pb, AVCodecContext *avctx, unsigned size)
87 {
88     if (size >= 1<<24)
89         return -1;
90     avctx->extradata = av_malloc(size + FF_INPUT_BUFFER_PADDING_SIZE);
91     if (!avctx->extradata)
92         return AVERROR(ENOMEM);
93     avctx->extradata_size = avio_read(pb, avctx->extradata, size);
94     memset(avctx->extradata + avctx->extradata_size, 0, FF_INPUT_BUFFER_PADDING_SIZE);
95     if (avctx->extradata_size != size)
96         return AVERROR(EIO);
97     return 0;
98 }
99
100 static void rm_read_metadata(AVFormatContext *s, int wide)
101 {
102     char buf[1024];
103     int i;
104     for (i=0; i<FF_ARRAY_ELEMS(ff_rm_metadata); i++) {
105         int len = wide ? avio_rb16(s->pb) : avio_r8(s->pb);
106         get_strl(s->pb, buf, sizeof(buf), len);
107         av_metadata_set2(&s->metadata, ff_rm_metadata[i], buf, 0);
108     }
109 }
110
111 RMStream *ff_rm_alloc_rmstream (void)
112 {
113     RMStream *rms = av_mallocz(sizeof(RMStream));
114     rms->curpic_num = -1;
115     return rms;
116 }
117
118 void ff_rm_free_rmstream (RMStream *rms)
119 {
120     av_free_packet(&rms->pkt);
121 }
122
123 static int rm_read_audio_stream_info(AVFormatContext *s, AVIOContext *pb,
124                                      AVStream *st, RMStream *ast, int read_all)
125 {
126     char buf[256];
127     uint32_t version;
128     int ret;
129
130     /* ra type header */
131     version = avio_rb16(pb); /* version */
132     if (version == 3) {
133         int header_size = avio_rb16(pb);
134         int64_t startpos = avio_tell(pb);
135         avio_skip(pb, 14);
136         rm_read_metadata(s, 0);
137         if ((startpos + header_size) >= avio_tell(pb) + 2) {
138             // fourcc (should always be "lpcJ")
139             avio_r8(pb);
140             get_str8(pb, buf, sizeof(buf));
141         }
142         // Skip extra header crap (this should never happen)
143         if ((startpos + header_size) > avio_tell(pb))
144             avio_skip(pb, header_size + startpos - avio_tell(pb));
145         st->codec->sample_rate = 8000;
146         st->codec->channels = 1;
147         st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
148         st->codec->codec_id = CODEC_ID_RA_144;
149     } else {
150         int flavor, sub_packet_h, coded_framesize, sub_packet_size;
151         int codecdata_length;
152         /* old version (4) */
153         avio_skip(pb, 2); /* unused */
154         avio_rb32(pb); /* .ra4 */
155         avio_rb32(pb); /* data size */
156         avio_rb16(pb); /* version2 */
157         avio_rb32(pb); /* header size */
158         flavor= avio_rb16(pb); /* add codec info / flavor */
159         ast->coded_framesize = coded_framesize = avio_rb32(pb); /* coded frame size */
160         avio_rb32(pb); /* ??? */
161         avio_rb32(pb); /* ??? */
162         avio_rb32(pb); /* ??? */
163         ast->sub_packet_h = sub_packet_h = avio_rb16(pb); /* 1 */
164         st->codec->block_align= avio_rb16(pb); /* frame size */
165         ast->sub_packet_size = sub_packet_size = avio_rb16(pb); /* sub packet size */
166         avio_rb16(pb); /* ??? */
167         if (version == 5) {
168             avio_rb16(pb); avio_rb16(pb); avio_rb16(pb);
169         }
170         st->codec->sample_rate = avio_rb16(pb);
171         avio_rb32(pb);
172         st->codec->channels = avio_rb16(pb);
173         if (version == 5) {
174             avio_rb32(pb);
175             avio_read(pb, buf, 4);
176             buf[4] = 0;
177         } else {
178             get_str8(pb, buf, sizeof(buf)); /* desc */
179             get_str8(pb, buf, sizeof(buf)); /* desc */
180         }
181         st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
182         st->codec->codec_tag  = AV_RL32(buf);
183         st->codec->codec_id   = ff_codec_get_id(ff_rm_codec_tags,
184                                                 st->codec->codec_tag);
185         switch (st->codec->codec_id) {
186         case CODEC_ID_AC3:
187             st->need_parsing = AVSTREAM_PARSE_FULL;
188             break;
189         case CODEC_ID_RA_288:
190             st->codec->extradata_size= 0;
191             ast->audio_framesize = st->codec->block_align;
192             st->codec->block_align = coded_framesize;
193
194             if(ast->audio_framesize >= UINT_MAX / sub_packet_h){
195                 av_log(s, AV_LOG_ERROR, "ast->audio_framesize * sub_packet_h too large\n");
196                 return -1;
197             }
198
199             av_new_packet(&ast->pkt, ast->audio_framesize * sub_packet_h);
200             break;
201         case CODEC_ID_COOK:
202         case CODEC_ID_ATRAC3:
203         case CODEC_ID_SIPR:
204             avio_rb16(pb); avio_r8(pb);
205             if (version == 5)
206                 avio_r8(pb);
207             codecdata_length = avio_rb32(pb);
208             if(codecdata_length + FF_INPUT_BUFFER_PADDING_SIZE <= (unsigned)codecdata_length){
209                 av_log(s, AV_LOG_ERROR, "codecdata_length too large\n");
210                 return -1;
211             }
212
213             ast->audio_framesize = st->codec->block_align;
214             if (st->codec->codec_id == CODEC_ID_SIPR) {
215                 if (flavor > 3) {
216                     av_log(s, AV_LOG_ERROR, "bad SIPR file flavor %d\n",
217                            flavor);
218                     return -1;
219                 }
220                 st->codec->block_align = ff_sipr_subpk_size[flavor];
221             } else {
222                 if(sub_packet_size <= 0){
223                     av_log(s, AV_LOG_ERROR, "sub_packet_size is invalid\n");
224                     return -1;
225                 }
226                 st->codec->block_align = ast->sub_packet_size;
227             }
228             if ((ret = rm_read_extradata(pb, st->codec, codecdata_length)) < 0)
229                 return ret;
230
231             if(ast->audio_framesize >= UINT_MAX / sub_packet_h){
232                 av_log(s, AV_LOG_ERROR, "rm->audio_framesize * sub_packet_h too large\n");
233                 return -1;
234             }
235
236             av_new_packet(&ast->pkt, ast->audio_framesize * sub_packet_h);
237             break;
238         case CODEC_ID_AAC:
239             avio_rb16(pb); avio_r8(pb);
240             if (version == 5)
241                 avio_r8(pb);
242             codecdata_length = avio_rb32(pb);
243             if(codecdata_length + FF_INPUT_BUFFER_PADDING_SIZE <= (unsigned)codecdata_length){
244                 av_log(s, AV_LOG_ERROR, "codecdata_length too large\n");
245                 return -1;
246             }
247             if (codecdata_length >= 1) {
248                 avio_r8(pb);
249                 if ((ret = rm_read_extradata(pb, st->codec, codecdata_length - 1)) < 0)
250                     return ret;
251             }
252             break;
253         default:
254             av_strlcpy(st->codec->codec_name, buf, sizeof(st->codec->codec_name));
255         }
256         if (read_all) {
257             avio_r8(pb);
258             avio_r8(pb);
259             avio_r8(pb);
260             rm_read_metadata(s, 0);
261         }
262     }
263     return 0;
264 }
265
266 int
267 ff_rm_read_mdpr_codecdata (AVFormatContext *s, AVIOContext *pb,
268                            AVStream *st, RMStream *rst, int codec_data_size)
269 {
270     unsigned int v;
271     int size;
272     int64_t codec_pos;
273     int ret;
274
275     av_set_pts_info(st, 64, 1, 1000);
276     codec_pos = avio_tell(pb);
277     v = avio_rb32(pb);
278     if (v == MKTAG(0xfd, 'a', 'r', '.')) {
279         /* ra type header */
280         if (rm_read_audio_stream_info(s, pb, st, rst, 0))
281             return -1;
282     } else {
283         int fps, fps2;
284         if (avio_rl32(pb) != MKTAG('V', 'I', 'D', 'O')) {
285         fail1:
286             av_log(st->codec, AV_LOG_ERROR, "Unsupported video codec\n");
287             goto skip;
288         }
289         st->codec->codec_tag = avio_rl32(pb);
290         st->codec->codec_id  = ff_codec_get_id(ff_rm_codec_tags,
291                                                st->codec->codec_tag);
292 //        av_log(s, AV_LOG_DEBUG, "%X %X\n", st->codec->codec_tag, MKTAG('R', 'V', '2', '0'));
293         if (st->codec->codec_id == CODEC_ID_NONE)
294             goto fail1;
295         st->codec->width = avio_rb16(pb);
296         st->codec->height = avio_rb16(pb);
297         st->codec->time_base.num= 1;
298         fps= avio_rb16(pb);
299         st->codec->codec_type = AVMEDIA_TYPE_VIDEO;
300         avio_rb32(pb);
301         fps2= avio_rb16(pb);
302         avio_rb16(pb);
303
304         if ((ret = rm_read_extradata(pb, st->codec, codec_data_size - (avio_tell(pb) - codec_pos))) < 0)
305             return ret;
306
307 //        av_log(s, AV_LOG_DEBUG, "fps= %d fps2= %d\n", fps, fps2);
308         st->codec->time_base.den = fps * st->codec->time_base.num;
309         //XXX: do we really need that?
310         switch(st->codec->extradata[4]>>4){
311         case 1: st->codec->codec_id = CODEC_ID_RV10; break;
312         case 2: st->codec->codec_id = CODEC_ID_RV20; break;
313         case 3: st->codec->codec_id = CODEC_ID_RV30; break;
314         case 4: st->codec->codec_id = CODEC_ID_RV40; break;
315         default:
316             av_log(st->codec, AV_LOG_ERROR, "extra:%02X %02X %02X %02X %02X\n", st->codec->extradata[0], st->codec->extradata[1], st->codec->extradata[2], st->codec->extradata[3], st->codec->extradata[4]);
317             goto fail1;
318         }
319     }
320
321 skip:
322     /* skip codec info */
323     size = avio_tell(pb) - codec_pos;
324     avio_skip(pb, codec_data_size - size);
325
326     return 0;
327 }
328
329 /** this function assumes that the demuxer has already seeked to the start
330  * of the INDX chunk, and will bail out if not. */
331 static int rm_read_index(AVFormatContext *s)
332 {
333     AVIOContext *pb = s->pb;
334     unsigned int size, n_pkts, str_id, next_off, n, pos, pts;
335     AVStream *st;
336
337     do {
338         if (avio_rl32(pb) != MKTAG('I','N','D','X'))
339             return -1;
340         size     = avio_rb32(pb);
341         if (size < 20)
342             return -1;
343         avio_skip(pb, 2);
344         n_pkts   = avio_rb32(pb);
345         str_id   = avio_rb16(pb);
346         next_off = avio_rb32(pb);
347         for (n = 0; n < s->nb_streams; n++)
348             if (s->streams[n]->id == str_id) {
349                 st = s->streams[n];
350                 break;
351             }
352         if (n == s->nb_streams)
353             goto skip;
354
355         for (n = 0; n < n_pkts; n++) {
356             avio_skip(pb, 2);
357             pts = avio_rb32(pb);
358             pos = avio_rb32(pb);
359             avio_skip(pb, 4); /* packet no. */
360
361             av_add_index_entry(st, pos, pts, 0, 0, AVINDEX_KEYFRAME);
362         }
363
364 skip:
365         if (next_off && avio_tell(pb) != next_off &&
366             avio_seek(pb, next_off, SEEK_SET) < 0)
367             return -1;
368     } while (next_off);
369
370     return 0;
371 }
372
373 static int rm_read_header_old(AVFormatContext *s, AVFormatParameters *ap)
374 {
375     RMDemuxContext *rm = s->priv_data;
376     AVStream *st;
377
378     rm->old_format = 1;
379     st = av_new_stream(s, 0);
380     if (!st)
381         return -1;
382     st->priv_data = ff_rm_alloc_rmstream();
383     return rm_read_audio_stream_info(s, s->pb, st, st->priv_data, 1);
384 }
385
386 static int rm_read_header(AVFormatContext *s, AVFormatParameters *ap)
387 {
388     RMDemuxContext *rm = s->priv_data;
389     AVStream *st;
390     AVIOContext *pb = s->pb;
391     unsigned int tag;
392     int tag_size;
393     unsigned int start_time, duration;
394     unsigned int data_off = 0, indx_off = 0;
395     char buf[128];
396     int flags = 0;
397
398     tag = avio_rl32(pb);
399     if (tag == MKTAG('.', 'r', 'a', 0xfd)) {
400         /* very old .ra format */
401         return rm_read_header_old(s, ap);
402     } else if (tag != MKTAG('.', 'R', 'M', 'F')) {
403         return AVERROR(EIO);
404     }
405
406     avio_rb32(pb); /* header size */
407     avio_rb16(pb);
408     avio_rb32(pb);
409     avio_rb32(pb); /* number of headers */
410
411     for(;;) {
412         if (pb->eof_reached)
413             return -1;
414         tag = avio_rl32(pb);
415         tag_size = avio_rb32(pb);
416         avio_rb16(pb);
417         av_dlog(s, "tag=%c%c%c%c (%08x) size=%d\n",
418                 (tag      ) & 0xff,
419                 (tag >>  8) & 0xff,
420                 (tag >> 16) & 0xff,
421                 (tag >> 24) & 0xff,
422                 tag,
423                 tag_size);
424         if (tag_size < 10 && tag != MKTAG('D', 'A', 'T', 'A'))
425             return -1;
426         switch(tag) {
427         case MKTAG('P', 'R', 'O', 'P'):
428             /* file header */
429             avio_rb32(pb); /* max bit rate */
430             avio_rb32(pb); /* avg bit rate */
431             avio_rb32(pb); /* max packet size */
432             avio_rb32(pb); /* avg packet size */
433             avio_rb32(pb); /* nb packets */
434             avio_rb32(pb); /* duration */
435             avio_rb32(pb); /* preroll */
436             indx_off = avio_rb32(pb); /* index offset */
437             data_off = avio_rb32(pb); /* data offset */
438             avio_rb16(pb); /* nb streams */
439             flags = avio_rb16(pb); /* flags */
440             break;
441         case MKTAG('C', 'O', 'N', 'T'):
442             rm_read_metadata(s, 1);
443             break;
444         case MKTAG('M', 'D', 'P', 'R'):
445             st = av_new_stream(s, 0);
446             if (!st)
447                 return AVERROR(ENOMEM);
448             st->id = avio_rb16(pb);
449             avio_rb32(pb); /* max bit rate */
450             st->codec->bit_rate = avio_rb32(pb); /* bit rate */
451             avio_rb32(pb); /* max packet size */
452             avio_rb32(pb); /* avg packet size */
453             start_time = avio_rb32(pb); /* start time */
454             avio_rb32(pb); /* preroll */
455             duration = avio_rb32(pb); /* duration */
456             st->start_time = start_time;
457             st->duration = duration;
458             get_str8(pb, buf, sizeof(buf)); /* desc */
459             get_str8(pb, buf, sizeof(buf)); /* mimetype */
460             st->codec->codec_type = AVMEDIA_TYPE_DATA;
461             st->priv_data = ff_rm_alloc_rmstream();
462             if (ff_rm_read_mdpr_codecdata(s, s->pb, st, st->priv_data,
463                                           avio_rb32(pb)) < 0)
464                 return -1;
465             break;
466         case MKTAG('D', 'A', 'T', 'A'):
467             goto header_end;
468         default:
469             /* unknown tag: skip it */
470             avio_skip(pb, tag_size - 10);
471             break;
472         }
473     }
474  header_end:
475     rm->nb_packets = avio_rb32(pb); /* number of packets */
476     if (!rm->nb_packets && (flags & 4))
477         rm->nb_packets = 3600 * 25;
478     avio_rb32(pb); /* next data header */
479
480     if (!data_off)
481         data_off = avio_tell(pb) - 18;
482     if (indx_off && pb->seekable && !(s->flags & AVFMT_FLAG_IGNIDX) &&
483         avio_seek(pb, indx_off, SEEK_SET) >= 0) {
484         rm_read_index(s);
485         avio_seek(pb, data_off + 18, SEEK_SET);
486     }
487
488     return 0;
489 }
490
491 static int get_num(AVIOContext *pb, int *len)
492 {
493     int n, n1;
494
495     n = avio_rb16(pb);
496     (*len)-=2;
497     n &= 0x7FFF;
498     if (n >= 0x4000) {
499         return n - 0x4000;
500     } else {
501         n1 = avio_rb16(pb);
502         (*len)-=2;
503         return (n << 16) | n1;
504     }
505 }
506
507 /* multiple of 20 bytes for ra144 (ugly) */
508 #define RAW_PACKET_SIZE 1000
509
510 static int sync(AVFormatContext *s, int64_t *timestamp, int *flags, int *stream_index, int64_t *pos){
511     RMDemuxContext *rm = s->priv_data;
512     AVIOContext *pb = s->pb;
513     AVStream *st;
514     uint32_t state=0xFFFFFFFF;
515
516     while(!pb->eof_reached){
517         int len, num, i;
518         *pos= avio_tell(pb) - 3;
519         if(rm->remaining_len > 0){
520             num= rm->current_stream;
521             len= rm->remaining_len;
522             *timestamp = AV_NOPTS_VALUE;
523             *flags= 0;
524         }else{
525             state= (state<<8) + avio_r8(pb);
526
527             if(state == MKBETAG('I', 'N', 'D', 'X')){
528                 int n_pkts, expected_len;
529                 len = avio_rb32(pb);
530                 avio_skip(pb, 2);
531                 n_pkts = avio_rb32(pb);
532                 expected_len = 20 + n_pkts * 14;
533                 if (len == 20)
534                     /* some files don't add index entries to chunk size... */
535                     len = expected_len;
536                 else if (len != expected_len)
537                     av_log(s, AV_LOG_WARNING,
538                            "Index size %d (%d pkts) is wrong, should be %d.\n",
539                            len, n_pkts, expected_len);
540                 len -= 14; // we already read part of the index header
541                 if(len<0)
542                     continue;
543                 goto skip;
544             } else if (state == MKBETAG('D','A','T','A')) {
545                 av_log(s, AV_LOG_WARNING,
546                        "DATA tag in middle of chunk, file may be broken.\n");
547             }
548
549             if(state > (unsigned)0xFFFF || state <= 12)
550                 continue;
551             len=state - 12;
552             state= 0xFFFFFFFF;
553
554             num = avio_rb16(pb);
555             *timestamp = avio_rb32(pb);
556             avio_r8(pb); /* reserved */
557             *flags = avio_r8(pb); /* flags */
558         }
559         for(i=0;i<s->nb_streams;i++) {
560             st = s->streams[i];
561             if (num == st->id)
562                 break;
563         }
564         if (i == s->nb_streams) {
565 skip:
566             /* skip packet if unknown number */
567             avio_skip(pb, len);
568             rm->remaining_len = 0;
569             continue;
570         }
571         *stream_index= i;
572
573         return len;
574     }
575     return -1;
576 }
577
578 static int rm_assemble_video_frame(AVFormatContext *s, AVIOContext *pb,
579                                    RMDemuxContext *rm, RMStream *vst,
580                                    AVPacket *pkt, int len, int *pseq)
581 {
582     int hdr, seq, pic_num, len2, pos;
583     int type;
584
585     hdr = avio_r8(pb); len--;
586     type = hdr >> 6;
587
588     if(type != 3){  // not frame as a part of packet
589         seq = avio_r8(pb); len--;
590     }
591     if(type != 1){  // not whole frame
592         len2 = get_num(pb, &len);
593         pos  = get_num(pb, &len);
594         pic_num = avio_r8(pb); len--;
595     }
596     if(len<0)
597         return -1;
598     rm->remaining_len = len;
599     if(type&1){     // frame, not slice
600         if(type == 3)  // frame as a part of packet
601             len= len2;
602         if(rm->remaining_len < len)
603             return -1;
604         rm->remaining_len -= len;
605         if(av_new_packet(pkt, len + 9) < 0)
606             return AVERROR(EIO);
607         pkt->data[0] = 0;
608         AV_WL32(pkt->data + 1, 1);
609         AV_WL32(pkt->data + 5, 0);
610         avio_read(pb, pkt->data + 9, len);
611         return 0;
612     }
613     //now we have to deal with single slice
614
615     *pseq = seq;
616     if((seq & 0x7F) == 1 || vst->curpic_num != pic_num){
617         vst->slices = ((hdr & 0x3F) << 1) + 1;
618         vst->videobufsize = len2 + 8*vst->slices + 1;
619         av_free_packet(&vst->pkt); //FIXME this should be output.
620         if(av_new_packet(&vst->pkt, vst->videobufsize) < 0)
621             return AVERROR(ENOMEM);
622         vst->videobufpos = 8*vst->slices + 1;
623         vst->cur_slice = 0;
624         vst->curpic_num = pic_num;
625         vst->pktpos = avio_tell(pb);
626     }
627     if(type == 2)
628         len = FFMIN(len, pos);
629
630     if(++vst->cur_slice > vst->slices)
631         return 1;
632     AV_WL32(vst->pkt.data - 7 + 8*vst->cur_slice, 1);
633     AV_WL32(vst->pkt.data - 3 + 8*vst->cur_slice, vst->videobufpos - 8*vst->slices - 1);
634     if(vst->videobufpos + len > vst->videobufsize)
635         return 1;
636     if (avio_read(pb, vst->pkt.data + vst->videobufpos, len) != len)
637         return AVERROR(EIO);
638     vst->videobufpos += len;
639     rm->remaining_len-= len;
640
641     if(type == 2 || (vst->videobufpos) == vst->videobufsize){
642         vst->pkt.data[0] = vst->cur_slice-1;
643         *pkt= vst->pkt;
644         vst->pkt.data= NULL;
645         vst->pkt.size= 0;
646         if(vst->slices != vst->cur_slice) //FIXME find out how to set slices correct from the begin
647             memmove(pkt->data + 1 + 8*vst->cur_slice, pkt->data + 1 + 8*vst->slices,
648                 vst->videobufpos - 1 - 8*vst->slices);
649         pkt->size = vst->videobufpos + 8*(vst->cur_slice - vst->slices);
650         pkt->pts = AV_NOPTS_VALUE;
651         pkt->pos = vst->pktpos;
652         vst->slices = 0;
653         return 0;
654     }
655
656     return 1;
657 }
658
659 static inline void
660 rm_ac3_swap_bytes (AVStream *st, AVPacket *pkt)
661 {
662     uint8_t *ptr;
663     int j;
664
665     if (st->codec->codec_id == CODEC_ID_AC3) {
666         ptr = pkt->data;
667         for (j=0;j<pkt->size;j+=2) {
668             FFSWAP(int, ptr[0], ptr[1]);
669             ptr += 2;
670         }
671     }
672 }
673
674 /**
675  * Perform 4-bit block reordering for SIPR data.
676  * @todo This can be optimized, e.g. use memcpy() if data blocks are aligned
677  */
678 void ff_rm_reorder_sipr_data(uint8_t *buf, int sub_packet_h, int framesize)
679 {
680     int n, bs = sub_packet_h * framesize * 2 / 96; // nibbles per subpacket
681
682     for (n = 0; n < 38; n++) {
683         int j;
684         int i = bs * sipr_swaps[n][0];
685         int o = bs * sipr_swaps[n][1];
686
687         /* swap 4bit-nibbles of block 'i' with 'o' */
688         for (j = 0; j < bs; j++, i++, o++) {
689             int x = (buf[i >> 1] >> (4 * (i & 1))) & 0xF,
690                 y = (buf[o >> 1] >> (4 * (o & 1))) & 0xF;
691
692             buf[o >> 1] = (x << (4 * (o & 1))) |
693                 (buf[o >> 1] & (0xF << (4 * !(o & 1))));
694             buf[i >> 1] = (y << (4 * (i & 1))) |
695                 (buf[i >> 1] & (0xF << (4 * !(i & 1))));
696         }
697     }
698 }
699
700 int
701 ff_rm_parse_packet (AVFormatContext *s, AVIOContext *pb,
702                     AVStream *st, RMStream *ast, int len, AVPacket *pkt,
703                     int *seq, int flags, int64_t timestamp)
704 {
705     RMDemuxContext *rm = s->priv_data;
706
707     if (st->codec->codec_type == AVMEDIA_TYPE_VIDEO) {
708         rm->current_stream= st->id;
709         if(rm_assemble_video_frame(s, pb, rm, ast, pkt, len, seq))
710             return -1; //got partial frame
711     } else if (st->codec->codec_type == AVMEDIA_TYPE_AUDIO) {
712         if ((st->codec->codec_id == CODEC_ID_RA_288) ||
713             (st->codec->codec_id == CODEC_ID_COOK) ||
714             (st->codec->codec_id == CODEC_ID_ATRAC3) ||
715             (st->codec->codec_id == CODEC_ID_SIPR)) {
716             int x;
717             int sps = ast->sub_packet_size;
718             int cfs = ast->coded_framesize;
719             int h = ast->sub_packet_h;
720             int y = ast->sub_packet_cnt;
721             int w = ast->audio_framesize;
722
723             if (flags & 2)
724                 y = ast->sub_packet_cnt = 0;
725             if (!y)
726                 ast->audiotimestamp = timestamp;
727
728             switch(st->codec->codec_id) {
729                 case CODEC_ID_RA_288:
730                     for (x = 0; x < h/2; x++)
731                         avio_read(pb, ast->pkt.data+x*2*w+y*cfs, cfs);
732                     break;
733                 case CODEC_ID_ATRAC3:
734                 case CODEC_ID_COOK:
735                     for (x = 0; x < w/sps; x++)
736                         avio_read(pb, ast->pkt.data+sps*(h*x+((h+1)/2)*(y&1)+(y>>1)), sps);
737                     break;
738                 case CODEC_ID_SIPR:
739                     avio_read(pb, ast->pkt.data + y * w, w);
740                     break;
741             }
742
743             if (++(ast->sub_packet_cnt) < h)
744                 return -1;
745             if (st->codec->codec_id == CODEC_ID_SIPR)
746                 ff_rm_reorder_sipr_data(ast->pkt.data, h, w);
747
748              ast->sub_packet_cnt = 0;
749              rm->audio_stream_num = st->index;
750              rm->audio_pkt_cnt = h * w / st->codec->block_align;
751         } else if (st->codec->codec_id == CODEC_ID_AAC) {
752             int x;
753             rm->audio_stream_num = st->index;
754             ast->sub_packet_cnt = (avio_rb16(pb) & 0xf0) >> 4;
755             if (ast->sub_packet_cnt) {
756                 for (x = 0; x < ast->sub_packet_cnt; x++)
757                     ast->sub_packet_lengths[x] = avio_rb16(pb);
758                 rm->audio_pkt_cnt = ast->sub_packet_cnt;
759                 ast->audiotimestamp = timestamp;
760             } else
761                 return -1;
762         } else {
763             av_get_packet(pb, pkt, len);
764             rm_ac3_swap_bytes(st, pkt);
765         }
766     } else
767         av_get_packet(pb, pkt, len);
768
769     pkt->stream_index = st->index;
770
771 #if 0
772     if (st->codec->codec_type == AVMEDIA_TYPE_VIDEO) {
773         if(st->codec->codec_id == CODEC_ID_RV20){
774             int seq= 128*(pkt->data[2]&0x7F) + (pkt->data[3]>>1);
775             av_log(s, AV_LOG_DEBUG, "%d %"PRId64" %d\n", *timestamp, *timestamp*512LL/25, seq);
776
777             seq |= (timestamp&~0x3FFF);
778             if(seq - timestamp >  0x2000) seq -= 0x4000;
779             if(seq - timestamp < -0x2000) seq += 0x4000;
780         }
781     }
782 #endif
783
784     pkt->pts= timestamp;
785     if (flags & 2)
786         pkt->flags |= AV_PKT_FLAG_KEY;
787
788     return st->codec->codec_type == AVMEDIA_TYPE_AUDIO ? rm->audio_pkt_cnt : 0;
789 }
790
791 int
792 ff_rm_retrieve_cache (AVFormatContext *s, AVIOContext *pb,
793                       AVStream *st, RMStream *ast, AVPacket *pkt)
794 {
795     RMDemuxContext *rm = s->priv_data;
796
797     assert (rm->audio_pkt_cnt > 0);
798
799     if (st->codec->codec_id == CODEC_ID_AAC)
800         av_get_packet(pb, pkt, ast->sub_packet_lengths[ast->sub_packet_cnt - rm->audio_pkt_cnt]);
801     else {
802         av_new_packet(pkt, st->codec->block_align);
803         memcpy(pkt->data, ast->pkt.data + st->codec->block_align * //FIXME avoid this
804                (ast->sub_packet_h * ast->audio_framesize / st->codec->block_align - rm->audio_pkt_cnt),
805                st->codec->block_align);
806     }
807     rm->audio_pkt_cnt--;
808     if ((pkt->pts = ast->audiotimestamp) != AV_NOPTS_VALUE) {
809         ast->audiotimestamp = AV_NOPTS_VALUE;
810         pkt->flags = AV_PKT_FLAG_KEY;
811     } else
812         pkt->flags = 0;
813     pkt->stream_index = st->index;
814
815     return rm->audio_pkt_cnt;
816 }
817
818 static int rm_read_packet(AVFormatContext *s, AVPacket *pkt)
819 {
820     RMDemuxContext *rm = s->priv_data;
821     AVStream *st;
822     int i, len, res, seq = 1;
823     int64_t timestamp, pos;
824     int flags;
825
826     for (;;) {
827         if (rm->audio_pkt_cnt) {
828             // If there are queued audio packet return them first
829             st = s->streams[rm->audio_stream_num];
830             ff_rm_retrieve_cache(s, s->pb, st, st->priv_data, pkt);
831             flags = 0;
832         } else {
833             if (rm->old_format) {
834                 RMStream *ast;
835
836                 st = s->streams[0];
837                 ast = st->priv_data;
838                 timestamp = AV_NOPTS_VALUE;
839                 len = !ast->audio_framesize ? RAW_PACKET_SIZE :
840                     ast->coded_framesize * ast->sub_packet_h / 2;
841                 flags = (seq++ == 1) ? 2 : 0;
842                 pos = avio_tell(s->pb);
843             } else {
844                 len=sync(s, &timestamp, &flags, &i, &pos);
845                 if (len > 0)
846                     st = s->streams[i];
847             }
848
849             if(len<0 || s->pb->eof_reached)
850                 return AVERROR(EIO);
851
852             res = ff_rm_parse_packet (s, s->pb, st, st->priv_data, len, pkt,
853                                       &seq, flags, timestamp);
854             if((flags&2) && (seq&0x7F) == 1)
855                 av_add_index_entry(st, pos, timestamp, 0, 0, AVINDEX_KEYFRAME);
856             if (res)
857                 continue;
858         }
859
860         if(  (st->discard >= AVDISCARD_NONKEY && !(flags&2))
861            || st->discard >= AVDISCARD_ALL){
862             av_free_packet(pkt);
863         } else
864             break;
865     }
866
867     return 0;
868 }
869
870 static int rm_read_close(AVFormatContext *s)
871 {
872     int i;
873
874     for (i=0;i<s->nb_streams;i++)
875         ff_rm_free_rmstream(s->streams[i]->priv_data);
876
877     return 0;
878 }
879
880 static int rm_probe(AVProbeData *p)
881 {
882     /* check file header */
883     if ((p->buf[0] == '.' && p->buf[1] == 'R' &&
884          p->buf[2] == 'M' && p->buf[3] == 'F' &&
885          p->buf[4] == 0 && p->buf[5] == 0) ||
886         (p->buf[0] == '.' && p->buf[1] == 'r' &&
887          p->buf[2] == 'a' && p->buf[3] == 0xfd))
888         return AVPROBE_SCORE_MAX;
889     else
890         return 0;
891 }
892
893 static int64_t rm_read_dts(AVFormatContext *s, int stream_index,
894                                int64_t *ppos, int64_t pos_limit)
895 {
896     RMDemuxContext *rm = s->priv_data;
897     int64_t pos, dts;
898     int stream_index2, flags, len, h;
899
900     pos = *ppos;
901
902     if(rm->old_format)
903         return AV_NOPTS_VALUE;
904
905     avio_seek(s->pb, pos, SEEK_SET);
906     rm->remaining_len=0;
907     for(;;){
908         int seq=1;
909         AVStream *st;
910
911         len=sync(s, &dts, &flags, &stream_index2, &pos);
912         if(len<0)
913             return AV_NOPTS_VALUE;
914
915         st = s->streams[stream_index2];
916         if (st->codec->codec_type == AVMEDIA_TYPE_VIDEO) {
917             h= avio_r8(s->pb); len--;
918             if(!(h & 0x40)){
919                 seq = avio_r8(s->pb); len--;
920             }
921         }
922
923         if((flags&2) && (seq&0x7F) == 1){
924 //            av_log(s, AV_LOG_DEBUG, "%d %d-%d %"PRId64" %d\n", flags, stream_index2, stream_index, dts, seq);
925             av_add_index_entry(st, pos, dts, 0, 0, AVINDEX_KEYFRAME);
926             if(stream_index2 == stream_index)
927                 break;
928         }
929
930         avio_skip(s->pb, len);
931     }
932     *ppos = pos;
933     return dts;
934 }
935
936 AVInputFormat ff_rm_demuxer = {
937     "rm",
938     NULL_IF_CONFIG_SMALL("RealMedia format"),
939     sizeof(RMDemuxContext),
940     rm_probe,
941     rm_read_header,
942     rm_read_packet,
943     rm_read_close,
944     NULL,
945     rm_read_dts,
946 };
947
948 AVInputFormat ff_rdt_demuxer = {
949     "rdt",
950     NULL_IF_CONFIG_SMALL("RDT demuxer"),
951     sizeof(RMDemuxContext),
952     NULL,
953     NULL,
954     NULL,
955     rm_read_close,
956 };