Add a few error checks to rm_assemble_video_frame()
[ffmpeg.git] / libavformat / rmdec.c
1 /*
2  * "Real" compatible demuxer.
3  * Copyright (c) 2000, 2001 Fabrice Bellard.
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "libavutil/avstring.h"
23 #include "avformat.h"
24 #include "rm.h"
25
26 struct RMStream {
27     uint8_t *videobuf; ///< place to store merged video frame
28     int videobufsize;  ///< current assembled frame size
29     int videobufpos;   ///< position for the next slice in the video buffer
30     int curpic_num;    ///< picture number of current frame
31     int cur_slice, slices;
32     int64_t pktpos;    ///< first slice position in file
33     /// Audio descrambling matrix parameters
34     uint8_t *audiobuf; ///< place to store reordered audio data
35     int64_t audiotimestamp; ///< Audio packet timestamp
36     int sub_packet_cnt; // Subpacket counter, used while reading
37     int sub_packet_size, sub_packet_h, coded_framesize; ///< Descrambling parameters from container
38     int audio_framesize; /// Audio frame size from container
39     int sub_packet_lengths[16]; /// Length of each subpacket
40 };
41
42 typedef struct {
43     int nb_packets;
44     int old_format;
45     int current_stream;
46     int remaining_len;
47     int audio_stream_num; ///< Stream number for audio packets
48     int audio_pkt_cnt; ///< Output packet counter
49 } RMDemuxContext;
50
51 static inline void get_strl(ByteIOContext *pb, char *buf, int buf_size, int len)
52 {
53     int i;
54     char *q, r;
55
56     q = buf;
57     for(i=0;i<len;i++) {
58         r = get_byte(pb);
59         if (i < buf_size - 1)
60             *q++ = r;
61     }
62     if (buf_size > 0) *q = '\0';
63 }
64
65 static void get_str16(ByteIOContext *pb, char *buf, int buf_size)
66 {
67     get_strl(pb, buf, buf_size, get_be16(pb));
68 }
69
70 static void get_str8(ByteIOContext *pb, char *buf, int buf_size)
71 {
72     get_strl(pb, buf, buf_size, get_byte(pb));
73 }
74
75 RMStream *ff_rm_alloc_rmstream (void)
76 {
77     RMStream *rms = av_mallocz(sizeof(RMStream));
78     rms->curpic_num = -1;
79     return rms;
80 }
81
82 void ff_rm_free_rmstream (RMStream *rms)
83 {
84     av_freep(&rms->videobuf);
85     av_freep(&rms->audiobuf);
86 }
87
88 static int rm_read_audio_stream_info(AVFormatContext *s, ByteIOContext *pb,
89                                      AVStream *st, RMStream *ast, int read_all)
90 {
91     char buf[256];
92     uint32_t version;
93
94     /* ra type header */
95     version = get_be32(pb); /* version */
96     if (((version >> 16) & 0xff) == 3) {
97         int64_t startpos = url_ftell(pb);
98         url_fskip(pb, 14);
99         get_str8(pb, s->title, sizeof(s->title));
100         get_str8(pb, s->author, sizeof(s->author));
101         get_str8(pb, s->copyright, sizeof(s->copyright));
102         get_str8(pb, s->comment, sizeof(s->comment));
103         if ((startpos + (version & 0xffff)) >= url_ftell(pb) + 2) {
104             // fourcc (should always be "lpcJ")
105             get_byte(pb);
106             get_str8(pb, buf, sizeof(buf));
107         }
108         // Skip extra header crap (this should never happen)
109         if ((startpos + (version & 0xffff)) > url_ftell(pb))
110             url_fskip(pb, (version & 0xffff) + startpos - url_ftell(pb));
111         st->codec->sample_rate = 8000;
112         st->codec->channels = 1;
113         st->codec->codec_type = CODEC_TYPE_AUDIO;
114         st->codec->codec_id = CODEC_ID_RA_144;
115     } else {
116         int flavor, sub_packet_h, coded_framesize, sub_packet_size;
117         /* old version (4) */
118         get_be32(pb); /* .ra4 */
119         get_be32(pb); /* data size */
120         get_be16(pb); /* version2 */
121         get_be32(pb); /* header size */
122         flavor= get_be16(pb); /* add codec info / flavor */
123         ast->coded_framesize = coded_framesize = get_be32(pb); /* coded frame size */
124         get_be32(pb); /* ??? */
125         get_be32(pb); /* ??? */
126         get_be32(pb); /* ??? */
127         ast->sub_packet_h = sub_packet_h = get_be16(pb); /* 1 */
128         st->codec->block_align= get_be16(pb); /* frame size */
129         ast->sub_packet_size = sub_packet_size = get_be16(pb); /* sub packet size */
130         get_be16(pb); /* ??? */
131         if (((version >> 16) & 0xff) == 5) {
132             get_be16(pb); get_be16(pb); get_be16(pb);
133         }
134         st->codec->sample_rate = get_be16(pb);
135         get_be32(pb);
136         st->codec->channels = get_be16(pb);
137         if (((version >> 16) & 0xff) == 5) {
138             get_be32(pb);
139             get_buffer(pb, buf, 4);
140             buf[4] = 0;
141         } else {
142             get_str8(pb, buf, sizeof(buf)); /* desc */
143             get_str8(pb, buf, sizeof(buf)); /* desc */
144         }
145         st->codec->codec_type = CODEC_TYPE_AUDIO;
146         if (!strcmp(buf, "dnet")) {
147             st->codec->codec_id = CODEC_ID_AC3;
148             st->need_parsing = AVSTREAM_PARSE_FULL;
149         } else if (!strcmp(buf, "28_8")) {
150             st->codec->codec_id = CODEC_ID_RA_288;
151             st->codec->extradata_size= 0;
152             ast->audio_framesize = st->codec->block_align;
153             st->codec->block_align = coded_framesize;
154
155             if(ast->audio_framesize >= UINT_MAX / sub_packet_h){
156                 av_log(s, AV_LOG_ERROR, "ast->audio_framesize * sub_packet_h too large\n");
157                 return -1;
158             }
159
160             ast->audiobuf = av_malloc(ast->audio_framesize * sub_packet_h);
161         } else if ((!strcmp(buf, "cook")) || (!strcmp(buf, "atrc")) || (!strcmp(buf, "sipr"))) {
162             int codecdata_length;
163             get_be16(pb); get_byte(pb);
164             if (((version >> 16) & 0xff) == 5)
165                 get_byte(pb);
166             codecdata_length = get_be32(pb);
167             if(codecdata_length + FF_INPUT_BUFFER_PADDING_SIZE <= (unsigned)codecdata_length){
168                 av_log(s, AV_LOG_ERROR, "codecdata_length too large\n");
169                 return -1;
170             }
171
172             if(sub_packet_size <= 0){
173                 av_log(s, AV_LOG_ERROR, "sub_packet_size is invalid\n");
174                 return -1;
175             }
176
177             if (!strcmp(buf, "cook")) st->codec->codec_id = CODEC_ID_COOK;
178             else if (!strcmp(buf, "sipr")) st->codec->codec_id = CODEC_ID_SIPR;
179             else st->codec->codec_id = CODEC_ID_ATRAC3;
180             st->codec->extradata_size= codecdata_length;
181             st->codec->extradata= av_mallocz(st->codec->extradata_size + FF_INPUT_BUFFER_PADDING_SIZE);
182             get_buffer(pb, st->codec->extradata, st->codec->extradata_size);
183             ast->audio_framesize = st->codec->block_align;
184             st->codec->block_align = ast->sub_packet_size;
185
186             if(ast->audio_framesize >= UINT_MAX / sub_packet_h){
187                 av_log(s, AV_LOG_ERROR, "rm->audio_framesize * sub_packet_h too large\n");
188                 return -1;
189             }
190
191             ast->audiobuf = av_malloc(ast->audio_framesize * sub_packet_h);
192         } else if (!strcmp(buf, "raac") || !strcmp(buf, "racp")) {
193             int codecdata_length;
194             get_be16(pb); get_byte(pb);
195             if (((version >> 16) & 0xff) == 5)
196                 get_byte(pb);
197             st->codec->codec_id = CODEC_ID_AAC;
198             codecdata_length = get_be32(pb);
199             if(codecdata_length + FF_INPUT_BUFFER_PADDING_SIZE <= (unsigned)codecdata_length){
200                 av_log(s, AV_LOG_ERROR, "codecdata_length too large\n");
201                 return -1;
202             }
203             if (codecdata_length >= 1) {
204                 st->codec->extradata_size = codecdata_length - 1;
205                 st->codec->extradata = av_mallocz(st->codec->extradata_size + FF_INPUT_BUFFER_PADDING_SIZE);
206                 get_byte(pb);
207                 get_buffer(pb, st->codec->extradata, st->codec->extradata_size);
208             }
209         } else {
210             st->codec->codec_id = CODEC_ID_NONE;
211             av_strlcpy(st->codec->codec_name, buf, sizeof(st->codec->codec_name));
212         }
213         if (read_all) {
214             get_byte(pb);
215             get_byte(pb);
216             get_byte(pb);
217
218             get_str8(pb, s->title, sizeof(s->title));
219             get_str8(pb, s->author, sizeof(s->author));
220             get_str8(pb, s->copyright, sizeof(s->copyright));
221             get_str8(pb, s->comment, sizeof(s->comment));
222         }
223     }
224     return 0;
225 }
226
227 int
228 ff_rm_read_mdpr_codecdata (AVFormatContext *s, ByteIOContext *pb,
229                            AVStream *st, RMStream *rst, int codec_data_size)
230 {
231     unsigned int v;
232     int size;
233     int64_t codec_pos;
234
235     av_set_pts_info(st, 64, 1, 1000);
236     codec_pos = url_ftell(pb);
237     v = get_be32(pb);
238     if (v == MKTAG(0xfd, 'a', 'r', '.')) {
239         /* ra type header */
240         if (rm_read_audio_stream_info(s, pb, st, rst, 0))
241             return -1;
242     } else {
243         int fps, fps2;
244         if (get_le32(pb) != MKTAG('V', 'I', 'D', 'O')) {
245         fail1:
246             av_log(st->codec, AV_LOG_ERROR, "Unsupported video codec\n");
247             goto skip;
248         }
249         st->codec->codec_tag = get_le32(pb);
250 //        av_log(NULL, AV_LOG_DEBUG, "%X %X\n", st->codec->codec_tag, MKTAG('R', 'V', '2', '0'));
251         if (   st->codec->codec_tag != MKTAG('R', 'V', '1', '0')
252             && st->codec->codec_tag != MKTAG('R', 'V', '2', '0')
253             && st->codec->codec_tag != MKTAG('R', 'V', '3', '0')
254             && st->codec->codec_tag != MKTAG('R', 'V', '4', '0')
255             && st->codec->codec_tag != MKTAG('R', 'V', 'T', 'R'))
256             goto fail1;
257         st->codec->width = get_be16(pb);
258         st->codec->height = get_be16(pb);
259         st->codec->time_base.num= 1;
260         fps= get_be16(pb);
261         st->codec->codec_type = CODEC_TYPE_VIDEO;
262         get_be32(pb);
263         fps2= get_be16(pb);
264         get_be16(pb);
265
266         st->codec->extradata_size= codec_data_size - (url_ftell(pb) - codec_pos);
267
268         if(st->codec->extradata_size + FF_INPUT_BUFFER_PADDING_SIZE <= (unsigned)st->codec->extradata_size){
269             //check is redundant as get_buffer() will catch this
270             av_log(s, AV_LOG_ERROR, "st->codec->extradata_size too large\n");
271             return -1;
272         }
273         st->codec->extradata= av_mallocz(st->codec->extradata_size + FF_INPUT_BUFFER_PADDING_SIZE);
274         if (!st->codec->extradata)
275             return AVERROR(ENOMEM);
276         get_buffer(pb, st->codec->extradata, st->codec->extradata_size);
277
278 //        av_log(NULL, AV_LOG_DEBUG, "fps= %d fps2= %d\n", fps, fps2);
279         st->codec->time_base.den = fps * st->codec->time_base.num;
280         switch(((uint8_t*)st->codec->extradata)[4]>>4){
281         case 1: st->codec->codec_id = CODEC_ID_RV10; break;
282         case 2: st->codec->codec_id = CODEC_ID_RV20; break;
283         case 3: st->codec->codec_id = CODEC_ID_RV30; break;
284         case 4: st->codec->codec_id = CODEC_ID_RV40; break;
285         default: goto fail1;
286         }
287     }
288
289 skip:
290     /* skip codec info */
291     size = url_ftell(pb) - codec_pos;
292     url_fskip(pb, codec_data_size - size);
293
294     return 0;
295 }
296
297
298 static int rm_read_header_old(AVFormatContext *s, AVFormatParameters *ap)
299 {
300     RMDemuxContext *rm = s->priv_data;
301     AVStream *st;
302
303     rm->old_format = 1;
304     st = av_new_stream(s, 0);
305     if (!st)
306         return -1;
307     st->priv_data = ff_rm_alloc_rmstream();
308     return rm_read_audio_stream_info(s, s->pb, st, st->priv_data, 1);
309 }
310
311 static int rm_read_header(AVFormatContext *s, AVFormatParameters *ap)
312 {
313     RMDemuxContext *rm = s->priv_data;
314     AVStream *st;
315     ByteIOContext *pb = s->pb;
316     unsigned int tag;
317     int tag_size;
318     unsigned int start_time, duration;
319     char buf[128];
320     int flags = 0;
321
322     tag = get_le32(pb);
323     if (tag == MKTAG('.', 'r', 'a', 0xfd)) {
324         /* very old .ra format */
325         return rm_read_header_old(s, ap);
326     } else if (tag != MKTAG('.', 'R', 'M', 'F')) {
327         return AVERROR(EIO);
328     }
329
330     get_be32(pb); /* header size */
331     get_be16(pb);
332     get_be32(pb);
333     get_be32(pb); /* number of headers */
334
335     for(;;) {
336         if (url_feof(pb))
337             return -1;
338         tag = get_le32(pb);
339         tag_size = get_be32(pb);
340         get_be16(pb);
341 #if 0
342         printf("tag=%c%c%c%c (%08x) size=%d\n",
343                (tag) & 0xff,
344                (tag >> 8) & 0xff,
345                (tag >> 16) & 0xff,
346                (tag >> 24) & 0xff,
347                tag,
348                tag_size);
349 #endif
350         if (tag_size < 10 && tag != MKTAG('D', 'A', 'T', 'A'))
351             return -1;
352         switch(tag) {
353         case MKTAG('P', 'R', 'O', 'P'):
354             /* file header */
355             get_be32(pb); /* max bit rate */
356             get_be32(pb); /* avg bit rate */
357             get_be32(pb); /* max packet size */
358             get_be32(pb); /* avg packet size */
359             get_be32(pb); /* nb packets */
360             get_be32(pb); /* duration */
361             get_be32(pb); /* preroll */
362             get_be32(pb); /* index offset */
363             get_be32(pb); /* data offset */
364             get_be16(pb); /* nb streams */
365             flags = get_be16(pb); /* flags */
366             break;
367         case MKTAG('C', 'O', 'N', 'T'):
368             get_str16(pb, s->title, sizeof(s->title));
369             get_str16(pb, s->author, sizeof(s->author));
370             get_str16(pb, s->copyright, sizeof(s->copyright));
371             get_str16(pb, s->comment, sizeof(s->comment));
372             break;
373         case MKTAG('M', 'D', 'P', 'R'):
374             st = av_new_stream(s, 0);
375             if (!st)
376                 return AVERROR(ENOMEM);
377             st->id = get_be16(pb);
378             get_be32(pb); /* max bit rate */
379             st->codec->bit_rate = get_be32(pb); /* bit rate */
380             get_be32(pb); /* max packet size */
381             get_be32(pb); /* avg packet size */
382             start_time = get_be32(pb); /* start time */
383             get_be32(pb); /* preroll */
384             duration = get_be32(pb); /* duration */
385             st->start_time = start_time;
386             st->duration = duration;
387             get_str8(pb, buf, sizeof(buf)); /* desc */
388             get_str8(pb, buf, sizeof(buf)); /* mimetype */
389             st->codec->codec_type = CODEC_TYPE_DATA;
390             st->priv_data = ff_rm_alloc_rmstream();
391             if (ff_rm_read_mdpr_codecdata(s, s->pb, st, st->priv_data,
392                                           get_be32(pb)) < 0)
393                 return -1;
394             break;
395         case MKTAG('D', 'A', 'T', 'A'):
396             goto header_end;
397         default:
398             /* unknown tag: skip it */
399             url_fskip(pb, tag_size - 10);
400             break;
401         }
402     }
403  header_end:
404     rm->nb_packets = get_be32(pb); /* number of packets */
405     if (!rm->nb_packets && (flags & 4))
406         rm->nb_packets = 3600 * 25;
407     get_be32(pb); /* next data header */
408     return 0;
409 }
410
411 static int get_num(ByteIOContext *pb, int *len)
412 {
413     int n, n1;
414
415     n = get_be16(pb);
416     (*len)-=2;
417     n &= 0x7FFF;
418     if (n >= 0x4000) {
419         return n - 0x4000;
420     } else {
421         n1 = get_be16(pb);
422         (*len)-=2;
423         return (n << 16) | n1;
424     }
425 }
426
427 /* multiple of 20 bytes for ra144 (ugly) */
428 #define RAW_PACKET_SIZE 1000
429
430 static int sync(AVFormatContext *s, int64_t *timestamp, int *flags, int *stream_index, int64_t *pos){
431     RMDemuxContext *rm = s->priv_data;
432     ByteIOContext *pb = s->pb;
433     int len, num, res, i;
434     AVStream *st;
435     uint32_t state=0xFFFFFFFF;
436
437     while(!url_feof(pb)){
438         *pos= url_ftell(pb) - 3;
439         if(rm->remaining_len > 0){
440             num= rm->current_stream;
441             len= rm->remaining_len;
442             *timestamp = AV_NOPTS_VALUE;
443             *flags= 0;
444         }else{
445             state= (state<<8) + get_byte(pb);
446
447             if(state == MKBETAG('I', 'N', 'D', 'X')){
448                 len = get_be16(pb) - 6;
449                 if(len<0)
450                     continue;
451                 goto skip;
452             }
453
454             if(state > (unsigned)0xFFFF || state < 12)
455                 continue;
456             len=state;
457             state= 0xFFFFFFFF;
458
459             num = get_be16(pb);
460             *timestamp = get_be32(pb);
461             res= get_byte(pb); /* reserved */
462             *flags = get_byte(pb); /* flags */
463
464
465             len -= 12;
466         }
467         for(i=0;i<s->nb_streams;i++) {
468             st = s->streams[i];
469             if (num == st->id)
470                 break;
471         }
472         if (i == s->nb_streams) {
473 skip:
474             /* skip packet if unknown number */
475             url_fskip(pb, len);
476             rm->remaining_len -= len;
477             continue;
478         }
479         *stream_index= i;
480
481         return len;
482     }
483     return -1;
484 }
485
486 static int rm_assemble_video_frame(AVFormatContext *s, ByteIOContext *pb,
487                                    RMDemuxContext *rm, RMStream *vst,
488                                    AVPacket *pkt, int len)
489 {
490     int hdr, seq, pic_num, len2, pos;
491     int type;
492
493     hdr = get_byte(pb); len--;
494     type = hdr >> 6;
495     switch(type){
496     case 0: // slice
497     case 2: // last slice
498         seq = get_byte(pb); len--;
499         len2 = get_num(pb, &len);
500         pos = get_num(pb, &len);
501         if(len < 1)
502             return -1;
503         pic_num = get_byte(pb); len--;
504         rm->remaining_len = len;
505         break;
506     case 1: //whole frame
507         if(len<1)
508             return -1;
509         seq = get_byte(pb); len--;
510         if(av_new_packet(pkt, len + 9) < 0)
511             return AVERROR(EIO);
512         pkt->data[0] = 0;
513         AV_WL32(pkt->data + 1, 1);
514         AV_WL32(pkt->data + 5, 0);
515         get_buffer(pb, pkt->data + 9, len);
516         rm->remaining_len = 0;
517         return 0;
518     case 3: //frame as a part of packet
519         len2 = get_num(pb, &len);
520         pos = get_num(pb, &len);
521         pic_num = get_byte(pb); len--;
522         if(len < len2)
523             return -1;
524         rm->remaining_len = len - len2;
525         if(av_new_packet(pkt, len2 + 9) < 0)
526             return AVERROR(EIO);
527         pkt->data[0] = 0;
528         AV_WL32(pkt->data + 1, 1);
529         AV_WL32(pkt->data + 5, 0);
530         get_buffer(pb, pkt->data + 9, len2);
531         return 0;
532     }
533     //now we have to deal with single slice
534
535     if((seq & 0x7F) == 1 || vst->curpic_num != pic_num){
536         vst->slices = ((hdr & 0x3F) << 1) + 1;
537         vst->videobufsize = len2 + 8*vst->slices + 1;
538         av_free(vst->videobuf);
539         if(!(vst->videobuf = av_malloc(vst->videobufsize)))
540             return AVERROR(ENOMEM);
541         vst->videobufpos = 8*vst->slices + 1;
542         vst->cur_slice = 0;
543         vst->curpic_num = pic_num;
544         vst->pktpos = url_ftell(pb);
545     }
546     if(type == 2)
547         len = FFMIN(len, pos);
548
549     if(++vst->cur_slice > vst->slices)
550         return 1;
551     AV_WL32(vst->videobuf - 7 + 8*vst->cur_slice, 1);
552     AV_WL32(vst->videobuf - 3 + 8*vst->cur_slice, vst->videobufpos - 8*vst->slices - 1);
553     if(vst->videobufpos + len > vst->videobufsize)
554         return 1;
555     if (get_buffer(pb, vst->videobuf + vst->videobufpos, len) != len)
556         return AVERROR(EIO);
557     vst->videobufpos += len;
558     rm->remaining_len-= len;
559
560     if(type == 2 || (vst->videobufpos) == vst->videobufsize){
561          vst->videobuf[0] = vst->cur_slice-1;
562          if(av_new_packet(pkt, vst->videobufpos - 8*(vst->slices - vst->cur_slice)) < 0)
563              return AVERROR(ENOMEM);
564          memcpy(pkt->data, vst->videobuf, 1 + 8*vst->cur_slice);
565          memcpy(pkt->data + 1 + 8*vst->cur_slice, vst->videobuf + 1 + 8*vst->slices,
566                 vst->videobufpos - 1 - 8*vst->slices);
567          pkt->pts = AV_NOPTS_VALUE;
568          pkt->pos = vst->pktpos;
569          return 0;
570     }
571
572     return 1;
573 }
574
575 static inline void
576 rm_ac3_swap_bytes (AVStream *st, AVPacket *pkt)
577 {
578     uint8_t *ptr;
579     int j;
580
581     if (st->codec->codec_id == CODEC_ID_AC3) {
582         ptr = pkt->data;
583         for (j=0;j<pkt->size;j+=2) {
584             FFSWAP(int, ptr[0], ptr[1]);
585             ptr += 2;
586         }
587     }
588 }
589
590 int
591 ff_rm_parse_packet (AVFormatContext *s, ByteIOContext *pb,
592                     AVStream *st, RMStream *ast, int len, AVPacket *pkt,
593                     int *seq, int *flags, int64_t *timestamp)
594 {
595     RMDemuxContext *rm = s->priv_data;
596
597     if (st->codec->codec_type == CODEC_TYPE_VIDEO) {
598         rm->current_stream= st->id;
599         if(rm_assemble_video_frame(s, pb, rm, ast, pkt, len))
600             return -1; //got partial frame
601     } else if (st->codec->codec_type == CODEC_TYPE_AUDIO) {
602         if ((st->codec->codec_id == CODEC_ID_RA_288) ||
603             (st->codec->codec_id == CODEC_ID_COOK) ||
604             (st->codec->codec_id == CODEC_ID_ATRAC3) ||
605             (st->codec->codec_id == CODEC_ID_SIPR)) {
606             int x;
607             int sps = ast->sub_packet_size;
608             int cfs = ast->coded_framesize;
609             int h = ast->sub_packet_h;
610             int y = ast->sub_packet_cnt;
611             int w = ast->audio_framesize;
612
613             if (*flags & 2)
614                 y = ast->sub_packet_cnt = 0;
615             if (!y)
616                 ast->audiotimestamp = *timestamp;
617
618             switch(st->codec->codec_id) {
619                 case CODEC_ID_RA_288:
620                     for (x = 0; x < h/2; x++)
621                         get_buffer(pb, ast->audiobuf+x*2*w+y*cfs, cfs);
622                     break;
623                 case CODEC_ID_ATRAC3:
624                 case CODEC_ID_COOK:
625                     for (x = 0; x < w/sps; x++)
626                         get_buffer(pb, ast->audiobuf+sps*(h*x+((h+1)/2)*(y&1)+(y>>1)), sps);
627                     break;
628             }
629
630             if (++(ast->sub_packet_cnt) < h)
631                 return -1;
632             else {
633                 ast->sub_packet_cnt = 0;
634                 rm->audio_stream_num = st->index;
635                 rm->audio_pkt_cnt = h * w / st->codec->block_align - 1;
636                 // Release first audio packet
637                 av_new_packet(pkt, st->codec->block_align);
638                 memcpy(pkt->data, ast->audiobuf, st->codec->block_align);
639                 *timestamp = ast->audiotimestamp;
640                 *flags = 2; // Mark first packet as keyframe
641             }
642         } else if (st->codec->codec_id == CODEC_ID_AAC) {
643             int x;
644             rm->audio_stream_num = st->index;
645             ast->sub_packet_cnt = (get_be16(pb) & 0xf0) >> 4;
646             if (ast->sub_packet_cnt) {
647                 for (x = 0; x < ast->sub_packet_cnt; x++)
648                     ast->sub_packet_lengths[x] = get_be16(pb);
649                 // Release first audio packet
650                 rm->audio_pkt_cnt = ast->sub_packet_cnt - 1;
651                 av_get_packet(pb, pkt, ast->sub_packet_lengths[0]);
652                 *flags = 2; // Mark first packet as keyframe
653             }
654         } else {
655             av_get_packet(pb, pkt, len);
656             rm_ac3_swap_bytes(st, pkt);
657         }
658     } else
659         av_get_packet(pb, pkt, len);
660
661     if(  (st->discard >= AVDISCARD_NONKEY && !(*flags&2))
662        || st->discard >= AVDISCARD_ALL){
663         av_free_packet(pkt);
664         return -1;
665     }
666
667     pkt->stream_index = st->index;
668
669 #if 0
670     if (st->codec->codec_type == CODEC_TYPE_VIDEO) {
671         if(st->codec->codec_id == CODEC_ID_RV20){
672             int seq= 128*(pkt->data[2]&0x7F) + (pkt->data[3]>>1);
673             av_log(NULL, AV_LOG_DEBUG, "%d %"PRId64" %d\n", *timestamp, *timestamp*512LL/25, seq);
674
675             seq |= (*timestamp&~0x3FFF);
676             if(seq - *timestamp >  0x2000) seq -= 0x4000;
677             if(seq - *timestamp < -0x2000) seq += 0x4000;
678         }
679     }
680 #endif
681
682     pkt->pts= *timestamp;
683     if (*flags & 2)
684         pkt->flags |= PKT_FLAG_KEY;
685
686     return st->codec->codec_type == CODEC_TYPE_AUDIO ? rm->audio_pkt_cnt : 0;
687 }
688
689 int
690 ff_rm_retrieve_cache (AVFormatContext *s, ByteIOContext *pb,
691                       AVStream *st, RMStream *ast, AVPacket *pkt)
692 {
693     RMDemuxContext *rm = s->priv_data;
694
695     assert (rm->audio_pkt_cnt > 0);
696
697     if (st->codec->codec_id == CODEC_ID_AAC)
698         av_get_packet(pb, pkt, ast->sub_packet_lengths[ast->sub_packet_cnt - rm->audio_pkt_cnt]);
699     else {
700         av_new_packet(pkt, st->codec->block_align);
701         memcpy(pkt->data, ast->audiobuf + st->codec->block_align *
702                (ast->sub_packet_h * ast->audio_framesize / st->codec->block_align - rm->audio_pkt_cnt),
703                st->codec->block_align);
704     }
705     rm->audio_pkt_cnt--;
706     pkt->flags = 0;
707     pkt->stream_index = st->index;
708
709     return rm->audio_pkt_cnt;
710 }
711
712 static int rm_read_packet(AVFormatContext *s, AVPacket *pkt)
713 {
714     RMDemuxContext *rm = s->priv_data;
715     ByteIOContext *pb = s->pb;
716     AVStream *st;
717     int i, len;
718     int64_t timestamp, pos;
719     int flags;
720
721     if (rm->audio_pkt_cnt) {
722         // If there are queued audio packet return them first
723         st = s->streams[rm->audio_stream_num];
724         ff_rm_retrieve_cache(s, s->pb, st, st->priv_data, pkt);
725     } else if (rm->old_format) {
726         RMStream *ast;
727
728         st = s->streams[0];
729         ast = st->priv_data;
730         if (st->codec->codec_id == CODEC_ID_RA_288) {
731             int x, y;
732
733             for (y = 0; y < ast->sub_packet_h; y++)
734                 for (x = 0; x < ast->sub_packet_h/2; x++)
735                     if (get_buffer(pb, ast->audiobuf+x*2*ast->audio_framesize+y*ast->coded_framesize, ast->coded_framesize) <= 0)
736                         return AVERROR(EIO);
737             rm->audio_stream_num = 0;
738             rm->audio_pkt_cnt = ast->sub_packet_h * ast->audio_framesize / st->codec->block_align - 1;
739             // Release first audio packet
740             av_new_packet(pkt, st->codec->block_align);
741             memcpy(pkt->data, ast->audiobuf, st->codec->block_align);
742             pkt->flags |= PKT_FLAG_KEY; // Mark first packet as keyframe
743             pkt->stream_index = 0;
744         } else {
745             /* just read raw bytes */
746             len = RAW_PACKET_SIZE;
747             len= av_get_packet(pb, pkt, len);
748             pkt->stream_index = 0;
749             if (len <= 0) {
750                 return AVERROR(EIO);
751             }
752             pkt->size = len;
753         }
754         rm_ac3_swap_bytes(st, pkt);
755     } else {
756         int seq=1;
757 resync:
758         len=sync(s, &timestamp, &flags, &i, &pos);
759         if(len<0)
760             return AVERROR(EIO);
761         st = s->streams[i];
762
763         if (ff_rm_parse_packet (s, s->pb, st, st->priv_data, len, pkt,
764                                 &seq, &flags, &timestamp) < 0)
765             goto resync;
766
767         if((flags&2) && (seq&0x7F) == 1)
768             av_add_index_entry(st, pos, timestamp, 0, 0, AVINDEX_KEYFRAME);
769     }
770
771     return 0;
772 }
773
774 static int rm_read_close(AVFormatContext *s)
775 {
776     int i;
777
778     for (i=0;i<s->nb_streams;i++)
779         ff_rm_free_rmstream(s->streams[i]->priv_data);
780
781     return 0;
782 }
783
784 static int rm_probe(AVProbeData *p)
785 {
786     /* check file header */
787     if ((p->buf[0] == '.' && p->buf[1] == 'R' &&
788          p->buf[2] == 'M' && p->buf[3] == 'F' &&
789          p->buf[4] == 0 && p->buf[5] == 0) ||
790         (p->buf[0] == '.' && p->buf[1] == 'r' &&
791          p->buf[2] == 'a' && p->buf[3] == 0xfd))
792         return AVPROBE_SCORE_MAX;
793     else
794         return 0;
795 }
796
797 static int64_t rm_read_dts(AVFormatContext *s, int stream_index,
798                                int64_t *ppos, int64_t pos_limit)
799 {
800     RMDemuxContext *rm = s->priv_data;
801     int64_t pos, dts;
802     int stream_index2, flags, len, h;
803
804     pos = *ppos;
805
806     if(rm->old_format)
807         return AV_NOPTS_VALUE;
808
809     url_fseek(s->pb, pos, SEEK_SET);
810     rm->remaining_len=0;
811     for(;;){
812         int seq=1;
813         AVStream *st;
814
815         len=sync(s, &dts, &flags, &stream_index2, &pos);
816         if(len<0)
817             return AV_NOPTS_VALUE;
818
819         st = s->streams[stream_index2];
820         if (st->codec->codec_type == CODEC_TYPE_VIDEO) {
821             h= get_byte(s->pb); len--;
822             if(!(h & 0x40)){
823                 seq = get_byte(s->pb); len--;
824             }
825         }
826
827         if((flags&2) && (seq&0x7F) == 1){
828 //            av_log(s, AV_LOG_DEBUG, "%d %d-%d %"PRId64" %d\n", flags, stream_index2, stream_index, dts, seq);
829             av_add_index_entry(st, pos, dts, 0, 0, AVINDEX_KEYFRAME);
830             if(stream_index2 == stream_index)
831                 break;
832         }
833
834         url_fskip(s->pb, len);
835     }
836     *ppos = pos;
837     return dts;
838 }
839
840 AVInputFormat rm_demuxer = {
841     "rm",
842     NULL_IF_CONFIG_SMALL("RM format"),
843     sizeof(RMDemuxContext),
844     rm_probe,
845     rm_read_header,
846     rm_read_packet,
847     rm_read_close,
848     NULL,
849     rm_read_dts,
850 };
851
852 AVInputFormat rdt_demuxer = {
853     "rdt",
854     NULL_IF_CONFIG_SMALL("RDT demuxer"),
855     sizeof(RMDemuxContext),
856     NULL, NULL, NULL, rm_read_close, NULL, NULL
857 };