All non zero returns of rm_assemble_video_frame() are errors, check things
[ffmpeg.git] / libavformat / rmdec.c
1 /*
2  * "Real" compatible demuxer.
3  * Copyright (c) 2000, 2001 Fabrice Bellard.
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "libavutil/avstring.h"
23 #include "avformat.h"
24 #include "rm.h"
25
26 struct RMStream {
27     uint8_t *videobuf; ///< place to store merged video frame
28     int videobufsize;  ///< current assembled frame size
29     int videobufpos;   ///< position for the next slice in the video buffer
30     int curpic_num;    ///< picture number of current frame
31     int cur_slice, slices;
32     int64_t pktpos;    ///< first slice position in file
33     /// Audio descrambling matrix parameters
34     uint8_t *audiobuf; ///< place to store reordered audio data
35     int64_t audiotimestamp; ///< Audio packet timestamp
36     int sub_packet_cnt; // Subpacket counter, used while reading
37     int sub_packet_size, sub_packet_h, coded_framesize; ///< Descrambling parameters from container
38     int audio_framesize; /// Audio frame size from container
39     int sub_packet_lengths[16]; /// Length of each subpacket
40 };
41
42 typedef struct {
43     int nb_packets;
44     int old_format;
45     int current_stream;
46     int remaining_len;
47     int audio_stream_num; ///< Stream number for audio packets
48     int audio_pkt_cnt; ///< Output packet counter
49 } RMDemuxContext;
50
51 static inline void get_strl(ByteIOContext *pb, char *buf, int buf_size, int len)
52 {
53     int i;
54     char *q, r;
55
56     q = buf;
57     for(i=0;i<len;i++) {
58         r = get_byte(pb);
59         if (i < buf_size - 1)
60             *q++ = r;
61     }
62     if (buf_size > 0) *q = '\0';
63 }
64
65 static void get_str16(ByteIOContext *pb, char *buf, int buf_size)
66 {
67     get_strl(pb, buf, buf_size, get_be16(pb));
68 }
69
70 static void get_str8(ByteIOContext *pb, char *buf, int buf_size)
71 {
72     get_strl(pb, buf, buf_size, get_byte(pb));
73 }
74
75 RMStream *ff_rm_alloc_rmstream (void)
76 {
77     RMStream *rms = av_mallocz(sizeof(RMStream));
78     rms->curpic_num = -1;
79     return rms;
80 }
81
82 void ff_rm_free_rmstream (RMStream *rms)
83 {
84     av_freep(&rms->videobuf);
85     av_freep(&rms->audiobuf);
86 }
87
88 static int rm_read_audio_stream_info(AVFormatContext *s, ByteIOContext *pb,
89                                      AVStream *st, RMStream *ast, int read_all)
90 {
91     char buf[256];
92     uint32_t version;
93
94     /* ra type header */
95     version = get_be32(pb); /* version */
96     if (((version >> 16) & 0xff) == 3) {
97         int64_t startpos = url_ftell(pb);
98         url_fskip(pb, 14);
99         get_str8(pb, s->title, sizeof(s->title));
100         get_str8(pb, s->author, sizeof(s->author));
101         get_str8(pb, s->copyright, sizeof(s->copyright));
102         get_str8(pb, s->comment, sizeof(s->comment));
103         if ((startpos + (version & 0xffff)) >= url_ftell(pb) + 2) {
104             // fourcc (should always be "lpcJ")
105             get_byte(pb);
106             get_str8(pb, buf, sizeof(buf));
107         }
108         // Skip extra header crap (this should never happen)
109         if ((startpos + (version & 0xffff)) > url_ftell(pb))
110             url_fskip(pb, (version & 0xffff) + startpos - url_ftell(pb));
111         st->codec->sample_rate = 8000;
112         st->codec->channels = 1;
113         st->codec->codec_type = CODEC_TYPE_AUDIO;
114         st->codec->codec_id = CODEC_ID_RA_144;
115     } else {
116         int flavor, sub_packet_h, coded_framesize, sub_packet_size;
117         /* old version (4) */
118         get_be32(pb); /* .ra4 */
119         get_be32(pb); /* data size */
120         get_be16(pb); /* version2 */
121         get_be32(pb); /* header size */
122         flavor= get_be16(pb); /* add codec info / flavor */
123         ast->coded_framesize = coded_framesize = get_be32(pb); /* coded frame size */
124         get_be32(pb); /* ??? */
125         get_be32(pb); /* ??? */
126         get_be32(pb); /* ??? */
127         ast->sub_packet_h = sub_packet_h = get_be16(pb); /* 1 */
128         st->codec->block_align= get_be16(pb); /* frame size */
129         ast->sub_packet_size = sub_packet_size = get_be16(pb); /* sub packet size */
130         get_be16(pb); /* ??? */
131         if (((version >> 16) & 0xff) == 5) {
132             get_be16(pb); get_be16(pb); get_be16(pb);
133         }
134         st->codec->sample_rate = get_be16(pb);
135         get_be32(pb);
136         st->codec->channels = get_be16(pb);
137         if (((version >> 16) & 0xff) == 5) {
138             get_be32(pb);
139             get_buffer(pb, buf, 4);
140             buf[4] = 0;
141         } else {
142             get_str8(pb, buf, sizeof(buf)); /* desc */
143             get_str8(pb, buf, sizeof(buf)); /* desc */
144         }
145         st->codec->codec_type = CODEC_TYPE_AUDIO;
146         if (!strcmp(buf, "dnet")) {
147             st->codec->codec_id = CODEC_ID_AC3;
148             st->need_parsing = AVSTREAM_PARSE_FULL;
149         } else if (!strcmp(buf, "28_8")) {
150             st->codec->codec_id = CODEC_ID_RA_288;
151             st->codec->extradata_size= 0;
152             ast->audio_framesize = st->codec->block_align;
153             st->codec->block_align = coded_framesize;
154
155             if(ast->audio_framesize >= UINT_MAX / sub_packet_h){
156                 av_log(s, AV_LOG_ERROR, "ast->audio_framesize * sub_packet_h too large\n");
157                 return -1;
158             }
159
160             ast->audiobuf = av_malloc(ast->audio_framesize * sub_packet_h);
161         } else if ((!strcmp(buf, "cook")) || (!strcmp(buf, "atrc")) || (!strcmp(buf, "sipr"))) {
162             int codecdata_length;
163             get_be16(pb); get_byte(pb);
164             if (((version >> 16) & 0xff) == 5)
165                 get_byte(pb);
166             codecdata_length = get_be32(pb);
167             if(codecdata_length + FF_INPUT_BUFFER_PADDING_SIZE <= (unsigned)codecdata_length){
168                 av_log(s, AV_LOG_ERROR, "codecdata_length too large\n");
169                 return -1;
170             }
171
172             if(sub_packet_size <= 0){
173                 av_log(s, AV_LOG_ERROR, "sub_packet_size is invalid\n");
174                 return -1;
175             }
176
177             if (!strcmp(buf, "cook")) st->codec->codec_id = CODEC_ID_COOK;
178             else if (!strcmp(buf, "sipr")) st->codec->codec_id = CODEC_ID_SIPR;
179             else st->codec->codec_id = CODEC_ID_ATRAC3;
180             st->codec->extradata_size= codecdata_length;
181             st->codec->extradata= av_mallocz(st->codec->extradata_size + FF_INPUT_BUFFER_PADDING_SIZE);
182             get_buffer(pb, st->codec->extradata, st->codec->extradata_size);
183             ast->audio_framesize = st->codec->block_align;
184             st->codec->block_align = ast->sub_packet_size;
185
186             if(ast->audio_framesize >= UINT_MAX / sub_packet_h){
187                 av_log(s, AV_LOG_ERROR, "rm->audio_framesize * sub_packet_h too large\n");
188                 return -1;
189             }
190
191             ast->audiobuf = av_malloc(ast->audio_framesize * sub_packet_h);
192         } else if (!strcmp(buf, "raac") || !strcmp(buf, "racp")) {
193             int codecdata_length;
194             get_be16(pb); get_byte(pb);
195             if (((version >> 16) & 0xff) == 5)
196                 get_byte(pb);
197             st->codec->codec_id = CODEC_ID_AAC;
198             codecdata_length = get_be32(pb);
199             if(codecdata_length + FF_INPUT_BUFFER_PADDING_SIZE <= (unsigned)codecdata_length){
200                 av_log(s, AV_LOG_ERROR, "codecdata_length too large\n");
201                 return -1;
202             }
203             if (codecdata_length >= 1) {
204                 st->codec->extradata_size = codecdata_length - 1;
205                 st->codec->extradata = av_mallocz(st->codec->extradata_size + FF_INPUT_BUFFER_PADDING_SIZE);
206                 get_byte(pb);
207                 get_buffer(pb, st->codec->extradata, st->codec->extradata_size);
208             }
209         } else {
210             st->codec->codec_id = CODEC_ID_NONE;
211             av_strlcpy(st->codec->codec_name, buf, sizeof(st->codec->codec_name));
212         }
213         if (read_all) {
214             get_byte(pb);
215             get_byte(pb);
216             get_byte(pb);
217
218             get_str8(pb, s->title, sizeof(s->title));
219             get_str8(pb, s->author, sizeof(s->author));
220             get_str8(pb, s->copyright, sizeof(s->copyright));
221             get_str8(pb, s->comment, sizeof(s->comment));
222         }
223     }
224     return 0;
225 }
226
227 int
228 ff_rm_read_mdpr_codecdata (AVFormatContext *s, ByteIOContext *pb,
229                            AVStream *st, RMStream *rst, int codec_data_size)
230 {
231     unsigned int v;
232     int size;
233     int64_t codec_pos;
234
235     av_set_pts_info(st, 64, 1, 1000);
236     codec_pos = url_ftell(pb);
237     v = get_be32(pb);
238     if (v == MKTAG(0xfd, 'a', 'r', '.')) {
239         /* ra type header */
240         if (rm_read_audio_stream_info(s, pb, st, rst, 0))
241             return -1;
242     } else {
243         int fps, fps2;
244         if (get_le32(pb) != MKTAG('V', 'I', 'D', 'O')) {
245         fail1:
246             av_log(st->codec, AV_LOG_ERROR, "Unsupported video codec\n");
247             goto skip;
248         }
249         st->codec->codec_tag = get_le32(pb);
250 //        av_log(NULL, AV_LOG_DEBUG, "%X %X\n", st->codec->codec_tag, MKTAG('R', 'V', '2', '0'));
251         if (   st->codec->codec_tag != MKTAG('R', 'V', '1', '0')
252             && st->codec->codec_tag != MKTAG('R', 'V', '2', '0')
253             && st->codec->codec_tag != MKTAG('R', 'V', '3', '0')
254             && st->codec->codec_tag != MKTAG('R', 'V', '4', '0')
255             && st->codec->codec_tag != MKTAG('R', 'V', 'T', 'R'))
256             goto fail1;
257         st->codec->width = get_be16(pb);
258         st->codec->height = get_be16(pb);
259         st->codec->time_base.num= 1;
260         fps= get_be16(pb);
261         st->codec->codec_type = CODEC_TYPE_VIDEO;
262         get_be32(pb);
263         fps2= get_be16(pb);
264         get_be16(pb);
265
266         st->codec->extradata_size= codec_data_size - (url_ftell(pb) - codec_pos);
267
268         if(st->codec->extradata_size + FF_INPUT_BUFFER_PADDING_SIZE <= (unsigned)st->codec->extradata_size){
269             //check is redundant as get_buffer() will catch this
270             av_log(s, AV_LOG_ERROR, "st->codec->extradata_size too large\n");
271             return -1;
272         }
273         st->codec->extradata= av_mallocz(st->codec->extradata_size + FF_INPUT_BUFFER_PADDING_SIZE);
274         if (!st->codec->extradata)
275             return AVERROR(ENOMEM);
276         get_buffer(pb, st->codec->extradata, st->codec->extradata_size);
277
278 //        av_log(NULL, AV_LOG_DEBUG, "fps= %d fps2= %d\n", fps, fps2);
279         st->codec->time_base.den = fps * st->codec->time_base.num;
280         switch(((uint8_t*)st->codec->extradata)[4]>>4){
281         case 1: st->codec->codec_id = CODEC_ID_RV10; break;
282         case 2: st->codec->codec_id = CODEC_ID_RV20; break;
283         case 3: st->codec->codec_id = CODEC_ID_RV30; break;
284         case 4: st->codec->codec_id = CODEC_ID_RV40; break;
285         default: goto fail1;
286         }
287     }
288
289 skip:
290     /* skip codec info */
291     size = url_ftell(pb) - codec_pos;
292     url_fskip(pb, codec_data_size - size);
293
294     return 0;
295 }
296
297
298 static int rm_read_header_old(AVFormatContext *s, AVFormatParameters *ap)
299 {
300     RMDemuxContext *rm = s->priv_data;
301     AVStream *st;
302
303     rm->old_format = 1;
304     st = av_new_stream(s, 0);
305     if (!st)
306         return -1;
307     st->priv_data = ff_rm_alloc_rmstream();
308     return rm_read_audio_stream_info(s, s->pb, st, st->priv_data, 1);
309 }
310
311 static int rm_read_header(AVFormatContext *s, AVFormatParameters *ap)
312 {
313     RMDemuxContext *rm = s->priv_data;
314     AVStream *st;
315     ByteIOContext *pb = s->pb;
316     unsigned int tag;
317     int tag_size;
318     unsigned int start_time, duration;
319     char buf[128];
320     int flags = 0;
321
322     tag = get_le32(pb);
323     if (tag == MKTAG('.', 'r', 'a', 0xfd)) {
324         /* very old .ra format */
325         return rm_read_header_old(s, ap);
326     } else if (tag != MKTAG('.', 'R', 'M', 'F')) {
327         return AVERROR(EIO);
328     }
329
330     get_be32(pb); /* header size */
331     get_be16(pb);
332     get_be32(pb);
333     get_be32(pb); /* number of headers */
334
335     for(;;) {
336         if (url_feof(pb))
337             return -1;
338         tag = get_le32(pb);
339         tag_size = get_be32(pb);
340         get_be16(pb);
341 #if 0
342         printf("tag=%c%c%c%c (%08x) size=%d\n",
343                (tag) & 0xff,
344                (tag >> 8) & 0xff,
345                (tag >> 16) & 0xff,
346                (tag >> 24) & 0xff,
347                tag,
348                tag_size);
349 #endif
350         if (tag_size < 10 && tag != MKTAG('D', 'A', 'T', 'A'))
351             return -1;
352         switch(tag) {
353         case MKTAG('P', 'R', 'O', 'P'):
354             /* file header */
355             get_be32(pb); /* max bit rate */
356             get_be32(pb); /* avg bit rate */
357             get_be32(pb); /* max packet size */
358             get_be32(pb); /* avg packet size */
359             get_be32(pb); /* nb packets */
360             get_be32(pb); /* duration */
361             get_be32(pb); /* preroll */
362             get_be32(pb); /* index offset */
363             get_be32(pb); /* data offset */
364             get_be16(pb); /* nb streams */
365             flags = get_be16(pb); /* flags */
366             break;
367         case MKTAG('C', 'O', 'N', 'T'):
368             get_str16(pb, s->title, sizeof(s->title));
369             get_str16(pb, s->author, sizeof(s->author));
370             get_str16(pb, s->copyright, sizeof(s->copyright));
371             get_str16(pb, s->comment, sizeof(s->comment));
372             break;
373         case MKTAG('M', 'D', 'P', 'R'):
374             st = av_new_stream(s, 0);
375             if (!st)
376                 return AVERROR(ENOMEM);
377             st->id = get_be16(pb);
378             get_be32(pb); /* max bit rate */
379             st->codec->bit_rate = get_be32(pb); /* bit rate */
380             get_be32(pb); /* max packet size */
381             get_be32(pb); /* avg packet size */
382             start_time = get_be32(pb); /* start time */
383             get_be32(pb); /* preroll */
384             duration = get_be32(pb); /* duration */
385             st->start_time = start_time;
386             st->duration = duration;
387             get_str8(pb, buf, sizeof(buf)); /* desc */
388             get_str8(pb, buf, sizeof(buf)); /* mimetype */
389             st->codec->codec_type = CODEC_TYPE_DATA;
390             st->priv_data = ff_rm_alloc_rmstream();
391             if (ff_rm_read_mdpr_codecdata(s, s->pb, st, st->priv_data,
392                                           get_be32(pb)) < 0)
393                 return -1;
394             break;
395         case MKTAG('D', 'A', 'T', 'A'):
396             goto header_end;
397         default:
398             /* unknown tag: skip it */
399             url_fskip(pb, tag_size - 10);
400             break;
401         }
402     }
403  header_end:
404     rm->nb_packets = get_be32(pb); /* number of packets */
405     if (!rm->nb_packets && (flags & 4))
406         rm->nb_packets = 3600 * 25;
407     get_be32(pb); /* next data header */
408     return 0;
409 }
410
411 static int get_num(ByteIOContext *pb, int *len)
412 {
413     int n, n1;
414
415     n = get_be16(pb);
416     (*len)-=2;
417     n &= 0x7FFF;
418     if (n >= 0x4000) {
419         return n - 0x4000;
420     } else {
421         n1 = get_be16(pb);
422         (*len)-=2;
423         return (n << 16) | n1;
424     }
425 }
426
427 /* multiple of 20 bytes for ra144 (ugly) */
428 #define RAW_PACKET_SIZE 1000
429
430 static int sync(AVFormatContext *s, int64_t *timestamp, int *flags, int *stream_index, int64_t *pos){
431     RMDemuxContext *rm = s->priv_data;
432     ByteIOContext *pb = s->pb;
433     int len, num, res, i;
434     AVStream *st;
435     uint32_t state=0xFFFFFFFF;
436
437     while(!url_feof(pb)){
438         *pos= url_ftell(pb) - 3;
439         if(rm->remaining_len > 0){
440             num= rm->current_stream;
441             len= rm->remaining_len;
442             *timestamp = AV_NOPTS_VALUE;
443             *flags= 0;
444         }else{
445             state= (state<<8) + get_byte(pb);
446
447             if(state == MKBETAG('I', 'N', 'D', 'X')){
448                 len = get_be16(pb) - 6;
449                 if(len<0)
450                     continue;
451                 goto skip;
452             }
453
454             if(state > (unsigned)0xFFFF || state < 12)
455                 continue;
456             len=state;
457             state= 0xFFFFFFFF;
458
459             num = get_be16(pb);
460             *timestamp = get_be32(pb);
461             res= get_byte(pb); /* reserved */
462             *flags = get_byte(pb); /* flags */
463
464
465             len -= 12;
466         }
467         for(i=0;i<s->nb_streams;i++) {
468             st = s->streams[i];
469             if (num == st->id)
470                 break;
471         }
472         if (i == s->nb_streams) {
473 skip:
474             /* skip packet if unknown number */
475             url_fskip(pb, len);
476             rm->remaining_len -= len;
477             continue;
478         }
479         *stream_index= i;
480
481         return len;
482     }
483     return -1;
484 }
485
486 static int rm_assemble_video_frame(AVFormatContext *s, ByteIOContext *pb,
487                                    RMDemuxContext *rm, RMStream *vst,
488                                    AVPacket *pkt, int len)
489 {
490     int hdr, seq, pic_num, len2, pos;
491     int type;
492
493     hdr = get_byte(pb); len--;
494     type = hdr >> 6;
495     switch(type){
496     case 0: // slice
497     case 2: // last slice
498         seq = get_byte(pb); len--;
499         len2 = get_num(pb, &len);
500         pos = get_num(pb, &len);
501         pic_num = get_byte(pb); len--;
502         rm->remaining_len = len;
503         break;
504     case 1: //whole frame
505         seq = get_byte(pb); len--;
506         if(av_new_packet(pkt, len + 9) < 0)
507             return AVERROR(EIO);
508         pkt->data[0] = 0;
509         AV_WL32(pkt->data + 1, 1);
510         AV_WL32(pkt->data + 5, 0);
511         get_buffer(pb, pkt->data + 9, len);
512         rm->remaining_len = 0;
513         return 0;
514     case 3: //frame as a part of packet
515         len2 = get_num(pb, &len);
516         pos = get_num(pb, &len);
517         pic_num = get_byte(pb); len--;
518         rm->remaining_len = len - len2;
519         if(av_new_packet(pkt, len2 + 9) < 0)
520             return AVERROR(EIO);
521         pkt->data[0] = 0;
522         AV_WL32(pkt->data + 1, 1);
523         AV_WL32(pkt->data + 5, 0);
524         get_buffer(pb, pkt->data + 9, len2);
525         return 0;
526     }
527     //now we have to deal with single slice
528
529     if((seq & 0x7F) == 1 || vst->curpic_num != pic_num){
530         vst->slices = ((hdr & 0x3F) << 1) + 1;
531         vst->videobufsize = len2 + 8*vst->slices + 1;
532         av_free(vst->videobuf);
533         if(!(vst->videobuf = av_malloc(vst->videobufsize)))
534             return AVERROR(ENOMEM);
535         vst->videobufpos = 8*vst->slices + 1;
536         vst->cur_slice = 0;
537         vst->curpic_num = pic_num;
538         vst->pktpos = url_ftell(pb);
539     }
540     if(type == 2)
541         len = FFMIN(len, pos);
542
543     if(++vst->cur_slice > vst->slices)
544         return 1;
545     AV_WL32(vst->videobuf - 7 + 8*vst->cur_slice, 1);
546     AV_WL32(vst->videobuf - 3 + 8*vst->cur_slice, vst->videobufpos - 8*vst->slices - 1);
547     if(vst->videobufpos + len > vst->videobufsize)
548         return 1;
549     if (get_buffer(pb, vst->videobuf + vst->videobufpos, len) != len)
550         return AVERROR(EIO);
551     vst->videobufpos += len;
552     rm->remaining_len-= len;
553
554     if(type == 2 || (vst->videobufpos) == vst->videobufsize){
555          vst->videobuf[0] = vst->cur_slice-1;
556          if(av_new_packet(pkt, vst->videobufpos - 8*(vst->slices - vst->cur_slice)) < 0)
557              return AVERROR(ENOMEM);
558          memcpy(pkt->data, vst->videobuf, 1 + 8*vst->cur_slice);
559          memcpy(pkt->data + 1 + 8*vst->cur_slice, vst->videobuf + 1 + 8*vst->slices,
560                 vst->videobufpos - 1 - 8*vst->slices);
561          pkt->pts = AV_NOPTS_VALUE;
562          pkt->pos = vst->pktpos;
563          return 0;
564     }
565
566     return 1;
567 }
568
569 static inline void
570 rm_ac3_swap_bytes (AVStream *st, AVPacket *pkt)
571 {
572     uint8_t *ptr;
573     int j;
574
575     if (st->codec->codec_id == CODEC_ID_AC3) {
576         ptr = pkt->data;
577         for (j=0;j<pkt->size;j+=2) {
578             FFSWAP(int, ptr[0], ptr[1]);
579             ptr += 2;
580         }
581     }
582 }
583
584 int
585 ff_rm_parse_packet (AVFormatContext *s, ByteIOContext *pb,
586                     AVStream *st, RMStream *ast, int len, AVPacket *pkt,
587                     int *seq, int *flags, int64_t *timestamp)
588 {
589     RMDemuxContext *rm = s->priv_data;
590
591     if (st->codec->codec_type == CODEC_TYPE_VIDEO) {
592         rm->current_stream= st->id;
593         if(rm_assemble_video_frame(s, pb, rm, ast, pkt, len))
594             return -1; //got partial frame
595     } else if (st->codec->codec_type == CODEC_TYPE_AUDIO) {
596         if ((st->codec->codec_id == CODEC_ID_RA_288) ||
597             (st->codec->codec_id == CODEC_ID_COOK) ||
598             (st->codec->codec_id == CODEC_ID_ATRAC3) ||
599             (st->codec->codec_id == CODEC_ID_SIPR)) {
600             int x;
601             int sps = ast->sub_packet_size;
602             int cfs = ast->coded_framesize;
603             int h = ast->sub_packet_h;
604             int y = ast->sub_packet_cnt;
605             int w = ast->audio_framesize;
606
607             if (*flags & 2)
608                 y = ast->sub_packet_cnt = 0;
609             if (!y)
610                 ast->audiotimestamp = *timestamp;
611
612             switch(st->codec->codec_id) {
613                 case CODEC_ID_RA_288:
614                     for (x = 0; x < h/2; x++)
615                         get_buffer(pb, ast->audiobuf+x*2*w+y*cfs, cfs);
616                     break;
617                 case CODEC_ID_ATRAC3:
618                 case CODEC_ID_COOK:
619                     for (x = 0; x < w/sps; x++)
620                         get_buffer(pb, ast->audiobuf+sps*(h*x+((h+1)/2)*(y&1)+(y>>1)), sps);
621                     break;
622             }
623
624             if (++(ast->sub_packet_cnt) < h)
625                 return -1;
626             else {
627                 ast->sub_packet_cnt = 0;
628                 rm->audio_stream_num = st->index;
629                 rm->audio_pkt_cnt = h * w / st->codec->block_align - 1;
630                 // Release first audio packet
631                 av_new_packet(pkt, st->codec->block_align);
632                 memcpy(pkt->data, ast->audiobuf, st->codec->block_align);
633                 *timestamp = ast->audiotimestamp;
634                 *flags = 2; // Mark first packet as keyframe
635             }
636         } else if (st->codec->codec_id == CODEC_ID_AAC) {
637             int x;
638             rm->audio_stream_num = st->index;
639             ast->sub_packet_cnt = (get_be16(pb) & 0xf0) >> 4;
640             if (ast->sub_packet_cnt) {
641                 for (x = 0; x < ast->sub_packet_cnt; x++)
642                     ast->sub_packet_lengths[x] = get_be16(pb);
643                 // Release first audio packet
644                 rm->audio_pkt_cnt = ast->sub_packet_cnt - 1;
645                 av_get_packet(pb, pkt, ast->sub_packet_lengths[0]);
646                 *flags = 2; // Mark first packet as keyframe
647             }
648         } else {
649             av_get_packet(pb, pkt, len);
650             rm_ac3_swap_bytes(st, pkt);
651         }
652     } else
653         av_get_packet(pb, pkt, len);
654
655     if(  (st->discard >= AVDISCARD_NONKEY && !(*flags&2))
656        || st->discard >= AVDISCARD_ALL){
657         av_free_packet(pkt);
658         return -1;
659     }
660
661     pkt->stream_index = st->index;
662
663 #if 0
664     if (st->codec->codec_type == CODEC_TYPE_VIDEO) {
665         if(st->codec->codec_id == CODEC_ID_RV20){
666             int seq= 128*(pkt->data[2]&0x7F) + (pkt->data[3]>>1);
667             av_log(NULL, AV_LOG_DEBUG, "%d %"PRId64" %d\n", *timestamp, *timestamp*512LL/25, seq);
668
669             seq |= (*timestamp&~0x3FFF);
670             if(seq - *timestamp >  0x2000) seq -= 0x4000;
671             if(seq - *timestamp < -0x2000) seq += 0x4000;
672         }
673     }
674 #endif
675
676     pkt->pts= *timestamp;
677     if (*flags & 2)
678         pkt->flags |= PKT_FLAG_KEY;
679
680     return st->codec->codec_type == CODEC_TYPE_AUDIO ? rm->audio_pkt_cnt : 0;
681 }
682
683 int
684 ff_rm_retrieve_cache (AVFormatContext *s, ByteIOContext *pb,
685                       AVStream *st, RMStream *ast, AVPacket *pkt)
686 {
687     RMDemuxContext *rm = s->priv_data;
688
689     assert (rm->audio_pkt_cnt > 0);
690
691     if (st->codec->codec_id == CODEC_ID_AAC)
692         av_get_packet(pb, pkt, ast->sub_packet_lengths[ast->sub_packet_cnt - rm->audio_pkt_cnt]);
693     else {
694         av_new_packet(pkt, st->codec->block_align);
695         memcpy(pkt->data, ast->audiobuf + st->codec->block_align *
696                (ast->sub_packet_h * ast->audio_framesize / st->codec->block_align - rm->audio_pkt_cnt),
697                st->codec->block_align);
698     }
699     rm->audio_pkt_cnt--;
700     pkt->flags = 0;
701     pkt->stream_index = st->index;
702
703     return rm->audio_pkt_cnt;
704 }
705
706 static int rm_read_packet(AVFormatContext *s, AVPacket *pkt)
707 {
708     RMDemuxContext *rm = s->priv_data;
709     ByteIOContext *pb = s->pb;
710     AVStream *st;
711     int i, len;
712     int64_t timestamp, pos;
713     int flags;
714
715     if (rm->audio_pkt_cnt) {
716         // If there are queued audio packet return them first
717         st = s->streams[rm->audio_stream_num];
718         ff_rm_retrieve_cache(s, s->pb, st, st->priv_data, pkt);
719     } else if (rm->old_format) {
720         RMStream *ast;
721
722         st = s->streams[0];
723         ast = st->priv_data;
724         if (st->codec->codec_id == CODEC_ID_RA_288) {
725             int x, y;
726
727             for (y = 0; y < ast->sub_packet_h; y++)
728                 for (x = 0; x < ast->sub_packet_h/2; x++)
729                     if (get_buffer(pb, ast->audiobuf+x*2*ast->audio_framesize+y*ast->coded_framesize, ast->coded_framesize) <= 0)
730                         return AVERROR(EIO);
731             rm->audio_stream_num = 0;
732             rm->audio_pkt_cnt = ast->sub_packet_h * ast->audio_framesize / st->codec->block_align - 1;
733             // Release first audio packet
734             av_new_packet(pkt, st->codec->block_align);
735             memcpy(pkt->data, ast->audiobuf, st->codec->block_align);
736             pkt->flags |= PKT_FLAG_KEY; // Mark first packet as keyframe
737             pkt->stream_index = 0;
738         } else {
739             /* just read raw bytes */
740             len = RAW_PACKET_SIZE;
741             len= av_get_packet(pb, pkt, len);
742             pkt->stream_index = 0;
743             if (len <= 0) {
744                 return AVERROR(EIO);
745             }
746             pkt->size = len;
747         }
748         rm_ac3_swap_bytes(st, pkt);
749     } else {
750         int seq=1;
751 resync:
752         len=sync(s, &timestamp, &flags, &i, &pos);
753         if(len<0)
754             return AVERROR(EIO);
755         st = s->streams[i];
756
757         if (ff_rm_parse_packet (s, s->pb, st, st->priv_data, len, pkt,
758                                 &seq, &flags, &timestamp) < 0)
759             goto resync;
760
761         if((flags&2) && (seq&0x7F) == 1)
762             av_add_index_entry(st, pos, timestamp, 0, 0, AVINDEX_KEYFRAME);
763     }
764
765     return 0;
766 }
767
768 static int rm_read_close(AVFormatContext *s)
769 {
770     int i;
771
772     for (i=0;i<s->nb_streams;i++)
773         ff_rm_free_rmstream(s->streams[i]->priv_data);
774
775     return 0;
776 }
777
778 static int rm_probe(AVProbeData *p)
779 {
780     /* check file header */
781     if ((p->buf[0] == '.' && p->buf[1] == 'R' &&
782          p->buf[2] == 'M' && p->buf[3] == 'F' &&
783          p->buf[4] == 0 && p->buf[5] == 0) ||
784         (p->buf[0] == '.' && p->buf[1] == 'r' &&
785          p->buf[2] == 'a' && p->buf[3] == 0xfd))
786         return AVPROBE_SCORE_MAX;
787     else
788         return 0;
789 }
790
791 static int64_t rm_read_dts(AVFormatContext *s, int stream_index,
792                                int64_t *ppos, int64_t pos_limit)
793 {
794     RMDemuxContext *rm = s->priv_data;
795     int64_t pos, dts;
796     int stream_index2, flags, len, h;
797
798     pos = *ppos;
799
800     if(rm->old_format)
801         return AV_NOPTS_VALUE;
802
803     url_fseek(s->pb, pos, SEEK_SET);
804     rm->remaining_len=0;
805     for(;;){
806         int seq=1;
807         AVStream *st;
808
809         len=sync(s, &dts, &flags, &stream_index2, &pos);
810         if(len<0)
811             return AV_NOPTS_VALUE;
812
813         st = s->streams[stream_index2];
814         if (st->codec->codec_type == CODEC_TYPE_VIDEO) {
815             h= get_byte(s->pb); len--;
816             if(!(h & 0x40)){
817                 seq = get_byte(s->pb); len--;
818             }
819         }
820
821         if((flags&2) && (seq&0x7F) == 1){
822 //            av_log(s, AV_LOG_DEBUG, "%d %d-%d %"PRId64" %d\n", flags, stream_index2, stream_index, dts, seq);
823             av_add_index_entry(st, pos, dts, 0, 0, AVINDEX_KEYFRAME);
824             if(stream_index2 == stream_index)
825                 break;
826         }
827
828         url_fskip(s->pb, len);
829     }
830     *ppos = pos;
831     return dts;
832 }
833
834 AVInputFormat rm_demuxer = {
835     "rm",
836     NULL_IF_CONFIG_SMALL("RM format"),
837     sizeof(RMDemuxContext),
838     rm_probe,
839     rm_read_header,
840     rm_read_packet,
841     rm_read_close,
842     NULL,
843     rm_read_dts,
844 };
845
846 AVInputFormat rdt_demuxer = {
847     "rdt",
848     NULL_IF_CONFIG_SMALL("RDT demuxer"),
849     sizeof(RMDemuxContext),
850     NULL, NULL, NULL, rm_read_close, NULL, NULL
851 };