sanity checks some might have been exploitable
[ffmpeg.git] / libavformat / rm.c
1 /*
2  * "Real" compatible mux and demux.
3  * Copyright (c) 2000, 2001 Fabrice Bellard.
4  *
5  * This library is free software; you can redistribute it and/or
6  * modify it under the terms of the GNU Lesser General Public
7  * License as published by the Free Software Foundation; either
8  * version 2 of the License, or (at your option) any later version.
9  *
10  * This library is distributed in the hope that it will be useful,
11  * but WITHOUT ANY WARRANTY; without even the implied warranty of
12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13  * Lesser General Public License for more details.
14  *
15  * You should have received a copy of the GNU Lesser General Public
16  * License along with this library; if not, write to the Free Software
17  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
18  */
19 #include "avformat.h"
20
21 /* in ms */
22 #define BUFFER_DURATION 0
23
24 typedef struct {
25     int nb_packets;
26     int packet_total_size;
27     int packet_max_size;
28     /* codec related output */
29     int bit_rate;
30     float frame_rate;
31     int nb_frames;    /* current frame number */
32     int total_frames; /* total number of frames */
33     int num;
34     AVCodecContext *enc;
35 } StreamInfo;
36
37 typedef struct {
38     StreamInfo streams[2];
39     StreamInfo *audio_stream, *video_stream;
40     int data_pos; /* position of the data after the header */
41     int nb_packets;
42     int old_format;
43     int current_stream;
44     int remaining_len;
45     /// Audio descrambling matrix parameters
46     uint8_t *audiobuf; ///< place to store reordered audio data
47     int64_t audiotimestamp; ///< Audio packet timestamp
48     int sub_packet_cnt; // Subpacket counter, used while reading
49     int sub_packet_size, sub_packet_h, coded_framesize; ///< Descrambling parameters from container
50     int audio_stream_num; ///< Stream number for audio packets
51     int audio_pkt_cnt; ///< Output packet counter
52     int audio_framesize; /// Audio frame size from container
53 } RMContext;
54
55 #ifdef CONFIG_MUXERS
56 static void put_str(ByteIOContext *s, const char *tag)
57 {
58     put_be16(s,strlen(tag));
59     while (*tag) {
60         put_byte(s, *tag++);
61     }
62 }
63
64 static void put_str8(ByteIOContext *s, const char *tag)
65 {
66     put_byte(s, strlen(tag));
67     while (*tag) {
68         put_byte(s, *tag++);
69     }
70 }
71
72 static void rv10_write_header(AVFormatContext *ctx,
73                               int data_size, int index_pos)
74 {
75     RMContext *rm = ctx->priv_data;
76     ByteIOContext *s = &ctx->pb;
77     StreamInfo *stream;
78     unsigned char *data_offset_ptr, *start_ptr;
79     const char *desc, *mimetype;
80     int nb_packets, packet_total_size, packet_max_size, size, packet_avg_size, i;
81     int bit_rate, v, duration, flags, data_pos;
82
83     start_ptr = s->buf_ptr;
84
85     put_tag(s, ".RMF");
86     put_be32(s,18); /* header size */
87     put_be16(s,0);
88     put_be32(s,0);
89     put_be32(s,4 + ctx->nb_streams); /* num headers */
90
91     put_tag(s,"PROP");
92     put_be32(s, 50);
93     put_be16(s, 0);
94     packet_max_size = 0;
95     packet_total_size = 0;
96     nb_packets = 0;
97     bit_rate = 0;
98     duration = 0;
99     for(i=0;i<ctx->nb_streams;i++) {
100         StreamInfo *stream = &rm->streams[i];
101         bit_rate += stream->bit_rate;
102         if (stream->packet_max_size > packet_max_size)
103             packet_max_size = stream->packet_max_size;
104         nb_packets += stream->nb_packets;
105         packet_total_size += stream->packet_total_size;
106         /* select maximum duration */
107         v = (int) (1000.0 * (float)stream->total_frames / stream->frame_rate);
108         if (v > duration)
109             duration = v;
110     }
111     put_be32(s, bit_rate); /* max bit rate */
112     put_be32(s, bit_rate); /* avg bit rate */
113     put_be32(s, packet_max_size);        /* max packet size */
114     if (nb_packets > 0)
115         packet_avg_size = packet_total_size / nb_packets;
116     else
117         packet_avg_size = 0;
118     put_be32(s, packet_avg_size);        /* avg packet size */
119     put_be32(s, nb_packets);  /* num packets */
120     put_be32(s, duration); /* duration */
121     put_be32(s, BUFFER_DURATION);           /* preroll */
122     put_be32(s, index_pos);           /* index offset */
123     /* computation of data the data offset */
124     data_offset_ptr = s->buf_ptr;
125     put_be32(s, 0);           /* data offset : will be patched after */
126     put_be16(s, ctx->nb_streams);    /* num streams */
127     flags = 1 | 2; /* save allowed & perfect play */
128     if (url_is_streamed(s))
129         flags |= 4; /* live broadcast */
130     put_be16(s, flags);
131
132     /* comments */
133
134     put_tag(s,"CONT");
135     size = strlen(ctx->title) + strlen(ctx->author) + strlen(ctx->copyright) +
136         strlen(ctx->comment) + 4 * 2 + 10;
137     put_be32(s,size);
138     put_be16(s,0);
139     put_str(s, ctx->title);
140     put_str(s, ctx->author);
141     put_str(s, ctx->copyright);
142     put_str(s, ctx->comment);
143
144     for(i=0;i<ctx->nb_streams;i++) {
145         int codec_data_size;
146
147         stream = &rm->streams[i];
148
149         if (stream->enc->codec_type == CODEC_TYPE_AUDIO) {
150             desc = "The Audio Stream";
151             mimetype = "audio/x-pn-realaudio";
152             codec_data_size = 73;
153         } else {
154             desc = "The Video Stream";
155             mimetype = "video/x-pn-realvideo";
156             codec_data_size = 34;
157         }
158
159         put_tag(s,"MDPR");
160         size = 10 + 9 * 4 + strlen(desc) + strlen(mimetype) + codec_data_size;
161         put_be32(s, size);
162         put_be16(s, 0);
163
164         put_be16(s, i); /* stream number */
165         put_be32(s, stream->bit_rate); /* max bit rate */
166         put_be32(s, stream->bit_rate); /* avg bit rate */
167         put_be32(s, stream->packet_max_size);        /* max packet size */
168         if (stream->nb_packets > 0)
169             packet_avg_size = stream->packet_total_size /
170                 stream->nb_packets;
171         else
172             packet_avg_size = 0;
173         put_be32(s, packet_avg_size);        /* avg packet size */
174         put_be32(s, 0);           /* start time */
175         put_be32(s, BUFFER_DURATION);           /* preroll */
176         /* duration */
177         if (url_is_streamed(s) || !stream->total_frames)
178             put_be32(s, (int)(3600 * 1000));
179         else
180             put_be32(s, (int)(stream->total_frames * 1000 / stream->frame_rate));
181         put_str8(s, desc);
182         put_str8(s, mimetype);
183         put_be32(s, codec_data_size);
184
185         if (stream->enc->codec_type == CODEC_TYPE_AUDIO) {
186             int coded_frame_size, fscode, sample_rate;
187             sample_rate = stream->enc->sample_rate;
188             coded_frame_size = (stream->enc->bit_rate *
189                                 stream->enc->frame_size) / (8 * sample_rate);
190             /* audio codec info */
191             put_tag(s, ".ra");
192             put_byte(s, 0xfd);
193             put_be32(s, 0x00040000); /* version */
194             put_tag(s, ".ra4");
195             put_be32(s, 0x01b53530); /* stream length */
196             put_be16(s, 4); /* unknown */
197             put_be32(s, 0x39); /* header size */
198
199             switch(sample_rate) {
200             case 48000:
201             case 24000:
202             case 12000:
203                 fscode = 1;
204                 break;
205             default:
206             case 44100:
207             case 22050:
208             case 11025:
209                 fscode = 2;
210                 break;
211             case 32000:
212             case 16000:
213             case 8000:
214                 fscode = 3;
215             }
216             put_be16(s, fscode); /* codec additional info, for AC3, seems
217                                      to be a frequency code */
218             /* special hack to compensate rounding errors... */
219             if (coded_frame_size == 557)
220                 coded_frame_size--;
221             put_be32(s, coded_frame_size); /* frame length */
222             put_be32(s, 0x51540); /* unknown */
223             put_be32(s, 0x249f0); /* unknown */
224             put_be32(s, 0x249f0); /* unknown */
225             put_be16(s, 0x01);
226             /* frame length : seems to be very important */
227             put_be16(s, coded_frame_size);
228             put_be32(s, 0); /* unknown */
229             put_be16(s, stream->enc->sample_rate); /* sample rate */
230             put_be32(s, 0x10); /* unknown */
231             put_be16(s, stream->enc->channels);
232             put_str8(s, "Int0"); /* codec name */
233             put_str8(s, "dnet"); /* codec name */
234             put_be16(s, 0); /* title length */
235             put_be16(s, 0); /* author length */
236             put_be16(s, 0); /* copyright length */
237             put_byte(s, 0); /* end of header */
238         } else {
239             /* video codec info */
240             put_be32(s,34); /* size */
241             if(stream->enc->codec_id == CODEC_ID_RV10)
242                 put_tag(s,"VIDORV10");
243             else
244                 put_tag(s,"VIDORV20");
245             put_be16(s, stream->enc->width);
246             put_be16(s, stream->enc->height);
247             put_be16(s, (int) stream->frame_rate); /* frames per seconds ? */
248             put_be32(s,0);     /* unknown meaning */
249             put_be16(s, (int) stream->frame_rate);  /* unknown meaning */
250             put_be32(s,0);     /* unknown meaning */
251             put_be16(s, 8);    /* unknown meaning */
252             /* Seems to be the codec version: only use basic H263. The next
253                versions seems to add a diffential DC coding as in
254                MPEG... nothing new under the sun */
255             if(stream->enc->codec_id == CODEC_ID_RV10)
256                 put_be32(s,0x10000000);
257             else
258                 put_be32(s,0x20103001);
259             //put_be32(s,0x10003000);
260         }
261     }
262
263     /* patch data offset field */
264     data_pos = s->buf_ptr - start_ptr;
265     rm->data_pos = data_pos;
266     data_offset_ptr[0] = data_pos >> 24;
267     data_offset_ptr[1] = data_pos >> 16;
268     data_offset_ptr[2] = data_pos >> 8;
269     data_offset_ptr[3] = data_pos;
270
271     /* data stream */
272     put_tag(s,"DATA");
273     put_be32(s,data_size + 10 + 8);
274     put_be16(s,0);
275
276     put_be32(s, nb_packets); /* number of packets */
277     put_be32(s,0); /* next data header */
278 }
279
280 static void write_packet_header(AVFormatContext *ctx, StreamInfo *stream,
281                                 int length, int key_frame)
282 {
283     int timestamp;
284     ByteIOContext *s = &ctx->pb;
285
286     stream->nb_packets++;
287     stream->packet_total_size += length;
288     if (length > stream->packet_max_size)
289         stream->packet_max_size =  length;
290
291     put_be16(s,0); /* version */
292     put_be16(s,length + 12);
293     put_be16(s, stream->num); /* stream number */
294     timestamp = (1000 * (float)stream->nb_frames) / stream->frame_rate;
295     put_be32(s, timestamp); /* timestamp */
296     put_byte(s, 0); /* reserved */
297     put_byte(s, key_frame ? 2 : 0); /* flags */
298 }
299
300 static int rm_write_header(AVFormatContext *s)
301 {
302     RMContext *rm = s->priv_data;
303     StreamInfo *stream;
304     int n;
305     AVCodecContext *codec;
306
307     for(n=0;n<s->nb_streams;n++) {
308         s->streams[n]->id = n;
309         codec = s->streams[n]->codec;
310         stream = &rm->streams[n];
311         memset(stream, 0, sizeof(StreamInfo));
312         stream->num = n;
313         stream->bit_rate = codec->bit_rate;
314         stream->enc = codec;
315
316         switch(codec->codec_type) {
317         case CODEC_TYPE_AUDIO:
318             rm->audio_stream = stream;
319             stream->frame_rate = (float)codec->sample_rate / (float)codec->frame_size;
320             /* XXX: dummy values */
321             stream->packet_max_size = 1024;
322             stream->nb_packets = 0;
323             stream->total_frames = stream->nb_packets;
324             break;
325         case CODEC_TYPE_VIDEO:
326             rm->video_stream = stream;
327             stream->frame_rate = (float)codec->time_base.den / (float)codec->time_base.num;
328             /* XXX: dummy values */
329             stream->packet_max_size = 4096;
330             stream->nb_packets = 0;
331             stream->total_frames = stream->nb_packets;
332             break;
333         default:
334             return -1;
335         }
336     }
337
338     rv10_write_header(s, 0, 0);
339     put_flush_packet(&s->pb);
340     return 0;
341 }
342
343 static int rm_write_audio(AVFormatContext *s, const uint8_t *buf, int size, int flags)
344 {
345     uint8_t *buf1;
346     RMContext *rm = s->priv_data;
347     ByteIOContext *pb = &s->pb;
348     StreamInfo *stream = rm->audio_stream;
349     int i;
350
351     /* XXX: suppress this malloc */
352     buf1= (uint8_t*) av_malloc( size * sizeof(uint8_t) );
353
354     write_packet_header(s, stream, size, !!(flags & PKT_FLAG_KEY));
355
356     /* for AC3, the words seems to be reversed */
357     for(i=0;i<size;i+=2) {
358         buf1[i] = buf[i+1];
359         buf1[i+1] = buf[i];
360     }
361     put_buffer(pb, buf1, size);
362     put_flush_packet(pb);
363     stream->nb_frames++;
364     av_free(buf1);
365     return 0;
366 }
367
368 static int rm_write_video(AVFormatContext *s, const uint8_t *buf, int size, int flags)
369 {
370     RMContext *rm = s->priv_data;
371     ByteIOContext *pb = &s->pb;
372     StreamInfo *stream = rm->video_stream;
373     int key_frame = !!(flags & PKT_FLAG_KEY);
374
375     /* XXX: this is incorrect: should be a parameter */
376
377     /* Well, I spent some time finding the meaning of these bits. I am
378        not sure I understood everything, but it works !! */
379 #if 1
380     write_packet_header(s, stream, size + 7, key_frame);
381     /* bit 7: '1' if final packet of a frame converted in several packets */
382     put_byte(pb, 0x81);
383     /* bit 7: '1' if I frame. bits 6..0 : sequence number in current
384        frame starting from 1 */
385     if (key_frame) {
386         put_byte(pb, 0x81);
387     } else {
388         put_byte(pb, 0x01);
389     }
390     put_be16(pb, 0x4000 + (size)); /* total frame size */
391     put_be16(pb, 0x4000 + (size));              /* offset from the start or the end */
392 #else
393     /* full frame */
394     write_packet_header(s, size + 6);
395     put_byte(pb, 0xc0);
396     put_be16(pb, 0x4000 + size); /* total frame size */
397     put_be16(pb, 0x4000 + packet_number * 126); /* position in stream */
398 #endif
399     put_byte(pb, stream->nb_frames & 0xff);
400
401     put_buffer(pb, buf, size);
402     put_flush_packet(pb);
403
404     stream->nb_frames++;
405     return 0;
406 }
407
408 static int rm_write_packet(AVFormatContext *s, AVPacket *pkt)
409 {
410     if (s->streams[pkt->stream_index]->codec->codec_type ==
411         CODEC_TYPE_AUDIO)
412         return rm_write_audio(s, pkt->data, pkt->size, pkt->flags);
413     else
414         return rm_write_video(s, pkt->data, pkt->size, pkt->flags);
415 }
416
417 static int rm_write_trailer(AVFormatContext *s)
418 {
419     RMContext *rm = s->priv_data;
420     int data_size, index_pos, i;
421     ByteIOContext *pb = &s->pb;
422
423     if (!url_is_streamed(&s->pb)) {
424         /* end of file: finish to write header */
425         index_pos = url_fseek(pb, 0, SEEK_CUR);
426         data_size = index_pos - rm->data_pos;
427
428         /* index */
429         put_tag(pb, "INDX");
430         put_be32(pb, 10 + 10 * s->nb_streams);
431         put_be16(pb, 0);
432
433         for(i=0;i<s->nb_streams;i++) {
434             put_be32(pb, 0); /* zero indices */
435             put_be16(pb, i); /* stream number */
436             put_be32(pb, 0); /* next index */
437         }
438         /* undocumented end header */
439         put_be32(pb, 0);
440         put_be32(pb, 0);
441
442         url_fseek(pb, 0, SEEK_SET);
443         for(i=0;i<s->nb_streams;i++)
444             rm->streams[i].total_frames = rm->streams[i].nb_frames;
445         rv10_write_header(s, data_size, index_pos);
446     } else {
447         /* undocumented end header */
448         put_be32(pb, 0);
449         put_be32(pb, 0);
450     }
451     put_flush_packet(pb);
452     return 0;
453 }
454 #endif //CONFIG_MUXERS
455
456 /***************************************************/
457
458 static void get_str(ByteIOContext *pb, char *buf, int buf_size)
459 {
460     int len, i;
461     char *q;
462
463     len = get_be16(pb);
464     q = buf;
465     for(i=0;i<len;i++) {
466         if (i < buf_size - 1)
467             *q++ = get_byte(pb);
468     }
469     *q = '\0';
470 }
471
472 static void get_str8(ByteIOContext *pb, char *buf, int buf_size)
473 {
474     int len, i;
475     char *q;
476
477     len = get_byte(pb);
478     q = buf;
479     for(i=0;i<len;i++) {
480         if (i < buf_size - 1)
481             *q++ = get_byte(pb);
482     }
483     *q = '\0';
484 }
485
486 static void rm_read_audio_stream_info(AVFormatContext *s, AVStream *st,
487                                       int read_all)
488 {
489     RMContext *rm = s->priv_data;
490     ByteIOContext *pb = &s->pb;
491     char buf[256];
492     uint32_t version;
493     int i;
494
495     /* ra type header */
496     version = get_be32(pb); /* version */
497     if (((version >> 16) & 0xff) == 3) {
498         int64_t startpos = url_ftell(pb);
499         /* very old version */
500         for(i = 0; i < 14; i++)
501             get_byte(pb);
502         get_str8(pb, s->title, sizeof(s->title));
503         get_str8(pb, s->author, sizeof(s->author));
504         get_str8(pb, s->copyright, sizeof(s->copyright));
505         get_str8(pb, s->comment, sizeof(s->comment));
506         if ((startpos + (version & 0xffff)) >= url_ftell(pb) + 2) {
507         // fourcc (should always be "lpcJ")
508         get_byte(pb);
509         get_str8(pb, buf, sizeof(buf));
510         }
511         // Skip extra header crap (this should never happen)
512         if ((startpos + (version & 0xffff)) > url_ftell(pb))
513             url_fskip(pb, (version & 0xffff) + startpos - url_ftell(pb));
514         st->codec->sample_rate = 8000;
515         st->codec->channels = 1;
516         st->codec->codec_type = CODEC_TYPE_AUDIO;
517         st->codec->codec_id = CODEC_ID_RA_144;
518     } else {
519         int flavor, sub_packet_h, coded_framesize, sub_packet_size;
520         /* old version (4) */
521         get_be32(pb); /* .ra4 */
522         get_be32(pb); /* data size */
523         get_be16(pb); /* version2 */
524         get_be32(pb); /* header size */
525         flavor= get_be16(pb); /* add codec info / flavor */
526         rm->coded_framesize = coded_framesize = get_be32(pb); /* coded frame size */
527         get_be32(pb); /* ??? */
528         get_be32(pb); /* ??? */
529         get_be32(pb); /* ??? */
530         rm->sub_packet_h = sub_packet_h = get_be16(pb); /* 1 */
531         st->codec->block_align= get_be16(pb); /* frame size */
532         rm->sub_packet_size = sub_packet_size = get_be16(pb); /* sub packet size */
533         get_be16(pb); /* ??? */
534         if (((version >> 16) & 0xff) == 5) {
535             get_be16(pb); get_be16(pb); get_be16(pb); }
536         st->codec->sample_rate = get_be16(pb);
537         get_be32(pb);
538         st->codec->channels = get_be16(pb);
539         if (((version >> 16) & 0xff) == 5) {
540             get_be32(pb);
541             buf[0] = get_byte(pb);
542             buf[1] = get_byte(pb);
543             buf[2] = get_byte(pb);
544             buf[3] = get_byte(pb);
545             buf[4] = 0;
546         } else {
547         get_str8(pb, buf, sizeof(buf)); /* desc */
548         get_str8(pb, buf, sizeof(buf)); /* desc */
549         }
550         st->codec->codec_type = CODEC_TYPE_AUDIO;
551         if (!strcmp(buf, "dnet")) {
552             st->codec->codec_id = CODEC_ID_AC3;
553         } else if (!strcmp(buf, "28_8")) {
554             st->codec->codec_id = CODEC_ID_RA_288;
555             st->codec->extradata_size= 0;
556             rm->audio_framesize = st->codec->block_align;
557             st->codec->block_align = coded_framesize;
558
559             if(rm->audio_framesize >= UINT_MAX / sub_packet_h){
560                 av_log(s, AV_LOG_ERROR, "rm->audio_framesize * sub_packet_h too large\n");
561                 return -1;
562             }
563
564             rm->audiobuf = av_malloc(rm->audio_framesize * sub_packet_h);
565         } else if (!strcmp(buf, "cook")) {
566             int codecdata_length, i;
567             get_be16(pb); get_byte(pb);
568             if (((version >> 16) & 0xff) == 5)
569                 get_byte(pb);
570             codecdata_length = get_be32(pb);
571             if(codecdata_length + FF_INPUT_BUFFER_PADDING_SIZE <= (unsigned)codecdata_length){
572                 av_log(s, AV_LOG_ERROR, "codecdata_length too large\n");
573                 return -1;
574             }
575
576             st->codec->codec_id = CODEC_ID_COOK;
577             st->codec->extradata_size= codecdata_length;
578             st->codec->extradata= av_mallocz(st->codec->extradata_size + FF_INPUT_BUFFER_PADDING_SIZE);
579             for(i = 0; i < codecdata_length; i++)
580                 ((uint8_t*)st->codec->extradata)[i] = get_byte(pb);
581             rm->audio_framesize = st->codec->block_align;
582             st->codec->block_align = rm->sub_packet_size;
583
584             if(rm->audio_framesize >= UINT_MAX / sub_packet_h){
585                 av_log(s, AV_LOG_ERROR, "rm->audio_framesize * sub_packet_h too large\n");
586                 return -1;
587             }
588
589             rm->audiobuf = av_malloc(rm->audio_framesize * sub_packet_h);
590         } else {
591             st->codec->codec_id = CODEC_ID_NONE;
592             pstrcpy(st->codec->codec_name, sizeof(st->codec->codec_name),
593                     buf);
594         }
595         if (read_all) {
596             get_byte(pb);
597             get_byte(pb);
598             get_byte(pb);
599
600             get_str8(pb, s->title, sizeof(s->title));
601             get_str8(pb, s->author, sizeof(s->author));
602             get_str8(pb, s->copyright, sizeof(s->copyright));
603             get_str8(pb, s->comment, sizeof(s->comment));
604         }
605     }
606 }
607
608 static int rm_read_header_old(AVFormatContext *s, AVFormatParameters *ap)
609 {
610     RMContext *rm = s->priv_data;
611     AVStream *st;
612
613     rm->old_format = 1;
614     st = av_new_stream(s, 0);
615     if (!st)
616         goto fail;
617     rm_read_audio_stream_info(s, st, 1);
618     return 0;
619  fail:
620     return -1;
621 }
622
623 static int rm_read_header(AVFormatContext *s, AVFormatParameters *ap)
624 {
625     RMContext *rm = s->priv_data;
626     AVStream *st;
627     ByteIOContext *pb = &s->pb;
628     unsigned int tag, v;
629     int tag_size, size, codec_data_size, i;
630     int64_t codec_pos;
631     unsigned int h263_hack_version, start_time, duration;
632     char buf[128];
633     int flags = 0;
634
635     tag = get_le32(pb);
636     if (tag == MKTAG('.', 'r', 'a', 0xfd)) {
637         /* very old .ra format */
638         return rm_read_header_old(s, ap);
639     } else if (tag != MKTAG('.', 'R', 'M', 'F')) {
640         return AVERROR_IO;
641     }
642
643     get_be32(pb); /* header size */
644     get_be16(pb);
645     get_be32(pb);
646     get_be32(pb); /* number of headers */
647
648     for(;;) {
649         if (url_feof(pb))
650             goto fail;
651         tag = get_le32(pb);
652         tag_size = get_be32(pb);
653         get_be16(pb);
654 #if 0
655         printf("tag=%c%c%c%c (%08x) size=%d\n",
656                (tag) & 0xff,
657                (tag >> 8) & 0xff,
658                (tag >> 16) & 0xff,
659                (tag >> 24) & 0xff,
660                tag,
661                tag_size);
662 #endif
663         if (tag_size < 10 && tag != MKTAG('D', 'A', 'T', 'A'))
664             goto fail;
665         switch(tag) {
666         case MKTAG('P', 'R', 'O', 'P'):
667             /* file header */
668             get_be32(pb); /* max bit rate */
669             get_be32(pb); /* avg bit rate */
670             get_be32(pb); /* max packet size */
671             get_be32(pb); /* avg packet size */
672             get_be32(pb); /* nb packets */
673             get_be32(pb); /* duration */
674             get_be32(pb); /* preroll */
675             get_be32(pb); /* index offset */
676             get_be32(pb); /* data offset */
677             get_be16(pb); /* nb streams */
678             flags = get_be16(pb); /* flags */
679             break;
680         case MKTAG('C', 'O', 'N', 'T'):
681             get_str(pb, s->title, sizeof(s->title));
682             get_str(pb, s->author, sizeof(s->author));
683             get_str(pb, s->copyright, sizeof(s->copyright));
684             get_str(pb, s->comment, sizeof(s->comment));
685             break;
686         case MKTAG('M', 'D', 'P', 'R'):
687             st = av_new_stream(s, 0);
688             if (!st)
689                 goto fail;
690             st->id = get_be16(pb);
691             get_be32(pb); /* max bit rate */
692             st->codec->bit_rate = get_be32(pb); /* bit rate */
693             get_be32(pb); /* max packet size */
694             get_be32(pb); /* avg packet size */
695             start_time = get_be32(pb); /* start time */
696             get_be32(pb); /* preroll */
697             duration = get_be32(pb); /* duration */
698             st->start_time = start_time;
699             st->duration = duration;
700             get_str8(pb, buf, sizeof(buf)); /* desc */
701             get_str8(pb, buf, sizeof(buf)); /* mimetype */
702             codec_data_size = get_be32(pb);
703             codec_pos = url_ftell(pb);
704             st->codec->codec_type = CODEC_TYPE_DATA;
705             av_set_pts_info(st, 64, 1, 1000);
706
707             v = get_be32(pb);
708             if (v == MKTAG(0xfd, 'a', 'r', '.')) {
709                 /* ra type header */
710                 rm_read_audio_stream_info(s, st, 0);
711             } else {
712                 int fps, fps2;
713                 if (get_le32(pb) != MKTAG('V', 'I', 'D', 'O')) {
714                 fail1:
715                     av_log(st->codec, AV_LOG_ERROR, "Unsupported video codec\n");
716                     goto skip;
717                 }
718                 st->codec->codec_tag = get_le32(pb);
719 //                av_log(NULL, AV_LOG_DEBUG, "%X %X\n", st->codec->codec_tag, MKTAG('R', 'V', '2', '0'));
720                 if (   st->codec->codec_tag != MKTAG('R', 'V', '1', '0')
721                     && st->codec->codec_tag != MKTAG('R', 'V', '2', '0')
722                     && st->codec->codec_tag != MKTAG('R', 'V', '3', '0')
723                     && st->codec->codec_tag != MKTAG('R', 'V', '4', '0'))
724                     goto fail1;
725                 st->codec->width = get_be16(pb);
726                 st->codec->height = get_be16(pb);
727                 st->codec->time_base.num= 1;
728                 fps= get_be16(pb);
729                 st->codec->codec_type = CODEC_TYPE_VIDEO;
730                 get_be32(pb);
731                 fps2= get_be16(pb);
732                 get_be16(pb);
733
734                 st->codec->extradata_size= codec_data_size - (url_ftell(pb) - codec_pos);
735
736                 if(st->codec->extradata_size + FF_INPUT_BUFFER_PADDING_SIZE <= (unsigned)st->codec->extradata_size){
737                     //check is redundant as get_buffer() will catch this
738                     av_log(s, AV_LOG_ERROR, "st->codec->extradata_size too large\n");
739                     return -1;
740                 }
741                 st->codec->extradata= av_mallocz(st->codec->extradata_size + FF_INPUT_BUFFER_PADDING_SIZE);
742                 get_buffer(pb, st->codec->extradata, st->codec->extradata_size);
743
744 //                av_log(NULL, AV_LOG_DEBUG, "fps= %d fps2= %d\n", fps, fps2);
745                 st->codec->time_base.den = fps * st->codec->time_base.num;
746                 /* modification of h263 codec version (!) */
747 #ifdef WORDS_BIGENDIAN
748                 h263_hack_version = ((uint32_t*)st->codec->extradata)[1];
749 #else
750                 h263_hack_version = bswap_32(((uint32_t*)st->codec->extradata)[1]);
751 #endif
752                 st->codec->sub_id = h263_hack_version;
753                 switch((h263_hack_version>>28)){
754                 case 1: st->codec->codec_id = CODEC_ID_RV10; break;
755                 case 2: st->codec->codec_id = CODEC_ID_RV20; break;
756                 case 3: st->codec->codec_id = CODEC_ID_RV30; break;
757                 case 4: st->codec->codec_id = CODEC_ID_RV40; break;
758                 default: goto fail1;
759                 }
760             }
761 skip:
762             /* skip codec info */
763             size = url_ftell(pb) - codec_pos;
764             url_fskip(pb, codec_data_size - size);
765             break;
766         case MKTAG('D', 'A', 'T', 'A'):
767             goto header_end;
768         default:
769             /* unknown tag: skip it */
770             url_fskip(pb, tag_size - 10);
771             break;
772         }
773     }
774  header_end:
775     rm->nb_packets = get_be32(pb); /* number of packets */
776     if (!rm->nb_packets && (flags & 4))
777         rm->nb_packets = 3600 * 25;
778     get_be32(pb); /* next data header */
779     return 0;
780
781  fail:
782     for(i=0;i<s->nb_streams;i++) {
783         av_free(s->streams[i]);
784     }
785     return AVERROR_IO;
786 }
787
788 static int get_num(ByteIOContext *pb, int *len)
789 {
790     int n, n1;
791
792     n = get_be16(pb);
793     (*len)-=2;
794     if (n >= 0x4000) {
795         return n - 0x4000;
796     } else {
797         n1 = get_be16(pb);
798         (*len)-=2;
799         return (n << 16) | n1;
800     }
801 }
802
803 /* multiple of 20 bytes for ra144 (ugly) */
804 #define RAW_PACKET_SIZE 1000
805
806 static int sync(AVFormatContext *s, int64_t *timestamp, int *flags, int *stream_index, int64_t *pos){
807     RMContext *rm = s->priv_data;
808     ByteIOContext *pb = &s->pb;
809     int len, num, res, i;
810     AVStream *st;
811     uint32_t state=0xFFFFFFFF;
812
813     while(!url_feof(pb)){
814         *pos= url_ftell(pb);
815         if(rm->remaining_len > 0){
816             num= rm->current_stream;
817             len= rm->remaining_len;
818             *timestamp = AV_NOPTS_VALUE;
819             *flags= 0;
820         }else{
821             state= (state<<8) + get_byte(pb);
822
823             if(state == MKBETAG('I', 'N', 'D', 'X')){
824                 len = get_be16(pb) - 6;
825                 if(len<0)
826                     continue;
827                 goto skip;
828             }
829
830             if(state > (unsigned)0xFFFF || state < 12)
831                 continue;
832             len=state;
833             state= 0xFFFFFFFF;
834
835             num = get_be16(pb);
836             *timestamp = get_be32(pb);
837             res= get_byte(pb); /* reserved */
838             *flags = get_byte(pb); /* flags */
839
840
841             len -= 12;
842         }
843         for(i=0;i<s->nb_streams;i++) {
844             st = s->streams[i];
845             if (num == st->id)
846                 break;
847         }
848         if (i == s->nb_streams) {
849 skip:
850             /* skip packet if unknown number */
851             url_fskip(pb, len);
852             rm->remaining_len -= len;
853             continue;
854         }
855         *stream_index= i;
856
857         return len;
858     }
859     return -1;
860 }
861
862 static int rm_read_packet(AVFormatContext *s, AVPacket *pkt)
863 {
864     RMContext *rm = s->priv_data;
865     ByteIOContext *pb = &s->pb;
866     AVStream *st;
867     int i, len, tmp, j;
868     int64_t timestamp, pos;
869     uint8_t *ptr;
870     int flags;
871
872     if (rm->audio_pkt_cnt) {
873         // If there are queued audio packet return them first
874         st = s->streams[rm->audio_stream_num];
875         av_new_packet(pkt, st->codec->block_align);
876         memcpy(pkt->data, rm->audiobuf + st->codec->block_align *
877                (rm->sub_packet_h * rm->audio_framesize / st->codec->block_align - rm->audio_pkt_cnt),
878                st->codec->block_align);
879         rm->audio_pkt_cnt--;
880         pkt->flags = 0;
881         pkt->stream_index = rm->audio_stream_num;
882     } else if (rm->old_format) {
883         st = s->streams[0];
884         if (st->codec->codec_id == CODEC_ID_RA_288) {
885             int x, y;
886
887             for (y = 0; y < rm->sub_packet_h; y++)
888                 for (x = 0; x < rm->sub_packet_h/2; x++)
889                     if (get_buffer(pb, rm->audiobuf+x*2*rm->audio_framesize+y*rm->coded_framesize, rm->coded_framesize) <= 0)
890                         return AVERROR_IO;
891             rm->audio_stream_num = 0;
892             rm->audio_pkt_cnt = rm->sub_packet_h * rm->audio_framesize / st->codec->block_align - 1;
893             // Release first audio packet
894             av_new_packet(pkt, st->codec->block_align);
895             memcpy(pkt->data, rm->audiobuf, st->codec->block_align);
896             pkt->flags |= PKT_FLAG_KEY; // Mark first packet as keyframe
897             pkt->stream_index = 0;
898         } else {
899             /* just read raw bytes */
900             len = RAW_PACKET_SIZE;
901             len= av_get_packet(pb, pkt, len);
902             pkt->stream_index = 0;
903             if (len <= 0) {
904                 return AVERROR_IO;
905             }
906             pkt->size = len;
907         }
908     } else {
909         int seq=1;
910 resync:
911         len=sync(s, &timestamp, &flags, &i, &pos);
912         if(len<0)
913             return AVERROR_IO;
914         st = s->streams[i];
915
916         if (st->codec->codec_type == CODEC_TYPE_VIDEO) {
917             int h, pic_num, len2, pos;
918
919             h= get_byte(pb); len--;
920             if(!(h & 0x40)){
921                 seq = get_byte(pb); len--;
922             }
923
924             if((h & 0xc0) == 0x40){
925                 len2= pos= 0;
926             }else{
927                 len2 = get_num(pb, &len);
928                 pos = get_num(pb, &len);
929             }
930             /* picture number */
931             pic_num= get_byte(pb); len--;
932             rm->remaining_len= len;
933             rm->current_stream= st->id;
934
935 //            av_log(NULL, AV_LOG_DEBUG, "%X len:%d pos:%d len2:%d pic_num:%d\n",h, len, pos, len2, pic_num);
936             if(len2 && len2<len)
937                 len=len2;
938             rm->remaining_len-= len;
939             av_get_packet(pb, pkt, len);
940         }
941
942         if (st->codec->codec_type == CODEC_TYPE_AUDIO) {
943             if ((st->codec->codec_id == CODEC_ID_RA_288) ||
944                 (st->codec->codec_id == CODEC_ID_COOK)) {
945                 int x;
946                 int sps = rm->sub_packet_size;
947                 int cfs = rm->coded_framesize;
948                 int h = rm->sub_packet_h;
949                 int y = rm->sub_packet_cnt;
950                 int w = rm->audio_framesize;
951
952                 if (flags & 2)
953                     y = rm->sub_packet_cnt = 0;
954                 if (!y)
955                     rm->audiotimestamp = timestamp;
956
957                 switch(st->codec->codec_id) {
958                     case CODEC_ID_RA_288:
959                         for (x = 0; x < h/2; x++)
960                             get_buffer(pb, rm->audiobuf+x*2*w+y*cfs, cfs);
961                         break;
962                     case CODEC_ID_COOK:
963                         for (x = 0; x < w/sps; x++)
964                             get_buffer(pb, rm->audiobuf+sps*(h*x+((h+1)/2)*(y&1)+(y>>1)), sps);
965                         break;
966                 }
967
968                 if (++(rm->sub_packet_cnt) < h)
969                     goto resync;
970                 else {
971                     rm->sub_packet_cnt = 0;
972                     rm->audio_stream_num = i;
973                     rm->audio_pkt_cnt = h * w / st->codec->block_align - 1;
974                     // Release first audio packet
975                     av_new_packet(pkt, st->codec->block_align);
976                     memcpy(pkt->data, rm->audiobuf, st->codec->block_align);
977                     timestamp = rm->audiotimestamp;
978                     flags = 2; // Mark first packet as keyframe
979                 }
980             } else
981                 av_get_packet(pb, pkt, len);
982         }
983
984         if(  (st->discard >= AVDISCARD_NONKEY && !(flags&2))
985            || st->discard >= AVDISCARD_ALL){
986             av_free_packet(pkt);
987             goto resync;
988         }
989
990         pkt->stream_index = i;
991
992 #if 0
993         if (st->codec->codec_type == CODEC_TYPE_VIDEO) {
994             if(st->codec->codec_id == CODEC_ID_RV20){
995                 int seq= 128*(pkt->data[2]&0x7F) + (pkt->data[3]>>1);
996                 av_log(NULL, AV_LOG_DEBUG, "%d %Ld %d\n", timestamp, timestamp*512LL/25, seq);
997
998                 seq |= (timestamp&~0x3FFF);
999                 if(seq - timestamp >  0x2000) seq -= 0x4000;
1000                 if(seq - timestamp < -0x2000) seq += 0x4000;
1001             }
1002         }
1003 #endif
1004         pkt->pts= timestamp;
1005         if(flags&2){
1006             pkt->flags |= PKT_FLAG_KEY;
1007             if((seq&0x7F) == 1)
1008                 av_add_index_entry(st, pos, timestamp, 0, 0, AVINDEX_KEYFRAME);
1009         }
1010     }
1011
1012     /* for AC3, needs to swap bytes */
1013     if (st->codec->codec_id == CODEC_ID_AC3) {
1014         ptr = pkt->data;
1015         for(j=0;j<len;j+=2) {
1016             tmp = ptr[0];
1017             ptr[0] = ptr[1];
1018             ptr[1] = tmp;
1019                 ptr += 2;
1020         }
1021     }
1022     return 0;
1023 }
1024
1025 static int rm_read_close(AVFormatContext *s)
1026 {
1027     RMContext *rm = s->priv_data;
1028
1029     av_free(rm->audiobuf);
1030     return 0;
1031 }
1032
1033 static int rm_probe(AVProbeData *p)
1034 {
1035     /* check file header */
1036     if (p->buf_size <= 32)
1037         return 0;
1038     if ((p->buf[0] == '.' && p->buf[1] == 'R' &&
1039          p->buf[2] == 'M' && p->buf[3] == 'F' &&
1040          p->buf[4] == 0 && p->buf[5] == 0) ||
1041         (p->buf[0] == '.' && p->buf[1] == 'r' &&
1042          p->buf[2] == 'a' && p->buf[3] == 0xfd))
1043         return AVPROBE_SCORE_MAX;
1044     else
1045         return 0;
1046 }
1047
1048 static int64_t rm_read_dts(AVFormatContext *s, int stream_index,
1049                                int64_t *ppos, int64_t pos_limit)
1050 {
1051     RMContext *rm = s->priv_data;
1052     int64_t pos, dts;
1053     int stream_index2, flags, len, h;
1054
1055     pos = *ppos;
1056
1057     if(rm->old_format)
1058         return AV_NOPTS_VALUE;
1059
1060     url_fseek(&s->pb, pos, SEEK_SET);
1061     rm->remaining_len=0;
1062     for(;;){
1063         int seq=1;
1064         AVStream *st;
1065
1066         len=sync(s, &dts, &flags, &stream_index2, &pos);
1067         if(len<0)
1068             return AV_NOPTS_VALUE;
1069
1070         st = s->streams[stream_index2];
1071         if (st->codec->codec_type == CODEC_TYPE_VIDEO) {
1072             h= get_byte(&s->pb); len--;
1073             if(!(h & 0x40)){
1074                 seq = get_byte(&s->pb); len--;
1075             }
1076         }
1077
1078         if((flags&2) && (seq&0x7F) == 1){
1079 //            av_log(s, AV_LOG_DEBUG, "%d %d-%d %Ld %d\n", flags, stream_index2, stream_index, dts, seq);
1080             av_add_index_entry(st, pos, dts, 0, 0, AVINDEX_KEYFRAME);
1081             if(stream_index2 == stream_index)
1082                 break;
1083         }
1084
1085         url_fskip(&s->pb, len);
1086     }
1087     *ppos = pos;
1088     return dts;
1089 }
1090
1091 static AVInputFormat rm_iformat = {
1092     "rm",
1093     "rm format",
1094     sizeof(RMContext),
1095     rm_probe,
1096     rm_read_header,
1097     rm_read_packet,
1098     rm_read_close,
1099     NULL,
1100     rm_read_dts,
1101 };
1102
1103 #ifdef CONFIG_MUXERS
1104 static AVOutputFormat rm_oformat = {
1105     "rm",
1106     "rm format",
1107     "application/vnd.rn-realmedia",
1108     "rm,ra",
1109     sizeof(RMContext),
1110     CODEC_ID_AC3,
1111     CODEC_ID_RV10,
1112     rm_write_header,
1113     rm_write_packet,
1114     rm_write_trailer,
1115 };
1116 #endif //CONFIG_MUXERS
1117
1118 int rm_init(void)
1119 {
1120     av_register_input_format(&rm_iformat);
1121 #ifdef CONFIG_MUXERS
1122     av_register_output_format(&rm_oformat);
1123 #endif //CONFIG_MUXERS
1124     return 0;
1125 }