utvideoenc: optimize and simplify mangle_rgb_planes
[ffmpeg.git] / libavformat / rmdec.c
1 /*
2  * "Real" compatible demuxer.
3  * Copyright (c) 2000, 2001 Fabrice Bellard
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "libavutil/avstring.h"
23 #include "libavutil/intreadwrite.h"
24 #include "libavutil/dict.h"
25 #include "avformat.h"
26 #include "internal.h"
27 #include "riff.h"
28 #include "rm.h"
29
30 #define DEINT_ID_GENR MKTAG('g', 'e', 'n', 'r') ///< interleaving for Cooker/Atrac
31 #define DEINT_ID_INT0 MKTAG('I', 'n', 't', '0') ///< no interleaving needed
32 #define DEINT_ID_INT4 MKTAG('I', 'n', 't', '4') ///< interleaving for 28.8
33 #define DEINT_ID_SIPR MKTAG('s', 'i', 'p', 'r') ///< interleaving for Sipro
34 #define DEINT_ID_VBRF MKTAG('v', 'b', 'r', 'f') ///< VBR case for AAC
35 #define DEINT_ID_VBRS MKTAG('v', 'b', 'r', 's') ///< VBR case for AAC
36
37 struct RMStream {
38     AVPacket pkt;      ///< place to store merged video frame / reordered audio data
39     int videobufsize;  ///< current assembled frame size
40     int videobufpos;   ///< position for the next slice in the video buffer
41     int curpic_num;    ///< picture number of current frame
42     int cur_slice, slices;
43     int64_t pktpos;    ///< first slice position in file
44     /// Audio descrambling matrix parameters
45     int64_t audiotimestamp; ///< Audio packet timestamp
46     int sub_packet_cnt; // Subpacket counter, used while reading
47     int sub_packet_size, sub_packet_h, coded_framesize; ///< Descrambling parameters from container
48     int audio_framesize; /// Audio frame size from container
49     int sub_packet_lengths[16]; /// Length of each subpacket
50     int32_t deint_id;  ///< deinterleaver used in audio stream
51 };
52
53 typedef struct {
54     int nb_packets;
55     int old_format;
56     int current_stream;
57     int remaining_len;
58     int audio_stream_num; ///< Stream number for audio packets
59     int audio_pkt_cnt; ///< Output packet counter
60 } RMDemuxContext;
61
62 static const unsigned char sipr_swaps[38][2] = {
63     {  0, 63 }, {  1, 22 }, {  2, 44 }, {  3, 90 },
64     {  5, 81 }, {  7, 31 }, {  8, 86 }, {  9, 58 },
65     { 10, 36 }, { 12, 68 }, { 13, 39 }, { 14, 73 },
66     { 15, 53 }, { 16, 69 }, { 17, 57 }, { 19, 88 },
67     { 20, 34 }, { 21, 71 }, { 24, 46 }, { 25, 94 },
68     { 26, 54 }, { 28, 75 }, { 29, 50 }, { 32, 70 },
69     { 33, 92 }, { 35, 74 }, { 38, 85 }, { 40, 56 },
70     { 42, 87 }, { 43, 65 }, { 45, 59 }, { 48, 79 },
71     { 49, 93 }, { 51, 89 }, { 55, 95 }, { 61, 76 },
72     { 67, 83 }, { 77, 80 }
73 };
74
75 const unsigned char ff_sipr_subpk_size[4] = { 29, 19, 37, 20 };
76
77 static inline void get_strl(AVIOContext *pb, char *buf, int buf_size, int len)
78 {
79     int i;
80     char *q, r;
81
82     q = buf;
83     for(i=0;i<len;i++) {
84         r = avio_r8(pb);
85         if (i < buf_size - 1)
86             *q++ = r;
87     }
88     if (buf_size > 0) *q = '\0';
89 }
90
91 static void get_str8(AVIOContext *pb, char *buf, int buf_size)
92 {
93     get_strl(pb, buf, buf_size, avio_r8(pb));
94 }
95
96 static int rm_read_extradata(AVIOContext *pb, AVCodecContext *avctx, unsigned size)
97 {
98     if (size >= 1<<24)
99         return -1;
100     avctx->extradata = av_malloc(size + FF_INPUT_BUFFER_PADDING_SIZE);
101     if (!avctx->extradata)
102         return AVERROR(ENOMEM);
103     avctx->extradata_size = avio_read(pb, avctx->extradata, size);
104     memset(avctx->extradata + avctx->extradata_size, 0, FF_INPUT_BUFFER_PADDING_SIZE);
105     if (avctx->extradata_size != size)
106         return AVERROR(EIO);
107     return 0;
108 }
109
110 static void rm_read_metadata(AVFormatContext *s, int wide)
111 {
112     char buf[1024];
113     int i;
114     for (i=0; i<FF_ARRAY_ELEMS(ff_rm_metadata); i++) {
115         int len = wide ? avio_rb16(s->pb) : avio_r8(s->pb);
116         get_strl(s->pb, buf, sizeof(buf), len);
117         av_dict_set(&s->metadata, ff_rm_metadata[i], buf, 0);
118     }
119 }
120
121 RMStream *ff_rm_alloc_rmstream (void)
122 {
123     RMStream *rms = av_mallocz(sizeof(RMStream));
124     rms->curpic_num = -1;
125     return rms;
126 }
127
128 void ff_rm_free_rmstream (RMStream *rms)
129 {
130     av_free_packet(&rms->pkt);
131 }
132
133 static int rm_read_audio_stream_info(AVFormatContext *s, AVIOContext *pb,
134                                      AVStream *st, RMStream *ast, int read_all)
135 {
136     char buf[256];
137     uint32_t version;
138     int ret;
139
140     /* ra type header */
141     version = avio_rb16(pb); /* version */
142     if (version == 3) {
143         int header_size = avio_rb16(pb);
144         int64_t startpos = avio_tell(pb);
145         avio_skip(pb, 14);
146         rm_read_metadata(s, 0);
147         if ((startpos + header_size) >= avio_tell(pb) + 2) {
148             // fourcc (should always be "lpcJ")
149             avio_r8(pb);
150             get_str8(pb, buf, sizeof(buf));
151         }
152         // Skip extra header crap (this should never happen)
153         if ((startpos + header_size) > avio_tell(pb))
154             avio_skip(pb, header_size + startpos - avio_tell(pb));
155         st->codec->sample_rate = 8000;
156         st->codec->channels = 1;
157         st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
158         st->codec->codec_id = AV_CODEC_ID_RA_144;
159         ast->deint_id = DEINT_ID_INT0;
160     } else {
161         int flavor, sub_packet_h, coded_framesize, sub_packet_size;
162         int codecdata_length;
163         /* old version (4) */
164         avio_skip(pb, 2); /* unused */
165         avio_rb32(pb); /* .ra4 */
166         avio_rb32(pb); /* data size */
167         avio_rb16(pb); /* version2 */
168         avio_rb32(pb); /* header size */
169         flavor= avio_rb16(pb); /* add codec info / flavor */
170         ast->coded_framesize = coded_framesize = avio_rb32(pb); /* coded frame size */
171         avio_rb32(pb); /* ??? */
172         avio_rb32(pb); /* ??? */
173         avio_rb32(pb); /* ??? */
174         ast->sub_packet_h = sub_packet_h = avio_rb16(pb); /* 1 */
175         st->codec->block_align= avio_rb16(pb); /* frame size */
176         ast->sub_packet_size = sub_packet_size = avio_rb16(pb); /* sub packet size */
177         avio_rb16(pb); /* ??? */
178         if (version == 5) {
179             avio_rb16(pb); avio_rb16(pb); avio_rb16(pb);
180         }
181         st->codec->sample_rate = avio_rb16(pb);
182         avio_rb32(pb);
183         st->codec->channels = avio_rb16(pb);
184         if (version == 5) {
185             ast->deint_id = avio_rl32(pb);
186             avio_read(pb, buf, 4);
187             buf[4] = 0;
188         } else {
189             get_str8(pb, buf, sizeof(buf)); /* desc */
190             ast->deint_id = AV_RL32(buf);
191             get_str8(pb, buf, sizeof(buf)); /* desc */
192         }
193         st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
194         st->codec->codec_tag  = AV_RL32(buf);
195         st->codec->codec_id   = ff_codec_get_id(ff_rm_codec_tags,
196                                                 st->codec->codec_tag);
197
198         switch (st->codec->codec_id) {
199         case AV_CODEC_ID_AC3:
200             st->need_parsing = AVSTREAM_PARSE_FULL;
201             break;
202         case AV_CODEC_ID_RA_288:
203             st->codec->extradata_size= 0;
204             ast->audio_framesize = st->codec->block_align;
205             st->codec->block_align = coded_framesize;
206             break;
207         case AV_CODEC_ID_COOK:
208             st->need_parsing = AVSTREAM_PARSE_HEADERS;
209         case AV_CODEC_ID_ATRAC3:
210         case AV_CODEC_ID_SIPR:
211             avio_rb16(pb); avio_r8(pb);
212             if (version == 5)
213                 avio_r8(pb);
214             codecdata_length = avio_rb32(pb);
215             if(codecdata_length + FF_INPUT_BUFFER_PADDING_SIZE <= (unsigned)codecdata_length){
216                 av_log(s, AV_LOG_ERROR, "codecdata_length too large\n");
217                 return -1;
218             }
219
220             ast->audio_framesize = st->codec->block_align;
221             if (st->codec->codec_id == AV_CODEC_ID_SIPR) {
222                 if (flavor > 3) {
223                     av_log(s, AV_LOG_ERROR, "bad SIPR file flavor %d\n",
224                            flavor);
225                     return -1;
226                 }
227                 st->codec->block_align = ff_sipr_subpk_size[flavor];
228             } else {
229                 if(sub_packet_size <= 0){
230                     av_log(s, AV_LOG_ERROR, "sub_packet_size is invalid\n");
231                     return -1;
232                 }
233                 st->codec->block_align = ast->sub_packet_size;
234             }
235             if ((ret = rm_read_extradata(pb, st->codec, codecdata_length)) < 0)
236                 return ret;
237
238             break;
239         case AV_CODEC_ID_AAC:
240             avio_rb16(pb); avio_r8(pb);
241             if (version == 5)
242                 avio_r8(pb);
243             codecdata_length = avio_rb32(pb);
244             if(codecdata_length + FF_INPUT_BUFFER_PADDING_SIZE <= (unsigned)codecdata_length){
245                 av_log(s, AV_LOG_ERROR, "codecdata_length too large\n");
246                 return -1;
247             }
248             if (codecdata_length >= 1) {
249                 avio_r8(pb);
250                 if ((ret = rm_read_extradata(pb, st->codec, codecdata_length - 1)) < 0)
251                     return ret;
252             }
253             break;
254         default:
255             av_strlcpy(st->codec->codec_name, buf, sizeof(st->codec->codec_name));
256         }
257         if (ast->deint_id == DEINT_ID_INT4 ||
258             ast->deint_id == DEINT_ID_GENR ||
259             ast->deint_id == DEINT_ID_SIPR) {
260             if (st->codec->block_align <= 0 ||
261                 ast->audio_framesize * sub_packet_h > (unsigned)INT_MAX ||
262                 ast->audio_framesize * sub_packet_h < st->codec->block_align)
263                 return AVERROR_INVALIDDATA;
264             if (av_new_packet(&ast->pkt, ast->audio_framesize * sub_packet_h) < 0)
265                 return AVERROR(ENOMEM);
266         }
267         switch (ast->deint_id) {
268         case DEINT_ID_INT4:
269             if (ast->coded_framesize > ast->audio_framesize ||
270                 sub_packet_h <= 1 ||
271                 ast->coded_framesize * sub_packet_h > (2 + (sub_packet_h & 1)) * ast->audio_framesize)
272                 return AVERROR_INVALIDDATA;
273             break;
274         case DEINT_ID_GENR:
275             if (ast->sub_packet_size <= 0 ||
276                 ast->sub_packet_size > ast->audio_framesize)
277                 return AVERROR_INVALIDDATA;
278             break;
279         case DEINT_ID_SIPR:
280         case DEINT_ID_INT0:
281         case DEINT_ID_VBRS:
282         case DEINT_ID_VBRF:
283             break;
284         default:
285             av_log(NULL,0,"Unknown interleaver %X\n", ast->deint_id);
286             return AVERROR_INVALIDDATA;
287         }
288
289         if (read_all) {
290             avio_r8(pb);
291             avio_r8(pb);
292             avio_r8(pb);
293             rm_read_metadata(s, 0);
294         }
295     }
296     return 0;
297 }
298
299 int
300 ff_rm_read_mdpr_codecdata (AVFormatContext *s, AVIOContext *pb,
301                            AVStream *st, RMStream *rst, int codec_data_size, const uint8_t *mime)
302 {
303     unsigned int v;
304     int size;
305     int64_t codec_pos;
306     int ret;
307
308     avpriv_set_pts_info(st, 64, 1, 1000);
309     codec_pos = avio_tell(pb);
310     v = avio_rb32(pb);
311     if (v == MKTAG(0xfd, 'a', 'r', '.')) {
312         /* ra type header */
313         if (rm_read_audio_stream_info(s, pb, st, rst, 0))
314             return -1;
315     } else if (v == MKBETAG('L', 'S', 'D', ':')) {
316         avio_seek(pb, -4, SEEK_CUR);
317         if ((ret = rm_read_extradata(pb, st->codec, codec_data_size)) < 0)
318             return ret;
319
320         st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
321         st->codec->codec_tag  = AV_RL32(st->codec->extradata);
322         st->codec->codec_id   = ff_codec_get_id(ff_rm_codec_tags,
323                                                 st->codec->codec_tag);
324     } else if(mime && !strcmp(mime, "logical-fileinfo")){
325         int stream_count, rule_count, property_count, i, type;
326         ff_free_stream(s, st);
327         if (avio_rb16(pb) != 0) {
328             av_log(s, AV_LOG_WARNING, "Unsupported version\n");
329             goto skip;
330         }
331         stream_count = avio_rb16(pb);
332         avio_skip(pb, 6*stream_count);
333         rule_count = avio_rb16(pb);
334         avio_skip(pb, 2*rule_count);
335         property_count = avio_rb16(pb);
336         for(i=0; i<property_count; i++){
337             uint8_t name[128], val[128];
338             avio_rb32(pb);
339             if (avio_rb16(pb) != 0) {
340                 av_log(s, AV_LOG_WARNING, "Unsupported Name value property version\n");
341                 goto skip; //FIXME skip just this one
342             }
343             get_str8(pb, name, sizeof(name));
344             switch(avio_rb32(pb)) {
345             case 2: get_strl(pb, val, sizeof(val), avio_rb16(pb));
346                 av_dict_set(&s->metadata, name, val, 0);
347                 break;
348             default: avio_skip(pb, avio_rb16(pb));
349             }
350         }
351     } else {
352         int fps;
353         if (avio_rl32(pb) != MKTAG('V', 'I', 'D', 'O')) {
354         fail1:
355             av_log(s, AV_LOG_WARNING, "Unsupported stream type %08x\n", v);
356             goto skip;
357         }
358         st->codec->codec_tag = avio_rl32(pb);
359         st->codec->codec_id  = ff_codec_get_id(ff_rm_codec_tags,
360                                                st->codec->codec_tag);
361 //        av_log(s, AV_LOG_DEBUG, "%X %X\n", st->codec->codec_tag, MKTAG('R', 'V', '2', '0'));
362         if (st->codec->codec_id == AV_CODEC_ID_NONE)
363             goto fail1;
364         st->codec->width  = avio_rb16(pb);
365         st->codec->height = avio_rb16(pb);
366         avio_skip(pb, 2); // looks like bits per sample
367         avio_skip(pb, 4); // always zero?
368         st->codec->codec_type = AVMEDIA_TYPE_VIDEO;
369         st->need_parsing = AVSTREAM_PARSE_TIMESTAMPS;
370         fps = avio_rb32(pb);
371
372         if ((ret = rm_read_extradata(pb, st->codec, codec_data_size - (avio_tell(pb) - codec_pos))) < 0)
373             return ret;
374
375         av_reduce(&st->avg_frame_rate.den, &st->avg_frame_rate.num,
376                   0x10000, fps, (1 << 30) - 1);
377 #if FF_API_R_FRAME_RATE
378         st->r_frame_rate = st->avg_frame_rate;
379 #endif
380     }
381
382 skip:
383     /* skip codec info */
384     size = avio_tell(pb) - codec_pos;
385     avio_skip(pb, codec_data_size - size);
386
387     return 0;
388 }
389
390 /** this function assumes that the demuxer has already seeked to the start
391  * of the INDX chunk, and will bail out if not. */
392 static int rm_read_index(AVFormatContext *s)
393 {
394     AVIOContext *pb = s->pb;
395     unsigned int size, n_pkts, str_id, next_off, n, pos, pts;
396     AVStream *st;
397
398     do {
399         if (avio_rl32(pb) != MKTAG('I','N','D','X'))
400             return -1;
401         size     = avio_rb32(pb);
402         if (size < 20)
403             return -1;
404         avio_skip(pb, 2);
405         n_pkts   = avio_rb32(pb);
406         str_id   = avio_rb16(pb);
407         next_off = avio_rb32(pb);
408         for (n = 0; n < s->nb_streams; n++)
409             if (s->streams[n]->id == str_id) {
410                 st = s->streams[n];
411                 break;
412             }
413         if (n == s->nb_streams) {
414             av_log(s, AV_LOG_ERROR,
415                    "Invalid stream index %d for index at pos %"PRId64"\n",
416                    str_id, avio_tell(pb));
417             goto skip;
418         } else if ((avio_size(pb) - avio_tell(pb)) / 14 < n_pkts) {
419             av_log(s, AV_LOG_ERROR,
420                    "Nr. of packets in packet index for stream index %d "
421                    "exceeds filesize (%"PRId64" at %"PRId64" = %"PRId64")\n",
422                    str_id, avio_size(pb), avio_tell(pb),
423                    (avio_size(pb) - avio_tell(pb)) / 14);
424             goto skip;
425         }
426
427         for (n = 0; n < n_pkts; n++) {
428             avio_skip(pb, 2);
429             pts = avio_rb32(pb);
430             pos = avio_rb32(pb);
431             avio_skip(pb, 4); /* packet no. */
432
433             av_add_index_entry(st, pos, pts, 0, 0, AVINDEX_KEYFRAME);
434         }
435
436 skip:
437         if (next_off && avio_tell(pb) < next_off &&
438             avio_seek(pb, next_off, SEEK_SET) < 0) {
439             av_log(s, AV_LOG_ERROR,
440                    "Non-linear index detected, not supported\n");
441             return -1;
442         }
443     } while (next_off);
444
445     return 0;
446 }
447
448 static int rm_read_header_old(AVFormatContext *s)
449 {
450     RMDemuxContext *rm = s->priv_data;
451     AVStream *st;
452
453     rm->old_format = 1;
454     st = avformat_new_stream(s, NULL);
455     if (!st)
456         return -1;
457     st->priv_data = ff_rm_alloc_rmstream();
458     return rm_read_audio_stream_info(s, s->pb, st, st->priv_data, 1);
459 }
460
461 static int rm_read_header(AVFormatContext *s)
462 {
463     RMDemuxContext *rm = s->priv_data;
464     AVStream *st;
465     AVIOContext *pb = s->pb;
466     unsigned int tag;
467     int tag_size;
468     unsigned int start_time, duration;
469     unsigned int data_off = 0, indx_off = 0;
470     char buf[128], mime[128];
471     int flags = 0;
472
473     tag = avio_rl32(pb);
474     if (tag == MKTAG('.', 'r', 'a', 0xfd)) {
475         /* very old .ra format */
476         return rm_read_header_old(s);
477     } else if (tag != MKTAG('.', 'R', 'M', 'F')) {
478         return AVERROR(EIO);
479     }
480
481     tag_size = avio_rb32(pb);
482     avio_skip(pb, tag_size - 8);
483
484     for(;;) {
485         if (url_feof(pb))
486             return -1;
487         tag = avio_rl32(pb);
488         tag_size = avio_rb32(pb);
489         avio_rb16(pb);
490         av_dlog(s, "tag=%c%c%c%c (%08x) size=%d\n",
491                 (tag      ) & 0xff,
492                 (tag >>  8) & 0xff,
493                 (tag >> 16) & 0xff,
494                 (tag >> 24) & 0xff,
495                 tag,
496                 tag_size);
497         if (tag_size < 10 && tag != MKTAG('D', 'A', 'T', 'A'))
498             return -1;
499         switch(tag) {
500         case MKTAG('P', 'R', 'O', 'P'):
501             /* file header */
502             avio_rb32(pb); /* max bit rate */
503             avio_rb32(pb); /* avg bit rate */
504             avio_rb32(pb); /* max packet size */
505             avio_rb32(pb); /* avg packet size */
506             avio_rb32(pb); /* nb packets */
507             duration = avio_rb32(pb); /* duration */
508             s->duration = av_rescale(duration, AV_TIME_BASE, 1000);
509             avio_rb32(pb); /* preroll */
510             indx_off = avio_rb32(pb); /* index offset */
511             data_off = avio_rb32(pb); /* data offset */
512             avio_rb16(pb); /* nb streams */
513             flags = avio_rb16(pb); /* flags */
514             break;
515         case MKTAG('C', 'O', 'N', 'T'):
516             rm_read_metadata(s, 1);
517             break;
518         case MKTAG('M', 'D', 'P', 'R'):
519             st = avformat_new_stream(s, NULL);
520             if (!st)
521                 return AVERROR(ENOMEM);
522             st->id = avio_rb16(pb);
523             avio_rb32(pb); /* max bit rate */
524             st->codec->bit_rate = avio_rb32(pb); /* bit rate */
525             avio_rb32(pb); /* max packet size */
526             avio_rb32(pb); /* avg packet size */
527             start_time = avio_rb32(pb); /* start time */
528             avio_rb32(pb); /* preroll */
529             duration = avio_rb32(pb); /* duration */
530             st->start_time = start_time;
531             st->duration = duration;
532             if(duration>0)
533                 s->duration = AV_NOPTS_VALUE;
534             get_str8(pb, buf, sizeof(buf)); /* desc */
535             get_str8(pb, mime, sizeof(mime)); /* mimetype */
536             st->codec->codec_type = AVMEDIA_TYPE_DATA;
537             st->priv_data = ff_rm_alloc_rmstream();
538             if (ff_rm_read_mdpr_codecdata(s, s->pb, st, st->priv_data,
539                                           avio_rb32(pb), mime) < 0)
540                 return -1;
541             break;
542         case MKTAG('D', 'A', 'T', 'A'):
543             goto header_end;
544         default:
545             /* unknown tag: skip it */
546             avio_skip(pb, tag_size - 10);
547             break;
548         }
549     }
550  header_end:
551     rm->nb_packets = avio_rb32(pb); /* number of packets */
552     if (!rm->nb_packets && (flags & 4))
553         rm->nb_packets = 3600 * 25;
554     avio_rb32(pb); /* next data header */
555
556     if (!data_off)
557         data_off = avio_tell(pb) - 18;
558     if (indx_off && pb->seekable && !(s->flags & AVFMT_FLAG_IGNIDX) &&
559         avio_seek(pb, indx_off, SEEK_SET) >= 0) {
560         rm_read_index(s);
561         avio_seek(pb, data_off + 18, SEEK_SET);
562     }
563
564     return 0;
565 }
566
567 static int get_num(AVIOContext *pb, int *len)
568 {
569     int n, n1;
570
571     n = avio_rb16(pb);
572     (*len)-=2;
573     n &= 0x7FFF;
574     if (n >= 0x4000) {
575         return n - 0x4000;
576     } else {
577         n1 = avio_rb16(pb);
578         (*len)-=2;
579         return (n << 16) | n1;
580     }
581 }
582
583 /* multiple of 20 bytes for ra144 (ugly) */
584 #define RAW_PACKET_SIZE 1000
585
586 static int sync(AVFormatContext *s, int64_t *timestamp, int *flags, int *stream_index, int64_t *pos){
587     RMDemuxContext *rm = s->priv_data;
588     AVIOContext *pb = s->pb;
589     AVStream *st;
590     uint32_t state=0xFFFFFFFF;
591
592     while(!url_feof(pb)){
593         int len, num, i;
594         *pos= avio_tell(pb) - 3;
595         if(rm->remaining_len > 0){
596             num= rm->current_stream;
597             len= rm->remaining_len;
598             *timestamp = AV_NOPTS_VALUE;
599             *flags= 0;
600         }else{
601             state= (state<<8) + avio_r8(pb);
602
603             if(state == MKBETAG('I', 'N', 'D', 'X')){
604                 int n_pkts, expected_len;
605                 len = avio_rb32(pb);
606                 avio_skip(pb, 2);
607                 n_pkts = avio_rb32(pb);
608                 expected_len = 20 + n_pkts * 14;
609                 if (len == 20)
610                     /* some files don't add index entries to chunk size... */
611                     len = expected_len;
612                 else if (len != expected_len)
613                     av_log(s, AV_LOG_WARNING,
614                            "Index size %d (%d pkts) is wrong, should be %d.\n",
615                            len, n_pkts, expected_len);
616                 len -= 14; // we already read part of the index header
617                 if(len<0)
618                     continue;
619                 goto skip;
620             } else if (state == MKBETAG('D','A','T','A')) {
621                 av_log(s, AV_LOG_WARNING,
622                        "DATA tag in middle of chunk, file may be broken.\n");
623             }
624
625             if(state > (unsigned)0xFFFF || state <= 12)
626                 continue;
627             len=state - 12;
628             state= 0xFFFFFFFF;
629
630             num = avio_rb16(pb);
631             *timestamp = avio_rb32(pb);
632             avio_r8(pb); /* reserved */
633             *flags = avio_r8(pb); /* flags */
634         }
635         for(i=0;i<s->nb_streams;i++) {
636             st = s->streams[i];
637             if (num == st->id)
638                 break;
639         }
640         if (i == s->nb_streams) {
641 skip:
642             /* skip packet if unknown number */
643             avio_skip(pb, len);
644             rm->remaining_len = 0;
645             continue;
646         }
647         *stream_index= i;
648
649         return len;
650     }
651     return -1;
652 }
653
654 static int rm_assemble_video_frame(AVFormatContext *s, AVIOContext *pb,
655                                    RMDemuxContext *rm, RMStream *vst,
656                                    AVPacket *pkt, int len, int *pseq,
657                                    int64_t *timestamp)
658 {
659     int hdr, seq, pic_num, len2, pos;
660     int type;
661
662     hdr = avio_r8(pb); len--;
663     type = hdr >> 6;
664
665     if(type != 3){  // not frame as a part of packet
666         seq = avio_r8(pb); len--;
667     }
668     if(type != 1){  // not whole frame
669         len2 = get_num(pb, &len);
670         pos  = get_num(pb, &len);
671         pic_num = avio_r8(pb); len--;
672     }
673     if(len<0)
674         return -1;
675     rm->remaining_len = len;
676     if(type&1){     // frame, not slice
677         if(type == 3){  // frame as a part of packet
678             len= len2;
679             *timestamp = pos;
680         }
681         if(rm->remaining_len < len)
682             return -1;
683         rm->remaining_len -= len;
684         if(av_new_packet(pkt, len + 9) < 0)
685             return AVERROR(EIO);
686         pkt->data[0] = 0;
687         AV_WL32(pkt->data + 1, 1);
688         AV_WL32(pkt->data + 5, 0);
689         avio_read(pb, pkt->data + 9, len);
690         return 0;
691     }
692     //now we have to deal with single slice
693
694     *pseq = seq;
695     if((seq & 0x7F) == 1 || vst->curpic_num != pic_num){
696         vst->slices = ((hdr & 0x3F) << 1) + 1;
697         vst->videobufsize = len2 + 8*vst->slices + 1;
698         av_free_packet(&vst->pkt); //FIXME this should be output.
699         if(av_new_packet(&vst->pkt, vst->videobufsize) < 0)
700             return AVERROR(ENOMEM);
701         vst->videobufpos = 8*vst->slices + 1;
702         vst->cur_slice = 0;
703         vst->curpic_num = pic_num;
704         vst->pktpos = avio_tell(pb);
705     }
706     if(type == 2)
707         len = FFMIN(len, pos);
708
709     if(++vst->cur_slice > vst->slices)
710         return 1;
711     AV_WL32(vst->pkt.data - 7 + 8*vst->cur_slice, 1);
712     AV_WL32(vst->pkt.data - 3 + 8*vst->cur_slice, vst->videobufpos - 8*vst->slices - 1);
713     if(vst->videobufpos + len > vst->videobufsize)
714         return 1;
715     if (avio_read(pb, vst->pkt.data + vst->videobufpos, len) != len)
716         return AVERROR(EIO);
717     vst->videobufpos += len;
718     rm->remaining_len-= len;
719
720     if (type == 2 || vst->videobufpos == vst->videobufsize) {
721         vst->pkt.data[0] = vst->cur_slice-1;
722         *pkt= vst->pkt;
723         vst->pkt.data= NULL;
724         vst->pkt.size= 0;
725         if(vst->slices != vst->cur_slice) //FIXME find out how to set slices correct from the begin
726             memmove(pkt->data + 1 + 8*vst->cur_slice, pkt->data + 1 + 8*vst->slices,
727                 vst->videobufpos - 1 - 8*vst->slices);
728         pkt->size = vst->videobufpos + 8*(vst->cur_slice - vst->slices);
729         pkt->pts = AV_NOPTS_VALUE;
730         pkt->pos = vst->pktpos;
731         vst->slices = 0;
732         return 0;
733     }
734
735     return 1;
736 }
737
738 static inline void
739 rm_ac3_swap_bytes (AVStream *st, AVPacket *pkt)
740 {
741     uint8_t *ptr;
742     int j;
743
744     if (st->codec->codec_id == AV_CODEC_ID_AC3) {
745         ptr = pkt->data;
746         for (j=0;j<pkt->size;j+=2) {
747             FFSWAP(int, ptr[0], ptr[1]);
748             ptr += 2;
749         }
750     }
751 }
752
753 /**
754  * Perform 4-bit block reordering for SIPR data.
755  * @todo This can be optimized, e.g. use memcpy() if data blocks are aligned
756  */
757 void ff_rm_reorder_sipr_data(uint8_t *buf, int sub_packet_h, int framesize)
758 {
759     int n, bs = sub_packet_h * framesize * 2 / 96; // nibbles per subpacket
760
761     for (n = 0; n < 38; n++) {
762         int j;
763         int i = bs * sipr_swaps[n][0];
764         int o = bs * sipr_swaps[n][1];
765
766         /* swap 4bit-nibbles of block 'i' with 'o' */
767         for (j = 0; j < bs; j++, i++, o++) {
768             int x = (buf[i >> 1] >> (4 * (i & 1))) & 0xF,
769                 y = (buf[o >> 1] >> (4 * (o & 1))) & 0xF;
770
771             buf[o >> 1] = (x << (4 * (o & 1))) |
772                 (buf[o >> 1] & (0xF << (4 * !(o & 1))));
773             buf[i >> 1] = (y << (4 * (i & 1))) |
774                 (buf[i >> 1] & (0xF << (4 * !(i & 1))));
775         }
776     }
777 }
778
779 int
780 ff_rm_parse_packet (AVFormatContext *s, AVIOContext *pb,
781                     AVStream *st, RMStream *ast, int len, AVPacket *pkt,
782                     int *seq, int flags, int64_t timestamp)
783 {
784     RMDemuxContext *rm = s->priv_data;
785
786     if (st->codec->codec_type == AVMEDIA_TYPE_VIDEO) {
787         rm->current_stream= st->id;
788         if(rm_assemble_video_frame(s, pb, rm, ast, pkt, len, seq, &timestamp))
789             return -1; //got partial frame
790     } else if (st->codec->codec_type == AVMEDIA_TYPE_AUDIO) {
791         if ((ast->deint_id == DEINT_ID_GENR) ||
792             (ast->deint_id == DEINT_ID_INT4) ||
793             (ast->deint_id == DEINT_ID_SIPR)) {
794             int x;
795             int sps = ast->sub_packet_size;
796             int cfs = ast->coded_framesize;
797             int h = ast->sub_packet_h;
798             int y = ast->sub_packet_cnt;
799             int w = ast->audio_framesize;
800
801             if (flags & 2)
802                 y = ast->sub_packet_cnt = 0;
803             if (!y)
804                 ast->audiotimestamp = timestamp;
805
806             switch (ast->deint_id) {
807                 case DEINT_ID_INT4:
808                     for (x = 0; x < h/2; x++)
809                         avio_read(pb, ast->pkt.data+x*2*w+y*cfs, cfs);
810                     break;
811                 case DEINT_ID_GENR:
812                     for (x = 0; x < w/sps; x++)
813                         avio_read(pb, ast->pkt.data+sps*(h*x+((h+1)/2)*(y&1)+(y>>1)), sps);
814                     break;
815                 case DEINT_ID_SIPR:
816                     avio_read(pb, ast->pkt.data + y * w, w);
817                     break;
818             }
819
820             if (++(ast->sub_packet_cnt) < h)
821                 return -1;
822             if (ast->deint_id == DEINT_ID_SIPR)
823                 ff_rm_reorder_sipr_data(ast->pkt.data, h, w);
824
825              ast->sub_packet_cnt = 0;
826              rm->audio_stream_num = st->index;
827              rm->audio_pkt_cnt = h * w / st->codec->block_align;
828         } else if ((ast->deint_id == DEINT_ID_VBRF) ||
829                    (ast->deint_id == DEINT_ID_VBRS)) {
830             int x;
831             rm->audio_stream_num = st->index;
832             ast->sub_packet_cnt = (avio_rb16(pb) & 0xf0) >> 4;
833             if (ast->sub_packet_cnt) {
834                 for (x = 0; x < ast->sub_packet_cnt; x++)
835                     ast->sub_packet_lengths[x] = avio_rb16(pb);
836                 rm->audio_pkt_cnt = ast->sub_packet_cnt;
837                 ast->audiotimestamp = timestamp;
838             } else
839                 return -1;
840         } else {
841             av_get_packet(pb, pkt, len);
842             rm_ac3_swap_bytes(st, pkt);
843         }
844     } else
845         av_get_packet(pb, pkt, len);
846
847     pkt->stream_index = st->index;
848
849 #if 0
850     if (st->codec->codec_type == AVMEDIA_TYPE_VIDEO) {
851         if(st->codec->codec_id == AV_CODEC_ID_RV20){
852             int seq= 128*(pkt->data[2]&0x7F) + (pkt->data[3]>>1);
853             av_log(s, AV_LOG_DEBUG, "%d %"PRId64" %d\n", *timestamp, *timestamp*512LL/25, seq);
854
855             seq |= (timestamp&~0x3FFF);
856             if(seq - timestamp >  0x2000) seq -= 0x4000;
857             if(seq - timestamp < -0x2000) seq += 0x4000;
858         }
859     }
860 #endif
861
862     pkt->pts = timestamp;
863     if (flags & 2)
864         pkt->flags |= AV_PKT_FLAG_KEY;
865
866     return st->codec->codec_type == AVMEDIA_TYPE_AUDIO ? rm->audio_pkt_cnt : 0;
867 }
868
869 int
870 ff_rm_retrieve_cache (AVFormatContext *s, AVIOContext *pb,
871                       AVStream *st, RMStream *ast, AVPacket *pkt)
872 {
873     RMDemuxContext *rm = s->priv_data;
874
875     assert (rm->audio_pkt_cnt > 0);
876
877     if (ast->deint_id == DEINT_ID_VBRF ||
878         ast->deint_id == DEINT_ID_VBRS)
879         av_get_packet(pb, pkt, ast->sub_packet_lengths[ast->sub_packet_cnt - rm->audio_pkt_cnt]);
880     else {
881         av_new_packet(pkt, st->codec->block_align);
882         memcpy(pkt->data, ast->pkt.data + st->codec->block_align * //FIXME avoid this
883                (ast->sub_packet_h * ast->audio_framesize / st->codec->block_align - rm->audio_pkt_cnt),
884                st->codec->block_align);
885     }
886     rm->audio_pkt_cnt--;
887     if ((pkt->pts = ast->audiotimestamp) != AV_NOPTS_VALUE) {
888         ast->audiotimestamp = AV_NOPTS_VALUE;
889         pkt->flags = AV_PKT_FLAG_KEY;
890     } else
891         pkt->flags = 0;
892     pkt->stream_index = st->index;
893
894     return rm->audio_pkt_cnt;
895 }
896
897 static int rm_read_packet(AVFormatContext *s, AVPacket *pkt)
898 {
899     RMDemuxContext *rm = s->priv_data;
900     AVStream *st;
901     int i, len, res, seq = 1;
902     int64_t timestamp, pos;
903     int flags;
904
905     for (;;) {
906         if (rm->audio_pkt_cnt) {
907             // If there are queued audio packet return them first
908             st = s->streams[rm->audio_stream_num];
909             ff_rm_retrieve_cache(s, s->pb, st, st->priv_data, pkt);
910             flags = 0;
911         } else {
912             if (rm->old_format) {
913                 RMStream *ast;
914
915                 st = s->streams[0];
916                 ast = st->priv_data;
917                 timestamp = AV_NOPTS_VALUE;
918                 len = !ast->audio_framesize ? RAW_PACKET_SIZE :
919                     ast->coded_framesize * ast->sub_packet_h / 2;
920                 flags = (seq++ == 1) ? 2 : 0;
921                 pos = avio_tell(s->pb);
922             } else {
923                 len=sync(s, &timestamp, &flags, &i, &pos);
924                 if (len > 0)
925                     st = s->streams[i];
926             }
927
928             if(len<0 || url_feof(s->pb))
929                 return AVERROR(EIO);
930
931             res = ff_rm_parse_packet (s, s->pb, st, st->priv_data, len, pkt,
932                                       &seq, flags, timestamp);
933             if((flags&2) && (seq&0x7F) == 1)
934                 av_add_index_entry(st, pos, timestamp, 0, 0, AVINDEX_KEYFRAME);
935             if (res)
936                 continue;
937         }
938
939         if(  (st->discard >= AVDISCARD_NONKEY && !(flags&2))
940            || st->discard >= AVDISCARD_ALL){
941             av_free_packet(pkt);
942         } else
943             break;
944     }
945
946     return 0;
947 }
948
949 static int rm_read_close(AVFormatContext *s)
950 {
951     int i;
952
953     for (i=0;i<s->nb_streams;i++)
954         ff_rm_free_rmstream(s->streams[i]->priv_data);
955
956     return 0;
957 }
958
959 static int rm_probe(AVProbeData *p)
960 {
961     /* check file header */
962     if ((p->buf[0] == '.' && p->buf[1] == 'R' &&
963          p->buf[2] == 'M' && p->buf[3] == 'F' &&
964          p->buf[4] == 0 && p->buf[5] == 0) ||
965         (p->buf[0] == '.' && p->buf[1] == 'r' &&
966          p->buf[2] == 'a' && p->buf[3] == 0xfd))
967         return AVPROBE_SCORE_MAX;
968     else
969         return 0;
970 }
971
972 static int64_t rm_read_dts(AVFormatContext *s, int stream_index,
973                                int64_t *ppos, int64_t pos_limit)
974 {
975     RMDemuxContext *rm = s->priv_data;
976     int64_t pos, dts;
977     int stream_index2, flags, len, h;
978
979     pos = *ppos;
980
981     if(rm->old_format)
982         return AV_NOPTS_VALUE;
983
984     if (avio_seek(s->pb, pos, SEEK_SET) < 0)
985         return AV_NOPTS_VALUE;
986
987     rm->remaining_len=0;
988     for(;;){
989         int seq=1;
990         AVStream *st;
991
992         len=sync(s, &dts, &flags, &stream_index2, &pos);
993         if(len<0)
994             return AV_NOPTS_VALUE;
995
996         st = s->streams[stream_index2];
997         if (st->codec->codec_type == AVMEDIA_TYPE_VIDEO) {
998             h= avio_r8(s->pb); len--;
999             if(!(h & 0x40)){
1000                 seq = avio_r8(s->pb); len--;
1001             }
1002         }
1003
1004         if((flags&2) && (seq&0x7F) == 1){
1005 //            av_log(s, AV_LOG_DEBUG, "%d %d-%d %"PRId64" %d\n", flags, stream_index2, stream_index, dts, seq);
1006             av_add_index_entry(st, pos, dts, 0, 0, AVINDEX_KEYFRAME);
1007             if(stream_index2 == stream_index)
1008                 break;
1009         }
1010
1011         avio_skip(s->pb, len);
1012     }
1013     *ppos = pos;
1014     return dts;
1015 }
1016
1017 AVInputFormat ff_rm_demuxer = {
1018     .name           = "rm",
1019     .long_name      = NULL_IF_CONFIG_SMALL("RealMedia"),
1020     .priv_data_size = sizeof(RMDemuxContext),
1021     .read_probe     = rm_probe,
1022     .read_header    = rm_read_header,
1023     .read_packet    = rm_read_packet,
1024     .read_close     = rm_read_close,
1025     .read_timestamp = rm_read_dts,
1026 };
1027
1028 AVInputFormat ff_rdt_demuxer = {
1029     .name           = "rdt",
1030     .long_name      = NULL_IF_CONFIG_SMALL("RDT demuxer"),
1031     .priv_data_size = sizeof(RMDemuxContext),
1032     .read_close     = rm_read_close,
1033     .flags          = AVFMT_NOFILE,
1034 };