mxfdec: hybrid demuxing/seeking solution
[ffmpeg.git] / libavformat / mxfdec.c
1 /*
2  * MXF demuxer.
3  * Copyright (c) 2006 SmartJog S.A., Baptiste Coudurier <baptiste dot coudurier at smartjog dot com>
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /*
23  * References
24  * SMPTE 336M KLV Data Encoding Protocol Using Key-Length-Value
25  * SMPTE 377M MXF File Format Specifications
26  * SMPTE 378M Operational Pattern 1a
27  * SMPTE 379M MXF Generic Container
28  * SMPTE 381M Mapping MPEG Streams into the MXF Generic Container
29  * SMPTE 382M Mapping AES3 and Broadcast Wave Audio into the MXF Generic Container
30  * SMPTE 383M Mapping DV-DIF Data to the MXF Generic Container
31  *
32  * Principle
33  * Search for Track numbers which will identify essence element KLV packets.
34  * Search for SourcePackage which define tracks which contains Track numbers.
35  * Material Package contains tracks with reference to SourcePackage tracks.
36  * Search for Descriptors (Picture, Sound) which contains codec info and parameters.
37  * Assign Descriptors to correct Tracks.
38  *
39  * Metadata reading functions read Local Tags, get InstanceUID(0x3C0A) then add MetaDataSet to MXFContext.
40  * Metadata parsing resolves Strong References to objects.
41  *
42  * Simple demuxer, only OP1A supported and some files might not work at all.
43  * Only tracks with associated descriptors will be decoded. "Highly Desirable" SMPTE 377M D.1
44  */
45
46 //#define DEBUG
47
48 #include "libavutil/aes.h"
49 #include "libavutil/mathematics.h"
50 #include "libavcodec/bytestream.h"
51 #include "avformat.h"
52 #include "internal.h"
53 #include "mxf.h"
54
55 typedef enum {
56     Header,
57     BodyPartition,
58     Footer
59 } MXFPartitionType;
60
61 typedef enum {
62     OP1a,
63     OP1b,
64     OP1c,
65     OP2a,
66     OP2b,
67     OP2c,
68     OP3a,
69     OP3b,
70     OP3c,
71     OPAtom,
72     OPSonyOpt,  /* FATE sample, violates the spec in places */
73 } MXFOP;
74
75 typedef struct {
76     int closed;
77     int complete;
78     MXFPartitionType type;
79     uint64_t previous_partition;
80     int index_sid;
81     int body_sid;
82     int64_t this_partition;
83     int64_t essence_offset;         ///< absolute offset of essence
84     int64_t essence_length;
85     int32_t kag_size;
86     int64_t header_byte_count;
87     int64_t index_byte_count;
88     int pack_length;
89 } MXFPartition;
90
91 typedef struct {
92     UID uid;
93     enum MXFMetadataSetType type;
94     UID source_container_ul;
95 } MXFCryptoContext;
96
97 typedef struct {
98     UID uid;
99     enum MXFMetadataSetType type;
100     UID source_package_uid;
101     UID data_definition_ul;
102     int64_t duration;
103     int64_t start_position;
104     int source_track_id;
105 } MXFStructuralComponent;
106
107 typedef struct {
108     UID uid;
109     enum MXFMetadataSetType type;
110     UID data_definition_ul;
111     UID *structural_components_refs;
112     int structural_components_count;
113     int64_t duration;
114 } MXFSequence;
115
116 typedef struct {
117     UID uid;
118     enum MXFMetadataSetType type;
119     MXFSequence *sequence; /* mandatory, and only one */
120     UID sequence_ref;
121     int track_id;
122     uint8_t track_number[4];
123     AVRational edit_rate;
124 } MXFTrack;
125
126 typedef struct {
127     UID uid;
128     enum MXFMetadataSetType type;
129     UID essence_container_ul;
130     UID essence_codec_ul;
131     AVRational sample_rate;
132     AVRational aspect_ratio;
133     int width;
134     int height;
135     int channels;
136     int bits_per_sample;
137     UID *sub_descriptors_refs;
138     int sub_descriptors_count;
139     int linked_track_id;
140     uint8_t *extradata;
141     int extradata_size;
142     enum PixelFormat pix_fmt;
143 } MXFDescriptor;
144
145 typedef struct {
146     UID uid;
147     enum MXFMetadataSetType type;
148     int edit_unit_byte_count;
149     int index_sid;
150     int body_sid;
151     int slice_count;
152     AVRational index_edit_rate;
153     uint64_t index_start_position;
154     uint64_t index_duration;
155     int *slice;
156     int *element_delta;
157     int nb_delta_entries;
158     int8_t *temporal_offset_entries;
159     int *flag_entries;
160     uint64_t *stream_offset_entries;
161     uint32_t **slice_offset_entries;
162     int nb_index_entries;
163 } MXFIndexTableSegment;
164
165 typedef struct {
166     UID uid;
167     enum MXFMetadataSetType type;
168     UID package_uid;
169     UID *tracks_refs;
170     int tracks_count;
171     MXFDescriptor *descriptor; /* only one */
172     UID descriptor_ref;
173 } MXFPackage;
174
175 typedef struct {
176     UID uid;
177     enum MXFMetadataSetType type;
178 } MXFMetadataSet;
179
180 /* decoded index table */
181 typedef struct {
182     int index_sid;
183     int body_sid;
184     int nb_ptses;               /* number of PTSes or total duration of index */
185     int64_t first_dts;          /* DTS = EditUnit + first_dts */
186     int64_t *ptses;             /* maps EditUnit -> PTS */
187     int nb_segments;
188     MXFIndexTableSegment **segments;    /* sorted by IndexStartPosition */
189     AVIndexEntry *fake_index;   /* used for calling ff_index_search_timestamp() */
190 } MXFIndexTable;
191
192 typedef struct {
193     MXFPartition *partitions;
194     unsigned partitions_count;
195     MXFOP op;
196     UID *packages_refs;
197     int packages_count;
198     MXFMetadataSet **metadata_sets;
199     int metadata_sets_count;
200     AVFormatContext *fc;
201     struct AVAES *aesc;
202     uint8_t *local_tags;
203     int local_tags_count;
204     uint64_t footer_partition;
205     KLVPacket current_klv_data;
206     int current_klv_index;
207     int run_in;
208     MXFPartition *current_partition;
209     int parsing_backward;
210     int64_t last_forward_tell;
211     int last_forward_partition;
212     int current_edit_unit;
213     int nb_index_tables;
214     MXFIndexTable *index_tables;
215 } MXFContext;
216
217 enum MXFWrappingScheme {
218     Frame,
219     Clip,
220 };
221
222 /* NOTE: klv_offset is not set (-1) for local keys */
223 typedef int MXFMetadataReadFunc(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset);
224
225 typedef struct {
226     const UID key;
227     MXFMetadataReadFunc *read;
228     int ctx_size;
229     enum MXFMetadataSetType type;
230 } MXFMetadataReadTableEntry;
231
232 /* partial keys to match */
233 static const uint8_t mxf_header_partition_pack_key[]       = { 0x06,0x0e,0x2b,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x02 };
234 static const uint8_t mxf_essence_element_key[]             = { 0x06,0x0e,0x2b,0x34,0x01,0x02,0x01,0x01,0x0d,0x01,0x03,0x01 };
235 static const uint8_t mxf_avid_essence_element_key[]        = { 0x06,0x0e,0x2b,0x34,0x01,0x02,0x01,0x01,0x0e,0x04,0x03,0x01 };
236 static const uint8_t mxf_system_item_key[]                 = { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0D,0x01,0x03,0x01,0x04 };
237 static const uint8_t mxf_klv_key[]                         = { 0x06,0x0e,0x2b,0x34 };
238 /* complete keys to match */
239 static const uint8_t mxf_crypto_source_container_ul[]      = { 0x06,0x0e,0x2b,0x34,0x01,0x01,0x01,0x09,0x06,0x01,0x01,0x02,0x02,0x00,0x00,0x00 };
240 static const uint8_t mxf_encrypted_triplet_key[]           = { 0x06,0x0e,0x2b,0x34,0x02,0x04,0x01,0x07,0x0d,0x01,0x03,0x01,0x02,0x7e,0x01,0x00 };
241 static const uint8_t mxf_encrypted_essence_container[]     = { 0x06,0x0e,0x2b,0x34,0x04,0x01,0x01,0x07,0x0d,0x01,0x03,0x01,0x02,0x0b,0x01,0x00 };
242 static const uint8_t mxf_sony_mpeg4_extradata[]            = { 0x06,0x0e,0x2b,0x34,0x04,0x01,0x01,0x01,0x0e,0x06,0x06,0x02,0x02,0x01,0x00,0x00 };
243
244 #define IS_KLV_KEY(x, y) (!memcmp(x, y, sizeof(y)))
245
246 static int64_t klv_decode_ber_length(AVIOContext *pb)
247 {
248     uint64_t size = avio_r8(pb);
249     if (size & 0x80) { /* long form */
250         int bytes_num = size & 0x7f;
251         /* SMPTE 379M 5.3.4 guarantee that bytes_num must not exceed 8 bytes */
252         if (bytes_num > 8)
253             return AVERROR_INVALIDDATA;
254         size = 0;
255         while (bytes_num--)
256             size = size << 8 | avio_r8(pb);
257     }
258     return size;
259 }
260
261 static int mxf_read_sync(AVIOContext *pb, const uint8_t *key, unsigned size)
262 {
263     int i, b;
264     for (i = 0; i < size && !pb->eof_reached; i++) {
265         b = avio_r8(pb);
266         if (b == key[0])
267             i = 0;
268         else if (b != key[i])
269             i = -1;
270     }
271     return i == size;
272 }
273
274 static int klv_read_packet(KLVPacket *klv, AVIOContext *pb)
275 {
276     if (!mxf_read_sync(pb, mxf_klv_key, 4))
277         return AVERROR_INVALIDDATA;
278     klv->offset = avio_tell(pb) - 4;
279     memcpy(klv->key, mxf_klv_key, 4);
280     avio_read(pb, klv->key + 4, 12);
281     klv->length = klv_decode_ber_length(pb);
282     return klv->length == -1 ? -1 : 0;
283 }
284
285 static int mxf_get_stream_index(AVFormatContext *s, KLVPacket *klv)
286 {
287     int i;
288
289     for (i = 0; i < s->nb_streams; i++) {
290         MXFTrack *track = s->streams[i]->priv_data;
291         /* SMPTE 379M 7.3 */
292         if (!memcmp(klv->key + sizeof(mxf_essence_element_key), track->track_number, sizeof(track->track_number)))
293             return i;
294     }
295     /* return 0 if only one stream, for OP Atom files with 0 as track number */
296     return s->nb_streams == 1 ? 0 : -1;
297 }
298
299 /* XXX: use AVBitStreamFilter */
300 static int mxf_get_d10_aes3_packet(AVIOContext *pb, AVStream *st, AVPacket *pkt, int64_t length)
301 {
302     const uint8_t *buf_ptr, *end_ptr;
303     uint8_t *data_ptr;
304     int i;
305
306     if (length > 61444) /* worst case PAL 1920 samples 8 channels */
307         return AVERROR_INVALIDDATA;
308     length = av_get_packet(pb, pkt, length);
309     if (length < 0)
310         return length;
311     data_ptr = pkt->data;
312     end_ptr = pkt->data + length;
313     buf_ptr = pkt->data + 4; /* skip SMPTE 331M header */
314     for (; buf_ptr + st->codec->channels*4 < end_ptr; ) {
315         for (i = 0; i < st->codec->channels; i++) {
316             uint32_t sample = bytestream_get_le32(&buf_ptr);
317             if (st->codec->bits_per_coded_sample == 24)
318                 bytestream_put_le24(&data_ptr, (sample >> 4) & 0xffffff);
319             else
320                 bytestream_put_le16(&data_ptr, (sample >> 12) & 0xffff);
321         }
322         buf_ptr += 32 - st->codec->channels*4; // always 8 channels stored SMPTE 331M
323     }
324     av_shrink_packet(pkt, data_ptr - pkt->data);
325     return 0;
326 }
327
328 static int mxf_decrypt_triplet(AVFormatContext *s, AVPacket *pkt, KLVPacket *klv)
329 {
330     static const uint8_t checkv[16] = {0x43, 0x48, 0x55, 0x4b, 0x43, 0x48, 0x55, 0x4b, 0x43, 0x48, 0x55, 0x4b, 0x43, 0x48, 0x55, 0x4b};
331     MXFContext *mxf = s->priv_data;
332     AVIOContext *pb = s->pb;
333     int64_t end = avio_tell(pb) + klv->length;
334     int64_t size;
335     uint64_t orig_size;
336     uint64_t plaintext_size;
337     uint8_t ivec[16];
338     uint8_t tmpbuf[16];
339     int index;
340
341     if (!mxf->aesc && s->key && s->keylen == 16) {
342         mxf->aesc = av_malloc(av_aes_size);
343         if (!mxf->aesc)
344             return AVERROR(ENOMEM);
345         av_aes_init(mxf->aesc, s->key, 128, 1);
346     }
347     // crypto context
348     avio_skip(pb, klv_decode_ber_length(pb));
349     // plaintext offset
350     klv_decode_ber_length(pb);
351     plaintext_size = avio_rb64(pb);
352     // source klv key
353     klv_decode_ber_length(pb);
354     avio_read(pb, klv->key, 16);
355     if (!IS_KLV_KEY(klv, mxf_essence_element_key))
356         return AVERROR_INVALIDDATA;
357     index = mxf_get_stream_index(s, klv);
358     if (index < 0)
359         return AVERROR_INVALIDDATA;
360     // source size
361     klv_decode_ber_length(pb);
362     orig_size = avio_rb64(pb);
363     if (orig_size < plaintext_size)
364         return AVERROR_INVALIDDATA;
365     // enc. code
366     size = klv_decode_ber_length(pb);
367     if (size < 32 || size - 32 < orig_size)
368         return AVERROR_INVALIDDATA;
369     avio_read(pb, ivec, 16);
370     avio_read(pb, tmpbuf, 16);
371     if (mxf->aesc)
372         av_aes_crypt(mxf->aesc, tmpbuf, tmpbuf, 1, ivec, 1);
373     if (memcmp(tmpbuf, checkv, 16))
374         av_log(s, AV_LOG_ERROR, "probably incorrect decryption key\n");
375     size -= 32;
376     size = av_get_packet(pb, pkt, size);
377     if (size < 0)
378         return size;
379     else if (size < plaintext_size)
380         return AVERROR_INVALIDDATA;
381     size -= plaintext_size;
382     if (mxf->aesc)
383         av_aes_crypt(mxf->aesc, &pkt->data[plaintext_size],
384                      &pkt->data[plaintext_size], size >> 4, ivec, 1);
385     av_shrink_packet(pkt, orig_size);
386     pkt->stream_index = index;
387     avio_skip(pb, end - avio_tell(pb));
388     return 0;
389 }
390
391 static int mxf_read_primer_pack(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
392 {
393     MXFContext *mxf = arg;
394     int item_num = avio_rb32(pb);
395     int item_len = avio_rb32(pb);
396
397     if (item_len != 18) {
398         av_log_ask_for_sample(pb, "unsupported primer pack item length %d\n",
399                               item_len);
400         return AVERROR_PATCHWELCOME;
401     }
402     if (item_num > UINT_MAX / item_len)
403         return AVERROR_INVALIDDATA;
404     mxf->local_tags_count = item_num;
405     mxf->local_tags = av_malloc(item_num*item_len);
406     if (!mxf->local_tags)
407         return AVERROR(ENOMEM);
408     avio_read(pb, mxf->local_tags, item_num*item_len);
409     return 0;
410 }
411
412 static int mxf_read_partition_pack(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
413 {
414     MXFContext *mxf = arg;
415     MXFPartition *partition;
416     UID op;
417     uint64_t footer_partition;
418
419     if (mxf->partitions_count+1 >= UINT_MAX / sizeof(*mxf->partitions))
420         return AVERROR(ENOMEM);
421
422     mxf->partitions = av_realloc(mxf->partitions, (mxf->partitions_count + 1) * sizeof(*mxf->partitions));
423     if (!mxf->partitions)
424         return AVERROR(ENOMEM);
425
426     if (mxf->parsing_backward) {
427         /* insert the new partition pack in the middle
428          * this makes the entries in mxf->partitions sorted by offset */
429         memmove(&mxf->partitions[mxf->last_forward_partition+1],
430                 &mxf->partitions[mxf->last_forward_partition],
431                 (mxf->partitions_count - mxf->last_forward_partition)*sizeof(*mxf->partitions));
432         partition = mxf->current_partition = &mxf->partitions[mxf->last_forward_partition];
433     } else {
434         mxf->last_forward_partition++;
435         partition = mxf->current_partition = &mxf->partitions[mxf->partitions_count];
436     }
437
438     memset(partition, 0, sizeof(*partition));
439     mxf->partitions_count++;
440     partition->pack_length = avio_tell(pb) - klv_offset + size;
441
442     switch(uid[13]) {
443     case 2:
444         partition->type = Header;
445         break;
446     case 3:
447         partition->type = BodyPartition;
448         break;
449     case 4:
450         partition->type = Footer;
451         break;
452     default:
453         av_log(mxf->fc, AV_LOG_ERROR, "unknown partition type %i\n", uid[13]);
454         return AVERROR_INVALIDDATA;
455     }
456
457     /* consider both footers to be closed (there is only Footer and CompleteFooter) */
458     partition->closed = partition->type == Footer || !(uid[14] & 1);
459     partition->complete = uid[14] > 2;
460     avio_skip(pb, 4);
461     partition->kag_size = avio_rb32(pb);
462     partition->this_partition = avio_rb64(pb);
463     partition->previous_partition = avio_rb64(pb);
464     footer_partition = avio_rb64(pb);
465     partition->header_byte_count = avio_rb64(pb);
466     partition->index_byte_count = avio_rb64(pb);
467     partition->index_sid = avio_rb32(pb);
468     avio_skip(pb, 8);
469     partition->body_sid = avio_rb32(pb);
470     avio_read(pb, op, sizeof(UID));
471
472     /* some files don'thave FooterPartition set in every partition */
473     if (footer_partition) {
474         if (mxf->footer_partition && mxf->footer_partition != footer_partition) {
475             av_log(mxf->fc, AV_LOG_ERROR, "inconsistent FooterPartition value: %li != %li\n",
476                    mxf->footer_partition, footer_partition);
477         } else {
478             mxf->footer_partition = footer_partition;
479         }
480     }
481
482     av_dlog(mxf->fc, "PartitionPack: ThisPartition = 0x%lx, PreviousPartition = 0x%lx, "
483             "FooterPartition = 0x%lx, IndexSID = %i, BodySID = %i\n",
484             partition->this_partition,
485             partition->previous_partition, footer_partition,
486             partition->index_sid, partition->body_sid);
487
488     if      (op[12] == 1 && op[13] == 1) mxf->op = OP1a;
489     else if (op[12] == 1 && op[13] == 2) mxf->op = OP1b;
490     else if (op[12] == 1 && op[13] == 3) mxf->op = OP1c;
491     else if (op[12] == 2 && op[13] == 1) mxf->op = OP2a;
492     else if (op[12] == 2 && op[13] == 2) mxf->op = OP2b;
493     else if (op[12] == 2 && op[13] == 3) mxf->op = OP2c;
494     else if (op[12] == 3 && op[13] == 1) mxf->op = OP3a;
495     else if (op[12] == 3 && op[13] == 2) mxf->op = OP3b;
496     else if (op[12] == 3 && op[13] == 3) mxf->op = OP3c;
497     else if (op[12] == 0x10)             mxf->op = OPAtom;
498     else if (op[12] == 64&& op[13] == 1) mxf->op = OPSonyOpt;
499     else {
500         av_log(mxf->fc, AV_LOG_ERROR, "unknown operational pattern: %02xh %02xh - guessing OP1a\n", op[12], op[13]);
501         mxf->op = OP1a;
502     }
503
504     if (partition->kag_size <= 0 || partition->kag_size > (1 << 20)) {
505         av_log(mxf->fc, AV_LOG_WARNING, "invalid KAGSize %i - guessing ", partition->kag_size);
506
507         if (mxf->op == OPSonyOpt)
508             partition->kag_size = 512;
509         else
510             partition->kag_size = 1;
511
512         av_log(mxf->fc, AV_LOG_WARNING, "%i\n", partition->kag_size);
513     }
514
515     return 0;
516 }
517
518 static int mxf_add_metadata_set(MXFContext *mxf, void *metadata_set)
519 {
520     if (mxf->metadata_sets_count+1 >= UINT_MAX / sizeof(*mxf->metadata_sets))
521         return AVERROR(ENOMEM);
522     mxf->metadata_sets = av_realloc(mxf->metadata_sets, (mxf->metadata_sets_count + 1) * sizeof(*mxf->metadata_sets));
523     if (!mxf->metadata_sets)
524         return AVERROR(ENOMEM);
525     mxf->metadata_sets[mxf->metadata_sets_count] = metadata_set;
526     mxf->metadata_sets_count++;
527     return 0;
528 }
529
530 static int mxf_read_cryptographic_context(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
531 {
532     MXFCryptoContext *cryptocontext = arg;
533     if (size != 16)
534         return AVERROR_INVALIDDATA;
535     if (IS_KLV_KEY(uid, mxf_crypto_source_container_ul))
536         avio_read(pb, cryptocontext->source_container_ul, 16);
537     return 0;
538 }
539
540 static int mxf_read_content_storage(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
541 {
542     MXFContext *mxf = arg;
543     switch (tag) {
544     case 0x1901:
545         mxf->packages_count = avio_rb32(pb);
546         if (mxf->packages_count >= UINT_MAX / sizeof(UID))
547             return AVERROR_INVALIDDATA;
548         mxf->packages_refs = av_malloc(mxf->packages_count * sizeof(UID));
549         if (!mxf->packages_refs)
550             return AVERROR(ENOMEM);
551         avio_skip(pb, 4); /* useless size of objects, always 16 according to specs */
552         avio_read(pb, (uint8_t *)mxf->packages_refs, mxf->packages_count * sizeof(UID));
553         break;
554     }
555     return 0;
556 }
557
558 static int mxf_read_source_clip(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
559 {
560     MXFStructuralComponent *source_clip = arg;
561     switch(tag) {
562     case 0x0202:
563         source_clip->duration = avio_rb64(pb);
564         break;
565     case 0x1201:
566         source_clip->start_position = avio_rb64(pb);
567         break;
568     case 0x1101:
569         /* UMID, only get last 16 bytes */
570         avio_skip(pb, 16);
571         avio_read(pb, source_clip->source_package_uid, 16);
572         break;
573     case 0x1102:
574         source_clip->source_track_id = avio_rb32(pb);
575         break;
576     }
577     return 0;
578 }
579
580 static int mxf_read_material_package(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
581 {
582     MXFPackage *package = arg;
583     switch(tag) {
584     case 0x4403:
585         package->tracks_count = avio_rb32(pb);
586         if (package->tracks_count >= UINT_MAX / sizeof(UID))
587             return AVERROR_INVALIDDATA;
588         package->tracks_refs = av_malloc(package->tracks_count * sizeof(UID));
589         if (!package->tracks_refs)
590             return AVERROR(ENOMEM);
591         avio_skip(pb, 4); /* useless size of objects, always 16 according to specs */
592         avio_read(pb, (uint8_t *)package->tracks_refs, package->tracks_count * sizeof(UID));
593         break;
594     }
595     return 0;
596 }
597
598 static int mxf_read_track(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
599 {
600     MXFTrack *track = arg;
601     switch(tag) {
602     case 0x4801:
603         track->track_id = avio_rb32(pb);
604         break;
605     case 0x4804:
606         avio_read(pb, track->track_number, 4);
607         break;
608     case 0x4B01:
609         track->edit_rate.den = avio_rb32(pb);
610         track->edit_rate.num = avio_rb32(pb);
611         break;
612     case 0x4803:
613         avio_read(pb, track->sequence_ref, 16);
614         break;
615     }
616     return 0;
617 }
618
619 static int mxf_read_sequence(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
620 {
621     MXFSequence *sequence = arg;
622     switch(tag) {
623     case 0x0202:
624         sequence->duration = avio_rb64(pb);
625         break;
626     case 0x0201:
627         avio_read(pb, sequence->data_definition_ul, 16);
628         break;
629     case 0x1001:
630         sequence->structural_components_count = avio_rb32(pb);
631         if (sequence->structural_components_count >= UINT_MAX / sizeof(UID))
632             return AVERROR_INVALIDDATA;
633         sequence->structural_components_refs = av_malloc(sequence->structural_components_count * sizeof(UID));
634         if (!sequence->structural_components_refs)
635             return AVERROR(ENOMEM);
636         avio_skip(pb, 4); /* useless size of objects, always 16 according to specs */
637         avio_read(pb, (uint8_t *)sequence->structural_components_refs, sequence->structural_components_count * sizeof(UID));
638         break;
639     }
640     return 0;
641 }
642
643 static int mxf_read_source_package(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
644 {
645     MXFPackage *package = arg;
646     switch(tag) {
647     case 0x4403:
648         package->tracks_count = avio_rb32(pb);
649         if (package->tracks_count >= UINT_MAX / sizeof(UID))
650             return AVERROR_INVALIDDATA;
651         package->tracks_refs = av_malloc(package->tracks_count * sizeof(UID));
652         if (!package->tracks_refs)
653             return AVERROR(ENOMEM);
654         avio_skip(pb, 4); /* useless size of objects, always 16 according to specs */
655         avio_read(pb, (uint8_t *)package->tracks_refs, package->tracks_count * sizeof(UID));
656         break;
657     case 0x4401:
658         /* UMID, only get last 16 bytes */
659         avio_skip(pb, 16);
660         avio_read(pb, package->package_uid, 16);
661         break;
662     case 0x4701:
663         avio_read(pb, package->descriptor_ref, 16);
664         break;
665     }
666     return 0;
667 }
668
669 static int mxf_read_delta_entry_array(AVIOContext *pb, MXFIndexTableSegment *segment)
670 {
671     int i, length;
672
673     segment->nb_delta_entries = avio_rb32(pb);
674     if (segment->nb_delta_entries < 1 ||
675         segment->nb_delta_entries > INT_MAX >> av_log2(sizeof(*segment->slice)))
676         return AVERROR(ENOMEM);
677
678     length = avio_rb32(pb);
679
680     segment->slice = av_mallocz(segment->nb_delta_entries *
681                                 sizeof(*segment->slice));
682     if (!segment->slice)
683         return AVERROR(ENOMEM);
684     segment->element_delta = av_mallocz(segment->nb_delta_entries *
685                                         sizeof(*segment->element_delta));
686     if (!segment->element_delta) {
687         av_freep(&segment->slice);
688         return AVERROR(ENOMEM);
689     }
690
691     for (i = 0; i < segment->nb_delta_entries; i++) {
692         avio_r8(pb);    /* PosTableIndex */
693         segment->slice[i] = avio_r8(pb);
694         segment->element_delta[i] = avio_rb32(pb);
695     }
696     return 0;
697 }
698
699 static int mxf_read_index_entry_array(AVIOContext *pb, MXFIndexTableSegment *segment)
700 {
701     int i, j, length;
702
703     segment->nb_index_entries = avio_rb32(pb);
704     if (!segment->nb_index_entries)
705         return 0;
706     else if (segment->nb_index_entries < 0 ||
707              segment->nb_index_entries >
708              (INT_MAX >> av_log2(sizeof(*segment->stream_offset_entries))))
709         return AVERROR(ENOMEM);
710
711     length = avio_rb32(pb);
712
713     segment->temporal_offset_entries = av_mallocz(segment->nb_index_entries *
714                                  sizeof(*segment->temporal_offset_entries));
715     segment->flag_entries            = av_mallocz(segment->nb_index_entries *
716                                  sizeof(*segment->flag_entries));
717     segment->stream_offset_entries   = av_mallocz(segment->nb_index_entries *
718                                  sizeof(*segment->stream_offset_entries));
719     segment->slice_offset_entries    = av_mallocz(segment->nb_index_entries *
720                                  sizeof(*segment->slice_offset_entries));
721
722     if (!segment->flag_entries         || !segment->stream_offset_entries ||
723         !segment->slice_offset_entries || !segment->temporal_offset_entries)
724         goto errmem;
725
726     for (i = 0; i < segment->nb_index_entries; i++) {
727         segment->temporal_offset_entries[i] = avio_r8(pb);
728         avio_r8(pb);                                        /* KeyFrameOffset */
729         segment->flag_entries[i] = avio_r8(pb);
730         segment->stream_offset_entries[i] = avio_rb64(pb);
731         if (segment->slice_count) {
732             segment->slice_offset_entries[i] = av_mallocz(segment->slice_count *
733                                       sizeof(**segment->slice_offset_entries));
734             if (!segment->slice_offset_entries[i])
735                 goto errmem;
736
737             for (j = 0; j < segment->slice_count; j++)
738                 segment->slice_offset_entries[i][j] = avio_rb32(pb);
739         }
740
741         avio_skip(pb, length - 11 - 4 * segment->slice_count);
742     }
743     return 0;
744 errmem:
745     if (segment->slice_offset_entries && segment->slice_count) {
746         for (i = 0; i < segment->nb_index_entries; i++)
747             av_free(segment->slice_offset_entries[i]);
748     }
749     av_freep(&segment->flag_entries);
750     av_freep(&segment->stream_offset_entries);
751     av_freep(&segment->slice_offset_entries);
752     av_freep(&segment->temporal_offset_entries);
753     return AVERROR(ENOMEM);
754 }
755
756 static int mxf_read_index_table_segment(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
757 {
758     MXFIndexTableSegment *segment = arg;
759     switch(tag) {
760     case 0x3F05:
761         segment->edit_unit_byte_count = avio_rb32(pb);
762         av_dlog(NULL, "EditUnitByteCount %d\n", segment->edit_unit_byte_count);
763         break;
764     case 0x3F06:
765         segment->index_sid = avio_rb32(pb);
766         av_dlog(NULL, "IndexSID %d\n", segment->index_sid);
767         break;
768     case 0x3F07:
769         segment->body_sid = avio_rb32(pb);
770         av_dlog(NULL, "BodySID %d\n", segment->body_sid);
771         break;
772     case 0x3F08:
773         segment->slice_count = avio_r8(pb);
774         av_dlog(NULL, "SliceCount %d\n", segment->slice_count);
775         break;
776     case 0x3F09:
777         av_dlog(NULL, "DeltaEntryArray found\n");
778         return mxf_read_delta_entry_array(pb, segment);
779     case 0x3F0A:
780         av_dlog(NULL, "IndexEntryArray found\n");
781         return mxf_read_index_entry_array(pb, segment);
782     case 0x3F0B:
783         segment->index_edit_rate.num = avio_rb32(pb);
784         segment->index_edit_rate.den = avio_rb32(pb);
785         av_dlog(NULL, "IndexEditRate %d/%d\n", segment->index_edit_rate.num,
786                 segment->index_edit_rate.den);
787         break;
788     case 0x3F0C:
789         segment->index_start_position = avio_rb64(pb);
790         av_dlog(NULL, "IndexStartPosition %"PRId64"\n", segment->index_start_position);
791         break;
792     case 0x3F0D:
793         segment->index_duration = avio_rb64(pb);
794         av_dlog(NULL, "IndexDuration %"PRId64"\n", segment->index_duration);
795         break;
796     }
797     return 0;
798 }
799
800 static void mxf_read_pixel_layout(AVIOContext *pb, MXFDescriptor *descriptor)
801 {
802     int code, value, ofs = 0;
803     char layout[16] = {0};
804
805     do {
806         code = avio_r8(pb);
807         value = avio_r8(pb);
808         av_dlog(NULL, "pixel layout: code %#x\n", code);
809
810         if (ofs < 16) {
811             layout[ofs++] = code;
812             layout[ofs++] = value;
813         }
814     } while (code != 0); /* SMPTE 377M E.2.46 */
815
816     ff_mxf_decode_pixel_layout(layout, &descriptor->pix_fmt);
817 }
818
819 static int mxf_read_generic_descriptor(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
820 {
821     MXFDescriptor *descriptor = arg;
822     switch(tag) {
823     case 0x3F01:
824         descriptor->sub_descriptors_count = avio_rb32(pb);
825         if (descriptor->sub_descriptors_count >= UINT_MAX / sizeof(UID))
826             return AVERROR_INVALIDDATA;
827         descriptor->sub_descriptors_refs = av_malloc(descriptor->sub_descriptors_count * sizeof(UID));
828         if (!descriptor->sub_descriptors_refs)
829             return AVERROR(ENOMEM);
830         avio_skip(pb, 4); /* useless size of objects, always 16 according to specs */
831         avio_read(pb, (uint8_t *)descriptor->sub_descriptors_refs, descriptor->sub_descriptors_count * sizeof(UID));
832         break;
833     case 0x3004:
834         avio_read(pb, descriptor->essence_container_ul, 16);
835         break;
836     case 0x3006:
837         descriptor->linked_track_id = avio_rb32(pb);
838         break;
839     case 0x3201: /* PictureEssenceCoding */
840         avio_read(pb, descriptor->essence_codec_ul, 16);
841         break;
842     case 0x3203:
843         descriptor->width = avio_rb32(pb);
844         break;
845     case 0x3202:
846         descriptor->height = avio_rb32(pb);
847         break;
848     case 0x320E:
849         descriptor->aspect_ratio.num = avio_rb32(pb);
850         descriptor->aspect_ratio.den = avio_rb32(pb);
851         break;
852     case 0x3D03:
853         descriptor->sample_rate.num = avio_rb32(pb);
854         descriptor->sample_rate.den = avio_rb32(pb);
855         break;
856     case 0x3D06: /* SoundEssenceCompression */
857         avio_read(pb, descriptor->essence_codec_ul, 16);
858         break;
859     case 0x3D07:
860         descriptor->channels = avio_rb32(pb);
861         break;
862     case 0x3D01:
863         descriptor->bits_per_sample = avio_rb32(pb);
864         break;
865     case 0x3401:
866         mxf_read_pixel_layout(pb, descriptor);
867         break;
868     default:
869         /* Private uid used by SONY C0023S01.mxf */
870         if (IS_KLV_KEY(uid, mxf_sony_mpeg4_extradata)) {
871             descriptor->extradata = av_malloc(size + FF_INPUT_BUFFER_PADDING_SIZE);
872             if (!descriptor->extradata)
873                 return AVERROR(ENOMEM);
874             descriptor->extradata_size = size;
875             avio_read(pb, descriptor->extradata, size);
876         }
877         break;
878     }
879     return 0;
880 }
881
882 /*
883  * Match an uid independently of the version byte and up to len common bytes
884  * Returns: boolean
885  */
886 static int mxf_match_uid(const UID key, const UID uid, int len)
887 {
888     int i;
889     for (i = 0; i < len; i++) {
890         if (i != 7 && key[i] != uid[i])
891             return 0;
892     }
893     return 1;
894 }
895
896 static const MXFCodecUL *mxf_get_codec_ul(const MXFCodecUL *uls, UID *uid)
897 {
898     while (uls->uid[0]) {
899         if(mxf_match_uid(uls->uid, *uid, uls->matching_len))
900             break;
901         uls++;
902     }
903     return uls;
904 }
905
906 static void *mxf_resolve_strong_ref(MXFContext *mxf, UID *strong_ref, enum MXFMetadataSetType type)
907 {
908     int i;
909
910     if (!strong_ref)
911         return NULL;
912     for (i = 0; i < mxf->metadata_sets_count; i++) {
913         if (!memcmp(*strong_ref, mxf->metadata_sets[i]->uid, 16) &&
914             (type == AnyType || mxf->metadata_sets[i]->type == type)) {
915             return mxf->metadata_sets[i];
916         }
917     }
918     return NULL;
919 }
920
921 static const MXFCodecUL mxf_picture_essence_container_uls[] = {
922     // video essence container uls
923     { { 0x06,0x0E,0x2B,0x34,0x04,0x01,0x01,0x02,0x0D,0x01,0x03,0x01,0x02,0x04,0x60,0x01 }, 14, CODEC_ID_MPEG2VIDEO }, /* MPEG-ES Frame wrapped */
924     { { 0x06,0x0E,0x2B,0x34,0x04,0x01,0x01,0x01,0x0D,0x01,0x03,0x01,0x02,0x02,0x41,0x01 }, 14,    CODEC_ID_DVVIDEO }, /* DV 625 25mbps */
925     { { 0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00 },  0,      CODEC_ID_NONE },
926 };
927 static const MXFCodecUL mxf_sound_essence_container_uls[] = {
928     // sound essence container uls
929     { { 0x06,0x0E,0x2B,0x34,0x04,0x01,0x01,0x01,0x0D,0x01,0x03,0x01,0x02,0x06,0x01,0x00 }, 14, CODEC_ID_PCM_S16LE }, /* BWF Frame wrapped */
930     { { 0x06,0x0E,0x2B,0x34,0x04,0x01,0x01,0x02,0x0D,0x01,0x03,0x01,0x02,0x04,0x40,0x01 }, 14,       CODEC_ID_MP2 }, /* MPEG-ES Frame wrapped, 0x40 ??? stream id */
931     { { 0x06,0x0E,0x2B,0x34,0x04,0x01,0x01,0x01,0x0D,0x01,0x03,0x01,0x02,0x01,0x01,0x01 }, 14, CODEC_ID_PCM_S16LE }, /* D-10 Mapping 50Mbps PAL Extended Template */
932     { { 0x06,0x0E,0x2B,0x34,0x01,0x01,0x01,0xFF,0x4B,0x46,0x41,0x41,0x00,0x0D,0x4D,0x4F }, 14, CODEC_ID_PCM_S16LE }, /* 0001GL00.MXF.A1.mxf_opatom.mxf */
933     { { 0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00 },  0,      CODEC_ID_NONE },
934 };
935
936 static int mxf_get_sorted_table_segments(MXFContext *mxf, int *nb_sorted_segments, MXFIndexTableSegment ***sorted_segments)
937 {
938     int i, j, nb_segments = 0;
939     MXFIndexTableSegment **unsorted_segments;
940     int last_body_sid = -1, last_index_sid = -1, last_index_start = -1;
941
942     /* count number of segments, allocate arrays and copy unsorted segments */
943     for (i = 0; i < mxf->metadata_sets_count; i++)
944         if (mxf->metadata_sets[i]->type == IndexTableSegment)
945             nb_segments++;
946
947     *sorted_segments  = av_mallocz(nb_segments * sizeof(**sorted_segments));
948     unsorted_segments = av_mallocz(nb_segments * sizeof(*unsorted_segments));
949     if (!sorted_segments || !unsorted_segments) {
950         av_freep(sorted_segments);
951         av_free(unsorted_segments);
952         return AVERROR(ENOMEM);
953     }
954
955     for (i = j = 0; i < mxf->metadata_sets_count; i++)
956         if (mxf->metadata_sets[i]->type == IndexTableSegment)
957             unsorted_segments[j++] = (MXFIndexTableSegment*)mxf->metadata_sets[i];
958
959     *nb_sorted_segments = 0;
960
961     /* sort segments by {BodySID, IndexSID, IndexStartPosition}, remove duplicates while we're at it */
962     for (i = 0; i < nb_segments; i++) {
963         int best = -1, best_body_sid = -1, best_index_sid = -1, best_index_start = -1;
964
965         for (j = 0; j < nb_segments; j++) {
966             MXFIndexTableSegment *s = unsorted_segments[j];
967
968             /* Require larger BosySID, IndexSID or IndexStartPosition then the previous entry. This removes duplicates.
969              * We want the smallest values for the keys than what we currently have, unless this is the first such entry this time around.
970              */
971             if ((i == 0     || s->body_sid > last_body_sid || s->index_sid > last_index_sid || s->index_start_position > last_index_start) &&
972                 (best == -1 || s->body_sid < best_body_sid || s->index_sid < best_index_sid || s->index_start_position < best_index_start)) {
973                 best             = j;
974                 best_body_sid    = s->body_sid;
975                 best_index_sid   = s->index_sid;
976                 best_index_start = s->index_start_position;
977             }
978         }
979
980         /* no suitable entry found -> we're done */
981         if (best == -1)
982             break;
983
984         (*sorted_segments)[(*nb_sorted_segments)++] = unsorted_segments[best];
985         last_body_sid    = best_body_sid;
986         last_index_sid   = best_index_sid;
987         last_index_start = best_index_start;
988     }
989
990     av_free(unsorted_segments);
991
992     return 0;
993 }
994
995 /**
996  * Computes the absolute file offset of the given essence container offset
997  */
998 static int mxf_absolute_bodysid_offset(MXFContext *mxf, int body_sid, int64_t offset, int64_t *offset_out)
999 {
1000     int x;
1001     int64_t offset_in = offset;     /* for logging */
1002
1003     for (x = 0; x < mxf->partitions_count; x++) {
1004         MXFPartition *p = &mxf->partitions[x];
1005
1006         if (p->body_sid != body_sid)
1007             continue;
1008
1009         if (offset < p->essence_length || !p->essence_length) {
1010             *offset_out = p->essence_offset + offset;
1011             return 0;
1012         }
1013
1014         offset -= p->essence_length;
1015     }
1016
1017     av_log(mxf->fc, AV_LOG_ERROR, "failed to find absolute offset of %lx in BodySID %i - partial file?\n",
1018            offset_in, body_sid);
1019
1020     return AVERROR_INVALIDDATA;
1021 }
1022
1023 /**
1024  * Returns the end position of the essence container with given BodySID, or zero if unknown
1025  */
1026 static int64_t mxf_essence_container_end(MXFContext *mxf, int body_sid)
1027 {
1028     int x;
1029     int64_t ret = 0;
1030
1031     for (x = 0; x < mxf->partitions_count; x++) {
1032         MXFPartition *p = &mxf->partitions[x];
1033
1034         if (p->body_sid != body_sid)
1035             continue;
1036
1037         if (!p->essence_length)
1038             return 0;
1039
1040         ret = p->essence_offset + p->essence_length;
1041     }
1042
1043     return ret;
1044 }
1045
1046 /* EditUnit -> absolute offset */
1047 static int mxf_edit_unit_absolute_offset(MXFContext *mxf, MXFIndexTable *index_table, int64_t edit_unit, int64_t *edit_unit_out, int64_t *offset_out, int nag)
1048 {
1049     int i;
1050     int offset_temp = 0;
1051
1052     for (i = 0; i < index_table->nb_segments; i++) {
1053         MXFIndexTableSegment *s = index_table->segments[i];
1054
1055         edit_unit = FFMAX(edit_unit, s->index_start_position);  /* clamp if trying to seek before start */
1056
1057         if (edit_unit < s->index_start_position + s->index_duration) {
1058             int64_t index = edit_unit - s->index_start_position;
1059
1060             if (s->edit_unit_byte_count)
1061                 offset_temp += s->edit_unit_byte_count * index;
1062             else if (s->nb_index_entries) {
1063                 if (s->nb_index_entries == 2 * s->index_duration + 1)
1064                     index *= 2;     /* Avid index */
1065
1066                 if (index < 0 || index > s->nb_index_entries) {
1067                     av_log(mxf->fc, AV_LOG_ERROR, "IndexSID %i segment at %"PRId64" IndexEntryArray too small\n",
1068                            index_table->index_sid, s->index_start_position);
1069                     return AVERROR_INVALIDDATA;
1070                 }
1071
1072                 offset_temp = s->stream_offset_entries[index];
1073             } else {
1074                 av_log(mxf->fc, AV_LOG_ERROR, "IndexSID %i segment at %"PRId64" missing EditUnitByteCount and IndexEntryArray\n",
1075                        index_table->index_sid, s->index_start_position);
1076                 return AVERROR_INVALIDDATA;
1077             }
1078
1079             if (edit_unit_out)
1080                 *edit_unit_out = edit_unit;
1081
1082             return mxf_absolute_bodysid_offset(mxf, index_table->body_sid, offset_temp, offset_out);
1083         } else {
1084             /* EditUnitByteCount == 0 for VBR indexes, which is fine since they use explicit StreamOffsets */
1085             offset_temp += s->edit_unit_byte_count * s->index_duration;
1086         }
1087     }
1088
1089     if (nag)
1090         av_log(mxf->fc, AV_LOG_ERROR, "failed to map EditUnit %"PRId64" in IndexSID %i to an offset\n", edit_unit, index_table->index_sid);
1091
1092     return AVERROR_INVALIDDATA;
1093 }
1094
1095 static int mxf_compute_ptses_fake_index(MXFContext *mxf, MXFIndexTable *index_table)
1096 {
1097     int i, j, x;
1098     int8_t max_temporal_offset = -128;
1099
1100     /* first compute how many entries we have */
1101     for (i = 0; i < index_table->nb_segments; i++) {
1102         MXFIndexTableSegment *s = index_table->segments[i];
1103
1104         if (!s->nb_index_entries)
1105             return 0;                               /* no TemporalOffsets */
1106
1107         index_table->nb_ptses += s->index_duration;
1108     }
1109
1110     /* paranoid check */
1111     if (index_table->nb_ptses <= 0)
1112         return 0;
1113
1114     if (index_table->nb_ptses > INT_MAX >> av_log2(sizeof(AVIndexEntry)) + 1)
1115         return AVERROR(ENOMEM);
1116
1117     index_table->ptses      = av_mallocz(index_table->nb_ptses *
1118                                          sizeof(int64_t));
1119     index_table->fake_index = av_mallocz(index_table->nb_ptses *
1120                                          sizeof(AVIndexEntry));
1121     if (!index_table->ptses || !index_table->fake_index) {
1122         av_freep(&index_table->ptses);
1123         return AVERROR(ENOMEM);
1124     }
1125
1126     /* we may have a few bad TemporalOffsets
1127      * make sure the corresponding PTSes don't have the bogus value 0 */
1128     for (x = 0; x < index_table->nb_ptses; x++)
1129         index_table->ptses[x] = AV_NOPTS_VALUE;
1130
1131     /**
1132      * We have this:
1133      *
1134      * x  TemporalOffset
1135      * 0:  0
1136      * 1:  1
1137      * 2:  1
1138      * 3: -2
1139      * 4:  1
1140      * 5:  1
1141      * 6: -2
1142      *
1143      * We want to transform it into this:
1144      *
1145      * x  DTS PTS
1146      * 0: -1   0
1147      * 1:  0   3
1148      * 2:  1   1
1149      * 3:  2   2
1150      * 4:  3   6
1151      * 5:  4   4
1152      * 6:  5   5
1153      *
1154      * We do this by bucket sorting x by x+TemporalOffset[x] into mxf->ptses,
1155      * then settings mxf->first_dts = -max(TemporalOffset[x]).
1156      * The latter makes DTS <= PTS.
1157      */
1158     for (i = x = 0; i < index_table->nb_segments; i++) {
1159         MXFIndexTableSegment *s = index_table->segments[i];
1160         int index_delta = 1;
1161
1162         if (s->nb_index_entries == 2 * s->index_duration + 1)
1163             index_delta = 2;    /* Avid index */
1164
1165         for (j = 0; j < s->nb_index_entries; j += index_delta, x++) {
1166             int offset = s->temporal_offset_entries[j] / index_delta;
1167             int index  = x + offset;
1168
1169             index_table->fake_index[x].timestamp = x;
1170             index_table->fake_index[x].flags = !(s->flag_entries[j] & 0x30) ? AVINDEX_KEYFRAME : 0;
1171
1172             if (index < 0 || index >= index_table->nb_ptses) {
1173                 av_log(mxf->fc, AV_LOG_ERROR,
1174                        "index entry %i + TemporalOffset %i = %i, which is out of bounds\n",
1175                        x, offset, index);
1176                 continue;
1177             }
1178
1179             index_table->ptses[index] = x;
1180             max_temporal_offset = FFMAX(max_temporal_offset, offset);
1181         }
1182     }
1183
1184     index_table->first_dts = -max_temporal_offset;
1185
1186     return 0;
1187 }
1188
1189 /**
1190  * Sorts and collects index table segments into index tables.
1191  * Also computes PTSes if possible.
1192  */
1193 static int mxf_compute_index_tables(MXFContext *mxf)
1194 {
1195     int i, j, k, ret, nb_sorted_segments;
1196     MXFIndexTableSegment **sorted_segments = NULL;
1197
1198     if ((ret = mxf_get_sorted_table_segments(mxf, &nb_sorted_segments, &sorted_segments)) ||
1199         nb_sorted_segments <= 0) {
1200         av_log(mxf->fc, AV_LOG_WARNING, "broken or empty index\n");
1201         return 0;
1202     }
1203
1204     /* sanity check and count unique BodySIDs/IndexSIDs */
1205     for (i = 0; i < nb_sorted_segments; i++) {
1206         if (i == 0 || sorted_segments[i-1]->index_sid != sorted_segments[i]->index_sid)
1207             mxf->nb_index_tables++;
1208         else if (sorted_segments[i-1]->body_sid != sorted_segments[i]->body_sid) {
1209             av_log(mxf->fc, AV_LOG_ERROR, "found inconsistent BodySID\n");
1210             ret = AVERROR_INVALIDDATA;
1211             goto finish_decoding_index;
1212         }
1213     }
1214
1215     if (mxf->nb_index_tables > INT_MAX >> av_log2(sizeof(MXFIndexTable)) + 1 ||
1216         !(mxf->index_tables = av_mallocz(mxf->nb_index_tables *
1217                                          sizeof(MXFIndexTable)))) {
1218         av_log(mxf->fc, AV_LOG_ERROR, "failed to allocate index tables\n");
1219         ret = AVERROR(ENOMEM);
1220         goto finish_decoding_index;
1221     }
1222
1223     /* distribute sorted segments to index tables */
1224     for (i = j = 0; i < nb_sorted_segments; i++) {
1225         if (i != 0 && sorted_segments[i-1]->index_sid != sorted_segments[i]->index_sid) {
1226             /* next IndexSID */
1227             j++;
1228         }
1229
1230         mxf->index_tables[j].nb_segments++;
1231     }
1232
1233     for (i = j = 0; j < mxf->nb_index_tables; i += mxf->index_tables[j++].nb_segments) {
1234         MXFIndexTable *t = &mxf->index_tables[j];
1235
1236         if (t->nb_segments >
1237             (INT_MAX >> av_log2(sizeof(MXFIndexTableSegment *))) ||
1238             !(t->segments = av_mallocz(t->nb_segments *
1239                                        sizeof(MXFIndexTableSegment*)))) {
1240             av_log(mxf->fc, AV_LOG_ERROR, "failed to allocate IndexTableSegment"
1241                    " pointer array\n");
1242             ret = AVERROR(ENOMEM);
1243             goto finish_decoding_index;
1244         }
1245
1246         if (sorted_segments[i]->index_start_position)
1247             av_log(mxf->fc, AV_LOG_WARNING, "IndexSID %i starts at EditUnit %"PRId64" - seeking may not work as expected\n",
1248                    sorted_segments[i]->index_sid, sorted_segments[i]->index_start_position);
1249
1250         memcpy(t->segments, &sorted_segments[i], t->nb_segments * sizeof(MXFIndexTableSegment*));
1251         t->index_sid = sorted_segments[i]->index_sid;
1252         t->body_sid = sorted_segments[i]->body_sid;
1253
1254         if ((ret = mxf_compute_ptses_fake_index(mxf, t)) < 0)
1255             goto finish_decoding_index;
1256
1257         /* fix zero IndexDurations */
1258         for (k = 0; k < t->nb_segments; k++) {
1259             if (t->segments[k]->index_duration)
1260                 continue;
1261
1262             if (t->nb_segments > 1)
1263                 av_log(mxf->fc, AV_LOG_WARNING, "IndexSID %i segment %i has zero IndexDuration and there's more than one segment\n",
1264                        t->index_sid, k);
1265
1266             if (mxf->fc->nb_streams <= 0) {
1267                 av_log(mxf->fc, AV_LOG_WARNING, "no streams?\n");
1268                 break;
1269             }
1270
1271             /* assume the first stream's duration is reasonable
1272              * leave index_duration = 0 on further segments in case we have any (unlikely)
1273              */
1274             t->segments[k]->index_duration = mxf->fc->streams[0]->duration;
1275             break;
1276         }
1277     }
1278
1279     ret = 0;
1280 finish_decoding_index:
1281     av_free(sorted_segments);
1282     return ret;
1283 }
1284
1285 static int mxf_parse_structural_metadata(MXFContext *mxf)
1286 {
1287     MXFPackage *material_package = NULL;
1288     MXFPackage *temp_package = NULL;
1289     int i, j, k, ret;
1290
1291     av_dlog(mxf->fc, "metadata sets count %d\n", mxf->metadata_sets_count);
1292     /* TODO: handle multiple material packages (OP3x) */
1293     for (i = 0; i < mxf->packages_count; i++) {
1294         material_package = mxf_resolve_strong_ref(mxf, &mxf->packages_refs[i], MaterialPackage);
1295         if (material_package) break;
1296     }
1297     if (!material_package) {
1298         av_log(mxf->fc, AV_LOG_ERROR, "no material package found\n");
1299         return AVERROR_INVALIDDATA;
1300     }
1301
1302     for (i = 0; i < material_package->tracks_count; i++) {
1303         MXFPackage *source_package = NULL;
1304         MXFTrack *material_track = NULL;
1305         MXFTrack *source_track = NULL;
1306         MXFTrack *temp_track = NULL;
1307         MXFDescriptor *descriptor = NULL;
1308         MXFStructuralComponent *component = NULL;
1309         UID *essence_container_ul = NULL;
1310         const MXFCodecUL *codec_ul = NULL;
1311         const MXFCodecUL *container_ul = NULL;
1312         AVStream *st;
1313
1314         if (!(material_track = mxf_resolve_strong_ref(mxf, &material_package->tracks_refs[i], Track))) {
1315             av_log(mxf->fc, AV_LOG_ERROR, "could not resolve material track strong ref\n");
1316             continue;
1317         }
1318
1319         if (!(material_track->sequence = mxf_resolve_strong_ref(mxf, &material_track->sequence_ref, Sequence))) {
1320             av_log(mxf->fc, AV_LOG_ERROR, "could not resolve material track sequence strong ref\n");
1321             continue;
1322         }
1323
1324         /* TODO: handle multiple source clips */
1325         for (j = 0; j < material_track->sequence->structural_components_count; j++) {
1326             /* TODO: handle timecode component */
1327             component = mxf_resolve_strong_ref(mxf, &material_track->sequence->structural_components_refs[j], SourceClip);
1328             if (!component)
1329                 continue;
1330
1331             for (k = 0; k < mxf->packages_count; k++) {
1332                 temp_package = mxf_resolve_strong_ref(mxf, &mxf->packages_refs[k], SourcePackage);
1333                 if (!temp_package)
1334                     continue;
1335                 if (!memcmp(temp_package->package_uid, component->source_package_uid, 16)) {
1336                     source_package = temp_package;
1337                     break;
1338                 }
1339             }
1340             if (!source_package) {
1341                 av_dlog(mxf->fc, "material track %d: no corresponding source package found\n", material_track->track_id);
1342                 break;
1343             }
1344             for (k = 0; k < source_package->tracks_count; k++) {
1345                 if (!(temp_track = mxf_resolve_strong_ref(mxf, &source_package->tracks_refs[k], Track))) {
1346                     av_log(mxf->fc, AV_LOG_ERROR, "could not resolve source track strong ref\n");
1347                     ret = AVERROR_INVALIDDATA;
1348                     goto fail_and_free;
1349                 }
1350                 if (temp_track->track_id == component->source_track_id) {
1351                     source_track = temp_track;
1352                     break;
1353                 }
1354             }
1355             if (!source_track) {
1356                 av_log(mxf->fc, AV_LOG_ERROR, "material track %d: no corresponding source track found\n", material_track->track_id);
1357                 break;
1358             }
1359         }
1360         if (!source_track)
1361             continue;
1362
1363         if (!(source_track->sequence = mxf_resolve_strong_ref(mxf, &source_track->sequence_ref, Sequence))) {
1364             av_log(mxf->fc, AV_LOG_ERROR, "could not resolve source track sequence strong ref\n");
1365             ret = AVERROR_INVALIDDATA;
1366             goto fail_and_free;
1367         }
1368
1369         /* 0001GL00.MXF.A1.mxf_opatom.mxf has the same SourcePackageID as 0001GL.MXF.V1.mxf_opatom.mxf
1370          * This would result in both files appearing to have two streams. Work around this by sanity checking DataDefinition */
1371         if (memcmp(material_track->sequence->data_definition_ul, source_track->sequence->data_definition_ul, 16)) {
1372             av_log(mxf->fc, AV_LOG_ERROR, "material track %d: DataDefinition mismatch\n", material_track->track_id);
1373             continue;
1374         }
1375
1376         st = avformat_new_stream(mxf->fc, NULL);
1377         if (!st) {
1378             av_log(mxf->fc, AV_LOG_ERROR, "could not allocate stream\n");
1379             ret = AVERROR(ENOMEM);
1380             goto fail_and_free;
1381         }
1382         st->id = source_track->track_id;
1383         st->priv_data = source_track;
1384         st->duration = component->duration;
1385         if (st->duration == -1)
1386             st->duration = AV_NOPTS_VALUE;
1387         st->start_time = component->start_position;
1388         avpriv_set_pts_info(st, 64, material_track->edit_rate.num, material_track->edit_rate.den);
1389
1390         PRINT_KEY(mxf->fc, "data definition   ul", source_track->sequence->data_definition_ul);
1391         codec_ul = mxf_get_codec_ul(ff_mxf_data_definition_uls, &source_track->sequence->data_definition_ul);
1392         st->codec->codec_type = codec_ul->id;
1393
1394         source_package->descriptor = mxf_resolve_strong_ref(mxf, &source_package->descriptor_ref, AnyType);
1395         if (source_package->descriptor) {
1396             if (source_package->descriptor->type == MultipleDescriptor) {
1397                 for (j = 0; j < source_package->descriptor->sub_descriptors_count; j++) {
1398                     MXFDescriptor *sub_descriptor = mxf_resolve_strong_ref(mxf, &source_package->descriptor->sub_descriptors_refs[j], Descriptor);
1399
1400                     if (!sub_descriptor) {
1401                         av_log(mxf->fc, AV_LOG_ERROR, "could not resolve sub descriptor strong ref\n");
1402                         continue;
1403                     }
1404                     if (sub_descriptor->linked_track_id == source_track->track_id) {
1405                         descriptor = sub_descriptor;
1406                         break;
1407                     }
1408                 }
1409             } else if (source_package->descriptor->type == Descriptor)
1410                 descriptor = source_package->descriptor;
1411         }
1412         if (!descriptor) {
1413             av_log(mxf->fc, AV_LOG_INFO, "source track %d: stream %d, no descriptor found\n", source_track->track_id, st->index);
1414             continue;
1415         }
1416         PRINT_KEY(mxf->fc, "essence codec     ul", descriptor->essence_codec_ul);
1417         PRINT_KEY(mxf->fc, "essence container ul", descriptor->essence_container_ul);
1418         essence_container_ul = &descriptor->essence_container_ul;
1419         /* HACK: replacing the original key with mxf_encrypted_essence_container
1420          * is not allowed according to s429-6, try to find correct information anyway */
1421         if (IS_KLV_KEY(essence_container_ul, mxf_encrypted_essence_container)) {
1422             av_log(mxf->fc, AV_LOG_INFO, "broken encrypted mxf file\n");
1423             for (k = 0; k < mxf->metadata_sets_count; k++) {
1424                 MXFMetadataSet *metadata = mxf->metadata_sets[k];
1425                 if (metadata->type == CryptoContext) {
1426                     essence_container_ul = &((MXFCryptoContext *)metadata)->source_container_ul;
1427                     break;
1428                 }
1429             }
1430         }
1431
1432         /* TODO: drop PictureEssenceCoding and SoundEssenceCompression, only check EssenceContainer */
1433         codec_ul = mxf_get_codec_ul(ff_mxf_codec_uls, &descriptor->essence_codec_ul);
1434         st->codec->codec_id = codec_ul->id;
1435         if (descriptor->extradata) {
1436             st->codec->extradata = descriptor->extradata;
1437             st->codec->extradata_size = descriptor->extradata_size;
1438         }
1439         if (st->codec->codec_type == AVMEDIA_TYPE_VIDEO) {
1440             container_ul = mxf_get_codec_ul(mxf_picture_essence_container_uls, essence_container_ul);
1441             if (st->codec->codec_id == CODEC_ID_NONE)
1442                 st->codec->codec_id = container_ul->id;
1443             st->codec->width = descriptor->width;
1444             st->codec->height = descriptor->height;
1445             if (st->codec->codec_id == CODEC_ID_RAWVIDEO)
1446                 st->codec->pix_fmt = descriptor->pix_fmt;
1447             st->need_parsing = AVSTREAM_PARSE_HEADERS;
1448         } else if (st->codec->codec_type == AVMEDIA_TYPE_AUDIO) {
1449             container_ul = mxf_get_codec_ul(mxf_sound_essence_container_uls, essence_container_ul);
1450             if (st->codec->codec_id == CODEC_ID_NONE)
1451                 st->codec->codec_id = container_ul->id;
1452             st->codec->channels = descriptor->channels;
1453             st->codec->bits_per_coded_sample = descriptor->bits_per_sample;
1454             st->codec->sample_rate = descriptor->sample_rate.num / descriptor->sample_rate.den;
1455             /* TODO: implement CODEC_ID_RAWAUDIO */
1456             if (st->codec->codec_id == CODEC_ID_PCM_S16LE) {
1457                 if (descriptor->bits_per_sample > 16 && descriptor->bits_per_sample <= 24)
1458                     st->codec->codec_id = CODEC_ID_PCM_S24LE;
1459                 else if (descriptor->bits_per_sample == 32)
1460                     st->codec->codec_id = CODEC_ID_PCM_S32LE;
1461             } else if (st->codec->codec_id == CODEC_ID_PCM_S16BE) {
1462                 if (descriptor->bits_per_sample > 16 && descriptor->bits_per_sample <= 24)
1463                     st->codec->codec_id = CODEC_ID_PCM_S24BE;
1464                 else if (descriptor->bits_per_sample == 32)
1465                     st->codec->codec_id = CODEC_ID_PCM_S32BE;
1466             } else if (st->codec->codec_id == CODEC_ID_MP2) {
1467                 st->need_parsing = AVSTREAM_PARSE_FULL;
1468             }
1469         }
1470         if (st->codec->codec_type != AVMEDIA_TYPE_DATA && (*essence_container_ul)[15] > 0x01) {
1471             /* TODO: decode timestamps */
1472             st->need_parsing = AVSTREAM_PARSE_TIMESTAMPS;
1473         }
1474     }
1475
1476     ret = 0;
1477 fail_and_free:
1478     return ret;
1479 }
1480
1481 static const MXFMetadataReadTableEntry mxf_metadata_read_table[] = {
1482     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x05,0x01,0x00 }, mxf_read_primer_pack },
1483     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x02,0x01,0x00 }, mxf_read_partition_pack },
1484     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x02,0x02,0x00 }, mxf_read_partition_pack },
1485     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x02,0x03,0x00 }, mxf_read_partition_pack },
1486     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x02,0x04,0x00 }, mxf_read_partition_pack },
1487     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x03,0x01,0x00 }, mxf_read_partition_pack },
1488     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x03,0x02,0x00 }, mxf_read_partition_pack },
1489     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x03,0x03,0x00 }, mxf_read_partition_pack },
1490     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x03,0x04,0x00 }, mxf_read_partition_pack },
1491     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x04,0x02,0x00 }, mxf_read_partition_pack },
1492     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x04,0x04,0x00 }, mxf_read_partition_pack },
1493     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x18,0x00 }, mxf_read_content_storage, 0, AnyType },
1494     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x37,0x00 }, mxf_read_source_package, sizeof(MXFPackage), SourcePackage },
1495     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x36,0x00 }, mxf_read_material_package, sizeof(MXFPackage), MaterialPackage },
1496     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x0F,0x00 }, mxf_read_sequence, sizeof(MXFSequence), Sequence },
1497     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x11,0x00 }, mxf_read_source_clip, sizeof(MXFStructuralComponent), SourceClip },
1498     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x44,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), MultipleDescriptor },
1499     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x42,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), Descriptor }, /* Generic Sound */
1500     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x28,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), Descriptor }, /* CDCI */
1501     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x29,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), Descriptor }, /* RGBA */
1502     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x51,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), Descriptor }, /* MPEG 2 Video */
1503     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x48,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), Descriptor }, /* Wave */
1504     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x47,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), Descriptor }, /* AES3 */
1505     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x3A,0x00 }, mxf_read_track, sizeof(MXFTrack), Track }, /* Static Track */
1506     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x3B,0x00 }, mxf_read_track, sizeof(MXFTrack), Track }, /* Generic Track */
1507     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x04,0x01,0x02,0x02,0x00,0x00 }, mxf_read_cryptographic_context, sizeof(MXFCryptoContext), CryptoContext },
1508     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x10,0x01,0x00 }, mxf_read_index_table_segment, sizeof(MXFIndexTableSegment), IndexTableSegment },
1509     { { 0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00 }, NULL, 0, AnyType },
1510 };
1511
1512 static int mxf_read_local_tags(MXFContext *mxf, KLVPacket *klv, MXFMetadataReadFunc *read_child, int ctx_size, enum MXFMetadataSetType type)
1513 {
1514     AVIOContext *pb = mxf->fc->pb;
1515     MXFMetadataSet *ctx = ctx_size ? av_mallocz(ctx_size) : mxf;
1516     uint64_t klv_end = avio_tell(pb) + klv->length;
1517
1518     if (!ctx)
1519         return AVERROR(ENOMEM);
1520     while (avio_tell(pb) + 4 < klv_end) {
1521         int ret;
1522         int tag = avio_rb16(pb);
1523         int size = avio_rb16(pb); /* KLV specified by 0x53 */
1524         uint64_t next = avio_tell(pb) + size;
1525         UID uid = {0};
1526
1527         av_dlog(mxf->fc, "local tag %#04x size %d\n", tag, size);
1528         if (!size) { /* ignore empty tag, needed for some files with empty UMID tag */
1529             av_log(mxf->fc, AV_LOG_ERROR, "local tag %#04x with 0 size\n", tag);
1530             continue;
1531         }
1532         if (tag > 0x7FFF) { /* dynamic tag */
1533             int i;
1534             for (i = 0; i < mxf->local_tags_count; i++) {
1535                 int local_tag = AV_RB16(mxf->local_tags+i*18);
1536                 if (local_tag == tag) {
1537                     memcpy(uid, mxf->local_tags+i*18+2, 16);
1538                     av_dlog(mxf->fc, "local tag %#04x\n", local_tag);
1539                     PRINT_KEY(mxf->fc, "uid", uid);
1540                 }
1541             }
1542         }
1543         if (ctx_size && tag == 0x3C0A)
1544             avio_read(pb, ctx->uid, 16);
1545         else if ((ret = read_child(ctx, pb, tag, size, uid, -1)) < 0)
1546             return ret;
1547
1548         avio_seek(pb, next, SEEK_SET);
1549     }
1550     if (ctx_size) ctx->type = type;
1551     return ctx_size ? mxf_add_metadata_set(mxf, ctx) : 0;
1552 }
1553
1554 /**
1555  * Seeks to the previous partition, if possible
1556  * @return <= 0 if we should stop parsing, > 0 if we should keep going
1557  */
1558 static int mxf_seek_to_previous_partition(MXFContext *mxf)
1559 {
1560     AVIOContext *pb = mxf->fc->pb;
1561
1562     if (!mxf->current_partition ||
1563         mxf->run_in + mxf->current_partition->previous_partition <= mxf->last_forward_tell)
1564         return 0;   /* we've parsed all partitions */
1565
1566     /* seek to previous partition */
1567     avio_seek(pb, mxf->run_in + mxf->current_partition->previous_partition, SEEK_SET);
1568     mxf->current_partition = NULL;
1569
1570     av_dlog(mxf->fc, "seeking to previous partition\n");
1571
1572     return 1;
1573 }
1574
1575 /**
1576  * Called when essence is encountered
1577  * @return <= 0 if we should stop parsing, > 0 if we should keep going
1578  */
1579 static int mxf_parse_handle_essence(MXFContext *mxf)
1580 {
1581     AVIOContext *pb = mxf->fc->pb;
1582     int64_t ret;
1583
1584     if (!mxf->current_partition) {
1585         av_log(mxf->fc, AV_LOG_ERROR, "found essence prior to PartitionPack\n");
1586         return AVERROR_INVALIDDATA;
1587     }
1588
1589     if (mxf->parsing_backward) {
1590         return mxf_seek_to_previous_partition(mxf);
1591     } else {
1592         if (!mxf->footer_partition) {
1593             av_dlog(mxf->fc, "no footer\n");
1594             return 0;
1595         }
1596
1597         av_dlog(mxf->fc, "seeking to footer\n");
1598
1599         /* remember where we were so we don't end up seeking further back than this */
1600         mxf->last_forward_tell = avio_tell(pb);
1601
1602         if (!pb->seekable) {
1603             av_log(mxf->fc, AV_LOG_INFO, "file is not seekable - not parsing footer\n");
1604             return -1;
1605         }
1606
1607         /* seek to footer partition and parse backward */
1608         if ((ret = avio_seek(pb, mxf->run_in + mxf->footer_partition, SEEK_SET)) < 0) {
1609             av_log(mxf->fc, AV_LOG_ERROR, "failed to seek to footer @ 0x%"PRIx64" (%"PRId64") - partial file?\n",
1610                    mxf->run_in + mxf->footer_partition, ret);
1611             return ret;
1612         }
1613
1614         mxf->current_partition = NULL;
1615         mxf->parsing_backward = 1;
1616     }
1617
1618     return 1;
1619 }
1620
1621 /**
1622  * Called when the next partition or EOF is encountered
1623  * @return <= 0 if we should stop parsing, > 0 if we should keep going
1624  */
1625 static int mxf_parse_handle_partition_or_eof(MXFContext *mxf)
1626 {
1627     return mxf->parsing_backward ? mxf_seek_to_previous_partition(mxf) : 1;
1628 }
1629
1630 /**
1631  * Figure out the proper offset and length of the essence container
1632  * in each partition
1633  */
1634 static void mxf_compute_essence_containers(MXFContext *mxf)
1635 {
1636     int x;
1637
1638     /* everything is already correct */
1639     if (mxf->op == OPAtom)
1640         return;
1641
1642     for (x = 0; x < mxf->partitions_count; x++) {
1643         MXFPartition *p = &mxf->partitions[x];
1644
1645         if (!p->body_sid)
1646             continue;       /* BodySID == 0 -> no essence */
1647
1648         if (x >= mxf->partitions_count - 1)
1649             break;          /* last partition - can't compute length (and we don't need to) */
1650
1651         /* essence container spans to the next partition */
1652         p->essence_length = mxf->partitions[x+1].this_partition - p->essence_offset;
1653
1654         if (p->essence_length < 0) {
1655             /* next ThisPartition < essence_offset */
1656             p->essence_length = 0;
1657             av_log(mxf->fc, AV_LOG_ERROR, "partition %i: bad ThisPartition = %lx\n",
1658                    x+1, mxf->partitions[x+1].this_partition);
1659         }
1660     }
1661 }
1662
1663 static int64_t round_to_kag(int64_t position, int kag_size)
1664 {
1665     /* TODO: account for run-in? the spec isn't clear whether KAG should account for it */
1666     /* NOTE: kag_size may be any integer between 1 - 2^10 */
1667     int64_t ret = (position / kag_size) * kag_size;
1668     return ret == position ? ret : ret + kag_size;
1669 }
1670
1671 static inline void compute_partition_essence_offset(AVFormatContext *s,
1672                                                     MXFContext *mxf,
1673                                                     KLVPacket *klv)
1674 {
1675     MXFPartition *cur_part = mxf->current_partition;
1676     /* for OP1a we compute essence_offset
1677      * for OPAtom we point essence_offset after the KL
1678      *     (usually op1a_essence_offset + 20 or 25)
1679      * TODO: for OP1a we could eliminate this entire if statement, always
1680      *       stopping parsing at op1a_essence_offset
1681      *       for OPAtom we still need the actual essence_offset though
1682      *       (the KL's length can vary)
1683      */
1684     int64_t op1a_essence_offset =
1685         round_to_kag(cur_part->this_partition + cur_part->pack_length,
1686                      cur_part->kag_size) +
1687         round_to_kag(cur_part->header_byte_count, cur_part->kag_size) +
1688         round_to_kag(cur_part->index_byte_count, cur_part->kag_size);
1689
1690     if (mxf->op == OPAtom) {
1691         /* point essence_offset to the actual data
1692          * OPAtom has all the essence in one big KLV
1693          */
1694         cur_part->essence_offset = avio_tell(s->pb);
1695         cur_part->essence_length = klv->length;
1696     } else {
1697         /* NOTE: op1a_essence_offset may be less than to klv.offset
1698          * (C0023S01.mxf)  */
1699         cur_part->essence_offset = op1a_essence_offset;
1700     }
1701 }
1702
1703 static int mxf_read_header(AVFormatContext *s, AVFormatParameters *ap)
1704 {
1705     MXFContext *mxf = s->priv_data;
1706     KLVPacket klv;
1707     int64_t essence_offset = 0;
1708     int ret;
1709
1710     mxf->last_forward_tell = INT64_MAX;
1711
1712     if (!mxf_read_sync(s->pb, mxf_header_partition_pack_key, 14)) {
1713         av_log(s, AV_LOG_ERROR, "could not find header partition pack key\n");
1714         return AVERROR_INVALIDDATA;
1715     }
1716     avio_seek(s->pb, -14, SEEK_CUR);
1717     mxf->fc = s;
1718     mxf->run_in = avio_tell(s->pb);
1719
1720     while (!s->pb->eof_reached) {
1721         const MXFMetadataReadTableEntry *metadata;
1722
1723         if (klv_read_packet(&klv, s->pb) < 0) {
1724             /* EOF - seek to previous partition or stop */
1725             if(mxf_parse_handle_partition_or_eof(mxf) <= 0)
1726                 break;
1727             else
1728                 continue;
1729         }
1730
1731         PRINT_KEY(s, "read header", klv.key);
1732         av_dlog(s, "size %"PRIu64" offset %#"PRIx64"\n", klv.length, klv.offset);
1733         if (IS_KLV_KEY(klv.key, mxf_encrypted_triplet_key) ||
1734             IS_KLV_KEY(klv.key, mxf_essence_element_key) ||
1735             IS_KLV_KEY(klv.key, mxf_avid_essence_element_key) ||
1736             IS_KLV_KEY(klv.key, mxf_system_item_key)) {
1737             if (!mxf->current_partition->essence_offset) {
1738                 compute_partition_essence_offset(s, mxf, &klv);
1739             }
1740
1741             if (!essence_offset)
1742                 essence_offset = klv.offset;
1743
1744             /* seek to footer, previous partition or stop */
1745             if (mxf_parse_handle_essence(mxf) <= 0)
1746                 break;
1747             continue;
1748         } else if (!memcmp(klv.key, mxf_header_partition_pack_key, 13) &&
1749                    klv.key[13] >= 2 && klv.key[13] <= 4 && mxf->current_partition) {
1750             /* next partition pack - keep going, seek to previous partition or stop */
1751             if(mxf_parse_handle_partition_or_eof(mxf) <= 0)
1752                 break;
1753         }
1754
1755         for (metadata = mxf_metadata_read_table; metadata->read; metadata++) {
1756             if (IS_KLV_KEY(klv.key, metadata->key)) {
1757                 int res;
1758                 if (klv.key[5] == 0x53) {
1759                     res = mxf_read_local_tags(mxf, &klv, metadata->read, metadata->ctx_size, metadata->type);
1760                 } else {
1761                     uint64_t next = avio_tell(s->pb) + klv.length;
1762                     res = metadata->read(mxf, s->pb, 0, klv.length, klv.key, klv.offset);
1763                     avio_seek(s->pb, next, SEEK_SET);
1764                 }
1765                 if (res < 0) {
1766                     av_log(s, AV_LOG_ERROR, "error reading header metadata\n");
1767                     return res;
1768                 }
1769                 break;
1770             }
1771         }
1772         if (!metadata->read)
1773             avio_skip(s->pb, klv.length);
1774     }
1775     /* FIXME avoid seek */
1776     if (!essence_offset)  {
1777         av_log(s, AV_LOG_ERROR, "no essence\n");
1778         return AVERROR_INVALIDDATA;
1779     }
1780     avio_seek(s->pb, essence_offset, SEEK_SET);
1781
1782     mxf_compute_essence_containers(mxf);
1783
1784     /* we need to do this before computing the index tables
1785      * to be able to fill in zero IndexDurations with st->duration */
1786     if ((ret = mxf_parse_structural_metadata(mxf)) < 0)
1787         return ret;
1788
1789     if ((ret = mxf_compute_index_tables(mxf)) < 0)
1790         return ret;
1791
1792     if (mxf->nb_index_tables > 1) {
1793         /* TODO: look up which IndexSID to use via EssenceContainerData */
1794         av_log(mxf->fc, AV_LOG_INFO, "got %i index tables - only the first one (IndexSID %i) will be used\n",
1795                mxf->nb_index_tables, mxf->index_tables[0].index_sid);
1796     } else if (mxf->nb_index_tables == 0 && mxf->op == OPAtom) {
1797         av_log(mxf->fc, AV_LOG_ERROR, "cannot demux OPAtom without an index\n");
1798         return AVERROR_INVALIDDATA;
1799     }
1800
1801     return 0;
1802 }
1803
1804 /**
1805  * Computes DTS and PTS for the given video packet based on its offset.
1806  */
1807 static void mxf_packet_timestamps(MXFContext *mxf, AVPacket *pkt)
1808 {
1809     int64_t next_ofs;
1810     MXFIndexTable *t = &mxf->index_tables[0];
1811
1812     /* find mxf->current_edit_unit so that the next edit unit starts ahead of pkt->pos */
1813     for (;;) {
1814         if (mxf_edit_unit_absolute_offset(mxf, t, mxf->current_edit_unit + 1, NULL, &next_ofs, 0) < 0)
1815             break;
1816
1817         if (next_ofs > pkt->pos)
1818             break;
1819
1820         mxf->current_edit_unit++;
1821     }
1822
1823     if (mxf->current_edit_unit >= t->nb_ptses)
1824         return;
1825
1826     pkt->dts = mxf->current_edit_unit + t->first_dts;
1827     pkt->pts = t->ptses[mxf->current_edit_unit];
1828 }
1829
1830 static int mxf_read_packet_old(AVFormatContext *s, AVPacket *pkt)
1831 {
1832     KLVPacket klv;
1833
1834     while (!s->pb->eof_reached) {
1835         if (klv_read_packet(&klv, s->pb) < 0)
1836             return -1;
1837         PRINT_KEY(s, "read packet", klv.key);
1838         av_dlog(s, "size %"PRIu64" offset %#"PRIx64"\n", klv.length, klv.offset);
1839         if (IS_KLV_KEY(klv.key, mxf_encrypted_triplet_key)) {
1840             int res = mxf_decrypt_triplet(s, pkt, &klv);
1841             if (res < 0) {
1842                 av_log(s, AV_LOG_ERROR, "invalid encoded triplet\n");
1843                 return -1;
1844             }
1845             return 0;
1846         }
1847         if (IS_KLV_KEY(klv.key, mxf_essence_element_key) ||
1848             IS_KLV_KEY(klv.key, mxf_avid_essence_element_key)) {
1849             int index = mxf_get_stream_index(s, &klv);
1850             if (index < 0) {
1851                 av_log(s, AV_LOG_ERROR, "error getting stream index %d\n", AV_RB32(klv.key+12));
1852                 goto skip;
1853             }
1854             if (s->streams[index]->discard == AVDISCARD_ALL)
1855                 goto skip;
1856             /* check for 8 channels AES3 element */
1857             if (klv.key[12] == 0x06 && klv.key[13] == 0x01 && klv.key[14] == 0x10) {
1858                 if (mxf_get_d10_aes3_packet(s->pb, s->streams[index], pkt, klv.length) < 0) {
1859                     av_log(s, AV_LOG_ERROR, "error reading D-10 aes3 frame\n");
1860                     return -1;
1861                 }
1862             } else {
1863                 int ret = av_get_packet(s->pb, pkt, klv.length);
1864                 if (ret < 0)
1865                     return ret;
1866             }
1867             pkt->stream_index = index;
1868             pkt->pos = klv.offset;
1869
1870             if (s->streams[index]->codec->codec_type == AVMEDIA_TYPE_VIDEO)
1871                 mxf_packet_timestamps(s->priv_data, pkt);   /* offset -> EditUnit -> DTS/PTS */
1872
1873             return 0;
1874         } else
1875         skip:
1876             avio_skip(s->pb, klv.length);
1877     }
1878     return AVERROR_EOF;
1879 }
1880
1881 static int mxf_read_packet(AVFormatContext *s, AVPacket *pkt)
1882 {
1883     MXFContext *mxf = s->priv_data;
1884     int ret, size;
1885     int64_t ret64, pos, next_pos;
1886     AVStream *st;
1887     MXFIndexTable *t;
1888
1889     if (mxf->op != OPAtom)
1890         return mxf_read_packet_old(s, pkt);
1891
1892     /* OPAtom - clip wrapped demuxing */
1893     st = s->streams[0];
1894     t = &mxf->index_tables[0];
1895
1896     if (mxf->current_edit_unit >= st->duration)
1897         return AVERROR_EOF;
1898
1899     if ((ret = mxf_edit_unit_absolute_offset(mxf, t, mxf->current_edit_unit, NULL, &pos, 1)) < 0)
1900         return ret;
1901
1902     /* compute size by finding the next edit unit or the end of the essence container
1903      * not pretty, but it works */
1904     if ((ret = mxf_edit_unit_absolute_offset(mxf, t, mxf->current_edit_unit + 1, NULL, &next_pos, 0)) < 0 &&
1905         (next_pos = mxf_essence_container_end(mxf, t->body_sid)) <= 0) {
1906         av_log(s, AV_LOG_ERROR, "unable to compute the size of the last packet\n");
1907         return AVERROR_INVALIDDATA;
1908     }
1909
1910     if ((size = next_pos - pos) <= 0) {
1911         av_log(s, AV_LOG_ERROR, "bad size: %i\n", size);
1912         return AVERROR_INVALIDDATA;
1913     }
1914
1915     if ((ret64 = avio_seek(s->pb, pos, SEEK_SET)) < 0)
1916         return ret64;
1917
1918         if ((ret = av_get_packet(s->pb, pkt, size)) != size)
1919             return ret < 0 ? ret : AVERROR_EOF;
1920
1921     if (st->codec->codec_type == AVMEDIA_TYPE_VIDEO && t->ptses &&
1922         mxf->current_edit_unit >= 0 && mxf->current_edit_unit < t->nb_ptses) {
1923         pkt->dts = mxf->current_edit_unit + t->first_dts;
1924         pkt->pts = t->ptses[mxf->current_edit_unit];
1925     }
1926
1927     pkt->stream_index = 0;
1928     mxf->current_edit_unit++;
1929
1930     return 0;
1931 }
1932
1933
1934 static int mxf_read_close(AVFormatContext *s)
1935 {
1936     MXFContext *mxf = s->priv_data;
1937     MXFIndexTableSegment *seg;
1938     int i, j;
1939
1940     av_freep(&mxf->packages_refs);
1941
1942     for (i = 0; i < s->nb_streams; i++)
1943         s->streams[i]->priv_data = NULL;
1944
1945     for (i = 0; i < mxf->metadata_sets_count; i++) {
1946         switch (mxf->metadata_sets[i]->type) {
1947         case MultipleDescriptor:
1948             av_freep(&((MXFDescriptor *)mxf->metadata_sets[i])->sub_descriptors_refs);
1949             break;
1950         case Sequence:
1951             av_freep(&((MXFSequence *)mxf->metadata_sets[i])->structural_components_refs);
1952             break;
1953         case SourcePackage:
1954         case MaterialPackage:
1955             av_freep(&((MXFPackage *)mxf->metadata_sets[i])->tracks_refs);
1956             break;
1957         case IndexTableSegment:
1958             seg = (MXFIndexTableSegment *)mxf->metadata_sets[i];
1959             if (seg->slice_count)
1960                 for (j = 0; j < seg->nb_index_entries; j++)
1961                     av_freep(&seg->slice_offset_entries[j]);
1962             av_freep(&seg->slice);
1963             av_freep(&seg->element_delta);
1964             av_freep(&seg->temporal_offset_entries);
1965             av_freep(&seg->flag_entries);
1966             av_freep(&seg->stream_offset_entries);
1967             av_freep(&seg->slice_offset_entries);
1968             break;
1969         default:
1970             break;
1971         }
1972         av_freep(&mxf->metadata_sets[i]);
1973     }
1974     av_freep(&mxf->partitions);
1975     av_freep(&mxf->metadata_sets);
1976     av_freep(&mxf->aesc);
1977     av_freep(&mxf->local_tags);
1978
1979     for (i = 0; i < mxf->nb_index_tables; i++) {
1980         av_freep(&mxf->index_tables[i].segments);
1981         av_freep(&mxf->index_tables[i].fake_index);
1982     }
1983     av_freep(&mxf->index_tables);
1984
1985     return 0;
1986 }
1987
1988 static int mxf_probe(AVProbeData *p) {
1989     uint8_t *bufp = p->buf;
1990     uint8_t *end = p->buf + p->buf_size;
1991
1992     if (p->buf_size < sizeof(mxf_header_partition_pack_key))
1993         return 0;
1994
1995     /* Must skip Run-In Sequence and search for MXF header partition pack key SMPTE 377M 5.5 */
1996     end -= sizeof(mxf_header_partition_pack_key);
1997     for (; bufp < end; bufp++) {
1998         if (IS_KLV_KEY(bufp, mxf_header_partition_pack_key))
1999             return AVPROBE_SCORE_MAX;
2000     }
2001     return 0;
2002 }
2003
2004 /* rudimentary byte seek */
2005 /* XXX: use MXF Index */
2006 static int mxf_read_seek(AVFormatContext *s, int stream_index, int64_t sample_time, int flags)
2007 {
2008     AVStream *st = s->streams[stream_index];
2009     int64_t seconds;
2010     MXFContext* mxf = s->priv_data;
2011     int64_t seekpos;
2012     int ret;
2013     MXFIndexTable *t;
2014
2015     if (mxf->index_tables <= 0) {
2016     if (!s->bit_rate)
2017         return AVERROR_INVALIDDATA;
2018     if (sample_time < 0)
2019         sample_time = 0;
2020     seconds = av_rescale(sample_time, st->time_base.num, st->time_base.den);
2021
2022     if ((ret = avio_seek(s->pb, (s->bit_rate * seconds) >> 3, SEEK_SET)) < 0)
2023         return ret;
2024     ff_update_cur_dts(s, st, sample_time);
2025     } else {
2026         t = &mxf->index_tables[0];
2027
2028         /* clamp above zero, else ff_index_search_timestamp() returns negative
2029          * this also means we allow seeking before the start */
2030         sample_time = FFMAX(sample_time, 0);
2031
2032         if (t->fake_index) {
2033             /* behave as if we have a proper index */
2034             if ((sample_time = ff_index_search_timestamp(t->fake_index, t->nb_ptses, sample_time, flags)) < 0)
2035                 return sample_time;
2036         } else {
2037             /* no IndexEntryArray (one or more CBR segments)
2038              * make sure we don't seek past the end */
2039             sample_time = FFMIN(sample_time, st->duration - 1);
2040         }
2041
2042         if ((ret = mxf_edit_unit_absolute_offset(mxf, t, sample_time, &sample_time, &seekpos, 1)) << 0)
2043             return ret;
2044
2045         ff_update_cur_dts(s, st, sample_time);
2046         mxf->current_edit_unit = sample_time;
2047         avio_seek(s->pb, seekpos, SEEK_SET);
2048     }
2049     return 0;
2050 }
2051
2052 AVInputFormat ff_mxf_demuxer = {
2053     .name           = "mxf",
2054     .long_name      = NULL_IF_CONFIG_SMALL("Material eXchange Format"),
2055     .priv_data_size = sizeof(MXFContext),
2056     .read_probe     = mxf_probe,
2057     .read_header    = mxf_read_header,
2058     .read_packet    = mxf_read_packet,
2059     .read_close     = mxf_read_close,
2060     .read_seek      = mxf_read_seek,
2061 };