31585d7516e763c149a8cd10cbb957e2e7980182
[ffmpeg.git] / libavformat / mxfdec.c
1 /*
2  * MXF demuxer.
3  * Copyright (c) 2006 SmartJog S.A., Baptiste Coudurier <baptiste dot coudurier at smartjog dot com>
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /*
23  * References
24  * SMPTE 336M KLV Data Encoding Protocol Using Key-Length-Value
25  * SMPTE 377M MXF File Format Specifications
26  * SMPTE 378M Operational Pattern 1a
27  * SMPTE 379M MXF Generic Container
28  * SMPTE 381M Mapping MPEG Streams into the MXF Generic Container
29  * SMPTE 382M Mapping AES3 and Broadcast Wave Audio into the MXF Generic Container
30  * SMPTE 383M Mapping DV-DIF Data to the MXF Generic Container
31  *
32  * Principle
33  * Search for Track numbers which will identify essence element KLV packets.
34  * Search for SourcePackage which define tracks which contains Track numbers.
35  * Material Package contains tracks with reference to SourcePackage tracks.
36  * Search for Descriptors (Picture, Sound) which contains codec info and parameters.
37  * Assign Descriptors to correct Tracks.
38  *
39  * Metadata reading functions read Local Tags, get InstanceUID(0x3C0A) then add MetaDataSet to MXFContext.
40  * Metadata parsing resolves Strong References to objects.
41  *
42  * Simple demuxer, only OP1A supported and some files might not work at all.
43  * Only tracks with associated descriptors will be decoded. "Highly Desirable" SMPTE 377M D.1
44  */
45
46 //#define DEBUG
47
48 #include "libavutil/aes.h"
49 #include "libavutil/mathematics.h"
50 #include "libavcodec/bytestream.h"
51 #include "avformat.h"
52 #include "internal.h"
53 #include "mxf.h"
54
55 typedef enum {
56     Header,
57     BodyPartition,
58     Footer
59 } MXFPartitionType;
60
61 typedef enum {
62     OP1a = 1,
63     OP1b,
64     OP1c,
65     OP2a,
66     OP2b,
67     OP2c,
68     OP3a,
69     OP3b,
70     OP3c,
71     OPAtom,
72     OPSonyOpt,  /* FATE sample, violates the spec in places */
73 } MXFOP;
74
75 typedef struct {
76     int closed;
77     int complete;
78     MXFPartitionType type;
79     uint64_t previous_partition;
80     int index_sid;
81     int body_sid;
82     int64_t this_partition;
83     int64_t essence_offset;         ///< absolute offset of essence
84     int64_t essence_length;
85     int32_t kag_size;
86     int64_t header_byte_count;
87     int64_t index_byte_count;
88     int pack_length;
89 } MXFPartition;
90
91 typedef struct {
92     UID uid;
93     enum MXFMetadataSetType type;
94     UID source_container_ul;
95 } MXFCryptoContext;
96
97 typedef struct {
98     UID uid;
99     enum MXFMetadataSetType type;
100     UID source_package_uid;
101     UID data_definition_ul;
102     int64_t duration;
103     int64_t start_position;
104     int source_track_id;
105 } MXFStructuralComponent;
106
107 typedef struct {
108     UID uid;
109     enum MXFMetadataSetType type;
110     UID data_definition_ul;
111     UID *structural_components_refs;
112     int structural_components_count;
113     int64_t duration;
114 } MXFSequence;
115
116 typedef struct {
117     UID uid;
118     enum MXFMetadataSetType type;
119     MXFSequence *sequence; /* mandatory, and only one */
120     UID sequence_ref;
121     int track_id;
122     uint8_t track_number[4];
123     AVRational edit_rate;
124 } MXFTrack;
125
126 typedef struct {
127     UID uid;
128     enum MXFMetadataSetType type;
129     UID essence_container_ul;
130     UID essence_codec_ul;
131     AVRational sample_rate;
132     AVRational aspect_ratio;
133     int width;
134     int height;
135     int channels;
136     int bits_per_sample;
137     UID *sub_descriptors_refs;
138     int sub_descriptors_count;
139     int linked_track_id;
140     uint8_t *extradata;
141     int extradata_size;
142     enum PixelFormat pix_fmt;
143 } MXFDescriptor;
144
145 typedef struct {
146     UID uid;
147     enum MXFMetadataSetType type;
148     int edit_unit_byte_count;
149     int index_sid;
150     int body_sid;
151     AVRational index_edit_rate;
152     uint64_t index_start_position;
153     uint64_t index_duration;
154     int8_t *temporal_offset_entries;
155     int *flag_entries;
156     uint64_t *stream_offset_entries;
157     int nb_index_entries;
158 } MXFIndexTableSegment;
159
160 typedef struct {
161     UID uid;
162     enum MXFMetadataSetType type;
163     UID package_uid;
164     UID *tracks_refs;
165     int tracks_count;
166     MXFDescriptor *descriptor; /* only one */
167     UID descriptor_ref;
168 } MXFPackage;
169
170 typedef struct {
171     UID uid;
172     enum MXFMetadataSetType type;
173 } MXFMetadataSet;
174
175 /* decoded index table */
176 typedef struct {
177     int index_sid;
178     int body_sid;
179     int nb_ptses;               /* number of PTSes or total duration of index */
180     int64_t first_dts;          /* DTS = EditUnit + first_dts */
181     int64_t *ptses;             /* maps EditUnit -> PTS */
182     int nb_segments;
183     MXFIndexTableSegment **segments;    /* sorted by IndexStartPosition */
184     AVIndexEntry *fake_index;   /* used for calling ff_index_search_timestamp() */
185 } MXFIndexTable;
186
187 typedef struct {
188     MXFPartition *partitions;
189     unsigned partitions_count;
190     MXFOP op;
191     UID *packages_refs;
192     int packages_count;
193     MXFMetadataSet **metadata_sets;
194     int metadata_sets_count;
195     AVFormatContext *fc;
196     struct AVAES *aesc;
197     uint8_t *local_tags;
198     int local_tags_count;
199     uint64_t footer_partition;
200     KLVPacket current_klv_data;
201     int current_klv_index;
202     int run_in;
203     MXFPartition *current_partition;
204     int parsing_backward;
205     int64_t last_forward_tell;
206     int last_forward_partition;
207     int current_edit_unit;
208     int nb_index_tables;
209     MXFIndexTable *index_tables;
210     int edit_units_per_packet;      ///< how many edit units to read at a time (PCM, OPAtom)
211 } MXFContext;
212
213 enum MXFWrappingScheme {
214     Frame,
215     Clip,
216 };
217
218 /* NOTE: klv_offset is not set (-1) for local keys */
219 typedef int MXFMetadataReadFunc(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset);
220
221 typedef struct {
222     const UID key;
223     MXFMetadataReadFunc *read;
224     int ctx_size;
225     enum MXFMetadataSetType type;
226 } MXFMetadataReadTableEntry;
227
228 /* partial keys to match */
229 static const uint8_t mxf_header_partition_pack_key[]       = { 0x06,0x0e,0x2b,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x02 };
230 static const uint8_t mxf_essence_element_key[]             = { 0x06,0x0e,0x2b,0x34,0x01,0x02,0x01,0x01,0x0d,0x01,0x03,0x01 };
231 static const uint8_t mxf_avid_essence_element_key[]        = { 0x06,0x0e,0x2b,0x34,0x01,0x02,0x01,0x01,0x0e,0x04,0x03,0x01 };
232 static const uint8_t mxf_system_item_key[]                 = { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0D,0x01,0x03,0x01,0x04 };
233 static const uint8_t mxf_klv_key[]                         = { 0x06,0x0e,0x2b,0x34 };
234 /* complete keys to match */
235 static const uint8_t mxf_crypto_source_container_ul[]      = { 0x06,0x0e,0x2b,0x34,0x01,0x01,0x01,0x09,0x06,0x01,0x01,0x02,0x02,0x00,0x00,0x00 };
236 static const uint8_t mxf_encrypted_triplet_key[]           = { 0x06,0x0e,0x2b,0x34,0x02,0x04,0x01,0x07,0x0d,0x01,0x03,0x01,0x02,0x7e,0x01,0x00 };
237 static const uint8_t mxf_encrypted_essence_container[]     = { 0x06,0x0e,0x2b,0x34,0x04,0x01,0x01,0x07,0x0d,0x01,0x03,0x01,0x02,0x0b,0x01,0x00 };
238 static const uint8_t mxf_sony_mpeg4_extradata[]            = { 0x06,0x0e,0x2b,0x34,0x04,0x01,0x01,0x01,0x0e,0x06,0x06,0x02,0x02,0x01,0x00,0x00 };
239
240 #define IS_KLV_KEY(x, y) (!memcmp(x, y, sizeof(y)))
241
242 static int64_t klv_decode_ber_length(AVIOContext *pb)
243 {
244     uint64_t size = avio_r8(pb);
245     if (size & 0x80) { /* long form */
246         int bytes_num = size & 0x7f;
247         /* SMPTE 379M 5.3.4 guarantee that bytes_num must not exceed 8 bytes */
248         if (bytes_num > 8)
249             return AVERROR_INVALIDDATA;
250         size = 0;
251         while (bytes_num--)
252             size = size << 8 | avio_r8(pb);
253     }
254     return size;
255 }
256
257 static int mxf_read_sync(AVIOContext *pb, const uint8_t *key, unsigned size)
258 {
259     int i, b;
260     for (i = 0; i < size && !pb->eof_reached; i++) {
261         b = avio_r8(pb);
262         if (b == key[0])
263             i = 0;
264         else if (b != key[i])
265             i = -1;
266     }
267     return i == size;
268 }
269
270 static int klv_read_packet(KLVPacket *klv, AVIOContext *pb)
271 {
272     if (!mxf_read_sync(pb, mxf_klv_key, 4))
273         return AVERROR_INVALIDDATA;
274     klv->offset = avio_tell(pb) - 4;
275     memcpy(klv->key, mxf_klv_key, 4);
276     avio_read(pb, klv->key + 4, 12);
277     klv->length = klv_decode_ber_length(pb);
278     return klv->length == -1 ? -1 : 0;
279 }
280
281 static int mxf_get_stream_index(AVFormatContext *s, KLVPacket *klv)
282 {
283     int i;
284
285     for (i = 0; i < s->nb_streams; i++) {
286         MXFTrack *track = s->streams[i]->priv_data;
287         /* SMPTE 379M 7.3 */
288         if (!memcmp(klv->key + sizeof(mxf_essence_element_key), track->track_number, sizeof(track->track_number)))
289             return i;
290     }
291     /* return 0 if only one stream, for OP Atom files with 0 as track number */
292     return s->nb_streams == 1 ? 0 : -1;
293 }
294
295 /* XXX: use AVBitStreamFilter */
296 static int mxf_get_d10_aes3_packet(AVIOContext *pb, AVStream *st, AVPacket *pkt, int64_t length)
297 {
298     const uint8_t *buf_ptr, *end_ptr;
299     uint8_t *data_ptr;
300     int i;
301
302     if (length > 61444) /* worst case PAL 1920 samples 8 channels */
303         return AVERROR_INVALIDDATA;
304     length = av_get_packet(pb, pkt, length);
305     if (length < 0)
306         return length;
307     data_ptr = pkt->data;
308     end_ptr = pkt->data + length;
309     buf_ptr = pkt->data + 4; /* skip SMPTE 331M header */
310     for (; buf_ptr + st->codec->channels*4 < end_ptr; ) {
311         for (i = 0; i < st->codec->channels; i++) {
312             uint32_t sample = bytestream_get_le32(&buf_ptr);
313             if (st->codec->bits_per_coded_sample == 24)
314                 bytestream_put_le24(&data_ptr, (sample >> 4) & 0xffffff);
315             else
316                 bytestream_put_le16(&data_ptr, (sample >> 12) & 0xffff);
317         }
318         buf_ptr += 32 - st->codec->channels*4; // always 8 channels stored SMPTE 331M
319     }
320     av_shrink_packet(pkt, data_ptr - pkt->data);
321     return 0;
322 }
323
324 static int mxf_decrypt_triplet(AVFormatContext *s, AVPacket *pkt, KLVPacket *klv)
325 {
326     static const uint8_t checkv[16] = {0x43, 0x48, 0x55, 0x4b, 0x43, 0x48, 0x55, 0x4b, 0x43, 0x48, 0x55, 0x4b, 0x43, 0x48, 0x55, 0x4b};
327     MXFContext *mxf = s->priv_data;
328     AVIOContext *pb = s->pb;
329     int64_t end = avio_tell(pb) + klv->length;
330     int64_t size;
331     uint64_t orig_size;
332     uint64_t plaintext_size;
333     uint8_t ivec[16];
334     uint8_t tmpbuf[16];
335     int index;
336
337     if (!mxf->aesc && s->key && s->keylen == 16) {
338         mxf->aesc = av_malloc(av_aes_size);
339         if (!mxf->aesc)
340             return AVERROR(ENOMEM);
341         av_aes_init(mxf->aesc, s->key, 128, 1);
342     }
343     // crypto context
344     avio_skip(pb, klv_decode_ber_length(pb));
345     // plaintext offset
346     klv_decode_ber_length(pb);
347     plaintext_size = avio_rb64(pb);
348     // source klv key
349     klv_decode_ber_length(pb);
350     avio_read(pb, klv->key, 16);
351     if (!IS_KLV_KEY(klv, mxf_essence_element_key))
352         return AVERROR_INVALIDDATA;
353     index = mxf_get_stream_index(s, klv);
354     if (index < 0)
355         return AVERROR_INVALIDDATA;
356     // source size
357     klv_decode_ber_length(pb);
358     orig_size = avio_rb64(pb);
359     if (orig_size < plaintext_size)
360         return AVERROR_INVALIDDATA;
361     // enc. code
362     size = klv_decode_ber_length(pb);
363     if (size < 32 || size - 32 < orig_size)
364         return AVERROR_INVALIDDATA;
365     avio_read(pb, ivec, 16);
366     avio_read(pb, tmpbuf, 16);
367     if (mxf->aesc)
368         av_aes_crypt(mxf->aesc, tmpbuf, tmpbuf, 1, ivec, 1);
369     if (memcmp(tmpbuf, checkv, 16))
370         av_log(s, AV_LOG_ERROR, "probably incorrect decryption key\n");
371     size -= 32;
372     size = av_get_packet(pb, pkt, size);
373     if (size < 0)
374         return size;
375     else if (size < plaintext_size)
376         return AVERROR_INVALIDDATA;
377     size -= plaintext_size;
378     if (mxf->aesc)
379         av_aes_crypt(mxf->aesc, &pkt->data[plaintext_size],
380                      &pkt->data[plaintext_size], size >> 4, ivec, 1);
381     av_shrink_packet(pkt, orig_size);
382     pkt->stream_index = index;
383     avio_skip(pb, end - avio_tell(pb));
384     return 0;
385 }
386
387 static int mxf_read_primer_pack(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
388 {
389     MXFContext *mxf = arg;
390     int item_num = avio_rb32(pb);
391     int item_len = avio_rb32(pb);
392
393     if (item_len != 18) {
394         av_log_ask_for_sample(pb, "unsupported primer pack item length %d\n",
395                               item_len);
396         return AVERROR_PATCHWELCOME;
397     }
398     if (item_num > UINT_MAX / item_len)
399         return AVERROR_INVALIDDATA;
400     mxf->local_tags_count = item_num;
401     mxf->local_tags = av_malloc(item_num*item_len);
402     if (!mxf->local_tags)
403         return AVERROR(ENOMEM);
404     avio_read(pb, mxf->local_tags, item_num*item_len);
405     return 0;
406 }
407
408 static int mxf_read_partition_pack(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
409 {
410     MXFContext *mxf = arg;
411     MXFPartition *partition, *tmp_part;
412     UID op;
413     uint64_t footer_partition;
414     uint32_t nb_essence_containers;
415
416     if (mxf->partitions_count+1 >= UINT_MAX / sizeof(*mxf->partitions))
417         return AVERROR(ENOMEM);
418
419     tmp_part = av_realloc(mxf->partitions, (mxf->partitions_count + 1) * sizeof(*mxf->partitions));
420     if (!tmp_part)
421         return AVERROR(ENOMEM);
422     mxf->partitions = tmp_part;
423
424     if (mxf->parsing_backward) {
425         /* insert the new partition pack in the middle
426          * this makes the entries in mxf->partitions sorted by offset */
427         memmove(&mxf->partitions[mxf->last_forward_partition+1],
428                 &mxf->partitions[mxf->last_forward_partition],
429                 (mxf->partitions_count - mxf->last_forward_partition)*sizeof(*mxf->partitions));
430         partition = mxf->current_partition = &mxf->partitions[mxf->last_forward_partition];
431     } else {
432         mxf->last_forward_partition++;
433         partition = mxf->current_partition = &mxf->partitions[mxf->partitions_count];
434     }
435
436     memset(partition, 0, sizeof(*partition));
437     mxf->partitions_count++;
438     partition->pack_length = avio_tell(pb) - klv_offset + size;
439
440     switch(uid[13]) {
441     case 2:
442         partition->type = Header;
443         break;
444     case 3:
445         partition->type = BodyPartition;
446         break;
447     case 4:
448         partition->type = Footer;
449         break;
450     default:
451         av_log(mxf->fc, AV_LOG_ERROR, "unknown partition type %i\n", uid[13]);
452         return AVERROR_INVALIDDATA;
453     }
454
455     /* consider both footers to be closed (there is only Footer and CompleteFooter) */
456     partition->closed = partition->type == Footer || !(uid[14] & 1);
457     partition->complete = uid[14] > 2;
458     avio_skip(pb, 4);
459     partition->kag_size = avio_rb32(pb);
460     partition->this_partition = avio_rb64(pb);
461     partition->previous_partition = avio_rb64(pb);
462     footer_partition = avio_rb64(pb);
463     partition->header_byte_count = avio_rb64(pb);
464     partition->index_byte_count = avio_rb64(pb);
465     partition->index_sid = avio_rb32(pb);
466     avio_skip(pb, 8);
467     partition->body_sid = avio_rb32(pb);
468     avio_read(pb, op, sizeof(UID));
469     nb_essence_containers = avio_rb32(pb);
470
471     /* some files don'thave FooterPartition set in every partition */
472     if (footer_partition) {
473         if (mxf->footer_partition && mxf->footer_partition != footer_partition) {
474             av_log(mxf->fc, AV_LOG_ERROR,
475                    "inconsistent FooterPartition value: %"PRIu64" != %"PRIu64"\n",
476                    mxf->footer_partition, footer_partition);
477         } else {
478             mxf->footer_partition = footer_partition;
479         }
480     }
481
482     av_dlog(mxf->fc,
483             "PartitionPack: ThisPartition = 0x%"PRIX64
484             ", PreviousPartition = 0x%"PRIX64", "
485             "FooterPartition = 0x%"PRIX64", IndexSID = %i, BodySID = %i\n",
486             partition->this_partition,
487             partition->previous_partition, footer_partition,
488             partition->index_sid, partition->body_sid);
489
490     /* sanity check PreviousPartition if set */
491     if (partition->previous_partition &&
492         mxf->run_in + partition->previous_partition >= klv_offset) {
493         av_log(mxf->fc, AV_LOG_ERROR,
494                "PreviousPartition points to this partition or forward\n");
495         return AVERROR_INVALIDDATA;
496     }
497
498     if      (op[12] == 1 && op[13] == 1) mxf->op = OP1a;
499     else if (op[12] == 1 && op[13] == 2) mxf->op = OP1b;
500     else if (op[12] == 1 && op[13] == 3) mxf->op = OP1c;
501     else if (op[12] == 2 && op[13] == 1) mxf->op = OP2a;
502     else if (op[12] == 2 && op[13] == 2) mxf->op = OP2b;
503     else if (op[12] == 2 && op[13] == 3) mxf->op = OP2c;
504     else if (op[12] == 3 && op[13] == 1) mxf->op = OP3a;
505     else if (op[12] == 3 && op[13] == 2) mxf->op = OP3b;
506     else if (op[12] == 3 && op[13] == 3) mxf->op = OP3c;
507     else if (op[12] == 64&& op[13] == 1) mxf->op = OPSonyOpt;
508     else if (op[12] == 0x10) {
509         /* SMPTE 390m: "There shall be exactly one essence container"
510          * 2011_DCPTEST_24FPS.V.mxf violates this and is frame wrapped,
511          * which is why we assume OP1a. */
512         if (nb_essence_containers != 1) {
513             /* only nag once */
514             if (!mxf->op)
515                 av_log(mxf->fc, AV_LOG_WARNING,
516                        "\"OPAtom\" with %u ECs - assuming OP1a\n",
517                        nb_essence_containers);
518
519             mxf->op = OP1a;
520         } else
521             mxf->op = OPAtom;
522     } else {
523         av_log(mxf->fc, AV_LOG_ERROR, "unknown operational pattern: %02xh %02xh - guessing OP1a\n", op[12], op[13]);
524         mxf->op = OP1a;
525     }
526
527     if (partition->kag_size <= 0 || partition->kag_size > (1 << 20)) {
528         av_log(mxf->fc, AV_LOG_WARNING, "invalid KAGSize %i - guessing ", partition->kag_size);
529
530         if (mxf->op == OPSonyOpt)
531             partition->kag_size = 512;
532         else
533             partition->kag_size = 1;
534
535         av_log(mxf->fc, AV_LOG_WARNING, "%i\n", partition->kag_size);
536     }
537
538     return 0;
539 }
540
541 static int mxf_add_metadata_set(MXFContext *mxf, void *metadata_set)
542 {
543     MXFMetadataSet **tmp;
544     if (mxf->metadata_sets_count+1 >= UINT_MAX / sizeof(*mxf->metadata_sets))
545         return AVERROR(ENOMEM);
546     tmp = av_realloc(mxf->metadata_sets, (mxf->metadata_sets_count + 1) * sizeof(*mxf->metadata_sets));
547     if (!tmp)
548         return AVERROR(ENOMEM);
549     mxf->metadata_sets = tmp;
550     mxf->metadata_sets[mxf->metadata_sets_count] = metadata_set;
551     mxf->metadata_sets_count++;
552     return 0;
553 }
554
555 static int mxf_read_cryptographic_context(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
556 {
557     MXFCryptoContext *cryptocontext = arg;
558     if (size != 16)
559         return AVERROR_INVALIDDATA;
560     if (IS_KLV_KEY(uid, mxf_crypto_source_container_ul))
561         avio_read(pb, cryptocontext->source_container_ul, 16);
562     return 0;
563 }
564
565 static int mxf_read_content_storage(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
566 {
567     MXFContext *mxf = arg;
568     switch (tag) {
569     case 0x1901:
570         mxf->packages_count = avio_rb32(pb);
571         if (mxf->packages_count >= UINT_MAX / sizeof(UID))
572             return AVERROR_INVALIDDATA;
573         mxf->packages_refs = av_malloc(mxf->packages_count * sizeof(UID));
574         if (!mxf->packages_refs)
575             return AVERROR(ENOMEM);
576         avio_skip(pb, 4); /* useless size of objects, always 16 according to specs */
577         avio_read(pb, (uint8_t *)mxf->packages_refs, mxf->packages_count * sizeof(UID));
578         break;
579     }
580     return 0;
581 }
582
583 static int mxf_read_source_clip(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
584 {
585     MXFStructuralComponent *source_clip = arg;
586     switch(tag) {
587     case 0x0202:
588         source_clip->duration = avio_rb64(pb);
589         break;
590     case 0x1201:
591         source_clip->start_position = avio_rb64(pb);
592         break;
593     case 0x1101:
594         /* UMID, only get last 16 bytes */
595         avio_skip(pb, 16);
596         avio_read(pb, source_clip->source_package_uid, 16);
597         break;
598     case 0x1102:
599         source_clip->source_track_id = avio_rb32(pb);
600         break;
601     }
602     return 0;
603 }
604
605 static int mxf_read_material_package(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
606 {
607     MXFPackage *package = arg;
608     switch(tag) {
609     case 0x4403:
610         package->tracks_count = avio_rb32(pb);
611         if (package->tracks_count >= UINT_MAX / sizeof(UID))
612             return AVERROR_INVALIDDATA;
613         package->tracks_refs = av_malloc(package->tracks_count * sizeof(UID));
614         if (!package->tracks_refs)
615             return AVERROR(ENOMEM);
616         avio_skip(pb, 4); /* useless size of objects, always 16 according to specs */
617         avio_read(pb, (uint8_t *)package->tracks_refs, package->tracks_count * sizeof(UID));
618         break;
619     }
620     return 0;
621 }
622
623 static int mxf_read_track(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
624 {
625     MXFTrack *track = arg;
626     switch(tag) {
627     case 0x4801:
628         track->track_id = avio_rb32(pb);
629         break;
630     case 0x4804:
631         avio_read(pb, track->track_number, 4);
632         break;
633     case 0x4B01:
634         track->edit_rate.num = avio_rb32(pb);
635         track->edit_rate.den = avio_rb32(pb);
636         break;
637     case 0x4803:
638         avio_read(pb, track->sequence_ref, 16);
639         break;
640     }
641     return 0;
642 }
643
644 static int mxf_read_sequence(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
645 {
646     MXFSequence *sequence = arg;
647     switch(tag) {
648     case 0x0202:
649         sequence->duration = avio_rb64(pb);
650         break;
651     case 0x0201:
652         avio_read(pb, sequence->data_definition_ul, 16);
653         break;
654     case 0x1001:
655         sequence->structural_components_count = avio_rb32(pb);
656         if (sequence->structural_components_count >= UINT_MAX / sizeof(UID))
657             return AVERROR_INVALIDDATA;
658         sequence->structural_components_refs = av_malloc(sequence->structural_components_count * sizeof(UID));
659         if (!sequence->structural_components_refs)
660             return AVERROR(ENOMEM);
661         avio_skip(pb, 4); /* useless size of objects, always 16 according to specs */
662         avio_read(pb, (uint8_t *)sequence->structural_components_refs, sequence->structural_components_count * sizeof(UID));
663         break;
664     }
665     return 0;
666 }
667
668 static int mxf_read_source_package(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
669 {
670     MXFPackage *package = arg;
671     switch(tag) {
672     case 0x4403:
673         package->tracks_count = avio_rb32(pb);
674         if (package->tracks_count >= UINT_MAX / sizeof(UID))
675             return AVERROR_INVALIDDATA;
676         package->tracks_refs = av_malloc(package->tracks_count * sizeof(UID));
677         if (!package->tracks_refs)
678             return AVERROR(ENOMEM);
679         avio_skip(pb, 4); /* useless size of objects, always 16 according to specs */
680         avio_read(pb, (uint8_t *)package->tracks_refs, package->tracks_count * sizeof(UID));
681         break;
682     case 0x4401:
683         /* UMID, only get last 16 bytes */
684         avio_skip(pb, 16);
685         avio_read(pb, package->package_uid, 16);
686         break;
687     case 0x4701:
688         avio_read(pb, package->descriptor_ref, 16);
689         break;
690     }
691     return 0;
692 }
693
694 static int mxf_read_index_entry_array(AVIOContext *pb, MXFIndexTableSegment *segment)
695 {
696     int i, length;
697
698     segment->nb_index_entries = avio_rb32(pb);
699     if (!segment->nb_index_entries)
700         return 0;
701     else if (segment->nb_index_entries < 0 ||
702              segment->nb_index_entries >
703              (INT_MAX / sizeof(*segment->stream_offset_entries)))
704         return AVERROR(ENOMEM);
705
706     length = avio_rb32(pb);
707
708     segment->temporal_offset_entries = av_mallocz(segment->nb_index_entries *
709                                  sizeof(*segment->temporal_offset_entries));
710     segment->flag_entries            = av_mallocz(segment->nb_index_entries *
711                                  sizeof(*segment->flag_entries));
712     segment->stream_offset_entries   = av_mallocz(segment->nb_index_entries *
713                                  sizeof(*segment->stream_offset_entries));
714
715     if (!segment->flag_entries || !segment->stream_offset_entries ||
716         !segment->temporal_offset_entries) {
717         av_freep(&segment->flag_entries);
718         av_freep(&segment->stream_offset_entries);
719         av_freep(&segment->temporal_offset_entries);
720         return AVERROR(ENOMEM);
721     }
722
723     for (i = 0; i < segment->nb_index_entries; i++) {
724         segment->temporal_offset_entries[i] = avio_r8(pb);
725         avio_r8(pb);                                        /* KeyFrameOffset */
726         segment->flag_entries[i] = avio_r8(pb);
727         segment->stream_offset_entries[i] = avio_rb64(pb);
728         avio_skip(pb, length - 11);
729     }
730     return 0;
731 }
732
733 static int mxf_read_index_table_segment(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
734 {
735     MXFIndexTableSegment *segment = arg;
736     switch(tag) {
737     case 0x3F05:
738         segment->edit_unit_byte_count = avio_rb32(pb);
739         av_dlog(NULL, "EditUnitByteCount %d\n", segment->edit_unit_byte_count);
740         break;
741     case 0x3F06:
742         segment->index_sid = avio_rb32(pb);
743         av_dlog(NULL, "IndexSID %d\n", segment->index_sid);
744         break;
745     case 0x3F07:
746         segment->body_sid = avio_rb32(pb);
747         av_dlog(NULL, "BodySID %d\n", segment->body_sid);
748         break;
749     case 0x3F0A:
750         av_dlog(NULL, "IndexEntryArray found\n");
751         return mxf_read_index_entry_array(pb, segment);
752     case 0x3F0B:
753         segment->index_edit_rate.num = avio_rb32(pb);
754         segment->index_edit_rate.den = avio_rb32(pb);
755         av_dlog(NULL, "IndexEditRate %d/%d\n", segment->index_edit_rate.num,
756                 segment->index_edit_rate.den);
757         break;
758     case 0x3F0C:
759         segment->index_start_position = avio_rb64(pb);
760         av_dlog(NULL, "IndexStartPosition %"PRId64"\n", segment->index_start_position);
761         break;
762     case 0x3F0D:
763         segment->index_duration = avio_rb64(pb);
764         av_dlog(NULL, "IndexDuration %"PRId64"\n", segment->index_duration);
765         break;
766     }
767     return 0;
768 }
769
770 static void mxf_read_pixel_layout(AVIOContext *pb, MXFDescriptor *descriptor)
771 {
772     int code, value, ofs = 0;
773     char layout[16] = {0};
774
775     do {
776         code = avio_r8(pb);
777         value = avio_r8(pb);
778         av_dlog(NULL, "pixel layout: code %#x\n", code);
779
780         if (ofs < 16) {
781             layout[ofs++] = code;
782             layout[ofs++] = value;
783         }
784     } while (code != 0); /* SMPTE 377M E.2.46 */
785
786     ff_mxf_decode_pixel_layout(layout, &descriptor->pix_fmt);
787 }
788
789 static int mxf_read_generic_descriptor(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
790 {
791     MXFDescriptor *descriptor = arg;
792     switch(tag) {
793     case 0x3F01:
794         descriptor->sub_descriptors_count = avio_rb32(pb);
795         if (descriptor->sub_descriptors_count >= UINT_MAX / sizeof(UID))
796             return AVERROR_INVALIDDATA;
797         descriptor->sub_descriptors_refs = av_malloc(descriptor->sub_descriptors_count * sizeof(UID));
798         if (!descriptor->sub_descriptors_refs)
799             return AVERROR(ENOMEM);
800         avio_skip(pb, 4); /* useless size of objects, always 16 according to specs */
801         avio_read(pb, (uint8_t *)descriptor->sub_descriptors_refs, descriptor->sub_descriptors_count * sizeof(UID));
802         break;
803     case 0x3004:
804         avio_read(pb, descriptor->essence_container_ul, 16);
805         break;
806     case 0x3006:
807         descriptor->linked_track_id = avio_rb32(pb);
808         break;
809     case 0x3201: /* PictureEssenceCoding */
810         avio_read(pb, descriptor->essence_codec_ul, 16);
811         break;
812     case 0x3203:
813         descriptor->width = avio_rb32(pb);
814         break;
815     case 0x3202:
816         descriptor->height = avio_rb32(pb);
817         break;
818     case 0x320E:
819         descriptor->aspect_ratio.num = avio_rb32(pb);
820         descriptor->aspect_ratio.den = avio_rb32(pb);
821         break;
822     case 0x3D03:
823         descriptor->sample_rate.num = avio_rb32(pb);
824         descriptor->sample_rate.den = avio_rb32(pb);
825         break;
826     case 0x3D06: /* SoundEssenceCompression */
827         avio_read(pb, descriptor->essence_codec_ul, 16);
828         break;
829     case 0x3D07:
830         descriptor->channels = avio_rb32(pb);
831         break;
832     case 0x3D01:
833         descriptor->bits_per_sample = avio_rb32(pb);
834         break;
835     case 0x3401:
836         mxf_read_pixel_layout(pb, descriptor);
837         break;
838     default:
839         /* Private uid used by SONY C0023S01.mxf */
840         if (IS_KLV_KEY(uid, mxf_sony_mpeg4_extradata)) {
841             descriptor->extradata = av_malloc(size + FF_INPUT_BUFFER_PADDING_SIZE);
842             if (!descriptor->extradata)
843                 return AVERROR(ENOMEM);
844             descriptor->extradata_size = size;
845             avio_read(pb, descriptor->extradata, size);
846         }
847         break;
848     }
849     return 0;
850 }
851
852 /*
853  * Match an uid independently of the version byte and up to len common bytes
854  * Returns: boolean
855  */
856 static int mxf_match_uid(const UID key, const UID uid, int len)
857 {
858     int i;
859     for (i = 0; i < len; i++) {
860         if (i != 7 && key[i] != uid[i])
861             return 0;
862     }
863     return 1;
864 }
865
866 static const MXFCodecUL *mxf_get_codec_ul(const MXFCodecUL *uls, UID *uid)
867 {
868     while (uls->uid[0]) {
869         if(mxf_match_uid(uls->uid, *uid, uls->matching_len))
870             break;
871         uls++;
872     }
873     return uls;
874 }
875
876 static void *mxf_resolve_strong_ref(MXFContext *mxf, UID *strong_ref, enum MXFMetadataSetType type)
877 {
878     int i;
879
880     if (!strong_ref)
881         return NULL;
882     for (i = 0; i < mxf->metadata_sets_count; i++) {
883         if (!memcmp(*strong_ref, mxf->metadata_sets[i]->uid, 16) &&
884             (type == AnyType || mxf->metadata_sets[i]->type == type)) {
885             return mxf->metadata_sets[i];
886         }
887     }
888     return NULL;
889 }
890
891 static const MXFCodecUL mxf_picture_essence_container_uls[] = {
892     // video essence container uls
893     { { 0x06,0x0E,0x2B,0x34,0x04,0x01,0x01,0x02,0x0D,0x01,0x03,0x01,0x02,0x04,0x60,0x01 }, 14, CODEC_ID_MPEG2VIDEO }, /* MPEG-ES Frame wrapped */
894     { { 0x06,0x0E,0x2B,0x34,0x04,0x01,0x01,0x01,0x0D,0x01,0x03,0x01,0x02,0x02,0x41,0x01 }, 14,    CODEC_ID_DVVIDEO }, /* DV 625 25mbps */
895     { { 0x06,0x0E,0x2B,0x34,0x04,0x01,0x01,0x01,0x0D,0x01,0x03,0x01,0x02,0x05,0x00,0x00 }, 14,   CODEC_ID_RAWVIDEO }, /* Uncompressed Picture */
896     { { 0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00 },  0,      CODEC_ID_NONE },
897 };
898 static const MXFCodecUL mxf_sound_essence_container_uls[] = {
899     // sound essence container uls
900     { { 0x06,0x0E,0x2B,0x34,0x04,0x01,0x01,0x01,0x0D,0x01,0x03,0x01,0x02,0x06,0x01,0x00 }, 14, CODEC_ID_PCM_S16LE }, /* BWF Frame wrapped */
901     { { 0x06,0x0E,0x2B,0x34,0x04,0x01,0x01,0x02,0x0D,0x01,0x03,0x01,0x02,0x04,0x40,0x01 }, 14,       CODEC_ID_MP2 }, /* MPEG-ES Frame wrapped, 0x40 ??? stream id */
902     { { 0x06,0x0E,0x2B,0x34,0x04,0x01,0x01,0x01,0x0D,0x01,0x03,0x01,0x02,0x01,0x01,0x01 }, 14, CODEC_ID_PCM_S16LE }, /* D-10 Mapping 50Mbps PAL Extended Template */
903     { { 0x06,0x0E,0x2B,0x34,0x01,0x01,0x01,0xFF,0x4B,0x46,0x41,0x41,0x00,0x0D,0x4D,0x4F }, 14, CODEC_ID_PCM_S16LE }, /* 0001GL00.MXF.A1.mxf_opatom.mxf */
904     { { 0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00 },  0,      CODEC_ID_NONE },
905 };
906
907 static int mxf_get_sorted_table_segments(MXFContext *mxf, int *nb_sorted_segments, MXFIndexTableSegment ***sorted_segments)
908 {
909     int i, j, nb_segments = 0;
910     MXFIndexTableSegment **unsorted_segments;
911     int last_body_sid = -1, last_index_sid = -1, last_index_start = -1;
912
913     /* count number of segments, allocate arrays and copy unsorted segments */
914     for (i = 0; i < mxf->metadata_sets_count; i++)
915         if (mxf->metadata_sets[i]->type == IndexTableSegment)
916             nb_segments++;
917
918     *sorted_segments  = av_mallocz(nb_segments * sizeof(**sorted_segments));
919     unsorted_segments = av_mallocz(nb_segments * sizeof(*unsorted_segments));
920     if (!sorted_segments || !unsorted_segments) {
921         av_freep(sorted_segments);
922         av_free(unsorted_segments);
923         return AVERROR(ENOMEM);
924     }
925
926     for (i = j = 0; i < mxf->metadata_sets_count; i++)
927         if (mxf->metadata_sets[i]->type == IndexTableSegment)
928             unsorted_segments[j++] = (MXFIndexTableSegment*)mxf->metadata_sets[i];
929
930     *nb_sorted_segments = 0;
931
932     /* sort segments by {BodySID, IndexSID, IndexStartPosition}, remove duplicates while we're at it */
933     for (i = 0; i < nb_segments; i++) {
934         int best = -1, best_body_sid = -1, best_index_sid = -1, best_index_start = -1;
935
936         for (j = 0; j < nb_segments; j++) {
937             MXFIndexTableSegment *s = unsorted_segments[j];
938
939             /* Require larger BosySID, IndexSID or IndexStartPosition then the previous entry. This removes duplicates.
940              * We want the smallest values for the keys than what we currently have, unless this is the first such entry this time around.
941              */
942             if ((i == 0     || s->body_sid > last_body_sid || s->index_sid > last_index_sid || s->index_start_position > last_index_start) &&
943                 (best == -1 || s->body_sid < best_body_sid || s->index_sid < best_index_sid || s->index_start_position < best_index_start)) {
944                 best             = j;
945                 best_body_sid    = s->body_sid;
946                 best_index_sid   = s->index_sid;
947                 best_index_start = s->index_start_position;
948             }
949         }
950
951         /* no suitable entry found -> we're done */
952         if (best == -1)
953             break;
954
955         (*sorted_segments)[(*nb_sorted_segments)++] = unsorted_segments[best];
956         last_body_sid    = best_body_sid;
957         last_index_sid   = best_index_sid;
958         last_index_start = best_index_start;
959     }
960
961     av_free(unsorted_segments);
962
963     return 0;
964 }
965
966 /**
967  * Computes the absolute file offset of the given essence container offset
968  */
969 static int mxf_absolute_bodysid_offset(MXFContext *mxf, int body_sid, int64_t offset, int64_t *offset_out)
970 {
971     int x;
972     int64_t offset_in = offset;     /* for logging */
973
974     for (x = 0; x < mxf->partitions_count; x++) {
975         MXFPartition *p = &mxf->partitions[x];
976
977         if (p->body_sid != body_sid)
978             continue;
979
980         if (offset < p->essence_length || !p->essence_length) {
981             *offset_out = p->essence_offset + offset;
982             return 0;
983         }
984
985         offset -= p->essence_length;
986     }
987
988     av_log(mxf->fc, AV_LOG_ERROR,
989            "failed to find absolute offset of %"PRIX64" in BodySID %i - partial file?\n",
990            offset_in, body_sid);
991
992     return AVERROR_INVALIDDATA;
993 }
994
995 /**
996  * Returns the end position of the essence container with given BodySID, or zero if unknown
997  */
998 static int64_t mxf_essence_container_end(MXFContext *mxf, int body_sid)
999 {
1000     int x;
1001     int64_t ret = 0;
1002
1003     for (x = 0; x < mxf->partitions_count; x++) {
1004         MXFPartition *p = &mxf->partitions[x];
1005
1006         if (p->body_sid != body_sid)
1007             continue;
1008
1009         if (!p->essence_length)
1010             return 0;
1011
1012         ret = p->essence_offset + p->essence_length;
1013     }
1014
1015     return ret;
1016 }
1017
1018 /* EditUnit -> absolute offset */
1019 static int mxf_edit_unit_absolute_offset(MXFContext *mxf, MXFIndexTable *index_table, int64_t edit_unit, int64_t *edit_unit_out, int64_t *offset_out, int nag)
1020 {
1021     int i;
1022     int64_t offset_temp = 0;
1023
1024     for (i = 0; i < index_table->nb_segments; i++) {
1025         MXFIndexTableSegment *s = index_table->segments[i];
1026
1027         edit_unit = FFMAX(edit_unit, s->index_start_position);  /* clamp if trying to seek before start */
1028
1029         if (edit_unit < s->index_start_position + s->index_duration) {
1030             int64_t index = edit_unit - s->index_start_position;
1031
1032             if (s->edit_unit_byte_count)
1033                 offset_temp += s->edit_unit_byte_count * index;
1034             else if (s->nb_index_entries) {
1035                 if (s->nb_index_entries == 2 * s->index_duration + 1)
1036                     index *= 2;     /* Avid index */
1037
1038                 if (index < 0 || index > s->nb_index_entries) {
1039                     av_log(mxf->fc, AV_LOG_ERROR, "IndexSID %i segment at %"PRId64" IndexEntryArray too small\n",
1040                            index_table->index_sid, s->index_start_position);
1041                     return AVERROR_INVALIDDATA;
1042                 }
1043
1044                 offset_temp = s->stream_offset_entries[index];
1045             } else {
1046                 av_log(mxf->fc, AV_LOG_ERROR, "IndexSID %i segment at %"PRId64" missing EditUnitByteCount and IndexEntryArray\n",
1047                        index_table->index_sid, s->index_start_position);
1048                 return AVERROR_INVALIDDATA;
1049             }
1050
1051             if (edit_unit_out)
1052                 *edit_unit_out = edit_unit;
1053
1054             return mxf_absolute_bodysid_offset(mxf, index_table->body_sid, offset_temp, offset_out);
1055         } else {
1056             /* EditUnitByteCount == 0 for VBR indexes, which is fine since they use explicit StreamOffsets */
1057             offset_temp += s->edit_unit_byte_count * s->index_duration;
1058         }
1059     }
1060
1061     if (nag)
1062         av_log(mxf->fc, AV_LOG_ERROR, "failed to map EditUnit %"PRId64" in IndexSID %i to an offset\n", edit_unit, index_table->index_sid);
1063
1064     return AVERROR_INVALIDDATA;
1065 }
1066
1067 static int mxf_compute_ptses_fake_index(MXFContext *mxf, MXFIndexTable *index_table)
1068 {
1069     int i, j, x;
1070     int8_t max_temporal_offset = -128;
1071
1072     /* first compute how many entries we have */
1073     for (i = 0; i < index_table->nb_segments; i++) {
1074         MXFIndexTableSegment *s = index_table->segments[i];
1075
1076         if (!s->nb_index_entries) {
1077             index_table->nb_ptses = 0;
1078             return 0;                               /* no TemporalOffsets */
1079         }
1080
1081         index_table->nb_ptses += s->index_duration;
1082     }
1083
1084     /* paranoid check */
1085     if (index_table->nb_ptses <= 0)
1086         return 0;
1087
1088     if (index_table->nb_ptses > INT_MAX / sizeof(AVIndexEntry))
1089         return AVERROR(ENOMEM);
1090
1091     index_table->ptses      = av_mallocz(index_table->nb_ptses *
1092                                          sizeof(int64_t));
1093     index_table->fake_index = av_mallocz(index_table->nb_ptses *
1094                                          sizeof(AVIndexEntry));
1095     if (!index_table->ptses || !index_table->fake_index) {
1096         av_freep(&index_table->ptses);
1097         return AVERROR(ENOMEM);
1098     }
1099
1100     /* we may have a few bad TemporalOffsets
1101      * make sure the corresponding PTSes don't have the bogus value 0 */
1102     for (x = 0; x < index_table->nb_ptses; x++)
1103         index_table->ptses[x] = AV_NOPTS_VALUE;
1104
1105     /**
1106      * We have this:
1107      *
1108      * x  TemporalOffset
1109      * 0:  0
1110      * 1:  1
1111      * 2:  1
1112      * 3: -2
1113      * 4:  1
1114      * 5:  1
1115      * 6: -2
1116      *
1117      * We want to transform it into this:
1118      *
1119      * x  DTS PTS
1120      * 0: -1   0
1121      * 1:  0   3
1122      * 2:  1   1
1123      * 3:  2   2
1124      * 4:  3   6
1125      * 5:  4   4
1126      * 6:  5   5
1127      *
1128      * We do this by bucket sorting x by x+TemporalOffset[x] into mxf->ptses,
1129      * then settings mxf->first_dts = -max(TemporalOffset[x]).
1130      * The latter makes DTS <= PTS.
1131      */
1132     for (i = x = 0; i < index_table->nb_segments; i++) {
1133         MXFIndexTableSegment *s = index_table->segments[i];
1134         int index_delta = 1;
1135         int n = s->nb_index_entries;
1136
1137         if (s->nb_index_entries == 2 * s->index_duration + 1) {
1138             index_delta = 2;    /* Avid index */
1139             /* ignore the last entry - it's the size of the essence container */
1140             n--;
1141         }
1142
1143         for (j = 0; j < n; j += index_delta, x++) {
1144             int offset = s->temporal_offset_entries[j] / index_delta;
1145             int index  = x + offset;
1146
1147             if (x >= index_table->nb_ptses) {
1148                 av_log(mxf->fc, AV_LOG_ERROR,
1149                        "x >= nb_ptses - IndexEntryCount %i < IndexDuration %"PRId64"?\n",
1150                        s->nb_index_entries, s->index_duration);
1151                 break;
1152             }
1153
1154             index_table->fake_index[x].timestamp = x;
1155             index_table->fake_index[x].flags = !(s->flag_entries[j] & 0x30) ? AVINDEX_KEYFRAME : 0;
1156
1157             if (index < 0 || index >= index_table->nb_ptses) {
1158                 av_log(mxf->fc, AV_LOG_ERROR,
1159                        "index entry %i + TemporalOffset %i = %i, which is out of bounds\n",
1160                        x, offset, index);
1161                 continue;
1162             }
1163
1164             index_table->ptses[index] = x;
1165             max_temporal_offset = FFMAX(max_temporal_offset, offset);
1166         }
1167     }
1168
1169     index_table->first_dts = -max_temporal_offset;
1170
1171     return 0;
1172 }
1173
1174 /**
1175  * Sorts and collects index table segments into index tables.
1176  * Also computes PTSes if possible.
1177  */
1178 static int mxf_compute_index_tables(MXFContext *mxf)
1179 {
1180     int i, j, k, ret, nb_sorted_segments;
1181     MXFIndexTableSegment **sorted_segments = NULL;
1182
1183     if ((ret = mxf_get_sorted_table_segments(mxf, &nb_sorted_segments, &sorted_segments)) ||
1184         nb_sorted_segments <= 0) {
1185         av_log(mxf->fc, AV_LOG_WARNING, "broken or empty index\n");
1186         return 0;
1187     }
1188
1189     /* sanity check and count unique BodySIDs/IndexSIDs */
1190     for (i = 0; i < nb_sorted_segments; i++) {
1191         if (i == 0 || sorted_segments[i-1]->index_sid != sorted_segments[i]->index_sid)
1192             mxf->nb_index_tables++;
1193         else if (sorted_segments[i-1]->body_sid != sorted_segments[i]->body_sid) {
1194             av_log(mxf->fc, AV_LOG_ERROR, "found inconsistent BodySID\n");
1195             ret = AVERROR_INVALIDDATA;
1196             goto finish_decoding_index;
1197         }
1198     }
1199
1200     if (mxf->nb_index_tables > INT_MAX / sizeof(MXFIndexTable) ||
1201         !(mxf->index_tables = av_mallocz(mxf->nb_index_tables *
1202                                          sizeof(MXFIndexTable)))) {
1203         av_log(mxf->fc, AV_LOG_ERROR, "failed to allocate index tables\n");
1204         ret = AVERROR(ENOMEM);
1205         goto finish_decoding_index;
1206     }
1207
1208     /* distribute sorted segments to index tables */
1209     for (i = j = 0; i < nb_sorted_segments; i++) {
1210         if (i != 0 && sorted_segments[i-1]->index_sid != sorted_segments[i]->index_sid) {
1211             /* next IndexSID */
1212             j++;
1213         }
1214
1215         mxf->index_tables[j].nb_segments++;
1216     }
1217
1218     for (i = j = 0; j < mxf->nb_index_tables; i += mxf->index_tables[j++].nb_segments) {
1219         MXFIndexTable *t = &mxf->index_tables[j];
1220
1221         if (t->nb_segments >
1222             (INT_MAX / sizeof(MXFIndexTableSegment *)) ||
1223             !(t->segments = av_mallocz(t->nb_segments *
1224                                        sizeof(MXFIndexTableSegment*)))) {
1225             av_log(mxf->fc, AV_LOG_ERROR, "failed to allocate IndexTableSegment"
1226                    " pointer array\n");
1227             ret = AVERROR(ENOMEM);
1228             goto finish_decoding_index;
1229         }
1230
1231         if (sorted_segments[i]->index_start_position)
1232             av_log(mxf->fc, AV_LOG_WARNING, "IndexSID %i starts at EditUnit %"PRId64" - seeking may not work as expected\n",
1233                    sorted_segments[i]->index_sid, sorted_segments[i]->index_start_position);
1234
1235         memcpy(t->segments, &sorted_segments[i], t->nb_segments * sizeof(MXFIndexTableSegment*));
1236         t->index_sid = sorted_segments[i]->index_sid;
1237         t->body_sid = sorted_segments[i]->body_sid;
1238
1239         if ((ret = mxf_compute_ptses_fake_index(mxf, t)) < 0)
1240             goto finish_decoding_index;
1241
1242         /* fix zero IndexDurations */
1243         for (k = 0; k < t->nb_segments; k++) {
1244             if (t->segments[k]->index_duration)
1245                 continue;
1246
1247             if (t->nb_segments > 1)
1248                 av_log(mxf->fc, AV_LOG_WARNING, "IndexSID %i segment %i has zero IndexDuration and there's more than one segment\n",
1249                        t->index_sid, k);
1250
1251             if (mxf->fc->nb_streams <= 0) {
1252                 av_log(mxf->fc, AV_LOG_WARNING, "no streams?\n");
1253                 break;
1254             }
1255
1256             /* assume the first stream's duration is reasonable
1257              * leave index_duration = 0 on further segments in case we have any (unlikely)
1258              */
1259             t->segments[k]->index_duration = mxf->fc->streams[0]->duration;
1260             break;
1261         }
1262     }
1263
1264     ret = 0;
1265 finish_decoding_index:
1266     av_free(sorted_segments);
1267     return ret;
1268 }
1269
1270 static int mxf_parse_structural_metadata(MXFContext *mxf)
1271 {
1272     MXFPackage *material_package = NULL;
1273     MXFPackage *temp_package = NULL;
1274     int i, j, k, ret;
1275
1276     av_dlog(mxf->fc, "metadata sets count %d\n", mxf->metadata_sets_count);
1277     /* TODO: handle multiple material packages (OP3x) */
1278     for (i = 0; i < mxf->packages_count; i++) {
1279         material_package = mxf_resolve_strong_ref(mxf, &mxf->packages_refs[i], MaterialPackage);
1280         if (material_package) break;
1281     }
1282     if (!material_package) {
1283         av_log(mxf->fc, AV_LOG_ERROR, "no material package found\n");
1284         return AVERROR_INVALIDDATA;
1285     }
1286
1287     for (i = 0; i < material_package->tracks_count; i++) {
1288         MXFPackage *source_package = NULL;
1289         MXFTrack *material_track = NULL;
1290         MXFTrack *source_track = NULL;
1291         MXFTrack *temp_track = NULL;
1292         MXFDescriptor *descriptor = NULL;
1293         MXFStructuralComponent *component = NULL;
1294         UID *essence_container_ul = NULL;
1295         const MXFCodecUL *codec_ul = NULL;
1296         const MXFCodecUL *container_ul = NULL;
1297         AVStream *st;
1298
1299         if (!(material_track = mxf_resolve_strong_ref(mxf, &material_package->tracks_refs[i], Track))) {
1300             av_log(mxf->fc, AV_LOG_ERROR, "could not resolve material track strong ref\n");
1301             continue;
1302         }
1303
1304         if (!(material_track->sequence = mxf_resolve_strong_ref(mxf, &material_track->sequence_ref, Sequence))) {
1305             av_log(mxf->fc, AV_LOG_ERROR, "could not resolve material track sequence strong ref\n");
1306             continue;
1307         }
1308
1309         /* TODO: handle multiple source clips */
1310         for (j = 0; j < material_track->sequence->structural_components_count; j++) {
1311             /* TODO: handle timecode component */
1312             component = mxf_resolve_strong_ref(mxf, &material_track->sequence->structural_components_refs[j], SourceClip);
1313             if (!component)
1314                 continue;
1315
1316             for (k = 0; k < mxf->packages_count; k++) {
1317                 temp_package = mxf_resolve_strong_ref(mxf, &mxf->packages_refs[k], SourcePackage);
1318                 if (!temp_package)
1319                     continue;
1320                 if (!memcmp(temp_package->package_uid, component->source_package_uid, 16)) {
1321                     source_package = temp_package;
1322                     break;
1323                 }
1324             }
1325             if (!source_package) {
1326                 av_dlog(mxf->fc, "material track %d: no corresponding source package found\n", material_track->track_id);
1327                 break;
1328             }
1329             for (k = 0; k < source_package->tracks_count; k++) {
1330                 if (!(temp_track = mxf_resolve_strong_ref(mxf, &source_package->tracks_refs[k], Track))) {
1331                     av_log(mxf->fc, AV_LOG_ERROR, "could not resolve source track strong ref\n");
1332                     ret = AVERROR_INVALIDDATA;
1333                     goto fail_and_free;
1334                 }
1335                 if (temp_track->track_id == component->source_track_id) {
1336                     source_track = temp_track;
1337                     break;
1338                 }
1339             }
1340             if (!source_track) {
1341                 av_log(mxf->fc, AV_LOG_ERROR, "material track %d: no corresponding source track found\n", material_track->track_id);
1342                 break;
1343             }
1344         }
1345         if (!source_track || !component)
1346             continue;
1347
1348         if (!(source_track->sequence = mxf_resolve_strong_ref(mxf, &source_track->sequence_ref, Sequence))) {
1349             av_log(mxf->fc, AV_LOG_ERROR, "could not resolve source track sequence strong ref\n");
1350             ret = AVERROR_INVALIDDATA;
1351             goto fail_and_free;
1352         }
1353
1354         /* 0001GL00.MXF.A1.mxf_opatom.mxf has the same SourcePackageID as 0001GL.MXF.V1.mxf_opatom.mxf
1355          * This would result in both files appearing to have two streams. Work around this by sanity checking DataDefinition */
1356         if (memcmp(material_track->sequence->data_definition_ul, source_track->sequence->data_definition_ul, 16)) {
1357             av_log(mxf->fc, AV_LOG_ERROR, "material track %d: DataDefinition mismatch\n", material_track->track_id);
1358             continue;
1359         }
1360
1361         st = avformat_new_stream(mxf->fc, NULL);
1362         if (!st) {
1363             av_log(mxf->fc, AV_LOG_ERROR, "could not allocate stream\n");
1364             ret = AVERROR(ENOMEM);
1365             goto fail_and_free;
1366         }
1367         st->id = source_track->track_id;
1368         st->priv_data = source_track;
1369         st->duration = component->duration;
1370         if (st->duration == -1)
1371             st->duration = AV_NOPTS_VALUE;
1372         st->start_time = component->start_position;
1373         avpriv_set_pts_info(st, 64, material_track->edit_rate.den, material_track->edit_rate.num);
1374
1375         PRINT_KEY(mxf->fc, "data definition   ul", source_track->sequence->data_definition_ul);
1376         codec_ul = mxf_get_codec_ul(ff_mxf_data_definition_uls, &source_track->sequence->data_definition_ul);
1377         st->codec->codec_type = codec_ul->id;
1378
1379         source_package->descriptor = mxf_resolve_strong_ref(mxf, &source_package->descriptor_ref, AnyType);
1380         if (source_package->descriptor) {
1381             if (source_package->descriptor->type == MultipleDescriptor) {
1382                 for (j = 0; j < source_package->descriptor->sub_descriptors_count; j++) {
1383                     MXFDescriptor *sub_descriptor = mxf_resolve_strong_ref(mxf, &source_package->descriptor->sub_descriptors_refs[j], Descriptor);
1384
1385                     if (!sub_descriptor) {
1386                         av_log(mxf->fc, AV_LOG_ERROR, "could not resolve sub descriptor strong ref\n");
1387                         continue;
1388                     }
1389                     if (sub_descriptor->linked_track_id == source_track->track_id) {
1390                         descriptor = sub_descriptor;
1391                         break;
1392                     }
1393                 }
1394             } else if (source_package->descriptor->type == Descriptor)
1395                 descriptor = source_package->descriptor;
1396         }
1397         if (!descriptor) {
1398             av_log(mxf->fc, AV_LOG_INFO, "source track %d: stream %d, no descriptor found\n", source_track->track_id, st->index);
1399             continue;
1400         }
1401         PRINT_KEY(mxf->fc, "essence codec     ul", descriptor->essence_codec_ul);
1402         PRINT_KEY(mxf->fc, "essence container ul", descriptor->essence_container_ul);
1403         essence_container_ul = &descriptor->essence_container_ul;
1404         /* HACK: replacing the original key with mxf_encrypted_essence_container
1405          * is not allowed according to s429-6, try to find correct information anyway */
1406         if (IS_KLV_KEY(essence_container_ul, mxf_encrypted_essence_container)) {
1407             av_log(mxf->fc, AV_LOG_INFO, "broken encrypted mxf file\n");
1408             for (k = 0; k < mxf->metadata_sets_count; k++) {
1409                 MXFMetadataSet *metadata = mxf->metadata_sets[k];
1410                 if (metadata->type == CryptoContext) {
1411                     essence_container_ul = &((MXFCryptoContext *)metadata)->source_container_ul;
1412                     break;
1413                 }
1414             }
1415         }
1416
1417         /* TODO: drop PictureEssenceCoding and SoundEssenceCompression, only check EssenceContainer */
1418         codec_ul = mxf_get_codec_ul(ff_mxf_codec_uls, &descriptor->essence_codec_ul);
1419         st->codec->codec_id = codec_ul->id;
1420         if (descriptor->extradata) {
1421             st->codec->extradata = descriptor->extradata;
1422             st->codec->extradata_size = descriptor->extradata_size;
1423         }
1424         if (st->codec->codec_type == AVMEDIA_TYPE_VIDEO) {
1425             container_ul = mxf_get_codec_ul(mxf_picture_essence_container_uls, essence_container_ul);
1426             if (st->codec->codec_id == CODEC_ID_NONE)
1427                 st->codec->codec_id = container_ul->id;
1428             st->codec->width = descriptor->width;
1429             st->codec->height = descriptor->height;
1430             if (st->codec->codec_id == CODEC_ID_RAWVIDEO)
1431                 st->codec->pix_fmt = descriptor->pix_fmt;
1432             st->need_parsing = AVSTREAM_PARSE_HEADERS;
1433         } else if (st->codec->codec_type == AVMEDIA_TYPE_AUDIO) {
1434             container_ul = mxf_get_codec_ul(mxf_sound_essence_container_uls, essence_container_ul);
1435             if (st->codec->codec_id == CODEC_ID_NONE)
1436                 st->codec->codec_id = container_ul->id;
1437             st->codec->channels = descriptor->channels;
1438             st->codec->bits_per_coded_sample = descriptor->bits_per_sample;
1439
1440             if (descriptor->sample_rate.den > 0)
1441                 st->codec->sample_rate = descriptor->sample_rate.num / descriptor->sample_rate.den;
1442
1443             /* TODO: implement CODEC_ID_RAWAUDIO */
1444             if (st->codec->codec_id == CODEC_ID_PCM_S16LE) {
1445                 if (descriptor->bits_per_sample > 16 && descriptor->bits_per_sample <= 24)
1446                     st->codec->codec_id = CODEC_ID_PCM_S24LE;
1447                 else if (descriptor->bits_per_sample == 32)
1448                     st->codec->codec_id = CODEC_ID_PCM_S32LE;
1449             } else if (st->codec->codec_id == CODEC_ID_PCM_S16BE) {
1450                 if (descriptor->bits_per_sample > 16 && descriptor->bits_per_sample <= 24)
1451                     st->codec->codec_id = CODEC_ID_PCM_S24BE;
1452                 else if (descriptor->bits_per_sample == 32)
1453                     st->codec->codec_id = CODEC_ID_PCM_S32BE;
1454             } else if (st->codec->codec_id == CODEC_ID_MP2) {
1455                 st->need_parsing = AVSTREAM_PARSE_FULL;
1456             }
1457         }
1458         if (st->codec->codec_type != AVMEDIA_TYPE_DATA && (*essence_container_ul)[15] > 0x01) {
1459             /* TODO: decode timestamps */
1460             st->need_parsing = AVSTREAM_PARSE_TIMESTAMPS;
1461         }
1462     }
1463
1464     ret = 0;
1465 fail_and_free:
1466     return ret;
1467 }
1468
1469 static const MXFMetadataReadTableEntry mxf_metadata_read_table[] = {
1470     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x05,0x01,0x00 }, mxf_read_primer_pack },
1471     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x02,0x01,0x00 }, mxf_read_partition_pack },
1472     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x02,0x02,0x00 }, mxf_read_partition_pack },
1473     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x02,0x03,0x00 }, mxf_read_partition_pack },
1474     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x02,0x04,0x00 }, mxf_read_partition_pack },
1475     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x03,0x01,0x00 }, mxf_read_partition_pack },
1476     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x03,0x02,0x00 }, mxf_read_partition_pack },
1477     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x03,0x03,0x00 }, mxf_read_partition_pack },
1478     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x03,0x04,0x00 }, mxf_read_partition_pack },
1479     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x04,0x02,0x00 }, mxf_read_partition_pack },
1480     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x04,0x04,0x00 }, mxf_read_partition_pack },
1481     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x18,0x00 }, mxf_read_content_storage, 0, AnyType },
1482     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x37,0x00 }, mxf_read_source_package, sizeof(MXFPackage), SourcePackage },
1483     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x36,0x00 }, mxf_read_material_package, sizeof(MXFPackage), MaterialPackage },
1484     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x0F,0x00 }, mxf_read_sequence, sizeof(MXFSequence), Sequence },
1485     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x11,0x00 }, mxf_read_source_clip, sizeof(MXFStructuralComponent), SourceClip },
1486     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x44,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), MultipleDescriptor },
1487     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x42,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), Descriptor }, /* Generic Sound */
1488     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x28,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), Descriptor }, /* CDCI */
1489     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x29,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), Descriptor }, /* RGBA */
1490     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x51,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), Descriptor }, /* MPEG 2 Video */
1491     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x48,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), Descriptor }, /* Wave */
1492     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x47,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), Descriptor }, /* AES3 */
1493     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x3A,0x00 }, mxf_read_track, sizeof(MXFTrack), Track }, /* Static Track */
1494     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x3B,0x00 }, mxf_read_track, sizeof(MXFTrack), Track }, /* Generic Track */
1495     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x04,0x01,0x02,0x02,0x00,0x00 }, mxf_read_cryptographic_context, sizeof(MXFCryptoContext), CryptoContext },
1496     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x10,0x01,0x00 }, mxf_read_index_table_segment, sizeof(MXFIndexTableSegment), IndexTableSegment },
1497     { { 0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00 }, NULL, 0, AnyType },
1498 };
1499
1500 static int mxf_read_local_tags(MXFContext *mxf, KLVPacket *klv, MXFMetadataReadFunc *read_child, int ctx_size, enum MXFMetadataSetType type)
1501 {
1502     AVIOContext *pb = mxf->fc->pb;
1503     MXFMetadataSet *ctx = ctx_size ? av_mallocz(ctx_size) : mxf;
1504     uint64_t klv_end = avio_tell(pb) + klv->length;
1505
1506     if (!ctx)
1507         return AVERROR(ENOMEM);
1508     while (avio_tell(pb) + 4 < klv_end && !pb->eof_reached) {
1509         int ret;
1510         int tag = avio_rb16(pb);
1511         int size = avio_rb16(pb); /* KLV specified by 0x53 */
1512         uint64_t next = avio_tell(pb) + size;
1513         UID uid = {0};
1514
1515         av_dlog(mxf->fc, "local tag %#04x size %d\n", tag, size);
1516         if (!size) { /* ignore empty tag, needed for some files with empty UMID tag */
1517             av_log(mxf->fc, AV_LOG_ERROR, "local tag %#04x with 0 size\n", tag);
1518             continue;
1519         }
1520         if (tag > 0x7FFF) { /* dynamic tag */
1521             int i;
1522             for (i = 0; i < mxf->local_tags_count; i++) {
1523                 int local_tag = AV_RB16(mxf->local_tags+i*18);
1524                 if (local_tag == tag) {
1525                     memcpy(uid, mxf->local_tags+i*18+2, 16);
1526                     av_dlog(mxf->fc, "local tag %#04x\n", local_tag);
1527                     PRINT_KEY(mxf->fc, "uid", uid);
1528                 }
1529             }
1530         }
1531         if (ctx_size && tag == 0x3C0A)
1532             avio_read(pb, ctx->uid, 16);
1533         else if ((ret = read_child(ctx, pb, tag, size, uid, -1)) < 0)
1534             return ret;
1535
1536         /* Accept the 64k local set limit being exceeded (Avid). Don't accept
1537          * it extending past the end of the KLV though (zzuf5.mxf). */
1538         if (avio_tell(pb) > klv_end) {
1539             av_log(mxf->fc, AV_LOG_ERROR,
1540                    "local tag %#04x extends past end of local set @ %#"PRIx64"\n",
1541                    tag, klv->offset);
1542             return AVERROR_INVALIDDATA;
1543         } else if (avio_tell(pb) <= next)   /* only seek forward, else this can loop for a long time */
1544             avio_seek(pb, next, SEEK_SET);
1545     }
1546     if (ctx_size) ctx->type = type;
1547     return ctx_size ? mxf_add_metadata_set(mxf, ctx) : 0;
1548 }
1549
1550 /**
1551  * Seeks to the previous partition, if possible
1552  * @return <= 0 if we should stop parsing, > 0 if we should keep going
1553  */
1554 static int mxf_seek_to_previous_partition(MXFContext *mxf)
1555 {
1556     AVIOContext *pb = mxf->fc->pb;
1557
1558     if (!mxf->current_partition ||
1559         mxf->run_in + mxf->current_partition->previous_partition <= mxf->last_forward_tell)
1560         return 0;   /* we've parsed all partitions */
1561
1562     /* seek to previous partition */
1563     avio_seek(pb, mxf->run_in + mxf->current_partition->previous_partition, SEEK_SET);
1564     mxf->current_partition = NULL;
1565
1566     av_dlog(mxf->fc, "seeking to previous partition\n");
1567
1568     return 1;
1569 }
1570
1571 /**
1572  * Called when essence is encountered
1573  * @return <= 0 if we should stop parsing, > 0 if we should keep going
1574  */
1575 static int mxf_parse_handle_essence(MXFContext *mxf)
1576 {
1577     AVIOContext *pb = mxf->fc->pb;
1578     int64_t ret;
1579
1580     if (mxf->parsing_backward) {
1581         return mxf_seek_to_previous_partition(mxf);
1582     } else {
1583         if (!mxf->footer_partition) {
1584             av_dlog(mxf->fc, "no footer\n");
1585             return 0;
1586         }
1587
1588         av_dlog(mxf->fc, "seeking to footer\n");
1589
1590         /* remember where we were so we don't end up seeking further back than this */
1591         mxf->last_forward_tell = avio_tell(pb);
1592
1593         if (!pb->seekable) {
1594             av_log(mxf->fc, AV_LOG_INFO, "file is not seekable - not parsing footer\n");
1595             return -1;
1596         }
1597
1598         /* seek to footer partition and parse backward */
1599         if ((ret = avio_seek(pb, mxf->run_in + mxf->footer_partition, SEEK_SET)) < 0) {
1600             av_log(mxf->fc, AV_LOG_ERROR, "failed to seek to footer @ 0x%"PRIx64" (%"PRId64") - partial file?\n",
1601                    mxf->run_in + mxf->footer_partition, ret);
1602             return ret;
1603         }
1604
1605         mxf->current_partition = NULL;
1606         mxf->parsing_backward = 1;
1607     }
1608
1609     return 1;
1610 }
1611
1612 /**
1613  * Called when the next partition or EOF is encountered
1614  * @return <= 0 if we should stop parsing, > 0 if we should keep going
1615  */
1616 static int mxf_parse_handle_partition_or_eof(MXFContext *mxf)
1617 {
1618     return mxf->parsing_backward ? mxf_seek_to_previous_partition(mxf) : 1;
1619 }
1620
1621 /**
1622  * Figure out the proper offset and length of the essence container
1623  * in each partition
1624  */
1625 static void mxf_compute_essence_containers(MXFContext *mxf)
1626 {
1627     int x;
1628
1629     /* everything is already correct */
1630     if (mxf->op == OPAtom)
1631         return;
1632
1633     for (x = 0; x < mxf->partitions_count; x++) {
1634         MXFPartition *p = &mxf->partitions[x];
1635
1636         if (!p->body_sid)
1637             continue;       /* BodySID == 0 -> no essence */
1638
1639         if (x >= mxf->partitions_count - 1)
1640             break;          /* last partition - can't compute length (and we don't need to) */
1641
1642         /* essence container spans to the next partition */
1643         p->essence_length = mxf->partitions[x+1].this_partition - p->essence_offset;
1644
1645         if (p->essence_length < 0) {
1646             /* next ThisPartition < essence_offset */
1647             p->essence_length = 0;
1648             av_log(mxf->fc, AV_LOG_ERROR,
1649                    "partition %i: bad ThisPartition = %"PRIX64"\n",
1650                    x+1, mxf->partitions[x+1].this_partition);
1651         }
1652     }
1653 }
1654
1655 static int64_t round_to_kag(int64_t position, int kag_size)
1656 {
1657     /* TODO: account for run-in? the spec isn't clear whether KAG should account for it */
1658     /* NOTE: kag_size may be any integer between 1 - 2^10 */
1659     int64_t ret = (position / kag_size) * kag_size;
1660     return ret == position ? ret : ret + kag_size;
1661 }
1662
1663 static inline void compute_partition_essence_offset(AVFormatContext *s,
1664                                                     MXFContext *mxf,
1665                                                     KLVPacket *klv)
1666 {
1667     MXFPartition *cur_part = mxf->current_partition;
1668     /* for OP1a we compute essence_offset
1669      * for OPAtom we point essence_offset after the KL
1670      *     (usually op1a_essence_offset + 20 or 25)
1671      * TODO: for OP1a we could eliminate this entire if statement, always
1672      *       stopping parsing at op1a_essence_offset
1673      *       for OPAtom we still need the actual essence_offset though
1674      *       (the KL's length can vary)
1675      */
1676     int64_t op1a_essence_offset =
1677         round_to_kag(cur_part->this_partition + cur_part->pack_length,
1678                      cur_part->kag_size) +
1679         round_to_kag(cur_part->header_byte_count, cur_part->kag_size) +
1680         round_to_kag(cur_part->index_byte_count, cur_part->kag_size);
1681
1682     if (mxf->op == OPAtom) {
1683         /* point essence_offset to the actual data
1684          * OPAtom has all the essence in one big KLV
1685          */
1686         cur_part->essence_offset = avio_tell(s->pb);
1687         cur_part->essence_length = klv->length;
1688     } else {
1689         /* NOTE: op1a_essence_offset may be less than to klv.offset
1690          * (C0023S01.mxf)  */
1691         cur_part->essence_offset = op1a_essence_offset;
1692     }
1693 }
1694
1695 static int is_pcm(enum CodecID codec_id)
1696 {
1697     /* we only care about "normal" PCM codecs until we get samples */
1698     return codec_id >= CODEC_ID_PCM_S16LE && codec_id < CODEC_ID_PCM_S24DAUD;
1699 }
1700
1701 /**
1702  * Deal with the case where for some audio atoms EditUnitByteCount is
1703  * very small (2, 4..). In those cases we should read more than one
1704  * sample per call to mxf_read_packet().
1705  */
1706 static void mxf_handle_small_eubc(AVFormatContext *s)
1707 {
1708     MXFContext *mxf = s->priv_data;
1709
1710     /* assuming non-OPAtom == frame wrapped
1711      * no sane writer would wrap 2 byte PCM packets with 20 byte headers.. */
1712     if (mxf->op != OPAtom)
1713         return;
1714
1715     /* expect PCM with exactly one index table segment and a small (< 32) EUBC */
1716     if (s->nb_streams != 1                                     ||
1717         s->streams[0]->codec->codec_type != AVMEDIA_TYPE_AUDIO ||
1718         !is_pcm(s->streams[0]->codec->codec_id)                ||
1719         mxf->nb_index_tables != 1                              ||
1720         mxf->index_tables[0].nb_segments != 1                  ||
1721         mxf->index_tables[0].segments[0]->edit_unit_byte_count >= 32)
1722         return;
1723
1724     /* arbitrarily default to 48 kHz PAL audio frame size */
1725     /* TODO: We could compute this from the ratio between the audio
1726      *       and video edit rates for 48 kHz NTSC we could use the
1727      *       1802-1802-1802-1802-1801 pattern. */
1728     mxf->edit_units_per_packet = 1920;
1729 }
1730
1731 static int mxf_read_header(AVFormatContext *s)
1732 {
1733     MXFContext *mxf = s->priv_data;
1734     KLVPacket klv;
1735     int64_t essence_offset = 0;
1736     int ret;
1737
1738     mxf->last_forward_tell = INT64_MAX;
1739     mxf->edit_units_per_packet = 1;
1740
1741     if (!mxf_read_sync(s->pb, mxf_header_partition_pack_key, 14)) {
1742         av_log(s, AV_LOG_ERROR, "could not find header partition pack key\n");
1743         return AVERROR_INVALIDDATA;
1744     }
1745     avio_seek(s->pb, -14, SEEK_CUR);
1746     mxf->fc = s;
1747     mxf->run_in = avio_tell(s->pb);
1748
1749     while (!s->pb->eof_reached) {
1750         const MXFMetadataReadTableEntry *metadata;
1751
1752         if (klv_read_packet(&klv, s->pb) < 0) {
1753             /* EOF - seek to previous partition or stop */
1754             if(mxf_parse_handle_partition_or_eof(mxf) <= 0)
1755                 break;
1756             else
1757                 continue;
1758         }
1759
1760         PRINT_KEY(s, "read header", klv.key);
1761         av_dlog(s, "size %"PRIu64" offset %#"PRIx64"\n", klv.length, klv.offset);
1762         if (IS_KLV_KEY(klv.key, mxf_encrypted_triplet_key) ||
1763             IS_KLV_KEY(klv.key, mxf_essence_element_key) ||
1764             IS_KLV_KEY(klv.key, mxf_avid_essence_element_key) ||
1765             IS_KLV_KEY(klv.key, mxf_system_item_key)) {
1766
1767             if (!mxf->current_partition) {
1768                 av_log(mxf->fc, AV_LOG_ERROR,
1769                        "found essence prior to first PartitionPack\n");
1770                 return AVERROR_INVALIDDATA;
1771             }
1772
1773             if (!mxf->current_partition->essence_offset) {
1774                 compute_partition_essence_offset(s, mxf, &klv);
1775             }
1776
1777             if (!essence_offset)
1778                 essence_offset = klv.offset;
1779
1780             /* seek to footer, previous partition or stop */
1781             if (mxf_parse_handle_essence(mxf) <= 0)
1782                 break;
1783             continue;
1784         } else if (!memcmp(klv.key, mxf_header_partition_pack_key, 13) &&
1785                    klv.key[13] >= 2 && klv.key[13] <= 4 && mxf->current_partition) {
1786             /* next partition pack - keep going, seek to previous partition or stop */
1787             if(mxf_parse_handle_partition_or_eof(mxf) <= 0)
1788                 break;
1789         }
1790
1791         for (metadata = mxf_metadata_read_table; metadata->read; metadata++) {
1792             if (IS_KLV_KEY(klv.key, metadata->key)) {
1793                 int res;
1794                 if (klv.key[5] == 0x53) {
1795                     res = mxf_read_local_tags(mxf, &klv, metadata->read, metadata->ctx_size, metadata->type);
1796                 } else {
1797                     uint64_t next = avio_tell(s->pb) + klv.length;
1798                     res = metadata->read(mxf, s->pb, 0, klv.length, klv.key, klv.offset);
1799
1800                     /* only seek forward, else this can loop for a long time */
1801                     if (avio_tell(s->pb) > next) {
1802                         av_log(s, AV_LOG_ERROR, "read past end of KLV @ %#"PRIx64"\n",
1803                                klv.offset);
1804                         return AVERROR_INVALIDDATA;
1805                     }
1806
1807                     avio_seek(s->pb, next, SEEK_SET);
1808                 }
1809                 if (res < 0) {
1810                     av_log(s, AV_LOG_ERROR, "error reading header metadata\n");
1811                     return res;
1812                 }
1813                 break;
1814             }
1815         }
1816         if (!metadata->read)
1817             avio_skip(s->pb, klv.length);
1818     }
1819     /* FIXME avoid seek */
1820     if (!essence_offset)  {
1821         av_log(s, AV_LOG_ERROR, "no essence\n");
1822         return AVERROR_INVALIDDATA;
1823     }
1824     avio_seek(s->pb, essence_offset, SEEK_SET);
1825
1826     mxf_compute_essence_containers(mxf);
1827
1828     /* we need to do this before computing the index tables
1829      * to be able to fill in zero IndexDurations with st->duration */
1830     if ((ret = mxf_parse_structural_metadata(mxf)) < 0)
1831         return ret;
1832
1833     if ((ret = mxf_compute_index_tables(mxf)) < 0)
1834         return ret;
1835
1836     if (mxf->nb_index_tables > 1) {
1837         /* TODO: look up which IndexSID to use via EssenceContainerData */
1838         av_log(mxf->fc, AV_LOG_INFO, "got %i index tables - only the first one (IndexSID %i) will be used\n",
1839                mxf->nb_index_tables, mxf->index_tables[0].index_sid);
1840     } else if (mxf->nb_index_tables == 0 && mxf->op == OPAtom) {
1841         av_log(mxf->fc, AV_LOG_ERROR, "cannot demux OPAtom without an index\n");
1842         return AVERROR_INVALIDDATA;
1843     }
1844
1845     mxf_handle_small_eubc(s);
1846
1847     return 0;
1848 }
1849
1850 /**
1851  * Computes DTS and PTS for the given video packet based on its offset.
1852  */
1853 static void mxf_packet_timestamps(MXFContext *mxf, AVPacket *pkt)
1854 {
1855     int64_t last_ofs = -1, next_ofs;
1856     MXFIndexTable *t = &mxf->index_tables[0];
1857
1858     /* this is called from the OP1a demuxing logic, which means there
1859      * may be no index tables */
1860     if (mxf->nb_index_tables <= 0)
1861         return;
1862
1863     /* find mxf->current_edit_unit so that the next edit unit starts ahead of pkt->pos */
1864     while (mxf->current_edit_unit >= 0) {
1865         if (mxf_edit_unit_absolute_offset(mxf, t, mxf->current_edit_unit + 1, NULL, &next_ofs, 0) < 0)
1866             break;
1867
1868         if (next_ofs <= last_ofs) {
1869             /* large next_ofs didn't change or current_edit_unit wrapped
1870              * around this fixes the infinite loop on zzuf3.mxf */
1871             av_log(mxf->fc, AV_LOG_ERROR,
1872                    "next_ofs didn't change. not deriving packet timestamps\n");
1873             return;
1874         }
1875
1876         if (next_ofs > pkt->pos)
1877             break;
1878
1879         last_ofs = next_ofs;
1880         mxf->current_edit_unit++;
1881     }
1882
1883     if (mxf->current_edit_unit < 0 || mxf->current_edit_unit >= t->nb_ptses)
1884         return;
1885
1886     pkt->dts = mxf->current_edit_unit + t->first_dts;
1887     pkt->pts = t->ptses[mxf->current_edit_unit];
1888 }
1889
1890 static int mxf_read_packet_old(AVFormatContext *s, AVPacket *pkt)
1891 {
1892     KLVPacket klv;
1893
1894     while (!s->pb->eof_reached) {
1895         if (klv_read_packet(&klv, s->pb) < 0)
1896             return -1;
1897         PRINT_KEY(s, "read packet", klv.key);
1898         av_dlog(s, "size %"PRIu64" offset %#"PRIx64"\n", klv.length, klv.offset);
1899         if (IS_KLV_KEY(klv.key, mxf_encrypted_triplet_key)) {
1900             int res = mxf_decrypt_triplet(s, pkt, &klv);
1901             if (res < 0) {
1902                 av_log(s, AV_LOG_ERROR, "invalid encoded triplet\n");
1903                 return -1;
1904             }
1905             return 0;
1906         }
1907         if (IS_KLV_KEY(klv.key, mxf_essence_element_key) ||
1908             IS_KLV_KEY(klv.key, mxf_avid_essence_element_key)) {
1909             int index = mxf_get_stream_index(s, &klv);
1910             if (index < 0) {
1911                 av_log(s, AV_LOG_ERROR, "error getting stream index %d\n", AV_RB32(klv.key+12));
1912                 goto skip;
1913             }
1914             if (s->streams[index]->discard == AVDISCARD_ALL)
1915                 goto skip;
1916             /* check for 8 channels AES3 element */
1917             if (klv.key[12] == 0x06 && klv.key[13] == 0x01 && klv.key[14] == 0x10) {
1918                 if (mxf_get_d10_aes3_packet(s->pb, s->streams[index], pkt, klv.length) < 0) {
1919                     av_log(s, AV_LOG_ERROR, "error reading D-10 aes3 frame\n");
1920                     return -1;
1921                 }
1922             } else {
1923                 int ret = av_get_packet(s->pb, pkt, klv.length);
1924                 if (ret < 0)
1925                     return ret;
1926             }
1927             pkt->stream_index = index;
1928             pkt->pos = klv.offset;
1929
1930             if (s->streams[index]->codec->codec_type == AVMEDIA_TYPE_VIDEO)
1931                 mxf_packet_timestamps(s->priv_data, pkt);   /* offset -> EditUnit -> DTS/PTS */
1932
1933             return 0;
1934         } else
1935         skip:
1936             avio_skip(s->pb, klv.length);
1937     }
1938     return AVERROR_EOF;
1939 }
1940
1941 static int mxf_read_packet(AVFormatContext *s, AVPacket *pkt)
1942 {
1943     MXFContext *mxf = s->priv_data;
1944     int ret, size;
1945     int64_t ret64, pos, next_pos;
1946     AVStream *st;
1947     MXFIndexTable *t;
1948     int edit_units;
1949
1950     if (mxf->op != OPAtom)
1951         return mxf_read_packet_old(s, pkt);
1952
1953     /* OPAtom - clip wrapped demuxing */
1954     /* NOTE: mxf_read_header() makes sure nb_index_tables > 0 for OPAtom */
1955     st = s->streams[0];
1956     t = &mxf->index_tables[0];
1957
1958     if (mxf->current_edit_unit >= st->duration)
1959         return AVERROR_EOF;
1960
1961     edit_units = FFMIN(mxf->edit_units_per_packet, st->duration - mxf->current_edit_unit);
1962
1963     if ((ret = mxf_edit_unit_absolute_offset(mxf, t, mxf->current_edit_unit, NULL, &pos, 1)) < 0)
1964         return ret;
1965
1966     /* compute size by finding the next edit unit or the end of the essence container
1967      * not pretty, but it works */
1968     if ((ret = mxf_edit_unit_absolute_offset(mxf, t, mxf->current_edit_unit + edit_units, NULL, &next_pos, 0)) < 0 &&
1969         (next_pos = mxf_essence_container_end(mxf, t->body_sid)) <= 0) {
1970         av_log(s, AV_LOG_ERROR, "unable to compute the size of the last packet\n");
1971         return AVERROR_INVALIDDATA;
1972     }
1973
1974     if ((size = next_pos - pos) <= 0) {
1975         av_log(s, AV_LOG_ERROR, "bad size: %i\n", size);
1976         return AVERROR_INVALIDDATA;
1977     }
1978
1979     if ((ret64 = avio_seek(s->pb, pos, SEEK_SET)) < 0)
1980         return ret64;
1981
1982         if ((ret = av_get_packet(s->pb, pkt, size)) != size)
1983             return ret < 0 ? ret : AVERROR_EOF;
1984
1985     if (st->codec->codec_type == AVMEDIA_TYPE_VIDEO && t->ptses &&
1986         mxf->current_edit_unit >= 0 && mxf->current_edit_unit < t->nb_ptses) {
1987         pkt->dts = mxf->current_edit_unit + t->first_dts;
1988         pkt->pts = t->ptses[mxf->current_edit_unit];
1989     }
1990
1991     pkt->stream_index = 0;
1992     mxf->current_edit_unit += edit_units;
1993
1994     return 0;
1995 }
1996
1997
1998 static int mxf_read_close(AVFormatContext *s)
1999 {
2000     MXFContext *mxf = s->priv_data;
2001     MXFIndexTableSegment *seg;
2002     int i;
2003
2004     av_freep(&mxf->packages_refs);
2005
2006     for (i = 0; i < s->nb_streams; i++)
2007         s->streams[i]->priv_data = NULL;
2008
2009     for (i = 0; i < mxf->metadata_sets_count; i++) {
2010         switch (mxf->metadata_sets[i]->type) {
2011         case MultipleDescriptor:
2012             av_freep(&((MXFDescriptor *)mxf->metadata_sets[i])->sub_descriptors_refs);
2013             break;
2014         case Sequence:
2015             av_freep(&((MXFSequence *)mxf->metadata_sets[i])->structural_components_refs);
2016             break;
2017         case SourcePackage:
2018         case MaterialPackage:
2019             av_freep(&((MXFPackage *)mxf->metadata_sets[i])->tracks_refs);
2020             break;
2021         case IndexTableSegment:
2022             seg = (MXFIndexTableSegment *)mxf->metadata_sets[i];
2023             av_freep(&seg->temporal_offset_entries);
2024             av_freep(&seg->flag_entries);
2025             av_freep(&seg->stream_offset_entries);
2026             break;
2027         default:
2028             break;
2029         }
2030         av_freep(&mxf->metadata_sets[i]);
2031     }
2032     av_freep(&mxf->partitions);
2033     av_freep(&mxf->metadata_sets);
2034     av_freep(&mxf->aesc);
2035     av_freep(&mxf->local_tags);
2036
2037     for (i = 0; i < mxf->nb_index_tables; i++) {
2038         av_freep(&mxf->index_tables[i].segments);
2039         av_freep(&mxf->index_tables[i].ptses);
2040         av_freep(&mxf->index_tables[i].fake_index);
2041     }
2042     av_freep(&mxf->index_tables);
2043
2044     return 0;
2045 }
2046
2047 static int mxf_probe(AVProbeData *p) {
2048     uint8_t *bufp = p->buf;
2049     uint8_t *end = p->buf + p->buf_size;
2050
2051     if (p->buf_size < sizeof(mxf_header_partition_pack_key))
2052         return 0;
2053
2054     /* Must skip Run-In Sequence and search for MXF header partition pack key SMPTE 377M 5.5 */
2055     end -= sizeof(mxf_header_partition_pack_key);
2056     for (; bufp < end; bufp++) {
2057         if (IS_KLV_KEY(bufp, mxf_header_partition_pack_key))
2058             return AVPROBE_SCORE_MAX;
2059     }
2060     return 0;
2061 }
2062
2063 /* rudimentary byte seek */
2064 /* XXX: use MXF Index */
2065 static int mxf_read_seek(AVFormatContext *s, int stream_index, int64_t sample_time, int flags)
2066 {
2067     AVStream *st = s->streams[stream_index];
2068     int64_t seconds;
2069     MXFContext* mxf = s->priv_data;
2070     int64_t seekpos;
2071     int ret;
2072     MXFIndexTable *t;
2073
2074     if (mxf->index_tables <= 0) {
2075     if (!s->bit_rate)
2076         return AVERROR_INVALIDDATA;
2077     if (sample_time < 0)
2078         sample_time = 0;
2079     seconds = av_rescale(sample_time, st->time_base.num, st->time_base.den);
2080
2081     if ((ret = avio_seek(s->pb, (s->bit_rate * seconds) >> 3, SEEK_SET)) < 0)
2082         return ret;
2083     ff_update_cur_dts(s, st, sample_time);
2084     } else {
2085         t = &mxf->index_tables[0];
2086
2087         /* clamp above zero, else ff_index_search_timestamp() returns negative
2088          * this also means we allow seeking before the start */
2089         sample_time = FFMAX(sample_time, 0);
2090
2091         if (t->fake_index) {
2092             /* behave as if we have a proper index */
2093             if ((sample_time = ff_index_search_timestamp(t->fake_index, t->nb_ptses, sample_time, flags)) < 0)
2094                 return sample_time;
2095         } else {
2096             /* no IndexEntryArray (one or more CBR segments)
2097              * make sure we don't seek past the end */
2098             sample_time = FFMIN(sample_time, st->duration - 1);
2099         }
2100
2101         if ((ret = mxf_edit_unit_absolute_offset(mxf, t, sample_time, &sample_time, &seekpos, 1)) << 0)
2102             return ret;
2103
2104         ff_update_cur_dts(s, st, sample_time);
2105         mxf->current_edit_unit = sample_time;
2106         avio_seek(s->pb, seekpos, SEEK_SET);
2107     }
2108     return 0;
2109 }
2110
2111 AVInputFormat ff_mxf_demuxer = {
2112     .name           = "mxf",
2113     .long_name      = NULL_IF_CONFIG_SMALL("Material eXchange Format"),
2114     .priv_data_size = sizeof(MXFContext),
2115     .read_probe     = mxf_probe,
2116     .read_header    = mxf_read_header,
2117     .read_packet    = mxf_read_packet,
2118     .read_close     = mxf_read_close,
2119     .read_seek      = mxf_read_seek,
2120 };