avformat/mxfdec: add some missing picture_essence_container_uls
[ffmpeg.git] / libavformat / mxfdec.c
1 /*
2  * MXF demuxer.
3  * Copyright (c) 2006 SmartJog S.A., Baptiste Coudurier <baptiste dot coudurier at smartjog dot com>
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /*
23  * References
24  * SMPTE 336M KLV Data Encoding Protocol Using Key-Length-Value
25  * SMPTE 377M MXF File Format Specifications
26  * SMPTE 378M Operational Pattern 1a
27  * SMPTE 379M MXF Generic Container
28  * SMPTE 381M Mapping MPEG Streams into the MXF Generic Container
29  * SMPTE 382M Mapping AES3 and Broadcast Wave Audio into the MXF Generic Container
30  * SMPTE 383M Mapping DV-DIF Data to the MXF Generic Container
31  *
32  * Principle
33  * Search for Track numbers which will identify essence element KLV packets.
34  * Search for SourcePackage which define tracks which contains Track numbers.
35  * Material Package contains tracks with reference to SourcePackage tracks.
36  * Search for Descriptors (Picture, Sound) which contains codec info and parameters.
37  * Assign Descriptors to correct Tracks.
38  *
39  * Metadata reading functions read Local Tags, get InstanceUID(0x3C0A) then add MetaDataSet to MXFContext.
40  * Metadata parsing resolves Strong References to objects.
41  *
42  * Simple demuxer, only OP1A supported and some files might not work at all.
43  * Only tracks with associated descriptors will be decoded. "Highly Desirable" SMPTE 377M D.1
44  */
45
46 #include <inttypes.h>
47
48 #include "libavutil/aes.h"
49 #include "libavutil/avassert.h"
50 #include "libavutil/mathematics.h"
51 #include "libavcodec/bytestream.h"
52 #include "libavutil/intreadwrite.h"
53 #include "libavutil/parseutils.h"
54 #include "libavutil/timecode.h"
55 #include "avformat.h"
56 #include "internal.h"
57 #include "mxf.h"
58
59 typedef enum {
60     Header,
61     BodyPartition,
62     Footer
63 } MXFPartitionType;
64
65 typedef enum {
66     OP1a = 1,
67     OP1b,
68     OP1c,
69     OP2a,
70     OP2b,
71     OP2c,
72     OP3a,
73     OP3b,
74     OP3c,
75     OPAtom,
76     OPSONYOpt,  /* FATE sample, violates the spec in places */
77 } MXFOP;
78
79 typedef struct MXFPartition {
80     int closed;
81     int complete;
82     MXFPartitionType type;
83     uint64_t previous_partition;
84     int index_sid;
85     int body_sid;
86     int64_t this_partition;
87     int64_t essence_offset;         ///< absolute offset of essence
88     int64_t essence_length;
89     int32_t kag_size;
90     int64_t header_byte_count;
91     int64_t index_byte_count;
92     int pack_length;
93     int64_t pack_ofs;               ///< absolute offset of pack in file, including run-in
94     int64_t body_offset;
95 } MXFPartition;
96
97 typedef struct MXFCryptoContext {
98     UID uid;
99     enum MXFMetadataSetType type;
100     UID source_container_ul;
101 } MXFCryptoContext;
102
103 typedef struct MXFStructuralComponent {
104     UID uid;
105     enum MXFMetadataSetType type;
106     UID source_package_ul;
107     UID source_package_uid;
108     UID data_definition_ul;
109     int64_t duration;
110     int64_t start_position;
111     int source_track_id;
112 } MXFStructuralComponent;
113
114 typedef struct MXFSequence {
115     UID uid;
116     enum MXFMetadataSetType type;
117     UID data_definition_ul;
118     UID *structural_components_refs;
119     int structural_components_count;
120     int64_t duration;
121     uint8_t origin;
122 } MXFSequence;
123
124 typedef struct MXFTrack {
125     UID uid;
126     enum MXFMetadataSetType type;
127     int drop_frame;
128     int start_frame;
129     struct AVRational rate;
130     AVTimecode tc;
131 } MXFTimecodeComponent;
132
133 typedef struct {
134     UID uid;
135     enum MXFMetadataSetType type;
136     UID input_segment_ref;
137 } MXFPulldownComponent;
138
139 typedef struct {
140     UID uid;
141     enum MXFMetadataSetType type;
142     UID *structural_components_refs;
143     int structural_components_count;
144     int64_t duration;
145 } MXFEssenceGroup;
146
147 typedef struct {
148     UID uid;
149     enum MXFMetadataSetType type;
150     char *name;
151     char *value;
152 } MXFTaggedValue;
153
154 typedef struct {
155     UID uid;
156     enum MXFMetadataSetType type;
157     MXFSequence *sequence; /* mandatory, and only one */
158     UID sequence_ref;
159     int track_id;
160     char *name;
161     uint8_t track_number[4];
162     AVRational edit_rate;
163     int intra_only;
164     uint64_t sample_count;
165     int64_t original_duration; /* st->duration in SampleRate/EditRate units */
166     int index_sid;
167     int body_sid;
168 } MXFTrack;
169
170 typedef struct MXFDescriptor {
171     UID uid;
172     enum MXFMetadataSetType type;
173     UID essence_container_ul;
174     UID essence_codec_ul;
175     UID codec_ul;
176     AVRational sample_rate;
177     AVRational aspect_ratio;
178     int width;
179     int height; /* Field height, not frame height */
180     int frame_layout; /* See MXFFrameLayout enum */
181     int video_line_map[2];
182 #define MXF_FIELD_DOMINANCE_DEFAULT 0
183 #define MXF_FIELD_DOMINANCE_FF 1 /* coded first, displayed first */
184 #define MXF_FIELD_DOMINANCE_FL 2 /* coded first, displayed last */
185     int field_dominance;
186     int channels;
187     int bits_per_sample;
188     int64_t duration; /* ContainerDuration optional property */
189     unsigned int component_depth;
190     unsigned int horiz_subsampling;
191     unsigned int vert_subsampling;
192     UID *sub_descriptors_refs;
193     int sub_descriptors_count;
194     int linked_track_id;
195     uint8_t *extradata;
196     int extradata_size;
197     enum AVPixelFormat pix_fmt;
198 } MXFDescriptor;
199
200 typedef struct MXFIndexTableSegment {
201     UID uid;
202     enum MXFMetadataSetType type;
203     int edit_unit_byte_count;
204     int index_sid;
205     int body_sid;
206     AVRational index_edit_rate;
207     uint64_t index_start_position;
208     uint64_t index_duration;
209     int8_t *temporal_offset_entries;
210     int *flag_entries;
211     uint64_t *stream_offset_entries;
212     int nb_index_entries;
213 } MXFIndexTableSegment;
214
215 typedef struct MXFPackage {
216     UID uid;
217     enum MXFMetadataSetType type;
218     UID package_uid;
219     UID package_ul;
220     UID *tracks_refs;
221     int tracks_count;
222     MXFDescriptor *descriptor; /* only one */
223     UID descriptor_ref;
224     char *name;
225     UID *comment_refs;
226     int comment_count;
227 } MXFPackage;
228
229 typedef struct MXFEssenceContainerData {
230     UID uid;
231     enum MXFMetadataSetType type;
232     UID package_uid;
233     UID package_ul;
234     int index_sid;
235     int body_sid;
236 } MXFEssenceContainerData;
237
238 typedef struct MXFMetadataSet {
239     UID uid;
240     enum MXFMetadataSetType type;
241 } MXFMetadataSet;
242
243 /* decoded index table */
244 typedef struct MXFIndexTable {
245     int index_sid;
246     int body_sid;
247     int nb_ptses;               /* number of PTSes or total duration of index */
248     int64_t first_dts;          /* DTS = EditUnit + first_dts */
249     int64_t *ptses;             /* maps EditUnit -> PTS */
250     int nb_segments;
251     MXFIndexTableSegment **segments;    /* sorted by IndexStartPosition */
252     AVIndexEntry *fake_index;   /* used for calling ff_index_search_timestamp() */
253     int8_t *offsets;            /* temporal offsets for display order to stored order conversion */
254 } MXFIndexTable;
255
256 typedef struct MXFContext {
257     MXFPartition *partitions;
258     unsigned partitions_count;
259     MXFOP op;
260     UID *packages_refs;
261     int packages_count;
262     UID *essence_container_data_refs;
263     int essence_container_data_count;
264     MXFMetadataSet **metadata_sets;
265     int metadata_sets_count;
266     AVFormatContext *fc;
267     struct AVAES *aesc;
268     uint8_t *local_tags;
269     int local_tags_count;
270     uint64_t footer_partition;
271     KLVPacket current_klv_data;
272     int current_klv_index;
273     int run_in;
274     MXFPartition *current_partition;
275     int parsing_backward;
276     int64_t last_forward_tell;
277     int last_forward_partition;
278     int64_t current_edit_unit;
279     int nb_index_tables;
280     MXFIndexTable *index_tables;
281     int edit_units_per_packet;      ///< how many edit units to read at a time (PCM, OPAtom)
282 } MXFContext;
283
284 enum MXFWrappingScheme {
285     Frame,
286     Clip,
287 };
288
289 /* NOTE: klv_offset is not set (-1) for local keys */
290 typedef int MXFMetadataReadFunc(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset);
291
292 typedef struct MXFMetadataReadTableEntry {
293     const UID key;
294     MXFMetadataReadFunc *read;
295     int ctx_size;
296     enum MXFMetadataSetType type;
297 } MXFMetadataReadTableEntry;
298
299 static int mxf_read_close(AVFormatContext *s);
300
301 /* partial keys to match */
302 static const uint8_t mxf_header_partition_pack_key[]       = { 0x06,0x0e,0x2b,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x02 };
303 static const uint8_t mxf_essence_element_key[]             = { 0x06,0x0e,0x2b,0x34,0x01,0x02,0x01,0x01,0x0d,0x01,0x03,0x01 };
304 static const uint8_t mxf_avid_essence_element_key[]        = { 0x06,0x0e,0x2b,0x34,0x01,0x02,0x01,0x01,0x0e,0x04,0x03,0x01 };
305 static const uint8_t mxf_canopus_essence_element_key[]     = { 0x06,0x0e,0x2b,0x34,0x01,0x02,0x01,0x0a,0x0e,0x0f,0x03,0x01 };
306 static const uint8_t mxf_system_item_key_cp[]              = { 0x06,0x0e,0x2b,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x03,0x01,0x04 };
307 static const uint8_t mxf_system_item_key_gc[]              = { 0x06,0x0e,0x2b,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x03,0x01,0x14 };
308 static const uint8_t mxf_klv_key[]                         = { 0x06,0x0e,0x2b,0x34 };
309 /* complete keys to match */
310 static const uint8_t mxf_crypto_source_container_ul[]      = { 0x06,0x0e,0x2b,0x34,0x01,0x01,0x01,0x09,0x06,0x01,0x01,0x02,0x02,0x00,0x00,0x00 };
311 static const uint8_t mxf_encrypted_triplet_key[]           = { 0x06,0x0e,0x2b,0x34,0x02,0x04,0x01,0x07,0x0d,0x01,0x03,0x01,0x02,0x7e,0x01,0x00 };
312 static const uint8_t mxf_encrypted_essence_container[]     = { 0x06,0x0e,0x2b,0x34,0x04,0x01,0x01,0x07,0x0d,0x01,0x03,0x01,0x02,0x0b,0x01,0x00 };
313 static const uint8_t mxf_random_index_pack_key[]           = { 0x06,0x0e,0x2b,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x11,0x01,0x00 };
314 static const uint8_t mxf_sony_mpeg4_extradata[]            = { 0x06,0x0e,0x2b,0x34,0x04,0x01,0x01,0x01,0x0e,0x06,0x06,0x02,0x02,0x01,0x00,0x00 };
315 static const uint8_t mxf_avid_project_name[]               = { 0xa5,0xfb,0x7b,0x25,0xf6,0x15,0x94,0xb9,0x62,0xfc,0x37,0x17,0x49,0x2d,0x42,0xbf };
316 static const uint8_t mxf_jp2k_rsiz[]                       = { 0x06,0x0e,0x2b,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x02,0x01,0x00 };
317 static const uint8_t mxf_indirect_value_utf16le[]          = { 0x4c,0x00,0x02,0x10,0x01,0x00,0x00,0x00,0x00,0x06,0x0e,0x2b,0x34,0x01,0x04,0x01,0x01 };
318 static const uint8_t mxf_indirect_value_utf16be[]          = { 0x42,0x01,0x10,0x02,0x00,0x00,0x00,0x00,0x00,0x06,0x0e,0x2b,0x34,0x01,0x04,0x01,0x01 };
319
320 #define IS_KLV_KEY(x, y) (!memcmp(x, y, sizeof(y)))
321
322 static void mxf_free_metadataset(MXFMetadataSet **ctx, int freectx)
323 {
324     MXFIndexTableSegment *seg;
325     switch ((*ctx)->type) {
326     case Descriptor:
327         av_freep(&((MXFDescriptor *)*ctx)->extradata);
328         break;
329     case MultipleDescriptor:
330         av_freep(&((MXFDescriptor *)*ctx)->sub_descriptors_refs);
331         break;
332     case Sequence:
333         av_freep(&((MXFSequence *)*ctx)->structural_components_refs);
334         break;
335     case EssenceGroup:
336         av_freep(&((MXFEssenceGroup *)*ctx)->structural_components_refs);
337         break;
338     case SourcePackage:
339     case MaterialPackage:
340         av_freep(&((MXFPackage *)*ctx)->tracks_refs);
341         av_freep(&((MXFPackage *)*ctx)->name);
342         av_freep(&((MXFPackage *)*ctx)->comment_refs);
343         break;
344     case TaggedValue:
345         av_freep(&((MXFTaggedValue *)*ctx)->name);
346         av_freep(&((MXFTaggedValue *)*ctx)->value);
347         break;
348     case Track:
349         av_freep(&((MXFTrack *)*ctx)->name);
350         break;
351     case IndexTableSegment:
352         seg = (MXFIndexTableSegment *)*ctx;
353         av_freep(&seg->temporal_offset_entries);
354         av_freep(&seg->flag_entries);
355         av_freep(&seg->stream_offset_entries);
356     default:
357         break;
358     }
359     if (freectx)
360     av_freep(ctx);
361 }
362
363 static int64_t klv_decode_ber_length(AVIOContext *pb)
364 {
365     uint64_t size = avio_r8(pb);
366     if (size & 0x80) { /* long form */
367         int bytes_num = size & 0x7f;
368         /* SMPTE 379M 5.3.4 guarantee that bytes_num must not exceed 8 bytes */
369         if (bytes_num > 8)
370             return AVERROR_INVALIDDATA;
371         size = 0;
372         while (bytes_num--)
373             size = size << 8 | avio_r8(pb);
374     }
375     if (size > INT64_MAX)
376         return AVERROR_INVALIDDATA;
377     return size;
378 }
379
380 static int mxf_read_sync(AVIOContext *pb, const uint8_t *key, unsigned size)
381 {
382     int i, b;
383     for (i = 0; i < size && !avio_feof(pb); i++) {
384         b = avio_r8(pb);
385         if (b == key[0])
386             i = 0;
387         else if (b != key[i])
388             i = -1;
389     }
390     return i == size;
391 }
392
393 static int klv_read_packet(KLVPacket *klv, AVIOContext *pb)
394 {
395     int64_t length;
396     if (!mxf_read_sync(pb, mxf_klv_key, 4))
397         return AVERROR_INVALIDDATA;
398     klv->offset = avio_tell(pb) - 4;
399     memcpy(klv->key, mxf_klv_key, 4);
400     avio_read(pb, klv->key + 4, 12);
401     length = klv_decode_ber_length(pb);
402     if (length < 0)
403         return length;
404     klv->length = length;
405     return 0;
406 }
407
408 static int mxf_get_stream_index(AVFormatContext *s, KLVPacket *klv, int body_sid)
409 {
410     int i;
411
412     for (i = 0; i < s->nb_streams; i++) {
413         MXFTrack *track = s->streams[i]->priv_data;
414         /* SMPTE 379M 7.3 */
415         if (track && (!body_sid || !track->body_sid || track->body_sid == body_sid) && !memcmp(klv->key + sizeof(mxf_essence_element_key), track->track_number, sizeof(track->track_number)))
416             return i;
417     }
418     /* return 0 if only one stream, for OP Atom files with 0 as track number */
419     return s->nb_streams == 1 ? 0 : -1;
420 }
421
422 static int find_body_sid_by_offset(MXFContext *mxf, int64_t offset)
423 {
424     // we look for partition where the offset is placed
425     int a, b, m;
426     int64_t this_partition;
427
428     a = -1;
429     b = mxf->partitions_count;
430
431     while (b - a > 1) {
432         m         = (a + b) >> 1;
433         this_partition = mxf->partitions[m].this_partition;
434         if (this_partition <= offset)
435             a = m;
436         else
437             b = m;
438     }
439
440     if (a == -1)
441         return 0;
442     return mxf->partitions[a].body_sid;
443 }
444
445 /* XXX: use AVBitStreamFilter */
446 static int mxf_get_d10_aes3_packet(AVIOContext *pb, AVStream *st, AVPacket *pkt, int64_t length)
447 {
448     const uint8_t *buf_ptr, *end_ptr;
449     uint8_t *data_ptr;
450     int i;
451
452     if (length > 61444) /* worst case PAL 1920 samples 8 channels */
453         return AVERROR_INVALIDDATA;
454     length = av_get_packet(pb, pkt, length);
455     if (length < 0)
456         return length;
457     data_ptr = pkt->data;
458     end_ptr = pkt->data + length;
459     buf_ptr = pkt->data + 4; /* skip SMPTE 331M header */
460     for (; end_ptr - buf_ptr >= st->codecpar->channels * 4; ) {
461         for (i = 0; i < st->codecpar->channels; i++) {
462             uint32_t sample = bytestream_get_le32(&buf_ptr);
463             if (st->codecpar->bits_per_coded_sample == 24)
464                 bytestream_put_le24(&data_ptr, (sample >> 4) & 0xffffff);
465             else
466                 bytestream_put_le16(&data_ptr, (sample >> 12) & 0xffff);
467         }
468         buf_ptr += 32 - st->codecpar->channels*4; // always 8 channels stored SMPTE 331M
469     }
470     av_shrink_packet(pkt, data_ptr - pkt->data);
471     return 0;
472 }
473
474 static int mxf_decrypt_triplet(AVFormatContext *s, AVPacket *pkt, KLVPacket *klv)
475 {
476     static const uint8_t checkv[16] = {0x43, 0x48, 0x55, 0x4b, 0x43, 0x48, 0x55, 0x4b, 0x43, 0x48, 0x55, 0x4b, 0x43, 0x48, 0x55, 0x4b};
477     MXFContext *mxf = s->priv_data;
478     AVIOContext *pb = s->pb;
479     int64_t end = avio_tell(pb) + klv->length;
480     int64_t size;
481     uint64_t orig_size;
482     uint64_t plaintext_size;
483     uint8_t ivec[16];
484     uint8_t tmpbuf[16];
485     int index;
486     int body_sid;
487
488     if (!mxf->aesc && s->key && s->keylen == 16) {
489         mxf->aesc = av_aes_alloc();
490         if (!mxf->aesc)
491             return AVERROR(ENOMEM);
492         av_aes_init(mxf->aesc, s->key, 128, 1);
493     }
494     // crypto context
495     size = klv_decode_ber_length(pb);
496     if (size < 0)
497         return size;
498     avio_skip(pb, size);
499     // plaintext offset
500     klv_decode_ber_length(pb);
501     plaintext_size = avio_rb64(pb);
502     // source klv key
503     klv_decode_ber_length(pb);
504     avio_read(pb, klv->key, 16);
505     if (!IS_KLV_KEY(klv, mxf_essence_element_key))
506         return AVERROR_INVALIDDATA;
507
508     body_sid = find_body_sid_by_offset(mxf, klv->offset);
509     index = mxf_get_stream_index(s, klv, body_sid);
510     if (index < 0)
511         return AVERROR_INVALIDDATA;
512     // source size
513     klv_decode_ber_length(pb);
514     orig_size = avio_rb64(pb);
515     if (orig_size < plaintext_size)
516         return AVERROR_INVALIDDATA;
517     // enc. code
518     size = klv_decode_ber_length(pb);
519     if (size < 32 || size - 32 < orig_size)
520         return AVERROR_INVALIDDATA;
521     avio_read(pb, ivec, 16);
522     avio_read(pb, tmpbuf, 16);
523     if (mxf->aesc)
524         av_aes_crypt(mxf->aesc, tmpbuf, tmpbuf, 1, ivec, 1);
525     if (memcmp(tmpbuf, checkv, 16))
526         av_log(s, AV_LOG_ERROR, "probably incorrect decryption key\n");
527     size -= 32;
528     size = av_get_packet(pb, pkt, size);
529     if (size < 0)
530         return size;
531     else if (size < plaintext_size)
532         return AVERROR_INVALIDDATA;
533     size -= plaintext_size;
534     if (mxf->aesc)
535         av_aes_crypt(mxf->aesc, &pkt->data[plaintext_size],
536                      &pkt->data[plaintext_size], size >> 4, ivec, 1);
537     av_shrink_packet(pkt, orig_size);
538     pkt->stream_index = index;
539     avio_skip(pb, end - avio_tell(pb));
540     return 0;
541 }
542
543 static int mxf_read_primer_pack(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
544 {
545     MXFContext *mxf = arg;
546     int item_num = avio_rb32(pb);
547     int item_len = avio_rb32(pb);
548
549     if (item_len != 18) {
550         avpriv_request_sample(pb, "Primer pack item length %d", item_len);
551         return AVERROR_PATCHWELCOME;
552     }
553     if (item_num > 65536 || item_num < 0) {
554         av_log(mxf->fc, AV_LOG_ERROR, "item_num %d is too large\n", item_num);
555         return AVERROR_INVALIDDATA;
556     }
557     if (mxf->local_tags)
558         av_log(mxf->fc, AV_LOG_VERBOSE, "Multiple primer packs\n");
559     av_free(mxf->local_tags);
560     mxf->local_tags_count = 0;
561     mxf->local_tags = av_calloc(item_num, item_len);
562     if (!mxf->local_tags)
563         return AVERROR(ENOMEM);
564     mxf->local_tags_count = item_num;
565     avio_read(pb, mxf->local_tags, item_num*item_len);
566     return 0;
567 }
568
569 static int mxf_read_partition_pack(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
570 {
571     MXFContext *mxf = arg;
572     MXFPartition *partition, *tmp_part;
573     UID op;
574     uint64_t footer_partition;
575     uint32_t nb_essence_containers;
576
577     if (mxf->partitions_count >= INT_MAX / 2)
578         return AVERROR_INVALIDDATA;
579
580     tmp_part = av_realloc_array(mxf->partitions, mxf->partitions_count + 1, sizeof(*mxf->partitions));
581     if (!tmp_part)
582         return AVERROR(ENOMEM);
583     mxf->partitions = tmp_part;
584
585     if (mxf->parsing_backward) {
586         /* insert the new partition pack in the middle
587          * this makes the entries in mxf->partitions sorted by offset */
588         memmove(&mxf->partitions[mxf->last_forward_partition+1],
589                 &mxf->partitions[mxf->last_forward_partition],
590                 (mxf->partitions_count - mxf->last_forward_partition)*sizeof(*mxf->partitions));
591         partition = mxf->current_partition = &mxf->partitions[mxf->last_forward_partition];
592     } else {
593         mxf->last_forward_partition++;
594         partition = mxf->current_partition = &mxf->partitions[mxf->partitions_count];
595     }
596
597     memset(partition, 0, sizeof(*partition));
598     mxf->partitions_count++;
599     partition->pack_length = avio_tell(pb) - klv_offset + size;
600     partition->pack_ofs    = klv_offset;
601
602     switch(uid[13]) {
603     case 2:
604         partition->type = Header;
605         break;
606     case 3:
607         partition->type = BodyPartition;
608         break;
609     case 4:
610         partition->type = Footer;
611         break;
612     default:
613         av_log(mxf->fc, AV_LOG_ERROR, "unknown partition type %i\n", uid[13]);
614         return AVERROR_INVALIDDATA;
615     }
616
617     /* consider both footers to be closed (there is only Footer and CompleteFooter) */
618     partition->closed = partition->type == Footer || !(uid[14] & 1);
619     partition->complete = uid[14] > 2;
620     avio_skip(pb, 4);
621     partition->kag_size = avio_rb32(pb);
622     partition->this_partition = avio_rb64(pb);
623     partition->previous_partition = avio_rb64(pb);
624     footer_partition = avio_rb64(pb);
625     partition->header_byte_count = avio_rb64(pb);
626     partition->index_byte_count = avio_rb64(pb);
627     partition->index_sid = avio_rb32(pb);
628     partition->body_offset = avio_rb64(pb);
629     partition->body_sid = avio_rb32(pb);
630     if (avio_read(pb, op, sizeof(UID)) != sizeof(UID)) {
631         av_log(mxf->fc, AV_LOG_ERROR, "Failed reading UID\n");
632         return AVERROR_INVALIDDATA;
633     }
634     nb_essence_containers = avio_rb32(pb);
635
636     if (partition->this_partition &&
637         partition->previous_partition == partition->this_partition) {
638         av_log(mxf->fc, AV_LOG_ERROR,
639                "PreviousPartition equal to ThisPartition %"PRIx64"\n",
640                partition->previous_partition);
641         /* override with the actual previous partition offset */
642         if (!mxf->parsing_backward && mxf->last_forward_partition > 1) {
643             MXFPartition *prev =
644                 mxf->partitions + mxf->last_forward_partition - 2;
645             partition->previous_partition = prev->this_partition;
646         }
647         /* if no previous body partition are found point to the header
648          * partition */
649         if (partition->previous_partition == partition->this_partition)
650             partition->previous_partition = 0;
651         av_log(mxf->fc, AV_LOG_ERROR,
652                "Overriding PreviousPartition with %"PRIx64"\n",
653                partition->previous_partition);
654     }
655
656     /* some files don't have FooterPartition set in every partition */
657     if (footer_partition) {
658         if (mxf->footer_partition && mxf->footer_partition != footer_partition) {
659             av_log(mxf->fc, AV_LOG_ERROR,
660                    "inconsistent FooterPartition value: %"PRIu64" != %"PRIu64"\n",
661                    mxf->footer_partition, footer_partition);
662         } else {
663             mxf->footer_partition = footer_partition;
664         }
665     }
666
667     av_log(mxf->fc, AV_LOG_TRACE,
668             "PartitionPack: ThisPartition = 0x%"PRIX64
669             ", PreviousPartition = 0x%"PRIX64", "
670             "FooterPartition = 0x%"PRIX64", IndexSID = %i, BodySID = %i\n",
671             partition->this_partition,
672             partition->previous_partition, footer_partition,
673             partition->index_sid, partition->body_sid);
674
675     /* sanity check PreviousPartition if set */
676     //NOTE: this isn't actually enough, see mxf_seek_to_previous_partition()
677     if (partition->previous_partition &&
678         mxf->run_in + partition->previous_partition >= klv_offset) {
679         av_log(mxf->fc, AV_LOG_ERROR,
680                "PreviousPartition points to this partition or forward\n");
681         return AVERROR_INVALIDDATA;
682     }
683
684     if      (op[12] == 1 && op[13] == 1) mxf->op = OP1a;
685     else if (op[12] == 1 && op[13] == 2) mxf->op = OP1b;
686     else if (op[12] == 1 && op[13] == 3) mxf->op = OP1c;
687     else if (op[12] == 2 && op[13] == 1) mxf->op = OP2a;
688     else if (op[12] == 2 && op[13] == 2) mxf->op = OP2b;
689     else if (op[12] == 2 && op[13] == 3) mxf->op = OP2c;
690     else if (op[12] == 3 && op[13] == 1) mxf->op = OP3a;
691     else if (op[12] == 3 && op[13] == 2) mxf->op = OP3b;
692     else if (op[12] == 3 && op[13] == 3) mxf->op = OP3c;
693     else if (op[12] == 64&& op[13] == 1) mxf->op = OPSONYOpt;
694     else if (op[12] == 0x10) {
695         /* SMPTE 390m: "There shall be exactly one essence container"
696          * The following block deals with files that violate this, namely:
697          * 2011_DCPTEST_24FPS.V.mxf - two ECs, OP1a
698          * abcdefghiv016f56415e.mxf - zero ECs, OPAtom, output by Avid AirSpeed */
699         if (nb_essence_containers != 1) {
700             MXFOP op = nb_essence_containers ? OP1a : OPAtom;
701
702             /* only nag once */
703             if (!mxf->op)
704                 av_log(mxf->fc, AV_LOG_WARNING,
705                        "\"OPAtom\" with %"PRIu32" ECs - assuming %s\n",
706                        nb_essence_containers,
707                        op == OP1a ? "OP1a" : "OPAtom");
708
709             mxf->op = op;
710         } else
711             mxf->op = OPAtom;
712     } else {
713         av_log(mxf->fc, AV_LOG_ERROR, "unknown operational pattern: %02xh %02xh - guessing OP1a\n", op[12], op[13]);
714         mxf->op = OP1a;
715     }
716
717     if (partition->kag_size <= 0 || partition->kag_size > (1 << 20)) {
718         av_log(mxf->fc, AV_LOG_WARNING, "invalid KAGSize %"PRId32" - guessing ",
719                partition->kag_size);
720
721         if (mxf->op == OPSONYOpt)
722             partition->kag_size = 512;
723         else
724             partition->kag_size = 1;
725
726         av_log(mxf->fc, AV_LOG_WARNING, "%"PRId32"\n", partition->kag_size);
727     }
728
729     return 0;
730 }
731
732 static int mxf_add_metadata_set(MXFContext *mxf, void *metadata_set)
733 {
734     MXFMetadataSet **tmp;
735
736     tmp = av_realloc_array(mxf->metadata_sets, mxf->metadata_sets_count + 1, sizeof(*mxf->metadata_sets));
737     if (!tmp)
738         return AVERROR(ENOMEM);
739     mxf->metadata_sets = tmp;
740     mxf->metadata_sets[mxf->metadata_sets_count] = metadata_set;
741     mxf->metadata_sets_count++;
742     return 0;
743 }
744
745 static int mxf_read_cryptographic_context(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
746 {
747     MXFCryptoContext *cryptocontext = arg;
748     if (size != 16)
749         return AVERROR_INVALIDDATA;
750     if (IS_KLV_KEY(uid, mxf_crypto_source_container_ul))
751         avio_read(pb, cryptocontext->source_container_ul, 16);
752     return 0;
753 }
754
755 static int mxf_read_strong_ref_array(AVIOContext *pb, UID **refs, int *count)
756 {
757     *count = avio_rb32(pb);
758     *refs = av_calloc(*count, sizeof(UID));
759     if (!*refs) {
760         *count = 0;
761         return AVERROR(ENOMEM);
762     }
763     avio_skip(pb, 4); /* useless size of objects, always 16 according to specs */
764     avio_read(pb, (uint8_t *)*refs, *count * sizeof(UID));
765     return 0;
766 }
767
768 static inline int mxf_read_utf16_string(AVIOContext *pb, int size, char** str, int be)
769 {
770     int ret;
771     size_t buf_size;
772
773     if (size < 0 || size > INT_MAX/2)
774         return AVERROR(EINVAL);
775
776     buf_size = size + size / 2 + 1;
777     *str = av_malloc(buf_size);
778     if (!*str)
779         return AVERROR(ENOMEM);
780
781     if (be)
782         ret = avio_get_str16be(pb, size, *str, buf_size);
783     else
784         ret = avio_get_str16le(pb, size, *str, buf_size);
785
786     if (ret < 0) {
787         av_freep(str);
788         return ret;
789     }
790
791     return ret;
792 }
793
794 #define READ_STR16(type, big_endian)                                               \
795 static int mxf_read_utf16 ## type ##_string(AVIOContext *pb, int size, char** str) \
796 {                                                                                  \
797 return mxf_read_utf16_string(pb, size, str, big_endian);                           \
798 }
799 READ_STR16(be, 1)
800 READ_STR16(le, 0)
801 #undef READ_STR16
802
803 static int mxf_read_content_storage(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
804 {
805     MXFContext *mxf = arg;
806     switch (tag) {
807     case 0x1901:
808         if (mxf->packages_refs)
809             av_log(mxf->fc, AV_LOG_VERBOSE, "Multiple packages_refs\n");
810         av_free(mxf->packages_refs);
811         return mxf_read_strong_ref_array(pb, &mxf->packages_refs, &mxf->packages_count);
812     case 0x1902:
813         av_free(mxf->essence_container_data_refs);
814         return mxf_read_strong_ref_array(pb, &mxf->essence_container_data_refs, &mxf->essence_container_data_count);
815     }
816     return 0;
817 }
818
819 static int mxf_read_source_clip(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
820 {
821     MXFStructuralComponent *source_clip = arg;
822     switch(tag) {
823     case 0x0202:
824         source_clip->duration = avio_rb64(pb);
825         break;
826     case 0x1201:
827         source_clip->start_position = avio_rb64(pb);
828         break;
829     case 0x1101:
830         /* UMID, only get last 16 bytes */
831         avio_read(pb, source_clip->source_package_ul, 16);
832         avio_read(pb, source_clip->source_package_uid, 16);
833         break;
834     case 0x1102:
835         source_clip->source_track_id = avio_rb32(pb);
836         break;
837     }
838     return 0;
839 }
840
841 static int mxf_read_timecode_component(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
842 {
843     MXFTimecodeComponent *mxf_timecode = arg;
844     switch(tag) {
845     case 0x1501:
846         mxf_timecode->start_frame = avio_rb64(pb);
847         break;
848     case 0x1502:
849         mxf_timecode->rate = (AVRational){avio_rb16(pb), 1};
850         break;
851     case 0x1503:
852         mxf_timecode->drop_frame = avio_r8(pb);
853         break;
854     }
855     return 0;
856 }
857
858 static int mxf_read_pulldown_component(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
859 {
860     MXFPulldownComponent *mxf_pulldown = arg;
861     switch(tag) {
862     case 0x0d01:
863         avio_read(pb, mxf_pulldown->input_segment_ref, 16);
864         break;
865     }
866     return 0;
867 }
868
869 static int mxf_read_track(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
870 {
871     MXFTrack *track = arg;
872     switch(tag) {
873     case 0x4801:
874         track->track_id = avio_rb32(pb);
875         break;
876     case 0x4804:
877         avio_read(pb, track->track_number, 4);
878         break;
879     case 0x4802:
880         mxf_read_utf16be_string(pb, size, &track->name);
881         break;
882     case 0x4b01:
883         track->edit_rate.num = avio_rb32(pb);
884         track->edit_rate.den = avio_rb32(pb);
885         break;
886     case 0x4803:
887         avio_read(pb, track->sequence_ref, 16);
888         break;
889     }
890     return 0;
891 }
892
893 static int mxf_read_sequence(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
894 {
895     MXFSequence *sequence = arg;
896     switch(tag) {
897     case 0x0202:
898         sequence->duration = avio_rb64(pb);
899         break;
900     case 0x0201:
901         avio_read(pb, sequence->data_definition_ul, 16);
902         break;
903         case 0x4b02:
904         sequence->origin = avio_r8(pb);
905         break;
906     case 0x1001:
907         return mxf_read_strong_ref_array(pb, &sequence->structural_components_refs,
908                                              &sequence->structural_components_count);
909     }
910     return 0;
911 }
912
913 static int mxf_read_essence_group(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
914 {
915     MXFEssenceGroup *essence_group = arg;
916     switch (tag) {
917     case 0x0202:
918         essence_group->duration = avio_rb64(pb);
919         break;
920     case 0x0501:
921         return mxf_read_strong_ref_array(pb, &essence_group->structural_components_refs,
922                                              &essence_group->structural_components_count);
923     }
924     return 0;
925 }
926
927 static int mxf_read_package(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
928 {
929     MXFPackage *package = arg;
930     switch(tag) {
931     case 0x4403:
932         return mxf_read_strong_ref_array(pb, &package->tracks_refs,
933                                              &package->tracks_count);
934     case 0x4401:
935         /* UMID */
936         avio_read(pb, package->package_ul, 16);
937         avio_read(pb, package->package_uid, 16);
938         break;
939     case 0x4701:
940         avio_read(pb, package->descriptor_ref, 16);
941         break;
942     case 0x4402:
943         return mxf_read_utf16be_string(pb, size, &package->name);
944     case 0x4406:
945         return mxf_read_strong_ref_array(pb, &package->comment_refs,
946                                              &package->comment_count);
947     }
948     return 0;
949 }
950
951 static int mxf_read_essence_container_data(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
952 {
953     MXFEssenceContainerData *essence_data = arg;
954     switch(tag) {
955         case 0x2701:
956             /* linked package umid UMID */
957             avio_read(pb, essence_data->package_ul, 16);
958             avio_read(pb, essence_data->package_uid, 16);
959             break;
960         case 0x3f06:
961             essence_data->index_sid = avio_rb32(pb);
962             break;
963         case 0x3f07:
964             essence_data->body_sid = avio_rb32(pb);
965             break;
966     }
967     return 0;
968 }
969
970 static int mxf_read_index_entry_array(AVIOContext *pb, MXFIndexTableSegment *segment)
971 {
972     int i, length;
973
974     segment->nb_index_entries = avio_rb32(pb);
975
976     length = avio_rb32(pb);
977     if(segment->nb_index_entries && length < 11)
978         return AVERROR_INVALIDDATA;
979
980     if (!(segment->temporal_offset_entries=av_calloc(segment->nb_index_entries, sizeof(*segment->temporal_offset_entries))) ||
981         !(segment->flag_entries          = av_calloc(segment->nb_index_entries, sizeof(*segment->flag_entries))) ||
982         !(segment->stream_offset_entries = av_calloc(segment->nb_index_entries, sizeof(*segment->stream_offset_entries)))) {
983         av_freep(&segment->temporal_offset_entries);
984         av_freep(&segment->flag_entries);
985         return AVERROR(ENOMEM);
986     }
987
988     for (i = 0; i < segment->nb_index_entries; i++) {
989         if(avio_feof(pb))
990             return AVERROR_INVALIDDATA;
991         segment->temporal_offset_entries[i] = avio_r8(pb);
992         avio_r8(pb);                                        /* KeyFrameOffset */
993         segment->flag_entries[i] = avio_r8(pb);
994         segment->stream_offset_entries[i] = avio_rb64(pb);
995         avio_skip(pb, length - 11);
996     }
997     return 0;
998 }
999
1000 static int mxf_read_index_table_segment(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
1001 {
1002     MXFIndexTableSegment *segment = arg;
1003     switch(tag) {
1004     case 0x3F05:
1005         segment->edit_unit_byte_count = avio_rb32(pb);
1006         av_log(NULL, AV_LOG_TRACE, "EditUnitByteCount %d\n", segment->edit_unit_byte_count);
1007         break;
1008     case 0x3F06:
1009         segment->index_sid = avio_rb32(pb);
1010         av_log(NULL, AV_LOG_TRACE, "IndexSID %d\n", segment->index_sid);
1011         break;
1012     case 0x3F07:
1013         segment->body_sid = avio_rb32(pb);
1014         av_log(NULL, AV_LOG_TRACE, "BodySID %d\n", segment->body_sid);
1015         break;
1016     case 0x3F0A:
1017         av_log(NULL, AV_LOG_TRACE, "IndexEntryArray found\n");
1018         return mxf_read_index_entry_array(pb, segment);
1019     case 0x3F0B:
1020         segment->index_edit_rate.num = avio_rb32(pb);
1021         segment->index_edit_rate.den = avio_rb32(pb);
1022         av_log(NULL, AV_LOG_TRACE, "IndexEditRate %d/%d\n", segment->index_edit_rate.num,
1023                 segment->index_edit_rate.den);
1024         break;
1025     case 0x3F0C:
1026         segment->index_start_position = avio_rb64(pb);
1027         av_log(NULL, AV_LOG_TRACE, "IndexStartPosition %"PRId64"\n", segment->index_start_position);
1028         break;
1029     case 0x3F0D:
1030         segment->index_duration = avio_rb64(pb);
1031         av_log(NULL, AV_LOG_TRACE, "IndexDuration %"PRId64"\n", segment->index_duration);
1032         break;
1033     }
1034     return 0;
1035 }
1036
1037 static void mxf_read_pixel_layout(AVIOContext *pb, MXFDescriptor *descriptor)
1038 {
1039     int code, value, ofs = 0;
1040     char layout[16] = {0}; /* not for printing, may end up not terminated on purpose */
1041
1042     do {
1043         code = avio_r8(pb);
1044         value = avio_r8(pb);
1045         av_log(NULL, AV_LOG_TRACE, "pixel layout: code %#x\n", code);
1046
1047         if (ofs <= 14) {
1048             layout[ofs++] = code;
1049             layout[ofs++] = value;
1050         } else
1051             break;  /* don't read byte by byte on sneaky files filled with lots of non-zeroes */
1052     } while (code != 0); /* SMPTE 377M E.2.46 */
1053
1054     ff_mxf_decode_pixel_layout(layout, &descriptor->pix_fmt);
1055 }
1056
1057 static int mxf_read_generic_descriptor(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
1058 {
1059     MXFDescriptor *descriptor = arg;
1060     int entry_count, entry_size;
1061
1062     switch(tag) {
1063     case 0x3F01:
1064         return mxf_read_strong_ref_array(pb, &descriptor->sub_descriptors_refs,
1065                                              &descriptor->sub_descriptors_count);
1066     case 0x3002: /* ContainerDuration */
1067         descriptor->duration = avio_rb64(pb);
1068         break;
1069     case 0x3004:
1070         avio_read(pb, descriptor->essence_container_ul, 16);
1071         break;
1072     case 0x3005:
1073         avio_read(pb, descriptor->codec_ul, 16);
1074         break;
1075     case 0x3006:
1076         descriptor->linked_track_id = avio_rb32(pb);
1077         break;
1078     case 0x3201: /* PictureEssenceCoding */
1079         avio_read(pb, descriptor->essence_codec_ul, 16);
1080         break;
1081     case 0x3203:
1082         descriptor->width = avio_rb32(pb);
1083         break;
1084     case 0x3202:
1085         descriptor->height = avio_rb32(pb);
1086         break;
1087     case 0x320C:
1088         descriptor->frame_layout = avio_r8(pb);
1089         break;
1090     case 0x320D:
1091         entry_count = avio_rb32(pb);
1092         entry_size = avio_rb32(pb);
1093         if (entry_size == 4) {
1094             if (entry_count > 0)
1095                 descriptor->video_line_map[0] = avio_rb32(pb);
1096             else
1097                 descriptor->video_line_map[0] = 0;
1098             if (entry_count > 1)
1099                 descriptor->video_line_map[1] = avio_rb32(pb);
1100             else
1101                 descriptor->video_line_map[1] = 0;
1102         } else
1103             av_log(NULL, AV_LOG_WARNING, "VideoLineMap element size %d currently not supported\n", entry_size);
1104         break;
1105     case 0x320E:
1106         descriptor->aspect_ratio.num = avio_rb32(pb);
1107         descriptor->aspect_ratio.den = avio_rb32(pb);
1108         break;
1109     case 0x3212:
1110         descriptor->field_dominance = avio_r8(pb);
1111         break;
1112     case 0x3301:
1113         descriptor->component_depth = avio_rb32(pb);
1114         break;
1115     case 0x3302:
1116         descriptor->horiz_subsampling = avio_rb32(pb);
1117         break;
1118     case 0x3308:
1119         descriptor->vert_subsampling = avio_rb32(pb);
1120         break;
1121     case 0x3D03:
1122         descriptor->sample_rate.num = avio_rb32(pb);
1123         descriptor->sample_rate.den = avio_rb32(pb);
1124         break;
1125     case 0x3D06: /* SoundEssenceCompression */
1126         avio_read(pb, descriptor->essence_codec_ul, 16);
1127         break;
1128     case 0x3D07:
1129         descriptor->channels = avio_rb32(pb);
1130         break;
1131     case 0x3D01:
1132         descriptor->bits_per_sample = avio_rb32(pb);
1133         break;
1134     case 0x3401:
1135         mxf_read_pixel_layout(pb, descriptor);
1136         break;
1137     default:
1138         /* Private uid used by SONY C0023S01.mxf */
1139         if (IS_KLV_KEY(uid, mxf_sony_mpeg4_extradata)) {
1140             if (descriptor->extradata)
1141                 av_log(NULL, AV_LOG_WARNING, "Duplicate sony_mpeg4_extradata\n");
1142             av_free(descriptor->extradata);
1143             descriptor->extradata_size = 0;
1144             descriptor->extradata = av_malloc(size);
1145             if (!descriptor->extradata)
1146                 return AVERROR(ENOMEM);
1147             descriptor->extradata_size = size;
1148             avio_read(pb, descriptor->extradata, size);
1149         }
1150         if (IS_KLV_KEY(uid, mxf_jp2k_rsiz)) {
1151             uint32_t rsiz = avio_rb16(pb);
1152             if (rsiz == FF_PROFILE_JPEG2000_DCINEMA_2K ||
1153                 rsiz == FF_PROFILE_JPEG2000_DCINEMA_4K)
1154                 descriptor->pix_fmt = AV_PIX_FMT_XYZ12;
1155         }
1156         break;
1157     }
1158     return 0;
1159 }
1160
1161 static int mxf_read_indirect_value(void *arg, AVIOContext *pb, int size)
1162 {
1163     MXFTaggedValue *tagged_value = arg;
1164     uint8_t key[17];
1165
1166     if (size <= 17)
1167         return 0;
1168
1169     avio_read(pb, key, 17);
1170     /* TODO: handle other types of of indirect values */
1171     if (memcmp(key, mxf_indirect_value_utf16le, 17) == 0) {
1172         return mxf_read_utf16le_string(pb, size - 17, &tagged_value->value);
1173     } else if (memcmp(key, mxf_indirect_value_utf16be, 17) == 0) {
1174         return mxf_read_utf16be_string(pb, size - 17, &tagged_value->value);
1175     }
1176     return 0;
1177 }
1178
1179 static int mxf_read_tagged_value(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
1180 {
1181     MXFTaggedValue *tagged_value = arg;
1182     switch (tag){
1183     case 0x5001:
1184         return mxf_read_utf16be_string(pb, size, &tagged_value->name);
1185     case 0x5003:
1186         return mxf_read_indirect_value(tagged_value, pb, size);
1187     }
1188     return 0;
1189 }
1190
1191 /*
1192  * Match an uid independently of the version byte and up to len common bytes
1193  * Returns: boolean
1194  */
1195 static int mxf_match_uid(const UID key, const UID uid, int len)
1196 {
1197     int i;
1198     for (i = 0; i < len; i++) {
1199         if (i != 7 && key[i] != uid[i])
1200             return 0;
1201     }
1202     return 1;
1203 }
1204
1205 static const MXFCodecUL *mxf_get_codec_ul(const MXFCodecUL *uls, UID *uid)
1206 {
1207     while (uls->uid[0]) {
1208         if(mxf_match_uid(uls->uid, *uid, uls->matching_len))
1209             break;
1210         uls++;
1211     }
1212     return uls;
1213 }
1214
1215 static void *mxf_resolve_strong_ref(MXFContext *mxf, UID *strong_ref, enum MXFMetadataSetType type)
1216 {
1217     int i;
1218
1219     if (!strong_ref)
1220         return NULL;
1221     for (i = 0; i < mxf->metadata_sets_count; i++) {
1222         if (!memcmp(*strong_ref, mxf->metadata_sets[i]->uid, 16) &&
1223             (type == AnyType || mxf->metadata_sets[i]->type == type)) {
1224             return mxf->metadata_sets[i];
1225         }
1226     }
1227     return NULL;
1228 }
1229
1230 static const MXFCodecUL mxf_picture_essence_container_uls[] = {
1231     // video essence container uls
1232     { { 0x06,0x0e,0x2b,0x34,0x04,0x01,0x01,0x07,0x0d,0x01,0x03,0x01,0x02,0x0c,0x01,0x00 }, 14,   AV_CODEC_ID_JPEG2000 },
1233     { { 0x06,0x0e,0x2b,0x34,0x04,0x01,0x01,0x02,0x0d,0x01,0x03,0x01,0x02,0x10,0x60,0x01 }, 14,       AV_CODEC_ID_H264 }, /* H.264 frame wrapped */
1234     { { 0x06,0x0e,0x2b,0x34,0x04,0x01,0x01,0x02,0x0d,0x01,0x03,0x01,0x02,0x11,0x01,0x00 }, 14,      AV_CODEC_ID_DNXHD }, /* VC-3 */
1235     { { 0x06,0x0e,0x2b,0x34,0x04,0x01,0x01,0x02,0x0d,0x01,0x03,0x01,0x02,0x12,0x01,0x00 }, 14,        AV_CODEC_ID_VC1 }, /* VC-1 frame wrapped */
1236     { { 0x06,0x0e,0x2b,0x34,0x04,0x01,0x01,0x02,0x0d,0x01,0x03,0x01,0x02,0x14,0x01,0x00 }, 14,       AV_CODEC_ID_TIFF }, /* TIFF */
1237     { { 0x06,0x0e,0x2b,0x34,0x04,0x01,0x01,0x02,0x0d,0x01,0x03,0x01,0x02,0x15,0x01,0x00 }, 14,      AV_CODEC_ID_DIRAC }, /* VC-2 */
1238     { { 0x06,0x0e,0x2b,0x34,0x04,0x01,0x01,0x02,0x0d,0x01,0x03,0x01,0x02,0x04,0x60,0x01 }, 14, AV_CODEC_ID_MPEG2VIDEO }, /* MPEG-ES frame wrapped */
1239     { { 0x06,0x0e,0x2b,0x34,0x04,0x01,0x01,0x01,0x0d,0x01,0x03,0x01,0x02,0x01,0x04,0x01 }, 14, AV_CODEC_ID_MPEG2VIDEO }, /* Type D-10 mapping of 40Mbps 525/60-I */
1240     { { 0x06,0x0e,0x2b,0x34,0x04,0x01,0x01,0x01,0x0d,0x01,0x03,0x01,0x02,0x02,0x41,0x01 }, 14,    AV_CODEC_ID_DVVIDEO }, /* DV 625 25mbps */
1241     { { 0x06,0x0e,0x2b,0x34,0x04,0x01,0x01,0x01,0x0d,0x01,0x03,0x01,0x02,0x05,0x00,0x00 }, 14,   AV_CODEC_ID_RAWVIDEO }, /* uncompressed picture */
1242     { { 0x06,0x0e,0x2b,0x34,0x04,0x01,0x01,0x0a,0x0e,0x0f,0x03,0x01,0x02,0x20,0x01,0x01 }, 15,     AV_CODEC_ID_HQ_HQA },
1243     { { 0x06,0x0e,0x2b,0x34,0x04,0x01,0x01,0x0a,0x0e,0x0f,0x03,0x01,0x02,0x20,0x02,0x01 }, 15,        AV_CODEC_ID_HQX },
1244     { { 0x06,0x0e,0x2b,0x34,0x01,0x01,0x01,0xff,0x4b,0x46,0x41,0x41,0x00,0x0d,0x4d,0x4f }, 14,   AV_CODEC_ID_RAWVIDEO }, /* Legacy ?? Uncompressed Picture */
1245     { { 0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00 },  0,      AV_CODEC_ID_NONE },
1246 };
1247
1248 /* EC ULs for intra-only formats */
1249 static const MXFCodecUL mxf_intra_only_essence_container_uls[] = {
1250     { { 0x06,0x0e,0x2b,0x34,0x04,0x01,0x01,0x01,0x0d,0x01,0x03,0x01,0x02,0x01,0x00,0x00 }, 14, AV_CODEC_ID_MPEG2VIDEO }, /* MXF-GC SMPTE D-10 mappings */
1251     { { 0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00 },  0,       AV_CODEC_ID_NONE },
1252 };
1253
1254 /* intra-only PictureEssenceCoding ULs, where no corresponding EC UL exists */
1255 static const MXFCodecUL mxf_intra_only_picture_essence_coding_uls[] = {
1256     { { 0x06,0x0e,0x2b,0x34,0x04,0x01,0x01,0x0A,0x04,0x01,0x02,0x02,0x01,0x32,0x00,0x00 }, 14,       AV_CODEC_ID_H264 }, /* H.264/MPEG-4 AVC Intra Profiles */
1257     { { 0x06,0x0e,0x2b,0x34,0x04,0x01,0x01,0x07,0x04,0x01,0x02,0x02,0x03,0x01,0x01,0x00 }, 14,   AV_CODEC_ID_JPEG2000 }, /* JPEG 2000 code stream */
1258     { { 0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00 },  0,       AV_CODEC_ID_NONE },
1259 };
1260
1261 /* actual coded width for AVC-Intra to allow selecting correct SPS/PPS */
1262 static const MXFCodecUL mxf_intra_only_picture_coded_width[] = {
1263     { { 0x06,0x0e,0x2b,0x34,0x04,0x01,0x01,0x0A,0x04,0x01,0x02,0x02,0x01,0x32,0x21,0x01 }, 16, 1440 },
1264     { { 0x06,0x0e,0x2b,0x34,0x04,0x01,0x01,0x0A,0x04,0x01,0x02,0x02,0x01,0x32,0x21,0x02 }, 16, 1440 },
1265     { { 0x06,0x0e,0x2b,0x34,0x04,0x01,0x01,0x0A,0x04,0x01,0x02,0x02,0x01,0x32,0x21,0x03 }, 16, 1440 },
1266     { { 0x06,0x0e,0x2b,0x34,0x04,0x01,0x01,0x0A,0x04,0x01,0x02,0x02,0x01,0x32,0x21,0x04 }, 16, 1440 },
1267     { { 0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00 },  0,    0 },
1268 };
1269
1270 static const MXFCodecUL mxf_sound_essence_container_uls[] = {
1271     // sound essence container uls
1272     { { 0x06,0x0e,0x2b,0x34,0x04,0x01,0x01,0x01,0x0d,0x01,0x03,0x01,0x02,0x06,0x01,0x00 }, 14, AV_CODEC_ID_PCM_S16LE }, /* BWF Frame wrapped */
1273     { { 0x06,0x0e,0x2b,0x34,0x04,0x01,0x01,0x02,0x0d,0x01,0x03,0x01,0x02,0x04,0x40,0x01 }, 14,       AV_CODEC_ID_MP2 }, /* MPEG-ES Frame wrapped, 0x40 ??? stream id */
1274     { { 0x06,0x0e,0x2b,0x34,0x04,0x01,0x01,0x01,0x0d,0x01,0x03,0x01,0x02,0x01,0x01,0x01 }, 14, AV_CODEC_ID_PCM_S16LE }, /* D-10 Mapping 50Mbps PAL Extended Template */
1275     { { 0x06,0x0e,0x2b,0x34,0x01,0x01,0x01,0xff,0x4b,0x46,0x41,0x41,0x00,0x0d,0x4d,0x4F }, 14, AV_CODEC_ID_PCM_S16LE }, /* 0001GL00.MXF.A1.mxf_opatom.mxf */
1276     { { 0x06,0x0e,0x2b,0x34,0x04,0x01,0x01,0x03,0x04,0x02,0x02,0x02,0x03,0x03,0x01,0x00 }, 14,       AV_CODEC_ID_AAC }, /* MPEG-2 AAC ADTS (legacy) */
1277     { { 0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00 },  0,      AV_CODEC_ID_NONE },
1278 };
1279
1280 static const MXFCodecUL mxf_data_essence_container_uls[] = {
1281     { { 0x06,0x0e,0x2b,0x34,0x04,0x01,0x01,0x09,0x0d,0x01,0x03,0x01,0x02,0x0e,0x00,0x00 }, 16, 0 },
1282     { { 0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00 },  0, AV_CODEC_ID_NONE },
1283 };
1284
1285 static const char * const mxf_data_essence_descriptor[] = {
1286     "vbi_vanc_smpte_436M",
1287 };
1288
1289 static int mxf_get_sorted_table_segments(MXFContext *mxf, int *nb_sorted_segments, MXFIndexTableSegment ***sorted_segments)
1290 {
1291     int i, j, nb_segments = 0;
1292     MXFIndexTableSegment **unsorted_segments;
1293     int last_body_sid = -1, last_index_sid = -1, last_index_start = -1;
1294
1295     /* count number of segments, allocate arrays and copy unsorted segments */
1296     for (i = 0; i < mxf->metadata_sets_count; i++)
1297         if (mxf->metadata_sets[i]->type == IndexTableSegment)
1298             nb_segments++;
1299
1300     if (!nb_segments)
1301         return AVERROR_INVALIDDATA;
1302
1303     if (!(unsorted_segments = av_calloc(nb_segments, sizeof(*unsorted_segments))) ||
1304         !(*sorted_segments  = av_calloc(nb_segments, sizeof(**sorted_segments)))) {
1305         av_freep(sorted_segments);
1306         av_free(unsorted_segments);
1307         return AVERROR(ENOMEM);
1308     }
1309
1310     for (i = j = 0; i < mxf->metadata_sets_count; i++)
1311         if (mxf->metadata_sets[i]->type == IndexTableSegment)
1312             unsorted_segments[j++] = (MXFIndexTableSegment*)mxf->metadata_sets[i];
1313
1314     *nb_sorted_segments = 0;
1315
1316     /* sort segments by {BodySID, IndexSID, IndexStartPosition}, remove duplicates while we're at it */
1317     for (i = 0; i < nb_segments; i++) {
1318         int best = -1, best_body_sid = -1, best_index_sid = -1, best_index_start = -1;
1319         uint64_t best_index_duration = 0;
1320
1321         for (j = 0; j < nb_segments; j++) {
1322             MXFIndexTableSegment *s = unsorted_segments[j];
1323
1324             /* Require larger BosySID, IndexSID or IndexStartPosition then the previous entry. This removes duplicates.
1325              * We want the smallest values for the keys than what we currently have, unless this is the first such entry this time around.
1326              * If we come across an entry with the same IndexStartPosition but larger IndexDuration, then we'll prefer it over the one we currently have.
1327              */
1328             if ((i == 0 ||
1329                  s->body_sid >  last_body_sid ||
1330                  s->body_sid == last_body_sid && s->index_sid >  last_index_sid ||
1331                  s->body_sid == last_body_sid && s->index_sid == last_index_sid && s->index_start_position > last_index_start) &&
1332                 (best == -1 ||
1333                  s->body_sid <  best_body_sid ||
1334                  s->body_sid == best_body_sid && s->index_sid <  best_index_sid ||
1335                  s->body_sid == best_body_sid && s->index_sid == best_index_sid && s->index_start_position <  best_index_start ||
1336                  s->body_sid == best_body_sid && s->index_sid == best_index_sid && s->index_start_position == best_index_start && s->index_duration > best_index_duration)) {
1337                 best             = j;
1338                 best_body_sid    = s->body_sid;
1339                 best_index_sid   = s->index_sid;
1340                 best_index_start = s->index_start_position;
1341                 best_index_duration = s->index_duration;
1342             }
1343         }
1344
1345         /* no suitable entry found -> we're done */
1346         if (best == -1)
1347             break;
1348
1349         (*sorted_segments)[(*nb_sorted_segments)++] = unsorted_segments[best];
1350         last_body_sid    = best_body_sid;
1351         last_index_sid   = best_index_sid;
1352         last_index_start = best_index_start;
1353     }
1354
1355     av_free(unsorted_segments);
1356
1357     return 0;
1358 }
1359
1360 /**
1361  * Computes the absolute file offset of the given essence container offset
1362  */
1363 static int mxf_absolute_bodysid_offset(MXFContext *mxf, int body_sid, int64_t offset, int64_t *offset_out)
1364 {
1365     MXFPartition *last_p = NULL;
1366     int a, b, m, m0;
1367
1368     if (offset < 0)
1369         return AVERROR(EINVAL);
1370
1371     a = -1;
1372     b = mxf->partitions_count;
1373
1374     while (b - a > 1) {
1375         m0 = m = (a + b) >> 1;
1376
1377         while (m < b && mxf->partitions[m].body_sid != body_sid)
1378             m++;
1379
1380         if (m < b && mxf->partitions[m].body_offset <= offset)
1381             a = m;
1382         else
1383             b = m0;
1384     }
1385
1386     if (a >= 0)
1387         last_p = &mxf->partitions[a];
1388
1389     if (last_p && (!last_p->essence_length || last_p->essence_length > (offset - last_p->body_offset))) {
1390         *offset_out = last_p->essence_offset + (offset - last_p->body_offset);
1391         return 0;
1392     }
1393
1394     av_log(mxf->fc, AV_LOG_ERROR,
1395            "failed to find absolute offset of %"PRIX64" in BodySID %i - partial file?\n",
1396            offset, body_sid);
1397
1398     return AVERROR_INVALIDDATA;
1399 }
1400
1401 /**
1402  * Returns the end position of the essence container with given BodySID, or zero if unknown
1403  */
1404 static int64_t mxf_essence_container_end(MXFContext *mxf, int body_sid)
1405 {
1406     int x;
1407     int64_t ret = 0;
1408
1409     for (x = 0; x < mxf->partitions_count; x++) {
1410         MXFPartition *p = &mxf->partitions[x];
1411
1412         if (p->body_sid != body_sid)
1413             continue;
1414
1415         if (!p->essence_length)
1416             return 0;
1417
1418         ret = p->essence_offset + p->essence_length;
1419     }
1420
1421     return ret;
1422 }
1423
1424 /* EditUnit -> absolute offset */
1425 static int mxf_edit_unit_absolute_offset(MXFContext *mxf, MXFIndexTable *index_table, int64_t edit_unit, int64_t *edit_unit_out, int64_t *offset_out, int nag)
1426 {
1427     int i;
1428     int64_t offset_temp = 0;
1429
1430     for (i = 0; i < index_table->nb_segments; i++) {
1431         MXFIndexTableSegment *s = index_table->segments[i];
1432
1433         edit_unit = FFMAX(edit_unit, s->index_start_position);  /* clamp if trying to seek before start */
1434
1435         if (edit_unit < s->index_start_position + s->index_duration) {
1436             int64_t index = edit_unit - s->index_start_position;
1437
1438             if (s->edit_unit_byte_count)
1439                 offset_temp += s->edit_unit_byte_count * index;
1440             else if (s->nb_index_entries) {
1441                 if (s->nb_index_entries == 2 * s->index_duration + 1)
1442                     index *= 2;     /* Avid index */
1443
1444                 if (index < 0 || index >= s->nb_index_entries) {
1445                     av_log(mxf->fc, AV_LOG_ERROR, "IndexSID %i segment at %"PRId64" IndexEntryArray too small\n",
1446                            index_table->index_sid, s->index_start_position);
1447                     return AVERROR_INVALIDDATA;
1448                 }
1449
1450                 offset_temp = s->stream_offset_entries[index];
1451             } else {
1452                 av_log(mxf->fc, AV_LOG_ERROR, "IndexSID %i segment at %"PRId64" missing EditUnitByteCount and IndexEntryArray\n",
1453                        index_table->index_sid, s->index_start_position);
1454                 return AVERROR_INVALIDDATA;
1455             }
1456
1457             if (edit_unit_out)
1458                 *edit_unit_out = edit_unit;
1459
1460             return mxf_absolute_bodysid_offset(mxf, index_table->body_sid, offset_temp, offset_out);
1461         } else {
1462             /* EditUnitByteCount == 0 for VBR indexes, which is fine since they use explicit StreamOffsets */
1463             offset_temp += s->edit_unit_byte_count * s->index_duration;
1464         }
1465     }
1466
1467     if (nag)
1468         av_log(mxf->fc, AV_LOG_ERROR, "failed to map EditUnit %"PRId64" in IndexSID %i to an offset\n", edit_unit, index_table->index_sid);
1469
1470     return AVERROR_INVALIDDATA;
1471 }
1472
1473 static int mxf_compute_ptses_fake_index(MXFContext *mxf, MXFIndexTable *index_table)
1474 {
1475     int i, j, x;
1476     int8_t max_temporal_offset = -128;
1477     uint8_t *flags;
1478
1479     /* first compute how many entries we have */
1480     for (i = 0; i < index_table->nb_segments; i++) {
1481         MXFIndexTableSegment *s = index_table->segments[i];
1482
1483         if (!s->nb_index_entries) {
1484             index_table->nb_ptses = 0;
1485             return 0;                               /* no TemporalOffsets */
1486         }
1487
1488         index_table->nb_ptses += s->index_duration;
1489     }
1490
1491     /* paranoid check */
1492     if (index_table->nb_ptses <= 0)
1493         return 0;
1494
1495     if (!(index_table->ptses      = av_calloc(index_table->nb_ptses, sizeof(int64_t))) ||
1496         !(index_table->fake_index = av_calloc(index_table->nb_ptses, sizeof(AVIndexEntry))) ||
1497         !(index_table->offsets    = av_calloc(index_table->nb_ptses, sizeof(int8_t))) ||
1498         !(flags                   = av_calloc(index_table->nb_ptses, sizeof(uint8_t)))) {
1499         av_freep(&index_table->ptses);
1500         av_freep(&index_table->fake_index);
1501         av_freep(&index_table->offsets);
1502         return AVERROR(ENOMEM);
1503     }
1504
1505     /* we may have a few bad TemporalOffsets
1506      * make sure the corresponding PTSes don't have the bogus value 0 */
1507     for (x = 0; x < index_table->nb_ptses; x++)
1508         index_table->ptses[x] = AV_NOPTS_VALUE;
1509
1510     /**
1511      * We have this:
1512      *
1513      * x  TemporalOffset
1514      * 0:  0
1515      * 1:  1
1516      * 2:  1
1517      * 3: -2
1518      * 4:  1
1519      * 5:  1
1520      * 6: -2
1521      *
1522      * We want to transform it into this:
1523      *
1524      * x  DTS PTS
1525      * 0: -1   0
1526      * 1:  0   3
1527      * 2:  1   1
1528      * 3:  2   2
1529      * 4:  3   6
1530      * 5:  4   4
1531      * 6:  5   5
1532      *
1533      * We do this by bucket sorting x by x+TemporalOffset[x] into mxf->ptses,
1534      * then settings mxf->first_dts = -max(TemporalOffset[x]).
1535      * The latter makes DTS <= PTS.
1536      */
1537     for (i = x = 0; i < index_table->nb_segments; i++) {
1538         MXFIndexTableSegment *s = index_table->segments[i];
1539         int index_delta = 1;
1540         int n = s->nb_index_entries;
1541
1542         if (s->nb_index_entries == 2 * s->index_duration + 1) {
1543             index_delta = 2;    /* Avid index */
1544             /* ignore the last entry - it's the size of the essence container */
1545             n--;
1546         }
1547
1548         for (j = 0; j < n; j += index_delta, x++) {
1549             int offset = s->temporal_offset_entries[j] / index_delta;
1550             int index  = x + offset;
1551
1552             if (x >= index_table->nb_ptses) {
1553                 av_log(mxf->fc, AV_LOG_ERROR,
1554                        "x >= nb_ptses - IndexEntryCount %i < IndexDuration %"PRId64"?\n",
1555                        s->nb_index_entries, s->index_duration);
1556                 break;
1557             }
1558
1559             flags[x] = !(s->flag_entries[j] & 0x30) ? AVINDEX_KEYFRAME : 0;
1560
1561             if (index < 0 || index >= index_table->nb_ptses) {
1562                 av_log(mxf->fc, AV_LOG_ERROR,
1563                        "index entry %i + TemporalOffset %i = %i, which is out of bounds\n",
1564                        x, offset, index);
1565                 continue;
1566             }
1567
1568             index_table->offsets[x] = offset;
1569             index_table->ptses[index] = x;
1570             max_temporal_offset = FFMAX(max_temporal_offset, offset);
1571         }
1572     }
1573
1574     /* calculate the fake index table in display order */
1575     for (x = 0; x < index_table->nb_ptses; x++) {
1576         index_table->fake_index[x].timestamp = x;
1577         if (index_table->ptses[x] != AV_NOPTS_VALUE)
1578             index_table->fake_index[index_table->ptses[x]].flags = flags[x];
1579     }
1580     av_freep(&flags);
1581
1582     index_table->first_dts = -max_temporal_offset;
1583
1584     return 0;
1585 }
1586
1587 /**
1588  * Sorts and collects index table segments into index tables.
1589  * Also computes PTSes if possible.
1590  */
1591 static int mxf_compute_index_tables(MXFContext *mxf)
1592 {
1593     int i, j, k, ret, nb_sorted_segments;
1594     MXFIndexTableSegment **sorted_segments = NULL;
1595
1596     if ((ret = mxf_get_sorted_table_segments(mxf, &nb_sorted_segments, &sorted_segments)) ||
1597         nb_sorted_segments <= 0) {
1598         av_log(mxf->fc, AV_LOG_WARNING, "broken or empty index\n");
1599         return 0;
1600     }
1601
1602     /* sanity check and count unique BodySIDs/IndexSIDs */
1603     for (i = 0; i < nb_sorted_segments; i++) {
1604         if (i == 0 || sorted_segments[i-1]->index_sid != sorted_segments[i]->index_sid)
1605             mxf->nb_index_tables++;
1606         else if (sorted_segments[i-1]->body_sid != sorted_segments[i]->body_sid) {
1607             av_log(mxf->fc, AV_LOG_ERROR, "found inconsistent BodySID\n");
1608             ret = AVERROR_INVALIDDATA;
1609             goto finish_decoding_index;
1610         }
1611     }
1612
1613     mxf->index_tables = av_mallocz_array(mxf->nb_index_tables,
1614                                          sizeof(*mxf->index_tables));
1615     if (!mxf->index_tables) {
1616         av_log(mxf->fc, AV_LOG_ERROR, "failed to allocate index tables\n");
1617         ret = AVERROR(ENOMEM);
1618         goto finish_decoding_index;
1619     }
1620
1621     /* distribute sorted segments to index tables */
1622     for (i = j = 0; i < nb_sorted_segments; i++) {
1623         if (i != 0 && sorted_segments[i-1]->index_sid != sorted_segments[i]->index_sid) {
1624             /* next IndexSID */
1625             j++;
1626         }
1627
1628         mxf->index_tables[j].nb_segments++;
1629     }
1630
1631     for (i = j = 0; j < mxf->nb_index_tables; i += mxf->index_tables[j++].nb_segments) {
1632         MXFIndexTable *t = &mxf->index_tables[j];
1633         MXFTrack *mxf_track = NULL;
1634
1635         t->segments = av_mallocz_array(t->nb_segments,
1636                                        sizeof(*t->segments));
1637
1638         if (!t->segments) {
1639             av_log(mxf->fc, AV_LOG_ERROR, "failed to allocate IndexTableSegment"
1640                    " pointer array\n");
1641             ret = AVERROR(ENOMEM);
1642             goto finish_decoding_index;
1643         }
1644
1645         if (sorted_segments[i]->index_start_position)
1646             av_log(mxf->fc, AV_LOG_WARNING, "IndexSID %i starts at EditUnit %"PRId64" - seeking may not work as expected\n",
1647                    sorted_segments[i]->index_sid, sorted_segments[i]->index_start_position);
1648
1649         memcpy(t->segments, &sorted_segments[i], t->nb_segments * sizeof(MXFIndexTableSegment*));
1650         t->index_sid = sorted_segments[i]->index_sid;
1651         t->body_sid = sorted_segments[i]->body_sid;
1652
1653         if ((ret = mxf_compute_ptses_fake_index(mxf, t)) < 0)
1654             goto finish_decoding_index;
1655
1656         for (k = 0; k < mxf->fc->nb_streams; k++) {
1657             MXFTrack *track = mxf->fc->streams[k]->priv_data;
1658             if (track && track->index_sid == t->index_sid) {
1659                 mxf_track = track;
1660                 break;
1661             }
1662         }
1663
1664         /* fix zero IndexDurations */
1665         for (k = 0; k < t->nb_segments; k++) {
1666             if (t->segments[k]->index_duration)
1667                 continue;
1668
1669             if (t->nb_segments > 1)
1670                 av_log(mxf->fc, AV_LOG_WARNING, "IndexSID %i segment %i has zero IndexDuration and there's more than one segment\n",
1671                        t->index_sid, k);
1672
1673             if (!mxf_track) {
1674                 av_log(mxf->fc, AV_LOG_WARNING, "no streams?\n");
1675                 break;
1676             }
1677
1678             /* assume the first stream's duration is reasonable
1679              * leave index_duration = 0 on further segments in case we have any (unlikely)
1680              */
1681             t->segments[k]->index_duration = mxf_track->original_duration;
1682             break;
1683         }
1684     }
1685
1686     ret = 0;
1687 finish_decoding_index:
1688     av_free(sorted_segments);
1689     return ret;
1690 }
1691
1692 static int mxf_is_intra_only(MXFDescriptor *descriptor)
1693 {
1694     return mxf_get_codec_ul(mxf_intra_only_essence_container_uls,
1695                             &descriptor->essence_container_ul)->id != AV_CODEC_ID_NONE ||
1696            mxf_get_codec_ul(mxf_intra_only_picture_essence_coding_uls,
1697                             &descriptor->essence_codec_ul)->id     != AV_CODEC_ID_NONE;
1698 }
1699
1700 static int mxf_uid_to_str(UID uid, char **str)
1701 {
1702     int i;
1703     char *p;
1704     p = *str = av_mallocz(sizeof(UID) * 2 + 4 + 1);
1705     if (!p)
1706         return AVERROR(ENOMEM);
1707     for (i = 0; i < sizeof(UID); i++) {
1708         snprintf(p, 2 + 1, "%.2x", uid[i]);
1709         p += 2;
1710         if (i == 3 || i == 5 || i == 7 || i == 9) {
1711             snprintf(p, 1 + 1, "-");
1712             p++;
1713         }
1714     }
1715     return 0;
1716 }
1717
1718 static int mxf_umid_to_str(UID ul, UID uid, char **str)
1719 {
1720     int i;
1721     char *p;
1722     p = *str = av_mallocz(sizeof(UID) * 4 + 2 + 1);
1723     if (!p)
1724         return AVERROR(ENOMEM);
1725     snprintf(p, 2 + 1, "0x");
1726     p += 2;
1727     for (i = 0; i < sizeof(UID); i++) {
1728         snprintf(p, 2 + 1, "%.2X", ul[i]);
1729         p += 2;
1730
1731     }
1732     for (i = 0; i < sizeof(UID); i++) {
1733         snprintf(p, 2 + 1, "%.2X", uid[i]);
1734         p += 2;
1735     }
1736     return 0;
1737 }
1738
1739 static int mxf_add_umid_metadata(AVDictionary **pm, const char *key, MXFPackage* package)
1740 {
1741     char *str;
1742     int ret;
1743     if (!package)
1744         return 0;
1745     if ((ret = mxf_umid_to_str(package->package_ul, package->package_uid, &str)) < 0)
1746         return ret;
1747     av_dict_set(pm, key, str, AV_DICT_DONT_STRDUP_VAL);
1748     return 0;
1749 }
1750
1751 static int mxf_add_timecode_metadata(AVDictionary **pm, const char *key, AVTimecode *tc)
1752 {
1753     char buf[AV_TIMECODE_STR_SIZE];
1754     av_dict_set(pm, key, av_timecode_make_string(tc, buf, 0), 0);
1755
1756     return 0;
1757 }
1758
1759 static MXFTimecodeComponent* mxf_resolve_timecode_component(MXFContext *mxf, UID *strong_ref)
1760 {
1761     MXFStructuralComponent *component = NULL;
1762     MXFPulldownComponent *pulldown = NULL;
1763
1764     component = mxf_resolve_strong_ref(mxf, strong_ref, AnyType);
1765     if (!component)
1766         return NULL;
1767
1768     switch (component->type) {
1769     case TimecodeComponent:
1770         return (MXFTimecodeComponent*)component;
1771     case PulldownComponent: /* timcode component may be located on a pulldown component */
1772         pulldown = (MXFPulldownComponent*)component;
1773         return mxf_resolve_strong_ref(mxf, &pulldown->input_segment_ref, TimecodeComponent);
1774     default:
1775         break;
1776     }
1777     return NULL;
1778 }
1779
1780 static MXFPackage* mxf_resolve_source_package(MXFContext *mxf, UID package_ul, UID package_uid)
1781 {
1782     MXFPackage *package = NULL;
1783     int i;
1784
1785     for (i = 0; i < mxf->packages_count; i++) {
1786         package = mxf_resolve_strong_ref(mxf, &mxf->packages_refs[i], SourcePackage);
1787         if (!package)
1788             continue;
1789
1790         if (!memcmp(package->package_ul, package_ul, 16) && !memcmp(package->package_uid, package_uid, 16))
1791             return package;
1792     }
1793     return NULL;
1794 }
1795
1796 static MXFDescriptor* mxf_resolve_multidescriptor(MXFContext *mxf, MXFDescriptor *descriptor, int track_id)
1797 {
1798     MXFDescriptor *sub_descriptor = NULL;
1799     int i;
1800
1801     if (!descriptor)
1802         return NULL;
1803
1804     if (descriptor->type == MultipleDescriptor) {
1805         for (i = 0; i < descriptor->sub_descriptors_count; i++) {
1806             sub_descriptor = mxf_resolve_strong_ref(mxf, &descriptor->sub_descriptors_refs[i], Descriptor);
1807
1808             if (!sub_descriptor) {
1809                 av_log(mxf->fc, AV_LOG_ERROR, "could not resolve sub descriptor strong ref\n");
1810                 continue;
1811             }
1812             if (sub_descriptor->linked_track_id == track_id) {
1813                 return sub_descriptor;
1814             }
1815         }
1816     } else if (descriptor->type == Descriptor)
1817         return descriptor;
1818
1819     return NULL;
1820 }
1821
1822 static MXFStructuralComponent* mxf_resolve_essence_group_choice(MXFContext *mxf, MXFEssenceGroup *essence_group)
1823 {
1824     MXFStructuralComponent *component = NULL;
1825     MXFPackage *package = NULL;
1826     MXFDescriptor *descriptor = NULL;
1827     int i;
1828
1829     if (!essence_group || !essence_group->structural_components_count)
1830         return NULL;
1831
1832     /* essence groups contains multiple representations of the same media,
1833        this return the first components with a valid Descriptor typically index 0 */
1834     for (i =0; i < essence_group->structural_components_count; i++){
1835         component = mxf_resolve_strong_ref(mxf, &essence_group->structural_components_refs[i], SourceClip);
1836         if (!component)
1837             continue;
1838
1839         if (!(package = mxf_resolve_source_package(mxf, component->source_package_ul, component->source_package_uid)))
1840             continue;
1841
1842         descriptor = mxf_resolve_strong_ref(mxf, &package->descriptor_ref, Descriptor);
1843         if (descriptor)
1844             return component;
1845     }
1846     return NULL;
1847 }
1848
1849 static MXFStructuralComponent* mxf_resolve_sourceclip(MXFContext *mxf, UID *strong_ref)
1850 {
1851     MXFStructuralComponent *component = NULL;
1852
1853     component = mxf_resolve_strong_ref(mxf, strong_ref, AnyType);
1854     if (!component)
1855         return NULL;
1856     switch (component->type) {
1857         case SourceClip:
1858             return component;
1859         case EssenceGroup:
1860             return mxf_resolve_essence_group_choice(mxf, (MXFEssenceGroup*) component);
1861         default:
1862             break;
1863     }
1864     return NULL;
1865 }
1866
1867 static int mxf_parse_package_comments(MXFContext *mxf, AVDictionary **pm, MXFPackage *package)
1868 {
1869     MXFTaggedValue *tag;
1870     int size, i;
1871     char *key = NULL;
1872
1873     for (i = 0; i < package->comment_count; i++) {
1874         tag = mxf_resolve_strong_ref(mxf, &package->comment_refs[i], TaggedValue);
1875         if (!tag || !tag->name || !tag->value)
1876             continue;
1877
1878         size = strlen(tag->name) + 8 + 1;
1879         key = av_mallocz(size);
1880         if (!key)
1881             return AVERROR(ENOMEM);
1882
1883         snprintf(key, size, "comment_%s", tag->name);
1884         av_dict_set(pm, key, tag->value, AV_DICT_DONT_STRDUP_KEY);
1885     }
1886     return 0;
1887 }
1888
1889 static int mxf_parse_physical_source_package(MXFContext *mxf, MXFTrack *source_track, AVStream *st)
1890 {
1891     MXFPackage *physical_package = NULL;
1892     MXFTrack *physical_track = NULL;
1893     MXFStructuralComponent *sourceclip = NULL;
1894     MXFTimecodeComponent *mxf_tc = NULL;
1895     int i, j, k;
1896     AVTimecode tc;
1897     int flags;
1898     int64_t start_position;
1899
1900     for (i = 0; i < source_track->sequence->structural_components_count; i++) {
1901         sourceclip = mxf_resolve_strong_ref(mxf, &source_track->sequence->structural_components_refs[i], SourceClip);
1902         if (!sourceclip)
1903             continue;
1904
1905         if (!(physical_package = mxf_resolve_source_package(mxf, sourceclip->source_package_ul, sourceclip->source_package_uid)))
1906             break;
1907
1908         mxf_add_umid_metadata(&st->metadata, "reel_umid", physical_package);
1909
1910         /* the name of physical source package is name of the reel or tape */
1911         if (physical_package->name && physical_package->name[0])
1912             av_dict_set(&st->metadata, "reel_name", physical_package->name, 0);
1913
1914         /* the source timecode is calculated by adding the start_position of the sourceclip from the file source package track
1915          * to the start_frame of the timecode component located on one of the tracks of the physical source package.
1916          */
1917         for (j = 0; j < physical_package->tracks_count; j++) {
1918             if (!(physical_track = mxf_resolve_strong_ref(mxf, &physical_package->tracks_refs[j], Track))) {
1919                 av_log(mxf->fc, AV_LOG_ERROR, "could not resolve source track strong ref\n");
1920                 continue;
1921             }
1922
1923             if (!(physical_track->sequence = mxf_resolve_strong_ref(mxf, &physical_track->sequence_ref, Sequence))) {
1924                 av_log(mxf->fc, AV_LOG_ERROR, "could not resolve source track sequence strong ref\n");
1925                 continue;
1926             }
1927
1928         if (physical_track->edit_rate.num <= 0 ||
1929             physical_track->edit_rate.den <= 0) {
1930             av_log(mxf->fc, AV_LOG_WARNING,
1931                    "Invalid edit rate (%d/%d) found on structural"
1932                    " component #%d, defaulting to 25/1\n",
1933                    physical_track->edit_rate.num,
1934                    physical_track->edit_rate.den, i);
1935             physical_track->edit_rate = (AVRational){25, 1};
1936         }
1937
1938             for (k = 0; k < physical_track->sequence->structural_components_count; k++) {
1939                 if (!(mxf_tc = mxf_resolve_timecode_component(mxf, &physical_track->sequence->structural_components_refs[k])))
1940                     continue;
1941
1942                 flags = mxf_tc->drop_frame == 1 ? AV_TIMECODE_FLAG_DROPFRAME : 0;
1943                 /* scale sourceclip start_position to match physical track edit rate */
1944                 start_position = av_rescale_q(sourceclip->start_position,
1945                                               physical_track->edit_rate,
1946                                               source_track->edit_rate);
1947
1948                 if (av_timecode_init(&tc, mxf_tc->rate, flags, start_position + mxf_tc->start_frame, mxf->fc) == 0) {
1949                     mxf_add_timecode_metadata(&st->metadata, "timecode", &tc);
1950                     return 0;
1951                 }
1952             }
1953         }
1954     }
1955
1956     return 0;
1957 }
1958
1959 static int mxf_add_metadata_stream(MXFContext *mxf, MXFTrack *track)
1960 {
1961     MXFStructuralComponent *component = NULL;
1962     const MXFCodecUL *codec_ul = NULL;
1963     MXFPackage tmp_package;
1964     AVStream *st;
1965     int j;
1966
1967     for (j = 0; j < track->sequence->structural_components_count; j++) {
1968         component = mxf_resolve_sourceclip(mxf, &track->sequence->structural_components_refs[j]);
1969         if (!component)
1970             continue;
1971         break;
1972     }
1973     if (!component)
1974         return 0;
1975
1976     st = avformat_new_stream(mxf->fc, NULL);
1977     if (!st) {
1978         av_log(mxf->fc, AV_LOG_ERROR, "could not allocate metadata stream\n");
1979         return AVERROR(ENOMEM);
1980     }
1981
1982     st->codecpar->codec_type = AVMEDIA_TYPE_DATA;
1983     st->codecpar->codec_id = AV_CODEC_ID_NONE;
1984     st->id = track->track_id;
1985
1986     memcpy(&tmp_package.package_ul, component->source_package_ul, 16);
1987     memcpy(&tmp_package.package_uid, component->source_package_uid, 16);
1988     mxf_add_umid_metadata(&st->metadata, "file_package_umid", &tmp_package);
1989     if (track->name && track->name[0])
1990         av_dict_set(&st->metadata, "track_name", track->name, 0);
1991
1992     codec_ul = mxf_get_codec_ul(ff_mxf_data_definition_uls, &track->sequence->data_definition_ul);
1993     av_dict_set(&st->metadata, "data_type", av_get_media_type_string(codec_ul->id), 0);
1994     return 0;
1995 }
1996
1997 static int mxf_parse_structural_metadata(MXFContext *mxf)
1998 {
1999     MXFPackage *material_package = NULL;
2000     int i, j, k, ret;
2001
2002     av_log(mxf->fc, AV_LOG_TRACE, "metadata sets count %d\n", mxf->metadata_sets_count);
2003     /* TODO: handle multiple material packages (OP3x) */
2004     for (i = 0; i < mxf->packages_count; i++) {
2005         material_package = mxf_resolve_strong_ref(mxf, &mxf->packages_refs[i], MaterialPackage);
2006         if (material_package) break;
2007     }
2008     if (!material_package) {
2009         av_log(mxf->fc, AV_LOG_ERROR, "no material package found\n");
2010         return AVERROR_INVALIDDATA;
2011     }
2012
2013     mxf_add_umid_metadata(&mxf->fc->metadata, "material_package_umid", material_package);
2014     if (material_package->name && material_package->name[0])
2015         av_dict_set(&mxf->fc->metadata, "material_package_name", material_package->name, 0);
2016     mxf_parse_package_comments(mxf, &mxf->fc->metadata, material_package);
2017
2018     for (i = 0; i < material_package->tracks_count; i++) {
2019         MXFPackage *source_package = NULL;
2020         MXFTrack *material_track = NULL;
2021         MXFTrack *source_track = NULL;
2022         MXFTrack *temp_track = NULL;
2023         MXFDescriptor *descriptor = NULL;
2024         MXFStructuralComponent *component = NULL;
2025         MXFTimecodeComponent *mxf_tc = NULL;
2026         UID *essence_container_ul = NULL;
2027         const MXFCodecUL *codec_ul = NULL;
2028         const MXFCodecUL *container_ul = NULL;
2029         const MXFCodecUL *pix_fmt_ul = NULL;
2030         AVStream *st;
2031         AVTimecode tc;
2032         int flags;
2033
2034         if (!(material_track = mxf_resolve_strong_ref(mxf, &material_package->tracks_refs[i], Track))) {
2035             av_log(mxf->fc, AV_LOG_ERROR, "could not resolve material track strong ref\n");
2036             continue;
2037         }
2038
2039         if ((component = mxf_resolve_strong_ref(mxf, &material_track->sequence_ref, TimecodeComponent))) {
2040             mxf_tc = (MXFTimecodeComponent*)component;
2041             flags = mxf_tc->drop_frame == 1 ? AV_TIMECODE_FLAG_DROPFRAME : 0;
2042             if (av_timecode_init(&tc, mxf_tc->rate, flags, mxf_tc->start_frame, mxf->fc) == 0) {
2043                 mxf_add_timecode_metadata(&mxf->fc->metadata, "timecode", &tc);
2044             }
2045         }
2046
2047         if (!(material_track->sequence = mxf_resolve_strong_ref(mxf, &material_track->sequence_ref, Sequence))) {
2048             av_log(mxf->fc, AV_LOG_ERROR, "could not resolve material track sequence strong ref\n");
2049             continue;
2050         }
2051
2052         for (j = 0; j < material_track->sequence->structural_components_count; j++) {
2053             component = mxf_resolve_strong_ref(mxf, &material_track->sequence->structural_components_refs[j], TimecodeComponent);
2054             if (!component)
2055                 continue;
2056
2057             mxf_tc = (MXFTimecodeComponent*)component;
2058             flags = mxf_tc->drop_frame == 1 ? AV_TIMECODE_FLAG_DROPFRAME : 0;
2059             if (av_timecode_init(&tc, mxf_tc->rate, flags, mxf_tc->start_frame, mxf->fc) == 0) {
2060                 mxf_add_timecode_metadata(&mxf->fc->metadata, "timecode", &tc);
2061                 break;
2062             }
2063         }
2064
2065         /* TODO: handle multiple source clips, only finds first valid source clip */
2066         if(material_track->sequence->structural_components_count > 1)
2067             av_log(mxf->fc, AV_LOG_WARNING, "material track %d: has %d components\n",
2068                        material_track->track_id, material_track->sequence->structural_components_count);
2069
2070         for (j = 0; j < material_track->sequence->structural_components_count; j++) {
2071             component = mxf_resolve_sourceclip(mxf, &material_track->sequence->structural_components_refs[j]);
2072             if (!component)
2073                 continue;
2074
2075             source_package = mxf_resolve_source_package(mxf, component->source_package_ul, component->source_package_uid);
2076             if (!source_package) {
2077                 av_log(mxf->fc, AV_LOG_TRACE, "material track %d: no corresponding source package found\n", material_track->track_id);
2078                 continue;
2079             }
2080             for (k = 0; k < source_package->tracks_count; k++) {
2081                 if (!(temp_track = mxf_resolve_strong_ref(mxf, &source_package->tracks_refs[k], Track))) {
2082                     av_log(mxf->fc, AV_LOG_ERROR, "could not resolve source track strong ref\n");
2083                     ret = AVERROR_INVALIDDATA;
2084                     goto fail_and_free;
2085                 }
2086                 if (temp_track->track_id == component->source_track_id) {
2087                     source_track = temp_track;
2088                     break;
2089                 }
2090             }
2091             if (!source_track) {
2092                 av_log(mxf->fc, AV_LOG_ERROR, "material track %d: no corresponding source track found\n", material_track->track_id);
2093                 break;
2094             }
2095
2096             for (k = 0; k < mxf->essence_container_data_count; k++) {
2097                 MXFEssenceContainerData *essence_data;
2098
2099                 if (!(essence_data = mxf_resolve_strong_ref(mxf, &mxf->essence_container_data_refs[k], EssenceContainerData))) {
2100                     av_log(mxf, AV_LOG_TRACE, "could not resolve essence container data strong ref\n");
2101                     continue;
2102                 }
2103                 if (!memcmp(component->source_package_ul, essence_data->package_ul, sizeof(UID)) && !memcmp(component->source_package_uid, essence_data->package_uid, sizeof(UID))) {
2104                     source_track->body_sid = essence_data->body_sid;
2105                     source_track->index_sid = essence_data->index_sid;
2106                     break;
2107                 }
2108             }
2109
2110             if(source_track && component)
2111                 break;
2112         }
2113         if (!source_track || !component || !source_package) {
2114             if((ret = mxf_add_metadata_stream(mxf, material_track)))
2115                 goto fail_and_free;
2116             continue;
2117         }
2118
2119         if (!(source_track->sequence = mxf_resolve_strong_ref(mxf, &source_track->sequence_ref, Sequence))) {
2120             av_log(mxf->fc, AV_LOG_ERROR, "could not resolve source track sequence strong ref\n");
2121             ret = AVERROR_INVALIDDATA;
2122             goto fail_and_free;
2123         }
2124
2125         /* 0001GL00.MXF.A1.mxf_opatom.mxf has the same SourcePackageID as 0001GL.MXF.V1.mxf_opatom.mxf
2126          * This would result in both files appearing to have two streams. Work around this by sanity checking DataDefinition */
2127         if (memcmp(material_track->sequence->data_definition_ul, source_track->sequence->data_definition_ul, 16)) {
2128             av_log(mxf->fc, AV_LOG_ERROR, "material track %d: DataDefinition mismatch\n", material_track->track_id);
2129             continue;
2130         }
2131
2132         st = avformat_new_stream(mxf->fc, NULL);
2133         if (!st) {
2134             av_log(mxf->fc, AV_LOG_ERROR, "could not allocate stream\n");
2135             ret = AVERROR(ENOMEM);
2136             goto fail_and_free;
2137         }
2138         st->id = material_track->track_id;
2139         st->priv_data = source_track;
2140
2141         source_package->descriptor = mxf_resolve_strong_ref(mxf, &source_package->descriptor_ref, AnyType);
2142         descriptor = mxf_resolve_multidescriptor(mxf, source_package->descriptor, source_track->track_id);
2143
2144         /* A SourceClip from a EssenceGroup may only be a single frame of essence data. The clips duration is then how many
2145          * frames its suppose to repeat for. Descriptor->duration, if present, contains the real duration of the essence data */
2146         if (descriptor && descriptor->duration != AV_NOPTS_VALUE)
2147             source_track->original_duration = st->duration = FFMIN(descriptor->duration, component->duration);
2148         else
2149             source_track->original_duration = st->duration = component->duration;
2150
2151         if (st->duration == -1)
2152             st->duration = AV_NOPTS_VALUE;
2153         st->start_time = component->start_position;
2154         if (material_track->edit_rate.num <= 0 ||
2155             material_track->edit_rate.den <= 0) {
2156             av_log(mxf->fc, AV_LOG_WARNING,
2157                    "Invalid edit rate (%d/%d) found on stream #%d, "
2158                    "defaulting to 25/1\n",
2159                    material_track->edit_rate.num,
2160                    material_track->edit_rate.den, st->index);
2161             material_track->edit_rate = (AVRational){25, 1};
2162         }
2163         avpriv_set_pts_info(st, 64, material_track->edit_rate.den, material_track->edit_rate.num);
2164
2165         /* ensure SourceTrack EditRate == MaterialTrack EditRate since only
2166          * the former is accessible via st->priv_data */
2167         source_track->edit_rate = material_track->edit_rate;
2168
2169         PRINT_KEY(mxf->fc, "data definition   ul", source_track->sequence->data_definition_ul);
2170         codec_ul = mxf_get_codec_ul(ff_mxf_data_definition_uls, &source_track->sequence->data_definition_ul);
2171         st->codecpar->codec_type = codec_ul->id;
2172
2173         if (!descriptor) {
2174             av_log(mxf->fc, AV_LOG_INFO, "source track %d: stream %d, no descriptor found\n", source_track->track_id, st->index);
2175             continue;
2176         }
2177         PRINT_KEY(mxf->fc, "essence codec     ul", descriptor->essence_codec_ul);
2178         PRINT_KEY(mxf->fc, "essence container ul", descriptor->essence_container_ul);
2179         essence_container_ul = &descriptor->essence_container_ul;
2180         /* HACK: replacing the original key with mxf_encrypted_essence_container
2181          * is not allowed according to s429-6, try to find correct information anyway */
2182         if (IS_KLV_KEY(essence_container_ul, mxf_encrypted_essence_container)) {
2183             av_log(mxf->fc, AV_LOG_INFO, "broken encrypted mxf file\n");
2184             for (k = 0; k < mxf->metadata_sets_count; k++) {
2185                 MXFMetadataSet *metadata = mxf->metadata_sets[k];
2186                 if (metadata->type == CryptoContext) {
2187                     essence_container_ul = &((MXFCryptoContext *)metadata)->source_container_ul;
2188                     break;
2189                 }
2190             }
2191         }
2192
2193         /* TODO: drop PictureEssenceCoding and SoundEssenceCompression, only check EssenceContainer */
2194         codec_ul = mxf_get_codec_ul(ff_mxf_codec_uls, &descriptor->essence_codec_ul);
2195         st->codecpar->codec_id = (enum AVCodecID)codec_ul->id;
2196         if (st->codecpar->codec_id == AV_CODEC_ID_NONE) {
2197             codec_ul = mxf_get_codec_ul(ff_mxf_codec_uls, &descriptor->codec_ul);
2198             st->codecpar->codec_id = (enum AVCodecID)codec_ul->id;
2199         }
2200
2201         av_log(mxf->fc, AV_LOG_VERBOSE, "%s: Universal Label: ",
2202                avcodec_get_name(st->codecpar->codec_id));
2203         for (k = 0; k < 16; k++) {
2204             av_log(mxf->fc, AV_LOG_VERBOSE, "%.2x",
2205                    descriptor->essence_codec_ul[k]);
2206             if (!(k+1 & 19) || k == 5)
2207                 av_log(mxf->fc, AV_LOG_VERBOSE, ".");
2208         }
2209         av_log(mxf->fc, AV_LOG_VERBOSE, "\n");
2210
2211         mxf_add_umid_metadata(&st->metadata, "file_package_umid", source_package);
2212         if (source_package->name && source_package->name[0])
2213             av_dict_set(&st->metadata, "file_package_name", source_package->name, 0);
2214         if (material_track->name && material_track->name[0])
2215             av_dict_set(&st->metadata, "track_name", material_track->name, 0);
2216
2217         mxf_parse_physical_source_package(mxf, source_track, st);
2218
2219         if (st->codecpar->codec_type == AVMEDIA_TYPE_VIDEO) {
2220             source_track->intra_only = mxf_is_intra_only(descriptor);
2221             container_ul = mxf_get_codec_ul(mxf_picture_essence_container_uls, essence_container_ul);
2222             if (st->codecpar->codec_id == AV_CODEC_ID_NONE)
2223                 st->codecpar->codec_id = container_ul->id;
2224             st->codecpar->width = descriptor->width;
2225             st->codecpar->height = descriptor->height; /* Field height, not frame height */
2226             switch (descriptor->frame_layout) {
2227                 case FullFrame:
2228                     st->codecpar->field_order = AV_FIELD_PROGRESSIVE;
2229                     break;
2230                 case OneField:
2231                     /* Every other line is stored and needs to be duplicated. */
2232                     av_log(mxf->fc, AV_LOG_INFO, "OneField frame layout isn't currently supported\n");
2233                     break; /* The correct thing to do here is fall through, but by breaking we might be
2234                               able to decode some streams at half the vertical resolution, rather than not al all.
2235                               It's also for compatibility with the old behavior. */
2236                 case MixedFields:
2237                     break;
2238                 case SegmentedFrame:
2239                     st->codecpar->field_order = AV_FIELD_PROGRESSIVE;
2240                 case SeparateFields:
2241                     av_log(mxf->fc, AV_LOG_DEBUG, "video_line_map: (%d, %d), field_dominance: %d\n",
2242                            descriptor->video_line_map[0], descriptor->video_line_map[1],
2243                            descriptor->field_dominance);
2244                     if ((descriptor->video_line_map[0] > 0) && (descriptor->video_line_map[1] > 0)) {
2245                         /* Detect coded field order from VideoLineMap:
2246                          *  (even, even) => bottom field coded first
2247                          *  (even, odd)  => top field coded first
2248                          *  (odd, even)  => top field coded first
2249                          *  (odd, odd)   => bottom field coded first
2250                          */
2251                         if ((descriptor->video_line_map[0] + descriptor->video_line_map[1]) % 2) {
2252                             switch (descriptor->field_dominance) {
2253                                 case MXF_FIELD_DOMINANCE_DEFAULT:
2254                                 case MXF_FIELD_DOMINANCE_FF:
2255                                     st->codecpar->field_order = AV_FIELD_TT;
2256                                     break;
2257                                 case MXF_FIELD_DOMINANCE_FL:
2258                                     st->codecpar->field_order = AV_FIELD_TB;
2259                                     break;
2260                                 default:
2261                                     avpriv_request_sample(mxf->fc,
2262                                                           "Field dominance %d support",
2263                                                           descriptor->field_dominance);
2264                             }
2265                         } else {
2266                             switch (descriptor->field_dominance) {
2267                                 case MXF_FIELD_DOMINANCE_DEFAULT:
2268                                 case MXF_FIELD_DOMINANCE_FF:
2269                                     st->codecpar->field_order = AV_FIELD_BB;
2270                                     break;
2271                                 case MXF_FIELD_DOMINANCE_FL:
2272                                     st->codecpar->field_order = AV_FIELD_BT;
2273                                     break;
2274                                 default:
2275                                     avpriv_request_sample(mxf->fc,
2276                                                           "Field dominance %d support",
2277                                                           descriptor->field_dominance);
2278                             }
2279                         }
2280                     }
2281                     /* Turn field height into frame height. */
2282                     st->codecpar->height *= 2;
2283                     break;
2284                 default:
2285                     av_log(mxf->fc, AV_LOG_INFO, "Unknown frame layout type: %d\n", descriptor->frame_layout);
2286             }
2287             if (st->codecpar->codec_id == AV_CODEC_ID_RAWVIDEO) {
2288                 st->codecpar->format = descriptor->pix_fmt;
2289                 if (st->codecpar->format == AV_PIX_FMT_NONE) {
2290                     pix_fmt_ul = mxf_get_codec_ul(ff_mxf_pixel_format_uls,
2291                                                   &descriptor->essence_codec_ul);
2292                     st->codecpar->format = (enum AVPixelFormat)pix_fmt_ul->id;
2293                     if (st->codecpar->format== AV_PIX_FMT_NONE) {
2294                         st->codecpar->codec_tag = mxf_get_codec_ul(ff_mxf_codec_tag_uls,
2295                                                                    &descriptor->essence_codec_ul)->id;
2296                         if (!st->codecpar->codec_tag) {
2297                             /* support files created before RP224v10 by defaulting to UYVY422
2298                                if subsampling is 4:2:2 and component depth is 8-bit */
2299                             if (descriptor->horiz_subsampling == 2 &&
2300                                 descriptor->vert_subsampling == 1 &&
2301                                 descriptor->component_depth == 8) {
2302                                 st->codecpar->format = AV_PIX_FMT_UYVY422;
2303                             }
2304                         }
2305                     }
2306                 }
2307             }
2308             st->need_parsing = AVSTREAM_PARSE_HEADERS;
2309             if (material_track->sequence->origin) {
2310                 av_dict_set_int(&st->metadata, "material_track_origin", material_track->sequence->origin, 0);
2311             }
2312             if (source_track->sequence->origin) {
2313                 av_dict_set_int(&st->metadata, "source_track_origin", source_track->sequence->origin, 0);
2314             }
2315             if (descriptor->aspect_ratio.num && descriptor->aspect_ratio.den)
2316                 st->display_aspect_ratio = descriptor->aspect_ratio;
2317         } else if (st->codecpar->codec_type == AVMEDIA_TYPE_AUDIO) {
2318             container_ul = mxf_get_codec_ul(mxf_sound_essence_container_uls, essence_container_ul);
2319             /* Only overwrite existing codec ID if it is unset or A-law, which is the default according to SMPTE RP 224. */
2320             if (st->codecpar->codec_id == AV_CODEC_ID_NONE || (st->codecpar->codec_id == AV_CODEC_ID_PCM_ALAW && (enum AVCodecID)container_ul->id != AV_CODEC_ID_NONE))
2321                 st->codecpar->codec_id = (enum AVCodecID)container_ul->id;
2322             st->codecpar->channels = descriptor->channels;
2323             st->codecpar->bits_per_coded_sample = descriptor->bits_per_sample;
2324
2325             if (descriptor->sample_rate.den > 0) {
2326                 st->codecpar->sample_rate = descriptor->sample_rate.num / descriptor->sample_rate.den;
2327                 avpriv_set_pts_info(st, 64, descriptor->sample_rate.den, descriptor->sample_rate.num);
2328             } else {
2329                 av_log(mxf->fc, AV_LOG_WARNING, "invalid sample rate (%d/%d) "
2330                        "found for stream #%d, time base forced to 1/48000\n",
2331                        descriptor->sample_rate.num, descriptor->sample_rate.den,
2332                        st->index);
2333                 avpriv_set_pts_info(st, 64, 1, 48000);
2334             }
2335
2336             /* if duration is set, rescale it from EditRate to SampleRate */
2337             if (st->duration != AV_NOPTS_VALUE)
2338                 st->duration = av_rescale_q(st->duration,
2339                                             av_inv_q(material_track->edit_rate),
2340                                             st->time_base);
2341
2342             /* TODO: implement AV_CODEC_ID_RAWAUDIO */
2343             if (st->codecpar->codec_id == AV_CODEC_ID_PCM_S16LE) {
2344                 if (descriptor->bits_per_sample > 16 && descriptor->bits_per_sample <= 24)
2345                     st->codecpar->codec_id = AV_CODEC_ID_PCM_S24LE;
2346                 else if (descriptor->bits_per_sample == 32)
2347                     st->codecpar->codec_id = AV_CODEC_ID_PCM_S32LE;
2348             } else if (st->codecpar->codec_id == AV_CODEC_ID_PCM_S16BE) {
2349                 if (descriptor->bits_per_sample > 16 && descriptor->bits_per_sample <= 24)
2350                     st->codecpar->codec_id = AV_CODEC_ID_PCM_S24BE;
2351                 else if (descriptor->bits_per_sample == 32)
2352                     st->codecpar->codec_id = AV_CODEC_ID_PCM_S32BE;
2353             } else if (st->codecpar->codec_id == AV_CODEC_ID_MP2) {
2354                 st->need_parsing = AVSTREAM_PARSE_FULL;
2355             }
2356         } else if (st->codecpar->codec_type == AVMEDIA_TYPE_DATA) {
2357             int codec_id = mxf_get_codec_ul(mxf_data_essence_container_uls,
2358                                             essence_container_ul)->id;
2359             if (codec_id >= 0 &&
2360                 codec_id < FF_ARRAY_ELEMS(mxf_data_essence_descriptor)) {
2361                 av_dict_set(&st->metadata, "data_type",
2362                             mxf_data_essence_descriptor[codec_id], 0);
2363             }
2364         }
2365         if (descriptor->extradata) {
2366             if (!ff_alloc_extradata(st->codecpar, descriptor->extradata_size)) {
2367                 memcpy(st->codecpar->extradata, descriptor->extradata, descriptor->extradata_size);
2368             }
2369         } else if (st->codecpar->codec_id == AV_CODEC_ID_H264) {
2370             int coded_width = mxf_get_codec_ul(mxf_intra_only_picture_coded_width,
2371                                                &descriptor->essence_codec_ul)->id;
2372             if (coded_width)
2373                 st->codecpar->width = coded_width;
2374             ret = ff_generate_avci_extradata(st);
2375             if (ret < 0)
2376                 return ret;
2377         }
2378         if (st->codecpar->codec_type != AVMEDIA_TYPE_DATA && (*essence_container_ul)[15] > 0x01) {
2379             /* TODO: decode timestamps */
2380             st->need_parsing = AVSTREAM_PARSE_TIMESTAMPS;
2381         }
2382     }
2383
2384     ret = 0;
2385 fail_and_free:
2386     return ret;
2387 }
2388
2389 static int64_t mxf_timestamp_to_int64(uint64_t timestamp)
2390 {
2391     struct tm time = { 0 };
2392     time.tm_year = (timestamp >> 48) - 1900;
2393     time.tm_mon  = (timestamp >> 40 & 0xFF) - 1;
2394     time.tm_mday = (timestamp >> 32 & 0xFF);
2395     time.tm_hour = (timestamp >> 24 & 0xFF);
2396     time.tm_min  = (timestamp >> 16 & 0xFF);
2397     time.tm_sec  = (timestamp >> 8  & 0xFF);
2398
2399     /* msvcrt versions of strftime calls the invalid parameter handler
2400      * (aborting the process if one isn't set) if the parameters are out
2401      * of range. */
2402     time.tm_mon  = av_clip(time.tm_mon,  0, 11);
2403     time.tm_mday = av_clip(time.tm_mday, 1, 31);
2404     time.tm_hour = av_clip(time.tm_hour, 0, 23);
2405     time.tm_min  = av_clip(time.tm_min,  0, 59);
2406     time.tm_sec  = av_clip(time.tm_sec,  0, 59);
2407
2408     return (int64_t)av_timegm(&time) * 1000000;
2409 }
2410
2411 #define SET_STR_METADATA(pb, name, str) do { \
2412     if ((ret = mxf_read_utf16be_string(pb, size, &str)) < 0) \
2413         return ret; \
2414     av_dict_set(&s->metadata, name, str, AV_DICT_DONT_STRDUP_VAL); \
2415 } while (0)
2416
2417 #define SET_UID_METADATA(pb, name, var, str) do { \
2418     avio_read(pb, var, 16); \
2419     if ((ret = mxf_uid_to_str(var, &str)) < 0) \
2420         return ret; \
2421     av_dict_set(&s->metadata, name, str, AV_DICT_DONT_STRDUP_VAL); \
2422 } while (0)
2423
2424 #define SET_TS_METADATA(pb, name, var, str) do { \
2425     var = avio_rb64(pb); \
2426     if ((ret = avpriv_dict_set_timestamp(&s->metadata, name, mxf_timestamp_to_int64(var)) < 0)) \
2427         return ret; \
2428 } while (0)
2429
2430 static int mxf_read_identification_metadata(void *arg, AVIOContext *pb, int tag, int size, UID _uid, int64_t klv_offset)
2431 {
2432     MXFContext *mxf = arg;
2433     AVFormatContext *s = mxf->fc;
2434     int ret;
2435     UID uid = { 0 };
2436     char *str = NULL;
2437     uint64_t ts;
2438     switch (tag) {
2439     case 0x3C01:
2440         SET_STR_METADATA(pb, "company_name", str);
2441         break;
2442     case 0x3C02:
2443         SET_STR_METADATA(pb, "product_name", str);
2444         break;
2445     case 0x3C04:
2446         SET_STR_METADATA(pb, "product_version", str);
2447         break;
2448     case 0x3C05:
2449         SET_UID_METADATA(pb, "product_uid", uid, str);
2450         break;
2451     case 0x3C06:
2452         SET_TS_METADATA(pb, "modification_date", ts, str);
2453         break;
2454     case 0x3C08:
2455         SET_STR_METADATA(pb, "application_platform", str);
2456         break;
2457     case 0x3C09:
2458         SET_UID_METADATA(pb, "generation_uid", uid, str);
2459         break;
2460     case 0x3C0A:
2461         SET_UID_METADATA(pb, "uid", uid, str);
2462         break;
2463     }
2464     return 0;
2465 }
2466
2467 static int mxf_read_preface_metadata(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
2468 {
2469     MXFContext *mxf = arg;
2470     AVFormatContext *s = mxf->fc;
2471     int ret;
2472     char *str = NULL;
2473
2474     if (tag >= 0x8000 && (IS_KLV_KEY(uid, mxf_avid_project_name))) {
2475         SET_STR_METADATA(pb, "project_name", str);
2476     }
2477     return 0;
2478 }
2479
2480 static const MXFMetadataReadTableEntry mxf_metadata_read_table[] = {
2481     { { 0x06,0x0e,0x2b,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x05,0x01,0x00 }, mxf_read_primer_pack },
2482     { { 0x06,0x0e,0x2b,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x02,0x01,0x00 }, mxf_read_partition_pack },
2483     { { 0x06,0x0e,0x2b,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x02,0x02,0x00 }, mxf_read_partition_pack },
2484     { { 0x06,0x0e,0x2b,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x02,0x03,0x00 }, mxf_read_partition_pack },
2485     { { 0x06,0x0e,0x2b,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x02,0x04,0x00 }, mxf_read_partition_pack },
2486     { { 0x06,0x0e,0x2b,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x03,0x01,0x00 }, mxf_read_partition_pack },
2487     { { 0x06,0x0e,0x2b,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x03,0x02,0x00 }, mxf_read_partition_pack },
2488     { { 0x06,0x0e,0x2b,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x03,0x03,0x00 }, mxf_read_partition_pack },
2489     { { 0x06,0x0e,0x2b,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x03,0x04,0x00 }, mxf_read_partition_pack },
2490     { { 0x06,0x0e,0x2b,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x04,0x02,0x00 }, mxf_read_partition_pack },
2491     { { 0x06,0x0e,0x2b,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x04,0x04,0x00 }, mxf_read_partition_pack },
2492     { { 0x06,0x0e,0x2b,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x2f,0x00 }, mxf_read_preface_metadata },
2493     { { 0x06,0x0e,0x2b,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x30,0x00 }, mxf_read_identification_metadata },
2494     { { 0x06,0x0e,0x2b,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x18,0x00 }, mxf_read_content_storage, 0, AnyType },
2495     { { 0x06,0x0e,0x2b,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x37,0x00 }, mxf_read_package, sizeof(MXFPackage), SourcePackage },
2496     { { 0x06,0x0e,0x2b,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x36,0x00 }, mxf_read_package, sizeof(MXFPackage), MaterialPackage },
2497     { { 0x06,0x0e,0x2b,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x0f,0x00 }, mxf_read_sequence, sizeof(MXFSequence), Sequence },
2498     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0D,0x01,0x01,0x01,0x01,0x01,0x05,0x00 }, mxf_read_essence_group, sizeof(MXFEssenceGroup), EssenceGroup},
2499     { { 0x06,0x0e,0x2b,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x11,0x00 }, mxf_read_source_clip, sizeof(MXFStructuralComponent), SourceClip },
2500     { { 0x06,0x0e,0x2b,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x3f,0x00 }, mxf_read_tagged_value, sizeof(MXFTaggedValue), TaggedValue },
2501     { { 0x06,0x0e,0x2b,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x44,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), MultipleDescriptor },
2502     { { 0x06,0x0e,0x2b,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x42,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), Descriptor }, /* Generic Sound */
2503     { { 0x06,0x0e,0x2b,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x28,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), Descriptor }, /* CDCI */
2504     { { 0x06,0x0e,0x2b,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x29,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), Descriptor }, /* RGBA */
2505     { { 0x06,0x0e,0x2b,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x48,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), Descriptor }, /* Wave */
2506     { { 0x06,0x0e,0x2b,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x47,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), Descriptor }, /* AES3 */
2507     { { 0x06,0x0e,0x2b,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x51,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), Descriptor }, /* MPEG2VideoDescriptor */
2508     { { 0x06,0x0e,0x2b,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x5c,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), Descriptor }, /* VANC/VBI - SMPTE 436M */
2509     { { 0x06,0x0e,0x2b,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x5e,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), Descriptor }, /* MPEG2AudioDescriptor */
2510     { { 0x06,0x0e,0x2b,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x3A,0x00 }, mxf_read_track, sizeof(MXFTrack), Track }, /* Static Track */
2511     { { 0x06,0x0e,0x2b,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x3B,0x00 }, mxf_read_track, sizeof(MXFTrack), Track }, /* Generic Track */
2512     { { 0x06,0x0e,0x2b,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x14,0x00 }, mxf_read_timecode_component, sizeof(MXFTimecodeComponent), TimecodeComponent },
2513     { { 0x06,0x0e,0x2b,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x0c,0x00 }, mxf_read_pulldown_component, sizeof(MXFPulldownComponent), PulldownComponent },
2514     { { 0x06,0x0e,0x2b,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x04,0x01,0x02,0x02,0x00,0x00 }, mxf_read_cryptographic_context, sizeof(MXFCryptoContext), CryptoContext },
2515     { { 0x06,0x0e,0x2b,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x10,0x01,0x00 }, mxf_read_index_table_segment, sizeof(MXFIndexTableSegment), IndexTableSegment },
2516     { { 0x06,0x0e,0x2b,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x23,0x00 }, mxf_read_essence_container_data, sizeof(MXFEssenceContainerData), EssenceContainerData },
2517     { { 0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00 }, NULL, 0, AnyType },
2518 };
2519
2520 static int mxf_metadataset_init(MXFMetadataSet *ctx, enum MXFMetadataSetType type)
2521 {
2522     switch (type){
2523     case MultipleDescriptor:
2524     case Descriptor:
2525         ((MXFDescriptor*)ctx)->pix_fmt = AV_PIX_FMT_NONE;
2526         ((MXFDescriptor*)ctx)->duration = AV_NOPTS_VALUE;
2527         break;
2528     default:
2529         break;
2530     }
2531     return 0;
2532 }
2533
2534 static int mxf_read_local_tags(MXFContext *mxf, KLVPacket *klv, MXFMetadataReadFunc *read_child, int ctx_size, enum MXFMetadataSetType type)
2535 {
2536     AVIOContext *pb = mxf->fc->pb;
2537     MXFMetadataSet *ctx = ctx_size ? av_mallocz(ctx_size) : mxf;
2538     uint64_t klv_end = avio_tell(pb) + klv->length;
2539
2540     if (!ctx)
2541         return AVERROR(ENOMEM);
2542     mxf_metadataset_init(ctx, type);
2543     while (avio_tell(pb) + 4 < klv_end && !avio_feof(pb)) {
2544         int ret;
2545         int tag = avio_rb16(pb);
2546         int size = avio_rb16(pb); /* KLV specified by 0x53 */
2547         uint64_t next = avio_tell(pb) + size;
2548         UID uid = {0};
2549
2550         av_log(mxf->fc, AV_LOG_TRACE, "local tag %#04x size %d\n", tag, size);
2551         if (!size) { /* ignore empty tag, needed for some files with empty UMID tag */
2552             av_log(mxf->fc, AV_LOG_ERROR, "local tag %#04x with 0 size\n", tag);
2553             continue;
2554         }
2555         if (tag > 0x7FFF) { /* dynamic tag */
2556             int i;
2557             for (i = 0; i < mxf->local_tags_count; i++) {
2558                 int local_tag = AV_RB16(mxf->local_tags+i*18);
2559                 if (local_tag == tag) {
2560                     memcpy(uid, mxf->local_tags+i*18+2, 16);
2561                     av_log(mxf->fc, AV_LOG_TRACE, "local tag %#04x\n", local_tag);
2562                     PRINT_KEY(mxf->fc, "uid", uid);
2563                 }
2564             }
2565         }
2566         if (ctx_size && tag == 0x3C0A) {
2567             avio_read(pb, ctx->uid, 16);
2568         } else if ((ret = read_child(ctx, pb, tag, size, uid, -1)) < 0) {
2569             mxf_free_metadataset(&ctx, !!ctx_size);
2570             return ret;
2571         }
2572
2573         /* Accept the 64k local set limit being exceeded (Avid). Don't accept
2574          * it extending past the end of the KLV though (zzuf5.mxf). */
2575         if (avio_tell(pb) > klv_end) {
2576             if (ctx_size) {
2577                 ctx->type = type;
2578                 mxf_free_metadataset(&ctx, !!ctx_size);
2579             }
2580
2581             av_log(mxf->fc, AV_LOG_ERROR,
2582                    "local tag %#04x extends past end of local set @ %#"PRIx64"\n",
2583                    tag, klv->offset);
2584             return AVERROR_INVALIDDATA;
2585         } else if (avio_tell(pb) <= next)   /* only seek forward, else this can loop for a long time */
2586             avio_seek(pb, next, SEEK_SET);
2587     }
2588     if (ctx_size) ctx->type = type;
2589     return ctx_size ? mxf_add_metadata_set(mxf, ctx) : 0;
2590 }
2591
2592 /**
2593  * Matches any partition pack key, in other words:
2594  * - HeaderPartition
2595  * - BodyPartition
2596  * - FooterPartition
2597  * @return non-zero if the key is a partition pack key, zero otherwise
2598  */
2599 static int mxf_is_partition_pack_key(UID key)
2600 {
2601     //NOTE: this is a little lax since it doesn't constraint key[14]
2602     return !memcmp(key, mxf_header_partition_pack_key, 13) &&
2603             key[13] >= 2 && key[13] <= 4;
2604 }
2605
2606 /**
2607  * Parses a metadata KLV
2608  * @return <0 on error, 0 otherwise
2609  */
2610 static int mxf_parse_klv(MXFContext *mxf, KLVPacket klv, MXFMetadataReadFunc *read,
2611                                      int ctx_size, enum MXFMetadataSetType type)
2612 {
2613     AVFormatContext *s = mxf->fc;
2614     int res;
2615     if (klv.key[5] == 0x53) {
2616         res = mxf_read_local_tags(mxf, &klv, read, ctx_size, type);
2617     } else {
2618         uint64_t next = avio_tell(s->pb) + klv.length;
2619         res = read(mxf, s->pb, 0, klv.length, klv.key, klv.offset);
2620
2621         /* only seek forward, else this can loop for a long time */
2622         if (avio_tell(s->pb) > next) {
2623             av_log(s, AV_LOG_ERROR, "read past end of KLV @ %#"PRIx64"\n",
2624                    klv.offset);
2625             return AVERROR_INVALIDDATA;
2626         }
2627
2628         avio_seek(s->pb, next, SEEK_SET);
2629     }
2630     if (res < 0) {
2631         av_log(s, AV_LOG_ERROR, "error reading header metadata\n");
2632         return res;
2633     }
2634     return 0;
2635 }
2636
2637 /**
2638  * Seeks to the previous partition and parses it, if possible
2639  * @return <= 0 if we should stop parsing, > 0 if we should keep going
2640  */
2641 static int mxf_seek_to_previous_partition(MXFContext *mxf)
2642 {
2643     AVIOContext *pb = mxf->fc->pb;
2644     KLVPacket klv;
2645     int64_t current_partition_ofs;
2646     int ret;
2647
2648     if (!mxf->current_partition ||
2649         mxf->run_in + mxf->current_partition->previous_partition <= mxf->last_forward_tell)
2650         return 0;   /* we've parsed all partitions */
2651
2652     /* seek to previous partition */
2653     current_partition_ofs = mxf->current_partition->pack_ofs;   //includes run-in
2654     avio_seek(pb, mxf->run_in + mxf->current_partition->previous_partition, SEEK_SET);
2655     mxf->current_partition = NULL;
2656
2657     av_log(mxf->fc, AV_LOG_TRACE, "seeking to previous partition\n");
2658
2659     /* Make sure this is actually a PartitionPack, and if so parse it.
2660      * See deadlock2.mxf
2661      */
2662     if ((ret = klv_read_packet(&klv, pb)) < 0) {
2663         av_log(mxf->fc, AV_LOG_ERROR, "failed to read PartitionPack KLV\n");
2664         return ret;
2665     }
2666
2667     if (!mxf_is_partition_pack_key(klv.key)) {
2668         av_log(mxf->fc, AV_LOG_ERROR, "PreviousPartition @ %" PRIx64 " isn't a PartitionPack\n", klv.offset);
2669         return AVERROR_INVALIDDATA;
2670     }
2671
2672     /* We can't just check ofs >= current_partition_ofs because PreviousPartition
2673      * can point to just before the current partition, causing klv_read_packet()
2674      * to sync back up to it. See deadlock3.mxf
2675      */
2676     if (klv.offset >= current_partition_ofs) {
2677         av_log(mxf->fc, AV_LOG_ERROR, "PreviousPartition for PartitionPack @ %"
2678                PRIx64 " indirectly points to itself\n", current_partition_ofs);
2679         return AVERROR_INVALIDDATA;
2680     }
2681
2682     if ((ret = mxf_parse_klv(mxf, klv, mxf_read_partition_pack, 0, 0)) < 0)
2683         return ret;
2684
2685     return 1;
2686 }
2687
2688 /**
2689  * Called when essence is encountered
2690  * @return <= 0 if we should stop parsing, > 0 if we should keep going
2691  */
2692 static int mxf_parse_handle_essence(MXFContext *mxf)
2693 {
2694     AVIOContext *pb = mxf->fc->pb;
2695     int64_t ret;
2696
2697     if (mxf->parsing_backward) {
2698         return mxf_seek_to_previous_partition(mxf);
2699     } else {
2700         if (!mxf->footer_partition) {
2701             av_log(mxf->fc, AV_LOG_TRACE, "no FooterPartition\n");
2702             return 0;
2703         }
2704
2705         av_log(mxf->fc, AV_LOG_TRACE, "seeking to FooterPartition\n");
2706
2707         /* remember where we were so we don't end up seeking further back than this */
2708         mxf->last_forward_tell = avio_tell(pb);
2709
2710         if (!(pb->seekable & AVIO_SEEKABLE_NORMAL)) {
2711             av_log(mxf->fc, AV_LOG_INFO, "file is not seekable - not parsing FooterPartition\n");
2712             return -1;
2713         }
2714
2715         /* seek to FooterPartition and parse backward */
2716         if ((ret = avio_seek(pb, mxf->run_in + mxf->footer_partition, SEEK_SET)) < 0) {
2717             av_log(mxf->fc, AV_LOG_ERROR,
2718                    "failed to seek to FooterPartition @ 0x%" PRIx64
2719                    " (%"PRId64") - partial file?\n",
2720                    mxf->run_in + mxf->footer_partition, ret);
2721             return ret;
2722         }
2723
2724         mxf->current_partition = NULL;
2725         mxf->parsing_backward = 1;
2726     }
2727
2728     return 1;
2729 }
2730
2731 /**
2732  * Called when the next partition or EOF is encountered
2733  * @return <= 0 if we should stop parsing, > 0 if we should keep going
2734  */
2735 static int mxf_parse_handle_partition_or_eof(MXFContext *mxf)
2736 {
2737     return mxf->parsing_backward ? mxf_seek_to_previous_partition(mxf) : 1;
2738 }
2739
2740 /**
2741  * Figures out the proper offset and length of the essence container in each partition
2742  */
2743 static void mxf_compute_essence_containers(MXFContext *mxf)
2744 {
2745     int x;
2746
2747     /* everything is already correct */
2748     if (mxf->op == OPAtom)
2749         return;
2750
2751     for (x = 0; x < mxf->partitions_count; x++) {
2752         MXFPartition *p = &mxf->partitions[x];
2753
2754         if (!p->body_sid)
2755             continue;       /* BodySID == 0 -> no essence */
2756
2757         if (x >= mxf->partitions_count - 1)
2758             break;          /* FooterPartition - can't compute length (and we don't need to) */
2759
2760         /* essence container spans to the next partition */
2761         p->essence_length = mxf->partitions[x+1].this_partition - p->essence_offset;
2762
2763         if (p->essence_length < 0) {
2764             /* next ThisPartition < essence_offset */
2765             p->essence_length = 0;
2766             av_log(mxf->fc, AV_LOG_ERROR,
2767                    "partition %i: bad ThisPartition = %"PRIX64"\n",
2768                    x+1, mxf->partitions[x+1].this_partition);
2769         }
2770     }
2771 }
2772
2773 static int64_t round_to_kag(int64_t position, int kag_size)
2774 {
2775     /* TODO: account for run-in? the spec isn't clear whether KAG should account for it */
2776     /* NOTE: kag_size may be any integer between 1 - 2^10 */
2777     int64_t ret = (position / kag_size) * kag_size;
2778     return ret == position ? ret : ret + kag_size;
2779 }
2780
2781 static int is_pcm(enum AVCodecID codec_id)
2782 {
2783     /* we only care about "normal" PCM codecs until we get samples */
2784     return codec_id >= AV_CODEC_ID_PCM_S16LE && codec_id < AV_CODEC_ID_PCM_S24DAUD;
2785 }
2786
2787 static AVStream* mxf_get_opatom_stream(MXFContext *mxf)
2788 {
2789     int i;
2790
2791     if (mxf->op != OPAtom)
2792         return NULL;
2793
2794     for (i = 0; i < mxf->fc->nb_streams; i++) {
2795         if (mxf->fc->streams[i]->codecpar->codec_type == AVMEDIA_TYPE_DATA)
2796             continue;
2797         return mxf->fc->streams[i];
2798     }
2799     return NULL;
2800 }
2801
2802 /**
2803  * Deal with the case where for some audio atoms EditUnitByteCount is
2804  * very small (2, 4..). In those cases we should read more than one
2805  * sample per call to mxf_read_packet().
2806  */
2807 static void mxf_handle_small_eubc(AVFormatContext *s)
2808 {
2809     MXFContext *mxf = s->priv_data;
2810     MXFTrack *track;
2811
2812     /* assuming non-OPAtom == frame wrapped
2813      * no sane writer would wrap 2 byte PCM packets with 20 byte headers.. */
2814     AVStream *st = mxf_get_opatom_stream(mxf);
2815     if (!st)
2816         return;
2817
2818     /* expect PCM with exactly one index table segment and a small (< 32) EUBC */
2819     if (st->codecpar->codec_type != AVMEDIA_TYPE_AUDIO         ||
2820         !is_pcm(st->codecpar->codec_id)                        ||
2821         mxf->nb_index_tables != 1                              ||
2822         mxf->index_tables[0].nb_segments != 1                  ||
2823         mxf->index_tables[0].segments[0]->edit_unit_byte_count >= 32)
2824         return;
2825
2826     /* arbitrarily default to 48 kHz PAL audio frame size */
2827     /* TODO: We could compute this from the ratio between the audio
2828      *       and video edit rates for 48 kHz NTSC we could use the
2829      *       1802-1802-1802-1802-1801 pattern. */
2830     track = st->priv_data;
2831     mxf->edit_units_per_packet = FFMAX(1, track->edit_rate.num / track->edit_rate.den / 25);
2832 }
2833
2834 /**
2835  * Deal with the case where OPAtom files does not have any IndexTableSegments.
2836  */
2837 static int mxf_handle_missing_index_segment(MXFContext *mxf)
2838 {
2839     AVFormatContext *s = mxf->fc;
2840     AVStream *st = NULL;
2841     MXFIndexTableSegment *segment = NULL;
2842     MXFPartition *p = NULL;
2843     int essence_partition_count = 0;
2844     int i, ret;
2845
2846     st = mxf_get_opatom_stream(mxf);
2847     if (!st)
2848         return 0;
2849
2850     /* TODO: support raw video without an index if they exist */
2851     if (st->codecpar->codec_type != AVMEDIA_TYPE_AUDIO || !is_pcm(st->codecpar->codec_id))
2852         return 0;
2853
2854     /* check if file already has a IndexTableSegment */
2855     for (i = 0; i < mxf->metadata_sets_count; i++) {
2856         if (mxf->metadata_sets[i]->type == IndexTableSegment)
2857             return 0;
2858     }
2859
2860     /* find the essence partition */
2861     for (i = 0; i < mxf->partitions_count; i++) {
2862         /* BodySID == 0 -> no essence */
2863         if (!mxf->partitions[i].body_sid)
2864             continue;
2865
2866         p = &mxf->partitions[i];
2867         essence_partition_count++;
2868     }
2869
2870     /* only handle files with a single essence partition */
2871     if (essence_partition_count != 1)
2872         return 0;
2873
2874     if (!(segment = av_mallocz(sizeof(*segment))))
2875         return AVERROR(ENOMEM);
2876
2877     if ((ret = mxf_add_metadata_set(mxf, segment))) {
2878         mxf_free_metadataset((MXFMetadataSet**)&segment, 1);
2879         return ret;
2880     }
2881
2882     segment->type = IndexTableSegment;
2883     /* stream will be treated as small EditUnitByteCount */
2884     segment->edit_unit_byte_count = (av_get_bits_per_sample(st->codecpar->codec_id) * st->codecpar->channels) >> 3;
2885     segment->index_start_position = 0;
2886     segment->index_duration = s->streams[0]->duration;
2887     segment->index_sid = p->index_sid;
2888     segment->body_sid = p->body_sid;
2889     return 0;
2890 }
2891
2892 static void mxf_read_random_index_pack(AVFormatContext *s)
2893 {
2894     MXFContext *mxf = s->priv_data;
2895     uint32_t length;
2896     int64_t file_size, max_rip_length, min_rip_length;
2897     KLVPacket klv;
2898
2899     if (!(s->pb->seekable & AVIO_SEEKABLE_NORMAL))
2900         return;
2901
2902     file_size = avio_size(s->pb);
2903
2904     /* S377m says to check the RIP length for "silly" values, without defining "silly".
2905      * The limit below assumes a file with nothing but partition packs and a RIP.
2906      * Before changing this, consider that a muxer may place each sample in its own partition.
2907      *
2908      * 105 is the size of the smallest possible PartitionPack
2909      * 12 is the size of each RIP entry
2910      * 28 is the size of the RIP header and footer, assuming an 8-byte BER
2911      */
2912     max_rip_length = ((file_size - mxf->run_in) / 105) * 12 + 28;
2913     max_rip_length = FFMIN(max_rip_length, INT_MAX); //2 GiB and up is also silly
2914
2915     /* We're only interested in RIPs with at least two entries.. */
2916     min_rip_length = 16+1+24+4;
2917
2918     /* See S377m section 11 */
2919     avio_seek(s->pb, file_size - 4, SEEK_SET);
2920     length = avio_rb32(s->pb);
2921
2922     if (length < min_rip_length || length > max_rip_length)
2923         goto end;
2924     avio_seek(s->pb, file_size - length, SEEK_SET);
2925     if (klv_read_packet(&klv, s->pb) < 0 ||
2926         !IS_KLV_KEY(klv.key, mxf_random_index_pack_key) ||
2927         klv.length != length - 20)
2928         goto end;
2929
2930     avio_skip(s->pb, klv.length - 12);
2931     mxf->footer_partition = avio_rb64(s->pb);
2932
2933     /* sanity check */
2934     if (mxf->run_in + mxf->footer_partition >= file_size) {
2935         av_log(s, AV_LOG_WARNING, "bad FooterPartition in RIP - ignoring\n");
2936         mxf->footer_partition = 0;
2937     }
2938
2939 end:
2940     avio_seek(s->pb, mxf->run_in, SEEK_SET);
2941 }
2942
2943 static int mxf_read_header(AVFormatContext *s)
2944 {
2945     MXFContext *mxf = s->priv_data;
2946     KLVPacket klv;
2947     int64_t essence_offset = 0;
2948     int ret;
2949
2950     mxf->last_forward_tell = INT64_MAX;
2951     mxf->edit_units_per_packet = 1;
2952
2953     if (!mxf_read_sync(s->pb, mxf_header_partition_pack_key, 14)) {
2954         av_log(s, AV_LOG_ERROR, "could not find header partition pack key\n");
2955         return AVERROR_INVALIDDATA;
2956     }
2957     avio_seek(s->pb, -14, SEEK_CUR);
2958     mxf->fc = s;
2959     mxf->run_in = avio_tell(s->pb);
2960
2961     mxf_read_random_index_pack(s);
2962
2963     while (!avio_feof(s->pb)) {
2964         const MXFMetadataReadTableEntry *metadata;
2965
2966         if (klv_read_packet(&klv, s->pb) < 0) {
2967             /* EOF - seek to previous partition or stop */
2968             if(mxf_parse_handle_partition_or_eof(mxf) <= 0)
2969                 break;
2970             else
2971                 continue;
2972         }
2973
2974         PRINT_KEY(s, "read header", klv.key);
2975         av_log(s, AV_LOG_TRACE, "size %"PRIu64" offset %#"PRIx64"\n", klv.length, klv.offset);
2976         if (IS_KLV_KEY(klv.key, mxf_encrypted_triplet_key) ||
2977             IS_KLV_KEY(klv.key, mxf_essence_element_key) ||
2978             IS_KLV_KEY(klv.key, mxf_avid_essence_element_key) ||
2979             IS_KLV_KEY(klv.key, mxf_system_item_key_cp) ||
2980             IS_KLV_KEY(klv.key, mxf_system_item_key_gc)) {
2981
2982             if (!mxf->current_partition) {
2983                 av_log(mxf->fc, AV_LOG_ERROR, "found essence prior to first PartitionPack\n");
2984                 return AVERROR_INVALIDDATA;
2985             }
2986
2987             if (!mxf->current_partition->essence_offset) {
2988                 /* for OP1a we compute essence_offset
2989                  * for OPAtom we point essence_offset after the KL (usually op1a_essence_offset + 20 or 25)
2990                  * TODO: for OP1a we could eliminate this entire if statement, always stopping parsing at op1a_essence_offset
2991                  *       for OPAtom we still need the actual essence_offset though (the KL's length can vary)
2992                  */
2993                 int64_t op1a_essence_offset =
2994                     mxf->current_partition->this_partition +
2995                     round_to_kag(mxf->current_partition->pack_length,       mxf->current_partition->kag_size) +
2996                     round_to_kag(mxf->current_partition->header_byte_count, mxf->current_partition->kag_size) +
2997                     round_to_kag(mxf->current_partition->index_byte_count,  mxf->current_partition->kag_size);
2998
2999                 if (mxf->op == OPAtom) {
3000                     /* point essence_offset to the actual data
3001                     * OPAtom has all the essence in one big KLV
3002                     */
3003                     mxf->current_partition->essence_offset = avio_tell(s->pb);
3004                     mxf->current_partition->essence_length = klv.length;
3005                 } else {
3006                     /* NOTE: op1a_essence_offset may be less than to klv.offset (C0023S01.mxf)  */
3007                     if (IS_KLV_KEY(klv.key, mxf_system_item_key_cp) || IS_KLV_KEY(klv.key, mxf_system_item_key_gc))
3008                         mxf->current_partition->essence_offset = klv.offset;
3009                     else
3010                         mxf->current_partition->essence_offset = op1a_essence_offset;
3011                 }
3012             }
3013
3014             if (!essence_offset)
3015                 essence_offset = klv.offset;
3016
3017             /* seek to footer, previous partition or stop */
3018             if (mxf_parse_handle_essence(mxf) <= 0)
3019                 break;
3020             continue;
3021         } else if (mxf_is_partition_pack_key(klv.key) && mxf->current_partition) {
3022             /* next partition pack - keep going, seek to previous partition or stop */
3023             if(mxf_parse_handle_partition_or_eof(mxf) <= 0)
3024                 break;
3025             else if (mxf->parsing_backward)
3026                 continue;
3027             /* we're still parsing forward. proceed to parsing this partition pack */
3028         }
3029
3030         for (metadata = mxf_metadata_read_table; metadata->read; metadata++) {
3031             if (IS_KLV_KEY(klv.key, metadata->key)) {
3032                 if ((ret = mxf_parse_klv(mxf, klv, metadata->read, metadata->ctx_size, metadata->type)) < 0)
3033                     goto fail;
3034                 break;
3035             }
3036         }
3037         if (!metadata->read) {
3038             av_log(s, AV_LOG_VERBOSE, "Dark key " PRIxUID "\n",
3039                             UID_ARG(klv.key));
3040             avio_skip(s->pb, klv.length);
3041         }
3042     }
3043     /* FIXME avoid seek */
3044     if (!essence_offset)  {
3045         av_log(s, AV_LOG_ERROR, "no essence\n");
3046         ret = AVERROR_INVALIDDATA;
3047         goto fail;
3048     }
3049     avio_seek(s->pb, essence_offset, SEEK_SET);
3050
3051     mxf_compute_essence_containers(mxf);
3052
3053     /* we need to do this before computing the index tables
3054      * to be able to fill in zero IndexDurations with st->duration */
3055     if ((ret = mxf_parse_structural_metadata(mxf)) < 0)
3056         goto fail;
3057
3058     mxf_handle_missing_index_segment(mxf);
3059     if ((ret = mxf_compute_index_tables(mxf)) < 0)
3060         goto fail;
3061
3062     if (mxf->nb_index_tables > 1) {
3063         /* TODO: look up which IndexSID to use via EssenceContainerData */
3064         av_log(mxf->fc, AV_LOG_INFO, "got %i index tables - only the first one (IndexSID %i) will be used\n",
3065                mxf->nb_index_tables, mxf->index_tables[0].index_sid);
3066     } else if (mxf->nb_index_tables == 0 && mxf->op == OPAtom) {
3067         av_log(mxf->fc, AV_LOG_ERROR, "cannot demux OPAtom without an index\n");
3068         ret = AVERROR_INVALIDDATA;
3069         goto fail;
3070     }
3071
3072     mxf_handle_small_eubc(s);
3073
3074     return 0;
3075 fail:
3076     mxf_read_close(s);
3077
3078     return ret;
3079 }
3080
3081 static MXFIndexTable *mxf_find_index_table(MXFContext *mxf, int index_sid)
3082 {
3083     int i;
3084     for (i = 0; i < mxf->nb_index_tables; i++)
3085         if (mxf->index_tables[i].index_sid == index_sid)
3086             return &mxf->index_tables[i];
3087     return NULL;
3088 }
3089
3090 /* Get the edit unit of the next packet from current_offset in a track. The returned edit unit can be original_duration as well! */
3091 static int mxf_get_next_track_edit_unit(MXFContext *mxf, MXFTrack *track, int64_t current_offset, int64_t *edit_unit_out)
3092 {
3093     int64_t a, b, m, offset;
3094     MXFIndexTable *t = mxf_find_index_table(mxf, track->index_sid);
3095
3096     if (!t || track->original_duration <= 0)
3097         return -1;
3098
3099     a = -1;
3100     b = track->original_duration;
3101
3102     while (b - a > 1) {
3103         m = (a + b) >> 1;
3104         if (mxf_edit_unit_absolute_offset(mxf, t, m, NULL, &offset, 0) < 0)
3105             return -1;
3106         if (offset < current_offset)
3107             a = m;
3108         else
3109             b = m;
3110     }
3111
3112     *edit_unit_out = b;
3113
3114     return 0;
3115 }
3116
3117 /**
3118  * Sets mxf->current_edit_unit based on what offset we're currently at.
3119  * @return next_ofs if OK, <0 on error
3120  */
3121 static int64_t mxf_set_current_edit_unit(MXFContext *mxf, int64_t current_offset)
3122 {
3123     int64_t last_ofs = -1, next_ofs = -1;
3124     MXFIndexTable *t = &mxf->index_tables[0];
3125
3126     /* this is called from the OP1a demuxing logic, which means there
3127      * may be no index tables */
3128     if (mxf->nb_index_tables <= 0)
3129         return -1;
3130
3131     /* find mxf->current_edit_unit so that the next edit unit starts ahead of current_offset */
3132     while (mxf->current_edit_unit >= 0) {
3133         if (mxf_edit_unit_absolute_offset(mxf, t, mxf->current_edit_unit + 1, NULL, &next_ofs, 0) < 0)
3134             return -2;
3135
3136         if (next_ofs <= last_ofs) {
3137             /* large next_ofs didn't change or current_edit_unit wrapped
3138              * around this fixes the infinite loop on zzuf3.mxf */
3139             av_log(mxf->fc, AV_LOG_ERROR,
3140                    "next_ofs didn't change. not deriving packet timestamps\n");
3141             return -1;
3142         }
3143
3144         if (next_ofs > current_offset)
3145             break;
3146
3147         last_ofs = next_ofs;
3148         mxf->current_edit_unit++;
3149     }
3150
3151     /* not checking mxf->current_edit_unit >= t->nb_ptses here since CBR files may lack IndexEntryArrays */
3152     if (mxf->current_edit_unit < 0)
3153         return -1;
3154
3155     return next_ofs;
3156 }
3157
3158 static int mxf_compute_sample_count(MXFContext *mxf, int stream_index,
3159                                     uint64_t *sample_count)
3160 {
3161     int i, total = 0, size = 0;
3162     AVStream *st = mxf->fc->streams[stream_index];
3163     MXFTrack *track = st->priv_data;
3164     AVRational time_base = av_inv_q(track->edit_rate);
3165     AVRational sample_rate = av_inv_q(st->time_base);
3166     const MXFSamplesPerFrame *spf = NULL;
3167
3168     if ((sample_rate.num / sample_rate.den) == 48000)
3169         spf = ff_mxf_get_samples_per_frame(mxf->fc, time_base);
3170     if (!spf) {
3171         int remainder = (sample_rate.num * time_base.num) %
3172                         (time_base.den * sample_rate.den);
3173         *sample_count = av_rescale_q(mxf->current_edit_unit, sample_rate, track->edit_rate);
3174         if (remainder)
3175             av_log(mxf->fc, AV_LOG_WARNING,
3176                    "seeking detected on stream #%d with time base (%d/%d) and "
3177                    "sample rate (%d/%d), audio pts won't be accurate.\n",
3178                    stream_index, time_base.num, time_base.den,
3179                    sample_rate.num, sample_rate.den);
3180         return 0;
3181     }
3182
3183     while (spf->samples_per_frame[size]) {
3184         total += spf->samples_per_frame[size];
3185         size++;
3186     }
3187
3188     av_assert2(size);
3189
3190     *sample_count = (mxf->current_edit_unit / size) * (uint64_t)total;
3191     for (i = 0; i < mxf->current_edit_unit % size; i++) {
3192         *sample_count += spf->samples_per_frame[i];
3193     }
3194
3195     return 0;
3196 }
3197
3198 static int mxf_set_audio_pts(MXFContext *mxf, AVCodecParameters *par,
3199                              AVPacket *pkt)
3200 {
3201     MXFTrack *track = mxf->fc->streams[pkt->stream_index]->priv_data;
3202     int64_t bits_per_sample = par->bits_per_coded_sample;
3203
3204     if (!bits_per_sample)
3205         bits_per_sample = av_get_bits_per_sample(par->codec_id);
3206
3207     pkt->pts = track->sample_count;
3208
3209     if (   par->channels <= 0
3210         || bits_per_sample <= 0
3211         || par->channels * (int64_t)bits_per_sample < 8)
3212         return AVERROR(EINVAL);
3213     track->sample_count += pkt->size / (par->channels * (int64_t)bits_per_sample / 8);
3214     return 0;
3215 }
3216
3217 static int mxf_set_pts(MXFContext *mxf, AVStream *st, AVPacket *pkt, int64_t next_ofs)
3218 {
3219     AVCodecParameters *par = st->codecpar;
3220     MXFTrack *track = st->priv_data;
3221
3222     if (par->codec_type == AVMEDIA_TYPE_VIDEO && (next_ofs >= 0 || next_ofs == -2 && st->duration == mxf->current_edit_unit + 1)) {
3223         /* mxf->current_edit_unit good - see if we have an
3224          * index table to derive timestamps from */
3225         MXFIndexTable *t = &mxf->index_tables[0];
3226
3227         if (mxf->nb_index_tables >= 1 && mxf->current_edit_unit < t->nb_ptses) {
3228             pkt->dts = mxf->current_edit_unit + t->first_dts;
3229             pkt->pts = t->ptses[mxf->current_edit_unit];
3230         } else if (track && track->intra_only) {
3231             /* intra-only -> PTS = EditUnit.
3232              * let utils.c figure out DTS since it can be < PTS if low_delay = 0 (Sony IMX30) */
3233             pkt->pts = mxf->current_edit_unit;
3234         }
3235     } else if (par->codec_type == AVMEDIA_TYPE_AUDIO) {
3236         int ret = mxf_set_audio_pts(mxf, par, pkt);
3237         if (ret < 0)
3238             return ret;
3239     }
3240     return 0;
3241 }
3242
3243 static int mxf_read_packet_old(AVFormatContext *s, AVPacket *pkt)
3244 {
3245     KLVPacket klv;
3246     MXFContext *mxf = s->priv_data;
3247     int ret;
3248
3249     while ((ret = klv_read_packet(&klv, s->pb)) == 0) {
3250         PRINT_KEY(s, "read packet", klv.key);
3251         av_log(s, AV_LOG_TRACE, "size %"PRIu64" offset %#"PRIx64"\n", klv.length, klv.offset);
3252         if (IS_KLV_KEY(klv.key, mxf_encrypted_triplet_key)) {
3253             ret = mxf_decrypt_triplet(s, pkt, &klv);
3254             if (ret < 0) {
3255                 av_log(s, AV_LOG_ERROR, "invalid encoded triplet\n");
3256                 return ret;
3257             }
3258             return 0;
3259         }
3260         if (IS_KLV_KEY(klv.key, mxf_essence_element_key) ||
3261             IS_KLV_KEY(klv.key, mxf_canopus_essence_element_key) ||
3262             IS_KLV_KEY(klv.key, mxf_avid_essence_element_key)) {
3263             int body_sid = find_body_sid_by_offset(mxf, klv.offset);
3264             int index = mxf_get_stream_index(s, &klv, body_sid);
3265             int64_t next_ofs, next_klv;
3266             AVStream *st;
3267
3268             if (index < 0) {
3269                 av_log(s, AV_LOG_ERROR,
3270                        "error getting stream index %"PRIu32"\n",
3271                        AV_RB32(klv.key + 12));
3272                 goto skip;
3273             }
3274
3275             st = s->streams[index];
3276
3277             if (s->streams[index]->discard == AVDISCARD_ALL)
3278                 goto skip;
3279
3280             next_klv = avio_tell(s->pb) + klv.length;
3281             next_ofs = mxf_set_current_edit_unit(mxf, klv.offset);
3282
3283             if (next_ofs >= 0 && next_klv > next_ofs) {
3284                 /* if this check is hit then it's possible OPAtom was treated as OP1a
3285                  * truncate the packet since it's probably very large (>2 GiB is common) */
3286                 avpriv_request_sample(s,
3287                                       "OPAtom misinterpreted as OP1a? "
3288                                       "KLV for edit unit %"PRId64" extending into "
3289                                       "next edit unit",
3290                                       mxf->current_edit_unit);
3291                 klv.length = next_ofs - avio_tell(s->pb);
3292             }
3293
3294             /* check for 8 channels AES3 element */
3295             if (klv.key[12] == 0x06 && klv.key[13] == 0x01 && klv.key[14] == 0x10) {
3296                 ret = mxf_get_d10_aes3_packet(s->pb, s->streams[index],
3297                                               pkt, klv.length);
3298                 if (ret < 0) {
3299                     av_log(s, AV_LOG_ERROR, "error reading D-10 aes3 frame\n");
3300                     return ret;
3301                 }
3302             } else {
3303                 ret = av_get_packet(s->pb, pkt, klv.length);
3304                 if (ret < 0)
3305                     return ret;
3306             }
3307             pkt->stream_index = index;
3308             pkt->pos = klv.offset;
3309
3310             ret = mxf_set_pts(mxf, st, pkt, next_ofs);
3311             if (ret < 0)
3312                 return ret;
3313
3314             /* seek for truncated packets */
3315             avio_seek(s->pb, next_klv, SEEK_SET);
3316
3317             return 0;
3318         } else
3319         skip:
3320             avio_skip(s->pb, klv.length);
3321     }
3322     return avio_feof(s->pb) ? AVERROR_EOF : ret;
3323 }
3324
3325 static int mxf_read_packet(AVFormatContext *s, AVPacket *pkt)
3326 {
3327     MXFContext *mxf = s->priv_data;
3328     int ret, size;
3329     int64_t ret64, pos, next_pos;
3330     AVStream *st;
3331     MXFIndexTable *t;
3332     MXFTrack *track;
3333     int edit_units;
3334
3335     if (mxf->op != OPAtom)
3336         return mxf_read_packet_old(s, pkt);
3337
3338     // If we have no streams then we basically are at EOF
3339     st = mxf_get_opatom_stream(mxf);
3340     if (!st)
3341         return AVERROR_EOF;
3342
3343     track = st->priv_data;
3344
3345     /* OPAtom - clip wrapped demuxing */
3346     /* NOTE: mxf_read_header() makes sure nb_index_tables > 0 for OPAtom */
3347     t = &mxf->index_tables[0];
3348
3349     if (mxf->current_edit_unit >= track->original_duration)
3350         return AVERROR_EOF;
3351
3352     edit_units = FFMIN(mxf->edit_units_per_packet, track->original_duration - mxf->current_edit_unit);
3353
3354     if ((ret = mxf_edit_unit_absolute_offset(mxf, t, mxf->current_edit_unit, NULL, &pos, 1)) < 0)
3355         return ret;
3356
3357     /* compute size by finding the next edit unit or the end of the essence container
3358      * not pretty, but it works */
3359     if ((ret = mxf_edit_unit_absolute_offset(mxf, t, mxf->current_edit_unit + edit_units, NULL, &next_pos, 0)) < 0 &&
3360         (next_pos = mxf_essence_container_end(mxf, t->body_sid)) <= 0) {
3361         av_log(s, AV_LOG_ERROR, "unable to compute the size of the last packet\n");
3362         return AVERROR_INVALIDDATA;
3363     }
3364
3365     if ((size = next_pos - pos) <= 0) {
3366         av_log(s, AV_LOG_ERROR, "bad size: %i\n", size);
3367         return AVERROR_INVALIDDATA;
3368     }
3369
3370     if ((ret64 = avio_seek(s->pb, pos, SEEK_SET)) < 0)
3371         return ret64;
3372
3373     if ((size = av_get_packet(s->pb, pkt, size)) < 0)
3374         return size;
3375
3376     pkt->stream_index = st->index;
3377
3378     ret = mxf_set_pts(mxf, st, pkt, next_pos);
3379     if (ret < 0)
3380         return ret;
3381
3382     mxf->current_edit_unit += edit_units;
3383
3384     return 0;
3385 }
3386
3387 static int mxf_read_close(AVFormatContext *s)
3388 {
3389     MXFContext *mxf = s->priv_data;
3390     int i;
3391
3392     av_freep(&mxf->packages_refs);
3393     av_freep(&mxf->essence_container_data_refs);
3394
3395     for (i = 0; i < s->nb_streams; i++)
3396         s->streams[i]->priv_data = NULL;
3397
3398     for (i = 0; i < mxf->metadata_sets_count; i++) {
3399         mxf_free_metadataset(mxf->metadata_sets + i, 1);
3400     }
3401     av_freep(&mxf->partitions);
3402     av_freep(&mxf->metadata_sets);
3403     av_freep(&mxf->aesc);
3404     av_freep(&mxf->local_tags);
3405
3406     if (mxf->index_tables) {
3407         for (i = 0; i < mxf->nb_index_tables; i++) {
3408             av_freep(&mxf->index_tables[i].segments);
3409             av_freep(&mxf->index_tables[i].ptses);
3410             av_freep(&mxf->index_tables[i].fake_index);
3411             av_freep(&mxf->index_tables[i].offsets);
3412         }
3413     }
3414     av_freep(&mxf->index_tables);
3415
3416     return 0;
3417 }
3418
3419 static int mxf_probe(AVProbeData *p) {
3420     const uint8_t *bufp = p->buf;
3421     const uint8_t *end = p->buf + p->buf_size;
3422
3423     if (p->buf_size < sizeof(mxf_header_partition_pack_key))
3424         return 0;
3425
3426     /* Must skip Run-In Sequence and search for MXF header partition pack key SMPTE 377M 5.5 */
3427     end -= sizeof(mxf_header_partition_pack_key);
3428
3429     for (; bufp < end;) {
3430         if (!((bufp[13] - 1) & 0xF2)){
3431             if (AV_RN32(bufp   ) == AV_RN32(mxf_header_partition_pack_key   ) &&
3432                 AV_RN32(bufp+ 4) == AV_RN32(mxf_header_partition_pack_key+ 4) &&
3433                 AV_RN32(bufp+ 8) == AV_RN32(mxf_header_partition_pack_key+ 8) &&
3434                 AV_RN16(bufp+12) == AV_RN16(mxf_header_partition_pack_key+12))
3435                 return AVPROBE_SCORE_MAX;
3436             bufp ++;
3437         } else
3438             bufp += 10;
3439     }
3440
3441     return 0;
3442 }
3443
3444 /* rudimentary byte seek */
3445 /* XXX: use MXF Index */
3446 static int mxf_read_seek(AVFormatContext *s, int stream_index, int64_t sample_time, int flags)
3447 {
3448     AVStream *st = s->streams[stream_index];
3449     int64_t seconds;
3450     MXFContext* mxf = s->priv_data;
3451     int64_t seekpos;
3452     int i, ret;
3453     MXFIndexTable *t;
3454     MXFTrack *source_track = st->priv_data;
3455
3456     if(st->codecpar->codec_type == AVMEDIA_TYPE_DATA)
3457         return 0;
3458
3459     /* if audio then truncate sample_time to EditRate */
3460     if (st->codecpar->codec_type == AVMEDIA_TYPE_AUDIO)
3461         sample_time = av_rescale_q(sample_time, st->time_base,
3462                                    av_inv_q(source_track->edit_rate));
3463
3464     if (mxf->nb_index_tables <= 0) {
3465         if (!s->bit_rate)
3466             return AVERROR_INVALIDDATA;
3467         if (sample_time < 0)
3468             sample_time = 0;
3469         seconds = av_rescale(sample_time, st->time_base.num, st->time_base.den);
3470
3471         seekpos = avio_seek(s->pb, (s->bit_rate * seconds) >> 3, SEEK_SET);
3472         if (seekpos < 0)
3473             return seekpos;
3474
3475         ff_update_cur_dts(s, st, sample_time);
3476         mxf->current_edit_unit = sample_time;
3477     } else {
3478         t = &mxf->index_tables[0];
3479         if (t->index_sid != source_track->index_sid) {
3480             /* If the first index table does not belong to the stream, then find a stream which does belong to the index table */
3481             for (i = 0; i < s->nb_streams; i++) {
3482                 MXFTrack *new_source_track = s->streams[i]->priv_data;
3483                 if (new_source_track && new_source_track->index_sid == t->index_sid) {
3484                     sample_time = av_rescale_q(sample_time, new_source_track->edit_rate, source_track->edit_rate);
3485                     source_track = new_source_track;
3486                     st = s->streams[i];
3487                     break;
3488                 }
3489             }
3490             if (i == s->nb_streams)
3491                 return AVERROR_INVALIDDATA;
3492         }
3493
3494         /* clamp above zero, else ff_index_search_timestamp() returns negative
3495          * this also means we allow seeking before the start */
3496         sample_time = FFMAX(sample_time, 0);
3497
3498         if (t->fake_index) {
3499             /* The first frames may not be keyframes in presentation order, so
3500              * we have to advance the target to be able to find the first
3501              * keyframe backwards... */
3502             if (!(flags & AVSEEK_FLAG_ANY) &&
3503                 (flags & AVSEEK_FLAG_BACKWARD) &&
3504                 t->ptses[0] != AV_NOPTS_VALUE &&
3505                 sample_time < t->ptses[0] &&
3506                 (t->fake_index[t->ptses[0]].flags & AVINDEX_KEYFRAME))
3507                 sample_time = t->ptses[0];
3508
3509             /* behave as if we have a proper index */
3510             if ((sample_time = ff_index_search_timestamp(t->fake_index, t->nb_ptses, sample_time, flags)) < 0)
3511                 return sample_time;
3512             /* get the stored order index from the display order index */
3513             sample_time += t->offsets[sample_time];
3514         } else {
3515             /* no IndexEntryArray (one or more CBR segments)
3516              * make sure we don't seek past the end */
3517             sample_time = FFMIN(sample_time, source_track->original_duration - 1);
3518         }
3519
3520         if ((ret = mxf_edit_unit_absolute_offset(mxf, t, sample_time, &sample_time, &seekpos, 1)) < 0)
3521             return ret;
3522
3523         ff_update_cur_dts(s, st, sample_time);
3524         mxf->current_edit_unit = sample_time;
3525         avio_seek(s->pb, seekpos, SEEK_SET);
3526     }
3527
3528     // Update all tracks sample count
3529     for (i = 0; i < s->nb_streams; i++) {
3530         AVStream *cur_st = s->streams[i];
3531         MXFTrack *cur_track = cur_st->priv_data;
3532         if (cur_st->codecpar->codec_type == AVMEDIA_TYPE_AUDIO) {
3533             int64_t track_edit_unit;
3534             if (st != cur_st && mxf_get_next_track_edit_unit(mxf, cur_track, seekpos, &track_edit_unit) >= 0) {
3535                 cur_track->sample_count = av_rescale_q(track_edit_unit,
3536                                                        av_inv_q(cur_track->edit_rate),
3537                                                        cur_st->time_base);
3538             } else {
3539                 uint64_t current_sample_count = 0;
3540                 ret = mxf_compute_sample_count(mxf, i, &current_sample_count);
3541                 if (ret < 0)
3542                     return ret;
3543                 cur_track->sample_count = current_sample_count;
3544             }
3545         }
3546     }
3547     return 0;
3548 }
3549
3550 AVInputFormat ff_mxf_demuxer = {
3551     .name           = "mxf",
3552     .long_name      = NULL_IF_CONFIG_SMALL("MXF (Material eXchange Format)"),
3553     .flags          = AVFMT_SEEK_TO_PTS,
3554     .priv_data_size = sizeof(MXFContext),
3555   &n