mxfdec: Don't crash in mxf_packet_timestamps() if current_edit_unit overflows
[ffmpeg.git] / libavformat / mxfdec.c
1 /*
2  * MXF demuxer.
3  * Copyright (c) 2006 SmartJog S.A., Baptiste Coudurier <baptiste dot coudurier at smartjog dot com>
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /*
23  * References
24  * SMPTE 336M KLV Data Encoding Protocol Using Key-Length-Value
25  * SMPTE 377M MXF File Format Specifications
26  * SMPTE 378M Operational Pattern 1a
27  * SMPTE 379M MXF Generic Container
28  * SMPTE 381M Mapping MPEG Streams into the MXF Generic Container
29  * SMPTE 382M Mapping AES3 and Broadcast Wave Audio into the MXF Generic Container
30  * SMPTE 383M Mapping DV-DIF Data to the MXF Generic Container
31  *
32  * Principle
33  * Search for Track numbers which will identify essence element KLV packets.
34  * Search for SourcePackage which define tracks which contains Track numbers.
35  * Material Package contains tracks with reference to SourcePackage tracks.
36  * Search for Descriptors (Picture, Sound) which contains codec info and parameters.
37  * Assign Descriptors to correct Tracks.
38  *
39  * Metadata reading functions read Local Tags, get InstanceUID(0x3C0A) then add MetaDataSet to MXFContext.
40  * Metadata parsing resolves Strong References to objects.
41  *
42  * Simple demuxer, only OP1A supported and some files might not work at all.
43  * Only tracks with associated descriptors will be decoded. "Highly Desirable" SMPTE 377M D.1
44  */
45
46 //#define DEBUG
47
48 #include "libavutil/aes.h"
49 #include "libavutil/mathematics.h"
50 #include "libavcodec/bytestream.h"
51 #include "avformat.h"
52 #include "internal.h"
53 #include "mxf.h"
54
55 typedef enum {
56     Header,
57     BodyPartition,
58     Footer
59 } MXFPartitionType;
60
61 typedef enum {
62     OP1a,
63     OP1b,
64     OP1c,
65     OP2a,
66     OP2b,
67     OP2c,
68     OP3a,
69     OP3b,
70     OP3c,
71     OPAtom,
72     OPSonyOpt,  /* FATE sample, violates the spec in places */
73 } MXFOP;
74
75 typedef struct {
76     int closed;
77     int complete;
78     MXFPartitionType type;
79     uint64_t previous_partition;
80     int index_sid;
81     int body_sid;
82     int64_t this_partition;
83     int64_t essence_offset;         ///< absolute offset of essence
84     int64_t essence_length;
85     int32_t kag_size;
86     int64_t header_byte_count;
87     int64_t index_byte_count;
88     int pack_length;
89 } MXFPartition;
90
91 typedef struct {
92     UID uid;
93     enum MXFMetadataSetType type;
94     UID source_container_ul;
95 } MXFCryptoContext;
96
97 typedef struct {
98     UID uid;
99     enum MXFMetadataSetType type;
100     UID source_package_uid;
101     UID data_definition_ul;
102     int64_t duration;
103     int64_t start_position;
104     int source_track_id;
105 } MXFStructuralComponent;
106
107 typedef struct {
108     UID uid;
109     enum MXFMetadataSetType type;
110     UID data_definition_ul;
111     UID *structural_components_refs;
112     int structural_components_count;
113     int64_t duration;
114 } MXFSequence;
115
116 typedef struct {
117     UID uid;
118     enum MXFMetadataSetType type;
119     MXFSequence *sequence; /* mandatory, and only one */
120     UID sequence_ref;
121     int track_id;
122     uint8_t track_number[4];
123     AVRational edit_rate;
124 } MXFTrack;
125
126 typedef struct {
127     UID uid;
128     enum MXFMetadataSetType type;
129     UID essence_container_ul;
130     UID essence_codec_ul;
131     AVRational sample_rate;
132     AVRational aspect_ratio;
133     int width;
134     int height;
135     int channels;
136     int bits_per_sample;
137     UID *sub_descriptors_refs;
138     int sub_descriptors_count;
139     int linked_track_id;
140     uint8_t *extradata;
141     int extradata_size;
142     enum PixelFormat pix_fmt;
143 } MXFDescriptor;
144
145 typedef struct {
146     UID uid;
147     enum MXFMetadataSetType type;
148     int edit_unit_byte_count;
149     int index_sid;
150     int body_sid;
151     AVRational index_edit_rate;
152     uint64_t index_start_position;
153     uint64_t index_duration;
154     int8_t *temporal_offset_entries;
155     int *flag_entries;
156     uint64_t *stream_offset_entries;
157     int nb_index_entries;
158 } MXFIndexTableSegment;
159
160 typedef struct {
161     UID uid;
162     enum MXFMetadataSetType type;
163     UID package_uid;
164     UID *tracks_refs;
165     int tracks_count;
166     MXFDescriptor *descriptor; /* only one */
167     UID descriptor_ref;
168 } MXFPackage;
169
170 typedef struct {
171     UID uid;
172     enum MXFMetadataSetType type;
173 } MXFMetadataSet;
174
175 /* decoded index table */
176 typedef struct {
177     int index_sid;
178     int body_sid;
179     int nb_ptses;               /* number of PTSes or total duration of index */
180     int64_t first_dts;          /* DTS = EditUnit + first_dts */
181     int64_t *ptses;             /* maps EditUnit -> PTS */
182     int nb_segments;
183     MXFIndexTableSegment **segments;    /* sorted by IndexStartPosition */
184     AVIndexEntry *fake_index;   /* used for calling ff_index_search_timestamp() */
185 } MXFIndexTable;
186
187 typedef struct {
188     MXFPartition *partitions;
189     unsigned partitions_count;
190     MXFOP op;
191     UID *packages_refs;
192     int packages_count;
193     MXFMetadataSet **metadata_sets;
194     int metadata_sets_count;
195     AVFormatContext *fc;
196     struct AVAES *aesc;
197     uint8_t *local_tags;
198     int local_tags_count;
199     uint64_t footer_partition;
200     KLVPacket current_klv_data;
201     int current_klv_index;
202     int run_in;
203     MXFPartition *current_partition;
204     int parsing_backward;
205     int64_t last_forward_tell;
206     int last_forward_partition;
207     int current_edit_unit;
208     int nb_index_tables;
209     MXFIndexTable *index_tables;
210 } MXFContext;
211
212 enum MXFWrappingScheme {
213     Frame,
214     Clip,
215 };
216
217 /* NOTE: klv_offset is not set (-1) for local keys */
218 typedef int MXFMetadataReadFunc(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset);
219
220 typedef struct {
221     const UID key;
222     MXFMetadataReadFunc *read;
223     int ctx_size;
224     enum MXFMetadataSetType type;
225 } MXFMetadataReadTableEntry;
226
227 /* partial keys to match */
228 static const uint8_t mxf_header_partition_pack_key[]       = { 0x06,0x0e,0x2b,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x02 };
229 static const uint8_t mxf_essence_element_key[]             = { 0x06,0x0e,0x2b,0x34,0x01,0x02,0x01,0x01,0x0d,0x01,0x03,0x01 };
230 static const uint8_t mxf_avid_essence_element_key[]        = { 0x06,0x0e,0x2b,0x34,0x01,0x02,0x01,0x01,0x0e,0x04,0x03,0x01 };
231 static const uint8_t mxf_system_item_key[]                 = { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0D,0x01,0x03,0x01,0x04 };
232 static const uint8_t mxf_klv_key[]                         = { 0x06,0x0e,0x2b,0x34 };
233 /* complete keys to match */
234 static const uint8_t mxf_crypto_source_container_ul[]      = { 0x06,0x0e,0x2b,0x34,0x01,0x01,0x01,0x09,0x06,0x01,0x01,0x02,0x02,0x00,0x00,0x00 };
235 static const uint8_t mxf_encrypted_triplet_key[]           = { 0x06,0x0e,0x2b,0x34,0x02,0x04,0x01,0x07,0x0d,0x01,0x03,0x01,0x02,0x7e,0x01,0x00 };
236 static const uint8_t mxf_encrypted_essence_container[]     = { 0x06,0x0e,0x2b,0x34,0x04,0x01,0x01,0x07,0x0d,0x01,0x03,0x01,0x02,0x0b,0x01,0x00 };
237 static const uint8_t mxf_sony_mpeg4_extradata[]            = { 0x06,0x0e,0x2b,0x34,0x04,0x01,0x01,0x01,0x0e,0x06,0x06,0x02,0x02,0x01,0x00,0x00 };
238
239 #define IS_KLV_KEY(x, y) (!memcmp(x, y, sizeof(y)))
240
241 static int64_t klv_decode_ber_length(AVIOContext *pb)
242 {
243     uint64_t size = avio_r8(pb);
244     if (size & 0x80) { /* long form */
245         int bytes_num = size & 0x7f;
246         /* SMPTE 379M 5.3.4 guarantee that bytes_num must not exceed 8 bytes */
247         if (bytes_num > 8)
248             return AVERROR_INVALIDDATA;
249         size = 0;
250         while (bytes_num--)
251             size = size << 8 | avio_r8(pb);
252     }
253     return size;
254 }
255
256 static int mxf_read_sync(AVIOContext *pb, const uint8_t *key, unsigned size)
257 {
258     int i, b;
259     for (i = 0; i < size && !pb->eof_reached; i++) {
260         b = avio_r8(pb);
261         if (b == key[0])
262             i = 0;
263         else if (b != key[i])
264             i = -1;
265     }
266     return i == size;
267 }
268
269 static int klv_read_packet(KLVPacket *klv, AVIOContext *pb)
270 {
271     if (!mxf_read_sync(pb, mxf_klv_key, 4))
272         return AVERROR_INVALIDDATA;
273     klv->offset = avio_tell(pb) - 4;
274     memcpy(klv->key, mxf_klv_key, 4);
275     avio_read(pb, klv->key + 4, 12);
276     klv->length = klv_decode_ber_length(pb);
277     return klv->length == -1 ? -1 : 0;
278 }
279
280 static int mxf_get_stream_index(AVFormatContext *s, KLVPacket *klv)
281 {
282     int i;
283
284     for (i = 0; i < s->nb_streams; i++) {
285         MXFTrack *track = s->streams[i]->priv_data;
286         /* SMPTE 379M 7.3 */
287         if (!memcmp(klv->key + sizeof(mxf_essence_element_key), track->track_number, sizeof(track->track_number)))
288             return i;
289     }
290     /* return 0 if only one stream, for OP Atom files with 0 as track number */
291     return s->nb_streams == 1 ? 0 : -1;
292 }
293
294 /* XXX: use AVBitStreamFilter */
295 static int mxf_get_d10_aes3_packet(AVIOContext *pb, AVStream *st, AVPacket *pkt, int64_t length)
296 {
297     const uint8_t *buf_ptr, *end_ptr;
298     uint8_t *data_ptr;
299     int i;
300
301     if (length > 61444) /* worst case PAL 1920 samples 8 channels */
302         return AVERROR_INVALIDDATA;
303     length = av_get_packet(pb, pkt, length);
304     if (length < 0)
305         return length;
306     data_ptr = pkt->data;
307     end_ptr = pkt->data + length;
308     buf_ptr = pkt->data + 4; /* skip SMPTE 331M header */
309     for (; buf_ptr + st->codec->channels*4 < end_ptr; ) {
310         for (i = 0; i < st->codec->channels; i++) {
311             uint32_t sample = bytestream_get_le32(&buf_ptr);
312             if (st->codec->bits_per_coded_sample == 24)
313                 bytestream_put_le24(&data_ptr, (sample >> 4) & 0xffffff);
314             else
315                 bytestream_put_le16(&data_ptr, (sample >> 12) & 0xffff);
316         }
317         buf_ptr += 32 - st->codec->channels*4; // always 8 channels stored SMPTE 331M
318     }
319     av_shrink_packet(pkt, data_ptr - pkt->data);
320     return 0;
321 }
322
323 static int mxf_decrypt_triplet(AVFormatContext *s, AVPacket *pkt, KLVPacket *klv)
324 {
325     static const uint8_t checkv[16] = {0x43, 0x48, 0x55, 0x4b, 0x43, 0x48, 0x55, 0x4b, 0x43, 0x48, 0x55, 0x4b, 0x43, 0x48, 0x55, 0x4b};
326     MXFContext *mxf = s->priv_data;
327     AVIOContext *pb = s->pb;
328     int64_t end = avio_tell(pb) + klv->length;
329     int64_t size;
330     uint64_t orig_size;
331     uint64_t plaintext_size;
332     uint8_t ivec[16];
333     uint8_t tmpbuf[16];
334     int index;
335
336     if (!mxf->aesc && s->key && s->keylen == 16) {
337         mxf->aesc = av_malloc(av_aes_size);
338         if (!mxf->aesc)
339             return AVERROR(ENOMEM);
340         av_aes_init(mxf->aesc, s->key, 128, 1);
341     }
342     // crypto context
343     avio_skip(pb, klv_decode_ber_length(pb));
344     // plaintext offset
345     klv_decode_ber_length(pb);
346     plaintext_size = avio_rb64(pb);
347     // source klv key
348     klv_decode_ber_length(pb);
349     avio_read(pb, klv->key, 16);
350     if (!IS_KLV_KEY(klv, mxf_essence_element_key))
351         return AVERROR_INVALIDDATA;
352     index = mxf_get_stream_index(s, klv);
353     if (index < 0)
354         return AVERROR_INVALIDDATA;
355     // source size
356     klv_decode_ber_length(pb);
357     orig_size = avio_rb64(pb);
358     if (orig_size < plaintext_size)
359         return AVERROR_INVALIDDATA;
360     // enc. code
361     size = klv_decode_ber_length(pb);
362     if (size < 32 || size - 32 < orig_size)
363         return AVERROR_INVALIDDATA;
364     avio_read(pb, ivec, 16);
365     avio_read(pb, tmpbuf, 16);
366     if (mxf->aesc)
367         av_aes_crypt(mxf->aesc, tmpbuf, tmpbuf, 1, ivec, 1);
368     if (memcmp(tmpbuf, checkv, 16))
369         av_log(s, AV_LOG_ERROR, "probably incorrect decryption key\n");
370     size -= 32;
371     size = av_get_packet(pb, pkt, size);
372     if (size < 0)
373         return size;
374     else if (size < plaintext_size)
375         return AVERROR_INVALIDDATA;
376     size -= plaintext_size;
377     if (mxf->aesc)
378         av_aes_crypt(mxf->aesc, &pkt->data[plaintext_size],
379                      &pkt->data[plaintext_size], size >> 4, ivec, 1);
380     av_shrink_packet(pkt, orig_size);
381     pkt->stream_index = index;
382     avio_skip(pb, end - avio_tell(pb));
383     return 0;
384 }
385
386 static int mxf_read_primer_pack(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
387 {
388     MXFContext *mxf = arg;
389     int item_num = avio_rb32(pb);
390     int item_len = avio_rb32(pb);
391
392     if (item_len != 18) {
393         av_log_ask_for_sample(pb, "unsupported primer pack item length %d\n",
394                               item_len);
395         return AVERROR_PATCHWELCOME;
396     }
397     if (item_num > UINT_MAX / item_len)
398         return AVERROR_INVALIDDATA;
399     mxf->local_tags_count = item_num;
400     mxf->local_tags = av_malloc(item_num*item_len);
401     if (!mxf->local_tags)
402         return AVERROR(ENOMEM);
403     avio_read(pb, mxf->local_tags, item_num*item_len);
404     return 0;
405 }
406
407 static int mxf_read_partition_pack(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
408 {
409     MXFContext *mxf = arg;
410     MXFPartition *partition, *tmp_part;
411     UID op;
412     uint64_t footer_partition;
413
414     if (mxf->partitions_count+1 >= UINT_MAX / sizeof(*mxf->partitions))
415         return AVERROR(ENOMEM);
416
417     tmp_part = av_realloc(mxf->partitions, (mxf->partitions_count + 1) * sizeof(*mxf->partitions));
418     if (!tmp_part)
419         return AVERROR(ENOMEM);
420     mxf->partitions = tmp_part;
421
422     if (mxf->parsing_backward) {
423         /* insert the new partition pack in the middle
424          * this makes the entries in mxf->partitions sorted by offset */
425         memmove(&mxf->partitions[mxf->last_forward_partition+1],
426                 &mxf->partitions[mxf->last_forward_partition],
427                 (mxf->partitions_count - mxf->last_forward_partition)*sizeof(*mxf->partitions));
428         partition = mxf->current_partition = &mxf->partitions[mxf->last_forward_partition];
429     } else {
430         mxf->last_forward_partition++;
431         partition = mxf->current_partition = &mxf->partitions[mxf->partitions_count];
432     }
433
434     memset(partition, 0, sizeof(*partition));
435     mxf->partitions_count++;
436     partition->pack_length = avio_tell(pb) - klv_offset + size;
437
438     switch(uid[13]) {
439     case 2:
440         partition->type = Header;
441         break;
442     case 3:
443         partition->type = BodyPartition;
444         break;
445     case 4:
446         partition->type = Footer;
447         break;
448     default:
449         av_log(mxf->fc, AV_LOG_ERROR, "unknown partition type %i\n", uid[13]);
450         return AVERROR_INVALIDDATA;
451     }
452
453     /* consider both footers to be closed (there is only Footer and CompleteFooter) */
454     partition->closed = partition->type == Footer || !(uid[14] & 1);
455     partition->complete = uid[14] > 2;
456     avio_skip(pb, 4);
457     partition->kag_size = avio_rb32(pb);
458     partition->this_partition = avio_rb64(pb);
459     partition->previous_partition = avio_rb64(pb);
460     footer_partition = avio_rb64(pb);
461     partition->header_byte_count = avio_rb64(pb);
462     partition->index_byte_count = avio_rb64(pb);
463     partition->index_sid = avio_rb32(pb);
464     avio_skip(pb, 8);
465     partition->body_sid = avio_rb32(pb);
466     avio_read(pb, op, sizeof(UID));
467
468     /* some files don'thave FooterPartition set in every partition */
469     if (footer_partition) {
470         if (mxf->footer_partition && mxf->footer_partition != footer_partition) {
471             av_log(mxf->fc, AV_LOG_ERROR,
472                    "inconsistent FooterPartition value: %"PRIu64" != %"PRIu64"\n",
473                    mxf->footer_partition, footer_partition);
474         } else {
475             mxf->footer_partition = footer_partition;
476         }
477     }
478
479     av_dlog(mxf->fc,
480             "PartitionPack: ThisPartition = 0x%"PRIX64
481             ", PreviousPartition = 0x%"PRIX64", "
482             "FooterPartition = 0x%"PRIX64", IndexSID = %i, BodySID = %i\n",
483             partition->this_partition,
484             partition->previous_partition, footer_partition,
485             partition->index_sid, partition->body_sid);
486
487     /* sanity check PreviousPartition if set */
488     if (partition->previous_partition &&
489         mxf->run_in + partition->previous_partition >= klv_offset) {
490         av_log(mxf->fc, AV_LOG_ERROR,
491                "PreviousPartition points to this partition or forward\n");
492         return AVERROR_INVALIDDATA;
493     }
494
495     if      (op[12] == 1 && op[13] == 1) mxf->op = OP1a;
496     else if (op[12] == 1 && op[13] == 2) mxf->op = OP1b;
497     else if (op[12] == 1 && op[13] == 3) mxf->op = OP1c;
498     else if (op[12] == 2 && op[13] == 1) mxf->op = OP2a;
499     else if (op[12] == 2 && op[13] == 2) mxf->op = OP2b;
500     else if (op[12] == 2 && op[13] == 3) mxf->op = OP2c;
501     else if (op[12] == 3 && op[13] == 1) mxf->op = OP3a;
502     else if (op[12] == 3 && op[13] == 2) mxf->op = OP3b;
503     else if (op[12] == 3 && op[13] == 3) mxf->op = OP3c;
504     else if (op[12] == 0x10)             mxf->op = OPAtom;
505     else if (op[12] == 64&& op[13] == 1) mxf->op = OPSonyOpt;
506     else {
507         av_log(mxf->fc, AV_LOG_ERROR, "unknown operational pattern: %02xh %02xh - guessing OP1a\n", op[12], op[13]);
508         mxf->op = OP1a;
509     }
510
511     if (partition->kag_size <= 0 || partition->kag_size > (1 << 20)) {
512         av_log(mxf->fc, AV_LOG_WARNING, "invalid KAGSize %i - guessing ", partition->kag_size);
513
514         if (mxf->op == OPSonyOpt)
515             partition->kag_size = 512;
516         else
517             partition->kag_size = 1;
518
519         av_log(mxf->fc, AV_LOG_WARNING, "%i\n", partition->kag_size);
520     }
521
522     return 0;
523 }
524
525 static int mxf_add_metadata_set(MXFContext *mxf, void *metadata_set)
526 {
527     MXFMetadataSet **tmp;
528     if (mxf->metadata_sets_count+1 >= UINT_MAX / sizeof(*mxf->metadata_sets))
529         return AVERROR(ENOMEM);
530     tmp = av_realloc(mxf->metadata_sets, (mxf->metadata_sets_count + 1) * sizeof(*mxf->metadata_sets));
531     if (!tmp)
532         return AVERROR(ENOMEM);
533     mxf->metadata_sets = tmp;
534     mxf->metadata_sets[mxf->metadata_sets_count] = metadata_set;
535     mxf->metadata_sets_count++;
536     return 0;
537 }
538
539 static int mxf_read_cryptographic_context(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
540 {
541     MXFCryptoContext *cryptocontext = arg;
542     if (size != 16)
543         return AVERROR_INVALIDDATA;
544     if (IS_KLV_KEY(uid, mxf_crypto_source_container_ul))
545         avio_read(pb, cryptocontext->source_container_ul, 16);
546     return 0;
547 }
548
549 static int mxf_read_content_storage(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
550 {
551     MXFContext *mxf = arg;
552     switch (tag) {
553     case 0x1901:
554         mxf->packages_count = avio_rb32(pb);
555         if (mxf->packages_count >= UINT_MAX / sizeof(UID))
556             return AVERROR_INVALIDDATA;
557         mxf->packages_refs = av_malloc(mxf->packages_count * sizeof(UID));
558         if (!mxf->packages_refs)
559             return AVERROR(ENOMEM);
560         avio_skip(pb, 4); /* useless size of objects, always 16 according to specs */
561         avio_read(pb, (uint8_t *)mxf->packages_refs, mxf->packages_count * sizeof(UID));
562         break;
563     }
564     return 0;
565 }
566
567 static int mxf_read_source_clip(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
568 {
569     MXFStructuralComponent *source_clip = arg;
570     switch(tag) {
571     case 0x0202:
572         source_clip->duration = avio_rb64(pb);
573         break;
574     case 0x1201:
575         source_clip->start_position = avio_rb64(pb);
576         break;
577     case 0x1101:
578         /* UMID, only get last 16 bytes */
579         avio_skip(pb, 16);
580         avio_read(pb, source_clip->source_package_uid, 16);
581         break;
582     case 0x1102:
583         source_clip->source_track_id = avio_rb32(pb);
584         break;
585     }
586     return 0;
587 }
588
589 static int mxf_read_material_package(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
590 {
591     MXFPackage *package = arg;
592     switch(tag) {
593     case 0x4403:
594         package->tracks_count = avio_rb32(pb);
595         if (package->tracks_count >= UINT_MAX / sizeof(UID))
596             return AVERROR_INVALIDDATA;
597         package->tracks_refs = av_malloc(package->tracks_count * sizeof(UID));
598         if (!package->tracks_refs)
599             return AVERROR(ENOMEM);
600         avio_skip(pb, 4); /* useless size of objects, always 16 according to specs */
601         avio_read(pb, (uint8_t *)package->tracks_refs, package->tracks_count * sizeof(UID));
602         break;
603     }
604     return 0;
605 }
606
607 static int mxf_read_track(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
608 {
609     MXFTrack *track = arg;
610     switch(tag) {
611     case 0x4801:
612         track->track_id = avio_rb32(pb);
613         break;
614     case 0x4804:
615         avio_read(pb, track->track_number, 4);
616         break;
617     case 0x4B01:
618         track->edit_rate.den = avio_rb32(pb);
619         track->edit_rate.num = avio_rb32(pb);
620         break;
621     case 0x4803:
622         avio_read(pb, track->sequence_ref, 16);
623         break;
624     }
625     return 0;
626 }
627
628 static int mxf_read_sequence(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
629 {
630     MXFSequence *sequence = arg;
631     switch(tag) {
632     case 0x0202:
633         sequence->duration = avio_rb64(pb);
634         break;
635     case 0x0201:
636         avio_read(pb, sequence->data_definition_ul, 16);
637         break;
638     case 0x1001:
639         sequence->structural_components_count = avio_rb32(pb);
640         if (sequence->structural_components_count >= UINT_MAX / sizeof(UID))
641             return AVERROR_INVALIDDATA;
642         sequence->structural_components_refs = av_malloc(sequence->structural_components_count * sizeof(UID));
643         if (!sequence->structural_components_refs)
644             return AVERROR(ENOMEM);
645         avio_skip(pb, 4); /* useless size of objects, always 16 according to specs */
646         avio_read(pb, (uint8_t *)sequence->structural_components_refs, sequence->structural_components_count * sizeof(UID));
647         break;
648     }
649     return 0;
650 }
651
652 static int mxf_read_source_package(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
653 {
654     MXFPackage *package = arg;
655     switch(tag) {
656     case 0x4403:
657         package->tracks_count = avio_rb32(pb);
658         if (package->tracks_count >= UINT_MAX / sizeof(UID))
659             return AVERROR_INVALIDDATA;
660         package->tracks_refs = av_malloc(package->tracks_count * sizeof(UID));
661         if (!package->tracks_refs)
662             return AVERROR(ENOMEM);
663         avio_skip(pb, 4); /* useless size of objects, always 16 according to specs */
664         avio_read(pb, (uint8_t *)package->tracks_refs, package->tracks_count * sizeof(UID));
665         break;
666     case 0x4401:
667         /* UMID, only get last 16 bytes */
668         avio_skip(pb, 16);
669         avio_read(pb, package->package_uid, 16);
670         break;
671     case 0x4701:
672         avio_read(pb, package->descriptor_ref, 16);
673         break;
674     }
675     return 0;
676 }
677
678 static int mxf_read_index_entry_array(AVIOContext *pb, MXFIndexTableSegment *segment)
679 {
680     int i, length;
681
682     segment->nb_index_entries = avio_rb32(pb);
683     if (!segment->nb_index_entries)
684         return 0;
685     else if (segment->nb_index_entries < 0 ||
686              segment->nb_index_entries >
687              (INT_MAX >> av_log2(sizeof(*segment->stream_offset_entries))))
688         return AVERROR(ENOMEM);
689
690     length = avio_rb32(pb);
691
692     segment->temporal_offset_entries = av_mallocz(segment->nb_index_entries *
693                                  sizeof(*segment->temporal_offset_entries));
694     segment->flag_entries            = av_mallocz(segment->nb_index_entries *
695                                  sizeof(*segment->flag_entries));
696     segment->stream_offset_entries   = av_mallocz(segment->nb_index_entries *
697                                  sizeof(*segment->stream_offset_entries));
698
699     if (!segment->flag_entries || !segment->stream_offset_entries ||
700         !segment->temporal_offset_entries) {
701         av_freep(&segment->flag_entries);
702         av_freep(&segment->stream_offset_entries);
703         av_freep(&segment->temporal_offset_entries);
704         return AVERROR(ENOMEM);
705     }
706
707     for (i = 0; i < segment->nb_index_entries; i++) {
708         segment->temporal_offset_entries[i] = avio_r8(pb);
709         avio_r8(pb);                                        /* KeyFrameOffset */
710         segment->flag_entries[i] = avio_r8(pb);
711         segment->stream_offset_entries[i] = avio_rb64(pb);
712         avio_skip(pb, length - 11);
713     }
714     return 0;
715 }
716
717 static int mxf_read_index_table_segment(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
718 {
719     MXFIndexTableSegment *segment = arg;
720     switch(tag) {
721     case 0x3F05:
722         segment->edit_unit_byte_count = avio_rb32(pb);
723         av_dlog(NULL, "EditUnitByteCount %d\n", segment->edit_unit_byte_count);
724         break;
725     case 0x3F06:
726         segment->index_sid = avio_rb32(pb);
727         av_dlog(NULL, "IndexSID %d\n", segment->index_sid);
728         break;
729     case 0x3F07:
730         segment->body_sid = avio_rb32(pb);
731         av_dlog(NULL, "BodySID %d\n", segment->body_sid);
732         break;
733     case 0x3F0A:
734         av_dlog(NULL, "IndexEntryArray found\n");
735         return mxf_read_index_entry_array(pb, segment);
736     case 0x3F0B:
737         segment->index_edit_rate.num = avio_rb32(pb);
738         segment->index_edit_rate.den = avio_rb32(pb);
739         av_dlog(NULL, "IndexEditRate %d/%d\n", segment->index_edit_rate.num,
740                 segment->index_edit_rate.den);
741         break;
742     case 0x3F0C:
743         segment->index_start_position = avio_rb64(pb);
744         av_dlog(NULL, "IndexStartPosition %"PRId64"\n", segment->index_start_position);
745         break;
746     case 0x3F0D:
747         segment->index_duration = avio_rb64(pb);
748         av_dlog(NULL, "IndexDuration %"PRId64"\n", segment->index_duration);
749         break;
750     }
751     return 0;
752 }
753
754 static void mxf_read_pixel_layout(AVIOContext *pb, MXFDescriptor *descriptor)
755 {
756     int code, value, ofs = 0;
757     char layout[16] = {0};
758
759     do {
760         code = avio_r8(pb);
761         value = avio_r8(pb);
762         av_dlog(NULL, "pixel layout: code %#x\n", code);
763
764         if (ofs < 16) {
765             layout[ofs++] = code;
766             layout[ofs++] = value;
767         }
768     } while (code != 0); /* SMPTE 377M E.2.46 */
769
770     ff_mxf_decode_pixel_layout(layout, &descriptor->pix_fmt);
771 }
772
773 static int mxf_read_generic_descriptor(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
774 {
775     MXFDescriptor *descriptor = arg;
776     switch(tag) {
777     case 0x3F01:
778         descriptor->sub_descriptors_count = avio_rb32(pb);
779         if (descriptor->sub_descriptors_count >= UINT_MAX / sizeof(UID))
780             return AVERROR_INVALIDDATA;
781         descriptor->sub_descriptors_refs = av_malloc(descriptor->sub_descriptors_count * sizeof(UID));
782         if (!descriptor->sub_descriptors_refs)
783             return AVERROR(ENOMEM);
784         avio_skip(pb, 4); /* useless size of objects, always 16 according to specs */
785         avio_read(pb, (uint8_t *)descriptor->sub_descriptors_refs, descriptor->sub_descriptors_count * sizeof(UID));
786         break;
787     case 0x3004:
788         avio_read(pb, descriptor->essence_container_ul, 16);
789         break;
790     case 0x3006:
791         descriptor->linked_track_id = avio_rb32(pb);
792         break;
793     case 0x3201: /* PictureEssenceCoding */
794         avio_read(pb, descriptor->essence_codec_ul, 16);
795         break;
796     case 0x3203:
797         descriptor->width = avio_rb32(pb);
798         break;
799     case 0x3202:
800         descriptor->height = avio_rb32(pb);
801         break;
802     case 0x320E:
803         descriptor->aspect_ratio.num = avio_rb32(pb);
804         descriptor->aspect_ratio.den = avio_rb32(pb);
805         break;
806     case 0x3D03:
807         descriptor->sample_rate.num = avio_rb32(pb);
808         descriptor->sample_rate.den = avio_rb32(pb);
809         break;
810     case 0x3D06: /* SoundEssenceCompression */
811         avio_read(pb, descriptor->essence_codec_ul, 16);
812         break;
813     case 0x3D07:
814         descriptor->channels = avio_rb32(pb);
815         break;
816     case 0x3D01:
817         descriptor->bits_per_sample = avio_rb32(pb);
818         break;
819     case 0x3401:
820         mxf_read_pixel_layout(pb, descriptor);
821         break;
822     default:
823         /* Private uid used by SONY C0023S01.mxf */
824         if (IS_KLV_KEY(uid, mxf_sony_mpeg4_extradata)) {
825             descriptor->extradata = av_malloc(size + FF_INPUT_BUFFER_PADDING_SIZE);
826             if (!descriptor->extradata)
827                 return AVERROR(ENOMEM);
828             descriptor->extradata_size = size;
829             avio_read(pb, descriptor->extradata, size);
830         }
831         break;
832     }
833     return 0;
834 }
835
836 /*
837  * Match an uid independently of the version byte and up to len common bytes
838  * Returns: boolean
839  */
840 static int mxf_match_uid(const UID key, const UID uid, int len)
841 {
842     int i;
843     for (i = 0; i < len; i++) {
844         if (i != 7 && key[i] != uid[i])
845             return 0;
846     }
847     return 1;
848 }
849
850 static const MXFCodecUL *mxf_get_codec_ul(const MXFCodecUL *uls, UID *uid)
851 {
852     while (uls->uid[0]) {
853         if(mxf_match_uid(uls->uid, *uid, uls->matching_len))
854             break;
855         uls++;
856     }
857     return uls;
858 }
859
860 static void *mxf_resolve_strong_ref(MXFContext *mxf, UID *strong_ref, enum MXFMetadataSetType type)
861 {
862     int i;
863
864     if (!strong_ref)
865         return NULL;
866     for (i = 0; i < mxf->metadata_sets_count; i++) {
867         if (!memcmp(*strong_ref, mxf->metadata_sets[i]->uid, 16) &&
868             (type == AnyType || mxf->metadata_sets[i]->type == type)) {
869             return mxf->metadata_sets[i];
870         }
871     }
872     return NULL;
873 }
874
875 static const MXFCodecUL mxf_picture_essence_container_uls[] = {
876     // video essence container uls
877     { { 0x06,0x0E,0x2B,0x34,0x04,0x01,0x01,0x02,0x0D,0x01,0x03,0x01,0x02,0x04,0x60,0x01 }, 14, CODEC_ID_MPEG2VIDEO }, /* MPEG-ES Frame wrapped */
878     { { 0x06,0x0E,0x2B,0x34,0x04,0x01,0x01,0x01,0x0D,0x01,0x03,0x01,0x02,0x02,0x41,0x01 }, 14,    CODEC_ID_DVVIDEO }, /* DV 625 25mbps */
879     { { 0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00 },  0,      CODEC_ID_NONE },
880 };
881 static const MXFCodecUL mxf_sound_essence_container_uls[] = {
882     // sound essence container uls
883     { { 0x06,0x0E,0x2B,0x34,0x04,0x01,0x01,0x01,0x0D,0x01,0x03,0x01,0x02,0x06,0x01,0x00 }, 14, CODEC_ID_PCM_S16LE }, /* BWF Frame wrapped */
884     { { 0x06,0x0E,0x2B,0x34,0x04,0x01,0x01,0x02,0x0D,0x01,0x03,0x01,0x02,0x04,0x40,0x01 }, 14,       CODEC_ID_MP2 }, /* MPEG-ES Frame wrapped, 0x40 ??? stream id */
885     { { 0x06,0x0E,0x2B,0x34,0x04,0x01,0x01,0x01,0x0D,0x01,0x03,0x01,0x02,0x01,0x01,0x01 }, 14, CODEC_ID_PCM_S16LE }, /* D-10 Mapping 50Mbps PAL Extended Template */
886     { { 0x06,0x0E,0x2B,0x34,0x01,0x01,0x01,0xFF,0x4B,0x46,0x41,0x41,0x00,0x0D,0x4D,0x4F }, 14, CODEC_ID_PCM_S16LE }, /* 0001GL00.MXF.A1.mxf_opatom.mxf */
887     { { 0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00 },  0,      CODEC_ID_NONE },
888 };
889
890 static int mxf_get_sorted_table_segments(MXFContext *mxf, int *nb_sorted_segments, MXFIndexTableSegment ***sorted_segments)
891 {
892     int i, j, nb_segments = 0;
893     MXFIndexTableSegment **unsorted_segments;
894     int last_body_sid = -1, last_index_sid = -1, last_index_start = -1;
895
896     /* count number of segments, allocate arrays and copy unsorted segments */
897     for (i = 0; i < mxf->metadata_sets_count; i++)
898         if (mxf->metadata_sets[i]->type == IndexTableSegment)
899             nb_segments++;
900
901     *sorted_segments  = av_mallocz(nb_segments * sizeof(**sorted_segments));
902     unsorted_segments = av_mallocz(nb_segments * sizeof(*unsorted_segments));
903     if (!sorted_segments || !unsorted_segments) {
904         av_freep(sorted_segments);
905         av_free(unsorted_segments);
906         return AVERROR(ENOMEM);
907     }
908
909     for (i = j = 0; i < mxf->metadata_sets_count; i++)
910         if (mxf->metadata_sets[i]->type == IndexTableSegment)
911             unsorted_segments[j++] = (MXFIndexTableSegment*)mxf->metadata_sets[i];
912
913     *nb_sorted_segments = 0;
914
915     /* sort segments by {BodySID, IndexSID, IndexStartPosition}, remove duplicates while we're at it */
916     for (i = 0; i < nb_segments; i++) {
917         int best = -1, best_body_sid = -1, best_index_sid = -1, best_index_start = -1;
918
919         for (j = 0; j < nb_segments; j++) {
920             MXFIndexTableSegment *s = unsorted_segments[j];
921
922             /* Require larger BosySID, IndexSID or IndexStartPosition then the previous entry. This removes duplicates.
923              * We want the smallest values for the keys than what we currently have, unless this is the first such entry this time around.
924              */
925             if ((i == 0     || s->body_sid > last_body_sid || s->index_sid > last_index_sid || s->index_start_position > last_index_start) &&
926                 (best == -1 || s->body_sid < best_body_sid || s->index_sid < best_index_sid || s->index_start_position < best_index_start)) {
927                 best             = j;
928                 best_body_sid    = s->body_sid;
929                 best_index_sid   = s->index_sid;
930                 best_index_start = s->index_start_position;
931             }
932         }
933
934         /* no suitable entry found -> we're done */
935         if (best == -1)
936             break;
937
938         (*sorted_segments)[(*nb_sorted_segments)++] = unsorted_segments[best];
939         last_body_sid    = best_body_sid;
940         last_index_sid   = best_index_sid;
941         last_index_start = best_index_start;
942     }
943
944     av_free(unsorted_segments);
945
946     return 0;
947 }
948
949 /**
950  * Computes the absolute file offset of the given essence container offset
951  */
952 static int mxf_absolute_bodysid_offset(MXFContext *mxf, int body_sid, int64_t offset, int64_t *offset_out)
953 {
954     int x;
955     int64_t offset_in = offset;     /* for logging */
956
957     for (x = 0; x < mxf->partitions_count; x++) {
958         MXFPartition *p = &mxf->partitions[x];
959
960         if (p->body_sid != body_sid)
961             continue;
962
963         if (offset < p->essence_length || !p->essence_length) {
964             *offset_out = p->essence_offset + offset;
965             return 0;
966         }
967
968         offset -= p->essence_length;
969     }
970
971     av_log(mxf->fc, AV_LOG_ERROR,
972            "failed to find absolute offset of %"PRIX64" in BodySID %i - partial file?\n",
973            offset_in, body_sid);
974
975     return AVERROR_INVALIDDATA;
976 }
977
978 /**
979  * Returns the end position of the essence container with given BodySID, or zero if unknown
980  */
981 static int64_t mxf_essence_container_end(MXFContext *mxf, int body_sid)
982 {
983     int x;
984     int64_t ret = 0;
985
986     for (x = 0; x < mxf->partitions_count; x++) {
987         MXFPartition *p = &mxf->partitions[x];
988
989         if (p->body_sid != body_sid)
990             continue;
991
992         if (!p->essence_length)
993             return 0;
994
995         ret = p->essence_offset + p->essence_length;
996     }
997
998     return ret;
999 }
1000
1001 /* EditUnit -> absolute offset */
1002 static int mxf_edit_unit_absolute_offset(MXFContext *mxf, MXFIndexTable *index_table, int64_t edit_unit, int64_t *edit_unit_out, int64_t *offset_out, int nag)
1003 {
1004     int i;
1005     int64_t offset_temp = 0;
1006
1007     for (i = 0; i < index_table->nb_segments; i++) {
1008         MXFIndexTableSegment *s = index_table->segments[i];
1009
1010         edit_unit = FFMAX(edit_unit, s->index_start_position);  /* clamp if trying to seek before start */
1011
1012         if (edit_unit < s->index_start_position + s->index_duration) {
1013             int64_t index = edit_unit - s->index_start_position;
1014
1015             if (s->edit_unit_byte_count)
1016                 offset_temp += s->edit_unit_byte_count * index;
1017             else if (s->nb_index_entries) {
1018                 if (s->nb_index_entries == 2 * s->index_duration + 1)
1019                     index *= 2;     /* Avid index */
1020
1021                 if (index < 0 || index > s->nb_index_entries) {
1022                     av_log(mxf->fc, AV_LOG_ERROR, "IndexSID %i segment at %"PRId64" IndexEntryArray too small\n",
1023                            index_table->index_sid, s->index_start_position);
1024                     return AVERROR_INVALIDDATA;
1025                 }
1026
1027                 offset_temp = s->stream_offset_entries[index];
1028             } else {
1029                 av_log(mxf->fc, AV_LOG_ERROR, "IndexSID %i segment at %"PRId64" missing EditUnitByteCount and IndexEntryArray\n",
1030                        index_table->index_sid, s->index_start_position);
1031                 return AVERROR_INVALIDDATA;
1032             }
1033
1034             if (edit_unit_out)
1035                 *edit_unit_out = edit_unit;
1036
1037             return mxf_absolute_bodysid_offset(mxf, index_table->body_sid, offset_temp, offset_out);
1038         } else {
1039             /* EditUnitByteCount == 0 for VBR indexes, which is fine since they use explicit StreamOffsets */
1040             offset_temp += s->edit_unit_byte_count * s->index_duration;
1041         }
1042     }
1043
1044     if (nag)
1045         av_log(mxf->fc, AV_LOG_ERROR, "failed to map EditUnit %"PRId64" in IndexSID %i to an offset\n", edit_unit, index_table->index_sid);
1046
1047     return AVERROR_INVALIDDATA;
1048 }
1049
1050 static int mxf_compute_ptses_fake_index(MXFContext *mxf, MXFIndexTable *index_table)
1051 {
1052     int i, j, x;
1053     int8_t max_temporal_offset = -128;
1054
1055     /* first compute how many entries we have */
1056     for (i = 0; i < index_table->nb_segments; i++) {
1057         MXFIndexTableSegment *s = index_table->segments[i];
1058
1059         if (!s->nb_index_entries) {
1060             index_table->nb_ptses = 0;
1061             return 0;                               /* no TemporalOffsets */
1062         }
1063
1064         index_table->nb_ptses += s->index_duration;
1065     }
1066
1067     /* paranoid check */
1068     if (index_table->nb_ptses <= 0)
1069         return 0;
1070
1071     if (index_table->nb_ptses > INT_MAX >> av_log2(sizeof(AVIndexEntry)) + 1)
1072         return AVERROR(ENOMEM);
1073
1074     index_table->ptses      = av_mallocz(index_table->nb_ptses *
1075                                          sizeof(int64_t));
1076     index_table->fake_index = av_mallocz(index_table->nb_ptses *
1077                                          sizeof(AVIndexEntry));
1078     if (!index_table->ptses || !index_table->fake_index) {
1079         av_freep(&index_table->ptses);
1080         return AVERROR(ENOMEM);
1081     }
1082
1083     /* we may have a few bad TemporalOffsets
1084      * make sure the corresponding PTSes don't have the bogus value 0 */
1085     for (x = 0; x < index_table->nb_ptses; x++)
1086         index_table->ptses[x] = AV_NOPTS_VALUE;
1087
1088     /**
1089      * We have this:
1090      *
1091      * x  TemporalOffset
1092      * 0:  0
1093      * 1:  1
1094      * 2:  1
1095      * 3: -2
1096      * 4:  1
1097      * 5:  1
1098      * 6: -2
1099      *
1100      * We want to transform it into this:
1101      *
1102      * x  DTS PTS
1103      * 0: -1   0
1104      * 1:  0   3
1105      * 2:  1   1
1106      * 3:  2   2
1107      * 4:  3   6
1108      * 5:  4   4
1109      * 6:  5   5
1110      *
1111      * We do this by bucket sorting x by x+TemporalOffset[x] into mxf->ptses,
1112      * then settings mxf->first_dts = -max(TemporalOffset[x]).
1113      * The latter makes DTS <= PTS.
1114      */
1115     for (i = x = 0; i < index_table->nb_segments; i++) {
1116         MXFIndexTableSegment *s = index_table->segments[i];
1117         int index_delta = 1;
1118
1119         if (s->nb_index_entries == 2 * s->index_duration + 1)
1120             index_delta = 2;    /* Avid index */
1121
1122         for (j = 0; j < s->nb_index_entries; j += index_delta, x++) {
1123             int offset = s->temporal_offset_entries[j] / index_delta;
1124             int index  = x + offset;
1125
1126             if (x >= index_table->nb_ptses) {
1127                 av_log(mxf->fc, AV_LOG_ERROR,
1128                        "x >= nb_ptses - IndexEntryCount %i < IndexDuration %"PRId64"?\n",
1129                        s->nb_index_entries, s->index_duration);
1130                 break;
1131             }
1132
1133             index_table->fake_index[x].timestamp = x;
1134             index_table->fake_index[x].flags = !(s->flag_entries[j] & 0x30) ? AVINDEX_KEYFRAME : 0;
1135
1136             if (index < 0 || index >= index_table->nb_ptses) {
1137                 av_log(mxf->fc, AV_LOG_ERROR,
1138                        "index entry %i + TemporalOffset %i = %i, which is out of bounds\n",
1139                        x, offset, index);
1140                 continue;
1141             }
1142
1143             index_table->ptses[index] = x;
1144             max_temporal_offset = FFMAX(max_temporal_offset, offset);
1145         }
1146     }
1147
1148     index_table->first_dts = -max_temporal_offset;
1149
1150     return 0;
1151 }
1152
1153 /**
1154  * Sorts and collects index table segments into index tables.
1155  * Also computes PTSes if possible.
1156  */
1157 static int mxf_compute_index_tables(MXFContext *mxf)
1158 {
1159     int i, j, k, ret, nb_sorted_segments;
1160     MXFIndexTableSegment **sorted_segments = NULL;
1161
1162     if ((ret = mxf_get_sorted_table_segments(mxf, &nb_sorted_segments, &sorted_segments)) ||
1163         nb_sorted_segments <= 0) {
1164         av_log(mxf->fc, AV_LOG_WARNING, "broken or empty index\n");
1165         return 0;
1166     }
1167
1168     /* sanity check and count unique BodySIDs/IndexSIDs */
1169     for (i = 0; i < nb_sorted_segments; i++) {
1170         if (i == 0 || sorted_segments[i-1]->index_sid != sorted_segments[i]->index_sid)
1171             mxf->nb_index_tables++;
1172         else if (sorted_segments[i-1]->body_sid != sorted_segments[i]->body_sid) {
1173             av_log(mxf->fc, AV_LOG_ERROR, "found inconsistent BodySID\n");
1174             ret = AVERROR_INVALIDDATA;
1175             goto finish_decoding_index;
1176         }
1177     }
1178
1179     if (mxf->nb_index_tables > INT_MAX >> av_log2(sizeof(MXFIndexTable)) + 1 ||
1180         !(mxf->index_tables = av_mallocz(mxf->nb_index_tables *
1181                                          sizeof(MXFIndexTable)))) {
1182         av_log(mxf->fc, AV_LOG_ERROR, "failed to allocate index tables\n");
1183         ret = AVERROR(ENOMEM);
1184         goto finish_decoding_index;
1185     }
1186
1187     /* distribute sorted segments to index tables */
1188     for (i = j = 0; i < nb_sorted_segments; i++) {
1189         if (i != 0 && sorted_segments[i-1]->index_sid != sorted_segments[i]->index_sid) {
1190             /* next IndexSID */
1191             j++;
1192         }
1193
1194         mxf->index_tables[j].nb_segments++;
1195     }
1196
1197     for (i = j = 0; j < mxf->nb_index_tables; i += mxf->index_tables[j++].nb_segments) {
1198         MXFIndexTable *t = &mxf->index_tables[j];
1199
1200         if (t->nb_segments >
1201             (INT_MAX >> av_log2(sizeof(MXFIndexTableSegment *))) ||
1202             !(t->segments = av_mallocz(t->nb_segments *
1203                                        sizeof(MXFIndexTableSegment*)))) {
1204             av_log(mxf->fc, AV_LOG_ERROR, "failed to allocate IndexTableSegment"
1205                    " pointer array\n");
1206             ret = AVERROR(ENOMEM);
1207             goto finish_decoding_index;
1208         }
1209
1210         if (sorted_segments[i]->index_start_position)
1211             av_log(mxf->fc, AV_LOG_WARNING, "IndexSID %i starts at EditUnit %"PRId64" - seeking may not work as expected\n",
1212                    sorted_segments[i]->index_sid, sorted_segments[i]->index_start_position);
1213
1214         memcpy(t->segments, &sorted_segments[i], t->nb_segments * sizeof(MXFIndexTableSegment*));
1215         t->index_sid = sorted_segments[i]->index_sid;
1216         t->body_sid = sorted_segments[i]->body_sid;
1217
1218         if ((ret = mxf_compute_ptses_fake_index(mxf, t)) < 0)
1219             goto finish_decoding_index;
1220
1221         /* fix zero IndexDurations */
1222         for (k = 0; k < t->nb_segments; k++) {
1223             if (t->segments[k]->index_duration)
1224                 continue;
1225
1226             if (t->nb_segments > 1)
1227                 av_log(mxf->fc, AV_LOG_WARNING, "IndexSID %i segment %i has zero IndexDuration and there's more than one segment\n",
1228                        t->index_sid, k);
1229
1230             if (mxf->fc->nb_streams <= 0) {
1231                 av_log(mxf->fc, AV_LOG_WARNING, "no streams?\n");
1232                 break;
1233             }
1234
1235             /* assume the first stream's duration is reasonable
1236              * leave index_duration = 0 on further segments in case we have any (unlikely)
1237              */
1238             t->segments[k]->index_duration = mxf->fc->streams[0]->duration;
1239             break;
1240         }
1241     }
1242
1243     ret = 0;
1244 finish_decoding_index:
1245     av_free(sorted_segments);
1246     return ret;
1247 }
1248
1249 static int mxf_parse_structural_metadata(MXFContext *mxf)
1250 {
1251     MXFPackage *material_package = NULL;
1252     MXFPackage *temp_package = NULL;
1253     int i, j, k, ret;
1254
1255     av_dlog(mxf->fc, "metadata sets count %d\n", mxf->metadata_sets_count);
1256     /* TODO: handle multiple material packages (OP3x) */
1257     for (i = 0; i < mxf->packages_count; i++) {
1258         material_package = mxf_resolve_strong_ref(mxf, &mxf->packages_refs[i], MaterialPackage);
1259         if (material_package) break;
1260     }
1261     if (!material_package) {
1262         av_log(mxf->fc, AV_LOG_ERROR, "no material package found\n");
1263         return AVERROR_INVALIDDATA;
1264     }
1265
1266     for (i = 0; i < material_package->tracks_count; i++) {
1267         MXFPackage *source_package = NULL;
1268         MXFTrack *material_track = NULL;
1269         MXFTrack *source_track = NULL;
1270         MXFTrack *temp_track = NULL;
1271         MXFDescriptor *descriptor = NULL;
1272         MXFStructuralComponent *component = NULL;
1273         UID *essence_container_ul = NULL;
1274         const MXFCodecUL *codec_ul = NULL;
1275         const MXFCodecUL *container_ul = NULL;
1276         AVStream *st;
1277
1278         if (!(material_track = mxf_resolve_strong_ref(mxf, &material_package->tracks_refs[i], Track))) {
1279             av_log(mxf->fc, AV_LOG_ERROR, "could not resolve material track strong ref\n");
1280             continue;
1281         }
1282
1283         if (!(material_track->sequence = mxf_resolve_strong_ref(mxf, &material_track->sequence_ref, Sequence))) {
1284             av_log(mxf->fc, AV_LOG_ERROR, "could not resolve material track sequence strong ref\n");
1285             continue;
1286         }
1287
1288         /* TODO: handle multiple source clips */
1289         for (j = 0; j < material_track->sequence->structural_components_count; j++) {
1290             /* TODO: handle timecode component */
1291             component = mxf_resolve_strong_ref(mxf, &material_track->sequence->structural_components_refs[j], SourceClip);
1292             if (!component)
1293                 continue;
1294
1295             for (k = 0; k < mxf->packages_count; k++) {
1296                 temp_package = mxf_resolve_strong_ref(mxf, &mxf->packages_refs[k], SourcePackage);
1297                 if (!temp_package)
1298                     continue;
1299                 if (!memcmp(temp_package->package_uid, component->source_package_uid, 16)) {
1300                     source_package = temp_package;
1301                     break;
1302                 }
1303             }
1304             if (!source_package) {
1305                 av_dlog(mxf->fc, "material track %d: no corresponding source package found\n", material_track->track_id);
1306                 break;
1307             }
1308             for (k = 0; k < source_package->tracks_count; k++) {
1309                 if (!(temp_track = mxf_resolve_strong_ref(mxf, &source_package->tracks_refs[k], Track))) {
1310                     av_log(mxf->fc, AV_LOG_ERROR, "could not resolve source track strong ref\n");
1311                     ret = AVERROR_INVALIDDATA;
1312                     goto fail_and_free;
1313                 }
1314                 if (temp_track->track_id == component->source_track_id) {
1315                     source_track = temp_track;
1316                     break;
1317                 }
1318             }
1319             if (!source_track) {
1320                 av_log(mxf->fc, AV_LOG_ERROR, "material track %d: no corresponding source track found\n", material_track->track_id);
1321                 break;
1322             }
1323         }
1324         if (!source_track || !component)
1325             continue;
1326
1327         if (!(source_track->sequence = mxf_resolve_strong_ref(mxf, &source_track->sequence_ref, Sequence))) {
1328             av_log(mxf->fc, AV_LOG_ERROR, "could not resolve source track sequence strong ref\n");
1329             ret = AVERROR_INVALIDDATA;
1330             goto fail_and_free;
1331         }
1332
1333         /* 0001GL00.MXF.A1.mxf_opatom.mxf has the same SourcePackageID as 0001GL.MXF.V1.mxf_opatom.mxf
1334          * This would result in both files appearing to have two streams. Work around this by sanity checking DataDefinition */
1335         if (memcmp(material_track->sequence->data_definition_ul, source_track->sequence->data_definition_ul, 16)) {
1336             av_log(mxf->fc, AV_LOG_ERROR, "material track %d: DataDefinition mismatch\n", material_track->track_id);
1337             continue;
1338         }
1339
1340         st = avformat_new_stream(mxf->fc, NULL);
1341         if (!st) {
1342             av_log(mxf->fc, AV_LOG_ERROR, "could not allocate stream\n");
1343             ret = AVERROR(ENOMEM);
1344             goto fail_and_free;
1345         }
1346         st->id = source_track->track_id;
1347         st->priv_data = source_track;
1348         st->duration = component->duration;
1349         if (st->duration == -1)
1350             st->duration = AV_NOPTS_VALUE;
1351         st->start_time = component->start_position;
1352         avpriv_set_pts_info(st, 64, material_track->edit_rate.num, material_track->edit_rate.den);
1353
1354         PRINT_KEY(mxf->fc, "data definition   ul", source_track->sequence->data_definition_ul);
1355         codec_ul = mxf_get_codec_ul(ff_mxf_data_definition_uls, &source_track->sequence->data_definition_ul);
1356         st->codec->codec_type = codec_ul->id;
1357
1358         source_package->descriptor = mxf_resolve_strong_ref(mxf, &source_package->descriptor_ref, AnyType);
1359         if (source_package->descriptor) {
1360             if (source_package->descriptor->type == MultipleDescriptor) {
1361                 for (j = 0; j < source_package->descriptor->sub_descriptors_count; j++) {
1362                     MXFDescriptor *sub_descriptor = mxf_resolve_strong_ref(mxf, &source_package->descriptor->sub_descriptors_refs[j], Descriptor);
1363
1364                     if (!sub_descriptor) {
1365                         av_log(mxf->fc, AV_LOG_ERROR, "could not resolve sub descriptor strong ref\n");
1366                         continue;
1367                     }
1368                     if (sub_descriptor->linked_track_id == source_track->track_id) {
1369                         descriptor = sub_descriptor;
1370                         break;
1371                     }
1372                 }
1373             } else if (source_package->descriptor->type == Descriptor)
1374                 descriptor = source_package->descriptor;
1375         }
1376         if (!descriptor) {
1377             av_log(mxf->fc, AV_LOG_INFO, "source track %d: stream %d, no descriptor found\n", source_track->track_id, st->index);
1378             continue;
1379         }
1380         PRINT_KEY(mxf->fc, "essence codec     ul", descriptor->essence_codec_ul);
1381         PRINT_KEY(mxf->fc, "essence container ul", descriptor->essence_container_ul);
1382         essence_container_ul = &descriptor->essence_container_ul;
1383         /* HACK: replacing the original key with mxf_encrypted_essence_container
1384          * is not allowed according to s429-6, try to find correct information anyway */
1385         if (IS_KLV_KEY(essence_container_ul, mxf_encrypted_essence_container)) {
1386             av_log(mxf->fc, AV_LOG_INFO, "broken encrypted mxf file\n");
1387             for (k = 0; k < mxf->metadata_sets_count; k++) {
1388                 MXFMetadataSet *metadata = mxf->metadata_sets[k];
1389                 if (metadata->type == CryptoContext) {
1390                     essence_container_ul = &((MXFCryptoContext *)metadata)->source_container_ul;
1391                     break;
1392                 }
1393             }
1394         }
1395
1396         /* TODO: drop PictureEssenceCoding and SoundEssenceCompression, only check EssenceContainer */
1397         codec_ul = mxf_get_codec_ul(ff_mxf_codec_uls, &descriptor->essence_codec_ul);
1398         st->codec->codec_id = codec_ul->id;
1399         if (descriptor->extradata) {
1400             st->codec->extradata = descriptor->extradata;
1401             st->codec->extradata_size = descriptor->extradata_size;
1402         }
1403         if (st->codec->codec_type == AVMEDIA_TYPE_VIDEO) {
1404             container_ul = mxf_get_codec_ul(mxf_picture_essence_container_uls, essence_container_ul);
1405             if (st->codec->codec_id == CODEC_ID_NONE)
1406                 st->codec->codec_id = container_ul->id;
1407             st->codec->width = descriptor->width;
1408             st->codec->height = descriptor->height;
1409             if (st->codec->codec_id == CODEC_ID_RAWVIDEO)
1410                 st->codec->pix_fmt = descriptor->pix_fmt;
1411             st->need_parsing = AVSTREAM_PARSE_HEADERS;
1412         } else if (st->codec->codec_type == AVMEDIA_TYPE_AUDIO) {
1413             container_ul = mxf_get_codec_ul(mxf_sound_essence_container_uls, essence_container_ul);
1414             if (st->codec->codec_id == CODEC_ID_NONE)
1415                 st->codec->codec_id = container_ul->id;
1416             st->codec->channels = descriptor->channels;
1417             st->codec->bits_per_coded_sample = descriptor->bits_per_sample;
1418             st->codec->sample_rate = descriptor->sample_rate.num / descriptor->sample_rate.den;
1419             /* TODO: implement CODEC_ID_RAWAUDIO */
1420             if (st->codec->codec_id == CODEC_ID_PCM_S16LE) {
1421                 if (descriptor->bits_per_sample > 16 && descriptor->bits_per_sample <= 24)
1422                     st->codec->codec_id = CODEC_ID_PCM_S24LE;
1423                 else if (descriptor->bits_per_sample == 32)
1424                     st->codec->codec_id = CODEC_ID_PCM_S32LE;
1425             } else if (st->codec->codec_id == CODEC_ID_PCM_S16BE) {
1426                 if (descriptor->bits_per_sample > 16 && descriptor->bits_per_sample <= 24)
1427                     st->codec->codec_id = CODEC_ID_PCM_S24BE;
1428                 else if (descriptor->bits_per_sample == 32)
1429                     st->codec->codec_id = CODEC_ID_PCM_S32BE;
1430             } else if (st->codec->codec_id == CODEC_ID_MP2) {
1431                 st->need_parsing = AVSTREAM_PARSE_FULL;
1432             }
1433         }
1434         if (st->codec->codec_type != AVMEDIA_TYPE_DATA && (*essence_container_ul)[15] > 0x01) {
1435             /* TODO: decode timestamps */
1436             st->need_parsing = AVSTREAM_PARSE_TIMESTAMPS;
1437         }
1438     }
1439
1440     ret = 0;
1441 fail_and_free:
1442     return ret;
1443 }
1444
1445 static const MXFMetadataReadTableEntry mxf_metadata_read_table[] = {
1446     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x05,0x01,0x00 }, mxf_read_primer_pack },
1447     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x02,0x01,0x00 }, mxf_read_partition_pack },
1448     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x02,0x02,0x00 }, mxf_read_partition_pack },
1449     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x02,0x03,0x00 }, mxf_read_partition_pack },
1450     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x02,0x04,0x00 }, mxf_read_partition_pack },
1451     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x03,0x01,0x00 }, mxf_read_partition_pack },
1452     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x03,0x02,0x00 }, mxf_read_partition_pack },
1453     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x03,0x03,0x00 }, mxf_read_partition_pack },
1454     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x03,0x04,0x00 }, mxf_read_partition_pack },
1455     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x04,0x02,0x00 }, mxf_read_partition_pack },
1456     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x04,0x04,0x00 }, mxf_read_partition_pack },
1457     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x18,0x00 }, mxf_read_content_storage, 0, AnyType },
1458     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x37,0x00 }, mxf_read_source_package, sizeof(MXFPackage), SourcePackage },
1459     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x36,0x00 }, mxf_read_material_package, sizeof(MXFPackage), MaterialPackage },
1460     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x0F,0x00 }, mxf_read_sequence, sizeof(MXFSequence), Sequence },
1461     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x11,0x00 }, mxf_read_source_clip, sizeof(MXFStructuralComponent), SourceClip },
1462     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x44,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), MultipleDescriptor },
1463     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x42,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), Descriptor }, /* Generic Sound */
1464     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x28,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), Descriptor }, /* CDCI */
1465     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x29,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), Descriptor }, /* RGBA */
1466     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x51,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), Descriptor }, /* MPEG 2 Video */
1467     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x48,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), Descriptor }, /* Wave */
1468     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x47,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), Descriptor }, /* AES3 */
1469     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x3A,0x00 }, mxf_read_track, sizeof(MXFTrack), Track }, /* Static Track */
1470     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x3B,0x00 }, mxf_read_track, sizeof(MXFTrack), Track }, /* Generic Track */
1471     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x04,0x01,0x02,0x02,0x00,0x00 }, mxf_read_cryptographic_context, sizeof(MXFCryptoContext), CryptoContext },
1472     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x10,0x01,0x00 }, mxf_read_index_table_segment, sizeof(MXFIndexTableSegment), IndexTableSegment },
1473     { { 0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00 }, NULL, 0, AnyType },
1474 };
1475
1476 static int mxf_read_local_tags(MXFContext *mxf, KLVPacket *klv, MXFMetadataReadFunc *read_child, int ctx_size, enum MXFMetadataSetType type)
1477 {
1478     AVIOContext *pb = mxf->fc->pb;
1479     MXFMetadataSet *ctx = ctx_size ? av_mallocz(ctx_size) : mxf;
1480     uint64_t klv_end = avio_tell(pb) + klv->length;
1481
1482     if (!ctx)
1483         return AVERROR(ENOMEM);
1484     while (avio_tell(pb) + 4 < klv_end && !pb->eof_reached) {
1485         int ret;
1486         int tag = avio_rb16(pb);
1487         int size = avio_rb16(pb); /* KLV specified by 0x53 */
1488         uint64_t next = avio_tell(pb) + size;
1489         UID uid = {0};
1490
1491         av_dlog(mxf->fc, "local tag %#04x size %d\n", tag, size);
1492         if (!size) { /* ignore empty tag, needed for some files with empty UMID tag */
1493             av_log(mxf->fc, AV_LOG_ERROR, "local tag %#04x with 0 size\n", tag);
1494             continue;
1495         }
1496         if (tag > 0x7FFF) { /* dynamic tag */
1497             int i;
1498             for (i = 0; i < mxf->local_tags_count; i++) {
1499                 int local_tag = AV_RB16(mxf->local_tags+i*18);
1500                 if (local_tag == tag) {
1501                     memcpy(uid, mxf->local_tags+i*18+2, 16);
1502                     av_dlog(mxf->fc, "local tag %#04x\n", local_tag);
1503                     PRINT_KEY(mxf->fc, "uid", uid);
1504                 }
1505             }
1506         }
1507         if (ctx_size && tag == 0x3C0A)
1508             avio_read(pb, ctx->uid, 16);
1509         else if ((ret = read_child(ctx, pb, tag, size, uid, -1)) < 0)
1510             return ret;
1511
1512         /* Accept the 64k local set limit being exceeded (Avid). Don't accept
1513          * it extending past the end of the KLV though (zzuf5.mxf). */
1514         if (avio_tell(pb) > klv_end) {
1515             av_log(mxf->fc, AV_LOG_ERROR,
1516                    "local tag %#04x extends past end of local set @ %#"PRIx64"\n",
1517                    tag, klv->offset);
1518             return AVERROR_INVALIDDATA;
1519         } else if (avio_tell(pb) <= next)   /* only seek forward, else this can loop for a long time */
1520             avio_seek(pb, next, SEEK_SET);
1521     }
1522     if (ctx_size) ctx->type = type;
1523     return ctx_size ? mxf_add_metadata_set(mxf, ctx) : 0;
1524 }
1525
1526 /**
1527  * Seeks to the previous partition, if possible
1528  * @return <= 0 if we should stop parsing, > 0 if we should keep going
1529  */
1530 static int mxf_seek_to_previous_partition(MXFContext *mxf)
1531 {
1532     AVIOContext *pb = mxf->fc->pb;
1533
1534     if (!mxf->current_partition ||
1535         mxf->run_in + mxf->current_partition->previous_partition <= mxf->last_forward_tell)
1536         return 0;   /* we've parsed all partitions */
1537
1538     /* seek to previous partition */
1539     avio_seek(pb, mxf->run_in + mxf->current_partition->previous_partition, SEEK_SET);
1540     mxf->current_partition = NULL;
1541
1542     av_dlog(mxf->fc, "seeking to previous partition\n");
1543
1544     return 1;
1545 }
1546
1547 /**
1548  * Called when essence is encountered
1549  * @return <= 0 if we should stop parsing, > 0 if we should keep going
1550  */
1551 static int mxf_parse_handle_essence(MXFContext *mxf)
1552 {
1553     AVIOContext *pb = mxf->fc->pb;
1554     int64_t ret;
1555
1556     if (mxf->parsing_backward) {
1557         return mxf_seek_to_previous_partition(mxf);
1558     } else {
1559         if (!mxf->footer_partition) {
1560             av_dlog(mxf->fc, "no footer\n");
1561             return 0;
1562         }
1563
1564         av_dlog(mxf->fc, "seeking to footer\n");
1565
1566         /* remember where we were so we don't end up seeking further back than this */
1567         mxf->last_forward_tell = avio_tell(pb);
1568
1569         if (!pb->seekable) {
1570             av_log(mxf->fc, AV_LOG_INFO, "file is not seekable - not parsing footer\n");
1571             return -1;
1572         }
1573
1574         /* seek to footer partition and parse backward */
1575         if ((ret = avio_seek(pb, mxf->run_in + mxf->footer_partition, SEEK_SET)) < 0) {
1576             av_log(mxf->fc, AV_LOG_ERROR, "failed to seek to footer @ 0x%"PRIx64" (%"PRId64") - partial file?\n",
1577                    mxf->run_in + mxf->footer_partition, ret);
1578             return ret;
1579         }
1580
1581         mxf->current_partition = NULL;
1582         mxf->parsing_backward = 1;
1583     }
1584
1585     return 1;
1586 }
1587
1588 /**
1589  * Called when the next partition or EOF is encountered
1590  * @return <= 0 if we should stop parsing, > 0 if we should keep going
1591  */
1592 static int mxf_parse_handle_partition_or_eof(MXFContext *mxf)
1593 {
1594     return mxf->parsing_backward ? mxf_seek_to_previous_partition(mxf) : 1;
1595 }
1596
1597 /**
1598  * Figure out the proper offset and length of the essence container
1599  * in each partition
1600  */
1601 static void mxf_compute_essence_containers(MXFContext *mxf)
1602 {
1603     int x;
1604
1605     /* everything is already correct */
1606     if (mxf->op == OPAtom)
1607         return;
1608
1609     for (x = 0; x < mxf->partitions_count; x++) {
1610         MXFPartition *p = &mxf->partitions[x];
1611
1612         if (!p->body_sid)
1613             continue;       /* BodySID == 0 -> no essence */
1614
1615         if (x >= mxf->partitions_count - 1)
1616             break;          /* last partition - can't compute length (and we don't need to) */
1617
1618         /* essence container spans to the next partition */
1619         p->essence_length = mxf->partitions[x+1].this_partition - p->essence_offset;
1620
1621         if (p->essence_length < 0) {
1622             /* next ThisPartition < essence_offset */
1623             p->essence_length = 0;
1624             av_log(mxf->fc, AV_LOG_ERROR,
1625                    "partition %i: bad ThisPartition = %"PRIX64"\n",
1626                    x+1, mxf->partitions[x+1].this_partition);
1627         }
1628     }
1629 }
1630
1631 static int64_t round_to_kag(int64_t position, int kag_size)
1632 {
1633     /* TODO: account for run-in? the spec isn't clear whether KAG should account for it */
1634     /* NOTE: kag_size may be any integer between 1 - 2^10 */
1635     int64_t ret = (position / kag_size) * kag_size;
1636     return ret == position ? ret : ret + kag_size;
1637 }
1638
1639 static inline void compute_partition_essence_offset(AVFormatContext *s,
1640                                                     MXFContext *mxf,
1641                                                     KLVPacket *klv)
1642 {
1643     MXFPartition *cur_part = mxf->current_partition;
1644     /* for OP1a we compute essence_offset
1645      * for OPAtom we point essence_offset after the KL
1646      *     (usually op1a_essence_offset + 20 or 25)
1647      * TODO: for OP1a we could eliminate this entire if statement, always
1648      *       stopping parsing at op1a_essence_offset
1649      *       for OPAtom we still need the actual essence_offset though
1650      *       (the KL's length can vary)
1651      */
1652     int64_t op1a_essence_offset =
1653         round_to_kag(cur_part->this_partition + cur_part->pack_length,
1654                      cur_part->kag_size) +
1655         round_to_kag(cur_part->header_byte_count, cur_part->kag_size) +
1656         round_to_kag(cur_part->index_byte_count, cur_part->kag_size);
1657
1658     if (mxf->op == OPAtom) {
1659         /* point essence_offset to the actual data
1660          * OPAtom has all the essence in one big KLV
1661          */
1662         cur_part->essence_offset = avio_tell(s->pb);
1663         cur_part->essence_length = klv->length;
1664     } else {
1665         /* NOTE: op1a_essence_offset may be less than to klv.offset
1666          * (C0023S01.mxf)  */
1667         cur_part->essence_offset = op1a_essence_offset;
1668     }
1669 }
1670
1671 static int mxf_read_header(AVFormatContext *s)
1672 {
1673     MXFContext *mxf = s->priv_data;
1674     KLVPacket klv;
1675     int64_t essence_offset = 0;
1676     int ret;
1677
1678     mxf->last_forward_tell = INT64_MAX;
1679
1680     if (!mxf_read_sync(s->pb, mxf_header_partition_pack_key, 14)) {
1681         av_log(s, AV_LOG_ERROR, "could not find header partition pack key\n");
1682         return AVERROR_INVALIDDATA;
1683     }
1684     avio_seek(s->pb, -14, SEEK_CUR);
1685     mxf->fc = s;
1686     mxf->run_in = avio_tell(s->pb);
1687
1688     while (!s->pb->eof_reached) {
1689         const MXFMetadataReadTableEntry *metadata;
1690
1691         if (klv_read_packet(&klv, s->pb) < 0) {
1692             /* EOF - seek to previous partition or stop */
1693             if(mxf_parse_handle_partition_or_eof(mxf) <= 0)
1694                 break;
1695             else
1696                 continue;
1697         }
1698
1699         PRINT_KEY(s, "read header", klv.key);
1700         av_dlog(s, "size %"PRIu64" offset %#"PRIx64"\n", klv.length, klv.offset);
1701         if (IS_KLV_KEY(klv.key, mxf_encrypted_triplet_key) ||
1702             IS_KLV_KEY(klv.key, mxf_essence_element_key) ||
1703             IS_KLV_KEY(klv.key, mxf_avid_essence_element_key) ||
1704             IS_KLV_KEY(klv.key, mxf_system_item_key)) {
1705
1706             if (!mxf->current_partition) {
1707                 av_log(mxf->fc, AV_LOG_ERROR,
1708                        "found essence prior to first PartitionPack\n");
1709                 return AVERROR_INVALIDDATA;
1710             }
1711
1712             if (!mxf->current_partition->essence_offset) {
1713                 compute_partition_essence_offset(s, mxf, &klv);
1714             }
1715
1716             if (!essence_offset)
1717                 essence_offset = klv.offset;
1718
1719             /* seek to footer, previous partition or stop */
1720             if (mxf_parse_handle_essence(mxf) <= 0)
1721                 break;
1722             continue;
1723         } else if (!memcmp(klv.key, mxf_header_partition_pack_key, 13) &&
1724                    klv.key[13] >= 2 && klv.key[13] <= 4 && mxf->current_partition) {
1725             /* next partition pack - keep going, seek to previous partition or stop */
1726             if(mxf_parse_handle_partition_or_eof(mxf) <= 0)
1727                 break;
1728         }
1729
1730         for (metadata = mxf_metadata_read_table; metadata->read; metadata++) {
1731             if (IS_KLV_KEY(klv.key, metadata->key)) {
1732                 int res;
1733                 if (klv.key[5] == 0x53) {
1734                     res = mxf_read_local_tags(mxf, &klv, metadata->read, metadata->ctx_size, metadata->type);
1735                 } else {
1736                     uint64_t next = avio_tell(s->pb) + klv.length;
1737                     res = metadata->read(mxf, s->pb, 0, klv.length, klv.key, klv.offset);
1738
1739                     /* only seek forward, else this can loop for a long time */
1740                     if (avio_tell(s->pb) > next) {
1741                         av_log(s, AV_LOG_ERROR, "read past end of KLV @ %#"PRIx64"\n",
1742                                klv.offset);
1743                         return AVERROR_INVALIDDATA;
1744                     }
1745
1746                     avio_seek(s->pb, next, SEEK_SET);
1747                 }
1748                 if (res < 0) {
1749                     av_log(s, AV_LOG_ERROR, "error reading header metadata\n");
1750                     return res;
1751                 }
1752                 break;
1753             }
1754         }
1755         if (!metadata->read)
1756             avio_skip(s->pb, klv.length);
1757     }
1758     /* FIXME avoid seek */
1759     if (!essence_offset)  {
1760         av_log(s, AV_LOG_ERROR, "no essence\n");
1761         return AVERROR_INVALIDDATA;
1762     }
1763     avio_seek(s->pb, essence_offset, SEEK_SET);
1764
1765     mxf_compute_essence_containers(mxf);
1766
1767     /* we need to do this before computing the index tables
1768      * to be able to fill in zero IndexDurations with st->duration */
1769     if ((ret = mxf_parse_structural_metadata(mxf)) < 0)
1770         return ret;
1771
1772     if ((ret = mxf_compute_index_tables(mxf)) < 0)
1773         return ret;
1774
1775     if (mxf->nb_index_tables > 1) {
1776         /* TODO: look up which IndexSID to use via EssenceContainerData */
1777         av_log(mxf->fc, AV_LOG_INFO, "got %i index tables - only the first one (IndexSID %i) will be used\n",
1778                mxf->nb_index_tables, mxf->index_tables[0].index_sid);
1779     } else if (mxf->nb_index_tables == 0 && mxf->op == OPAtom) {
1780         av_log(mxf->fc, AV_LOG_ERROR, "cannot demux OPAtom without an index\n");
1781         return AVERROR_INVALIDDATA;
1782     }
1783
1784     return 0;
1785 }
1786
1787 /**
1788  * Computes DTS and PTS for the given video packet based on its offset.
1789  */
1790 static void mxf_packet_timestamps(MXFContext *mxf, AVPacket *pkt)
1791 {
1792     int64_t last_ofs = -1, next_ofs;
1793     MXFIndexTable *t = &mxf->index_tables[0];
1794
1795     /* this is called from the OP1a demuxing logic, which means there
1796      * may be no index tables */
1797     if (mxf->nb_index_tables <= 0)
1798         return;
1799
1800     /* find mxf->current_edit_unit so that the next edit unit starts ahead of pkt->pos */
1801     while (mxf->current_edit_unit >= 0) {
1802         if (mxf_edit_unit_absolute_offset(mxf, t, mxf->current_edit_unit + 1, NULL, &next_ofs, 0) < 0)
1803             break;
1804
1805         if (next_ofs <= last_ofs) {
1806             /* large next_ofs didn't change or current_edit_unit wrapped
1807              * around this fixes the infinite loop on zzuf3.mxf */
1808             av_log(mxf->fc, AV_LOG_ERROR,
1809                    "next_ofs didn't change. not deriving packet timestamps\n");
1810             return;
1811         }
1812
1813         if (next_ofs > pkt->pos)
1814             break;
1815
1816         last_ofs = next_ofs;
1817         mxf->current_edit_unit++;
1818     }
1819
1820     if (mxf->current_edit_unit < 0 || mxf->current_edit_unit >= t->nb_ptses)
1821         return;
1822
1823     pkt->dts = mxf->current_edit_unit + t->first_dts;
1824     pkt->pts = t->ptses[mxf->current_edit_unit];
1825 }
1826
1827 static int mxf_read_packet_old(AVFormatContext *s, AVPacket *pkt)
1828 {
1829     KLVPacket klv;
1830
1831     while (!s->pb->eof_reached) {
1832         if (klv_read_packet(&klv, s->pb) < 0)
1833             return -1;
1834         PRINT_KEY(s, "read packet", klv.key);
1835         av_dlog(s, "size %"PRIu64" offset %#"PRIx64"\n", klv.length, klv.offset);
1836         if (IS_KLV_KEY(klv.key, mxf_encrypted_triplet_key)) {
1837             int res = mxf_decrypt_triplet(s, pkt, &klv);
1838             if (res < 0) {
1839                 av_log(s, AV_LOG_ERROR, "invalid encoded triplet\n");
1840                 return -1;
1841             }
1842             return 0;
1843         }
1844         if (IS_KLV_KEY(klv.key, mxf_essence_element_key) ||
1845             IS_KLV_KEY(klv.key, mxf_avid_essence_element_key)) {
1846             int index = mxf_get_stream_index(s, &klv);
1847             if (index < 0) {
1848                 av_log(s, AV_LOG_ERROR, "error getting stream index %d\n", AV_RB32(klv.key+12));
1849                 goto skip;
1850             }
1851             if (s->streams[index]->discard == AVDISCARD_ALL)
1852                 goto skip;
1853             /* check for 8 channels AES3 element */
1854             if (klv.key[12] == 0x06 && klv.key[13] == 0x01 && klv.key[14] == 0x10) {
1855                 if (mxf_get_d10_aes3_packet(s->pb, s->streams[index], pkt, klv.length) < 0) {
1856                     av_log(s, AV_LOG_ERROR, "error reading D-10 aes3 frame\n");
1857                     return -1;
1858                 }
1859             } else {
1860                 int ret = av_get_packet(s->pb, pkt, klv.length);
1861                 if (ret < 0)
1862                     return ret;
1863             }
1864             pkt->stream_index = index;
1865             pkt->pos = klv.offset;
1866
1867             if (s->streams[index]->codec->codec_type == AVMEDIA_TYPE_VIDEO)
1868                 mxf_packet_timestamps(s->priv_data, pkt);   /* offset -> EditUnit -> DTS/PTS */
1869
1870             return 0;
1871         } else
1872         skip:
1873             avio_skip(s->pb, klv.length);
1874     }
1875     return AVERROR_EOF;
1876 }
1877
1878 static int mxf_read_packet(AVFormatContext *s, AVPacket *pkt)
1879 {
1880     MXFContext *mxf = s->priv_data;
1881     int ret, size;
1882     int64_t ret64, pos, next_pos;
1883     AVStream *st;
1884     MXFIndexTable *t;
1885
1886     if (mxf->op != OPAtom)
1887         return mxf_read_packet_old(s, pkt);
1888
1889     /* OPAtom - clip wrapped demuxing */
1890     /* NOTE: mxf_read_header() makes sure nb_index_tables > 0 for OPAtom */
1891     st = s->streams[0];
1892     t = &mxf->index_tables[0];
1893
1894     if (mxf->current_edit_unit >= st->duration)
1895         return AVERROR_EOF;
1896
1897     if ((ret = mxf_edit_unit_absolute_offset(mxf, t, mxf->current_edit_unit, NULL, &pos, 1)) < 0)
1898         return ret;
1899
1900     /* compute size by finding the next edit unit or the end of the essence container
1901      * not pretty, but it works */
1902     if ((ret = mxf_edit_unit_absolute_offset(mxf, t, mxf->current_edit_unit + 1, NULL, &next_pos, 0)) < 0 &&
1903         (next_pos = mxf_essence_container_end(mxf, t->body_sid)) <= 0) {
1904         av_log(s, AV_LOG_ERROR, "unable to compute the size of the last packet\n");
1905         return AVERROR_INVALIDDATA;
1906     }
1907
1908     if ((size = next_pos - pos) <= 0) {
1909         av_log(s, AV_LOG_ERROR, "bad size: %i\n", size);
1910         return AVERROR_INVALIDDATA;
1911     }
1912
1913     if ((ret64 = avio_seek(s->pb, pos, SEEK_SET)) < 0)
1914         return ret64;
1915
1916         if ((ret = av_get_packet(s->pb, pkt, size)) != size)
1917             return ret < 0 ? ret : AVERROR_EOF;
1918
1919     if (st->codec->codec_type == AVMEDIA_TYPE_VIDEO && t->ptses &&
1920         mxf->current_edit_unit >= 0 && mxf->current_edit_unit < t->nb_ptses) {
1921         pkt->dts = mxf->current_edit_unit + t->first_dts;
1922         pkt->pts = t->ptses[mxf->current_edit_unit];
1923     }
1924
1925     pkt->stream_index = 0;
1926     mxf->current_edit_unit++;
1927
1928     return 0;
1929 }
1930
1931
1932 static int mxf_read_close(AVFormatContext *s)
1933 {
1934     MXFContext *mxf = s->priv_data;
1935     MXFIndexTableSegment *seg;
1936     int i;
1937
1938     av_freep(&mxf->packages_refs);
1939
1940     for (i = 0; i < s->nb_streams; i++)
1941         s->streams[i]->priv_data = NULL;
1942
1943     for (i = 0; i < mxf->metadata_sets_count; i++) {
1944         switch (mxf->metadata_sets[i]->type) {
1945         case MultipleDescriptor:
1946             av_freep(&((MXFDescriptor *)mxf->metadata_sets[i])->sub_descriptors_refs);
1947             break;
1948         case Sequence:
1949             av_freep(&((MXFSequence *)mxf->metadata_sets[i])->structural_components_refs);
1950             break;
1951         case SourcePackage:
1952         case MaterialPackage:
1953             av_freep(&((MXFPackage *)mxf->metadata_sets[i])->tracks_refs);
1954             break;
1955         case IndexTableSegment:
1956             seg = (MXFIndexTableSegment *)mxf->metadata_sets[i];
1957             av_freep(&seg->temporal_offset_entries);
1958             av_freep(&seg->flag_entries);
1959             av_freep(&seg->stream_offset_entries);
1960             break;
1961         default:
1962             break;
1963         }
1964         av_freep(&mxf->metadata_sets[i]);
1965     }
1966     av_freep(&mxf->partitions);
1967     av_freep(&mxf->metadata_sets);
1968     av_freep(&mxf->aesc);
1969     av_freep(&mxf->local_tags);
1970
1971     for (i = 0; i < mxf->nb_index_tables; i++) {
1972         av_freep(&mxf->index_tables[i].segments);
1973         av_freep(&mxf->index_tables[i].ptses);
1974         av_freep(&mxf->index_tables[i].fake_index);
1975     }
1976     av_freep(&mxf->index_tables);
1977
1978     return 0;
1979 }
1980
1981 static int mxf_probe(AVProbeData *p) {
1982     uint8_t *bufp = p->buf;
1983     uint8_t *end = p->buf + p->buf_size;
1984
1985     if (p->buf_size < sizeof(mxf_header_partition_pack_key))
1986         return 0;
1987
1988     /* Must skip Run-In Sequence and search for MXF header partition pack key SMPTE 377M 5.5 */
1989     end -= sizeof(mxf_header_partition_pack_key);
1990     for (; bufp < end; bufp++) {
1991         if (IS_KLV_KEY(bufp, mxf_header_partition_pack_key))
1992             return AVPROBE_SCORE_MAX;
1993     }
1994     return 0;
1995 }
1996
1997 /* rudimentary byte seek */
1998 /* XXX: use MXF Index */
1999 static int mxf_read_seek(AVFormatContext *s, int stream_index, int64_t sample_time, int flags)
2000 {
2001     AVStream *st = s->streams[stream_index];
2002     int64_t seconds;
2003     MXFContext* mxf = s->priv_data;
2004     int64_t seekpos;
2005     int ret;
2006     MXFIndexTable *t;
2007
2008     if (mxf->index_tables <= 0) {
2009     if (!s->bit_rate)
2010         return AVERROR_INVALIDDATA;
2011     if (sample_time < 0)
2012         sample_time = 0;
2013     seconds = av_rescale(sample_time, st->time_base.num, st->time_base.den);
2014
2015     if ((ret = avio_seek(s->pb, (s->bit_rate * seconds) >> 3, SEEK_SET)) < 0)
2016         return ret;
2017     ff_update_cur_dts(s, st, sample_time);
2018     } else {
2019         t = &mxf->index_tables[0];
2020
2021         /* clamp above zero, else ff_index_search_timestamp() returns negative
2022          * this also means we allow seeking before the start */
2023         sample_time = FFMAX(sample_time, 0);
2024
2025         if (t->fake_index) {
2026             /* behave as if we have a proper index */
2027             if ((sample_time = ff_index_search_timestamp(t->fake_index, t->nb_ptses, sample_time, flags)) < 0)
2028                 return sample_time;
2029         } else {
2030             /* no IndexEntryArray (one or more CBR segments)
2031              * make sure we don't seek past the end */
2032             sample_time = FFMIN(sample_time, st->duration - 1);
2033         }
2034
2035         if ((ret = mxf_edit_unit_absolute_offset(mxf, t, sample_time, &sample_time, &seekpos, 1)) << 0)
2036             return ret;
2037
2038         ff_update_cur_dts(s, st, sample_time);
2039         mxf->current_edit_unit = sample_time;
2040         avio_seek(s->pb, seekpos, SEEK_SET);
2041     }
2042     return 0;
2043 }
2044
2045 AVInputFormat ff_mxf_demuxer = {
2046     .name           = "mxf",
2047     .long_name      = NULL_IF_CONFIG_SMALL("Material eXchange Format"),
2048     .priv_data_size = sizeof(MXFContext),
2049     .read_probe     = mxf_probe,
2050     .read_header    = mxf_read_header,
2051     .read_packet    = mxf_read_packet,
2052     .read_close     = mxf_read_close,
2053     .read_seek      = mxf_read_seek,
2054 };