Factorize common code out of the mxf demuxer.
[ffmpeg.git] / libavformat / mxfdec.c
1 /*
2  * MXF demuxer.
3  * Copyright (c) 2006 SmartJog S.A., Baptiste Coudurier <baptiste dot coudurier at smartjog dot com>.
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /*
23  * References
24  * SMPTE 336M KLV Data Encoding Protocol Using Key-Length-Value
25  * SMPTE 377M MXF File Format Specifications
26  * SMPTE 378M Operational Pattern 1a
27  * SMPTE 379M MXF Generic Container
28  * SMPTE 381M Mapping MPEG Streams into the MXF Generic Container
29  * SMPTE 382M Mapping AES3 and Broadcast Wave Audio into the MXF Generic Container
30  * SMPTE 383M Mapping DV-DIF Data to the MXF Generic Container
31  *
32  * Principle
33  * Search for Track numbers which will identify essence element KLV packets.
34  * Search for SourcePackage which define tracks which contains Track numbers.
35  * Material Package contains tracks with reference to SourcePackage tracks.
36  * Search for Descriptors (Picture, Sound) which contains codec info and parameters.
37  * Assign Descriptors to correct Tracks.
38  *
39  * Metadata reading functions read Local Tags, get InstanceUID(0x3C0A) then add MetaDataSet to MXFContext.
40  * Metadata parsing resolves Strong References to objects.
41  *
42  * Simple demuxer, only OP1A supported and some files might not work at all.
43  * Only tracks with associated descriptors will be decoded. "Highly Desirable" SMPTE 377M D.1
44  */
45
46 //#define DEBUG
47
48 #include "libavutil/aes.h"
49 #include "mxf.h"
50
51 typedef struct {
52     UID uid;
53     enum MXFMetadataSetType type;
54     UID source_container_ul;
55 } MXFCryptoContext;
56
57 typedef struct {
58     UID uid;
59     enum MXFMetadataSetType type;
60     UID source_package_uid;
61     UID data_definition_ul;
62     int64_t duration;
63     int64_t start_position;
64     int source_track_id;
65 } MXFStructuralComponent;
66
67 typedef struct {
68     UID uid;
69     enum MXFMetadataSetType type;
70     UID data_definition_ul;
71     UID *structural_components_refs;
72     int structural_components_count;
73     int64_t duration;
74 } MXFSequence;
75
76 typedef struct {
77     UID uid;
78     enum MXFMetadataSetType type;
79     MXFSequence *sequence; /* mandatory, and only one */
80     UID sequence_ref;
81     int track_id;
82     uint8_t track_number[4];
83     AVRational edit_rate;
84 } MXFTrack;
85
86 typedef struct {
87     UID uid;
88     enum MXFMetadataSetType type;
89     UID essence_container_ul;
90     UID essence_codec_ul;
91     AVRational sample_rate;
92     AVRational aspect_ratio;
93     int width;
94     int height;
95     int channels;
96     int bits_per_sample;
97     UID *sub_descriptors_refs;
98     int sub_descriptors_count;
99     int linked_track_id;
100     uint8_t *extradata;
101     int extradata_size;
102 } MXFDescriptor;
103
104 typedef struct {
105     UID uid;
106     enum MXFMetadataSetType type;
107     UID package_uid;
108     UID *tracks_refs;
109     int tracks_count;
110     MXFDescriptor *descriptor; /* only one */
111     UID descriptor_ref;
112 } MXFPackage;
113
114 typedef struct {
115     UID uid;
116     enum MXFMetadataSetType type;
117 } MXFMetadataSet;
118
119 typedef struct {
120     UID *packages_refs;
121     int packages_count;
122     MXFMetadataSet **metadata_sets;
123     int metadata_sets_count;
124     AVFormatContext *fc;
125     struct AVAES *aesc;
126     uint8_t *local_tags;
127     int local_tags_count;
128 } MXFContext;
129
130 enum MXFWrappingScheme {
131     Frame,
132     Clip,
133 };
134
135 typedef struct {
136     const UID key;
137     int (*read)();
138     int ctx_size;
139     enum MXFMetadataSetType type;
140 } MXFMetadataReadTableEntry;
141
142 /* partial keys to match */
143 static const uint8_t mxf_header_partition_pack_key[]       = { 0x06,0x0e,0x2b,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x02 };
144 static const uint8_t mxf_essence_element_key[]             = { 0x06,0x0e,0x2b,0x34,0x01,0x02,0x01,0x01,0x0d,0x01,0x03,0x01 };
145 static const uint8_t mxf_klv_key[]                         = { 0x06,0x0e,0x2b,0x34 };
146 /* complete keys to match */
147 static const uint8_t mxf_crypto_source_container_ul[]      = { 0x06,0x0e,0x2b,0x34,0x01,0x01,0x01,0x09,0x06,0x01,0x01,0x02,0x02,0x00,0x00,0x00 };
148 static const uint8_t mxf_encrypted_triplet_key[]           = { 0x06,0x0e,0x2b,0x34,0x02,0x04,0x01,0x07,0x0d,0x01,0x03,0x01,0x02,0x7e,0x01,0x00 };
149 static const uint8_t mxf_encrypted_essence_container[]     = { 0x06,0x0e,0x2b,0x34,0x04,0x01,0x01,0x07,0x0d,0x01,0x03,0x01,0x02,0x0b,0x01,0x00 };
150 static const uint8_t mxf_sony_mpeg4_extradata[]            = { 0x06,0x0e,0x2b,0x34,0x04,0x01,0x01,0x01,0x0e,0x06,0x06,0x02,0x02,0x01,0x00,0x00 };
151
152 #define IS_KLV_KEY(x, y) (!memcmp(x, y, sizeof(y)))
153
154 static int64_t klv_decode_ber_length(ByteIOContext *pb)
155 {
156     uint64_t size = get_byte(pb);
157     if (size & 0x80) { /* long form */
158         int bytes_num = size & 0x7f;
159         /* SMPTE 379M 5.3.4 guarantee that bytes_num must not exceed 8 bytes */
160         if (bytes_num > 8)
161             return -1;
162         size = 0;
163         while (bytes_num--)
164             size = size << 8 | get_byte(pb);
165     }
166     return size;
167 }
168
169 static int mxf_read_sync(ByteIOContext *pb, const uint8_t *key, unsigned size)
170 {
171     int i, b;
172     for (i = 0; i < size && !url_feof(pb); i++) {
173         b = get_byte(pb);
174         if (b == key[0])
175             i = 0;
176         else if (b != key[i])
177             i = -1;
178     }
179     return i == size;
180 }
181
182 static int klv_read_packet(KLVPacket *klv, ByteIOContext *pb)
183 {
184     if (!mxf_read_sync(pb, mxf_klv_key, 4))
185         return -1;
186     klv->offset = url_ftell(pb) - 4;
187     memcpy(klv->key, mxf_klv_key, 4);
188     get_buffer(pb, klv->key + 4, 12);
189     klv->length = klv_decode_ber_length(pb);
190     return klv->length == -1 ? -1 : 0;
191 }
192
193 static int mxf_get_stream_index(AVFormatContext *s, KLVPacket *klv)
194 {
195     int i;
196
197     for (i = 0; i < s->nb_streams; i++) {
198         MXFTrack *track = s->streams[i]->priv_data;
199         /* SMPTE 379M 7.3 */
200         if (!memcmp(klv->key + sizeof(mxf_essence_element_key), track->track_number, sizeof(track->track_number)))
201             return i;
202     }
203     /* return 0 if only one stream, for OP Atom files with 0 as track number */
204     return s->nb_streams == 1 ? 0 : -1;
205 }
206
207 /* XXX: use AVBitStreamFilter */
208 static int mxf_get_d10_aes3_packet(ByteIOContext *pb, AVStream *st, AVPacket *pkt, int64_t length)
209 {
210     uint8_t buffer[61444];
211     const uint8_t *buf_ptr, *end_ptr;
212     uint8_t *data_ptr;
213     int i;
214
215     if (length > 61444) /* worst case PAL 1920 samples 8 channels */
216         return -1;
217     get_buffer(pb, buffer, length);
218     av_new_packet(pkt, length);
219     data_ptr = pkt->data;
220     end_ptr = buffer + length;
221     buf_ptr = buffer + 4; /* skip SMPTE 331M header */
222     for (; buf_ptr < end_ptr; ) {
223         for (i = 0; i < st->codec->channels; i++) {
224             uint32_t sample = bytestream_get_le32(&buf_ptr);
225             if (st->codec->bits_per_sample == 24)
226                 bytestream_put_le24(&data_ptr, (sample >> 4) & 0xffffff);
227             else
228                 bytestream_put_le16(&data_ptr, (sample >> 12) & 0xffff);
229         }
230         buf_ptr += 32 - st->codec->channels*4; // always 8 channels stored SMPTE 331M
231     }
232     pkt->size = data_ptr - pkt->data;
233     return 0;
234 }
235
236 static int mxf_decrypt_triplet(AVFormatContext *s, AVPacket *pkt, KLVPacket *klv)
237 {
238     static const uint8_t checkv[16] = {0x43, 0x48, 0x55, 0x4b, 0x43, 0x48, 0x55, 0x4b, 0x43, 0x48, 0x55, 0x4b, 0x43, 0x48, 0x55, 0x4b};
239     MXFContext *mxf = s->priv_data;
240     ByteIOContext *pb = s->pb;
241     offset_t end = url_ftell(pb) + klv->length;
242     uint64_t size;
243     uint64_t orig_size;
244     uint64_t plaintext_size;
245     uint8_t ivec[16];
246     uint8_t tmpbuf[16];
247     int index;
248
249     if (!mxf->aesc && s->key && s->keylen == 16) {
250         mxf->aesc = av_malloc(av_aes_size);
251         if (!mxf->aesc)
252             return -1;
253         av_aes_init(mxf->aesc, s->key, 128, 1);
254     }
255     // crypto context
256     url_fskip(pb, klv_decode_ber_length(pb));
257     // plaintext offset
258     klv_decode_ber_length(pb);
259     plaintext_size = get_be64(pb);
260     // source klv key
261     klv_decode_ber_length(pb);
262     get_buffer(pb, klv->key, 16);
263     if (!IS_KLV_KEY(klv, mxf_essence_element_key))
264         return -1;
265     index = mxf_get_stream_index(s, klv);
266     if (index < 0)
267         return -1;
268     // source size
269     klv_decode_ber_length(pb);
270     orig_size = get_be64(pb);
271     if (orig_size < plaintext_size)
272         return -1;
273     // enc. code
274     size = klv_decode_ber_length(pb);
275     if (size < 32 || size - 32 < orig_size)
276         return -1;
277     get_buffer(pb, ivec, 16);
278     get_buffer(pb, tmpbuf, 16);
279     if (mxf->aesc)
280         av_aes_crypt(mxf->aesc, tmpbuf, tmpbuf, 1, ivec, 1);
281     if (memcmp(tmpbuf, checkv, 16))
282         av_log(s, AV_LOG_ERROR, "probably incorrect decryption key\n");
283     size -= 32;
284     av_get_packet(pb, pkt, size);
285     size -= plaintext_size;
286     if (mxf->aesc)
287         av_aes_crypt(mxf->aesc, &pkt->data[plaintext_size],
288                      &pkt->data[plaintext_size], size >> 4, ivec, 1);
289     pkt->size = orig_size;
290     pkt->stream_index = index;
291     url_fskip(pb, end - url_ftell(pb));
292     return 0;
293 }
294
295 static int mxf_read_packet(AVFormatContext *s, AVPacket *pkt)
296 {
297     KLVPacket klv;
298
299     while (!url_feof(s->pb)) {
300         if (klv_read_packet(&klv, s->pb) < 0)
301             return -1;
302 #ifdef DEBUG
303         PRINT_KEY(s, "read packet", klv.key);
304 #endif
305         if (IS_KLV_KEY(klv.key, mxf_encrypted_triplet_key)) {
306             int res = mxf_decrypt_triplet(s, pkt, &klv);
307             if (res < 0) {
308                 av_log(s, AV_LOG_ERROR, "invalid encoded triplet\n");
309                 return -1;
310             }
311             return 0;
312         }
313         if (IS_KLV_KEY(klv.key, mxf_essence_element_key)) {
314             int index = mxf_get_stream_index(s, &klv);
315             if (index < 0) {
316                 av_log(s, AV_LOG_ERROR, "error getting stream index %x\n", AV_RB32(klv.key+12));
317                 goto skip;
318             }
319             if (s->streams[index]->discard == AVDISCARD_ALL)
320                 goto skip;
321             /* check for 8 channels AES3 element */
322             if (klv.key[12] == 0x06 && klv.key[13] == 0x01 && klv.key[14] == 0x10) {
323                 if (mxf_get_d10_aes3_packet(s->pb, s->streams[index], pkt, klv.length) < 0) {
324                     av_log(s, AV_LOG_ERROR, "error reading D-10 aes3 frame\n");
325                     return -1;
326                 }
327             } else
328                 av_get_packet(s->pb, pkt, klv.length);
329             pkt->stream_index = index;
330             pkt->pos = klv.offset;
331             return 0;
332         } else
333         skip:
334             url_fskip(s->pb, klv.length);
335     }
336     return AVERROR(EIO);
337 }
338
339 static int mxf_read_primer_pack(MXFContext *mxf)
340 {
341     ByteIOContext *pb = mxf->fc->pb;
342     int item_num = get_be32(pb);
343     int item_len = get_be32(pb);
344
345     if (item_len != 18) {
346         av_log(mxf->fc, AV_LOG_ERROR, "unsupported primer pack item length\n");
347         return -1;
348     }
349     if (item_num > UINT_MAX / item_len)
350         return -1;
351     mxf->local_tags_count = item_num;
352     mxf->local_tags = av_malloc(item_num*item_len);
353     if (!mxf->local_tags)
354         return -1;
355     get_buffer(pb, mxf->local_tags, item_num*item_len);
356     return 0;
357 }
358
359 static int mxf_add_metadata_set(MXFContext *mxf, void *metadata_set)
360 {
361     mxf->metadata_sets = av_realloc(mxf->metadata_sets, (mxf->metadata_sets_count + 1) * sizeof(*mxf->metadata_sets));
362     if (!mxf->metadata_sets)
363         return -1;
364     mxf->metadata_sets[mxf->metadata_sets_count] = metadata_set;
365     mxf->metadata_sets_count++;
366     return 0;
367 }
368
369 static int mxf_read_cryptographic_context(MXFCryptoContext *cryptocontext, ByteIOContext *pb, int tag, int size, UID uid)
370 {
371     if (size != 16)
372         return -1;
373     if (IS_KLV_KEY(uid, mxf_crypto_source_container_ul))
374         get_buffer(pb, cryptocontext->source_container_ul, 16);
375     return 0;
376 }
377
378 static int mxf_read_content_storage(MXFContext *mxf, ByteIOContext *pb, int tag)
379 {
380     switch (tag) {
381     case 0x1901:
382         mxf->packages_count = get_be32(pb);
383         if (mxf->packages_count >= UINT_MAX / sizeof(UID))
384             return -1;
385         mxf->packages_refs = av_malloc(mxf->packages_count * sizeof(UID));
386         if (!mxf->packages_refs)
387             return -1;
388         url_fskip(pb, 4); /* useless size of objects, always 16 according to specs */
389         get_buffer(pb, (uint8_t *)mxf->packages_refs, mxf->packages_count * sizeof(UID));
390         break;
391     }
392     return 0;
393 }
394
395 static int mxf_read_source_clip(MXFStructuralComponent *source_clip, ByteIOContext *pb, int tag)
396 {
397     switch(tag) {
398     case 0x0202:
399         source_clip->duration = get_be64(pb);
400         break;
401     case 0x1201:
402         source_clip->start_position = get_be64(pb);
403         break;
404     case 0x1101:
405         /* UMID, only get last 16 bytes */
406         url_fskip(pb, 16);
407         get_buffer(pb, source_clip->source_package_uid, 16);
408         break;
409     case 0x1102:
410         source_clip->source_track_id = get_be32(pb);
411         break;
412     }
413     return 0;
414 }
415
416 static int mxf_read_material_package(MXFPackage *package, ByteIOContext *pb, int tag)
417 {
418     switch(tag) {
419     case 0x4403:
420         package->tracks_count = get_be32(pb);
421         if (package->tracks_count >= UINT_MAX / sizeof(UID))
422             return -1;
423         package->tracks_refs = av_malloc(package->tracks_count * sizeof(UID));
424         if (!package->tracks_refs)
425             return -1;
426         url_fskip(pb, 4); /* useless size of objects, always 16 according to specs */
427         get_buffer(pb, (uint8_t *)package->tracks_refs, package->tracks_count * sizeof(UID));
428         break;
429     }
430     return 0;
431 }
432
433 static int mxf_read_track(MXFTrack *track, ByteIOContext *pb, int tag)
434 {
435     switch(tag) {
436     case 0x4801:
437         track->track_id = get_be32(pb);
438         break;
439     case 0x4804:
440         get_buffer(pb, track->track_number, 4);
441         break;
442     case 0x4B01:
443         track->edit_rate.den = get_be32(pb);
444         track->edit_rate.num = get_be32(pb);
445         break;
446     case 0x4803:
447         get_buffer(pb, track->sequence_ref, 16);
448         break;
449     }
450     return 0;
451 }
452
453 static int mxf_read_sequence(MXFSequence *sequence, ByteIOContext *pb, int tag)
454 {
455     switch(tag) {
456     case 0x0202:
457         sequence->duration = get_be64(pb);
458         break;
459     case 0x0201:
460         get_buffer(pb, sequence->data_definition_ul, 16);
461         break;
462     case 0x1001:
463         sequence->structural_components_count = get_be32(pb);
464         if (sequence->structural_components_count >= UINT_MAX / sizeof(UID))
465             return -1;
466         sequence->structural_components_refs = av_malloc(sequence->structural_components_count * sizeof(UID));
467         if (!sequence->structural_components_refs)
468             return -1;
469         url_fskip(pb, 4); /* useless size of objects, always 16 according to specs */
470         get_buffer(pb, (uint8_t *)sequence->structural_components_refs, sequence->structural_components_count * sizeof(UID));
471         break;
472     }
473     return 0;
474 }
475
476 static int mxf_read_source_package(MXFPackage *package, ByteIOContext *pb, int tag)
477 {
478     switch(tag) {
479     case 0x4403:
480         package->tracks_count = get_be32(pb);
481         if (package->tracks_count >= UINT_MAX / sizeof(UID))
482             return -1;
483         package->tracks_refs = av_malloc(package->tracks_count * sizeof(UID));
484         if (!package->tracks_refs)
485             return -1;
486         url_fskip(pb, 4); /* useless size of objects, always 16 according to specs */
487         get_buffer(pb, (uint8_t *)package->tracks_refs, package->tracks_count * sizeof(UID));
488         break;
489     case 0x4401:
490         /* UMID, only get last 16 bytes */
491         url_fskip(pb, 16);
492         get_buffer(pb, package->package_uid, 16);
493         break;
494     case 0x4701:
495         get_buffer(pb, package->descriptor_ref, 16);
496         break;
497     }
498     return 0;
499 }
500
501 static void mxf_read_pixel_layout(ByteIOContext *pb, MXFDescriptor *descriptor)
502 {
503     int code;
504
505     do {
506         code = get_byte(pb);
507         dprintf(NULL, "pixel layout: code 0x%x\n", code);
508         switch (code) {
509         case 0x52: /* R */
510             descriptor->bits_per_sample += get_byte(pb);
511             break;
512         case 0x47: /* G */
513             descriptor->bits_per_sample += get_byte(pb);
514             break;
515         case 0x42: /* B */
516             descriptor->bits_per_sample += get_byte(pb);
517             break;
518         default:
519             get_byte(pb);
520         }
521     } while (code != 0); /* SMPTE 377M E.2.46 */
522 }
523
524 static int mxf_read_generic_descriptor(MXFDescriptor *descriptor, ByteIOContext *pb, int tag, int size, UID uid)
525 {
526     switch(tag) {
527     case 0x3F01:
528         descriptor->sub_descriptors_count = get_be32(pb);
529         if (descriptor->sub_descriptors_count >= UINT_MAX / sizeof(UID))
530             return -1;
531         descriptor->sub_descriptors_refs = av_malloc(descriptor->sub_descriptors_count * sizeof(UID));
532         if (!descriptor->sub_descriptors_refs)
533             return -1;
534         url_fskip(pb, 4); /* useless size of objects, always 16 according to specs */
535         get_buffer(pb, (uint8_t *)descriptor->sub_descriptors_refs, descriptor->sub_descriptors_count * sizeof(UID));
536         break;
537     case 0x3004:
538         get_buffer(pb, descriptor->essence_container_ul, 16);
539         break;
540     case 0x3006:
541         descriptor->linked_track_id = get_be32(pb);
542         break;
543     case 0x3201: /* PictureEssenceCoding */
544         get_buffer(pb, descriptor->essence_codec_ul, 16);
545         break;
546     case 0x3203:
547         descriptor->width = get_be32(pb);
548         break;
549     case 0x3202:
550         descriptor->height = get_be32(pb);
551         break;
552     case 0x320E:
553         descriptor->aspect_ratio.num = get_be32(pb);
554         descriptor->aspect_ratio.den = get_be32(pb);
555         break;
556     case 0x3D03:
557         descriptor->sample_rate.num = get_be32(pb);
558         descriptor->sample_rate.den = get_be32(pb);
559         break;
560     case 0x3D06: /* SoundEssenceCompression */
561         get_buffer(pb, descriptor->essence_codec_ul, 16);
562         break;
563     case 0x3D07:
564         descriptor->channels = get_be32(pb);
565         break;
566     case 0x3D01:
567         descriptor->bits_per_sample = get_be32(pb);
568         break;
569     case 0x3401:
570         mxf_read_pixel_layout(pb, descriptor);
571         break;
572     default:
573         /* Private uid used by SONY C0023S01.mxf */
574         if (IS_KLV_KEY(uid, mxf_sony_mpeg4_extradata)) {
575             descriptor->extradata = av_malloc(size);
576             if (!descriptor->extradata)
577                 return -1;
578             descriptor->extradata_size = size;
579             get_buffer(pb, descriptor->extradata, size);
580         }
581         break;
582     }
583     return 0;
584 }
585
586 /*
587  * Match an uid independently of the version byte and up to len common bytes
588  * Returns: boolean
589  */
590 static int mxf_match_uid(const UID key, const UID uid, int len)
591 {
592     int i;
593     for (i = 0; i < len; i++) {
594         if (i != 7 && key[i] != uid[i])
595             return 0;
596     }
597     return 1;
598 }
599
600 static const MXFCodecUL *mxf_get_codec_ul(const MXFCodecUL *uls, UID *uid)
601 {
602     while (uls->id != CODEC_ID_NONE) {
603         if(mxf_match_uid(uls->uid, *uid, uls->matching_len))
604             break;
605         uls++;
606     }
607     return uls;
608 }
609
610 static enum CodecType mxf_get_codec_type(const MXFDataDefinitionUL *uls, UID *uid)
611 {
612     while (uls->type != CODEC_TYPE_DATA) {
613         if(mxf_match_uid(uls->uid, *uid, 16))
614             break;
615         uls++;
616     }
617     return uls->type;
618 }
619
620 static void *mxf_resolve_strong_ref(MXFContext *mxf, UID *strong_ref, enum MXFMetadataSetType type)
621 {
622     int i;
623
624     if (!strong_ref)
625         return NULL;
626     for (i = 0; i < mxf->metadata_sets_count; i++) {
627         if (!memcmp(*strong_ref, mxf->metadata_sets[i]->uid, 16) &&
628             (type == AnyType || mxf->metadata_sets[i]->type == type)) {
629             return mxf->metadata_sets[i];
630         }
631     }
632     return NULL;
633 }
634
635 static int mxf_parse_structural_metadata(MXFContext *mxf)
636 {
637     MXFPackage *material_package = NULL;
638     MXFPackage *temp_package = NULL;
639     int i, j, k;
640
641     dprintf(mxf->fc, "metadata sets count %d\n", mxf->metadata_sets_count);
642     /* TODO: handle multiple material packages (OP3x) */
643     for (i = 0; i < mxf->packages_count; i++) {
644         material_package = mxf_resolve_strong_ref(mxf, &mxf->packages_refs[i], MaterialPackage);
645         if (material_package) break;
646     }
647     if (!material_package) {
648         av_log(mxf->fc, AV_LOG_ERROR, "no material package found\n");
649         return -1;
650     }
651
652     for (i = 0; i < material_package->tracks_count; i++) {
653         MXFPackage *source_package = NULL;
654         MXFTrack *material_track = NULL;
655         MXFTrack *source_track = NULL;
656         MXFTrack *temp_track = NULL;
657         MXFDescriptor *descriptor = NULL;
658         MXFStructuralComponent *component = NULL;
659         UID *essence_container_ul = NULL;
660         const MXFCodecUL *codec_ul = NULL;
661         const MXFCodecUL *container_ul = NULL;
662         AVStream *st;
663
664         if (!(material_track = mxf_resolve_strong_ref(mxf, &material_package->tracks_refs[i], Track))) {
665             av_log(mxf->fc, AV_LOG_ERROR, "could not resolve material track strong ref\n");
666             continue;
667         }
668
669         if (!(material_track->sequence = mxf_resolve_strong_ref(mxf, &material_track->sequence_ref, Sequence))) {
670             av_log(mxf->fc, AV_LOG_ERROR, "could not resolve material track sequence strong ref\n");
671             return -1;
672         }
673
674         /* TODO: handle multiple source clips */
675         for (j = 0; j < material_track->sequence->structural_components_count; j++) {
676             /* TODO: handle timecode component */
677             component = mxf_resolve_strong_ref(mxf, &material_track->sequence->structural_components_refs[j], SourceClip);
678             if (!component)
679                 continue;
680
681             for (k = 0; k < mxf->packages_count; k++) {
682                 temp_package = mxf_resolve_strong_ref(mxf, &mxf->packages_refs[k], SourcePackage);
683                 if (!temp_package)
684                     continue;
685                 if (!memcmp(temp_package->package_uid, component->source_package_uid, 16)) {
686                     source_package = temp_package;
687                     break;
688                 }
689             }
690             if (!source_package) {
691                 av_log(mxf->fc, AV_LOG_ERROR, "material track %d: no corresponding source package found\n", material_track->track_id);
692                 break;
693             }
694             for (k = 0; k < source_package->tracks_count; k++) {
695                 if (!(temp_track = mxf_resolve_strong_ref(mxf, &source_package->tracks_refs[k], Track))) {
696                     av_log(mxf->fc, AV_LOG_ERROR, "could not resolve source track strong ref\n");
697                     return -1;
698                 }
699                 if (temp_track->track_id == component->source_track_id) {
700                     source_track = temp_track;
701                     break;
702                 }
703             }
704             if (!source_track) {
705                 av_log(mxf->fc, AV_LOG_ERROR, "material track %d: no corresponding source track found\n", material_track->track_id);
706                 break;
707             }
708         }
709         if (!source_track)
710             continue;
711
712         st = av_new_stream(mxf->fc, source_track->track_id);
713         if (!st) {
714             av_log(mxf->fc, AV_LOG_ERROR, "could not allocate stream\n");
715             return -1;
716         }
717         st->priv_data = source_track;
718         st->duration = component->duration;
719         if (st->duration == -1)
720             st->duration = AV_NOPTS_VALUE;
721         st->start_time = component->start_position;
722         av_set_pts_info(st, 64, material_track->edit_rate.num, material_track->edit_rate.den);
723
724         if (!(source_track->sequence = mxf_resolve_strong_ref(mxf, &source_track->sequence_ref, Sequence))) {
725             av_log(mxf->fc, AV_LOG_ERROR, "could not resolve source track sequence strong ref\n");
726             return -1;
727         }
728
729 #ifdef DEBUG
730         PRINT_KEY(mxf->fc, "data definition   ul", source_track->sequence->data_definition_ul);
731 #endif
732         st->codec->codec_type = mxf_get_codec_type(ff_mxf_data_definition_uls, &source_track->sequence->data_definition_ul);
733
734         source_package->descriptor = mxf_resolve_strong_ref(mxf, &source_package->descriptor_ref, AnyType);
735         if (source_package->descriptor) {
736             if (source_package->descriptor->type == MultipleDescriptor) {
737                 for (j = 0; j < source_package->descriptor->sub_descriptors_count; j++) {
738                     MXFDescriptor *sub_descriptor = mxf_resolve_strong_ref(mxf, &source_package->descriptor->sub_descriptors_refs[j], Descriptor);
739
740                     if (!sub_descriptor) {
741                         av_log(mxf->fc, AV_LOG_ERROR, "could not resolve sub descriptor strong ref\n");
742                         continue;
743                     }
744                     if (sub_descriptor->linked_track_id == source_track->track_id) {
745                         descriptor = sub_descriptor;
746                         break;
747                     }
748                 }
749             } else if (source_package->descriptor->type == Descriptor)
750                 descriptor = source_package->descriptor;
751         }
752         if (!descriptor) {
753             av_log(mxf->fc, AV_LOG_INFO, "source track %d: stream %d, no descriptor found\n", source_track->track_id, st->index);
754             continue;
755         }
756 #ifdef DEBUG
757         PRINT_KEY(mxf->fc, "essence codec     ul", descriptor->essence_codec_ul);
758         PRINT_KEY(mxf->fc, "essence container ul", descriptor->essence_container_ul);
759 #endif
760         essence_container_ul = &descriptor->essence_container_ul;
761         /* HACK: replacing the original key with mxf_encrypted_essence_container
762          * is not allowed according to s429-6, try to find correct information anyway */
763         if (IS_KLV_KEY(essence_container_ul, mxf_encrypted_essence_container)) {
764             av_log(mxf->fc, AV_LOG_INFO, "broken encrypted mxf file\n");
765             for (k = 0; k < mxf->metadata_sets_count; k++) {
766                 MXFMetadataSet *metadata = mxf->metadata_sets[k];
767                 if (metadata->type == CryptoContext) {
768                     essence_container_ul = &((MXFCryptoContext *)metadata)->source_container_ul;
769                     break;
770                 }
771             }
772         }
773         /* TODO: drop PictureEssenceCoding and SoundEssenceCompression, only check EssenceContainer */
774         codec_ul = mxf_get_codec_ul(ff_mxf_codec_uls, &descriptor->essence_codec_ul);
775         st->codec->codec_id = codec_ul->id;
776         if (descriptor->extradata) {
777             st->codec->extradata = descriptor->extradata;
778             st->codec->extradata_size = descriptor->extradata_size;
779         }
780         if (st->codec->codec_type == CODEC_TYPE_VIDEO) {
781             container_ul = mxf_get_codec_ul(ff_mxf_essence_container_uls, essence_container_ul);
782             if (st->codec->codec_id == CODEC_ID_NONE)
783                 st->codec->codec_id = container_ul->id;
784             st->codec->width = descriptor->width;
785             st->codec->height = descriptor->height;
786             st->codec->bits_per_sample = descriptor->bits_per_sample; /* Uncompressed */
787             st->need_parsing = AVSTREAM_PARSE_HEADERS;
788         } else if (st->codec->codec_type == CODEC_TYPE_AUDIO) {
789             container_ul = mxf_get_codec_ul(ff_mxf_essence_container_uls, essence_container_ul);
790             if (st->codec->codec_id == CODEC_ID_NONE)
791                 st->codec->codec_id = container_ul->id;
792             st->codec->channels = descriptor->channels;
793             st->codec->bits_per_sample = descriptor->bits_per_sample;
794             st->codec->sample_rate = descriptor->sample_rate.num / descriptor->sample_rate.den;
795             /* TODO: implement CODEC_ID_RAWAUDIO */
796             if (st->codec->codec_id == CODEC_ID_PCM_S16LE) {
797                 if (descriptor->bits_per_sample == 24)
798                     st->codec->codec_id = CODEC_ID_PCM_S24LE;
799                 else if (descriptor->bits_per_sample == 32)
800                     st->codec->codec_id = CODEC_ID_PCM_S32LE;
801             } else if (st->codec->codec_id == CODEC_ID_PCM_S16BE) {
802                 if (descriptor->bits_per_sample == 24)
803                     st->codec->codec_id = CODEC_ID_PCM_S24BE;
804                 else if (descriptor->bits_per_sample == 32)
805                     st->codec->codec_id = CODEC_ID_PCM_S32BE;
806             } else if (st->codec->codec_id == CODEC_ID_MP2) {
807                 st->need_parsing = AVSTREAM_PARSE_FULL;
808             }
809         }
810         if (st->codec->codec_type != CODEC_TYPE_DATA && (*essence_container_ul)[15] > 0x01) {
811             av_log(mxf->fc, AV_LOG_WARNING, "only frame wrapped mappings are correctly supported\n");
812             st->need_parsing = AVSTREAM_PARSE_FULL;
813         }
814     }
815     return 0;
816 }
817
818 static const MXFMetadataReadTableEntry mxf_metadata_read_table[] = {
819     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x05,0x01,0x00 }, mxf_read_primer_pack },
820     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x18,0x00 }, mxf_read_content_storage, 0, AnyType },
821     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x37,0x00 }, mxf_read_source_package, sizeof(MXFPackage), SourcePackage },
822     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x36,0x00 }, mxf_read_material_package, sizeof(MXFPackage), MaterialPackage },
823     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x0F,0x00 }, mxf_read_sequence, sizeof(MXFSequence), Sequence },
824     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x11,0x00 }, mxf_read_source_clip, sizeof(MXFStructuralComponent), SourceClip },
825     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x44,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), MultipleDescriptor },
826     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x42,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), Descriptor }, /* Generic Sound */
827     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x28,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), Descriptor }, /* CDCI */
828     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x29,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), Descriptor }, /* RGBA */
829     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x51,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), Descriptor }, /* MPEG 2 Video */
830     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x48,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), Descriptor }, /* Wave */
831     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x47,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), Descriptor }, /* AES3 */
832     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x3A,0x00 }, mxf_read_track, sizeof(MXFTrack), Track }, /* Static Track */
833     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x3B,0x00 }, mxf_read_track, sizeof(MXFTrack), Track }, /* Generic Track */
834     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x04,0x01,0x02,0x02,0x00,0x00 }, mxf_read_cryptographic_context, sizeof(MXFCryptoContext), CryptoContext },
835     { { 0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00 }, NULL, 0, AnyType },
836 };
837
838 static int mxf_read_local_tags(MXFContext *mxf, KLVPacket *klv, int (*read_child)(), int ctx_size, enum MXFMetadataSetType type)
839 {
840     ByteIOContext *pb = mxf->fc->pb;
841     MXFMetadataSet *ctx = ctx_size ? av_mallocz(ctx_size) : mxf;
842     uint64_t klv_end = url_ftell(pb) + klv->length;
843
844     if (!ctx)
845         return -1;
846     while (url_ftell(pb) + 4 < klv_end) {
847         int tag = get_be16(pb);
848         int size = get_be16(pb); /* KLV specified by 0x53 */
849         uint64_t next = url_ftell(pb) + size;
850         UID uid = {0};
851
852         if (!size) { /* ignore empty tag, needed for some files with empty UMID tag */
853             av_log(mxf->fc, AV_LOG_ERROR, "local tag 0x%04X with 0 size\n", tag);
854             continue;
855         }
856         if (tag > 0x7FFF) { /* dynamic tag */
857             int i;
858             for (i = 0; i < mxf->local_tags_count; i++) {
859                 int local_tag = AV_RB16(mxf->local_tags+i*18);
860                 if (local_tag == tag) {
861                     memcpy(uid, mxf->local_tags+i*18+2, 16);
862                     dprintf(mxf->fc, "local tag 0x%04X\n", local_tag);
863 #ifdef DEBUG
864                     PRINT_KEY(mxf->fc, "uid", uid);
865 #endif
866                 }
867             }
868         }
869         if (ctx_size && tag == 0x3C0A)
870             get_buffer(pb, ctx->uid, 16);
871         else if (read_child(ctx, pb, tag, size, uid) < 0)
872             return -1;
873
874         url_fseek(pb, next, SEEK_SET);
875     }
876     if (ctx_size) ctx->type = type;
877     return ctx_size ? mxf_add_metadata_set(mxf, ctx) : 0;
878 }
879
880 static int mxf_read_header(AVFormatContext *s, AVFormatParameters *ap)
881 {
882     MXFContext *mxf = s->priv_data;
883     KLVPacket klv;
884
885     if (!mxf_read_sync(s->pb, mxf_header_partition_pack_key, 14)) {
886         av_log(s, AV_LOG_ERROR, "could not find header partition pack key\n");
887         return -1;
888     }
889     url_fseek(s->pb, -14, SEEK_CUR);
890     mxf->fc = s;
891     while (!url_feof(s->pb)) {
892         const MXFMetadataReadTableEntry *metadata;
893
894         if (klv_read_packet(&klv, s->pb) < 0)
895             return -1;
896 #ifdef DEBUG
897         PRINT_KEY(s, "read header", klv.key);
898 #endif
899         if (IS_KLV_KEY(klv.key, mxf_encrypted_triplet_key) ||
900             IS_KLV_KEY(klv.key, mxf_essence_element_key)) {
901             /* FIXME avoid seek */
902             url_fseek(s->pb, klv.offset, SEEK_SET);
903             break;
904         }
905
906         for (metadata = mxf_metadata_read_table; metadata->read; metadata++) {
907             if (IS_KLV_KEY(klv.key, metadata->key)) {
908                 int (*read)() = klv.key[5] == 0x53 ? mxf_read_local_tags : metadata->read;
909                 if (read(mxf, &klv, metadata->read, metadata->ctx_size, metadata->type) < 0) {
910                     av_log(s, AV_LOG_ERROR, "error reading header metadata\n");
911                     return -1;
912                 }
913                 break;
914             }
915         }
916         if (!metadata->read)
917             url_fskip(s->pb, klv.length);
918     }
919     return mxf_parse_structural_metadata(mxf);
920 }
921
922 static int mxf_read_close(AVFormatContext *s)
923 {
924     MXFContext *mxf = s->priv_data;
925     int i;
926
927     av_freep(&mxf->packages_refs);
928     for (i = 0; i < mxf->metadata_sets_count; i++) {
929         switch (mxf->metadata_sets[i]->type) {
930         case MultipleDescriptor:
931             av_freep(&((MXFDescriptor *)mxf->metadata_sets[i])->sub_descriptors_refs);
932             break;
933         case Sequence:
934             av_freep(&((MXFSequence *)mxf->metadata_sets[i])->structural_components_refs);
935             break;
936         case SourcePackage:
937         case MaterialPackage:
938             av_freep(&((MXFPackage *)mxf->metadata_sets[i])->tracks_refs);
939             break;
940         case Track:
941             mxf->metadata_sets[i] = NULL; /* will be freed later */
942             break;
943         default:
944             break;
945         }
946         av_freep(&mxf->metadata_sets[i]);
947     }
948     av_freep(&mxf->metadata_sets);
949     av_freep(&mxf->aesc);
950     av_freep(&mxf->local_tags);
951     return 0;
952 }
953
954 static int mxf_probe(AVProbeData *p) {
955     uint8_t *bufp = p->buf;
956     uint8_t *end = p->buf + p->buf_size;
957
958     if (p->buf_size < sizeof(mxf_header_partition_pack_key))
959         return 0;
960
961     /* Must skip Run-In Sequence and search for MXF header partition pack key SMPTE 377M 5.5 */
962     end -= sizeof(mxf_header_partition_pack_key);
963     for (; bufp < end; bufp++) {
964         if (IS_KLV_KEY(bufp, mxf_header_partition_pack_key))
965             return AVPROBE_SCORE_MAX;
966     }
967     return 0;
968 }
969
970 /* rudimentary byte seek */
971 /* XXX: use MXF Index */
972 static int mxf_read_seek(AVFormatContext *s, int stream_index, int64_t sample_time, int flags)
973 {
974     AVStream *st = s->streams[stream_index];
975     int64_t seconds;
976
977     if (!s->bit_rate)
978         return -1;
979     if (sample_time < 0)
980         sample_time = 0;
981     seconds = av_rescale(sample_time, st->time_base.num, st->time_base.den);
982     url_fseek(s->pb, (s->bit_rate * seconds) >> 3, SEEK_SET);
983     av_update_cur_dts(s, st, sample_time);
984     return 0;
985 }
986
987 AVInputFormat mxf_demuxer = {
988     "mxf",
989     NULL_IF_CONFIG_SMALL("Material eXchange Format"),
990     sizeof(MXFContext),
991     mxf_probe,
992     mxf_read_header,
993     mxf_read_packet,
994     mxf_read_close,
995     mxf_read_seek,
996 };