prores: extract idct into its own dspcontext and merge with put_pixels.
[ffmpeg.git] / libavcodec / proresdec.c
1 /*
2  * Apple ProRes compatible decoder
3  *
4  * Copyright (c) 2010-2011 Maxim Poliakovski
5  *
6  * This file is part of Libav.
7  *
8  * Libav is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * Libav is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with Libav; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 /**
24  * @file
25  * This is a decoder for Apple ProRes 422 SD/HQ/LT/Proxy and ProRes 4444.
26  * It is used for storing and editing high definition video data in Apple's Final Cut Pro.
27  *
28  * @see http://wiki.multimedia.cx/index.php?title=Apple_ProRes
29  */
30
31 #define A32_BITSTREAM_READER // some ProRes vlc codes require up to 28 bits to be read at once
32
33 #include <stdint.h>
34
35 #include "libavutil/intmath.h"
36 #include "avcodec.h"
37 #include "proresdsp.h"
38 #include "get_bits.h"
39
40 typedef struct {
41     ProresDSPContext dsp;
42     AVFrame    picture;
43     ScanTable  scantable;
44     int        scantable_type;           ///< -1 = uninitialized, 0 = progressive, 1/2 = interlaced
45
46     int        frame_type;               ///< 0 = progressive, 1 = top-field first, 2 = bottom-field first
47     int        pic_format;               ///< 2 = 422, 3 = 444
48     uint8_t    qmat_luma[64];            ///< dequantization matrix for luma
49     uint8_t    qmat_chroma[64];          ///< dequantization matrix for chroma
50     int        qmat_changed;             ///< 1 - global quantization matrices changed
51     int        prev_slice_sf;            ///< scalefactor of the previous decoded slice
52     DECLARE_ALIGNED(16, int16_t, qmat_luma_scaled[64]);
53     DECLARE_ALIGNED(16, int16_t, qmat_chroma_scaled[64]);
54     DECLARE_ALIGNED(16, DCTELEM, blocks[8 * 4 * 64]);
55     int        total_slices;            ///< total number of slices in a picture
56     const uint8_t **slice_data_index;   ///< array of pointers to the data of each slice
57     int        chroma_factor;
58     int        mb_chroma_factor;
59     int        num_chroma_blocks;       ///< number of chrominance blocks in a macroblock
60     int        num_x_slices;
61     int        num_y_slices;
62     int        slice_width_factor;
63     int        slice_height_factor;
64     int        num_x_mbs;
65     int        num_y_mbs;
66 } ProresContext;
67
68
69 static const uint8_t progressive_scan[64] = {
70      0,  1,  8,  9,  2,  3, 10, 11,
71     16, 17, 24, 25, 18, 19, 26, 27,
72      4,  5, 12, 20, 13,  6,  7, 14,
73     21, 28, 29, 22, 15, 23, 30, 31,
74     32, 33, 40, 48, 41, 34, 35, 42,
75     49, 56, 57, 50, 43, 36, 37, 44,
76     51, 58, 59, 52, 45, 38, 39, 46,
77     53, 60, 61, 54, 47, 55, 62, 63
78 };
79
80 static const uint8_t interlaced_scan[64] = {
81      0,  8,  1,  9, 16, 24, 17, 25,
82      2, 10,  3, 11, 18, 26, 19, 27,
83     32, 40, 33, 34, 41, 48, 56, 49,
84     42, 35, 43, 50, 57, 58, 51, 59,
85      4, 12,  5,  6, 13, 20, 28, 21,
86     14,  7, 15, 22, 29, 36, 44, 37,
87     30, 23, 31, 38, 45, 52, 60, 53,
88     46, 39, 47, 54, 61, 62, 55, 63
89 };
90
91
92 static av_cold int decode_init(AVCodecContext *avctx)
93 {
94     ProresContext *ctx = avctx->priv_data;
95
96     ctx->total_slices     = 0;
97     ctx->slice_data_index = 0;
98
99     avctx->pix_fmt = PIX_FMT_YUV422P10; // set default pixel format
100
101     avctx->bits_per_raw_sample = PRORES_BITS_PER_SAMPLE;
102     ff_proresdsp_init(&ctx->dsp);
103
104     avctx->coded_frame = &ctx->picture;
105     avcodec_get_frame_defaults(&ctx->picture);
106     ctx->picture.type      = AV_PICTURE_TYPE_I;
107     ctx->picture.key_frame = 1;
108
109     ctx->scantable_type = -1;   // set scantable type to uninitialized
110     memset(ctx->qmat_luma, 4, 64);
111     memset(ctx->qmat_chroma, 4, 64);
112     ctx->prev_slice_sf = 0;
113
114     return 0;
115 }
116
117
118 static int decode_frame_header(ProresContext *ctx, const uint8_t *buf,
119                                const int data_size, AVCodecContext *avctx)
120 {
121     int hdr_size, version, width, height, flags;
122     const uint8_t *ptr;
123
124     hdr_size = AV_RB16(buf);
125     if (hdr_size > data_size) {
126         av_log(avctx, AV_LOG_ERROR, "frame data too small\n");
127         return AVERROR_INVALIDDATA;
128     }
129
130     version = AV_RB16(buf + 2);
131     if (version >= 2) {
132         av_log(avctx, AV_LOG_ERROR,
133                "unsupported header version: %d\n", version);
134         return AVERROR_INVALIDDATA;
135     }
136
137     width  = AV_RB16(buf + 8);
138     height = AV_RB16(buf + 10);
139     if (width != avctx->width || height != avctx->height) {
140         av_log(avctx, AV_LOG_ERROR,
141                "picture dimension changed: old: %d x %d, new: %d x %d\n",
142                avctx->width, avctx->height, width, height);
143         return AVERROR_INVALIDDATA;
144     }
145
146     ctx->frame_type = (buf[12] >> 2) & 3;
147     if (ctx->frame_type > 2) {
148         av_log(avctx, AV_LOG_ERROR,
149                "unsupported frame type: %d\n", ctx->frame_type);
150         return AVERROR_INVALIDDATA;
151     }
152
153     ctx->chroma_factor     = (buf[12] >> 6) & 3;
154     ctx->mb_chroma_factor  = ctx->chroma_factor + 2;
155     ctx->num_chroma_blocks = (1 << ctx->chroma_factor) >> 1;
156     switch (ctx->chroma_factor) {
157     case 2:
158         avctx->pix_fmt = PIX_FMT_YUV422P10;
159         break;
160     case 3:
161         avctx->pix_fmt = PIX_FMT_YUV444P10;
162         break;
163     default:
164         av_log(avctx, AV_LOG_ERROR,
165                "unsupported picture format: %d\n", ctx->pic_format);
166         return AVERROR_INVALIDDATA;
167     }
168
169     if (ctx->scantable_type != ctx->frame_type) {
170         if (!ctx->frame_type)
171             ff_init_scantable(ctx->dsp.idct_permutation, &ctx->scantable,
172                               progressive_scan);
173         else
174             ff_init_scantable(ctx->dsp.idct_permutation, &ctx->scantable,
175                               interlaced_scan);
176         ctx->scantable_type = ctx->frame_type;
177     }
178
179     if (ctx->frame_type) {      /* if interlaced */
180         ctx->picture.interlaced_frame = 1;
181         ctx->picture.top_field_first  = ctx->frame_type & 1;
182     }
183
184     ctx->qmat_changed = 0;
185     ptr   = buf + 20;
186     flags = buf[19];
187     if (flags & 2) {
188         if (ptr - buf > hdr_size - 64) {
189             av_log(avctx, AV_LOG_ERROR, "header data too small\n");
190             return AVERROR_INVALIDDATA;
191         }
192         if (memcmp(ctx->qmat_luma, ptr, 64)) {
193             memcpy(ctx->qmat_luma, ptr, 64);
194             ctx->qmat_changed = 1;
195         }
196         ptr += 64;
197     } else {
198         memset(ctx->qmat_luma, 4, 64);
199         ctx->qmat_changed = 1;
200     }
201
202     if (flags & 1) {
203         if (ptr - buf > hdr_size - 64) {
204             av_log(avctx, AV_LOG_ERROR, "header data too small\n");
205             return -1;
206         }
207         if (memcmp(ctx->qmat_chroma, ptr, 64)) {
208             memcpy(ctx->qmat_chroma, ptr, 64);
209             ctx->qmat_changed = 1;
210         }
211     } else {
212         memset(ctx->qmat_chroma, 4, 64);
213         ctx->qmat_changed = 1;
214     }
215
216     return hdr_size;
217 }
218
219
220 static int decode_picture_header(ProresContext *ctx, const uint8_t *buf,
221                                  const int data_size, AVCodecContext *avctx)
222 {
223     int   i, hdr_size, pic_data_size, num_slices;
224     int   slice_width_factor, slice_height_factor;
225     int   remainder, num_x_slices;
226     const uint8_t *data_ptr, *index_ptr;
227
228     hdr_size = data_size > 0 ? buf[0] >> 3 : 0;
229     if (hdr_size < 8 || hdr_size > data_size) {
230         av_log(avctx, AV_LOG_ERROR, "picture header too small\n");
231         return AVERROR_INVALIDDATA;
232     }
233
234     pic_data_size = AV_RB32(buf + 1);
235     if (pic_data_size > data_size) {
236         av_log(avctx, AV_LOG_ERROR, "picture data too small\n");
237         return AVERROR_INVALIDDATA;
238     }
239
240     slice_width_factor  = buf[7] >> 4;
241     slice_height_factor = buf[7] & 0xF;
242     if (slice_width_factor > 3 || slice_height_factor) {
243         av_log(avctx, AV_LOG_ERROR,
244                "unsupported slice dimension: %d x %d\n",
245                1 << slice_width_factor, 1 << slice_height_factor);
246         return AVERROR_INVALIDDATA;
247     }
248
249     ctx->slice_width_factor  = slice_width_factor;
250     ctx->slice_height_factor = slice_height_factor;
251
252     ctx->num_x_mbs = (avctx->width + 15) >> 4;
253     ctx->num_y_mbs = (avctx->height +
254                       (1 << (4 + ctx->picture.interlaced_frame)) - 1) >>
255                      (4 + ctx->picture.interlaced_frame);
256
257     remainder    = ctx->num_x_mbs & ((1 << slice_width_factor) - 1);
258     num_x_slices = (ctx->num_x_mbs >> slice_width_factor) + (remainder & 1) +
259                    ((remainder >> 1) & 1) + ((remainder >> 2) & 1);
260
261     num_slices = num_x_slices * ctx->num_y_mbs;
262     if (num_slices != AV_RB16(buf + 5)) {
263         av_log(avctx, AV_LOG_ERROR, "invalid number of slices\n");
264         return AVERROR_INVALIDDATA;
265     }
266
267     if (ctx->total_slices != num_slices) {
268         av_freep(&ctx->slice_data_index);
269         ctx->slice_data_index = av_malloc((num_slices + 1) * sizeof(uint8_t*));
270         if (!ctx->slice_data_index)
271             return AVERROR(ENOMEM);
272         ctx->total_slices = num_slices;
273     }
274
275     if (hdr_size + num_slices * 2 > data_size) {
276         av_log(avctx, AV_LOG_ERROR, "slice table too small\n");
277         return AVERROR_INVALIDDATA;
278     }
279
280     /* parse slice table allowing quick access to the slice data */
281     index_ptr = buf + hdr_size;
282     data_ptr = index_ptr + num_slices * 2;
283
284     for (i = 0; i < num_slices; i++) {
285         ctx->slice_data_index[i] = data_ptr;
286         data_ptr += AV_RB16(index_ptr + i * 2);
287     }
288     ctx->slice_data_index[i] = data_ptr;
289
290     if (data_ptr > buf + data_size) {
291         av_log(avctx, AV_LOG_ERROR, "out of slice data\n");
292         return -1;
293     }
294
295     return pic_data_size;
296 }
297
298
299 /**
300  * Read an unsigned rice/exp golomb codeword.
301  */
302 static inline int decode_vlc_codeword(GetBitContext *gb, uint8_t codebook)
303 {
304     unsigned int rice_order, exp_order, switch_bits;
305     unsigned int buf, code;
306     int log, prefix_len, len;
307
308     OPEN_READER(re, gb);
309     UPDATE_CACHE(re, gb);
310     buf = GET_CACHE(re, gb);
311
312     /* number of prefix bits to switch between Rice and expGolomb */
313     switch_bits = (codebook & 3) + 1;
314     rice_order  = codebook >> 5;        /* rice code order */
315     exp_order   = (codebook >> 2) & 7;  /* exp golomb code order */
316
317     log = 31 - av_log2(buf); /* count prefix bits (zeroes) */
318
319     if (log < switch_bits) { /* ok, we got a rice code */
320         if (!rice_order) {
321             /* shortcut for faster decoding of rice codes without remainder */
322             code = log;
323             LAST_SKIP_BITS(re, gb, log + 1);
324         } else {
325             prefix_len = log + 1;
326             code = (log << rice_order) + NEG_USR32(buf << prefix_len, rice_order);
327             LAST_SKIP_BITS(re, gb, prefix_len + rice_order);
328         }
329     } else { /* otherwise we got a exp golomb code */
330         len  = (log << 1) - switch_bits + exp_order + 1;
331         code = NEG_USR32(buf, len) - (1 << exp_order) + (switch_bits << rice_order);
332         LAST_SKIP_BITS(re, gb, len);
333     }
334
335     CLOSE_READER(re, gb);
336
337     return code;
338 }
339
340 #define LSB2SIGN(x) (-((x) & 1))
341 #define TOSIGNED(x) (((x) >> 1) ^ LSB2SIGN(x))
342
343 #define FIRST_DC_CB 0xB8 // rice_order = 5, exp_golomb_order = 6, switch_bits = 0
344
345 static uint8_t dc_codebook[4] = {
346     0x04, // rice_order = 0, exp_golomb_order = 1, switch_bits = 0
347     0x28, // rice_order = 1, exp_golomb_order = 2, switch_bits = 0
348     0x4D, // rice_order = 2, exp_golomb_order = 3, switch_bits = 1
349     0x70  // rice_order = 3, exp_golomb_order = 4, switch_bits = 0
350 };
351
352
353 /**
354  * Decode DC coefficients for all blocks in a slice.
355  */
356 static inline void decode_dc_coeffs(GetBitContext *gb, DCTELEM *out,
357                                     int nblocks)
358 {
359     DCTELEM prev_dc;
360     int     i, sign;
361     int16_t delta;
362     unsigned int code;
363
364     code   = decode_vlc_codeword(gb, FIRST_DC_CB);
365     out[0] = prev_dc = TOSIGNED(code);
366
367     out   += 64; /* move to the DC coeff of the next block */
368     delta  = 3;
369
370     for (i = 1; i < nblocks; i++, out += 64) {
371         code = decode_vlc_codeword(gb, dc_codebook[FFMIN(FFABS(delta), 3)]);
372
373         sign     = -(((delta >> 15) & 1) ^ (code & 1));
374         delta    = (((code + 1) >> 1) ^ sign) - sign;
375         prev_dc += delta;
376         out[0]   = prev_dc;
377     }
378 }
379
380
381 static uint8_t ac_codebook[7] = {
382     0x04, // rice_order = 0, exp_golomb_order = 1, switch_bits = 0
383     0x28, // rice_order = 1, exp_golomb_order = 2, switch_bits = 0
384     0x4C, // rice_order = 2, exp_golomb_order = 3, switch_bits = 0
385     0x05, // rice_order = 0, exp_golomb_order = 1, switch_bits = 1
386     0x29, // rice_order = 1, exp_golomb_order = 2, switch_bits = 1
387     0x06, // rice_order = 0, exp_golomb_order = 1, switch_bits = 2
388     0x0A, // rice_order = 0, exp_golomb_order = 2, switch_bits = 2
389 };
390
391 /**
392  * Lookup tables for adaptive switching between codebooks
393  * according with previous run/level value.
394  */
395 static uint8_t run_to_cb_index[16] =
396     { 5, 5, 3, 3, 0, 4, 4, 4, 4, 1, 1, 1, 1, 1, 1, 2 };
397
398 static uint8_t lev_to_cb_index[10] = { 0, 6, 3, 5, 0, 1, 1, 1, 1, 2 };
399
400
401 /**
402  * Decode AC coefficients for all blocks in a slice.
403  */
404 static inline void decode_ac_coeffs(GetBitContext *gb, DCTELEM *out,
405                                     int blocks_per_slice,
406                                     int plane_size_factor,
407                                     const uint8_t *scan)
408 {
409     int pos, block_mask, run, level, sign, run_cb_index, lev_cb_index;
410     int max_coeffs, bits_left;
411
412     /* set initial prediction values */
413     run   = 4;
414     level = 2;
415
416     max_coeffs = blocks_per_slice << 6;
417     block_mask = blocks_per_slice - 1;
418
419     for (pos = blocks_per_slice - 1; pos < max_coeffs;) {
420         run_cb_index = run_to_cb_index[FFMIN(run, 15)];
421         lev_cb_index = lev_to_cb_index[FFMIN(level, 9)];
422
423         bits_left = get_bits_left(gb);
424         if (bits_left <= 0 || (bits_left <= 8 && !show_bits(gb, bits_left)))
425             return;
426
427         run = decode_vlc_codeword(gb, ac_codebook[run_cb_index]);
428
429         bits_left = get_bits_left(gb);
430         if (bits_left <= 0 || (bits_left <= 8 && !show_bits(gb, bits_left)))
431             return;
432
433         level = decode_vlc_codeword(gb, ac_codebook[lev_cb_index]) + 1;
434
435         pos += run + 1;
436         if (pos >= max_coeffs)
437             break;
438
439         sign = get_sbits(gb, 1);
440         out[((pos & block_mask) << 6) + scan[pos >> plane_size_factor]] =
441             (level ^ sign) - sign;
442     }
443 }
444
445
446 /**
447  * Decode a slice plane (luma or chroma).
448  */
449 static void decode_slice_plane(ProresContext *ctx, const uint8_t *buf,
450                                int data_size, uint16_t *out_ptr,
451                                int linesize, int mbs_per_slice,
452                                int blocks_per_mb, int plane_size_factor,
453                                const int16_t *qmat)
454 {
455     GetBitContext gb;
456     DCTELEM *block_ptr;
457     int mb_num, blocks_per_slice;
458
459     blocks_per_slice = mbs_per_slice * blocks_per_mb;
460
461     memset(ctx->blocks, 0, 8 * 4 * 64 * sizeof(*ctx->blocks));
462
463     init_get_bits(&gb, buf, data_size << 3);
464
465     decode_dc_coeffs(&gb, ctx->blocks, blocks_per_slice);
466
467     decode_ac_coeffs(&gb, ctx->blocks, blocks_per_slice,
468                      plane_size_factor, ctx->scantable.permutated);
469
470     /* inverse quantization, inverse transform and output */
471     block_ptr = ctx->blocks;
472
473     for (mb_num = 0; mb_num < mbs_per_slice; mb_num++, out_ptr += blocks_per_mb * 4) {
474         ctx->dsp.idct_put(out_ptr,                    linesize, block_ptr, qmat);
475         block_ptr += 64;
476         if (blocks_per_mb > 2) {
477             ctx->dsp.idct_put(out_ptr + 8,            linesize, block_ptr, qmat);
478             block_ptr += 64;
479         }
480         ctx->dsp.idct_put(out_ptr + linesize * 4,     linesize, block_ptr, qmat);
481         block_ptr += 64;
482         if (blocks_per_mb > 2) {
483             ctx->dsp.idct_put(out_ptr + linesize * 4 + 8, linesize, block_ptr, qmat);
484             block_ptr += 64;
485         }
486     }
487 }
488
489
490 static int decode_slice(ProresContext *ctx, int pic_num, int slice_num,
491                         int mb_x_pos, int mb_y_pos, int mbs_per_slice,
492                         AVCodecContext *avctx)
493 {
494     const uint8_t *buf;
495     uint8_t *y_data, *u_data, *v_data;
496     AVFrame *pic = avctx->coded_frame;
497     int i, sf, slice_width_factor;
498     int slice_data_size, hdr_size, y_data_size, u_data_size, v_data_size;
499     int y_linesize, u_linesize, v_linesize;
500
501     buf             = ctx->slice_data_index[slice_num];
502     slice_data_size = ctx->slice_data_index[slice_num + 1] - buf;
503
504     slice_width_factor = av_log2(mbs_per_slice);
505
506     y_data     = pic->data[0];
507     u_data     = pic->data[1];
508     v_data     = pic->data[2];
509     y_linesize = pic->linesize[0];
510     u_linesize = pic->linesize[1];
511     v_linesize = pic->linesize[2];
512
513     if (pic->interlaced_frame) {
514         if (!(pic_num ^ pic->top_field_first)) {
515             y_data += y_linesize;
516             u_data += u_linesize;
517             v_data += v_linesize;
518         }
519         y_linesize <<= 1;
520         u_linesize <<= 1;
521         v_linesize <<= 1;
522     }
523
524     if (slice_data_size < 6) {
525         av_log(avctx, AV_LOG_ERROR, "slice data too small\n");
526         return AVERROR_INVALIDDATA;
527     }
528
529     /* parse slice header */
530     hdr_size    = buf[0] >> 3;
531     y_data_size = AV_RB16(buf + 2);
532     u_data_size = AV_RB16(buf + 4);
533     v_data_size = slice_data_size - y_data_size - u_data_size - hdr_size;
534
535     if (v_data_size < 0 || hdr_size < 6) {
536         av_log(avctx, AV_LOG_ERROR, "invalid data size\n");
537         return AVERROR_INVALIDDATA;
538     }
539
540     sf = av_clip(buf[1], 1, 224);
541     sf = sf > 128 ? (sf - 96) << 2 : sf;
542
543     /* scale quantization matrixes according with slice's scale factor */
544     /* TODO: this can be SIMD-optimized alot */
545     if (ctx->qmat_changed || sf != ctx->prev_slice_sf) {
546         ctx->prev_slice_sf = sf;
547         for (i = 0; i < 64; i++) {
548             ctx->qmat_luma_scaled[i]   = ctx->qmat_luma[i]   * sf;
549             ctx->qmat_chroma_scaled[i] = ctx->qmat_chroma[i] * sf;
550         }
551     }
552
553     /* decode luma plane */
554     decode_slice_plane(ctx, buf + hdr_size, y_data_size,
555                        (uint16_t*) (y_data + (mb_y_pos << 4) * y_linesize +
556                                     (mb_x_pos << 5)), y_linesize,
557                        mbs_per_slice, 4, slice_width_factor + 2,
558                        ctx->qmat_luma_scaled);
559
560     /* decode U chroma plane */
561     decode_slice_plane(ctx, buf + hdr_size + y_data_size, u_data_size,
562                        (uint16_t*) (u_data + (mb_y_pos << 4) * u_linesize +
563                                     (mb_x_pos << ctx->mb_chroma_factor)),
564                        u_linesize, mbs_per_slice, ctx->num_chroma_blocks,
565                        slice_width_factor + ctx->chroma_factor - 1,
566                        ctx->qmat_chroma_scaled);
567
568     /* decode V chroma plane */
569     decode_slice_plane(ctx, buf + hdr_size + y_data_size + u_data_size,
570                        v_data_size,
571                        (uint16_t*) (v_data + (mb_y_pos << 4) * v_linesize +
572                                     (mb_x_pos << ctx->mb_chroma_factor)),
573                        v_linesize, mbs_per_slice, ctx->num_chroma_blocks,
574                        slice_width_factor + ctx->chroma_factor - 1,
575                        ctx->qmat_chroma_scaled);
576
577     return 0;
578 }
579
580
581 static int decode_picture(ProresContext *ctx, int pic_num,
582                           AVCodecContext *avctx)
583 {
584     int slice_num, slice_width, x_pos, y_pos;
585
586     slice_num = 0;
587
588     for (y_pos = 0; y_pos < ctx->num_y_mbs; y_pos++) {
589         slice_width = 1 << ctx->slice_width_factor;
590
591         for (x_pos = 0; x_pos < ctx->num_x_mbs && slice_width;
592              x_pos += slice_width) {
593             while (ctx->num_x_mbs - x_pos < slice_width)
594                 slice_width >>= 1;
595
596             if (decode_slice(ctx, pic_num, slice_num, x_pos, y_pos,
597                              slice_width, avctx) < 0)
598                 return -1;
599
600             slice_num++;
601         }
602     }
603
604     return 0;
605 }
606
607
608 #define FRAME_ID MKBETAG('i', 'c', 'p', 'f')
609 #define MOVE_DATA_PTR(nbytes) buf += (nbytes); buf_size -= (nbytes)
610
611 static int decode_frame(AVCodecContext *avctx, void *data, int *data_size,
612                         AVPacket *avpkt)
613 {
614     ProresContext *ctx = avctx->priv_data;
615     AVFrame *picture   = avctx->coded_frame;
616     const uint8_t *buf = avpkt->data;
617     int buf_size       = avpkt->size;
618     int frame_hdr_size, pic_num, pic_data_size;
619
620     /* check frame atom container */
621     if (buf_size < 28 || buf_size < AV_RB32(buf) ||
622         AV_RB32(buf + 4) != FRAME_ID) {
623         av_log(avctx, AV_LOG_ERROR, "invalid frame\n");
624         return AVERROR_INVALIDDATA;
625     }
626
627     MOVE_DATA_PTR(8);
628
629     frame_hdr_size = decode_frame_header(ctx, buf, buf_size, avctx);
630     if (frame_hdr_size < 0)
631         return AVERROR_INVALIDDATA;
632
633     MOVE_DATA_PTR(frame_hdr_size);
634
635     if (picture->data[0])
636         avctx->release_buffer(avctx, picture);
637
638     picture->reference = 0;
639     if (avctx->get_buffer(avctx, picture) < 0)
640         return -1;
641
642     for (pic_num = 0; ctx->picture.interlaced_frame - pic_num + 1; pic_num++) {
643         pic_data_size = decode_picture_header(ctx, buf, buf_size, avctx);
644         if (pic_data_size < 0)
645             return AVERROR_INVALIDDATA;
646
647         if (decode_picture(ctx, pic_num, avctx))
648             return -1;
649
650         MOVE_DATA_PTR(pic_data_size);
651     }
652
653     *data_size       = sizeof(AVPicture);
654     *(AVFrame*) data = *avctx->coded_frame;
655
656     return avpkt->size;
657 }
658
659
660 static av_cold int decode_close(AVCodecContext *avctx)
661 {
662     ProresContext *ctx = avctx->priv_data;
663
664     if (ctx->picture.data[0])
665         avctx->release_buffer(avctx, &ctx->picture);
666
667     av_freep(&ctx->slice_data_index);
668
669     return 0;
670 }
671
672
673 AVCodec ff_prores_decoder = {
674     .name           = "prores",
675     .type           = AVMEDIA_TYPE_VIDEO,
676     .id             = CODEC_ID_PRORES,
677     .priv_data_size = sizeof(ProresContext),
678     .init           = decode_init,
679     .close          = decode_close,
680     .decode         = decode_frame,
681     .capabilities   = CODEC_CAP_DR1,
682     .long_name      = NULL_IF_CONFIG_SMALL("Apple ProRes (iCodec Pro)")
683 };