avcodec/h264_slice: Fix overflow in slice offset
[ffmpeg.git] / libavcodec / diracdec.c
1 /*
2  * Copyright (C) 2007 Marco Gerards <marco@gnu.org>
3  * Copyright (C) 2009 David Conrad
4  * Copyright (C) 2011 Jordi Ortiz
5  *
6  * This file is part of FFmpeg.
7  *
8  * FFmpeg is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * FFmpeg is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with FFmpeg; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 /**
24  * @file
25  * Dirac Decoder
26  * @author Marco Gerards <marco@gnu.org>, David Conrad, Jordi Ortiz <nenjordi@gmail.com>
27  */
28
29 #include "libavutil/thread.h"
30 #include "avcodec.h"
31 #include "get_bits.h"
32 #include "bytestream.h"
33 #include "internal.h"
34 #include "golomb.h"
35 #include "dirac_arith.h"
36 #include "dirac_vlc.h"
37 #include "mpeg12data.h"
38 #include "libavcodec/mpegvideo.h"
39 #include "mpegvideoencdsp.h"
40 #include "dirac_dwt.h"
41 #include "dirac.h"
42 #include "diractab.h"
43 #include "diracdsp.h"
44 #include "videodsp.h"
45
46 /**
47  * The spec limits this to 3 for frame coding, but in practice can be as high as 6
48  */
49 #define MAX_REFERENCE_FRAMES 8
50 #define MAX_DELAY 5         /* limit for main profile for frame coding (TODO: field coding) */
51 #define MAX_FRAMES (MAX_REFERENCE_FRAMES + MAX_DELAY + 1)
52 #define MAX_QUANT 255        /* max quant for VC-2 */
53 #define MAX_BLOCKSIZE 32    /* maximum xblen/yblen we support */
54
55 /**
56  * DiracBlock->ref flags, if set then the block does MC from the given ref
57  */
58 #define DIRAC_REF_MASK_REF1   1
59 #define DIRAC_REF_MASK_REF2   2
60 #define DIRAC_REF_MASK_GLOBAL 4
61
62 /**
63  * Value of Picture.reference when Picture is not a reference picture, but
64  * is held for delayed output.
65  */
66 #define DELAYED_PIC_REF 4
67
68 #define CALC_PADDING(size, depth)                       \
69     (((size + (1 << depth) - 1) >> depth) << depth)
70
71 #define DIVRNDUP(a, b) (((a) + (b) - 1) / (b))
72
73 typedef struct {
74     AVFrame *avframe;
75     int interpolated[3];    /* 1 if hpel[] is valid */
76     uint8_t *hpel[3][4];
77     uint8_t *hpel_base[3][4];
78     int reference;
79 } DiracFrame;
80
81 typedef struct {
82     union {
83         int16_t mv[2][2];
84         int16_t dc[3];
85     } u; /* anonymous unions aren't in C99 :( */
86     uint8_t ref;
87 } DiracBlock;
88
89 typedef struct SubBand {
90     int level;
91     int orientation;
92     int stride; /* in bytes */
93     int width;
94     int height;
95     int pshift;
96     int quant;
97     uint8_t *ibuf;
98     struct SubBand *parent;
99
100     /* for low delay */
101     unsigned length;
102     const uint8_t *coeff_data;
103 } SubBand;
104
105 typedef struct Plane {
106     DWTPlane idwt;
107
108     int width;
109     int height;
110     ptrdiff_t stride;
111
112     /* block length */
113     uint8_t xblen;
114     uint8_t yblen;
115     /* block separation (block n+1 starts after this many pixels in block n) */
116     uint8_t xbsep;
117     uint8_t ybsep;
118     /* amount of overspill on each edge (half of the overlap between blocks) */
119     uint8_t xoffset;
120     uint8_t yoffset;
121
122     SubBand band[MAX_DWT_LEVELS][4];
123 } Plane;
124
125 /* Used by Low Delay and High Quality profiles */
126 typedef struct DiracSlice {
127     GetBitContext gb;
128     int slice_x;
129     int slice_y;
130     int bytes;
131 } DiracSlice;
132
133 typedef struct DiracContext {
134     AVCodecContext *avctx;
135     MpegvideoEncDSPContext mpvencdsp;
136     VideoDSPContext vdsp;
137     DiracDSPContext diracdsp;
138     DiracGolombLUT *reader_ctx;
139     DiracVersionInfo version;
140     GetBitContext gb;
141     AVDiracSeqHeader seq;
142     int seen_sequence_header;
143     int frame_number;           /* number of the next frame to display       */
144     Plane plane[3];
145     int chroma_x_shift;
146     int chroma_y_shift;
147
148     int bit_depth;              /* bit depth                                 */
149     int pshift;                 /* pixel shift = bit_depth > 8               */
150
151     int zero_res;               /* zero residue flag                         */
152     int is_arith;               /* whether coeffs use arith or golomb coding */
153     int core_syntax;            /* use core syntax only                      */
154     int low_delay;              /* use the low delay syntax                  */
155     int hq_picture;             /* high quality picture, enables low_delay   */
156     int ld_picture;             /* use low delay picture, turns on low_delay */
157     int dc_prediction;          /* has dc prediction                         */
158     int globalmc_flag;          /* use global motion compensation            */
159     int num_refs;               /* number of reference pictures              */
160
161     /* wavelet decoding */
162     unsigned wavelet_depth;     /* depth of the IDWT                         */
163     unsigned wavelet_idx;
164
165     /**
166      * schroedinger older than 1.0.8 doesn't store
167      * quant delta if only one codebook exists in a band
168      */
169     unsigned old_delta_quant;
170     unsigned codeblock_mode;
171
172     unsigned num_x;              /* number of horizontal slices               */
173     unsigned num_y;              /* number of vertical slices                 */
174
175     uint8_t *thread_buf;         /* Per-thread buffer for coefficient storage */
176     int threads_num_buf;         /* Current # of buffers allocated            */
177     int thread_buf_size;         /* Each thread has a buffer this size        */
178
179     DiracSlice *slice_params_buf;
180     int slice_params_num_buf;
181
182     struct {
183         unsigned width;
184         unsigned height;
185     } codeblock[MAX_DWT_LEVELS+1];
186
187     struct {
188         AVRational bytes;       /* average bytes per slice                   */
189         uint8_t quant[MAX_DWT_LEVELS][4]; /* [DIRAC_STD] E.1 */
190     } lowdelay;
191
192     struct {
193         unsigned prefix_bytes;
194         uint64_t size_scaler;
195     } highquality;
196
197     struct {
198         int pan_tilt[2];        /* pan/tilt vector                           */
199         int zrs[2][2];          /* zoom/rotate/shear matrix                  */
200         int perspective[2];     /* perspective vector                        */
201         unsigned zrs_exp;
202         unsigned perspective_exp;
203     } globalmc[2];
204
205     /* motion compensation */
206     uint8_t mv_precision;       /* [DIRAC_STD] REFS_WT_PRECISION             */
207     int16_t weight[2];          /* [DIRAC_STD] REF1_WT and REF2_WT           */
208     unsigned weight_log2denom;  /* [DIRAC_STD] REFS_WT_PRECISION             */
209
210     int blwidth;                /* number of blocks (horizontally)           */
211     int blheight;               /* number of blocks (vertically)             */
212     int sbwidth;                /* number of superblocks (horizontally)      */
213     int sbheight;               /* number of superblocks (vertically)        */
214
215     uint8_t *sbsplit;
216     DiracBlock *blmotion;
217
218     uint8_t *edge_emu_buffer[4];
219     uint8_t *edge_emu_buffer_base;
220
221     uint16_t *mctmp;            /* buffer holding the MC data multiplied by OBMC weights */
222     uint8_t *mcscratch;
223     int buffer_stride;
224
225     DECLARE_ALIGNED(16, uint8_t, obmc_weight)[3][MAX_BLOCKSIZE*MAX_BLOCKSIZE];
226
227     void (*put_pixels_tab[4])(uint8_t *dst, const uint8_t *src[5], int stride, int h);
228     void (*avg_pixels_tab[4])(uint8_t *dst, const uint8_t *src[5], int stride, int h);
229     void (*add_obmc)(uint16_t *dst, const uint8_t *src, int stride, const uint8_t *obmc_weight, int yblen);
230     dirac_weight_func weight_func;
231     dirac_biweight_func biweight_func;
232
233     DiracFrame *current_picture;
234     DiracFrame *ref_pics[2];
235
236     DiracFrame *ref_frames[MAX_REFERENCE_FRAMES+1];
237     DiracFrame *delay_frames[MAX_DELAY+1];
238     DiracFrame all_frames[MAX_FRAMES];
239 } DiracContext;
240
241 enum dirac_subband {
242     subband_ll = 0,
243     subband_hl = 1,
244     subband_lh = 2,
245     subband_hh = 3,
246     subband_nb,
247 };
248
249 /* magic number division by 3 from schroedinger */
250 static inline int divide3(int x)
251 {
252     return (int)((x+1U)*21845 + 10922) >> 16;
253 }
254
255 static DiracFrame *remove_frame(DiracFrame *framelist[], int picnum)
256 {
257     DiracFrame *remove_pic = NULL;
258     int i, remove_idx = -1;
259
260     for (i = 0; framelist[i]; i++)
261         if (framelist[i]->avframe->display_picture_number == picnum) {
262             remove_pic = framelist[i];
263             remove_idx = i;
264         }
265
266     if (remove_pic)
267         for (i = remove_idx; framelist[i]; i++)
268             framelist[i] = framelist[i+1];
269
270     return remove_pic;
271 }
272
273 static int add_frame(DiracFrame *framelist[], int maxframes, DiracFrame *frame)
274 {
275     int i;
276     for (i = 0; i < maxframes; i++)
277         if (!framelist[i]) {
278             framelist[i] = frame;
279             return 0;
280         }
281     return -1;
282 }
283
284 static int alloc_sequence_buffers(DiracContext *s)
285 {
286     int sbwidth  = DIVRNDUP(s->seq.width,  4);
287     int sbheight = DIVRNDUP(s->seq.height, 4);
288     int i, w, h, top_padding;
289
290     /* todo: think more about this / use or set Plane here */
291     for (i = 0; i < 3; i++) {
292         int max_xblen = MAX_BLOCKSIZE >> (i ? s->chroma_x_shift : 0);
293         int max_yblen = MAX_BLOCKSIZE >> (i ? s->chroma_y_shift : 0);
294         w = s->seq.width  >> (i ? s->chroma_x_shift : 0);
295         h = s->seq.height >> (i ? s->chroma_y_shift : 0);
296
297         /* we allocate the max we support here since num decompositions can
298          * change from frame to frame. Stride is aligned to 16 for SIMD, and
299          * 1<<MAX_DWT_LEVELS top padding to avoid if(y>0) in arith decoding
300          * MAX_BLOCKSIZE padding for MC: blocks can spill up to half of that
301          * on each side */
302         top_padding = FFMAX(1<<MAX_DWT_LEVELS, max_yblen/2);
303         w = FFALIGN(CALC_PADDING(w, MAX_DWT_LEVELS), 8); /* FIXME: Should this be 16 for SSE??? */
304         h = top_padding + CALC_PADDING(h, MAX_DWT_LEVELS) + max_yblen/2;
305
306         s->plane[i].idwt.buf_base = av_mallocz_array((w+max_xblen), h * (2 << s->pshift));
307         s->plane[i].idwt.tmp      = av_malloc_array((w+16), 2 << s->pshift);
308         s->plane[i].idwt.buf      = s->plane[i].idwt.buf_base + (top_padding*w)*(2 << s->pshift);
309         if (!s->plane[i].idwt.buf_base || !s->plane[i].idwt.tmp)
310             return AVERROR(ENOMEM);
311     }
312
313     /* fixme: allocate using real stride here */
314     s->sbsplit  = av_malloc_array(sbwidth, sbheight);
315     s->blmotion = av_malloc_array(sbwidth, sbheight * 16 * sizeof(*s->blmotion));
316
317     if (!s->sbsplit || !s->blmotion)
318         return AVERROR(ENOMEM);
319     return 0;
320 }
321
322 static int alloc_buffers(DiracContext *s, int stride)
323 {
324     int w = s->seq.width;
325     int h = s->seq.height;
326
327     av_assert0(stride >= w);
328     stride += 64;
329
330     if (s->buffer_stride >= stride)
331         return 0;
332     s->buffer_stride = 0;
333
334     av_freep(&s->edge_emu_buffer_base);
335     memset(s->edge_emu_buffer, 0, sizeof(s->edge_emu_buffer));
336     av_freep(&s->mctmp);
337     av_freep(&s->mcscratch);
338
339     s->edge_emu_buffer_base = av_malloc_array(stride, MAX_BLOCKSIZE);
340
341     s->mctmp     = av_malloc_array((stride+MAX_BLOCKSIZE), (h+MAX_BLOCKSIZE) * sizeof(*s->mctmp));
342     s->mcscratch = av_malloc_array(stride, MAX_BLOCKSIZE);
343
344     if (!s->edge_emu_buffer_base || !s->mctmp || !s->mcscratch)
345         return AVERROR(ENOMEM);
346
347     s->buffer_stride = stride;
348     return 0;
349 }
350
351 static void free_sequence_buffers(DiracContext *s)
352 {
353     int i, j, k;
354
355     for (i = 0; i < MAX_FRAMES; i++) {
356         if (s->all_frames[i].avframe->data[0]) {
357             av_frame_unref(s->all_frames[i].avframe);
358             memset(s->all_frames[i].interpolated, 0, sizeof(s->all_frames[i].interpolated));
359         }
360
361         for (j = 0; j < 3; j++)
362             for (k = 1; k < 4; k++)
363                 av_freep(&s->all_frames[i].hpel_base[j][k]);
364     }
365
366     memset(s->ref_frames, 0, sizeof(s->ref_frames));
367     memset(s->delay_frames, 0, sizeof(s->delay_frames));
368
369     for (i = 0; i < 3; i++) {
370         av_freep(&s->plane[i].idwt.buf_base);
371         av_freep(&s->plane[i].idwt.tmp);
372     }
373
374     s->buffer_stride = 0;
375     av_freep(&s->sbsplit);
376     av_freep(&s->blmotion);
377     av_freep(&s->edge_emu_buffer_base);
378
379     av_freep(&s->mctmp);
380     av_freep(&s->mcscratch);
381 }
382
383 static AVOnce dirac_arith_init = AV_ONCE_INIT;
384
385 static av_cold int dirac_decode_init(AVCodecContext *avctx)
386 {
387     DiracContext *s = avctx->priv_data;
388     int i, ret;
389
390     s->avctx = avctx;
391     s->frame_number = -1;
392
393     s->thread_buf = NULL;
394     s->threads_num_buf = -1;
395     s->thread_buf_size = -1;
396
397     ff_dirac_golomb_reader_init(&s->reader_ctx);
398     ff_diracdsp_init(&s->diracdsp);
399     ff_mpegvideoencdsp_init(&s->mpvencdsp, avctx);
400     ff_videodsp_init(&s->vdsp, 8);
401
402     for (i = 0; i < MAX_FRAMES; i++) {
403         s->all_frames[i].avframe = av_frame_alloc();
404         if (!s->all_frames[i].avframe) {
405             while (i > 0)
406                 av_frame_free(&s->all_frames[--i].avframe);
407             return AVERROR(ENOMEM);
408         }
409     }
410     ret = ff_thread_once(&dirac_arith_init, ff_dirac_init_arith_tables);
411     if (ret != 0)
412         return AVERROR_UNKNOWN;
413
414     return 0;
415 }
416
417 static void dirac_decode_flush(AVCodecContext *avctx)
418 {
419     DiracContext *s = avctx->priv_data;
420     free_sequence_buffers(s);
421     s->seen_sequence_header = 0;
422     s->frame_number = -1;
423 }
424
425 static av_cold int dirac_decode_end(AVCodecContext *avctx)
426 {
427     DiracContext *s = avctx->priv_data;
428     int i;
429
430     ff_dirac_golomb_reader_end(&s->reader_ctx);
431
432     dirac_decode_flush(avctx);
433     for (i = 0; i < MAX_FRAMES; i++)
434         av_frame_free(&s->all_frames[i].avframe);
435
436     av_freep(&s->thread_buf);
437     av_freep(&s->slice_params_buf);
438
439     return 0;
440 }
441
442 static inline int coeff_unpack_golomb(GetBitContext *gb, int qfactor, int qoffset)
443 {
444     int coeff = dirac_get_se_golomb(gb);
445     const int sign = FFSIGN(coeff);
446     if (coeff)
447         coeff = sign*((sign * coeff * qfactor + qoffset) >> 2);
448     return coeff;
449 }
450
451 #define SIGN_CTX(x) (CTX_SIGN_ZERO + ((x) > 0) - ((x) < 0))
452
453 #define UNPACK_ARITH(n, type) \
454     static inline void coeff_unpack_arith_##n(DiracArith *c, int qfactor, int qoffset, \
455                                               SubBand *b, type *buf, int x, int y) \
456     { \
457         int sign, sign_pred = 0, pred_ctx = CTX_ZPZN_F1; \
458         unsigned coeff; \
459         const int mstride = -(b->stride >> (1+b->pshift)); \
460         if (b->parent) { \
461             const type *pbuf = (type *)b->parent->ibuf; \
462             const int stride = b->parent->stride >> (1+b->parent->pshift); \
463             pred_ctx += !!pbuf[stride * (y>>1) + (x>>1)] << 1; \
464         } \
465         if (b->orientation == subband_hl) \
466             sign_pred = buf[mstride]; \
467         if (x) { \
468             pred_ctx += !(buf[-1] | buf[mstride] | buf[-1 + mstride]); \
469             if (b->orientation == subband_lh) \
470                 sign_pred = buf[-1]; \
471         } else { \
472             pred_ctx += !buf[mstride]; \
473         } \
474         coeff = dirac_get_arith_uint(c, pred_ctx, CTX_COEFF_DATA); \
475         if (coeff) { \
476             coeff = (coeff * qfactor + qoffset) >> 2; \
477             sign  = dirac_get_arith_bit(c, SIGN_CTX(sign_pred)); \
478             coeff = (coeff ^ -sign) + sign; \
479         } \
480         *buf = coeff; \
481     } \
482
483 UNPACK_ARITH(8, int16_t)
484 UNPACK_ARITH(10, int32_t)
485
486 /**
487  * Decode the coeffs in the rectangle defined by left, right, top, bottom
488  * [DIRAC_STD] 13.4.3.2 Codeblock unpacking loop. codeblock()
489  */
490 static inline void codeblock(DiracContext *s, SubBand *b,
491                              GetBitContext *gb, DiracArith *c,
492                              int left, int right, int top, int bottom,
493                              int blockcnt_one, int is_arith)
494 {
495     int x, y, zero_block;
496     int qoffset, qfactor;
497     uint8_t *buf;
498
499     /* check for any coded coefficients in this codeblock */
500     if (!blockcnt_one) {
501         if (is_arith)
502             zero_block = dirac_get_arith_bit(c, CTX_ZERO_BLOCK);
503         else
504             zero_block = get_bits1(gb);
505
506         if (zero_block)
507             return;
508     }
509
510     if (s->codeblock_mode && !(s->old_delta_quant && blockcnt_one)) {
511         int quant = b->quant;
512         if (is_arith)
513             quant += dirac_get_arith_int(c, CTX_DELTA_Q_F, CTX_DELTA_Q_DATA);
514         else
515             quant += dirac_get_se_golomb(gb);
516         if (quant < 0) {
517             av_log(s->avctx, AV_LOG_ERROR, "Invalid quant\n");
518             return;
519         }
520         b->quant = quant;
521     }
522
523     if (b->quant > (DIRAC_MAX_QUANT_INDEX - 1)) {
524         av_log(s->avctx, AV_LOG_ERROR, "Unsupported quant %d\n", b->quant);
525         b->quant = 0;
526         return;
527     }
528
529     qfactor = ff_dirac_qscale_tab[b->quant];
530     /* TODO: context pointer? */
531     if (!s->num_refs)
532         qoffset = ff_dirac_qoffset_intra_tab[b->quant] + 2;
533     else
534         qoffset = ff_dirac_qoffset_inter_tab[b->quant] + 2;
535
536     buf = b->ibuf + top * b->stride;
537     if (is_arith) {
538         for (y = top; y < bottom; y++) {
539             for (x = left; x < right; x++) {
540                 if (b->pshift) {
541                     coeff_unpack_arith_10(c, qfactor, qoffset, b, (int32_t*)(buf)+x, x, y);
542                 } else {
543                     coeff_unpack_arith_8(c, qfactor, qoffset, b, (int16_t*)(buf)+x, x, y);
544                 }
545             }
546             buf += b->stride;
547         }
548     } else {
549         for (y = top; y < bottom; y++) {
550             for (x = left; x < right; x++) {
551                 int val = coeff_unpack_golomb(gb, qfactor, qoffset);
552                 if (b->pshift) {
553                     AV_WN32(&buf[4*x], val);
554                 } else {
555                     AV_WN16(&buf[2*x], val);
556                 }
557             }
558             buf += b->stride;
559          }
560      }
561 }
562
563 /**
564  * Dirac Specification ->
565  * 13.3 intra_dc_prediction(band)
566  */
567 #define INTRA_DC_PRED(n, type) \
568     static inline void intra_dc_prediction_##n(SubBand *b) \
569     { \
570         type *buf = (type*)b->ibuf; \
571         int x, y; \
572         \
573         for (x = 1; x < b->width; x++) \
574             buf[x] += buf[x-1]; \
575         buf += (b->stride >> (1+b->pshift)); \
576         \
577         for (y = 1; y < b->height; y++) { \
578             buf[0] += buf[-(b->stride >> (1+b->pshift))]; \
579             \
580             for (x = 1; x < b->width; x++) { \
581                 int pred = buf[x - 1] + buf[x - (b->stride >> (1+b->pshift))] + buf[x - (b->stride >> (1+b->pshift))-1]; \
582                 buf[x]  += divide3(pred); \
583             } \
584             buf += (b->stride >> (1+b->pshift)); \
585         } \
586     } \
587
588 INTRA_DC_PRED(8, int16_t)
589 INTRA_DC_PRED(10, int32_t)
590
591 /**
592  * Dirac Specification ->
593  * 13.4.2 Non-skipped subbands.  subband_coeffs()
594  */
595 static av_always_inline void decode_subband_internal(DiracContext *s, SubBand *b, int is_arith)
596 {
597     int cb_x, cb_y, left, right, top, bottom;
598     DiracArith c;
599     GetBitContext gb;
600     int cb_width  = s->codeblock[b->level + (b->orientation != subband_ll)].width;
601     int cb_height = s->codeblock[b->level + (b->orientation != subband_ll)].height;
602     int blockcnt_one = (cb_width + cb_height) == 2;
603
604     if (!b->length)
605         return;
606
607     init_get_bits8(&gb, b->coeff_data, b->length);
608
609     if (is_arith)
610         ff_dirac_init_arith_decoder(&c, &gb, b->length);
611
612     top = 0;
613     for (cb_y = 0; cb_y < cb_height; cb_y++) {
614         bottom = (b->height * (cb_y+1LL)) / cb_height;
615         left = 0;
616         for (cb_x = 0; cb_x < cb_width; cb_x++) {
617             right = (b->width * (cb_x+1LL)) / cb_width;
618             codeblock(s, b, &gb, &c, left, right, top, bottom, blockcnt_one, is_arith);
619             left = right;
620         }
621         top = bottom;
622     }
623
624     if (b->orientation == subband_ll && s->num_refs == 0) {
625         if (s->pshift) {
626             intra_dc_prediction_10(b);
627         } else {
628             intra_dc_prediction_8(b);
629         }
630     }
631 }
632
633 static int decode_subband_arith(AVCodecContext *avctx, void *b)
634 {
635     DiracContext *s = avctx->priv_data;
636     decode_subband_internal(s, b, 1);
637     return 0;
638 }
639
640 static int decode_subband_golomb(AVCodecContext *avctx, void *arg)
641 {
642     DiracContext *s = avctx->priv_data;
643     SubBand **b     = arg;
644     decode_subband_internal(s, *b, 0);
645     return 0;
646 }
647
648 /**
649  * Dirac Specification ->
650  * [DIRAC_STD] 13.4.1 core_transform_data()
651  */
652 static void decode_component(DiracContext *s, int comp)
653 {
654     AVCodecContext *avctx = s->avctx;
655     SubBand *bands[3*MAX_DWT_LEVELS+1];
656     enum dirac_subband orientation;
657     int level, num_bands = 0;
658
659     /* Unpack all subbands at all levels. */
660     for (level = 0; level < s->wavelet_depth; level++) {
661         for (orientation = !!level; orientation < 4; orientation++) {
662             SubBand *b = &s->plane[comp].band[level][orientation];
663             bands[num_bands++] = b;
664
665             align_get_bits(&s->gb);
666             /* [DIRAC_STD] 13.4.2 subband() */
667             b->length = get_interleaved_ue_golomb(&s->gb);
668             if (b->length) {
669                 b->quant = get_interleaved_ue_golomb(&s->gb);
670                 align_get_bits(&s->gb);
671                 b->coeff_data = s->gb.buffer + get_bits_count(&s->gb)/8;
672                 b->length = FFMIN(b->length, FFMAX(get_bits_left(&s->gb)/8, 0));
673                 skip_bits_long(&s->gb, b->length*8);
674             }
675         }
676         /* arithmetic coding has inter-level dependencies, so we can only execute one level at a time */
677         if (s->is_arith)
678             avctx->execute(avctx, decode_subband_arith, &s->plane[comp].band[level][!!level],
679                            NULL, 4-!!level, sizeof(SubBand));
680     }
681     /* golomb coding has no inter-level dependencies, so we can execute all subbands in parallel */
682     if (!s->is_arith)
683         avctx->execute(avctx, decode_subband_golomb, bands, NULL, num_bands, sizeof(SubBand*));
684 }
685
686 #define PARSE_VALUES(type, x, gb, ebits, buf1, buf2) \
687     type *buf = (type *)buf1; \
688     buf[x] = coeff_unpack_golomb(gb, qfactor, qoffset); \
689     if (get_bits_count(gb) >= ebits) \
690         return; \
691     if (buf2) { \
692         buf = (type *)buf2; \
693         buf[x] = coeff_unpack_golomb(gb, qfactor, qoffset); \
694         if (get_bits_count(gb) >= ebits) \
695             return; \
696     } \
697
698 static void decode_subband(DiracContext *s, GetBitContext *gb, int quant,
699                            int slice_x, int slice_y, int bits_end,
700                            SubBand *b1, SubBand *b2)
701 {
702     int left   = b1->width  * slice_x    / s->num_x;
703     int right  = b1->width  *(slice_x+1) / s->num_x;
704     int top    = b1->height * slice_y    / s->num_y;
705     int bottom = b1->height *(slice_y+1) / s->num_y;
706
707     int qfactor, qoffset;
708
709     uint8_t *buf1 =      b1->ibuf + top * b1->stride;
710     uint8_t *buf2 = b2 ? b2->ibuf + top * b2->stride: NULL;
711     int x, y;
712
713     if (quant > (DIRAC_MAX_QUANT_INDEX - 1)) {
714         av_log(s->avctx, AV_LOG_ERROR, "Unsupported quant %d\n", quant);
715         return;
716     }
717     qfactor = ff_dirac_qscale_tab[quant];
718     qoffset = ff_dirac_qoffset_intra_tab[quant] + 2;
719     /* we have to constantly check for overread since the spec explicitly
720        requires this, with the meaning that all remaining coeffs are set to 0 */
721     if (get_bits_count(gb) >= bits_end)
722         return;
723
724     if (s->pshift) {
725         for (y = top; y < bottom; y++) {
726             for (x = left; x < right; x++) {
727                 PARSE_VALUES(int32_t, x, gb, bits_end, buf1, buf2);
728             }
729             buf1 += b1->stride;
730             if (buf2)
731                 buf2 += b2->stride;
732         }
733     }
734     else {
735         for (y = top; y < bottom; y++) {
736             for (x = left; x < right; x++) {
737                 PARSE_VALUES(int16_t, x, gb, bits_end, buf1, buf2);
738             }
739             buf1 += b1->stride;
740             if (buf2)
741                 buf2 += b2->stride;
742         }
743     }
744 }
745
746 /**
747  * Dirac Specification ->
748  * 13.5.2 Slices. slice(sx,sy)
749  */
750 static int decode_lowdelay_slice(AVCodecContext *avctx, void *arg)
751 {
752     DiracContext *s = avctx->priv_data;
753     DiracSlice *slice = arg;
754     GetBitContext *gb = &slice->gb;
755     enum dirac_subband orientation;
756     int level, quant, chroma_bits, chroma_end;
757
758     int quant_base  = get_bits(gb, 7); /*[DIRAC_STD] qindex */
759     int length_bits = av_log2(8 * slice->bytes)+1;
760     int luma_bits   = get_bits_long(gb, length_bits);
761     int luma_end    = get_bits_count(gb) + FFMIN(luma_bits, get_bits_left(gb));
762
763     /* [DIRAC_STD] 13.5.5.2 luma_slice_band */
764     for (level = 0; level < s->wavelet_depth; level++)
765         for (orientation = !!level; orientation < 4; orientation++) {
766             quant = FFMAX(quant_base - s->lowdelay.quant[level][orientation], 0);
767             decode_subband(s, gb, quant, slice->slice_x, slice->slice_y, luma_end,
768                            &s->plane[0].band[level][orientation], NULL);
769         }
770
771     /* consume any unused bits from luma */
772     skip_bits_long(gb, get_bits_count(gb) - luma_end);
773
774     chroma_bits = 8*slice->bytes - 7 - length_bits - luma_bits;
775     chroma_end  = get_bits_count(gb) + FFMIN(chroma_bits, get_bits_left(gb));
776     /* [DIRAC_STD] 13.5.5.3 chroma_slice_band */
777     for (level = 0; level < s->wavelet_depth; level++)
778         for (orientation = !!level; orientation < 4; orientation++) {
779             quant = FFMAX(quant_base - s->lowdelay.quant[level][orientation], 0);
780             decode_subband(s, gb, quant, slice->slice_x, slice->slice_y, chroma_end,
781                            &s->plane[1].band[level][orientation],
782                            &s->plane[2].band[level][orientation]);
783         }
784
785     return 0;
786 }
787
788 typedef struct SliceCoeffs {
789     int left;
790     int top;
791     int tot_h;
792     int tot_v;
793     int tot;
794 } SliceCoeffs;
795
796 static int subband_coeffs(DiracContext *s, int x, int y, int p,
797                           SliceCoeffs c[MAX_DWT_LEVELS])
798 {
799     int level, coef = 0;
800     for (level = 0; level < s->wavelet_depth; level++) {
801         SliceCoeffs *o = &c[level];
802         SubBand *b = &s->plane[p].band[level][3]; /* orientation doens't matter */
803         o->top   = b->height * y / s->num_y;
804         o->left  = b->width  * x / s->num_x;
805         o->tot_h = ((b->width  * (x + 1)) / s->num_x) - o->left;
806         o->tot_v = ((b->height * (y + 1)) / s->num_y) - o->top;
807         o->tot   = o->tot_h*o->tot_v;
808         coef    += o->tot * (4 - !!level);
809     }
810     return coef;
811 }
812
813 /**
814  * VC-2 Specification ->
815  * 13.5.3 hq_slice(sx,sy)
816  */
817 static int decode_hq_slice(DiracContext *s, DiracSlice *slice, uint8_t *tmp_buf)
818 {
819     int i, level, orientation, quant_idx;
820     int qfactor[MAX_DWT_LEVELS][4], qoffset[MAX_DWT_LEVELS][4];
821     GetBitContext *gb = &slice->gb;
822     SliceCoeffs coeffs_num[MAX_DWT_LEVELS];
823
824     skip_bits_long(gb, 8*s->highquality.prefix_bytes);
825     quant_idx = get_bits(gb, 8);
826
827     if (quant_idx > DIRAC_MAX_QUANT_INDEX - 1) {
828         av_log(s->avctx, AV_LOG_ERROR, "Invalid quantization index - %i\n", quant_idx);
829         return AVERROR_INVALIDDATA;
830     }
831
832     /* Slice quantization (slice_quantizers() in the specs) */
833     for (level = 0; level < s->wavelet_depth; level++) {
834         for (orientation = !!level; orientation < 4; orientation++) {
835             const int quant = FFMAX(quant_idx - s->lowdelay.quant[level][orientation], 0);
836             qfactor[level][orientation] = ff_dirac_qscale_tab[quant];
837             qoffset[level][orientation] = ff_dirac_qoffset_intra_tab[quant] + 2;
838         }
839     }
840
841     /* Luma + 2 Chroma planes */
842     for (i = 0; i < 3; i++) {
843         int coef_num, coef_par, off = 0;
844         int64_t length = s->highquality.size_scaler*get_bits(gb, 8);
845         int64_t bits_end = get_bits_count(gb) + 8*length;
846         const uint8_t *addr = align_get_bits(gb);
847
848         if (length*8 > get_bits_left(gb)) {
849             av_log(s->avctx, AV_LOG_ERROR, "end too far away\n");
850             return AVERROR_INVALIDDATA;
851         }
852
853         coef_num = subband_coeffs(s, slice->slice_x, slice->slice_y, i, coeffs_num);
854
855         if (s->pshift)
856             coef_par = ff_dirac_golomb_read_32bit(s->reader_ctx, addr,
857                                                   length, tmp_buf, coef_num);
858         else
859             coef_par = ff_dirac_golomb_read_16bit(s->reader_ctx, addr,
860                                                   length, tmp_buf, coef_num);
861
862         if (coef_num > coef_par) {
863             const int start_b = coef_par * (1 << (s->pshift + 1));
864             const int end_b   = coef_num * (1 << (s->pshift + 1));
865             memset(&tmp_buf[start_b], 0, end_b - start_b);
866         }
867
868         for (level = 0; level < s->wavelet_depth; level++) {
869             const SliceCoeffs *c = &coeffs_num[level];
870             for (orientation = !!level; orientation < 4; orientation++) {
871                 const SubBand *b1 = &s->plane[i].band[level][orientation];
872                 uint8_t *buf = b1->ibuf + c->top * b1->stride + (c->left << (s->pshift + 1));
873
874                 /* Change to c->tot_h <= 4 for AVX2 dequantization */
875                 const int qfunc = s->pshift + 2*(c->tot_h <= 2);
876                 s->diracdsp.dequant_subband[qfunc](&tmp_buf[off], buf, b1->stride,
877                                                    qfactor[level][orientation],
878                                                    qoffset[level][orientation],
879                                                    c->tot_v, c->tot_h);
880
881                 off += c->tot << (s->pshift + 1);
882             }
883         }
884
885         skip_bits_long(gb, bits_end - get_bits_count(gb));
886     }
887
888     return 0;
889 }
890
891 static int decode_hq_slice_row(AVCodecContext *avctx, void *arg, int jobnr, int threadnr)
892 {
893     int i;
894     DiracContext *s = avctx->priv_data;
895     DiracSlice *slices = ((DiracSlice *)arg) + s->num_x*jobnr;
896     uint8_t *thread_buf = &s->thread_buf[s->thread_buf_size*threadnr];
897     for (i = 0; i < s->num_x; i++)
898         decode_hq_slice(s, &slices[i], thread_buf);
899     return 0;
900 }
901
902 /**
903  * Dirac Specification ->
904  * 13.5.1 low_delay_transform_data()
905  */
906 static int decode_lowdelay(DiracContext *s)
907 {
908     AVCodecContext *avctx = s->avctx;
909     int slice_x, slice_y, bufsize;
910     int64_t coef_buf_size, bytes = 0;
911     const uint8_t *buf;
912     DiracSlice *slices;
913     SliceCoeffs tmp[MAX_DWT_LEVELS];
914     int slice_num = 0;
915
916     if (s->slice_params_num_buf != (s->num_x * s->num_y)) {
917         s->slice_params_buf = av_realloc_f(s->slice_params_buf, s->num_x * s->num_y, sizeof(DiracSlice));
918         if (!s->slice_params_buf) {
919             av_log(s->avctx, AV_LOG_ERROR, "slice params buffer allocation failure\n");
920             s->slice_params_num_buf = 0;
921             return AVERROR(ENOMEM);
922         }
923         s->slice_params_num_buf = s->num_x * s->num_y;
924     }
925     slices = s->slice_params_buf;
926
927     /* 8 becacuse that's how much the golomb reader could overread junk data
928      * from another plane/slice at most, and 512 because SIMD */
929     coef_buf_size = subband_coeffs(s, s->num_x - 1, s->num_y - 1, 0, tmp) + 8;
930     coef_buf_size = (coef_buf_size << (1 + s->pshift)) + 512;
931
932     if (s->threads_num_buf != avctx->thread_count ||
933         s->thread_buf_size != coef_buf_size) {
934         s->threads_num_buf  = avctx->thread_count;
935         s->thread_buf_size  = coef_buf_size;
936         s->thread_buf       = av_realloc_f(s->thread_buf, avctx->thread_count, s->thread_buf_size);
937         if (!s->thread_buf) {
938             av_log(s->avctx, AV_LOG_ERROR, "thread buffer allocation failure\n");
939             return AVERROR(ENOMEM);
940         }
941     }
942
943     align_get_bits(&s->gb);
944     /*[DIRAC_STD] 13.5.2 Slices. slice(sx,sy) */
945     buf = s->gb.buffer + get_bits_count(&s->gb)/8;
946     bufsize = get_bits_left(&s->gb);
947
948     if (s->hq_picture) {
949         int i;
950
951         for (slice_y = 0; bufsize > 0 && slice_y < s->num_y; slice_y++) {
952             for (slice_x = 0; bufsize > 0 && slice_x < s->num_x; slice_x++) {
953                 bytes = s->highquality.prefix_bytes + 1;
954                 for (i = 0; i < 3; i++) {
955                     if (bytes <= bufsize/8)
956                         bytes += buf[bytes] * s->highquality.size_scaler + 1;
957                 }
958                 if (bytes >= INT_MAX || bytes*8 > bufsize) {
959                     av_log(s->avctx, AV_LOG_ERROR, "too many bytes\n");
960                     return AVERROR_INVALIDDATA;
961                 }
962
963                 slices[slice_num].bytes   = bytes;
964                 slices[slice_num].slice_x = slice_x;
965                 slices[slice_num].slice_y = slice_y;
966                 init_get_bits(&slices[slice_num].gb, buf, bufsize);
967                 slice_num++;
968
969                 buf     += bytes;
970                 if (bufsize/8 >= bytes)
971                     bufsize -= bytes*8;
972                 else
973                     bufsize = 0;
974             }
975         }
976
977         if (s->num_x*s->num_y != slice_num) {
978             av_log(s->avctx, AV_LOG_ERROR, "too few slices\n");
979             return AVERROR_INVALIDDATA;
980         }
981
982         avctx->execute2(avctx, decode_hq_slice_row, slices, NULL, s->num_y);
983     } else {
984         for (slice_y = 0; bufsize > 0 && slice_y < s->num_y; slice_y++) {
985             for (slice_x = 0; bufsize > 0 && slice_x < s->num_x; slice_x++) {
986                 bytes = (slice_num+1) * (int64_t)s->lowdelay.bytes.num / s->lowdelay.bytes.den
987                        - slice_num    * (int64_t)s->lowdelay.bytes.num / s->lowdelay.bytes.den;
988                 slices[slice_num].bytes   = bytes;
989                 slices[slice_num].slice_x = slice_x;
990                 slices[slice_num].slice_y = slice_y;
991                 init_get_bits(&slices[slice_num].gb, buf, bufsize);
992                 slice_num++;
993
994                 buf     += bytes;
995                 if (bufsize/8 >= bytes)
996                     bufsize -= bytes*8;
997                 else
998                     bufsize = 0;
999             }
1000         }
1001         avctx->execute(avctx, decode_lowdelay_slice, slices, NULL, slice_num,
1002                        sizeof(DiracSlice)); /* [DIRAC_STD] 13.5.2 Slices */
1003     }
1004
1005     if (s->dc_prediction) {
1006         if (s->pshift) {
1007             intra_dc_prediction_10(&s->plane[0].band[0][0]); /* [DIRAC_STD] 13.3 intra_dc_prediction() */
1008             intra_dc_prediction_10(&s->plane[1].band[0][0]); /* [DIRAC_STD] 13.3 intra_dc_prediction() */
1009             intra_dc_prediction_10(&s->plane[2].band[0][0]); /* [DIRAC_STD] 13.3 intra_dc_prediction() */
1010         } else {
1011             intra_dc_prediction_8(&s->plane[0].band[0][0]);
1012             intra_dc_prediction_8(&s->plane[1].band[0][0]);
1013             intra_dc_prediction_8(&s->plane[2].band[0][0]);
1014         }
1015     }
1016
1017     return 0;
1018 }
1019
1020 static void init_planes(DiracContext *s)
1021 {
1022     int i, w, h, level, orientation;
1023
1024     for (i = 0; i < 3; i++) {
1025         Plane *p = &s->plane[i];
1026
1027         p->width       = s->seq.width  >> (i ? s->chroma_x_shift : 0);
1028         p->height      = s->seq.height >> (i ? s->chroma_y_shift : 0);
1029         p->idwt.width  = w = CALC_PADDING(p->width , s->wavelet_depth);
1030         p->idwt.height = h = CALC_PADDING(p->height, s->wavelet_depth);
1031         p->idwt.stride = FFALIGN(p->idwt.width, 8) << (1 + s->pshift);
1032
1033         for (level = s->wavelet_depth-1; level >= 0; level--) {
1034             w = w>>1;
1035             h = h>>1;
1036             for (orientation = !!level; orientation < 4; orientation++) {
1037                 SubBand *b = &p->band[level][orientation];
1038
1039                 b->pshift = s->pshift;
1040                 b->ibuf   = p->idwt.buf;
1041                 b->level  = level;
1042                 b->stride = p->idwt.stride << (s->wavelet_depth - level);
1043                 b->width  = w;
1044                 b->height = h;
1045                 b->orientation = orientation;
1046
1047                 if (orientation & 1)
1048                     b->ibuf += w << (1+b->pshift);
1049                 if (orientation > 1)
1050                     b->ibuf += (b->stride>>1);
1051
1052                 if (level)
1053                     b->parent = &p->band[level-1][orientation];
1054             }
1055         }
1056
1057         if (i > 0) {
1058             p->xblen = s->plane[0].xblen >> s->chroma_x_shift;
1059             p->yblen = s->plane[0].yblen >> s->chroma_y_shift;
1060             p->xbsep = s->plane[0].xbsep >> s->chroma_x_shift;
1061             p->ybsep = s->plane[0].ybsep >> s->chroma_y_shift;
1062         }
1063
1064         p->xoffset = (p->xblen - p->xbsep)/2;
1065         p->yoffset = (p->yblen - p->ybsep)/2;
1066     }
1067 }
1068
1069 /**
1070  * Unpack the motion compensation parameters
1071  * Dirac Specification ->
1072  * 11.2 Picture prediction data. picture_prediction()
1073  */
1074 static int dirac_unpack_prediction_parameters(DiracContext *s)
1075 {
1076     static const uint8_t default_blen[] = { 4, 12, 16, 24 };
1077
1078     GetBitContext *gb = &s->gb;
1079     unsigned idx, ref;
1080
1081     align_get_bits(gb);
1082     /* [DIRAC_STD] 11.2.2 Block parameters. block_parameters() */
1083     /* Luma and Chroma are equal. 11.2.3 */
1084     idx = get_interleaved_ue_golomb(gb); /* [DIRAC_STD] index */
1085
1086     if (idx > 4) {
1087         av_log(s->avctx, AV_LOG_ERROR, "Block prediction index too high\n");
1088         return AVERROR_INVALIDDATA;
1089     }
1090
1091     if (idx == 0) {
1092         s->plane[0].xblen = get_interleaved_ue_golomb(gb);
1093         s->plane[0].yblen = get_interleaved_ue_golomb(gb);
1094         s->plane[0].xbsep = get_interleaved_ue_golomb(gb);
1095         s->plane[0].ybsep = get_interleaved_ue_golomb(gb);
1096     } else {
1097         /*[DIRAC_STD] preset_block_params(index). Table 11.1 */
1098         s->plane[0].xblen = default_blen[idx-1];
1099         s->plane[0].yblen = default_blen[idx-1];
1100         s->plane[0].xbsep = 4 * idx;
1101         s->plane[0].ybsep = 4 * idx;
1102     }
1103     /*[DIRAC_STD] 11.2.4 motion_data_dimensions()
1104       Calculated in function dirac_unpack_block_motion_data */
1105
1106     if (s->plane[0].xblen % (1 << s->chroma_x_shift) != 0 ||
1107         s->plane[0].yblen % (1 << s->chroma_y_shift) != 0 ||
1108         !s->plane[0].xblen || !s->plane[0].yblen) {
1109         av_log(s->avctx, AV_LOG_ERROR,
1110                "invalid x/y block length (%d/%d) for x/y chroma shift (%d/%d)\n",
1111                s->plane[0].xblen, s->plane[0].yblen, s->chroma_x_shift, s->chroma_y_shift);
1112         return AVERROR_INVALIDDATA;
1113     }
1114     if (!s->plane[0].xbsep || !s->plane[0].ybsep || s->plane[0].xbsep < s->plane[0].xblen/2 || s->plane[0].ybsep < s->plane[0].yblen/2) {
1115         av_log(s->avctx, AV_LOG_ERROR, "Block separation too small\n");
1116         return AVERROR_INVALIDDATA;
1117     }
1118     if (s->plane[0].xbsep > s->plane[0].xblen || s->plane[0].ybsep > s->plane[0].yblen) {
1119         av_log(s->avctx, AV_LOG_ERROR, "Block separation greater than size\n");
1120         return AVERROR_INVALIDDATA;
1121     }
1122     if (FFMAX(s->plane[0].xblen, s->plane[0].yblen) > MAX_BLOCKSIZE) {
1123         av_log(s->avctx, AV_LOG_ERROR, "Unsupported large block size\n");
1124         return AVERROR_PATCHWELCOME;
1125     }
1126
1127     /*[DIRAC_STD] 11.2.5 Motion vector precision. motion_vector_precision()
1128       Read motion vector precision */
1129     s->mv_precision = get_interleaved_ue_golomb(gb);
1130     if (s->mv_precision > 3) {
1131         av_log(s->avctx, AV_LOG_ERROR, "MV precision finer than eighth-pel\n");
1132         return AVERROR_INVALIDDATA;
1133     }
1134
1135     /*[DIRAC_STD] 11.2.6 Global motion. global_motion()
1136       Read the global motion compensation parameters */
1137     s->globalmc_flag = get_bits1(gb);
1138     if (s->globalmc_flag) {
1139         memset(s->globalmc, 0, sizeof(s->globalmc));
1140         /* [DIRAC_STD] pan_tilt(gparams) */
1141         for (ref = 0; ref < s->num_refs; ref++) {
1142             if (get_bits1(gb)) {
1143                 s->globalmc[ref].pan_tilt[0] = dirac_get_se_golomb(gb);
1144                 s->globalmc[ref].pan_tilt[1] = dirac_get_se_golomb(gb);
1145             }
1146             /* [DIRAC_STD] zoom_rotate_shear(gparams)
1147                zoom/rotation/shear parameters */
1148             if (get_bits1(gb)) {
1149                 s->globalmc[ref].zrs_exp   = get_interleaved_ue_golomb(gb);
1150                 s->globalmc[ref].zrs[0][0] = dirac_get_se_golomb(gb);
1151                 s->globalmc[ref].zrs[0][1] = dirac_get_se_golomb(gb);
1152                 s->globalmc[ref].zrs[1][0] = dirac_get_se_golomb(gb);
1153                 s->globalmc[ref].zrs[1][1] = dirac_get_se_golomb(gb);
1154             } else {
1155                 s->globalmc[ref].zrs[0][0] = 1;
1156                 s->globalmc[ref].zrs[1][1] = 1;
1157             }
1158             /* [DIRAC_STD] perspective(gparams) */
1159             if (get_bits1(gb)) {
1160                 s->globalmc[ref].perspective_exp = get_interleaved_ue_golomb(gb);
1161                 s->globalmc[ref].perspective[0]  = dirac_get_se_golomb(gb);
1162                 s->globalmc[ref].perspective[1]  = dirac_get_se_golomb(gb);
1163             }
1164         }
1165     }
1166
1167     /*[DIRAC_STD] 11.2.7 Picture prediction mode. prediction_mode()
1168       Picture prediction mode, not currently used. */
1169     if (get_interleaved_ue_golomb(gb)) {
1170         av_log(s->avctx, AV_LOG_ERROR, "Unknown picture prediction mode\n");
1171         return AVERROR_INVALIDDATA;
1172     }
1173
1174     /* [DIRAC_STD] 11.2.8 Reference picture weight. reference_picture_weights()
1175        just data read, weight calculation will be done later on. */
1176     s->weight_log2denom = 1;
1177     s->weight[0]        = 1;
1178     s->weight[1]        = 1;
1179
1180     if (get_bits1(gb)) {
1181         s->weight_log2denom = get_interleaved_ue_golomb(gb);
1182         if (s->weight_log2denom < 1 || s->weight_log2denom > 8) {
1183             av_log(s->avctx, AV_LOG_ERROR, "weight_log2denom unsupported or invalid\n");
1184             s->weight_log2denom = 1;
1185             return AVERROR_INVALIDDATA;
1186         }
1187         s->weight[0] = dirac_get_se_golomb(gb);
1188         if (s->num_refs == 2)
1189             s->weight[1] = dirac_get_se_golomb(gb);
1190     }
1191     return 0;
1192 }
1193
1194 /**
1195  * Dirac Specification ->
1196  * 11.3 Wavelet transform data. wavelet_transform()
1197  */
1198 static int dirac_unpack_idwt_params(DiracContext *s)
1199 {
1200     GetBitContext *gb = &s->gb;
1201     int i, level;
1202     unsigned tmp;
1203
1204 #define CHECKEDREAD(dst, cond, errmsg) \
1205     tmp = get_interleaved_ue_golomb(gb); \
1206     if (cond) { \
1207         av_log(s->avctx, AV_LOG_ERROR, errmsg); \
1208         return AVERROR_INVALIDDATA; \
1209     }\
1210     dst = tmp;
1211
1212     align_get_bits(gb);
1213
1214     s->zero_res = s->num_refs ? get_bits1(gb) : 0;
1215     if (s->zero_res)
1216         return 0;
1217
1218     /*[DIRAC_STD] 11.3.1 Transform parameters. transform_parameters() */
1219     CHECKEDREAD(s->wavelet_idx, tmp > 6, "wavelet_idx is too big\n")
1220
1221     CHECKEDREAD(s->wavelet_depth, tmp > MAX_DWT_LEVELS || tmp < 1, "invalid number of DWT decompositions\n")
1222
1223     if (!s->low_delay) {
1224         /* Codeblock parameters (core syntax only) */
1225         if (get_bits1(gb)) {
1226             for (i = 0; i <= s->wavelet_depth; i++) {
1227                 CHECKEDREAD(s->codeblock[i].width , tmp < 1 || tmp > (s->avctx->width >>s->wavelet_depth-i), "codeblock width invalid\n")
1228                 CHECKEDREAD(s->codeblock[i].height, tmp < 1 || tmp > (s->avctx->height>>s->wavelet_depth-i), "codeblock height invalid\n")
1229             }
1230
1231             CHECKEDREAD(s->codeblock_mode, tmp > 1, "unknown codeblock mode\n")
1232         }
1233         else {
1234             for (i = 0; i <= s->wavelet_depth; i++)
1235                 s->codeblock[i].width = s->codeblock[i].height = 1;
1236         }
1237     }
1238     else {
1239         s->num_x        = get_interleaved_ue_golomb(gb);
1240         s->num_y        = get_interleaved_ue_golomb(gb);
1241         if (s->num_x * s->num_y == 0 || s->num_x * (uint64_t)s->num_y > INT_MAX) {
1242             av_log(s->avctx,AV_LOG_ERROR,"Invalid numx/y\n");
1243             s->num_x = s->num_y = 0;
1244             return AVERROR_INVALIDDATA;
1245         }
1246         if (s->ld_picture) {
1247             s->lowdelay.bytes.num = get_interleaved_ue_golomb(gb);
1248             s->lowdelay.bytes.den = get_interleaved_ue_golomb(gb);
1249             if (s->lowdelay.bytes.den <= 0) {
1250                 av_log(s->avctx,AV_LOG_ERROR,"Invalid lowdelay.bytes.den\n");
1251                 return AVERROR_INVALIDDATA;
1252             }
1253         } else if (s->hq_picture) {
1254             s->highquality.prefix_bytes = get_interleaved_ue_golomb(gb);
1255             s->highquality.size_scaler  = get_interleaved_ue_golomb(gb);
1256             if (s->highquality.prefix_bytes >= INT_MAX / 8) {
1257                 av_log(s->avctx,AV_LOG_ERROR,"too many prefix bytes\n");
1258                 return AVERROR_INVALIDDATA;
1259             }
1260         }
1261
1262         /* [DIRAC_STD] 11.3.5 Quantisation matrices (low-delay syntax). quant_matrix() */
1263         if (get_bits1(gb)) {
1264             av_log(s->avctx,AV_LOG_DEBUG,"Low Delay: Has Custom Quantization Matrix!\n");
1265             /* custom quantization matrix */
1266             for (level = 0; level < s->wavelet_depth; level++) {
1267                 for (i = !!level; i < 4; i++) {
1268                     s->lowdelay.quant[level][i] = get_interleaved_ue_golomb(gb);
1269                 }
1270             }
1271         } else {
1272             if (s->wavelet_depth > 4) {
1273                 av_log(s->avctx,AV_LOG_ERROR,"Mandatory custom low delay matrix missing for depth %d\n", s->wavelet_depth);
1274                 return AVERROR_INVALIDDATA;
1275             }
1276             /* default quantization matrix */
1277             for (level = 0; level < s->wavelet_depth; level++)
1278                 for (i = 0; i < 4; i++) {
1279                     s->lowdelay.quant[level][i] = ff_dirac_default_qmat[s->wavelet_idx][level][i];
1280                     /* haar with no shift differs for different depths */
1281                     if (s->wavelet_idx == 3)
1282                         s->lowdelay.quant[level][i] += 4*(s->wavelet_depth-1 - level);
1283                 }
1284         }
1285     }
1286     return 0;
1287 }
1288
1289 static inline int pred_sbsplit(uint8_t *sbsplit, int stride, int x, int y)
1290 {
1291     static const uint8_t avgsplit[7] = { 0, 0, 1, 1, 1, 2, 2 };
1292
1293     if (!(x|y))
1294         return 0;
1295     else if (!y)
1296         return sbsplit[-1];
1297     else if (!x)
1298         return sbsplit[-stride];
1299
1300     return avgsplit[sbsplit[-1] + sbsplit[-stride] + sbsplit[-stride-1]];
1301 }
1302
1303 static inline int pred_block_mode(DiracBlock *block, int stride, int x, int y, int refmask)
1304 {
1305     int pred;
1306
1307     if (!(x|y))
1308         return 0;
1309     else if (!y)
1310         return block[-1].ref & refmask;
1311     else if (!x)
1312         return block[-stride].ref & refmask;
1313
1314     /* return the majority */
1315     pred = (block[-1].ref & refmask) + (block[-stride].ref & refmask) + (block[-stride-1].ref & refmask);
1316     return (pred >> 1) & refmask;
1317 }
1318
1319 static inline void pred_block_dc(DiracBlock *block, int stride, int x, int y)
1320 {
1321     int i, n = 0;
1322
1323     memset(block->u.dc, 0, sizeof(block->u.dc));
1324
1325     if (x && !(block[-1].ref & 3)) {
1326         for (i = 0; i < 3; i++)
1327             block->u.dc[i] += block[-1].u.dc[i];
1328         n++;
1329     }
1330
1331     if (y && !(block[-stride].ref & 3)) {
1332         for (i = 0; i < 3; i++)
1333             block->u.dc[i] += block[-stride].u.dc[i];
1334         n++;
1335     }
1336
1337     if (x && y && !(block[-1-stride].ref & 3)) {
1338         for (i = 0; i < 3; i++)
1339             block->u.dc[i] += block[-1-stride].u.dc[i];
1340         n++;
1341     }
1342
1343     if (n == 2) {
1344         for (i = 0; i < 3; i++)
1345             block->u.dc[i] = (block->u.dc[i]+1)>>1;
1346     } else if (n == 3) {
1347         for (i = 0; i < 3; i++)
1348             block->u.dc[i] = divide3(block->u.dc[i]);
1349     }
1350 }
1351
1352 static inline void pred_mv(DiracBlock *block, int stride, int x, int y, int ref)
1353 {
1354     int16_t *pred[3];
1355     int refmask = ref+1;
1356     int mask = refmask | DIRAC_REF_MASK_GLOBAL; /*  exclude gmc blocks */
1357     int n = 0;
1358
1359     if (x && (block[-1].ref & mask) == refmask)
1360         pred[n++] = block[-1].u.mv[ref];
1361
1362     if (y && (block[-stride].ref & mask) == refmask)
1363         pred[n++] = block[-stride].u.mv[ref];
1364
1365     if (x && y && (block[-stride-1].ref & mask) == refmask)
1366         pred[n++] = block[-stride-1].u.mv[ref];
1367
1368     switch (n) {
1369     case 0:
1370         block->u.mv[ref][0] = 0;
1371         block->u.mv[ref][1] = 0;
1372         break;
1373     case 1:
1374         block->u.mv[ref][0] = pred[0][0];
1375         block->u.mv[ref][1] = pred[0][1];
1376         break;
1377     case 2:
1378         block->u.mv[ref][0] = (pred[0][0] + pred[1][0] + 1) >> 1;
1379         block->u.mv[ref][1] = (pred[0][1] + pred[1][1] + 1) >> 1;
1380         break;
1381     case 3:
1382         block->u.mv[ref][0] = mid_pred(pred[0][0], pred[1][0], pred[2][0]);
1383         block->u.mv[ref][1] = mid_pred(pred[0][1], pred[1][1], pred[2][1]);
1384         break;
1385     }
1386 }
1387
1388 static void global_mv(DiracContext *s, DiracBlock *block, int x, int y, int ref)
1389 {
1390     int ez      = s->globalmc[ref].zrs_exp;
1391     int ep      = s->globalmc[ref].perspective_exp;
1392     int (*A)[2] = s->globalmc[ref].zrs;
1393     int *b      = s->globalmc[ref].pan_tilt;
1394     int *c      = s->globalmc[ref].perspective;
1395
1396     int m       = (1<<ep) - (c[0]*x + c[1]*y);
1397     int mx      = m * ((A[0][0] * x + A[0][1]*y) + (1<<ez) * b[0]);
1398     int my      = m * ((A[1][0] * x + A[1][1]*y) + (1<<ez) * b[1]);
1399
1400     block->u.mv[ref][0] = (mx + (1<<(ez+ep))) >> (ez+ep);
1401     block->u.mv[ref][1] = (my + (1<<(ez+ep))) >> (ez+ep);
1402 }
1403
1404 static void decode_block_params(DiracContext *s, DiracArith arith[8], DiracBlock *block,
1405                                 int stride, int x, int y)
1406 {
1407     int i;
1408
1409     block->ref  = pred_block_mode(block, stride, x, y, DIRAC_REF_MASK_REF1);
1410     block->ref ^= dirac_get_arith_bit(arith, CTX_PMODE_REF1);
1411
1412     if (s->num_refs == 2) {
1413         block->ref |= pred_block_mode(block, stride, x, y, DIRAC_REF_MASK_REF2);
1414         block->ref ^= dirac_get_arith_bit(arith, CTX_PMODE_REF2) << 1;
1415     }
1416
1417     if (!block->ref) {
1418         pred_block_dc(block, stride, x, y);
1419         for (i = 0; i < 3; i++)
1420             block->u.dc[i] += dirac_get_arith_int(arith+1+i, CTX_DC_F1, CTX_DC_DATA);
1421         return;
1422     }
1423
1424     if (s->globalmc_flag) {
1425         block->ref |= pred_block_mode(block, stride, x, y, DIRAC_REF_MASK_GLOBAL);
1426         block->ref ^= dirac_get_arith_bit(arith, CTX_GLOBAL_BLOCK) << 2;
1427     }
1428
1429     for (i = 0; i < s->num_refs; i++)
1430         if (block->ref & (i+1)) {
1431             if (block->ref & DIRAC_REF_MASK_GLOBAL) {
1432                 global_mv(s, block, x, y, i);
1433             } else {
1434                 pred_mv(block, stride, x, y, i);
1435                 block->u.mv[i][0] += dirac_get_arith_int(arith + 4 + 2 * i, CTX_MV_F1, CTX_MV_DATA);
1436                 block->u.mv[i][1] += dirac_get_arith_int(arith + 5 + 2 * i, CTX_MV_F1, CTX_MV_DATA);
1437             }
1438         }
1439 }
1440
1441 /**
1442  * Copies the current block to the other blocks covered by the current superblock split mode
1443  */
1444 static void propagate_block_data(DiracBlock *block, int stride, int size)
1445 {
1446     int x, y;
1447     DiracBlock *dst = block;
1448
1449     for (x = 1; x < size; x++)
1450         dst[x] = *block;
1451
1452     for (y = 1; y < size; y++) {
1453         dst += stride;
1454         for (x = 0; x < size; x++)
1455             dst[x] = *block;
1456     }
1457 }
1458
1459 /**
1460  * Dirac Specification ->
1461  * 12. Block motion data syntax
1462  */
1463 static int dirac_unpack_block_motion_data(DiracContext *s)
1464 {
1465     GetBitContext *gb = &s->gb;
1466     uint8_t *sbsplit = s->sbsplit;
1467     int i, x, y, q, p;
1468     DiracArith arith[8];
1469
1470     align_get_bits(gb);
1471
1472     /* [DIRAC_STD] 11.2.4 and 12.2.1 Number of blocks and superblocks */
1473     s->sbwidth  = DIVRNDUP(s->seq.width,  4*s->plane[0].xbsep);
1474     s->sbheight = DIVRNDUP(s->seq.height, 4*s->plane[0].ybsep);
1475     s->blwidth  = 4 * s->sbwidth;
1476     s->blheight = 4 * s->sbheight;
1477
1478     /* [DIRAC_STD] 12.3.1 Superblock splitting modes. superblock_split_modes()
1479        decode superblock split modes */
1480     ff_dirac_init_arith_decoder(arith, gb, get_interleaved_ue_golomb(gb));     /* get_interleaved_ue_golomb(gb) is the length */
1481     for (y = 0; y < s->sbheight; y++) {
1482         for (x = 0; x < s->sbwidth; x++) {
1483             unsigned int split  = dirac_get_arith_uint(arith, CTX_SB_F1, CTX_SB_DATA);
1484             if (split > 2)
1485                 return AVERROR_INVALIDDATA;
1486             sbsplit[x] = (split + pred_sbsplit(sbsplit+x, s->sbwidth, x, y)) % 3;
1487         }
1488         sbsplit += s->sbwidth;
1489     }
1490
1491     /* setup arith decoding */
1492     ff_dirac_init_arith_decoder(arith, gb, get_interleaved_ue_golomb(gb));
1493     for (i = 0; i < s->num_refs; i++) {
1494         ff_dirac_init_arith_decoder(arith + 4 + 2 * i, gb, get_interleaved_ue_golomb(gb));
1495         ff_dirac_init_arith_decoder(arith + 5 + 2 * i, gb, get_interleaved_ue_golomb(gb));
1496     }
1497     for (i = 0; i < 3; i++)
1498         ff_dirac_init_arith_decoder(arith+1+i, gb, get_interleaved_ue_golomb(gb));
1499
1500     for (y = 0; y < s->sbheight; y++)
1501         for (x = 0; x < s->sbwidth; x++) {
1502             int blkcnt = 1 << s->sbsplit[y * s->sbwidth + x];
1503             int step   = 4 >> s->sbsplit[y * s->sbwidth + x];
1504
1505             for (q = 0; q < blkcnt; q++)
1506                 for (p = 0; p < blkcnt; p++) {
1507                     int bx = 4 * x + p*step;
1508                     int by = 4 * y + q*step;
1509                     DiracBlock *block = &s->blmotion[by*s->blwidth + bx];
1510                     decode_block_params(s, arith, block, s->blwidth, bx, by);
1511                     propagate_block_data(block, s->blwidth, step);
1512                 }
1513         }
1514
1515     return 0;
1516 }
1517
1518 static int weight(int i, int blen, int offset)
1519 {
1520 #define ROLLOFF(i) offset == 1 ? ((i) ? 5 : 3) :        \
1521     (1 + (6*(i) + offset - 1) / (2*offset - 1))
1522
1523     if (i < 2*offset)
1524         return ROLLOFF(i);
1525     else if (i > blen-1 - 2*offset)
1526         return ROLLOFF(blen-1 - i);
1527     return 8;
1528 }
1529
1530 static void init_obmc_weight_row(Plane *p, uint8_t *obmc_weight, int stride,
1531                                  int left, int right, int wy)
1532 {
1533     int x;
1534     for (x = 0; left && x < p->xblen >> 1; x++)
1535         obmc_weight[x] = wy*8;
1536     for (; x < p->xblen >> right; x++)
1537         obmc_weight[x] = wy*weight(x, p->xblen, p->xoffset);
1538     for (; x < p->xblen; x++)
1539         obmc_weight[x] = wy*8;
1540     for (; x < stride; x++)
1541         obmc_weight[x] = 0;
1542 }
1543
1544 static void init_obmc_weight(Plane *p, uint8_t *obmc_weight, int stride,
1545                              int left, int right, int top, int bottom)
1546 {
1547     int y;
1548     for (y = 0; top && y < p->yblen >> 1; y++) {
1549         init_obmc_weight_row(p, obmc_weight, stride, left, right, 8);
1550         obmc_weight += stride;
1551     }
1552     for (; y < p->yblen >> bottom; y++) {
1553         int wy = weight(y, p->yblen, p->yoffset);
1554         init_obmc_weight_row(p, obmc_weight, stride, left, right, wy);
1555         obmc_weight += stride;
1556     }
1557     for (; y < p->yblen; y++) {
1558         init_obmc_weight_row(p, obmc_weight, stride, left, right, 8);
1559         obmc_weight += stride;
1560     }
1561 }
1562
1563 static void init_obmc_weights(DiracContext *s, Plane *p, int by)
1564 {
1565     int top = !by;
1566     int bottom = by == s->blheight-1;
1567
1568     /* don't bother re-initing for rows 2 to blheight-2, the weights don't change */
1569     if (top || bottom || by == 1) {
1570         init_obmc_weight(p, s->obmc_weight[0], MAX_BLOCKSIZE, 1, 0, top, bottom);
1571         init_obmc_weight(p, s->obmc_weight[1], MAX_BLOCKSIZE, 0, 0, top, bottom);
1572         init_obmc_weight(p, s->obmc_weight[2], MAX_BLOCKSIZE, 0, 1, top, bottom);
1573     }
1574 }
1575
1576 static const uint8_t epel_weights[4][4][4] = {
1577     {{ 16,  0,  0,  0 },
1578      { 12,  4,  0,  0 },
1579      {  8,  8,  0,  0 },
1580      {  4, 12,  0,  0 }},
1581     {{ 12,  0,  4,  0 },
1582      {  9,  3,  3,  1 },
1583      {  6,  6,  2,  2 },
1584      {  3,  9,  1,  3 }},
1585     {{  8,  0,  8,  0 },
1586      {  6,  2,  6,  2 },
1587      {  4,  4,  4,  4 },
1588      {  2,  6,  2,  6 }},
1589     {{  4,  0, 12,  0 },
1590      {  3,  1,  9,  3 },
1591      {  2,  2,  6,  6 },
1592      {  1,  3,  3,  9 }}
1593 };
1594
1595 /**
1596  * For block x,y, determine which of the hpel planes to do bilinear
1597  * interpolation from and set src[] to the location in each hpel plane
1598  * to MC from.
1599  *
1600  * @return the index of the put_dirac_pixels_tab function to use
1601  *  0 for 1 plane (fpel,hpel), 1 for 2 planes (qpel), 2 for 4 planes (qpel), and 3 for epel
1602  */
1603 static int mc_subpel(DiracContext *s, DiracBlock *block, const uint8_t *src[5],
1604                      int x, int y, int ref, int plane)
1605 {
1606     Plane *p = &s->plane[plane];
1607     uint8_t **ref_hpel = s->ref_pics[ref]->hpel[plane];
1608     int motion_x = block->u.mv[ref][0];
1609     int motion_y = block->u.mv[ref][1];
1610     int mx, my, i, epel, nplanes = 0;
1611
1612     if (plane) {
1613         motion_x >>= s->chroma_x_shift;
1614         motion_y >>= s->chroma_y_shift;
1615     }
1616
1617     mx         = motion_x & ~(-1U << s->mv_precision);
1618     my         = motion_y & ~(-1U << s->mv_precision);
1619     motion_x >>= s->mv_precision;
1620     motion_y >>= s->mv_precision;
1621     /* normalize subpel coordinates to epel */
1622     /* TODO: template this function? */
1623     mx      <<= 3 - s->mv_precision;
1624     my      <<= 3 - s->mv_precision;
1625
1626     x += motion_x;
1627     y += motion_y;
1628     epel = (mx|my)&1;
1629
1630     /* hpel position */
1631     if (!((mx|my)&3)) {
1632         nplanes = 1;
1633         src[0] = ref_hpel[(my>>1)+(mx>>2)] + y*p->stride + x;
1634     } else {
1635         /* qpel or epel */
1636         nplanes = 4;
1637         for (i = 0; i < 4; i++)
1638             src[i] = ref_hpel[i] + y*p->stride + x;
1639
1640         /* if we're interpolating in the right/bottom halves, adjust the planes as needed
1641            we increment x/y because the edge changes for half of the pixels */
1642         if (mx > 4) {
1643             src[0] += 1;
1644             src[2] += 1;
1645             x++;
1646         }
1647         if (my > 4) {
1648             src[0] += p->stride;
1649             src[1] += p->stride;
1650             y++;
1651         }
1652
1653         /* hpel planes are:
1654            [0]: F  [1]: H
1655            [2]: V  [3]: C */
1656         if (!epel) {
1657             /* check if we really only need 2 planes since either mx or my is
1658                a hpel position. (epel weights of 0 handle this there) */
1659             if (!(mx&3)) {
1660                 /* mx == 0: average [0] and [2]
1661                    mx == 4: average [1] and [3] */
1662                 src[!mx] = src[2 + !!mx];
1663                 nplanes = 2;
1664             } else if (!(my&3)) {
1665                 src[0] = src[(my>>1)  ];
1666                 src[1] = src[(my>>1)+1];
1667                 nplanes = 2;
1668             }
1669         } else {
1670             /* adjust the ordering if needed so the weights work */
1671             if (mx > 4) {
1672                 FFSWAP(const uint8_t *, src[0], src[1]);
1673                 FFSWAP(const uint8_t *, src[2], src[3]);
1674             }
1675             if (my > 4) {
1676                 FFSWAP(const uint8_t *, src[0], src[2]);
1677                 FFSWAP(const uint8_t *, src[1], src[3]);
1678             }
1679             src[4] = epel_weights[my&3][mx&3];
1680         }
1681     }
1682
1683     /* fixme: v/h _edge_pos */
1684     if (x + p->xblen > p->width +EDGE_WIDTH/2 ||
1685         y + p->yblen > p->height+EDGE_WIDTH/2 ||
1686         x < 0 || y < 0) {
1687         for (i = 0; i < nplanes; i++) {
1688             s->vdsp.emulated_edge_mc(s->edge_emu_buffer[i], src[i],
1689                                      p->stride, p->stride,
1690                                      p->xblen, p->yblen, x, y,
1691                                      p->width+EDGE_WIDTH/2, p->height+EDGE_WIDTH/2);
1692             src[i] = s->edge_emu_buffer[i];
1693         }
1694     }
1695     return (nplanes>>1) + epel;
1696 }
1697
1698 static void add_dc(uint16_t *dst, int dc, int stride,
1699                    uint8_t *obmc_weight, int xblen, int yblen)
1700 {
1701     int x, y;
1702     dc += 128;
1703
1704     for (y = 0; y < yblen; y++) {
1705         for (x = 0; x < xblen; x += 2) {
1706             dst[x  ] += dc * obmc_weight[x  ];
1707             dst[x+1] += dc * obmc_weight[x+1];
1708         }
1709         dst          += stride;
1710         obmc_weight  += MAX_BLOCKSIZE;
1711     }
1712 }
1713
1714 static void block_mc(DiracContext *s, DiracBlock *block,
1715                      uint16_t *mctmp, uint8_t *obmc_weight,
1716                      int plane, int dstx, int dsty)
1717 {
1718     Plane *p = &s->plane[plane];
1719     const uint8_t *src[5];
1720     int idx;
1721
1722     switch (block->ref&3) {
1723     case 0: /* DC */
1724         add_dc(mctmp, block->u.dc[plane], p->stride, obmc_weight, p->xblen, p->yblen);
1725         return;
1726     case 1:
1727     case 2:
1728         idx = mc_subpel(s, block, src, dstx, dsty, (block->ref&3)-1, plane);
1729         s->put_pixels_tab[idx](s->mcscratch, src, p->stride, p->yblen);
1730         if (s->weight_func)
1731             s->weight_func(s->mcscratch, p->stride, s->weight_log2denom,
1732                            s->weight[0] + s->weight[1], p->yblen);
1733         break;
1734     case 3:
1735         idx = mc_subpel(s, block, src, dstx, dsty, 0, plane);
1736         s->put_pixels_tab[idx](s->mcscratch, src, p->stride, p->yblen);
1737         idx = mc_subpel(s, block, src, dstx, dsty, 1, plane);
1738         if (s->biweight_func) {
1739             /* fixme: +32 is a quick hack */
1740             s->put_pixels_tab[idx](s->mcscratch + 32, src, p->stride, p->yblen);
1741             s->biweight_func(s->mcscratch, s->mcscratch+32, p->stride, s->weight_log2denom,
1742                              s->weight[0], s->weight[1], p->yblen);
1743         } else
1744             s->avg_pixels_tab[idx](s->mcscratch, src, p->stride, p->yblen);
1745         break;
1746     }
1747     s->add_obmc(mctmp, s->mcscratch, p->stride, obmc_weight, p->yblen);
1748 }
1749
1750 static void mc_row(DiracContext *s, DiracBlock *block, uint16_t *mctmp, int plane, int dsty)
1751 {
1752     Plane *p = &s->plane[plane];
1753     int x, dstx = p->xbsep - p->xoffset;
1754
1755     block_mc(s, block, mctmp, s->obmc_weight[0], plane, -p->xoffset, dsty);
1756     mctmp += p->xbsep;
1757
1758     for (x = 1; x < s->blwidth-1; x++) {
1759         block_mc(s, block+x, mctmp, s->obmc_weight[1], plane, dstx, dsty);
1760         dstx  += p->xbsep;
1761         mctmp += p->xbsep;
1762     }
1763     block_mc(s, block+x, mctmp, s->obmc_weight[2], plane, dstx, dsty);
1764 }
1765
1766 static void select_dsp_funcs(DiracContext *s, int width, int height, int xblen, int yblen)
1767 {
1768     int idx = 0;
1769     if (xblen > 8)
1770         idx = 1;
1771     if (xblen > 16)
1772         idx = 2;
1773
1774     memcpy(s->put_pixels_tab, s->diracdsp.put_dirac_pixels_tab[idx], sizeof(s->put_pixels_tab));
1775     memcpy(s->avg_pixels_tab, s->diracdsp.avg_dirac_pixels_tab[idx], sizeof(s->avg_pixels_tab));
1776     s->add_obmc = s->diracdsp.add_dirac_obmc[idx];
1777     if (s->weight_log2denom > 1 || s->weight[0] != 1 || s->weight[1] != 1) {
1778         s->weight_func   = s->diracdsp.weight_dirac_pixels_tab[idx];
1779         s->biweight_func = s->diracdsp.biweight_dirac_pixels_tab[idx];
1780     } else {
1781         s->weight_func   = NULL;
1782         s->biweight_func = NULL;
1783     }
1784 }
1785
1786 static int interpolate_refplane(DiracContext *s, DiracFrame *ref, int plane, int width, int height)
1787 {
1788     /* chroma allocates an edge of 8 when subsampled
1789        which for 4:2:2 means an h edge of 16 and v edge of 8
1790        just use 8 for everything for the moment */
1791     int i, edge = EDGE_WIDTH/2;
1792
1793     ref->hpel[plane][0] = ref->avframe->data[plane];
1794     s->mpvencdsp.draw_edges(ref->hpel[plane][0], ref->avframe->linesize[plane], width, height, edge, edge, EDGE_TOP | EDGE_BOTTOM); /* EDGE_TOP | EDGE_BOTTOM values just copied to make it build, this needs to be ensured */
1795
1796     /* no need for hpel if we only have fpel vectors */
1797     if (!s->mv_precision)
1798         return 0;
1799
1800     for (i = 1; i < 4; i++) {
1801         if (!ref->hpel_base[plane][i])
1802             ref->hpel_base[plane][i] = av_malloc((height+2*edge) * ref->avframe->linesize[plane] + 32);
1803         if (!ref->hpel_base[plane][i]) {
1804             return AVERROR(ENOMEM);
1805         }
1806         /* we need to be 16-byte aligned even for chroma */
1807         ref->hpel[plane][i] = ref->hpel_base[plane][i] + edge*ref->avframe->linesize[plane] + 16;
1808     }
1809
1810     if (!ref->interpolated[plane]) {
1811         s->diracdsp.dirac_hpel_filter(ref->hpel[plane][1], ref->hpel[plane][2],
1812                                       ref->hpel[plane][3], ref->hpel[plane][0],
1813                                       ref->avframe->linesize[plane], width, height);
1814         s->mpvencdsp.draw_edges(ref->hpel[plane][1], ref->avframe->linesize[plane], width, height, edge, edge, EDGE_TOP | EDGE_BOTTOM);
1815         s->mpvencdsp.draw_edges(ref->hpel[plane][2], ref->avframe->linesize[plane], width, height, edge, edge, EDGE_TOP | EDGE_BOTTOM);
1816         s->mpvencdsp.draw_edges(ref->hpel[plane][3], ref->avframe->linesize[plane], width, height, edge, edge, EDGE_TOP | EDGE_BOTTOM);
1817     }
1818     ref->interpolated[plane] = 1;
1819
1820     return 0;
1821 }
1822
1823 /**
1824  * Dirac Specification ->
1825  * 13.0 Transform data syntax. transform_data()
1826  */
1827 static int dirac_decode_frame_internal(DiracContext *s)
1828 {
1829     DWTContext d;
1830     int y, i, comp, dsty;
1831     int ret;
1832
1833     if (s->low_delay) {
1834         /* [DIRAC_STD] 13.5.1 low_delay_transform_data() */
1835         if (!s->hq_picture) {
1836             for (comp = 0; comp < 3; comp++) {
1837                 Plane *p = &s->plane[comp];
1838                 memset(p->idwt.buf, 0, p->idwt.stride * p->idwt.height);
1839             }
1840         }
1841         if (!s->zero_res) {
1842             if ((ret = decode_lowdelay(s)) < 0)
1843                 return ret;
1844         }
1845     }
1846
1847     for (comp = 0; comp < 3; comp++) {
1848         Plane *p       = &s->plane[comp];
1849         uint8_t *frame = s->current_picture->avframe->data[comp];
1850
1851         /* FIXME: small resolutions */
1852         for (i = 0; i < 4; i++)
1853             s->edge_emu_buffer[i] = s->edge_emu_buffer_base + i*FFALIGN(p->width, 16);
1854
1855         if (!s->zero_res && !s->low_delay)
1856         {
1857             memset(p->idwt.buf, 0, p->idwt.stride * p->idwt.height);
1858             decode_component(s, comp); /* [DIRAC_STD] 13.4.1 core_transform_data() */
1859         }
1860         ret = ff_spatial_idwt_init(&d, &p->idwt, s->wavelet_idx+2,
1861                                    s->wavelet_depth, s->bit_depth);
1862         if (ret < 0)
1863             return ret;
1864
1865         if (!s->num_refs) { /* intra */
1866             for (y = 0; y < p->height; y += 16) {
1867                 int idx = (s->bit_depth - 8) >> 1;
1868                 ff_spatial_idwt_slice2(&d, y+16); /* decode */
1869                 s->diracdsp.put_signed_rect_clamped[idx](frame + y*p->stride,
1870                                                          p->stride,
1871                                                          p->idwt.buf + y*p->idwt.stride,
1872                                                          p->idwt.stride, p->width, 16);
1873             }
1874         } else { /* inter */
1875             int rowheight = p->ybsep*p->stride;
1876
1877             select_dsp_funcs(s, p->width, p->height, p->xblen, p->yblen);
1878
1879             for (i = 0; i < s->num_refs; i++) {
1880                 int ret = interpolate_refplane(s, s->ref_pics[i], comp, p->width, p->height);
1881                 if (ret < 0)
1882                     return ret;
1883             }
1884
1885             memset(s->mctmp, 0, 4*p->yoffset*p->stride);
1886
1887             dsty = -p->yoffset;
1888             for (y = 0; y < s->blheight; y++) {
1889                 int h     = 0,
1890                     start = FFMAX(dsty, 0);
1891                 uint16_t *mctmp    = s->mctmp + y*rowheight;
1892                 DiracBlock *blocks = s->blmotion + y*s->blwidth;
1893
1894                 init_obmc_weights(s, p, y);
1895
1896                 if (y == s->blheight-1 || start+p->ybsep > p->height)
1897                     h = p->height - start;
1898                 else
1899                     h = p->ybsep - (start - dsty);
1900                 if (h < 0)
1901                     break;
1902
1903                 memset(mctmp+2*p->yoffset*p->stride, 0, 2*rowheight);
1904                 mc_row(s, blocks, mctmp, comp, dsty);
1905
1906                 mctmp += (start - dsty)*p->stride + p->xoffset;
1907                 ff_spatial_idwt_slice2(&d, start + h); /* decode */
1908                 /* NOTE: add_rect_clamped hasn't been templated hence the shifts.
1909                  * idwt.stride is passed as pixels, not in bytes as in the rest of the decoder */
1910                 s->diracdsp.add_rect_clamped(frame + start*p->stride, mctmp, p->stride,
1911                                              (int16_t*)(p->idwt.buf) + start*(p->idwt.stride >> 1), (p->idwt.stride >> 1), p->width, h);
1912
1913                 dsty += p->ybsep;
1914             }
1915         }
1916     }
1917
1918
1919     return 0;
1920 }
1921
1922 static int get_buffer_with_edge(AVCodecContext *avctx, AVFrame *f, int flags)
1923 {
1924     int ret, i;
1925     int chroma_x_shift, chroma_y_shift;
1926     avcodec_get_chroma_sub_sample(avctx->pix_fmt, &chroma_x_shift, &chroma_y_shift);
1927
1928     f->width  = avctx->width  + 2 * EDGE_WIDTH;
1929     f->height = avctx->height + 2 * EDGE_WIDTH + 2;
1930     ret = ff_get_buffer(avctx, f, flags);
1931     if (ret < 0)
1932         return ret;
1933
1934     for (i = 0; f->data[i]; i++) {
1935         int offset = (EDGE_WIDTH >> (i && i<3 ? chroma_y_shift : 0)) *
1936                      f->linesize[i] + 32;
1937         f->data[i] += offset;
1938     }
1939     f->width  = avctx->width;
1940     f->height = avctx->height;
1941
1942     return 0;
1943 }
1944
1945 /**
1946  * Dirac Specification ->
1947  * 11.1.1 Picture Header. picture_header()
1948  */
1949 static int dirac_decode_picture_header(DiracContext *s)
1950 {
1951     unsigned retire, picnum;
1952     int i, j, ret;
1953     int64_t refdist, refnum;
1954     GetBitContext *gb = &s->gb;
1955
1956     /* [DIRAC_STD] 11.1.1 Picture Header. picture_header() PICTURE_NUM */
1957     picnum = s->current_picture->avframe->display_picture_number = get_bits_long(gb, 32);
1958
1959
1960     av_log(s->avctx,AV_LOG_DEBUG,"PICTURE_NUM: %d\n",picnum);
1961
1962     /* if this is the first keyframe after a sequence header, start our
1963        reordering from here */
1964     if (s->frame_number < 0)
1965         s->frame_number = picnum;
1966
1967     s->ref_pics[0] = s->ref_pics[1] = NULL;
1968     for (i = 0; i < s->num_refs; i++) {
1969         refnum = (picnum + dirac_get_se_golomb(gb)) & 0xFFFFFFFF;
1970         refdist = INT64_MAX;
1971
1972         /* find the closest reference to the one we want */
1973         /* Jordi: this is needed if the referenced picture hasn't yet arrived */
1974         for (j = 0; j < MAX_REFERENCE_FRAMES && refdist; j++)
1975             if (s->ref_frames[j]
1976                 && FFABS(s->ref_frames[j]->avframe->display_picture_number - refnum) < refdist) {
1977                 s->ref_pics[i] = s->ref_frames[j];
1978                 refdist = FFABS(s->ref_frames[j]->avframe->display_picture_number - refnum);
1979             }
1980
1981         if (!s->ref_pics[i] || refdist)
1982             av_log(s->avctx, AV_LOG_DEBUG, "Reference not found\n");
1983
1984         /* if there were no references at all, allocate one */
1985         if (!s->ref_pics[i])
1986             for (j = 0; j < MAX_FRAMES; j++)
1987                 if (!s->all_frames[j].avframe->data[0]) {
1988                     s->ref_pics[i] = &s->all_frames[j];
1989                     ret = get_buffer_with_edge(s->avctx, s->ref_pics[i]->avframe, AV_GET_BUFFER_FLAG_REF);
1990                     if (ret < 0)
1991                         return ret;
1992                     break;
1993                 }
1994
1995         if (!s->ref_pics[i]) {
1996             av_log(s->avctx, AV_LOG_ERROR, "Reference could not be allocated\n");
1997             return AVERROR_INVALIDDATA;
1998         }
1999
2000     }
2001
2002     /* retire the reference frames that are not used anymore */
2003     if (s->current_picture->reference) {
2004         retire = (picnum + dirac_get_se_golomb(gb)) & 0xFFFFFFFF;
2005         if (retire != picnum) {
2006             DiracFrame *retire_pic = remove_frame(s->ref_frames, retire);
2007
2008             if (retire_pic)
2009                 retire_pic->reference &= DELAYED_PIC_REF;
2010             else
2011                 av_log(s->avctx, AV_LOG_DEBUG, "Frame to retire not found\n");
2012         }
2013
2014         /* if reference array is full, remove the oldest as per the spec */
2015         while (add_frame(s->ref_frames, MAX_REFERENCE_FRAMES, s->current_picture)) {
2016             av_log(s->avctx, AV_LOG_ERROR, "Reference frame overflow\n");
2017             remove_frame(s->ref_frames, s->ref_frames[0]->avframe->display_picture_number)->reference &= DELAYED_PIC_REF;
2018         }
2019     }
2020
2021     if (s->num_refs) {
2022         ret = dirac_unpack_prediction_parameters(s);  /* [DIRAC_STD] 11.2 Picture Prediction Data. picture_prediction() */
2023         if (ret < 0)
2024             return ret;
2025         ret = dirac_unpack_block_motion_data(s);      /* [DIRAC_STD] 12. Block motion data syntax                       */
2026         if (ret < 0)
2027             return ret;
2028     }
2029     ret = dirac_unpack_idwt_params(s);                /* [DIRAC_STD] 11.3 Wavelet transform data                        */
2030     if (ret < 0)
2031         return ret;
2032
2033     init_planes(s);
2034     return 0;
2035 }
2036
2037 static int get_delayed_pic(DiracContext *s, AVFrame *picture, int *got_frame)
2038 {
2039     DiracFrame *out = s->delay_frames[0];
2040     int i, out_idx  = 0;
2041     int ret;
2042
2043     /* find frame with lowest picture number */
2044     for (i = 1; s->delay_frames[i]; i++)
2045         if (s->delay_frames[i]->avframe->display_picture_number < out->avframe->display_picture_number) {
2046             out     = s->delay_frames[i];
2047             out_idx = i;
2048         }
2049
2050     for (i = out_idx; s->delay_frames[i]; i++)
2051         s->delay_frames[i] = s->delay_frames[i+1];
2052
2053     if (out) {
2054         out->reference ^= DELAYED_PIC_REF;
2055         if((ret = av_frame_ref(picture, out->avframe)) < 0)
2056             return ret;
2057         *got_frame = 1;
2058     }
2059
2060     return 0;
2061 }
2062
2063 /**
2064  * Dirac Specification ->
2065  * 9.6 Parse Info Header Syntax. parse_info()
2066  * 4 byte start code + byte parse code + 4 byte size + 4 byte previous size
2067  */
2068 #define DATA_UNIT_HEADER_SIZE 13
2069
2070 /* [DIRAC_STD] dirac_decode_data_unit makes reference to the while defined in 9.3
2071    inside the function parse_sequence() */
2072 static int dirac_decode_data_unit(AVCodecContext *avctx, const uint8_t *buf, int size)
2073 {
2074     DiracContext *s   = avctx->priv_data;
2075     DiracFrame *pic   = NULL;
2076     AVDiracSeqHeader *dsh;
2077     int ret, i;
2078     uint8_t parse_code;
2079     unsigned tmp;
2080
2081     if (size < DATA_UNIT_HEADER_SIZE)
2082         return AVERROR_INVALIDDATA;
2083
2084     parse_code = buf[4];
2085
2086     init_get_bits(&s->gb, &buf[13], 8*(size - DATA_UNIT_HEADER_SIZE));
2087
2088     if (parse_code == DIRAC_PCODE_SEQ_HEADER) {
2089         if (s->seen_sequence_header)
2090             return 0;
2091
2092         /* [DIRAC_STD] 10. Sequence header */
2093         ret = av_dirac_parse_sequence_header(&dsh, buf + DATA_UNIT_HEADER_SIZE, size - DATA_UNIT_HEADER_SIZE, avctx);
2094         if (ret < 0) {
2095             av_log(avctx, AV_LOG_ERROR, "error parsing sequence header");
2096             return ret;
2097         }
2098
2099         if (CALC_PADDING((int64_t)dsh->width, MAX_DWT_LEVELS) * CALC_PADDING((int64_t)dsh->height, MAX_DWT_LEVELS) > avctx->max_pixels)
2100             ret = AVERROR(ERANGE);
2101         if (ret >= 0)
2102             ret = ff_set_dimensions(avctx, dsh->width, dsh->height);
2103         if (ret < 0) {
2104             av_freep(&dsh);
2105             return ret;
2106         }
2107
2108         ff_set_sar(avctx, dsh->sample_aspect_ratio);
2109         avctx->pix_fmt         = dsh->pix_fmt;
2110         avctx->color_range     = dsh->color_range;
2111         avctx->color_trc       = dsh->color_trc;
2112         avctx->color_primaries = dsh->color_primaries;
2113         avctx->colorspace      = dsh->colorspace;
2114         avctx->profile         = dsh->profile;
2115         avctx->level           = dsh->level;
2116         avctx->framerate       = dsh->framerate;
2117         s->bit_depth           = dsh->bit_depth;
2118         s->version.major       = dsh->version.major;
2119         s->version.minor       = dsh->version.minor;
2120         s->seq                 = *dsh;
2121         av_freep(&dsh);
2122
2123         s->pshift = s->bit_depth > 8;
2124
2125         avcodec_get_chroma_sub_sample(avctx->pix_fmt, &s->chroma_x_shift, &s->chroma_y_shift);
2126
2127         ret = alloc_sequence_buffers(s);
2128         if (ret < 0)
2129             return ret;
2130
2131         s->seen_sequence_header = 1;
2132     } else if (parse_code == DIRAC_PCODE_END_SEQ) { /* [DIRAC_STD] End of Sequence */
2133         free_sequence_buffers(s);
2134         s->seen_sequence_header = 0;
2135     } else if (parse_code == DIRAC_PCODE_AUX) {
2136         if (buf[13] == 1) {     /* encoder implementation/version */
2137             int ver[3];
2138             /* versions older than 1.0.8 don't store quant delta for
2139                subbands with only one codeblock */
2140             if (sscanf(buf+14, "Schroedinger %d.%d.%d", ver, ver+1, ver+2) == 3)
2141                 if (ver[0] == 1 && ver[1] == 0 && ver[2] <= 7)
2142                     s->old_delta_quant = 1;
2143         }
2144     } else if (parse_code & 0x8) {  /* picture data unit */
2145         if (!s->seen_sequence_header) {
2146             av_log(avctx, AV_LOG_DEBUG, "Dropping frame without sequence header\n");
2147             return AVERROR_INVALIDDATA;
2148         }
2149
2150         /* find an unused frame */
2151         for (i = 0; i < MAX_FRAMES; i++)
2152             if (s->all_frames[i].avframe->data[0] == NULL)
2153                 pic = &s->all_frames[i];
2154         if (!pic) {
2155             av_log(avctx, AV_LOG_ERROR, "framelist full\n");
2156             return AVERROR_INVALIDDATA;
2157         }
2158
2159         av_frame_unref(pic->avframe);
2160
2161         /* [DIRAC_STD] Defined in 9.6.1 ... */
2162         tmp            =  parse_code & 0x03;                   /* [DIRAC_STD] num_refs()      */
2163         if (tmp > 2) {
2164             av_log(avctx, AV_LOG_ERROR, "num_refs of 3\n");
2165             return AVERROR_INVALIDDATA;
2166         }
2167         s->num_refs      = tmp;
2168         s->is_arith      = (parse_code & 0x48) == 0x08;          /* [DIRAC_STD] using_ac()            */
2169         s->low_delay     = (parse_code & 0x88) == 0x88;          /* [DIRAC_STD] is_low_delay()        */
2170         s->core_syntax   = (parse_code & 0x88) == 0x08;          /* [DIRAC_STD] is_core_syntax()      */
2171         s->ld_picture    = (parse_code & 0xF8) == 0xC8;          /* [DIRAC_STD] is_ld_picture()       */
2172         s->hq_picture    = (parse_code & 0xF8) == 0xE8;          /* [DIRAC_STD] is_hq_picture()       */
2173         s->dc_prediction = (parse_code & 0x28) == 0x08;          /* [DIRAC_STD] using_dc_prediction() */
2174         pic->reference   = (parse_code & 0x0C) == 0x0C;          /* [DIRAC_STD] is_reference()        */
2175         pic->avframe->key_frame = s->num_refs == 0;              /* [DIRAC_STD] is_intra()            */
2176         pic->avframe->pict_type = s->num_refs + 1;               /* Definition of AVPictureType in avutil.h */
2177
2178         /* VC-2 Low Delay has a different parse code than the Dirac Low Delay */
2179         if (s->version.minor == 2 && parse_code == 0x88)
2180             s->ld_picture = 1;
2181
2182         if (s->low_delay && !(s->ld_picture || s->hq_picture) ) {
2183             av_log(avctx, AV_LOG_ERROR, "Invalid low delay flag\n");
2184             return AVERROR_INVALIDDATA;
2185         }
2186
2187         if ((ret = get_buffer_with_edge(avctx, pic->avframe, (parse_code & 0x0C) == 0x0C ? AV_GET_BUFFER_FLAG_REF : 0)) < 0)
2188             return ret;
2189         s->current_picture = pic;
2190         s->plane[0].stride = pic->avframe->linesize[0];
2191         s->plane[1].stride = pic->avframe->linesize[1];
2192         s->plane[2].stride = pic->avframe->linesize[2];
2193
2194         if (alloc_buffers(s, FFMAX3(FFABS(s->plane[0].stride), FFABS(s->plane[1].stride), FFABS(s->plane[2].stride))) < 0)
2195             return AVERROR(ENOMEM);
2196
2197         /* [DIRAC_STD] 11.1 Picture parse. picture_parse() */
2198         ret = dirac_decode_picture_header(s);
2199         if (ret < 0)
2200             return ret;
2201
2202         /* [DIRAC_STD] 13.0 Transform data syntax. transform_data() */
2203         ret = dirac_decode_frame_internal(s);
2204         if (ret < 0)
2205             return ret;
2206     }
2207     return 0;
2208 }
2209
2210 static int dirac_decode_frame(AVCodecContext *avctx, void *data, int *got_frame, AVPacket *pkt)
2211 {
2212     DiracContext *s     = avctx->priv_data;
2213     AVFrame *picture    = data;
2214     uint8_t *buf        = pkt->data;
2215     int buf_size        = pkt->size;
2216     int i, buf_idx      = 0;
2217     int ret;
2218     unsigned data_unit_size;
2219
2220     /* release unused frames */
2221     for (i = 0; i < MAX_FRAMES; i++)
2222         if (s->all_frames[i].avframe->data[0] && !s->all_frames[i].reference) {
2223             av_frame_unref(s->all_frames[i].avframe);
2224             memset(s->all_frames[i].interpolated, 0, sizeof(s->all_frames[i].interpolated));
2225         }
2226
2227     s->current_picture = NULL;
2228     *got_frame = 0;
2229
2230     /* end of stream, so flush delayed pics */
2231     if (buf_size == 0)
2232         return get_delayed_pic(s, (AVFrame *)data, got_frame);
2233
2234     for (;;) {
2235         /*[DIRAC_STD] Here starts the code from parse_info() defined in 9.6
2236           [DIRAC_STD] PARSE_INFO_PREFIX = "BBCD" as defined in ISO/IEC 646
2237           BBCD start code search */
2238         for (; buf_idx + DATA_UNIT_HEADER_SIZE < buf_size; buf_idx++) {
2239             if (buf[buf_idx  ] == 'B' && buf[buf_idx+1] == 'B' &&
2240                 buf[buf_idx+2] == 'C' && buf[buf_idx+3] == 'D')
2241                 break;
2242         }
2243         /* BBCD found or end of data */
2244         if (buf_idx + DATA_UNIT_HEADER_SIZE >= buf_size)
2245             break;
2246
2247         data_unit_size = AV_RB32(buf+buf_idx+5);
2248         if (data_unit_size > buf_size - buf_idx || !data_unit_size) {
2249             if(data_unit_size > buf_size - buf_idx)
2250             av_log(s->avctx, AV_LOG_ERROR,
2251                    "Data unit with size %d is larger than input buffer, discarding\n",
2252                    data_unit_size);
2253             buf_idx += 4;
2254             continue;
2255         }
2256         /* [DIRAC_STD] dirac_decode_data_unit makes reference to the while defined in 9.3 inside the function parse_sequence() */
2257         ret = dirac_decode_data_unit(avctx, buf+buf_idx, data_unit_size);
2258         if (ret < 0)
2259         {
2260             av_log(s->avctx, AV_LOG_ERROR,"Error in dirac_decode_data_unit\n");
2261             return ret;
2262         }
2263         buf_idx += data_unit_size;
2264     }
2265
2266     if (!s->current_picture)
2267         return buf_size;
2268
2269     if (s->current_picture->avframe->display_picture_number > s->frame_number) {
2270         DiracFrame *delayed_frame = remove_frame(s->delay_frames, s->frame_number);
2271
2272         s->current_picture->reference |= DELAYED_PIC_REF;
2273
2274         if (add_frame(s->delay_frames, MAX_DELAY, s->current_picture)) {
2275             int min_num = s->delay_frames[0]->avframe->display_picture_number;
2276             /* Too many delayed frames, so we display the frame with the lowest pts */
2277             av_log(avctx, AV_LOG_ERROR, "Delay frame overflow\n");
2278
2279             for (i = 1; s->delay_frames[i]; i++)
2280                 if (s->delay_frames[i]->avframe->display_picture_number < min_num)
2281                     min_num = s->delay_frames[i]->avframe->display_picture_number;
2282
2283             delayed_frame = remove_frame(s->delay_frames, min_num);
2284             add_frame(s->delay_frames, MAX_DELAY, s->current_picture);
2285         }
2286
2287         if (delayed_frame) {
2288             delayed_frame->reference ^= DELAYED_PIC_REF;
2289             if((ret=av_frame_ref(data, delayed_frame->avframe)) < 0)
2290                 return ret;
2291             *got_frame = 1;
2292         }
2293     } else if (s->current_picture->avframe->display_picture_number == s->frame_number) {
2294         /* The right frame at the right time :-) */
2295         if((ret=av_frame_ref(data, s->current_picture->avframe)) < 0)
2296             return ret;
2297         *got_frame = 1;
2298     }
2299
2300     if (*got_frame)
2301         s->frame_number = picture->display_picture_number + 1;
2302
2303     return buf_idx;
2304 }
2305
2306 AVCodec ff_dirac_decoder = {
2307     .name           = "dirac",
2308     .long_name      = NULL_IF_CONFIG_SMALL("BBC Dirac VC-2"),
2309     .type           = AVMEDIA_TYPE_VIDEO,
2310     .id             = AV_CODEC_ID_DIRAC,
2311     .priv_data_size = sizeof(DiracContext),
2312     .init           = dirac_decode_init,
2313     .close          = dirac_decode_end,
2314     .decode         = dirac_decode_frame,
2315     .capabilities   = AV_CODEC_CAP_DELAY | AV_CODEC_CAP_SLICE_THREADS | AV_CODEC_CAP_DR1,
2316     .caps_internal  = FF_CODEC_CAP_INIT_THREADSAFE,
2317     .flush          = dirac_decode_flush,
2318 };