Merge remote-tracking branch 'qatar/master'
[ffmpeg.git] / libavcodec / bink.c
1 /*
2  * Bink video decoder
3  * Copyright (c) 2009 Konstantin Shishkov
4  * Copyright (C) 2011 Peter Ross <pross@xvid.org>
5  *
6  * This file is part of FFmpeg.
7  *
8  * FFmpeg is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * FFmpeg is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with FFmpeg; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 #include "libavutil/imgutils.h"
24 #include "avcodec.h"
25 #include "dsputil.h"
26 #include "binkdata.h"
27 #include "binkdsp.h"
28 #include "mathops.h"
29
30 #define ALT_BITSTREAM_READER_LE
31 #include "get_bits.h"
32
33 #define BINK_FLAG_ALPHA 0x00100000
34 #define BINK_FLAG_GRAY  0x00020000
35
36 static VLC bink_trees[16];
37
38 /**
39  * IDs for different data types used in old version of Bink video codec
40  */
41 enum OldSources {
42     BINKB_SRC_BLOCK_TYPES = 0, ///< 8x8 block types
43     BINKB_SRC_COLORS,          ///< pixel values used for different block types
44     BINKB_SRC_PATTERN,         ///< 8-bit values for 2-colour pattern fill
45     BINKB_SRC_X_OFF,           ///< X components of motion value
46     BINKB_SRC_Y_OFF,           ///< Y components of motion value
47     BINKB_SRC_INTRA_DC,        ///< DC values for intrablocks with DCT
48     BINKB_SRC_INTER_DC,        ///< DC values for interblocks with DCT
49     BINKB_SRC_INTRA_Q,         ///< quantizer values for intrablocks with DCT
50     BINKB_SRC_INTER_Q,         ///< quantizer values for interblocks with DCT
51     BINKB_SRC_INTER_COEFS,     ///< number of coefficients for residue blocks
52
53     BINKB_NB_SRC
54 };
55
56 static const int binkb_bundle_sizes[BINKB_NB_SRC] = {
57     4, 8, 8, 5, 5, 11, 11, 4, 4, 7
58 };
59
60 static const int binkb_bundle_signed[BINKB_NB_SRC] = {
61     0, 0, 0, 1, 1, 0, 1, 0, 0, 0
62 };
63
64 static int32_t binkb_intra_quant[16][64];
65 static int32_t binkb_inter_quant[16][64];
66
67 /**
68  * IDs for different data types used in Bink video codec
69  */
70 enum Sources {
71     BINK_SRC_BLOCK_TYPES = 0, ///< 8x8 block types
72     BINK_SRC_SUB_BLOCK_TYPES, ///< 16x16 block types (a subset of 8x8 block types)
73     BINK_SRC_COLORS,          ///< pixel values used for different block types
74     BINK_SRC_PATTERN,         ///< 8-bit values for 2-colour pattern fill
75     BINK_SRC_X_OFF,           ///< X components of motion value
76     BINK_SRC_Y_OFF,           ///< Y components of motion value
77     BINK_SRC_INTRA_DC,        ///< DC values for intrablocks with DCT
78     BINK_SRC_INTER_DC,        ///< DC values for interblocks with DCT
79     BINK_SRC_RUN,             ///< run lengths for special fill block
80
81     BINK_NB_SRC
82 };
83
84 /**
85  * data needed to decode 4-bit Huffman-coded value
86  */
87 typedef struct Tree {
88     int     vlc_num;  ///< tree number (in bink_trees[])
89     uint8_t syms[16]; ///< leaf value to symbol mapping
90 } Tree;
91
92 #define GET_HUFF(gb, tree)  (tree).syms[get_vlc2(gb, bink_trees[(tree).vlc_num].table,\
93                                                  bink_trees[(tree).vlc_num].bits, 1)]
94
95 /**
96  * data structure used for decoding single Bink data type
97  */
98 typedef struct Bundle {
99     int     len;       ///< length of number of entries to decode (in bits)
100     Tree    tree;      ///< Huffman tree-related data
101     uint8_t *data;     ///< buffer for decoded symbols
102     uint8_t *data_end; ///< buffer end
103     uint8_t *cur_dec;  ///< pointer to the not yet decoded part of the buffer
104     uint8_t *cur_ptr;  ///< pointer to the data that is not read from buffer yet
105 } Bundle;
106
107 /*
108  * Decoder context
109  */
110 typedef struct BinkContext {
111     AVCodecContext *avctx;
112     DSPContext     dsp;
113     BinkDSPContext bdsp;
114     AVFrame        pic, last;
115     int            version;              ///< internal Bink file version
116     int            has_alpha;
117     int            swap_planes;
118
119     Bundle         bundle[BINKB_NB_SRC]; ///< bundles for decoding all data types
120     Tree           col_high[16];         ///< trees for decoding high nibble in "colours" data type
121     int            col_lastval;          ///< value of last decoded high nibble in "colours" data type
122 } BinkContext;
123
124 /**
125  * Bink video block types
126  */
127 enum BlockTypes {
128     SKIP_BLOCK = 0, ///< skipped block
129     SCALED_BLOCK,   ///< block has size 16x16
130     MOTION_BLOCK,   ///< block is copied from previous frame with some offset
131     RUN_BLOCK,      ///< block is composed from runs of colours with custom scan order
132     RESIDUE_BLOCK,  ///< motion block with some difference added
133     INTRA_BLOCK,    ///< intra DCT block
134     FILL_BLOCK,     ///< block is filled with single colour
135     INTER_BLOCK,    ///< motion block with DCT applied to the difference
136     PATTERN_BLOCK,  ///< block is filled with two colours following custom pattern
137     RAW_BLOCK,      ///< uncoded 8x8 block
138 };
139
140 /**
141  * Initialize length length in all bundles.
142  *
143  * @param c     decoder context
144  * @param width plane width
145  * @param bw    plane width in 8x8 blocks
146  */
147 static void init_lengths(BinkContext *c, int width, int bw)
148 {
149     c->bundle[BINK_SRC_BLOCK_TYPES].len = av_log2((width >> 3) + 511) + 1;
150
151     c->bundle[BINK_SRC_SUB_BLOCK_TYPES].len = av_log2((width >> 4) + 511) + 1;
152
153     c->bundle[BINK_SRC_COLORS].len = av_log2(bw*64 + 511) + 1;
154
155     c->bundle[BINK_SRC_INTRA_DC].len =
156     c->bundle[BINK_SRC_INTER_DC].len =
157     c->bundle[BINK_SRC_X_OFF].len =
158     c->bundle[BINK_SRC_Y_OFF].len = av_log2((width >> 3) + 511) + 1;
159
160     c->bundle[BINK_SRC_PATTERN].len = av_log2((bw << 3) + 511) + 1;
161
162     c->bundle[BINK_SRC_RUN].len = av_log2(bw*48 + 511) + 1;
163 }
164
165 /**
166  * Allocate memory for bundles.
167  *
168  * @param c decoder context
169  */
170 static av_cold void init_bundles(BinkContext *c)
171 {
172     int bw, bh, blocks;
173     int i;
174
175     bw = (c->avctx->width  + 7) >> 3;
176     bh = (c->avctx->height + 7) >> 3;
177     blocks = bw * bh;
178
179     for (i = 0; i < BINKB_NB_SRC; i++) {
180         c->bundle[i].data = av_malloc(blocks * 64);
181         c->bundle[i].data_end = c->bundle[i].data + blocks * 64;
182     }
183 }
184
185 /**
186  * Free memory used by bundles.
187  *
188  * @param c decoder context
189  */
190 static av_cold void free_bundles(BinkContext *c)
191 {
192     int i;
193     for (i = 0; i < BINKB_NB_SRC; i++)
194         av_freep(&c->bundle[i].data);
195 }
196
197 /**
198  * Merge two consequent lists of equal size depending on bits read.
199  *
200  * @param gb   context for reading bits
201  * @param dst  buffer where merged list will be written to
202  * @param src  pointer to the head of the first list (the second lists starts at src+size)
203  * @param size input lists size
204  */
205 static void merge(GetBitContext *gb, uint8_t *dst, uint8_t *src, int size)
206 {
207     uint8_t *src2 = src + size;
208     int size2 = size;
209
210     do {
211         if (!get_bits1(gb)) {
212             *dst++ = *src++;
213             size--;
214         } else {
215             *dst++ = *src2++;
216             size2--;
217         }
218     } while (size && size2);
219
220     while (size--)
221         *dst++ = *src++;
222     while (size2--)
223         *dst++ = *src2++;
224 }
225
226 /**
227  * Read information about Huffman tree used to decode data.
228  *
229  * @param gb   context for reading bits
230  * @param tree pointer for storing tree data
231  */
232 static void read_tree(GetBitContext *gb, Tree *tree)
233 {
234     uint8_t tmp1[16], tmp2[16], *in = tmp1, *out = tmp2;
235     int i, t, len;
236
237     tree->vlc_num = get_bits(gb, 4);
238     if (!tree->vlc_num) {
239         for (i = 0; i < 16; i++)
240             tree->syms[i] = i;
241         return;
242     }
243     if (get_bits1(gb)) {
244         len = get_bits(gb, 3);
245         memset(tmp1, 0, sizeof(tmp1));
246         for (i = 0; i <= len; i++) {
247             tree->syms[i] = get_bits(gb, 4);
248             tmp1[tree->syms[i]] = 1;
249         }
250         for (i = 0; i < 16; i++)
251             if (!tmp1[i])
252                 tree->syms[++len] = i;
253     } else {
254         len = get_bits(gb, 2);
255         for (i = 0; i < 16; i++)
256             in[i] = i;
257         for (i = 0; i <= len; i++) {
258             int size = 1 << i;
259             for (t = 0; t < 16; t += size << 1)
260                 merge(gb, out + t, in + t, size);
261             FFSWAP(uint8_t*, in, out);
262         }
263         memcpy(tree->syms, in, 16);
264     }
265 }
266
267 /**
268  * Prepare bundle for decoding data.
269  *
270  * @param gb          context for reading bits
271  * @param c           decoder context
272  * @param bundle_num  number of the bundle to initialize
273  */
274 static void read_bundle(GetBitContext *gb, BinkContext *c, int bundle_num)
275 {
276     int i;
277
278     if (bundle_num == BINK_SRC_COLORS) {
279         for (i = 0; i < 16; i++)
280             read_tree(gb, &c->col_high[i]);
281         c->col_lastval = 0;
282     }
283     if (bundle_num != BINK_SRC_INTRA_DC && bundle_num != BINK_SRC_INTER_DC)
284         read_tree(gb, &c->bundle[bundle_num].tree);
285     c->bundle[bundle_num].cur_dec =
286     c->bundle[bundle_num].cur_ptr = c->bundle[bundle_num].data;
287 }
288
289 /**
290  * common check before starting decoding bundle data
291  *
292  * @param gb context for reading bits
293  * @param b  bundle
294  * @param t  variable where number of elements to decode will be stored
295  */
296 #define CHECK_READ_VAL(gb, b, t) \
297     if (!b->cur_dec || (b->cur_dec > b->cur_ptr)) \
298         return 0; \
299     t = get_bits(gb, b->len); \
300     if (!t) { \
301         b->cur_dec = NULL; \
302         return 0; \
303     } \
304
305 static int read_runs(AVCodecContext *avctx, GetBitContext *gb, Bundle *b)
306 {
307     int t, v;
308     const uint8_t *dec_end;
309
310     CHECK_READ_VAL(gb, b, t);
311     dec_end = b->cur_dec + t;
312     if (dec_end > b->data_end) {
313         av_log(avctx, AV_LOG_ERROR, "Run value went out of bounds\n");
314         return -1;
315     }
316     if (get_bits1(gb)) {
317         v = get_bits(gb, 4);
318         memset(b->cur_dec, v, t);
319         b->cur_dec += t;
320     } else {
321         while (b->cur_dec < dec_end)
322             *b->cur_dec++ = GET_HUFF(gb, b->tree);
323     }
324     return 0;
325 }
326
327 static int read_motion_values(AVCodecContext *avctx, GetBitContext *gb, Bundle *b)
328 {
329     int t, sign, v;
330     const uint8_t *dec_end;
331
332     CHECK_READ_VAL(gb, b, t);
333     dec_end = b->cur_dec + t;
334     if (dec_end > b->data_end) {
335         av_log(avctx, AV_LOG_ERROR, "Too many motion values\n");
336         return -1;
337     }
338     if (get_bits1(gb)) {
339         v = get_bits(gb, 4);
340         if (v) {
341             sign = -get_bits1(gb);
342             v = (v ^ sign) - sign;
343         }
344         memset(b->cur_dec, v, t);
345         b->cur_dec += t;
346     } else {
347         do {
348             v = GET_HUFF(gb, b->tree);
349             if (v) {
350                 sign = -get_bits1(gb);
351                 v = (v ^ sign) - sign;
352             }
353             *b->cur_dec++ = v;
354         } while (b->cur_dec < dec_end);
355     }
356     return 0;
357 }
358
359 static const uint8_t bink_rlelens[4] = { 4, 8, 12, 32 };
360
361 static int read_block_types(AVCodecContext *avctx, GetBitContext *gb, Bundle *b)
362 {
363     int t, v;
364     int last = 0;
365     const uint8_t *dec_end;
366
367     CHECK_READ_VAL(gb, b, t);
368     dec_end = b->cur_dec + t;
369     if (dec_end > b->data_end) {
370         av_log(avctx, AV_LOG_ERROR, "Too many block type values\n");
371         return -1;
372     }
373     if (get_bits1(gb)) {
374         v = get_bits(gb, 4);
375         memset(b->cur_dec, v, t);
376         b->cur_dec += t;
377     } else {
378         do {
379             v = GET_HUFF(gb, b->tree);
380             if (v < 12) {
381                 last = v;
382                 *b->cur_dec++ = v;
383             } else {
384                 int run = bink_rlelens[v - 12];
385
386                 memset(b->cur_dec, last, run);
387                 b->cur_dec += run;
388             }
389         } while (b->cur_dec < dec_end);
390     }
391     return 0;
392 }
393
394 static int read_patterns(AVCodecContext *avctx, GetBitContext *gb, Bundle *b)
395 {
396     int t, v;
397     const uint8_t *dec_end;
398
399     CHECK_READ_VAL(gb, b, t);
400     dec_end = b->cur_dec + t;
401     if (dec_end > b->data_end) {
402         av_log(avctx, AV_LOG_ERROR, "Too many pattern values\n");
403         return -1;
404     }
405     while (b->cur_dec < dec_end) {
406         v  = GET_HUFF(gb, b->tree);
407         v |= GET_HUFF(gb, b->tree) << 4;
408         *b->cur_dec++ = v;
409     }
410
411     return 0;
412 }
413
414 static int read_colors(GetBitContext *gb, Bundle *b, BinkContext *c)
415 {
416     int t, sign, v;
417     const uint8_t *dec_end;
418
419     CHECK_READ_VAL(gb, b, t);
420     dec_end = b->cur_dec + t;
421     if (dec_end > b->data_end) {
422         av_log(c->avctx, AV_LOG_ERROR, "Too many color values\n");
423         return -1;
424     }
425     if (get_bits1(gb)) {
426         c->col_lastval = GET_HUFF(gb, c->col_high[c->col_lastval]);
427         v = GET_HUFF(gb, b->tree);
428         v = (c->col_lastval << 4) | v;
429         if (c->version < 'i') {
430             sign = ((int8_t) v) >> 7;
431             v = ((v & 0x7F) ^ sign) - sign;
432             v += 0x80;
433         }
434         memset(b->cur_dec, v, t);
435         b->cur_dec += t;
436     } else {
437         while (b->cur_dec < dec_end) {
438             c->col_lastval = GET_HUFF(gb, c->col_high[c->col_lastval]);
439             v = GET_HUFF(gb, b->tree);
440             v = (c->col_lastval << 4) | v;
441             if (c->version < 'i') {
442                 sign = ((int8_t) v) >> 7;
443                 v = ((v & 0x7F) ^ sign) - sign;
444                 v += 0x80;
445             }
446             *b->cur_dec++ = v;
447         }
448     }
449     return 0;
450 }
451
452 /** number of bits used to store first DC value in bundle */
453 #define DC_START_BITS 11
454
455 static int read_dcs(AVCodecContext *avctx, GetBitContext *gb, Bundle *b,
456                     int start_bits, int has_sign)
457 {
458     int i, j, len, len2, bsize, sign, v, v2;
459     int16_t *dst = (int16_t*)b->cur_dec;
460
461     CHECK_READ_VAL(gb, b, len);
462     v = get_bits(gb, start_bits - has_sign);
463     if (v && has_sign) {
464         sign = -get_bits1(gb);
465         v = (v ^ sign) - sign;
466     }
467     *dst++ = v;
468     len--;
469     for (i = 0; i < len; i += 8) {
470         len2 = FFMIN(len - i, 8);
471         bsize = get_bits(gb, 4);
472         if (bsize) {
473             for (j = 0; j < len2; j++) {
474                 v2 = get_bits(gb, bsize);
475                 if (v2) {
476                     sign = -get_bits1(gb);
477                     v2 = (v2 ^ sign) - sign;
478                 }
479                 v += v2;
480                 *dst++ = v;
481                 if (v < -32768 || v > 32767) {
482                     av_log(avctx, AV_LOG_ERROR, "DC value went out of bounds: %d\n", v);
483                     return -1;
484                 }
485             }
486         } else {
487             for (j = 0; j < len2; j++)
488                 *dst++ = v;
489         }
490     }
491
492     b->cur_dec = (uint8_t*)dst;
493     return 0;
494 }
495
496 /**
497  * Retrieve next value from bundle.
498  *
499  * @param c      decoder context
500  * @param bundle bundle number
501  */
502 static inline int get_value(BinkContext *c, int bundle)
503 {
504     int ret;
505
506     if (bundle < BINK_SRC_X_OFF || bundle == BINK_SRC_RUN)
507         return *c->bundle[bundle].cur_ptr++;
508     if (bundle == BINK_SRC_X_OFF || bundle == BINK_SRC_Y_OFF)
509         return (int8_t)*c->bundle[bundle].cur_ptr++;
510     ret = *(int16_t*)c->bundle[bundle].cur_ptr;
511     c->bundle[bundle].cur_ptr += 2;
512     return ret;
513 }
514
515 static void binkb_init_bundle(BinkContext *c, int bundle_num)
516 {
517     c->bundle[bundle_num].cur_dec =
518     c->bundle[bundle_num].cur_ptr = c->bundle[bundle_num].data;
519     c->bundle[bundle_num].len = 13;
520 }
521
522 static void binkb_init_bundles(BinkContext *c)
523 {
524     int i;
525     for (i = 0; i < BINKB_NB_SRC; i++)
526         binkb_init_bundle(c, i);
527 }
528
529 static int binkb_read_bundle(BinkContext *c, GetBitContext *gb, int bundle_num)
530 {
531     const int bits = binkb_bundle_sizes[bundle_num];
532     const int mask = 1 << (bits - 1);
533     const int issigned = binkb_bundle_signed[bundle_num];
534     Bundle *b = &c->bundle[bundle_num];
535     int i, len;
536
537     CHECK_READ_VAL(gb, b, len);
538     if (bits <= 8) {
539         if (!issigned) {
540             for (i = 0; i < len; i++)
541                 *b->cur_dec++ = get_bits(gb, bits);
542         } else {
543             for (i = 0; i < len; i++)
544                 *b->cur_dec++ = get_bits(gb, bits) - mask;
545         }
546     } else {
547         int16_t *dst = (int16_t*)b->cur_dec;
548
549         if (!issigned) {
550             for (i = 0; i < len; i++)
551                 *dst++ = get_bits(gb, bits);
552         } else {
553             for (i = 0; i < len; i++)
554                 *dst++ = get_bits(gb, bits) - mask;
555         }
556         b->cur_dec = (uint8_t*)dst;
557     }
558     return 0;
559 }
560
561 static inline int binkb_get_value(BinkContext *c, int bundle_num)
562 {
563     int16_t ret;
564     const int bits = binkb_bundle_sizes[bundle_num];
565
566     if (bits <= 8) {
567         int val = *c->bundle[bundle_num].cur_ptr++;
568         return binkb_bundle_signed[bundle_num] ? (int8_t)val : val;
569     }
570     ret = *(int16_t*)c->bundle[bundle_num].cur_ptr;
571     c->bundle[bundle_num].cur_ptr += 2;
572     return ret;
573 }
574
575 static inline DCTELEM dequant(DCTELEM in, uint32_t quant, int dc)
576 {
577     /* Note: multiplication is unsigned but we want signed shift
578      * otherwise clipping breaks.
579      * TODO: The official decoder does not use clipping at all
580      * but instead uses the full 32-bit result.
581      * However clipping at least gets rid of the case that a
582      * half-black half-white intra block gets black and white swapped
583      * and should cause at most minor differences (except for DC). */
584     int32_t res = in * quant;
585     res >>= 11;
586     if (!dc)
587         res = av_clip_int16(res);
588     return res;
589 }
590
591 /**
592  * Read 8x8 block of DCT coefficients.
593  *
594  * @param gb       context for reading bits
595  * @param block    place for storing coefficients
596  * @param scan     scan order table
597  * @param quant_matrices quantization matrices
598  * @return 0 for success, negative value in other cases
599  */
600 static int read_dct_coeffs(GetBitContext *gb, int32_t block[64], const uint8_t *scan,
601                            const int32_t quant_matrices[16][64], int q)
602 {
603     int coef_list[128];
604     int mode_list[128];
605     int i, t, mask, bits, ccoef, mode, sign;
606     int list_start = 64, list_end = 64, list_pos;
607     int coef_count = 0;
608     int coef_idx[64];
609     int quant_idx;
610     const int32_t *quant;
611
612     coef_list[list_end] = 4;  mode_list[list_end++] = 0;
613     coef_list[list_end] = 24; mode_list[list_end++] = 0;
614     coef_list[list_end] = 44; mode_list[list_end++] = 0;
615     coef_list[list_end] = 1;  mode_list[list_end++] = 3;
616     coef_list[list_end] = 2;  mode_list[list_end++] = 3;
617     coef_list[list_end] = 3;  mode_list[list_end++] = 3;
618
619     bits = get_bits(gb, 4) - 1;
620     for (mask = 1 << bits; bits >= 0; mask >>= 1, bits--) {
621         list_pos = list_start;
622         while (list_pos < list_end) {
623             if (!(mode_list[list_pos] | coef_list[list_pos]) || !get_bits1(gb)) {
624                 list_pos++;
625                 continue;
626             }
627             ccoef = coef_list[list_pos];
628             mode  = mode_list[list_pos];
629             switch (mode) {
630             case 0:
631                 coef_list[list_pos] = ccoef + 4;
632                 mode_list[list_pos] = 1;
633             case 2:
634                 if (mode == 2) {
635                     coef_list[list_pos]   = 0;
636                     mode_list[list_pos++] = 0;
637                 }
638                 for (i = 0; i < 4; i++, ccoef++) {
639                     if (get_bits1(gb)) {
640                         coef_list[--list_start] = ccoef;
641                         mode_list[  list_start] = 3;
642                     } else {
643                         int t;
644                         if (!bits) {
645                             t = 1 - (get_bits1(gb) << 1);
646                         } else {
647                             t = get_bits(gb, bits) | mask;
648                             sign = -get_bits1(gb);
649                             t = (t ^ sign) - sign;
650                         }
651                         block[scan[ccoef]] = t;
652                         coef_idx[coef_count++] = ccoef;
653                     }
654                 }
655                 break;
656             case 1:
657                 mode_list[list_pos] = 2;
658                 for (i = 0; i < 3; i++) {
659                     ccoef += 4;
660                     coef_list[list_end]   = ccoef;
661                     mode_list[list_end++] = 2;
662                 }
663                 break;
664             case 3:
665                 if (!bits) {
666                     t = 1 - (get_bits1(gb) << 1);
667                 } else {
668                     t = get_bits(gb, bits) | mask;
669                     sign = -get_bits1(gb);
670                     t = (t ^ sign) - sign;
671                 }
672                 block[scan[ccoef]] = t;
673                 coef_idx[coef_count++] = ccoef;
674                 coef_list[list_pos]   = 0;
675                 mode_list[list_pos++] = 0;
676                 break;
677             }
678         }
679     }
680
681     if (q == -1) {
682         quant_idx = get_bits(gb, 4);
683     } else {
684         quant_idx = q;
685     }
686
687     quant = quant_matrices[quant_idx];
688
689     block[0] = dequant(block[0], quant[0], 1);
690     for (i = 0; i < coef_count; i++) {
691         int idx = coef_idx[i];
692         block[scan[idx]] = dequant(block[scan[idx]], quant[idx], 0);
693     }
694
695     return 0;
696 }
697
698 /**
699  * Read 8x8 block with residue after motion compensation.
700  *
701  * @param gb          context for reading bits
702  * @param block       place to store read data
703  * @param masks_count number of masks to decode
704  * @return 0 on success, negative value in other cases
705  */
706 static int read_residue(GetBitContext *gb, DCTELEM block[64], int masks_count)
707 {
708     int coef_list[128];
709     int mode_list[128];
710     int i, sign, mask, ccoef, mode;
711     int list_start = 64, list_end = 64, list_pos;
712     int nz_coeff[64];
713     int nz_coeff_count = 0;
714
715     coef_list[list_end] =  4; mode_list[list_end++] = 0;
716     coef_list[list_end] = 24; mode_list[list_end++] = 0;
717     coef_list[list_end] = 44; mode_list[list_end++] = 0;
718     coef_list[list_end] =  0; mode_list[list_end++] = 2;
719
720     for (mask = 1 << get_bits(gb, 3); mask; mask >>= 1) {
721         for (i = 0; i < nz_coeff_count; i++) {
722             if (!get_bits1(gb))
723                 continue;
724             if (block[nz_coeff[i]] < 0)
725                 block[nz_coeff[i]] -= mask;
726             else
727                 block[nz_coeff[i]] += mask;
728             masks_count--;
729             if (masks_count < 0)
730                 return 0;
731         }
732         list_pos = list_start;
733         while (list_pos < list_end) {
734             if (!(coef_list[list_pos] | mode_list[list_pos]) || !get_bits1(gb)) {
735                 list_pos++;
736                 continue;
737             }
738             ccoef = coef_list[list_pos];
739             mode  = mode_list[list_pos];
740             switch (mode) {
741             case 0:
742                 coef_list[list_pos] = ccoef + 4;
743                 mode_list[list_pos] = 1;
744             case 2:
745                 if (mode == 2) {
746                     coef_list[list_pos]   = 0;
747                     mode_list[list_pos++] = 0;
748                 }
749                 for (i = 0; i < 4; i++, ccoef++) {
750                     if (get_bits1(gb)) {
751                         coef_list[--list_start] = ccoef;
752                         mode_list[  list_start] = 3;
753                     } else {
754                         nz_coeff[nz_coeff_count++] = bink_scan[ccoef];
755                         sign = -get_bits1(gb);
756                         block[bink_scan[ccoef]] = (mask ^ sign) - sign;
757                         masks_count--;
758                         if (masks_count < 0)
759                             return 0;
760                     }
761                 }
762                 break;
763             case 1:
764                 mode_list[list_pos] = 2;
765                 for (i = 0; i < 3; i++) {
766                     ccoef += 4;
767                     coef_list[list_end]   = ccoef;
768                     mode_list[list_end++] = 2;
769                 }
770                 break;
771             case 3:
772                 nz_coeff[nz_coeff_count++] = bink_scan[ccoef];
773                 sign = -get_bits1(gb);
774                 block[bink_scan[ccoef]] = (mask ^ sign) - sign;
775                 coef_list[list_pos]   = 0;
776                 mode_list[list_pos++] = 0;
777                 masks_count--;
778                 if (masks_count < 0)
779                     return 0;
780                 break;
781             }
782         }
783     }
784
785     return 0;
786 }
787
788 /**
789  * Copy 8x8 block from source to destination, where src and dst may be overlapped
790  */
791 static inline void put_pixels8x8_overlapped(uint8_t *dst, uint8_t *src, int stride)
792 {
793     uint8_t tmp[64];
794     int i;
795     for (i = 0; i < 8; i++)
796         memcpy(tmp + i*8, src + i*stride, 8);
797     for (i = 0; i < 8; i++)
798         memcpy(dst + i*stride, tmp + i*8, 8);
799 }
800
801 static int binkb_decode_plane(BinkContext *c, GetBitContext *gb, int plane_idx,
802                               int is_key, int is_chroma)
803 {
804     int blk;
805     int i, j, bx, by;
806     uint8_t *dst, *ref, *ref_start, *ref_end;
807     int v, col[2];
808     const uint8_t *scan;
809     int xoff, yoff;
810     LOCAL_ALIGNED_16(DCTELEM, block, [64]);
811     LOCAL_ALIGNED_16(int32_t, dctblock, [64]);
812     int coordmap[64];
813     int ybias = is_key ? -15 : 0;
814     int qp;
815
816     const int stride = c->pic.linesize[plane_idx];
817     int bw = is_chroma ? (c->avctx->width  + 15) >> 4 : (c->avctx->width  + 7) >> 3;
818     int bh = is_chroma ? (c->avctx->height + 15) >> 4 : (c->avctx->height + 7) >> 3;
819
820     binkb_init_bundles(c);
821     ref_start = c->pic.data[plane_idx];
822     ref_end   = c->pic.data[plane_idx] + (bh * c->pic.linesize[plane_idx] + bw) * 8;
823
824     for (i = 0; i < 64; i++)
825         coordmap[i] = (i & 7) + (i >> 3) * stride;
826
827     for (by = 0; by < bh; by++) {
828         for (i = 0; i < BINKB_NB_SRC; i++) {
829             if (binkb_read_bundle(c, gb, i) < 0)
830                 return -1;
831         }
832
833         dst  = c->pic.data[plane_idx]  + 8*by*stride;
834         for (bx = 0; bx < bw; bx++, dst += 8) {
835             blk = binkb_get_value(c, BINKB_SRC_BLOCK_TYPES);
836             switch (blk) {
837             case 0:
838                 break;
839             case 1:
840                 scan = bink_patterns[get_bits(gb, 4)];
841                 i = 0;
842                 do {
843                     int mode, run;
844
845                     mode = get_bits1(gb);
846                     run = get_bits(gb, binkb_runbits[i]) + 1;
847
848                     i += run;
849                     if (i > 64) {
850                         av_log(c->avctx, AV_LOG_ERROR, "Run went out of bounds\n");
851                         return -1;
852                     }
853                     if (mode) {
854                         v = binkb_get_value(c, BINKB_SRC_COLORS);
855                         for (j = 0; j < run; j++)
856                             dst[coordmap[*scan++]] = v;
857                     } else {
858                         for (j = 0; j < run; j++)
859                             dst[coordmap[*scan++]] = binkb_get_value(c, BINKB_SRC_COLORS);
860                     }
861                 } while (i < 63);
862                 if (i == 63)
863                     dst[coordmap[*scan++]] = binkb_get_value(c, BINKB_SRC_COLORS);
864                 break;
865             case 2:
866                 memset(dctblock, 0, sizeof(*dctblock) * 64);
867                 dctblock[0] = binkb_get_value(c, BINKB_SRC_INTRA_DC);
868                 qp = binkb_get_value(c, BINKB_SRC_INTRA_Q);
869                 read_dct_coeffs(gb, dctblock, bink_scan, binkb_intra_quant, qp);
870                 c->bdsp.idct_put(dst, stride, dctblock);
871                 break;
872             case 3:
873                 xoff = binkb_get_value(c, BINKB_SRC_X_OFF);
874                 yoff = binkb_get_value(c, BINKB_SRC_Y_OFF) + ybias;
875                 ref = dst + xoff + yoff * stride;
876                 if (ref < ref_start || ref + 8*stride > ref_end) {
877                     av_log(c->avctx, AV_LOG_WARNING, "Reference block is out of bounds\n");
878                 } else if (ref + 8*stride < dst || ref >= dst + 8*stride) {
879                     c->dsp.put_pixels_tab[1][0](dst, ref, stride, 8);
880                 } else {
881                     put_pixels8x8_overlapped(dst, ref, stride);
882                 }
883                 c->dsp.clear_block(block);
884                 v = binkb_get_value(c, BINKB_SRC_INTER_COEFS);
885                 read_residue(gb, block, v);
886                 c->dsp.add_pixels8(dst, block, stride);
887                 break;
888             case 4:
889                 xoff = binkb_get_value(c, BINKB_SRC_X_OFF);
890                 yoff = binkb_get_value(c, BINKB_SRC_Y_OFF) + ybias;
891                 ref = dst + xoff + yoff * stride;
892                 if (ref < ref_start || ref + 8 * stride > ref_end) {
893                     av_log(c->avctx, AV_LOG_WARNING, "Reference block is out of bounds\n");
894                 } else if (ref + 8*stride < dst || ref >= dst + 8*stride) {
895                     c->dsp.put_pixels_tab[1][0](dst, ref, stride, 8);
896                 } else {
897                     put_pixels8x8_overlapped(dst, ref, stride);
898                 }
899                 memset(dctblock, 0, sizeof(*dctblock) * 64);
900                 dctblock[0] = binkb_get_value(c, BINKB_SRC_INTER_DC);
901                 qp = binkb_get_value(c, BINKB_SRC_INTER_Q);
902                 read_dct_coeffs(gb, dctblock, bink_scan, binkb_inter_quant, qp);
903                 c->bdsp.idct_add(dst, stride, dctblock);
904                 break;
905             case 5:
906                 v = binkb_get_value(c, BINKB_SRC_COLORS);
907                 c->dsp.fill_block_tab[1](dst, v, stride, 8);
908                 break;
909             case 6:
910                 for (i = 0; i < 2; i++)
911                     col[i] = binkb_get_value(c, BINKB_SRC_COLORS);
912                 for (i = 0; i < 8; i++) {
913                     v = binkb_get_value(c, BINKB_SRC_PATTERN);
914                     for (j = 0; j < 8; j++, v >>= 1)
915                         dst[i*stride + j] = col[v & 1];
916                 }
917                 break;
918             case 7:
919                 xoff = binkb_get_value(c, BINKB_SRC_X_OFF);
920                 yoff = binkb_get_value(c, BINKB_SRC_Y_OFF) + ybias;
921                 ref = dst + xoff + yoff * stride;
922                 if (ref < ref_start || ref + 8 * stride > ref_end) {
923                     av_log(c->avctx, AV_LOG_WARNING, "Reference block is out of bounds\n");
924                 } else if (ref + 8*stride < dst || ref >= dst + 8*stride) {
925                     c->dsp.put_pixels_tab[1][0](dst, ref, stride, 8);
926                 } else {
927                     put_pixels8x8_overlapped(dst, ref, stride);
928                 }
929                 break;
930             case 8:
931                 for (i = 0; i < 8; i++)
932                     memcpy(dst + i*stride, c->bundle[BINKB_SRC_COLORS].cur_ptr + i*8, 8);
933                 c->bundle[BINKB_SRC_COLORS].cur_ptr += 64;
934                 break;
935             default:
936                 av_log(c->avctx, AV_LOG_ERROR, "Unknown block type %d\n", blk);
937                 return -1;
938             }
939         }
940     }
941     if (get_bits_count(gb) & 0x1F) //next plane data starts at 32-bit boundary
942         skip_bits_long(gb, 32 - (get_bits_count(gb) & 0x1F));
943
944     return 0;
945 }
946
947 static int bink_decode_plane(BinkContext *c, GetBitContext *gb, int plane_idx,
948                              int is_chroma)
949 {
950     int blk;
951     int i, j, bx, by;
952     uint8_t *dst, *prev, *ref, *ref_start, *ref_end;
953     int v, col[2];
954     const uint8_t *scan;
955     int xoff, yoff;
956     LOCAL_ALIGNED_16(DCTELEM, block, [64]);
957     LOCAL_ALIGNED_16(uint8_t, ublock, [64]);
958     LOCAL_ALIGNED_16(int32_t, dctblock, [64]);
959     int coordmap[64];
960
961     const int stride = c->pic.linesize[plane_idx];
962     int bw = is_chroma ? (c->avctx->width  + 15) >> 4 : (c->avctx->width  + 7) >> 3;
963     int bh = is_chroma ? (c->avctx->height + 15) >> 4 : (c->avctx->height + 7) >> 3;
964     int width = c->avctx->width >> is_chroma;
965
966     init_lengths(c, FFMAX(width, 8), bw);
967     for (i = 0; i < BINK_NB_SRC; i++)
968         read_bundle(gb, c, i);
969
970     ref_start = c->last.data[plane_idx];
971     ref_end   = c->last.data[plane_idx]
972                 + (bw - 1 + c->last.linesize[plane_idx] * (bh - 1)) * 8;
973
974     for (i = 0; i < 64; i++)
975         coordmap[i] = (i & 7) + (i >> 3) * stride;
976
977     for (by = 0; by < bh; by++) {
978         if (read_block_types(c->avctx, gb, &c->bundle[BINK_SRC_BLOCK_TYPES]) < 0)
979             return -1;
980         if (read_block_types(c->avctx, gb, &c->bundle[BINK_SRC_SUB_BLOCK_TYPES]) < 0)
981             return -1;
982         if (read_colors(gb, &c->bundle[BINK_SRC_COLORS], c) < 0)
983             return -1;
984         if (read_patterns(c->avctx, gb, &c->bundle[BINK_SRC_PATTERN]) < 0)
985             return -1;
986         if (read_motion_values(c->avctx, gb, &c->bundle[BINK_SRC_X_OFF]) < 0)
987             return -1;
988         if (read_motion_values(c->avctx, gb, &c->bundle[BINK_SRC_Y_OFF]) < 0)
989             return -1;
990         if (read_dcs(c->avctx, gb, &c->bundle[BINK_SRC_INTRA_DC], DC_START_BITS, 0) < 0)
991             return -1;
992         if (read_dcs(c->avctx, gb, &c->bundle[BINK_SRC_INTER_DC], DC_START_BITS, 1) < 0)
993             return -1;
994         if (read_runs(c->avctx, gb, &c->bundle[BINK_SRC_RUN]) < 0)
995             return -1;
996
997         if (by == bh)
998             break;
999         dst  = c->pic.data[plane_idx]  + 8*by*stride;
1000         prev = c->last.data[plane_idx] + 8*by*stride;
1001         for (bx = 0; bx < bw; bx++, dst += 8, prev += 8) {
1002             blk = get_value(c, BINK_SRC_BLOCK_TYPES);
1003             // 16x16 block type on odd line means part of the already decoded block, so skip it
1004             if ((by & 1) && blk == SCALED_BLOCK) {
1005                 bx++;
1006                 dst  += 8;
1007                 prev += 8;
1008                 continue;
1009             }
1010             switch (blk) {
1011             case SKIP_BLOCK:
1012                 c->dsp.put_pixels_tab[1][0](dst, prev, stride, 8);
1013                 break;
1014             case SCALED_BLOCK:
1015                 blk = get_value(c, BINK_SRC_SUB_BLOCK_TYPES);
1016                 switch (blk) {
1017                 case RUN_BLOCK:
1018                     scan = bink_patterns[get_bits(gb, 4)];
1019                     i = 0;
1020                     do {
1021                         int run = get_value(c, BINK_SRC_RUN) + 1;
1022
1023                         i += run;
1024                         if (i > 64) {
1025                             av_log(c->avctx, AV_LOG_ERROR, "Run went out of bounds\n");
1026                             return -1;
1027                         }
1028                         if (get_bits1(gb)) {
1029                             v = get_value(c, BINK_SRC_COLORS);
1030                             for (j = 0; j < run; j++)
1031                                 ublock[*scan++] = v;
1032                         } else {
1033                             for (j = 0; j < run; j++)
1034                                 ublock[*scan++] = get_value(c, BINK_SRC_COLORS);
1035                         }
1036                     } while (i < 63);
1037                     if (i == 63)
1038                         ublock[*scan++] = get_value(c, BINK_SRC_COLORS);
1039                     break;
1040                 case INTRA_BLOCK:
1041                     memset(dctblock, 0, sizeof(*dctblock) * 64);
1042                     dctblock[0] = get_value(c, BINK_SRC_INTRA_DC);
1043                     read_dct_coeffs(gb, dctblock, bink_scan, bink_intra_quant, -1);
1044                     c->bdsp.idct_put(ublock, 8, dctblock);
1045                     break;
1046                 case FILL_BLOCK:
1047                     v = get_value(c, BINK_SRC_COLORS);
1048                     c->dsp.fill_block_tab[0](dst, v, stride, 16);
1049                     break;
1050                 case PATTERN_BLOCK:
1051                     for (i = 0; i < 2; i++)
1052                         col[i] = get_value(c, BINK_SRC_COLORS);
1053                     for (j = 0; j < 8; j++) {
1054                         v = get_value(c, BINK_SRC_PATTERN);
1055                         for (i = 0; i < 8; i++, v >>= 1)
1056                             ublock[i + j*8] = col[v & 1];
1057                     }
1058                     break;
1059                 case RAW_BLOCK:
1060                     for (j = 0; j < 8; j++)
1061                         for (i = 0; i < 8; i++)
1062                             ublock[i + j*8] = get_value(c, BINK_SRC_COLORS);
1063                     break;
1064                 default:
1065                     av_log(c->avctx, AV_LOG_ERROR, "Incorrect 16x16 block type %d\n", blk);
1066                     return -1;
1067                 }
1068                 if (blk != FILL_BLOCK)
1069                 c->bdsp.scale_block(ublock, dst, stride);
1070                 bx++;
1071                 dst  += 8;
1072                 prev += 8;
1073                 break;
1074             case MOTION_BLOCK:
1075                 xoff = get_value(c, BINK_SRC_X_OFF);
1076                 yoff = get_value(c, BINK_SRC_Y_OFF);
1077                 ref = prev + xoff + yoff * stride;
1078                 if (ref < ref_start || ref > ref_end) {
1079                     av_log(c->avctx, AV_LOG_ERROR, "Copy out of bounds @%d, %d\n",
1080                            bx*8 + xoff, by*8 + yoff);
1081                     return -1;
1082                 }
1083                 c->dsp.put_pixels_tab[1][0](dst, ref, stride, 8);
1084                 break;
1085             case RUN_BLOCK:
1086                 scan = bink_patterns[get_bits(gb, 4)];
1087                 i = 0;
1088                 do {
1089                     int run = get_value(c, BINK_SRC_RUN) + 1;
1090
1091                     i += run;
1092                     if (i > 64) {
1093                         av_log(c->avctx, AV_LOG_ERROR, "Run went out of bounds\n");
1094                         return -1;
1095                     }
1096                     if (get_bits1(gb)) {
1097                         v = get_value(c, BINK_SRC_COLORS);
1098                         for (j = 0; j < run; j++)
1099                             dst[coordmap[*scan++]] = v;
1100                     } else {
1101                         for (j = 0; j < run; j++)
1102                             dst[coordmap[*scan++]] = get_value(c, BINK_SRC_COLORS);
1103                     }
1104                 } while (i < 63);
1105                 if (i == 63)
1106                     dst[coordmap[*scan++]] = get_value(c, BINK_SRC_COLORS);
1107                 break;
1108             case RESIDUE_BLOCK:
1109                 xoff = get_value(c, BINK_SRC_X_OFF);
1110                 yoff = get_value(c, BINK_SRC_Y_OFF);
1111                 ref = prev + xoff + yoff * stride;
1112                 if (ref < ref_start || ref > ref_end) {
1113                     av_log(c->avctx, AV_LOG_ERROR, "Copy out of bounds @%d, %d\n",
1114                            bx*8 + xoff, by*8 + yoff);
1115                     return -1;
1116                 }
1117                 c->dsp.put_pixels_tab[1][0](dst, ref, stride, 8);
1118                 c->dsp.clear_block(block);
1119                 v = get_bits(gb, 7);
1120                 read_residue(gb, block, v);
1121                 c->dsp.add_pixels8(dst, block, stride);
1122                 break;
1123             case INTRA_BLOCK:
1124                 memset(dctblock, 0, sizeof(*dctblock) * 64);
1125                 dctblock[0] = get_value(c, BINK_SRC_INTRA_DC);
1126                 read_dct_coeffs(gb, dctblock, bink_scan, bink_intra_quant, -1);
1127                 c->bdsp.idct_put(dst, stride, dctblock);
1128                 break;
1129             case FILL_BLOCK:
1130                 v = get_value(c, BINK_SRC_COLORS);
1131                 c->dsp.fill_block_tab[1](dst, v, stride, 8);
1132                 break;
1133             case INTER_BLOCK:
1134                 xoff = get_value(c, BINK_SRC_X_OFF);
1135                 yoff = get_value(c, BINK_SRC_Y_OFF);
1136                 ref = prev + xoff + yoff * stride;
1137                 c->dsp.put_pixels_tab[1][0](dst, ref, stride, 8);
1138                 memset(dctblock, 0, sizeof(*dctblock) * 64);
1139                 dctblock[0] = get_value(c, BINK_SRC_INTER_DC);
1140                 read_dct_coeffs(gb, dctblock, bink_scan, bink_inter_quant, -1);
1141                 c->bdsp.idct_add(dst, stride, dctblock);
1142                 break;
1143             case PATTERN_BLOCK:
1144                 for (i = 0; i < 2; i++)
1145                     col[i] = get_value(c, BINK_SRC_COLORS);
1146                 for (i = 0; i < 8; i++) {
1147                     v = get_value(c, BINK_SRC_PATTERN);
1148                     for (j = 0; j < 8; j++, v >>= 1)
1149                         dst[i*stride + j] = col[v & 1];
1150                 }
1151                 break;
1152             case RAW_BLOCK:
1153                 for (i = 0; i < 8; i++)
1154                     memcpy(dst + i*stride, c->bundle[BINK_SRC_COLORS].cur_ptr + i*8, 8);
1155                 c->bundle[BINK_SRC_COLORS].cur_ptr += 64;
1156                 break;
1157             default:
1158                 av_log(c->avctx, AV_LOG_ERROR, "Unknown block type %d\n", blk);
1159                 return -1;
1160             }
1161         }
1162     }
1163     if (get_bits_count(gb) & 0x1F) //next plane data starts at 32-bit boundary
1164         skip_bits_long(gb, 32 - (get_bits_count(gb) & 0x1F));
1165
1166     return 0;
1167 }
1168
1169 static int decode_frame(AVCodecContext *avctx, void *data, int *data_size, AVPacket *pkt)
1170 {
1171     BinkContext * const c = avctx->priv_data;
1172     GetBitContext gb;
1173     int plane, plane_idx;
1174     int bits_count = pkt->size << 3;
1175
1176     if (c->version > 'b') {
1177         if(c->pic.data[0])
1178             avctx->release_buffer(avctx, &c->pic);
1179
1180         if(avctx->get_buffer(avctx, &c->pic) < 0){
1181             av_log(avctx, AV_LOG_ERROR, "get_buffer() failed\n");
1182             return -1;
1183         }
1184     } else {
1185         if(avctx->reget_buffer(avctx, &c->pic) < 0){
1186             av_log(avctx, AV_LOG_ERROR, "reget_buffer() failed\n");
1187             return -1;
1188         }
1189     }
1190
1191     init_get_bits(&gb, pkt->data, bits_count);
1192     if (c->has_alpha) {
1193         if (c->version >= 'i')
1194             skip_bits_long(&gb, 32);
1195         if (bink_decode_plane(c, &gb, 3, 0) < 0)
1196             return -1;
1197     }
1198     if (c->version >= 'i')
1199         skip_bits_long(&gb, 32);
1200
1201     for (plane = 0; plane < 3; plane++) {
1202         plane_idx = (!plane || !c->swap_planes) ? plane : (plane ^ 3);
1203
1204         if (c->version > 'b') {
1205             if (bink_decode_plane(c, &gb, plane_idx, !!plane) < 0)
1206                 return -1;
1207         } else {
1208             if (binkb_decode_plane(c, &gb, plane_idx, !pkt->pts, !!plane) < 0)
1209                 return -1;
1210         }
1211         if (get_bits_count(&gb) >= bits_count)
1212             break;
1213     }
1214     emms_c();
1215
1216     *data_size = sizeof(AVFrame);
1217     *(AVFrame*)data = c->pic;
1218
1219     if (c->version > 'b')
1220         FFSWAP(AVFrame, c->pic, c->last);
1221
1222     /* always report that the buffer was completely consumed */
1223     return pkt->size;
1224 }
1225
1226 /**
1227  * Caclulate quantization tables for version b
1228  */
1229 static av_cold void binkb_calc_quant(void)
1230 {
1231     uint8_t inv_bink_scan[64];
1232     double s[64];
1233     int i, j;
1234
1235     for (j = 0; j < 8; j++) {
1236         for (i = 0; i < 8; i++) {
1237             if (j && j != 4)
1238                if (i && i != 4)
1239                    s[j*8 + i] = cos(j * M_PI/16.0) * cos(i * M_PI/16.0) * 2.0;
1240                else
1241                    s[j*8 + i] = cos(j * M_PI/16.0) * sqrt(2.0);
1242             else
1243                if (i && i != 4)
1244                    s[j*8 + i] = cos(i * M_PI/16.0) * sqrt(2.0);
1245                else
1246                    s[j*8 + i] = 1.0;
1247         }
1248     }
1249
1250     for (i = 0; i < 64; i++)
1251         inv_bink_scan[bink_scan[i]] = i;
1252
1253     for (j = 0; j < 16; j++) {
1254         for (i = 0; i < 64; i++) {
1255             int k = inv_bink_scan[i];
1256             if (s[i] == 1.0) {
1257                 binkb_intra_quant[j][k] = (1L << 12) * binkb_intra_seed[i] *
1258                                           binkb_num[j]/binkb_den[j];
1259                 binkb_inter_quant[j][k] = (1L << 12) * binkb_inter_seed[i] *
1260                                           binkb_num[j]/binkb_den[j];
1261             } else {
1262                 binkb_intra_quant[j][k] = (1L << 12) * binkb_intra_seed[i] * s[i] *
1263                                           binkb_num[j]/(double)binkb_den[j];
1264                 binkb_inter_quant[j][k] = (1L << 12) * binkb_inter_seed[i] * s[i] *
1265                                           binkb_num[j]/(double)binkb_den[j];
1266             }
1267         }
1268     }
1269 }
1270
1271 static av_cold int decode_init(AVCodecContext *avctx)
1272 {
1273     BinkContext * const c = avctx->priv_data;
1274     static VLC_TYPE table[16 * 128][2];
1275     static int binkb_initialised = 0;
1276     int i;
1277     int flags;
1278
1279     c->version = avctx->codec_tag >> 24;
1280     if (avctx->extradata_size < 4) {
1281         av_log(avctx, AV_LOG_ERROR, "Extradata missing or too short\n");
1282         return -1;
1283     }
1284     flags = AV_RL32(avctx->extradata);
1285     c->has_alpha = flags & BINK_FLAG_ALPHA;
1286     c->swap_planes = c->version >= 'h';
1287     if (!bink_trees[15].table) {
1288         for (i = 0; i < 16; i++) {
1289             const int maxbits = bink_tree_lens[i][15];
1290             bink_trees[i].table = table + i*128;
1291             bink_trees[i].table_allocated = 1 << maxbits;
1292             init_vlc(&bink_trees[i], maxbits, 16,
1293                      bink_tree_lens[i], 1, 1,
1294                      bink_tree_bits[i], 1, 1, INIT_VLC_USE_NEW_STATIC | INIT_VLC_LE);
1295         }
1296     }
1297     c->avctx = avctx;
1298
1299     c->pic.data[0] = NULL;
1300
1301     if (av_image_check_size(avctx->width, avctx->height, 0, avctx) < 0) {
1302         return 1;
1303     }
1304
1305     avctx->pix_fmt = c->has_alpha ? PIX_FMT_YUVA420P : PIX_FMT_YUV420P;
1306
1307     avctx->idct_algo = FF_IDCT_BINK;
1308     dsputil_init(&c->dsp, avctx);
1309     ff_binkdsp_init(&c->bdsp);
1310
1311     init_bundles(c);
1312
1313     if (c->version == 'b') {
1314         if (!binkb_initialised) {
1315             binkb_calc_quant();
1316             binkb_initialised = 1;
1317         }
1318     }
1319
1320     return 0;
1321 }
1322
1323 static av_cold int decode_end(AVCodecContext *avctx)
1324 {
1325     BinkContext * const c = avctx->priv_data;
1326
1327     if (c->pic.data[0])
1328         avctx->release_buffer(avctx, &c->pic);
1329     if (c->last.data[0])
1330         avctx->release_buffer(avctx, &c->last);
1331
1332     free_bundles(c);
1333     return 0;
1334 }
1335
1336 AVCodec ff_bink_decoder = {
1337     .name           = "binkvideo",
1338     .type           = AVMEDIA_TYPE_VIDEO,
1339     .id             = CODEC_ID_BINKVIDEO,
1340     .priv_data_size = sizeof(BinkContext),
1341     .init           = decode_init,
1342     .close          = decode_end,
1343     .decode         = decode_frame,
1344     .long_name = NULL_IF_CONFIG_SMALL("Bink video"),
1345 };