avcodec/dvbsubdec: Compute scoretab without iterating over pixels multiple times...
[ffmpeg.git] / libavcodec / vc1_block.c
1 /*
2  * VC-1 and WMV3 decoder
3  * Copyright (c) 2011 Mashiat Sarker Shakkhar
4  * Copyright (c) 2006-2007 Konstantin Shishkov
5  * Partly based on vc9.c (c) 2005 Anonymous, Alex Beregszaszi, Michael Niedermayer
6  *
7  * This file is part of FFmpeg.
8  *
9  * FFmpeg is free software; you can redistribute it and/or
10  * modify it under the terms of the GNU Lesser General Public
11  * License as published by the Free Software Foundation; either
12  * version 2.1 of the License, or (at your option) any later version.
13  *
14  * FFmpeg is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
17  * Lesser General Public License for more details.
18  *
19  * You should have received a copy of the GNU Lesser General Public
20  * License along with FFmpeg; if not, write to the Free Software
21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
22  */
23
24 /**
25  * @file
26  * VC-1 and WMV3 block decoding routines
27  */
28
29 #include "avcodec.h"
30 #include "mpegutils.h"
31 #include "mpegvideo.h"
32 #include "msmpeg4data.h"
33 #include "unary.h"
34 #include "vc1.h"
35 #include "vc1_pred.h"
36 #include "vc1acdata.h"
37 #include "vc1data.h"
38
39 #define MB_INTRA_VLC_BITS 9
40 #define DC_VLC_BITS 9
41
42 // offset tables for interlaced picture MVDATA decoding
43 static const uint8_t offset_table[2][9] = {
44     {  0,  1,  2,  4,  8, 16, 32,  64, 128 },
45     {  0,  1,  3,  7, 15, 31, 63, 127, 255 },
46 };
47
48 /***********************************************************************/
49 /**
50  * @name VC-1 Bitplane decoding
51  * @see 8.7, p56
52  * @{
53  */
54
55
56 static inline void init_block_index(VC1Context *v)
57 {
58     MpegEncContext *s = &v->s;
59     ff_init_block_index(s);
60     if (v->field_mode && !(v->second_field ^ v->tff)) {
61         s->dest[0] += s->current_picture_ptr->f->linesize[0];
62         s->dest[1] += s->current_picture_ptr->f->linesize[1];
63         s->dest[2] += s->current_picture_ptr->f->linesize[2];
64     }
65 }
66
67 /** @} */ //Bitplane group
68
69 static void vc1_put_blocks_clamped(VC1Context *v, int put_signed)
70 {
71     MpegEncContext *s = &v->s;
72     uint8_t *dest;
73     int block_count = CONFIG_GRAY && (s->avctx->flags & AV_CODEC_FLAG_GRAY) ? 4 : 6;
74     int fieldtx = 0;
75     int i;
76
77     /* The put pixels loop is one MB row and one MB column behind the decoding
78      * loop because we can only put pixels when overlap filtering is done. For
79      * interlaced frame pictures, however, the put pixels loop is only one
80      * column behind the decoding loop as interlaced frame pictures only need
81      * horizontal overlap filtering. */
82     if (!s->first_slice_line && v->fcm != ILACE_FRAME) {
83         if (s->mb_x) {
84             for (i = 0; i < block_count; i++) {
85                 if (i > 3 ? v->mb_type[0][s->block_index[i] - s->block_wrap[i] - 1] :
86                             v->mb_type[0][s->block_index[i] - 2 * s->block_wrap[i] - 2]) {
87                     dest = s->dest[0] + ((i & 2) - 4) * 4 * s->linesize + ((i & 1) - 2) * 8;
88                     if (put_signed)
89                         s->idsp.put_signed_pixels_clamped(v->block[v->topleft_blk_idx][i],
90                                                           i > 3 ? s->dest[i - 3] - 8 * s->uvlinesize - 8 : dest,
91                                                           i > 3 ? s->uvlinesize : s->linesize);
92                     else
93                         s->idsp.put_pixels_clamped(v->block[v->topleft_blk_idx][i],
94                                                    i > 3 ? s->dest[i - 3] - 8 * s->uvlinesize - 8 : dest,
95                                                    i > 3 ? s->uvlinesize : s->linesize);
96                 }
97             }
98         }
99         if (s->mb_x == v->end_mb_x - 1) {
100             for (i = 0; i < block_count; i++) {
101                 if (i > 3 ? v->mb_type[0][s->block_index[i] - s->block_wrap[i]] :
102                             v->mb_type[0][s->block_index[i] - 2 * s->block_wrap[i]]) {
103                     dest = s->dest[0] + ((i & 2) - 4) * 4 * s->linesize + (i & 1) * 8;
104                     if (put_signed)
105                         s->idsp.put_signed_pixels_clamped(v->block[v->top_blk_idx][i],
106                                                           i > 3 ? s->dest[i - 3] - 8 * s->uvlinesize : dest,
107                                                           i > 3 ? s->uvlinesize : s->linesize);
108                     else
109                         s->idsp.put_pixels_clamped(v->block[v->top_blk_idx][i],
110                                                    i > 3 ? s->dest[i - 3] - 8 * s->uvlinesize : dest,
111                                                    i > 3 ? s->uvlinesize : s->linesize);
112                 }
113             }
114         }
115     }
116     if (s->mb_y == s->end_mb_y - 1 || v->fcm == ILACE_FRAME) {
117         if (s->mb_x) {
118             if (v->fcm == ILACE_FRAME)
119                 fieldtx = v->fieldtx_plane[s->mb_y * s->mb_stride + s->mb_x - 1];
120             for (i = 0; i < block_count; i++) {
121                 if (i > 3 ? v->mb_type[0][s->block_index[i] - 1] :
122                             v->mb_type[0][s->block_index[i] - 2]) {
123                     if (fieldtx)
124                         dest = s->dest[0] + ((i & 2) >> 1) * s->linesize + ((i & 1) - 2) * 8;
125                     else
126                         dest = s->dest[0] + (i & 2) * 4 * s->linesize + ((i & 1) - 2) * 8;
127                     if (put_signed)
128                         s->idsp.put_signed_pixels_clamped(v->block[v->left_blk_idx][i],
129                                                           i > 3 ? s->dest[i - 3] - 8 : dest,
130                                                           i > 3 ? s->uvlinesize : s->linesize << fieldtx);
131                     else
132                         s->idsp.put_pixels_clamped(v->block[v->left_blk_idx][i],
133                                                    i > 3 ? s->dest[i - 3] - 8 : dest,
134                                                    i > 3 ? s->uvlinesize : s->linesize << fieldtx);
135                 }
136             }
137         }
138         if (s->mb_x == v->end_mb_x - 1) {
139             if (v->fcm == ILACE_FRAME)
140                 fieldtx = v->fieldtx_plane[s->mb_y * s->mb_stride + s->mb_x];
141             for (i = 0; i < block_count; i++) {
142                 if (v->mb_type[0][s->block_index[i]]) {
143                     if (fieldtx)
144                         dest = s->dest[0] + ((i & 2) >> 1) * s->linesize + (i & 1) * 8;
145                     else
146                         dest = s->dest[0] + (i & 2) * 4 * s->linesize + (i & 1) * 8;
147                     if (put_signed)
148                         s->idsp.put_signed_pixels_clamped(v->block[v->cur_blk_idx][i],
149                                                           i > 3 ? s->dest[i - 3] : dest,
150                                                           i > 3 ? s->uvlinesize : s->linesize << fieldtx);
151                     else
152                         s->idsp.put_pixels_clamped(v->block[v->cur_blk_idx][i],
153                                                    i > 3 ? s->dest[i - 3] : dest,
154                                                    i > 3 ? s->uvlinesize : s->linesize << fieldtx);
155                 }
156             }
157         }
158     }
159 }
160
161 #define inc_blk_idx(idx) do { \
162         idx++; \
163         if (idx >= v->n_allocated_blks) \
164             idx = 0; \
165     } while (0)
166
167 /***********************************************************************/
168 /**
169  * @name VC-1 Block-level functions
170  * @see 7.1.4, p91 and 8.1.1.7, p(1)04
171  * @{
172  */
173
174 /**
175  * @def GET_MQUANT
176  * @brief Get macroblock-level quantizer scale
177  */
178 #define GET_MQUANT()                                           \
179     if (v->dquantfrm) {                                        \
180         int edges = 0;                                         \
181         if (v->dqprofile == DQPROFILE_ALL_MBS) {               \
182             if (v->dqbilevel) {                                \
183                 mquant = (get_bits1(gb)) ? -v->altpq : v->pq;  \
184             } else {                                           \
185                 mqdiff = get_bits(gb, 3);                      \
186                 if (mqdiff != 7)                               \
187                     mquant = -v->pq - mqdiff;                  \
188                 else                                           \
189                     mquant = -get_bits(gb, 5);                 \
190             }                                                  \
191         }                                                      \
192         if (v->dqprofile == DQPROFILE_SINGLE_EDGE)             \
193             edges = 1 << v->dqsbedge;                          \
194         else if (v->dqprofile == DQPROFILE_DOUBLE_EDGES)       \
195             edges = (3 << v->dqsbedge) % 15;                   \
196         else if (v->dqprofile == DQPROFILE_FOUR_EDGES)         \
197             edges = 15;                                        \
198         if ((edges&1) && !s->mb_x)                             \
199             mquant = -v->altpq;                                \
200         if ((edges&2) && !s->mb_y)                             \
201             mquant = -v->altpq;                                \
202         if ((edges&4) && s->mb_x == (s->mb_width - 1))         \
203             mquant = -v->altpq;                                \
204         if ((edges&8) &&                                       \
205             s->mb_y == ((s->mb_height >> v->field_mode) - 1))  \
206             mquant = -v->altpq;                                \
207         if (!mquant || mquant > 31) {                          \
208             av_log(v->s.avctx, AV_LOG_ERROR,                   \
209                    "Overriding invalid mquant %d\n", mquant);  \
210             mquant = 1;                                        \
211         }                                                      \
212     }
213
214 /**
215  * @def GET_MVDATA(_dmv_x, _dmv_y)
216  * @brief Get MV differentials
217  * @see MVDATA decoding from 8.3.5.2, p(1)20
218  * @param _dmv_x Horizontal differential for decoded MV
219  * @param _dmv_y Vertical differential for decoded MV
220  */
221 #define GET_MVDATA(_dmv_x, _dmv_y)                                      \
222     index = 1 + get_vlc2(gb, ff_vc1_mv_diff_vlc[s->mv_table_index].table, \
223                          VC1_MV_DIFF_VLC_BITS, 2);                      \
224     if (index > 36) {                                                   \
225         mb_has_coeffs = 1;                                              \
226         index -= 37;                                                    \
227     } else                                                              \
228         mb_has_coeffs = 0;                                              \
229     s->mb_intra = 0;                                                    \
230     if (!index) {                                                       \
231         _dmv_x = _dmv_y = 0;                                            \
232     } else if (index == 35) {                                           \
233         _dmv_x = get_bits(gb, v->k_x - 1 + s->quarter_sample);          \
234         _dmv_y = get_bits(gb, v->k_y - 1 + s->quarter_sample);          \
235     } else if (index == 36) {                                           \
236         _dmv_x = 0;                                                     \
237         _dmv_y = 0;                                                     \
238         s->mb_intra = 1;                                                \
239     } else {                                                            \
240         index1 = index % 6;                                             \
241         _dmv_x = offset_table[1][index1];                               \
242         val = size_table[index1] - (!s->quarter_sample && index1 == 5); \
243         if (val > 0) {                                                  \
244             val = get_bits(gb, val);                                    \
245             sign = 0 - (val & 1);                                       \
246             _dmv_x = (sign ^ ((val >> 1) + _dmv_x)) - sign;             \
247         }                                                               \
248                                                                         \
249         index1 = index / 6;                                             \
250         _dmv_y = offset_table[1][index1];                               \
251         val = size_table[index1] - (!s->quarter_sample && index1 == 5); \
252         if (val > 0) {                                                  \
253             val = get_bits(gb, val);                                    \
254             sign = 0 - (val & 1);                                       \
255             _dmv_y = (sign ^ ((val >> 1) + _dmv_y)) - sign;             \
256         }                                                               \
257     }
258
259 static av_always_inline void get_mvdata_interlaced(VC1Context *v, int *dmv_x,
260                                                    int *dmv_y, int *pred_flag)
261 {
262     int index, index1;
263     int extend_x, extend_y;
264     GetBitContext *gb = &v->s.gb;
265     int bits, esc;
266     int val, sign;
267
268     if (v->numref) {
269         bits = VC1_2REF_MVDATA_VLC_BITS;
270         esc  = 125;
271     } else {
272         bits = VC1_1REF_MVDATA_VLC_BITS;
273         esc  = 71;
274     }
275     extend_x = v->dmvrange & 1;
276     extend_y = (v->dmvrange >> 1) & 1;
277     index = get_vlc2(gb, v->imv_vlc->table, bits, 3);
278     if (index == esc) {
279         *dmv_x = get_bits(gb, v->k_x);
280         *dmv_y = get_bits(gb, v->k_y);
281         if (v->numref) {
282             if (pred_flag)
283                 *pred_flag = *dmv_y & 1;
284             *dmv_y = (*dmv_y + (*dmv_y & 1)) >> 1;
285         }
286     }
287     else {
288         av_assert0(index < esc);
289         index1 = (index + 1) % 9;
290         if (index1 != 0) {
291             val    = get_bits(gb, index1 + extend_x);
292             sign   = 0 - (val & 1);
293             *dmv_x = (sign ^ ((val >> 1) + offset_table[extend_x][index1])) - sign;
294         } else
295             *dmv_x = 0;
296         index1 = (index + 1) / 9;
297         if (index1 > v->numref) {
298             val    = get_bits(gb, (index1 >> v->numref) + extend_y);
299             sign   = 0 - (val & 1);
300             *dmv_y = (sign ^ ((val >> 1) + offset_table[extend_y][index1 >> v->numref])) - sign;
301         } else
302             *dmv_y = 0;
303         if (v->numref && pred_flag)
304             *pred_flag = index1 & 1;
305     }
306 }
307
308 /** Reconstruct motion vector for B-frame and do motion compensation
309  */
310 static inline void vc1_b_mc(VC1Context *v, int dmv_x[2], int dmv_y[2],
311                             int direct, int mode)
312 {
313     if (direct) {
314         ff_vc1_mc_1mv(v, 0);
315         ff_vc1_interp_mc(v);
316         return;
317     }
318     if (mode == BMV_TYPE_INTERPOLATED) {
319         ff_vc1_mc_1mv(v, 0);
320         ff_vc1_interp_mc(v);
321         return;
322     }
323
324     ff_vc1_mc_1mv(v, (mode == BMV_TYPE_BACKWARD));
325 }
326
327 /** Get predicted DC value for I-frames only
328  * prediction dir: left=0, top=1
329  * @param s MpegEncContext
330  * @param overlap flag indicating that overlap filtering is used
331  * @param pq integer part of picture quantizer
332  * @param[in] n block index in the current MB
333  * @param dc_val_ptr Pointer to DC predictor
334  * @param dir_ptr Prediction direction for use in AC prediction
335  */
336 static inline int vc1_i_pred_dc(MpegEncContext *s, int overlap, int pq, int n,
337                                 int16_t **dc_val_ptr, int *dir_ptr)
338 {
339     int a, b, c, wrap, pred, scale;
340     int16_t *dc_val;
341     static const uint16_t dcpred[32] = {
342         -1, 1024,  512,  341,  256,  205,  171,  146,  128,
343              114,  102,   93,   85,   79,   73,   68,   64,
344               60,   57,   54,   51,   49,   47,   45,   43,
345               41,   39,   38,   37,   35,   34,   33
346     };
347
348     /* find prediction - wmv3_dc_scale always used here in fact */
349     if (n < 4) scale = s->y_dc_scale;
350     else       scale = s->c_dc_scale;
351
352     wrap   = s->block_wrap[n];
353     dc_val = s->dc_val[0] + s->block_index[n];
354
355     /* B A
356      * C X
357      */
358     c = dc_val[ - 1];
359     b = dc_val[ - 1 - wrap];
360     a = dc_val[ - wrap];
361
362     if (pq < 9 || !overlap) {
363         /* Set outer values */
364         if (s->first_slice_line && (n != 2 && n != 3))
365             b = a = dcpred[scale];
366         if (s->mb_x == 0 && (n != 1 && n != 3))
367             b = c = dcpred[scale];
368     } else {
369         /* Set outer values */
370         if (s->first_slice_line && (n != 2 && n != 3))
371             b = a = 0;
372         if (s->mb_x == 0 && (n != 1 && n != 3))
373             b = c = 0;
374     }
375
376     if (abs(a - b) <= abs(b - c)) {
377         pred     = c;
378         *dir_ptr = 1; // left
379     } else {
380         pred     = a;
381         *dir_ptr = 0; // top
382     }
383
384     /* update predictor */
385     *dc_val_ptr = &dc_val[0];
386     return pred;
387 }
388
389
390 /** Get predicted DC value
391  * prediction dir: left=0, top=1
392  * @param s MpegEncContext
393  * @param overlap flag indicating that overlap filtering is used
394  * @param pq integer part of picture quantizer
395  * @param[in] n block index in the current MB
396  * @param a_avail flag indicating top block availability
397  * @param c_avail flag indicating left block availability
398  * @param dc_val_ptr Pointer to DC predictor
399  * @param dir_ptr Prediction direction for use in AC prediction
400  */
401 static inline int ff_vc1_pred_dc(MpegEncContext *s, int overlap, int pq, int n,
402                               int a_avail, int c_avail,
403                               int16_t **dc_val_ptr, int *dir_ptr)
404 {
405     int a, b, c, wrap, pred;
406     int16_t *dc_val;
407     int mb_pos = s->mb_x + s->mb_y * s->mb_stride;
408     int q1, q2 = 0;
409     int dqscale_index;
410
411     /* scale predictors if needed */
412     q1 = FFABS(s->current_picture.qscale_table[mb_pos]);
413     dqscale_index = s->y_dc_scale_table[q1] - 1;
414     if (dqscale_index < 0)
415         return 0;
416
417     wrap = s->block_wrap[n];
418     dc_val = s->dc_val[0] + s->block_index[n];
419
420     /* B A
421      * C X
422      */
423     c = dc_val[ - 1];
424     b = dc_val[ - 1 - wrap];
425     a = dc_val[ - wrap];
426
427     if (c_avail && (n != 1 && n != 3)) {
428         q2 = FFABS(s->current_picture.qscale_table[mb_pos - 1]);
429         if (q2 && q2 != q1)
430             c = (c * s->y_dc_scale_table[q2] * ff_vc1_dqscale[dqscale_index] + 0x20000) >> 18;
431     }
432     if (a_avail && (n != 2 && n != 3)) {
433         q2 = FFABS(s->current_picture.qscale_table[mb_pos - s->mb_stride]);
434         if (q2 && q2 != q1)
435             a = (a * s->y_dc_scale_table[q2] * ff_vc1_dqscale[dqscale_index] + 0x20000) >> 18;
436     }
437     if (a_avail && c_avail && (n != 3)) {
438         int off = mb_pos;
439         if (n != 1)
440             off--;
441         if (n != 2)
442             off -= s->mb_stride;
443         q2 = FFABS(s->current_picture.qscale_table[off]);
444         if (q2 && q2 != q1)
445             b = (b * s->y_dc_scale_table[q2] * ff_vc1_dqscale[dqscale_index] + 0x20000) >> 18;
446     }
447
448     if (c_avail && (!a_avail || abs(a - b) <= abs(b - c))) {
449         pred     = c;
450         *dir_ptr = 1; // left
451     } else if (a_avail) {
452         pred     = a;
453         *dir_ptr = 0; // top
454     } else {
455         pred     = 0;
456         *dir_ptr = 1; // left
457     }
458
459     /* update predictor */
460     *dc_val_ptr = &dc_val[0];
461     return pred;
462 }
463
464 /** @} */ // Block group
465
466 /**
467  * @name VC1 Macroblock-level functions in Simple/Main Profiles
468  * @see 7.1.4, p91 and 8.1.1.7, p(1)04
469  * @{
470  */
471
472 static inline int vc1_coded_block_pred(MpegEncContext * s, int n,
473                                        uint8_t **coded_block_ptr)
474 {
475     int xy, wrap, pred, a, b, c;
476
477     xy   = s->block_index[n];
478     wrap = s->b8_stride;
479
480     /* B C
481      * A X
482      */
483     a = s->coded_block[xy - 1       ];
484     b = s->coded_block[xy - 1 - wrap];
485     c = s->coded_block[xy     - wrap];
486
487     if (b == c) {
488         pred = a;
489     } else {
490         pred = c;
491     }
492
493     /* store value */
494     *coded_block_ptr = &s->coded_block[xy];
495
496     return pred;
497 }
498
499 /**
500  * Decode one AC coefficient
501  * @param v The VC1 context
502  * @param last Last coefficient
503  * @param skip How much zero coefficients to skip
504  * @param value Decoded AC coefficient value
505  * @param codingset set of VLC to decode data
506  * @see 8.1.3.4
507  */
508 static void vc1_decode_ac_coeff(VC1Context *v, int *last, int *skip,
509                                 int *value, int codingset)
510 {
511     GetBitContext *gb = &v->s.gb;
512     int index, run, level, lst, sign;
513
514     index = get_vlc2(gb, ff_vc1_ac_coeff_table[codingset].table, AC_VLC_BITS, 3);
515     if (index != ff_vc1_ac_sizes[codingset] - 1) {
516         run   = vc1_index_decode_table[codingset][index][0];
517         level = vc1_index_decode_table[codingset][index][1];
518         lst   = index >= vc1_last_decode_table[codingset] || get_bits_left(gb) < 0;
519         sign  = get_bits1(gb);
520     } else {
521         int escape = decode210(gb);
522         if (escape != 2) {
523             index = get_vlc2(gb, ff_vc1_ac_coeff_table[codingset].table, AC_VLC_BITS, 3);
524             run   = vc1_index_decode_table[codingset][index][0];
525             level = vc1_index_decode_table[codingset][index][1];
526             lst   = index >= vc1_last_decode_table[codingset];
527             if (escape == 0) {
528                 if (lst)
529                     level += vc1_last_delta_level_table[codingset][run];
530                 else
531                     level += vc1_delta_level_table[codingset][run];
532             } else {
533                 if (lst)
534                     run += vc1_last_delta_run_table[codingset][level] + 1;
535                 else
536                     run += vc1_delta_run_table[codingset][level] + 1;
537             }
538             sign = get_bits1(gb);
539         } else {
540             lst = get_bits1(gb);
541             if (v->s.esc3_level_length == 0) {
542                 if (v->pq < 8 || v->dquantfrm) { // table 59
543                     v->s.esc3_level_length = get_bits(gb, 3);
544                     if (!v->s.esc3_level_length)
545                         v->s.esc3_level_length = get_bits(gb, 2) + 8;
546                 } else { // table 60
547                     v->s.esc3_level_length = get_unary(gb, 1, 6) + 2;
548                 }
549                 v->s.esc3_run_length = 3 + get_bits(gb, 2);
550             }
551             run   = get_bits(gb, v->s.esc3_run_length);
552             sign  = get_bits1(gb);
553             level = get_bits(gb, v->s.esc3_level_length);
554         }
555     }
556
557     *last  = lst;
558     *skip  = run;
559     *value = (level ^ -sign) + sign;
560 }
561
562 /** Decode intra block in intra frames - should be faster than decode_intra_block
563  * @param v VC1Context
564  * @param block block to decode
565  * @param[in] n subblock index
566  * @param coded are AC coeffs present or not
567  * @param codingset set of VLC to decode data
568  */
569 static int vc1_decode_i_block(VC1Context *v, int16_t block[64], int n,
570                               int coded, int codingset)
571 {
572     GetBitContext *gb = &v->s.gb;
573     MpegEncContext *s = &v->s;
574     int dc_pred_dir = 0; /* Direction of the DC prediction used */
575     int i;
576     int16_t *dc_val;
577     int16_t *ac_val, *ac_val2;
578     int dcdiff, scale;
579
580     /* Get DC differential */
581     if (n < 4) {
582         dcdiff = get_vlc2(&s->gb, ff_msmp4_dc_luma_vlc[s->dc_table_index].table, DC_VLC_BITS, 3);
583     } else {
584         dcdiff = get_vlc2(&s->gb, ff_msmp4_dc_chroma_vlc[s->dc_table_index].table, DC_VLC_BITS, 3);
585     }
586     if (dcdiff < 0) {
587         av_log(s->avctx, AV_LOG_ERROR, "Illegal DC VLC\n");
588         return -1;
589     }
590     if (dcdiff) {
591         const int m = (v->pq == 1 || v->pq == 2) ? 3 - v->pq : 0;
592         if (dcdiff == 119 /* ESC index value */) {
593             dcdiff = get_bits(gb, 8 + m);
594         } else {
595             if (m)
596                 dcdiff = (dcdiff << m) + get_bits(gb, m) - ((1 << m) - 1);
597         }
598         if (get_bits1(gb))
599             dcdiff = -dcdiff;
600     }
601
602     /* Prediction */
603     dcdiff += vc1_i_pred_dc(&v->s, v->overlap, v->pq, n, &dc_val, &dc_pred_dir);
604     *dc_val = dcdiff;
605
606     /* Store the quantized DC coeff, used for prediction */
607     if (n < 4)
608         scale = s->y_dc_scale;
609     else
610         scale = s->c_dc_scale;
611     block[0] = dcdiff * scale;
612
613     ac_val  = s->ac_val[0][s->block_index[n]];
614     ac_val2 = ac_val;
615     if (dc_pred_dir) // left
616         ac_val -= 16;
617     else // top
618         ac_val -= 16 * s->block_wrap[n];
619
620     scale = v->pq * 2 + v->halfpq;
621
622     //AC Decoding
623     i = !!coded;
624
625     if (coded) {
626         int last = 0, skip, value;
627         const uint8_t *zz_table;
628         int k;
629
630         if (v->s.ac_pred) {
631             if (!dc_pred_dir)
632                 zz_table = v->zz_8x8[2];
633             else
634                 zz_table = v->zz_8x8[3];
635         } else
636             zz_table = v->zz_8x8[1];
637
638         while (!last) {
639             vc1_decode_ac_coeff(v, &last, &skip, &value, codingset);
640             i += skip;
641             if (i > 63)
642                 break;
643             block[zz_table[i++]] = value;
644         }
645
646         /* apply AC prediction if needed */
647         if (s->ac_pred) {
648             int sh;
649             if (dc_pred_dir) { // left
650                 sh = v->left_blk_sh;
651             } else { // top
652                 sh = v->top_blk_sh;
653                 ac_val += 8;
654             }
655             for (k = 1; k < 8; k++)
656                 block[k << sh] += ac_val[k];
657         }
658         /* save AC coeffs for further prediction */
659         for (k = 1; k < 8; k++) {
660             ac_val2[k]     = block[k << v->left_blk_sh];
661             ac_val2[k + 8] = block[k << v->top_blk_sh];
662         }
663
664         /* scale AC coeffs */
665         for (k = 1; k < 64; k++)
666             if (block[k]) {
667                 block[k] *= scale;
668                 if (!v->pquantizer)
669                     block[k] += (block[k] < 0) ? -v->pq : v->pq;
670             }
671
672     } else {
673         int k;
674
675         memset(ac_val2, 0, 16 * 2);
676
677         /* apply AC prediction if needed */
678         if (s->ac_pred) {
679             int sh;
680             if (dc_pred_dir) { //left
681                 sh = v->left_blk_sh;
682             } else { // top
683                 sh = v->top_blk_sh;
684                 ac_val  += 8;
685                 ac_val2 += 8;
686             }
687             memcpy(ac_val2, ac_val, 8 * 2);
688             for (k = 1; k < 8; k++) {
689                 block[k << sh] = ac_val[k] * scale;
690                 if (!v->pquantizer && block[k << sh])
691                     block[k << sh] += (block[k << sh] < 0) ? -v->pq : v->pq;
692             }
693         }
694     }
695     if (s->ac_pred) i = 63;
696     s->block_last_index[n] = i;
697
698     return 0;
699 }
700
701 /** Decode intra block in intra frames - should be faster than decode_intra_block
702  * @param v VC1Context
703  * @param block block to decode
704  * @param[in] n subblock number
705  * @param coded are AC coeffs present or not
706  * @param codingset set of VLC to decode data
707  * @param mquant quantizer value for this macroblock
708  */
709 static int vc1_decode_i_block_adv(VC1Context *v, int16_t block[64], int n,
710                                   int coded, int codingset, int mquant)
711 {
712     GetBitContext *gb = &v->s.gb;
713     MpegEncContext *s = &v->s;
714     int dc_pred_dir = 0; /* Direction of the DC prediction used */
715     int i;
716     int16_t *dc_val = NULL;
717     int16_t *ac_val, *ac_val2;
718     int dcdiff;
719     int a_avail = v->a_avail, c_avail = v->c_avail;
720     int use_pred = s->ac_pred;
721     int scale;
722     int q1, q2 = 0;
723     int mb_pos = s->mb_x + s->mb_y * s->mb_stride;
724     int quant = FFABS(mquant);
725
726     /* Get DC differential */
727     if (n < 4) {
728         dcdiff = get_vlc2(&s->gb, ff_msmp4_dc_luma_vlc[s->dc_table_index].table, DC_VLC_BITS, 3);
729     } else {
730         dcdiff = get_vlc2(&s->gb, ff_msmp4_dc_chroma_vlc[s->dc_table_index].table, DC_VLC_BITS, 3);
731     }
732     if (dcdiff < 0) {
733         av_log(s->avctx, AV_LOG_ERROR, "Illegal DC VLC\n");
734         return -1;
735     }
736     if (dcdiff) {
737         const int m = (quant == 1 || quant == 2) ? 3 - quant : 0;
738         if (dcdiff == 119 /* ESC index value */) {
739             dcdiff = get_bits(gb, 8 + m);
740         } else {
741             if (m)
742                 dcdiff = (dcdiff << m) + get_bits(gb, m) - ((1 << m) - 1);
743         }
744         if (get_bits1(gb))
745             dcdiff = -dcdiff;
746     }
747
748     /* Prediction */
749     dcdiff += ff_vc1_pred_dc(&v->s, v->overlap, quant, n, v->a_avail, v->c_avail, &dc_val, &dc_pred_dir);
750     *dc_val = dcdiff;
751
752     /* Store the quantized DC coeff, used for prediction */
753     if (n < 4)
754         scale = s->y_dc_scale;
755     else
756         scale = s->c_dc_scale;
757     block[0] = dcdiff * scale;
758
759     /* check if AC is needed at all */
760     if (!a_avail && !c_avail)
761         use_pred = 0;
762
763     scale = quant * 2 + ((mquant < 0) ? 0 : v->halfpq);
764
765     ac_val  = s->ac_val[0][s->block_index[n]];
766     ac_val2 = ac_val;
767     if (dc_pred_dir) // left
768         ac_val -= 16;
769     else // top
770         ac_val -= 16 * s->block_wrap[n];
771
772     q1 = s->current_picture.qscale_table[mb_pos];
773     if (n == 3)
774         q2 = q1;
775     else if (dc_pred_dir) {
776         if (n == 1)
777             q2 = q1;
778         else if (c_avail && mb_pos)
779             q2 = s->current_picture.qscale_table[mb_pos - 1];
780     } else {
781         if (n == 2)
782             q2 = q1;
783         else if (a_avail && mb_pos >= s->mb_stride)
784             q2 = s->current_picture.qscale_table[mb_pos - s->mb_stride];
785     }
786
787     //AC Decoding
788     i = 1;
789
790     if (coded) {
791         int last = 0, skip, value;
792         const uint8_t *zz_table;
793         int k;
794
795         if (v->s.ac_pred) {
796             if (!use_pred && v->fcm == ILACE_FRAME) {
797                 zz_table = v->zzi_8x8;
798             } else {
799                 if (!dc_pred_dir) // top
800                     zz_table = v->zz_8x8[2];
801                 else // left
802                     zz_table = v->zz_8x8[3];
803             }
804         } else {
805             if (v->fcm != ILACE_FRAME)
806                 zz_table = v->zz_8x8[1];
807             else
808                 zz_table = v->zzi_8x8;
809         }
810
811         while (!last) {
812             vc1_decode_ac_coeff(v, &last, &skip, &value, codingset);
813             i += skip;
814             if (i > 63)
815                 break;
816             block[zz_table[i++]] = value;
817         }
818
819         /* apply AC prediction if needed */
820         if (use_pred) {
821             int sh;
822             if (dc_pred_dir) { // left
823                 sh = v->left_blk_sh;
824             } else { // top
825                 sh = v->top_blk_sh;
826                 ac_val += 8;
827             }
828             /* scale predictors if needed*/
829             q1 = FFABS(q1) * 2 + ((q1 < 0) ? 0 : v->halfpq) - 1;
830             if (q1 < 1)
831                 return AVERROR_INVALIDDATA;
832             if (q2)
833                 q2 = FFABS(q2) * 2 + ((q2 < 0) ? 0 : v->halfpq) - 1;
834             if (q2 && q1 != q2) {
835                 for (k = 1; k < 8; k++)
836                     block[k << sh] += (ac_val[k] * q2 * ff_vc1_dqscale[q1 - 1] + 0x20000) >> 18;
837             } else {
838                 for (k = 1; k < 8; k++)
839                     block[k << sh] += ac_val[k];
840             }
841         }
842         /* save AC coeffs for further prediction */
843         for (k = 1; k < 8; k++) {
844             ac_val2[k    ] = block[k << v->left_blk_sh];
845             ac_val2[k + 8] = block[k << v->top_blk_sh];
846         }
847
848         /* scale AC coeffs */
849         for (k = 1; k < 64; k++)
850             if (block[k]) {
851                 block[k] *= scale;
852                 if (!v->pquantizer)
853                     block[k] += (block[k] < 0) ? -quant : quant;
854             }
855
856     } else { // no AC coeffs
857         int k;
858
859         memset(ac_val2, 0, 16 * 2);
860
861         /* apply AC prediction if needed */
862         if (use_pred) {
863             int sh;
864             if (dc_pred_dir) { // left
865                 sh = v->left_blk_sh;
866             } else { // top
867                 sh = v->top_blk_sh;
868                 ac_val  += 8;
869                 ac_val2 += 8;
870             }
871             memcpy(ac_val2, ac_val, 8 * 2);
872             q1 = FFABS(q1) * 2 + ((q1 < 0) ? 0 : v->halfpq) - 1;
873             if (q1 < 1)
874                 return AVERROR_INVALIDDATA;
875             if (q2)
876                 q2 = FFABS(q2) * 2 + ((q2 < 0) ? 0 : v->halfpq) - 1;
877             if (q2 && q1 != q2) {
878                 for (k = 1; k < 8; k++)
879                     ac_val2[k] = (ac_val2[k] * q2 * ff_vc1_dqscale[q1 - 1] + 0x20000) >> 18;
880             }
881             for (k = 1; k < 8; k++) {
882                 block[k << sh] = ac_val2[k] * scale;
883                 if (!v->pquantizer && block[k << sh])
884                     block[k << sh] += (block[k << sh] < 0) ? -quant : quant;
885             }
886         }
887     }
888     if (use_pred) i = 63;
889     s->block_last_index[n] = i;
890
891     return 0;
892 }
893
894 /** Decode intra block in inter frames - more generic version than vc1_decode_i_block
895  * @param v VC1Context
896  * @param block block to decode
897  * @param[in] n subblock index
898  * @param coded are AC coeffs present or not
899  * @param mquant block quantizer
900  * @param codingset set of VLC to decode data
901  */
902 static int vc1_decode_intra_block(VC1Context *v, int16_t block[64], int n,
903                                   int coded, int mquant, int codingset)
904 {
905     GetBitContext *gb = &v->s.gb;
906     MpegEncContext *s = &v->s;
907     int dc_pred_dir = 0; /* Direction of the DC prediction used */
908     int i;
909     int16_t *dc_val = NULL;
910     int16_t *ac_val, *ac_val2;
911     int dcdiff;
912     int mb_pos = s->mb_x + s->mb_y * s->mb_stride;
913     int a_avail = v->a_avail, c_avail = v->c_avail;
914     int use_pred = s->ac_pred;
915     int scale;
916     int q1, q2 = 0;
917     int quant = FFABS(mquant);
918
919     s->bdsp.clear_block(block);
920
921     /* XXX: Guard against dumb values of mquant */
922     quant = av_clip_uintp2(quant, 5);
923
924     /* Set DC scale - y and c use the same */
925     s->y_dc_scale = s->y_dc_scale_table[quant];
926     s->c_dc_scale = s->c_dc_scale_table[quant];
927
928     /* Get DC differential */
929     if (n < 4) {
930         dcdiff = get_vlc2(&s->gb, ff_msmp4_dc_luma_vlc[s->dc_table_index].table, DC_VLC_BITS, 3);
931     } else {
932         dcdiff = get_vlc2(&s->gb, ff_msmp4_dc_chroma_vlc[s->dc_table_index].table, DC_VLC_BITS, 3);
933     }
934     if (dcdiff < 0) {
935         av_log(s->avctx, AV_LOG_ERROR, "Illegal DC VLC\n");
936         return -1;
937     }
938     if (dcdiff) {
939         const int m = (quant == 1 || quant == 2) ? 3 - quant : 0;
940         if (dcdiff == 119 /* ESC index value */) {
941             dcdiff = get_bits(gb, 8 + m);
942         } else {
943             if (m)
944                 dcdiff = (dcdiff << m) + get_bits(gb, m) - ((1 << m) - 1);
945         }
946         if (get_bits1(gb))
947             dcdiff = -dcdiff;
948     }
949
950     /* Prediction */
951     dcdiff += ff_vc1_pred_dc(&v->s, v->overlap, quant, n, a_avail, c_avail, &dc_val, &dc_pred_dir);
952     *dc_val = dcdiff;
953
954     /* Store the quantized DC coeff, used for prediction */
955
956     if (n < 4) {
957         block[0] = dcdiff * s->y_dc_scale;
958     } else {
959         block[0] = dcdiff * s->c_dc_scale;
960     }
961
962     //AC Decoding
963     i = 1;
964
965     /* check if AC is needed at all and adjust direction if needed */
966     if (!a_avail) dc_pred_dir = 1;
967     if (!c_avail) dc_pred_dir = 0;
968     if (!a_avail && !c_avail) use_pred = 0;
969     ac_val = s->ac_val[0][s->block_index[n]];
970     ac_val2 = ac_val;
971
972     scale = quant * 2 + ((mquant < 0) ? 0 : v->halfpq);
973
974     if (dc_pred_dir) //left
975         ac_val -= 16;
976     else //top
977         ac_val -= 16 * s->block_wrap[n];
978
979     q1 = s->current_picture.qscale_table[mb_pos];
980     if (dc_pred_dir && c_avail && mb_pos)
981         q2 = s->current_picture.qscale_table[mb_pos - 1];
982     if (!dc_pred_dir && a_avail && mb_pos >= s->mb_stride)
983         q2 = s->current_picture.qscale_table[mb_pos - s->mb_stride];
984     if (dc_pred_dir && n == 1)
985         q2 = q1;
986     if (!dc_pred_dir && n == 2)
987         q2 = q1;
988     if (n == 3) q2 = q1;
989
990     if (coded) {
991         int last = 0, skip, value;
992         int k;
993
994         while (!last) {
995             vc1_decode_ac_coeff(v, &last, &skip, &value, codingset);
996             i += skip;
997             if (i > 63)
998                 break;
999             if (v->fcm == PROGRESSIVE)
1000                 block[v->zz_8x8[0][i++]] = value;
1001             else {
1002                 if (use_pred && (v->fcm == ILACE_FRAME)) {
1003                     if (!dc_pred_dir) // top
1004                         block[v->zz_8x8[2][i++]] = value;
1005                     else // left
1006                         block[v->zz_8x8[3][i++]] = value;
1007                 } else {
1008                     block[v->zzi_8x8[i++]] = value;
1009                 }
1010             }
1011         }
1012
1013         /* apply AC prediction if needed */
1014         if (use_pred) {
1015             /* scale predictors if needed*/
1016             q1 = FFABS(q1) * 2 + ((q1 < 0) ? 0 : v->halfpq) - 1;
1017             if (q1 < 1)
1018                 return AVERROR_INVALIDDATA;
1019             if (q2)
1020                 q2 = FFABS(q2) * 2 + ((q2 < 0) ? 0 : v->halfpq) - 1;
1021             if (q2 && q1 != q2) {
1022                 if (dc_pred_dir) { // left
1023                     for (k = 1; k < 8; k++)
1024                         block[k << v->left_blk_sh] += (ac_val[k] * q2 * ff_vc1_dqscale[q1 - 1] + 0x20000) >> 18;
1025                 } else { //top
1026                     for (k = 1; k < 8; k++)
1027                         block[k << v->top_blk_sh] += (ac_val[k + 8] * q2 * ff_vc1_dqscale[q1 - 1] + 0x20000) >> 18;
1028                 }
1029             } else {
1030                 if (dc_pred_dir) { // left
1031                     for (k = 1; k < 8; k++)
1032                         block[k << v->left_blk_sh] += ac_val[k];
1033                 } else { // top
1034                     for (k = 1; k < 8; k++)
1035                         block[k << v->top_blk_sh] += ac_val[k + 8];
1036                 }
1037             }
1038         }
1039         /* save AC coeffs for further prediction */
1040         for (k = 1; k < 8; k++) {
1041             ac_val2[k    ] = block[k << v->left_blk_sh];
1042             ac_val2[k + 8] = block[k << v->top_blk_sh];
1043         }
1044
1045         /* scale AC coeffs */
1046         for (k = 1; k < 64; k++)
1047             if (block[k]) {
1048                 block[k] *= scale;
1049                 if (!v->pquantizer)
1050                     block[k] += (block[k] < 0) ? -quant : quant;
1051             }
1052
1053         if (use_pred) i = 63;
1054     } else { // no AC coeffs
1055         int k;
1056
1057         memset(ac_val2, 0, 16 * 2);
1058         if (dc_pred_dir) { // left
1059             if (use_pred) {
1060                 memcpy(ac_val2, ac_val, 8 * 2);
1061                 q1 = FFABS(q1) * 2 + ((q1 < 0) ? 0 : v->halfpq) - 1;
1062                 if (q1 < 1)
1063                     return AVERROR_INVALIDDATA;
1064                 if (q2)
1065                     q2 = FFABS(q2) * 2 + ((q2 < 0) ? 0 : v->halfpq) - 1;
1066                 if (q2 && q1 != q2) {
1067                     for (k = 1; k < 8; k++)
1068                         ac_val2[k] = (ac_val2[k] * q2 * ff_vc1_dqscale[q1 - 1] + 0x20000) >> 18;
1069                 }
1070             }
1071         } else { // top
1072             if (use_pred) {
1073                 memcpy(ac_val2 + 8, ac_val + 8, 8 * 2);
1074                 q1 = FFABS(q1) * 2 + ((q1 < 0) ? 0 : v->halfpq) - 1;
1075                 if (q1 < 1)
1076                     return AVERROR_INVALIDDATA;
1077                 if (q2)
1078                     q2 = FFABS(q2) * 2 + ((q2 < 0) ? 0 : v->halfpq) - 1;
1079                 if (q2 && q1 != q2) {
1080                     for (k = 1; k < 8; k++)
1081                         ac_val2[k + 8] = (ac_val2[k + 8] * q2 * ff_vc1_dqscale[q1 - 1] + 0x20000) >> 18;
1082                 }
1083             }
1084         }
1085
1086         /* apply AC prediction if needed */
1087         if (use_pred) {
1088             if (dc_pred_dir) { // left
1089                 for (k = 1; k < 8; k++) {
1090                     block[k << v->left_blk_sh] = ac_val2[k] * scale;
1091                     if (!v->pquantizer && block[k << v->left_blk_sh])
1092                         block[k << v->left_blk_sh] += (block[k << v->left_blk_sh] < 0) ? -quant : quant;
1093                 }
1094             } else { // top
1095                 for (k = 1; k < 8; k++) {
1096                     block[k << v->top_blk_sh] = ac_val2[k + 8] * scale;
1097                     if (!v->pquantizer && block[k << v->top_blk_sh])
1098                         block[k << v->top_blk_sh] += (block[k << v->top_blk_sh] < 0) ? -quant : quant;
1099                 }
1100             }
1101             i = 63;
1102         }
1103     }
1104     s->block_last_index[n] = i;
1105
1106     return 0;
1107 }
1108
1109 /** Decode P block
1110  */
1111 static int vc1_decode_p_block(VC1Context *v, int16_t block[64], int n,
1112                               int mquant, int ttmb, int first_block,
1113                               uint8_t *dst, int linesize, int skip_block,
1114                               int *ttmb_out)
1115 {
1116     MpegEncContext *s = &v->s;
1117     GetBitContext *gb = &s->gb;
1118     int i, j;
1119     int subblkpat = 0;
1120     int scale, off, idx, last, skip, value;
1121     int ttblk = ttmb & 7;
1122     int pat = 0;
1123     int quant = FFABS(mquant);
1124
1125     s->bdsp.clear_block(block);
1126
1127     if (ttmb == -1) {
1128         ttblk = ff_vc1_ttblk_to_tt[v->tt_index][get_vlc2(gb, ff_vc1_ttblk_vlc[v->tt_index].table, VC1_TTBLK_VLC_BITS, 1)];
1129     }
1130     if (ttblk == TT_4X4) {
1131         subblkpat = ~(get_vlc2(gb, ff_vc1_subblkpat_vlc[v->tt_index].table, VC1_SUBBLKPAT_VLC_BITS, 1) + 1);
1132     }
1133     if ((ttblk != TT_8X8 && ttblk != TT_4X4)
1134         && ((v->ttmbf || (ttmb != -1 && (ttmb & 8) && !first_block))
1135             || (!v->res_rtm_flag && !first_block))) {
1136         subblkpat = decode012(gb);
1137         if (subblkpat)
1138             subblkpat ^= 3; // swap decoded pattern bits
1139         if (ttblk == TT_8X4_TOP || ttblk == TT_8X4_BOTTOM)
1140             ttblk = TT_8X4;
1141         if (ttblk == TT_4X8_RIGHT || ttblk == TT_4X8_LEFT)
1142             ttblk = TT_4X8;
1143     }
1144     scale = quant * 2 + ((mquant < 0) ? 0 : v->halfpq);
1145
1146     // convert transforms like 8X4_TOP to generic TT and SUBBLKPAT
1147     if (ttblk == TT_8X4_TOP || ttblk == TT_8X4_BOTTOM) {
1148         subblkpat = 2 - (ttblk == TT_8X4_TOP);
1149         ttblk     = TT_8X4;
1150     }
1151     if (ttblk == TT_4X8_RIGHT || ttblk == TT_4X8_LEFT) {
1152         subblkpat = 2 - (ttblk == TT_4X8_LEFT);
1153         ttblk     = TT_4X8;
1154     }
1155     switch (ttblk) {
1156     case TT_8X8:
1157         pat  = 0xF;
1158         i    = 0;
1159         last = 0;
1160         while (!last) {
1161             vc1_decode_ac_coeff(v, &last, &skip, &value, v->codingset2);
1162             i += skip;
1163             if (i > 63)
1164                 break;
1165             if (!v->fcm)
1166                 idx = v->zz_8x8[0][i++];
1167             else
1168                 idx = v->zzi_8x8[i++];
1169             block[idx] = value * scale;
1170             if (!v->pquantizer)
1171                 block[idx] += (block[idx] < 0) ? -quant : quant;
1172         }
1173         if (!skip_block) {
1174             if (i == 1)
1175                 v->vc1dsp.vc1_inv_trans_8x8_dc(dst, linesize, block);
1176             else {
1177                 v->vc1dsp.vc1_inv_trans_8x8(block);
1178                 s->idsp.add_pixels_clamped(block, dst, linesize);
1179             }
1180         }
1181         break;
1182     case TT_4X4:
1183         pat = ~subblkpat & 0xF;
1184         for (j = 0; j < 4; j++) {
1185             last = subblkpat & (1 << (3 - j));
1186             i    = 0;
1187             off  = (j & 1) * 4 + (j & 2) * 16;
1188             while (!last) {
1189                 vc1_decode_ac_coeff(v, &last, &skip, &value, v->codingset2);
1190                 i += skip;
1191                 if (i > 15)
1192                     break;
1193                 if (!v->fcm)
1194                     idx = ff_vc1_simple_progressive_4x4_zz[i++];
1195                 else
1196                     idx = ff_vc1_adv_interlaced_4x4_zz[i++];
1197                 block[idx + off] = value * scale;
1198                 if (!v->pquantizer)
1199                     block[idx + off] += (block[idx + off] < 0) ? -quant : quant;
1200             }
1201             if (!(subblkpat & (1 << (3 - j))) && !skip_block) {
1202                 if (i == 1)
1203                     v->vc1dsp.vc1_inv_trans_4x4_dc(dst + (j & 1) * 4 + (j & 2) * 2 * linesize, linesize, block + off);
1204                 else
1205                     v->vc1dsp.vc1_inv_trans_4x4(dst + (j & 1) * 4 + (j & 2) *  2 * linesize, linesize, block + off);
1206             }
1207         }
1208         break;
1209     case TT_8X4:
1210         pat = ~((subblkpat & 2) * 6 + (subblkpat & 1) * 3) & 0xF;
1211         for (j = 0; j < 2; j++) {
1212             last = subblkpat & (1 << (1 - j));
1213             i    = 0;
1214             off  = j * 32;
1215             while (!last) {
1216                 vc1_decode_ac_coeff(v, &last, &skip, &value, v->codingset2);
1217                 i += skip;
1218                 if (i > 31)
1219                     break;
1220                 if (!v->fcm)
1221                     idx = v->zz_8x4[i++] + off;
1222                 else
1223                     idx = ff_vc1_adv_interlaced_8x4_zz[i++] + off;
1224                 block[idx] = value * scale;
1225                 if (!v->pquantizer)
1226                     block[idx] += (block[idx] < 0) ? -quant : quant;
1227             }
1228             if (!(subblkpat & (1 << (1 - j))) && !skip_block) {
1229                 if (i == 1)
1230                     v->vc1dsp.vc1_inv_trans_8x4_dc(dst + j * 4 * linesize, linesize, block + off);
1231                 else
1232                     v->vc1dsp.vc1_inv_trans_8x4(dst + j * 4 * linesize, linesize, block + off);
1233             }
1234         }
1235         break;
1236     case TT_4X8:
1237         pat = ~(subblkpat * 5) & 0xF;
1238         for (j = 0; j < 2; j++) {
1239             last = subblkpat & (1 << (1 - j));
1240             i    = 0;
1241             off  = j * 4;
1242             while (!last) {
1243                 vc1_decode_ac_coeff(v, &last, &skip, &value, v->codingset2);
1244                 i += skip;
1245                 if (i > 31)
1246                     break;
1247                 if (!v->fcm)
1248                     idx = v->zz_4x8[i++] + off;
1249                 else
1250                     idx = ff_vc1_adv_interlaced_4x8_zz[i++] + off;
1251                 block[idx] = value * scale;
1252                 if (!v->pquantizer)
1253                     block[idx] += (block[idx] < 0) ? -quant : quant;
1254             }
1255             if (!(subblkpat & (1 << (1 - j))) && !skip_block) {
1256                 if (i == 1)
1257                     v->vc1dsp.vc1_inv_trans_4x8_dc(dst + j * 4, linesize, block + off);
1258                 else
1259                     v->vc1dsp.vc1_inv_trans_4x8(dst + j*4, linesize, block + off);
1260             }
1261         }
1262         break;
1263     }
1264     if (ttmb_out)
1265         *ttmb_out |= ttblk << (n * 4);
1266     return pat;
1267 }
1268
1269 /** @} */ // Macroblock group
1270
1271 static const uint8_t size_table[6] = { 0, 2, 3, 4,  5,  8 };
1272
1273 /** Decode one P-frame MB
1274  */
1275 static int vc1_decode_p_mb(VC1Context *v)
1276 {
1277     MpegEncContext *s = &v->s;
1278     GetBitContext *gb = &s->gb;
1279     int i, j;
1280     int mb_pos = s->mb_x + s->mb_y * s->mb_stride;
1281     int cbp; /* cbp decoding stuff */
1282     int mqdiff, mquant; /* MB quantization */
1283     int ttmb = v->ttfrm; /* MB Transform type */
1284
1285     int mb_has_coeffs = 1; /* last_flag */
1286     int dmv_x, dmv_y; /* Differential MV components */
1287     int index, index1; /* LUT indexes */
1288     int val, sign; /* temp values */
1289     int first_block = 1;
1290     int dst_idx, off;
1291     int skipped, fourmv;
1292     int block_cbp = 0, pat, block_tt = 0, block_intra = 0;
1293
1294     mquant = v->pq; /* lossy initialization */
1295
1296     if (v->mv_type_is_raw)
1297         fourmv = get_bits1(gb);
1298     else
1299         fourmv = v->mv_type_mb_plane[mb_pos];
1300     if (v->skip_is_raw)
1301         skipped = get_bits1(gb);
1302     else
1303         skipped = v->s.mbskip_table[mb_pos];
1304
1305     if (!fourmv) { /* 1MV mode */
1306         if (!skipped) {
1307             GET_MVDATA(dmv_x, dmv_y);
1308
1309             if (s->mb_intra) {
1310                 s->current_picture.motion_val[1][s->block_index[0]][0] = 0;
1311                 s->current_picture.motion_val[1][s->block_index[0]][1] = 0;
1312             }
1313             s->current_picture.mb_type[mb_pos] = s->mb_intra ? MB_TYPE_INTRA : MB_TYPE_16x16;
1314             ff_vc1_pred_mv(v, 0, dmv_x, dmv_y, 1, v->range_x, v->range_y, v->mb_type[0], 0, 0);
1315
1316             /* FIXME Set DC val for inter block ? */
1317             if (s->mb_intra && !mb_has_coeffs) {
1318                 GET_MQUANT();
1319                 s->ac_pred = get_bits1(gb);
1320                 cbp        = 0;
1321             } else if (mb_has_coeffs) {
1322                 if (s->mb_intra)
1323                     s->ac_pred = get_bits1(gb);
1324                 cbp = get_vlc2(&v->s.gb, v->cbpcy_vlc->table, VC1_CBPCY_P_VLC_BITS, 2);
1325                 GET_MQUANT();
1326             } else {
1327                 mquant = v->pq;
1328                 cbp    = 0;
1329             }
1330             s->current_picture.qscale_table[mb_pos] = mquant;
1331
1332             if (!v->ttmbf && !s->mb_intra && mb_has_coeffs)
1333                 ttmb = get_vlc2(gb, ff_vc1_ttmb_vlc[v->tt_index].table,
1334                                 VC1_TTMB_VLC_BITS, 2);
1335             if (!s->mb_intra) ff_vc1_mc_1mv(v, 0);
1336             dst_idx = 0;
1337             for (i = 0; i < 6; i++) {
1338                 s->dc_val[0][s->block_index[i]] = 0;
1339                 dst_idx += i >> 2;
1340                 val = ((cbp >> (5 - i)) & 1);
1341                 off = (i & 4) ? 0 : ((i & 1) * 8 + (i & 2) * 4 * s->linesize);
1342                 v->mb_type[0][s->block_index[i]] = s->mb_intra;
1343                 if (s->mb_intra) {
1344                     /* check if prediction blocks A and C are available */
1345                     v->a_avail = v->c_avail = 0;
1346                     if (i == 2 || i == 3 || !s->first_slice_line)
1347                         v->a_avail = v->mb_type[0][s->block_index[i] - s->block_wrap[i]];
1348                     if (i == 1 || i == 3 || s->mb_x)
1349                         v->c_avail = v->mb_type[0][s->block_index[i] - 1];
1350
1351                     vc1_decode_intra_block(v, v->block[v->cur_blk_idx][i], i, val, mquant,
1352                                            (i & 4) ? v->codingset2 : v->codingset);
1353                     if (CONFIG_GRAY && (i > 3) && (s->avctx->flags & AV_CODEC_FLAG_GRAY))
1354                         continue;
1355                     v->vc1dsp.vc1_inv_trans_8x8(v->block[v->cur_blk_idx][i]);
1356                     if (v->rangeredfrm)
1357                         for (j = 0; j < 64; j++)
1358                             v->block[v->cur_blk_idx][i][j] <<= 1;
1359                     block_cbp   |= 0xF << (i << 2);
1360                     block_intra |= 1 << i;
1361                 } else if (val) {
1362                     pat = vc1_decode_p_block(v, v->block[v->cur_blk_idx][i], i, mquant, ttmb, first_block,
1363                                              s->dest[dst_idx] + off, (i & 4) ? s->uvlinesize : s->linesize,
1364                                              CONFIG_GRAY && (i & 4) && (s->avctx->flags & AV_CODEC_FLAG_GRAY), &block_tt);
1365                     block_cbp |= pat << (i << 2);
1366                     if (!v->ttmbf && ttmb < 8)
1367                         ttmb = -1;
1368                     first_block = 0;
1369                 }
1370             }
1371         } else { // skipped
1372             s->mb_intra = 0;
1373             for (i = 0; i < 6; i++) {
1374                 v->mb_type[0][s->block_index[i]] = 0;
1375                 s->dc_val[0][s->block_index[i]]  = 0;
1376             }
1377             s->current_picture.mb_type[mb_pos]      = MB_TYPE_SKIP;
1378             s->current_picture.qscale_table[mb_pos] = 0;
1379             ff_vc1_pred_mv(v, 0, 0, 0, 1, v->range_x, v->range_y, v->mb_type[0], 0, 0);
1380             ff_vc1_mc_1mv(v, 0);
1381         }
1382     } else { // 4MV mode
1383         if (!skipped /* unskipped MB */) {
1384             int intra_count = 0, coded_inter = 0;
1385             int is_intra[6], is_coded[6];
1386             /* Get CBPCY */
1387             cbp = get_vlc2(&v->s.gb, v->cbpcy_vlc->table, VC1_CBPCY_P_VLC_BITS, 2);
1388             for (i = 0; i < 6; i++) {
1389                 val = ((cbp >> (5 - i)) & 1);
1390                 s->dc_val[0][s->block_index[i]] = 0;
1391                 s->mb_intra                     = 0;
1392                 if (i < 4) {
1393                     dmv_x = dmv_y = 0;
1394                     s->mb_intra   = 0;
1395                     mb_has_coeffs = 0;
1396                     if (val) {
1397                         GET_MVDATA(dmv_x, dmv_y);
1398                     }
1399                     ff_vc1_pred_mv(v, i, dmv_x, dmv_y, 0, v->range_x, v->range_y, v->mb_type[0], 0, 0);
1400                     if (!s->mb_intra)
1401                         ff_vc1_mc_4mv_luma(v, i, 0, 0);
1402                     intra_count += s->mb_intra;
1403                     is_intra[i]  = s->mb_intra;
1404                     is_coded[i]  = mb_has_coeffs;
1405                 }
1406                 if (i & 4) {
1407                     is_intra[i] = (intra_count >= 3);
1408                     is_coded[i] = val;
1409                 }
1410                 if (i == 4)
1411                     ff_vc1_mc_4mv_chroma(v, 0);
1412                 v->mb_type[0][s->block_index[i]] = is_intra[i];
1413                 if (!coded_inter)
1414                     coded_inter = !is_intra[i] & is_coded[i];
1415             }
1416             // if there are no coded blocks then don't do anything more
1417             dst_idx = 0;
1418             if (!intra_count && !coded_inter)
1419                 goto end;
1420             GET_MQUANT();
1421             s->current_picture.qscale_table[mb_pos] = mquant;
1422             /* test if block is intra and has pred */
1423             {
1424                 int intrapred = 0;
1425                 for (i = 0; i < 6; i++)
1426                     if (is_intra[i]) {
1427                         if (((!s->first_slice_line || (i == 2 || i == 3)) && v->mb_type[0][s->block_index[i] - s->block_wrap[i]])
1428                             || ((s->mb_x || (i == 1 || i == 3)) && v->mb_type[0][s->block_index[i] - 1])) {
1429                             intrapred = 1;
1430                             break;
1431                         }
1432                     }
1433                 if (intrapred)
1434                     s->ac_pred = get_bits1(gb);
1435                 else
1436                     s->ac_pred = 0;
1437             }
1438             if (!v->ttmbf && coded_inter)
1439                 ttmb = get_vlc2(gb, ff_vc1_ttmb_vlc[v->tt_index].table, VC1_TTMB_VLC_BITS, 2);
1440             for (i = 0; i < 6; i++) {
1441                 dst_idx    += i >> 2;
1442                 off         = (i & 4) ? 0 : ((i & 1) * 8 + (i & 2) * 4 * s->linesize);
1443                 s->mb_intra = is_intra[i];
1444                 if (is_intra[i]) {
1445                     /* check if prediction blocks A and C are available */
1446                     v->a_avail = v->c_avail = 0;
1447                     if (i == 2 || i == 3 || !s->first_slice_line)
1448                         v->a_avail = v->mb_type[0][s->block_index[i] - s->block_wrap[i]];
1449                     if (i == 1 || i == 3 || s->mb_x)
1450                         v->c_avail = v->mb_type[0][s->block_index[i] - 1];
1451
1452                     vc1_decode_intra_block(v, v->block[v->cur_blk_idx][i], i, is_coded[i], mquant,
1453                                            (i & 4) ? v->codingset2 : v->codingset);
1454                     if (CONFIG_GRAY && (i > 3) && (s->avctx->flags & AV_CODEC_FLAG_GRAY))
1455                         continue;
1456                     v->vc1dsp.vc1_inv_trans_8x8(v->block[v->cur_blk_idx][i]);
1457                     if (v->rangeredfrm)
1458                         for (j = 0; j < 64; j++)
1459                             v->block[v->cur_blk_idx][i][j] <<= 1;
1460                     block_cbp   |= 0xF << (i << 2);
1461                     block_intra |= 1 << i;
1462                 } else if (is_coded[i]) {
1463                     pat = vc1_decode_p_block(v, v->block[v->cur_blk_idx][i], i, mquant, ttmb,
1464                                              first_block, s->dest[dst_idx] + off,
1465                                              (i & 4) ? s->uvlinesize : s->linesize,
1466                                              CONFIG_GRAY && (i & 4) && (s->avctx->flags & AV_CODEC_FLAG_GRAY),
1467                                              &block_tt);
1468                     block_cbp |= pat << (i << 2);
1469                     if (!v->ttmbf && ttmb < 8)
1470                         ttmb = -1;
1471                     first_block = 0;
1472                 }
1473             }
1474         } else { // skipped MB
1475             s->mb_intra                               = 0;
1476             s->current_picture.qscale_table[mb_pos] = 0;
1477             for (i = 0; i < 6; i++) {
1478                 v->mb_type[0][s->block_index[i]] = 0;
1479                 s->dc_val[0][s->block_index[i]]  = 0;
1480             }
1481             for (i = 0; i < 4; i++) {
1482                 ff_vc1_pred_mv(v, i, 0, 0, 0, v->range_x, v->range_y, v->mb_type[0], 0, 0);
1483                 ff_vc1_mc_4mv_luma(v, i, 0, 0);
1484             }
1485             ff_vc1_mc_4mv_chroma(v, 0);
1486             s->current_picture.qscale_table[mb_pos] = 0;
1487         }
1488     }
1489 end:
1490     if (v->overlap && v->pq >= 9)
1491         ff_vc1_p_overlap_filter(v);
1492     vc1_put_blocks_clamped(v, 1);
1493
1494     v->cbp[s->mb_x]      = block_cbp;
1495     v->ttblk[s->mb_x]    = block_tt;
1496     v->is_intra[s->mb_x] = block_intra;
1497
1498     return 0;
1499 }
1500
1501 /* Decode one macroblock in an interlaced frame p picture */
1502
1503 static int vc1_decode_p_mb_intfr(VC1Context *v)
1504 {
1505     MpegEncContext *s = &v->s;
1506     GetBitContext *gb = &s->gb;
1507     int i;
1508     int mb_pos = s->mb_x + s->mb_y * s->mb_stride;
1509     int cbp = 0; /* cbp decoding stuff */
1510     int mqdiff, mquant; /* MB quantization */
1511     int ttmb = v->ttfrm; /* MB Transform type */
1512
1513     int mb_has_coeffs = 1; /* last_flag */
1514     int dmv_x, dmv_y; /* Differential MV components */
1515     int val; /* temp value */
1516     int first_block = 1;
1517     int dst_idx, off;
1518     int skipped, fourmv = 0, twomv = 0;
1519     int block_cbp = 0, pat, block_tt = 0;
1520     int idx_mbmode = 0, mvbp;
1521     int fieldtx;
1522
1523     mquant = v->pq; /* Lossy initialization */
1524
1525     if (v->skip_is_raw)
1526         skipped = get_bits1(gb);
1527     else
1528         skipped = v->s.mbskip_table[mb_pos];
1529     if (!skipped) {
1530         if (v->fourmvswitch)
1531             idx_mbmode = get_vlc2(gb, v->mbmode_vlc->table, VC1_INTFR_4MV_MBMODE_VLC_BITS, 2); // try getting this done
1532         else
1533             idx_mbmode = get_vlc2(gb, v->mbmode_vlc->table, VC1_INTFR_NON4MV_MBMODE_VLC_BITS, 2); // in a single line
1534         switch (ff_vc1_mbmode_intfrp[v->fourmvswitch][idx_mbmode][0]) {
1535         /* store the motion vector type in a flag (useful later) */
1536         case MV_PMODE_INTFR_4MV:
1537             fourmv = 1;
1538             v->blk_mv_type[s->block_index[0]] = 0;
1539             v->blk_mv_type[s->block_index[1]] = 0;
1540             v->blk_mv_type[s->block_index[2]] = 0;
1541             v->blk_mv_type[s->block_index[3]] = 0;
1542             break;
1543         case MV_PMODE_INTFR_4MV_FIELD:
1544             fourmv = 1;
1545             v->blk_mv_type[s->block_index[0]] = 1;
1546             v->blk_mv_type[s->block_index[1]] = 1;
1547             v->blk_mv_type[s->block_index[2]] = 1;
1548             v->blk_mv_type[s->block_index[3]] = 1;
1549             break;
1550         case MV_PMODE_INTFR_2MV_FIELD:
1551             twomv = 1;
1552             v->blk_mv_type[s->block_index[0]] = 1;
1553             v->blk_mv_type[s->block_index[1]] = 1;
1554             v->blk_mv_type[s->block_index[2]] = 1;
1555             v->blk_mv_type[s->block_index[3]] = 1;
1556             break;
1557         case MV_PMODE_INTFR_1MV:
1558             v->blk_mv_type[s->block_index[0]] = 0;
1559             v->blk_mv_type[s->block_index[1]] = 0;
1560             v->blk_mv_type[s->block_index[2]] = 0;
1561             v->blk_mv_type[s->block_index[3]] = 0;
1562             break;
1563         }
1564         if (ff_vc1_mbmode_intfrp[v->fourmvswitch][idx_mbmode][0] == MV_PMODE_INTFR_INTRA) { // intra MB
1565             for (i = 0; i < 4; i++) {
1566                 s->current_picture.motion_val[1][s->block_index[i]][0] = 0;
1567                 s->current_picture.motion_val[1][s->block_index[i]][1] = 0;
1568             }
1569             v->is_intra[s->mb_x] = 0x3f; // Set the bitfield to all 1.
1570             s->mb_intra          = 1;
1571             s->current_picture.mb_type[mb_pos] = MB_TYPE_INTRA;
1572             fieldtx = v->fieldtx_plane[mb_pos] = get_bits1(gb);
1573             mb_has_coeffs = get_bits1(gb);
1574             if (mb_has_coeffs)
1575                 cbp = 1 + get_vlc2(&v->s.gb, v->cbpcy_vlc->table, VC1_CBPCY_P_VLC_BITS, 2);
1576             v->s.ac_pred = v->acpred_plane[mb_pos] = get_bits1(gb);
1577             GET_MQUANT();
1578             s->current_picture.qscale_table[mb_pos] = mquant;
1579             /* Set DC scale - y and c use the same (not sure if necessary here) */
1580             s->y_dc_scale = s->y_dc_scale_table[FFABS(mquant)];
1581             s->c_dc_scale = s->c_dc_scale_table[FFABS(mquant)];
1582             dst_idx = 0;
1583             for (i = 0; i < 6; i++) {
1584                 v->a_avail = v->c_avail          = 0;
1585                 v->mb_type[0][s->block_index[i]] = 1;
1586                 s->dc_val[0][s->block_index[i]]  = 0;
1587                 dst_idx += i >> 2;
1588                 val = ((cbp >> (5 - i)) & 1);
1589                 if (i == 2 || i == 3 || !s->first_slice_line)
1590                     v->a_avail = v->mb_type[0][s->block_index[i] - s->block_wrap[i]];
1591                 if (i == 1 || i == 3 || s->mb_x)
1592                     v->c_avail = v->mb_type[0][s->block_index[i] - 1];
1593
1594                 vc1_decode_intra_block(v, v->block[v->cur_blk_idx][i], i, val, mquant,
1595                                        (i & 4) ? v->codingset2 : v->codingset);
1596                 if (CONFIG_GRAY && (i > 3) && (s->avctx->flags & AV_CODEC_FLAG_GRAY))
1597                     continue;
1598                 v->vc1dsp.vc1_inv_trans_8x8(v->block[v->cur_blk_idx][i]);
1599                 if (i < 4)
1600                     off = (fieldtx) ? ((i & 1) * 8) + ((i & 2) >> 1) * s->linesize : (i & 1) * 8 + 4 * (i & 2) * s->linesize;
1601                 else
1602                     off = 0;
1603                 block_cbp |= 0xf << (i << 2);
1604             }
1605
1606         } else { // inter MB
1607             mb_has_coeffs = ff_vc1_mbmode_intfrp[v->fourmvswitch][idx_mbmode][3];
1608             if (mb_has_coeffs)
1609                 cbp = 1 + get_vlc2(&v->s.gb, v->cbpcy_vlc->table, VC1_CBPCY_P_VLC_BITS, 2);
1610             if (ff_vc1_mbmode_intfrp[v->fourmvswitch][idx_mbmode][0] == MV_PMODE_INTFR_2MV_FIELD) {
1611                 v->twomvbp = get_vlc2(gb, v->twomvbp_vlc->table, VC1_2MV_BLOCK_PATTERN_VLC_BITS, 1);
1612             } else {
1613                 if ((ff_vc1_mbmode_intfrp[v->fourmvswitch][idx_mbmode][0] == MV_PMODE_INTFR_4MV)
1614                     || (ff_vc1_mbmode_intfrp[v->fourmvswitch][idx_mbmode][0] == MV_PMODE_INTFR_4MV_FIELD)) {
1615                     v->fourmvbp = get_vlc2(gb, v->fourmvbp_vlc->table, VC1_4MV_BLOCK_PATTERN_VLC_BITS, 1);
1616                 }
1617             }
1618             s->mb_intra = v->is_intra[s->mb_x] = 0;
1619             for (i = 0; i < 6; i++)
1620                 v->mb_type[0][s->block_index[i]] = 0;
1621             fieldtx = v->fieldtx_plane[mb_pos] = ff_vc1_mbmode_intfrp[v->fourmvswitch][idx_mbmode][1];
1622             /* for all motion vector read MVDATA and motion compensate each block */
1623             dst_idx = 0;
1624             if (fourmv) {
1625                 mvbp = v->fourmvbp;
1626                 for (i = 0; i < 4; i++) {
1627                     dmv_x = dmv_y = 0;
1628                     if (mvbp & (8 >> i))
1629                         get_mvdata_interlaced(v, &dmv_x, &dmv_y, 0);
1630                     ff_vc1_pred_mv_intfr(v, i, dmv_x, dmv_y, 0, v->range_x, v->range_y, v->mb_type[0], 0);
1631                     ff_vc1_mc_4mv_luma(v, i, 0, 0);
1632                 }
1633                 ff_vc1_mc_4mv_chroma4(v, 0, 0, 0);
1634             } else if (twomv) {
1635                 mvbp  = v->twomvbp;
1636                 dmv_x = dmv_y = 0;
1637                 if (mvbp & 2) {
1638                     get_mvdata_interlaced(v, &dmv_x, &dmv_y, 0);
1639                 }
1640                 ff_vc1_pred_mv_intfr(v, 0, dmv_x, dmv_y, 2, v->range_x, v->range_y, v->mb_type[0], 0);
1641                 ff_vc1_mc_4mv_luma(v, 0, 0, 0);
1642                 ff_vc1_mc_4mv_luma(v, 1, 0, 0);
1643                 dmv_x = dmv_y = 0;
1644                 if (mvbp & 1) {
1645                     get_mvdata_interlaced(v, &dmv_x, &dmv_y, 0);
1646                 }
1647                 ff_vc1_pred_mv_intfr(v, 2, dmv_x, dmv_y, 2, v->range_x, v->range_y, v->mb_type[0], 0);
1648                 ff_vc1_mc_4mv_luma(v, 2, 0, 0);
1649                 ff_vc1_mc_4mv_luma(v, 3, 0, 0);
1650                 ff_vc1_mc_4mv_chroma4(v, 0, 0, 0);
1651             } else {
1652                 mvbp = ff_vc1_mbmode_intfrp[v->fourmvswitch][idx_mbmode][2];
1653                 dmv_x = dmv_y = 0;
1654                 if (mvbp) {
1655                     get_mvdata_interlaced(v, &dmv_x, &dmv_y, 0);
1656                 }
1657                 ff_vc1_pred_mv_intfr(v, 0, dmv_x, dmv_y, 1, v->range_x, v->range_y, v->mb_type[0], 0);
1658                 ff_vc1_mc_1mv(v, 0);
1659             }
1660             if (cbp)
1661                 GET_MQUANT();  // p. 227
1662             s->current_picture.qscale_table[mb_pos] = mquant;
1663             if (!v->ttmbf && cbp)
1664                 ttmb = get_vlc2(gb, ff_vc1_ttmb_vlc[v->tt_index].table, VC1_TTMB_VLC_BITS, 2);
1665             for (i = 0; i < 6; i++) {
1666                 s->dc_val[0][s->block_index[i]] = 0;
1667                 dst_idx += i >> 2;
1668                 val = ((cbp >> (5 - i)) & 1);
1669                 if (!fieldtx)
1670                     off = (i & 4) ? 0 : ((i & 1) * 8 + (i & 2) * 4 * s->linesize);
1671                 else
1672                     off = (i & 4) ? 0 : ((i & 1) * 8 + ((i > 1) * s->linesize));
1673                 if (val) {
1674                     pat = vc1_decode_p_block(v, v->block[v->cur_blk_idx][i], i, mquant, ttmb,
1675                                              first_block, s->dest[dst_idx] + off,
1676                                              (i & 4) ? s->uvlinesize : (s->linesize << fieldtx),
1677                                              CONFIG_GRAY && (i & 4) && (s->avctx->flags & AV_CODEC_FLAG_GRAY), &block_tt);
1678                     block_cbp |= pat << (i << 2);
1679                     if (!v->ttmbf && ttmb < 8)
1680                         ttmb = -1;
1681                     first_block = 0;
1682                 }
1683             }
1684         }
1685     } else { // skipped
1686         s->mb_intra = v->is_intra[s->mb_x] = 0;
1687         for (i = 0; i < 6; i++) {
1688             v->mb_type[0][s->block_index[i]] = 0;
1689             s->dc_val[0][s->block_index[i]] = 0;
1690         }
1691         s->current_picture.mb_type[mb_pos]      = MB_TYPE_SKIP;
1692         s->current_picture.qscale_table[mb_pos] = 0;
1693         v->blk_mv_type[s->block_index[0]] = 0;
1694         v->blk_mv_type[s->block_index[1]] = 0;
1695         v->blk_mv_type[s->block_index[2]] = 0;
1696         v->blk_mv_type[s->block_index[3]] = 0;
1697         ff_vc1_pred_mv_intfr(v, 0, 0, 0, 1, v->range_x, v->range_y, v->mb_type[0], 0);
1698         ff_vc1_mc_1mv(v, 0);
1699         v->fieldtx_plane[mb_pos] = 0;
1700     }
1701     if (v->overlap && v->pq >= 9)
1702         ff_vc1_p_overlap_filter(v);
1703     vc1_put_blocks_clamped(v, 1);
1704
1705     v->cbp[s->mb_x]      = block_cbp;
1706     v->ttblk[s->mb_x]    = block_tt;
1707
1708     return 0;
1709 }
1710
1711 static int vc1_decode_p_mb_intfi(VC1Context *v)
1712 {
1713     MpegEncContext *s = &v->s;
1714     GetBitContext *gb = &s->gb;
1715     int i;
1716     int mb_pos = s->mb_x + s->mb_y * s->mb_stride;
1717     int cbp = 0; /* cbp decoding stuff */
1718     int mqdiff, mquant; /* MB quantization */
1719     int ttmb = v->ttfrm; /* MB Transform type */
1720
1721     int mb_has_coeffs = 1; /* last_flag */
1722     int dmv_x, dmv_y; /* Differential MV components */
1723     int val; /* temp values */
1724     int first_block = 1;
1725     int dst_idx, off;
1726     int pred_flag = 0;
1727     int block_cbp = 0, pat, block_tt = 0;
1728     int idx_mbmode = 0;
1729
1730     mquant = v->pq; /* Lossy initialization */
1731
1732     idx_mbmode = get_vlc2(gb, v->mbmode_vlc->table, VC1_IF_MBMODE_VLC_BITS, 2);
1733     if (idx_mbmode <= 1) { // intra MB
1734         v->is_intra[s->mb_x] = 0x3f; // Set the bitfield to all 1.
1735         s->mb_intra          = 1;
1736         s->current_picture.motion_val[1][s->block_index[0] + v->blocks_off][0] = 0;
1737         s->current_picture.motion_val[1][s->block_index[0] + v->blocks_off][1] = 0;
1738         s->current_picture.mb_type[mb_pos + v->mb_off] = MB_TYPE_INTRA;
1739         GET_MQUANT();
1740         s->current_picture.qscale_table[mb_pos] = mquant;
1741         /* Set DC scale - y and c use the same (not sure if necessary here) */
1742         s->y_dc_scale = s->y_dc_scale_table[FFABS(mquant)];
1743         s->c_dc_scale = s->c_dc_scale_table[FFABS(mquant)];
1744         v->s.ac_pred  = v->acpred_plane[mb_pos] = get_bits1(gb);
1745         mb_has_coeffs = idx_mbmode & 1;
1746         if (mb_has_coeffs)
1747             cbp = 1 + get_vlc2(&v->s.gb, v->cbpcy_vlc->table, VC1_ICBPCY_VLC_BITS, 2);
1748         dst_idx = 0;
1749         for (i = 0; i < 6; i++) {
1750             v->a_avail = v->c_avail          = 0;
1751             v->mb_type[0][s->block_index[i]] = 1;
1752             s->dc_val[0][s->block_index[i]]  = 0;
1753             dst_idx += i >> 2;
1754             val = ((cbp >> (5 - i)) & 1);
1755             if (i == 2 || i == 3 || !s->first_slice_line)
1756                 v->a_avail = v->mb_type[0][s->block_index[i] - s->block_wrap[i]];
1757             if (i == 1 || i == 3 || s->mb_x)
1758                 v->c_avail = v->mb_type[0][s->block_index[i] - 1];
1759
1760             vc1_decode_intra_block(v, v->block[v->cur_blk_idx][i], i, val, mquant,
1761                                    (i & 4) ? v->codingset2 : v->codingset);
1762             if (CONFIG_GRAY && (i > 3) && (s->avctx->flags & AV_CODEC_FLAG_GRAY))
1763                 continue;
1764             v->vc1dsp.vc1_inv_trans_8x8(v->block[v->cur_blk_idx][i]);
1765             off  = (i & 4) ? 0 : ((i & 1) * 8 + (i & 2) * 4 * s->linesize);
1766             block_cbp |= 0xf << (i << 2);
1767         }
1768     } else {
1769         s->mb_intra = v->is_intra[s->mb_x] = 0;
1770         s->current_picture.mb_type[mb_pos + v->mb_off] = MB_TYPE_16x16;
1771         for (i = 0; i < 6; i++)
1772             v->mb_type[0][s->block_index[i]] = 0;
1773         if (idx_mbmode <= 5) { // 1-MV
1774             dmv_x = dmv_y = pred_flag = 0;
1775             if (idx_mbmode & 1) {
1776                 get_mvdata_interlaced(v, &dmv_x, &dmv_y, &pred_flag);
1777             }
1778             ff_vc1_pred_mv(v, 0, dmv_x, dmv_y, 1, v->range_x, v->range_y, v->mb_type[0], pred_flag, 0);
1779             ff_vc1_mc_1mv(v, 0);
1780             mb_has_coeffs = !(idx_mbmode & 2);
1781         } else { // 4-MV
1782             v->fourmvbp = get_vlc2(gb, v->fourmvbp_vlc->table, VC1_4MV_BLOCK_PATTERN_VLC_BITS, 1);
1783             for (i = 0; i < 4; i++) {
1784                 dmv_x = dmv_y = pred_flag = 0;
1785                 if (v->fourmvbp & (8 >> i))
1786                     get_mvdata_interlaced(v, &dmv_x, &dmv_y, &pred_flag);
1787                 ff_vc1_pred_mv(v, i, dmv_x, dmv_y, 0, v->range_x, v->range_y, v->mb_type[0], pred_flag, 0);
1788                 ff_vc1_mc_4mv_luma(v, i, 0, 0);
1789             }
1790             ff_vc1_mc_4mv_chroma(v, 0);
1791             mb_has_coeffs = idx_mbmode & 1;
1792         }
1793         if (mb_has_coeffs)
1794             cbp = 1 + get_vlc2(&v->s.gb, v->cbpcy_vlc->table, VC1_CBPCY_P_VLC_BITS, 2);
1795         if (cbp) {
1796             GET_MQUANT();
1797         }
1798         s->current_picture.qscale_table[mb_pos] = mquant;
1799         if (!v->ttmbf && cbp) {
1800             ttmb = get_vlc2(gb, ff_vc1_ttmb_vlc[v->tt_index].table, VC1_TTMB_VLC_BITS, 2);
1801         }
1802         dst_idx = 0;
1803         for (i = 0; i < 6; i++) {
1804             s->dc_val[0][s->block_index[i]] = 0;
1805             dst_idx += i >> 2;
1806             val = ((cbp >> (5 - i)) & 1);
1807             off = (i & 4) ? 0 : (i & 1) * 8 + (i & 2) * 4 * s->linesize;
1808             if (val) {
1809                 pat = vc1_decode_p_block(v, v->block[v->cur_blk_idx][i], i, mquant, ttmb,
1810                                          first_block, s->dest[dst_idx] + off,
1811                                          (i & 4) ? s->uvlinesize : s->linesize,
1812                                          CONFIG_GRAY && (i & 4) && (s->avctx->flags & AV_CODEC_FLAG_GRAY),
1813                                          &block_tt);
1814                 block_cbp |= pat << (i << 2);
1815                 if (!v->ttmbf && ttmb < 8)
1816                     ttmb = -1;
1817                 first_block = 0;
1818             }
1819         }
1820     }
1821     if (v->overlap && v->pq >= 9)
1822         ff_vc1_p_overlap_filter(v);
1823     vc1_put_blocks_clamped(v, 1);
1824
1825     v->cbp[s->mb_x]      = block_cbp;
1826     v->ttblk[s->mb_x]    = block_tt;
1827
1828     return 0;
1829 }
1830
1831 /** Decode one B-frame MB (in Main profile)
1832  */
1833 static void vc1_decode_b_mb(VC1Context *v)
1834 {
1835     MpegEncContext *s = &v->s;
1836     GetBitContext *gb = &s->gb;
1837     int i, j;
1838     int mb_pos = s->mb_x + s->mb_y * s->mb_stride;
1839     int cbp = 0; /* cbp decoding stuff */
1840     int mqdiff, mquant; /* MB quantization */
1841     int ttmb = v->ttfrm; /* MB Transform type */
1842     int mb_has_coeffs = 0; /* last_flag */
1843     int index, index1; /* LUT indexes */
1844     int val, sign; /* temp values */
1845     int first_block = 1;
1846     int dst_idx, off;
1847     int skipped, direct;
1848     int dmv_x[2], dmv_y[2];
1849     int bmvtype = BMV_TYPE_BACKWARD;
1850
1851     mquant      = v->pq; /* lossy initialization */
1852     s->mb_intra = 0;
1853
1854     if (v->dmb_is_raw)
1855         direct = get_bits1(gb);
1856     else
1857         direct = v->direct_mb_plane[mb_pos];
1858     if (v->skip_is_raw)
1859         skipped = get_bits1(gb);
1860     else
1861         skipped = v->s.mbskip_table[mb_pos];
1862
1863     dmv_x[0] = dmv_x[1] = dmv_y[0] = dmv_y[1] = 0;
1864     for (i = 0; i < 6; i++) {
1865         v->mb_type[0][s->block_index[i]] = 0;
1866         s->dc_val[0][s->block_index[i]]  = 0;
1867     }
1868     s->current_picture.qscale_table[mb_pos] = 0;
1869
1870     if (!direct) {
1871         if (!skipped) {
1872             GET_MVDATA(dmv_x[0], dmv_y[0]);
1873             dmv_x[1] = dmv_x[0];
1874             dmv_y[1] = dmv_y[0];
1875         }
1876         if (skipped || !s->mb_intra) {
1877             bmvtype = decode012(gb);
1878             switch (bmvtype) {
1879             case 0:
1880                 bmvtype = (v->bfraction >= (B_FRACTION_DEN/2)) ? BMV_TYPE_BACKWARD : BMV_TYPE_FORWARD;
1881                 break;
1882             case 1:
1883                 bmvtype = (v->bfraction >= (B_FRACTION_DEN/2)) ? BMV_TYPE_FORWARD : BMV_TYPE_BACKWARD;
1884                 break;
1885             case 2:
1886                 bmvtype  = BMV_TYPE_INTERPOLATED;
1887                 dmv_x[0] = dmv_y[0] = 0;
1888             }
1889         }
1890     }
1891     for (i = 0; i < 6; i++)
1892         v->mb_type[0][s->block_index[i]] = s->mb_intra;
1893
1894     if (skipped) {
1895         if (direct)
1896             bmvtype = BMV_TYPE_INTERPOLATED;
1897         ff_vc1_pred_b_mv(v, dmv_x, dmv_y, direct, bmvtype);
1898         vc1_b_mc(v, dmv_x, dmv_y, direct, bmvtype);
1899         return;
1900     }
1901     if (direct) {
1902         cbp = get_vlc2(&v->s.gb, v->cbpcy_vlc->table, VC1_CBPCY_P_VLC_BITS, 2);
1903         GET_MQUANT();
1904         s->mb_intra = 0;
1905         s->current_picture.qscale_table[mb_pos] = mquant;
1906         if (!v->ttmbf)
1907             ttmb = get_vlc2(gb, ff_vc1_ttmb_vlc[v->tt_index].table, VC1_TTMB_VLC_BITS, 2);
1908         dmv_x[0] = dmv_y[0] = dmv_x[1] = dmv_y[1] = 0;
1909         ff_vc1_pred_b_mv(v, dmv_x, dmv_y, direct, bmvtype);
1910         vc1_b_mc(v, dmv_x, dmv_y, direct, bmvtype);
1911     } else {
1912         if (!mb_has_coeffs && !s->mb_intra) {
1913             /* no coded blocks - effectively skipped */
1914             ff_vc1_pred_b_mv(v, dmv_x, dmv_y, direct, bmvtype);
1915             vc1_b_mc(v, dmv_x, dmv_y, direct, bmvtype);
1916             return;
1917         }
1918         if (s->mb_intra && !mb_has_coeffs) {
1919             GET_MQUANT();
1920             s->current_picture.qscale_table[mb_pos] = mquant;
1921             s->ac_pred = get_bits1(gb);
1922             cbp = 0;
1923             ff_vc1_pred_b_mv(v, dmv_x, dmv_y, direct, bmvtype);
1924         } else {
1925             if (bmvtype == BMV_TYPE_INTERPOLATED) {
1926                 GET_MVDATA(dmv_x[0], dmv_y[0]);
1927                 if (!mb_has_coeffs) {
1928                     /* interpolated skipped block */
1929                     ff_vc1_pred_b_mv(v, dmv_x, dmv_y, direct, bmvtype);
1930                     vc1_b_mc(v, dmv_x, dmv_y, direct, bmvtype);
1931                     return;
1932                 }
1933             }
1934             ff_vc1_pred_b_mv(v, dmv_x, dmv_y, direct, bmvtype);
1935             if (!s->mb_intra) {
1936                 vc1_b_mc(v, dmv_x, dmv_y, direct, bmvtype);
1937             }
1938             if (s->mb_intra)
1939                 s->ac_pred = get_bits1(gb);
1940             cbp = get_vlc2(&v->s.gb, v->cbpcy_vlc->table, VC1_CBPCY_P_VLC_BITS, 2);
1941             GET_MQUANT();
1942             s->current_picture.qscale_table[mb_pos] = mquant;
1943             if (!v->ttmbf && !s->mb_intra && mb_has_coeffs)
1944                 ttmb = get_vlc2(gb, ff_vc1_ttmb_vlc[v->tt_index].table, VC1_TTMB_VLC_BITS, 2);
1945         }
1946     }
1947     dst_idx = 0;
1948     for (i = 0; i < 6; i++) {
1949         s->dc_val[0][s->block_index[i]] = 0;
1950         dst_idx += i >> 2;
1951         val = ((cbp >> (5 - i)) & 1);
1952         off = (i & 4) ? 0 : ((i & 1) * 8 + (i & 2) * 4 * s->linesize);
1953         v->mb_type[0][s->block_index[i]] = s->mb_intra;
1954         if (s->mb_intra) {
1955             /* check if prediction blocks A and C are available */
1956             v->a_avail = v->c_avail = 0;
1957             if (i == 2 || i == 3 || !s->first_slice_line)
1958                 v->a_avail = v->mb_type[0][s->block_index[i] - s->block_wrap[i]];
1959             if (i == 1 || i == 3 || s->mb_x)
1960                 v->c_avail = v->mb_type[0][s->block_index[i] - 1];
1961
1962             vc1_decode_intra_block(v, s->block[i], i, val, mquant,
1963                                    (i & 4) ? v->codingset2 : v->codingset);
1964             if (CONFIG_GRAY && (i > 3) && (s->avctx->flags & AV_CODEC_FLAG_GRAY))
1965                 continue;
1966             v->vc1dsp.vc1_inv_trans_8x8(s->block[i]);
1967             if (v->rangeredfrm)
1968                 for (j = 0; j < 64; j++)
1969                     s->block[i][j] <<= 1;
1970             s->idsp.put_signed_pixels_clamped(s->block[i],
1971                                               s->dest[dst_idx] + off,
1972                                               i & 4 ? s->uvlinesize
1973                                                     : s->linesize);
1974         } else if (val) {
1975             vc1_decode_p_block(v, s->block[i], i, mquant, ttmb,
1976                                first_block, s->dest[dst_idx] + off,
1977                                (i & 4) ? s->uvlinesize : s->linesize,
1978                                CONFIG_GRAY && (i & 4) && (s->avctx->flags & AV_CODEC_FLAG_GRAY), NULL);
1979             if (!v->ttmbf && ttmb < 8)
1980                 ttmb = -1;
1981             first_block = 0;
1982         }
1983     }
1984 }
1985
1986 /** Decode one B-frame MB (in interlaced field B picture)
1987  */
1988 static void vc1_decode_b_mb_intfi(VC1Context *v)
1989 {
1990     MpegEncContext *s = &v->s;
1991     GetBitContext *gb = &s->gb;
1992     int i, j;
1993     int mb_pos = s->mb_x + s->mb_y * s->mb_stride;
1994     int cbp = 0; /* cbp decoding stuff */
1995     int mqdiff, mquant; /* MB quantization */
1996     int ttmb = v->ttfrm; /* MB Transform type */
1997     int mb_has_coeffs = 0; /* last_flag */
1998     int val; /* temp value */
1999     int first_block = 1;
2000     int dst_idx, off;
2001     int fwd;
2002     int dmv_x[2], dmv_y[2], pred_flag[2];
2003     int bmvtype = BMV_TYPE_BACKWARD;
2004     int block_cbp = 0, pat, block_tt = 0;
2005     int idx_mbmode;
2006
2007     mquant      = v->pq; /* Lossy initialization */
2008     s->mb_intra = 0;
2009
2010     idx_mbmode = get_vlc2(gb, v->mbmode_vlc->table, VC1_IF_MBMODE_VLC_BITS, 2);
2011     if (idx_mbmode <= 1) { // intra MB
2012         v->is_intra[s->mb_x] = 0x3f; // Set the bitfield to all 1.
2013         s->mb_intra          = 1;
2014         s->current_picture.motion_val[1][s->block_index[0]][0] = 0;
2015         s->current_picture.motion_val[1][s->block_index[0]][1] = 0;
2016         s->current_picture.mb_type[mb_pos + v->mb_off]         = MB_TYPE_INTRA;
2017         GET_MQUANT();
2018         s->current_picture.qscale_table[mb_pos] = mquant;
2019         /* Set DC scale - y and c use the same (not sure if necessary here) */
2020         s->y_dc_scale = s->y_dc_scale_table[FFABS(mquant)];
2021         s->c_dc_scale = s->c_dc_scale_table[FFABS(mquant)];
2022         v->s.ac_pred  = v->acpred_plane[mb_pos] = get_bits1(gb);
2023         mb_has_coeffs = idx_mbmode & 1;
2024         if (mb_has_coeffs)
2025             cbp = 1 + get_vlc2(&v->s.gb, v->cbpcy_vlc->table, VC1_ICBPCY_VLC_BITS, 2);
2026         dst_idx = 0;
2027         for (i = 0; i < 6; i++) {
2028             v->a_avail = v->c_avail          = 0;
2029             v->mb_type[0][s->block_index[i]] = 1;
2030             s->dc_val[0][s->block_index[i]]  = 0;
2031             dst_idx += i >> 2;
2032             val = ((cbp >> (5 - i)) & 1);
2033             if (i == 2 || i == 3 || !s->first_slice_line)
2034                 v->a_avail = v->mb_type[0][s->block_index[i] - s->block_wrap[i]];
2035             if (i == 1 || i == 3 || s->mb_x)
2036                 v->c_avail = v->mb_type[0][s->block_index[i] - 1];
2037
2038             vc1_decode_intra_block(v, s->block[i], i, val, mquant,
2039                                    (i & 4) ? v->codingset2 : v->codingset);
2040             if (CONFIG_GRAY && (i > 3) && (s->avctx->flags & AV_CODEC_FLAG_GRAY))
2041                 continue;
2042             v->vc1dsp.vc1_inv_trans_8x8(s->block[i]);
2043             if (v->rangeredfrm)
2044                 for (j = 0; j < 64; j++)
2045                     s->block[i][j] <<= 1;
2046             off  = (i & 4) ? 0 : ((i & 1) * 8 + (i & 2) * 4 * s->linesize);
2047             s->idsp.put_signed_pixels_clamped(s->block[i],
2048                                               s->dest[dst_idx] + off,
2049                                               (i & 4) ? s->uvlinesize
2050                                                       : s->linesize);
2051         }
2052     } else {
2053         s->mb_intra = v->is_intra[s->mb_x] = 0;
2054         s->current_picture.mb_type[mb_pos + v->mb_off] = MB_TYPE_16x16;
2055         for (i = 0; i < 6; i++)
2056             v->mb_type[0][s->block_index[i]] = 0;
2057         if (v->fmb_is_raw)
2058             fwd = v->forward_mb_plane[mb_pos] = get_bits1(gb);
2059         else
2060             fwd = v->forward_mb_plane[mb_pos];
2061         if (idx_mbmode <= 5) { // 1-MV
2062             int interpmvp = 0;
2063             dmv_x[0]     = dmv_x[1] = dmv_y[0] = dmv_y[1] = 0;
2064             pred_flag[0] = pred_flag[1] = 0;
2065             if (fwd)
2066                 bmvtype = BMV_TYPE_FORWARD;
2067             else {
2068                 bmvtype = decode012(gb);
2069                 switch (bmvtype) {
2070                 case 0:
2071                     bmvtype = BMV_TYPE_BACKWARD;
2072                     break;
2073                 case 1:
2074                     bmvtype = BMV_TYPE_DIRECT;
2075                     break;
2076                 case 2:
2077                     bmvtype   = BMV_TYPE_INTERPOLATED;
2078                     interpmvp = get_bits1(gb);
2079                 }
2080             }
2081             v->bmvtype = bmvtype;
2082             if (bmvtype != BMV_TYPE_DIRECT && idx_mbmode & 1) {
2083                 get_mvdata_interlaced(v, &dmv_x[bmvtype == BMV_TYPE_BACKWARD], &dmv_y[bmvtype == BMV_TYPE_BACKWARD], &pred_flag[bmvtype == BMV_TYPE_BACKWARD]);
2084             }
2085             if (interpmvp) {
2086                 get_mvdata_interlaced(v, &dmv_x[1], &dmv_y[1], &pred_flag[1]);
2087             }
2088             if (bmvtype == BMV_TYPE_DIRECT) {
2089                 dmv_x[0] = dmv_y[0] = pred_flag[0] = 0;
2090                 dmv_x[1] = dmv_y[1] = pred_flag[0] = 0;
2091                 if (!s->next_picture_ptr->field_picture) {
2092                     av_log(s->avctx, AV_LOG_ERROR, "Mixed field/frame direct mode not supported\n");
2093                     return;
2094                 }
2095             }
2096             ff_vc1_pred_b_mv_intfi(v, 0, dmv_x, dmv_y, 1, pred_flag);
2097             vc1_b_mc(v, dmv_x, dmv_y, (bmvtype == BMV_TYPE_DIRECT), bmvtype);
2098             mb_has_coeffs = !(idx_mbmode & 2);
2099         } else { // 4-MV
2100             if (fwd)
2101                 bmvtype = BMV_TYPE_FORWARD;
2102             v->bmvtype  = bmvtype;
2103             v->fourmvbp = get_vlc2(gb, v->fourmvbp_vlc->table, VC1_4MV_BLOCK_PATTERN_VLC_BITS, 1);
2104             for (i = 0; i < 4; i++) {
2105                 dmv_x[0] = dmv_y[0] = pred_flag[0] = 0;
2106                 dmv_x[1] = dmv_y[1] = pred_flag[1] = 0;
2107                 if (v->fourmvbp & (8 >> i)) {
2108                     get_mvdata_interlaced(v, &dmv_x[bmvtype == BMV_TYPE_BACKWARD],
2109                                              &dmv_y[bmvtype == BMV_TYPE_BACKWARD],
2110                                          &pred_flag[bmvtype == BMV_TYPE_BACKWARD]);
2111                 }
2112                 ff_vc1_pred_b_mv_intfi(v, i, dmv_x, dmv_y, 0, pred_flag);
2113                 ff_vc1_mc_4mv_luma(v, i, bmvtype == BMV_TYPE_BACKWARD, 0);
2114             }
2115             ff_vc1_mc_4mv_chroma(v, bmvtype == BMV_TYPE_BACKWARD);
2116             mb_has_coeffs = idx_mbmode & 1;
2117         }
2118         if (mb_has_coeffs)
2119             cbp = 1 + get_vlc2(&v->s.gb, v->cbpcy_vlc->table, VC1_CBPCY_P_VLC_BITS, 2);
2120         if (cbp) {
2121             GET_MQUANT();
2122         }
2123         s->current_picture.qscale_table[mb_pos] = mquant;
2124         if (!v->ttmbf && cbp) {
2125             ttmb = get_vlc2(gb, ff_vc1_ttmb_vlc[v->tt_index].table, VC1_TTMB_VLC_BITS, 2);
2126         }
2127         dst_idx = 0;
2128         for (i = 0; i < 6; i++) {
2129             s->dc_val[0][s->block_index[i]] = 0;
2130             dst_idx += i >> 2;
2131             val = ((cbp >> (5 - i)) & 1);
2132             off = (i & 4) ? 0 : (i & 1) * 8 + (i & 2) * 4 * s->linesize;
2133             if (val) {
2134                 pat = vc1_decode_p_block(v, s->block[i], i, mquant, ttmb,
2135                                          first_block, s->dest[dst_idx] + off,
2136                                          (i & 4) ? s->uvlinesize : s->linesize,
2137                                          CONFIG_GRAY && (i & 4) && (s->avctx->flags & AV_CODEC_FLAG_GRAY), &block_tt);
2138                 block_cbp |= pat << (i << 2);
2139                 if (!v->ttmbf && ttmb < 8)
2140                     ttmb = -1;
2141                 first_block = 0;
2142             }
2143         }
2144     }
2145     v->cbp[s->mb_x]      = block_cbp;
2146     v->ttblk[s->mb_x]    = block_tt;
2147 }
2148
2149 /** Decode one B-frame MB (in interlaced frame B picture)
2150  */
2151 static int vc1_decode_b_mb_intfr(VC1Context *v)
2152 {
2153     MpegEncContext *s = &v->s;
2154     GetBitContext *gb = &s->gb;
2155     int i, j;
2156     int mb_pos = s->mb_x + s->mb_y * s->mb_stride;
2157     int cbp = 0; /* cbp decoding stuff */
2158     int mqdiff, mquant; /* MB quantization */
2159     int ttmb = v->ttfrm; /* MB Transform type */
2160     int mvsw = 0; /* motion vector switch */
2161     int mb_has_coeffs = 1; /* last_flag */
2162     int dmv_x, dmv_y; /* Differential MV components */
2163     int val; /* temp value */
2164     int first_block = 1;
2165     int dst_idx, off;
2166     int skipped, direct, twomv = 0;
2167     int block_cbp = 0, pat, block_tt = 0;
2168     int idx_mbmode = 0, mvbp;
2169     int stride_y, fieldtx;
2170     int bmvtype = BMV_TYPE_BACKWARD;
2171     int dir, dir2;
2172
2173     mquant = v->pq; /* Lossy initialization */
2174     s->mb_intra = 0;
2175     if (v->skip_is_raw)
2176         skipped = get_bits1(gb);
2177     else
2178         skipped = v->s.mbskip_table[mb_pos];
2179
2180     if (!skipped) {
2181         idx_mbmode = get_vlc2(gb, v->mbmode_vlc->table, VC1_INTFR_NON4MV_MBMODE_VLC_BITS, 2);
2182         if (ff_vc1_mbmode_intfrp[0][idx_mbmode][0] == MV_PMODE_INTFR_2MV_FIELD) {
2183             twomv = 1;
2184             v->blk_mv_type[s->block_index[0]] = 1;
2185             v->blk_mv_type[s->block_index[1]] = 1;
2186             v->blk_mv_type[s->block_index[2]] = 1;
2187             v->blk_mv_type[s->block_index[3]] = 1;
2188         } else {
2189             v->blk_mv_type[s->block_index[0]] = 0;
2190             v->blk_mv_type[s->block_index[1]] = 0;
2191             v->blk_mv_type[s->block_index[2]] = 0;
2192             v->blk_mv_type[s->block_index[3]] = 0;
2193         }
2194     }
2195
2196     if (ff_vc1_mbmode_intfrp[0][idx_mbmode][0] == MV_PMODE_INTFR_INTRA) { // intra MB
2197         for (i = 0; i < 4; i++) {
2198             s->mv[0][i][0] = s->current_picture.motion_val[0][s->block_index[i]][0] = 0;
2199             s->mv[0][i][1] = s->current_picture.motion_val[0][s->block_index[i]][1] = 0;
2200             s->mv[1][i][0] = s->current_picture.motion_val[1][s->block_index[i]][0] = 0;
2201             s->mv[1][i][1] = s->current_picture.motion_val[1][s->block_index[i]][1] = 0;
2202         }
2203         v->is_intra[s->mb_x] = 0x3f; // Set the bitfield to all 1.
2204         s->mb_intra          = 1;
2205         s->current_picture.mb_type[mb_pos] = MB_TYPE_INTRA;
2206         fieldtx = v->fieldtx_plane[mb_pos] = get_bits1(gb);
2207         mb_has_coeffs = get_bits1(gb);
2208         if (mb_has_coeffs)
2209             cbp = 1 + get_vlc2(&v->s.gb, v->cbpcy_vlc->table, VC1_CBPCY_P_VLC_BITS, 2);
2210         v->s.ac_pred = v->acpred_plane[mb_pos] = get_bits1(gb);
2211         GET_MQUANT();
2212         s->current_picture.qscale_table[mb_pos] = mquant;
2213         /* Set DC scale - y and c use the same (not sure if necessary here) */
2214         s->y_dc_scale = s->y_dc_scale_table[FFABS(mquant)];
2215         s->c_dc_scale = s->c_dc_scale_table[FFABS(mquant)];
2216         dst_idx = 0;
2217         for (i = 0; i < 6; i++) {
2218             v->a_avail = v->c_avail          = 0;
2219             v->mb_type[0][s->block_index[i]] = 1;
2220             s->dc_val[0][s->block_index[i]]  = 0;
2221             dst_idx += i >> 2;
2222             val = ((cbp >> (5 - i)) & 1);
2223             if (i == 2 || i == 3 || !s->first_slice_line)
2224                 v->a_avail = v->mb_type[0][s->block_index[i] - s->block_wrap[i]];
2225             if (i == 1 || i == 3 || s->mb_x)
2226                 v->c_avail = v->mb_type[0][s->block_index[i] - 1];
2227
2228             vc1_decode_intra_block(v, s->block[i], i, val, mquant,
2229                                    (i & 4) ? v->codingset2 : v->codingset);
2230             if (CONFIG_GRAY && i > 3 && (s->avctx->flags & AV_CODEC_FLAG_GRAY))
2231                 continue;
2232             v->vc1dsp.vc1_inv_trans_8x8(s->block[i]);
2233             if (i < 4) {
2234                 stride_y = s->linesize << fieldtx;
2235                 off = (fieldtx) ? ((i & 1) * 8) + ((i & 2) >> 1) * s->linesize : (i & 1) * 8 + 4 * (i & 2) * s->linesize;
2236             } else {
2237                 stride_y = s->uvlinesize;
2238                 off = 0;
2239             }
2240             s->idsp.put_signed_pixels_clamped(s->block[i],
2241                                               s->dest[dst_idx] + off,
2242                                               stride_y);
2243         }
2244     } else {
2245         s->mb_intra = v->is_intra[s->mb_x] = 0;
2246
2247         if (v->dmb_is_raw)
2248             direct = get_bits1(gb);
2249         else
2250             direct = v->direct_mb_plane[mb_pos];
2251
2252         if (direct) {
2253             if (s->next_picture_ptr->field_picture)
2254                 av_log(s->avctx, AV_LOG_WARNING, "Mixed frame/field direct mode not supported\n");
2255             s->mv[0][0][0] = s->current_picture.motion_val[0][s->block_index[0]][0] = scale_mv(s->next_picture.motion_val[1][s->block_index[0]][0], v->bfraction, 0, s->quarter_sample);
2256             s->mv[0][0][1] = s->current_picture.motion_val[0][s->block_index[0]][1] = scale_mv(s->next_picture.motion_val[1][s->block_index[0]][1], v->bfraction, 0, s->quarter_sample);
2257             s->mv[1][0][0] = s->current_picture.motion_val[1][s->block_index[0]][0] = scale_mv(s->next_picture.motion_val[1][s->block_index[0]][0], v->bfraction, 1, s->quarter_sample);
2258             s->mv[1][0][1] = s->current_picture.motion_val[1][s->block_index[0]][1] = scale_mv(s->next_picture.motion_val[1][s->block_index[0]][1], v->bfraction, 1, s->quarter_sample);
2259
2260             if (twomv) {
2261                 s->mv[0][2][0] = s->current_picture.motion_val[0][s->block_index[2]][0] = scale_mv(s->next_picture.motion_val[1][s->block_index[2]][0], v->bfraction, 0, s->quarter_sample);
2262                 s->mv[0][2][1] = s->current_picture.motion_val[0][s->block_index[2]][1] = scale_mv(s->next_picture.motion_val[1][s->block_index[2]][1], v->bfraction, 0, s->quarter_sample);
2263                 s->mv[1][2][0] = s->current_picture.motion_val[1][s->block_index[2]][0] = scale_mv(s->next_picture.motion_val[1][s->block_index[2]][0], v->bfraction, 1, s->quarter_sample);
2264                 s->mv[1][2][1] = s->current_picture.motion_val[1][s->block_index[2]][1] = scale_mv(s->next_picture.motion_val[1][s->block_index[2]][1], v->bfraction, 1, s->quarter_sample);
2265
2266                 for (i = 1; i < 4; i += 2) {
2267                     s->mv[0][i][0] = s->current_picture.motion_val[0][s->block_index[i]][0] = s->mv[0][i-1][0];
2268                     s->mv[0][i][1] = s->current_picture.motion_val[0][s->block_index[i]][1] = s->mv[0][i-1][1];
2269                     s->mv[1][i][0] = s->current_picture.motion_val[1][s->block_index[i]][0] = s->mv[1][i-1][0];
2270                     s->mv[1][i][1] = s->current_picture.motion_val[1][s->block_index[i]][1] = s->mv[1][i-1][1];
2271                 }
2272             } else {
2273                 for (i = 1; i < 4; i++) {
2274                     s->mv[0][i][0] = s->current_picture.motion_val[0][s->block_index[i]][0] = s->mv[0][0][0];
2275                     s->mv[0][i][1] = s->current_picture.motion_val[0][s->block_index[i]][1] = s->mv[0][0][1];
2276                     s->mv[1][i][0] = s->current_picture.motion_val[1][s->block_index[i]][0] = s->mv[1][0][0];
2277                     s->mv[1][i][1] = s->current_picture.motion_val[1][s->block_index[i]][1] = s->mv[1][0][1];
2278                 }
2279             }
2280         }
2281
2282         if (!direct) {
2283             if (skipped || !s->mb_intra) {
2284                 bmvtype = decode012(gb);
2285                 switch (bmvtype) {
2286                 case 0:
2287                     bmvtype = (v->bfraction >= (B_FRACTION_DEN/2)) ? BMV_TYPE_BACKWARD : BMV_TYPE_FORWARD;
2288                     break;
2289                 case 1:
2290                     bmvtype = (v->bfraction >= (B_FRACTION_DEN/2)) ? BMV_TYPE_FORWARD : BMV_TYPE_BACKWARD;
2291                     break;
2292                 case 2:
2293                     bmvtype  = BMV_TYPE_INTERPOLATED;
2294                 }
2295             }
2296
2297             if (twomv && bmvtype != BMV_TYPE_INTERPOLATED)
2298                 mvsw = get_bits1(gb);
2299         }
2300
2301         if (!skipped) { // inter MB
2302             mb_has_coeffs = ff_vc1_mbmode_intfrp[0][idx_mbmode][3];
2303             if (mb_has_coeffs)
2304                 cbp = 1 + get_vlc2(&v->s.gb, v->cbpcy_vlc->table, VC1_CBPCY_P_VLC_BITS, 2);
2305             if (!direct) {
2306                 if (bmvtype == BMV_TYPE_INTERPOLATED && twomv) {
2307                     v->fourmvbp = get_vlc2(gb, v->fourmvbp_vlc->table, VC1_4MV_BLOCK_PATTERN_VLC_BITS, 1);
2308                 } else if (bmvtype == BMV_TYPE_INTERPOLATED || twomv) {
2309                     v->twomvbp = get_vlc2(gb, v->twomvbp_vlc->table, VC1_2MV_BLOCK_PATTERN_VLC_BITS, 1);
2310                 }
2311             }
2312
2313             for (i = 0; i < 6; i++)
2314                 v->mb_type[0][s->block_index[i]] = 0;
2315             fieldtx = v->fieldtx_plane[mb_pos] = ff_vc1_mbmode_intfrp[0][idx_mbmode][1];
2316             /* for all motion vector read MVDATA and motion compensate each block */
2317             dst_idx = 0;
2318             if (direct) {
2319                 if (twomv) {
2320                     for (i = 0; i < 4; i++) {
2321                         ff_vc1_mc_4mv_luma(v, i, 0, 0);
2322                         ff_vc1_mc_4mv_luma(v, i, 1, 1);
2323                     }
2324                     ff_vc1_mc_4mv_chroma4(v, 0, 0, 0);
2325                     ff_vc1_mc_4mv_chroma4(v, 1, 1, 1);
2326                 } else {
2327                     ff_vc1_mc_1mv(v, 0);
2328                     ff_vc1_interp_mc(v);
2329                 }
2330             } else if (twomv && bmvtype == BMV_TYPE_INTERPOLATED) {
2331                 mvbp = v->fourmvbp;
2332                 for (i = 0; i < 4; i++) {
2333                     dir = i==1 || i==3;
2334                     dmv_x = dmv_y = 0;
2335                     val = ((mvbp >> (3 - i)) & 1);
2336                     if (val)
2337                         get_mvdata_interlaced(v, &dmv_x, &dmv_y, 0);
2338                     j = i > 1 ? 2 : 0;
2339                     ff_vc1_pred_mv_intfr(v, j, dmv_x, dmv_y, 2, v->range_x, v->range_y, v->mb_type[0], dir);
2340                     ff_vc1_mc_4mv_luma(v, j, dir, dir);
2341                     ff_vc1_mc_4mv_luma(v, j+1, dir, dir);
2342                 }
2343
2344                 ff_vc1_mc_4mv_chroma4(v, 0, 0, 0);
2345                 ff_vc1_mc_4mv_chroma4(v, 1, 1, 1);
2346             } else if (bmvtype == BMV_TYPE_INTERPOLATED) {
2347                 mvbp = v->twomvbp;
2348                 dmv_x = dmv_y = 0;
2349                 if (mvbp & 2)
2350                     get_mvdata_interlaced(v, &dmv_x, &dmv_y, 0);
2351
2352                 ff_vc1_pred_mv_intfr(v, 0, dmv_x, dmv_y, 1, v->range_x, v->range_y, v->mb_type[0], 0);
2353                 ff_vc1_mc_1mv(v, 0);
2354
2355                 dmv_x = dmv_y = 0;
2356                 if (mvbp & 1)
2357                     get_mvdata_interlaced(v, &dmv_x, &dmv_y, 0);
2358
2359                 ff_vc1_pred_mv_intfr(v, 0, dmv_x, dmv_y, 1, v->range_x, v->range_y, v->mb_type[0], 1);
2360                 ff_vc1_interp_mc(v);
2361             } else if (twomv) {
2362                 dir = bmvtype == BMV_TYPE_BACKWARD;
2363                 dir2 = dir;
2364                 if (mvsw)
2365                     dir2 = !dir;
2366                 mvbp = v->twomvbp;
2367                 dmv_x = dmv_y = 0;
2368                 if (mvbp & 2)
2369                     get_mvdata_interlaced(v, &dmv_x, &dmv_y, 0);
2370                 ff_vc1_pred_mv_intfr(v, 0, dmv_x, dmv_y, 2, v->range_x, v->range_y, v->mb_type[0], dir);
2371
2372                 dmv_x = dmv_y = 0;
2373                 if (mvbp & 1)
2374                     get_mvdata_interlaced(v, &dmv_x, &dmv_y, 0);
2375                 ff_vc1_pred_mv_intfr(v, 2, dmv_x, dmv_y, 2, v->range_x, v->range_y, v->mb_type[0], dir2);
2376
2377                 if (mvsw) {
2378                     for (i = 0; i < 2; i++) {
2379                         s->mv[dir][i+2][0] = s->mv[dir][i][0] = s->current_picture.motion_val[dir][s->block_index[i+2]][0] = s->current_picture.motion_val[dir][s->block_index[i]][0];
2380                         s->mv[dir][i+2][1] = s->mv[dir][i][1] = s->current_picture.motion_val[dir][s->block_index[i+2]][1] = s->current_picture.motion_val[dir][s->block_index[i]][1];
2381                         s->mv[dir2][i+2][0] = s->mv[dir2][i][0] = s->current_picture.motion_val[dir2][s->block_index[i]][0] = s->current_picture.motion_val[dir2][s->block_index[i+2]][0];
2382                         s->mv[dir2][i+2][1] = s->mv[dir2][i][1] = s->current_picture.motion_val[dir2][s->block_index[i]][1] = s->current_picture.motion_val[dir2][s->block_index[i+2]][1];
2383                     }
2384                 } else {
2385                     ff_vc1_pred_mv_intfr(v, 0, 0, 0, 2, v->range_x, v->range_y, v->mb_type[0], !dir);
2386                     ff_vc1_pred_mv_intfr(v, 2, 0, 0, 2, v->range_x, v->range_y, v->mb_type[0], !dir);
2387                 }
2388
2389                 ff_vc1_mc_4mv_luma(v, 0, dir, 0);
2390                 ff_vc1_mc_4mv_luma(v, 1, dir, 0);
2391                 ff_vc1_mc_4mv_luma(v, 2, dir2, 0);
2392                 ff_vc1_mc_4mv_luma(v, 3, dir2, 0);
2393                 ff_vc1_mc_4mv_chroma4(v, dir, dir2, 0);
2394             } else {
2395                 dir = bmvtype == BMV_TYPE_BACKWARD;
2396
2397                 mvbp = ff_vc1_mbmode_intfrp[0][idx_mbmode][2];
2398                 dmv_x = dmv_y = 0;
2399                 if (mvbp)
2400                     get_mvdata_interlaced(v, &dmv_x, &dmv_y, 0);
2401
2402                 ff_vc1_pred_mv_intfr(v, 0, dmv_x, dmv_y, 1, v->range_x, v->range_y, v->mb_type[0], dir);
2403                 v->blk_mv_type[s->block_index[0]] = 1;
2404                 v->blk_mv_type[s->block_index[1]] = 1;
2405                 v->blk_mv_type[s->block_index[2]] = 1;
2406                 v->blk_mv_type[s->block_index[3]] = 1;
2407                 ff_vc1_pred_mv_intfr(v, 0, 0, 0, 2, v->range_x, v->range_y, 0, !dir);
2408                 for (i = 0; i < 2; i++) {
2409                     s->mv[!dir][i+2][0] = s->mv[!dir][i][0] = s->current_picture.motion_val[!dir][s->block_index[i+2]][0] = s->current_picture.motion_val[!dir][s->block_index[i]][0];
2410                     s->mv[!dir][i+2][1] = s->mv[!dir][i][1] = s->current_picture.motion_val[!dir][s->block_index[i+2]][1] = s->current_picture.motion_val[!dir][s->block_index[i]][1];
2411                 }
2412                 ff_vc1_mc_1mv(v, dir);
2413             }
2414
2415             if (cbp)
2416                 GET_MQUANT();  // p. 227
2417             s->current_picture.qscale_table[mb_pos] = mquant;
2418             if (!v->ttmbf && cbp)
2419                 ttmb = get_vlc2(gb, ff_vc1_ttmb_vlc[v->tt_index].table, VC1_TTMB_VLC_BITS, 2);
2420             for (i = 0; i < 6; i++) {
2421                 s->dc_val[0][s->block_index[i]] = 0;
2422                 dst_idx += i >> 2;
2423                 val = ((cbp >> (5 - i)) & 1);
2424                 if (!fieldtx)
2425                     off = (i & 4) ? 0 : ((i & 1) * 8 + (i & 2) * 4 * s->linesize);
2426                 else
2427                     off = (i & 4) ? 0 : ((i & 1) * 8 + ((i > 1) * s->linesize));
2428                 if (val) {
2429                     pat = vc1_decode_p_block(v, s->block[i], i, mquant, ttmb,
2430                                              first_block, s->dest[dst_idx] + off,
2431                                              (i & 4) ? s->uvlinesize : (s->linesize << fieldtx),
2432                                              CONFIG_GRAY && (i & 4) && (s->avctx->flags & AV_CODEC_FLAG_GRAY), &block_tt);
2433                     block_cbp |= pat << (i << 2);
2434                     if (!v->ttmbf && ttmb < 8)
2435                         ttmb = -1;
2436                     first_block = 0;
2437                 }
2438             }
2439
2440         } else { // skipped
2441             dir = 0;
2442             for (i = 0; i < 6; i++) {
2443                 v->mb_type[0][s->block_index[i]] = 0;
2444                 s->dc_val[0][s->block_index[i]] = 0;
2445             }
2446             s->current_picture.mb_type[mb_pos]      = MB_TYPE_SKIP;
2447             s->current_picture.qscale_table[mb_pos] = 0;
2448             v->blk_mv_type[s->block_index[0]] = 0;
2449             v->blk_mv_type[s->block_index[1]] = 0;
2450             v->blk_mv_type[s->block_index[2]] = 0;
2451             v->blk_mv_type[s->block_index[3]] = 0;
2452
2453             if (!direct) {
2454                 if (bmvtype == BMV_TYPE_INTERPOLATED) {
2455                     ff_vc1_pred_mv_intfr(v, 0, 0, 0, 1, v->range_x, v->range_y, v->mb_type[0], 0);
2456                     ff_vc1_pred_mv_intfr(v, 0, 0, 0, 1, v->range_x, v->range_y, v->mb_type[0], 1);
2457                 } else {
2458                     dir = bmvtype == BMV_TYPE_BACKWARD;
2459                     ff_vc1_pred_mv_intfr(v, 0, 0, 0, 1, v->range_x, v->range_y, v->mb_type[0], dir);
2460                     if (mvsw) {
2461                         int dir2 = dir;
2462                         if (mvsw)
2463                             dir2 = !dir;
2464                         for (i = 0; i < 2; i++) {
2465                             s->mv[dir][i+2][0] = s->mv[dir][i][0] = s->current_picture.motion_val[dir][s->block_index[i+2]][0] = s->current_picture.motion_val[dir][s->block_index[i]][0];
2466                             s->mv[dir][i+2][1] = s->mv[dir][i][1] = s->current_picture.motion_val[dir][s->block_index[i+2]][1] = s->current_picture.motion_val[dir][s->block_index[i]][1];
2467                             s->mv[dir2][i+2][0] = s->mv[dir2][i][0] = s->current_picture.motion_val[dir2][s->block_index[i]][0] = s->current_picture.motion_val[dir2][s->block_index[i+2]][0];
2468                             s->mv[dir2][i+2][1] = s->mv[dir2][i][1] = s->current_picture.motion_val[dir2][s->block_index[i]][1] = s->current_picture.motion_val[dir2][s->block_index[i+2]][1];
2469                         }
2470                     } else {
2471                         v->blk_mv_type[s->block_index[0]] = 1;
2472                         v->blk_mv_type[s->block_index[1]] = 1;
2473                         v->blk_mv_type[s->block_index[2]] = 1;
2474                         v->blk_mv_type[s->block_index[3]] = 1;
2475                         ff_vc1_pred_mv_intfr(v, 0, 0, 0, 2, v->range_x, v->range_y, 0, !dir);
2476                         for (i = 0; i < 2; i++) {
2477                             s->mv[!dir][i+2][0] = s->mv[!dir][i][0] = s->current_picture.motion_val[!dir][s->block_index[i+2]][0] = s->current_picture.motion_val[!dir][s->block_index[i]][0];
2478                             s->mv[!dir][i+2][1] = s->mv[!dir][i][1] = s->current_picture.motion_val[!dir][s->block_index[i+2]][1] = s->current_picture.motion_val[!dir][s->block_index[i]][1];
2479                         }
2480                     }
2481                 }
2482             }
2483
2484             ff_vc1_mc_1mv(v, dir);
2485             if (direct || bmvtype == BMV_TYPE_INTERPOLATED) {
2486                 ff_vc1_interp_mc(v);
2487             }
2488             v->fieldtx_plane[mb_pos] = 0;
2489         }
2490     }
2491     v->cbp[s->mb_x]      = block_cbp;
2492     v->ttblk[s->mb_x]    = block_tt;
2493
2494     return 0;
2495 }
2496
2497 /** Decode blocks of I-frame
2498  */
2499 static void vc1_decode_i_blocks(VC1Context *v)
2500 {
2501     int k, j;
2502     MpegEncContext *s = &v->s;
2503     int cbp, val;
2504     uint8_t *coded_val;
2505     int mb_pos;
2506
2507     /* select coding mode used for VLC tables selection */
2508     switch (v->y_ac_table_index) {
2509     case 0:
2510         v->codingset = (v->pqindex <= 8) ? CS_HIGH_RATE_INTRA : CS_LOW_MOT_INTRA;
2511         break;
2512     case 1:
2513         v->codingset = CS_HIGH_MOT_INTRA;
2514         break;
2515     case 2:
2516         v->codingset = CS_MID_RATE_INTRA;
2517         break;
2518     }
2519
2520     switch (v->c_ac_table_index) {
2521     case 0:
2522         v->codingset2 = (v->pqindex <= 8) ? CS_HIGH_RATE_INTER : CS_LOW_MOT_INTER;
2523         break;
2524     case 1:
2525         v->codingset2 = CS_HIGH_MOT_INTER;
2526         break;
2527     case 2:
2528         v->codingset2 = CS_MID_RATE_INTER;
2529         break;
2530     }
2531
2532     /* Set DC scale - y and c use the same */
2533     s->y_dc_scale = s->y_dc_scale_table[v->pq];
2534     s->c_dc_scale = s->c_dc_scale_table[v->pq];
2535
2536     //do frame decode
2537     s->mb_x = s->mb_y = 0;
2538     s->mb_intra         = 1;
2539     s->first_slice_line = 1;
2540     for (s->mb_y = s->start_mb_y; s->mb_y < s->end_mb_y; s->mb_y++) {
2541         s->mb_x = 0;
2542         init_block_index(v);
2543         for (; s->mb_x < v->end_mb_x; s->mb_x++) {
2544             int16_t (*block)[64] = v->block[v->cur_blk_idx];
2545             ff_update_block_index(s);
2546             s->bdsp.clear_blocks(block[0]);
2547             mb_pos = s->mb_x + s->mb_y * s->mb_width;
2548             s->current_picture.mb_type[mb_pos]                     = MB_TYPE_INTRA;
2549             s->current_picture.qscale_table[mb_pos]                = v->pq;
2550             for (int i = 0; i < 4; i++) {
2551                 s->current_picture.motion_val[1][s->block_index[i]][0] = 0;
2552                 s->current_picture.motion_val[1][s->block_index[i]][1] = 0;
2553             }
2554
2555             // do actual MB decoding and displaying
2556             cbp = get_vlc2(&v->s.gb, ff_msmp4_mb_i_vlc.table, MB_INTRA_VLC_BITS, 2);
2557             v->s.ac_pred = get_bits1(&v->s.gb);
2558
2559             for (k = 0; k < 6; k++) {
2560                 v->mb_type[0][s->block_index[k]] = 1;
2561
2562                 val = ((cbp >> (5 - k)) & 1);
2563
2564                 if (k < 4) {
2565                     int pred   = vc1_coded_block_pred(&v->s, k, &coded_val);
2566                     val        = val ^ pred;
2567                     *coded_val = val;
2568                 }
2569                 cbp |= val << (5 - k);
2570
2571                 vc1_decode_i_block(v, block[k], k, val, (k < 4) ? v->codingset : v->codingset2);
2572
2573                 if (CONFIG_GRAY && k > 3 && (s->avctx->flags & AV_CODEC_FLAG_GRAY))
2574                     continue;
2575                 v->vc1dsp.vc1_inv_trans_8x8(block[k]);
2576             }
2577
2578             if (v->overlap && v->pq >= 9) {
2579                 ff_vc1_i_overlap_filter(v);
2580                 if (v->rangeredfrm)
2581                     for (k = 0; k < 6; k++)
2582                         for (j = 0; j < 64; j++)
2583                             block[k][j] <<= 1;
2584                 vc1_put_blocks_clamped(v, 1);
2585             } else {
2586                 if (v->rangeredfrm)
2587                     for (k = 0; k < 6; k++)
2588                         for (j = 0; j < 64; j++)
2589                             block[k][j] = (block[k][j] - 64) << 1;
2590                 vc1_put_blocks_clamped(v, 0);
2591             }
2592
2593             if (v->s.loop_filter)
2594                 ff_vc1_i_loop_filter(v);
2595
2596             if (get_bits_count(&s->gb) > v->bits) {
2597                 ff_er_add_slice(&s->er, 0, 0, s->mb_x, s->mb_y, ER_MB_ERROR);
2598                 av_log(s->avctx, AV_LOG_ERROR, "Bits overconsumption: %i > %i\n",
2599                        get_bits_count(&s->gb), v->bits);
2600                 return;
2601             }
2602
2603             v->topleft_blk_idx = (v->topleft_blk_idx + 1) % (v->end_mb_x + 2);
2604             v->top_blk_idx = (v->top_blk_idx + 1) % (v->end_mb_x + 2);
2605             v->left_blk_idx = (v->left_blk_idx + 1) % (v->end_mb_x + 2);
2606             v->cur_blk_idx = (v->cur_blk_idx + 1) % (v->end_mb_x + 2);
2607         }
2608         if (!v->s.loop_filter)
2609             ff_mpeg_draw_horiz_band(s, s->mb_y * 16, 16);
2610         else if (s->mb_y)
2611             ff_mpeg_draw_horiz_band(s, (s->mb_y - 1) * 16, 16);
2612
2613         s->first_slice_line = 0;
2614     }
2615     if (v->s.loop_filter)
2616         ff_mpeg_draw_horiz_band(s, (s->end_mb_y - 1) * 16, 16);
2617
2618     /* This is intentionally mb_height and not end_mb_y - unlike in advanced
2619      * profile, these only differ are when decoding MSS2 rectangles. */
2620     ff_er_add_slice(&s->er, 0, 0, s->mb_width - 1, s->mb_height - 1, ER_MB_END);
2621 }
2622
2623 /** Decode blocks of I-frame for advanced profile
2624  */
2625 static void vc1_decode_i_blocks_adv(VC1Context *v)
2626 {
2627     int k;
2628     MpegEncContext *s = &v->s;
2629     int cbp, val;
2630     uint8_t *coded_val;
2631     int mb_pos;
2632     int mquant;
2633     int mqdiff;
2634     GetBitContext *gb = &s->gb;
2635
2636     /* select coding mode used for VLC tables selection */
2637     switch (v->y_ac_table_index) {
2638     case 0:
2639         v->codingset = (v->pqindex <= 8) ? CS_HIGH_RATE_INTRA : CS_LOW_MOT_INTRA;
2640         break;
2641     case 1:
2642         v->codingset = CS_HIGH_MOT_INTRA;
2643         break;
2644     case 2:
2645         v->codingset = CS_MID_RATE_INTRA;
2646         break;
2647     }
2648
2649     switch (v->c_ac_table_index) {
2650     case 0:
2651         v->codingset2 = (v->pqindex <= 8) ? CS_HIGH_RATE_INTER : CS_LOW_MOT_INTER;
2652         break;
2653     case 1:
2654         v->codingset2 = CS_HIGH_MOT_INTER;
2655         break;
2656     case 2:
2657         v->codingset2 = CS_MID_RATE_INTER;
2658         break;
2659     }
2660
2661     // do frame decode
2662     s->mb_x             = s->mb_y = 0;
2663     s->mb_intra         = 1;
2664     s->first_slice_line = 1;
2665     s->mb_y             = s->start_mb_y;
2666     if (s->start_mb_y) {
2667         s->mb_x = 0;
2668         init_block_index(v);
2669         memset(&s->coded_block[s->block_index[0] - s->b8_stride], 0,
2670                (1 + s->b8_stride) * sizeof(*s->coded_block));
2671     }
2672     for (; s->mb_y < s->end_mb_y; s->mb_y++) {
2673         s->mb_x = 0;
2674         init_block_index(v);
2675         for (;s->mb_x < s->mb_width; s->mb_x++) {
2676             int16_t (*block)[64] = v->block[v->cur_blk_idx];
2677             mquant = v->pq;
2678             ff_update_block_index(s);
2679             s->bdsp.clear_blocks(block[0]);
2680             mb_pos = s->mb_x + s->mb_y * s->mb_stride;
2681             s->current_picture.mb_type[mb_pos + v->mb_off]                         = MB_TYPE_INTRA;
2682             for (int i = 0; i < 4; i++) {
2683                 s->current_picture.motion_val[1][s->block_index[i] + v->blocks_off][0] = 0;
2684                 s->current_picture.motion_val[1][s->block_index[i] + v->blocks_off][1] = 0;
2685             }
2686
2687             // do actual MB decoding and displaying
2688             if (v->fieldtx_is_raw)
2689                 v->fieldtx_plane[mb_pos] = get_bits1(&v->s.gb);
2690             cbp = get_vlc2(&v->s.gb, ff_msmp4_mb_i_vlc.table, MB_INTRA_VLC_BITS, 2);
2691             if (v->acpred_is_raw)
2692                 v->s.ac_pred = get_bits1(&v->s.gb);
2693             else
2694                 v->s.ac_pred = v->acpred_plane[mb_pos];
2695
2696             if (v->condover == CONDOVER_SELECT && v->overflg_is_raw)
2697                 v->over_flags_plane[mb_pos] = get_bits1(&v->s.gb);
2698
2699             GET_MQUANT();
2700
2701             s->current_picture.qscale_table[mb_pos] = mquant;
2702             /* Set DC scale - y and c use the same */
2703             s->y_dc_scale = s->y_dc_scale_table[FFABS(mquant)];
2704             s->c_dc_scale = s->c_dc_scale_table[FFABS(mquant)];
2705
2706             for (k = 0; k < 6; k++) {
2707                 v->mb_type[0][s->block_index[k]] = 1;
2708
2709                 val = ((cbp >> (5 - k)) & 1);
2710
2711                 if (k < 4) {
2712                     int pred   = vc1_coded_block_pred(&v->s, k, &coded_val);
2713                     val        = val ^ pred;
2714                     *coded_val = val;
2715                 }
2716                 cbp |= val << (5 - k);
2717
2718                 v->a_avail = !s->first_slice_line || (k == 2 || k == 3);
2719                 v->c_avail = !!s->mb_x || (k == 1 || k == 3);
2720
2721                 vc1_decode_i_block_adv(v, block[k], k, val,
2722                                        (k < 4) ? v->codingset : v->codingset2, mquant);
2723
2724                 if (CONFIG_GRAY && k > 3 && (s->avctx->flags & AV_CODEC_FLAG_GRAY))
2725                     continue;
2726                 v->vc1dsp.vc1_inv_trans_8x8(block[k]);
2727             }
2728
2729             if (v->overlap && v->condover != CONDOVER_NONE)
2730                 ff_vc1_i_overlap_filter(v);
2731             vc1_put_blocks_clamped(v, 1);
2732             if (v->s.loop_filter)
2733                 ff_vc1_i_loop_filter(v);
2734
2735             if (get_bits_count(&s->gb) > v->bits) {
2736                 // TODO: may need modification to handle slice coding
2737                 ff_er_add_slice(&s->er, 0, s->start_mb_y, s->mb_x, s->mb_y, ER_MB_ERROR);
2738                 av_log(s->avctx, AV_LOG_ERROR, "Bits overconsumption: %i > %i\n",
2739                        get_bits_count(&s->gb), v->bits);
2740                 return;
2741             }
2742             inc_blk_idx(v->topleft_blk_idx);
2743             inc_blk_idx(v->top_blk_idx);
2744             inc_blk_idx(v->left_blk_idx);
2745             inc_blk_idx(v->cur_blk_idx);
2746         }
2747         if (!v->s.loop_filter)
2748             ff_mpeg_draw_horiz_band(s, s->mb_y * 16, 16);
2749         else if (s->mb_y)
2750             ff_mpeg_draw_horiz_band(s, (s->mb_y-1) * 16, 16);
2751         s->first_slice_line = 0;
2752     }
2753
2754     if (v->s.loop_filter)
2755         ff_mpeg_draw_horiz_band(s, (s->end_mb_y - 1) * 16, 16);
2756     ff_er_add_slice(&s->er, 0, s->start_mb_y << v->field_mode, s->mb_width - 1,
2757                     (s->end_mb_y << v->field_mode) - 1, ER_MB_END);
2758 }
2759
2760 static void vc1_decode_p_blocks(VC1Context *v)
2761 {
2762     MpegEncContext *s = &v->s;
2763     int apply_loop_filter;
2764
2765     /* select coding mode used for VLC tables selection */
2766     switch (v->c_ac_table_index) {
2767     case 0:
2768         v->codingset = (v->pqindex <= 8) ? CS_HIGH_RATE_INTRA : CS_LOW_MOT_INTRA;
2769         break;
2770     case 1:
2771         v->codingset = CS_HIGH_MOT_INTRA;
2772         break;
2773     case 2:
2774         v->codingset = CS_MID_RATE_INTRA;
2775         break;
2776     }
2777
2778     switch (v->c_ac_table_index) {
2779     case 0:
2780         v->codingset2 = (v->pqindex <= 8) ? CS_HIGH_RATE_INTER : CS_LOW_MOT_INTER;
2781         break;
2782     case 1:
2783         v->codingset2 = CS_HIGH_MOT_INTER;
2784         break;
2785     case 2:
2786         v->codingset2 = CS_MID_RATE_INTER;
2787         break;
2788     }
2789
2790     apply_loop_filter   = s->loop_filter && !(s->avctx->skip_loop_filter >= AVDISCARD_NONKEY);
2791     s->first_slice_line = 1;
2792     memset(v->cbp_base, 0, sizeof(v->cbp_base[0]) * 3 * s->mb_stride);
2793     for (s->mb_y = s->start_mb_y; s->mb_y < s->end_mb_y; s->mb_y++) {
2794         s->mb_x = 0;
2795         init_block_index(v);
2796         for (; s->mb_x < s->mb_width; s->mb_x++) {
2797             ff_update_block_index(s);
2798
2799             if (v->fcm == ILACE_FIELD) {
2800                 vc1_decode_p_mb_intfi(v);
2801                 if (apply_loop_filter)
2802                     ff_vc1_p_loop_filter(v);
2803             } else if (v->fcm == ILACE_FRAME) {
2804                 vc1_decode_p_mb_intfr(v);
2805                 if (apply_loop_filter)
2806                     ff_vc1_p_intfr_loop_filter(v);
2807             } else {
2808                 vc1_decode_p_mb(v);
2809                 if (apply_loop_filter)
2810                     ff_vc1_p_loop_filter(v);
2811             }
2812             if (get_bits_count(&s->gb) > v->bits || get_bits_count(&s->gb) < 0) {
2813                 // TODO: may need modification to handle slice coding
2814                 ff_er_add_slice(&s->er, 0, s->start_mb_y, s->mb_x, s->mb_y, ER_MB_ERROR);
2815                 av_log(s->avctx, AV_LOG_ERROR, "Bits overconsumption: %i > %i at %ix%i\n",
2816                        get_bits_count(&s->gb), v->bits, s->mb_x, s->mb_y);
2817                 return;
2818             }
2819             inc_blk_idx(v->topleft_blk_idx);
2820             inc_blk_idx(v->top_blk_idx);
2821             inc_blk_idx(v->left_blk_idx);
2822             inc_blk_idx(v->cur_blk_idx);
2823         }
2824         memmove(v->cbp_base,
2825                 v->cbp - s->mb_stride,
2826                 sizeof(v->cbp_base[0]) * 2 * s->mb_stride);
2827         memmove(v->ttblk_base,
2828                 v->ttblk - s->mb_stride,
2829                 sizeof(v->ttblk_base[0]) * 2 * s->mb_stride);
2830         memmove(v->is_intra_base,
2831                 v->is_intra - s->mb_stride,
2832                 sizeof(v->is_intra_base[0]) * 2 * s->mb_stride);
2833         memmove(v->luma_mv_base,
2834                 v->luma_mv - s->mb_stride,
2835                 sizeof(v->luma_mv_base[0]) * 2 * s->mb_stride);
2836         if (s->mb_y != s->start_mb_y)
2837             ff_mpeg_draw_horiz_band(s, (s->mb_y - 1) * 16, 16);
2838         s->first_slice_line = 0;
2839     }
2840     if (s->end_mb_y >= s->start_mb_y)
2841         ff_mpeg_draw_horiz_band(s, (s->end_mb_y - 1) * 16, 16);
2842     ff_er_add_slice(&s->er, 0, s->start_mb_y << v->field_mode, s->mb_width - 1,
2843                     (s->end_mb_y << v->field_mode) - 1, ER_MB_END);
2844 }
2845
2846 static void vc1_decode_b_blocks(VC1Context *v)
2847 {
2848     MpegEncContext *s = &v->s;
2849
2850     /* select coding mode used for VLC tables selection */
2851     switch (v->c_ac_table_index) {
2852     case 0:
2853         v->codingset = (v->pqindex <= 8) ? CS_HIGH_RATE_INTRA : CS_LOW_MOT_INTRA;
2854         break;
2855     case 1:
2856         v->codingset = CS_HIGH_MOT_INTRA;
2857         break;
2858     case 2:
2859         v->codingset = CS_MID_RATE_INTRA;
2860         break;
2861     }
2862
2863     switch (v->c_ac_table_index) {
2864     case 0:
2865         v->codingset2 = (v->pqindex <= 8) ? CS_HIGH_RATE_INTER : CS_LOW_MOT_INTER;
2866         break;
2867     case 1:
2868         v->codingset2 = CS_HIGH_MOT_INTER;
2869         break;
2870     case 2:
2871         v->codingset2 = CS_MID_RATE_INTER;
2872         break;
2873     }
2874
2875     s->first_slice_line = 1;
2876     for (s->mb_y = s->start_mb_y; s->mb_y < s->end_mb_y; s->mb_y++) {
2877         s->mb_x = 0;
2878         init_block_index(v);
2879         for (; s->mb_x < s->mb_width; s->mb_x++) {
2880             ff_update_block_index(s);
2881
2882             if (v->fcm == ILACE_FIELD) {
2883                 vc1_decode_b_mb_intfi(v);
2884                 if (v->s.loop_filter)
2885                     ff_vc1_b_intfi_loop_filter(v);
2886             } else if (v->fcm == ILACE_FRAME) {
2887                 vc1_decode_b_mb_intfr(v);
2888                 if (v->s.loop_filter)
2889                     ff_vc1_p_intfr_loop_filter(v);
2890             } else {
2891                 vc1_decode_b_mb(v);
2892                 if (v->s.loop_filter)
2893                     ff_vc1_i_loop_filter(v);
2894             }
2895             if (get_bits_count(&s->gb) > v->bits || get_bits_count(&s->gb) < 0) {
2896                 // TODO: may need modification to handle slice coding
2897                 ff_er_add_slice(&s->er, 0, s->start_mb_y, s->mb_x, s->mb_y, ER_MB_ERROR);
2898                 av_log(s->avctx, AV_LOG_ERROR, "Bits overconsumption: %i > %i at %ix%i\n",
2899                        get_bits_count(&s->gb), v->bits, s->mb_x, s->mb_y);
2900                 return;
2901             }
2902         }
2903         memmove(v->cbp_base,
2904                 v->cbp - s->mb_stride,
2905                 sizeof(v->cbp_base[0]) * 2 * s->mb_stride);
2906         memmove(v->ttblk_base,
2907                 v->ttblk - s->mb_stride,
2908                 sizeof(v->ttblk_base[0]) * 2 * s->mb_stride);
2909         memmove(v->is_intra_base,
2910                 v->is_intra - s->mb_stride,
2911                 sizeof(v->is_intra_base[0]) * 2 * s->mb_stride);
2912         if (!v->s.loop_filter)
2913             ff_mpeg_draw_horiz_band(s, s->mb_y * 16, 16);
2914         else if (s->mb_y)
2915             ff_mpeg_draw_horiz_band(s, (s->mb_y - 1) * 16, 16);
2916         s->first_slice_line = 0;
2917     }
2918     if (v->s.loop_filter)
2919         ff_mpeg_draw_horiz_band(s, (s->end_mb_y - 1) * 16, 16);
2920     ff_er_add_slice(&s->er, 0, s->start_mb_y << v->field_mode, s->mb_width - 1,
2921                     (s->end_mb_y << v->field_mode) - 1, ER_MB_END);
2922 }
2923
2924 static void vc1_decode_skip_blocks(VC1Context *v)
2925 {
2926     MpegEncContext *s = &v->s;
2927
2928     if (!v->s.last_picture.f->data[0])
2929         return;
2930
2931     ff_er_add_slice(&s->er, 0, s->start_mb_y, s->mb_width - 1, s->end_mb_y - 1, ER_MB_END);
2932     s->first_slice_line = 1;
2933     for (s->mb_y = s->start_mb_y; s->mb_y < s->end_mb_y; s->mb_y++) {
2934         s->mb_x = 0;
2935         init_block_index(v);
2936         ff_update_block_index(s);
2937         memcpy(s->dest[0], s->last_picture.f->data[0] + s->mb_y * 16 * s->linesize,   s->linesize   * 16);
2938         memcpy(s->dest[1], s->last_picture.f->data[1] + s->mb_y *  8 * s->uvlinesize, s->uvlinesize *  8);
2939         memcpy(s->dest[2], s->last_picture.f->data[2] + s->mb_y *  8 * s->uvlinesize, s->uvlinesize *  8);
2940         ff_mpeg_draw_horiz_band(s, s->mb_y * 16, 16);
2941         s->first_slice_line = 0;
2942     }
2943     s->pict_type = AV_PICTURE_TYPE_P;
2944 }
2945
2946 void ff_vc1_decode_blocks(VC1Context *v)
2947 {
2948
2949     v->s.esc3_level_length = 0;
2950     if (v->x8_type) {
2951         ff_intrax8_decode_picture(&v->x8, &v->s.current_picture,
2952                                   &v->s.gb, &v->s.mb_x, &v->s.mb_y,
2953                                   2 * v->pq + v->halfpq, v->pq * !v->pquantizer,
2954                                   v->s.loop_filter, v->s.low_delay);
2955
2956         ff_er_add_slice(&v->s.er, 0, 0,
2957                         (v->s.mb_x >> 1) - 1, (v->s.mb_y >> 1) - 1,
2958                         ER_MB_END);
2959     } else {
2960         v->cur_blk_idx     =  0;
2961         v->left_blk_idx    = -1;
2962         v->topleft_blk_idx =  1;
2963         v->top_blk_idx     =  2;
2964         switch (v->s.pict_type) {
2965         case AV_PICTURE_TYPE_I:
2966             if (v->profile == PROFILE_ADVANCED)
2967                 vc1_decode_i_blocks_adv(v);
2968             else
2969                 vc1_decode_i_blocks(v);
2970             break;
2971         case AV_PICTURE_TYPE_P:
2972             if (v->p_frame_skipped)
2973                 vc1_decode_skip_blocks(v);
2974             else
2975                 vc1_decode_p_blocks(v);
2976             break;
2977         case AV_PICTURE_TYPE_B:
2978             if (v->bi_type) {
2979                 if (v->profile == PROFILE_ADVANCED)
2980                     vc1_decode_i_blocks_adv(v);
2981                 else
2982                     vc1_decode_i_blocks(v);
2983             } else
2984                 vc1_decode_b_blocks(v);
2985             break;
2986         }
2987     }
2988 }