avcodec/vc1: store color-difference reference field type
[ffmpeg.git] / libavcodec / vc1_mc.c
1 /*
2  * VC-1 and WMV3 decoder
3  * Copyright (c) 2011 Mashiat Sarker Shakkhar
4  * Copyright (c) 2006-2007 Konstantin Shishkov
5  * Partly based on vc9.c (c) 2005 Anonymous, Alex Beregszaszi, Michael Niedermayer
6  *
7  * This file is part of FFmpeg.
8  *
9  * FFmpeg is free software; you can redistribute it and/or
10  * modify it under the terms of the GNU Lesser General Public
11  * License as published by the Free Software Foundation; either
12  * version 2.1 of the License, or (at your option) any later version.
13  *
14  * FFmpeg is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
17  * Lesser General Public License for more details.
18  *
19  * You should have received a copy of the GNU Lesser General Public
20  * License along with FFmpeg; if not, write to the Free Software
21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
22  */
23
24 /**
25  * @file
26  * VC-1 and WMV3 block decoding routines
27  */
28
29 #include "avcodec.h"
30 #include "h264chroma.h"
31 #include "mathops.h"
32 #include "mpegvideo.h"
33 #include "vc1.h"
34
35 static av_always_inline void vc1_scale_luma(uint8_t *srcY,
36                                             int k, int linesize)
37 {
38     int i, j;
39     for (j = 0; j < k; j++) {
40         for (i = 0; i < k; i++)
41             srcY[i] = ((srcY[i] - 128) >> 1) + 128;
42         srcY += linesize;
43     }
44 }
45
46 static av_always_inline void vc1_scale_chroma(uint8_t *srcU, uint8_t *srcV,
47                                               int k, int uvlinesize)
48 {
49     int i, j;
50     for (j = 0; j < k; j++) {
51         for (i = 0; i < k; i++) {
52             srcU[i] = ((srcU[i] - 128) >> 1) + 128;
53             srcV[i] = ((srcV[i] - 128) >> 1) + 128;
54         }
55         srcU += uvlinesize;
56         srcV += uvlinesize;
57     }
58 }
59
60 static av_always_inline void vc1_lut_scale_luma(uint8_t *srcY,
61                                                 uint8_t *lut1, uint8_t *lut2,
62                                                 int k, int linesize)
63 {
64     int i, j;
65
66     for (j = 0; j < k; j += 2) {
67         for (i = 0; i < k; i++)
68             srcY[i] = lut1[srcY[i]];
69         srcY += linesize;
70
71         if (j + 1 == k)
72             break;
73
74         for (i = 0; i < k; i++)
75             srcY[i] = lut2[srcY[i]];
76         srcY += linesize;
77     }
78 }
79
80 static av_always_inline void vc1_lut_scale_chroma(uint8_t *srcU, uint8_t *srcV,
81                                                   uint8_t *lut1, uint8_t *lut2,
82                                                   int k, int uvlinesize)
83 {
84     int i, j;
85
86     for (j = 0; j < k; j += 2) {
87         for (i = 0; i < k; i++) {
88             srcU[i] = lut1[srcU[i]];
89             srcV[i] = lut1[srcV[i]];
90         }
91         srcU += uvlinesize;
92         srcV += uvlinesize;
93
94         if (j + 1 == k)
95             break;
96
97         for (i = 0; i < k; i++) {
98             srcU[i] = lut2[srcU[i]];
99             srcV[i] = lut2[srcV[i]];
100         }
101         srcU += uvlinesize;
102         srcV += uvlinesize;
103     }
104 }
105
106 static const uint8_t popcount4[16] = { 0, 1, 1, 2, 1, 2, 2, 3, 1, 2, 2, 3, 2, 3, 3, 4 };
107
108 static av_always_inline int get_luma_mv(VC1Context *v, int dir, int16_t *tx, int16_t *ty)
109 {
110     MpegEncContext *s = &v->s;
111     int idx = v->mv_f[dir][s->block_index[0] + v->blocks_off] |
112              (v->mv_f[dir][s->block_index[1] + v->blocks_off] << 1) |
113              (v->mv_f[dir][s->block_index[2] + v->blocks_off] << 2) |
114              (v->mv_f[dir][s->block_index[3] + v->blocks_off] << 3);
115     static const uint8_t index2[16] = { 0, 0, 0, 0x23, 0, 0x13, 0x03, 0, 0, 0x12, 0x02, 0, 0x01, 0, 0, 0 };
116     int opp_count = popcount4[idx];
117
118     switch (opp_count) {
119     case 0:
120     case 4:
121         *tx = median4(s->mv[dir][0][0], s->mv[dir][1][0], s->mv[dir][2][0], s->mv[dir][3][0]);
122         *ty = median4(s->mv[dir][0][1], s->mv[dir][1][1], s->mv[dir][2][1], s->mv[dir][3][1]);
123         break;
124     case 1:
125         *tx = mid_pred(s->mv[dir][idx < 2][0], s->mv[dir][1 + (idx < 4)][0], s->mv[dir][2 + (idx < 8)][0]);
126         *ty = mid_pred(s->mv[dir][idx < 2][1], s->mv[dir][1 + (idx < 4)][1], s->mv[dir][2 + (idx < 8)][1]);
127         break;
128     case 3:
129         *tx = mid_pred(s->mv[dir][idx > 0xd][0], s->mv[dir][1 + (idx > 0xb)][0], s->mv[dir][2 + (idx > 0x7)][0]);
130         *ty = mid_pred(s->mv[dir][idx > 0xd][1], s->mv[dir][1 + (idx > 0xb)][1], s->mv[dir][2 + (idx > 0x7)][1]);
131         break;
132     case 2:
133         *tx = (s->mv[dir][index2[idx] >> 4][0] + s->mv[dir][index2[idx] & 0xf][0]) / 2;
134         *ty = (s->mv[dir][index2[idx] >> 4][1] + s->mv[dir][index2[idx] & 0xf][1]) / 2;
135         break;
136     }
137     return opp_count;
138 }
139
140 static av_always_inline int get_chroma_mv(VC1Context *v, int dir, int16_t *tx, int16_t *ty)
141 {
142     MpegEncContext *s = &v->s;
143     int idx = !v->mb_type[0][s->block_index[0]] |
144              (!v->mb_type[0][s->block_index[1]] << 1) |
145              (!v->mb_type[0][s->block_index[2]] << 2) |
146              (!v->mb_type[0][s->block_index[3]] << 3);
147     static const uint8_t index2[16] = { 0, 0, 0, 0x01, 0, 0x02, 0x12, 0, 0, 0x03, 0x13, 0, 0x23, 0, 0, 0 };
148     int valid_count = popcount4[idx];
149
150     switch (valid_count) {
151     case 4:
152         *tx = median4(s->mv[dir][0][0], s->mv[dir][1][0], s->mv[dir][2][0], s->mv[dir][3][0]);
153         *ty = median4(s->mv[dir][0][1], s->mv[dir][1][1], s->mv[dir][2][1], s->mv[dir][3][1]);
154         break;
155     case 3:
156         *tx = mid_pred(s->mv[dir][idx > 0xd][0], s->mv[dir][1 + (idx > 0xb)][0], s->mv[dir][2 + (idx > 0x7)][0]);
157         *ty = mid_pred(s->mv[dir][idx > 0xd][1], s->mv[dir][1 + (idx > 0xb)][1], s->mv[dir][2 + (idx > 0x7)][1]);
158         break;
159     case 2:
160         *tx = (s->mv[dir][index2[idx] >> 4][0] + s->mv[dir][index2[idx] & 0xf][0]) / 2;
161         *ty = (s->mv[dir][index2[idx] >> 4][1] + s->mv[dir][index2[idx] & 0xf][1]) / 2;
162         break;
163     default:
164         return 0;
165     }
166     return valid_count;
167 }
168
169 /** Do motion compensation over 1 macroblock
170  * Mostly adapted hpel_motion and qpel_motion from mpegvideo.c
171  */
172 void ff_vc1_mc_1mv(VC1Context *v, int dir)
173 {
174     MpegEncContext *s = &v->s;
175     H264ChromaContext *h264chroma = &v->h264chroma;
176     uint8_t *srcY, *srcU, *srcV;
177     int dxy, mx, my, uvmx, uvmy, src_x, src_y, uvsrc_x, uvsrc_y;
178     int v_edge_pos = s->v_edge_pos >> v->field_mode;
179     int i;
180     uint8_t (*luty)[256], (*lutuv)[256];
181     int use_ic;
182
183     if ((!v->field_mode ||
184          (v->ref_field_type[dir] == 1 && v->cur_field_type == 1)) &&
185         !v->s.last_picture.f->data[0])
186         return;
187
188     mx = s->mv[dir][0][0];
189     my = s->mv[dir][0][1];
190
191     // store motion vectors for further use in B-frames
192     if (s->pict_type == AV_PICTURE_TYPE_P) {
193         for (i = 0; i < 4; i++) {
194             s->current_picture.motion_val[1][s->block_index[i] + v->blocks_off][0] = mx;
195             s->current_picture.motion_val[1][s->block_index[i] + v->blocks_off][1] = my;
196         }
197     }
198
199     uvmx = (mx + ((mx & 3) == 3)) >> 1;
200     uvmy = (my + ((my & 3) == 3)) >> 1;
201     v->luma_mv[s->mb_x][0] = uvmx;
202     v->luma_mv[s->mb_x][1] = uvmy;
203
204     if (v->field_mode &&
205         v->cur_field_type != v->ref_field_type[dir]) {
206         my   = my   - 2 + 4 * v->cur_field_type;
207         uvmy = uvmy - 2 + 4 * v->cur_field_type;
208     }
209
210     // fastuvmc shall be ignored for interlaced frame picture
211     if (v->fastuvmc && (v->fcm != ILACE_FRAME)) {
212         uvmx = uvmx + ((uvmx < 0) ? (uvmx & 1) : -(uvmx & 1));
213         uvmy = uvmy + ((uvmy < 0) ? (uvmy & 1) : -(uvmy & 1));
214     }
215     if (!dir) {
216         if (v->field_mode && (v->cur_field_type != v->ref_field_type[dir]) && v->second_field) {
217             srcY = s->current_picture.f->data[0];
218             srcU = s->current_picture.f->data[1];
219             srcV = s->current_picture.f->data[2];
220             luty  = v->curr_luty;
221             lutuv = v->curr_lutuv;
222             use_ic = *v->curr_use_ic;
223         } else {
224             srcY = s->last_picture.f->data[0];
225             srcU = s->last_picture.f->data[1];
226             srcV = s->last_picture.f->data[2];
227             luty  = v->last_luty;
228             lutuv = v->last_lutuv;
229             use_ic = v->last_use_ic;
230         }
231     } else {
232         srcY = s->next_picture.f->data[0];
233         srcU = s->next_picture.f->data[1];
234         srcV = s->next_picture.f->data[2];
235         luty  = v->next_luty;
236         lutuv = v->next_lutuv;
237         use_ic = v->next_use_ic;
238     }
239
240     if (!srcY || !srcU) {
241         av_log(v->s.avctx, AV_LOG_ERROR, "Referenced frame missing.\n");
242         return;
243     }
244
245     src_x   = s->mb_x * 16 + (mx   >> 2);
246     src_y   = s->mb_y * 16 + (my   >> 2);
247     uvsrc_x = s->mb_x *  8 + (uvmx >> 2);
248     uvsrc_y = s->mb_y *  8 + (uvmy >> 2);
249
250     if (v->profile != PROFILE_ADVANCED) {
251         src_x   = av_clip(  src_x, -16, s->mb_width  * 16);
252         src_y   = av_clip(  src_y, -16, s->mb_height * 16);
253         uvsrc_x = av_clip(uvsrc_x,  -8, s->mb_width  *  8);
254         uvsrc_y = av_clip(uvsrc_y,  -8, s->mb_height *  8);
255     } else {
256         src_x   = av_clip(  src_x, -17, s->avctx->coded_width);
257         src_y   = av_clip(  src_y, -18, s->avctx->coded_height + 1);
258         uvsrc_x = av_clip(uvsrc_x,  -8, s->avctx->coded_width  >> 1);
259         uvsrc_y = av_clip(uvsrc_y,  -8, s->avctx->coded_height >> 1);
260     }
261
262     srcY += src_y   * s->linesize   + src_x;
263     srcU += uvsrc_y * s->uvlinesize + uvsrc_x;
264     srcV += uvsrc_y * s->uvlinesize + uvsrc_x;
265
266     if (v->field_mode && v->ref_field_type[dir]) {
267         srcY += s->current_picture_ptr->f->linesize[0];
268         srcU += s->current_picture_ptr->f->linesize[1];
269         srcV += s->current_picture_ptr->f->linesize[2];
270     }
271
272     /* for grayscale we should not try to read from unknown area */
273     if (CONFIG_GRAY && s->avctx->flags & AV_CODEC_FLAG_GRAY) {
274         srcU = s->sc.edge_emu_buffer + 18 * s->linesize;
275         srcV = s->sc.edge_emu_buffer + 18 * s->linesize;
276     }
277
278     if (v->rangeredfrm || use_ic
279         || s->h_edge_pos < 22 || v_edge_pos < 22
280         || (unsigned)(src_x - s->mspel) > s->h_edge_pos - (mx&3) - 16 - s->mspel * 3
281         || (unsigned)(src_y - 1)        > v_edge_pos    - (my&3) - 16 - 3) {
282         uint8_t *ubuf = s->sc.edge_emu_buffer + 19 * s->linesize;
283         uint8_t *vbuf = ubuf + 9 * s->uvlinesize;
284         const int k = 17 + s->mspel * 2;
285
286         srcY -= s->mspel * (1 + s->linesize);
287         s->vdsp.emulated_edge_mc(s->sc.edge_emu_buffer, srcY,
288                                  s->linesize, s->linesize,
289                                  k, k,
290                                  src_x - s->mspel, src_y - s->mspel,
291                                  s->h_edge_pos, v_edge_pos);
292         srcY = s->sc.edge_emu_buffer;
293         s->vdsp.emulated_edge_mc(ubuf, srcU,
294                                  s->uvlinesize, s->uvlinesize,
295                                  8 + 1, 8 + 1,
296                                  uvsrc_x, uvsrc_y,
297                                  s->h_edge_pos >> 1, v_edge_pos >> 1);
298         s->vdsp.emulated_edge_mc(vbuf, srcV,
299                                  s->uvlinesize, s->uvlinesize,
300                                  8 + 1, 8 + 1,
301                                  uvsrc_x, uvsrc_y,
302                                  s->h_edge_pos >> 1, v_edge_pos >> 1);
303         srcU = ubuf;
304         srcV = vbuf;
305         /* if we deal with range reduction we need to scale source blocks */
306         if (v->rangeredfrm) {
307             vc1_scale_luma(srcY, k, s->linesize);
308             vc1_scale_chroma(srcU, srcV, 9, s->uvlinesize);
309         }
310         /* if we deal with intensity compensation we need to scale source blocks */
311         if (use_ic) {
312             vc1_lut_scale_luma(srcY,
313                                luty[v->field_mode ? v->ref_field_type[dir] : ((0 + src_y - s->mspel) & 1)],
314                                luty[v->field_mode ? v->ref_field_type[dir] : ((1 + src_y - s->mspel) & 1)],
315                                k, s->linesize);
316             vc1_lut_scale_chroma(srcU, srcV,
317                                  lutuv[v->field_mode ? v->ref_field_type[dir] : ((0 + uvsrc_y) & 1)],
318                                  lutuv[v->field_mode ? v->ref_field_type[dir] : ((1 + uvsrc_y) & 1)],
319                                  9, s->uvlinesize);
320         }
321         srcY += s->mspel * (1 + s->linesize);
322     }
323
324     if (s->mspel) {
325         dxy = ((my & 3) << 2) | (mx & 3);
326         v->vc1dsp.put_vc1_mspel_pixels_tab[0][dxy](s->dest[0], srcY, s->linesize, v->rnd);
327     } else { // hpel mc - always used for luma
328         dxy = (my & 2) | ((mx & 2) >> 1);
329         if (!v->rnd)
330             s->hdsp.put_pixels_tab[0][dxy](s->dest[0], srcY, s->linesize, 16);
331         else
332             s->hdsp.put_no_rnd_pixels_tab[0][dxy](s->dest[0], srcY, s->linesize, 16);
333     }
334
335     if (CONFIG_GRAY && s->avctx->flags & AV_CODEC_FLAG_GRAY)
336         return;
337     /* Chroma MC always uses qpel bilinear */
338     uvmx = (uvmx & 3) << 1;
339     uvmy = (uvmy & 3) << 1;
340     if (!v->rnd) {
341         h264chroma->put_h264_chroma_pixels_tab[0](s->dest[1], srcU, s->uvlinesize, 8, uvmx, uvmy);
342         h264chroma->put_h264_chroma_pixels_tab[0](s->dest[2], srcV, s->uvlinesize, 8, uvmx, uvmy);
343     } else {
344         v->vc1dsp.put_no_rnd_vc1_chroma_pixels_tab[0](s->dest[1], srcU, s->uvlinesize, 8, uvmx, uvmy);
345         v->vc1dsp.put_no_rnd_vc1_chroma_pixels_tab[0](s->dest[2], srcV, s->uvlinesize, 8, uvmx, uvmy);
346     }
347     if (v->field_mode) {
348         v->mv_f[dir][s->block_index[4] + v->mb_off] = v->cur_field_type != v->ref_field_type[dir];
349         v->mv_f[dir][s->block_index[5] + v->mb_off] = v->cur_field_type != v->ref_field_type[dir];
350     }
351 }
352
353 /** Do motion compensation for 4-MV macroblock - luminance block
354  */
355 void ff_vc1_mc_4mv_luma(VC1Context *v, int n, int dir, int avg)
356 {
357     MpegEncContext *s = &v->s;
358     uint8_t *srcY;
359     int dxy, mx, my, src_x, src_y;
360     int off;
361     int fieldmv = (v->fcm == ILACE_FRAME) ? v->blk_mv_type[s->block_index[n]] : 0;
362     int v_edge_pos = s->v_edge_pos >> v->field_mode;
363     uint8_t (*luty)[256];
364     int use_ic;
365
366     if ((!v->field_mode ||
367          (v->ref_field_type[dir] == 1 && v->cur_field_type == 1)) &&
368         !v->s.last_picture.f->data[0])
369         return;
370
371     mx = s->mv[dir][n][0];
372     my = s->mv[dir][n][1];
373
374     if (!dir) {
375         if (v->field_mode && (v->cur_field_type != v->ref_field_type[dir]) && v->second_field) {
376             srcY = s->current_picture.f->data[0];
377             luty = v->curr_luty;
378             use_ic = *v->curr_use_ic;
379         } else {
380             srcY = s->last_picture.f->data[0];
381             luty = v->last_luty;
382             use_ic = v->last_use_ic;
383         }
384     } else {
385         srcY = s->next_picture.f->data[0];
386         luty = v->next_luty;
387         use_ic = v->next_use_ic;
388     }
389
390     if (!srcY) {
391         av_log(v->s.avctx, AV_LOG_ERROR, "Referenced frame missing.\n");
392         return;
393     }
394
395     if (v->field_mode) {
396         if (v->cur_field_type != v->ref_field_type[dir])
397             my = my - 2 + 4 * v->cur_field_type;
398     }
399
400     if (s->pict_type == AV_PICTURE_TYPE_P && n == 3 && v->field_mode) {
401         int opp_count = get_luma_mv(v, 0,
402                                     &s->current_picture.motion_val[1][s->block_index[0] + v->blocks_off][0],
403                                     &s->current_picture.motion_val[1][s->block_index[0] + v->blocks_off][1]);
404         int k, f = opp_count > 2;
405         for (k = 0; k < 4; k++)
406             v->mv_f[1][s->block_index[k] + v->blocks_off] = f;
407     }
408
409     if (v->fcm == ILACE_FRAME) {  // not sure if needed for other types of picture
410         int qx, qy;
411         int width  = s->avctx->coded_width;
412         int height = s->avctx->coded_height >> 1;
413         if (s->pict_type == AV_PICTURE_TYPE_P) {
414             s->current_picture.motion_val[1][s->block_index[n] + v->blocks_off][0] = mx;
415             s->current_picture.motion_val[1][s->block_index[n] + v->blocks_off][1] = my;
416         }
417         qx = (s->mb_x * 16) + (mx >> 2);
418         qy = (s->mb_y *  8) + (my >> 3);
419
420         if (qx < -17)
421             mx -= 4 * (qx + 17);
422         else if (qx > width)
423             mx -= 4 * (qx - width);
424         if (qy < -18)
425             my -= 8 * (qy + 18);
426         else if (qy > height + 1)
427             my -= 8 * (qy - height - 1);
428     }
429
430     if ((v->fcm == ILACE_FRAME) && fieldmv)
431         off = ((n > 1) ? s->linesize : 0) + (n & 1) * 8;
432     else
433         off = s->linesize * 4 * (n & 2) + (n & 1) * 8;
434
435     src_x = s->mb_x * 16 + (n & 1) * 8 + (mx >> 2);
436     if (!fieldmv)
437         src_y = s->mb_y * 16 + (n & 2) * 4 + (my >> 2);
438     else
439         src_y = s->mb_y * 16 + ((n > 1) ? 1 : 0) + (my >> 2);
440
441     if (v->profile != PROFILE_ADVANCED) {
442         src_x = av_clip(src_x, -16, s->mb_width  * 16);
443         src_y = av_clip(src_y, -16, s->mb_height * 16);
444     } else {
445         src_x = av_clip(src_x, -17, s->avctx->coded_width);
446         if (v->fcm == ILACE_FRAME) {
447             if (src_y & 1)
448                 src_y = av_clip(src_y, -17, s->avctx->coded_height + 1);
449             else
450                 src_y = av_clip(src_y, -18, s->avctx->coded_height);
451         } else {
452             src_y = av_clip(src_y, -18, s->avctx->coded_height + 1);
453         }
454     }
455
456     srcY += src_y * s->linesize + src_x;
457     if (v->field_mode && v->ref_field_type[dir])
458         srcY += s->current_picture_ptr->f->linesize[0];
459
460     if (fieldmv) {
461         if (!(src_y & 1))
462             v_edge_pos--;
463         else
464             src_y -= (src_y < 4);
465     }
466     if (v->rangeredfrm || use_ic
467         || s->h_edge_pos < 13 || v_edge_pos < 23
468         || (unsigned)(src_x - s->mspel) > s->h_edge_pos - (mx & 3) - 8 - s->mspel * 2
469         || (unsigned)(src_y - (s->mspel << fieldmv)) > v_edge_pos - (my & 3) - ((8 + s->mspel * 2) << fieldmv)) {
470         const int k = 9 + s->mspel * 2;
471
472         srcY -= s->mspel * (1 + (s->linesize << fieldmv));
473         /* check emulate edge stride and offset */
474         s->vdsp.emulated_edge_mc(s->sc.edge_emu_buffer, srcY,
475                                  s->linesize, s->linesize,
476                                  k, k << fieldmv,
477                                  src_x - s->mspel, src_y - (s->mspel << fieldmv),
478                                  s->h_edge_pos, v_edge_pos);
479         srcY = s->sc.edge_emu_buffer;
480         /* if we deal with range reduction we need to scale source blocks */
481         if (v->rangeredfrm) {
482             vc1_scale_luma(srcY, k, s->linesize << fieldmv);
483         }
484         /* if we deal with intensity compensation we need to scale source blocks */
485         if (use_ic) {
486             vc1_lut_scale_luma(srcY,
487                                luty[v->field_mode ? v->ref_field_type[dir] : (((0<<fieldmv)+src_y - (s->mspel << fieldmv)) & 1)],
488                                luty[v->field_mode ? v->ref_field_type[dir] : (((1<<fieldmv)+src_y - (s->mspel << fieldmv)) & 1)],
489                                k, s->linesize << fieldmv);
490         }
491         srcY += s->mspel * (1 + (s->linesize << fieldmv));
492     }
493
494     if (s->mspel) {
495         dxy = ((my & 3) << 2) | (mx & 3);
496         if (avg)
497             v->vc1dsp.avg_vc1_mspel_pixels_tab[1][dxy](s->dest[0] + off, srcY, s->linesize << fieldmv, v->rnd);
498         else
499             v->vc1dsp.put_vc1_mspel_pixels_tab[1][dxy](s->dest[0] + off, srcY, s->linesize << fieldmv, v->rnd);
500     } else { // hpel mc - always used for luma
501         dxy = (my & 2) | ((mx & 2) >> 1);
502         if (!v->rnd)
503             s->hdsp.put_pixels_tab[1][dxy](s->dest[0] + off, srcY, s->linesize, 8);
504         else
505             s->hdsp.put_no_rnd_pixels_tab[1][dxy](s->dest[0] + off, srcY, s->linesize, 8);
506     }
507 }
508
509 /** Do motion compensation for 4-MV macroblock - both chroma blocks
510  */
511 void ff_vc1_mc_4mv_chroma(VC1Context *v, int dir)
512 {
513     MpegEncContext *s = &v->s;
514     H264ChromaContext *h264chroma = &v->h264chroma;
515     uint8_t *srcU, *srcV;
516     int uvmx, uvmy, uvsrc_x, uvsrc_y;
517     int16_t tx, ty;
518     int chroma_ref_type;
519     int v_edge_pos = s->v_edge_pos >> v->field_mode;
520     uint8_t (*lutuv)[256];
521     int use_ic;
522
523     if (!v->field_mode && !v->s.last_picture.f->data[0])
524         return;
525     if (CONFIG_GRAY && s->avctx->flags & AV_CODEC_FLAG_GRAY)
526         return;
527
528     /* calculate chroma MV vector from four luma MVs */
529     if (!v->field_mode || !v->numref) {
530         int valid_count = get_chroma_mv(v, dir, &tx, &ty);
531         if (!valid_count) {
532             s->current_picture.motion_val[1][s->block_index[0] + v->blocks_off][0] = 0;
533             s->current_picture.motion_val[1][s->block_index[0] + v->blocks_off][1] = 0;
534             v->luma_mv[s->mb_x][0] = v->luma_mv[s->mb_x][1] = 0;
535             return; //no need to do MC for intra blocks
536         }
537         chroma_ref_type = v->ref_field_type[dir];
538     } else {
539         int opp_count = get_luma_mv(v, dir, &tx, &ty);
540         chroma_ref_type = v->cur_field_type ^ (opp_count > 2);
541     }
542     if (v->field_mode && chroma_ref_type == 1 && v->cur_field_type == 1 && !v->s.last_picture.f->data[0])
543         return;
544     s->current_picture.motion_val[1][s->block_index[0] + v->blocks_off][0] = tx;
545     s->current_picture.motion_val[1][s->block_index[0] + v->blocks_off][1] = ty;
546     uvmx = (tx + ((tx & 3) == 3)) >> 1;
547     uvmy = (ty + ((ty & 3) == 3)) >> 1;
548
549     v->luma_mv[s->mb_x][0] = uvmx;
550     v->luma_mv[s->mb_x][1] = uvmy;
551
552     if (v->fastuvmc) {
553         uvmx = uvmx + ((uvmx < 0) ? (uvmx & 1) : -(uvmx & 1));
554         uvmy = uvmy + ((uvmy < 0) ? (uvmy & 1) : -(uvmy & 1));
555     }
556     // Field conversion bias
557     if (v->cur_field_type != chroma_ref_type)
558         uvmy += 2 - 4 * chroma_ref_type;
559
560     uvsrc_x = s->mb_x * 8 + (uvmx >> 2);
561     uvsrc_y = s->mb_y * 8 + (uvmy >> 2);
562
563     if (v->profile != PROFILE_ADVANCED) {
564         uvsrc_x = av_clip(uvsrc_x, -8, s->mb_width  * 8);
565         uvsrc_y = av_clip(uvsrc_y, -8, s->mb_height * 8);
566     } else {
567         uvsrc_x = av_clip(uvsrc_x, -8, s->avctx->coded_width  >> 1);
568         uvsrc_y = av_clip(uvsrc_y, -8, s->avctx->coded_height >> 1);
569     }
570
571     if (!dir) {
572         if (v->field_mode && (v->cur_field_type != chroma_ref_type) && v->second_field) {
573             srcU = s->current_picture.f->data[1];
574             srcV = s->current_picture.f->data[2];
575             lutuv = v->curr_lutuv;
576             use_ic = *v->curr_use_ic;
577         } else {
578             srcU = s->last_picture.f->data[1];
579             srcV = s->last_picture.f->data[2];
580             lutuv = v->last_lutuv;
581             use_ic = v->last_use_ic;
582         }
583     } else {
584         srcU = s->next_picture.f->data[1];
585         srcV = s->next_picture.f->data[2];
586         lutuv = v->next_lutuv;
587         use_ic = v->next_use_ic;
588     }
589
590     if (!srcU) {
591         av_log(v->s.avctx, AV_LOG_ERROR, "Referenced frame missing.\n");
592         return;
593     }
594
595     srcU += uvsrc_y * s->uvlinesize + uvsrc_x;
596     srcV += uvsrc_y * s->uvlinesize + uvsrc_x;
597
598     if (v->field_mode) {
599         if (chroma_ref_type) {
600             srcU += s->current_picture_ptr->f->linesize[1];
601             srcV += s->current_picture_ptr->f->linesize[2];
602         }
603     }
604
605     if (v->rangeredfrm || use_ic
606         || s->h_edge_pos < 18 || v_edge_pos < 18
607         || (unsigned)uvsrc_x > (s->h_edge_pos >> 1) - 9
608         || (unsigned)uvsrc_y > (v_edge_pos    >> 1) - 9) {
609         s->vdsp.emulated_edge_mc(s->sc.edge_emu_buffer, srcU,
610                                  s->uvlinesize, s->uvlinesize,
611                                  8 + 1, 8 + 1, uvsrc_x, uvsrc_y,
612                                  s->h_edge_pos >> 1, v_edge_pos >> 1);
613         s->vdsp.emulated_edge_mc(s->sc.edge_emu_buffer + 16, srcV,
614                                  s->uvlinesize, s->uvlinesize,
615                                  8 + 1, 8 + 1, uvsrc_x, uvsrc_y,
616                                  s->h_edge_pos >> 1, v_edge_pos >> 1);
617         srcU = s->sc.edge_emu_buffer;
618         srcV = s->sc.edge_emu_buffer + 16;
619
620         /* if we deal with range reduction we need to scale source blocks */
621         if (v->rangeredfrm) {
622             vc1_scale_chroma(srcU, srcV, 9, s->uvlinesize);
623         }
624         /* if we deal with intensity compensation we need to scale source blocks */
625         if (use_ic) {
626             vc1_lut_scale_chroma(srcU, srcV,
627                                  lutuv[v->field_mode ? chroma_ref_type : ((0 + uvsrc_y) & 1)],
628                                  lutuv[v->field_mode ? chroma_ref_type : ((1 + uvsrc_y) & 1)],
629                                  9, s->uvlinesize);
630         }
631     }
632
633     /* Chroma MC always uses qpel bilinear */
634     uvmx = (uvmx & 3) << 1;
635     uvmy = (uvmy & 3) << 1;
636     if (!v->rnd) {
637         h264chroma->put_h264_chroma_pixels_tab[0](s->dest[1], srcU, s->uvlinesize, 8, uvmx, uvmy);
638         h264chroma->put_h264_chroma_pixels_tab[0](s->dest[2], srcV, s->uvlinesize, 8, uvmx, uvmy);
639     } else {
640         v->vc1dsp.put_no_rnd_vc1_chroma_pixels_tab[0](s->dest[1], srcU, s->uvlinesize, 8, uvmx, uvmy);
641         v->vc1dsp.put_no_rnd_vc1_chroma_pixels_tab[0](s->dest[2], srcV, s->uvlinesize, 8, uvmx, uvmy);
642     }
643     if (v->field_mode) {
644         v->mv_f[dir][s->block_index[4] + v->mb_off] = v->cur_field_type != chroma_ref_type;
645         v->mv_f[dir][s->block_index[5] + v->mb_off] = v->cur_field_type != chroma_ref_type;
646     }
647 }
648
649 /** Do motion compensation for 4-MV interlaced frame chroma macroblock (both U and V)
650  */
651 void ff_vc1_mc_4mv_chroma4(VC1Context *v, int dir, int dir2, int avg)
652 {
653     MpegEncContext *s = &v->s;
654     H264ChromaContext *h264chroma = &v->h264chroma;
655     uint8_t *srcU, *srcV;
656     int uvsrc_x, uvsrc_y;
657     int uvmx_field[4], uvmy_field[4];
658     int i, off, tx, ty;
659     int fieldmv = v->blk_mv_type[s->block_index[0]];
660     static const uint8_t s_rndtblfield[16] = { 0, 0, 1, 2, 4, 4, 5, 6, 2, 2, 3, 8, 6, 6, 7, 12 };
661     int v_dist = fieldmv ? 1 : 4; // vertical offset for lower sub-blocks
662     int v_edge_pos = s->v_edge_pos >> 1;
663     int use_ic;
664     uint8_t (*lutuv)[256];
665
666     if (CONFIG_GRAY && s->avctx->flags & AV_CODEC_FLAG_GRAY)
667         return;
668
669     for (i = 0; i < 4; i++) {
670         int d = i < 2 ? dir: dir2;
671         tx = s->mv[d][i][0];
672         uvmx_field[i] = (tx + ((tx & 3) == 3)) >> 1;
673         ty = s->mv[d][i][1];
674         if (fieldmv)
675             uvmy_field[i] = (ty >> 4) * 8 + s_rndtblfield[ty & 0xF];
676         else
677             uvmy_field[i] = (ty + ((ty & 3) == 3)) >> 1;
678     }
679
680     for (i = 0; i < 4; i++) {
681         off = (i & 1) * 4 + ((i & 2) ? v_dist * s->uvlinesize : 0);
682         uvsrc_x = s->mb_x * 8 +  (i & 1) * 4           + (uvmx_field[i] >> 2);
683         uvsrc_y = s->mb_y * 8 + ((i & 2) ? v_dist : 0) + (uvmy_field[i] >> 2);
684         // FIXME: implement proper pull-back (see vc1cropmv.c, vc1CROPMV_ChromaPullBack())
685         uvsrc_x = av_clip(uvsrc_x, -8, s->avctx->coded_width  >> 1);
686         uvsrc_y = av_clip(uvsrc_y, -8, s->avctx->coded_height >> 1);
687         if (i < 2 ? dir : dir2) {
688             srcU = s->next_picture.f->data[1];
689             srcV = s->next_picture.f->data[2];
690             lutuv  = v->next_lutuv;
691             use_ic = v->next_use_ic;
692         } else {
693             srcU = s->last_picture.f->data[1];
694             srcV = s->last_picture.f->data[2];
695             lutuv  = v->last_lutuv;
696             use_ic = v->last_use_ic;
697         }
698         if (!srcU)
699             return;
700         srcU += uvsrc_y * s->uvlinesize + uvsrc_x;
701         srcV += uvsrc_y * s->uvlinesize + uvsrc_x;
702         uvmx_field[i] = (uvmx_field[i] & 3) << 1;
703         uvmy_field[i] = (uvmy_field[i] & 3) << 1;
704
705         if (fieldmv) {
706             if (!(uvsrc_y & 1))
707                 v_edge_pos = (s->v_edge_pos >> 1) - 1;
708             else
709                 uvsrc_y -= (uvsrc_y < 2);
710         }
711         if (use_ic
712             || s->h_edge_pos < 10 || v_edge_pos < (5 << fieldmv)
713             || (unsigned)uvsrc_x > (s->h_edge_pos >> 1) - 5
714             || (unsigned)uvsrc_y > v_edge_pos - (5 << fieldmv)) {
715             s->vdsp.emulated_edge_mc(s->sc.edge_emu_buffer, srcU,
716                                      s->uvlinesize, s->uvlinesize,
717                                      5, (5 << fieldmv), uvsrc_x, uvsrc_y,
718                                      s->h_edge_pos >> 1, v_edge_pos);
719             s->vdsp.emulated_edge_mc(s->sc.edge_emu_buffer + 16, srcV,
720                                      s->uvlinesize, s->uvlinesize,
721                                      5, (5 << fieldmv), uvsrc_x, uvsrc_y,
722                                      s->h_edge_pos >> 1, v_edge_pos);
723             srcU = s->sc.edge_emu_buffer;
724             srcV = s->sc.edge_emu_buffer + 16;
725
726             /* if we deal with intensity compensation we need to scale source blocks */
727             if (use_ic) {
728                 vc1_lut_scale_chroma(srcU, srcV,
729                                      lutuv[(uvsrc_y + (0 << fieldmv)) & 1],
730                                      lutuv[(uvsrc_y + (1 << fieldmv)) & 1],
731                                      5, s->uvlinesize << fieldmv);
732             }
733         }
734         if (avg) {
735             if (!v->rnd) {
736                 h264chroma->avg_h264_chroma_pixels_tab[1](s->dest[1] + off, srcU, s->uvlinesize << fieldmv, 4, uvmx_field[i], uvmy_field[i]);
737                 h264chroma->avg_h264_chroma_pixels_tab[1](s->dest[2] + off, srcV, s->uvlinesize << fieldmv, 4, uvmx_field[i], uvmy_field[i]);
738             } else {
739                 v->vc1dsp.avg_no_rnd_vc1_chroma_pixels_tab[1](s->dest[1] + off, srcU, s->uvlinesize << fieldmv, 4, uvmx_field[i], uvmy_field[i]);
740                 v->vc1dsp.avg_no_rnd_vc1_chroma_pixels_tab[1](s->dest[2] + off, srcV, s->uvlinesize << fieldmv, 4, uvmx_field[i], uvmy_field[i]);
741             }
742         } else {
743             if (!v->rnd) {
744                 h264chroma->put_h264_chroma_pixels_tab[1](s->dest[1] + off, srcU, s->uvlinesize << fieldmv, 4, uvmx_field[i], uvmy_field[i]);
745                 h264chroma->put_h264_chroma_pixels_tab[1](s->dest[2] + off, srcV, s->uvlinesize << fieldmv, 4, uvmx_field[i], uvmy_field[i]);
746             } else {
747                 v->vc1dsp.put_no_rnd_vc1_chroma_pixels_tab[1](s->dest[1] + off, srcU, s->uvlinesize << fieldmv, 4, uvmx_field[i], uvmy_field[i]);
748                 v->vc1dsp.put_no_rnd_vc1_chroma_pixels_tab[1](s->dest[2] + off, srcV, s->uvlinesize << fieldmv, 4, uvmx_field[i], uvmy_field[i]);
749             }
750         }
751     }
752 }
753
754 /** Motion compensation for direct or interpolated blocks in B-frames
755  */
756 void ff_vc1_interp_mc(VC1Context *v)
757 {
758     MpegEncContext *s = &v->s;
759     H264ChromaContext *h264chroma = &v->h264chroma;
760     uint8_t *srcY, *srcU, *srcV;
761     int dxy, mx, my, uvmx, uvmy, src_x, src_y, uvsrc_x, uvsrc_y;
762     int v_edge_pos = s->v_edge_pos >> v->field_mode;
763     int use_ic = v->next_use_ic;
764
765     if (!v->field_mode && !v->s.next_picture.f->data[0])
766         return;
767
768     mx   = s->mv[1][0][0];
769     my   = s->mv[1][0][1];
770     uvmx = (mx + ((mx & 3) == 3)) >> 1;
771     uvmy = (my + ((my & 3) == 3)) >> 1;
772     if (v->field_mode && v->cur_field_type != v->ref_field_type[1]) {
773         my   = my   - 2 + 4 * v->cur_field_type;
774         uvmy = uvmy - 2 + 4 * v->cur_field_type;
775     }
776     if (v->fastuvmc) {
777         uvmx = uvmx + ((uvmx < 0) ? -(uvmx & 1) : (uvmx & 1));
778         uvmy = uvmy + ((uvmy < 0) ? -(uvmy & 1) : (uvmy & 1));
779     }
780     srcY = s->next_picture.f->data[0];
781     srcU = s->next_picture.f->data[1];
782     srcV = s->next_picture.f->data[2];
783
784     src_x   = s->mb_x * 16 + (mx   >> 2);
785     src_y   = s->mb_y * 16 + (my   >> 2);
786     uvsrc_x = s->mb_x *  8 + (uvmx >> 2);
787     uvsrc_y = s->mb_y *  8 + (uvmy >> 2);
788
789     if (v->profile != PROFILE_ADVANCED) {
790         src_x   = av_clip(  src_x, -16, s->mb_width  * 16);
791         src_y   = av_clip(  src_y, -16, s->mb_height * 16);
792         uvsrc_x = av_clip(uvsrc_x,  -8, s->mb_width  *  8);
793         uvsrc_y = av_clip(uvsrc_y,  -8, s->mb_height *  8);
794     } else {
795         src_x   = av_clip(  src_x, -17, s->avctx->coded_width);
796         src_y   = av_clip(  src_y, -18, s->avctx->coded_height + 1);
797         uvsrc_x = av_clip(uvsrc_x,  -8, s->avctx->coded_width  >> 1);
798         uvsrc_y = av_clip(uvsrc_y,  -8, s->avctx->coded_height >> 1);
799     }
800
801     srcY += src_y   * s->linesize   + src_x;
802     srcU += uvsrc_y * s->uvlinesize + uvsrc_x;
803     srcV += uvsrc_y * s->uvlinesize + uvsrc_x;
804
805     if (v->field_mode && v->ref_field_type[1]) {
806         srcY += s->current_picture_ptr->f->linesize[0];
807         srcU += s->current_picture_ptr->f->linesize[1];
808         srcV += s->current_picture_ptr->f->linesize[2];
809     }
810
811     /* for grayscale we should not try to read from unknown area */
812     if (CONFIG_GRAY && s->avctx->flags & AV_CODEC_FLAG_GRAY) {
813         srcU = s->sc.edge_emu_buffer + 18 * s->linesize;
814         srcV = s->sc.edge_emu_buffer + 18 * s->linesize;
815     }
816
817     if (v->rangeredfrm || s->h_edge_pos < 22 || v_edge_pos < 22 || use_ic
818         || (unsigned)(src_x - 1) > s->h_edge_pos - (mx & 3) - 16 - 3
819         || (unsigned)(src_y - 1) > v_edge_pos    - (my & 3) - 16 - 3) {
820         uint8_t *ubuf = s->sc.edge_emu_buffer + 19 * s->linesize;
821         uint8_t *vbuf = ubuf + 9 * s->uvlinesize;
822         const int k = 17 + s->mspel * 2;
823
824         srcY -= s->mspel * (1 + s->linesize);
825         s->vdsp.emulated_edge_mc(s->sc.edge_emu_buffer, srcY,
826                                  s->linesize, s->linesize,
827                                  k, k,
828                                  src_x - s->mspel, src_y - s->mspel,
829                                  s->h_edge_pos, v_edge_pos);
830         srcY = s->sc.edge_emu_buffer;
831         s->vdsp.emulated_edge_mc(ubuf, srcU,
832                                  s->uvlinesize, s->uvlinesize,
833                                  8 + 1, 8 + 1,
834                                  uvsrc_x, uvsrc_y,
835                                  s->h_edge_pos >> 1, v_edge_pos >> 1);
836         s->vdsp.emulated_edge_mc(vbuf, srcV,
837                                  s->uvlinesize, s->uvlinesize,
838                                  8 + 1, 8 + 1,
839                                  uvsrc_x, uvsrc_y,
840                                  s->h_edge_pos >> 1, v_edge_pos >> 1);
841         srcU = ubuf;
842         srcV = vbuf;
843         /* if we deal with range reduction we need to scale source blocks */
844         if (v->rangeredfrm) {
845             vc1_scale_luma(srcY, k, s->linesize);
846             vc1_scale_chroma(srcU, srcV, 9, s->uvlinesize);
847         }
848
849         if (use_ic) {
850             uint8_t (*luty )[256] = v->next_luty;
851             uint8_t (*lutuv)[256] = v->next_lutuv;
852             vc1_lut_scale_luma(srcY,
853                                luty[v->field_mode ? v->ref_field_type[1] : ((0+src_y - s->mspel) & 1)],
854                                luty[v->field_mode ? v->ref_field_type[1] : ((1+src_y - s->mspel) & 1)],
855                                k, s->linesize);
856             vc1_lut_scale_chroma(srcU, srcV,
857                                  lutuv[v->field_mode ? v->ref_field_type[1] : ((0+uvsrc_y) & 1)],
858                                  lutuv[v->field_mode ? v->ref_field_type[1] : ((1+uvsrc_y) & 1)],
859                                  9, s->uvlinesize);
860         }
861         srcY += s->mspel * (1 + s->linesize);
862     }
863
864     if (s->mspel) {
865         dxy = ((my & 3) << 2) | (mx & 3);
866         v->vc1dsp.avg_vc1_mspel_pixels_tab[0][dxy](s->dest[0], srcY, s->linesize, v->rnd);
867     } else { // hpel mc
868         dxy = (my & 2) | ((mx & 2) >> 1);
869
870         if (!v->rnd)
871             s->hdsp.avg_pixels_tab[0][dxy](s->dest[0], srcY, s->linesize, 16);
872         else
873             s->hdsp.avg_no_rnd_pixels_tab[dxy](s->dest[0], srcY, s->linesize, 16);
874     }
875
876     if (CONFIG_GRAY && s->avctx->flags & AV_CODEC_FLAG_GRAY)
877         return;
878     /* Chroma MC always uses qpel bilinear */
879     uvmx = (uvmx & 3) << 1;
880     uvmy = (uvmy & 3) << 1;
881     if (!v->rnd) {
882         h264chroma->avg_h264_chroma_pixels_tab[0](s->dest[1], srcU, s->uvlinesize, 8, uvmx, uvmy);
883         h264chroma->avg_h264_chroma_pixels_tab[0](s->dest[2], srcV, s->uvlinesize, 8, uvmx, uvmy);
884     } else {
885         v->vc1dsp.avg_no_rnd_vc1_chroma_pixels_tab[0](s->dest[1], srcU, s->uvlinesize, 8, uvmx, uvmy);
886         v->vc1dsp.avg_no_rnd_vc1_chroma_pixels_tab[0](s->dest[2], srcV, s->uvlinesize, 8, uvmx, uvmy);
887     }
888 }