cuvid: Add hwaccels and decoders for remaining supported formats
[ffmpeg.git] / libavcodec / wmv2.c
1 /*
2  * Copyright (c) 2002 The FFmpeg Project
3  *
4  * This file is part of FFmpeg.
5  *
6  * FFmpeg is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * FFmpeg is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with FFmpeg; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 #include "avcodec.h"
22 #include "idctdsp.h"
23 #include "mpegutils.h"
24 #include "mpegvideo.h"
25 #include "msmpeg4data.h"
26 #include "simple_idct.h"
27 #include "wmv2.h"
28 #include "wmv2data.h"
29
30
31 av_cold void ff_wmv2_common_init(Wmv2Context *w)
32 {
33     MpegEncContext *const s = &w->s;
34
35     ff_blockdsp_init(&s->bdsp, s->avctx);
36     ff_wmv2dsp_init(&w->wdsp);
37     s->idsp.perm_type = w->wdsp.idct_perm;
38     ff_init_scantable_permutation(s->idsp.idct_permutation,
39                                   w->wdsp.idct_perm);
40     ff_init_scantable(s->idsp.idct_permutation, &w->abt_scantable[0],
41                       ff_wmv2_scantableA);
42     ff_init_scantable(s->idsp.idct_permutation, &w->abt_scantable[1],
43                       ff_wmv2_scantableB);
44     ff_init_scantable(s->idsp.idct_permutation, &s->intra_scantable,
45                       ff_wmv1_scantable[1]);
46     ff_init_scantable(s->idsp.idct_permutation, &s->intra_h_scantable,
47                       ff_wmv1_scantable[2]);
48     ff_init_scantable(s->idsp.idct_permutation, &s->intra_v_scantable,
49                       ff_wmv1_scantable[3]);
50     ff_init_scantable(s->idsp.idct_permutation, &s->inter_scantable,
51                       ff_wmv1_scantable[0]);
52     s->idsp.idct_put = w->wdsp.idct_put;
53     s->idsp.idct_add = w->wdsp.idct_add;
54     s->idsp.idct     = NULL;
55 }
56
57 static void wmv2_add_block(Wmv2Context *w, int16_t *block1,
58                            uint8_t *dst, int stride, int n)
59 {
60     MpegEncContext *const s = &w->s;
61
62     if (s->block_last_index[n] >= 0) {
63         switch (w->abt_type_table[n]) {
64         case 0:
65             w->wdsp.idct_add(dst, stride, block1);
66             break;
67         case 1:
68             ff_simple_idct84_add(dst, stride, block1);
69             ff_simple_idct84_add(dst + 4 * stride, stride, w->abt_block2[n]);
70             s->bdsp.clear_block(w->abt_block2[n]);
71             break;
72         case 2:
73             ff_simple_idct48_add(dst, stride, block1);
74             ff_simple_idct48_add(dst + 4, stride, w->abt_block2[n]);
75             s->bdsp.clear_block(w->abt_block2[n]);
76             break;
77         default:
78             av_log(s->avctx, AV_LOG_ERROR, "internal error in WMV2 abt\n");
79         }
80     }
81 }
82
83 void ff_wmv2_add_mb(MpegEncContext *s, int16_t block1[6][64],
84                     uint8_t *dest_y, uint8_t *dest_cb, uint8_t *dest_cr)
85 {
86     Wmv2Context *const w = (Wmv2Context *) s;
87
88     wmv2_add_block(w, block1[0], dest_y,                       s->linesize, 0);
89     wmv2_add_block(w, block1[1], dest_y + 8,                   s->linesize, 1);
90     wmv2_add_block(w, block1[2], dest_y + 8 * s->linesize,     s->linesize, 2);
91     wmv2_add_block(w, block1[3], dest_y + 8 + 8 * s->linesize, s->linesize, 3);
92
93     if (s->avctx->flags & AV_CODEC_FLAG_GRAY)
94         return;
95
96     wmv2_add_block(w, block1[4], dest_cb, s->uvlinesize, 4);
97     wmv2_add_block(w, block1[5], dest_cr, s->uvlinesize, 5);
98 }
99
100 void ff_mspel_motion(MpegEncContext *s, uint8_t *dest_y,
101                      uint8_t *dest_cb, uint8_t *dest_cr,
102                      uint8_t **ref_picture, op_pixels_func (*pix_op)[4],
103                      int motion_x, int motion_y, int h)
104 {
105     Wmv2Context *const w = (Wmv2Context *) s;
106     uint8_t *ptr;
107     int dxy, mx, my, src_x, src_y, v_edge_pos;
108     ptrdiff_t offset, linesize, uvlinesize;
109     int emu = 0;
110
111     dxy   = ((motion_y & 1) << 1) | (motion_x & 1);
112     dxy   = 2 * dxy + w->hshift;
113     src_x = s->mb_x * 16 + (motion_x >> 1);
114     src_y = s->mb_y * 16 + (motion_y >> 1);
115
116     /* WARNING: do no forget half pels */
117     v_edge_pos = s->v_edge_pos;
118     src_x      = av_clip(src_x, -16, s->width);
119     src_y      = av_clip(src_y, -16, s->height);
120
121     if (src_x <= -16 || src_x >= s->width)
122         dxy &= ~3;
123     if (src_y <= -16 || src_y >= s->height)
124         dxy &= ~4;
125
126     linesize   = s->linesize;
127     uvlinesize = s->uvlinesize;
128     ptr        = ref_picture[0] + (src_y * linesize) + src_x;
129
130     if (src_x < 1 || src_y < 1 || src_x + 17 >= s->h_edge_pos ||
131         src_y + h + 1 >= v_edge_pos) {
132         s->vdsp.emulated_edge_mc(s->sc.edge_emu_buffer, ptr - 1 - s->linesize,
133                                  s->linesize, s->linesize, 19, 19,
134                                  src_x - 1, src_y - 1,
135                                  s->h_edge_pos, s->v_edge_pos);
136         ptr = s->sc.edge_emu_buffer + 1 + s->linesize;
137         emu = 1;
138     }
139
140     w->wdsp.put_mspel_pixels_tab[dxy](dest_y,                    ptr,                    linesize);
141     w->wdsp.put_mspel_pixels_tab[dxy](dest_y     + 8,            ptr     + 8,            linesize);
142     w->wdsp.put_mspel_pixels_tab[dxy](dest_y     + 8 * linesize, ptr     + 8 * linesize, linesize);
143     w->wdsp.put_mspel_pixels_tab[dxy](dest_y + 8 + 8 * linesize, ptr + 8 + 8 * linesize, linesize);
144
145     if (s->avctx->flags & AV_CODEC_FLAG_GRAY)
146         return;
147
148     dxy = 0;
149     if ((motion_x & 3) != 0)
150         dxy |= 1;
151     if ((motion_y & 3) != 0)
152         dxy |= 2;
153     mx = motion_x >> 2;
154     my = motion_y >> 2;
155
156     src_x = s->mb_x * 8 + mx;
157     src_y = s->mb_y * 8 + my;
158     src_x = av_clip(src_x, -8, s->width >> 1);
159     if (src_x == (s->width >> 1))
160         dxy &= ~1;
161     src_y = av_clip(src_y, -8, s->height >> 1);
162     if (src_y == (s->height >> 1))
163         dxy &= ~2;
164     offset = (src_y * uvlinesize) + src_x;
165     ptr    = ref_picture[1] + offset;
166     if (emu) {
167         s->vdsp.emulated_edge_mc(s->sc.edge_emu_buffer, ptr,
168                                  s->uvlinesize, s->uvlinesize,
169                                  9, 9,
170                                  src_x, src_y,
171                                  s->h_edge_pos >> 1, s->v_edge_pos >> 1);
172         ptr = s->sc.edge_emu_buffer;
173     }
174     pix_op[1][dxy](dest_cb, ptr, uvlinesize, h >> 1);
175
176     ptr = ref_picture[2] + offset;
177     if (emu) {
178         s->vdsp.emulated_edge_mc(s->sc.edge_emu_buffer, ptr,
179                                  s->uvlinesize, s->uvlinesize,
180                                  9, 9,
181                                  src_x, src_y,
182                                  s->h_edge_pos >> 1, s->v_edge_pos >> 1);
183         ptr = s->sc.edge_emu_buffer;
184     }
185     pix_op[1][dxy](dest_cr, ptr, uvlinesize, h >> 1);
186 }