rv34: Intra 16x16 handling
[ffmpeg.git] / libavcodec / rv34dsp.c
1 /*
2  * RV30/40 decoder common dsp functions
3  * Copyright (c) 2007 Mike Melanson, Konstantin Shishkov
4  * Copyright (c) 2011 Janne Grunau
5  *
6  * This file is part of Libav.
7  *
8  * Libav is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * Libav is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with Libav; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 /**
24  * @file
25  * RV30/40 decoder common dsp functions
26  */
27 #include "dsputil.h"
28 #include "rv34dsp.h"
29
30 /**
31  * @name RV30/40 inverse transform functions
32  * @{
33  */
34
35 static av_always_inline void rv34_row_transform(int temp[16], const DCTELEM *block)
36 {
37     int i;
38
39     for(i = 0; i < 4; i++){
40         const int z0 = 13*(block[i+8*0] +    block[i+8*2]);
41         const int z1 = 13*(block[i+8*0] -    block[i+8*2]);
42         const int z2 =  7* block[i+8*1] - 17*block[i+8*3];
43         const int z3 = 17* block[i+8*1] +  7*block[i+8*3];
44
45         temp[4*i+0] = z0 + z3;
46         temp[4*i+1] = z1 + z2;
47         temp[4*i+2] = z1 - z2;
48         temp[4*i+3] = z0 - z3;
49     }
50 }
51
52 /**
53  * Real Video 3.0/4.0 inverse transform
54  * Code is almost the same as in SVQ3, only scaling is different.
55  */
56 static void rv34_inv_transform_c(DCTELEM *block){
57     int temp[16];
58     int i;
59
60     rv34_row_transform(temp, block);
61
62     for(i = 0; i < 4; i++){
63         const int z0 = 13*(temp[4*0+i] +    temp[4*2+i]) + 0x200;
64         const int z1 = 13*(temp[4*0+i] -    temp[4*2+i]) + 0x200;
65         const int z2 =  7* temp[4*1+i] - 17*temp[4*3+i];
66         const int z3 = 17* temp[4*1+i] +  7*temp[4*3+i];
67
68         block[i*8+0] = (z0 + z3) >> 10;
69         block[i*8+1] = (z1 + z2) >> 10;
70         block[i*8+2] = (z1 - z2) >> 10;
71         block[i*8+3] = (z0 - z3) >> 10;
72     }
73 }
74
75 /**
76  * Real Video 3.0/4.0 inverse transform + sample reconstruction
77  * Code is almost the same as in SVQ3, only scaling is different.
78  */
79 static void rv34_idct_add_c(uint8_t *dst, int stride, const DCTELEM *block){
80     int      temp[16];
81     uint8_t *cm = ff_cropTbl + MAX_NEG_CROP;
82     int      i;
83
84     rv34_row_transform(temp, block);
85
86     for(i = 0; i < 4; i++){
87         const int z0 = 13*(temp[4*0+i] +    temp[4*2+i]) + 0x200;
88         const int z1 = 13*(temp[4*0+i] -    temp[4*2+i]) + 0x200;
89         const int z2 =  7* temp[4*1+i] - 17*temp[4*3+i];
90         const int z3 = 17* temp[4*1+i] +  7*temp[4*3+i];
91
92         dst[0] = cm[ dst[0] + ( (z0 + z3) >> 10 ) ];
93         dst[1] = cm[ dst[1] + ( (z1 + z2) >> 10 ) ];
94         dst[2] = cm[ dst[2] + ( (z1 - z2) >> 10 ) ];
95         dst[3] = cm[ dst[3] + ( (z0 - z3) >> 10 ) ];
96
97         dst  += stride;
98     }
99 }
100
101 /**
102  * RealVideo 3.0/4.0 inverse transform for DC block
103  *
104  * Code is almost the same as rv34_inv_transform()
105  * but final coefficients are multiplied by 1.5 and have no rounding.
106  */
107 static void rv34_inv_transform_noround_c(DCTELEM *block){
108     int temp[16];
109     int i;
110
111     rv34_row_transform(temp, block);
112
113     for(i = 0; i < 4; i++){
114         const int z0 = 13*(temp[4*0+i] +    temp[4*2+i]);
115         const int z1 = 13*(temp[4*0+i] -    temp[4*2+i]);
116         const int z2 =  7* temp[4*1+i] - 17*temp[4*3+i];
117         const int z3 = 17* temp[4*1+i] +  7*temp[4*3+i];
118
119         block[i*8+0] = ((z0 + z3) * 3) >> 11;
120         block[i*8+1] = ((z1 + z2) * 3) >> 11;
121         block[i*8+2] = ((z1 - z2) * 3) >> 11;
122         block[i*8+3] = ((z0 - z3) * 3) >> 11;
123     }
124 }
125
126 static void rv34_idct_dc_add_c(uint8_t *dst, int stride, int dc)
127 {
128     const uint8_t *cm = ff_cropTbl + MAX_NEG_CROP;
129     int i, j;
130
131     cm += (13*13*dc + 0x200) >> 10;
132
133     for (i = 0; i < 4; i++)
134     {
135         for (j = 0; j < 4; j++)
136             dst[j] = cm[ dst[j] ];
137
138         dst += stride;
139     }
140 }
141
142 static void rv34_inv_transform_dc_c(DCTELEM *block)
143 {
144     DCTELEM dc = (13 * 13 * block[0] + 0x200) >> 10;
145     int i, j;
146
147     for (i = 0; i < 4; i++, block += 8)
148         for (j = 0; j < 4; j++)
149             block[j] = dc;
150 }
151
152 static void rv34_inv_transform_dc_noround_c(DCTELEM *block)
153 {
154     DCTELEM dc = (13 * 13 * 3 * block[0]) >> 11;
155     int i, j;
156
157     for (i = 0; i < 4; i++, block += 8)
158         for (j = 0; j < 4; j++)
159             block[j] = dc;
160 }
161
162 /** @} */ // transform
163
164
165 av_cold void ff_rv34dsp_init(RV34DSPContext *c, DSPContext* dsp) {
166     c->rv34_inv_transform_tab[0] = rv34_inv_transform_c;
167     c->rv34_inv_transform_tab[1] = rv34_inv_transform_noround_c;
168     c->rv34_inv_transform_dc_tab[0]  = rv34_inv_transform_dc_c;
169     c->rv34_inv_transform_dc_tab[1]  = rv34_inv_transform_dc_noround_c;
170
171     c->rv34_idct_add    = rv34_idct_add_c;
172     c->rv34_idct_dc_add = rv34_idct_dc_add_c;
173
174     if (HAVE_NEON)
175         ff_rv34dsp_init_neon(c, dsp);
176     if (HAVE_MMX)
177         ff_rv34dsp_init_x86(c, dsp);
178 }