flacdec: factor out code setting avctx->sample_fmt
[ffmpeg.git] / libavcodec / rv34dsp.c
1 /*
2  * RV30/40 decoder common dsp functions
3  * Copyright (c) 2007 Mike Melanson, Konstantin Shishkov
4  * Copyright (c) 2011 Janne Grunau
5  *
6  * This file is part of Libav.
7  *
8  * Libav is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * Libav is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with Libav; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 /**
24  * @file
25  * RV30/40 decoder common dsp functions
26  */
27 #include "dsputil.h"
28 #include "rv34dsp.h"
29
30 /**
31  * @name RV30/40 inverse transform functions
32  * @{
33  */
34
35 static av_always_inline void rv34_row_transform(int temp[16], DCTELEM *block)
36 {
37     int i;
38
39     for(i = 0; i < 4; i++){
40         const int z0 = 13*(block[i+4*0] +    block[i+4*2]);
41         const int z1 = 13*(block[i+4*0] -    block[i+4*2]);
42         const int z2 =  7* block[i+4*1] - 17*block[i+4*3];
43         const int z3 = 17* block[i+4*1] +  7*block[i+4*3];
44
45         temp[4*i+0] = z0 + z3;
46         temp[4*i+1] = z1 + z2;
47         temp[4*i+2] = z1 - z2;
48         temp[4*i+3] = z0 - z3;
49     }
50 }
51
52 /**
53  * Real Video 3.0/4.0 inverse transform + sample reconstruction
54  * Code is almost the same as in SVQ3, only scaling is different.
55  */
56 static void rv34_idct_add_c(uint8_t *dst, ptrdiff_t stride, DCTELEM *block){
57     int      temp[16];
58     int      i;
59
60     rv34_row_transform(temp, block);
61     memset(block, 0, 16*sizeof(DCTELEM));
62
63     for(i = 0; i < 4; i++){
64         const int z0 = 13*(temp[4*0+i] +    temp[4*2+i]) + 0x200;
65         const int z1 = 13*(temp[4*0+i] -    temp[4*2+i]) + 0x200;
66         const int z2 =  7* temp[4*1+i] - 17*temp[4*3+i];
67         const int z3 = 17* temp[4*1+i] +  7*temp[4*3+i];
68
69         dst[0] = av_clip_uint8( dst[0] + ( (z0 + z3) >> 10 ) );
70         dst[1] = av_clip_uint8( dst[1] + ( (z1 + z2) >> 10 ) );
71         dst[2] = av_clip_uint8( dst[2] + ( (z1 - z2) >> 10 ) );
72         dst[3] = av_clip_uint8( dst[3] + ( (z0 - z3) >> 10 ) );
73
74         dst  += stride;
75     }
76 }
77
78 /**
79  * RealVideo 3.0/4.0 inverse transform for DC block
80  *
81  * Code is almost the same as rv34_inv_transform()
82  * but final coefficients are multiplied by 1.5 and have no rounding.
83  */
84 static void rv34_inv_transform_noround_c(DCTELEM *block){
85     int temp[16];
86     int i;
87
88     rv34_row_transform(temp, block);
89
90     for(i = 0; i < 4; i++){
91         const int z0 = 39*(temp[4*0+i] +    temp[4*2+i]);
92         const int z1 = 39*(temp[4*0+i] -    temp[4*2+i]);
93         const int z2 = 21* temp[4*1+i] - 51*temp[4*3+i];
94         const int z3 = 51* temp[4*1+i] + 21*temp[4*3+i];
95
96         block[i*4+0] = (z0 + z3) >> 11;
97         block[i*4+1] = (z1 + z2) >> 11;
98         block[i*4+2] = (z1 - z2) >> 11;
99         block[i*4+3] = (z0 - z3) >> 11;
100     }
101 }
102
103 static void rv34_idct_dc_add_c(uint8_t *dst, ptrdiff_t stride, int dc)
104 {
105     int i, j;
106
107     dc = (13*13*dc + 0x200) >> 10;
108     for (i = 0; i < 4; i++)
109     {
110         for (j = 0; j < 4; j++)
111             dst[j] = av_clip_uint8( dst[j] + dc );
112
113         dst += stride;
114     }
115 }
116
117 static void rv34_inv_transform_dc_noround_c(DCTELEM *block)
118 {
119     DCTELEM dc = (13 * 13 * 3 * block[0]) >> 11;
120     int i, j;
121
122     for (i = 0; i < 4; i++, block += 4)
123         for (j = 0; j < 4; j++)
124             block[j] = dc;
125 }
126
127 /** @} */ // transform
128
129
130 av_cold void ff_rv34dsp_init(RV34DSPContext *c, DSPContext* dsp) {
131     c->rv34_inv_transform    = rv34_inv_transform_noround_c;
132     c->rv34_inv_transform_dc = rv34_inv_transform_dc_noround_c;
133
134     c->rv34_idct_add    = rv34_idct_add_c;
135     c->rv34_idct_dc_add = rv34_idct_dc_add_c;
136
137     if (HAVE_NEON)
138         ff_rv34dsp_init_neon(c, dsp);
139     if (HAVE_MMX)
140         ff_rv34dsp_init_x86(c, dsp);
141 }