Merge commit '0338c396987c82b41d322630ea9712fe5f9561d6'
[ffmpeg.git] / libavcodec / h263dsp.c
1 /*
2  * This file is part of FFmpeg.
3  *
4  * FFmpeg is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU Lesser General Public
6  * License as published by the Free Software Foundation; either
7  * version 2.1 of the License, or (at your option) any later version.
8  *
9  * FFmpeg is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
12  * Lesser General Public License for more details.
13  *
14  * You should have received a copy of the GNU Lesser General Public
15  * License along with FFmpeg; if not, write to the Free Software
16  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
17  */
18
19 #include <stdint.h>
20
21 #include "libavutil/attributes.h"
22 #include "libavutil/common.h"
23 #include "config.h"
24 #include "h263dsp.h"
25
26 const uint8_t ff_h263_loop_filter_strength[32]={
27 //  0  1  2  3  4  5  6  7  8  9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31
28     0, 1, 1, 2, 2, 3, 3, 4, 4, 4, 5, 5, 6, 6, 7, 7, 7, 8, 8, 8, 9, 9, 9,10,10,10,11,11,11,12,12,12
29 };
30
31 static void h263_h_loop_filter_c(uint8_t *src, int stride, int qscale){
32     int y;
33     const int strength= ff_h263_loop_filter_strength[qscale];
34
35     for(y=0; y<8; y++){
36         int d1, d2, ad1;
37         int p0= src[y*stride-2];
38         int p1= src[y*stride-1];
39         int p2= src[y*stride+0];
40         int p3= src[y*stride+1];
41         int d = (p0 - p3 + 4*(p2 - p1)) / 8;
42
43         if     (d<-2*strength) d1= 0;
44         else if(d<-  strength) d1=-2*strength - d;
45         else if(d<   strength) d1= d;
46         else if(d< 2*strength) d1= 2*strength - d;
47         else                   d1= 0;
48
49         p1 += d1;
50         p2 -= d1;
51         if(p1&256) p1= ~(p1>>31);
52         if(p2&256) p2= ~(p2>>31);
53
54         src[y*stride-1] = p1;
55         src[y*stride+0] = p2;
56
57         ad1= FFABS(d1)>>1;
58
59         d2= av_clip((p0-p3)/4, -ad1, ad1);
60
61         src[y*stride-2] = p0 - d2;
62         src[y*stride+1] = p3 + d2;
63     }
64 }
65
66 static void h263_v_loop_filter_c(uint8_t *src, int stride, int qscale){
67     int x;
68     const int strength= ff_h263_loop_filter_strength[qscale];
69
70     for(x=0; x<8; x++){
71         int d1, d2, ad1;
72         int p0= src[x-2*stride];
73         int p1= src[x-1*stride];
74         int p2= src[x+0*stride];
75         int p3= src[x+1*stride];
76         int d = (p0 - p3 + 4*(p2 - p1)) / 8;
77
78         if     (d<-2*strength) d1= 0;
79         else if(d<-  strength) d1=-2*strength - d;
80         else if(d<   strength) d1= d;
81         else if(d< 2*strength) d1= 2*strength - d;
82         else                   d1= 0;
83
84         p1 += d1;
85         p2 -= d1;
86         if(p1&256) p1= ~(p1>>31);
87         if(p2&256) p2= ~(p2>>31);
88
89         src[x-1*stride] = p1;
90         src[x+0*stride] = p2;
91
92         ad1= FFABS(d1)>>1;
93
94         d2= av_clip((p0-p3)/4, -ad1, ad1);
95
96         src[x-2*stride] = p0 - d2;
97         src[x+  stride] = p3 + d2;
98     }
99 }
100
101 av_cold void ff_h263dsp_init(H263DSPContext *ctx)
102 {
103     ctx->h263_h_loop_filter = h263_h_loop_filter_c;
104     ctx->h263_v_loop_filter = h263_v_loop_filter_c;
105
106     if (ARCH_X86)
107         ff_h263dsp_init_x86(ctx);
108 }