c0a6eafe8930b14b5f9f4f8150fe873c2996f0af
[ffmpeg.git] / libavcodec / bit_depth_template.c
1 /*
2  * This file is part of Libav.
3  *
4  * Libav is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU Lesser General Public
6  * License as published by the Free Software Foundation; either
7  * version 2.1 of the License, or (at your option) any later version.
8  *
9  * Libav is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
12  * Lesser General Public License for more details.
13  *
14  * You should have received a copy of the GNU Lesser General Public
15  * License along with Libav; if not, write to the Free Software
16  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
17  */
18
19 #include "dsputil.h"
20
21 #ifndef BIT_DEPTH
22 #define BIT_DEPTH 8
23 #endif
24
25 #ifdef AVCODEC_H264_HIGH_DEPTH_H
26 #   undef pixel
27 #   undef pixel2
28 #   undef pixel4
29 #   undef dctcoef
30 #   undef INIT_CLIP
31 #   undef no_rnd_avg_pixel4
32 #   undef rnd_avg_pixel4
33 #   undef AV_RN2P
34 #   undef AV_RN4P
35 #   undef AV_RN4PA
36 #   undef AV_WN2P
37 #   undef AV_WN4P
38 #   undef AV_WN4PA
39 #   undef CLIP
40 #   undef FUNC
41 #   undef FUNCC
42 #   undef av_clip_pixel
43 #   undef PIXEL_SPLAT_X4
44 #else
45 #   define AVCODEC_H264_HIGH_DEPTH_H
46 #   define CLIP_PIXEL(depth)\
47     static inline uint16_t av_clip_pixel_ ## depth (int p)\
48     {\
49         const int pixel_max = (1 << depth)-1;\
50         return (p & ~pixel_max) ? (-p)>>31 & pixel_max : p;\
51     }
52
53 CLIP_PIXEL( 9)
54 CLIP_PIXEL(10)
55 #endif
56
57 #if BIT_DEPTH > 8
58 #   define pixel  uint16_t
59 #   define pixel2 uint32_t
60 #   define pixel4 uint64_t
61 #   define dctcoef int32_t
62
63 #   define INIT_CLIP
64 #   define no_rnd_avg_pixel4 no_rnd_avg64
65 #   define    rnd_avg_pixel4    rnd_avg64
66 #   define AV_RN2P  AV_RN32
67 #   define AV_RN4P  AV_RN64
68 #   define AV_RN4PA AV_RN64A
69 #   define AV_WN2P  AV_WN32
70 #   define AV_WN4P  AV_WN64
71 #   define AV_WN4PA AV_WN64A
72 #   define PIXEL_SPLAT_X4(x) ((x)*0x0001000100010001ULL)
73 #else
74 #   define pixel  uint8_t
75 #   define pixel2 uint16_t
76 #   define pixel4 uint32_t
77 #   define dctcoef int16_t
78
79 #   define INIT_CLIP uint8_t *cm = ff_cropTbl + MAX_NEG_CROP;
80 #   define no_rnd_avg_pixel4 no_rnd_avg32
81 #   define    rnd_avg_pixel4    rnd_avg32
82 #   define AV_RN2P  AV_RN16
83 #   define AV_RN4P  AV_RN32
84 #   define AV_RN4PA AV_RN32A
85 #   define AV_WN2P  AV_WN16
86 #   define AV_WN4P  AV_WN32
87 #   define AV_WN4PA AV_WN32A
88 #   define PIXEL_SPLAT_X4(x) ((x)*0x01010101U)
89 #endif
90
91 #if BIT_DEPTH == 8
92 #   define av_clip_pixel(a) av_clip_uint8(a)
93 #   define CLIP(a) cm[a]
94 #   define FUNC(a)  a ## _8
95 #   define FUNCC(a) a ## _8_c
96 #elif BIT_DEPTH == 9
97 #   define av_clip_pixel(a) av_clip_pixel_9(a)
98 #   define CLIP(a)          av_clip_pixel_9(a)
99 #   define FUNC(a)  a ## _9
100 #   define FUNCC(a) a ## _9_c
101 #elif BIT_DEPTH == 10
102 #   define av_clip_pixel(a) av_clip_pixel_10(a)
103 #   define CLIP(a)          av_clip_pixel_10(a)
104 #   define FUNC(a)  a ## _10
105 #   define FUNCC(a) a ## _10_c
106 #endif