libavcodec/ppc: Fix HEVC AltiVec routines with --enable-small
[ffmpeg.git] / libavcodec / ppc / hevcdsp.c
1 /*
2  * SIMD-optimized IDCT functions for HEVC decoding
3  * Copyright (c) Alexandra Hajkova
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "config.h"
23
24 #include "libavutil/attributes.h"
25 #include "libavutil/cpu.h"
26 #include "libavutil/ppc/cpu.h"
27 #include "libavutil/ppc/util_altivec.h"
28
29 #include "libavcodec/hevcdsp.h"
30
31 #if HAVE_ALTIVEC
32 static const vec_s16 trans4[4] = {
33     { 64,  64, 64,  64, 64,  64, 64,  64 },
34     { 83,  36, 83,  36, 83,  36, 83,  36 },
35     { 64, -64, 64, -64, 64, -64, 64, -64 },
36     { 36, -83, 36, -83, 36, -83, 36, -83 },
37 };
38
39 static const vec_u8 mask[2] = {
40     { 0x00, 0x01, 0x08, 0x09, 0x10, 0x11, 0x18, 0x19, 0x02, 0x03, 0x0A, 0x0B, 0x12, 0x13, 0x1A, 0x1B },
41     { 0x04, 0x05, 0x0C, 0x0D, 0x14, 0x15, 0x1C, 0x1D, 0x06, 0x07, 0x0E, 0x0F, 0x16, 0x17, 0x1E, 0x1F },
42 };
43
44 static av_always_inline void transform4x4(vec_s16 src_01, vec_s16 src_23,
45                                           vec_s32 res[4], const int shift,
46                                           int16_t *coeffs)
47 {
48     vec_s16 src_02, src_13;
49     vec_s32 zero = vec_splat_s32(0);
50     vec_s32 e0, o0, e1, o1;
51     vec_s32 add;
52
53     src_13 = vec_mergel(src_01, src_23);
54     src_02 = vec_mergeh(src_01, src_23);
55
56     e0 = vec_msums(src_02, trans4[0], zero);
57     o0 = vec_msums(src_13, trans4[1], zero);
58     e1 = vec_msums(src_02, trans4[2], zero);
59     o1 = vec_msums(src_13, trans4[3], zero);
60
61     add = vec_sl(vec_splat_s32(1), vec_splat_u32(shift - 1));
62     e0 = vec_add(e0, add);
63     e1 = vec_add(e1, add);
64
65     res[0] = vec_add(e0, o0);
66     res[1] = vec_add(e1, o1);
67     res[2] = vec_sub(e1, o1);
68     res[3] = vec_sub(e0, o0);
69 }
70
71 static av_always_inline void scale(vec_s32 res[4], vec_s16 res_packed[2],
72                                    const int shift)
73 {
74     int i;
75     vec_u32 v_shift = vec_splat_u32(shift);
76
77     for (i = 0; i < 4; i++)
78         res[i] = vec_sra(res[i], v_shift);
79
80     // clip16
81     res_packed[0] = vec_packs(res[0], res[1]);
82     res_packed[1] = vec_packs(res[2], res[3]);
83 }
84
85 #define FUNCDECL(a, depth) a ## _ ## depth ## _altivec
86 #define FUNC(a, b) FUNCDECL(a, b)
87
88 #define BIT_DEPTH 8
89 #include "hevcdsp_template.c"
90 #undef BIT_DEPTH
91
92 #define BIT_DEPTH 10
93 #include "hevcdsp_template.c"
94 #undef BIT_DEPTH
95 #endif /* HAVE_ALTIVEC */
96
97 av_cold void ff_hevc_dsp_init_ppc(HEVCDSPContext *c, const int bit_depth)
98 {
99 #if HAVE_ALTIVEC
100     if (!PPC_ALTIVEC(av_get_cpu_flags()))
101         return;
102
103     if (bit_depth == 8)
104         c->idct[0] = ff_hevc_idct_4x4_8_altivec;
105     if (bit_depth == 10)
106         c->idct[0] = ff_hevc_idct_4x4_10_altivec;
107 #endif /* HAVE_ALTIVEC */
108 }