lavr: x86: optimized 6-channel s16 to fltp conversion
[ffmpeg.git] / libavresample / x86 / audio_convert_init.c
1 /*
2  * Copyright (c) 2012 Justin Ruggles <justin.ruggles@gmail.com>
3  *
4  * This file is part of Libav.
5  *
6  * Libav is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * Libav is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with Libav; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 #include "config.h"
22 #include "libavutil/cpu.h"
23 #include "libavresample/audio_convert.h"
24
25 /* flat conversions */
26
27 extern void ff_conv_s16_to_s32_sse2(int16_t *dst, const int32_t *src, int len);
28
29 extern void ff_conv_s16_to_flt_sse2(float *dst, const int16_t *src, int len);
30 extern void ff_conv_s16_to_flt_sse4(float *dst, const int16_t *src, int len);
31
32 extern void ff_conv_s32_to_s16_mmx (int16_t *dst, const int32_t *src, int len);
33 extern void ff_conv_s32_to_s16_sse2(int16_t *dst, const int32_t *src, int len);
34
35 extern void ff_conv_s32_to_flt_sse2(float *dst, const int32_t *src, int len);
36 extern void ff_conv_s32_to_flt_avx (float *dst, const int32_t *src, int len);
37
38 extern void ff_conv_flt_to_s16_sse2(int16_t *dst, const float *src, int len);
39
40 extern void ff_conv_flt_to_s32_sse2(int32_t *dst, const float *src, int len);
41 extern void ff_conv_flt_to_s32_avx (int32_t *dst, const float *src, int len);
42
43 /* interleave conversions */
44
45 extern void ff_conv_s16p_to_s16_2ch_sse2(int16_t *dst, int16_t *const *src,
46                                          int len, int channels);
47 extern void ff_conv_s16p_to_s16_2ch_avx (int16_t *dst, int16_t *const *src,
48                                          int len, int channels);
49
50 extern void ff_conv_s16p_to_s16_6ch_sse2(int16_t *dst, int16_t *const *src,
51                                          int len, int channels);
52 extern void ff_conv_s16p_to_s16_6ch_sse2slow(int16_t *dst, int16_t *const *src,
53                                              int len, int channels);
54 extern void ff_conv_s16p_to_s16_6ch_avx (int16_t *dst, int16_t *const *src,
55                                          int len, int channels);
56
57 extern void ff_conv_s16p_to_flt_2ch_sse2(float *dst, int16_t *const *src,
58                                          int len, int channels);
59 extern void ff_conv_s16p_to_flt_2ch_avx (float *dst, int16_t *const *src,
60                                          int len, int channels);
61
62 extern void ff_conv_s16p_to_flt_6ch_sse2 (float *dst, int16_t *const *src,
63                                           int len, int channels);
64 extern void ff_conv_s16p_to_flt_6ch_ssse3(float *dst, int16_t *const *src,
65                                          int len, int channels);
66 extern void ff_conv_s16p_to_flt_6ch_avx  (float *dst, int16_t *const *src,
67                                           int len, int channels);
68
69 extern void ff_conv_fltp_to_s16_2ch_sse2 (int16_t *dst, float *const *src,
70                                           int len, int channels);
71 extern void ff_conv_fltp_to_s16_2ch_ssse3(int16_t *dst, float *const *src,
72                                           int len, int channels);
73
74 extern void ff_conv_fltp_to_s16_6ch_sse (int16_t *dst, float *const *src,
75                                          int len, int channels);
76 extern void ff_conv_fltp_to_s16_6ch_sse2(int16_t *dst, float *const *src,
77                                          int len, int channels);
78 extern void ff_conv_fltp_to_s16_6ch_avx (int16_t *dst, float *const *src,
79                                          int len, int channels);
80
81 extern void ff_conv_fltp_to_flt_2ch_sse(float *dst, float *const *src, int len,
82                                         int channels);
83 extern void ff_conv_fltp_to_flt_2ch_avx(float *dst, float *const *src, int len,
84                                         int channels);
85
86 extern void ff_conv_fltp_to_flt_6ch_mmx (float *dst, float *const *src, int len,
87                                          int channels);
88 extern void ff_conv_fltp_to_flt_6ch_sse4(float *dst, float *const *src, int len,
89                                          int channels);
90 extern void ff_conv_fltp_to_flt_6ch_avx (float *dst, float *const *src, int len,
91                                          int channels);
92
93 /* deinterleave conversions */
94
95 extern void ff_conv_s16_to_s16p_2ch_sse2(int16_t *const *dst, int16_t *src,
96                                          int len, int channels);
97 extern void ff_conv_s16_to_s16p_2ch_ssse3(int16_t *const *dst, int16_t *src,
98                                           int len, int channels);
99 extern void ff_conv_s16_to_s16p_2ch_avx (int16_t *const *dst, int16_t *src,
100                                          int len, int channels);
101
102 extern void ff_conv_s16_to_s16p_6ch_sse2 (int16_t *const *dst, int16_t *src,
103                                           int len, int channels);
104 extern void ff_conv_s16_to_s16p_6ch_ssse3(int16_t *const *dst, int16_t *src,
105                                           int len, int channels);
106 extern void ff_conv_s16_to_s16p_6ch_avx  (int16_t *const *dst, int16_t *src,
107                                           int len, int channels);
108
109 extern void ff_conv_s16_to_fltp_2ch_sse2(float *const *dst, int16_t *src,
110                                          int len, int channels);
111 extern void ff_conv_s16_to_fltp_2ch_avx (float *const *dst, int16_t *src,
112                                          int len, int channels);
113
114 extern void ff_conv_s16_to_fltp_6ch_sse2 (float *const *dst, int16_t *src,
115                                           int len, int channels);
116 extern void ff_conv_s16_to_fltp_6ch_ssse3(float *const *dst, int16_t *src,
117                                           int len, int channels);
118 extern void ff_conv_s16_to_fltp_6ch_sse4 (float *const *dst, int16_t *src,
119                                           int len, int channels);
120 extern void ff_conv_s16_to_fltp_6ch_avx  (float *const *dst, int16_t *src,
121                                           int len, int channels);
122
123 av_cold void ff_audio_convert_init_x86(AudioConvert *ac)
124 {
125 #if HAVE_YASM
126     int mm_flags = av_get_cpu_flags();
127
128     if (mm_flags & AV_CPU_FLAG_MMX && HAVE_MMX) {
129         ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_S16, AV_SAMPLE_FMT_S32,
130                                   0, 1, 8, "MMX", ff_conv_s32_to_s16_mmx);
131         ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_FLT, AV_SAMPLE_FMT_FLTP,
132                                   6, 1, 4, "MMX", ff_conv_fltp_to_flt_6ch_mmx);
133     }
134     if (mm_flags & AV_CPU_FLAG_SSE && HAVE_SSE) {
135         ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_S16, AV_SAMPLE_FMT_FLTP,
136                                   6, 1, 2, "SSE", ff_conv_fltp_to_s16_6ch_sse);
137         ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_FLT, AV_SAMPLE_FMT_FLTP,
138                                   2, 16, 8, "SSE", ff_conv_fltp_to_flt_2ch_sse);
139     }
140     if (mm_flags & AV_CPU_FLAG_SSE2 && HAVE_SSE) {
141         if (!(mm_flags & AV_CPU_FLAG_SSE2SLOW)) {
142             ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_S16, AV_SAMPLE_FMT_S32,
143                                       0, 16, 16, "SSE2", ff_conv_s32_to_s16_sse2);
144             ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_S16, AV_SAMPLE_FMT_S16P,
145                                       6, 16, 8, "SSE2", ff_conv_s16p_to_s16_6ch_sse2);
146             ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_S16, AV_SAMPLE_FMT_FLTP,
147                                       6, 16, 4, "SSE2", ff_conv_fltp_to_s16_6ch_sse2);
148         } else {
149             ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_S16, AV_SAMPLE_FMT_S16P,
150                                       6, 1, 4, "SSE2SLOW", ff_conv_s16p_to_s16_6ch_sse2slow);
151         }
152         ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_S32, AV_SAMPLE_FMT_S16,
153                                   0, 16, 8, "SSE2", ff_conv_s16_to_s32_sse2);
154         ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_FLT, AV_SAMPLE_FMT_S16,
155                                   0, 16, 8, "SSE2", ff_conv_s16_to_flt_sse2);
156         ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_FLT, AV_SAMPLE_FMT_S32,
157                                   0, 16, 8, "SSE2", ff_conv_s32_to_flt_sse2);
158         ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_S16, AV_SAMPLE_FMT_FLT,
159                                   0, 16, 16, "SSE2", ff_conv_flt_to_s16_sse2);
160         ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_S32, AV_SAMPLE_FMT_FLT,
161                                   0, 16, 16, "SSE2", ff_conv_flt_to_s32_sse2);
162         ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_S16, AV_SAMPLE_FMT_S16P,
163                                   2, 16, 16, "SSE2", ff_conv_s16p_to_s16_2ch_sse2);
164         ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_FLT, AV_SAMPLE_FMT_S16P,
165                                   2, 16, 8, "SSE2", ff_conv_s16p_to_flt_2ch_sse2);
166         ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_FLT, AV_SAMPLE_FMT_S16P,
167                                   6, 16, 4, "SSE2", ff_conv_s16p_to_flt_6ch_sse2);
168         ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_S16, AV_SAMPLE_FMT_FLTP,
169                                   2, 16, 4, "SSE2", ff_conv_fltp_to_s16_2ch_sse2);
170         ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_S16P, AV_SAMPLE_FMT_S16,
171                                   2, 16, 8, "SSE2", ff_conv_s16_to_s16p_2ch_sse2);
172         ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_S16P, AV_SAMPLE_FMT_S16,
173                                   6, 16, 4, "SSE2", ff_conv_s16_to_s16p_6ch_sse2);
174         ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_FLTP, AV_SAMPLE_FMT_S16,
175                                   2, 16, 8, "SSE2", ff_conv_s16_to_fltp_2ch_sse2);
176         ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_FLTP, AV_SAMPLE_FMT_S16,
177                                   6, 16, 4, "SSE2", ff_conv_s16_to_fltp_6ch_sse2);
178     }
179     if (mm_flags & AV_CPU_FLAG_SSSE3 && HAVE_SSE) {
180         ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_FLT, AV_SAMPLE_FMT_S16P,
181                                   6, 16, 4, "SSSE3", ff_conv_s16p_to_flt_6ch_ssse3);
182         ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_S16, AV_SAMPLE_FMT_FLTP,
183                                   2, 16, 4, "SSSE3", ff_conv_fltp_to_s16_2ch_ssse3);
184         ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_S16P, AV_SAMPLE_FMT_S16,
185                                   2, 16, 8, "SSSE3", ff_conv_s16_to_s16p_2ch_ssse3);
186         ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_S16P, AV_SAMPLE_FMT_S16,
187                                   6, 16, 4, "SSSE3", ff_conv_s16_to_s16p_6ch_ssse3);
188         ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_FLTP, AV_SAMPLE_FMT_S16,
189                                   6, 16, 4, "SSSE3", ff_conv_s16_to_fltp_6ch_ssse3);
190     }
191     if (mm_flags & AV_CPU_FLAG_SSE4 && HAVE_SSE) {
192         ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_FLT, AV_SAMPLE_FMT_S16,
193                                   0, 16, 8, "SSE4", ff_conv_s16_to_flt_sse4);
194         ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_FLT, AV_SAMPLE_FMT_FLTP,
195                                   6, 16, 4, "SSE4", ff_conv_fltp_to_flt_6ch_sse4);
196     }
197     if (mm_flags & AV_CPU_FLAG_AVX && HAVE_AVX) {
198         ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_FLT, AV_SAMPLE_FMT_S32,
199                                   0, 32, 16, "AVX", ff_conv_s32_to_flt_avx);
200         ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_S32, AV_SAMPLE_FMT_FLT,
201                                   0, 32, 32, "AVX", ff_conv_flt_to_s32_avx);
202         ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_S16, AV_SAMPLE_FMT_S16P,
203                                   2, 16, 16, "AVX", ff_conv_s16p_to_s16_2ch_avx);
204         ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_S16, AV_SAMPLE_FMT_S16P,
205                                   6, 16, 8, "AVX", ff_conv_s16p_to_s16_6ch_avx);
206         ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_FLT, AV_SAMPLE_FMT_S16P,
207                                   2, 16, 8, "AVX", ff_conv_s16p_to_flt_2ch_avx);
208         ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_FLT, AV_SAMPLE_FMT_S16P,
209                                   6, 16, 4, "AVX", ff_conv_s16p_to_flt_6ch_avx);
210         ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_S16, AV_SAMPLE_FMT_FLTP,
211                                   6, 16, 4, "AVX", ff_conv_fltp_to_s16_6ch_avx);
212         ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_FLT, AV_SAMPLE_FMT_FLTP,
213                                   6, 16, 4, "AVX", ff_conv_fltp_to_flt_6ch_avx);
214         ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_S16P, AV_SAMPLE_FMT_S16,
215                                   2, 16, 8, "AVX", ff_conv_s16_to_s16p_2ch_avx);
216         ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_S16P, AV_SAMPLE_FMT_S16,
217                                   6, 16, 4, "AVX", ff_conv_s16_to_s16p_6ch_avx);
218         ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_FLTP, AV_SAMPLE_FMT_S16,
219                                   2, 16, 8, "AVX", ff_conv_s16_to_fltp_2ch_avx);
220         ff_audio_convert_set_func(ac, AV_SAMPLE_FMT_FLTP, AV_SAMPLE_FMT_S16,
221                                   6, 16, 4, "AVX", ff_conv_s16_to_fltp_6ch_avx);
222     }
223 #endif
224 }