lavr: typedef internal structs in internal.h
[ffmpeg.git] / libavresample / audio_convert.c
1 /*
2  * Copyright (c) 2006 Michael Niedermayer <michaelni@gmx.at>
3  * Copyright (c) 2012 Justin Ruggles <justin.ruggles@gmail.com>
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include <stdint.h>
23
24 #include "config.h"
25 #include "libavutil/common.h"
26 #include "libavutil/libm.h"
27 #include "libavutil/log.h"
28 #include "libavutil/mem.h"
29 #include "libavutil/samplefmt.h"
30 #include "audio_convert.h"
31 #include "audio_data.h"
32 #include "dither.h"
33
34 enum ConvFuncType {
35     CONV_FUNC_TYPE_FLAT,
36     CONV_FUNC_TYPE_INTERLEAVE,
37     CONV_FUNC_TYPE_DEINTERLEAVE,
38 };
39
40 typedef void (conv_func_flat)(uint8_t *out, const uint8_t *in, int len);
41
42 typedef void (conv_func_interleave)(uint8_t *out, uint8_t *const *in,
43                                     int len, int channels);
44
45 typedef void (conv_func_deinterleave)(uint8_t **out, const uint8_t *in, int len,
46                                       int channels);
47
48 struct AudioConvert {
49     AVAudioResampleContext *avr;
50     DitherContext *dc;
51     enum AVSampleFormat in_fmt;
52     enum AVSampleFormat out_fmt;
53     int channels;
54     int planes;
55     int ptr_align;
56     int samples_align;
57     int has_optimized_func;
58     const char *func_descr;
59     const char *func_descr_generic;
60     enum ConvFuncType func_type;
61     conv_func_flat         *conv_flat;
62     conv_func_flat         *conv_flat_generic;
63     conv_func_interleave   *conv_interleave;
64     conv_func_interleave   *conv_interleave_generic;
65     conv_func_deinterleave *conv_deinterleave;
66     conv_func_deinterleave *conv_deinterleave_generic;
67 };
68
69 void ff_audio_convert_set_func(AudioConvert *ac, enum AVSampleFormat out_fmt,
70                                enum AVSampleFormat in_fmt, int channels,
71                                int ptr_align, int samples_align,
72                                const char *descr, void *conv)
73 {
74     int found = 0;
75
76     switch (ac->func_type) {
77     case CONV_FUNC_TYPE_FLAT:
78         if (av_get_packed_sample_fmt(ac->in_fmt)  == in_fmt &&
79             av_get_packed_sample_fmt(ac->out_fmt) == out_fmt) {
80             ac->conv_flat     = conv;
81             ac->func_descr    = descr;
82             ac->ptr_align     = ptr_align;
83             ac->samples_align = samples_align;
84             if (ptr_align == 1 && samples_align == 1) {
85                 ac->conv_flat_generic  = conv;
86                 ac->func_descr_generic = descr;
87             } else {
88                 ac->has_optimized_func = 1;
89             }
90             found = 1;
91         }
92         break;
93     case CONV_FUNC_TYPE_INTERLEAVE:
94         if (ac->in_fmt == in_fmt && ac->out_fmt == out_fmt &&
95             (!channels || ac->channels == channels)) {
96             ac->conv_interleave = conv;
97             ac->func_descr      = descr;
98             ac->ptr_align       = ptr_align;
99             ac->samples_align   = samples_align;
100             if (ptr_align == 1 && samples_align == 1) {
101                 ac->conv_interleave_generic = conv;
102                 ac->func_descr_generic      = descr;
103             } else {
104                 ac->has_optimized_func = 1;
105             }
106             found = 1;
107         }
108         break;
109     case CONV_FUNC_TYPE_DEINTERLEAVE:
110         if (ac->in_fmt == in_fmt && ac->out_fmt == out_fmt &&
111             (!channels || ac->channels == channels)) {
112             ac->conv_deinterleave = conv;
113             ac->func_descr        = descr;
114             ac->ptr_align         = ptr_align;
115             ac->samples_align     = samples_align;
116             if (ptr_align == 1 && samples_align == 1) {
117                 ac->conv_deinterleave_generic = conv;
118                 ac->func_descr_generic        = descr;
119             } else {
120                 ac->has_optimized_func = 1;
121             }
122             found = 1;
123         }
124         break;
125     }
126     if (found) {
127         av_log(ac->avr, AV_LOG_DEBUG, "audio_convert: found function: %-4s "
128                "to %-4s (%s)\n", av_get_sample_fmt_name(ac->in_fmt),
129                av_get_sample_fmt_name(ac->out_fmt), descr);
130     }
131 }
132
133 #define CONV_FUNC_NAME(dst_fmt, src_fmt) conv_ ## src_fmt ## _to_ ## dst_fmt
134
135 #define CONV_LOOP(otype, expr)                                              \
136     do {                                                                    \
137         *(otype *)po = expr;                                                \
138         pi += is;                                                           \
139         po += os;                                                           \
140     } while (po < end);                                                     \
141
142 #define CONV_FUNC_FLAT(ofmt, otype, ifmt, itype, expr)                      \
143 static void CONV_FUNC_NAME(ofmt, ifmt)(uint8_t *out, const uint8_t *in,     \
144                                        int len)                             \
145 {                                                                           \
146     int is       = sizeof(itype);                                           \
147     int os       = sizeof(otype);                                           \
148     const uint8_t *pi = in;                                                 \
149     uint8_t       *po = out;                                                \
150     uint8_t *end = out + os * len;                                          \
151     CONV_LOOP(otype, expr)                                                  \
152 }
153
154 #define CONV_FUNC_INTERLEAVE(ofmt, otype, ifmt, itype, expr)                \
155 static void CONV_FUNC_NAME(ofmt, ifmt)(uint8_t *out, const uint8_t **in,    \
156                                        int len, int channels)               \
157 {                                                                           \
158     int ch;                                                                 \
159     int out_bps = sizeof(otype);                                            \
160     int is      = sizeof(itype);                                            \
161     int os      = channels * out_bps;                                       \
162     for (ch = 0; ch < channels; ch++) {                                     \
163         const uint8_t *pi = in[ch];                                         \
164         uint8_t       *po = out + ch * out_bps;                             \
165         uint8_t      *end = po + os * len;                                  \
166         CONV_LOOP(otype, expr)                                              \
167     }                                                                       \
168 }
169
170 #define CONV_FUNC_DEINTERLEAVE(ofmt, otype, ifmt, itype, expr)              \
171 static void CONV_FUNC_NAME(ofmt, ifmt)(uint8_t **out, const uint8_t *in,    \
172                                        int len, int channels)               \
173 {                                                                           \
174     int ch;                                                                 \
175     int in_bps = sizeof(itype);                                             \
176     int is     = channels * in_bps;                                         \
177     int os     = sizeof(otype);                                             \
178     for (ch = 0; ch < channels; ch++) {                                     \
179         const uint8_t *pi = in  + ch * in_bps;                              \
180         uint8_t       *po = out[ch];                                        \
181         uint8_t      *end = po + os * len;                                  \
182         CONV_LOOP(otype, expr)                                              \
183     }                                                                       \
184 }
185
186 #define CONV_FUNC_GROUP(ofmt, otype, ifmt, itype, expr) \
187 CONV_FUNC_FLAT(        ofmt,      otype, ifmt,      itype, expr) \
188 CONV_FUNC_INTERLEAVE(  ofmt,      otype, ifmt ## P, itype, expr) \
189 CONV_FUNC_DEINTERLEAVE(ofmt ## P, otype, ifmt,      itype, expr)
190
191 CONV_FUNC_GROUP(AV_SAMPLE_FMT_U8,  uint8_t, AV_SAMPLE_FMT_U8,  uint8_t,  *(const uint8_t *)pi)
192 CONV_FUNC_GROUP(AV_SAMPLE_FMT_S16, int16_t, AV_SAMPLE_FMT_U8,  uint8_t, (*(const uint8_t *)pi - 0x80) <<  8)
193 CONV_FUNC_GROUP(AV_SAMPLE_FMT_S32, int32_t, AV_SAMPLE_FMT_U8,  uint8_t, (*(const uint8_t *)pi - 0x80) << 24)
194 CONV_FUNC_GROUP(AV_SAMPLE_FMT_FLT, float,   AV_SAMPLE_FMT_U8,  uint8_t, (*(const uint8_t *)pi - 0x80) * (1.0f / (1 << 7)))
195 CONV_FUNC_GROUP(AV_SAMPLE_FMT_DBL, double,  AV_SAMPLE_FMT_U8,  uint8_t, (*(const uint8_t *)pi - 0x80) * (1.0  / (1 << 7)))
196 CONV_FUNC_GROUP(AV_SAMPLE_FMT_U8,  uint8_t, AV_SAMPLE_FMT_S16, int16_t, (*(const int16_t *)pi >> 8) + 0x80)
197 CONV_FUNC_GROUP(AV_SAMPLE_FMT_S16, int16_t, AV_SAMPLE_FMT_S16, int16_t,  *(const int16_t *)pi)
198 CONV_FUNC_GROUP(AV_SAMPLE_FMT_S32, int32_t, AV_SAMPLE_FMT_S16, int16_t,  *(const int16_t *)pi << 16)
199 CONV_FUNC_GROUP(AV_SAMPLE_FMT_FLT, float,   AV_SAMPLE_FMT_S16, int16_t,  *(const int16_t *)pi * (1.0f / (1 << 15)))
200 CONV_FUNC_GROUP(AV_SAMPLE_FMT_DBL, double,  AV_SAMPLE_FMT_S16, int16_t,  *(const int16_t *)pi * (1.0  / (1 << 15)))
201 CONV_FUNC_GROUP(AV_SAMPLE_FMT_U8,  uint8_t, AV_SAMPLE_FMT_S32, int32_t, (*(const int32_t *)pi >> 24) + 0x80)
202 CONV_FUNC_GROUP(AV_SAMPLE_FMT_S16, int16_t, AV_SAMPLE_FMT_S32, int32_t,  *(const int32_t *)pi >> 16)
203 CONV_FUNC_GROUP(AV_SAMPLE_FMT_S32, int32_t, AV_SAMPLE_FMT_S32, int32_t,  *(const int32_t *)pi)
204 CONV_FUNC_GROUP(AV_SAMPLE_FMT_FLT, float,   AV_SAMPLE_FMT_S32, int32_t,  *(const int32_t *)pi * (1.0f / (1U << 31)))
205 CONV_FUNC_GROUP(AV_SAMPLE_FMT_DBL, double,  AV_SAMPLE_FMT_S32, int32_t,  *(const int32_t *)pi * (1.0  / (1U << 31)))
206 CONV_FUNC_GROUP(AV_SAMPLE_FMT_U8,  uint8_t, AV_SAMPLE_FMT_FLT, float,   av_clip_uint8(  lrintf(*(const float *)pi * (1  <<  7)) + 0x80))
207 CONV_FUNC_GROUP(AV_SAMPLE_FMT_S16, int16_t, AV_SAMPLE_FMT_FLT, float,   av_clip_int16(  lrintf(*(const float *)pi * (1  << 15))))
208 CONV_FUNC_GROUP(AV_SAMPLE_FMT_S32, int32_t, AV_SAMPLE_FMT_FLT, float,   av_clipl_int32(llrintf(*(const float *)pi * (1U << 31))))
209 CONV_FUNC_GROUP(AV_SAMPLE_FMT_FLT, float,   AV_SAMPLE_FMT_FLT, float,   *(const float *)pi)
210 CONV_FUNC_GROUP(AV_SAMPLE_FMT_DBL, double,  AV_SAMPLE_FMT_FLT, float,   *(const float *)pi)
211 CONV_FUNC_GROUP(AV_SAMPLE_FMT_U8,  uint8_t, AV_SAMPLE_FMT_DBL, double,  av_clip_uint8(  lrint(*(const double *)pi * (1  <<  7)) + 0x80))
212 CONV_FUNC_GROUP(AV_SAMPLE_FMT_S16, int16_t, AV_SAMPLE_FMT_DBL, double,  av_clip_int16(  lrint(*(const double *)pi * (1  << 15))))
213 CONV_FUNC_GROUP(AV_SAMPLE_FMT_S32, int32_t, AV_SAMPLE_FMT_DBL, double,  av_clipl_int32(llrint(*(const double *)pi * (1U << 31))))
214 CONV_FUNC_GROUP(AV_SAMPLE_FMT_FLT, float,   AV_SAMPLE_FMT_DBL, double,  *(const double *)pi)
215 CONV_FUNC_GROUP(AV_SAMPLE_FMT_DBL, double,  AV_SAMPLE_FMT_DBL, double,  *(const double *)pi)
216
217 #define SET_CONV_FUNC_GROUP(ofmt, ifmt)                                                             \
218 ff_audio_convert_set_func(ac, ofmt,      ifmt,      0, 1, 1, "C", CONV_FUNC_NAME(ofmt,      ifmt)); \
219 ff_audio_convert_set_func(ac, ofmt ## P, ifmt,      0, 1, 1, "C", CONV_FUNC_NAME(ofmt ## P, ifmt)); \
220 ff_audio_convert_set_func(ac, ofmt,      ifmt ## P, 0, 1, 1, "C", CONV_FUNC_NAME(ofmt,      ifmt ## P));
221
222 static void set_generic_function(AudioConvert *ac)
223 {
224     SET_CONV_FUNC_GROUP(AV_SAMPLE_FMT_U8,  AV_SAMPLE_FMT_U8)
225     SET_CONV_FUNC_GROUP(AV_SAMPLE_FMT_S16, AV_SAMPLE_FMT_U8)
226     SET_CONV_FUNC_GROUP(AV_SAMPLE_FMT_S32, AV_SAMPLE_FMT_U8)
227     SET_CONV_FUNC_GROUP(AV_SAMPLE_FMT_FLT, AV_SAMPLE_FMT_U8)
228     SET_CONV_FUNC_GROUP(AV_SAMPLE_FMT_DBL, AV_SAMPLE_FMT_U8)
229     SET_CONV_FUNC_GROUP(AV_SAMPLE_FMT_U8,  AV_SAMPLE_FMT_S16)
230     SET_CONV_FUNC_GROUP(AV_SAMPLE_FMT_S16, AV_SAMPLE_FMT_S16)
231     SET_CONV_FUNC_GROUP(AV_SAMPLE_FMT_S32, AV_SAMPLE_FMT_S16)
232     SET_CONV_FUNC_GROUP(AV_SAMPLE_FMT_FLT, AV_SAMPLE_FMT_S16)
233     SET_CONV_FUNC_GROUP(AV_SAMPLE_FMT_DBL, AV_SAMPLE_FMT_S16)
234     SET_CONV_FUNC_GROUP(AV_SAMPLE_FMT_U8,  AV_SAMPLE_FMT_S32)
235     SET_CONV_FUNC_GROUP(AV_SAMPLE_FMT_S16, AV_SAMPLE_FMT_S32)
236     SET_CONV_FUNC_GROUP(AV_SAMPLE_FMT_S32, AV_SAMPLE_FMT_S32)
237     SET_CONV_FUNC_GROUP(AV_SAMPLE_FMT_FLT, AV_SAMPLE_FMT_S32)
238     SET_CONV_FUNC_GROUP(AV_SAMPLE_FMT_DBL, AV_SAMPLE_FMT_S32)
239     SET_CONV_FUNC_GROUP(AV_SAMPLE_FMT_U8,  AV_SAMPLE_FMT_FLT)
240     SET_CONV_FUNC_GROUP(AV_SAMPLE_FMT_S16, AV_SAMPLE_FMT_FLT)
241     SET_CONV_FUNC_GROUP(AV_SAMPLE_FMT_S32, AV_SAMPLE_FMT_FLT)
242     SET_CONV_FUNC_GROUP(AV_SAMPLE_FMT_FLT, AV_SAMPLE_FMT_FLT)
243     SET_CONV_FUNC_GROUP(AV_SAMPLE_FMT_DBL, AV_SAMPLE_FMT_FLT)
244     SET_CONV_FUNC_GROUP(AV_SAMPLE_FMT_U8,  AV_SAMPLE_FMT_DBL)
245     SET_CONV_FUNC_GROUP(AV_SAMPLE_FMT_S16, AV_SAMPLE_FMT_DBL)
246     SET_CONV_FUNC_GROUP(AV_SAMPLE_FMT_S32, AV_SAMPLE_FMT_DBL)
247     SET_CONV_FUNC_GROUP(AV_SAMPLE_FMT_FLT, AV_SAMPLE_FMT_DBL)
248     SET_CONV_FUNC_GROUP(AV_SAMPLE_FMT_DBL, AV_SAMPLE_FMT_DBL)
249 }
250
251 void ff_audio_convert_free(AudioConvert **ac)
252 {
253     if (!*ac)
254         return;
255     ff_dither_free(&(*ac)->dc);
256     av_freep(ac);
257 }
258
259 AudioConvert *ff_audio_convert_alloc(AVAudioResampleContext *avr,
260                                      enum AVSampleFormat out_fmt,
261                                      enum AVSampleFormat in_fmt,
262                                      int channels, int sample_rate)
263 {
264     AudioConvert *ac;
265     int in_planar, out_planar;
266
267     ac = av_mallocz(sizeof(*ac));
268     if (!ac)
269         return NULL;
270
271     ac->avr      = avr;
272     ac->out_fmt  = out_fmt;
273     ac->in_fmt   = in_fmt;
274     ac->channels = channels;
275
276     if (avr->dither_method != AV_RESAMPLE_DITHER_NONE          &&
277         av_get_packed_sample_fmt(out_fmt) == AV_SAMPLE_FMT_S16 &&
278         av_get_bytes_per_sample(in_fmt) > 2) {
279         ac->dc = ff_dither_alloc(avr, out_fmt, in_fmt, channels, sample_rate);
280         if (!ac->dc) {
281             av_free(ac);
282             return NULL;
283         }
284         return ac;
285     }
286
287     in_planar  = av_sample_fmt_is_planar(in_fmt);
288     out_planar = av_sample_fmt_is_planar(out_fmt);
289
290     if (in_planar == out_planar) {
291         ac->func_type = CONV_FUNC_TYPE_FLAT;
292         ac->planes    = in_planar ? ac->channels : 1;
293     } else if (in_planar)
294         ac->func_type = CONV_FUNC_TYPE_INTERLEAVE;
295     else
296         ac->func_type = CONV_FUNC_TYPE_DEINTERLEAVE;
297
298     set_generic_function(ac);
299
300     if (ARCH_ARM)
301         ff_audio_convert_init_arm(ac);
302     if (ARCH_X86)
303         ff_audio_convert_init_x86(ac);
304
305     return ac;
306 }
307
308 int ff_audio_convert(AudioConvert *ac, AudioData *out, AudioData *in)
309 {
310     int use_generic = 1;
311     int len         = in->nb_samples;
312
313     if (ac->dc) {
314         /* dithered conversion */
315         av_dlog(ac->avr, "%d samples - audio_convert: %s to %s (dithered)\n",
316                 len, av_get_sample_fmt_name(ac->in_fmt),
317                 av_get_sample_fmt_name(ac->out_fmt));
318
319         return ff_convert_dither(ac->dc, out, in);
320     }
321
322     /* determine whether to use the optimized function based on pointer and
323        samples alignment in both the input and output */
324     if (ac->has_optimized_func) {
325         int ptr_align     = FFMIN(in->ptr_align,     out->ptr_align);
326         int samples_align = FFMIN(in->samples_align, out->samples_align);
327         int aligned_len   = FFALIGN(len, ac->samples_align);
328         if (!(ptr_align % ac->ptr_align) && samples_align >= aligned_len) {
329             len = aligned_len;
330             use_generic = 0;
331         }
332     }
333     av_dlog(ac->avr, "%d samples - audio_convert: %s to %s (%s)\n", len,
334             av_get_sample_fmt_name(ac->in_fmt),
335             av_get_sample_fmt_name(ac->out_fmt),
336             use_generic ? ac->func_descr_generic : ac->func_descr);
337
338     switch (ac->func_type) {
339     case CONV_FUNC_TYPE_FLAT: {
340         int p;
341         if (!in->is_planar)
342             len *= in->channels;
343         if (use_generic) {
344             for (p = 0; p < ac->planes; p++)
345                 ac->conv_flat_generic(out->data[p], in->data[p], len);
346         } else {
347             for (p = 0; p < ac->planes; p++)
348                 ac->conv_flat(out->data[p], in->data[p], len);
349         }
350         break;
351     }
352     case CONV_FUNC_TYPE_INTERLEAVE:
353         if (use_generic)
354             ac->conv_interleave_generic(out->data[0], in->data, len, ac->channels);
355         else
356             ac->conv_interleave(out->data[0], in->data, len, ac->channels);
357         break;
358     case CONV_FUNC_TYPE_DEINTERLEAVE:
359         if (use_generic)
360             ac->conv_deinterleave_generic(out->data, in->data[0], len, ac->channels);
361         else
362             ac->conv_deinterleave(out->data, in->data[0], len, ac->channels);
363         break;
364     }
365
366     out->nb_samples = in->nb_samples;
367     return 0;
368 }