7652fd8a325ebd085467d4d12007a4955165a69d
[ffmpeg.git] / libswresample / rematrix.c
1 /*
2  * Copyright (C) 2011-2012 Michael Niedermayer (michaelni@gmx.at)
3  *
4  * This file is part of libswresample
5  *
6  * libswresample is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * libswresample is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with libswresample; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 #include "swresample_internal.h"
22 #include "libavutil/audioconvert.h"
23 #include "libavutil/avassert.h"
24
25 #define ONE (1.0)
26 #define R(x) x
27 #define SAMPLE float
28 #define COEFF float
29 #define INTER float
30 #define RENAME(x) x ## _float
31 #include "rematrix_template.c"
32 #undef SAMPLE
33 #undef RENAME
34 #undef R
35 #undef ONE
36 #undef COEFF
37 #undef INTER
38
39 #define ONE (1.0)
40 #define R(x) x
41 #define SAMPLE double
42 #define COEFF double
43 #define INTER double
44 #define RENAME(x) x ## _double
45 #include "rematrix_template.c"
46 #undef SAMPLE
47 #undef RENAME
48 #undef R
49 #undef ONE
50 #undef COEFF
51 #undef INTER
52
53 #define ONE (-32768)
54 #define R(x) (((x) + 16384)>>15)
55 #define SAMPLE int16_t
56 #define COEFF int
57 #define INTER int
58 #define RENAME(x) x ## _s16
59 #include "rematrix_template.c"
60
61
62 #define FRONT_LEFT             0
63 #define FRONT_RIGHT            1
64 #define FRONT_CENTER           2
65 #define LOW_FREQUENCY          3
66 #define BACK_LEFT              4
67 #define BACK_RIGHT             5
68 #define FRONT_LEFT_OF_CENTER   6
69 #define FRONT_RIGHT_OF_CENTER  7
70 #define BACK_CENTER            8
71 #define SIDE_LEFT              9
72 #define SIDE_RIGHT             10
73 #define TOP_CENTER             11
74 #define TOP_FRONT_LEFT         12
75 #define TOP_FRONT_CENTER       13
76 #define TOP_FRONT_RIGHT        14
77 #define TOP_BACK_LEFT          15
78 #define TOP_BACK_CENTER        16
79 #define TOP_BACK_RIGHT         17
80
81 int swr_set_matrix(struct SwrContext *s, const double *matrix, int stride)
82 {
83     int nb_in, nb_out, in, out;
84
85     if (!s || s->in_convert) // s needs to be allocated but not initialized
86         return AVERROR(EINVAL);
87     memset(s->matrix, 0, sizeof(s->matrix));
88     nb_in  = av_get_channel_layout_nb_channels(s->in_ch_layout);
89     nb_out = av_get_channel_layout_nb_channels(s->out_ch_layout);
90     for (out = 0; out < nb_out; out++) {
91         for (in = 0; in < nb_in; in++)
92             s->matrix[out][in] = matrix[in];
93         matrix += stride;
94     }
95     s->rematrix_custom = 1;
96     return 0;
97 }
98
99 static int even(int64_t layout){
100     if(!layout) return 1;
101     if(layout&(layout-1)) return 1;
102     return 0;
103 }
104
105 static int sane_layout(int64_t layout){
106     if(!(layout & AV_CH_LAYOUT_SURROUND)) // at least 1 front speaker
107         return 0;
108     if(!even(layout & (AV_CH_FRONT_LEFT | AV_CH_FRONT_RIGHT))) // no asymetric front
109         return 0;
110     if(!even(layout & (AV_CH_SIDE_LEFT | AV_CH_SIDE_RIGHT)))   // no asymetric side
111         return 0;
112     if(!even(layout & (AV_CH_BACK_LEFT | AV_CH_BACK_RIGHT)))
113         return 0;
114     if(!even(layout & (AV_CH_FRONT_LEFT_OF_CENTER | AV_CH_FRONT_RIGHT_OF_CENTER)))
115         return 0;
116     if(av_get_channel_layout_nb_channels(layout) >= SWR_CH_MAX)
117         return 0;
118
119     return 1;
120 }
121
122 static int auto_matrix(SwrContext *s)
123 {
124     int i, j, out_i;
125     double matrix[64][64]={{0}};
126     int64_t unaccounted= s->in_ch_layout & ~s->out_ch_layout;
127     double maxcoef=0;
128     char buf[128];
129
130     memset(s->matrix, 0, sizeof(s->matrix));
131     for(i=0; i<64; i++){
132         if(s->in_ch_layout & s->out_ch_layout & (1LL<<i))
133             matrix[i][i]= 1.0;
134     }
135
136     if(!sane_layout(s->in_ch_layout)){
137         av_get_channel_layout_string(buf, sizeof(buf), -1, s->in_ch_layout);
138         av_log(s, AV_LOG_ERROR, "Input channel layout '%s' is not supported\n", buf);
139         return AVERROR(EINVAL);
140     }
141     if(!sane_layout(s->out_ch_layout)){
142         av_get_channel_layout_string(buf, sizeof(buf), -1, s->out_ch_layout);
143         av_log(s, AV_LOG_ERROR, "Output channel layout '%s' is not supported\n", buf);
144         return AVERROR(EINVAL);
145     }
146
147 //FIXME implement dolby surround
148 //FIXME implement full ac3
149
150
151     if(unaccounted & AV_CH_FRONT_CENTER){
152         if((s->out_ch_layout & AV_CH_LAYOUT_STEREO) == AV_CH_LAYOUT_STEREO){
153             if(s->in_ch_layout & AV_CH_LAYOUT_STEREO) {
154                 matrix[ FRONT_LEFT][FRONT_CENTER]+= s->clev;
155                 matrix[FRONT_RIGHT][FRONT_CENTER]+= s->clev;
156             } else {
157                 matrix[ FRONT_LEFT][FRONT_CENTER]+= M_SQRT1_2;
158                 matrix[FRONT_RIGHT][FRONT_CENTER]+= M_SQRT1_2;
159             }
160         }else
161             av_assert0(0);
162     }
163     if(unaccounted & AV_CH_LAYOUT_STEREO){
164         if(s->out_ch_layout & AV_CH_FRONT_CENTER){
165             matrix[FRONT_CENTER][ FRONT_LEFT]+= M_SQRT1_2;
166             matrix[FRONT_CENTER][FRONT_RIGHT]+= M_SQRT1_2;
167             if(s->in_ch_layout & AV_CH_FRONT_CENTER)
168                 matrix[FRONT_CENTER][ FRONT_CENTER] = s->clev*sqrt(2);
169         }else
170             av_assert0(0);
171     }
172
173     if(unaccounted & AV_CH_BACK_CENTER){
174         if(s->out_ch_layout & AV_CH_BACK_LEFT){
175             matrix[ BACK_LEFT][BACK_CENTER]+= M_SQRT1_2;
176             matrix[BACK_RIGHT][BACK_CENTER]+= M_SQRT1_2;
177         }else if(s->out_ch_layout & AV_CH_SIDE_LEFT){
178             matrix[ SIDE_LEFT][BACK_CENTER]+= M_SQRT1_2;
179             matrix[SIDE_RIGHT][BACK_CENTER]+= M_SQRT1_2;
180         }else if(s->out_ch_layout & AV_CH_FRONT_LEFT){
181             matrix[ FRONT_LEFT][BACK_CENTER]+= s->slev*M_SQRT1_2;
182             matrix[FRONT_RIGHT][BACK_CENTER]+= s->slev*M_SQRT1_2;
183         }else if(s->out_ch_layout & AV_CH_FRONT_CENTER){
184             matrix[ FRONT_CENTER][BACK_CENTER]+= s->slev*M_SQRT1_2;
185         }else
186             av_assert0(0);
187     }
188     if(unaccounted & AV_CH_BACK_LEFT){
189         if(s->out_ch_layout & AV_CH_BACK_CENTER){
190             matrix[BACK_CENTER][ BACK_LEFT]+= M_SQRT1_2;
191             matrix[BACK_CENTER][BACK_RIGHT]+= M_SQRT1_2;
192         }else if(s->out_ch_layout & AV_CH_SIDE_LEFT){
193             if(s->in_ch_layout & AV_CH_SIDE_LEFT){
194                 matrix[ SIDE_LEFT][ BACK_LEFT]+= M_SQRT1_2;
195                 matrix[SIDE_RIGHT][BACK_RIGHT]+= M_SQRT1_2;
196             }else{
197             matrix[ SIDE_LEFT][ BACK_LEFT]+= 1.0;
198             matrix[SIDE_RIGHT][BACK_RIGHT]+= 1.0;
199             }
200         }else if(s->out_ch_layout & AV_CH_FRONT_LEFT){
201             matrix[ FRONT_LEFT][ BACK_LEFT]+= s->slev;
202             matrix[FRONT_RIGHT][BACK_RIGHT]+= s->slev;
203         }else if(s->out_ch_layout & AV_CH_FRONT_CENTER){
204             matrix[ FRONT_CENTER][BACK_LEFT ]+= s->slev*M_SQRT1_2;
205             matrix[ FRONT_CENTER][BACK_RIGHT]+= s->slev*M_SQRT1_2;
206         }else
207             av_assert0(0);
208     }
209
210     if(unaccounted & AV_CH_SIDE_LEFT){
211         if(s->out_ch_layout & AV_CH_BACK_LEFT){
212             /* if back channels do not exist in the input, just copy side
213                channels to back channels, otherwise mix side into back */
214             if (s->in_ch_layout & AV_CH_BACK_LEFT) {
215                 matrix[BACK_LEFT ][SIDE_LEFT ] += M_SQRT1_2;
216                 matrix[BACK_RIGHT][SIDE_RIGHT] += M_SQRT1_2;
217             } else {
218                 matrix[BACK_LEFT ][SIDE_LEFT ] += 1.0;
219                 matrix[BACK_RIGHT][SIDE_RIGHT] += 1.0;
220             }
221         }else if(s->out_ch_layout & AV_CH_BACK_CENTER){
222             matrix[BACK_CENTER][ SIDE_LEFT]+= M_SQRT1_2;
223             matrix[BACK_CENTER][SIDE_RIGHT]+= M_SQRT1_2;
224         }else if(s->out_ch_layout & AV_CH_FRONT_LEFT){
225             matrix[ FRONT_LEFT][ SIDE_LEFT]+= s->slev;
226             matrix[FRONT_RIGHT][SIDE_RIGHT]+= s->slev;
227         }else if(s->out_ch_layout & AV_CH_FRONT_CENTER){
228             matrix[ FRONT_CENTER][SIDE_LEFT ]+= s->slev*M_SQRT1_2;
229             matrix[ FRONT_CENTER][SIDE_RIGHT]+= s->slev*M_SQRT1_2;
230         }else
231             av_assert0(0);
232     }
233
234     if(unaccounted & AV_CH_FRONT_LEFT_OF_CENTER){
235         if(s->out_ch_layout & AV_CH_FRONT_LEFT){
236             matrix[ FRONT_LEFT][ FRONT_LEFT_OF_CENTER]+= 1.0;
237             matrix[FRONT_RIGHT][FRONT_RIGHT_OF_CENTER]+= 1.0;
238         }else if(s->out_ch_layout & AV_CH_FRONT_CENTER){
239             matrix[ FRONT_CENTER][ FRONT_LEFT_OF_CENTER]+= M_SQRT1_2;
240             matrix[ FRONT_CENTER][FRONT_RIGHT_OF_CENTER]+= M_SQRT1_2;
241         }else
242             av_assert0(0);
243     }
244     /* mix LFE into front left/right or center */
245     if (unaccounted & AV_CH_LOW_FREQUENCY) {
246         if (s->out_ch_layout & AV_CH_FRONT_CENTER) {
247             matrix[FRONT_CENTER][LOW_FREQUENCY] += s->lfe_mix_level;
248         } else if (s->out_ch_layout & AV_CH_FRONT_LEFT) {
249             matrix[FRONT_LEFT ][LOW_FREQUENCY] += s->lfe_mix_level * M_SQRT1_2;
250             matrix[FRONT_RIGHT][LOW_FREQUENCY] += s->lfe_mix_level * M_SQRT1_2;
251         } else
252             av_assert0(0);
253     }
254
255     for(out_i=i=0; i<64; i++){
256         double sum=0;
257         int in_i=0;
258         for(j=0; j<64; j++){
259             s->matrix[out_i][in_i]= matrix[i][j];
260             if(matrix[i][j]){
261                 sum += fabs(matrix[i][j]);
262             }
263             if(s->in_ch_layout & (1ULL<<j))
264                 in_i++;
265         }
266         maxcoef= FFMAX(maxcoef, sum);
267         if(s->out_ch_layout & (1ULL<<i))
268             out_i++;
269     }
270     if(s->rematrix_volume  < 0)
271         maxcoef = -s->rematrix_volume;
272
273     if((   av_get_packed_sample_fmt(s->out_sample_fmt) < AV_SAMPLE_FMT_FLT
274         || av_get_packed_sample_fmt(s->int_sample_fmt) < AV_SAMPLE_FMT_FLT) && maxcoef > 1.0){
275         for(i=0; i<SWR_CH_MAX; i++)
276             for(j=0; j<SWR_CH_MAX; j++){
277                 s->matrix[i][j] /= maxcoef;
278             }
279     }
280
281     if(s->rematrix_volume > 0){
282         for(i=0; i<SWR_CH_MAX; i++)
283             for(j=0; j<SWR_CH_MAX; j++){
284                 s->matrix[i][j] *= s->rematrix_volume;
285             }
286     }
287
288     for(i=0; i<av_get_channel_layout_nb_channels(s->out_ch_layout); i++){
289         for(j=0; j<av_get_channel_layout_nb_channels(s->in_ch_layout); j++){
290             av_log(NULL, AV_LOG_DEBUG, "%f ", s->matrix[i][j]);
291         }
292         av_log(NULL, AV_LOG_DEBUG, "\n");
293     }
294     return 0;
295 }
296
297 int swri_rematrix_init(SwrContext *s){
298     int i, j;
299     int nb_in  = av_get_channel_layout_nb_channels(s->in_ch_layout);
300     int nb_out = av_get_channel_layout_nb_channels(s->out_ch_layout);
301
302     s->mix_any_f = NULL;
303
304     if (!s->rematrix_custom) {
305         int r = auto_matrix(s);
306         if (r)
307             return r;
308     }
309     if (s->midbuf.fmt == AV_SAMPLE_FMT_S16P){
310         s->native_matrix = av_mallocz(nb_in * nb_out * sizeof(int));
311         s->native_one    = av_mallocz(sizeof(int));
312         for (i = 0; i < nb_out; i++)
313             for (j = 0; j < nb_in; j++)
314                 ((int*)s->native_matrix)[i * nb_in + j] = lrintf(s->matrix[i][j] * 32768);
315         *((int*)s->native_one) = 32768;
316         s->mix_1_1_f = (mix_1_1_func_type*)copy_s16;
317         s->mix_2_1_f = (mix_2_1_func_type*)sum2_s16;
318         s->mix_any_f = (mix_any_func_type*)get_mix_any_func_s16(s);
319     }else if(s->midbuf.fmt == AV_SAMPLE_FMT_FLTP){
320         s->native_matrix = av_mallocz(nb_in * nb_out * sizeof(float));
321         s->native_one    = av_mallocz(sizeof(float));
322         for (i = 0; i < nb_out; i++)
323             for (j = 0; j < nb_in; j++)
324                 ((float*)s->native_matrix)[i * nb_in + j] = s->matrix[i][j];
325         *((float*)s->native_one) = 1.0;
326         s->mix_1_1_f = (mix_1_1_func_type*)copy_float;
327         s->mix_2_1_f = (mix_2_1_func_type*)sum2_float;
328         s->mix_any_f = (mix_any_func_type*)get_mix_any_func_float(s);
329     }else if(s->midbuf.fmt == AV_SAMPLE_FMT_DBLP){
330         s->native_matrix = av_mallocz(nb_in * nb_out * sizeof(double));
331         s->native_one    = av_mallocz(sizeof(double));
332         for (i = 0; i < nb_out; i++)
333             for (j = 0; j < nb_in; j++)
334                 ((double*)s->native_matrix)[i * nb_in + j] = s->matrix[i][j];
335         *((double*)s->native_one) = 1.0;
336         s->mix_1_1_f = (mix_1_1_func_type*)copy_double;
337         s->mix_2_1_f = (mix_2_1_func_type*)sum2_double;
338         s->mix_any_f = (mix_any_func_type*)get_mix_any_func_double(s);
339     }else
340         av_assert0(0);
341     //FIXME quantize for integeres
342     for (i = 0; i < SWR_CH_MAX; i++) {
343         int ch_in=0;
344         for (j = 0; j < SWR_CH_MAX; j++) {
345             s->matrix32[i][j]= lrintf(s->matrix[i][j] * 32768);
346             if(s->matrix[i][j])
347                 s->matrix_ch[i][++ch_in]= j;
348         }
349         s->matrix_ch[i][0]= ch_in;
350     }
351
352     if(HAVE_YASM && HAVE_MMX) swri_rematrix_init_x86(s);
353
354     return 0;
355 }
356
357 void swri_rematrix_free(SwrContext *s){
358     av_freep(&s->native_matrix);
359     av_freep(&s->native_one);
360     av_freep(&s->native_simd_matrix);
361 }
362
363 int swri_rematrix(SwrContext *s, AudioData *out, AudioData *in, int len, int mustcopy){
364     int out_i, in_i, i, j;
365     int len1 = 0;
366     int off = 0;
367
368     if(s->mix_any_f) {
369         s->mix_any_f(out->ch, (const uint8_t **)in->ch, s->native_matrix, len);
370         return 0;
371     }
372
373     if(s->mix_2_1_simd || s->mix_1_1_simd){
374         len1= len&~15;
375         off = len1 * out->bps;
376     }
377
378     av_assert0(out->ch_count == av_get_channel_layout_nb_channels(s->out_ch_layout));
379     av_assert0(in ->ch_count == av_get_channel_layout_nb_channels(s-> in_ch_layout));
380
381     for(out_i=0; out_i<out->ch_count; out_i++){
382         switch(s->matrix_ch[out_i][0]){
383         case 0:
384             if(mustcopy)
385                 memset(out->ch[out_i], 0, len * av_get_bytes_per_sample(s->int_sample_fmt));
386             break;
387         case 1:
388             in_i= s->matrix_ch[out_i][1];
389             if(s->matrix[out_i][in_i]!=1.0){
390                 if(s->mix_1_1_simd && len1)
391                     s->mix_1_1_simd(out->ch[out_i]    , in->ch[in_i]    , s->native_simd_matrix, in->ch_count*out_i + in_i, len1);
392                 if(len != len1)
393                     s->mix_1_1_f   (out->ch[out_i]+off, in->ch[in_i]+off, s->native_matrix, in->ch_count*out_i + in_i, len-len1);
394             }else if(mustcopy){
395                 memcpy(out->ch[out_i], in->ch[in_i], len*out->bps);
396             }else{
397                 out->ch[out_i]= in->ch[in_i];
398             }
399             break;
400         case 2: {
401             int in_i1 = s->matrix_ch[out_i][1];
402             int in_i2 = s->matrix_ch[out_i][2];
403             if(s->mix_2_1_simd && len1)
404                 s->mix_2_1_simd(out->ch[out_i]    , in->ch[in_i1]    , in->ch[in_i2]    , s->native_simd_matrix, in->ch_count*out_i + in_i1, in->ch_count*out_i + in_i2, len1);
405             else
406                 s->mix_2_1_f   (out->ch[out_i]    , in->ch[in_i1]    , in->ch[in_i2]    , s->native_matrix, in->ch_count*out_i + in_i1, in->ch_count*out_i + in_i2, len1);
407             if(len != len1)
408                 s->mix_2_1_f   (out->ch[out_i]+off, in->ch[in_i1]+off, in->ch[in_i2]+off, s->native_matrix, in->ch_count*out_i + in_i1, in->ch_count*out_i + in_i2, len-len1);
409             break;}
410         default:
411             if(s->int_sample_fmt == AV_SAMPLE_FMT_FLTP){
412                 for(i=0; i<len; i++){
413                     float v=0;
414                     for(j=0; j<s->matrix_ch[out_i][0]; j++){
415                         in_i= s->matrix_ch[out_i][1+j];
416                         v+= ((float*)in->ch[in_i])[i] * s->matrix[out_i][in_i];
417                     }
418                     ((float*)out->ch[out_i])[i]= v;
419                 }
420             }else if(s->int_sample_fmt == AV_SAMPLE_FMT_DBLP){
421                 for(i=0; i<len; i++){
422                     double v=0;
423                     for(j=0; j<s->matrix_ch[out_i][0]; j++){
424                         in_i= s->matrix_ch[out_i][1+j];
425                         v+= ((double*)in->ch[in_i])[i] * s->matrix[out_i][in_i];
426                     }
427                     ((double*)out->ch[out_i])[i]= v;
428                 }
429             }else{
430                 for(i=0; i<len; i++){
431                     int v=0;
432                     for(j=0; j<s->matrix_ch[out_i][0]; j++){
433                         in_i= s->matrix_ch[out_i][1+j];
434                         v+= ((int16_t*)in->ch[in_i])[i] * s->matrix32[out_i][in_i];
435                     }
436                     ((int16_t*)out->ch[out_i])[i]= (v + 16384)>>15;
437                 }
438             }
439         }
440     }
441     return 0;
442 }