swr: replace sqrt(0.5) by M_SQRT1_2
[ffmpeg.git] / libswresample / rematrix.c
1 /*
2  * Copyright (C) 2011 Michael Niedermayer (michaelni@gmx.at)
3  *
4  * This file is part of libswresample
5  *
6  * libswresample is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * libswresample is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with libswresample; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 #include "swresample_internal.h"
22 #include "libavutil/audioconvert.h"
23 #include "libavutil/avassert.h"
24
25 #define SAMPLE float
26 #define RENAME(x) x ## _float
27 #include "rematrix_template.c"
28 #undef SAMPLE
29 #undef RENAME
30
31 #define SAMPLE int16_t
32 #define RENAME(x) x ## _s16
33 #include "rematrix_template.c"
34
35
36 #define FRONT_LEFT             0
37 #define FRONT_RIGHT            1
38 #define FRONT_CENTER           2
39 #define LOW_FREQUENCY          3
40 #define BACK_LEFT              4
41 #define BACK_RIGHT             5
42 #define FRONT_LEFT_OF_CENTER   6
43 #define FRONT_RIGHT_OF_CENTER  7
44 #define BACK_CENTER            8
45 #define SIDE_LEFT              9
46 #define SIDE_RIGHT             10
47 #define TOP_CENTER             11
48 #define TOP_FRONT_LEFT         12
49 #define TOP_FRONT_CENTER       13
50 #define TOP_FRONT_RIGHT        14
51 #define TOP_BACK_LEFT          15
52 #define TOP_BACK_CENTER        16
53 #define TOP_BACK_RIGHT         17
54
55 static int even(int64_t layout){
56     if(!layout) return 1;
57     if(layout&(layout-1)) return 1;
58     return 0;
59 }
60
61 static int sane_layout(int64_t layout){
62     if(!(layout & AV_CH_LAYOUT_SURROUND)) // at least 1 front speaker
63         return 0;
64     if(!even(layout & (AV_CH_FRONT_LEFT | AV_CH_FRONT_RIGHT))) // no asymetric front
65         return 0;
66     if(!even(layout & (AV_CH_SIDE_LEFT | AV_CH_SIDE_RIGHT)))   // no asymetric side
67         return 0;
68     if(!even(layout & (AV_CH_BACK_LEFT | AV_CH_BACK_RIGHT)))
69         return 0;
70     if(!even(layout & (AV_CH_FRONT_LEFT_OF_CENTER | AV_CH_FRONT_RIGHT_OF_CENTER)))
71         return 0;
72     if(av_get_channel_layout_nb_channels(layout) >= SWR_CH_MAX)
73         return 0;
74
75     return 1;
76 }
77
78 int swr_rematrix_init(SwrContext *s){
79     int i, j, in_i, out_i;
80     float matrix[64][64]={0};
81     int64_t unaccounted= s->in_ch_layout & ~s->out_ch_layout;
82     float maxcoef=0;
83
84     for(i=0; i<64; i++){
85         if(s->in_ch_layout & s->out_ch_layout & (1LL<<i))
86             matrix[i][i]= 1.0;
87     }
88
89     if(!sane_layout(s->in_ch_layout)){
90         av_log(s, AV_LOG_ERROR, "Input channel layout isnt supported\n");
91         return AVERROR(EINVAL);
92     }
93     if(!sane_layout(s->out_ch_layout)){
94         av_log(s, AV_LOG_ERROR, "Output channel layout isnt supported\n");
95         return AVERROR(EINVAL);
96     }
97
98 //FIXME implement dolby surround
99 //FIXME implement full ac3
100
101
102     if(unaccounted & AV_CH_FRONT_CENTER){
103         if((s->out_ch_layout & AV_CH_LAYOUT_STEREO) == AV_CH_LAYOUT_STEREO){
104             matrix[ FRONT_LEFT][FRONT_CENTER]+= M_SQRT1_2;
105             matrix[FRONT_RIGHT][FRONT_CENTER]+= M_SQRT1_2;
106         }else
107             av_assert0(0);
108     }
109     if(unaccounted & AV_CH_LAYOUT_STEREO){
110         if(s->out_ch_layout & AV_CH_FRONT_CENTER){
111             matrix[FRONT_CENTER][ FRONT_LEFT]+= M_SQRT1_2;
112             matrix[FRONT_CENTER][FRONT_RIGHT]+= M_SQRT1_2;
113             if(s->in_ch_layout & AV_CH_FRONT_CENTER)
114                 matrix[FRONT_CENTER][ FRONT_CENTER] = s->clev*sqrt(2);
115         }else
116             av_assert0(0);
117     }
118
119     if(unaccounted & AV_CH_BACK_CENTER){
120         if(s->out_ch_layout & AV_CH_BACK_LEFT){
121             matrix[ BACK_LEFT][BACK_CENTER]+= M_SQRT1_2;
122             matrix[BACK_RIGHT][BACK_CENTER]+= M_SQRT1_2;
123         }else if(s->out_ch_layout & AV_CH_SIDE_LEFT){
124             matrix[ SIDE_LEFT][BACK_CENTER]+= M_SQRT1_2;
125             matrix[SIDE_RIGHT][BACK_CENTER]+= M_SQRT1_2;
126         }else if(s->out_ch_layout & AV_CH_FRONT_LEFT){
127             matrix[ FRONT_LEFT][BACK_CENTER]+= s->slev*M_SQRT1_2;
128             matrix[FRONT_RIGHT][BACK_CENTER]+= s->slev*M_SQRT1_2;
129         }else if(s->out_ch_layout & AV_CH_FRONT_CENTER){
130             matrix[ FRONT_CENTER][BACK_CENTER]+= s->slev*M_SQRT1_2;
131         }else
132             av_assert0(0);
133     }
134     if(unaccounted & AV_CH_BACK_LEFT){
135         if(s->out_ch_layout & AV_CH_BACK_CENTER){
136             matrix[BACK_CENTER][ BACK_LEFT]+= M_SQRT1_2;
137             matrix[BACK_CENTER][BACK_RIGHT]+= M_SQRT1_2;
138         }else if(s->out_ch_layout & AV_CH_SIDE_LEFT){
139             if(s->in_ch_layout & AV_CH_SIDE_LEFT){
140                 matrix[ SIDE_LEFT][ BACK_LEFT]+= M_SQRT1_2;
141                 matrix[SIDE_RIGHT][BACK_RIGHT]+= M_SQRT1_2;
142             }else{
143             matrix[ SIDE_LEFT][ BACK_LEFT]+= 1.0;
144             matrix[SIDE_RIGHT][BACK_RIGHT]+= 1.0;
145             }
146         }else if(s->out_ch_layout & AV_CH_FRONT_LEFT){
147             matrix[ FRONT_LEFT][ BACK_LEFT]+= s->slev;
148             matrix[FRONT_RIGHT][BACK_RIGHT]+= s->slev;
149         }else if(s->out_ch_layout & AV_CH_FRONT_CENTER){
150             matrix[ FRONT_CENTER][BACK_LEFT ]+= s->slev*M_SQRT1_2;
151             matrix[ FRONT_CENTER][BACK_RIGHT]+= s->slev*M_SQRT1_2;
152         }else
153             av_assert0(0);
154     }
155
156     if(unaccounted & AV_CH_SIDE_LEFT){
157         if(s->out_ch_layout & AV_CH_BACK_LEFT){
158             matrix[ BACK_LEFT][ SIDE_LEFT]+= 1.0;
159             matrix[BACK_RIGHT][SIDE_RIGHT]+= 1.0;
160         }else if(s->out_ch_layout & AV_CH_BACK_CENTER){
161             matrix[BACK_CENTER][ SIDE_LEFT]+= M_SQRT1_2;
162             matrix[BACK_CENTER][SIDE_RIGHT]+= M_SQRT1_2;
163         }else if(s->out_ch_layout & AV_CH_FRONT_LEFT){
164             matrix[ FRONT_LEFT][ SIDE_LEFT]+= s->slev;
165             matrix[FRONT_RIGHT][SIDE_RIGHT]+= s->slev;
166         }else if(s->out_ch_layout & AV_CH_FRONT_CENTER){
167             matrix[ FRONT_CENTER][SIDE_LEFT ]+= s->slev*M_SQRT1_2;
168             matrix[ FRONT_CENTER][SIDE_RIGHT]+= s->slev*M_SQRT1_2;
169         }else
170             av_assert0(0);
171     }
172
173     if(unaccounted & AV_CH_FRONT_LEFT_OF_CENTER){
174         if(s->out_ch_layout & AV_CH_FRONT_LEFT){
175             matrix[ FRONT_LEFT][ FRONT_LEFT_OF_CENTER]+= 1.0;
176             matrix[FRONT_RIGHT][FRONT_RIGHT_OF_CENTER]+= 1.0;
177         }else if(s->out_ch_layout & AV_CH_FRONT_CENTER){
178             matrix[ FRONT_CENTER][ FRONT_LEFT_OF_CENTER]+= M_SQRT1_2;
179             matrix[ FRONT_CENTER][FRONT_RIGHT_OF_CENTER]+= M_SQRT1_2;
180         }else
181             av_assert0(0);
182     }
183
184     //FIXME quantize for integeres
185     for(out_i=i=0; i<64; i++){
186         double sum=0;
187         int in_i=0;
188         int ch_in=0;
189         for(j=0; j<64; j++){
190             s->matrix[out_i][in_i]= matrix[i][j];
191             if(matrix[i][j]){
192                 s->matrix_ch[out_i][++ch_in]= in_i;
193                 sum += fabs(matrix[i][j]);
194             }
195             if(s->in_ch_layout & (1ULL<<j))
196                 in_i++;
197         }
198         s->matrix_ch[out_i][0]= ch_in;
199         maxcoef= FFMAX(maxcoef, sum);
200         if(s->out_ch_layout & (1ULL<<i))
201             out_i++;
202     }
203     if((   s->out_sample_fmt < AV_SAMPLE_FMT_FLT
204         || s->int_sample_fmt < AV_SAMPLE_FMT_FLT) && maxcoef > 1.0){
205         for(i=0; i<SWR_CH_MAX; i++)
206             for(j=0; j<SWR_CH_MAX; j++)
207                 s->matrix[i][j] /= maxcoef;
208     }
209         for(i=0; i<av_get_channel_layout_nb_channels(s->out_ch_layout); i++){
210             for(j=0; j<av_get_channel_layout_nb_channels(s->in_ch_layout); j++){
211                 av_log(NULL, AV_LOG_ERROR, "%f ", s->matrix[i][j]);
212             }
213             av_log(NULL, AV_LOG_ERROR, "\n");
214         }
215     return 0;
216 }
217
218 int swr_rematrix(SwrContext *s, AudioData *out, AudioData *in, int len, int mustcopy){
219     int out_i, in_i, i, j;
220
221 av_assert0(out->ch_count == av_get_channel_layout_nb_channels(s->out_ch_layout));
222 av_assert0(in ->ch_count == av_get_channel_layout_nb_channels(s-> in_ch_layout));
223
224     for(out_i=0; out_i<out->ch_count; out_i++){
225         switch(s->matrix_ch[out_i][0]){
226         case 1:
227             in_i= s->matrix_ch[out_i][1];
228             if(mustcopy || s->matrix[out_i][in_i]!=1.0){
229                 if(s->int_sample_fmt == AV_SAMPLE_FMT_FLT){
230                     copy_float(out->ch[out_i], in->ch[in_i], s->matrix[out_i][in_i], len);
231                 }else
232                     copy_s16  (out->ch[out_i], in->ch[in_i], s->matrix[out_i][in_i], len);
233             }else{
234                 out->ch[out_i]= in->ch[in_i];
235             }
236             break;
237         case 2:
238             if(s->int_sample_fmt == AV_SAMPLE_FMT_FLT){
239                 sum2_float(out->ch[out_i], in->ch[ s->matrix_ch[out_i][1] ],           in->ch[ s->matrix_ch[out_i][2] ],
240                                  s->matrix[out_i][ s->matrix_ch[out_i][1] ], s->matrix[out_i][ s->matrix_ch[out_i][2] ],
241                            len);
242             }else{
243                 sum2_s16  (out->ch[out_i], in->ch[ s->matrix_ch[out_i][1] ],           in->ch[ s->matrix_ch[out_i][2] ],
244                                  s->matrix[out_i][ s->matrix_ch[out_i][1] ], s->matrix[out_i][ s->matrix_ch[out_i][2] ],
245                            len);
246             }
247             break;
248         default:
249             if(s->int_sample_fmt == AV_SAMPLE_FMT_FLT){
250                 for(i=0; i<len; i++){
251                     float v=0;
252                     for(j=0; j<s->matrix_ch[out_i][0]; j++){
253                         in_i= s->matrix_ch[out_i][1+j];
254                         v+= ((float*)in->ch[in_i])[i] * s->matrix[out_i][in_i];
255                     }
256                     ((float*)out->ch[out_i])[i]= v;
257                 }
258             }else{
259                 for(i=0; i<len; i++){
260                     int v=0;
261                     for(j=0; j<s->matrix_ch[out_i][0]; j++){
262                         in_i= s->matrix_ch[out_i][1+j];
263                         v+= ((int16_t*)in->ch[in_i])[i] * s->matrix[out_i][in_i]; //FIXME use int16 coeffs
264                     }
265                     ((int16_t*)out->ch[out_i])[i]= v;
266                 }
267             }
268         }
269     }
270     return 0;
271 }