Big round of fixes in the aout3.
[vlc.git] / modules / audio_filter / converter / fixed32tos16.c
1 /*****************************************************************************
2  * fixed32tos16.c : converter from fixed32 to signed 16 bits integer
3  *****************************************************************************
4  * Copyright (C) 2002 VideoLAN
5  * $Id: fixed32tos16.c,v 1.5 2002/08/21 22:41:59 massiot Exp $
6  *
7  * Authors: Jean-Paul Saman <jpsaman@wxs.nl>
8  *
9  * This program is free software; you can redistribute it and/or modify
10  * it under the terms of the GNU General Public License as published by
11  * the Free Software Foundation; either version 2 of the License, or
12  * (at your option) any later version.
13  *
14  * This program is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
17  * GNU General Public License for more details.
18  *
19  * You should have received a copy of the GNU General Public License
20  * along with this program; if not, write to the Free Software
21  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA  02111, USA.
22  *****************************************************************************/
23
24 /*****************************************************************************
25  * Preamble
26  *****************************************************************************/
27 #include <errno.h>
28 #include <stdlib.h>                                      /* malloc(), free() */
29 #include <string.h>
30
31 #include <vlc/vlc.h>
32 #include "audio_output.h"
33 #include "aout_internal.h"
34
35 /*****************************************************************************
36  * Local prototypes
37  *****************************************************************************/
38 static int  Create    ( vlc_object_t * );
39
40 static void DoWork    ( aout_instance_t *, aout_filter_t *, aout_buffer_t *,
41                         aout_buffer_t * );
42
43 /*****************************************************************************
44  * Module descriptor
45  *****************************************************************************/
46 vlc_module_begin();
47     set_description( _("audio filter for fixed32->s16 conversion") );
48     set_capability( "audio filter", 10 );
49     set_callbacks( Create, NULL );
50 vlc_module_end();
51
52 /*****************************************************************************
53  * Create: allocate trivial mixer
54  *****************************************************************************
55  * This function allocates and initializes a Crop vout method.
56  *****************************************************************************/
57 static int Create( vlc_object_t *p_this )
58 {
59     aout_filter_t * p_filter = (aout_filter_t *)p_this;
60
61     if ( p_filter->input.i_format != AOUT_FMT_FIXED32
62           || p_filter->output.i_format != AOUT_FMT_S16_NE )
63     {
64         return -1;
65     }
66
67     if ( !AOUT_FMTS_SIMILAR( &p_filter->input, &p_filter->output ) )
68     {
69         return -1;
70     }
71
72     p_filter->pf_do_work = DoWork;
73     p_filter->b_in_place = 1;
74
75     return 0;
76 }
77
78 /*****************************************************************************
79  * support routines borrowed from mpg321 (file: mad.c), which is distributed
80  * under GPL license
81  *
82  * mpg321 was written by Joe Drew <drew@debian.org>, and based upon 'plaympeg'
83  * from the smpeg sources, which was written by various people from Loki Software
84  * (http://www.lokigames.com).
85  *
86  * It also incorporates some source from mad, written by Robert Leslie
87  *****************************************************************************/
88
89 /* The following two routines and data structure are from the ever-brilliant
90      Rob Leslie.
91 */
92
93 #define VLC_F_FRACBITS  28
94
95 # if VLC_F_FRACBITS == 28
96 #  define VLC_F(x)              ((vlc_fixed_t) (x##L))
97 # endif
98
99 # define VLC_F_ONE              VLC_F(0x10000000)
100
101 struct audio_dither {
102     vlc_fixed_t error[3];
103     vlc_fixed_t random;
104 };
105
106 /********************************************************************
107  * NAME:                prng()
108  * DESCRIPTION: 32-bit pseudo-random number generator
109  ********************************************************************/
110 static inline unsigned long prng(unsigned long state)
111 {
112     return (state * 0x0019660dL + 0x3c6ef35fL) & 0xffffffffL;
113 }
114
115 /********************************************************************
116  * NAME:        mpg321_s24_to_s16_pcm()
117  * DESCRIPTION: generic linear sample quantize and dither routine
118  ********************************************************************/
119 static inline s16 mpg321_s24_to_s16_pcm(unsigned int bits, vlc_fixed_t sample,
120                                     struct audio_dither *dither)
121 {
122     unsigned int scalebits;
123     vlc_fixed_t output, mask, random;
124
125     enum {
126         MIN = -VLC_F_ONE,
127         MAX = VLC_F_ONE - 1
128     };
129
130     /* noise shape */
131     sample += dither->error[0] - dither->error[1] + dither->error[2];
132
133     dither->error[2] = dither->error[1];
134     dither->error[1] = dither->error[0] / 2;
135
136     /* bias */
137     output = sample + (1L << (VLC_F_FRACBITS + 1 - bits - 1));
138
139     scalebits = VLC_F_FRACBITS + 1 - bits;
140     mask = (1L << scalebits) - 1;
141
142     /* dither */
143     random    = prng(dither->random);
144     output += (random & mask) - (dither->random & mask);
145
146     dither->random = random;
147
148     /* clip */
149     if (output > MAX) {
150         output = MAX;
151
152         if (sample > MAX)
153             sample = MAX;
154     }
155     else if (output < MIN) {
156         output = MIN;
157
158         if (sample < MIN)
159             sample = MIN;
160     }
161
162     /* quantize */
163     output &= ~mask;
164
165     /* error feedback */
166     dither->error[0] = sample - output;
167
168     /* scale */
169     return output >> scalebits;
170 }
171
172 /*****************************************************************************
173  * s24_to_s16_pcm: Scale a 24 bit pcm sample to a 16 bit pcm sample.
174  *****************************************************************************/
175 static inline s16 s24_to_s16_pcm(vlc_fixed_t sample)
176 {
177   /* round */
178   sample += (1L << (VLC_F_FRACBITS - 16));
179
180   /* clip */
181   if (sample >= VLC_F_ONE)
182     sample = VLC_F_ONE - 1;
183   else if (sample < -VLC_F_ONE)
184     sample = -VLC_F_ONE;
185
186   /* quantize */
187   return (sample >> (VLC_F_FRACBITS + 1 - 16));
188 }
189
190 /*****************************************************************************
191  * DoWork: convert a buffer
192  *****************************************************************************/
193 static void DoWork( aout_instance_t * p_aout, aout_filter_t * p_filter,
194                     aout_buffer_t * p_in_buf, aout_buffer_t * p_out_buf )
195 {
196     int i;
197     vlc_fixed_t * p_in = (vlc_fixed_t *)p_in_buf->p_buffer;
198     s16 * p_out = (s16 *)p_out_buf->p_buffer;
199     s16 sample;
200 //    static struct audio_dither dither;
201
202     for ( i = p_in_buf->i_nb_samples * p_filter->input.i_channels ; i-- ; )
203     {
204         /* Accurate scaling */
205 //        p_out = mpg321_s24_to_s16_pcm(16, *p_in++, &dither);
206         /* Fast Scaling */
207         sample = s24_to_s16_pcm(*p_in++);
208
209 #ifndef WORDS_BIGENDIAN
210         *p_out++ = (s16) (sample >> 0);
211         *p_out++ = (s16) (sample >> 8);
212 #else
213         *p_out++ = (s16) (sample >> 8);
214         *p_out++ = (s16) (sample >> 0);
215 #endif
216 //        p_in++; p_out++;
217     }
218     p_out_buf->i_nb_samples = p_in_buf->i_nb_samples;
219     p_out_buf->i_nb_bytes = p_in_buf->i_nb_bytes / 2;
220 }