Fixed use of released pointer (race condition).
[vlc.git] / modules / codec / ffmpeg / audio.c
1 /*****************************************************************************
2  * audio.c: audio decoder using ffmpeg library
3  *****************************************************************************
4  * Copyright (C) 1999-2003 the VideoLAN team
5  * $Id$
6  *
7  * Authors: Laurent Aimar <fenrir@via.ecp.fr>
8  *          Gildas Bazin <gbazin@videolan.org>
9  *
10  * This program is free software; you can redistribute it and/or modify
11  * it under the terms of the GNU General Public License as published by
12  * the Free Software Foundation; either version 2 of the License, or
13  * (at your option) any later version.
14  *
15  * This program is distributed in the hope that it will be useful,
16  * but WITHOUT ANY WARRANTY; without even the implied warranty of
17  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
18  * GNU General Public License for more details.
19  *
20  * You should have received a copy of the GNU General Public License
21  * along with this program; if not, write to the Free Software
22  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston MA 02110-1301, USA.
23  *****************************************************************************/
24
25 /*****************************************************************************
26  * Preamble
27  *****************************************************************************/
28 #include <vlc/vlc.h>
29 #include <vlc_aout.h>
30 #include <vlc_codec.h>
31
32 /* ffmpeg header */
33 #ifdef HAVE_FFMPEG_AVCODEC_H
34 #   include <ffmpeg/avcodec.h>
35 #else
36 #   include <avcodec.h>
37 #endif
38
39 #include "ffmpeg.h"
40
41 static unsigned int pi_channels_maps[7] =
42 {
43     0,
44     AOUT_CHAN_CENTER,   AOUT_CHAN_LEFT | AOUT_CHAN_RIGHT,
45     AOUT_CHAN_CENTER | AOUT_CHAN_LEFT | AOUT_CHAN_RIGHT,
46     AOUT_CHAN_LEFT | AOUT_CHAN_RIGHT | AOUT_CHAN_REARLEFT
47      | AOUT_CHAN_REARRIGHT,
48     AOUT_CHAN_LEFT | AOUT_CHAN_RIGHT | AOUT_CHAN_CENTER
49      | AOUT_CHAN_REARLEFT | AOUT_CHAN_REARRIGHT,
50     AOUT_CHAN_LEFT | AOUT_CHAN_RIGHT | AOUT_CHAN_CENTER
51      | AOUT_CHAN_REARLEFT | AOUT_CHAN_REARRIGHT | AOUT_CHAN_LFE
52 };
53
54 /*****************************************************************************
55  * decoder_sys_t : decoder descriptor
56  *****************************************************************************/
57 struct decoder_sys_t
58 {
59     FFMPEG_COMMON_MEMBERS
60
61     /* Temporary buffer for libavcodec */
62     uint8_t *p_output;
63
64     /*
65      * Output properties
66      */
67     audio_sample_format_t aout_format;
68     audio_date_t          end_date;
69
70     /*
71      *
72      */
73     uint8_t *p_samples;
74     int     i_samples;
75
76     /* */
77     int     i_reject_count;
78 };
79
80 /*****************************************************************************
81  * InitAudioDec: initialize audio decoder
82  *****************************************************************************
83  * The ffmpeg codec will be opened, some memory allocated.
84  *****************************************************************************/
85 int E_(InitAudioDec)( decoder_t *p_dec, AVCodecContext *p_context,
86                       AVCodec *p_codec, int i_codec_id, const char *psz_namecodec )
87 {
88     decoder_sys_t *p_sys;
89     vlc_value_t lockval;
90
91     var_Get( p_dec->p_libvlc_global, "avcodec", &lockval );
92
93     /* Allocate the memory needed to store the decoder's structure */
94     if( ( p_dec->p_sys = p_sys =
95           (decoder_sys_t *)malloc(sizeof(decoder_sys_t)) ) == NULL )
96     {
97         msg_Err( p_dec, "out of memory" );
98         return VLC_EGENERIC;
99     }
100
101     p_sys->p_context = p_context;
102     p_sys->p_codec = p_codec;
103     p_sys->i_codec_id = i_codec_id;
104     p_sys->psz_namecodec = psz_namecodec;
105
106     /* ***** Fill p_context with init values ***** */
107     p_sys->p_context->sample_rate = p_dec->fmt_in.audio.i_rate;
108     p_sys->p_context->channels = p_dec->fmt_in.audio.i_channels;
109     p_sys->p_context->block_align = p_dec->fmt_in.audio.i_blockalign;
110     p_sys->p_context->bit_rate = p_dec->fmt_in.i_bitrate;
111     p_sys->p_context->bits_per_sample = p_dec->fmt_in.audio.i_bitspersample;
112
113     if( ( p_sys->p_context->extradata_size = p_dec->fmt_in.i_extra ) > 0 )
114     {
115         int i_offset = 0;
116
117         if( p_dec->fmt_in.i_codec == VLC_FOURCC( 'f', 'l', 'a', 'c' ) )
118             i_offset = 8;
119
120         p_sys->p_context->extradata_size -= i_offset;
121         p_sys->p_context->extradata =
122             malloc( p_sys->p_context->extradata_size +
123                     FF_INPUT_BUFFER_PADDING_SIZE );
124         memcpy( p_sys->p_context->extradata,
125                 (char*)p_dec->fmt_in.p_extra + i_offset,
126                 p_sys->p_context->extradata_size );
127         memset( (char*)p_sys->p_context->extradata +
128                 p_sys->p_context->extradata_size, 0,
129                 FF_INPUT_BUFFER_PADDING_SIZE );
130     }
131
132     /* ***** Open the codec ***** */
133     vlc_mutex_lock( lockval.p_address );
134     if (avcodec_open( p_sys->p_context, p_sys->p_codec ) < 0)
135     {
136         vlc_mutex_unlock( lockval.p_address );
137         msg_Err( p_dec, "cannot open codec (%s)", p_sys->psz_namecodec );
138         free( p_sys );
139         return VLC_EGENERIC;
140     }
141     vlc_mutex_unlock( lockval.p_address );
142
143     msg_Dbg( p_dec, "ffmpeg codec (%s) started", p_sys->psz_namecodec );
144
145     p_sys->p_output = malloc( AVCODEC_MAX_AUDIO_FRAME_SIZE );
146     p_sys->p_samples = NULL;
147     p_sys->i_samples = 0;
148     p_sys->i_reject_count = 0;
149
150     aout_DateSet( &p_sys->end_date, 0 );
151     if( p_dec->fmt_in.audio.i_rate )
152         aout_DateInit( &p_sys->end_date, p_dec->fmt_in.audio.i_rate );
153
154     /* Set output properties */
155     p_dec->fmt_out.i_cat = AUDIO_ES;
156     p_dec->fmt_out.i_codec = AOUT_FMT_S16_NE;
157     p_dec->fmt_out.audio.i_bitspersample = 16;
158
159     return VLC_SUCCESS;
160 }
161
162 /*****************************************************************************
163  * SplitBuffer: Needed because aout really doesn't like big audio chunk and
164  * wma produces easily > 30000 samples...
165  *****************************************************************************/
166 static aout_buffer_t *SplitBuffer( decoder_t *p_dec )
167 {
168     decoder_sys_t *p_sys = p_dec->p_sys;
169     int i_samples = __MIN( p_sys->i_samples, 4096 );
170     aout_buffer_t *p_buffer;
171
172     if( i_samples == 0 ) return NULL;
173
174     if( ( p_buffer = p_dec->pf_aout_buffer_new( p_dec, i_samples ) ) == NULL )
175     {
176         msg_Err( p_dec, "cannot get aout buffer" );
177         return NULL;
178     }
179
180     p_buffer->start_date = aout_DateGet( &p_sys->end_date );
181     p_buffer->end_date = aout_DateIncrement( &p_sys->end_date, i_samples );
182
183     memcpy( p_buffer->p_buffer, p_sys->p_samples, p_buffer->i_nb_bytes );
184
185     p_sys->p_samples += p_buffer->i_nb_bytes;
186     p_sys->i_samples -= i_samples;
187
188     return p_buffer;
189 }
190
191 /*****************************************************************************
192  * DecodeAudio: Called to decode one frame
193  *****************************************************************************/
194 aout_buffer_t *E_( DecodeAudio )( decoder_t *p_dec, block_t **pp_block )
195 {
196     decoder_sys_t *p_sys = p_dec->p_sys;
197     int i_used, i_output;
198     aout_buffer_t *p_buffer;
199     block_t *p_block;
200
201     if( !pp_block || !*pp_block ) return NULL;
202
203     p_block = *pp_block;
204
205     if( p_block->i_flags & (BLOCK_FLAG_DISCONTINUITY|BLOCK_FLAG_CORRUPTED) )
206     {
207         block_Release( p_block );
208         avcodec_flush_buffers( p_sys->p_context );
209
210         if( p_sys->i_codec_id == CODEC_ID_MP2 || p_sys->i_codec_id == CODEC_ID_MP3 )
211             p_sys->i_reject_count = 3;
212         return NULL;
213     }
214
215     if( p_sys->i_samples > 0 )
216     {
217         /* More data */
218         p_buffer = SplitBuffer( p_dec );
219         if( !p_buffer ) block_Release( p_block );
220         return p_buffer;
221     }
222
223     if( !aout_DateGet( &p_sys->end_date ) && !p_block->i_pts )
224     {
225         /* We've just started the stream, wait for the first PTS. */
226         block_Release( p_block );
227         return NULL;
228     }
229
230     if( p_block->i_buffer <= 0 )
231     {
232         block_Release( p_block );
233         return NULL;
234     }
235     if( p_block->i_buffer > AVCODEC_MAX_AUDIO_FRAME_SIZE )
236     {
237         /* Grow output buffer if necessary (eg. for PCM data) */
238         p_sys->p_output = realloc(p_sys->p_output, p_block->i_buffer);
239     }
240
241     *pp_block = p_block = block_Realloc( p_block, 0, p_block->i_buffer + FF_INPUT_BUFFER_PADDING_SIZE );
242     if( !p_block )
243         return NULL;
244     p_block->i_buffer -= FF_INPUT_BUFFER_PADDING_SIZE;
245     memset( &p_block->p_buffer[p_block->i_buffer], 0, FF_INPUT_BUFFER_PADDING_SIZE );
246
247     i_output = __MAX( AVCODEC_MAX_AUDIO_FRAME_SIZE, p_block->i_buffer );
248     i_used = avcodec_decode_audio2( p_sys->p_context,
249                                    (int16_t*)p_sys->p_output, &i_output,
250                                    p_block->p_buffer, p_block->i_buffer );
251
252     if( i_used < 0 || i_output < 0 )
253     {
254         if( i_used < 0 )
255             msg_Warn( p_dec, "cannot decode one frame (%d bytes)",
256                       p_block->i_buffer );
257
258         block_Release( p_block );
259         return NULL;
260     }
261     else if( i_used > p_block->i_buffer )
262     {
263         i_used = p_block->i_buffer;
264     }
265
266     p_block->i_buffer -= i_used;
267     p_block->p_buffer += i_used;
268
269     if( p_sys->p_context->channels <= 0 || p_sys->p_context->channels > 6 )
270     {
271         msg_Warn( p_dec, "invalid channels count %d",
272                   p_sys->p_context->channels );
273         block_Release( p_block );
274         return NULL;
275     }
276
277     if( p_dec->fmt_out.audio.i_rate != (unsigned int)p_sys->p_context->sample_rate )
278     {
279         aout_DateInit( &p_sys->end_date, p_sys->p_context->sample_rate );
280         aout_DateSet( &p_sys->end_date, p_block->i_pts );
281     }
282
283     /* **** Set audio output parameters **** */
284     p_dec->fmt_out.audio.i_rate     = p_sys->p_context->sample_rate;
285     p_dec->fmt_out.audio.i_channels = p_sys->p_context->channels;
286     p_dec->fmt_out.audio.i_original_channels =
287         p_dec->fmt_out.audio.i_physical_channels =
288             pi_channels_maps[p_sys->p_context->channels];
289
290     if( p_block->i_pts != 0 &&
291         p_block->i_pts != aout_DateGet( &p_sys->end_date ) )
292     {
293         aout_DateSet( &p_sys->end_date, p_block->i_pts );
294     }
295     p_block->i_pts = 0;
296
297     /* **** Now we can output these samples **** */
298     p_sys->i_samples = i_output / sizeof(int16_t) / p_sys->p_context->channels;
299     p_sys->p_samples = p_sys->p_output;
300
301     /* Silent unwanted samples */
302     if( p_sys->i_reject_count > 0 )
303     {
304         memset( p_sys->p_output, 0, i_output );
305         p_sys->i_reject_count--;
306     }
307
308     p_buffer = SplitBuffer( p_dec );
309     if( !p_buffer ) block_Release( p_block );
310     return p_buffer;
311 }
312
313 /*****************************************************************************
314  * EndAudioDec: audio decoder destruction
315  *****************************************************************************/
316 void E_(EndAudioDec)( decoder_t *p_dec )
317 {
318     decoder_sys_t *p_sys = p_dec->p_sys;
319
320     if( p_sys->p_output ) free( p_sys->p_output );
321 }