Fix huge memory leak in sout smem module
[vlc.git] / modules / stream_out / smem.c
1 /*****************************************************************************
2  * smem.c: stream output to memory buffer module
3  *****************************************************************************
4  * Copyright (C) 2009 the VideoLAN team
5  * $Id$
6  *
7  * Authors: Christophe Courtaut <christophe.courtaut@gmail.com>
8  *
9  * This program is free software; you can redistribute it and/or modify
10  * it under the terms of the GNU General Public License as published by
11  * the Free Software Foundation; either version 2 of the License, or
12  * (at your option) any later version.
13  *
14  * This program is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
17  * GNU General Public License for more details.
18  *
19  * You should have received a copy of the GNU General Public License
20  * along with this program; if not, write to the Free Software
21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston MA 02110-1301, USA.
22  *****************************************************************************/
23
24 /*****************************************************************************
25  * How to use it
26  *****************************************************************************
27  *
28  * You should use this module in combination with the transcode module, to get
29  * raw datas from it. This module does not make any conversion at all, so you
30  * need to use the transcode module for this purpose.
31  *
32  * For example, you can use smem as it :
33  * --sout="#transcode{vcodec=RV24,acodec=s16l}:smem{smem-options}"
34  *
35  * Into each lock function (audio and video), you will have all the informations
36  * you need to allocate a buffer, so that this module will copy data in it.
37  *
38  * the video-data and audio-data pointers will be passed to lock/unlock function
39  *
40  * For now, audio is NOT IMPLEMENTED.
41  *
42  ******************************************************************************/
43
44 /*****************************************************************************
45  * Preamble
46  *****************************************************************************/
47
48 #ifdef HAVE_CONFIG_H
49 # include "config.h"
50 #endif
51
52 #include <vlc_common.h>
53 #include <vlc_plugin.h>
54 #include <vlc_sout.h>
55 #include <vlc_block.h>
56 #include <vlc_codec.h>
57
58 /*****************************************************************************
59  * Module descriptor
60  *****************************************************************************/
61
62 #define T_VIDEO_PRERENDER_CALLBACK N_( "Video prerender callback" )
63 #define LT_VIDEO_PRERENDER_CALLBACK N_( "Address of the video prerender callback function" \
64                                 "this function will set the buffer where render will be done" )
65
66 #define T_AUDIO_PRERENDER_CALLBACK N_( "Audio prerender callback" )
67 #define LT_AUDIO_PRERENDER_CALLBACK N_( "Address of the audio prerender callback function." \
68                                         "this function will set the buffer where render will be done" )
69
70 #define T_VIDEO_POSTRENDER_CALLBACK N_( "Video postrender callback" )
71 #define LT_VIDEO_POSTRENDER_CALLBACK N_( "Address of the video postrender callback function." \
72                                         "this function will be called when the render is into the buffer" )
73
74 #define T_AUDIO_POSTRENDER_CALLBACK N_( "Audio postrender callback" )
75 #define LT_AUDIO_POSTRENDER_CALLBACK N_( "Address of the audio postrender callback function." \
76                                         "this function will be called when the render is into the buffer" )
77
78 #define T_VIDEO_DATA N_( "Video Callback data" )
79 #define LT_VIDEO_DATA N_( "Data for the video callback function." )
80
81 #define T_AUDIO_DATA N_( "Audio callback data" )
82 #define LT_AUDIO_DATA N_( "Data for the audio callback function." )
83
84 #define T_TIME_SYNC N_( "Time Synchronized output" )
85 #define LT_TIME_SYNC N_( "Time Synchronisation option for output. " \
86                         "If true, stream will render as usual, else " \
87                         "it will be rendered as fast as possible.")
88
89 static int  Open ( vlc_object_t * );
90 static void Close( vlc_object_t * );
91
92 #define SOUT_CFG_PREFIX "sout-smem-"
93 #define SOUT_PREFIX_VIDEO SOUT_CFG_PREFIX"video-"
94 #define SOUT_PREFIX_AUDIO SOUT_CFG_PREFIX"audio-"
95
96 vlc_module_begin ()
97     set_shortname( N_("smem"))
98     set_description( N_("Stream output to memory buffer") )
99     set_capability( "sout stream", 50 )
100     add_shortcut( "smem" )
101     set_category( CAT_SOUT )
102     set_subcategory( SUBCAT_SOUT_STREAM )
103     add_string( SOUT_PREFIX_VIDEO "prerender-callback", "0", NULL, T_VIDEO_PRERENDER_CALLBACK, LT_VIDEO_PRERENDER_CALLBACK, true )
104     add_string( SOUT_PREFIX_AUDIO "prerender-callback", "0", NULL, T_AUDIO_PRERENDER_CALLBACK, LT_AUDIO_PRERENDER_CALLBACK, true )
105     add_string( SOUT_PREFIX_VIDEO "postrender-callback", "0", NULL, T_VIDEO_POSTRENDER_CALLBACK, LT_VIDEO_POSTRENDER_CALLBACK, true )
106     add_string( SOUT_PREFIX_AUDIO "postrender-callback", "0", NULL, T_AUDIO_POSTRENDER_CALLBACK, LT_AUDIO_POSTRENDER_CALLBACK, true )
107     add_string( SOUT_PREFIX_VIDEO "data", "0", NULL, T_VIDEO_DATA, LT_VIDEO_DATA, true )
108     add_string( SOUT_PREFIX_AUDIO "data", "0", NULL, T_AUDIO_DATA, LT_VIDEO_DATA, true )
109     add_bool( SOUT_CFG_PREFIX "time-sync", true, NULL, T_TIME_SYNC, LT_TIME_SYNC, true );
110     set_callbacks( Open, Close )
111 vlc_module_end ()
112
113
114 /*****************************************************************************
115  * Exported prototypes
116  *****************************************************************************/
117 static const char *const ppsz_sout_options[] = {
118     "video-prerender-callback", "audio-prerender-callback",
119     "video-postrender-callback", "audio-postrender-callback", "video-data", "audio-data", "time-sync", NULL
120 };
121
122 static sout_stream_id_t *Add ( sout_stream_t *, es_format_t * );
123 static int               Del ( sout_stream_t *, sout_stream_id_t * );
124 static int               Send( sout_stream_t *, sout_stream_id_t *, block_t* );
125
126 static sout_stream_id_t *AddVideo( sout_stream_t *p_stream, es_format_t *p_fmt );
127 static sout_stream_id_t *AddAudio( sout_stream_t *p_stream, es_format_t *p_fmt );
128
129 static int SendVideo( sout_stream_t *p_stream, sout_stream_id_t *id,
130                       block_t *p_buffer );
131 static int SendAudio( sout_stream_t *p_stream, sout_stream_id_t *id,
132                       block_t *p_buffer );
133
134 struct sout_stream_id_t
135 {
136     es_format_t* format;
137 };
138
139 struct sout_stream_sys_t
140 {
141     vlc_mutex_t *p_lock;
142     void ( *pf_video_prerender_callback ) ( void* p_video_data, uint8_t** pp_pixel_buffer , int size );
143     void ( *pf_audio_prerender_callback ) ( void* p_audio_data, uint8_t** pp_pcm_buffer , unsigned int size );
144     void ( *pf_video_postrender_callback ) ( void* p_video_data, uint8_t* p_pixel_buffer, int width, int height, int pixel_pitch, int size, int pts );
145     void ( *pf_audio_postrender_callback ) ( void* p_audio_data, uint8_t* p_pcm_buffer, unsigned int channels, unsigned int rate, unsigned int nb_samples, unsigned int bits_per_sample, unsigned int size, int pts );
146     void *p_audio_data;
147     void *p_video_data;
148     bool time_sync;
149 };
150
151 /*****************************************************************************
152  * Open:
153  *****************************************************************************/
154 static int Open( vlc_object_t *p_this )
155 {
156     char* psz_tmp;
157     sout_stream_t *p_stream = (sout_stream_t*)p_this;
158     sout_stream_sys_t *p_sys;
159
160     p_sys = calloc( 1, sizeof( sout_stream_sys_t ) );
161     if( !p_sys )
162         return VLC_ENOMEM;
163     p_stream->p_sys = p_sys;
164
165     p_sys->time_sync = var_CreateGetBool( p_stream, SOUT_CFG_PREFIX "time-sync" );
166
167     psz_tmp = var_CreateGetString( p_stream, SOUT_PREFIX_VIDEO "prerender-callback" );
168     p_sys->pf_video_prerender_callback = (void (*) (void *, uint8_t**, int))(intptr_t)atoll( psz_tmp );
169     free( psz_tmp );
170
171     psz_tmp = var_CreateGetString( p_stream, SOUT_PREFIX_AUDIO "prerender-callback" );
172     p_sys->pf_audio_prerender_callback = (void (*) (void* , uint8_t**, unsigned int))(intptr_t)atoll( psz_tmp );
173     free( psz_tmp );
174
175     psz_tmp = var_CreateGetString( p_stream, SOUT_PREFIX_VIDEO "postrender-callback" );
176     p_sys->pf_video_postrender_callback = (void (*) (void*, uint8_t*, int, int, int, int, int))(intptr_t)atoll( psz_tmp );
177     free( psz_tmp );
178
179     psz_tmp = var_CreateGetString( p_stream, SOUT_PREFIX_AUDIO "postrender-callback" );
180     p_sys->pf_audio_postrender_callback = (void (*) (void*, uint8_t*, unsigned int, unsigned int, unsigned int, unsigned int, unsigned int, int))(intptr_t)atoll( psz_tmp );
181     free( psz_tmp );
182
183     psz_tmp = var_CreateGetString( p_stream, SOUT_PREFIX_VIDEO "data" );
184     p_sys->p_video_data = (void *)( intptr_t )atoll( psz_tmp );
185     free( psz_tmp );
186
187     psz_tmp = var_CreateGetString( p_stream, SOUT_PREFIX_AUDIO "data" );
188     p_sys->p_audio_data = (void *)( intptr_t )atoll( psz_tmp );
189     free( psz_tmp );
190
191     /* Setting stream out module callbacks */
192     p_stream->pf_add    = Add;
193     p_stream->pf_del    = Del;
194     p_stream->pf_send   = Send;
195
196     /* Does the module need out_pace_control? */
197     if ( p_sys->time_sync )
198         p_stream->p_sout->i_out_pace_nocontrol++;
199
200     return VLC_SUCCESS;
201 }
202
203 /*****************************************************************************
204  * Close:
205  *****************************************************************************/
206 static void Close( vlc_object_t * p_this )
207 {
208     sout_stream_t *p_stream = (sout_stream_t*)p_this;
209     if ( p_stream->p_sys->time_sync )
210         p_stream->p_sout->i_out_pace_nocontrol--;
211     free( p_stream->p_sys );
212 }
213
214 static sout_stream_id_t *Add( sout_stream_t *p_stream, es_format_t *p_fmt )
215 {
216     sout_stream_id_t *id = NULL;
217
218     if ( p_fmt->i_cat == VIDEO_ES )
219         id = AddVideo( p_stream, p_fmt );
220     else if ( p_fmt->i_cat == AUDIO_ES )
221         id = AddAudio( p_stream, p_fmt );
222     return id;
223 }
224
225 static sout_stream_id_t *AddVideo( sout_stream_t *p_stream, es_format_t *p_fmt )
226 {
227     sout_stream_id_t    *id;
228     int i_bits_per_pixel;
229
230     switch( p_fmt->i_codec )
231     {
232         case VLC_CODEC_RGB32:
233             i_bits_per_pixel = 32;
234             break;
235         case VLC_CODEC_I444:
236         case VLC_CODEC_RGB24:
237             i_bits_per_pixel = 24;
238             break;
239         case VLC_CODEC_RGB16:
240         case VLC_CODEC_RGB15:
241         case VLC_CODEC_RGB8:
242         case VLC_CODEC_I422:
243             i_bits_per_pixel = 16;
244             break;
245         case VLC_CODEC_YV12:
246         case VLC_CODEC_I420:
247             i_bits_per_pixel = 12;
248             break;
249         case VLC_CODEC_RGBP:
250             i_bits_per_pixel = 8;
251             break;
252         default:
253             msg_Err( p_stream, "Smem does only support raw video format" );
254             return NULL;
255     }
256
257     id = calloc( 1, sizeof( sout_stream_id_t ) );
258     if( !id )
259         return NULL;
260
261     id->format = p_fmt;
262     id->format->video.i_bits_per_pixel = i_bits_per_pixel;
263     return id;
264 }
265
266 static sout_stream_id_t *AddAudio( sout_stream_t *p_stream, es_format_t *p_fmt )
267 {
268     sout_stream_id_t* id;
269     int i_bits_per_sample;
270
271     switch( p_fmt->i_codec )
272     {
273     case VLC_CODEC_U8:
274     case VLC_CODEC_S8:
275         i_bits_per_sample = 8;
276         break;
277     case VLC_CODEC_U16L:
278     case VLC_CODEC_S16L:
279     case VLC_CODEC_U16B:
280     case VLC_CODEC_S16B:
281         i_bits_per_sample =  16;
282         break;
283     case VLC_CODEC_U24L:
284     case VLC_CODEC_S24L:
285     case VLC_CODEC_U24B:
286     case VLC_CODEC_S24B:
287         i_bits_per_sample = 24;
288         break;
289     case VLC_CODEC_S32L:
290     case VLC_CODEC_S32B:
291     case VLC_CODEC_FL32:
292     case VLC_CODEC_FI32:
293         i_bits_per_sample = 32;
294         break;
295     case VLC_CODEC_FL64:
296         i_bits_per_sample = 64;
297         break;
298     default:
299         msg_Err( p_stream, "Smem does only support raw audio format" );
300         return NULL;
301     }
302
303     id = calloc( 1, sizeof( sout_stream_id_t ) );
304     if( !id )
305         return NULL;
306
307     id->format = p_fmt;
308     id->format->audio.i_bitspersample = i_bits_per_sample;
309     return id;
310 }
311
312 static int Del( sout_stream_t *p_stream, sout_stream_id_t *id )
313 {
314     VLC_UNUSED( p_stream );
315     if ( id != NULL )
316         free( id );
317     return VLC_SUCCESS;
318 }
319
320 static int Send( sout_stream_t *p_stream, sout_stream_id_t *id,
321                  block_t *p_buffer )
322 {
323     if ( id->format->i_cat == VIDEO_ES )
324         return SendVideo( p_stream, id, p_buffer );
325     else if ( id->format->i_cat == AUDIO_ES )
326         return SendAudio( p_stream, id, p_buffer );
327     return VLC_SUCCESS;
328 }
329
330 static int SendVideo( sout_stream_t *p_stream, sout_stream_id_t *id,
331                       block_t *p_buffer )
332 {
333     sout_stream_sys_t *p_sys = p_stream->p_sys;
334     int i_line, i_line_size, i_size, i_pixel_pitch;
335     uint8_t* p_pixels;
336
337     i_line = id->format->video.i_height;
338     i_pixel_pitch = id->format->video.i_bits_per_pixel / 8;
339     i_line_size = i_pixel_pitch * id->format->video.i_width;
340     i_size = i_line * i_line_size;
341     /* Calling the prerender callback to get user buffer */
342     p_sys->pf_video_prerender_callback( p_sys->p_video_data, &p_pixels , i_size );
343     /* Copying data into user buffer */
344     for ( int line = 0; line < i_line; line++, p_pixels += i_line_size )
345         vlc_memcpy( p_pixels, p_buffer->p_buffer + i_line_size * line , i_line_size );
346     /* Calling the postrender callback to tell the user his buffer is ready */
347     p_sys->pf_video_postrender_callback( p_sys->p_video_data, p_pixels,
348                                          id->format->video.i_width, id->format->video.i_height,
349                                          id->format->video.i_bits_per_pixel, i_size, p_buffer->i_pts );
350     block_ChainRelease( p_buffer );
351     return VLC_SUCCESS;
352 }
353
354 static int SendAudio( sout_stream_t *p_stream, sout_stream_id_t *id,
355                       block_t *p_buffer )
356 {
357     sout_stream_sys_t *p_sys = p_stream->p_sys;
358     int i_size;
359     uint8_t* p_pcm_buffer;
360     int i_samples = 0;
361
362     i_size = p_buffer->i_buffer;
363     i_samples = i_size / ( ( id->format->audio.i_bitspersample / 8 ) * id->format->audio.i_channels );
364     /* Calling the prerender callback to get user buffer */
365     p_sys->pf_audio_prerender_callback( p_sys->p_audio_data, &p_pcm_buffer, i_size );
366     /* Copying data into user buffer */
367     vlc_memcpy( p_pcm_buffer, p_buffer->p_buffer, i_size );
368     /* Calling the postrender callback to tell the user his buffer is ready */
369     p_sys->pf_audio_postrender_callback( p_sys->p_audio_data, p_pcm_buffer,
370                                          id->format->audio.i_channels, id->format->audio.i_rate, p_buffer->i_samples,
371                                          id->format->audio.i_bitspersample, i_size, p_buffer->i_pts );
372     block_ChainRelease( p_buffer );
373     return VLC_SUCCESS;
374 }