Added x11 global hotkeys support (linux).
[vlc.git] / modules / stream_out / switcher.c
1 /*****************************************************************************
2  * switcher.c: MPEG2 video switcher module
3  *****************************************************************************
4  * Copyright (C) 2004 the VideoLAN team
5  * $Id$
6  *
7  * Authors: Christophe Massiot <massiot@via.ecp.fr>
8  *
9  * This program is free software; you can redistribute it and/or modify
10  * it under the terms of the GNU General Public License as published by
11  * the Free Software Foundation; either version 2 of the License, or
12  * (at your option) any later version.
13  *
14  * This program is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
17  * GNU General Public License for more details.
18  *
19  * You should have received a copy of the GNU General Public License
20  * along with this program; if not, write to the Free Software
21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston MA 02110-1301, USA.
22  *****************************************************************************/
23
24 /*****************************************************************************
25  * Preamble
26  *****************************************************************************/
27 #include <math.h>
28
29 #ifdef HAVE_CONFIG_H
30 # include "config.h"
31 #endif
32
33 #include <vlc_common.h>
34 #include <vlc_plugin.h>
35 #include <vlc_sout.h>
36 #include <vlc_vout.h>
37
38 #include <vlc_block.h>
39
40 #include <vlc_charset.h>
41 #include <vlc_network.h>
42
43 #define HAVE_MMX
44 #ifdef HAVE_LIBAVCODEC_AVCODEC_H
45 #   include <libavcodec/avcodec.h>
46 #elif defined(HAVE_FFMPEG_AVCODEC_H)
47 #   include <ffmpeg/avcodec.h>
48 #else
49 #   include <avcodec.h>
50 #endif
51
52 #ifdef HAVE_POSTPROC_POSTPROCESS_H
53 #   include <postproc/postprocess.h>
54 #else
55 #   include <libpostproc/postprocess.h>
56 #endif
57
58 #define SOUT_CFG_PREFIX "sout-switcher-"
59 #define MAX_PICTURES 10
60 #define MAX_AUDIO 30
61 #define MAX_THRESHOLD 99999999
62
63 /*****************************************************************************
64  * Local prototypes
65  *****************************************************************************/
66 static int      Open    ( vlc_object_t * );
67 static void     Close   ( vlc_object_t * );
68
69 static sout_stream_id_t *Add( sout_stream_t *, es_format_t * );
70 static int Del( sout_stream_t *, sout_stream_id_t * );
71 static int Send( sout_stream_t *, sout_stream_id_t *, block_t * );
72
73 static mtime_t Process( sout_stream_t *p_stream, sout_stream_id_t *id,
74                         mtime_t i_max_dts );
75 static int UnpackFromFile( sout_stream_t *p_stream, const char *psz_file,
76                            int i_width, int i_height,
77                            picture_t *p_pic );
78 static void NetCommand( sout_stream_t *p_stream );
79 static mtime_t VideoCommand( sout_stream_t *p_stream, sout_stream_id_t *id );
80 static block_t *VideoGetBuffer( sout_stream_t *p_stream, sout_stream_id_t *id,
81                                 block_t *p_buffer );
82 static block_t *AudioGetBuffer( sout_stream_t *p_stream, sout_stream_id_t *id,
83                                 block_t *p_buffer );
84
85 /*****************************************************************************
86  * Module descriptor
87  *****************************************************************************/
88 #define FILES_TEXT N_("Files")
89 #define FILES_LONGTEXT N_( \
90     "Full paths of the files separated by colons." )
91 #define SIZES_TEXT N_("Sizes")
92 #define SIZES_LONGTEXT N_( \
93     "List of sizes separated by colons (720x576:480x576)." )
94 #define RATIO_TEXT N_("Aspect ratio")
95 #define RATIO_LONGTEXT N_( \
96     "Aspect ratio (4:3, 16:9)." )
97 #define PORT_TEXT N_("Command UDP port")
98 #define PORT_LONGTEXT N_( \
99     "UDP port to listen to for commands." )
100 #define COMMAND_TEXT N_("Command")
101 #define COMMAND_LONGTEXT N_( \
102     "Initial command to execute." )
103 #define GOP_TEXT N_("GOP size")
104 #define GOP_LONGTEXT N_( \
105     "Number of P frames between two I frames." )
106 #define QSCALE_TEXT N_("Quantizer scale")
107 #define QSCALE_LONGTEXT N_( \
108     "Fixed quantizer scale to use." )
109 #define AUDIO_TEXT N_("Mute audio")
110 #define AUDIO_LONGTEXT N_( \
111     "Mute audio when command is not 0." )
112
113 vlc_module_begin ()
114     set_description( N_("MPEG2 video switcher stream output") )
115     set_capability( "sout stream", 50 )
116     add_shortcut( "switcher" )
117     set_callbacks( Open, Close )
118
119     add_string( SOUT_CFG_PREFIX "files", "", NULL, FILES_TEXT,
120                 FILES_LONGTEXT, false );
121     add_string( SOUT_CFG_PREFIX "sizes", "", NULL, SIZES_TEXT,
122                 SIZES_LONGTEXT, false );
123     add_string( SOUT_CFG_PREFIX "aspect-ratio", "4:3", NULL, RATIO_TEXT,
124                 RATIO_LONGTEXT, false );
125     add_integer( SOUT_CFG_PREFIX "port", 5001, NULL,
126                  PORT_TEXT, PORT_LONGTEXT, true );
127     add_integer( SOUT_CFG_PREFIX "command", 0, NULL,
128                  COMMAND_TEXT, COMMAND_LONGTEXT, true );
129     add_integer( SOUT_CFG_PREFIX "gop", 8, NULL,
130                  GOP_TEXT, GOP_LONGTEXT, true );
131     add_integer( SOUT_CFG_PREFIX "qscale", 5, NULL,
132                  QSCALE_TEXT, QSCALE_LONGTEXT, true );
133     add_bool( SOUT_CFG_PREFIX "mute-audio", 1, NULL,
134               AUDIO_TEXT, AUDIO_LONGTEXT, true );
135 vlc_module_end ()
136
137 static const char *const ppsz_sout_options[] = {
138     "files", "sizes", "aspect-ratio", "port", "command", "gop", "qscale",
139     "mute-audio", NULL
140 };
141
142 struct sout_stream_sys_t
143 {
144     sout_stream_t   *p_out;
145     int             i_gop;
146     int             i_qscale;
147     int             i_aspect;
148     sout_stream_id_t *pp_audio_ids[MAX_AUDIO];
149     bool      b_audio;
150
151     /* Pictures */
152     picture_t       p_pictures[MAX_PICTURES];
153     int             i_nb_pictures;
154
155     /* Command */
156     int             i_fd;
157     int             i_cmd, i_old_cmd;
158 };
159
160 struct sout_stream_id_t
161 {
162     void            *id;
163     bool      b_switcher_video;
164     bool      b_switcher_audio;
165     es_format_t     f_src;
166     block_t         *p_queued;
167
168     /* ffmpeg part */
169     AVCodec         *ff_enc;
170     AVCodecContext  *ff_enc_c;
171     AVFrame         *p_frame;
172     uint8_t         *p_buffer_out;
173     int             i_nb_pred;
174     int16_t         *p_samples;
175 };
176
177 /*****************************************************************************
178  * Open:
179  *****************************************************************************/
180 static int Open( vlc_object_t *p_this )
181 {
182     sout_stream_t     *p_stream = (sout_stream_t*)p_this;
183     sout_stream_sys_t *p_sys;
184     vlc_value_t       val;
185     char              *psz_files, *psz_sizes;
186     int               i_height = 0, i_width = 0;
187
188     p_sys = calloc( 1, sizeof(sout_stream_sys_t) );
189     if( !p_sys )
190         return VLC_ENOMEM;
191
192     p_sys->p_out = sout_StreamNew( p_stream->p_sout, p_stream->psz_next );
193     if( !p_sys->p_out )
194     {
195         msg_Err( p_stream, "cannot create chain" );
196         free( p_sys );
197         return VLC_EGENERIC;
198     }
199
200     config_ChainParse( p_stream, SOUT_CFG_PREFIX, ppsz_sout_options,
201                    p_stream->p_cfg );
202
203     var_Get( p_stream, SOUT_CFG_PREFIX "files", &val );
204     psz_files = val.psz_string;
205     var_Get( p_stream, SOUT_CFG_PREFIX "sizes", &val );
206     psz_sizes = val.psz_string;
207
208     p_sys->i_nb_pictures = 0;
209     while ( psz_files && *psz_files )
210     {
211         char * psz_file = psz_files;
212         char * psz_size = psz_sizes;
213
214         while ( *psz_files && *psz_files != ':' )
215             psz_files++;
216         if ( *psz_files == ':' )
217            *psz_files++ = '\0';
218
219         if ( *psz_sizes )
220         {
221             while ( *psz_sizes && *psz_sizes != ':' )
222                 psz_sizes++;
223             if ( *psz_sizes == ':' )
224                 *psz_sizes++ = '\0';
225             if ( sscanf( psz_size, "%dx%d", &i_width, &i_height ) != 2 )
226             {
227                 msg_Err( p_stream, "bad size %s for file %s", psz_size,
228                          psz_file );
229                 free( p_sys );
230                 return VLC_EGENERIC;
231             }
232         }
233
234         if ( UnpackFromFile( p_stream, psz_file, i_width, i_height,
235                              &p_sys->p_pictures[p_sys->i_nb_pictures] ) < 0 )
236         {
237             free( p_sys );
238             return VLC_EGENERIC;
239         }
240         p_sys->i_nb_pictures++;
241     }
242
243     var_Get( p_stream, SOUT_CFG_PREFIX "aspect-ratio", &val );
244     if ( val.psz_string )
245     {
246         char *psz_parser = strchr( val.psz_string, ':' );
247
248         if( psz_parser )
249         {
250             *psz_parser++ = '\0';
251             p_sys->i_aspect = atoi( val.psz_string ) * VOUT_ASPECT_FACTOR
252                 / atoi( psz_parser );
253         }
254         else
255         {
256             msg_Warn( p_stream, "bad aspect ratio %s", val.psz_string );
257             p_sys->i_aspect = 4 * VOUT_ASPECT_FACTOR / 3;
258         }
259
260         free( val.psz_string );
261     }
262     else
263     {
264         p_sys->i_aspect = 4 * VOUT_ASPECT_FACTOR / 3;
265     }
266
267     var_Get( p_stream, SOUT_CFG_PREFIX "port", &val );
268     p_sys->i_fd = net_ListenUDP1( p_stream, NULL, val.i_int );
269     if ( p_sys->i_fd < 0 )
270     {
271         free( p_sys );
272         return VLC_EGENERIC;
273     }
274
275     var_Get( p_stream, SOUT_CFG_PREFIX "command", &val );
276     p_sys->i_cmd = val.i_int;
277     p_sys->i_old_cmd = 0;
278
279     var_Get( p_stream, SOUT_CFG_PREFIX "gop", &val );
280     p_sys->i_gop = val.i_int;
281
282     var_Get( p_stream, SOUT_CFG_PREFIX "qscale", &val );
283     p_sys->i_qscale = val.i_int;
284
285     var_Get( p_stream, SOUT_CFG_PREFIX "mute-audio", &val );
286     p_sys->b_audio = val.b_bool;
287
288     p_stream->pf_add    = Add;
289     p_stream->pf_del    = Del;
290     p_stream->pf_send   = Send;
291     p_stream->p_sys     = p_sys;
292
293     avcodec_init();
294     avcodec_register_all();
295
296     return VLC_SUCCESS;
297 }
298
299 /*****************************************************************************
300  * Close:
301  *****************************************************************************/
302 static void Close( vlc_object_t * p_this )
303 {
304     sout_stream_t       *p_stream = (sout_stream_t *)p_this;
305     sout_stream_sys_t   *p_sys = p_stream->p_sys;
306
307     sout_StreamDelete( p_sys->p_out );
308
309     free( p_sys );
310 }
311
312 /*****************************************************************************
313  * Add: Add an input elementary stream
314  *****************************************************************************/
315 static sout_stream_id_t *Add( sout_stream_t *p_stream, es_format_t *p_fmt )
316 {
317     sout_stream_sys_t   *p_sys = p_stream->p_sys;
318     sout_stream_id_t    *id;
319
320     id = calloc( 1, sizeof( sout_stream_id_t ) );
321     if( !id )
322         return NULL;
323
324     if( p_fmt->i_cat == VIDEO_ES &&
325         ( p_fmt->i_codec == VLC_FOURCC('m', 'p', 'g', 'v') ||
326           p_fmt->i_codec == VLC_FOURCC('f', 'a', 'k', 'e') ) )
327     {
328         id->b_switcher_video = true;
329         p_fmt->i_codec = VLC_FOURCC('m', 'p', 'g', 'v');
330         msg_Dbg( p_stream, "creating video switcher for fcc=`%4.4s' cmd:%d",
331                  (char*)&p_fmt->i_codec, p_sys->i_cmd );
332     }
333     else if ( p_fmt->i_cat == AUDIO_ES &&
334               p_fmt->i_codec == VLC_FOURCC('m', 'p', 'g', 'a') &&
335               p_sys->b_audio )
336     {
337         int i_ff_codec = CODEC_ID_MP2;
338         int i;
339
340         id->b_switcher_audio = true;
341         msg_Dbg( p_stream, "creating audio switcher for fcc=`%4.4s' cmd:%d",
342                  (char*)&p_fmt->i_codec, p_sys->i_cmd );
343
344         /* Allocate the encoder right now. */
345         if( i_ff_codec == 0 )
346         {
347             msg_Err( p_stream, "cannot find encoder" );
348             free( id );
349             return NULL;
350         }
351
352         id->ff_enc = avcodec_find_encoder( i_ff_codec );
353         if( !id->ff_enc )
354         {
355             msg_Err( p_stream, "cannot find encoder (avcodec)" );
356             free( id );
357             return NULL;
358         }
359
360         id->ff_enc_c = avcodec_alloc_context();
361
362         /* Set CPU capabilities */
363         unsigned i_cpu = vlc_CPU();
364         id->ff_enc_c->dsp_mask = 0;
365         if( !(i_cpu & CPU_CAPABILITY_MMX) )
366         {
367             id->ff_enc_c->dsp_mask |= FF_MM_MMX;
368         }
369         if( !(i_cpu & CPU_CAPABILITY_MMXEXT) )
370         {
371             id->ff_enc_c->dsp_mask |= FF_MM_MMXEXT;
372         }
373         if( !(i_cpu & CPU_CAPABILITY_3DNOW) )
374         {
375             id->ff_enc_c->dsp_mask |= FF_MM_3DNOW;
376         }
377         if( !(i_cpu & CPU_CAPABILITY_SSE) )
378         {
379             id->ff_enc_c->dsp_mask |= FF_MM_SSE;
380             id->ff_enc_c->dsp_mask |= FF_MM_SSE2;
381         }
382
383         id->ff_enc_c->sample_rate = p_fmt->audio.i_rate;
384         id->ff_enc_c->channels    = p_fmt->audio.i_channels;
385         id->ff_enc_c->bit_rate    = p_fmt->i_bitrate;
386
387         if( avcodec_open( id->ff_enc_c, id->ff_enc ) )
388         {
389             msg_Err( p_stream, "cannot open encoder" );
390             av_free( id->ff_enc_c );
391             free( id );
392             return NULL;
393         }
394
395         id->p_buffer_out = malloc( AVCODEC_MAX_AUDIO_FRAME_SIZE * 2 );
396         id->p_samples = calloc( id->ff_enc_c->frame_size * p_fmt->audio.i_channels,
397                                 sizeof(int16_t) );
398         if( !id->p_buffer_out || !id->p_samples )
399             goto error;
400
401         for( i = 0; i < MAX_AUDIO; i++ )
402         {
403             if( p_sys->pp_audio_ids[i] == NULL )
404             {
405                 p_sys->pp_audio_ids[i] = id;
406                 break;
407             }
408         }
409         if( i == MAX_AUDIO )
410         {
411             msg_Err( p_stream, "too many audio streams!" );
412             goto error;
413         }
414     }
415     else
416     {
417         msg_Dbg( p_stream, "do not know what to do when switching (fcc=`%4.4s')",
418                  (char*)&p_fmt->i_codec );
419     }
420
421     /* src format */
422     memcpy( &id->f_src, p_fmt, sizeof( es_format_t ) );
423
424     /* open output stream */
425     id->id = p_sys->p_out->pf_add( p_sys->p_out, p_fmt );
426
427     if( id->id != NULL )
428         return id;
429
430 error:
431     avcodec_close( id->ff_enc_c );
432     free( id->p_samples );
433     free( id->p_buffer_out );
434     av_free( id->ff_enc_c );
435     free( id );
436     return NULL;
437 }
438
439 /*****************************************************************************
440  * Del: Del an elementary stream
441  *****************************************************************************/
442 static int Del( sout_stream_t *p_stream, sout_stream_id_t *id )
443 {
444     sout_stream_sys_t   *p_sys = p_stream->p_sys;
445
446     if ( id->b_switcher_audio )
447     {
448         int i;
449         for ( i = 0; i < MAX_AUDIO; i++ )
450         {
451             if ( p_sys->pp_audio_ids[i] == id )
452             {
453                 p_sys->pp_audio_ids[i] = NULL;
454                 break;
455             }
456         }
457     }
458
459     if ( id->ff_enc )
460     {
461         avcodec_close( id->ff_enc_c );
462         av_free( id->ff_enc_c );
463         av_free( id->p_frame );
464         free( id->p_buffer_out );
465     }
466
467     if ( id->id )
468     {
469         p_sys->p_out->pf_del( p_sys->p_out, id->id );
470     }
471     free( id );
472
473     return VLC_SUCCESS;
474 }
475
476 /*****************************************************************************
477  * Send: Process an input packet
478  *****************************************************************************/
479 static int Send( sout_stream_t *p_stream, sout_stream_id_t *id,
480                  block_t *p_buffer )
481 {
482     sout_stream_sys_t *p_sys = p_stream->p_sys;
483
484     if ( !id->id )
485     {
486         block_Release( p_buffer );
487         return VLC_EGENERIC;
488     }
489
490     if ( !id->b_switcher_video && !id->b_switcher_audio )
491     {
492         return p_sys->p_out->pf_send( p_sys->p_out, id->id, p_buffer );
493     }
494
495     block_ChainAppend( &id->p_queued, p_buffer );
496
497     if ( id->b_switcher_video )
498     {
499         /* Check for commands for every video frame. */
500         NetCommand( p_stream );
501
502         while ( id->p_queued != NULL )
503         {
504             mtime_t i_dts = 0;
505             int i;
506
507             if ( p_sys->i_old_cmd != p_sys->i_cmd )
508             {
509                 i_dts = VideoCommand( p_stream, id );
510             }
511
512             i_dts = Process( p_stream, id, i_dts );
513
514             for ( i = 0; i < MAX_AUDIO; i++ )
515             {
516                 if ( p_sys->pp_audio_ids[i] != NULL )
517                     Process( p_stream, p_sys->pp_audio_ids[i], i_dts );
518             }
519         }
520     }
521
522     return VLC_SUCCESS;
523 }
524
525 /*****************************************************************************
526  * Process: Process and dispatch buffers
527  *****************************************************************************/
528 static mtime_t Process( sout_stream_t *p_stream, sout_stream_id_t *id,
529                         mtime_t i_max_dts )
530 {
531     sout_stream_sys_t *p_sys = p_stream->p_sys;
532     mtime_t i_dts = 0;
533     block_t *p_blocks = NULL;
534     block_t *p_blocks_out = NULL;
535
536     /* Find out the blocks we need. */
537     while ( id->p_queued != NULL
538              && (!i_max_dts || id->p_queued->i_dts <= i_max_dts) )
539     {
540         block_t *p_next = id->p_queued->p_next;
541         id->p_queued->p_next = NULL;
542         i_dts = id->p_queued->i_dts;
543         block_ChainAppend( &p_blocks, id->p_queued );
544         id->p_queued = p_next;
545     }
546
547     if ( p_sys->i_old_cmd == 0 )
548     {
549         /* Full forward */
550         if ( p_blocks != NULL )
551             p_sys->p_out->pf_send( p_sys->p_out, id->id, p_blocks );
552         return i_dts;
553     }
554
555     if ( p_sys->i_old_cmd == -1 )
556     {
557         /* No output at all */
558         while ( p_blocks != NULL )
559         {
560             block_t * p_next = p_blocks->p_next;
561             block_Release( p_blocks );
562             p_blocks = p_next;
563         }
564         return i_dts;
565     }
566
567     while ( p_blocks != NULL )
568     {
569         block_t * p_next = p_blocks->p_next;
570         block_t * p_out;
571
572         if ( id->b_switcher_video )
573         {
574             p_out = VideoGetBuffer( p_stream, id, p_blocks );
575         }
576         else
577         {
578             p_out = AudioGetBuffer( p_stream, id, p_blocks );
579         }
580         p_blocks = p_next;
581         if ( p_out != NULL )
582         {
583             block_ChainAppend( &p_blocks_out, p_out );
584         }
585     }
586
587     if ( p_blocks_out != NULL )
588         p_sys->p_out->pf_send( p_sys->p_out, id->id, p_blocks_out );
589     return i_dts;
590 }
591
592 /*****************************************************************************
593  * UnpackFromFile: Read a YUV picture and store it in our format
594  *****************************************************************************/
595 static int UnpackFromFile( sout_stream_t *p_stream, const char *psz_file,
596                            int i_width, int i_height,
597                            picture_t *p_pic )
598 {
599     int i, j;
600     FILE *p_file = utf8_fopen( psz_file, "r" );
601
602     if ( p_file == NULL )
603     {
604         msg_Err( p_stream, "file %s not found", psz_file );
605         return -1;
606     }
607
608     vout_InitPicture( VLC_OBJECT(p_stream), p_pic, VLC_FOURCC('I','4','2','0'),
609                       i_width, i_height,
610                       i_width * VOUT_ASPECT_FACTOR / i_height );
611     for ( i = 0; i < p_pic->i_planes; i++ )
612     {
613         p_pic->p[i].p_pixels = malloc( p_pic->p[i].i_lines *
614                                            p_pic->p[i].i_pitch );
615         memset( p_pic->p[i].p_pixels, 0, p_pic->p[i].i_lines *
616                     p_pic->p[i].i_pitch );
617     }
618
619     for ( i = 0; i < i_height; i++ )
620     {
621         int i_chroma;
622         uint8_t p_buffer[i_width * 2];
623         uint8_t *p_char = p_buffer;
624         uint8_t *p_y = &p_pic->p[0].p_pixels[i * p_pic->p[0].i_pitch];
625         uint8_t *p_u = &p_pic->p[1].p_pixels[i/2 * p_pic->p[1].i_pitch];
626         uint8_t *p_v = &p_pic->p[2].p_pixels[i/2 * p_pic->p[2].i_pitch];
627
628         if ( fread( p_buffer, 2, i_width, p_file ) != (size_t)i_width )
629         {
630             msg_Err( p_stream, "premature end of file %s", psz_file );
631             fclose( p_file );
632             for ( i = 0; i < p_pic->i_planes; i++ )
633             {
634                 free( p_pic->p[i].p_pixels );
635             }
636             return -1;
637         }
638
639         i_chroma = 0;
640         for ( j = 0; j < i_width; j++ )
641         {
642             uint8_t **pp_chroma = i_chroma ? &p_v : &p_u;
643             i_chroma = !i_chroma;
644             if ( i & 1 )
645                 **pp_chroma = (**pp_chroma + *p_char + 1) / 2;
646             else
647                 **pp_chroma = *p_char;
648             (*pp_chroma)++;
649             p_char++;
650             *p_y++ = *p_char++;
651         }
652     }
653
654     fclose( p_file );
655     return 0;
656 }
657
658 /*****************************************************************************
659  * NetCommand: Get a command from the network
660  *****************************************************************************/
661 static void NetCommand( sout_stream_t *p_stream )
662 {
663     sout_stream_sys_t *p_sys = p_stream->p_sys;
664     char psz_buffer[11];
665     int i_len = recv( p_sys->i_fd, psz_buffer, sizeof( psz_buffer ) - 1, 0 );
666
667     if ( i_len > 0 )
668     {
669         psz_buffer[i_len] = '\0';
670         int i_cmd = strtol( psz_buffer, NULL, 0 );
671         if ( i_cmd < -1 || i_cmd > p_sys->i_nb_pictures )
672         {
673             msg_Err( p_stream, "got a wrong command (%d)", i_cmd );
674             return;
675         }
676
677         p_sys->i_cmd = i_cmd;
678
679         msg_Dbg( p_stream, "new command: %d old:%d", p_sys->i_cmd,
680                  p_sys->i_old_cmd );
681     }
682 }
683
684 /*****************************************************************************
685  * VideoCommand: Create/Delete a video encoder
686  *****************************************************************************/
687 static mtime_t VideoCommand( sout_stream_t *p_stream, sout_stream_id_t *id )
688 {
689     sout_stream_sys_t *p_sys = p_stream->p_sys;
690
691     if ( p_sys->i_cmd == 0 && !(id->p_queued->i_flags & BLOCK_FLAG_TYPE_I) )
692     {
693         mtime_t i_dts = id->p_queued->i_dts;
694         block_t *p_block = id->p_queued->p_next;
695
696         while ( p_block != NULL )
697         {
698             if ( p_block->i_flags & BLOCK_FLAG_TYPE_I )
699                 return i_dts;
700             i_dts = p_block->i_dts;
701             p_block = p_block->p_next;
702         }
703
704         return 0;
705     }
706
707     p_sys->i_old_cmd = p_sys->i_cmd;
708
709     if ( id->ff_enc )
710     {
711         avcodec_close( id->ff_enc_c );
712         av_free( id->ff_enc_c );
713         av_free( id->p_frame );
714         free( id->p_buffer_out );
715         id->ff_enc = NULL;
716     }
717
718     if ( p_sys->i_cmd > 0 )
719     {
720         /* Create a new encoder. */
721         int i_ff_codec = CODEC_ID_MPEG2VIDEO;
722         int i_aspect_num, i_aspect_den;
723
724         if( i_ff_codec == 0 )
725         {
726             msg_Err( p_stream, "cannot find encoder" );
727             return 0;
728         }
729
730         id->ff_enc = avcodec_find_encoder( i_ff_codec );
731         if( !id->ff_enc )
732         {
733             msg_Err( p_stream, "cannot find encoder (avcodec)" );
734             return 0;
735         }
736
737         id->ff_enc_c = avcodec_alloc_context();
738
739         /* Set CPU capabilities */
740         unsigned i_cpu = vlc_CPU();
741         id->ff_enc_c->dsp_mask = 0;
742         if( !(i_cpu & CPU_CAPABILITY_MMX) )
743         {
744             id->ff_enc_c->dsp_mask |= FF_MM_MMX;
745         }
746         if( !(i_cpu & CPU_CAPABILITY_MMXEXT) )
747         {
748             id->ff_enc_c->dsp_mask |= FF_MM_MMXEXT;
749         }
750         if( !(i_cpu & CPU_CAPABILITY_3DNOW) )
751         {
752             id->ff_enc_c->dsp_mask |= FF_MM_3DNOW;
753         }
754         if( !(i_cpu & CPU_CAPABILITY_SSE) )
755         {
756             id->ff_enc_c->dsp_mask |= FF_MM_SSE;
757             id->ff_enc_c->dsp_mask |= FF_MM_SSE2;
758         }
759
760         id->ff_enc_c->width = p_sys->p_pictures[p_sys->i_cmd-1].format.i_width;
761         id->ff_enc_c->height = p_sys->p_pictures[p_sys->i_cmd-1].format.i_height;
762         av_reduce( &i_aspect_num, &i_aspect_den,
763                    p_sys->i_aspect,
764                    VOUT_ASPECT_FACTOR, 1 << 30 /* something big */ );
765         av_reduce( &id->ff_enc_c->sample_aspect_ratio.num,
766                    &id->ff_enc_c->sample_aspect_ratio.den,
767                    i_aspect_num * (int64_t)id->ff_enc_c->height,
768                    i_aspect_den * (int64_t)id->ff_enc_c->width, 1 << 30 );
769
770 #if LIBAVCODEC_BUILD >= 4754
771         id->ff_enc_c->time_base.num = 1;
772         id->ff_enc_c->time_base.den = 25; /* FIXME */
773 #else
774         id->ff_enc_c->frame_rate    = 25; /* FIXME */
775         id->ff_enc_c->frame_rate_base = 1;
776 #endif
777
778         id->ff_enc_c->gop_size = 200;
779         id->ff_enc_c->max_b_frames = 0;
780
781         id->ff_enc_c->flags |= CODEC_FLAG_QSCALE
782                             | CODEC_FLAG_INPUT_PRESERVED
783                             | CODEC_FLAG_LOW_DELAY;
784
785         id->ff_enc_c->mb_decision = FF_MB_DECISION_SIMPLE;
786         id->ff_enc_c->pix_fmt = PIX_FMT_YUV420P;
787
788         if( avcodec_open( id->ff_enc_c, id->ff_enc ) )
789         {
790             msg_Err( p_stream, "cannot open encoder" );
791             return 0;
792         }
793
794         id->p_buffer_out = malloc( id->ff_enc_c->width * id->ff_enc_c->height * 3 );
795         id->p_frame = avcodec_alloc_frame();
796         id->p_frame->linesize[0] = p_sys->p_pictures[p_sys->i_cmd-1].p[0].i_pitch;
797         id->p_frame->linesize[1] = p_sys->p_pictures[p_sys->i_cmd-1].p[1].i_pitch;
798         id->p_frame->linesize[2] = p_sys->p_pictures[p_sys->i_cmd-1].p[2].i_pitch;
799         id->p_frame->data[0] = p_sys->p_pictures[p_sys->i_cmd-1].p[0].p_pixels;
800         id->p_frame->data[1] = p_sys->p_pictures[p_sys->i_cmd-1].p[1].p_pixels;
801         id->p_frame->data[2] = p_sys->p_pictures[p_sys->i_cmd-1].p[2].p_pixels;
802
803         id->i_nb_pred = p_sys->i_gop;
804     }
805
806     return 0;
807 }
808
809 /*****************************************************************************
810  * VideoGetBuffer: Build an alternate video buffer
811  *****************************************************************************/
812 static block_t *VideoGetBuffer( sout_stream_t *p_stream, sout_stream_id_t *id,
813                                 block_t *p_buffer )
814 {
815     sout_stream_sys_t *p_sys = p_stream->p_sys;
816     int i_out;
817     block_t *p_out;
818
819     id->p_frame->quality = p_sys->i_qscale * powf(2.0, FF_LAMBDA_SHIFT + 7.0)
820                             / 139.0;
821     id->p_frame->interlaced_frame = 0;
822     id->p_frame->top_field_first = 1;
823     id->p_frame->pts = p_buffer->i_dts;
824
825     if ( id->i_nb_pred >= p_sys->i_gop )
826     {
827         id->p_frame->pict_type = FF_I_TYPE;
828 #if 0
829         id->p_frame->me_threshold = 0;
830         id->p_frame->mb_threshold = 0;
831 #endif
832         id->i_nb_pred = 0;
833     }
834     else
835     {
836         id->p_frame->pict_type = FF_P_TYPE;
837 #if 0
838         if ( id->p_frame->mb_type != NULL )
839         {
840             id->p_frame->me_threshold = MAX_THRESHOLD;
841             id->p_frame->mb_threshold = MAX_THRESHOLD;
842         }
843 #endif
844         id->i_nb_pred++;
845     }
846
847     i_out = avcodec_encode_video( id->ff_enc_c, id->p_buffer_out,
848                                   id->ff_enc_c->width * id->ff_enc_c->height * 3,
849                                   id->p_frame );
850
851     if ( i_out <= 0 )
852         return NULL;
853
854 #if 0
855     if ( id->p_frame->mb_type == NULL
856           && id->ff_enc_c->coded_frame->pict_type != FF_I_TYPE )
857     {
858         int mb_width = (id->ff_enc_c->width + 15) / 16;
859         int mb_height = (id->ff_enc_c->height + 15) / 16;
860         int h_chroma_shift, v_chroma_shift;
861         int i;
862
863         avcodec_get_chroma_sub_sample( id->ff_enc_c->pix_fmt, &h_chroma_shift,
864                                        &v_chroma_shift );
865
866         id->p_frame->motion_subsample_log2
867             = id->ff_enc_c->coded_frame->motion_subsample_log2;
868         id->p_frame->mb_type = malloc( ((mb_width + 1) * (mb_height + 1) + 1)
869                                     * sizeof(uint32_t) );
870         vlc_memcpy( id->p_frame->mb_type, id->ff_enc_c->coded_frame->mb_type,
871                     (mb_width + 1) * mb_height * sizeof(id->p_frame->mb_type[0]));
872
873         for ( i = 0; i < 2; i++ )
874         {
875             int stride = ((16 * mb_width )
876                     >> id->ff_enc_c->coded_frame->motion_subsample_log2) + 1;
877             int height = ((16 * mb_height)
878                     >> id->ff_enc_c->coded_frame->motion_subsample_log2);
879             int b8_stride = mb_width * 2 + 1;
880
881             if ( id->ff_enc_c->coded_frame->motion_val[i] )
882             {
883                 id->p_frame->motion_val[i] = malloc( 2 * stride * height
884                                                 * sizeof(int16_t) );
885                 vlc_memcpy( id->p_frame->motion_val[i],
886                             id->ff_enc_c->coded_frame->motion_val[i],
887                             2 * stride * height * sizeof(int16_t) );
888             }
889             if ( id->ff_enc_c->coded_frame->ref_index[i] )
890             {
891                 id->p_frame->ref_index[i] = malloc( b8_stride * 2 * mb_height
892                                                * sizeof(int8_t) );
893                 vlc_memcpy( id->p_frame->ref_index[i],
894                             id->ff_enc_c->coded_frame->ref_index[i],
895                             b8_stride * 2 * mb_height * sizeof(int8_t));
896             }
897         }
898     }
899 #endif
900
901     p_out = block_New( p_stream, i_out );
902     vlc_memcpy( p_out->p_buffer, id->p_buffer_out, i_out );
903     p_out->i_length = p_buffer->i_length;
904     p_out->i_pts = p_buffer->i_dts;
905     p_out->i_dts = p_buffer->i_dts;
906     p_out->i_rate = p_buffer->i_rate;
907
908     switch ( id->ff_enc_c->coded_frame->pict_type )
909     {
910     case FF_I_TYPE:
911         p_out->i_flags |= BLOCK_FLAG_TYPE_I;
912         break;
913     case FF_P_TYPE:
914         p_out->i_flags |= BLOCK_FLAG_TYPE_P;
915         break;
916     case FF_B_TYPE:
917         p_out->i_flags |= BLOCK_FLAG_TYPE_B;
918         break;
919     default:
920         break;
921     }
922
923     block_Release( p_buffer );
924
925     return p_out;
926 }
927
928 /*****************************************************************************
929  * AudioGetBuffer: Build an alternate audio buffer
930  *****************************************************************************/
931 static block_t *AudioGetBuffer( sout_stream_t *p_stream, sout_stream_id_t *id,
932                                 block_t *p_buffer )
933 {
934     int i_out;
935     block_t *p_out;
936
937     i_out = avcodec_encode_audio( id->ff_enc_c, id->p_buffer_out,
938                                   2 * AVCODEC_MAX_AUDIO_FRAME_SIZE,
939                                   id->p_samples );
940
941     if ( i_out <= 0 )
942         return NULL;
943
944     p_out = block_New( p_stream, i_out );
945     vlc_memcpy( p_out->p_buffer, id->p_buffer_out, i_out );
946     p_out->i_length = p_buffer->i_length;
947     p_out->i_pts = p_buffer->i_dts;
948     p_out->i_dts = p_buffer->i_dts;
949     p_out->i_rate = p_buffer->i_rate;
950
951     block_Release( p_buffer );
952
953     return p_out;
954 }