70049f50b8b986c22b0cf7f9d80b4fe06fd5660b
[vlc.git] / modules / codec / x264.c
1 /*****************************************************************************
2  * x264.c: h264 video encoder
3  *****************************************************************************
4  * Copyright (C) 2004-2010 the VideoLAN team
5  *
6  * Authors: Laurent Aimar <fenrir@via.ecp.fr>
7  *          Ilkka Ollakka <ileoo (at)videolan org>
8  *
9  * This program is free software; you can redistribute it and/or modify
10  * it under the terms of the GNU General Public License as published by
11  * the Free Software Foundation; either version 2 of the License, or
12  * (at your option) any later version.
13  *
14  * This program is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
17  * GNU General Public License for more details.
18  *
19  * You should have received a copy of the GNU General Public License
20  * along with this program; if not, write to the Free Software
21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston MA 02110-1301, USA.
22  *****************************************************************************/
23
24 /*****************************************************************************
25  * Preamble
26  *****************************************************************************/
27 #ifdef HAVE_CONFIG_H
28 # include "config.h"
29 #endif
30
31 #define VLC_MODULE_LICENSE VLC_LICENSE_GPL_2_PLUS
32 #include <vlc_common.h>
33 #include <vlc_plugin.h>
34 #include <vlc_sout.h>
35 #include <vlc_codec.h>
36 #include <vlc_charset.h>
37 #include <vlc_cpu.h>
38 #include <math.h>
39
40 #if defined(PTW32_STATIC_LIB) && defined(HAVE_PTHREAD_H)
41 #include <pthread.h>
42 #endif
43 #ifdef MODULE_NAME_IS_x262
44 #include <x262.h>
45 #else
46 #include <x264.h>
47 #endif
48
49 #include <assert.h>
50
51 #ifdef MODULE_NAME_IS_x26410b
52 #define SOUT_CFG_PREFIX "sout-x26410b-"
53 #endif
54 #ifdef MODULE_NAME_IS_x262
55 #define SOUT_CFG_PREFIX "sout-x262-"
56 #endif
57 #ifdef MODULE_NAME_IS_x264
58 #define SOUT_CFG_PREFIX "sout-x264-"
59 #endif
60
61 /*****************************************************************************
62  * Module descriptor
63  *****************************************************************************/
64 static int  Open ( vlc_object_t * );
65 static void Close( vlc_object_t * );
66 static void x264_log( void *, int i_level, const char *psz, va_list );
67
68 /* Frame-type options */
69
70 #define KEYINT_TEXT N_("Maximum GOP size")
71 #define KEYINT_LONGTEXT N_( "Sets maximum interval between IDR-frames. " \
72     "Larger values save bits, thus improving quality for a given bitrate at " \
73     "the cost of seeking precision. Use -1 for infinite." )
74
75 #define MIN_KEYINT_TEXT N_("Minimum GOP size")
76 #define MIN_KEYINT_LONGTEXT N_( "Sets minimum interval between IDR-frames. " \
77     "In H.264, I-frames do not necessarily bound a closed GOP because it is " \
78     "allowable for a P-frame to be predicted from more frames than just the " \
79     "one frame before it (also see reference frame option). Therefore, " \
80     "I-frames are not necessarily seekable. IDR-frames restrict subsequent " \
81     "P-frames from referring to any frame prior to the IDR-frame. \n" \
82     "If scenecuts appear within this interval, they are still encoded as " \
83     "I-frames, but do not start a new GOP." )
84
85 #define OPENGOP_TEXT N_("Use recovery points to close GOPs")
86 #define OPENGOP_LONGTEXT N_("use open GOP, for bluray compatibility use also bluray-compat option")
87
88 #define BLURAY_TEXT N_("Enable compatibility hacks for Blu-ray support")
89 #define BLURAY_LONGTEXT N_("Enable hacks for Blu-ray support, this doesn't enforce every aspect of Blu-ray compatibility\n" \
90     "e.g. resolution, framerate, level" )
91
92 #define SCENE_TEXT N_("Extra I-frames aggressivity" )
93 #define SCENE_LONGTEXT N_( "Scene-cut detection. Controls how " \
94     "aggressively to insert extra I-frames. With small values of " \
95     "scenecut, the codec often has " \
96     "to force an I-frame when it would exceed keyint. " \
97     "Good values of scenecut may find a better location for the " \
98     "I-frame. Large values use more I-frames " \
99     "than necessary, thus wasting bits. -1 disables scene-cut detection, so " \
100     "I-frames are inserted only every other keyint frames, which probably " \
101     "leads to ugly encoding artifacts. Range 1 to 100." )
102
103
104 #define BFRAMES_TEXT N_("B-frames between I and P")
105 #define BFRAMES_LONGTEXT N_( "Number of consecutive B-frames between I and " \
106     "P-frames. Range 1 to 16." )
107
108 #define B_ADAPT_TEXT N_("Adaptive B-frame decision")
109 #define B_ADAPT_LONGTEXT N_( "Force the specified number of " \
110     "consecutive B-frames to be used, except possibly before an I-frame. " \
111     "Range 0 to 2." )
112
113 #define B_BIAS_TEXT N_("Influence (bias) B-frames usage")
114 #define B_BIAS_LONGTEXT N_( "Bias the choice to use B-frames. Positive values " \
115     "cause more B-frames, negative values cause less B-frames." )
116
117
118 #define BPYRAMID_TEXT N_("Keep some B-frames as references")
119 #define BPYRAMID_LONGTEXT N_( "Allows B-frames to be used as references for " \
120     "predicting other frames. Keeps the middle of 2+ consecutive B-frames " \
121     "as a reference, and reorders frame appropriately.\n" \
122     " - none: Disabled\n" \
123     " - strict: Strictly hierarchical pyramid\n" \
124     " - normal: Non-strict (not Blu-ray compatible)\n"\
125     )
126
127 #define FULLRANGE_TEXT N_("Use fullrange instead of TV colorrange")
128 #define FULLRANGE_LONGTEXT N_("TV-range is usually used colorrange, defining this to true " \
129                               "will enable libx264 to use full colorrange on encoding")
130
131 #define CABAC_TEXT N_("CABAC")
132 #define CABAC_LONGTEXT N_( "CABAC (Context-Adaptive Binary Arithmetic "\
133     "Coding). Slightly slows down encoding and decoding, but should save " \
134     "10 to 15% bitrate." )
135
136 #define REF_TEXT N_("Number of reference frames")
137 #define REF_LONGTEXT N_( "Number of previous frames used as predictors. " \
138     "This is effective in Anime, but seems to make little difference in " \
139     "live-action source material. Some decoders are unable to deal with " \
140     "large frameref values. Range 1 to 16." )
141
142 #define NF_TEXT N_("Skip loop filter")
143 #define NF_LONGTEXT N_( "Deactivate the deblocking loop filter (decreases quality).")
144
145 #define FILTER_TEXT N_("Loop filter AlphaC0 and Beta parameters alpha:beta")
146 #define FILTER_LONGTEXT N_( "Loop filter AlphaC0 and Beta parameters. " \
147     "Range -6 to 6 for both alpha and beta parameters. -6 means light " \
148     "filter, 6 means strong.")
149
150 #define LEVEL_TEXT N_("H.264 level")
151 #define LEVEL_LONGTEXT N_( "Specify H.264 level (as defined by Annex A " \
152     "of the standard). Levels are not enforced; it's up to the user to select " \
153     "a level compatible with the rest of the encoding options. Range 1 to 5.1 " \
154     "(10 to 51 is also allowed). Set to 0 for letting x264 set level.")
155
156 #define PROFILE_TEXT N_("H.264 profile")
157 #define PROFILE_LONGTEXT N_("Specify H.264 profile which limits are enforced over " \
158         "other settings" )
159
160 /* In order to play an interlaced output stream encoded by x264, a decoder needs
161    mbaff support. r570 is using the 'mb' part and not 'aff' yet; so it's really
162    'pure-interlaced' mode */
163 #define INTERLACED_TEXT N_("Interlaced mode")
164 #define INTERLACED_LONGTEXT N_( "Pure-interlaced mode.")
165
166 #define FRAMEPACKING_TEXT N_("Frame packing")
167 #define FRAMEPACKING_LONGTEXT N_( "For stereoscopic videos define frame arrangement:\n" \
168     " 0: checkerboard - pixels are alternatively from L and R\n" \
169     " 1: column alternation - L and R are interlaced by column\n" \
170     " 2: row alternation - L and R are interlaced by row\n" \
171     " 3: side by side - L is on the left, R on the right\n" \
172     " 4: top bottom - L is on top, R on bottom\n" \
173     " 5: frame alternation - one view per frame" )
174
175 #define INTRAREFRESH_TEXT N_("Use Periodic Intra Refresh")
176 #define INTRAREFRESH_LONGTEXT N_("Use Periodic Intra Refresh instead of IDR frames")
177
178 #define MBTREE_TEXT N_("Use mb-tree ratecontrol")
179 #define MBTREE_LONGTEXT N_("You can disable use of Macroblock-tree on ratecontrol")
180
181 #define SLICE_COUNT N_("Force number of slices per frame")
182 #define SLICE_COUNT_LONGTEXT N_("Force rectangular slices and is overridden by other slicing options")
183
184 #define SLICE_MAX_SIZE N_("Limit the size of each slice in bytes")
185 #define SLICE_MAX_SIZE_LONGTEXT N_("Sets a maximum slice size in bytes, Includes NAL overhead in size")
186
187 #define SLICE_MAX_MBS N_("Limit the size of each slice in macroblocks")
188 #define SLICE_MAX_MBS_LONGTEXT N_("Sets a maximum number of macroblocks per slice")
189 /* Ratecontrol */
190
191 #define QP_TEXT N_("Set QP")
192 #define QP_LONGTEXT N_( "This selects the quantizer to use. " \
193     "Lower values result in better fidelity, but higher bitrates. 26 is a " \
194     "good default value. Range 0 (lossless) to 51." )
195
196 #define CRF_TEXT N_("Quality-based VBR")
197 #define CRF_LONGTEXT N_( "1-pass Quality-based VBR. Range 0 to 51." )
198
199 #define QPMIN_TEXT N_("Min QP")
200 #define QPMIN_LONGTEXT N_( "Minimum quantizer parameter. 15 to 35 seems to " \
201     "be a useful range." )
202
203 #define QPMAX_TEXT N_("Max QP")
204 #define QPMAX_LONGTEXT N_( "Maximum quantizer parameter." )
205
206 #define QPSTEP_TEXT N_("Max QP step")
207 #define QPSTEP_LONGTEXT N_( "Max QP step between frames.")
208
209 #define RATETOL_TEXT N_("Average bitrate tolerance")
210 #define RATETOL_LONGTEXT N_( "Allowed variance in average " \
211     "bitrate (in kbits/s).")
212
213 #define VBV_MAXRATE_TEXT N_("Max local bitrate")
214 #define VBV_MAXRATE_LONGTEXT N_( "Sets a maximum local bitrate (in kbits/s).")
215
216 #define VBV_BUFSIZE_TEXT N_("VBV buffer")
217 #define VBV_BUFSIZE_LONGTEXT N_( "Averaging period for the maximum " \
218     "local bitrate (in kbits).")
219
220 #define VBV_INIT_TEXT N_("Initial VBV buffer occupancy")
221 #define VBV_INIT_LONGTEXT N_( "Sets the initial buffer occupancy as a " \
222     "fraction of the buffer size. Range 0.0 to 1.0.")
223
224 #define AQ_MODE_TEXT N_("How AQ distributes bits")
225 #define AQ_MODE_LONGTEXT N_("Defines bitdistribution mode for AQ, default 1\n" \
226         " - 0: Disabled\n"\
227         " - 1: Current x264 default mode\n"\
228         " - 2: uses log(var)^2 instead of log(var) and attempts to adapt strength per frame")
229
230 #define AQ_STRENGTH_TEXT N_("Strength of AQ")
231 #define AQ_STRENGTH_LONGTEXT N_("Strength to reduce blocking and blurring in flat\n"\
232         "and textured areas, default 1.0 recommended to be between 0..2\n"\
233         " - 0.5: weak AQ\n"\
234         " - 1.5: strong AQ")
235
236 /* IP Ratio < 1 is technically valid but should never improve quality */
237 #define IPRATIO_TEXT N_("QP factor between I and P")
238 #define IPRATIO_LONGTEXT N_( "QP factor between I and P. Range 1.0 to 2.0.")
239
240 /* PB ratio < 1 is not valid and breaks ratecontrol */
241 #define PBRATIO_TEXT N_("QP factor between P and B")
242 #define PBRATIO_LONGTEXT N_( "QP factor between P and B. Range 1.0 to 2.0.")
243
244 #define CHROMA_QP_OFFSET_TEXT N_("QP difference between chroma and luma")
245 #define CHROMA_QP_OFFSET_LONGTEXT N_( "QP difference between chroma and luma.")
246
247 #define PASS_TEXT N_("Multipass ratecontrol")
248 #define PASS_LONGTEXT N_( "Multipass ratecontrol:\n" \
249     " - 1: First pass, creates stats file\n" \
250     " - 2: Last pass, does not overwrite stats file\n" \
251     " - 3: Nth pass, overwrites stats file\n" )
252
253 #define QCOMP_TEXT N_("QP curve compression")
254 #define QCOMP_LONGTEXT N_( "QP curve compression. Range 0.0 (CBR) to 1.0 (QCP).")
255
256 #define CPLXBLUR_TEXT N_("Reduce fluctuations in QP")
257 #define CPLXBLUR_LONGTEXT N_( "This reduces the fluctuations in QP " \
258     "before curve compression. Temporally blurs complexity.")
259
260 #define QBLUR_TEXT N_("Reduce fluctuations in QP")
261 #define QBLUR_LONGTEXT N_( "This reduces the fluctuations in QP " \
262     "after curve compression. Temporally blurs quants.")
263
264 /* Analysis */
265
266 #define ANALYSE_TEXT N_("Partitions to consider")
267 #define ANALYSE_LONGTEXT N_( "Partitions to consider in analyse mode:\n" \
268     " - none  : \n" \
269     " - fast  : i4x4\n" \
270     " - normal: i4x4,p8x8,(i8x8)\n" \
271     " - slow  : i4x4,p8x8,(i8x8),b8x8\n" \
272     " - all   : i4x4,p8x8,(i8x8),b8x8,p4x4\n" \
273     "(p4x4 requires p8x8. i8x8 requires 8x8dct).")
274
275 #define DIRECT_PRED_TEXT N_("Direct MV prediction mode")
276 #define DIRECT_PRED_LONGTEXT DIRECT_PRED_TEXT
277
278 #define DIRECT_PRED_SIZE_TEXT N_("Direct prediction size")
279 #define DIRECT_PRED_SIZE_LONGTEXT N_( "Direct prediction size:\n" \
280     " -  0: 4x4\n" \
281     " -  1: 8x8\n" \
282     " - -1: smallest possible according to level\n" )
283
284 #define WEIGHTB_TEXT N_("Weighted prediction for B-frames")
285 #define WEIGHTB_LONGTEXT N_( "Weighted prediction for B-frames.")
286
287 #define WEIGHTP_TEXT N_("Weighted prediction for P-frames")
288 #define WEIGHTP_LONGTEXT N_("Weighted prediction for P-frames:\n" \
289     " - 0: Disabled\n"\
290     " - 1: Blind offset\n"\
291     " - 2: Smart analysis\n" )
292
293 #define ME_TEXT N_("Integer pixel motion estimation method")
294 #define ME_LONGTEXT N_( "Selects the motion estimation algorithm:\n"\
295     " - dia: diamond search, radius 1 (fast)\n" \
296     " - hex: hexagonal search, radius 2\n" \
297     " - umh: uneven multi-hexagon search (better but slower)\n" \
298     " - esa: exhaustive search (extremely slow, primarily for testing)\n" \
299     " - tesa: hadamard exhaustive search (extremely slow, primarily for testing)\n" )
300
301 #define MERANGE_TEXT N_("Maximum motion vector search range")
302 #define MERANGE_LONGTEXT N_( "Maximum distance to search for " \
303     "motion estimation, measured from predicted position(s). " \
304     "Default of 16 is good for most footage, high motion sequences may " \
305     "benefit from settings between 24 and 32. Range 0 to 64." )
306
307 #define MVRANGE_TEXT N_("Maximum motion vector length")
308 #define MVRANGE_LONGTEXT N_( "Maximum motion vector length in pixels. " \
309     "-1 is automatic, based on level." )
310
311 #define MVRANGE_THREAD_TEXT N_("Minimum buffer space between threads")
312 #define MVRANGE_THREAD_LONGTEXT N_( "Minimum buffer space between threads. " \
313     "-1 is automatic, based on number of threads." )
314
315 #define PSY_RD_TEXT N_( "Strength of psychovisual optimization, default is \"1.0:0.0\"")
316 #define PSY_RD_LONGTEXT N_( "First parameter controls if RD is on (subme>=6) or off.\n"\
317         "Second parameter controls if Trellis is used on psychovisual optimization, " \
318         "default off")
319
320 #define SUBME_TEXT N_("Subpixel motion estimation and partition decision " \
321     "quality")
322 #define SUBME_LONGTEXT N_( "This parameter controls quality versus speed " \
323     "tradeoffs involved in the motion estimation decision process " \
324     "(lower = quicker and higher = better quality). Range 1 to 9." )
325
326 #define B_RDO_LONGTEXT N_( "RD based mode decision for B-frames. This " \
327     "requires subme 6 (or higher).")
328
329 #define MIXED_REFS_TEXT N_("Decide references on a per partition basis")
330 #define MIXED_REFS_LONGTEXT N_( "Allows each 8x8 or 16x8 partition to " \
331     "independently select a reference frame, as opposed to only one ref " \
332     "per macroblock." )
333
334 #define CHROMA_ME_TEXT N_("Chroma in motion estimation")
335 #define CHROMA_ME_LONGTEXT N_( "Chroma ME for subpel and mode decision in " \
336     "P-frames.")
337
338 #define BIME_LONGTEXT N_( "Joint bidirectional motion refinement.")
339
340 #define TRANSFORM_8X8DCT_TEXT N_("Adaptive spatial transform size")
341 #define TRANSFORM_8X8DCT_LONGTEXT N_( \
342     "SATD-based decision for 8x8 transform in inter-MBs.")
343
344 #define TRELLIS_TEXT N_("Trellis RD quantization" )
345 #define TRELLIS_LONGTEXT N_( "Trellis RD quantization:\n" \
346     " - 0: disabled\n" \
347     " - 1: enabled only on the final encode of a MB\n" \
348     " - 2: enabled on all mode decisions\n" \
349     "This requires CABAC." )
350
351 #define FAST_PSKIP_TEXT N_("Early SKIP detection on P-frames")
352 #define FAST_PSKIP_LONGTEXT N_( "Early SKIP detection on P-frames.")
353
354 #define DCT_DECIMATE_TEXT N_("Coefficient thresholding on P-frames")
355 #define DCT_DECIMATE_LONGTEXT N_( "Coefficient thresholding on P-frames. " \
356     "Eliminate dct blocks containing only a small single coefficient.")
357
358 #define PSY_TEXT N_("Use Psy-optimizations")
359 #define PSY_LONGTEXT N_("Use all visual optimizations that can worsen both PSNR and SSIM")
360
361 /* Noise reduction 1 is too weak to measure, suggest at least 10 */
362 #define NR_TEXT N_("Noise reduction")
363 #define NR_LONGTEXT N_( "Dct-domain noise reduction. Adaptive pseudo-deadzone. " \
364     "10 to 1000 seems to be a useful range." )
365
366 #define DEADZONE_INTER_TEXT N_("Inter luma quantization deadzone")
367 #define DEADZONE_INTER_LONGTEXT N_( "Set the size of the inter luma quantization deadzone. " \
368     "Range 0 to 32." )
369
370 #define DEADZONE_INTRA_TEXT N_("Intra luma quantization deadzone")
371 #define DEADZONE_INTRA_LONGTEXT N_( "Set the size of the intra luma quantization deadzone. " \
372     "Range 0 to 32." )
373
374 /* Input/Output */
375
376 #define NON_DETERMINISTIC_TEXT N_("Non-deterministic optimizations when threaded")
377 #define NON_DETERMINISTIC_LONGTEXT N_( "Slightly improve quality of SMP, " \
378     "at the cost of repeatability.")
379
380 #define ASM_TEXT N_("CPU optimizations")
381 #define ASM_LONGTEXT N_( "Use assembler CPU optimizations.")
382
383 #define STATS_TEXT N_("Filename for 2 pass stats file")
384 #define STATS_LONGTEXT N_( "Filename for 2 pass stats file for multi-pass encoding.")
385
386 #define PSNR_TEXT N_("PSNR computation")
387 #define PSNR_LONGTEXT N_( "Compute and print PSNR stats. This has no effect on " \
388     "the actual encoding quality." )
389
390 #define SSIM_TEXT N_("SSIM computation")
391 #define SSIM_LONGTEXT N_( "Compute and print SSIM stats. This has no effect on " \
392     "the actual encoding quality." )
393
394 #define QUIET_TEXT N_("Quiet mode")
395
396 #define VERBOSE_TEXT N_("Statistics")
397 #define VERBOSE_LONGTEXT N_( "Print stats for each frame.")
398
399 #define SPS_ID_TEXT N_("SPS and PPS id numbers")
400 #define SPS_ID_LONGTEXT N_( "Set SPS and PPS id numbers to allow concatenating " \
401     "streams with different settings.")
402
403 #define AUD_TEXT N_("Access unit delimiters")
404 #define AUD_LONGTEXT N_( "Generate access unit delimiter NAL units.")
405
406 #define LOOKAHEAD_TEXT N_("Framecount to use on frametype lookahead")
407 #define LOOKAHEAD_LONGTEXT N_("Framecount to use on frametype lookahead. " \
408     "Currently default can cause sync-issues on unmuxable output, like rtsp-output without ts-mux" )
409
410 #define HRD_TEXT N_("HRD-timing information")
411 #define TUNE_TEXT N_("Default tune setting used" )
412 #define PRESET_TEXT N_("Default preset setting used" )
413
414 #define X264_OPTIONS_TEXT N_("x264 advanced options")
415 #define X264_OPTIONS_LONGTEXT N_("x264 advanced options, in the form {opt=val,op2=val2}.")
416
417 static const char *const enc_me_list[] =
418   { "dia", "hex", "umh", "esa", "tesa" };
419 static const char *const enc_me_list_text[] =
420   { N_("dia"), N_("hex"), N_("umh"), N_("esa"), N_("tesa") };
421
422 static const char *const bpyramid_list[] =
423   { "none", "strict", "normal" };
424
425 static const char *const enc_analyse_list[] =
426   { "none", "fast", "normal", "slow", "all" };
427 static const char *const enc_analyse_list_text[] =
428   { N_("None"), N_("Fast"), N_("Normal"), N_("Slow"), N_("All") };
429
430 static const char *const direct_pred_list[] =
431   { "none", "spatial", "temporal", "auto" };
432 static const char *const direct_pred_list_text[] =
433   { N_("None"), N_("Spatial"), N_("Temporal"), N_("Auto") };
434
435 static const int framepacking_list[] =
436   { -1, 0, 1, 2, 3, 4, 5, 6 };
437 static const char *const framepacking_list_text[] =
438   { "", N_("checkerboard"), N_("column alternation"), N_("row alternation"), N_("side by side"), N_("top bottom"), N_("frame alternation"), N_("2D") };
439
440 vlc_module_begin ()
441 #ifdef MODULE_NAME_IS_x26410b
442     set_description( N_("H.264/MPEG-4 Part 10/AVC encoder (x264 10-bit)"))
443     set_capability( "encoder", 0 )
444 #endif
445 #ifdef MODULE_NAME_IS_x262
446     set_description( N_("H.262/MPEG-2 encoder (x262)"))
447     set_capability( "encoder", 0 )
448 #endif
449 #ifdef MODULE_NAME_IS_x264
450     set_description( N_("H.264/MPEG-4 Part 10/AVC encoder (x264)"))
451     set_capability( "encoder", 200 )
452 #endif
453     set_callbacks( Open, Close )
454     set_category( CAT_INPUT )
455     set_subcategory( SUBCAT_INPUT_VCODEC )
456
457 /* Frame-type options */
458
459     add_integer( SOUT_CFG_PREFIX "keyint", 250, KEYINT_TEXT,
460                  KEYINT_LONGTEXT, false )
461
462     add_integer( SOUT_CFG_PREFIX "min-keyint", 25, MIN_KEYINT_TEXT,
463                  MIN_KEYINT_LONGTEXT, true )
464
465     add_bool( SOUT_CFG_PREFIX "opengop", false, OPENGOP_TEXT,
466                OPENGOP_LONGTEXT, true )
467     add_bool( SOUT_CFG_PREFIX "bluray-compat", false, BLURAY_TEXT,
468                BLURAY_LONGTEXT, true )
469
470     add_integer( SOUT_CFG_PREFIX "scenecut", 40, SCENE_TEXT,
471                  SCENE_LONGTEXT, true )
472         change_integer_range( -1, 100 )
473
474     add_obsolete_bool( SOUT_CFG_PREFIX "pre-scenecut" )
475
476     add_integer( SOUT_CFG_PREFIX "bframes", 3, BFRAMES_TEXT,
477                  BFRAMES_LONGTEXT, true )
478         change_integer_range( 0, 16 )
479
480     add_integer( SOUT_CFG_PREFIX "b-adapt", 1, B_ADAPT_TEXT,
481                  B_ADAPT_LONGTEXT, true )
482         change_integer_range( 0, 2 )
483
484     add_integer( SOUT_CFG_PREFIX "b-bias", 0, B_BIAS_TEXT,
485                  B_BIAS_LONGTEXT, true )
486         change_integer_range( -100, 100 )
487
488     add_string( SOUT_CFG_PREFIX "bpyramid", "normal", BPYRAMID_TEXT,
489               BPYRAMID_LONGTEXT, true )
490         change_string_list( bpyramid_list, bpyramid_list )
491
492     add_bool( SOUT_CFG_PREFIX "cabac", true, CABAC_TEXT, CABAC_LONGTEXT,
493               true )
494
495     add_bool( SOUT_CFG_PREFIX "fullrange", false, FULLRANGE_TEXT, FULLRANGE_LONGTEXT,
496               true )
497
498     add_integer( SOUT_CFG_PREFIX "ref", 3, REF_TEXT,
499                  REF_LONGTEXT, true )
500         change_integer_range( 1, 16 )
501
502     add_bool( SOUT_CFG_PREFIX "nf", false, NF_TEXT,
503               NF_LONGTEXT, true )
504
505     add_string( SOUT_CFG_PREFIX "deblock", "0:0", FILTER_TEXT,
506                  FILTER_LONGTEXT, true )
507
508     add_string( SOUT_CFG_PREFIX "psy-rd", "1.0:0.0", PSY_RD_TEXT,
509                 PSY_RD_LONGTEXT, true )
510
511     add_bool( SOUT_CFG_PREFIX "psy", true, PSY_TEXT, PSY_LONGTEXT, true )
512
513     add_string( SOUT_CFG_PREFIX "level", "0", LEVEL_TEXT,
514                LEVEL_LONGTEXT, false )
515
516     add_string( SOUT_CFG_PREFIX "profile", "high", PROFILE_TEXT,
517                PROFILE_LONGTEXT, false )
518         vlc_config_set (VLC_CONFIG_LIST,
519             (sizeof(x264_profile_names) / sizeof (char*)) - 1,
520             x264_profile_names, x264_profile_names);
521
522
523     add_bool( SOUT_CFG_PREFIX "interlaced", false, INTERLACED_TEXT, INTERLACED_LONGTEXT,
524               true )
525
526     add_integer( SOUT_CFG_PREFIX "frame-packing", -1, FRAMEPACKING_TEXT, FRAMEPACKING_LONGTEXT, true )
527         change_integer_list( framepacking_list, framepacking_list_text )
528         change_integer_range( -1, 6)
529
530     add_integer( SOUT_CFG_PREFIX "slices", 0, SLICE_COUNT, SLICE_COUNT_LONGTEXT, true )
531     add_integer( SOUT_CFG_PREFIX "slice-max-size", 0, SLICE_MAX_SIZE, SLICE_MAX_SIZE_LONGTEXT, true )
532     add_integer( SOUT_CFG_PREFIX "slice-max-mbs", 0, SLICE_MAX_MBS, SLICE_MAX_MBS_LONGTEXT, true )
533
534     add_string( SOUT_CFG_PREFIX "hrd", "none", HRD_TEXT, HRD_TEXT, true )
535         vlc_config_set (VLC_CONFIG_LIST,
536             (sizeof(x264_nal_hrd_names) / sizeof (char*)) - 1,
537             x264_nal_hrd_names, x264_nal_hrd_names);
538
539
540 /* Ratecontrol */
541
542     add_integer( SOUT_CFG_PREFIX "qp", -1, QP_TEXT, QP_LONGTEXT,
543                  true )
544         change_integer_range( -1, 51 ) /* QP 0 -> lossless encoding */
545
546     add_integer( SOUT_CFG_PREFIX "crf", 23, CRF_TEXT,
547                  CRF_LONGTEXT, true )
548         change_integer_range( 0, 51 )
549
550     add_integer( SOUT_CFG_PREFIX "qpmin", 10, QPMIN_TEXT,
551                  QPMIN_LONGTEXT, true )
552         change_integer_range( 0, 51 )
553
554     add_integer( SOUT_CFG_PREFIX "qpmax", 51, QPMAX_TEXT,
555                  QPMAX_LONGTEXT, true )
556         change_integer_range( 0, 51 )
557
558     add_integer( SOUT_CFG_PREFIX "qpstep", 4, QPSTEP_TEXT,
559                  QPSTEP_LONGTEXT, true )
560         change_integer_range( 0, 51 )
561
562     add_float( SOUT_CFG_PREFIX "ratetol", 1.0, RATETOL_TEXT,
563                RATETOL_LONGTEXT, true )
564         change_float_range( 0, 100 )
565
566     add_integer( SOUT_CFG_PREFIX "vbv-maxrate", 0, VBV_MAXRATE_TEXT,
567                  VBV_MAXRATE_LONGTEXT, true )
568
569     add_integer( SOUT_CFG_PREFIX "vbv-bufsize", 0, VBV_BUFSIZE_TEXT,
570                  VBV_BUFSIZE_LONGTEXT, true )
571
572     add_float( SOUT_CFG_PREFIX "vbv-init", 0.9, VBV_INIT_TEXT,
573                VBV_INIT_LONGTEXT, true )
574         change_float_range( 0, 1 )
575
576     add_float( SOUT_CFG_PREFIX "ipratio", 1.40, IPRATIO_TEXT,
577                IPRATIO_LONGTEXT, true )
578         change_float_range( 1, 2 )
579
580     add_float( SOUT_CFG_PREFIX "pbratio", 1.30, PBRATIO_TEXT,
581                PBRATIO_LONGTEXT, true )
582         change_float_range( 1, 2 )
583
584     add_integer( SOUT_CFG_PREFIX "chroma-qp-offset", 0, CHROMA_QP_OFFSET_TEXT,
585                  CHROMA_QP_OFFSET_LONGTEXT, true )
586
587     add_integer( SOUT_CFG_PREFIX "pass", 0, PASS_TEXT,
588                  PASS_LONGTEXT, false )
589         change_integer_range( 0, 3 )
590
591     add_float( SOUT_CFG_PREFIX "qcomp", 0.60, QCOMP_TEXT,
592                QCOMP_LONGTEXT, true )
593         change_float_range( 0, 1 )
594
595     add_float( SOUT_CFG_PREFIX "cplxblur", 20.0, CPLXBLUR_TEXT,
596                CPLXBLUR_LONGTEXT, true )
597
598     add_float( SOUT_CFG_PREFIX "qblur", 0.5, QBLUR_TEXT,
599                QBLUR_LONGTEXT, true )
600
601     add_integer( SOUT_CFG_PREFIX "aq-mode", X264_AQ_VARIANCE, AQ_MODE_TEXT,
602                  AQ_MODE_LONGTEXT, true )
603          change_integer_range( 0, 2 )
604     add_float( SOUT_CFG_PREFIX "aq-strength", 1.0, AQ_STRENGTH_TEXT,
605                AQ_STRENGTH_LONGTEXT, true )
606
607 /* Analysis */
608
609     /* x264 partitions = none (default). set at least "normal" mode. */
610     add_string( SOUT_CFG_PREFIX "partitions", "normal", ANALYSE_TEXT,
611                 ANALYSE_LONGTEXT, true )
612         change_string_list( enc_analyse_list, enc_analyse_list_text )
613
614     add_string( SOUT_CFG_PREFIX "direct", "spatial", DIRECT_PRED_TEXT,
615                 DIRECT_PRED_LONGTEXT, true )
616         change_string_list( direct_pred_list, direct_pred_list_text )
617
618     add_integer( SOUT_CFG_PREFIX "direct-8x8", 1, DIRECT_PRED_SIZE_TEXT,
619                  DIRECT_PRED_SIZE_LONGTEXT, true )
620         change_integer_range( -1, 1 )
621
622     add_bool( SOUT_CFG_PREFIX "weightb", true, WEIGHTB_TEXT,
623               WEIGHTB_LONGTEXT, true )
624
625     add_integer( SOUT_CFG_PREFIX "weightp", 2, WEIGHTP_TEXT,
626               WEIGHTP_LONGTEXT, true )
627         change_integer_range( 0, 2 )
628
629     add_string( SOUT_CFG_PREFIX "me", "hex", ME_TEXT,
630                 ME_LONGTEXT, true )
631         change_string_list( enc_me_list, enc_me_list_text )
632
633     add_integer( SOUT_CFG_PREFIX "merange", 16, MERANGE_TEXT,
634                  MERANGE_LONGTEXT, true )
635         change_integer_range( 1, 64 )
636
637     add_integer( SOUT_CFG_PREFIX "mvrange", -1, MVRANGE_TEXT,
638                  MVRANGE_LONGTEXT, true )
639
640     add_integer( SOUT_CFG_PREFIX "mvrange-thread", -1, MVRANGE_THREAD_TEXT,
641                  MVRANGE_THREAD_LONGTEXT, true )
642
643     add_integer( SOUT_CFG_PREFIX "subme", 7, SUBME_TEXT,
644                  SUBME_LONGTEXT, true )
645
646     add_obsolete_bool( SOUT_CFG_PREFIX "b-rdo" )
647
648     add_bool( SOUT_CFG_PREFIX "mixed-refs", true, MIXED_REFS_TEXT,
649               MIXED_REFS_LONGTEXT, true )
650
651     add_bool( SOUT_CFG_PREFIX "chroma-me", true, CHROMA_ME_TEXT,
652               CHROMA_ME_LONGTEXT, true )
653
654     add_obsolete_bool( SOUT_CFG_PREFIX "bime" )
655
656     add_bool( SOUT_CFG_PREFIX "8x8dct", true, TRANSFORM_8X8DCT_TEXT,
657               TRANSFORM_8X8DCT_LONGTEXT, true )
658
659     add_integer( SOUT_CFG_PREFIX "trellis", 1, TRELLIS_TEXT,
660                  TRELLIS_LONGTEXT, true )
661         change_integer_range( 0, 2 )
662
663     add_integer( SOUT_CFG_PREFIX "lookahead", 40, LOOKAHEAD_TEXT,
664                  LOOKAHEAD_LONGTEXT, true )
665         change_integer_range( 0, 60 )
666
667     add_bool( SOUT_CFG_PREFIX "intra-refresh", false, INTRAREFRESH_TEXT,
668               INTRAREFRESH_LONGTEXT, true )
669
670     add_bool( SOUT_CFG_PREFIX "mbtree", true, MBTREE_TEXT, MBTREE_LONGTEXT, true )
671
672     add_bool( SOUT_CFG_PREFIX "fast-pskip", true, FAST_PSKIP_TEXT,
673               FAST_PSKIP_LONGTEXT, true )
674
675     add_bool( SOUT_CFG_PREFIX "dct-decimate", true, DCT_DECIMATE_TEXT,
676               DCT_DECIMATE_LONGTEXT, true )
677
678     add_integer( SOUT_CFG_PREFIX "nr", 0, NR_TEXT,
679                  NR_LONGTEXT, true )
680         change_integer_range( 0, 1000 )
681
682     add_integer( SOUT_CFG_PREFIX "deadzone-inter", 21, DEADZONE_INTER_TEXT,
683                  DEADZONE_INTER_LONGTEXT, true )
684         change_integer_range( 0, 32 )
685
686     add_integer( SOUT_CFG_PREFIX "deadzone-intra", 11, DEADZONE_INTRA_TEXT,
687                  DEADZONE_INTRA_LONGTEXT, true )
688         change_integer_range( 0, 32 )
689
690 /* Input/Output */
691
692     add_bool( SOUT_CFG_PREFIX "non-deterministic", false, NON_DETERMINISTIC_TEXT,
693               NON_DETERMINISTIC_LONGTEXT, true )
694
695     add_bool( SOUT_CFG_PREFIX "asm", true, ASM_TEXT,
696               ASM_LONGTEXT, true )
697
698     /* x264 psnr = 1 (default). disable PSNR computation for speed. */
699     add_bool( SOUT_CFG_PREFIX "psnr", false, PSNR_TEXT,
700               PSNR_LONGTEXT, true )
701
702     /* x264 ssim = 1 (default). disable SSIM computation for speed. */
703     add_bool( SOUT_CFG_PREFIX "ssim", false, SSIM_TEXT,
704               SSIM_LONGTEXT, true )
705
706     add_bool( SOUT_CFG_PREFIX "quiet", false, QUIET_TEXT,
707               QUIET_TEXT, true )
708
709     add_integer( SOUT_CFG_PREFIX "sps-id", 0, SPS_ID_TEXT,
710                  SPS_ID_LONGTEXT, true )
711
712     add_bool( SOUT_CFG_PREFIX "aud", false, AUD_TEXT,
713               AUD_LONGTEXT, true )
714
715     add_bool( SOUT_CFG_PREFIX "verbose", false, VERBOSE_TEXT,
716               VERBOSE_LONGTEXT, true )
717
718     add_string( SOUT_CFG_PREFIX "stats", "x264_2pass.log", STATS_TEXT,
719                 STATS_LONGTEXT, true )
720
721     add_string( SOUT_CFG_PREFIX "preset", NULL , PRESET_TEXT , PRESET_TEXT, false )
722         vlc_config_set (VLC_CONFIG_LIST,
723             (sizeof(x264_preset_names) / sizeof (char*)) - 1,
724             x264_preset_names, x264_preset_names);
725     add_string( SOUT_CFG_PREFIX "tune", NULL , TUNE_TEXT, TUNE_TEXT, false )
726         vlc_config_set (VLC_CONFIG_LIST,
727             (sizeof(x264_tune_names) / sizeof (char*)) - 1,
728             x264_tune_names, x264_tune_names);
729
730     add_string( SOUT_CFG_PREFIX "options", NULL, X264_OPTIONS_TEXT,
731                 X264_OPTIONS_LONGTEXT, true )
732
733 vlc_module_end ()
734
735 /*****************************************************************************
736  * Local prototypes
737  *****************************************************************************/
738 static const char *const ppsz_sout_options[] = {
739     "8x8dct", "asm", "aud", "bframes", "bime", "bpyramid",
740     "b-adapt", "b-bias", "b-rdo", "cabac", "chroma-me", "chroma-qp-offset",
741     "cplxblur", "crf", "dct-decimate", "deadzone-inter", "deadzone-intra",
742     "deblock", "direct", "direct-8x8", "fast-pskip",
743     "interlaced", "ipratio", "keyint", "level",
744     "me", "merange", "min-keyint", "mixed-refs", "mvrange", "mvrange-thread",
745     "nf", "non-deterministic", "nr", "partitions", "pass", "pbratio",
746     "pre-scenecut", "psnr", "qblur", "qp", "qcomp", "qpstep", "qpmax",
747     "qpmin", "quiet", "ratetol", "ref", "scenecut",
748     "sps-id", "ssim", "stats", "subme", "trellis",
749     "verbose", "vbv-bufsize", "vbv-init", "vbv-maxrate", "weightb", "weightp",
750     "aq-mode", "aq-strength", "psy-rd", "psy", "profile", "lookahead", "slices",
751     "slice-max-size", "slice-max-mbs", "intra-refresh", "mbtree", "hrd",
752     "tune","preset", "opengop", "bluray-compat", "frame-packing", "options",
753     "fullrange",
754     NULL
755 };
756
757 static block_t *Encode( encoder_t *, picture_t * );
758
759 typedef struct
760 {
761     x264_t          *h;
762     x264_param_t    param;
763
764     char            *psz_stat_name;
765     int             i_sei_size;
766     uint32_t         i_colorspace;
767     uint8_t         *p_sei;
768 } encoder_sys_t;
769
770 #ifdef PTW32_STATIC_LIB
771 static vlc_mutex_t pthread_win32_mutex = VLC_STATIC_MUTEX;
772 static int pthread_win32_count = 0;
773 #endif
774
775 /*****************************************************************************
776  * Open: probe the encoder
777  *****************************************************************************/
778 static int  Open ( vlc_object_t *p_this )
779 {
780     encoder_t     *p_enc = (encoder_t *)p_this;
781     encoder_sys_t *p_sys;
782     int i_val;
783     char *psz_val;
784     int i_qmin = 0, i_qmax = 0;
785     x264_nal_t    *nal;
786     int i, i_nal;
787     bool fullrange = false;
788
789 #ifdef MODULE_NAME_IS_x262
790     if( p_enc->fmt_out.i_codec != VLC_CODEC_MP2V &&
791 #else
792     if( p_enc->fmt_out.i_codec != VLC_CODEC_H264 &&
793 #endif
794         !p_enc->obj.force )
795     {
796         return VLC_EGENERIC;
797     }
798     /* X264_POINTVER or X264_VERSION are not available */
799 #ifdef MODULE_NAME_IS_x262
800     msg_Dbg ( p_enc, "version x262 0.%d.X", X264_BUILD );
801 #else
802     msg_Dbg ( p_enc, "version x264 0.%d.X", X264_BUILD );
803 #endif
804
805     config_ChainParse( p_enc, SOUT_CFG_PREFIX, ppsz_sout_options, p_enc->p_cfg );
806
807     assert(p_enc->fmt_out.i_cat == VIDEO_ES);
808 #ifdef MODULE_NAME_IS_x262
809     p_enc->fmt_out.i_codec = VLC_CODEC_MP2V;
810 #else
811     p_enc->fmt_out.i_codec = VLC_CODEC_H264;
812 #endif
813     p_enc->p_sys = p_sys = vlc_obj_malloc( p_this, sizeof( encoder_sys_t ) );
814     if( !p_sys )
815         return VLC_ENOMEM;
816
817     fullrange = var_GetBool( p_enc, SOUT_CFG_PREFIX "fullrange" );
818     fullrange |= p_enc->fmt_in.video.color_range == COLOR_RANGE_FULL;
819     char *psz_profile = var_GetString( p_enc, SOUT_CFG_PREFIX "profile" );
820 # ifdef MODULE_NAME_IS_x26410b
821     const int mask = X264_CSP_HIGH_DEPTH;
822 # else
823     const int mask = 0;
824 # endif
825     if( psz_profile )
826     {
827
828         if( !strcmp( psz_profile, "high10" ) )
829         {
830             p_enc->fmt_in.i_codec = mask ? VLC_CODEC_I420_10L : fullrange ? VLC_CODEC_J420 : VLC_CODEC_I420;
831             p_sys->i_colorspace = X264_CSP_I420 | mask;
832         }
833         else if( !strcmp( psz_profile, "high422" ) )
834         {
835             p_enc->fmt_in.i_codec = mask ? VLC_CODEC_I422_10L : fullrange ? VLC_CODEC_J422 : VLC_CODEC_I422;
836             p_sys->i_colorspace = X264_CSP_I422 | mask;
837         }
838         else if( !strcmp( psz_profile, "high444" ) )
839         {
840             p_enc->fmt_in.i_codec = mask ? VLC_CODEC_I444_10L : fullrange ? VLC_CODEC_J444 : VLC_CODEC_I444;
841             p_sys->i_colorspace = X264_CSP_I444 | mask;
842         }
843         else
844         {
845 # ifdef MODULE_NAME_IS_x26410b
846             msg_Err( p_enc, "Only high-profiles and 10-bit are supported");
847             free( psz_profile );
848             return VLC_EGENERIC;
849 # else // !MODULE_NAME_IS_x26410b
850             p_enc->fmt_in.i_codec = fullrange ? VLC_CODEC_J420 : VLC_CODEC_I420;
851             p_sys->i_colorspace = X264_CSP_I420;
852 # endif
853         }
854         free( psz_profile );
855     }
856     else
857     {
858 # ifdef MODULE_NAME_IS_x26410b
859         msg_Err( p_enc, "Only high-profiles and 10-bit are supported");
860         return VLC_EGENERIC;
861 # else // !MODULE_NAME_IS_x26410b
862         p_enc->fmt_in.i_codec = fullrange ? VLC_CODEC_J420 : VLC_CODEC_I420;
863         p_sys->i_colorspace = X264_CSP_I420;
864 # endif
865     }
866
867     p_enc->pf_encode_video = Encode;
868     p_enc->pf_encode_audio = NULL;
869     p_sys->psz_stat_name = NULL;
870     p_sys->i_sei_size = 0;
871     p_sys->p_sei = NULL;
872
873     char *psz_preset = var_GetString( p_enc, SOUT_CFG_PREFIX  "preset" );
874     char *psz_tune = var_GetString( p_enc, SOUT_CFG_PREFIX  "tune" );
875     if( *psz_preset == '\0' )
876     {
877         free(psz_preset);
878         psz_preset = NULL;
879     }
880 #ifdef MODULE_NAME_IS_x262
881     p_sys->param.b_mpeg2 = true;
882     x264_param_default_mpeg2( &p_sys->param );
883     x264_param_default_preset_mpeg2( &p_sys->param, psz_preset, psz_tune );
884 #else
885     x264_param_default( &p_sys->param );
886     x264_param_default_preset( &p_sys->param, psz_preset, psz_tune );
887 # if X264_BUILD > 152
888     if( mask )
889         p_sys->param.i_bitdepth = 10;
890 # endif
891 #endif
892     free( psz_preset );
893     free( psz_tune );
894     p_sys->param.i_csp = p_sys->i_colorspace;
895     p_sys->param.i_width  = p_enc->fmt_in.video.i_visible_width;
896     p_sys->param.i_height = p_enc->fmt_in.video.i_visible_height;
897     p_sys->param.vui.b_fullrange = fullrange;
898
899     switch( p_enc->fmt_in.video.space )
900     {
901         case COLOR_SPACE_BT601:
902             p_sys->param.vui.i_colmatrix = 5; /* bt470bg*/
903             break;
904         case COLOR_SPACE_BT709:
905             p_sys->param.vui.i_colmatrix = 1; /* bt709*/
906             break;
907         case COLOR_SPACE_BT2020:
908             p_sys->param.vui.i_colmatrix = 10; /* bt2020c*/
909             break;
910         default:
911             break;
912     }
913
914     switch( p_enc->fmt_in.video.transfer )
915     {
916         case TRANSFER_FUNC_LINEAR:
917             p_sys->param.vui.i_transfer = 7; /* linear*/
918             break;
919         case TRANSFER_FUNC_SRGB:
920         case TRANSFER_FUNC_BT709:
921             p_sys->param.vui.i_transfer = 1; /* bt709*/
922             break;
923         default:
924             break;
925     }
926
927     switch( p_enc->fmt_in.video.primaries )
928     {
929         case COLOR_PRIMARIES_BT601_625:
930             p_sys->param.vui.i_colorprim = 5; /* BT470BG */
931             break;
932         case COLOR_PRIMARIES_BT601_525:
933             p_sys->param.vui.i_colorprim = 6; /* SMPTE170M */
934             break;
935         case COLOR_PRIMARIES_BT709:
936             p_sys->param.vui.i_colorprim = 1; /* BT.709 */
937             break;
938         case COLOR_PRIMARIES_BT2020:
939             p_sys->param.vui.i_colorprim = 9; /* BT.2020 */
940             break;
941         default:
942             break;
943     }
944
945
946     if( fabs(var_GetFloat( p_enc, SOUT_CFG_PREFIX "qcomp" ) - 0.60) > 0.005 )
947        p_sys->param.rc.f_qcompress = var_GetFloat( p_enc, SOUT_CFG_PREFIX "qcomp" );
948
949     /* transcode-default bitrate is 0,
950      * set more to ABR if user specifies bitrate */
951     if( p_enc->fmt_out.i_bitrate > 0 )
952     {
953         p_sys->param.rc.i_bitrate = p_enc->fmt_out.i_bitrate / 1000;
954         p_sys->param.rc.i_rc_method = X264_RC_ABR;
955     }
956     else /* Set default to CRF */
957     {
958         i_val = var_GetInteger( p_enc, SOUT_CFG_PREFIX "crf" );
959         if( i_val > 0 && i_val <= 51 )
960         {
961             p_sys->param.rc.f_rf_constant = i_val;
962             p_sys->param.rc.i_rc_method = X264_RC_CRF;
963         }
964     }
965
966     i_val = var_GetInteger( p_enc, SOUT_CFG_PREFIX "qpstep" );
967     if( i_val >= 0 && i_val <= 51 ) p_sys->param.rc.i_qp_step = i_val;
968
969     i_val = var_GetInteger( p_enc, SOUT_CFG_PREFIX "qpmin" );
970     if( i_val >= 0 && i_val <= 51 )
971     {
972         i_qmin = i_val;
973         p_sys->param.rc.i_qp_min = i_qmin;
974     }
975     i_val = var_GetInteger( p_enc, SOUT_CFG_PREFIX "qpmax" );
976     if( i_val >= 0 && i_val <= 51 )
977     {
978         i_qmax = i_val;
979         p_sys->param.rc.i_qp_max = i_qmax;
980     }
981
982     i_val = var_GetInteger( p_enc, SOUT_CFG_PREFIX "qp" );
983     if( i_val >= 0 && i_val <= 51 )
984     {
985         if( i_qmin > i_val ) i_qmin = i_val;
986         if( i_qmax < i_val ) i_qmax = i_val;
987
988         /* User defined QP-value, so change ratecontrol method */
989         p_sys->param.rc.i_rc_method = X264_RC_CQP;
990         p_sys->param.rc.i_qp_constant = i_val;
991         p_sys->param.rc.i_qp_min = i_qmin;
992         p_sys->param.rc.i_qp_max = i_qmax;
993     }
994
995
996     p_sys->param.rc.f_rate_tolerance = var_GetFloat( p_enc,
997                             SOUT_CFG_PREFIX "ratetol" );
998     p_sys->param.rc.f_vbv_buffer_init = var_GetFloat( p_enc,
999                             SOUT_CFG_PREFIX "vbv-init" );
1000     p_sys->param.rc.i_vbv_buffer_size = var_GetInteger( p_enc,
1001                             SOUT_CFG_PREFIX "vbv-bufsize" );
1002
1003     /* max bitrate = average bitrate -> CBR */
1004     p_sys->param.rc.i_vbv_max_bitrate = var_GetInteger( p_enc, SOUT_CFG_PREFIX "vbv-maxrate" );
1005
1006
1007     if( !var_GetBool( p_enc, SOUT_CFG_PREFIX "mbtree" ) )
1008        p_sys->param.rc.b_mb_tree = var_GetBool( p_enc, SOUT_CFG_PREFIX "mbtree" );
1009
1010     if( !var_GetBool( p_enc, SOUT_CFG_PREFIX "cabac" ) )
1011         p_sys->param.b_cabac = var_GetBool( p_enc, SOUT_CFG_PREFIX "cabac" );
1012
1013     /* disable deblocking when nf (no loop filter) is enabled */
1014     if( var_GetBool( p_enc, SOUT_CFG_PREFIX "nf" ) )
1015        p_sys->param.b_deblocking_filter = !var_GetBool( p_enc, SOUT_CFG_PREFIX "nf" );
1016
1017     psz_val = var_GetString( p_enc, SOUT_CFG_PREFIX "deblock" );
1018     if( psz_val )
1019     {
1020         if( atoi( psz_val ) != 0 )
1021         {
1022            char *p = strchr( psz_val, ':' );
1023            p_sys->param.i_deblocking_filter_alphac0 = atoi( psz_val );
1024            p_sys->param.i_deblocking_filter_beta = p ?
1025                     atoi( p+1 ) : p_sys->param.i_deblocking_filter_alphac0;
1026         }
1027         free( psz_val );
1028     }
1029
1030     psz_val = var_GetString( p_enc, SOUT_CFG_PREFIX "psy-rd" );
1031     if( psz_val )
1032     {
1033         if( us_atof( psz_val ) != 1.0 )
1034         {
1035            char *p = strchr( psz_val, ':' );
1036            p_sys->param.analyse.f_psy_rd = us_atof( psz_val );
1037            p_sys->param.analyse.f_psy_trellis = p ? us_atof( p+1 ) : 0;
1038         }
1039         free( psz_val );
1040     }
1041
1042     if( !var_GetBool( p_enc, SOUT_CFG_PREFIX "psy" ) )
1043        p_sys->param.analyse.b_psy = var_GetBool( p_enc, SOUT_CFG_PREFIX "psy" );
1044
1045     psz_val = var_GetString( p_enc, SOUT_CFG_PREFIX "level" );
1046     if( psz_val )
1047     {
1048         if( us_atof (psz_val) < 6 && us_atof (psz_val) > 0 )
1049             p_sys->param.i_level_idc = (int) (10 * us_atof (psz_val)
1050                                               + .5);
1051         else if( atoi(psz_val) >= 10 && atoi(psz_val) <= 51 )
1052             p_sys->param.i_level_idc = atoi (psz_val);
1053         free( psz_val );
1054     }
1055
1056     p_sys->param.b_interlaced = var_GetBool( p_enc, SOUT_CFG_PREFIX "interlaced" );
1057     if( fabs(var_GetFloat( p_enc, SOUT_CFG_PREFIX "ipratio" ) - 1.4) > 0.005 )
1058        p_sys->param.rc.f_ip_factor = var_GetFloat( p_enc, SOUT_CFG_PREFIX "ipratio" );
1059     if( fabs(var_GetFloat( p_enc, SOUT_CFG_PREFIX "pbratio" ) - 1.3 ) > 0.005 )
1060        p_sys->param.rc.f_pb_factor = var_GetFloat( p_enc, SOUT_CFG_PREFIX "pbratio" );
1061     p_sys->param.rc.f_complexity_blur = var_GetFloat( p_enc, SOUT_CFG_PREFIX "cplxblur" );
1062     p_sys->param.rc.f_qblur = var_GetFloat( p_enc, SOUT_CFG_PREFIX "qblur" );
1063     if( var_GetInteger( p_enc, SOUT_CFG_PREFIX "aq-mode" ) != X264_AQ_VARIANCE )
1064        p_sys->param.rc.i_aq_mode = var_GetInteger( p_enc, SOUT_CFG_PREFIX "aq-mode" );
1065     if( fabs( var_GetFloat( p_enc, SOUT_CFG_PREFIX "aq-strength" ) - 1.0) > 0.005 )
1066        p_sys->param.rc.f_aq_strength = var_GetFloat( p_enc, SOUT_CFG_PREFIX "aq-strength" );
1067
1068     if( var_GetInteger( p_enc, SOUT_CFG_PREFIX "frame-packing" ) > -1 )
1069        p_sys->param.i_frame_packing = var_GetInteger( p_enc, SOUT_CFG_PREFIX "frame-packing" );
1070
1071     if( var_GetBool( p_enc, SOUT_CFG_PREFIX "verbose" ) )
1072         p_sys->param.i_log_level = X264_LOG_DEBUG;
1073
1074     if( var_GetBool( p_enc, SOUT_CFG_PREFIX "quiet" ) )
1075         p_sys->param.i_log_level = X264_LOG_NONE;
1076
1077     i_val = var_GetInteger( p_enc, SOUT_CFG_PREFIX "sps-id" );
1078     if( i_val >= 0 ) p_sys->param.i_sps_id = i_val;
1079
1080     if( var_GetBool( p_enc, SOUT_CFG_PREFIX "aud" ) )
1081         p_sys->param.b_aud = true;
1082
1083     i_val = var_GetInteger( p_enc, SOUT_CFG_PREFIX "keyint" );
1084     if( i_val > 0 && i_val != 250 ) p_sys->param.i_keyint_max = i_val;
1085     if( i_val == -1 ) p_sys->param.i_keyint_max = X264_KEYINT_MAX_INFINITE;
1086
1087     i_val = var_GetInteger( p_enc, SOUT_CFG_PREFIX "min-keyint" );
1088     if( i_val > 0 && i_val != 25 ) p_sys->param.i_keyint_min = i_val;
1089
1090     p_sys->param.b_open_gop = var_GetBool( p_enc, SOUT_CFG_PREFIX "opengop" );
1091     p_sys->param.b_bluray_compat = var_GetBool( p_enc, SOUT_CFG_PREFIX "bluray-compat" );
1092
1093     i_val = var_GetInteger( p_enc, SOUT_CFG_PREFIX "bframes" );
1094     if( i_val >= 0 && i_val <= 16 && i_val != 3 )
1095         p_sys->param.i_bframe = i_val;
1096
1097     p_sys->param.b_intra_refresh = var_GetBool( p_enc, SOUT_CFG_PREFIX "intra-refresh" );
1098
1099     psz_val = var_GetString( p_enc, SOUT_CFG_PREFIX "bpyramid" );
1100     if( !strcmp( psz_val, "normal" ) )
1101     {
1102         p_sys->param.i_bframe_pyramid = X264_B_PYRAMID_NORMAL;
1103     }
1104     else if ( !strcmp( psz_val, "strict" ) )
1105     {
1106         p_sys->param.i_bframe_pyramid = X264_B_PYRAMID_STRICT;
1107     }
1108     else if ( !strcmp( psz_val, "none" ) )
1109     {
1110         p_sys->param.i_bframe_pyramid = X264_B_PYRAMID_NONE;
1111     }
1112
1113     free( psz_val );
1114
1115     i_val = var_GetInteger( p_enc, SOUT_CFG_PREFIX "ref" );
1116     if( i_val > 0 && i_val <= 15 && i_val != 3 )
1117         p_sys->param.i_frame_reference = i_val;
1118
1119     i_val = var_GetInteger( p_enc, SOUT_CFG_PREFIX "scenecut" );
1120     if( i_val >= -1 && i_val <= 100 && i_val != 40 )
1121         p_sys->param.i_scenecut_threshold = i_val;
1122
1123     p_sys->param.b_deterministic = var_GetBool( p_enc,
1124                         SOUT_CFG_PREFIX "non-deterministic" );
1125
1126     i_val = var_GetInteger( p_enc, SOUT_CFG_PREFIX "subme" );
1127     if( i_val >= 1 && i_val != 7 )
1128         p_sys->param.analyse.i_subpel_refine = i_val;
1129
1130     psz_val = var_GetString( p_enc, SOUT_CFG_PREFIX "hrd");
1131     if( !strcmp( psz_val, "vbr" ) )
1132         p_sys->param.i_nal_hrd = X264_NAL_HRD_VBR;
1133     else if( !strcmp( psz_val, "cbr" ) )
1134         p_sys->param.i_nal_hrd = X264_NAL_HRD_CBR;
1135     free( psz_val );
1136
1137     //TODO: psz_val == NULL ?
1138     psz_val = var_GetString( p_enc, SOUT_CFG_PREFIX "me" );
1139     if( psz_val && strcmp( psz_val, "hex" ) )
1140     {
1141        if( !strcmp( psz_val, "dia" ) )
1142        {
1143             p_sys->param.analyse.i_me_method = X264_ME_DIA;
1144        }
1145        else if( !strcmp( psz_val, "umh" ) )
1146        {
1147             p_sys->param.analyse.i_me_method = X264_ME_UMH;
1148         }
1149        else if( !strcmp( psz_val, "esa" ) )
1150        {
1151            p_sys->param.analyse.i_me_method = X264_ME_ESA;
1152        }
1153        else if( !strcmp( psz_val, "tesa" ) )
1154        {
1155            p_sys->param.analyse.i_me_method = X264_ME_TESA;
1156        }
1157     }
1158     free( psz_val );
1159
1160     i_val = var_GetInteger( p_enc, SOUT_CFG_PREFIX "merange" );
1161     if( i_val >= 0 && i_val <= 64 && i_val != 16 )
1162         p_sys->param.analyse.i_me_range = i_val;
1163
1164     p_sys->param.analyse.i_mv_range = var_GetInteger( p_enc,
1165                                     SOUT_CFG_PREFIX "mvrange" );
1166     p_sys->param.analyse.i_mv_range_thread = var_GetInteger( p_enc,
1167                                     SOUT_CFG_PREFIX "mvrange-thread" );
1168
1169     psz_val = var_GetString( p_enc, SOUT_CFG_PREFIX "direct" );
1170     if( !strcmp( psz_val, "none" ) )
1171     {
1172         p_sys->param.analyse.i_direct_mv_pred = X264_DIRECT_PRED_NONE;
1173     }
1174     else if( !strcmp( psz_val, "spatial" ) )
1175     {
1176         p_sys->param.analyse.i_direct_mv_pred = X264_DIRECT_PRED_SPATIAL;
1177     }
1178     else if( !strcmp( psz_val, "temporal" ) )
1179     {
1180         p_sys->param.analyse.i_direct_mv_pred = X264_DIRECT_PRED_TEMPORAL;
1181     }
1182     else if( !strcmp( psz_val, "auto" ) )
1183     {
1184         p_sys->param.analyse.i_direct_mv_pred = X264_DIRECT_PRED_AUTO;
1185     }
1186     free( psz_val );
1187
1188     p_sys->param.analyse.b_psnr = var_GetBool( p_enc, SOUT_CFG_PREFIX "psnr" );
1189     p_sys->param.analyse.b_ssim = var_GetBool( p_enc, SOUT_CFG_PREFIX "ssim" );
1190     if( !var_GetBool( p_enc, SOUT_CFG_PREFIX "weightb" ) )
1191        p_sys->param.analyse.b_weighted_bipred = var_GetBool( p_enc,
1192                                     SOUT_CFG_PREFIX "weightb" );
1193     if( var_GetInteger( p_enc, SOUT_CFG_PREFIX "weightp" ) != 2 )
1194        p_sys->param.analyse.i_weighted_pred = var_GetInteger( p_enc, SOUT_CFG_PREFIX "weightp" );
1195
1196     i_val = var_GetInteger( p_enc, SOUT_CFG_PREFIX "b-adapt" );
1197     if( i_val != 1 )
1198        p_sys->param.i_bframe_adaptive = i_val;
1199
1200     i_val = var_GetInteger( p_enc, SOUT_CFG_PREFIX "b-bias" );
1201     if( i_val >= -100 && i_val <= 100 && i_val != 0)
1202         p_sys->param.i_bframe_bias = i_val;
1203
1204     p_sys->param.analyse.b_chroma_me = var_GetBool( p_enc,
1205                                     SOUT_CFG_PREFIX "chroma-me" );
1206     p_sys->param.analyse.i_chroma_qp_offset = var_GetInteger( p_enc,
1207                                     SOUT_CFG_PREFIX "chroma-qp-offset" );
1208     if( !var_GetBool( p_enc, SOUT_CFG_PREFIX "mixed-refs" ) )
1209        p_sys->param.analyse.b_mixed_references = var_GetBool( p_enc,
1210                                     SOUT_CFG_PREFIX "mixed-refs" );
1211
1212     i_val = var_GetInteger( p_enc, SOUT_CFG_PREFIX "trellis" );
1213     if( i_val >= 0 && i_val <= 2 && i_val != 1 )
1214         p_sys->param.analyse.i_trellis = i_val;
1215
1216     if( !var_GetBool( p_enc, SOUT_CFG_PREFIX "fast-pskip" ) )
1217        p_sys->param.analyse.b_fast_pskip = var_GetBool( p_enc,
1218                                     SOUT_CFG_PREFIX "fast-pskip" );
1219
1220     i_val = var_GetInteger( p_enc, SOUT_CFG_PREFIX "nr" );
1221     if( i_val > 0 && i_val <= 1000 )
1222         p_sys->param.analyse.i_noise_reduction = i_val;
1223
1224     if( !var_GetBool( p_enc, SOUT_CFG_PREFIX "dct-decimate" ) )
1225        p_sys->param.analyse.b_dct_decimate = var_GetBool( p_enc,
1226                                     SOUT_CFG_PREFIX "dct-decimate" );
1227
1228     i_val = var_GetInteger( p_enc, SOUT_CFG_PREFIX "deadzone-inter" );
1229     if( i_val >= 0 && i_val <= 32 && i_val != 21 )
1230         p_sys->param.analyse.i_luma_deadzone[0] = i_val;
1231
1232     i_val = var_GetInteger( p_enc, SOUT_CFG_PREFIX "deadzone-intra" );
1233     if( i_val >= 0 && i_val <= 32 && i_val != 11)
1234         p_sys->param.analyse.i_luma_deadzone[1] = i_val;
1235
1236     if( !var_GetBool( p_enc, SOUT_CFG_PREFIX "asm" ) )
1237         p_sys->param.cpu = 0;
1238
1239 #ifndef X264_ANALYSE_BSUB16x16
1240 #   define X264_ANALYSE_BSUB16x16 0
1241 #endif
1242     psz_val = var_GetString( p_enc, SOUT_CFG_PREFIX "partitions" );
1243     if( !strcmp( psz_val, "none" ) )
1244     {
1245         p_sys->param.analyse.inter = 0;
1246     }
1247     else if( !strcmp( psz_val, "fast" ) )
1248     {
1249         p_sys->param.analyse.inter = X264_ANALYSE_I4x4;
1250     }
1251     else if( !strcmp( psz_val, "normal" ) )
1252     {
1253         p_sys->param.analyse.inter =
1254             X264_ANALYSE_I4x4 |
1255             X264_ANALYSE_PSUB16x16;
1256 #ifdef X264_ANALYSE_I8x8
1257         p_sys->param.analyse.inter |= X264_ANALYSE_I8x8;
1258 #endif
1259     }
1260     else if( !strcmp( psz_val, "slow" ) )
1261     {
1262         p_sys->param.analyse.inter =
1263             X264_ANALYSE_I4x4 |
1264             X264_ANALYSE_PSUB16x16 |
1265             X264_ANALYSE_BSUB16x16;
1266 #ifdef X264_ANALYSE_I8x8
1267         p_sys->param.analyse.inter |= X264_ANALYSE_I8x8;
1268 #endif
1269     }
1270     else if( !strcmp( psz_val, "all" ) )
1271     {
1272         p_sys->param.analyse.inter = ~0;
1273     }
1274     free( psz_val );
1275
1276     if( !var_GetBool( p_enc, SOUT_CFG_PREFIX "8x8dct" ) )
1277        p_sys->param.analyse.b_transform_8x8 = var_GetBool( p_enc,
1278                                     SOUT_CFG_PREFIX "8x8dct" );
1279
1280     if( p_enc->fmt_in.video.i_sar_num > 0 &&
1281         p_enc->fmt_in.video.i_sar_den > 0 )
1282     {
1283         unsigned int i_dst_num, i_dst_den;
1284         vlc_ureduce( &i_dst_num, &i_dst_den,
1285                      p_enc->fmt_in.video.i_sar_num,
1286                      p_enc->fmt_in.video.i_sar_den, 0 );
1287         p_sys->param.vui.i_sar_width = i_dst_num;
1288         p_sys->param.vui.i_sar_height = i_dst_den;
1289     }
1290
1291     p_sys->param.i_timebase_num = 1;
1292     p_sys->param.i_timebase_den = CLOCK_FREQ;
1293
1294     if( p_enc->fmt_in.video.i_frame_rate_base > 0 )
1295     {
1296         p_sys->param.i_fps_num = p_enc->fmt_in.video.i_frame_rate;
1297         p_sys->param.i_fps_den = p_enc->fmt_in.video.i_frame_rate_base;
1298         p_sys->param.b_vfr_input = 0;
1299     }
1300
1301     /* Check slice-options */
1302     i_val = var_GetInteger( p_enc, SOUT_CFG_PREFIX "slices" );
1303     if( i_val > 0 )
1304         p_sys->param.i_slice_count = i_val;
1305     i_val = var_GetInteger( p_enc, SOUT_CFG_PREFIX "slice-max-size" );
1306     if( i_val > 0 )
1307         p_sys->param.i_slice_max_size = i_val;
1308     i_val = var_GetInteger( p_enc, SOUT_CFG_PREFIX "slice-max-mbs" );
1309     if( i_val > 0 )
1310         p_sys->param.i_slice_max_mbs = i_val;
1311
1312     /* Check if user has given some profile (baseline,main,high) to limit
1313      * settings, and apply those*/
1314     psz_val = var_GetString( p_enc, SOUT_CFG_PREFIX "profile" );
1315     if( psz_val && *psz_val )
1316         x264_param_apply_profile( &p_sys->param, psz_val );
1317     free( psz_val );
1318
1319 #if defined (__i386__) || defined (__x86_64__)
1320     if( !vlc_CPU_MMX() )
1321         p_sys->param.cpu &= ~X264_CPU_MMX;
1322     if( !vlc_CPU_MMXEXT() )
1323         p_sys->param.cpu &= ~X264_CPU_MMXEXT;
1324     if( !vlc_CPU_SSE() )
1325         p_sys->param.cpu &= ~X264_CPU_SSE;
1326     if( !vlc_CPU_SSE2() )
1327         p_sys->param.cpu &= ~X264_CPU_SSE2;
1328 #endif
1329
1330     /* BUILD 29 adds support for multi-threaded encoding while BUILD 49 (r543)
1331        also adds support for threads = 0 for automatically selecting an optimal
1332        value (cores * 1.5) based on detected CPUs. Default behavior for x264 is
1333        threads = 1, however VLC usage differs and uses threads = 0 (auto) by
1334        default unless ofcourse transcode threads is explicitly specified.. */
1335     p_sys->param.i_threads = p_enc->i_threads;
1336
1337     psz_val = var_GetString( p_enc, SOUT_CFG_PREFIX "stats" );
1338     if( psz_val )
1339     {
1340         p_sys->param.rc.psz_stat_in  =
1341         p_sys->param.rc.psz_stat_out =
1342         p_sys->psz_stat_name         = psz_val;
1343     }
1344
1345     i_val = var_GetInteger( p_enc, SOUT_CFG_PREFIX "pass" );
1346     if( i_val > 0 && i_val <= 3 )
1347     {
1348         p_sys->param.rc.b_stat_write = i_val & 1;
1349         p_sys->param.rc.b_stat_read = i_val & 2;
1350     }
1351
1352     p_sys->param.pf_log = x264_log;
1353     p_sys->param.p_log_private = p_enc;
1354     /* We need to initialize pthreadw32 before we open the encoder,
1355        but only once for the whole application. Since pthreadw32
1356        doesn't keep a refcount, do it ourselves. */
1357 #ifdef PTW32_STATIC_LIB
1358     vlc_mutex_lock( &pthread_win32_mutex );
1359
1360     if( pthread_win32_count == 0 )
1361     {
1362         msg_Dbg( p_enc, "initializing pthread-win32" );
1363         if( !pthread_win32_process_attach_np() || !pthread_win32_thread_attach_np() )
1364         {
1365             msg_Warn( p_enc, "pthread Win32 Initialization failed" );
1366             vlc_mutex_unlock( &pthread_win32_mutex );
1367             return VLC_EGENERIC;
1368         }
1369     }
1370
1371     pthread_win32_count++;
1372     vlc_mutex_unlock( &pthread_win32_mutex );
1373 #endif
1374
1375     if( var_GetInteger( p_enc, SOUT_CFG_PREFIX "lookahead" ) != 40 )
1376     {
1377        p_sys->param.rc.i_lookahead = var_GetInteger( p_enc, SOUT_CFG_PREFIX "lookahead" );
1378     }
1379
1380     /* We don't want repeated headers, we repeat p_extra ourself if needed */
1381     p_sys->param.b_repeat_headers = 0;
1382
1383     char *psz_opts = var_InheritString( p_enc, SOUT_CFG_PREFIX "options" );
1384     if (psz_opts && *psz_opts) {
1385         config_chain_t *cfg = NULL;
1386         config_ChainParseOptions(&cfg, psz_opts);
1387         while (cfg) {
1388             config_chain_t *next = cfg->p_next;
1389             char *name  = cfg->psz_name;
1390             char *value = cfg->psz_value;
1391             int ret = x264_param_parse(&p_sys->param, name, value);
1392             if (ret == X264_PARAM_BAD_NAME) {
1393                 msg_Err(p_enc, "Unknown option \"%s\"", name);
1394             } else if (ret == X264_PARAM_BAD_VALUE) {
1395                 msg_Err(p_enc, "Bad value \"%s\" for option \"%s\"", value, name);
1396             }
1397             free(name);
1398             free(value);
1399             free(cfg);
1400             cfg = next;
1401         }
1402     }
1403     free(psz_opts);
1404
1405     /* Open the encoder */
1406     p_sys->h = x264_encoder_open( &p_sys->param );
1407
1408     if( p_sys->h == NULL )
1409     {
1410         msg_Err( p_enc, "cannot open x264 encoder" );
1411         Close( VLC_OBJECT(p_enc) );
1412         return VLC_EGENERIC;
1413     }
1414
1415     /* get the globals headers */
1416     size_t i_extra = x264_encoder_headers( p_sys->h, &nal, &i_nal );
1417     uint8_t *p_extra = p_enc->fmt_out.p_extra = malloc( i_extra );
1418     if( !p_extra )
1419     {
1420         Close( VLC_OBJECT(p_enc) );
1421         return VLC_ENOMEM;
1422     }
1423
1424     for( i = 0; i < i_nal; i++ )
1425     {
1426         if( nal[i].i_type != NAL_SEI )
1427         {
1428             memcpy( p_extra, nal[i].p_payload, nal[i].i_payload );
1429             p_extra += nal[i].i_payload;
1430             continue; /* next NAL */
1431         }
1432
1433         /* we won't store this NAL in p_extra */
1434         assert( i_extra >= (size_t)nal[i].i_payload );
1435         i_extra -= nal[i].i_payload;
1436
1437         /* Make sure we only have one SEI NAL in the headers */
1438         assert(p_sys->i_sei_size == 0);
1439         p_sys->i_sei_size = nal[i].i_payload;
1440
1441         p_sys->p_sei = malloc( p_sys->i_sei_size );
1442         if( !p_sys->p_sei )
1443         {
1444             free( p_extra );
1445             Close( VLC_OBJECT(p_enc) );
1446             return VLC_ENOMEM;
1447         }
1448         memcpy( p_sys->p_sei, nal[i].p_payload, nal[i].i_payload );
1449     }
1450
1451     p_enc->fmt_out.i_extra = i_extra;
1452
1453     return VLC_SUCCESS;
1454 }
1455
1456 /****************************************************************************
1457  * Logging
1458  ****************************************************************************/
1459 static void x264_log( void *data, int i_level, const char *psz, va_list args)
1460 {
1461     encoder_t *p_enc = (encoder_t *)data;
1462
1463     switch( i_level )
1464     {
1465         case X264_LOG_ERROR:
1466             i_level = VLC_MSG_ERR;
1467             break;
1468         case X264_LOG_WARNING:
1469             i_level = VLC_MSG_WARN;
1470             break;
1471         case X264_LOG_INFO:
1472             i_level = VLC_MSG_INFO;
1473             break;
1474         case X264_LOG_DEBUG:
1475         default:
1476             i_level = VLC_MSG_DBG;
1477     }
1478
1479     msg_GenericVa( p_enc, i_level, psz, args );
1480 };
1481
1482 /****************************************************************************
1483  * Encode:
1484  ****************************************************************************/
1485 static block_t *Encode( encoder_t *p_enc, picture_t *p_pict )
1486 {
1487     encoder_sys_t *p_sys = p_enc->p_sys;
1488     x264_picture_t pic;
1489     x264_nal_t *nal;
1490     block_t *p_block;
1491     int i_nal=0, i_out=0, i=0;
1492
1493     /* init pic */
1494     x264_picture_init( &pic );
1495     if( likely(p_pict) ) {
1496        pic.i_pts = p_pict->date;
1497        pic.img.i_csp = p_sys->i_colorspace;
1498        pic.img.i_plane = p_pict->i_planes;
1499        for( i = 0; i < p_pict->i_planes; i++ )
1500        {
1501            pic.img.plane[i] = p_pict->p[i].p_pixels;
1502            pic.img.i_stride[i] = p_pict->p[i].i_pitch;
1503        }
1504
1505        x264_encoder_encode( p_sys->h, &nal, &i_nal, &pic, &pic );
1506     } else {
1507        while( x264_encoder_delayed_frames( p_sys->h ) && i_nal == 0 ) {
1508            x264_encoder_encode( p_sys->h, &nal, &i_nal, NULL, &pic );
1509        }
1510     }
1511
1512     if( !i_nal ) return NULL;
1513
1514
1515     /* Get size of block we need */
1516     for( i = 0; i < i_nal; i++ )
1517         i_out += nal[i].i_payload;
1518
1519     p_block = block_Alloc( i_out + p_sys->i_sei_size );
1520     if( !p_block ) return NULL;
1521
1522     unsigned int i_offset = 0;
1523     if( unlikely( p_sys->i_sei_size ) )
1524     {
1525        /* insert x264 headers SEI nal into the first picture block at the start */
1526        memcpy( p_block->p_buffer, p_sys->p_sei, p_sys->i_sei_size );
1527        i_offset = p_sys->i_sei_size;
1528        p_sys->i_sei_size = 0;
1529        free( p_sys->p_sei );
1530        p_sys->p_sei = NULL;
1531     }
1532     /* copy encoded data directly to block */
1533     memcpy( p_block->p_buffer + i_offset, nal[0].p_payload, i_out );
1534
1535     if( pic.b_keyframe )
1536         p_block->i_flags |= BLOCK_FLAG_TYPE_I;
1537     else if( pic.i_type == X264_TYPE_P || pic.i_type == X264_TYPE_I )
1538         p_block->i_flags |= BLOCK_FLAG_TYPE_P;
1539     else if( IS_X264_TYPE_B( pic.i_type ) )
1540         p_block->i_flags |= BLOCK_FLAG_TYPE_B;
1541     else
1542         p_block->i_flags |= BLOCK_FLAG_TYPE_PB;
1543
1544     /* If we happen to have vfr stream, don't set length at all */
1545     if( !p_sys->param.b_vfr_input )
1546     {
1547         /* This isn't really valid for streams with B-frames */
1548         p_block->i_length = vlc_tick_from_samples(
1549                     p_enc->fmt_out.video.i_frame_rate_base,
1550                     p_enc->fmt_out.video.i_frame_rate );
1551     }
1552
1553     /* scale pts-values back*/
1554     p_block->i_pts = pic.i_pts;
1555     p_block->i_dts = pic.i_dts;
1556
1557     return p_block;
1558 }
1559
1560 /*****************************************************************************
1561  * CloseEncoder: x264 encoder destruction
1562  *****************************************************************************/
1563 static void Close( vlc_object_t *p_this )
1564 {
1565     encoder_t     *p_enc = (encoder_t *)p_this;
1566     encoder_sys_t *p_sys = p_enc->p_sys;
1567
1568     free( p_sys->psz_stat_name );
1569     free( p_sys->p_sei );
1570
1571     if( p_sys->h )
1572     {
1573         msg_Dbg( p_enc, "framecount still in libx264 buffer: %d", x264_encoder_delayed_frames( p_sys->h ) );
1574         x264_encoder_close( p_sys->h );
1575     }
1576
1577 #ifdef PTW32_STATIC_LIB
1578     vlc_mutex_lock( &pthread_win32_mutex );
1579     pthread_win32_count--;
1580
1581     if( pthread_win32_count == 0 )
1582     {
1583         pthread_win32_thread_detach_np();
1584         pthread_win32_process_detach_np();
1585         msg_Dbg( p_enc, "pthread-win32 deinitialized" );
1586     }
1587
1588     vlc_mutex_unlock( &pthread_win32_mutex );
1589 #endif
1590 }