x86: AVX-512 support
[x264/x264-sandbox.git] / configure
1 #!/bin/bash
2
3 if test x"$1" = x"-h" -o x"$1" = x"--help" ; then
4 cat <<EOF
5 Usage: ./configure [options]
6
7 Help:
8   -h, --help               print this message
9
10 Standard options:
11   --prefix=PREFIX          install architecture-independent files in PREFIX
12                            [/usr/local]
13   --exec-prefix=EPREFIX    install architecture-dependent files in EPREFIX
14                            [PREFIX]
15   --bindir=DIR             install binaries in DIR [EPREFIX/bin]
16   --libdir=DIR             install libs in DIR [EPREFIX/lib]
17   --includedir=DIR         install includes in DIR [PREFIX/include]
18   --extra-asflags=EASFLAGS add EASFLAGS to ASFLAGS
19   --extra-cflags=ECFLAGS   add ECFLAGS to CFLAGS
20   --extra-ldflags=ELDFLAGS add ELDFLAGS to LDFLAGS
21   --extra-rcflags=ERCFLAGS add ERCFLAGS to RCFLAGS
22
23 Configuration options:
24   --disable-cli            disable cli
25   --system-libx264         use system libx264 instead of internal
26   --enable-shared          build shared library
27   --enable-static          build static library
28   --disable-opencl         disable OpenCL features
29   --disable-gpl            disable GPL-only features
30   --disable-thread         disable multithreaded encoding
31   --disable-win32thread    disable win32threads (windows only)
32   --disable-interlaced     disable interlaced encoding support
33   --bit-depth=BIT_DEPTH    set output bit depth (8-10) [8]
34   --chroma-format=FORMAT   output chroma format (420, 422, 444, all) [all]
35
36 Advanced options:
37   --disable-asm            disable platform-specific assembly optimizations
38   --enable-lto             enable link-time optimization
39   --enable-debug           add -g
40   --enable-gprof           add -pg
41   --enable-strip           add -s
42   --enable-pic             build position-independent code
43
44 Cross-compilation:
45   --host=HOST              build programs to run on HOST
46   --cross-prefix=PREFIX    use PREFIX for compilation tools
47   --sysroot=SYSROOT        root of cross-build tree
48
49 External library support:
50   --disable-avs            disable avisynth support
51   --disable-swscale        disable swscale support
52   --disable-lavf           disable libavformat support
53   --disable-ffms           disable ffmpegsource support
54   --disable-gpac           disable gpac support
55   --disable-lsmash         disable lsmash support
56
57 EOF
58 exit 1
59 fi
60
61 log_check() {
62     echo -n "checking $1... " >> config.log
63 }
64
65 log_ok() {
66     echo "yes" >> config.log
67 }
68
69 log_fail() {
70     echo "no" >> config.log
71 }
72
73 log_msg() {
74     echo "$1" >> config.log
75 }
76
77 cc_cflags() {
78     # several non gcc compilers issue an incredibly large number of warnings on high warning levels,
79     # suppress them by reducing the warning level rather than having to use #pragmas
80     for arg in $*; do
81         [[ "$arg" = -falign-loops* ]] && arg=
82         [ "$arg" = -fno-tree-vectorize ] && arg=
83         [ "$arg" = -Wshadow ] && arg=
84         [ "$arg" = -Wno-maybe-uninitialized ] && arg=
85         [[ "$arg" = -mpreferred-stack-boundary* ]] && arg=
86         [[ "$arg" = -l* ]] && arg=
87         [[ "$arg" = -L* ]] && arg=
88         if [ $compiler_style = MS ]; then
89             [ "$arg" = -ffast-math ] && arg="-fp:fast"
90             [ "$arg" = -Wall ] && arg=
91             [ "$arg" = -Werror ] && arg="-W3 -WX"
92             [ "$arg" = -g ] && arg=-Z7
93             [ "$arg" = -fomit-frame-pointer ] && arg=
94             [ "$arg" = -s ] && arg=
95             [ "$arg" = -fPIC ] && arg=
96         else
97             [ "$arg" = -ffast-math ] && arg=
98             [ "$arg" = -Wall ] && arg=
99             [ "$arg" = -Werror ] && arg="-w3 -Werror"
100         fi
101         [ $compiler = CL -a "$arg" = -O3 ] && arg=-O2
102
103         [ -n "$arg" ] && echo -n "$arg "
104     done
105 }
106
107 cl_ldflags() {
108     for arg in $*; do
109         arg=${arg/LIBPATH/libpath}
110         [ "${arg#-libpath:}" == "$arg" -a "${arg#-l}" != "$arg" ] && arg=${arg#-l}.lib
111         [ "${arg#-L}" != "$arg" ] && arg=-libpath:${arg#-L}
112         [ "$arg" = -Wl,--large-address-aware ] && arg=-largeaddressaware
113         [ "$arg" = -s ] && arg=
114         [ "$arg" = -Wl,-Bsymbolic ] && arg=
115         [ "$arg" = -fno-tree-vectorize ] && arg=
116         [ "$arg" = -Werror ] && arg=
117         [ "$arg" = -Wshadow ] && arg=
118         [ "$arg" = -Wmaybe-uninitialized ] && arg=
119         [[ "$arg" = -Qdiag-error* ]] && arg=
120
121         arg=${arg/pthreadGC/pthreadVC}
122         [ "$arg" = avifil32.lib ] && arg=vfw32.lib
123         [ "$arg" = gpac_static.lib ] && arg=libgpac_static.lib
124         [ "$arg" = x264.lib ] && arg=libx264.lib
125
126         [ -n "$arg" ] && echo -n "$arg "
127     done
128 }
129
130 cc_check() {
131     if [ -z "$3" ]; then
132         if [ -z "$1$2" ]; then
133             log_check "whether $CC works"
134         elif [ -z "$1" ]; then
135             log_check "for $2"
136         else
137             log_check "for $1"
138         fi
139     elif [ -z "$1" ]; then
140         if [ -z "$2" ]; then
141             log_check "whether $CC supports $3"
142         else
143             log_check "whether $CC supports $3 with $2"
144         fi
145     else
146         log_check "for $3 in $1";
147     fi
148     rm -f conftest.c
149     for arg in $1; do
150         echo "#include <$arg>" >> conftest.c
151     done
152     echo "int main (void) { $3 return 0; }" >> conftest.c
153     if [ $compiler_style = MS ]; then
154         cc_cmd="$CC conftest.c $(cc_cflags $CFLAGS $CHECK_CFLAGS $2) -link $(cl_ldflags $2 $LDFLAGSCLI $LDFLAGS)"
155     else
156         cc_cmd="$CC conftest.c $CFLAGS $CHECK_CFLAGS $2 $LDFLAGSCLI $LDFLAGS -o conftest"
157     fi
158     if $cc_cmd >conftest.log 2>&1; then
159         res=$?
160         log_ok
161     else
162         res=$?
163         log_fail
164         log_msg "Failed commandline was:"
165         log_msg "--------------------------------------------------"
166         log_msg "$cc_cmd"
167         cat conftest.log >> config.log
168         log_msg "--------------------------------------------------"
169         log_msg "Failed program was:"
170         log_msg "--------------------------------------------------"
171         cat conftest.c >> config.log
172         log_msg "--------------------------------------------------"
173     fi
174     return $res
175 }
176
177 cpp_check() {
178     log_check "whether $3 is true"
179     rm -f conftest.c
180     for arg in $1; do
181         echo "#include <$arg>" >> conftest.c
182     done
183     echo -e "#if !($3) \n#error $4 \n#endif " >> conftest.c
184     if [ $compiler_style = MS ]; then
185         cpp_cmd="$CC conftest.c $(cc_cflags $CFLAGS $2) -P"
186     else
187         cpp_cmd="$CC conftest.c $CFLAGS $2 -E -o conftest"
188     fi
189     if $cpp_cmd >conftest.log 2>&1; then
190         res=$?
191         log_ok
192     else
193         res=$?
194         log_fail
195         log_msg "--------------------------------------------------"
196         cat conftest.log >> config.log
197         log_msg "--------------------------------------------------"
198         log_msg "Failed program was:"
199         log_msg "--------------------------------------------------"
200         cat conftest.c >> config.log
201         log_msg "--------------------------------------------------"
202     fi
203     return $res
204 }
205
206 as_check() {
207     log_check "whether $AS supports $1"
208     echo "$1" > conftest$AS_EXT
209     as_cmd="$AS conftest$AS_EXT $ASFLAGS $2 -o conftest.o"
210     if $as_cmd >conftest.log 2>&1; then
211         res=$?
212         log_ok
213     else
214         res=$?
215         log_fail
216         log_msg "Failed commandline was:"
217         log_msg "--------------------------------------------------"
218         log_msg "$as_cmd"
219         cat conftest.log >> config.log
220         log_msg "--------------------------------------------------"
221         log_msg "Failed program was:"
222         log_msg "--------------------------------------------------"
223         cat conftest$AS_EXT >> config.log
224         log_msg "--------------------------------------------------"
225     fi
226     return $res
227 }
228
229 rc_check() {
230     log_check "whether $RC works"
231     echo "$1" > conftest.rc
232     if [ $compiler = GNU ]; then
233         rc_cmd="$RC $RCFLAGS -o conftest.o conftest.rc"
234     else
235         rc_cmd="$RC $RCFLAGS -foconftest.o conftest.rc"
236     fi
237     if $rc_cmd >conftest.log 2>&1; then
238         res=$?
239         log_ok
240     else
241         res=$?
242         log_fail
243         log_msg "Failed commandline was:"
244         log_msg "--------------------------------------------------"
245         log_msg "$rc_cmd"
246         cat conftest.log >> config.log
247         log_msg "--------------------------------------------------"
248         log_msg "Failed program was:"
249         log_msg "--------------------------------------------------"
250         cat conftest.rc >> config.log
251         log_msg "--------------------------------------------------"
252     fi
253     return $res
254 }
255
256 define() {
257     echo "#define $1$([ -n "$2" ] && echo " $2" || echo " 1")" >> config.h
258 }
259
260 die() {
261     log_msg "DIED: $@"
262     echo "$@"
263     exit 1
264 }
265
266 configure_system_override() {
267     log_check "system libx264 configuration"
268     x264_config_path="$1/x264_config.h"
269     if [ -e "$x264_config_path" ]; then
270         res=$?
271         log_ok
272         arg="$(grep '#define X264_GPL ' $x264_config_path | sed -e 's/#define X264_GPL *//; s/ *$//')"
273         if [ -n "$arg" ]; then
274             [ "$arg" = 0 ] && arg="no" || arg="yes"
275             [ "$arg" != "$gpl" ] && die "Incompatible license with system libx264"
276         fi
277         arg="$(grep '#define X264_BIT_DEPTH ' $x264_config_path | sed -e 's/#define X264_BIT_DEPTH *//; s/ *$//')"
278         if [ -n "$arg" ]; then
279             if [ "$arg" != "$bit_depth" ]; then
280                 echo "Override output bit depth with system libx264 configuration"
281                 bit_depth="$arg"
282             fi
283         fi
284         arg="$(grep '#define X264_CHROMA_FORMAT ' $x264_config_path | sed -e 's/#define X264_CHROMA_FORMAT *//; s/ *$//')"
285         if [ -n "$arg" ]; then
286             [ "$arg" = 0 ] && arg="all" || arg="${arg#X264_CSP_I}"
287             if [ "$arg" != "$chroma_format" ]; then
288                 echo "Override output chroma format with system libx264 configuration"
289                 chroma_format="$arg"
290             fi
291         fi
292         arg="$(grep '#define X264_INTERLACED ' $x264_config_path | sed -e 's/#define X264_INTERLACED *//; s/ *$//')"
293         if [ -n "$arg" ]; then
294             [ "$arg" = 0 ] && arg="no" || arg="yes"
295             if [ "$arg" != "$interlaced" ]; then
296                 echo "Override interlaced encoding support with system libx264 configuration"
297                 interlaced="$arg"
298             fi
299         fi
300     else
301         res=$?
302         log_fail
303         log_msg "Failed search path was: $x264_config_path"
304     fi
305     return $res
306 }
307
308 rm -f x264_config.h config.h config.mak config.log x264.pc x264.def
309 rm -rf conftest*
310
311 # Construct a path to the specified directory relative to the working directory
312 relative_path() {
313     local base="${PWD%/}"
314     local path="$(cd "$1" >/dev/null; printf '%s/.' "${PWD%/}")"
315     local up=''
316
317     while [[ $path != "$base/"* ]]; do
318         base="${base%/*}"
319         up="../$up"
320     done
321
322     dirname "$up${path#"$base/"}"
323 }
324
325 SRCPATH="$(relative_path "$(dirname "$0")")"
326 echo "$SRCPATH" | grep -q ' ' && die "Out of tree builds are impossible with whitespace in source path."
327 [ -e "$SRCPATH/config.h" -o -e "$SRCPATH/x264_config.h" ] && die "Out of tree builds are impossible with config.h/x264_config.h in source dir."
328
329 prefix='/usr/local'
330 exec_prefix='${prefix}'
331 bindir='${exec_prefix}/bin'
332 libdir='${exec_prefix}/lib'
333 includedir='${prefix}/include'
334 DEVNULL='/dev/null'
335
336 cli="yes"
337 cli_libx264="internal"
338 shared="no"
339 static="no"
340 avs="auto"
341 lavf="auto"
342 ffms="auto"
343 gpac="auto"
344 lsmash="auto"
345 mp4="no"
346 gpl="yes"
347 thread="auto"
348 swscale="auto"
349 asm="auto"
350 interlaced="yes"
351 lto="no"
352 debug="no"
353 gprof="no"
354 strip="no"
355 pic="no"
356 bit_depth="8"
357 chroma_format="all"
358 compiler="GNU"
359 compiler_style="GNU"
360 opencl="yes"
361 vsx="auto"
362
363 CFLAGS="$CFLAGS -Wall -I. -I\$(SRCPATH)"
364 LDFLAGS="$LDFLAGS"
365 LDFLAGSCLI="$LDFLAGSCLI"
366 ASFLAGS="$ASFLAGS -I. -I\$(SRCPATH)"
367 RCFLAGS="$RCFLAGS"
368 CHECK_CFLAGS=""
369 HAVE_GETOPT_LONG=1
370 cross_prefix=""
371
372 EXE=""
373 AS_EXT=".S"
374 NL="
375 "
376
377 # list of all preprocessor HAVE values we can define
378 CONFIG_HAVE="MALLOC_H ALTIVEC ALTIVEC_H MMX ARMV6 ARMV6T2 NEON BEOSTHREAD POSIXTHREAD WIN32THREAD THREAD LOG2F SWSCALE \
379              LAVF FFMS GPAC AVS GPL VECTOREXT INTERLACED CPU_COUNT OPENCL THP LSMASH X86_INLINE_ASM AS_FUNC INTEL_DISPATCHER \
380              MSA MMAP WINRT VSX ARM_INLINE_ASM"
381
382 # parse options
383
384 for opt do
385     optarg="${opt#*=}"
386     case "$opt" in
387         --prefix=*)
388             prefix="$optarg"
389             ;;
390         --exec-prefix=*)
391             exec_prefix="$optarg"
392             ;;
393         --bindir=*)
394             bindir="$optarg"
395             ;;
396         --libdir=*)
397             libdir="$optarg"
398             ;;
399         --includedir=*)
400             includedir="$optarg"
401             ;;
402         --disable-cli)
403             cli="no"
404             ;;
405         --system-libx264)
406             cli_libx264="system"
407             ;;
408         --enable-shared)
409             shared="yes"
410             ;;
411         --enable-static)
412             static="yes"
413             ;;
414         --disable-asm)
415             asm="no"
416             ;;
417         --disable-interlaced)
418             interlaced="no"
419             ;;
420         --disable-avs)
421             avs="no"
422             ;;
423         --disable-lavf)
424             lavf="no"
425             ;;
426         --disable-ffms)
427             ffms="no"
428             ;;
429         --disable-gpac)
430             gpac="no"
431             ;;
432         --disable-lsmash)
433             lsmash="no"
434             ;;
435         --disable-gpl)
436             gpl="no"
437             ;;
438         --extra-asflags=*)
439             ASFLAGS="$ASFLAGS $optarg"
440             ;;
441         --extra-cflags=*)
442             CFLAGS="$CFLAGS $optarg"
443             ;;
444         --extra-ldflags=*)
445             LDFLAGS="$LDFLAGS $optarg"
446             ;;
447         --extra-rcflags=*)
448             RCFLAGS="$RCFLAGS $optarg"
449             ;;
450         --disable-thread)
451             thread="no"
452             ;;
453         --disable-win32thread)
454             [ "$thread" != "no" ] && thread="posix"
455             ;;
456         --disable-swscale)
457             swscale="no"
458             ;;
459         --enable-lto)
460             lto="auto"
461             ;;
462         --enable-debug)
463             debug="yes"
464             ;;
465         --enable-gprof)
466             CFLAGS="$CFLAGS -pg"
467             LDFLAGS="$LDFLAGS -pg"
468             gprof="yes"
469             ;;
470         --enable-strip)
471             strip="yes"
472             ;;
473         --enable-pic)
474             pic="yes"
475             ;;
476         --host=*)
477             host="$optarg"
478             ;;
479         --disable-vsx)
480             vsx="no"
481             ;;
482         --disable-opencl)
483             opencl="no"
484             ;;
485         --cross-prefix=*)
486             cross_prefix="$optarg"
487             ;;
488         --sysroot=*)
489             CFLAGS="$CFLAGS --sysroot=$optarg"
490             LDFLAGS="$LDFLAGS --sysroot=$optarg"
491             ;;
492         --bit-depth=*)
493             bit_depth="$optarg"
494             if [ "$bit_depth" -lt "8" -o "$bit_depth" -gt "10" ]; then
495                 echo "Supplied bit depth must be in range [8,10]."
496                 exit 1
497             fi
498             bit_depth=`expr $bit_depth + 0`
499             ;;
500         --chroma-format=*)
501             chroma_format="$optarg"
502             if [ $chroma_format != "420" -a $chroma_format != "422" -a $chroma_format != "444" -a $chroma_format != "all" ]; then
503                 echo "Supplied chroma format must be 420, 422, 444 or all."
504                 exit 1
505             fi
506             ;;
507         *)
508             echo "Unknown option $opt, ignored"
509             ;;
510     esac
511 done
512
513 [ "$cli" = "no" -a "$shared" = "no" -a "$static" = "no" ] && die "Nothing to build. Enable cli, shared or static."
514
515 CC="${CC-${cross_prefix}gcc}"
516 STRIP="${STRIP-${cross_prefix}strip}"
517 INSTALL="${INSTALL-install}"
518 PKGCONFIG="${PKGCONFIG-${cross_prefix}pkg-config}"
519
520 # ar and ranlib doesn't load the LTO plugin by default, prefer the gcc-prefixed wrappers which does.
521 if ${cross_prefix}gcc-ar --version >/dev/null 2>&1; then
522     AR="${AR-${cross_prefix}gcc-ar}"
523 else
524     AR="${AR-${cross_prefix}ar}"
525 fi
526 if ${cross_prefix}gcc-ranlib --version >/dev/null 2>&1; then
527     RANLIB="${RANLIB-${cross_prefix}gcc-ranlib}"
528 else
529     RANLIB="${RANLIB-${cross_prefix}ranlib}"
530 fi
531
532 if [ "x$host" = x ]; then
533     host=`${SRCPATH}/config.guess`
534 fi
535 # normalize a triplet into a quadruplet
536 host=`${SRCPATH}/config.sub $host`
537
538 # split $host
539 host_cpu="${host%%-*}"
540 host="${host#*-}"
541 host_vendor="${host%%-*}"
542 host_os="${host#*-}"
543
544 trap 'rm -rf conftest*' EXIT
545
546 # test for use of compilers that require specific handling
547 cc_base=`basename "$CC"`
548 QPRE="-"
549 if [[ $host_os = mingw* || $host_os = cygwin* ]]; then
550     if [[ "$cc_base" = icl || "$cc_base" = icl[\ .]* ]]; then
551         # Windows Intel Compiler creates dependency generation with absolute Windows paths, Cygwin's make does not support Windows paths.
552         [[ $host_os = cygwin* ]] && die "Windows Intel Compiler support requires MSYS"
553         compiler=ICL
554         compiler_style=MS
555         CFLAGS="$CFLAGS -Qstd=c99 -nologo -Qms0 -DHAVE_STRING_H -I\$(SRCPATH)/extras"
556         QPRE="-Q"
557         cpp_check '' '' '_MSC_VER >= 1400' || die "Windows Intel Compiler support requires Visual Studio 2005 or newer"
558         if cpp_check '' '' 'defined(_M_AMD64) || defined(_M_X64)' ; then
559             host_cpu=x86_64
560         elif cpp_check '' '' 'defined(_M_IX86)' ; then
561             host_cpu=i486
562         fi
563         if cc_check '' -Qdiag-error:10006,10157 ; then
564             CHECK_CFLAGS="$CHECK_CFLAGS -Qdiag-error:10006,10157"
565         fi
566     elif [[ "$cc_base" = cl || "$cc_base" = cl[\ .]* ]]; then
567         # Standard Microsoft Visual Studio
568         compiler=CL
569         compiler_style=MS
570         CFLAGS="$CFLAGS -nologo -GS- -DHAVE_STRING_H -I\$(SRCPATH)/extras"
571         cpp_check '' '' '_MSC_VER > 1800 || (_MSC_VER == 1800 && _MSC_FULL_VER >= 180030324)' || die "Microsoft Visual Studio support requires Visual Studio 2013 Update 2 or newer"
572         if cpp_check '' '' 'defined(_M_AMD64) || defined(_M_X64)' ; then
573             host_cpu=x86_64
574         elif cpp_check '' '' 'defined(_M_IX86)' ; then
575             host_cpu=i486
576         elif cpp_check '' '' 'defined(_M_ARM64)' ; then
577             host_cpu=aarch64
578         elif cpp_check '' '' 'defined(_M_ARM)' ; then
579             host_cpu=arm
580         fi
581     else
582         # MinGW uses broken pre-VS2015 Microsoft printf functions unless it's told to use the POSIX ones.
583         CFLAGS="$CFLAGS -D_POSIX_C_SOURCE=200112L"
584     fi
585 else
586     if [[ "$cc_base" = icc || "$cc_base" = icc[\ .]* ]]; then
587         AR="xiar"
588         compiler=ICC
589     fi
590 fi
591
592 if [[ "$cc_base" = clang* ]]; then
593     if cc_check '' -Werror=unknown-warning-option ; then
594         CHECK_CFLAGS="$CHECK_CFLAGS -Werror=unknown-warning-option"
595     fi
596 fi
597
598 libm=""
599 case $host_os in
600     beos*)
601         SYS="BEOS"
602         define HAVE_MALLOC_H
603         ;;
604     darwin*)
605         SYS="MACOSX"
606         libm="-lm"
607         if [ "$pic" = "no" ]; then
608             cc_check "" -mdynamic-no-pic && CFLAGS="$CFLAGS -mdynamic-no-pic"
609         fi
610         ;;
611     freebsd*)
612         SYS="FREEBSD"
613         libm="-lm"
614         ;;
615     kfreebsd*-gnu)
616         SYS="FREEBSD"
617         define HAVE_MALLOC_H
618         libm="-lm"
619         ;;
620     netbsd*)
621         SYS="NETBSD"
622         libm="-lm"
623         ;;
624     openbsd*)
625         SYS="OPENBSD"
626         libm="-lm"
627         ;;
628     *linux*)
629         SYS="LINUX"
630         define HAVE_MALLOC_H
631         libm="-lm"
632         ;;
633     gnu*)
634         SYS="HURD"
635         define HAVE_MALLOC_H
636         libm="-lm"
637         ;;
638     cygwin*|mingw*|msys*)
639         EXE=".exe"
640         if [[ $host_os = cygwin* ]] && cpp_check "" "" "defined(__CYGWIN__)" ; then
641             SYS="CYGWIN"
642             define HAVE_MALLOC_H
643         else
644             SYS="WINDOWS"
645             DEVNULL="NUL"
646             cc_check '' -lshell32 && LDFLAGSCLI="$LDFLAGSCLI -lshell32"
647             [ $compiler = GNU ] && RC="${RC-${cross_prefix}windres}" || RC="${RC-rc.exe}"
648         fi
649         ;;
650     sunos*|solaris*)
651         SYS="SunOS"
652         define HAVE_MALLOC_H
653         libm="-lm"
654         if cc_check "" /usr/lib/64/values-xpg6.o; then
655             LDFLAGS="$LDFLAGS /usr/lib/64/values-xpg6.o"
656         else
657             LDFLAGS="$LDFLAGS /usr/lib/values-xpg6.o"
658         fi
659         if test -x /usr/ucb/install ; then
660             INSTALL=/usr/ucb/install
661         elif test -x /usr/bin/ginstall ; then
662             # OpenSolaris
663             INSTALL=/usr/bin/ginstall
664         elif test -x /usr/gnu/bin/install ; then
665             # OpenSolaris
666             INSTALL=/usr/gnu/bin/install
667         fi
668         HAVE_GETOPT_LONG=0
669         ;;
670     *qnx*)
671         SYS="QNX"
672         define HAVE_MALLOC_H
673         libm="-lm"
674         HAVE_GETOPT_LONG=0
675         CFLAGS="$CFLAGS -I\$(SRCPATH)/extras"
676         ;;
677     *haiku*)
678         SYS="HAIKU"
679         ;;
680     *)
681         die "Unknown system $host, edit the configure"
682         ;;
683 esac
684
685 LDFLAGS="$LDFLAGS $libm"
686
687 stack_alignment=4
688 case $host_cpu in
689     i*86)
690         ARCH="X86"
691         AS="${AS-nasm}"
692         AS_EXT=".asm"
693         ASFLAGS="$ASFLAGS -DARCH_X86_64=0 -I\$(SRCPATH)/common/x86/"
694         if [ $compiler = GNU ]; then
695             if [[ "$asm" == auto && "$CFLAGS" != *-march* ]]; then
696                 CFLAGS="$CFLAGS -march=i686"
697             fi
698             if [[ "$asm" == auto && "$CFLAGS" != *-mfpmath* ]]; then
699                 CFLAGS="$CFLAGS -mfpmath=sse -msse -msse2"
700             fi
701             CFLAGS="-m32 $CFLAGS"
702             LDFLAGS="-m32 $LDFLAGS"
703         fi
704         if [ "$SYS" = MACOSX ]; then
705             ASFLAGS="$ASFLAGS -f macho32 -DPREFIX"
706         elif [ "$SYS" = WINDOWS -o "$SYS" = CYGWIN ]; then
707             ASFLAGS="$ASFLAGS -f win32 -DPREFIX"
708             LDFLAGS="$LDFLAGS -Wl,--large-address-aware"
709             [ $compiler = GNU ] && LDFLAGS="$LDFLAGS -Wl,--dynamicbase,--nxcompat,--tsaware"
710             [ $compiler = GNU ] && RCFLAGS="--target=pe-i386 $RCFLAGS"
711         else
712             ASFLAGS="$ASFLAGS -f elf32"
713         fi
714         ;;
715     x86_64)
716         ARCH="X86_64"
717         AS="${AS-nasm}"
718         AS_EXT=".asm"
719         ASFLAGS="$ASFLAGS -DARCH_X86_64=1 -I\$(SRCPATH)/common/x86/"
720         stack_alignment=16
721         [ $compiler = GNU ] && CFLAGS="-m64 $CFLAGS" && LDFLAGS="-m64 $LDFLAGS"
722         if [ "$SYS" = MACOSX ]; then
723             ASFLAGS="$ASFLAGS -f macho64 -DPIC -DPREFIX"
724             if cc_check '' "-arch x86_64"; then
725                 CFLAGS="$CFLAGS -arch x86_64"
726                 LDFLAGS="$LDFLAGS -arch x86_64"
727             fi
728         elif [ "$SYS" = WINDOWS -o "$SYS" = CYGWIN ]; then
729             ASFLAGS="$ASFLAGS -f win64"
730             if [ $compiler = GNU ]; then
731                 # only the GNU toolchain is inconsistent in prefixing function names with _
732                 cc_check "" "-S" && grep -q "_main:" conftest && ASFLAGS="$ASFLAGS -DPREFIX"
733                 cc_check "" "-Wl,--high-entropy-va" && LDFLAGS="$LDFLAGS -Wl,--high-entropy-va"
734                 LDFLAGS="$LDFLAGS -Wl,--dynamicbase,--nxcompat,--tsaware"
735                 LDFLAGSCLI="$LDFLAGSCLI -Wl,--image-base,0x140000000"
736                 SOFLAGS="$SOFLAGS -Wl,--image-base,0x180000000"
737                 RCFLAGS="--target=pe-x86-64 $RCFLAGS"
738             fi
739         else
740             ASFLAGS="$ASFLAGS -f elf64"
741         fi
742         ;;
743     powerpc*)
744         ARCH="PPC"
745         if [ $asm = auto ] ; then
746             define HAVE_ALTIVEC
747             AS="${AS-${CC}}"
748             AS_EXT=".c"
749             if [ $SYS = MACOSX ] ; then
750                 CFLAGS="$CFLAGS -faltivec -fastf -mcpu=G4"
751             else
752                 CFLAGS="$CFLAGS -maltivec -mabi=altivec"
753                 define HAVE_ALTIVEC_H
754             fi
755             if [ "$vsx" != "no" ] ; then
756                 vsx="no"
757                 if cc_check "" "-mvsx" ; then
758                     CFLAGS="$CFLAGS -mvsx"
759                     define HAVE_VSX
760                     vsx="yes"
761                 fi
762             fi
763         fi
764         ;;
765     sparc)
766         ARCH="SPARC"
767         ;;
768     mips*)
769         ARCH="MIPS"
770         AS="${AS-${CC}}"
771         AS_EXT=".c"
772         ;;
773     arm*)
774         ARCH="ARM"
775         if [ "$SYS" = MACOSX ] ; then
776             AS="${AS-${CC}}"
777             ASFLAGS="$ASFLAGS -DPREFIX -DPIC"  # apple's ld doesn't support movw/movt relocations at all
778             # build for armv7 by default
779             if ! echo $CFLAGS | grep -Eq '\-arch' ; then
780                 CFLAGS="$CFLAGS -arch armv7"
781                 LDFLAGS="$LDFLAGS -arch armv7"
782             fi
783         elif [ "$SYS" = WINDOWS ] ; then
784             AS="${AS-${SRCPATH}/tools/gas-preprocessor.pl -arch arm -as-type armasm -force-thumb -- armasm -nologo -ignore 4509}"
785         else
786             AS="${AS-${CC}}"
787         fi
788         ;;
789     aarch64)
790         ARCH="AARCH64"
791         stack_alignment=16
792         AS="${AS-${CC}}"
793         if [ "$SYS" = MACOSX ] ; then
794             ASFLAGS="$ASFLAGS -DPREFIX -DPIC"
795         fi
796         ;;
797     s390|s390x)
798         ARCH="S390"
799         ;;
800     hppa*|parisc*)
801         ARCH="PARISC"
802         ;;
803     ia64)
804         ARCH="IA64"
805         ;;
806     alpha*)
807         ARCH="ALPHA"
808         ;;
809     *)
810         ARCH="$(echo $host_cpu | tr a-z A-Z)"
811         ;;
812 esac
813
814 [ "$vsx" != "yes" ] && vsx="no"
815
816 if [ $SYS = WINDOWS ]; then
817     if ! rc_check "0 RCDATA {0}" ; then
818         RC=""
819     fi
820
821     if cpp_check "winapifamily.h" "" "!WINAPI_FAMILY_PARTITION(WINAPI_PARTITION_DESKTOP)" ; then
822         [ $compiler = CL ] || die "WinRT requires MSVC"
823         define HAVE_WINRT
824         CFLAGS="$CFLAGS -MD"
825         LDFLAGS="$LDFLAGS -appcontainer"
826         if ! cpp_check "" "" "defined(_WIN32_WINNT) && _WIN32_WINNT >= 0x0603" ; then
827             die "_WIN32_WINNT must be defined to at least 0x0603 (Windows 8.1) for WinRT"
828         elif cpp_check "" "" "_WIN32_WINNT >= 0x0A00" ; then
829             # Universal Windows Platform (Windows 10)
830             LDFLAGS="$LDFLAGS -lWindowsApp"
831         fi
832         cli="no"
833         opencl="no"
834     fi
835 fi
836
837 log_msg "x264 configure script"
838 if [ -n "$*" ]; then
839     msg="Command line options:"
840     for i in $@; do
841         msg="$msg \"$i\""
842     done
843     log_msg "$msg"
844 fi
845 log_msg ""
846
847 # check requirements
848
849 cc_check || die "No working C compiler found."
850
851 if [ $compiler_style = GNU ]; then
852     if cc_check '' -std=gnu99 'for( int i = 0; i < 9; i++ );' ; then
853         CFLAGS="$CFLAGS -std=gnu99 -D_GNU_SOURCE"
854     elif cc_check '' -std=c99 'for( int i = 0; i < 9; i++ );' ; then
855         CFLAGS="$CFLAGS -std=c99 -D_POSIX_C_SOURCE=200112L -D_BSD_SOURCE"
856     elif ! cc_check '' '' 'for( int i = 0; i < 9; i++ );' ; then
857         die "C99 compiler is needed for compilation."
858     fi
859 fi
860
861 if [ $shared = yes -a \( $ARCH = "X86_64" -o $ARCH = "PPC" -o $ARCH = "ALPHA" -o $ARCH = "ARM" -o $ARCH = "IA64" -o $ARCH = "PARISC" -o $ARCH = "MIPS" -o $ARCH = "AARCH64" \) ] ; then
862     pic="yes"
863 fi
864
865 if [ $compiler = GNU -a \( $ARCH = X86 -o $ARCH = X86_64 \) ] ; then
866     if cc_check '' -mpreferred-stack-boundary=6 ; then
867         CFLAGS="$CFLAGS -mpreferred-stack-boundary=6"
868         stack_alignment=64
869     elif cc_check '' -mpreferred-stack-boundary=5 ; then
870         CFLAGS="$CFLAGS -mpreferred-stack-boundary=5"
871         stack_alignment=32
872     elif [ $stack_alignment -lt 16 ] && cc_check '' -mpreferred-stack-boundary=4 ; then
873         CFLAGS="$CFLAGS -mpreferred-stack-boundary=4"
874         stack_alignment=16
875     fi
876 elif [ $compiler = ICC -a $ARCH = X86 ]; then
877     # icc on linux has various degrees of mod16 stack support
878     if [ $SYS = LINUX ]; then
879         # >= 12 defaults to a mod16 stack
880         if cpp_check "" "" "__INTEL_COMPILER >= 1200" ; then
881             stack_alignment=16
882         # 11 <= x < 12 is capable of keeping a mod16 stack, but defaults to not doing so.
883         elif cpp_check "" "" "__INTEL_COMPILER >= 1100" ; then
884             CFLAGS="$CFLAGS -falign-stack=assume-16-byte"
885             stack_alignment=16
886         fi
887         # < 11 is completely incapable of keeping a mod16 stack
888     fi
889 fi
890
891 if [ $asm = auto -a \( $ARCH = X86 -o $ARCH = X86_64 \) ] ; then
892     if ! as_check "vmovdqa32 [eax]{k1}{z}, zmm0" ; then
893         VER=`($AS --version || echo no assembler) 2>/dev/null | head -n 1`
894         echo "Found $VER"
895         echo "Minimum version is nasm-2.13"
896         echo "If you really want to compile without asm, configure with --disable-asm."
897         exit 1
898     fi
899     cc_check '' '' '__asm__("pabsw %xmm0, %xmm0");' && define HAVE_X86_INLINE_ASM
900     define HAVE_MMX
901 fi
902
903 if [ $asm = auto -a $ARCH = ARM ] ; then
904     # set flags so neon is built by default
905     [ $compiler == CL ] || echo $CFLAGS | grep -Eq '(-mcpu|-march|-mfpu)' || CFLAGS="$CFLAGS -mcpu=cortex-a8 -mfpu=neon"
906
907     cc_check '' '' '__asm__("add r0, r1, r2");' && define HAVE_ARM_INLINE_ASM
908     if [ $compiler = CL ] && cpp_check '' '' 'defined(_M_ARM) && _M_ARM >= 7' ; then
909         define HAVE_ARMV6
910         define HAVE_ARMV6T2
911         define HAVE_NEON
912     elif cc_check '' '' '__asm__("rev ip, ip");' ; then     define HAVE_ARMV6
913         cc_check '' '' '__asm__("movt r0, #0");'         && define HAVE_ARMV6T2
914         cc_check '' '' '__asm__("vadd.i16 q0, q0, q0");' && define HAVE_NEON
915         ASFLAGS="$ASFLAGS -c"
916     else
917         echo "You specified a pre-ARMv6 or Thumb-1 CPU in your CFLAGS."
918         echo "If you really want to run on such a CPU, configure with --disable-asm."
919         exit 1
920     fi
921 fi
922
923 if [ $asm = auto -a $ARCH = AARCH64 ] ; then
924     if  cc_check '' '' '__asm__("cmeq v0.8h, v0.8h, #0");' ; then define HAVE_NEON
925         ASFLAGS="$ASFLAGS -c"
926     else
927         echo "no NEON support, try adding -mfpu=neon to CFLAGS"
928         echo "If you really want to run on such a CPU, configure with --disable-asm."
929         exit 1
930     fi
931 fi
932
933 if [ $asm = auto -a \( $ARCH = ARM -o $ARCH = AARCH64 \) ] ; then
934     # check if the assembler supports '.func' (clang 3.5 does not)
935     as_check ".func test${NL}.endfunc" && define HAVE_AS_FUNC 1
936 fi
937
938 if [ $asm = auto -a $ARCH = MIPS ] ; then
939     if ! echo $CFLAGS | grep -Eq '(-march|-mmsa|-mno-msa)' ; then
940         cc_check '' '-mmsa -mfp64 -mhard-float' && CFLAGS="-mmsa -mfp64 -mhard-float $CFLAGS"
941     fi
942
943     if cc_check '' '' '__asm__("addvi.b $w0, $w1, 1");' ; then
944         define HAVE_MSA
945     else
946         echo "You specified a pre-MSA CPU in your CFLAGS."
947         echo "If you really want to run on such a CPU, configure with --disable-asm."
948         exit 1
949     fi
950 fi
951
952 [ $asm = no ] && AS=""
953 [ "x$AS" = x ] && asm="no" || asm="yes"
954
955 define ARCH_$ARCH
956 define SYS_$SYS
957
958 define STACK_ALIGNMENT $stack_alignment
959 ASFLAGS="$ASFLAGS -DSTACK_ALIGNMENT=$stack_alignment"
960
961 # skip endianness check for Intel Compiler and MSVS, as all supported platforms are little. each have flags that will cause the check to fail as well
962 CPU_ENDIAN="little-endian"
963 if [ $compiler = GNU ]; then
964     echo "int i[2] = {0x42494745,0}; double f[2] = {0x1.0656e6469616ep+102,0};" > conftest.c
965     $CC $CFLAGS conftest.c -c -o conftest.o 2>/dev/null || die "endian test failed"
966     if (${cross_prefix}strings -a conftest.o | grep -q BIGE) && (${cross_prefix}strings -a conftest.o | grep -q FPendian) ; then
967         define WORDS_BIGENDIAN
968         CPU_ENDIAN="big-endian"
969     elif !(${cross_prefix}strings -a conftest.o | grep -q EGIB && ${cross_prefix}strings -a conftest.o | grep -q naidnePF) ; then
970         die "endian test failed"
971     fi
972 fi
973
974 if [ "$cli_libx264" = "system" -a "$shared" != "yes" ] ; then
975     [ "$static" = "yes" ] && die "Option --system-libx264 can not be used together with --enable-static"
976     if $PKGCONFIG --exists x264 2>/dev/null; then
977         X264_LIBS="$($PKGCONFIG --libs x264)"
978         X264_INCLUDE_DIR="${X264_INCLUDE_DIR-$($PKGCONFIG --variable=includedir x264)}"
979         configure_system_override "$X264_INCLUDE_DIR" || die "Detection of system libx264 configuration failed"
980     else
981         die "Can not find system libx264"
982     fi
983 fi
984
985 # autodetect options that weren't forced nor disabled
986
987 libpthread=""
988 if [ "$SYS" = "WINDOWS" -a "$thread" = "posix" ] ; then
989     if [ "$gpl" = "no" ] ; then
990         echo "Warning: pthread-win32 is LGPL and is therefore not supported with --disable-gpl"
991         thread="no"
992     elif cc_check pthread.h -lpthread "pthread_create(0,0,0,0);" ; then
993         libpthread="-lpthread"
994     elif cc_check pthread.h -lpthreadGC2 "pthread_create(0,0,0,0);" ; then
995         libpthread="-lpthreadGC2"
996     elif cc_check pthread.h "-lpthreadGC2 -lwsock32 -DPTW32_STATIC_LIB" "pthread_create(0,0,0,0);" ; then
997         libpthread="-lpthreadGC2 -lwsock32"
998         define PTW32_STATIC_LIB
999     elif cc_check pthread.h "-lpthreadGC2 -lws2_32 -DPTW32_STATIC_LIB" "pthread_create(0,0,0,0);" ; then
1000         libpthread="-lpthreadGC2 -lws2_32"
1001         define PTW32_STATIC_LIB
1002     else
1003         thread="no"
1004     fi
1005 elif [ "$thread" != "no" ] ; then
1006     thread="no"
1007     case $SYS in
1008         BEOS)
1009             thread="beos"
1010             define HAVE_BEOSTHREAD
1011             ;;
1012         WINDOWS)
1013             thread="win32"
1014             define HAVE_WIN32THREAD
1015             ;;
1016         QNX)
1017             cc_check pthread.h -lc "pthread_create(0,0,0,0);" && thread="posix" && libpthread="-lc"
1018             ;;
1019         *)
1020             if cc_check pthread.h -lpthread "pthread_create(0,0,0,0);" ; then
1021                thread="posix"
1022                libpthread="-lpthread"
1023             else
1024                 cc_check pthread.h "" "pthread_create(0,0,0,0);" && thread="posix" && libpthread=""
1025             fi
1026             ;;
1027     esac
1028 fi
1029 if [ "$thread" = "posix" ]; then
1030     LDFLAGS="$LDFLAGS $libpthread"
1031     define HAVE_POSIXTHREAD
1032     if [ "$SYS" = "LINUX" ] && cc_check sched.h "-D_GNU_SOURCE -Werror" "cpu_set_t p_aff; return CPU_COUNT(&p_aff);" ; then
1033         define HAVE_CPU_COUNT
1034     fi
1035 fi
1036 [ "$thread" != "no" ] && define HAVE_THREAD
1037
1038 if cc_check "math.h" "-Werror" "return log2f(2);" ; then
1039     define HAVE_LOG2F
1040 fi
1041
1042 if [ "$SYS" != "WINDOWS" ] && cpp_check "sys/mman.h unistd.h" "" "defined(MAP_PRIVATE)"; then
1043     define HAVE_MMAP
1044 fi
1045
1046 if [ "$SYS" = "LINUX" -a \( "$ARCH" = "X86" -o "$ARCH" = "X86_64" \) ] && cc_check "sys/mman.h" "" "MADV_HUGEPAGE;" ; then
1047     define HAVE_THP
1048 fi
1049
1050 if [ "$cli" = "no" ] ; then
1051     avs="no"
1052     lavf="no"
1053     ffms="no"
1054     gpac="no"
1055     lsmash="no"
1056     mp4="no"
1057     swscale="no"
1058 fi
1059
1060 if [ "$swscale" = "auto" ] ; then
1061     swscale="no"
1062     if $PKGCONFIG --exists libswscale 2>/dev/null; then
1063         SWSCALE_LIBS="$SWSCALE_LIBS $($PKGCONFIG --libs libswscale libavutil)"
1064         SWSCALE_CFLAGS="$SWSCALE_CFLAGS $($PKGCONFIG --cflags libswscale libavutil)"
1065     fi
1066     [ -z "$SWSCALE_LIBS" ] && SWSCALE_LIBS="-lswscale -lavutil"
1067
1068     if cc_check "libswscale/swscale.h" "$SWSCALE_CFLAGS $SWSCALE_LIBS" "sws_init_context(0,0,0);" ; then
1069         if cpp_check "libavutil/pixdesc.h" "$SWSCALE_CFLAGS $SWSCALE_LIBS" "defined(AV_PIX_FMT_FLAG_RGB)" ; then
1070             swscale="yes"
1071         else
1072             echo "Warning: AV_PIX_FMT_FLAG_RGB is missing from libavutil, update for swscale support"
1073         fi
1074     fi
1075 fi
1076
1077 if [ "$lavf" = "auto" ] ; then
1078     lavf="no"
1079     if $PKGCONFIG --exists libavformat libavcodec libswscale 2>/dev/null; then
1080         LAVF_LIBS="$LAVF_LIBS $($PKGCONFIG --libs libavformat libavcodec libavutil libswscale)"
1081         LAVF_CFLAGS="$LAVF_CFLAGS $($PKGCONFIG --cflags libavformat libavcodec libavutil libswscale)"
1082     fi
1083     if [ -z "$LAVF_LIBS" -a -z "$LAVF_CFLAGS" ]; then
1084         LAVF_LIBS="-lavformat"
1085         for lib in -lpostproc -lavcodec -lswscale -lavutil -lm -lz -lbz2 $libpthread -lavifil32 -lws2_32; do
1086             cc_check "" $lib && LAVF_LIBS="$LAVF_LIBS $lib"
1087         done
1088     fi
1089     LAVF_LIBS="-L. $LAVF_LIBS"
1090     if cc_check libavformat/avformat.h "$LAVF_CFLAGS $LAVF_LIBS" "av_frame_free(0);" ; then
1091         if [ "$swscale" = "yes" ]; then
1092             lavf="yes"
1093         else
1094             echo "Warning: libavformat is not supported without swscale support"
1095         fi
1096     fi
1097 fi
1098
1099 if [ "$ffms" = "auto" ] ; then
1100     ffms_major="2"; ffms_minor="21"; ffms_micro="0"; ffms_bump="0"
1101     ffms="no"
1102
1103     if $PKGCONFIG --exists ffms2 2>/dev/null; then
1104         FFMS2_LIBS="$FFMS2_LIBS $($PKGCONFIG --libs ffms2)"
1105         FFMS2_CFLAGS="$FFMS2_CFLAGS $($PKGCONFIG --cflags ffms2)"
1106     fi
1107     [ -z "$FFMS2_LIBS" ] && FFMS2_LIBS="-lffms2"
1108
1109     if cc_check ffms.h "$FFMS2_CFLAGS $FFMS2_LIBS" "FFMS_DestroyVideoSource(0);" ; then
1110         ffms="yes"
1111     elif cc_check ffms.h "$FFMS2_CFLAGS $FFMS2_LIBS -lstdc++ $LAVF_LIBS" "FFMS_DestroyVideoSource(0);" ; then
1112         ffms="yes"
1113         FFMS2_LIBS="$FFMS2_LIBS -lstdc++ $LAVF_LIBS"
1114     fi
1115
1116     error="ffms must be at least version $ffms_major.$ffms_minor.$ffms_micro.$ffms_bump"
1117     if [ $ffms = "yes" ] && ! cpp_check "ffms.h" "$FFMS2_CFLAGS" "FFMS_VERSION >= (($ffms_major << 24) | ($ffms_minor << 16) | ($ffms_micro << 8) | $ffms_bump)" "$error"; then
1118        ffms="no"
1119        echo "Warning: $error"
1120     fi
1121     if [ "$ffms" = "yes" -a "$swscale" = "no" ]; then
1122         echo "Warning: ffms is not supported without swscale support"
1123         ffms="no"
1124     fi
1125 fi
1126
1127 if [ "$swscale" = "yes" ]; then
1128     LDFLAGSCLI="$SWSCALE_LIBS $LDFLAGSCLI"
1129     CFLAGS="$CFLAGS $SWSCALE_CFLAGS"
1130     define HAVE_SWSCALE
1131     if [ "$lavf" = "yes" ]; then
1132         LDFLAGSCLI="$LAVF_LIBS $LDFLAGSCLI"
1133         CFLAGS="$CFLAGS $LAVF_CFLAGS"
1134         define HAVE_LAVF
1135     fi
1136     if [ "$ffms" = "yes" ]; then
1137         LDFLAGSCLI="$FFMS2_LIBS $LDFLAGSCLI"
1138         CFLAGS="$CFLAGS $FFMS2_CFLAGS"
1139         define HAVE_FFMS
1140     fi
1141 fi
1142
1143 if [ "$lsmash" = "auto" ] ; then
1144     lsmash="no"
1145     if $PKGCONFIG --exists liblsmash 2>/dev/null; then
1146         LSMASH_LIBS="$LSMASH_LIBS $($PKGCONFIG --libs liblsmash)"
1147         LSMASH_CFLAGS="$LSMASH_CFLAGS $($PKGCONFIG --cflags liblsmash)"
1148     fi
1149     [ -z "$LSMASH_LIBS" ] && LSMASH_LIBS="-llsmash"
1150
1151     if cc_check lsmash.h "$LSMASH_CFLAGS $LSMASH_LIBS" ; then
1152         if cpp_check lsmash.h "$LSMASH_CFLAGS" "LSMASH_VERSION_MAJOR > 1 || (LSMASH_VERSION_MAJOR == 1 && LSMASH_VERSION_MINOR >= 5)" ; then
1153             lsmash="yes"
1154         else
1155             echo "Warning: lsmash is too old, update to rev.895 or later"
1156         fi
1157     fi
1158 fi
1159
1160 if [ "$gpac" = "auto" -a "$lsmash" != "yes" ] ; then
1161     gpac="no"
1162     GPAC_LIBS="-lgpac_static"
1163     cc_check "" -lz && GPAC_LIBS="$GPAC_LIBS -lz"
1164     if [ "$SYS" = "WINDOWS" ] ; then
1165         cc_check "" -lws2_32 && GPAC_LIBS="$GPAC_LIBS -lws2_32"
1166         cc_check "" -lwinmm && GPAC_LIBS="$GPAC_LIBS -lwinmm"
1167     fi
1168     if cc_check gpac/isomedia.h "$GPAC_LIBS" ; then
1169         if cc_check gpac/isomedia.h "$GPAC_LIBS" "gf_isom_set_pixel_aspect_ratio(0,0,0,0,0);" ; then
1170             gpac="yes"
1171         else
1172             echo "Warning: gpac is too old, update to 2007-06-21 UTC or later"
1173         fi
1174     fi
1175 fi
1176
1177 if [ "$lsmash" = "yes" ] ; then
1178     mp4="lsmash"
1179     LDFLAGSCLI="$LSMASH_LIBS $LDFLAGSCLI"
1180     CFLAGS="$CFLAGS $LSMASH_CFLAGS"
1181     define HAVE_LSMASH
1182 elif [ "$gpac" = "yes" ] ; then
1183     mp4="gpac"
1184     define HAVE_GPAC
1185     LDFLAGSCLI="$GPAC_LIBS $LDFLAGSCLI"
1186 fi
1187
1188 if [ "$avs" = "auto" ] ; then
1189     avs="no"
1190     # cygwin can use avisynth if it can use LoadLibrary
1191     if [ $SYS = WINDOWS ] || ([ $SYS = CYGWIN ] && cc_check windows.h "" "LoadLibraryW(0);") ; then
1192         avs="avisynth"
1193         define HAVE_AVS
1194         define USE_AVXSYNTH 0
1195     elif [ "$SYS" = "LINUX" -o "$SYS" = "MACOSX" ] ; then
1196     # AvxSynth currently only supports Linux and OSX
1197         avs="avxsynth"
1198         define HAVE_AVS
1199         define USE_AVXSYNTH 1
1200         AVS_LIBS="-ldl"
1201         LDFLAGSCLI="$AVS_LIBS $LDFLAGSCLI"
1202     fi
1203 fi
1204
1205 cc_check "stdint.h" "" "uint32_t test_vec __attribute__ ((vector_size (16))) = {0,1,2,3};" && define HAVE_VECTOREXT
1206
1207 if [ "$pic" = "yes" ] ; then
1208     [ "$SYS" != WINDOWS -a "$SYS" != CYGWIN ] && CFLAGS="$CFLAGS -fPIC"
1209     ASFLAGS="$ASFLAGS -DPIC"
1210     # resolve textrels in the x86 asm
1211     cc_check stdio.h "-shared -Wl,-Bsymbolic" && SOFLAGS="$SOFLAGS -Wl,-Bsymbolic"
1212     [ $SYS = SunOS -a "$ARCH" = "X86" ] && SOFLAGS="$SOFLAGS -mimpure-text"
1213 fi
1214
1215 if [ "$debug" != "yes" -a "$gprof" != "yes" ]; then
1216     CFLAGS="$CFLAGS -fomit-frame-pointer"
1217 fi
1218
1219 if [ "$strip" = "yes" ]; then
1220     LDFLAGS="$LDFLAGS -s"
1221 fi
1222
1223 if [ "$debug" = "yes" ]; then
1224     CFLAGS="-O1 -g $CFLAGS"
1225     RCFLAGS="$RCFLAGS -DDEBUG"
1226 else
1227     CFLAGS="-O3 -ffast-math $CFLAGS"
1228     if [ "$lto" = "auto" ] && [ $compiler = GNU ] && cc_check "" "-flto" ; then
1229         lto="yes"
1230         CFLAGS="$CFLAGS -flto"
1231         LDFLAGS="$LDFLAGS -O3 -flto"
1232     fi
1233 fi
1234 [ "$lto" = "auto" ] && lto="no"
1235
1236 if cc_check '' -fno-tree-vectorize ; then
1237     CFLAGS="$CFLAGS -fno-tree-vectorize"
1238 fi
1239
1240 if [ $SYS = WINDOWS -a $ARCH = X86 -a $compiler = GNU ] ; then
1241     # workaround gcc/ld bug with alignment of static variables/arrays that are initialized to zero
1242     cc_check '' -fno-zero-initialized-in-bss && CFLAGS="$CFLAGS -fno-zero-initialized-in-bss"
1243 fi
1244
1245 if cc_check "stdio.h" "" "fseeko(stdin,0,0);" ; then
1246     define fseek fseeko
1247     define ftell ftello
1248 elif cc_check "stdio.h" "" "fseeko64(stdin,0,0);" ; then
1249     define fseek fseeko64
1250     define ftell ftello64
1251 elif cc_check "stdio.h" "" "_fseeki64(stdin,0,0);" ; then
1252     define fseek _fseeki64
1253     define ftell _ftelli64
1254 fi
1255
1256 if cc_check '' -Wshadow ; then
1257     CFLAGS="-Wshadow $CFLAGS"
1258 fi
1259
1260 if cc_check '' -Wmaybe-uninitialized ; then
1261     CFLAGS="-Wno-maybe-uninitialized $CFLAGS"
1262 fi
1263
1264 if [ $compiler = ICC -o $compiler = ICL ] ; then
1265     if cc_check 'extras/intel_dispatcher.h' '' 'x264_intel_dispatcher_override();' ; then
1266         define HAVE_INTEL_DISPATCHER
1267     fi
1268 fi
1269
1270 if [ "$bit_depth" -gt "8" ]; then
1271     define HIGH_BIT_DEPTH
1272     ASFLAGS="$ASFLAGS -DHIGH_BIT_DEPTH=1"
1273     opencl="no"
1274 else
1275     ASFLAGS="$ASFLAGS -DHIGH_BIT_DEPTH=0"
1276 fi
1277
1278 if [ "$chroma_format" != "all" ]; then
1279     define CHROMA_FORMAT CHROMA_$chroma_format
1280 fi
1281
1282 ASFLAGS="$ASFLAGS -DBIT_DEPTH=$bit_depth"
1283
1284 [ $gpl = yes ] && define HAVE_GPL && x264_gpl=1 || x264_gpl=0
1285
1286 [ $interlaced = yes ] && define HAVE_INTERLACED && x264_interlaced=1 || x264_interlaced=0
1287
1288 libdl=""
1289 if [ "$opencl" = "yes" ]; then
1290     opencl="no"
1291     # cygwin can use opencl if it can use LoadLibrary
1292     if [ $SYS = WINDOWS ] || ([ $SYS = CYGWIN ] && cc_check windows.h "" "LoadLibraryW(0);") ; then
1293         opencl="yes"
1294         define HAVE_OPENCL
1295     elif [ "$SYS" = "LINUX" -o "$SYS" = "MACOSX" ] ; then
1296         opencl="yes"
1297         define HAVE_OPENCL
1298         libdl="-ldl"
1299     fi
1300     LDFLAGS="$LDFLAGS $libdl"
1301 fi
1302
1303 #define undefined vars as 0
1304 for var in $CONFIG_HAVE; do
1305     grep -q "HAVE_$var 1" config.h || define HAVE_$var 0
1306 done
1307
1308 # generate exported config file
1309
1310 config_chroma_format="X264_CSP_I$chroma_format"
1311 [ "$config_chroma_format" == "X264_CSP_Iall" ] && config_chroma_format="0"
1312 cat > x264_config.h << EOF
1313 #define X264_BIT_DEPTH     $bit_depth
1314 #define X264_GPL           $x264_gpl
1315 #define X264_INTERLACED    $x264_interlaced
1316 #define X264_CHROMA_FORMAT $config_chroma_format
1317 EOF
1318
1319 ${SRCPATH}/version.sh >> x264_config.h
1320
1321 if [ "$cli_libx264" = "system" ] ; then
1322     if [ "$shared" = "yes" ]; then
1323         CLI_LIBX264='$(SONAME)'
1324     else
1325         CLI_LIBX264=
1326         LDFLAGSCLI="$X264_LIBS $LDFLAGSCLI"
1327         cc_check 'stdint.h x264.h' '' 'x264_encoder_open(0);' || die "System libx264 can't be used for compilation of this version"
1328     fi
1329 else
1330     CLI_LIBX264='$(LIBX264)'
1331 fi
1332
1333 DEPMM="${QPRE}MM"
1334 DEPMT="${QPRE}MT"
1335 if [ $compiler_style = MS ]; then
1336     AR="lib.exe -nologo -out:"
1337     LD="link.exe -out:"
1338     if [ $compiler = ICL ]; then
1339         AR="xi$AR"
1340         LD="xi$LD"
1341     else
1342         mslink="$(dirname "$(command -v cl.exe 2>/dev/null)")/link.exe"
1343         [ -x "$mslink" ] && LD="\"$mslink\" -out:"
1344     fi
1345     HAVE_GETOPT_LONG=0
1346     LDFLAGS="-nologo -incremental:no $(cl_ldflags $LDFLAGS)"
1347     LDFLAGSCLI="$(cl_ldflags $LDFLAGSCLI)"
1348     LIBX264=libx264.lib
1349     RANLIB=
1350     [ -n "$RC" ] && RCFLAGS="$RCFLAGS -nologo -I. -I\$(SRCPATH)/extras -fo"
1351     STRIP=
1352     if [ $debug = yes ]; then
1353         LDFLAGS="-debug $LDFLAGS"
1354         CFLAGS="-D_DEBUG $CFLAGS"
1355     else
1356         CFLAGS="-DNDEBUG $CFLAGS"
1357     fi
1358 else # gcc/icc
1359     DEPMM="$DEPMM -g0"
1360     AR="$AR rc "
1361     LD="$CC -o "
1362     LIBX264=libx264.a
1363     [ -n "$RC" ] && RCFLAGS="$RCFLAGS -I. -o "
1364 fi
1365 [ $compiler != GNU ] && CFLAGS="$(cc_cflags $CFLAGS)"
1366 if [ $compiler = ICC -o $compiler = ICL ]; then
1367     # icc does not define __SSE__ until SSE2 optimization and icl never defines it or _M_IX86_FP
1368     [ \( $ARCH = X86_64 -o $ARCH = X86 \) -a $asm = yes ] && ! cpp_check "" "" "defined(__SSE__)" && define __SSE__
1369     PROF_GEN_CC="${QPRE}prof-gen ${QPRE}prof-dir."
1370     PROF_GEN_LD=
1371     PROF_USE_CC="${QPRE}prof-use ${QPRE}prof-dir."
1372     PROF_USE_LD=
1373 elif [ $compiler = CL ]; then
1374     # Visual Studio
1375     # _M_IX86_FP is only defined on x86
1376     [ $ARCH = X86 ] && cpp_check '' '' '_M_IX86_FP >= 1' && define __SSE__
1377     [ $ARCH = X86_64 ] && define __SSE__
1378     # As long as the cli application can't link against the dll, the dll can not be pgo'd.
1379     # pgds are link flag specific and the -dll flag for creating the dll makes it unshareable with the cli
1380     PROF_GEN_CC="-GL"
1381     PROF_GEN_LD="-LTCG:PGINSTRUMENT"
1382     PROF_USE_CC="-GL"
1383     PROF_USE_LD="-LTCG:PGOPTIMIZE"
1384 else
1385     PROF_GEN_CC="-fprofile-generate"
1386     PROF_GEN_LD="-fprofile-generate"
1387     PROF_USE_CC="-fprofile-use"
1388     PROF_USE_LD="-fprofile-use"
1389 fi
1390
1391 # generate config files
1392
1393 cat > config.mak << EOF
1394 SRCPATH=$SRCPATH
1395 prefix=$prefix
1396 exec_prefix=$exec_prefix
1397 bindir=$bindir
1398 libdir=$libdir
1399 includedir=$includedir
1400 SYS_ARCH=$ARCH
1401 SYS=$SYS
1402 CC=$CC
1403 CFLAGS=$CFLAGS
1404 COMPILER=$compiler
1405 COMPILER_STYLE=$compiler_style
1406 DEPMM=$DEPMM
1407 DEPMT=$DEPMT
1408 LD=$LD
1409 LDFLAGS=$LDFLAGS
1410 LIBX264=$LIBX264
1411 AR=$AR
1412 RANLIB=$RANLIB
1413 STRIP=$STRIP
1414 INSTALL=$INSTALL
1415 AS=$AS
1416 ASFLAGS=$ASFLAGS
1417 RC=$RC
1418 RCFLAGS=$RCFLAGS
1419 EXE=$EXE
1420 HAVE_GETOPT_LONG=$HAVE_GETOPT_LONG
1421 DEVNULL=$DEVNULL
1422 PROF_GEN_CC=$PROF_GEN_CC
1423 PROF_GEN_LD=$PROF_GEN_LD
1424 PROF_USE_CC=$PROF_USE_CC
1425 PROF_USE_LD=$PROF_USE_LD
1426 HAVE_OPENCL=$opencl
1427 EOF
1428
1429 if [ $compiler_style = MS ]; then
1430     echo '%.o: %.c' >> config.mak
1431     echo '      $(CC) $(CFLAGS) -c -Fo$@ $<' >> config.mak
1432 fi
1433
1434 if [ "$cli" = "yes" ]; then
1435     echo 'default: cli' >> config.mak
1436     echo 'install: install-cli' >> config.mak
1437 fi
1438
1439 if [ "$shared" = "yes" ]; then
1440     API=$(grep '#define X264_BUILD' < ${SRCPATH}/x264.h | cut -f 3 -d ' ')
1441     if [ "$SYS" = "WINDOWS" -o "$SYS" = "CYGWIN" ]; then
1442         echo "SONAME=libx264-$API.dll" >> config.mak
1443         if [ $compiler_style = MS ]; then
1444             echo 'IMPLIBNAME=libx264.dll.lib' >> config.mak
1445             # GNU ld on windows defaults to exporting all global functions if there are no explicit __declspec(dllexport) declarations
1446             # MSVC link does not act similarly, so it is required to make an export definition out of x264.h and use it at link time
1447             echo "SOFLAGS=-dll -def:x264.def -implib:\$(IMPLIBNAME) $SOFLAGS" >> config.mak
1448             echo "EXPORTS" > x264.def
1449             # export API functions
1450             grep "^\(int\|void\|x264_t\).*x264" ${SRCPATH}/x264.h | sed -e "s/.*\(x264.*\)(.*/\1/;s/open/open_$API/g" >> x264.def
1451             # export API variables/data. must be flagged with the DATA keyword
1452             grep "extern.*x264" ${SRCPATH}/x264.h | sed -e "s/.*\(x264\w*\)\W.*/\1 DATA/;" >> x264.def
1453         else
1454             echo 'IMPLIBNAME=libx264.dll.a' >> config.mak
1455             echo "SOFLAGS=-shared -Wl,--out-implib,\$(IMPLIBNAME) $SOFLAGS" >> config.mak
1456         fi
1457     elif [ "$SYS" = "MACOSX" ]; then
1458         echo "SOSUFFIX=dylib" >> config.mak
1459         echo "SONAME=libx264.$API.dylib" >> config.mak
1460         echo "SOFLAGS=-shared -dynamiclib -Wl,-single_module -Wl,-read_only_relocs,suppress -install_name \$(DESTDIR)\$(libdir)/\$(SONAME) $SOFLAGS" >> config.mak
1461     elif [ "$SYS" = "SunOS" ]; then
1462         echo "SOSUFFIX=so" >> config.mak
1463         echo "SONAME=libx264.so.$API" >> config.mak
1464         echo "SOFLAGS=-shared -Wl,-h,\$(SONAME) $SOFLAGS" >> config.mak
1465     else
1466         echo "SOSUFFIX=so" >> config.mak
1467         echo "SONAME=libx264.so.$API" >> config.mak
1468         echo "SOFLAGS=-shared -Wl,-soname,\$(SONAME) $SOFLAGS" >> config.mak
1469     fi
1470     echo 'default: lib-shared' >> config.mak
1471     echo 'install: install-lib-shared' >> config.mak
1472 fi
1473
1474 if [ "$static" = "yes" ]; then
1475     echo 'default: lib-static' >> config.mak
1476     echo 'install: install-lib-static' >> config.mak
1477 fi
1478
1479 echo "LDFLAGSCLI = $LDFLAGSCLI" >> config.mak
1480 echo "CLI_LIBX264 = $CLI_LIBX264" >> config.mak
1481
1482 cat > x264.pc << EOF
1483 prefix=$prefix
1484 exec_prefix=$exec_prefix
1485 libdir=$libdir
1486 includedir=$includedir
1487
1488 Name: x264
1489 Description: H.264 (MPEG4 AVC) encoder library
1490 Version: $(grep POINTVER < x264_config.h | sed -e 's/.* "//; s/".*//')
1491 Libs: -L$libdir -lx264 $([ "$shared" = "yes" ] || echo $libpthread $libm $libdl)
1492 Libs.private: $([ "$shared" = "yes" ] && echo $libpthread $libm $libdl)
1493 Cflags: -I$includedir
1494 EOF
1495
1496 filters="crop select_every"
1497 gpl_filters=""
1498 [ $swscale = yes ] && filters="resize $filters"
1499 [ $gpl = yes ] && filters="$filters $gpl_filters"
1500
1501 cat > conftest.log <<EOF
1502 platform:      $ARCH
1503 byte order:    $CPU_ENDIAN
1504 system:        $SYS
1505 cli:           $cli
1506 libx264:       $cli_libx264
1507 shared:        $shared
1508 static:        $static
1509 asm:           $asm
1510 interlaced:    $interlaced
1511 avs:           $avs
1512 lavf:          $lavf
1513 ffms:          $ffms
1514 mp4:           $mp4
1515 gpl:           $gpl
1516 thread:        $thread
1517 opencl:        $opencl
1518 filters:       $filters
1519 lto:           $lto
1520 debug:         $debug
1521 gprof:         $gprof
1522 strip:         $strip
1523 PIC:           $pic
1524 bit depth:     $bit_depth
1525 chroma format: $chroma_format
1526 EOF
1527
1528 echo >> config.log
1529 cat conftest.log >> config.log
1530 cat conftest.log
1531
1532 [ "$SRCPATH" != "." ] && ln -sf ${SRCPATH}/Makefile ./Makefile
1533 mkdir -p common/{aarch64,arm,mips,ppc,x86} encoder extras filters/video input output tools
1534
1535 echo
1536 echo "You can run 'make' or 'make fprofiled' now."
1537