Use -fno-tree-vectorize to avoid miscompilation
authorJason Garrett-Glaser <darkshikari@gmail.com>
Tue, 22 Jun 2010 21:20:46 +0000 (14:20 -0700)
committerJason Garrett-Glaser <darkshikari@gmail.com>
Thu, 24 Jun 2010 00:41:55 +0000 (17:41 -0700)
Some versions of gcc have been reported to attempt (and fail) to vectorize a loop in plane_expand_border.
This results in a segfault, so to limit the possible effects of gcc's utter incompetence, we're turning off vectorization entirely.
It's not like it ever did anything useful to begin with.

configure

index 3a38cb5..24d15ad 100755 (executable)
--- a/configure
+++ b/configure
@@ -628,6 +628,10 @@ else
     CFLAGS="-O3 -ffast-math $CFLAGS"
 fi
 
+if cc_check '' -fno-tree-vectorize ; then
+    CFLAGS="$CFLAGS -fno-tree-vectorize"
+fi
+
 if cc_check "stdio.h" "" "fseeko(stdin,0,0);" ; then
     define fseek fseeko
     define ftell ftello