lavfi/gradfun: remove rounding to match C and SSE code.
authorClément Bœsch <ubitux@gmail.com>
Thu, 6 Dec 2012 23:41:04 +0000 (00:41 +0100)
committerClément Bœsch <ubitux@gmail.com>
Wed, 19 Dec 2012 02:13:25 +0000 (03:13 +0100)
There is no noticable benefit for such precision.

libavfilter/x86/gradfun.c

index be3e6a9..214e764 100644 (file)
@@ -136,9 +136,9 @@ static void gradfun_filter_line_ssse3(uint8_t *dst, const uint8_t *src, const ui
         "psubw      %%xmm6, %%xmm2 \n"
         "pminsw     %%xmm7, %%xmm2 \n" // m = -max(0, 127-m)
         "pmullw     %%xmm2, %%xmm2 \n"
-        "psllw          $1, %%xmm2 \n"
+        "psllw          $2, %%xmm1 \n"
         "paddw      %%xmm4, %%xmm0 \n" // pix += dither
-        "pmulhrsw   %%xmm2, %%xmm1 \n" // m = m*m*delta >> 14
+        "pmulhw     %%xmm2, %%xmm1 \n" // m = m*m*delta >> 14
         "paddw      %%xmm1, %%xmm0 \n" // pix += m
         "psraw          $7, %%xmm0 \n"
         "packuswb   %%xmm0, %%xmm0 \n"