avfilter/vf_convolution: unbreak roberts filter
authorPaul B Mahol <onemda@gmail.com>
Thu, 3 May 2018 09:26:40 +0000 (11:26 +0200)
committerPaul B Mahol <onemda@gmail.com>
Thu, 3 May 2018 09:29:51 +0000 (11:29 +0200)
Signed-off-by: Paul B Mahol <onemda@gmail.com>
libavfilter/vf_convolution.c

index 2fa030d..f973e48 100644 (file)
@@ -165,8 +165,8 @@ static void filter16_roberts(uint8_t *dstp, const uint8_t *src, int width,
     int x;
 
     for (x = 0; x < width; x++) {
-        int suma = AV_RN16A(&c[0][2 * x]) *  1 + AV_RN16A(&c[4][2 * x]) * -1;
-        int sumb = AV_RN16A(&c[1][2 * x]) *  1 + AV_RN16A(&c[3][2 * x]) * -1;
+        int suma = AV_RN16A(&c[0][2 * x]) *  1 + AV_RN16A(&c[1][2 * x]) * -1;
+        int sumb = AV_RN16A(&c[4][2 * x]) *  1 + AV_RN16A(&c[3][2 * x]) * -1;
 
         dst[x] = av_clip(sqrt(suma*suma + sumb*sumb) * scale + delta, 0, peak);
     }
@@ -215,8 +215,8 @@ static void filter_roberts(uint8_t *dst, const uint8_t *src, int width,
     int x;
 
     for (x = 0; x < width; x++) {
-        int suma = c[0][x - 1] *  1 + c[4][x    ] * -1;
-        int sumb = c[1][x    ] *  1 + c[3][x - 1] * -1;
+        int suma = c[0][x] *  1 + c[1][x] * -1;
+        int sumb = c[4][x] *  1 + c[3][x] * -1;
 
         dst[x] = av_clip_uint8(sqrt(suma*suma + sumb*sumb) * scale + delta);
     }