avfilter/vf_gblur: fix undefined behaviour
authorPaul B Mahol <onemda@gmail.com>
Wed, 16 Oct 2019 17:21:00 +0000 (19:21 +0200)
committerPaul B Mahol <onemda@gmail.com>
Wed, 16 Oct 2019 17:29:56 +0000 (19:29 +0200)
Fixes #8292

libavfilter/vf_gblur.c

index 9b3e168..803d3e3 100644 (file)
@@ -157,6 +157,7 @@ static int filter_postscale(AVFilterContext *ctx, void *arg, int jobnr, int nb_j
 {
     GBlurContext *s = ctx->priv;
     ThreadData *td = arg;
+    const float max = (1 << s->depth) - 1;
     const int height = td->height;
     const int width = td->width;
     const int64_t numpixels = width * (int64_t)height;
@@ -166,8 +167,10 @@ static int filter_postscale(AVFilterContext *ctx, void *arg, int jobnr, int nb_j
     float *buffer = s->buffer;
     unsigned i;
 
-    for (i = slice_start; i < slice_end; i++)
+    for (i = slice_start; i < slice_end; i++) {
         buffer[i] *= postscale;
+        buffer[i] = av_clipf(buffer[i], 0.f, max);
+    }
 
     return 0;
 }