lavu/opt: apply range checks also when setting format string value
authorStefano Sabatini <stefasab@gmail.com>
Mon, 16 Dec 2013 14:02:56 +0000 (15:02 +0100)
committerStefano Sabatini <stefasab@gmail.com>
Thu, 26 Dec 2013 10:35:27 +0000 (11:35 +0100)
Previously when setting a pixel/sample format as a string range checks
were not performed. This is consistent with the
av_opt_set_pixel/sample_fmt() interface.

libavutil/opt.c

index b625756..0eaa8b5 100644 (file)
@@ -298,7 +298,7 @@ static int set_string_color(void *obj, const AVOption *o, const char *val, uint8
 static int set_string_fmt(void *obj, const AVOption *o, const char *val, uint8_t *dst,
                           int fmt_nb, int ((*get_fmt)(const char *)), const char *desc)
 {
-    int fmt;
+    int fmt, min, max;
 
     if (!val || !strcmp(val, "none")) {
         fmt = -1;
@@ -315,6 +315,16 @@ static int set_string_fmt(void *obj, const AVOption *o, const char *val, uint8_t
         }
     }
 
+    min = FFMAX(o->min, -1);
+    max = FFMIN(o->max, fmt_nb-1);
+
+    if (fmt < min || fmt > max) {
+        av_log(obj, AV_LOG_ERROR,
+               "Value %d for parameter '%s' out of %s format range [%d - %d]\n",
+               fmt, o->name, desc, min, max);
+        return AVERROR(ERANGE);
+    }
+
     *(int *)dst = fmt;
     return 0;
 }