LICENSE.md: add *_rect filters
[ffmpeg.git] / libavfilter / vf_histogram.c
index 34656b5..31004b7 100644 (file)
@@ -37,7 +37,7 @@ enum HistogramMode {
 
 typedef struct HistogramContext {
     const AVClass *class;               ///< AVClass context for log and options purpose
-    enum HistogramMode mode;
+    int mode;                           ///< HistogramMode
     unsigned       histogram[256];
     int            ncomp;
     const uint8_t  *bg_color;
@@ -105,6 +105,7 @@ static int query_formats(AVFilterContext *ctx)
 {
     HistogramContext *h = ctx->priv;
     const enum AVPixelFormat *pix_fmts;
+    AVFilterFormats *fmts_list;
 
     switch (h->mode) {
     case MODE_WAVEFORM:
@@ -121,9 +122,10 @@ static int query_formats(AVFilterContext *ctx)
         av_assert0(0);
     }
 
-    ff_set_common_formats(ctx, ff_make_format_list(pix_fmts));
-
-    return 0;
+    fmts_list = ff_make_format_list(pix_fmts);
+    if (!fmts_list)
+        return AVERROR(ENOMEM);
+    return ff_set_common_formats(ctx, fmts_list);
 }
 
 static const uint8_t black_yuva_color[4] = { 0, 127, 127, 255 };