avfilter: check malloc return values.