avfilter/delogo: Fix show option when band is small
authorJean Delvare <jdelvare@suse.de>
Mon, 28 Sep 2015 08:18:06 +0000 (10:18 +0200)
committerMichael Niedermayer <michael@niedermayer.cc>
Mon, 28 Sep 2015 11:23:47 +0000 (13:23 +0200)
commit3e5b02bdb8e5b35564893e6618c217e4c949c743
tree56ba072debba714be493f8921c96665b2e23d0bb
parent578f721f5dcf5577e0b06447082497319ccb7a39
avfilter/delogo: Fix show option when band is small

The code assumed that the outermost interpolated pixels were always in
the fuzzy area defined by the band option. However if the band value
is small, there may be no fuzzy area on a given plane. In that case,
option show did not work, no rectangle was drawn (or only on the luma
plane, depending on the band value and chroma plane subsampling
factors.)

Fix the problem by not making any assumption on where the outermost
interpolated pixels will be.

The new code was verified to produce the same result as the original
code when the band value is not small.

Signed-off-by: Jean Delvare <jdelvare@suse.de>
Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>
libavfilter/vf_delogo.c