lavfi/gradfun: reduce up limit for threshold.
authorClément Bœsch <ubitux@gmail.com>
Tue, 18 Dec 2012 20:44:51 +0000 (21:44 +0100)
committerClément Bœsch <ubitux@gmail.com>
Wed, 19 Dec 2012 02:13:26 +0000 (03:13 +0100)
commit3bdd70fc661feaf915ae438e05f66cce75334673
tree43fe01862cc4b47b4b008d75aae067d7e429d35a
parent63e1fc25884fe7cf3f66a8b99602ca98a47fb763
lavfi/gradfun: reduce up limit for threshold.

This will prevent an overflow in the SSSE3 and MMX filter_line code:
delta is expressed as an u16 being shifted by 2 to the left. If it
overflows, having a strength not above 64 will make sure that m is set
to 0 (making the m*m*delta >> 14 expression void).

A value above 64 should not make any sense unless gradfun is used as a
blur filter.
doc/filters.texi
libavfilter/version.h
libavfilter/vf_gradfun.c