lavu,lavfi,lavd: do not hardcode AV_PIX_FMT_NB value when setting pixel format max...
authorStefano Sabatini <stefasab@gmail.com>
Mon, 16 Dec 2013 15:11:49 +0000 (16:11 +0100)
committerStefano Sabatini <stefasab@gmail.com>
Thu, 26 Dec 2013 10:35:27 +0000 (11:35 +0100)
commit3b8c7da7a36d30f8184976ea2158b534595e7738
tree5a8cada9925480d5568c1feff33513e58319a7bf
parent55f046be1193142536198957d1701d18881d3b7a
lavu,lavfi,lavd: do not hardcode AV_PIX_FMT_NB value when setting pixel format max value

The constant may change in libavutil but the library may be compiled
against an older version, thus rejecting a value which is otherwise
supported by the new libavutil.

INT_MAX is used here to denote the max allowed value for a pixel format.

The opt-test code is changed to provide a valid reference example.
libavdevice/dshow.c
libavfilter/vf_mergeplanes.c
libavutil/opt.c