avcodec/imgconvert: Fix loss mask bug in avcodec_find_best_pix_fmt_of_list()
authorheimdallr <heimdallr@ngs.ru>
Sat, 31 Mar 2018 12:37:23 +0000 (19:37 +0700)
committerMichael Niedermayer <michael@niedermayer.cc>
Thu, 12 Apr 2018 22:35:15 +0000 (00:35 +0200)
commit3f949b7a6461679204159eb7a9fbcd206484649b
tree4921d11c40de25fcc6702fd3e9bc82a004c7a01a
parent49336482fd04541623e9418264644dd80640dbfe
avcodec/imgconvert: Fix loss mask bug in avcodec_find_best_pix_fmt_of_list()

example:

AVPixelFormat pixFmts[] = { AV_PIX_FMT_RGB24, AV_PIX_FMT_RGBA };
int loss = 0;
AVPixelFormat best = avcodec_find_best_pix_fmt_of_list(pixFmts, AV_PIX_FMT_BGRA, 1, &loss);

best is AV_PIX_FMT_RGB24. But AV_PIX_FMT_RGBA is better.

Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>
(cherry picked from commit 354b26a3945eadd4ed8fcd801dfefad2566241de)
Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>
libavcodec/imgconvert.c