pixdesc: Improve scoring for opaque/unknown pixel formats
authorMark Thompson <sw@jkqxz.net>
Thu, 6 Jul 2017 21:50:35 +0000 (22:50 +0100)
committerMark Thompson <sw@jkqxz.net>
Tue, 18 Jul 2017 21:56:30 +0000 (22:56 +0100)
commit8a442d7a8a687a469ca502a18a0c68f5302b15e0
treef34ed208ddd1198a9ffef3d348a7bbdde5af4d16
parent5b8a708492f84ab49bcf9f694c50ac87cbdcc21b
pixdesc: Improve scoring for opaque/unknown pixel formats

Hardware pixel formats do not tell you anything about their actual
contents, but should still score higher than formats with completely
unknown properties, which in turn should score higher than invalid
formats.

Do not return an AVERROR code as a score.

Fixes a hang in libavfilter where format negotiation gets stuck in a
loop because AV_PIX_FMT_NONE scores more highly than all other
possibilities.
libavutil/pixdesc.c