lxfdec: use AVERROR(ENOMEM) instead of deprecated AVERROR_NOMEM.