opusenc_psy: disable stereo searches for mono streams
authorRostislav Pehlivanov <atomnuker@gmail.com>
Thu, 4 Jan 2018 02:52:40 +0000 (02:52 +0000)
committerRostislav Pehlivanov <atomnuker@gmail.com>
Thu, 4 Jan 2018 02:52:40 +0000 (02:52 +0000)
Fixes a crash which happened when someone tried to encode mono.

Signed-off-by: Rostislav Pehlivanov <atomnuker@gmail.com>
libavcodec/opusenc_psy.c

index 50890c6..b712603 100644 (file)
@@ -383,6 +383,10 @@ static void celt_search_for_dual_stereo(OpusPsyContext *s, CeltFrame *f)
 {
     float td1, td2;
     f->dual_stereo = 0;
+
+    if (s->avctx->channels < 2)
+        return;
+
     bands_dist(s, f, &td1);
     f->dual_stereo = 1;
     bands_dist(s, f, &td2);
@@ -396,6 +400,9 @@ static void celt_search_for_intensity(OpusPsyContext *s, CeltFrame *f)
     int i, best_band = CELT_MAX_BANDS - 1;
     float dist, best_dist = FLT_MAX;
 
+    if (s->avctx->channels < 2)
+        return;
+
     /* TODO: fix, make some heuristic up here using the lambda value */
     float end_band = 0;