aacenc: Fix determination of Mid/Side Mode.
authorNathan Caldwell <saintdev@gmail.com>
Wed, 29 Jun 2011 03:11:39 +0000 (21:11 -0600)
committerAlex Converse <alex.converse@gmail.com>
Wed, 29 Jun 2011 21:28:53 +0000 (14:28 -0700)
In adjust_frame_information(), msc is incremented for each sfb in each
sub-window then compared against max_sfb which is for a single sub-window.

This resulted in frames using EIGHT_SHORT_SEQUENCE where the first few
sub-windows increment msc to a value that results in ms_mode == 2. Even
though only some of the bands are actually using Mid/Side.

libavcodec/aacenc.c

index dd8a83c..eae9332 100644 (file)
@@ -364,7 +364,7 @@ static void adjust_frame_information(AACEncContext *apc, ChannelElement *cpe, in
         if (msc == 0 || ics0->max_sfb == 0)
             cpe->ms_mode = 0;
         else
-            cpe->ms_mode = msc < ics0->max_sfb ? 1 : 2;
+            cpe->ms_mode = msc < ics0->max_sfb * ics0->num_windows ? 1 : 2;
     }
 }