Original Commit: r64 | ods15 | 2006-09-25 18:39:30 +0300 (Mon, 25 Sep 2006) | 2 lines
[ffmpeg.git] / libavcodec / vorbis_enc.c
index 33a8ca4..cedaec9 100644 (file)
@@ -59,6 +59,13 @@ typedef struct {
     int * books;
 } floor_class_t;
 
+typedef struct {
+    int x;
+    int low;
+    int high;
+    int sort;
+} floor_entry_t;
+
 typedef struct {
     int partitions;
     int * partition_to_class;
@@ -67,7 +74,7 @@ typedef struct {
     int multiplier;
     int rangebits;
     int values;
-    struct { int x; } * list;
+    floor_entry_t * list;
 } floor_t;
 
 typedef struct {
@@ -127,6 +134,8 @@ typedef struct {
     uint8_t * buf_ptr;
 } PutBitContext;
 
+#define ilog(i) av_log2(2*(i))
+
 static inline void init_put_bits(PutBitContext * pb, uint8_t * buf, int buffer_len) {
     pb->total = buffer_len * 8;
     pb->total_pos = 0;
@@ -187,7 +196,11 @@ static void ready_codebook(codebook_t * cb) {
         cb_entry_t * e = &cb->entries[i];
         int j = 0;
         if (h[0]) h[0] = 0;
-        else for (j = e->len; !h[j]; j--) assert(j);
+        else {
+            for (j = e->len; j; j--)
+                if (h[j]) break;
+            assert(j);
+        }
         e->codeword = h[j];
         h[j] = 0;
         for (j++; j <= e->len; j++) h[j] = e->codeword | (1 << (j - 1));
@@ -216,6 +229,36 @@ static void ready_codebook(codebook_t * cb) {
 
 }
 
+static void ready_floor(floor_t * fc) {
+    int i;
+    fc->list[0].sort = 0;
+    fc->list[1].sort = 1;
+    for (i = 2; i < fc->values; i++) {
+        int j;
+        fc->list[i].low = 0;
+        fc->list[i].high = 1;
+        fc->list[i].sort = i;
+        for (j = 2; j < i; j++) {
+            int tmp = fc->list[j].x;
+            if (tmp < fc->list[i].x) {
+                if (tmp > fc->list[fc->list[i].low].x) fc->list[i].low = j;
+            } else {
+                if (tmp < fc->list[fc->list[i].high].x) fc->list[i].high = j;
+            }
+        }
+    }
+    for (i = 0; i < fc->values - 1; i++) {
+        int j;
+        for (j = i + 1; j < fc->values; j++) {
+            if (fc->list[fc->list[i].sort].x > fc->list[fc->list[j].sort].x) {
+                int tmp = fc->list[i].sort;
+                fc->list[i].sort = fc->list[j].sort;
+                fc->list[j].sort = tmp;
+            }
+        }
+    }
+}
+
 static void create_vorbis_context(venc_context_t * venc, AVCodecContext * avccontext) {
     codebook_t * cb;
     floor_t * fc;
@@ -232,9 +275,9 @@ static void create_vorbis_context(venc_context_t * venc, AVCodecContext * avccon
 
     // codebook 0 - floor1 book, values 0..255
     cb = &venc->codebooks[0];
-    cb->nentries = 256;
+    cb->nentries = 512;
     cb->entries = av_malloc(sizeof(cb_entry_t) * cb->nentries);
-    for (i = 0; i < cb->nentries; i++) cb->entries[i].len = 8;
+    for (i = 0; i < cb->nentries; i++) cb->entries[i].len = 9;
     cb->ndimentions = 0;
     cb->min = 0.;
     cb->delta = 0.;
@@ -243,12 +286,12 @@ static void create_vorbis_context(venc_context_t * venc, AVCodecContext * avccon
     cb->quantlist = NULL;
     ready_codebook(cb);
 
-    // codebook 1 - residue classbook, values 0..1, dimentions 200
+    // codebook 1 - residue classbook, values 0..1, dimentions 4
     cb = &venc->codebooks[1];
     cb->nentries = 2;
     cb->entries = av_malloc(sizeof(cb_entry_t) * cb->nentries);
     for (i = 0; i < cb->nentries; i++) cb->entries[i].len = 1;
-    cb->ndimentions = 200;
+    cb->ndimentions = 4;
     cb->min = 0.;
     cb->delta = 0.;
     cb->seq_p = 0;
@@ -266,7 +309,7 @@ static void create_vorbis_context(venc_context_t * venc, AVCodecContext * avccon
         cb->delta = 1 << ((7 - book) * 2);
         cb->min = -cb->delta*2;
         cb->seq_p = 0;
-        cb->lookup = 2;
+        cb->lookup = 1;
         cb->quantlist = av_malloc(sizeof(int) * cb_lookup_vals(cb->lookup, cb->ndimentions, cb->nentries));
         for (i = 0; i < cb->nentries; i++) cb->quantlist[i] = i;
         ready_codebook(cb);
@@ -293,16 +336,24 @@ static void create_vorbis_context(venc_context_t * venc, AVCodecContext * avccon
         for (j = 0; j < books; j++) c->books[j] = 0;
     }
     fc->multiplier = 1;
-    fc->rangebits = venc->blocksize[0];
+    fc->rangebits = venc->blocksize[0] - 1;
 
     fc->values = 2;
     for (i = 0; i < fc->partitions; i++)
         fc->values += fc->classes[fc->partition_to_class[i]].dim;
 
-    fc->list = av_malloc(sizeof(*fc->list) * fc->values);
+    fc->list = av_malloc(sizeof(floor_entry_t) * fc->values);
     fc->list[0].x = 0;
     fc->list[1].x = 1 << fc->rangebits;
-    for (i = 2; i < fc->values; i++) fc->list[i].x = i * 5;
+    for (i = 2; i < fc->values; i++) {
+        int a = i - 1;
+        int g = ilog(a);
+        assert(g <= fc->rangebits);
+        a ^= 1 << (g-1);
+        g = 1 << (fc->rangebits - g);
+        fc->list[i].x = g + a*2*g;
+    }
+    ready_floor(fc);
 
     venc->nresidues = 1;
     venc->residues = av_malloc(sizeof(residue_t) * venc->nresidues);
@@ -311,12 +362,16 @@ static void create_vorbis_context(venc_context_t * venc, AVCodecContext * avccon
     rc = &venc->residues[0];
     rc->type = 0;
     rc->begin = 0;
-    rc->end = 1 << venc->blocksize[0];
+    rc->end = 1 << (venc->blocksize[0] - 1);
     rc->partition_size = 64;
-    rc->classifications = 1;
+    rc->classifications = 2;
     rc->classbook = 1;
     rc->books = av_malloc(sizeof(int[8]) * rc->classifications);
-    for (i = 0; i < 8; i++) rc->books[0][i] = 2 + i;
+    for (i = 0; i < rc->classifications; i++) {
+        int j;
+        for (j = 0; j < 8; j++) rc->books[i][j] = 2 + j;
+        rc->books[i][0] = rc->books[i][1] = rc->books[i][2] = rc->books[i][3] = -1;
+    }
 
     venc->nmappings = 1;
     venc->mappings = av_malloc(sizeof(mapping_t) * venc->nmappings);
@@ -356,12 +411,6 @@ static void create_vorbis_context(venc_context_t * venc, AVCodecContext * avccon
     ff_mdct_init(&venc->mdct[1], venc->blocksize[1], 0);
 }
 
-static inline int ilog(unsigned int a) {
-    int i;
-    for (i = 0; a >> i; i++);
-    return i;
-}
-
 static void put_float(PutBitContext * pb, float f) {
     int exp, mant;
     uint32_t res = 0;
@@ -386,7 +435,7 @@ static void put_codebook_header(PutBitContext * pb, codebook_t * cb) {
     put_bits(pb, 1, ordered);
     if (ordered) {
         int len = cb->entries[0].len;
-        put_bits(pb, 5, len);
+        put_bits(pb, 5, len - 1);
         i = 0;
         while (i < cb->nentries) {
             int j;
@@ -465,7 +514,7 @@ static void put_residue_header(PutBitContext * pb, residue_t * rc) {
 
     for (i = 0; i < rc->classifications; i++) {
         int j, tmp = 0;
-        for (j = 0; j < 8; j++) tmp |= (!!rc->books[i][j]) << j;
+        for (j = 0; j < 8; j++) tmp |= (rc->books[i][j] != -1) << j;
 
         put_bits(pb, 3, tmp & 7);
         put_bits(pb, 1, tmp > 7);
@@ -476,7 +525,7 @@ static void put_residue_header(PutBitContext * pb, residue_t * rc) {
     for (i = 0; i < rc->classifications; i++) {
         int j;
         for (j = 0; j < 8; j++)
-            if (rc->books[i][j])
+            if (rc->books[i][j] != -1)
                 put_bits(pb, 8, rc->books[i][j]);
     }
 }
@@ -594,88 +643,142 @@ static int put_main_header(venc_context_t * venc, uint8_t ** out) {
     return p - *out;
 }
 
-static int vorbis_encode_init(AVCodecContext * avccontext)
-{
-    venc_context_t * venc = avccontext->priv_data;
-
-    create_vorbis_context(venc, avccontext);
-
-    //if (avccontext->flags & CODEC_FLAG_QSCALE) avccontext->global_quality / (float)FF_QP2LAMBDA); else avccontext->bit_rate;
-    //if(avccontext->cutoff > 0) cfreq = avccontext->cutoff / 1000.0;
-
-    avccontext->extradata_size = put_main_header(venc, (uint8_t**)&avccontext->extradata);
-
-    avccontext->frame_size = 1 << (venc->blocksize[0] - 1);
-
-    avccontext->coded_frame = avcodec_alloc_frame();
-    avccontext->coded_frame->key_frame = 1;
-
-    return 0;
+static void floor_fit(venc_context_t * venc, floor_t * fc, float * coeffs, int * posts, int samples) {
+    int range = 255 / fc->multiplier + 1;
+    int i;
+    for (i = 0; i < fc->values; i++) {
+        int position = fc->list[fc->list[i].sort].x;
+        int begin = fc->list[fc->list[FFMAX(i-1, 0)].sort].x;
+        int end   = fc->list[fc->list[FFMIN(i+1, fc->values - 1)].sort].x;
+        int j;
+        float average = 0;
+        begin = (position + begin) / 2;
+        end   = (position + end  ) / 2;
+
+        assert(end <= samples);
+        for (j = begin; j < end; j++) average += fabs(coeffs[j]);
+        average /= end - begin;
+        average /= 64; // MAGIC!
+        for (j = 0; j < range; j++) if (floor1_inverse_db_table[j * fc->multiplier] > average) break;
+        posts[fc->list[i].sort] = j;
+    }
 }
 
-static int window(venc_context_t * venc, signed short * audio, int samples) {
-    int i, j, channel;
-    const float * win = venc->win[0];
-    int window_len = 1 << (venc->blocksize[0] - 1);
-    // FIXME use dsp
-
-    if (!venc->have_saved && !samples) return 0;
+static int render_point(int x0, int y0, int x1, int y1, int x) {
+    return y0 +  (x - x0) * (y1 - y0) / (x1 - x0);
+}
 
-    if (venc->have_saved) {
-        for (channel = 0; channel < venc->channels; channel++) {
-            memcpy(venc->samples + channel*window_len*2, venc->saved + channel*window_len, sizeof(float)*window_len);
-        }
-    } else {
-        for (channel = 0; channel < venc->channels; channel++) {
-            memset(venc->samples + channel*window_len*2, 0, sizeof(float)*window_len);
+static void render_line(int x0, int y0, int x1, int y1, float * buf, int n) {
+    int dy = y1 - y0;
+    int adx = x1 - x0;
+    int ady = FFMAX(dy, -dy);
+    int base = dy / adx;
+    int x = x0;
+    int y = y0;
+    int err = 0;
+    int sy;
+    if (dy < 0) sy = base - 1;
+    else sy = base + 1;
+    ady = ady - FFMAX(base, -base) * adx;
+    if (x >= n) return;
+    buf[x] = floor1_inverse_db_table[y];
+    for (x = x0 + 1; x < x1; x++) {
+        if (x >= n) return;
+        err += ady;
+        if (err >= adx) {
+            err -= adx;
+            y += sy;
+        } else {
+            y += base;
         }
+        buf[x] = floor1_inverse_db_table[y];
     }
+}
 
-    if (samples) {
-        for (channel = 0; channel < venc->channels; channel++) {
-            float * offset = venc->saved + channel*window_len*2 + window_len;
-            j = channel;
-            for (i = 0; i < samples; i++, j += venc->channels)
-                offset[i] = audio[j] / 32768. * win[window_len - i];
+static void floor_encode(venc_context_t * venc, floor_t * fc, PutBitContext * pb, int * posts, float * floor, int samples) {
+    int range = 255 / fc->multiplier + 1;
+    int coded[fc->values]; // first 2 values are unused
+    int i, counter;
+    int lx, ly;
+
+    put_bits(pb, 1, 1); // non zero
+    put_bits(pb, ilog(range - 1), posts[0]);
+    put_bits(pb, ilog(range - 1), posts[1]);
+
+    for (i = 2; i < fc->values; i++) {
+        int predicted = render_point(fc->list[fc->list[i].low].x,
+                                     posts[fc->list[i].low],
+                                     fc->list[fc->list[i].high].x,
+                                     posts[fc->list[i].high],
+                                     fc->list[i].x);
+        int highroom = range -  predicted;
+        int lowroom = predicted;
+        int room = FFMIN(highroom, lowroom);
+        if (predicted == posts[i]) {
+            coded[i] = 0; // must be used later as flag!
+            continue;
+        } else {
+            if (!coded[fc->list[i].low]) coded[fc->list[i].low] = -1;
+            if (!coded[fc->list[i].high]) coded[fc->list[i].high] = -1;
         }
-    } else {
-        for (channel = 0; channel < venc->channels; channel++) {
-            memset(venc->samples + channel*window_len*2 + window_len, 0, sizeof(float)*window_len);
+        if (posts[i] > predicted) {
+            if (posts[i] - predicted > room) coded[i] = posts[i] - predicted + lowroom;
+            else coded[i] = (posts[i] - predicted) << 1;
+        } else {
+            if (predicted - posts[i] > room) coded[i] = predicted - posts[i] + highroom - 1;
+            else coded[i] = ((predicted - posts[i]) << 1) - 1;
         }
     }
 
-    for (channel = 0; channel < venc->channels; channel++) {
-        ff_mdct_calc(&venc->mdct[0], venc->coeffs + channel*window_len, venc->samples + channel*window_len*2, venc->floor/*tmp*/);
+    counter = 2;
+    for (i = 0; i < fc->partitions; i++) {
+        floor_class_t * c = &fc->classes[fc->partition_to_class[i]];
+        codebook_t * book = &venc->codebooks[c->books[0]];
+        int k;
+        assert(!c->subclass);
+        for (k = 0; k < c->dim; k++) {
+            int entry = coded[counter++];
+            if (entry == -1) entry = 0;
+            assert(entry < book->nentries);
+            assert(entry >= 0);
+            put_bits(pb, book->entries[entry].len, book->entries[entry].codeword);
+        }
     }
 
-    if (samples) {
-        for (channel = 0; channel < venc->channels; channel++) {
-            j = channel;
-            for (i = 0; i < samples; i++, j += venc->channels)
-                venc->saved[i] = audio[j] / 32768. * win[i];
+    lx = 0;
+    ly = posts[0] * fc->multiplier; // sorted 0 is still 0
+    coded[0] = coded[1] = 1;
+    for (i = 1; i < fc->values; i++) {
+        int pos = fc->list[i].sort;
+        if (coded[pos]) {
+            render_line(lx, ly, fc->list[pos].x, posts[pos] * fc->multiplier, floor, samples);
+            lx = fc->list[pos].x;
+            ly = posts[pos] * fc->multiplier;
         }
-        venc->have_saved = 1;
-    } else {
-        venc->have_saved = 0;
+        if (lx >= samples) break;
     }
-    return 1;
+    if (lx < samples) render_line(lx, ly, samples, ly, floor, samples);
 }
 
-static float put_vector(codebook_t * book, PutBitContext * pb, float num) {
+static float * put_vector(codebook_t * book, PutBitContext * pb, float * num) {
     int i;
     int entry = -1;
     float distance = 0;
     assert(book->dimentions);
-    assert(book->ndimentions == 1);
     for (i = 0; i < book->nentries; i++) {
-        float d = (book->dimentions[i] - num)*(book->dimentions[i] - num);
+        float d = 0.;
+        int j;
+        for (j = 0; j < book->ndimentions; j++) {
+            float a = (book->dimentions[i * book->ndimentions + j] - num[j]);
+            d += a*a;
+        }
         if (entry == -1 || distance > d) {
             entry = i;
             distance = d;
         }
     }
     put_bits(pb, book->entries[entry].len, book->entries[entry].codeword);
-    return book->dimentions[entry];
+    return &book->dimentions[entry * book->ndimentions];
 }
 
 static void residue_encode(venc_context_t * venc, residue_t * rc, PutBitContext * pb, float * coeffs, int samples, int channels) {
@@ -702,12 +805,15 @@ static void residue_encode(venc_context_t * venc, residue_t * rc, PutBitContext
                     int nbook = rc->books[classes[j][p]][pass];
                     codebook_t * book = &venc->codebooks[nbook];
                     float * buf = coeffs + samples*j + rc->begin + p*psize;
+                    if (nbook == -1) continue;
 
                     assert(rc->type == 0);
-                    assert(book->ndimentions == 1);
+                    assert(!(psize % book->ndimentions));
 
-                    for (k = 0; k < psize; k++) {
-                        buf[k] -= put_vector(book, pb, buf[k]);
+                    for (k = 0; k < psize; k += book->ndimentions) {
+                        float * a = put_vector(book, pb, &buf[k]);
+                        int l;
+                        for (l = 0; l < book->ndimentions; l++) buf[k + l] -= a[l];
                     }
                 }
             }
@@ -715,6 +821,75 @@ static void residue_encode(venc_context_t * venc, residue_t * rc, PutBitContext
     }
 }
 
+static int window(venc_context_t * venc, signed short * audio, int samples) {
+    int i, j, channel;
+    const float * win = venc->win[0];
+    int window_len = 1 << (venc->blocksize[0] - 1);
+    float n = (float)(1 << venc->blocksize[0]) / 4.;
+    // FIXME use dsp
+
+    if (!venc->have_saved && !samples) return 0;
+
+    if (venc->have_saved) {
+        for (channel = 0; channel < venc->channels; channel++) {
+            memcpy(venc->samples + channel*window_len*2, venc->saved + channel*window_len, sizeof(float)*window_len);
+        }
+    } else {
+        for (channel = 0; channel < venc->channels; channel++) {
+            memset(venc->samples + channel*window_len*2, 0, sizeof(float)*window_len);
+        }
+    }
+
+    if (samples) {
+        for (channel = 0; channel < venc->channels; channel++) {
+            float * offset = venc->samples + channel*window_len*2 + window_len;
+            j = channel;
+            for (i = 0; i < samples; i++, j += venc->channels)
+                offset[i] = audio[j] / 32768. * win[window_len - i] / n;
+        }
+    } else {
+        for (channel = 0; channel < venc->channels; channel++) {
+            memset(venc->samples + channel*window_len*2 + window_len, 0, sizeof(float)*window_len);
+        }
+    }
+
+    for (channel = 0; channel < venc->channels; channel++) {
+        ff_mdct_calc(&venc->mdct[0], venc->coeffs + channel*window_len, venc->samples + channel*window_len*2, venc->floor/*tmp*/);
+    }
+
+    if (samples) {
+        for (channel = 0; channel < venc->channels; channel++) {
+            float * offset = venc->saved + channel*window_len;
+            j = channel;
+            for (i = 0; i < samples; i++, j += venc->channels)
+                offset[i] = audio[j] / 32768. * win[i] / n;
+        }
+        venc->have_saved = 1;
+    } else {
+        venc->have_saved = 0;
+    }
+    return 1;
+}
+
+static int vorbis_encode_init(AVCodecContext * avccontext)
+{
+    venc_context_t * venc = avccontext->priv_data;
+
+    create_vorbis_context(venc, avccontext);
+
+    //if (avccontext->flags & CODEC_FLAG_QSCALE) avccontext->global_quality / (float)FF_QP2LAMBDA); else avccontext->bit_rate;
+    //if(avccontext->cutoff > 0) cfreq = avccontext->cutoff / 1000.0;
+
+    avccontext->extradata_size = put_main_header(venc, (uint8_t**)&avccontext->extradata);
+
+    avccontext->frame_size = 1 << (venc->blocksize[0] - 1);
+
+    avccontext->coded_frame = avcodec_alloc_frame();
+    avccontext->coded_frame->key_frame = 1;
+
+    return 0;
+}
+
 static int vorbis_encode_frame(AVCodecContext * avccontext, unsigned char * packets, int buf_size, void *data)
 {
     venc_context_t * venc = avccontext->priv_data;
@@ -726,6 +901,7 @@ static int vorbis_encode_frame(AVCodecContext * avccontext, unsigned char * pack
     int i;
 
     if (!window(venc, audio, samples)) return 0;
+    samples = 1 << (venc->blocksize[0] - 1);
 
     init_put_bits(&pb, packets, buf_size);
 
@@ -742,24 +918,9 @@ static int vorbis_encode_frame(AVCodecContext * avccontext, unsigned char * pack
 
     for (i = 0; i < venc->channels; i++) {
         floor_t * fc = &venc->floors[mapping->floor[mapping->mux[i]]];
-        int range = 255 / fc->multiplier + 1;
-        int j;
-        put_bits(&pb, 1, 1); // non zero
-        put_bits(&pb, ilog(range - 1), 113); // magic value - 3.7180282E-05
-        put_bits(&pb, ilog(range - 1), 113); // both sides of X
-        for (j = 0; j < fc->partitions; j++) {
-            floor_class_t * c = &fc->classes[fc->partition_to_class[j]];
-            codebook_t * book = &venc->codebooks[c->books[0]];
-            int entry = 0;
-            int k;
-            for (k = 0; k < c->dim; k++) {
-                put_bits(&pb, book->entries[entry].len, book->entries[entry].codeword);
-            }
-        }
-
-        for (j = 0; j < samples; j++) {
-            venc->floor[i * samples + j] = floor1_inverse_db_table[220];
-        }
+        int posts[fc->values];
+        floor_fit(venc, fc, &venc->coeffs[i * samples], posts, samples);
+        floor_encode(venc, fc, &pb, posts, &venc->floor[i * samples], samples);
     }
 
     for (i = 0; i < venc->channels; i++) {
@@ -826,7 +987,7 @@ static int vorbis_encode_close(AVCodecContext * avccontext)
     return 0 ;
 }
 
-AVCodec oggvorbis_encoder = {
+AVCodec vorbis_encoder = {
     "vorbis",
     CODEC_TYPE_AUDIO,
     CODEC_ID_VORBIS,