Original Commit: r23 | ods15 | 2006-09-22 13:55:48 +0300 (Fri, 22 Sep 2006) | 2 lines
[ffmpeg.git] / libavcodec / vorbis_enc.c
1 /*
2  * copyright (c) 2006 Oded Shimon <ods15@ods15.dyndns.org>
3  *
4  * This library is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU Lesser General Public
6  * License as published by the Free Software Foundation; either
7  * version 2 of the License, or (at your option) any later version.
8  *
9  * This library is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
12  * Lesser General Public License for more details.
13  *
14  * You should have received a copy of the GNU Lesser General Public
15  * License along with this library; if not, write to the Free Software
16  * Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA  02110-1301  USA
17  */
18
19 /**
20  * @file vorbis_enc.c
21  * Native Vorbis encoder.
22  * @author Oded Shimon <ods15@ods15.dyndns.org>
23  */
24
25 #include "avcodec.h"
26
27 #undef NDEBUG
28 #include <assert.h>
29
30 #define ALT_BITSTREAM_READER_LE
31 #include "bitstream.h"
32
33 #define VORBIS_FRAME_SIZE 64
34
35 #define BUFFER_SIZE (1024*64)
36
37 typedef struct {
38     int len;
39     uint32_t codeword;
40 } cb_entry_t;
41
42 typedef struct {
43     int nentries;
44     cb_entry_t * entries;
45     int ndimentions;
46     float min;
47     float delta;
48     int seq_p;
49     int lookup;
50     int * quantlist;
51     float * dimentions;
52 } codebook_t;
53
54 typedef struct {
55     int dim;
56     int subclass;
57     int masterbook;
58     int * books;
59 } floor_class_t;
60
61 typedef struct {
62     int partitions;
63     int * partition_to_class;
64     int nclasses;
65     floor_class_t * classes;
66     int multiplier;
67     int rangebits;
68     int values;
69     struct { int x; } * list;
70 } floor_t;
71
72 typedef struct {
73     int type;
74     int begin;
75     int end;
76     int partition_size;
77     int classifications;
78     int classbook;
79     int (*books)[8];
80 } residue_t;
81
82 typedef struct {
83     int submaps;
84     int * mux;
85     int * floor;
86     int * residue;
87 } mapping_t;
88
89 typedef struct {
90     int blockflag;
91     int mapping;
92 } vorbis_mode_t;
93
94 typedef struct {
95     int channels;
96     int sample_rate;
97     int blocksize[2]; // in (1<<n) format
98
99     int ncodebooks;
100     codebook_t * codebooks;
101
102     int nfloors;
103     floor_t * floors;
104
105     int nresidues;
106     residue_t * residues;
107
108     int nmappings;
109     mapping_t * mappings;
110
111     int nmodes;
112     vorbis_mode_t * modes;
113 } venc_context_t;
114
115 static int cb_lookup_vals(int lookup, int dimentions, int entries) {
116     if (lookup == 1) {
117         int tmp, i;
118         for (tmp = 0; ; tmp++) {
119                 int n = 1;
120                 for (i = 0; i < dimentions; i++) n *= tmp;
121                 if (n > entries) break;
122         }
123         return tmp - 1;
124     } else if (lookup == 2) return dimentions * entries;
125     return 0;
126 }
127
128 static void ready_codebook(codebook_t * cb) {
129     int h[33] = { 1,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0 };
130     int i;
131
132     for (i = 0; i < cb->nentries; i++) {
133         cb_entry_t * e = &cb->entries[i];
134         int j = 0;
135         if (h[0]) h[0] = 0;
136         else for (j = e->len; !h[j]; j--) assert(j);
137         e->codeword = h[j];
138         h[j] = 0;
139         for (j++; j <= e->len; j++) h[j] = e->codeword | (1 << (j - 1));
140     }
141     for (i = 0; i < 33; i++) assert(!h[i]);
142
143     if (!cb->lookup) cb->dimentions = NULL;
144     else {
145         int vals = cb_lookup_vals(cb->lookup, cb->ndimentions, cb->nentries);
146         cb->dimentions = av_malloc(sizeof(float) * cb->nentries * cb->ndimentions);
147         for (i = 0; i < cb->nentries; i++) {
148             float last = 0;
149             int j;
150             int div = 1;
151             for (j = 0; j < cb->ndimentions; j++) {
152                 int off;
153                 if (cb->lookup == 1) off = (i / div) % vals; // lookup type 1
154                 else off = i * cb->ndimentions + j; // lookup type 2
155
156                 cb->dimentions[i * cb->ndimentions + j] = last + cb->min + cb->quantlist[off] * cb->delta;
157                 if (cb->seq_p) last = cb->dimentions[i * cb->ndimentions + j];
158                 div *= vals;
159             }
160         }
161     }
162
163 }
164
165 static void create_vorbis_context(venc_context_t * venc, AVCodecContext * avccontext) {
166     codebook_t * cb;
167     floor_t * fc;
168     residue_t * rc;
169     mapping_t * mc;
170     int i, book;
171
172     venc->channels = avccontext->channels;
173     venc->sample_rate = avccontext->sample_rate;
174     venc->blocksize[0] = venc->blocksize[1] = 8;
175
176     venc->ncodebooks = 10;
177     venc->codebooks = av_malloc(sizeof(codebook_t) * venc->ncodebooks);
178
179     // codebook 1 - floor1 book, values 0..255
180     cb = &venc->codebooks[0];
181     cb->nentries = 256;
182     cb->entries = av_malloc(sizeof(cb_entry_t) * cb->nentries);
183     for (i = 0; i < cb->nentries; i++) cb->entries[i].len = 8;
184     cb->ndimentions = 0;
185     cb->min = 0.;
186     cb->delta = 0.;
187     cb->seq_p = 0;
188     cb->lookup = 0;
189     cb->quantlist = NULL;
190     ready_codebook(cb);
191
192     // codebook 2 - residue classbook, values 0..1, dimentions 200
193     cb = &venc->codebooks[1];
194     cb->nentries = 2;
195     cb->entries = av_malloc(sizeof(cb_entry_t) * cb->nentries);
196     for (i = 0; i < cb->nentries; i++) cb->entries[i].len = 1;
197     cb->ndimentions = 200;
198     cb->min = 0.;
199     cb->delta = 0.;
200     cb->seq_p = 0;
201     cb->lookup = 0;
202     cb->quantlist = NULL;
203     ready_codebook(cb);
204
205     // codebook 3..10 - vector, for the residue, values -32767..32767, dimentions 1
206     for (book = 0; book < 8; book++) {
207         cb = &venc->codebooks[2 + book];
208         cb->nentries = 5;
209         cb->entries = av_malloc(sizeof(cb_entry_t) * cb->nentries);
210         for (i = 0; i < cb->nentries; i++) cb->entries[i].len = i == 2 ? 1 : 3;
211         cb->ndimentions = 1;
212         cb->delta = 1 << ((7 - book) * 2);
213         cb->min = -cb->delta*2;
214         cb->seq_p = 0;
215         cb->lookup = 2;
216         cb->quantlist = av_malloc(sizeof(int) * cb_lookup_vals(cb->lookup, cb->ndimentions, cb->nentries));
217         for (i = 0; i < cb->nentries; i++) cb->quantlist[i] = i;
218         ready_codebook(cb);
219     }
220
221     venc->nfloors = 1;
222     venc->floors = av_malloc(sizeof(floor_t) * venc->nfloors);
223
224     // just 1 floor
225     fc = &venc->floors[0];
226     fc->partitions = 1;
227     fc->partition_to_class = av_malloc(sizeof(int) * fc->partitions);
228     for (i = 0; i < fc->partitions; i++) fc->partition_to_class = 0;
229     fc->nclasses = 1;
230     fc->classes = av_malloc(sizeof(floor_class_t) * fc->nclasses);
231     for (i = 0; i < fc->nclasses; i++) {
232         floor_class_t * c = &fc->classes[i];
233         int j, books;
234         c->dim = 1;
235         c->subclass = 0;
236         c->masterbook = 0;
237         books = (1 << c->subclass);
238         c->books = av_malloc(sizeof(int) * books);
239         for (j = 0; j < books; j++) c->books[j] = 0;
240     }
241     fc->multiplier = 1;
242     fc->rangebits = venc->blocksize[0];
243
244     fc->values = 2;
245     for (i = 0; i < fc->partitions; i++)
246         fc->values += fc->classes[fc->partition_to_class[i]].dim;
247
248     fc->list = av_malloc(sizeof(*fc->list) * fc->values);
249     fc->list[0].x = 0;
250     fc->list[1].x = 1 << fc->rangebits;
251     for (i = 2; i < fc->values; i++) fc->list[i].x = i * 5;
252
253     venc->nresidues = 1;
254     venc->residues = av_malloc(sizeof(residue_t) * venc->nresidues);
255
256     // single residue
257     rc = &venc->residues[0];
258     rc->type = 0;
259     rc->begin = 0;
260     rc->end = 1 << venc->blocksize[0];
261     rc->partition_size = 64;
262     rc->classifications = 1;
263     rc->classbook = 1;
264     rc->books = av_malloc(sizeof(int[8]) * rc->classifications);
265     for (i = 0; i < 8; i++) rc->books[0][i] = 2 + i;
266
267     venc->nmappings = 1;
268     venc->mappings = av_malloc(sizeof(mapping_t) * venc->nmappings);
269
270     // single mapping
271     mc = &venc->mappings[0];
272     mc->submaps = 1;
273     mc->mux = av_malloc(sizeof(int) * venc->channels);
274     for (i = 0; i < venc->channels; i++) mc->mux[i] = 0;
275     mc->floor = av_malloc(sizeof(int) * mc->submaps);
276     mc->residue = av_malloc(sizeof(int) * mc->submaps);
277     for (i = 0; i < mc->submaps; i++) {
278         mc->floor[i] = 0;
279         mc->residue[i] = 0;
280     }
281
282     venc->nmodes = 1;
283     venc->modes = av_malloc(sizeof(vorbis_mode_t) * venc->nmodes);
284 }
285
286 static inline int ilog(unsigned int a) {
287     int i;
288     for (i = 0; a >> i; i++);
289     return i;
290 }
291
292 static void put_float(PutBitContext * pb, float f) {
293     int exp, mant;
294     uint32_t res = 0;
295     mant = (int)ldexp(frexp(f, &exp), 20);
296     exp += 788 - 20;
297     if (mant < 0) { res |= (1 << 31); mant = -mant; }
298     res |= mant | (exp << 21);
299     put_bits(pb, 32, res);
300 }
301
302 static void put_codebook_header(PutBitContext * pb, codebook_t * cb) {
303     int i;
304     int ordered = 0;
305
306     put_bits(pb, 24, 0x564342); //magic
307     put_bits(pb, 16, cb->ndimentions);
308     put_bits(pb, 24, cb->nentries);
309
310     for (i = 1; i < cb->nentries; i++) if (cb->entries[i].len < cb->entries[i-1].len) break;
311     if (i == cb->nentries) ordered = 1;
312
313     put_bits(pb, 1, ordered);
314     if (ordered) {
315         int len = cb->entries[0].len;
316         put_bits(pb, 5, len);
317         i = 0;
318         while (i < cb->nentries) {
319             int j;
320             for (j = 0; j+i < cb->nentries; j++) if (cb->entries[j+i].len != len) break;
321             put_bits(pb, ilog(cb->nentries - i), j);
322             i += j;
323             len++;
324         }
325     } else {
326         int sparse = 0;
327         for (i = 0; i < cb->nentries; i++) if (!cb->entries[i].len) break;
328         if (i != cb->nentries) sparse = 1;
329         put_bits(pb, 1, sparse);
330
331         for (i = 0; i < cb->nentries; i++) {
332             if (sparse) put_bits(pb, 1, !!cb->entries[i].len);
333             if (cb->entries[i].len) put_bits(pb, 5, cb->entries[i].len);
334         }
335     }
336
337     put_bits(pb, 4, cb->lookup);
338     if (cb->lookup) {
339         int tmp = cb_lookup_vals(cb->lookup, cb->ndimentions, cb->nentries);
340         int bits = ilog(cb->quantlist[0]);
341
342         for (i = 1; i < tmp; i++) bits = FFMAX(bits, ilog(cb->quantlist[i]));
343
344         put_float(pb, cb->min);
345         put_float(pb, cb->delta);
346
347         put_bits(pb, 4, bits - 1);
348         put_bits(pb, 1, cb->seq_p);
349
350         for (i = 0; i < tmp; i++) put_bits(pb, bits, cb->quantlist[i]);
351     }
352 }
353
354 static void put_floor_header(PutBitContext * pb, floor_t * fc) {
355     int i;
356
357     put_bits(pb, 16, 1); // type, only floor1 is supported
358
359     put_bits(pb, 5, fc->partitions);
360
361     for (i = 0; i < fc->partitions; i++) put_bits(pb, 4, fc->partition_to_class[i]);
362
363     for (i = 0; i < fc->nclasses; i++) {
364         int j, books;
365
366         put_bits(pb, 3, fc->classes[i].dim - 1);
367         put_bits(pb, 2, fc->classes[i].subclass);
368
369         if (fc->classes[i].subclass) put_bits(pb, 8, fc->classes[i].masterbook);
370
371         books = (1 << fc->classes[i].subclass);
372
373         for (j = 0; j < books; j++) put_bits(pb, 8, fc->classes[i].books[j] + 1);
374     }
375
376     put_bits(pb, 2, fc->multiplier - 1);
377     put_bits(pb, 4, fc->rangebits);
378
379     for (i = 2; i < fc->values; i++) put_bits(pb, fc->rangebits, fc->list[i].x);
380 }
381
382 static void put_residue_header(PutBitContext * pb, residue_t * rc) {
383     int i;
384
385     put_bits(pb, 16, rc->type);
386
387     put_bits(pb, 24, rc->begin);
388     put_bits(pb, 24, rc->end);
389     put_bits(pb, 24, rc->partition_size - 1);
390     put_bits(pb, 6, rc->classifications);
391     put_bits(pb, 8, rc->classbook);
392
393     for (i = 0; i < rc->classifications; i++) {
394         int j, tmp = 0;
395         for (j = 0; j < 8; j++) tmp |= (!!rc->books[i][j]) << j;
396
397         put_bits(pb, 3, tmp & 7);
398         put_bits(pb, 1, tmp > 7);
399
400         if (tmp > 7) put_bits(pb, 5, tmp >> 3);
401     }
402
403     for (i = 0; i < rc->classifications; i++) {
404         int j;
405         for (j = 0; j < 8; j++)
406             if (rc->books[i][j])
407                 put_bits(pb, 8, rc->books[i][j]);
408     }
409 }
410
411 static int put_main_header(venc_context_t * venc, uint8_t ** out) {
412     int i;
413     PutBitContext pb;
414     uint8_t buffer[50000] = {0}, * p = buffer;
415     int buffer_len = sizeof buffer;
416     int len, hlens[3];
417
418     // identification header
419     init_put_bits(&pb, p, buffer_len);
420     put_bits(&pb, 8, 1); //magic
421     for (i = 0; "vorbis"[i]; i++) put_bits(&pb, 8, "vorbis"[i]);
422     put_bits(&pb, 32, 0); // version
423     put_bits(&pb, 8, venc->channels);
424     put_bits(&pb, 32, venc->sample_rate);
425     put_bits(&pb, 32, 0); // bitrate
426     put_bits(&pb, 32, 0); // bitrate
427     put_bits(&pb, 32, 0); // bitrate
428     put_bits(&pb, 4, venc->blocksize[0]);
429     put_bits(&pb, 4, venc->blocksize[1]);
430     put_bits(&pb, 1, 1); // framing
431
432     flush_put_bits(&pb);
433     hlens[0] = (put_bits_count(&pb) + 7) / 8;
434     buffer_len -= hlens[0];
435     p += hlens[0];
436
437     // comment header
438     init_put_bits(&pb, p, buffer_len);
439     put_bits(&pb, 8, 3); //magic
440     for (i = 0; "vorbis"[i]; i++) put_bits(&pb, 8, "vorbis"[i]);
441     put_bits(&pb, 32, 0); // vendor length TODO
442     put_bits(&pb, 32, 0); // amount of comments
443     put_bits(&pb, 1, 1); // framing
444
445     flush_put_bits(&pb);
446     hlens[1] = (put_bits_count(&pb) + 7) / 8;
447     buffer_len -= hlens[1];
448     p += hlens[1];
449
450     // setup header
451     init_put_bits(&pb, p, buffer_len);
452     put_bits(&pb, 8, 5); //magic
453     for (i = 0; "vorbis"[i]; i++) put_bits(&pb, 8, "vorbis"[i]);
454
455     // codebooks
456     put_bits(&pb, 8, venc->ncodebooks - 1);
457     for (i = 0; i < venc->ncodebooks; i++) put_codebook_header(&pb, &venc->codebooks[i]);
458
459     // time domain, reserved, zero
460     put_bits(&pb, 6, 0);
461     put_bits(&pb, 16, 0);
462
463     // floors
464     put_bits(&pb, 6, venc->nfloors - 1);
465     for (i = 0; i < venc->nfloors; i++) put_floor_header(&pb, &venc->floors[i]);
466
467     // residues
468     put_bits(&pb, 6, venc->nresidues - 1);
469     for (i = 0; i < venc->nresidues; i++) put_residue_header(&pb, &venc->residues[i]);
470
471     // mappings
472     put_bits(&pb, 6, venc->nmappings - 1);
473     for (i = 0; i < venc->nmappings; i++) {
474         mapping_t * mc = &venc->mappings[i];
475         int j;
476         put_bits(&pb, 16, 0); // mapping type
477
478         put_bits(&pb, 1, mc->submaps > 1);
479         if (mc->submaps > 1) put_bits(&pb, 4, mc->submaps - 1);
480
481         put_bits(&pb, 1, 0); // channel coupling
482
483         put_bits(&pb, 2, 0); // reserved
484
485         if (mc->submaps > 1) for (j = 0; j < venc->channels; j++) put_bits(&pb, 4, mc->mux[j]);
486
487         for (j = 0; j < mc->submaps; j++) {
488             put_bits(&pb, 8, 0); // reserved time configuration
489             put_bits(&pb, 8, mc->floor[j]);
490             put_bits(&pb, 8, mc->residue[j]);
491         }
492     }
493
494     // modes
495     put_bits(&pb, 6, venc->nmodes - 1);
496     for (i = 0; i < venc->nmodes; i++) {
497         put_bits(&pb, 1, venc->modes[i].blockflag);
498         put_bits(&pb, 16, 0); // reserved window type
499         put_bits(&pb, 16, 0); // reserved transform type
500         put_bits(&pb, 8, venc->modes[i].mapping);
501     }
502
503     flush_put_bits(&pb);
504     hlens[2] = (put_bits_count(&pb) + 7) / 8;
505
506     len = hlens[0] + hlens[1] + hlens[2];
507     p = *out = av_mallocz(64 + len + len/255);
508
509     *p++ = 2;
510     p += av_xiphlacing(p, hlens[0]);
511     p += av_xiphlacing(p, hlens[1]);
512     buffer_len = 0;
513     for (i = 0; i < 3; i++) {
514         memcpy(p, buffer + buffer_len, hlens[i]);
515         p += hlens[i];
516         buffer_len += hlens[i];
517     }
518
519     return p - *out;
520 }
521
522 static int vorbis_encode_init(AVCodecContext * avccontext)
523 {
524     venc_context_t * venc = avccontext->priv_data;
525
526     create_vorbis_context(venc, avccontext);
527
528     //if (avccontext->flags & CODEC_FLAG_QSCALE) avccontext->global_quality / (float)FF_QP2LAMBDA); else avccontext->bit_rate;
529     //if(avccontext->cutoff > 0) cfreq = avccontext->cutoff / 1000.0;
530
531     avccontext->extradata_size = put_main_header(venc, (uint8_t**)&avccontext->extradata);
532
533     avccontext->frame_size = VORBIS_FRAME_SIZE;
534
535     avccontext->coded_frame = avcodec_alloc_frame();
536     avccontext->coded_frame->key_frame = 1;
537
538     return 0;
539 }
540
541
542 static int vorbis_encode_frame(AVCodecContext * avccontext, unsigned char * packets, int buf_size, void *data)
543 {
544 #if 0
545     venc_context_t * venc = avccontext->priv_data;
546     signed short * audio = data;
547     int samples = data ? VORBIS_FRAME_SIZE : 0;
548
549     avccontext->coded_frame->pts = av_rescale_q(op2->granulepos, (AVRational){1, avccontext->sample_rate}, avccontext->time_base);
550     memcpy(packets, compressed_frame, l);
551 #endif
552     return data ? 50 : 0;
553 }
554
555
556 static int vorbis_encode_close(AVCodecContext * avccontext)
557 {
558     venc_context_t * venc = avccontext->priv_data;
559
560     av_freep(&avccontext->coded_frame);
561     av_freep(&avccontext->extradata);
562
563     return 0 ;
564 }
565
566 AVCodec oggvorbis_encoder = {
567     "vorbis",
568     CODEC_TYPE_AUDIO,
569     CODEC_ID_VORBIS,
570     sizeof(venc_context_t),
571     vorbis_encode_init,
572     vorbis_encode_frame,
573     vorbis_encode_close,
574     .capabilities= CODEC_CAP_DELAY,
575 };