Original Commit: r21 | ods15 | 2006-09-22 13:40:31 +0300 (Fri, 22 Sep 2006) | 2 lines
[ffmpeg.git] / libavcodec / vorbis_enc.c
1 /*
2  * copyright (c) 2006 Oded Shimon <ods15@ods15.dyndns.org>
3  *
4  * This library is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU Lesser General Public
6  * License as published by the Free Software Foundation; either
7  * version 2 of the License, or (at your option) any later version.
8  *
9  * This library is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
12  * Lesser General Public License for more details.
13  *
14  * You should have received a copy of the GNU Lesser General Public
15  * License along with this library; if not, write to the Free Software
16  * Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA  02110-1301  USA
17  */
18
19 /**
20  * @file vorbis_enc.c
21  * Native Vorbis encoder.
22  * @author Oded Shimon <ods15@ods15.dyndns.org>
23  */
24
25 #include "avcodec.h"
26
27 #undef NDEBUG
28 #include <assert.h>
29
30 #define ALT_BITSTREAM_READER_LE
31 #include "bitstream.h"
32
33 #define VORBIS_FRAME_SIZE 64
34
35 #define BUFFER_SIZE (1024*64)
36
37 typedef struct {
38     int len;
39     uint32_t codeword;
40 } cb_entry_t;
41
42 typedef struct {
43     int nentries;
44     cb_entry_t * entries;
45     int ndimentions;
46     float min;
47     float delta;
48     int seq_p;
49     int lookup;
50     int * quantlist;
51     float * dimentions;
52 } codebook_t;
53
54 typedef struct {
55     int dim;
56     int subclass;
57     int masterbook;
58     int * books;
59 } floor_class_t;
60
61 typedef struct {
62     int partitions;
63     int * partition_to_class;
64     int nclasses;
65     floor_class_t * classes;
66     int multiplier;
67     int rangebits;
68     int values;
69     struct { int x; } * list;
70 } floor_t;
71
72 typedef struct {
73     int type;
74     int begin;
75     int end;
76     int partition_size;
77     int classifications;
78     int classbook;
79     int (*books)[8];
80 } residue_t;
81
82 typedef struct {
83     int submaps;
84     int * mux;
85     int * floor;
86     int * residue;
87 } mapping_t;
88
89 typedef struct {
90     int blockflag;
91     int mapping;
92 } vorbis_mode_t;
93
94 typedef struct {
95     int channels;
96     int sample_rate;
97     int blocksize[2]; // in (1<<n) format
98
99     int ncodebooks;
100     codebook_t * codebooks;
101
102     int nfloors;
103     floor_t * floors;
104
105     int nresidues;
106     residue_t * residues;
107
108     int nmappings;
109     mapping_t * mappings;
110
111     int nmodes;
112     vorbis_mode_t * modes;
113 } venc_context_t;
114
115 static int cb_lookup_vals(int lookup, int dimentions, int entries) {
116     if (lookup == 1) {
117         int tmp, i;
118         for (tmp = 0; ; tmp++) {
119                 int n = 1;
120                 for (i = 0; i < dimentions; i++) n *= tmp;
121                 if (n > entries) break;
122         }
123         return tmp - 1;
124     } else if (lookup == 2) return dimentions * entries;
125     return 0;
126 }
127
128 static void ready_codebook(codebook_t * cb) {
129     int h[33] = { 1,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0 };
130     int i;
131
132     for (i = 0; i < cb->nentries; i++) {
133         cb_entry_t * e = &cb->entries[i];
134         int j = 0;
135         if (h[0]) h[0] = 0;
136         else for (j = e->len; !h[j]; j--) assert(j);
137         e->codeword = h[j];
138         h[j] = 0;
139         for (j++; j <= e->len; j++) h[j] = e->codeword | (1 << (j - 1));
140     }
141     for (i = 0; i < 33; i++) assert(!h[i]);
142
143     if (!cb->lookup) cb->dimentions = NULL;
144     else {
145         int vals = cb_lookup_vals(cb->lookup, cb->ndimentions, cb->nentries);
146         cb->dimentions = av_malloc(sizeof(float) * cb->nentries * cb->ndimentions);
147         for (i = 0; i < cb->nentries; i++) {
148             float last = 0;
149             int j;
150             int div = 1;
151             for (j = 0; j < cb->ndimentions; j++) {
152                 int off;
153                 if (cb->lookup == 1) off = (i / div) % vals; // lookup type 1
154                 else off = i * cb->ndimentions + j; // lookup type 2
155
156                 cb->dimentions[i * cb->ndimentions + j] = last + cb->min + cb->quantlist[off] * cb->delta;
157                 if (cb->seq_p) last = cb->dimentions[i * cb->ndimentions + j];
158                 div *= vals;
159             }
160         }
161     }
162
163 }
164
165 static void create_vorbis_context(venc_context_t * venc, AVCodecContext * avccontext) {
166     codebook_t * cb;
167     floor_t * fc;
168     int i, book;
169
170     venc->channels = avccontext->channels;
171     venc->sample_rate = avccontext->sample_rate;
172     venc->blocksize[0] = venc->blocksize[1] = 8;
173
174     venc->ncodebooks = 10;
175     venc->codebooks = av_malloc(sizeof(codebook_t) * venc->ncodebooks);
176
177     // codebook 1 - floor1 book, values 0..255
178     cb = &venc->codebooks[0];
179     cb->nentries = 256;
180     cb->entries = av_malloc(sizeof(cb_entry_t) * cb->nentries);
181     for (i = 0; i < cb->nentries; i++) cb->entries[i].len = 8;
182     cb->ndimentions = 0;
183     cb->min = 0.;
184     cb->delta = 0.;
185     cb->seq_p = 0;
186     cb->lookup = 0;
187     cb->quantlist = NULL;
188     ready_codebook(cb);
189
190     // codebook 2 - residue classbook, values 0..1, dimentions 200
191     cb = &venc->codebooks[1];
192     cb->nentries = 2;
193     cb->entries = av_malloc(sizeof(cb_entry_t) * cb->nentries);
194     for (i = 0; i < cb->nentries; i++) cb->entries[i].len = 1;
195     cb->ndimentions = 200;
196     cb->min = 0.;
197     cb->delta = 0.;
198     cb->seq_p = 0;
199     cb->lookup = 0;
200     cb->quantlist = NULL;
201     ready_codebook(cb);
202
203     // codebook 3..10 - vector, for the residue, values -32767..32767, dimentions 1
204     for (book = 0; book < 8; book++) {
205         cb = &venc->codebooks[2 + book];
206         cb->nentries = 5;
207         cb->entries = av_malloc(sizeof(cb_entry_t) * cb->nentries);
208         for (i = 0; i < cb->nentries; i++) cb->entries[i].len = i == 2 ? 1 : 3;
209         cb->ndimentions = 1;
210         cb->delta = 1 << ((7 - book) * 2);
211         cb->min = -cb->delta*2;
212         cb->seq_p = 0;
213         cb->lookup = 2;
214         cb->quantlist = av_malloc(sizeof(int) * cb_lookup_vals(cb->lookup, cb->ndimentions, cb->nentries));
215         for (i = 0; i < cb->nentries; i++) cb->quantlist[i] = i;
216         ready_codebook(cb);
217     }
218
219     venc->nfloors = 1;
220     venc->floors = av_malloc(sizeof(floor_t) * venc->nfloors);
221
222     // just 1 floor
223     fc = &venc->floors[0];
224     fc->partitions = 1;
225     fc->partition_to_class = av_malloc(sizeof(int) * fc->partitions);
226     for (i = 0; i < fc->partitions; i++) fc->partition_to_class = 0;
227     fc->nclasses = 1;
228     fc->classes = av_malloc(sizeof(floor_class_t) * fc->nclasses);
229     for (i = 0; i < fc->nclasses; i++) {
230         floor_class_t * c = &fc->classes[i];
231         int j, books;
232         c->dim = 1;
233         c->subclass = 0;
234         c->masterbook = 0;
235         books = (1 << c->subclass);
236         c->books = av_malloc(sizeof(int) * books);
237         for (j = 0; j < books; j++) c->books[j] = 0;
238     }
239     fc->multiplier = 1;
240     fc->rangebits = venc->blocksize[0];
241
242     fc->values = 2;
243     for (i = 0; i < fc->partitions; i++)
244         fc->values += fc->classes[fc->partition_to_class[i]].dim;
245
246     fc->list = av_malloc(sizeof(*fc->list) * fc->values);
247     fc->list[0].x = 0;
248     fc->list[1].x = 1 << fc->rangebits;
249     for (i = 2; i < fc->values; i++) fc->list[i].x = i * 5;
250
251     venc->nresidues = 1;
252     venc->residues = av_malloc(sizeof(residue_t) * venc->nresidues);
253
254     venc->nmappings = 1;
255     venc->mappings = av_malloc(sizeof(mapping_t) * venc->nmappings);
256
257     venc->nmodes = 1;
258     venc->modes = av_malloc(sizeof(vorbis_mode_t) * venc->nmodes);
259 }
260
261 static inline int ilog(unsigned int a) {
262     int i;
263     for (i = 0; a >> i; i++);
264     return i;
265 }
266
267 static void put_float(PutBitContext * pb, float f) {
268     int exp, mant;
269     uint32_t res = 0;
270     mant = (int)ldexp(frexp(f, &exp), 20);
271     exp += 788 - 20;
272     if (mant < 0) { res |= (1 << 31); mant = -mant; }
273     res |= mant | (exp << 21);
274     put_bits(pb, 32, res);
275 }
276
277 static void put_codebook_header(PutBitContext * pb, codebook_t * cb) {
278     int i;
279     int ordered = 0;
280
281     put_bits(pb, 24, 0x564342); //magic
282     put_bits(pb, 16, cb->ndimentions);
283     put_bits(pb, 24, cb->nentries);
284
285     for (i = 1; i < cb->nentries; i++) if (cb->entries[i].len < cb->entries[i-1].len) break;
286     if (i == cb->nentries) ordered = 1;
287
288     put_bits(pb, 1, ordered);
289     if (ordered) {
290         int len = cb->entries[0].len;
291         put_bits(pb, 5, len);
292         i = 0;
293         while (i < cb->nentries) {
294             int j;
295             for (j = 0; j+i < cb->nentries; j++) if (cb->entries[j+i].len != len) break;
296             put_bits(pb, ilog(cb->nentries - i), j);
297             i += j;
298             len++;
299         }
300     } else {
301         int sparse = 0;
302         for (i = 0; i < cb->nentries; i++) if (!cb->entries[i].len) break;
303         if (i != cb->nentries) sparse = 1;
304         put_bits(pb, 1, sparse);
305
306         for (i = 0; i < cb->nentries; i++) {
307             if (sparse) put_bits(pb, 1, !!cb->entries[i].len);
308             if (cb->entries[i].len) put_bits(pb, 5, cb->entries[i].len);
309         }
310     }
311
312     put_bits(pb, 4, cb->lookup);
313     if (cb->lookup) {
314         int tmp = cb_lookup_vals(cb->lookup, cb->ndimentions, cb->nentries);
315         int bits = ilog(cb->quantlist[0]);
316
317         for (i = 1; i < tmp; i++) bits = FFMAX(bits, ilog(cb->quantlist[i]));
318
319         put_float(pb, cb->min);
320         put_float(pb, cb->delta);
321
322         put_bits(pb, 4, bits - 1);
323         put_bits(pb, 1, cb->seq_p);
324
325         for (i = 0; i < tmp; i++) put_bits(pb, bits, cb->quantlist[i]);
326     }
327 }
328
329 static void put_floor_header(PutBitContext * pb, floor_t * fc) {
330     int i;
331
332     put_bits(pb, 16, 1); // type, only floor1 is supported
333
334     put_bits(pb, 5, fc->partitions);
335
336     for (i = 0; i < fc->partitions; i++) put_bits(pb, 4, fc->partition_to_class[i]);
337
338     for (i = 0; i < fc->nclasses; i++) {
339         int j, books;
340
341         put_bits(pb, 3, fc->classes[i].dim - 1);
342         put_bits(pb, 2, fc->classes[i].subclass);
343
344         if (fc->classes[i].subclass) put_bits(pb, 8, fc->classes[i].masterbook);
345
346         books = (1 << fc->classes[i].subclass);
347
348         for (j = 0; j < books; j++) put_bits(pb, 8, fc->classes[i].books[j] + 1);
349     }
350
351     put_bits(pb, 2, fc->multiplier - 1);
352     put_bits(pb, 4, fc->rangebits);
353
354     for (i = 2; i < fc->values; i++) put_bits(pb, fc->rangebits, fc->list[i].x);
355 }
356
357 static void put_residue_header(PutBitContext * pb, residue_t * rc) {
358     int i;
359
360     put_bits(pb, 16, rc->type);
361
362     put_bits(pb, 24, rc->begin);
363     put_bits(pb, 24, rc->end);
364     put_bits(pb, 24, rc->partition_size - 1);
365     put_bits(pb, 6, rc->classifications);
366     put_bits(pb, 8, rc->classbook);
367
368     for (i = 0; i < rc->classifications; i++) {
369         int j, tmp = 0;
370         for (j = 0; j < 8; j++) tmp |= (!!rc->books[i][j]) << j;
371
372         put_bits(pb, 3, tmp & 7);
373         put_bits(pb, 1, tmp > 7);
374
375         if (tmp > 7) put_bits(pb, 5, tmp >> 3);
376     }
377
378     for (i = 0; i < rc->classifications; i++) {
379         int j;
380         for (j = 0; j < 8; j++)
381             if (rc->books[i][j])
382                 put_bits(pb, 8, rc->books[i][j]);
383     }
384 }
385
386 static int put_main_header(venc_context_t * venc, uint8_t ** out) {
387     int i;
388     PutBitContext pb;
389     uint8_t buffer[50000] = {0}, * p = buffer;
390     int buffer_len = sizeof buffer;
391     int len, hlens[3];
392
393     // identification header
394     init_put_bits(&pb, p, buffer_len);
395     put_bits(&pb, 8, 1); //magic
396     for (i = 0; "vorbis"[i]; i++) put_bits(&pb, 8, "vorbis"[i]);
397     put_bits(&pb, 32, 0); // version
398     put_bits(&pb, 8, venc->channels);
399     put_bits(&pb, 32, venc->sample_rate);
400     put_bits(&pb, 32, 0); // bitrate
401     put_bits(&pb, 32, 0); // bitrate
402     put_bits(&pb, 32, 0); // bitrate
403     put_bits(&pb, 4, venc->blocksize[0]);
404     put_bits(&pb, 4, venc->blocksize[1]);
405     put_bits(&pb, 1, 1); // framing
406
407     flush_put_bits(&pb);
408     hlens[0] = (put_bits_count(&pb) + 7) / 8;
409     buffer_len -= hlens[0];
410     p += hlens[0];
411
412     // comment header
413     init_put_bits(&pb, p, buffer_len);
414     put_bits(&pb, 8, 3); //magic
415     for (i = 0; "vorbis"[i]; i++) put_bits(&pb, 8, "vorbis"[i]);
416     put_bits(&pb, 32, 0); // vendor length TODO
417     put_bits(&pb, 32, 0); // amount of comments
418     put_bits(&pb, 1, 1); // framing
419
420     flush_put_bits(&pb);
421     hlens[1] = (put_bits_count(&pb) + 7) / 8;
422     buffer_len -= hlens[1];
423     p += hlens[1];
424
425     // setup header
426     init_put_bits(&pb, p, buffer_len);
427     put_bits(&pb, 8, 5); //magic
428     for (i = 0; "vorbis"[i]; i++) put_bits(&pb, 8, "vorbis"[i]);
429
430     // codebooks
431     put_bits(&pb, 8, venc->ncodebooks - 1);
432     for (i = 0; i < venc->ncodebooks; i++) put_codebook_header(&pb, &venc->codebooks[i]);
433
434     // time domain, reserved, zero
435     put_bits(&pb, 6, 0);
436     put_bits(&pb, 16, 0);
437
438     // floors
439     put_bits(&pb, 6, venc->nfloors - 1);
440     for (i = 0; i < venc->nfloors; i++) put_floor_header(&pb, &venc->floors[i]);
441
442     // residues
443     put_bits(&pb, 6, venc->nresidues - 1);
444     for (i = 0; i < venc->nresidues; i++) put_residue_header(&pb, &venc->residues[i]);
445
446     // mappings
447     put_bits(&pb, 6, venc->nmappings - 1);
448     for (i = 0; i < venc->nmappings; i++) {
449         mapping_t * mc = &venc->mappings[i];
450         int j;
451         put_bits(&pb, 16, 0); // mapping type
452
453         put_bits(&pb, 1, mc->submaps > 1);
454         if (mc->submaps > 1) put_bits(&pb, 4, mc->submaps - 1);
455
456         put_bits(&pb, 1, 0); // channel coupling
457
458         put_bits(&pb, 2, 0); // reserved
459
460         if (mc->submaps > 1) for (j = 0; j < venc->channels; j++) put_bits(&pb, 4, mc->mux[j]);
461
462         for (j = 0; j < mc->submaps; j++) {
463             put_bits(&pb, 8, 0); // reserved time configuration
464             put_bits(&pb, 8, mc->floor[j]);
465             put_bits(&pb, 8, mc->residue[j]);
466         }
467     }
468
469     // modes
470     put_bits(&pb, 6, venc->nmodes - 1);
471     for (i = 0; i < venc->nmodes; i++) {
472         put_bits(&pb, 1, venc->modes[i].blockflag);
473         put_bits(&pb, 16, 0); // reserved window type
474         put_bits(&pb, 16, 0); // reserved transform type
475         put_bits(&pb, 8, venc->modes[i].mapping);
476     }
477
478     flush_put_bits(&pb);
479     hlens[2] = (put_bits_count(&pb) + 7) / 8;
480
481     len = hlens[0] + hlens[1] + hlens[2];
482     p = *out = av_mallocz(64 + len + len/255);
483
484     *p++ = 2;
485     p += av_xiphlacing(p, hlens[0]);
486     p += av_xiphlacing(p, hlens[1]);
487     buffer_len = 0;
488     for (i = 0; i < 3; i++) {
489         memcpy(p, buffer + buffer_len, hlens[i]);
490         p += hlens[i];
491         buffer_len += hlens[i];
492     }
493
494     return p - *out;
495 }
496
497 static int vorbis_encode_init(AVCodecContext * avccontext)
498 {
499     venc_context_t * venc = avccontext->priv_data;
500
501     create_vorbis_context(venc, avccontext);
502
503     //if (avccontext->flags & CODEC_FLAG_QSCALE) avccontext->global_quality / (float)FF_QP2LAMBDA); else avccontext->bit_rate;
504     //if(avccontext->cutoff > 0) cfreq = avccontext->cutoff / 1000.0;
505
506     avccontext->extradata_size = put_main_header(venc, (uint8_t**)&avccontext->extradata);
507
508     avccontext->frame_size = VORBIS_FRAME_SIZE;
509
510     avccontext->coded_frame = avcodec_alloc_frame();
511     avccontext->coded_frame->key_frame = 1;
512
513     return 0;
514 }
515
516
517 static int vorbis_encode_frame(AVCodecContext * avccontext, unsigned char * packets, int buf_size, void *data)
518 {
519 #if 0
520     venc_context_t * venc = avccontext->priv_data;
521     signed short * audio = data;
522     int samples = data ? VORBIS_FRAME_SIZE : 0;
523
524     avccontext->coded_frame->pts = av_rescale_q(op2->granulepos, (AVRational){1, avccontext->sample_rate}, avccontext->time_base);
525     memcpy(packets, compressed_frame, l);
526 #endif
527     return data ? 50 : 0;
528 }
529
530
531 static int vorbis_encode_close(AVCodecContext * avccontext)
532 {
533     venc_context_t * venc = avccontext->priv_data;
534
535     av_freep(&avccontext->coded_frame);
536     av_freep(&avccontext->extradata);
537
538     return 0 ;
539 }
540
541 AVCodec oggvorbis_encoder = {
542     "vorbis",
543     CODEC_TYPE_AUDIO,
544     CODEC_ID_VORBIS,
545     sizeof(venc_context_t),
546     vorbis_encode_init,
547     vorbis_encode_frame,
548     vorbis_encode_close,
549     .capabilities= CODEC_CAP_DELAY,
550 };