Merge commit 'b668662939de3a02454cfc9ba3e6d10b87527a40'
[ffmpeg.git] / libavcodec / vorbis.c
1 /**
2  * @file
3  * Common code for Vorbis I encoder and decoder
4  * @author Denes Balatoni  ( dbalatoni programozo hu )
5  *
6  * This file is part of FFmpeg.
7  *
8  * FFmpeg is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * FFmpeg is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with FFmpeg; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 /**
24  * @file
25  * Common code for Vorbis I encoder and decoder
26  * @author Denes Balatoni  ( dbalatoni programozo hu )
27  */
28
29 #define BITSTREAM_READER_LE
30 #include "avcodec.h"
31 #include "get_bits.h"
32 #include "vorbis.h"
33
34
35 /* Helper functions */
36
37 // x^(1/n)
38 unsigned int ff_vorbis_nth_root(unsigned int x, unsigned int n)
39 {
40     unsigned int ret = 0, i, j;
41
42     do {
43         ++ret;
44         for (i = 0, j = ret; i < n - 1; i++)
45             j *= ret;
46     } while (j <= x);
47
48     return ret - 1;
49 }
50
51 // Generate vlc codes from vorbis huffman code lengths
52
53 // the two bits[p] > 32 checks should be redundant, all calling code should
54 // already ensure that, but since it allows overwriting the stack it seems
55 // reasonable to check redundantly.
56 int ff_vorbis_len2vlc(uint8_t *bits, uint32_t *codes, unsigned num)
57 {
58     uint32_t exit_at_level[33] = { 404 };
59
60     unsigned i, j, p, code;
61
62 #ifdef DEBUG
63     GetBitContext gb;
64 #endif
65
66     for (p = 0; (bits[p] == 0) && (p < num); ++p)
67         ;
68     if (p == num)
69         return 0;
70
71     codes[p] = 0;
72     if (bits[p] > 32)
73         return AVERROR_INVALIDDATA;
74     for (i = 0; i < bits[p]; ++i)
75         exit_at_level[i+1] = 1 << i;
76
77 #ifdef DEBUG
78     av_log(NULL, AV_LOG_INFO, " %u. of %u code len %d code %d - ", p, num, bits[p], codes[p]);
79     init_get_bits(&gb, (uint8_t *)&codes[p], bits[p]);
80     for (i = 0; i < bits[p]; ++i)
81         av_log(NULL, AV_LOG_INFO, "%s", get_bits1(&gb) ? "1" : "0");
82     av_log(NULL, AV_LOG_INFO, "\n");
83 #endif
84
85     ++p;
86
87     for (i = p; (bits[i] == 0) && (i < num); ++i)
88         ;
89     if (i == num)
90         return 0;
91
92     for (; p < num; ++p) {
93         if (bits[p] > 32)
94              return AVERROR_INVALIDDATA;
95         if (bits[p] == 0)
96              continue;
97         // find corresponding exit(node which the tree can grow further from)
98         for (i = bits[p]; i > 0; --i)
99             if (exit_at_level[i])
100                 break;
101         if (!i) // overspecified tree
102              return AVERROR_INVALIDDATA;
103         code = exit_at_level[i];
104         exit_at_level[i] = 0;
105         // construct code (append 0s to end) and introduce new exits
106         for (j = i + 1 ;j <= bits[p]; ++j)
107             exit_at_level[j] = code + (1 << (j - 1));
108         codes[p] = code;
109
110 #ifdef DEBUG
111         av_log(NULL, AV_LOG_INFO, " %d. code len %d code %d - ", p, bits[p], codes[p]);
112         init_get_bits(&gb, (uint8_t *)&codes[p], bits[p]);
113         for (i = 0; i < bits[p]; ++i)
114             av_log(NULL, AV_LOG_INFO, "%s", get_bits1(&gb) ? "1" : "0");
115         av_log(NULL, AV_LOG_INFO, "\n");
116 #endif
117
118     }
119
120     //no exits should be left (underspecified tree - ie. unused valid vlcs - not allowed by SPEC)
121     for (p = 1; p < 33; p++)
122         if (exit_at_level[p])
123             return AVERROR_INVALIDDATA;
124
125     return 0;
126 }
127
128 int ff_vorbis_ready_floor1_list(AVCodecContext *avctx,
129                                 vorbis_floor1_entry *list, int values)
130 {
131     int i;
132     list[0].sort = 0;
133     list[1].sort = 1;
134     for (i = 2; i < values; i++) {
135         int j;
136         list[i].low  = 0;
137         list[i].high = 1;
138         list[i].sort = i;
139         for (j = 2; j < i; j++) {
140             int tmp = list[j].x;
141             if (tmp < list[i].x) {
142                 if (tmp > list[list[i].low].x)
143                     list[i].low  =  j;
144             } else {
145                 if (tmp < list[list[i].high].x)
146                     list[i].high = j;
147             }
148         }
149     }
150     for (i = 0; i < values - 1; i++) {
151         int j;
152         for (j = i + 1; j < values; j++) {
153             if (list[i].x == list[j].x) {
154                 av_log(avctx, AV_LOG_ERROR,
155                        "Duplicate value found in floor 1 X coordinates\n");
156                 return AVERROR_INVALIDDATA;
157             }
158             if (list[list[i].sort].x > list[list[j].sort].x) {
159                 int tmp = list[i].sort;
160                 list[i].sort = list[j].sort;
161                 list[j].sort = tmp;
162             }
163         }
164     }
165     return 0;
166 }
167
168 static inline void render_line_unrolled(intptr_t x, int y, int x1,
169                                         intptr_t sy, int ady, int adx,
170                                         float *buf)
171 {
172     int err = -adx;
173     x -= x1 - 1;
174     buf += x1 - 1;
175     while (++x < 0) {
176         err += ady;
177         if (err >= 0) {
178             err += ady - adx;
179             y   += sy;
180             buf[x++] = ff_vorbis_floor1_inverse_db_table[av_clip_uint8(y)];
181         }
182         buf[x] = ff_vorbis_floor1_inverse_db_table[av_clip_uint8(y)];
183     }
184     if (x <= 0) {
185         if (err + ady >= 0)
186             y += sy;
187         buf[x] = ff_vorbis_floor1_inverse_db_table[av_clip_uint8(y)];
188     }
189 }
190
191 static void render_line(int x0, int y0, int x1, int y1, float *buf)
192 {
193     int dy  = y1 - y0;
194     int adx = x1 - x0;
195     int ady = FFABS(dy);
196     int sy  = dy < 0 ? -1 : 1;
197     buf[x0] = ff_vorbis_floor1_inverse_db_table[av_clip_uint8(y0)];
198     if (ady*2 <= adx) { // optimized common case
199         render_line_unrolled(x0, y0, x1, sy, ady, adx, buf);
200     } else {
201         int base  = dy / adx;
202         int x     = x0;
203         int y     = y0;
204         int err   = -adx;
205         ady -= FFABS(base) * adx;
206         while (++x < x1) {
207             y += base;
208             err += ady;
209             if (err >= 0) {
210                 err -= adx;
211                 y   += sy;
212             }
213             buf[x] = ff_vorbis_floor1_inverse_db_table[av_clip_uint8(y)];
214         }
215     }
216 }
217
218 void ff_vorbis_floor1_render_list(vorbis_floor1_entry * list, int values,
219                                   uint16_t *y_list, int *flag,
220                                   int multiplier, float *out, int samples)
221 {
222     int lx, ly, i;
223     lx = 0;
224     ly = y_list[0] * multiplier;
225     for (i = 1; i < values; i++) {
226         int pos = list[i].sort;
227         if (flag[pos]) {
228             int x1 = list[pos].x;
229             int y1 = y_list[pos] * multiplier;
230             if (lx < samples)
231                 render_line(lx, ly, FFMIN(x1,samples), y1, out);
232             lx = x1;
233             ly = y1;
234         }
235         if (lx >= samples)
236             break;
237     }
238     if (lx < samples)
239         render_line(lx, ly, samples, ly, out);
240 }