indeo3: ensure that decoded cell data is in 7-bit range as presumed by decoder
[ffmpeg.git] / libavcodec / mpeg12data.c
1 /*
2  * MPEG1/2 tables
3  * copyright (c) 2000,2001 Fabrice Bellard
4  * copyright (c) 2002-2004 Michael Niedermayer <michaelni@gmx.at>
5  *
6  * This file is part of Libav.
7  *
8  * Libav is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * Libav is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with Libav; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 /**
24  * @file
25  * MPEG1/2 tables.
26  */
27
28 #include "mpeg12data.h"
29
30 const uint16_t ff_mpeg1_default_intra_matrix[64] = {
31         8, 16, 19, 22, 26, 27, 29, 34,
32         16, 16, 22, 24, 27, 29, 34, 37,
33         19, 22, 26, 27, 29, 34, 34, 38,
34         22, 22, 26, 27, 29, 34, 37, 40,
35         22, 26, 27, 29, 32, 35, 40, 48,
36         26, 27, 29, 32, 35, 40, 48, 58,
37         26, 27, 29, 34, 38, 46, 56, 69,
38         27, 29, 35, 38, 46, 56, 69, 83
39 };
40
41 const uint16_t ff_mpeg1_default_non_intra_matrix[64] = {
42     16, 16, 16, 16, 16, 16, 16, 16,
43     16, 16, 16, 16, 16, 16, 16, 16,
44     16, 16, 16, 16, 16, 16, 16, 16,
45     16, 16, 16, 16, 16, 16, 16, 16,
46     16, 16, 16, 16, 16, 16, 16, 16,
47     16, 16, 16, 16, 16, 16, 16, 16,
48     16, 16, 16, 16, 16, 16, 16, 16,
49     16, 16, 16, 16, 16, 16, 16, 16,
50 };
51
52 const uint16_t ff_mpeg12_vlc_dc_lum_code[12] = {
53     0x4, 0x0, 0x1, 0x5, 0x6, 0xe, 0x1e, 0x3e, 0x7e, 0xfe, 0x1fe, 0x1ff,
54 };
55 const unsigned char ff_mpeg12_vlc_dc_lum_bits[12] = {
56     3, 2, 2, 3, 3, 4, 5, 6, 7, 8, 9, 9,
57 };
58
59 const uint16_t ff_mpeg12_vlc_dc_chroma_code[12] = {
60     0x0, 0x1, 0x2, 0x6, 0xe, 0x1e, 0x3e, 0x7e, 0xfe, 0x1fe, 0x3fe, 0x3ff,
61 };
62 const unsigned char ff_mpeg12_vlc_dc_chroma_bits[12] = {
63     2, 2, 2, 3, 4, 5, 6, 7, 8, 9, 10, 10,
64 };
65
66 static const uint16_t mpeg1_vlc[113][2] = {
67  { 0x3, 2 }, { 0x4, 4 }, { 0x5, 5 }, { 0x6, 7 },
68  { 0x26, 8 }, { 0x21, 8 }, { 0xa, 10 }, { 0x1d, 12 },
69  { 0x18, 12 }, { 0x13, 12 }, { 0x10, 12 }, { 0x1a, 13 },
70  { 0x19, 13 }, { 0x18, 13 }, { 0x17, 13 }, { 0x1f, 14 },
71  { 0x1e, 14 }, { 0x1d, 14 }, { 0x1c, 14 }, { 0x1b, 14 },
72  { 0x1a, 14 }, { 0x19, 14 }, { 0x18, 14 }, { 0x17, 14 },
73  { 0x16, 14 }, { 0x15, 14 }, { 0x14, 14 }, { 0x13, 14 },
74  { 0x12, 14 }, { 0x11, 14 }, { 0x10, 14 }, { 0x18, 15 },
75  { 0x17, 15 }, { 0x16, 15 }, { 0x15, 15 }, { 0x14, 15 },
76  { 0x13, 15 }, { 0x12, 15 }, { 0x11, 15 }, { 0x10, 15 },
77  { 0x3, 3 }, { 0x6, 6 }, { 0x25, 8 }, { 0xc, 10 },
78  { 0x1b, 12 }, { 0x16, 13 }, { 0x15, 13 }, { 0x1f, 15 },
79  { 0x1e, 15 }, { 0x1d, 15 }, { 0x1c, 15 }, { 0x1b, 15 },
80  { 0x1a, 15 }, { 0x19, 15 }, { 0x13, 16 }, { 0x12, 16 },
81  { 0x11, 16 }, { 0x10, 16 }, { 0x5, 4 }, { 0x4, 7 },
82  { 0xb, 10 }, { 0x14, 12 }, { 0x14, 13 }, { 0x7, 5 },
83  { 0x24, 8 }, { 0x1c, 12 }, { 0x13, 13 }, { 0x6, 5 },
84  { 0xf, 10 }, { 0x12, 12 }, { 0x7, 6 }, { 0x9, 10 },
85  { 0x12, 13 }, { 0x5, 6 }, { 0x1e, 12 }, { 0x14, 16 },
86  { 0x4, 6 }, { 0x15, 12 }, { 0x7, 7 }, { 0x11, 12 },
87  { 0x5, 7 }, { 0x11, 13 }, { 0x27, 8 }, { 0x10, 13 },
88  { 0x23, 8 }, { 0x1a, 16 }, { 0x22, 8 }, { 0x19, 16 },
89  { 0x20, 8 }, { 0x18, 16 }, { 0xe, 10 }, { 0x17, 16 },
90  { 0xd, 10 }, { 0x16, 16 }, { 0x8, 10 }, { 0x15, 16 },
91  { 0x1f, 12 }, { 0x1a, 12 }, { 0x19, 12 }, { 0x17, 12 },
92  { 0x16, 12 }, { 0x1f, 13 }, { 0x1e, 13 }, { 0x1d, 13 },
93  { 0x1c, 13 }, { 0x1b, 13 }, { 0x1f, 16 }, { 0x1e, 16 },
94  { 0x1d, 16 }, { 0x1c, 16 }, { 0x1b, 16 },
95  { 0x1, 6 }, /* escape */
96  { 0x2, 2 }, /* EOB */
97 };
98
99 static const uint16_t mpeg2_vlc[113][2] = {
100   {0x02, 2}, {0x06, 3}, {0x07, 4}, {0x1c, 5},
101   {0x1d, 5}, {0x05, 6}, {0x04, 6}, {0x7b, 7},
102   {0x7c, 7}, {0x23, 8}, {0x22, 8}, {0xfa, 8},
103   {0xfb, 8}, {0xfe, 8}, {0xff, 8}, {0x1f,14},
104   {0x1e,14}, {0x1d,14}, {0x1c,14}, {0x1b,14},
105   {0x1a,14}, {0x19,14}, {0x18,14}, {0x17,14},
106   {0x16,14}, {0x15,14}, {0x14,14}, {0x13,14},
107   {0x12,14}, {0x11,14}, {0x10,14}, {0x18,15},
108   {0x17,15}, {0x16,15}, {0x15,15}, {0x14,15},
109   {0x13,15}, {0x12,15}, {0x11,15}, {0x10,15},
110   {0x02, 3}, {0x06, 5}, {0x79, 7}, {0x27, 8},
111   {0x20, 8}, {0x16,13}, {0x15,13}, {0x1f,15},
112   {0x1e,15}, {0x1d,15}, {0x1c,15}, {0x1b,15},
113   {0x1a,15}, {0x19,15}, {0x13,16}, {0x12,16},
114   {0x11,16}, {0x10,16}, {0x05, 5}, {0x07, 7},
115   {0xfc, 8}, {0x0c,10}, {0x14,13}, {0x07, 5},
116   {0x26, 8}, {0x1c,12}, {0x13,13}, {0x06, 6},
117   {0xfd, 8}, {0x12,12}, {0x07, 6}, {0x04, 9},
118   {0x12,13}, {0x06, 7}, {0x1e,12}, {0x14,16},
119   {0x04, 7}, {0x15,12}, {0x05, 7}, {0x11,12},
120   {0x78, 7}, {0x11,13}, {0x7a, 7}, {0x10,13},
121   {0x21, 8}, {0x1a,16}, {0x25, 8}, {0x19,16},
122   {0x24, 8}, {0x18,16}, {0x05, 9}, {0x17,16},
123   {0x07, 9}, {0x16,16}, {0x0d,10}, {0x15,16},
124   {0x1f,12}, {0x1a,12}, {0x19,12}, {0x17,12},
125   {0x16,12}, {0x1f,13}, {0x1e,13}, {0x1d,13},
126   {0x1c,13}, {0x1b,13}, {0x1f,16}, {0x1e,16},
127   {0x1d,16}, {0x1c,16}, {0x1b,16},
128   {0x01,6}, /* escape */
129   {0x06,4}, /* EOB */
130 };
131
132 static const int8_t mpeg1_level[111] = {
133   1,  2,  3,  4,  5,  6,  7,  8,
134   9, 10, 11, 12, 13, 14, 15, 16,
135  17, 18, 19, 20, 21, 22, 23, 24,
136  25, 26, 27, 28, 29, 30, 31, 32,
137  33, 34, 35, 36, 37, 38, 39, 40,
138   1,  2,  3,  4,  5,  6,  7,  8,
139   9, 10, 11, 12, 13, 14, 15, 16,
140  17, 18,  1,  2,  3,  4,  5,  1,
141   2,  3,  4,  1,  2,  3,  1,  2,
142   3,  1,  2,  3,  1,  2,  1,  2,
143   1,  2,  1,  2,  1,  2,  1,  2,
144   1,  2,  1,  2,  1,  2,  1,  2,
145   1,  1,  1,  1,  1,  1,  1,  1,
146   1,  1,  1,  1,  1,  1,  1,
147 };
148
149 static const int8_t mpeg1_run[111] = {
150   0,  0,  0,  0,  0,  0,  0,  0,
151   0,  0,  0,  0,  0,  0,  0,  0,
152   0,  0,  0,  0,  0,  0,  0,  0,
153   0,  0,  0,  0,  0,  0,  0,  0,
154   0,  0,  0,  0,  0,  0,  0,  0,
155   1,  1,  1,  1,  1,  1,  1,  1,
156   1,  1,  1,  1,  1,  1,  1,  1,
157   1,  1,  2,  2,  2,  2,  2,  3,
158   3,  3,  3,  4,  4,  4,  5,  5,
159   5,  6,  6,  6,  7,  7,  8,  8,
160   9,  9, 10, 10, 11, 11, 12, 12,
161  13, 13, 14, 14, 15, 15, 16, 16,
162  17, 18, 19, 20, 21, 22, 23, 24,
163  25, 26, 27, 28, 29, 30, 31,
164 };
165
166 RLTable ff_rl_mpeg1 = {
167     111,
168     111,
169     mpeg1_vlc,
170     mpeg1_run,
171     mpeg1_level,
172 };
173
174 RLTable ff_rl_mpeg2 = {
175     111,
176     111,
177     mpeg2_vlc,
178     mpeg1_run,
179     mpeg1_level,
180 };
181
182 const uint8_t ff_mpeg12_mbAddrIncrTable[36][2] = {
183     {0x1, 1},
184     {0x3, 3},
185     {0x2, 3},
186     {0x3, 4},
187     {0x2, 4},
188     {0x3, 5},
189     {0x2, 5},
190     {0x7, 7},
191     {0x6, 7},
192     {0xb, 8},
193     {0xa, 8},
194     {0x9, 8},
195     {0x8, 8},
196     {0x7, 8},
197     {0x6, 8},
198     {0x17, 10},
199     {0x16, 10},
200     {0x15, 10},
201     {0x14, 10},
202     {0x13, 10},
203     {0x12, 10},
204     {0x23, 11},
205     {0x22, 11},
206     {0x21, 11},
207     {0x20, 11},
208     {0x1f, 11},
209     {0x1e, 11},
210     {0x1d, 11},
211     {0x1c, 11},
212     {0x1b, 11},
213     {0x1a, 11},
214     {0x19, 11},
215     {0x18, 11},
216     {0x8, 11}, /* escape */
217     {0xf, 11}, /* stuffing */
218     {0x0, 8}, /* end (and 15 more 0 bits should follow) */
219 };
220
221 const uint8_t ff_mpeg12_mbPatTable[64][2] = {
222     {0x1, 9},
223     {0xb, 5},
224     {0x9, 5},
225     {0xd, 6},
226     {0xd, 4},
227     {0x17, 7},
228     {0x13, 7},
229     {0x1f, 8},
230     {0xc, 4},
231     {0x16, 7},
232     {0x12, 7},
233     {0x1e, 8},
234     {0x13, 5},
235     {0x1b, 8},
236     {0x17, 8},
237     {0x13, 8},
238     {0xb, 4},
239     {0x15, 7},
240     {0x11, 7},
241     {0x1d, 8},
242     {0x11, 5},
243     {0x19, 8},
244     {0x15, 8},
245     {0x11, 8},
246     {0xf, 6},
247     {0xf, 8},
248     {0xd, 8},
249     {0x3, 9},
250     {0xf, 5},
251     {0xb, 8},
252     {0x7, 8},
253     {0x7, 9},
254     {0xa, 4},
255     {0x14, 7},
256     {0x10, 7},
257     {0x1c, 8},
258     {0xe, 6},
259     {0xe, 8},
260     {0xc, 8},
261     {0x2, 9},
262     {0x10, 5},
263     {0x18, 8},
264     {0x14, 8},
265     {0x10, 8},
266     {0xe, 5},
267     {0xa, 8},
268     {0x6, 8},
269     {0x6, 9},
270     {0x12, 5},
271     {0x1a, 8},
272     {0x16, 8},
273     {0x12, 8},
274     {0xd, 5},
275     {0x9, 8},
276     {0x5, 8},
277     {0x5, 9},
278     {0xc, 5},
279     {0x8, 8},
280     {0x4, 8},
281     {0x4, 9},
282     {0x7, 3},
283     {0xa, 5},
284     {0x8, 5},
285     {0xc, 6}
286 };
287
288 const uint8_t ff_mpeg12_mbMotionVectorTable[17][2] = {
289 { 0x1, 1 },
290 { 0x1, 2 },
291 { 0x1, 3 },
292 { 0x1, 4 },
293 { 0x3, 6 },
294 { 0x5, 7 },
295 { 0x4, 7 },
296 { 0x3, 7 },
297 { 0xb, 9 },
298 { 0xa, 9 },
299 { 0x9, 9 },
300 { 0x11, 10 },
301 { 0x10, 10 },
302 { 0xf, 10 },
303 { 0xe, 10 },
304 { 0xd, 10 },
305 { 0xc, 10 },
306 };
307
308 const AVRational avpriv_frame_rate_tab[16] = {
309     {    0,    0},
310     {24000, 1001},
311     {   24,    1},
312     {   25,    1},
313     {30000, 1001},
314     {   30,    1},
315     {   50,    1},
316     {60000, 1001},
317     {   60,    1},
318   // Xing's 15fps: (9)
319     {   15,    1},
320   // libmpeg3's "Unofficial economy rates": (10-13)
321     {    5,    1},
322     {   10,    1},
323     {   12,    1},
324     {   15,    1},
325     {    0,    0},
326 };
327
328 const float ff_mpeg1_aspect[16]={
329     0.0000,
330     1.0000,
331     0.6735,
332     0.7031,
333
334     0.7615,
335     0.8055,
336     0.8437,
337     0.8935,
338
339     0.9157,
340     0.9815,
341     1.0255,
342     1.0695,
343
344     1.0950,
345     1.1575,
346     1.2015,
347 };
348
349 const AVRational ff_mpeg2_aspect[16]={
350     {0,1},
351     {1,1},
352     {4,3},
353     {16,9},
354     {221,100},
355     {0,1},
356     {0,1},
357     {0,1},
358     {0,1},
359     {0,1},
360     {0,1},
361     {0,1},
362     {0,1},
363     {0,1},
364     {0,1},
365     {0,1},
366 };