avcodec/vc1: fix calculation of the last line of a slice
[ffmpeg.git] / libavcodec / mpegaudiodsp_data.c
1 /*
2  * This file is part of FFmpeg.
3  *
4  * FFmpeg is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU Lesser General Public
6  * License as published by the Free Software Foundation; either
7  * version 2.1 of the License, or (at your option) any later version.
8  *
9  * FFmpeg is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
12  * Lesser General Public License for more details.
13  *
14  * You should have received a copy of the GNU Lesser General Public
15  * License along with FFmpeg; if not, write to the Free Software
16  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
17  */
18
19 #include "mpegaudiodsp.h"
20
21 /* half mpeg encoding window (full precision) */
22 const int32_t ff_mpa_enwindow[257] = {
23      0,    -1,    -1,    -1,    -1,    -1,    -1,    -2,
24     -2,    -2,    -2,    -3,    -3,    -4,    -4,    -5,
25     -5,    -6,    -7,    -7,    -8,    -9,   -10,   -11,
26    -13,   -14,   -16,   -17,   -19,   -21,   -24,   -26,
27    -29,   -31,   -35,   -38,   -41,   -45,   -49,   -53,
28    -58,   -63,   -68,   -73,   -79,   -85,   -91,   -97,
29   -104,  -111,  -117,  -125,  -132,  -139,  -147,  -154,
30   -161,  -169,  -176,  -183,  -190,  -196,  -202,  -208,
31    213,   218,   222,   225,   227,   228,   228,   227,
32    224,   221,   215,   208,   200,   189,   177,   163,
33    146,   127,   106,    83,    57,    29,    -2,   -36,
34    -72,  -111,  -153,  -197,  -244,  -294,  -347,  -401,
35   -459,  -519,  -581,  -645,  -711,  -779,  -848,  -919,
36   -991, -1064, -1137, -1210, -1283, -1356, -1428, -1498,
37  -1567, -1634, -1698, -1759, -1817, -1870, -1919, -1962,
38  -2001, -2032, -2057, -2075, -2085, -2087, -2080, -2063,
39   2037,  2000,  1952,  1893,  1822,  1739,  1644,  1535,
40   1414,  1280,  1131,   970,   794,   605,   402,   185,
41    -45,  -288,  -545,  -814, -1095, -1388, -1692, -2006,
42  -2330, -2663, -3004, -3351, -3705, -4063, -4425, -4788,
43  -5153, -5517, -5879, -6237, -6589, -6935, -7271, -7597,
44  -7910, -8209, -8491, -8755, -8998, -9219, -9416, -9585,
45  -9727, -9838, -9916, -9959, -9966, -9935, -9863, -9750,
46  -9592, -9389, -9139, -8840, -8492, -8092, -7640, -7134,
47   6574,  5959,  5288,  4561,  3776,  2935,  2037,  1082,
48     70,  -998, -2122, -3300, -4533, -5818, -7154, -8540,
49  -9975,-11455,-12980,-14548,-16155,-17799,-19478,-21189,
50 -22929,-24694,-26482,-28289,-30112,-31947,-33791,-35640,
51 -37489,-39336,-41176,-43006,-44821,-46617,-48390,-50137,
52 -51853,-53534,-55178,-56778,-58333,-59838,-61289,-62684,
53 -64019,-65290,-66494,-67629,-68692,-69679,-70590,-71420,
54 -72169,-72835,-73415,-73908,-74313,-74630,-74856,-74992,
55  75038,
56 };