Integrate reference mpeg IDCT into dsputil.
[ffmpeg.git] / libavcodec / mpegidct.c
1 /* idct.c, inverse fast discrete cosine transform                           */
2
3 /* Copyright (C) 1996, MPEG Software Simulation Group. All Rights Reserved. */
4
5 /*
6  * Disclaimer of Warranty
7  *
8  * These software programs are available to the user without any license fee or
9  * royalty on an "as is" basis.  The MPEG Software Simulation Group disclaims
10  * any and all warranties, whether express, implied, or statuary, including any
11  * implied warranties or merchantability or of fitness for a particular
12  * purpose.  In no event shall the copyright-holder be liable for any
13  * incidental, punitive, or consequential damages of any kind whatsoever
14  * arising from the use of these programs.
15  *
16  * This disclaimer of warranty extends to the user of these programs and user's
17  * customers, employees, agents, transferees, successors, and assigns.
18  *
19  * The MPEG Software Simulation Group does not represent or warrant that the
20  * programs furnished hereunder are free of infringement of any third-party
21  * patents.
22  *
23  * Commercial implementations of MPEG-1 and MPEG-2 video, including shareware,
24  * are subject to royalty fees to patent holders.  Many of these patents are
25  * general enough such that they are unavoidable regardless of implementation
26  * design.
27  *
28  */
29
30 /**********************************************************/
31 /* inverse two dimensional DCT, Chen-Wang algorithm       */
32 /* (cf. IEEE ASSP-32, pp. 803-816, Aug. 1984)             */
33 /* 32-bit integer arithmetic (8 bit coefficients)         */
34 /* 11 mults, 29 adds per DCT                              */
35 /*                                      sE, 18.8.91       */
36 /**********************************************************/
37 /* coefficients extended to 12 bit for IEEE1180-1990      */
38 /* compliance                           sE,  2.1.94       */
39 /**********************************************************/
40
41 /* this code assumes >> to be a two's-complement arithmetic */
42 /* right shift: (-2)>>1 == -1 , (-3)>>1 == -2               */
43
44
45 #define W1 2841 /* 2048*sqrt(2)*cos(1*pi/16) */
46 #define W2 2676 /* 2048*sqrt(2)*cos(2*pi/16) */
47 #define W3 2408 /* 2048*sqrt(2)*cos(3*pi/16) */
48 #define W5 1609 /* 2048*sqrt(2)*cos(5*pi/16) */
49 #define W6 1108 /* 2048*sqrt(2)*cos(6*pi/16) */
50 #define W7 565  /* 2048*sqrt(2)*cos(7*pi/16) */
51
52 /* row (horizontal) IDCT
53  *
54  *           7                       pi         1
55  * dst[k] = sum c[l] * src[l] * cos( -- * ( k + - ) * l )
56  *          l=0                      8          2
57  *
58  * where: c[0]    = 128
59  *        c[1..7] = 128*sqrt(2)
60  */
61
62 static void idctrow(blk)
63 short *blk;
64 {
65   int x0, x1, x2, x3, x4, x5, x6, x7, x8;
66
67   /* shortcut */
68   if (!((x1 = blk[4]<<11) | (x2 = blk[6]) | (x3 = blk[2]) |
69         (x4 = blk[1]) | (x5 = blk[7]) | (x6 = blk[5]) | (x7 = blk[3])))
70   {
71     blk[0]=blk[1]=blk[2]=blk[3]=blk[4]=blk[5]=blk[6]=blk[7]=blk[0]<<3;
72     return;
73   }
74
75   x0 = (blk[0]<<11) + 128; /* for proper rounding in the fourth stage */
76
77   /* first stage */
78   x8 = W7*(x4+x5);
79   x4 = x8 + (W1-W7)*x4;
80   x5 = x8 - (W1+W7)*x5;
81   x8 = W3*(x6+x7);
82   x6 = x8 - (W3-W5)*x6;
83   x7 = x8 - (W3+W5)*x7;
84
85   /* second stage */
86   x8 = x0 + x1;
87   x0 -= x1;
88   x1 = W6*(x3+x2);
89   x2 = x1 - (W2+W6)*x2;
90   x3 = x1 + (W2-W6)*x3;
91   x1 = x4 + x6;
92   x4 -= x6;
93   x6 = x5 + x7;
94   x5 -= x7;
95
96   /* third stage */
97   x7 = x8 + x3;
98   x8 -= x3;
99   x3 = x0 + x2;
100   x0 -= x2;
101   x2 = (181*(x4+x5)+128)>>8;
102   x4 = (181*(x4-x5)+128)>>8;
103
104   /* fourth stage */
105   blk[0] = (x7+x1)>>8;
106   blk[1] = (x3+x2)>>8;
107   blk[2] = (x0+x4)>>8;
108   blk[3] = (x8+x6)>>8;
109   blk[4] = (x8-x6)>>8;
110   blk[5] = (x0-x4)>>8;
111   blk[6] = (x3-x2)>>8;
112   blk[7] = (x7-x1)>>8;
113 }
114
115 /* column (vertical) IDCT
116  *
117  *             7                         pi         1
118  * dst[8*k] = sum c[l] * src[8*l] * cos( -- * ( k + - ) * l )
119  *            l=0                        8          2
120  *
121  * where: c[0]    = 1/1024
122  *        c[1..7] = (1/1024)*sqrt(2)
123  */
124 static void idctcol(blk)
125 short *blk;
126 {
127   int x0, x1, x2, x3, x4, x5, x6, x7, x8;
128
129   /* shortcut */
130   if (!((x1 = (blk[8*4]<<8)) | (x2 = blk[8*6]) | (x3 = blk[8*2]) |
131         (x4 = blk[8*1]) | (x5 = blk[8*7]) | (x6 = blk[8*5]) | (x7 = blk[8*3])))
132   {
133     blk[8*0]=blk[8*1]=blk[8*2]=blk[8*3]=blk[8*4]=blk[8*5]=blk[8*6]=blk[8*7]=
134       (blk[8*0]+32)>>6;
135     return;
136   }
137
138   x0 = (blk[8*0]<<8) + 8192;
139
140   /* first stage */
141   x8 = W7*(x4+x5) + 4;
142   x4 = (x8+(W1-W7)*x4)>>3;
143   x5 = (x8-(W1+W7)*x5)>>3;
144   x8 = W3*(x6+x7) + 4;
145   x6 = (x8-(W3-W5)*x6)>>3;
146   x7 = (x8-(W3+W5)*x7)>>3;
147
148   /* second stage */
149   x8 = x0 + x1;
150   x0 -= x1;
151   x1 = W6*(x3+x2) + 4;
152   x2 = (x1-(W2+W6)*x2)>>3;
153   x3 = (x1+(W2-W6)*x3)>>3;
154   x1 = x4 + x6;
155   x4 -= x6;
156   x6 = x5 + x7;
157   x5 -= x7;
158
159   /* third stage */
160   x7 = x8 + x3;
161   x8 -= x3;
162   x3 = x0 + x2;
163   x0 -= x2;
164   x2 = (181*(x4+x5)+128)>>8;
165   x4 = (181*(x4-x5)+128)>>8;
166
167   /* fourth stage */
168   blk[8*0] = (x7+x1)>>14;
169   blk[8*1] = (x3+x2)>>14;
170   blk[8*2] = (x0+x4)>>14;
171   blk[8*3] = (x8+x6)>>14;
172   blk[8*4] = (x8-x6)>>14;
173   blk[8*5] = (x0-x4)>>14;
174   blk[8*6] = (x3-x2)>>14;
175   blk[8*7] = (x7-x1)>>14;
176 }
177
178 /* two dimensional inverse discrete cosine transform */
179 void ff_mpeg_idct_c(block)
180 short *block;
181 {
182   int i;
183
184   for (i=0; i<8; i++)
185     idctrow(block+8*i);
186
187   for (i=0; i<8; i++)
188     idctcol(block+i);
189 }