dxva2_h264: fix reference field marking in long slice struct
[ffmpeg.git] / libavutil / pca.c
1 /*
2  * principal component analysis (PCA)
3  * Copyright (c) 2004 Michael Niedermayer <michaelni@gmx.at>
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * principal component analysis (PCA)
25  */
26
27 #include "common.h"
28 #include "pca.h"
29
30 typedef struct PCA{
31     int count;
32     int n;
33     double *covariance;
34     double *mean;
35     double *z;
36 }PCA;
37
38 PCA *ff_pca_init(int n){
39     PCA *pca;
40     if(n<=0)
41         return NULL;
42
43     pca= av_mallocz(sizeof(*pca));
44     if (!pca)
45         return NULL;
46
47     pca->n= n;
48     pca->z = av_malloc_array(n, sizeof(*pca->z));
49     pca->count=0;
50     pca->covariance= av_calloc(n*n, sizeof(double));
51     pca->mean= av_calloc(n, sizeof(double));
52
53     if (!pca->z || !pca->covariance || !pca->mean) {
54         ff_pca_free(pca);
55         return NULL;
56     }
57
58     return pca;
59 }
60
61 void ff_pca_free(PCA *pca){
62     av_freep(&pca->covariance);
63     av_freep(&pca->mean);
64     av_freep(&pca->z);
65     av_free(pca);
66 }
67
68 void ff_pca_add(PCA *pca, const double *v){
69     int i, j;
70     const int n= pca->n;
71
72     for(i=0; i<n; i++){
73         pca->mean[i] += v[i];
74         for(j=i; j<n; j++)
75             pca->covariance[j + i*n] += v[i]*v[j];
76     }
77     pca->count++;
78 }
79
80 int ff_pca(PCA *pca, double *eigenvector, double *eigenvalue){
81     int i, j, pass;
82     int k=0;
83     const int n= pca->n;
84     double *z = pca->z;
85
86     memset(eigenvector, 0, sizeof(double)*n*n);
87
88     for(j=0; j<n; j++){
89         pca->mean[j] /= pca->count;
90         eigenvector[j + j*n] = 1.0;
91         for(i=0; i<=j; i++){
92             pca->covariance[j + i*n] /= pca->count;
93             pca->covariance[j + i*n] -= pca->mean[i] * pca->mean[j];
94             pca->covariance[i + j*n] = pca->covariance[j + i*n];
95         }
96         eigenvalue[j]= pca->covariance[j + j*n];
97         z[j]= 0;
98     }
99
100     for(pass=0; pass < 50; pass++){
101         double sum=0;
102
103         for(i=0; i<n; i++)
104             for(j=i+1; j<n; j++)
105                 sum += fabs(pca->covariance[j + i*n]);
106
107         if(sum == 0){
108             for(i=0; i<n; i++){
109                 double maxvalue= -1;
110                 for(j=i; j<n; j++){
111                     if(eigenvalue[j] > maxvalue){
112                         maxvalue= eigenvalue[j];
113                         k= j;
114                     }
115                 }
116                 eigenvalue[k]= eigenvalue[i];
117                 eigenvalue[i]= maxvalue;
118                 for(j=0; j<n; j++){
119                     double tmp= eigenvector[k + j*n];
120                     eigenvector[k + j*n]= eigenvector[i + j*n];
121                     eigenvector[i + j*n]= tmp;
122                 }
123             }
124             return pass;
125         }
126
127         for(i=0; i<n; i++){
128             for(j=i+1; j<n; j++){
129                 double covar= pca->covariance[j + i*n];
130                 double t,c,s,tau,theta, h;
131
132                 if(pass < 3 && fabs(covar) < sum / (5*n*n)) //FIXME why pass < 3
133                     continue;
134                 if(fabs(covar) == 0.0) //FIXME should not be needed
135                     continue;
136                 if(pass >=3 && fabs((eigenvalue[j]+z[j])/covar) > (1LL<<32) && fabs((eigenvalue[i]+z[i])/covar) > (1LL<<32)){
137                     pca->covariance[j + i*n]=0.0;
138                     continue;
139                 }
140
141                 h= (eigenvalue[j]+z[j]) - (eigenvalue[i]+z[i]);
142                 theta=0.5*h/covar;
143                 t=1.0/(fabs(theta)+sqrt(1.0+theta*theta));
144                 if(theta < 0.0) t = -t;
145
146                 c=1.0/sqrt(1+t*t);
147                 s=t*c;
148                 tau=s/(1.0+c);
149                 z[i] -= t*covar;
150                 z[j] += t*covar;
151
152 #define ROTATE(a,i,j,k,l) {\
153     double g=a[j + i*n];\
154     double h=a[l + k*n];\
155     a[j + i*n]=g-s*(h+g*tau);\
156     a[l + k*n]=h+s*(g-h*tau); }
157                 for(k=0; k<n; k++) {
158                     if(k!=i && k!=j){
159                         ROTATE(pca->covariance,FFMIN(k,i),FFMAX(k,i),FFMIN(k,j),FFMAX(k,j))
160                     }
161                     ROTATE(eigenvector,k,i,k,j)
162                 }
163                 pca->covariance[j + i*n]=0.0;
164             }
165         }
166         for (i=0; i<n; i++) {
167             eigenvalue[i] += z[i];
168             z[i]=0.0;
169         }
170     }
171
172     return -1;
173 }
174
175 #ifdef TEST
176
177 #undef printf
178 #include <stdio.h>
179 #include <stdlib.h>
180 #include "lfg.h"
181
182 int main(void){
183     PCA *pca;
184     int i, j, k;
185 #define LEN 8
186     double eigenvector[LEN*LEN];
187     double eigenvalue[LEN];
188     AVLFG prng;
189
190     av_lfg_init(&prng, 1);
191
192     pca= ff_pca_init(LEN);
193
194     for(i=0; i<9000000; i++){
195         double v[2*LEN+100];
196         double sum=0;
197         int pos = av_lfg_get(&prng) % LEN;
198         int v2  = av_lfg_get(&prng) % 101 - 50;
199         v[0]    = av_lfg_get(&prng) % 101 - 50;
200         for(j=1; j<8; j++){
201             if(j<=pos) v[j]= v[0];
202             else       v[j]= v2;
203             sum += v[j];
204         }
205 /*        for(j=0; j<LEN; j++){
206             v[j] -= v[pos];
207         }*/
208 //        sum += av_lfg_get(&prng) % 10;
209 /*        for(j=0; j<LEN; j++){
210             v[j] -= sum/LEN;
211         }*/
212 //        lbt1(v+100,v+100,LEN);
213         ff_pca_add(pca, v);
214     }
215
216
217     ff_pca(pca, eigenvector, eigenvalue);
218     for(i=0; i<LEN; i++){
219         pca->count= 1;
220         pca->mean[i]= 0;
221
222 //        (0.5^|x|)^2 = 0.5^2|x| = 0.25^|x|
223
224
225 //        pca.covariance[i + i*LEN]= pow(0.5, fabs
226         for(j=i; j<LEN; j++){
227             printf("%f ", pca->covariance[i + j*LEN]);
228         }
229         printf("\n");
230     }
231
232     for(i=0; i<LEN; i++){
233         double v[LEN];
234         double error=0;
235         memset(v, 0, sizeof(v));
236         for(j=0; j<LEN; j++){
237             for(k=0; k<LEN; k++){
238                 v[j] += pca->covariance[FFMIN(k,j) + FFMAX(k,j)*LEN] * eigenvector[i + k*LEN];
239             }
240             v[j] /= eigenvalue[i];
241             error += fabs(v[j] - eigenvector[i + j*LEN]);
242         }
243         printf("%f ", error);
244     }
245     printf("\n");
246
247     for(i=0; i<LEN; i++){
248         for(j=0; j<LEN; j++){
249             printf("%9.6f ", eigenvector[i + j*LEN]);
250         }
251         printf("  %9.1f %f\n", eigenvalue[i], eigenvalue[i]/eigenvalue[0]);
252     }
253
254     return 0;
255 }
256 #endif