* resync without endless loop
[ffmpeg.git] / postproc / swscale.h
1 /*
2     Copyright (C) 2001-2002 Michael Niedermayer <michaelni@gmx.at>
3
4     This program is free software; you can redistribute it and/or modify
5     it under the terms of the GNU General Public License as published by
6     the Free Software Foundation; either version 2 of the License, or
7     (at your option) any later version.
8
9     This program is distributed in the hope that it will be useful,
10     but WITHOUT ANY WARRANTY; without even the implied warranty of
11     MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12     GNU General Public License for more details.
13
14     You should have received a copy of the GNU General Public License
15     along with this program; if not, write to the Free Software
16     Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
17 */
18
19 /* values for the flags, the stuff on the command line is different */
20 #define SWS_FAST_BILINEAR 1
21 #define SWS_BILINEAR 2
22 #define SWS_BICUBIC  4
23 #define SWS_X        8
24 #define SWS_POINT    0x10
25 #define SWS_AREA     0x20
26 #define SWS_BICUBLIN 0x40
27 #define SWS_GAUSS    0x80
28 #define SWS_SINC     0x100
29 #define SWS_LANCZOS  0x200
30 #define SWS_SPLINE   0x400
31
32 #define SWS_SRC_V_CHR_DROP_MASK         0x30000
33 #define SWS_SRC_V_CHR_DROP_SHIFT        16
34
35 #define SWS_PARAM_MASK                  0x3FC0000
36 #define SWS_PARAM_SHIFT                 18
37
38 #define SWS_PRINT_INFO          0x1000
39
40 //the following 3 flags are not completly implemented
41 //internal chrominace subsamling info
42 #define SWS_FULL_CHR_H_INT      0x2000
43 //input subsampling info
44 #define SWS_FULL_CHR_H_INP      0x4000
45 #define SWS_DIRECT_BGR          0x8000
46
47
48 #define SWS_MAX_REDUCE_CUTOFF 0.002
49
50 /* this struct should be aligned on at least 32-byte boundary */
51 typedef struct SwsContext{
52         int srcW, srcH, dstW, dstH;
53         int chrSrcW, chrSrcH, chrDstW, chrDstH;
54         int lumXInc, chrXInc;
55         int lumYInc, chrYInc;
56         int dstFormat, srcFormat;
57         int chrSrcHSubSample, chrSrcVSubSample;
58         int chrIntHSubSample, chrIntVSubSample;
59         int chrDstHSubSample, chrDstVSubSample;
60         int vChrDrop;
61
62         int16_t **lumPixBuf;
63         int16_t **chrPixBuf;
64         int16_t *hLumFilter;
65         int16_t *hLumFilterPos;
66         int16_t *hChrFilter;
67         int16_t *hChrFilterPos;
68         int16_t *vLumFilter;
69         int16_t *vLumFilterPos;
70         int16_t *vChrFilter;
71         int16_t *vChrFilterPos;
72
73 // Contain simply the values from v(Lum|Chr)Filter just nicely packed for mmx
74         int16_t  *lumMmxFilter;
75         int16_t  *chrMmxFilter;
76         uint8_t formatConvBuffer[4000]; //FIXME dynamic alloc, but we have to change alot of code for this to be usefull
77
78         int hLumFilterSize;
79         int hChrFilterSize;
80         int vLumFilterSize;
81         int vChrFilterSize;
82         int vLumBufSize;
83         int vChrBufSize;
84
85         uint8_t __attribute__((aligned(32))) funnyYCode[10000];
86         uint8_t __attribute__((aligned(32))) funnyUVCode[10000];
87         int32_t *lumMmx2FilterPos;
88         int32_t *chrMmx2FilterPos;
89         int16_t *lumMmx2Filter;
90         int16_t *chrMmx2Filter;
91
92         int canMMX2BeUsed;
93
94         int lastInLumBuf;
95         int lastInChrBuf;
96         int lumBufIndex;
97         int chrBufIndex;
98         int dstY;
99         int flags;
100         void * yuvTable;
101         void * table_rV[256];
102         void * table_gU[256];
103         int    table_gV[256];
104         void * table_bU[256];
105
106         void (*swScale)(struct SwsContext *context, uint8_t* src[], int srcStride[], int srcSliceY,
107              int srcSliceH, uint8_t* dst[], int dstStride[]);
108 } SwsContext;
109 //FIXME check init (where 0)
110
111 // when used for filters they must have an odd number of elements
112 // coeffs cannot be shared between vectors
113 typedef struct {
114         double *coeff;
115         int length;
116 } SwsVector;
117
118 // vectors can be shared
119 typedef struct {
120         SwsVector *lumH;
121         SwsVector *lumV;
122         SwsVector *chrH;
123         SwsVector *chrV;
124 } SwsFilter;
125
126
127 // *** bilinear scaling and yuv->rgb & yuv->yuv conversion of yv12 slices:
128 // *** Note: it's called multiple times while decoding a frame, first time y==0
129 // dstbpp == 12 -> yv12 output
130 // will use sws_flags
131 void SwScale_YV12slice(unsigned char* src[],int srcStride[], int srcSliceY,
132                              int srcSliceH, uint8_t* dst[], int dstStride, int dstbpp,
133                              int srcW, int srcH, int dstW, int dstH);
134
135 // Obsolete, will be removed soon
136 void SwScale_Init();
137
138
139
140 void freeSwsContext(SwsContext *swsContext);
141
142 SwsContext *getSwsContextFromCmdLine(int srcW, int srcH, int srcFormat, int dstW, int dstH, int dstFormat);
143 SwsContext *getSwsContext(int srcW, int srcH, int srcFormat, int dstW, int dstH, int dstFormat, int flags,
144                          SwsFilter *srcFilter, SwsFilter *dstFilter);
145 void swsGetFlagsAndFilterFromCmdLine(int *flags, SwsFilter **srcFilterParam, SwsFilter **dstFilterParam);
146
147 SwsVector *getGaussianVec(double variance, double quality);
148 SwsVector *getConstVec(double c, int length);
149 SwsVector *getIdentityVec(void);
150 void scaleVec(SwsVector *a, double scalar);
151 void normalizeVec(SwsVector *a, double height);
152 void convVec(SwsVector *a, SwsVector *b);
153 void addVec(SwsVector *a, SwsVector *b);
154 void subVec(SwsVector *a, SwsVector *b);
155 void shiftVec(SwsVector *a, int shift);
156 SwsVector *cloneVec(SwsVector *a);
157
158 void printVec(SwsVector *a);
159 void freeVec(SwsVector *a);
160