Use floats instead of int64 in log messages, since win32 (incl. mingw) doesn't unders...
[x262.git] / encoder / me.c
1 /*****************************************************************************
2  * me.c: h264 encoder library (Motion Estimation)
3  *****************************************************************************
4  * Copyright (C) 2003 Laurent Aimar
5  * $Id: me.c,v 1.1 2004/06/03 19:27:08 fenrir Exp $
6  *
7  * Authors: Laurent Aimar <fenrir@via.ecp.fr>
8  *          Loren Merritt <lorenm@u.washington.edu>
9  *
10  * This program is free software; you can redistribute it and/or modify
11  * it under the terms of the GNU General Public License as published by
12  * the Free Software Foundation; either version 2 of the License, or
13  * (at your option) any later version.
14  *
15  * This program is distributed in the hope that it will be useful,
16  * but WITHOUT ANY WARRANTY; without even the implied warranty of
17  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
18  * GNU General Public License for more details.
19  *
20  * You should have received a copy of the GNU General Public License
21  * along with this program; if not, write to the Free Software
22  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA  02111, USA.
23  *****************************************************************************/
24
25 #include <stdlib.h>
26 #include <stdio.h>
27 #include <string.h>
28
29 #include "common/common.h"
30 #include "me.h"
31
32 /* presets selected from good points on the speed-vs-quality curve of several test videos
33  * subpel_iters[i_subpel_refine] = { refine_hpel, refine_qpel, me_hpel, me_qpel }
34  * where me_* are the number of EPZS iterations run on all candidate block types,
35  * and refine_* are run only on the winner. */
36 const static int subpel_iterations[][4] = 
37    {{1,0,0,0},
38     {1,1,0,0},
39     {1,2,0,0},
40     {0,2,1,0},
41     {0,2,1,1},
42     {0,2,1,2}};
43
44 static void refine_subpel( x264_t *h, x264_me_t *m, int hpel_iters, int qpel_iters );
45
46 #define COST_MV( mx, my ) \
47 { \
48     int cost = h->pixf.sad[i_pixel]( m->p_fenc, m->i_stride,       \
49                    &p_fref[(my)*m->i_stride+(mx)], m->i_stride ) + \
50                m->lm * ( bs_size_se(((mx)<<2) - m->mvp[0] ) +      \
51                          bs_size_se(((my)<<2) - m->mvp[1] ) );     \
52     if( cost < bcost ) \
53     {                  \
54         bcost = cost;  \
55         bmx = mx;      \
56         bmy = my;      \
57     } \
58 }
59
60 void x264_me_search_ref( x264_t *h, x264_me_t *m, int (*mvc)[2], int i_mvc, int *p_fullpel_thresh )
61 {
62     const int i_pixel = m->i_pixel;
63     int bmx, bmy, bcost;
64     int omx, omy;
65     uint8_t *p_fref = m->p_fref;
66     int i_iter;
67
68
69     /* init with mvp */
70     /* XXX: We don't need to clamp because the way diamond work, we will
71      * never go outside padded picture, and predict mv won't compute vector
72      * with componant magnitude greater.
73      * XXX: if some vector can go outside, (accelerator, ....) you need to clip
74      * them yourself */
75     bmx = x264_clip3( ( m->mvp[0] + 2 ) >> 2, -m->i_mv_range, m->i_mv_range );
76     bmy = x264_clip3( ( m->mvp[1] + 2 ) >> 2, -m->i_mv_range, m->i_mv_range );
77
78     bcost = h->pixf.sad[i_pixel]( m->p_fenc, m->i_stride,
79                 &p_fref[bmy * m->i_stride + bmx], m->i_stride );
80
81     /* try extra predictors if provided */
82     for( i_iter = 0; i_iter < i_mvc; i_iter++ )
83     {
84         const int mx = x264_clip3( ( mvc[i_iter][0] + 2 ) >> 2, -m->i_mv_range, m->i_mv_range );
85         const int my = x264_clip3( ( mvc[i_iter][1] + 2 ) >> 2, -m->i_mv_range, m->i_mv_range );
86         if( mx != bmx || my != bmy )
87             COST_MV( mx, my );
88     }
89     
90     COST_MV( 0, 0 );
91
92     if( h->param.analyse.i_subpel_refine >= 2 )
93     {
94         /* hexagon search */
95         /* Don't need to test mv_range each time, we won't go outside picture+padding */
96         omx = bmx;
97         omy = bmy;
98         for( i_iter = 0; i_iter < 8; i_iter++ )
99         {
100             COST_MV( omx-2, omy   );
101             COST_MV( omx-1, omy+2 );
102             COST_MV( omx+1, omy+2 );
103             COST_MV( omx+2, omy   );
104             COST_MV( omx+1, omy-2 );
105             COST_MV( omx-1, omy-2 );
106
107             if( bmx == omx && bmy == omy )
108                 break;
109             omx = bmx;
110             omy = bmy;
111         }
112     
113         /* square refine */
114         COST_MV( omx-1, omy-1 );
115         COST_MV( omx-1, omy   );
116         COST_MV( omx-1, omy+1 );
117         COST_MV( omx  , omy-1 );
118         COST_MV( omx  , omy+1 );
119         COST_MV( omx+1, omy-1 );
120         COST_MV( omx+1, omy   );
121         COST_MV( omx+1, omy+1 );
122     }
123     else
124     {
125         /* diamond search */
126         for( i_iter = 0; i_iter < 16; i_iter++ )
127         {
128             omx = bmx;
129             omy = bmy;
130             COST_MV( omx  , omy-1 );
131             COST_MV( omx  , omy+1 );
132             COST_MV( omx-1, omy   );
133             COST_MV( omx+1, omy   );
134             if( bmx == omx && bmy == omy )
135                 break;
136         }
137     }
138
139     /* -> qpel mv */
140     m->mv[0] = bmx << 2;
141     m->mv[1] = bmy << 2;
142
143     /* compute the real cost */
144     m->cost = h->pixf.satd[i_pixel]( m->p_fenc, m->i_stride,
145                     &p_fref[bmy * m->i_stride + bmx], m->i_stride ) +
146                 m->lm * ( bs_size_se( m->mv[0] - m->mvp[0] ) +
147                           bs_size_se( m->mv[1] - m->mvp[1] ) );
148
149     /* subpel refine */
150     if( h->param.analyse.i_subpel_refine >= 3 )
151     {
152         int hpel, qpel;
153
154         /* early termination (when examining multiple reference frames) */
155         if( p_fullpel_thresh )
156         {
157             if( (m->cost*7)>>3 > *p_fullpel_thresh )
158                 return;
159             else if( m->cost < *p_fullpel_thresh )
160                 *p_fullpel_thresh = m->cost;
161         }
162
163         hpel = subpel_iterations[h->param.analyse.i_subpel_refine][2];
164         qpel = subpel_iterations[h->param.analyse.i_subpel_refine][3];
165         refine_subpel( h, m, hpel, qpel );
166     }
167 }
168 #undef COST_MV
169
170 void x264_me_refine_qpel( x264_t *h, x264_me_t *m )
171 {
172     int hpel = subpel_iterations[h->param.analyse.i_subpel_refine][0];
173     int qpel = subpel_iterations[h->param.analyse.i_subpel_refine][1];
174 //  if( hpel || qpel )
175         refine_subpel( h, m, hpel, qpel );
176 }
177
178 static void refine_subpel( x264_t *h, x264_me_t *m, int hpel_iters, int qpel_iters )
179 {
180     const int bw = x264_pixel_size[m->i_pixel].w;
181     const int bh = x264_pixel_size[m->i_pixel].h;
182
183     DECLARE_ALIGNED( uint8_t, pix[4][16*16], 16 );
184     int cost[4];
185     int best;
186     int step, i;
187
188     int bmx = m->mv[0];
189     int bmy = m->mv[1];
190
191     for( step = 2; step >= 1; step-- )
192     {
193         for( i = step>1 ? hpel_iters : qpel_iters; i > 0; i-- )
194         {
195             h->mc[MC_LUMA]( m->p_fref, m->i_stride, pix[0], 16, bmx + 0, bmy - step, bw, bh );
196             h->mc[MC_LUMA]( m->p_fref, m->i_stride, pix[1], 16, bmx + 0, bmy + step, bw, bh );
197             h->mc[MC_LUMA]( m->p_fref, m->i_stride, pix[2], 16, bmx - step, bmy + 0, bw, bh );
198             h->mc[MC_LUMA]( m->p_fref, m->i_stride, pix[3], 16, bmx + step, bmy + 0, bw, bh );
199     
200             cost[0] = h->pixf.satd[m->i_pixel]( m->p_fenc, m->i_stride, pix[0], 16 ) +
201                       m->lm * ( bs_size_se( bmx + 0 - m->mvp[0] ) + bs_size_se( bmy - step - m->mvp[1] ) );
202             cost[1] = h->pixf.satd[m->i_pixel]( m->p_fenc, m->i_stride, pix[1], 16 ) +
203                       m->lm * ( bs_size_se( bmx + 0 - m->mvp[0] ) + bs_size_se( bmy + step - m->mvp[1] ) );
204             cost[2] = h->pixf.satd[m->i_pixel]( m->p_fenc, m->i_stride, pix[2], 16 ) +
205                       m->lm * ( bs_size_se( bmx - step - m->mvp[0] ) + bs_size_se( bmy + 0 - m->mvp[1] ) );
206             cost[3] = h->pixf.satd[m->i_pixel]( m->p_fenc, m->i_stride, pix[3], 16 ) +
207                       m->lm * ( bs_size_se( bmx + step - m->mvp[0] ) + bs_size_se( bmy + 0 - m->mvp[1] ) );
208     
209             best = 0;
210             if( cost[1] < cost[0] )    best = 1;
211             if( cost[2] < cost[best] ) best = 2;
212             if( cost[3] < cost[best] ) best = 3;
213     
214             if( cost[best] < m->cost )
215             {
216                 m->cost = cost[best];
217                 if( best == 0 )      bmy -= step;
218                 else if( best == 1 ) bmy += step;
219                 else if( best == 2 ) bmx -= step;
220                 else if( best == 3 ) bmx += step;
221             }
222             else break;
223         }
224     }
225
226     m->mv[0] = bmx;
227     m->mv[1] = bmy;
228 }
229