avcodec/motion_est: Fix mv_penalty table size
[ffmpeg.git] / libavcodec / motion_est.h
1 /*
2  * Motion estimation
3  *
4  * This file is part of FFmpeg.
5  *
6  * FFmpeg is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * FFmpeg is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with FFmpeg; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 #ifndef AVCODEC_MOTIONEST_H
22 #define AVCODEC_MOTIONEST_H
23
24 #include <stdint.h>
25
26 #include "avcodec.h"
27 #include "hpeldsp.h"
28 #include "qpeldsp.h"
29
30 struct MpegEncContext;
31
32 #define MAX_MV 4096
33 #define MAX_DMV (2*MAX_MV)
34 #define ME_MAP_SIZE 64
35
36 #define FF_ME_ZERO 0
37 #define FF_ME_EPZS 1
38 #define FF_ME_XONE 2
39
40 /**
41  * Motion estimation context.
42  */
43 typedef struct MotionEstContext {
44     AVCodecContext *avctx;
45     int skip;                       ///< set if ME is skipped for the current MB
46     int co_located_mv[4][2];        ///< mv from last P-frame for direct mode ME
47     int direct_basis_mv[4][2];
48     uint8_t *scratchpad;            /**< data area for the ME algo, so that
49                                      * the ME does not need to malloc/free. */
50     uint8_t *best_mb;
51     uint8_t *temp_mb[2];
52     uint8_t *temp;
53     int best_bits;
54     uint32_t *map;                  ///< map to avoid duplicate evaluations
55     uint32_t *score_map;            ///< map to store the scores
56     unsigned map_generation;
57     int pre_penalty_factor;
58     int penalty_factor;             /**< an estimate of the bits required to
59                                      * code a given mv value, e.g. (1,0) takes
60                                      * more bits than (0,0). We have to
61                                      * estimate whether any reduction in
62                                      * residual is worth the extra bits. */
63     int sub_penalty_factor;
64     int mb_penalty_factor;
65     int flags;
66     int sub_flags;
67     int mb_flags;
68     int pre_pass;                   ///< = 1 for the pre pass
69     int dia_size;
70     int xmin;
71     int xmax;
72     int ymin;
73     int ymax;
74     int pred_x;
75     int pred_y;
76     uint8_t *src[4][4];
77     uint8_t *ref[4][4];
78     int stride;
79     int uvstride;
80     /* temp variables for picture complexity calculation */
81     int64_t mc_mb_var_sum_temp;
82     int64_t mb_var_sum_temp;
83     int scene_change_score;
84
85     op_pixels_func(*hpel_put)[4];
86     op_pixels_func(*hpel_avg)[4];
87     qpel_mc_func(*qpel_put)[16];
88     qpel_mc_func(*qpel_avg)[16];
89     uint8_t (*mv_penalty)[MAX_DMV * 2 + 1]; ///< bit amount needed to encode a MV
90     uint8_t *current_mv_penalty;
91     int (*sub_motion_search)(struct MpegEncContext *s,
92                              int *mx_ptr, int *my_ptr, int dmin,
93                              int src_index, int ref_index,
94                              int size, int h);
95 } MotionEstContext;
96
97 static inline int ff_h263_round_chroma(int x)
98 {
99     //FIXME static or not?
100     static const uint8_t h263_chroma_roundtab[16] = {
101     //  0  1  2  3  4  5  6  7  8  9 10 11 12 13 14 15
102         0, 0, 0, 1, 1, 1, 1, 1, 0, 0, 0, 0, 0, 0, 1, 1,
103     };
104     return h263_chroma_roundtab[x & 0xf] + (x >> 3);
105 }
106
107 int ff_init_me(struct MpegEncContext *s);
108
109 void ff_estimate_p_frame_motion(struct MpegEncContext *s, int mb_x, int mb_y);
110 void ff_estimate_b_frame_motion(struct MpegEncContext *s, int mb_x, int mb_y);
111
112 int ff_pre_estimate_p_frame_motion(struct MpegEncContext *s,
113                                    int mb_x, int mb_y);
114
115 int ff_epzs_motion_search(struct MpegEncContext *s, int *mx_ptr, int *my_ptr,
116                           int P[10][2], int src_index, int ref_index,
117                           int16_t (*last_mv)[2], int ref_mv_scale, int size,
118                           int h);
119
120 int ff_get_mb_score(struct MpegEncContext *s, int mx, int my, int src_index,
121                     int ref_index, int size, int h, int add_rate);
122
123 int ff_get_best_fcode(struct MpegEncContext *s,
124                       int16_t (*mv_table)[2], int type);
125
126 void ff_fix_long_p_mvs(struct MpegEncContext *s);
127 void ff_fix_long_mvs(struct MpegEncContext *s, uint8_t *field_select_table,
128                      int field_select, int16_t (*mv_table)[2], int f_code,
129                      int type, int truncate);
130
131 #endif /* AVCODEC_MOTIONEST_H */