h264: use templates to avoid excessive inlining
[ffmpeg.git] / libavcodec / h264_mc_template.c
1 /*
2  * H.26L/H.264/AVC/JVT/14496-10/... decoder
3  * Copyright (c) 2003 Michael Niedermayer <michaelni@gmx.at>
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #undef MCFUNC
23
24 #if   CHROMA_IDC == 1
25 #   define MCFUNC(n) FUNC(n ## _420)
26 #elif CHROMA_IDC == 2
27 #   define MCFUNC(n) FUNC(n ## _422)
28 #elif CHROMA_IDC == 3
29 #   define MCFUNC(n) FUNC(n ## _444)
30 #endif
31
32 #undef  mc_part
33 #define mc_part MCFUNC(mc_part)
34
35 static void mc_part(H264Context *h, int n, int square,
36                     int height, int delta,
37                     uint8_t *dest_y, uint8_t *dest_cb,
38                     uint8_t *dest_cr,
39                     int x_offset, int y_offset,
40                     qpel_mc_func *qpix_put,
41                     h264_chroma_mc_func chroma_put,
42                     qpel_mc_func *qpix_avg,
43                     h264_chroma_mc_func chroma_avg,
44                     h264_weight_func *weight_op,
45                     h264_biweight_func *weight_avg,
46                     int list0, int list1)
47 {
48     if ((h->use_weight == 2 && list0 && list1 &&
49          (h->implicit_weight[h->ref_cache[0][scan8[n]]][h->ref_cache[1][scan8[n]]][h->s.mb_y & 1] != 32)) ||
50         h->use_weight == 1)
51         mc_part_weighted(h, n, square, height, delta, dest_y, dest_cb, dest_cr,
52                          x_offset, y_offset, qpix_put, chroma_put,
53                          weight_op[0], weight_op[1], weight_avg[0],
54                          weight_avg[1], list0, list1, PIXEL_SHIFT, CHROMA_IDC);
55     else
56         mc_part_std(h, n, square, height, delta, dest_y, dest_cb, dest_cr,
57                     x_offset, y_offset, qpix_put, chroma_put, qpix_avg,
58                     chroma_avg, list0, list1, PIXEL_SHIFT, CHROMA_IDC);
59 }
60
61 static void MCFUNC(hl_motion)(H264Context *h, uint8_t *dest_y,
62                               uint8_t *dest_cb, uint8_t *dest_cr,
63                               qpel_mc_func(*qpix_put)[16],
64                               h264_chroma_mc_func(*chroma_put),
65                               qpel_mc_func(*qpix_avg)[16],
66                               h264_chroma_mc_func(*chroma_avg),
67                               h264_weight_func *weight_op,
68                               h264_biweight_func *weight_avg)
69 {
70     MpegEncContext *const s = &h->s;
71     const int mb_xy   = h->mb_xy;
72     const int mb_type = s->current_picture.f.mb_type[mb_xy];
73
74     assert(IS_INTER(mb_type));
75
76     if (HAVE_THREADS && (s->avctx->active_thread_type & FF_THREAD_FRAME))
77         await_references(h);
78     prefetch_motion(h, 0, PIXEL_SHIFT, CHROMA_IDC);
79
80     if (IS_16X16(mb_type)) {
81         mc_part(h, 0, 1, 16, 0, dest_y, dest_cb, dest_cr, 0, 0,
82                 qpix_put[0], chroma_put[0], qpix_avg[0], chroma_avg[0],
83                 weight_op, weight_avg,
84                 IS_DIR(mb_type, 0, 0), IS_DIR(mb_type, 0, 1));
85     } else if (IS_16X8(mb_type)) {
86         mc_part(h, 0, 0, 8, 8 << PIXEL_SHIFT, dest_y, dest_cb, dest_cr, 0, 0,
87                 qpix_put[1], chroma_put[0], qpix_avg[1], chroma_avg[0],
88                 weight_op, weight_avg,
89                 IS_DIR(mb_type, 0, 0), IS_DIR(mb_type, 0, 1));
90         mc_part(h, 8, 0, 8, 8 << PIXEL_SHIFT, dest_y, dest_cb, dest_cr, 0, 4,
91                 qpix_put[1], chroma_put[0], qpix_avg[1], chroma_avg[0],
92                 weight_op, weight_avg,
93                 IS_DIR(mb_type, 1, 0), IS_DIR(mb_type, 1, 1));
94     } else if (IS_8X16(mb_type)) {
95         mc_part(h, 0, 0, 16, 8 * h->mb_linesize, dest_y, dest_cb, dest_cr, 0, 0,
96                 qpix_put[1], chroma_put[1], qpix_avg[1], chroma_avg[1],
97                 &weight_op[1], &weight_avg[1],
98                 IS_DIR(mb_type, 0, 0), IS_DIR(mb_type, 0, 1));
99         mc_part(h, 4, 0, 16, 8 * h->mb_linesize, dest_y, dest_cb, dest_cr, 4, 0,
100                 qpix_put[1], chroma_put[1], qpix_avg[1], chroma_avg[1],
101                 &weight_op[1], &weight_avg[1],
102                 IS_DIR(mb_type, 1, 0), IS_DIR(mb_type, 1, 1));
103     } else {
104         int i;
105
106         assert(IS_8X8(mb_type));
107
108         for (i = 0; i < 4; i++) {
109             const int sub_mb_type = h->sub_mb_type[i];
110             const int n  = 4 * i;
111             int x_offset = (i & 1) << 2;
112             int y_offset = (i & 2) << 1;
113
114             if (IS_SUB_8X8(sub_mb_type)) {
115                 mc_part(h, n, 1, 8, 0, dest_y, dest_cb, dest_cr,
116                         x_offset, y_offset,
117                         qpix_put[1], chroma_put[1], qpix_avg[1], chroma_avg[1],
118                         &weight_op[1], &weight_avg[1],
119                         IS_DIR(sub_mb_type, 0, 0), IS_DIR(sub_mb_type, 0, 1));
120             } else if (IS_SUB_8X4(sub_mb_type)) {
121                 mc_part(h, n, 0, 4, 4 << PIXEL_SHIFT, dest_y, dest_cb, dest_cr,
122                         x_offset, y_offset,
123                         qpix_put[2], chroma_put[1], qpix_avg[2], chroma_avg[1],
124                         &weight_op[1], &weight_avg[1],
125                         IS_DIR(sub_mb_type, 0, 0), IS_DIR(sub_mb_type, 0, 1));
126                 mc_part(h, n + 2, 0, 4, 4 << PIXEL_SHIFT,
127                         dest_y, dest_cb, dest_cr, x_offset, y_offset + 2,
128                         qpix_put[2], chroma_put[1], qpix_avg[2], chroma_avg[1],
129                         &weight_op[1], &weight_avg[1],
130                         IS_DIR(sub_mb_type, 0, 0), IS_DIR(sub_mb_type, 0, 1));
131             } else if (IS_SUB_4X8(sub_mb_type)) {
132                 mc_part(h, n, 0, 8, 4 * h->mb_linesize,
133                         dest_y, dest_cb, dest_cr, x_offset, y_offset,
134                         qpix_put[2], chroma_put[2], qpix_avg[2], chroma_avg[2],
135                         &weight_op[2], &weight_avg[2],
136                         IS_DIR(sub_mb_type, 0, 0), IS_DIR(sub_mb_type, 0, 1));
137                 mc_part(h, n + 1, 0, 8, 4 * h->mb_linesize,
138                         dest_y, dest_cb, dest_cr, x_offset + 2, y_offset,
139                         qpix_put[2], chroma_put[2], qpix_avg[2], chroma_avg[2],
140                         &weight_op[2], &weight_avg[2],
141                         IS_DIR(sub_mb_type, 0, 0), IS_DIR(sub_mb_type, 0, 1));
142             } else {
143                 int j;
144                 assert(IS_SUB_4X4(sub_mb_type));
145                 for (j = 0; j < 4; j++) {
146                     int sub_x_offset = x_offset + 2 * (j & 1);
147                     int sub_y_offset = y_offset + (j & 2);
148                     mc_part(h, n + j, 1, 4, 0,
149                             dest_y, dest_cb, dest_cr, sub_x_offset, sub_y_offset,
150                             qpix_put[2], chroma_put[2], qpix_avg[2], chroma_avg[2],
151                             &weight_op[2], &weight_avg[2],
152                             IS_DIR(sub_mb_type, 0, 0), IS_DIR(sub_mb_type, 0, 1));
153                 }
154             }
155         }
156     }
157
158     prefetch_motion(h, 1, PIXEL_SHIFT, CHROMA_IDC);
159 }
160