hevc_deblock: Fix compilation with nasm
[ffmpeg.git] / libavcodec / wmv2enc.c
1 /*
2  * Copyright (c) 2002 The Libav Project
3  *
4  * This file is part of Libav.
5  *
6  * Libav is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * Libav is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with Libav; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 #include "avcodec.h"
22 #include "h263.h"
23 #include "mpegvideo.h"
24 #include "msmpeg4.h"
25 #include "msmpeg4data.h"
26 #include "wmv2.h"
27
28
29 static int encode_ext_header(Wmv2Context *w)
30 {
31     MpegEncContext *const s = &w->s;
32     PutBitContext pb;
33     int code;
34
35     init_put_bits(&pb, s->avctx->extradata, s->avctx->extradata_size);
36
37     put_bits(&pb, 5, s->avctx->time_base.den / s->avctx->time_base.num); // yes 29.97 -> 29
38     put_bits(&pb, 11, FFMIN(s->bit_rate / 1024, 2047));
39
40     put_bits(&pb, 1, w->mspel_bit        = 1);
41     put_bits(&pb, 1, s->loop_filter);
42     put_bits(&pb, 1, w->abt_flag         = 1);
43     put_bits(&pb, 1, w->j_type_bit       = 1);
44     put_bits(&pb, 1, w->top_left_mv_flag = 0);
45     put_bits(&pb, 1, w->per_mb_rl_bit    = 1);
46     put_bits(&pb, 3, code                = 1);
47
48     flush_put_bits(&pb);
49
50     s->slice_height = s->mb_height / code;
51
52     return 0;
53 }
54
55 static av_cold int wmv2_encode_init(AVCodecContext *avctx)
56 {
57     Wmv2Context *const w = avctx->priv_data;
58
59     if (ff_mpv_encode_init(avctx) < 0)
60         return -1;
61
62     ff_wmv2_common_init(w);
63
64     avctx->extradata_size = 4;
65     avctx->extradata      = av_mallocz(avctx->extradata_size + 10);
66     encode_ext_header(w);
67
68     return 0;
69 }
70
71 int ff_wmv2_encode_picture_header(MpegEncContext *s, int picture_number)
72 {
73     Wmv2Context *const w = (Wmv2Context *) s;
74
75     put_bits(&s->pb, 1, s->pict_type - 1);
76     if (s->pict_type == AV_PICTURE_TYPE_I)
77         put_bits(&s->pb, 7, 0);
78     put_bits(&s->pb, 5, s->qscale);
79
80     s->dc_table_index  = 1;
81     s->mv_table_index  = 1; /* only if P frame */
82     s->per_mb_rl_table = 0;
83     s->mspel           = 0;
84     w->per_mb_abt      = 0;
85     w->abt_type        = 0;
86     w->j_type          = 0;
87
88     assert(s->flipflop_rounding);
89
90     if (s->pict_type == AV_PICTURE_TYPE_I) {
91         assert(s->no_rounding == 1);
92         if (w->j_type_bit)
93             put_bits(&s->pb, 1, w->j_type);
94
95         if (w->per_mb_rl_bit)
96             put_bits(&s->pb, 1, s->per_mb_rl_table);
97
98         if (!s->per_mb_rl_table) {
99             ff_msmpeg4_code012(&s->pb, s->rl_chroma_table_index);
100             ff_msmpeg4_code012(&s->pb, s->rl_table_index);
101         }
102
103         put_bits(&s->pb, 1, s->dc_table_index);
104
105         s->inter_intra_pred = 0;
106     } else {
107         int cbp_index;
108
109         put_bits(&s->pb, 2, SKIP_TYPE_NONE);
110
111         ff_msmpeg4_code012(&s->pb, cbp_index = 0);
112         if (s->qscale <= 10) {
113             int map[3]         = { 0, 2, 1 };
114             w->cbp_table_index = map[cbp_index];
115         } else if (s->qscale <= 20) {
116             int map[3]         = { 1, 0, 2 };
117             w->cbp_table_index = map[cbp_index];
118         } else {
119             int map[3]         = { 2, 1, 0 };
120             w->cbp_table_index = map[cbp_index];
121         }
122
123         if (w->mspel_bit)
124             put_bits(&s->pb, 1, s->mspel);
125
126         if (w->abt_flag) {
127             put_bits(&s->pb, 1, w->per_mb_abt ^ 1);
128             if (!w->per_mb_abt)
129                 ff_msmpeg4_code012(&s->pb, w->abt_type);
130         }
131
132         if (w->per_mb_rl_bit)
133             put_bits(&s->pb, 1, s->per_mb_rl_table);
134
135         if (!s->per_mb_rl_table) {
136             ff_msmpeg4_code012(&s->pb, s->rl_table_index);
137             s->rl_chroma_table_index = s->rl_table_index;
138         }
139         put_bits(&s->pb, 1, s->dc_table_index);
140         put_bits(&s->pb, 1, s->mv_table_index);
141
142         s->inter_intra_pred = 0; // (s->width * s->height < 320 * 240 && s->bit_rate <= II_BITRATE);
143     }
144     s->esc3_level_length = 0;
145     s->esc3_run_length   = 0;
146
147     return 0;
148 }
149
150 /* Nearly identical to wmv1 but that is just because we do not use the
151  * useless M$ crap features. It is duplicated here in case someone wants
152  * to add support for these crap features. */
153 void ff_wmv2_encode_mb(MpegEncContext *s, int16_t block[6][64],
154                        int motion_x, int motion_y)
155 {
156     Wmv2Context *const w = (Wmv2Context *) s;
157     int cbp, coded_cbp, i;
158     int pred_x, pred_y;
159     uint8_t *coded_block;
160
161     ff_msmpeg4_handle_slices(s);
162
163     if (!s->mb_intra) {
164         /* compute cbp */
165         cbp = 0;
166         for (i = 0; i < 6; i++)
167             if (s->block_last_index[i] >= 0)
168                 cbp |= 1 << (5 - i);
169
170         put_bits(&s->pb,
171                  ff_wmv2_inter_table[w->cbp_table_index][cbp + 64][1],
172                  ff_wmv2_inter_table[w->cbp_table_index][cbp + 64][0]);
173
174         /* motion vector */
175         ff_h263_pred_motion(s, 0, 0, &pred_x, &pred_y);
176         ff_msmpeg4_encode_motion(s, motion_x - pred_x,
177                                  motion_y - pred_y);
178     } else {
179         /* compute cbp */
180         cbp       = 0;
181         coded_cbp = 0;
182         for (i = 0; i < 6; i++) {
183             int val, pred;
184             val  = (s->block_last_index[i] >= 1);
185             cbp |= val << (5 - i);
186             if (i < 4) {
187                 /* predict value for close blocks only for luma */
188                 pred         = ff_msmpeg4_coded_block_pred(s, i, &coded_block);
189                 *coded_block = val;
190                 val          = val ^ pred;
191             }
192             coded_cbp |= val << (5 - i);
193         }
194
195         if (s->pict_type == AV_PICTURE_TYPE_I)
196             put_bits(&s->pb,
197                      ff_msmp4_mb_i_table[coded_cbp][1],
198                      ff_msmp4_mb_i_table[coded_cbp][0]);
199         else
200             put_bits(&s->pb,
201                      ff_wmv2_inter_table[w->cbp_table_index][cbp][1],
202                      ff_wmv2_inter_table[w->cbp_table_index][cbp][0]);
203         put_bits(&s->pb, 1, 0);         /* no AC prediction yet */
204         if (s->inter_intra_pred) {
205             s->h263_aic_dir = 0;
206             put_bits(&s->pb,
207                      ff_table_inter_intra[s->h263_aic_dir][1],
208                      ff_table_inter_intra[s->h263_aic_dir][0]);
209         }
210     }
211
212     for (i = 0; i < 6; i++)
213         ff_msmpeg4_encode_block(s, block[i], i);
214 }
215
216 AVCodec ff_wmv2_encoder = {
217     .name           = "wmv2",
218     .long_name      = NULL_IF_CONFIG_SMALL("Windows Media Video 8"),
219     .type           = AVMEDIA_TYPE_VIDEO,
220     .id             = AV_CODEC_ID_WMV2,
221     .priv_data_size = sizeof(Wmv2Context),
222     .init           = wmv2_encode_init,
223     .encode2        = ff_mpv_encode_picture,
224     .close          = ff_mpv_encode_end,
225     .pix_fmts       = (const enum AVPixelFormat[]) { AV_PIX_FMT_YUV420P,
226                                                      AV_PIX_FMT_NONE },
227 };