ee6136b26599944335fb53375bcff1b7ebbd0cdf
[ffmpeg.git] / libavcodec / wmv2enc.c
1 /*
2  * Copyright (c) 2002 The Libav Project
3  *
4  * This file is part of Libav.
5  *
6  * Libav is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * Libav is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with Libav; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 #include "avcodec.h"
22 #include "dsputil.h"
23 #include "mpegvideo.h"
24 #include "msmpeg4.h"
25 #include "msmpeg4data.h"
26 #include "h263.h"
27 #include "wmv2.h"
28
29
30 static int encode_ext_header(Wmv2Context *w){
31     MpegEncContext * const s= &w->s;
32     PutBitContext pb;
33     int code;
34
35     init_put_bits(&pb, s->avctx->extradata, s->avctx->extradata_size);
36
37     put_bits(&pb, 5, s->avctx->time_base.den / s->avctx->time_base.num); //yes 29.97 -> 29
38     put_bits(&pb, 11, FFMIN(s->bit_rate/1024, 2047));
39
40     put_bits(&pb, 1, w->mspel_bit=1);
41     put_bits(&pb, 1, s->loop_filter);
42     put_bits(&pb, 1, w->abt_flag=1);
43     put_bits(&pb, 1, w->j_type_bit=1);
44     put_bits(&pb, 1, w->top_left_mv_flag=0);
45     put_bits(&pb, 1, w->per_mb_rl_bit=1);
46     put_bits(&pb, 3, code=1);
47
48     flush_put_bits(&pb);
49
50     s->slice_height = s->mb_height / code;
51
52     return 0;
53 }
54
55 static av_cold int wmv2_encode_init(AVCodecContext *avctx){
56     Wmv2Context * const w= avctx->priv_data;
57
58     if(avctx->idct_algo==FF_IDCT_AUTO){
59         avctx->idct_algo=FF_IDCT_WMV2;
60     }
61
62     if(ff_MPV_encode_init(avctx) < 0)
63         return -1;
64
65     ff_wmv2_common_init(w);
66
67     avctx->extradata_size= 4;
68     avctx->extradata= av_mallocz(avctx->extradata_size + 10);
69     encode_ext_header(w);
70
71     return 0;
72 }
73
74 int ff_wmv2_encode_picture_header(MpegEncContext * s, int picture_number)
75 {
76     Wmv2Context * const w= (Wmv2Context*)s;
77
78     put_bits(&s->pb, 1, s->pict_type - 1);
79     if(s->pict_type == AV_PICTURE_TYPE_I){
80         put_bits(&s->pb, 7, 0);
81     }
82     put_bits(&s->pb, 5, s->qscale);
83
84     s->dc_table_index = 1;
85     s->mv_table_index = 1; /* only if P frame */
86     s->per_mb_rl_table = 0;
87     s->mspel= 0;
88     w->per_mb_abt=0;
89     w->abt_type=0;
90     w->j_type=0;
91
92     assert(s->flipflop_rounding);
93
94     if (s->pict_type == AV_PICTURE_TYPE_I) {
95         assert(s->no_rounding==1);
96         if(w->j_type_bit) put_bits(&s->pb, 1, w->j_type);
97
98         if(w->per_mb_rl_bit) put_bits(&s->pb, 1, s->per_mb_rl_table);
99
100         if(!s->per_mb_rl_table){
101             ff_msmpeg4_code012(&s->pb, s->rl_chroma_table_index);
102             ff_msmpeg4_code012(&s->pb, s->rl_table_index);
103         }
104
105         put_bits(&s->pb, 1, s->dc_table_index);
106
107         s->inter_intra_pred= 0;
108     }else{
109         int cbp_index;
110
111         put_bits(&s->pb, 2, SKIP_TYPE_NONE);
112
113         ff_msmpeg4_code012(&s->pb, cbp_index=0);
114         if(s->qscale <= 10){
115             int map[3]= {0,2,1};
116             w->cbp_table_index= map[cbp_index];
117         }else if(s->qscale <= 20){
118             int map[3]= {1,0,2};
119             w->cbp_table_index= map[cbp_index];
120         }else{
121             int map[3]= {2,1,0};
122             w->cbp_table_index= map[cbp_index];
123         }
124
125         if(w->mspel_bit) put_bits(&s->pb, 1, s->mspel);
126
127         if(w->abt_flag){
128             put_bits(&s->pb, 1, w->per_mb_abt^1);
129             if(!w->per_mb_abt){
130                 ff_msmpeg4_code012(&s->pb, w->abt_type);
131             }
132         }
133
134         if(w->per_mb_rl_bit) put_bits(&s->pb, 1, s->per_mb_rl_table);
135
136         if(!s->per_mb_rl_table){
137             ff_msmpeg4_code012(&s->pb, s->rl_table_index);
138             s->rl_chroma_table_index = s->rl_table_index;
139         }
140         put_bits(&s->pb, 1, s->dc_table_index);
141         put_bits(&s->pb, 1, s->mv_table_index);
142
143         s->inter_intra_pred= 0;//(s->width*s->height < 320*240 && s->bit_rate<=II_BITRATE);
144     }
145     s->esc3_level_length= 0;
146     s->esc3_run_length= 0;
147
148     return 0;
149 }
150
151 /* Nearly identical to wmv1 but that is just because we do not use the
152  * useless M$ crap features. It is duplicated here in case someone wants
153  * to add support for these crap features. */
154 void ff_wmv2_encode_mb(MpegEncContext * s,
155                        DCTELEM block[6][64],
156                        int motion_x, int motion_y)
157 {
158     Wmv2Context * const w= (Wmv2Context*)s;
159     int cbp, coded_cbp, i;
160     int pred_x, pred_y;
161     uint8_t *coded_block;
162
163     ff_msmpeg4_handle_slices(s);
164
165     if (!s->mb_intra) {
166         /* compute cbp */
167         cbp = 0;
168         for (i = 0; i < 6; i++) {
169             if (s->block_last_index[i] >= 0)
170                 cbp |= 1 << (5 - i);
171         }
172
173         put_bits(&s->pb,
174                  ff_wmv2_inter_table[w->cbp_table_index][cbp + 64][1],
175                  ff_wmv2_inter_table[w->cbp_table_index][cbp + 64][0]);
176
177         /* motion vector */
178         ff_h263_pred_motion(s, 0, 0, &pred_x, &pred_y);
179         ff_msmpeg4_encode_motion(s, motion_x - pred_x,
180                               motion_y - pred_y);
181     } else {
182         /* compute cbp */
183         cbp = 0;
184         coded_cbp = 0;
185         for (i = 0; i < 6; i++) {
186             int val, pred;
187             val = (s->block_last_index[i] >= 1);
188             cbp |= val << (5 - i);
189             if (i < 4) {
190                 /* predict value for close blocks only for luma */
191                 pred = ff_msmpeg4_coded_block_pred(s, i, &coded_block);
192                 *coded_block = val;
193                 val = val ^ pred;
194             }
195             coded_cbp |= val << (5 - i);
196         }
197
198         if (s->pict_type == AV_PICTURE_TYPE_I) {
199             put_bits(&s->pb,
200                      ff_msmp4_mb_i_table[coded_cbp][1], ff_msmp4_mb_i_table[coded_cbp][0]);
201         } else {
202             put_bits(&s->pb,
203                      ff_wmv2_inter_table[w->cbp_table_index][cbp][1],
204                      ff_wmv2_inter_table[w->cbp_table_index][cbp][0]);
205         }
206         put_bits(&s->pb, 1, 0);         /* no AC prediction yet */
207         if(s->inter_intra_pred){
208             s->h263_aic_dir=0;
209             put_bits(&s->pb, ff_table_inter_intra[s->h263_aic_dir][1], ff_table_inter_intra[s->h263_aic_dir][0]);
210         }
211     }
212
213     for (i = 0; i < 6; i++) {
214         ff_msmpeg4_encode_block(s, block[i], i);
215     }
216 }
217
218 AVCodec ff_wmv2_encoder = {
219     .name           = "wmv2",
220     .type           = AVMEDIA_TYPE_VIDEO,
221     .id             = AV_CODEC_ID_WMV2,
222     .priv_data_size = sizeof(Wmv2Context),
223     .init           = wmv2_encode_init,
224     .encode2        = ff_MPV_encode_picture,
225     .close          = ff_MPV_encode_end,
226     .pix_fmts       = (const enum AVPixelFormat[]){ AV_PIX_FMT_YUV420P, AV_PIX_FMT_NONE },
227     .long_name      = NULL_IF_CONFIG_SMALL("Windows Media Video 8"),
228 };