xvid ratecontrol support
[ffmpeg.git] / libavcodec / xvid_rc.c
1 /*
2  * xvid Rate control wrapper for lavc video encoders
3  *
4  * Copyright (c) 2006 Michael Niedermayer <michaelni@gmx.at>
5  *
6  * This library is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2 of the License, or (at your option) any later version.
10  *
11  * This library is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with this library; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 #include <xvid.h>
22 #include <unistd.h>
23 #include "avcodec.h"
24 //#include "dsputil.h"
25 #include "mpegvideo.h"
26
27 #undef NDEBUG
28 #include <assert.h>
29
30 extern unsigned int xvid_debug;
31
32 int ff_xvid_rate_control_init(MpegEncContext *s){
33     char *tmp_name;
34     int fd, i;
35     xvid_plg_create_t xvid_plg_create;
36     xvid_plugin_2pass2_t xvid_2pass2;
37
38 //xvid_debug=-1;
39
40     tmp_name= av_strdup("/tmp/xvidrc.XXXXXX");
41     fd = mkstemp(tmp_name);
42     if(fd < 0){
43         strcpy(tmp_name, "./xvidrc.XXXXXX");
44         fd = mkstemp(tmp_name);
45     }
46
47     for(i=0; i<s->rc_context.num_entries - s->max_b_frames; i++){
48         static const char *frame_types = " ipbs";
49         char tmp[256];
50         RateControlEntry *rce;
51
52         rce= &s->rc_context.entry[i];
53
54         snprintf(tmp, sizeof(tmp), "%c %d %d %d %d %d %d\n",
55             frame_types[rce->pict_type], (int)lrintf(rce->qscale / FF_QP2LAMBDA), rce->i_count, s->mb_num - rce->i_count - rce->skip_count,
56             rce->skip_count, (rce->i_tex_bits + rce->p_tex_bits + rce->mv_bits + rce->misc_bits+7)/8, (rce->header_bits+7)/8);
57
58         write(fd, tmp, strlen(tmp));
59     }
60
61     close(fd);
62
63     memset(&xvid_2pass2, 0, sizeof(xvid_2pass2));
64     xvid_2pass2.version= XVID_MAKE_VERSION(1,1,0);
65     xvid_2pass2.filename= tmp_name;
66     xvid_2pass2.bitrate= s->avctx->bit_rate;
67     xvid_2pass2.vbv_size= s->avctx->rc_buffer_size;
68     xvid_2pass2.vbv_maxrate= s->avctx->rc_max_rate;
69     xvid_2pass2.vbv_initial= s->avctx->rc_initial_buffer_occupancy;
70
71     memset(&xvid_plg_create, 0, sizeof(xvid_plg_create));
72     xvid_plg_create.version= XVID_MAKE_VERSION(1,1,0);
73     xvid_plg_create.fbase= s->avctx->time_base.den;
74     xvid_plg_create.fincr= s->avctx->time_base.num;
75     xvid_plg_create.param= &xvid_2pass2;
76
77     return xvid_plugin_2pass2(NULL, XVID_PLG_CREATE, &xvid_plg_create, &s->rc_context.non_lavc_opaque);
78 }
79
80 float ff_xvid_rate_estimate_qscale(MpegEncContext *s, int dry_run){
81     xvid_plg_data_t xvid_plg_data;
82
83     memset(&xvid_plg_data, 0, sizeof(xvid_plg_data));
84     xvid_plg_data.version= XVID_MAKE_VERSION(1,1,0);
85     xvid_plg_data.width = s->width;
86     xvid_plg_data.height= s->height;
87     xvid_plg_data.mb_width = s->mb_width;
88     xvid_plg_data.mb_height= s->mb_height;
89     xvid_plg_data.fbase= s->avctx->time_base.den;
90     xvid_plg_data.fincr= s->avctx->time_base.num;
91     xvid_plg_data.min_quant[0]= s->avctx->qmin;
92     xvid_plg_data.min_quant[1]= s->avctx->qmin;
93     xvid_plg_data.min_quant[2]= s->avctx->qmin; //FIXME i/b factor & offset
94     xvid_plg_data.max_quant[0]= s->avctx->qmax;
95     xvid_plg_data.max_quant[1]= s->avctx->qmax;
96     xvid_plg_data.max_quant[2]= s->avctx->qmax; //FIXME i/b factor & offset
97     xvid_plg_data.bquant_offset = s->avctx->b_quant_offset;
98     xvid_plg_data.bquant_ratio = 100 * s->avctx->b_quant_factor;
99
100 #if 0
101     xvid_plg_data.stats.hlength= X
102 #endif
103
104     if(!s->rc_context.dry_run_qscale){
105         if(s->picture_number){
106             xvid_plg_data.length=
107             xvid_plg_data.stats.length= (s->frame_bits + 7)/8;
108             xvid_plg_data.frame_num= s->picture_number - 1;
109             xvid_plg_data.quant= s->qscale;
110
111             xvid_plg_data.type= s->last_pict_type;
112             if(xvid_plugin_2pass2(s->rc_context.non_lavc_opaque, XVID_PLG_AFTER, &xvid_plg_data, NULL)){
113                 av_log(s->avctx, AV_LOG_ERROR, "xvid_plugin_2pass2(handle, XVID_PLG_AFTER, ...) FAILED\n");
114                 return -1;
115             }
116         }
117         xvid_plg_data.frame_num= s->picture_number;
118         xvid_plg_data.quant= 0;
119         if(xvid_plugin_2pass2(s->rc_context.non_lavc_opaque, XVID_PLG_BEFORE, &xvid_plg_data, NULL)){
120             av_log(s->avctx, AV_LOG_ERROR, "xvid_plugin_2pass2(handle, XVID_PLG_BEFORE, ...) FAILED\n");
121             return -1;
122         }
123         s->rc_context.dry_run_qscale= xvid_plg_data.quant;
124     }
125     xvid_plg_data.quant= s->rc_context.dry_run_qscale;
126     if(!dry_run)
127         s->rc_context.dry_run_qscale= 0;
128
129     return xvid_plg_data.quant * FF_QP2LAMBDA;
130 }
131
132 void ff_xvid_rate_control_uninit(MpegEncContext *s){
133     xvid_plg_destroy_t xvid_plg_destroy;
134
135     xvid_plugin_2pass2(s->rc_context.non_lavc_opaque, XVID_PLG_DESTROY, &xvid_plg_destroy, NULL);
136 }
137