vaapi_vp8: Use VP8_MAX_QUANT instead of magic number
[ffmpeg.git] / libavcodec / vaapi_encode_vp8.c
1 /*
2  * This file is part of FFmpeg.
3  *
4  * FFmpeg is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU Lesser General Public
6  * License as published by the Free Software Foundation; either
7  * version 2.1 of the License, or (at your option) any later version.
8  *
9  * FFmpeg is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
12  * Lesser General Public License for more details.
13  *
14  * You should have received a copy of the GNU Lesser General Public
15  * License along with FFmpeg; if not, write to the Free Software
16  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
17  */
18
19 #include <va/va.h>
20 #include <va/va_enc_vp8.h>
21
22 #include "libavutil/avassert.h"
23 #include "libavutil/common.h"
24 #include "libavutil/internal.h"
25 #include "libavutil/opt.h"
26 #include "libavutil/pixfmt.h"
27
28 #include "avcodec.h"
29 #include "internal.h"
30 #include "vaapi_encode.h"
31 #include "vp8.h"
32
33
34 typedef struct VAAPIEncodeVP8Context {
35     int q_index_i;
36     int q_index_p;
37 } VAAPIEncodeVP8Context;
38
39 typedef struct VAAPIEncodeVP8Options {
40     int loop_filter_level;
41     int loop_filter_sharpness;
42 } VAAPIEncodeVP8Options;
43
44
45 #define vseq_var(name)     vseq->name, name
46 #define vseq_field(name)   vseq->seq_fields.bits.name, name
47 #define vpic_var(name)     vpic->name, name
48 #define vpic_field(name)   vpic->pic_fields.bits.name, name
49
50
51 static int vaapi_encode_vp8_init_sequence_params(AVCodecContext *avctx)
52 {
53     VAAPIEncodeContext               *ctx = avctx->priv_data;
54     VAEncSequenceParameterBufferVP8 *vseq = ctx->codec_sequence_params;
55
56     vseq->frame_width  = avctx->width;
57     vseq->frame_height = avctx->height;
58
59     vseq->frame_width_scale  = 0;
60     vseq->frame_height_scale = 0;
61
62     vseq->error_resilient = 0;
63     vseq->kf_auto = 0;
64
65     if (!(ctx->va_rc_mode & VA_RC_CQP)) {
66         vseq->bits_per_second = avctx->bit_rate;
67         vseq->intra_period    = avctx->gop_size;
68     }
69
70     return 0;
71 }
72
73 static int vaapi_encode_vp8_init_picture_params(AVCodecContext *avctx,
74                                                 VAAPIEncodePicture *pic)
75 {
76     VAAPIEncodeContext              *ctx = avctx->priv_data;
77     VAEncPictureParameterBufferVP8 *vpic = pic->codec_picture_params;
78     VAAPIEncodeVP8Options           *opt = ctx->codec_options;
79     int i;
80
81     vpic->reconstructed_frame = pic->recon_surface;
82
83     vpic->coded_buf = pic->output_buffer;
84
85     switch (pic->type) {
86     case PICTURE_TYPE_IDR:
87     case PICTURE_TYPE_I:
88         av_assert0(pic->nb_refs == 0);
89         vpic->ref_flags.bits.force_kf = 1;
90         vpic->ref_last_frame =
91         vpic->ref_gf_frame   =
92         vpic->ref_arf_frame  =
93             VA_INVALID_SURFACE;
94         break;
95     case PICTURE_TYPE_P:
96         av_assert0(pic->nb_refs == 1);
97         vpic->ref_flags.bits.no_ref_last = 0;
98         vpic->ref_flags.bits.no_ref_gf   = 1;
99         vpic->ref_flags.bits.no_ref_arf  = 1;
100         vpic->ref_last_frame =
101         vpic->ref_gf_frame   =
102         vpic->ref_arf_frame  =
103             pic->refs[0]->recon_surface;
104         break;
105     default:
106         av_assert0(0 && "invalid picture type");
107     }
108
109     vpic->pic_flags.bits.frame_type = (pic->type != PICTURE_TYPE_IDR);
110     vpic->pic_flags.bits.show_frame = 1;
111
112     vpic->pic_flags.bits.refresh_last            = 1;
113     vpic->pic_flags.bits.refresh_golden_frame    = 1;
114     vpic->pic_flags.bits.refresh_alternate_frame = 1;
115
116     vpic->pic_flags.bits.version = 0;
117     vpic->pic_flags.bits.loop_filter_type = 0;
118     for (i = 0; i < 4; i++)
119         vpic->loop_filter_level[i] = opt->loop_filter_level;
120     vpic->sharpness_level = opt->loop_filter_sharpness;
121
122     vpic->clamp_qindex_low  = 0;
123     vpic->clamp_qindex_high = 127;
124
125     return 0;
126 }
127
128 static int vaapi_encode_vp8_write_quant_table(AVCodecContext *avctx,
129                                               VAAPIEncodePicture *pic,
130                                               int index, int *type,
131                                               char *data, size_t *data_len)
132 {
133     VAAPIEncodeContext     *ctx = avctx->priv_data;
134     VAAPIEncodeVP8Context *priv = ctx->priv_data;
135     VAQMatrixBufferVP8 quant;
136     int i, q;
137
138     if (index > 0)
139         return AVERROR_EOF;
140
141     if (*data_len < sizeof(quant))
142         return AVERROR(EINVAL);
143     *type     = VAQMatrixBufferType;
144     *data_len = sizeof(quant);
145
146     if (pic->type == PICTURE_TYPE_P)
147         q = priv->q_index_p;
148     else
149         q = priv->q_index_i;
150
151     for (i = 0; i < 4; i++)
152         quant.quantization_index[i] = q;
153     for (i = 0; i < 5; i++)
154         quant.quantization_index_delta[i] = 0;
155
156     memcpy(data, &quant, sizeof(quant));
157     return 0;
158 }
159
160 static av_cold int vaapi_encode_vp8_configure(AVCodecContext *avctx)
161 {
162     VAAPIEncodeContext     *ctx = avctx->priv_data;
163     VAAPIEncodeVP8Context *priv = ctx->priv_data;
164
165     priv->q_index_p = av_clip(avctx->global_quality, 0, VP8_MAX_QUANT);
166     if (avctx->i_quant_factor > 0.0)
167         priv->q_index_i = av_clip((avctx->global_quality *
168                                    avctx->i_quant_factor +
169                                    avctx->i_quant_offset) + 0.5,
170                                   0, VP8_MAX_QUANT);
171     else
172         priv->q_index_i = priv->q_index_p;
173
174     return 0;
175 }
176
177 static const VAAPIEncodeType vaapi_encode_type_vp8 = {
178     .configure             = &vaapi_encode_vp8_configure,
179
180     .priv_data_size        = sizeof(VAAPIEncodeVP8Context),
181
182     .sequence_params_size  = sizeof(VAEncSequenceParameterBufferVP8),
183     .init_sequence_params  = &vaapi_encode_vp8_init_sequence_params,
184
185     .picture_params_size   = sizeof(VAEncPictureParameterBufferVP8),
186     .init_picture_params   = &vaapi_encode_vp8_init_picture_params,
187
188     .write_extra_buffer    = &vaapi_encode_vp8_write_quant_table,
189 };
190
191 static av_cold int vaapi_encode_vp8_init(AVCodecContext *avctx)
192 {
193     VAAPIEncodeContext *ctx = avctx->priv_data;
194
195     if (avctx->max_b_frames > 0) {
196         av_log(avctx, AV_LOG_ERROR, "B-frames are not supported.\n");
197         return AVERROR_PATCHWELCOME;
198     }
199
200     ctx->codec = &vaapi_encode_type_vp8;
201
202     ctx->va_profile    = VAProfileVP8Version0_3;
203     ctx->va_entrypoint = VAEntrypointEncSlice;
204     ctx->va_rt_format  = VA_RT_FORMAT_YUV420;
205
206     if (avctx->flags & AV_CODEC_FLAG_QSCALE) {
207         ctx->va_rc_mode = VA_RC_CQP;
208     } else if (avctx->bit_rate > 0) {
209         if (avctx->rc_max_rate == avctx->bit_rate)
210             ctx->va_rc_mode = VA_RC_CBR;
211         else
212             ctx->va_rc_mode = VA_RC_VBR;
213     } else {
214         ctx->va_rc_mode = VA_RC_CQP;
215     }
216
217     // Packed headers are not currently supported.
218     ctx->va_packed_headers = 0;
219
220     ctx->surface_width  = FFALIGN(avctx->width,  16);
221     ctx->surface_height = FFALIGN(avctx->height, 16);
222
223     return ff_vaapi_encode_init(avctx);
224 }
225
226 #define OFFSET(x) (offsetof(VAAPIEncodeContext, codec_options_data) + \
227                    offsetof(VAAPIEncodeVP8Options, x))
228 #define FLAGS (AV_OPT_FLAG_VIDEO_PARAM | AV_OPT_FLAG_ENCODING_PARAM)
229 static const AVOption vaapi_encode_vp8_options[] = {
230     { "loop_filter_level", "Loop filter level",
231       OFFSET(loop_filter_level), AV_OPT_TYPE_INT, { .i64 = 16 }, 0, 63, FLAGS },
232     { "loop_filter_sharpness", "Loop filter sharpness",
233       OFFSET(loop_filter_sharpness), AV_OPT_TYPE_INT, { .i64 = 4 }, 0, 15, FLAGS },
234     { NULL },
235 };
236
237 static const AVCodecDefault vaapi_encode_vp8_defaults[] = {
238     { "b",              "0"   },
239     { "bf",             "0"   },
240     { "g",              "120" },
241     { "global_quality", "40"  },
242     { NULL },
243 };
244
245 static const AVClass vaapi_encode_vp8_class = {
246     .class_name = "vp8_vaapi",
247     .item_name  = av_default_item_name,
248     .option     = vaapi_encode_vp8_options,
249     .version    = LIBAVUTIL_VERSION_INT,
250 };
251
252 AVCodec ff_vp8_vaapi_encoder = {
253     .name           = "vp8_vaapi",
254     .long_name      = NULL_IF_CONFIG_SMALL("VP8 (VAAPI)"),
255     .type           = AVMEDIA_TYPE_VIDEO,
256     .id             = AV_CODEC_ID_VP8,
257     .priv_data_size = (sizeof(VAAPIEncodeContext) +
258                        sizeof(VAAPIEncodeVP8Options)),
259     .init           = &vaapi_encode_vp8_init,
260     .encode2        = &ff_vaapi_encode2,
261     .close          = &ff_vaapi_encode_close,
262     .priv_class     = &vaapi_encode_vp8_class,
263     .capabilities   = AV_CODEC_CAP_DELAY,
264     .defaults       = vaapi_encode_vp8_defaults,
265     .pix_fmts = (const enum AVPixelFormat[]) {
266         AV_PIX_FMT_VAAPI,
267         AV_PIX_FMT_NONE,
268     },
269 };