lavfi: add ff_inlink_request_frame().
[ffmpeg.git] / ffmpeg_qsv.c
1 /*
2  * This file is part of FFmpeg.
3  *
4  * FFmpeg is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU Lesser General Public
6  * License as published by the Free Software Foundation; either
7  * version 2.1 of the License, or (at your option) any later version.
8  *
9  * FFmpeg is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
12  * Lesser General Public License for more details.
13  *
14  * You should have received a copy of the GNU Lesser General Public
15  * License along with FFmpeg; if not, write to the Free Software
16  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
17  */
18
19 #include <mfx/mfxvideo.h>
20 #include <stdlib.h>
21
22 #include "libavutil/dict.h"
23 #include "libavutil/hwcontext.h"
24 #include "libavutil/hwcontext_qsv.h"
25 #include "libavutil/mem.h"
26 #include "libavutil/opt.h"
27 #include "libavcodec/qsv.h"
28
29 #include "ffmpeg.h"
30
31 char *qsv_device = NULL;
32
33 static int qsv_get_buffer(AVCodecContext *s, AVFrame *frame, int flags)
34 {
35     InputStream *ist = s->opaque;
36
37     return av_hwframe_get_buffer(ist->hw_frames_ctx, frame, 0);
38 }
39
40 static void qsv_uninit(AVCodecContext *s)
41 {
42     InputStream *ist = s->opaque;
43     av_buffer_unref(&ist->hw_frames_ctx);
44 }
45
46 static int qsv_device_init(InputStream *ist)
47 {
48     int err;
49     AVDictionary *dict = NULL;
50
51     if (qsv_device) {
52         err = av_dict_set(&dict, "child_device", qsv_device, 0);
53         if (err < 0)
54             return err;
55     }
56
57     err = av_hwdevice_ctx_create(&hw_device_ctx, AV_HWDEVICE_TYPE_QSV,
58                                  ist->hwaccel_device, dict, 0);
59     if (err < 0) {
60         av_log(NULL, AV_LOG_ERROR, "Error creating a QSV device\n");
61         goto err_out;
62     }
63
64 err_out:
65     if (dict)
66         av_dict_free(&dict);
67
68     return err;
69 }
70
71 int qsv_init(AVCodecContext *s)
72 {
73     InputStream *ist = s->opaque;
74     AVHWFramesContext *frames_ctx;
75     AVQSVFramesContext *frames_hwctx;
76     int ret;
77
78     if (!hw_device_ctx) {
79         ret = qsv_device_init(ist);
80         if (ret < 0)
81             return ret;
82     }
83
84     av_buffer_unref(&ist->hw_frames_ctx);
85     ist->hw_frames_ctx = av_hwframe_ctx_alloc(hw_device_ctx);
86     if (!ist->hw_frames_ctx)
87         return AVERROR(ENOMEM);
88
89     frames_ctx   = (AVHWFramesContext*)ist->hw_frames_ctx->data;
90     frames_hwctx = frames_ctx->hwctx;
91
92     frames_ctx->width             = FFALIGN(s->coded_width,  32);
93     frames_ctx->height            = FFALIGN(s->coded_height, 32);
94     frames_ctx->format            = AV_PIX_FMT_QSV;
95     frames_ctx->sw_format         = s->sw_pix_fmt;
96     frames_ctx->initial_pool_size = 64;
97     frames_hwctx->frame_type      = MFX_MEMTYPE_VIDEO_MEMORY_DECODER_TARGET;
98
99     ret = av_hwframe_ctx_init(ist->hw_frames_ctx);
100     if (ret < 0) {
101         av_log(NULL, AV_LOG_ERROR, "Error initializing a QSV frame pool\n");
102         return ret;
103     }
104
105     ist->hwaccel_get_buffer = qsv_get_buffer;
106     ist->hwaccel_uninit     = qsv_uninit;
107
108     return 0;
109 }
110
111 int qsv_transcode_init(OutputStream *ost)
112 {
113     InputStream *ist;
114     const enum AVPixelFormat *pix_fmt;
115
116     int err, i;
117     AVBufferRef *encode_frames_ref = NULL;
118     AVHWFramesContext *encode_frames;
119     AVQSVFramesContext *qsv_frames;
120
121     /* check if the encoder supports QSV */
122     if (!ost->enc->pix_fmts)
123         return 0;
124     for (pix_fmt = ost->enc->pix_fmts; *pix_fmt != AV_PIX_FMT_NONE; pix_fmt++)
125         if (*pix_fmt == AV_PIX_FMT_QSV)
126             break;
127     if (*pix_fmt == AV_PIX_FMT_NONE)
128         return 0;
129
130     if (strcmp(ost->avfilter, "null") || ost->source_index < 0)
131         return 0;
132
133     /* check if the decoder supports QSV and the output only goes to this stream */
134     ist = input_streams[ost->source_index];
135     if (ist->hwaccel_id != HWACCEL_QSV || !ist->dec || !ist->dec->pix_fmts)
136         return 0;
137     for (pix_fmt = ist->dec->pix_fmts; *pix_fmt != AV_PIX_FMT_NONE; pix_fmt++)
138         if (*pix_fmt == AV_PIX_FMT_QSV)
139             break;
140     if (*pix_fmt == AV_PIX_FMT_NONE)
141         return 0;
142
143     for (i = 0; i < nb_output_streams; i++)
144         if (output_streams[i] != ost &&
145             output_streams[i]->source_index == ost->source_index)
146             return 0;
147
148     av_log(NULL, AV_LOG_VERBOSE, "Setting up QSV transcoding\n");
149
150     if (!hw_device_ctx) {
151         err = qsv_device_init(ist);
152         if (err < 0)
153             goto fail;
154     }
155
156     // This creates a dummy hw_frames_ctx for the encoder to be
157     // suitably initialised.  It only contains one real frame, so
158     // hopefully doesn't waste too much memory.
159
160     encode_frames_ref = av_hwframe_ctx_alloc(hw_device_ctx);
161     if (!encode_frames_ref) {
162         err = AVERROR(ENOMEM);
163         goto fail;
164     }
165     encode_frames = (AVHWFramesContext*)encode_frames_ref->data;
166     qsv_frames = encode_frames->hwctx;
167
168     encode_frames->width     = FFALIGN(ist->resample_width,  32);
169     encode_frames->height    = FFALIGN(ist->resample_height, 32);
170     encode_frames->format    = AV_PIX_FMT_QSV;
171     encode_frames->sw_format = AV_PIX_FMT_NV12;
172     encode_frames->initial_pool_size = 1;
173
174     qsv_frames->frame_type = MFX_MEMTYPE_VIDEO_MEMORY_DECODER_TARGET;
175
176     err = av_hwframe_ctx_init(encode_frames_ref);
177     if (err < 0)
178         goto fail;
179
180     ist->dec_ctx->pix_fmt       = AV_PIX_FMT_QSV;
181     ist->resample_pix_fmt       = AV_PIX_FMT_QSV;
182
183     ost->enc_ctx->pix_fmt       = AV_PIX_FMT_QSV;
184     ost->enc_ctx->hw_frames_ctx = encode_frames_ref;
185
186     return 0;
187
188 fail:
189     av_buffer_unref(&encode_frames_ref);
190     return err;
191 }