doc/muxers/hlsenc: typo hls_flag: discont_starts => discont_start
[ffmpeg.git] / ffmpeg_qsv.c
1 /*
2  * This file is part of FFmpeg.
3  *
4  * FFmpeg is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU Lesser General Public
6  * License as published by the Free Software Foundation; either
7  * version 2.1 of the License, or (at your option) any later version.
8  *
9  * FFmpeg is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
12  * Lesser General Public License for more details.
13  *
14  * You should have received a copy of the GNU Lesser General Public
15  * License along with FFmpeg; if not, write to the Free Software
16  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
17  */
18
19 #include <mfx/mfxvideo.h>
20 #include <stdlib.h>
21
22 #include "libavutil/dict.h"
23 #include "libavutil/hwcontext.h"
24 #include "libavutil/hwcontext_qsv.h"
25 #include "libavutil/mem.h"
26 #include "libavutil/opt.h"
27 #include "libavcodec/qsv.h"
28
29 #include "ffmpeg.h"
30
31 static int qsv_get_buffer(AVCodecContext *s, AVFrame *frame, int flags)
32 {
33     InputStream *ist = s->opaque;
34
35     return av_hwframe_get_buffer(ist->hw_frames_ctx, frame, 0);
36 }
37
38 static void qsv_uninit(AVCodecContext *s)
39 {
40     InputStream *ist = s->opaque;
41     av_buffer_unref(&ist->hw_frames_ctx);
42 }
43
44 static int qsv_device_init(InputStream *ist)
45 {
46     int err;
47
48     err = av_hwdevice_ctx_create(&hw_device_ctx, AV_HWDEVICE_TYPE_QSV,
49                                  ist->hwaccel_device, NULL, 0);
50     if (err < 0) {
51         av_log(NULL, AV_LOG_ERROR, "Error creating a QSV device\n");
52         return err;
53     }
54
55     return 0;
56 }
57
58 int qsv_init(AVCodecContext *s)
59 {
60     InputStream *ist = s->opaque;
61     AVHWFramesContext *frames_ctx;
62     AVQSVFramesContext *frames_hwctx;
63     int ret;
64
65     if (!hw_device_ctx) {
66         ret = qsv_device_init(ist);
67         if (ret < 0)
68             return ret;
69     }
70
71     av_buffer_unref(&ist->hw_frames_ctx);
72     ist->hw_frames_ctx = av_hwframe_ctx_alloc(hw_device_ctx);
73     if (!ist->hw_frames_ctx)
74         return AVERROR(ENOMEM);
75
76     frames_ctx   = (AVHWFramesContext*)ist->hw_frames_ctx->data;
77     frames_hwctx = frames_ctx->hwctx;
78
79     frames_ctx->width             = FFALIGN(s->coded_width,  32);
80     frames_ctx->height            = FFALIGN(s->coded_height, 32);
81     frames_ctx->format            = AV_PIX_FMT_QSV;
82     frames_ctx->sw_format         = s->sw_pix_fmt;
83     frames_ctx->initial_pool_size = 64;
84     frames_hwctx->frame_type      = MFX_MEMTYPE_VIDEO_MEMORY_DECODER_TARGET;
85
86     ret = av_hwframe_ctx_init(ist->hw_frames_ctx);
87     if (ret < 0) {
88         av_log(NULL, AV_LOG_ERROR, "Error initializing a QSV frame pool\n");
89         return ret;
90     }
91
92     ist->hwaccel_get_buffer = qsv_get_buffer;
93     ist->hwaccel_uninit     = qsv_uninit;
94
95     return 0;
96 }
97
98 int qsv_transcode_init(OutputStream *ost)
99 {
100     InputStream *ist;
101     const enum AVPixelFormat *pix_fmt;
102
103     int err, i;
104     AVBufferRef *encode_frames_ref = NULL;
105     AVHWFramesContext *encode_frames;
106     AVQSVFramesContext *qsv_frames;
107
108     /* check if the encoder supports QSV */
109     if (!ost->enc->pix_fmts)
110         return 0;
111     for (pix_fmt = ost->enc->pix_fmts; *pix_fmt != AV_PIX_FMT_NONE; pix_fmt++)
112         if (*pix_fmt == AV_PIX_FMT_QSV)
113             break;
114     if (*pix_fmt == AV_PIX_FMT_NONE)
115         return 0;
116
117     if (strcmp(ost->avfilter, "null") || ost->source_index < 0)
118         return 0;
119
120     /* check if the decoder supports QSV and the output only goes to this stream */
121     ist = input_streams[ost->source_index];
122     if (ist->hwaccel_id != HWACCEL_QSV || !ist->dec || !ist->dec->pix_fmts)
123         return 0;
124     for (pix_fmt = ist->dec->pix_fmts; *pix_fmt != AV_PIX_FMT_NONE; pix_fmt++)
125         if (*pix_fmt == AV_PIX_FMT_QSV)
126             break;
127     if (*pix_fmt == AV_PIX_FMT_NONE)
128         return 0;
129
130     for (i = 0; i < nb_output_streams; i++)
131         if (output_streams[i] != ost &&
132             output_streams[i]->source_index == ost->source_index)
133             return 0;
134
135     av_log(NULL, AV_LOG_VERBOSE, "Setting up QSV transcoding\n");
136
137     if (!hw_device_ctx) {
138         err = qsv_device_init(ist);
139         if (err < 0)
140             goto fail;
141     }
142
143     // This creates a dummy hw_frames_ctx for the encoder to be
144     // suitably initialised.  It only contains one real frame, so
145     // hopefully doesn't waste too much memory.
146
147     encode_frames_ref = av_hwframe_ctx_alloc(hw_device_ctx);
148     if (!encode_frames_ref) {
149         err = AVERROR(ENOMEM);
150         goto fail;
151     }
152     encode_frames = (AVHWFramesContext*)encode_frames_ref->data;
153     qsv_frames = encode_frames->hwctx;
154
155     encode_frames->width     = FFALIGN(ist->resample_width,  32);
156     encode_frames->height    = FFALIGN(ist->resample_height, 32);
157     encode_frames->format    = AV_PIX_FMT_QSV;
158     encode_frames->sw_format = AV_PIX_FMT_NV12;
159     encode_frames->initial_pool_size = 1;
160
161     qsv_frames->frame_type = MFX_MEMTYPE_VIDEO_MEMORY_DECODER_TARGET;
162
163     err = av_hwframe_ctx_init(encode_frames_ref);
164     if (err < 0)
165         goto fail;
166
167     ist->dec_ctx->pix_fmt       = AV_PIX_FMT_QSV;
168     ist->resample_pix_fmt       = AV_PIX_FMT_QSV;
169
170     ost->enc_ctx->pix_fmt       = AV_PIX_FMT_QSV;
171     ost->enc_ctx->hw_frames_ctx = encode_frames_ref;
172
173     return 0;
174
175 fail:
176     av_buffer_unref(&encode_frames_ref);
177     return err;
178 }