qsv: rename to qsvdec
[ffmpeg.git] / libavcodec / qsvdec_h264.c
1 /*
2  * Intel MediaSDK QSV based H.264 decoder
3  *
4  * copyright (c) 2013 Luca Barbato
5  * copyright (c) 2015 Anton Khirnov
6  *
7  * This file is part of Libav.
8  *
9  * Libav is free software; you can redistribute it and/or
10  * modify it under the terms of the GNU Lesser General Public
11  * License as published by the Free Software Foundation; either
12  * version 2.1 of the License, or (at your option) any later version.
13  *
14  * Libav is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
17  * Lesser General Public License for more details.
18  *
19  * You should have received a copy of the GNU Lesser General Public
20  * License along with Libav; if not, write to the Free Software
21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
22  */
23
24
25 #include <stdint.h>
26 #include <string.h>
27
28 #include <mfx/mfxvideo.h>
29
30 #include "libavutil/common.h"
31 #include "libavutil/fifo.h"
32 #include "libavutil/opt.h"
33
34 #include "avcodec.h"
35 #include "internal.h"
36 #include "qsvdec.h"
37 #include "qsv.h"
38
39 typedef struct QSVH264Context {
40     AVClass *class;
41     QSVContext qsv;
42
43     // the internal parser and codec context for parsing the data
44     AVCodecParserContext *parser;
45     AVCodecContext *avctx_internal;
46     enum AVPixelFormat orig_pix_fmt;
47
48     // the filter for converting to Annex B
49     AVBitStreamFilterContext *bsf;
50
51     AVFifoBuffer *packet_fifo;
52
53     AVPacket input_ref;
54     AVPacket pkt_filtered;
55     uint8_t *filtered_data;
56 } QSVH264Context;
57
58 static void qsv_clear_buffers(QSVH264Context *s)
59 {
60     AVPacket pkt;
61     while (av_fifo_size(s->packet_fifo) >= sizeof(pkt)) {
62         av_fifo_generic_read(s->packet_fifo, &pkt, sizeof(pkt), NULL);
63         av_packet_unref(&pkt);
64     }
65
66     if (s->filtered_data != s->input_ref.data)
67         av_freep(&s->filtered_data);
68     s->filtered_data = NULL;
69     av_packet_unref(&s->input_ref);
70 }
71
72 static av_cold int qsv_decode_close(AVCodecContext *avctx)
73 {
74     QSVH264Context *s = avctx->priv_data;
75
76     ff_qsv_close(&s->qsv);
77
78     qsv_clear_buffers(s);
79
80     av_fifo_free(s->packet_fifo);
81
82     av_bitstream_filter_close(s->bsf);
83     av_parser_close(s->parser);
84     avcodec_free_context(&s->avctx_internal);
85
86     return 0;
87 }
88
89 static av_cold int qsv_decode_init(AVCodecContext *avctx)
90 {
91     QSVH264Context *s = avctx->priv_data;
92     int ret;
93
94     s->orig_pix_fmt = AV_PIX_FMT_NONE;
95
96     s->packet_fifo = av_fifo_alloc(sizeof(AVPacket));
97     if (!s->packet_fifo) {
98         ret = AVERROR(ENOMEM);
99         goto fail;
100     }
101
102     s->bsf = av_bitstream_filter_init("h264_mp4toannexb");
103     if (!s->bsf) {
104         ret = AVERROR(ENOMEM);
105         goto fail;
106     }
107
108     s->avctx_internal = avcodec_alloc_context3(NULL);
109     if (!s->avctx_internal) {
110         ret = AVERROR(ENOMEM);
111         goto fail;
112     }
113
114     if (avctx->extradata) {
115         s->avctx_internal->extradata = av_mallocz(avctx->extradata_size + FF_INPUT_BUFFER_PADDING_SIZE);
116         if (!s->avctx_internal->extradata) {
117             ret = AVERROR(ENOMEM);
118             goto fail;
119         }
120         memcpy(s->avctx_internal->extradata, avctx->extradata,
121                avctx->extradata_size);
122         s->avctx_internal->extradata_size = avctx->extradata_size;
123     }
124
125     s->parser = av_parser_init(AV_CODEC_ID_H264);
126     if (!s->parser) {
127         ret = AVERROR(ENOMEM);
128         goto fail;
129     }
130     s->parser->flags |= PARSER_FLAG_COMPLETE_FRAMES;
131
132     s->qsv.iopattern = MFX_IOPATTERN_OUT_SYSTEM_MEMORY;
133
134     return 0;
135 fail:
136     qsv_decode_close(avctx);
137     return ret;
138 }
139
140 static int qsv_process_data(AVCodecContext *avctx, AVFrame *frame,
141                             int *got_frame, AVPacket *pkt)
142 {
143     QSVH264Context *s = avctx->priv_data;
144     uint8_t *dummy_data;
145     int dummy_size;
146     int ret;
147
148     /* we assume the packets are already split properly and want
149      * just the codec parameters here */
150     av_parser_parse2(s->parser, s->avctx_internal,
151                      &dummy_data, &dummy_size,
152                      pkt->data, pkt->size, pkt->pts, pkt->dts,
153                      pkt->pos);
154
155     /* TODO: flush delayed frames on reinit */
156     if (s->parser->format       != s->orig_pix_fmt    ||
157         s->parser->coded_width  != avctx->coded_width ||
158         s->parser->coded_height != avctx->coded_height) {
159         mfxSession session = NULL;
160
161         enum AVPixelFormat pix_fmts[3] = { AV_PIX_FMT_QSV,
162                                            AV_PIX_FMT_NONE,
163                                            AV_PIX_FMT_NONE };
164         enum AVPixelFormat qsv_format;
165
166         qsv_format = ff_qsv_map_pixfmt(s->parser->format);
167         if (qsv_format < 0) {
168             av_log(avctx, AV_LOG_ERROR,
169                    "Only 8-bit YUV420 streams are supported.\n");
170             ret = AVERROR(ENOSYS);
171             goto reinit_fail;
172         }
173
174         s->orig_pix_fmt     = s->parser->format;
175         avctx->pix_fmt      = pix_fmts[1] = qsv_format;
176         avctx->width        = s->parser->width;
177         avctx->height       = s->parser->height;
178         avctx->coded_width  = s->parser->coded_width;
179         avctx->coded_height = s->parser->coded_height;
180         avctx->level        = s->avctx_internal->level;
181         avctx->profile      = s->avctx_internal->profile;
182
183         ret = ff_get_format(avctx, pix_fmts);
184         if (ret < 0)
185             goto reinit_fail;
186
187         avctx->pix_fmt = ret;
188
189         if (avctx->hwaccel_context) {
190             AVQSVContext *user_ctx = avctx->hwaccel_context;
191             session               = user_ctx->session;
192             s->qsv.iopattern      = user_ctx->iopattern;
193             s->qsv.ext_buffers    = user_ctx->ext_buffers;
194             s->qsv.nb_ext_buffers = user_ctx->nb_ext_buffers;
195         }
196
197         ret = ff_qsv_init(avctx, &s->qsv, session);
198         if (ret < 0)
199             goto reinit_fail;
200     }
201
202     return ff_qsv_decode(avctx, &s->qsv, frame, got_frame, &s->pkt_filtered);
203
204 reinit_fail:
205     s->orig_pix_fmt = s->parser->format = avctx->pix_fmt = AV_PIX_FMT_NONE;
206     return ret;
207 }
208
209 static int qsv_decode_frame(AVCodecContext *avctx, void *data,
210                             int *got_frame, AVPacket *avpkt)
211 {
212     QSVH264Context *s = avctx->priv_data;
213     AVFrame *frame    = data;
214     int ret;
215
216     /* buffer the input packet */
217     if (avpkt->size) {
218         AVPacket input_ref = { 0 };
219
220         if (av_fifo_space(s->packet_fifo) < sizeof(input_ref)) {
221             ret = av_fifo_realloc2(s->packet_fifo,
222                                    av_fifo_size(s->packet_fifo) + sizeof(input_ref));
223             if (ret < 0)
224                 return ret;
225         }
226
227         ret = av_packet_ref(&input_ref, avpkt);
228         if (ret < 0)
229             return ret;
230         av_fifo_generic_write(s->packet_fifo, &input_ref, sizeof(input_ref), NULL);
231     }
232
233     /* process buffered data */
234     while (!*got_frame) {
235         /* prepare the input data -- convert to Annex B if needed */
236         if (s->pkt_filtered.size <= 0) {
237             int size;
238
239             /* no more data */
240             if (av_fifo_size(s->packet_fifo) < sizeof(AVPacket))
241                 return avpkt->size ? avpkt->size : ff_qsv_decode(avctx, &s->qsv, frame, got_frame, avpkt);
242
243             if (s->filtered_data != s->input_ref.data)
244                 av_freep(&s->filtered_data);
245             s->filtered_data = NULL;
246             av_packet_unref(&s->input_ref);
247
248             av_fifo_generic_read(s->packet_fifo, &s->input_ref, sizeof(s->input_ref), NULL);
249             ret = av_bitstream_filter_filter(s->bsf, avctx, NULL,
250                                              &s->filtered_data, &size,
251                                              s->input_ref.data, s->input_ref.size, 0);
252             if (ret < 0) {
253                 s->filtered_data = s->input_ref.data;
254                 size             = s->input_ref.size;
255             }
256             s->pkt_filtered      = s->input_ref;
257             s->pkt_filtered.data = s->filtered_data;
258             s->pkt_filtered.size = size;
259         }
260
261         ret = qsv_process_data(avctx, frame, got_frame, &s->pkt_filtered);
262         if (ret < 0)
263             return ret;
264
265         s->pkt_filtered.size -= ret;
266         s->pkt_filtered.data += ret;
267     }
268
269     return avpkt->size;
270 }
271
272 static void qsv_decode_flush(AVCodecContext *avctx)
273 {
274     QSVH264Context *s = avctx->priv_data;
275
276     qsv_clear_buffers(s);
277     s->orig_pix_fmt = AV_PIX_FMT_NONE;
278 }
279
280 AVHWAccel ff_h264_qsv_hwaccel = {
281     .name           = "h264_qsv",
282     .type           = AVMEDIA_TYPE_VIDEO,
283     .id             = AV_CODEC_ID_H264,
284     .pix_fmt        = AV_PIX_FMT_QSV,
285 };
286
287 #define OFFSET(x) offsetof(QSVH264Context, x)
288 #define VD AV_OPT_FLAG_VIDEO_PARAM | AV_OPT_FLAG_DECODING_PARAM
289 static const AVOption options[] = {
290     { "async_depth", "Internal parallelization depth, the higher the value the higher the latency.", OFFSET(qsv.async_depth), AV_OPT_TYPE_INT, { .i64 = ASYNC_DEPTH_DEFAULT }, 0, INT_MAX, VD },
291     { NULL },
292 };
293
294 static const AVClass class = {
295     .class_name = "h264_qsv",
296     .item_name  = av_default_item_name,
297     .option     = options,
298     .version    = LIBAVUTIL_VERSION_INT,
299 };
300
301 AVCodec ff_h264_qsv_decoder = {
302     .name           = "h264_qsv",
303     .long_name      = NULL_IF_CONFIG_SMALL("H.264 / AVC / MPEG-4 AVC / MPEG-4 part 10 (Intel Quick Sync Video acceleration)"),
304     .priv_data_size = sizeof(QSVH264Context),
305     .type           = AVMEDIA_TYPE_VIDEO,
306     .id             = AV_CODEC_ID_H264,
307     .init           = qsv_decode_init,
308     .decode         = qsv_decode_frame,
309     .flush          = qsv_decode_flush,
310     .close          = qsv_decode_close,
311     .capabilities   = CODEC_CAP_DELAY,
312     .priv_class     = &class,
313 };