pictor: Correctly check frame dimensions
[ffmpeg.git] / libavcodec / qsvdec_other.c
1 /*
2  * Intel MediaSDK QSV based MPEG-2, VC-1 and VP8 decoders
3  *
4  * copyright (c) 2015 Anton Khirnov
5  *
6  * This file is part of Libav.
7  *
8  * Libav is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * Libav is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with Libav; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23
24 #include <stdint.h>
25 #include <string.h>
26
27 #include <mfx/mfxvideo.h>
28
29 #include "libavutil/common.h"
30 #include "libavutil/fifo.h"
31 #include "libavutil/opt.h"
32
33 #include "avcodec.h"
34 #include "internal.h"
35 #include "qsv_internal.h"
36 #include "qsvdec.h"
37 #include "qsv.h"
38
39 typedef struct QSVOtherContext {
40     AVClass *class;
41     QSVContext qsv;
42
43     AVFifoBuffer *packet_fifo;
44
45     AVPacket input_ref;
46 } QSVOtherContext;
47
48 static void qsv_clear_buffers(QSVOtherContext *s)
49 {
50     AVPacket pkt;
51     while (av_fifo_size(s->packet_fifo) >= sizeof(pkt)) {
52         av_fifo_generic_read(s->packet_fifo, &pkt, sizeof(pkt), NULL);
53         av_packet_unref(&pkt);
54     }
55
56     av_packet_unref(&s->input_ref);
57 }
58
59 static av_cold int qsv_decode_close(AVCodecContext *avctx)
60 {
61     QSVOtherContext *s = avctx->priv_data;
62
63     ff_qsv_decode_close(&s->qsv);
64
65     qsv_clear_buffers(s);
66
67     av_fifo_free(s->packet_fifo);
68
69     return 0;
70 }
71
72 static av_cold int qsv_decode_init(AVCodecContext *avctx)
73 {
74     QSVOtherContext *s = avctx->priv_data;
75     int ret;
76
77 #if CONFIG_VP8_QSV_DECODER
78     if (avctx->codec_id == AV_CODEC_ID_VP8) {
79         static const char *uid_vp8dec_hw = "f622394d8d87452f878c51f2fc9b4131";
80
81         av_freep(&s->qsv.load_plugins);
82         s->qsv.load_plugins = av_strdup(uid_vp8dec_hw);
83         if (!s->qsv.load_plugins)
84             return AVERROR(ENOMEM);
85     }
86 #endif
87
88     s->packet_fifo = av_fifo_alloc(sizeof(AVPacket));
89     if (!s->packet_fifo) {
90         ret = AVERROR(ENOMEM);
91         goto fail;
92     }
93
94     return 0;
95 fail:
96     qsv_decode_close(avctx);
97     return ret;
98 }
99
100 static int qsv_decode_frame(AVCodecContext *avctx, void *data,
101                             int *got_frame, AVPacket *avpkt)
102 {
103     QSVOtherContext *s = avctx->priv_data;
104     AVFrame *frame    = data;
105     int ret;
106
107     /* buffer the input packet */
108     if (avpkt->size) {
109         AVPacket input_ref = { 0 };
110
111         if (av_fifo_space(s->packet_fifo) < sizeof(input_ref)) {
112             ret = av_fifo_realloc2(s->packet_fifo,
113                                    av_fifo_size(s->packet_fifo) + sizeof(input_ref));
114             if (ret < 0)
115                 return ret;
116         }
117
118         ret = av_packet_ref(&input_ref, avpkt);
119         if (ret < 0)
120             return ret;
121         av_fifo_generic_write(s->packet_fifo, &input_ref, sizeof(input_ref), NULL);
122     }
123
124     /* process buffered data */
125     while (!*got_frame) {
126         if (s->input_ref.size <= 0) {
127             /* no more data */
128             if (av_fifo_size(s->packet_fifo) < sizeof(AVPacket))
129                 return avpkt->size ? avpkt->size : ff_qsv_process_data(avctx, &s->qsv, frame, got_frame, avpkt);
130
131             av_packet_unref(&s->input_ref);
132             av_fifo_generic_read(s->packet_fifo, &s->input_ref, sizeof(s->input_ref), NULL);
133         }
134
135         ret = ff_qsv_process_data(avctx, &s->qsv, frame, got_frame, &s->input_ref);
136         if (ret < 0)
137             return ret;
138
139         s->input_ref.size -= ret;
140         s->input_ref.data += ret;
141     }
142
143     return avpkt->size;
144 }
145
146 static void qsv_decode_flush(AVCodecContext *avctx)
147 {
148     QSVOtherContext *s = avctx->priv_data;
149
150     qsv_clear_buffers(s);
151     ff_qsv_decode_flush(avctx, &s->qsv);
152 }
153
154 #define OFFSET(x) offsetof(QSVOtherContext, x)
155 #define VD AV_OPT_FLAG_VIDEO_PARAM | AV_OPT_FLAG_DECODING_PARAM
156 static const AVOption options[] = {
157     { "async_depth", "Internal parallelization depth, the higher the value the higher the latency.", OFFSET(qsv.async_depth), AV_OPT_TYPE_INT, { .i64 = ASYNC_DEPTH_DEFAULT }, 0, INT_MAX, VD },
158     { NULL },
159 };
160
161 #if CONFIG_MPEG2_QSV_HWACCEL
162 AVHWAccel ff_mpeg2_qsv_hwaccel = {
163     .name           = "mpeg2_qsv",
164     .type           = AVMEDIA_TYPE_VIDEO,
165     .id             = AV_CODEC_ID_MPEG2VIDEO,
166     .pix_fmt        = AV_PIX_FMT_QSV,
167 };
168 #endif
169
170 #if CONFIG_MPEG2_QSV_DECODER
171 static const AVClass mpeg2_qsv_class = {
172     .class_name = "mpeg2_qsv",
173     .item_name  = av_default_item_name,
174     .option     = options,
175     .version    = LIBAVUTIL_VERSION_INT,
176 };
177
178 AVCodec ff_mpeg2_qsv_decoder = {
179     .name           = "mpeg2_qsv",
180     .long_name      = NULL_IF_CONFIG_SMALL("MPEG-2 video (Intel Quick Sync Video acceleration)"),
181     .priv_data_size = sizeof(QSVOtherContext),
182     .type           = AVMEDIA_TYPE_VIDEO,
183     .id             = AV_CODEC_ID_MPEG2VIDEO,
184     .init           = qsv_decode_init,
185     .decode         = qsv_decode_frame,
186     .flush          = qsv_decode_flush,
187     .close          = qsv_decode_close,
188     .capabilities   = AV_CODEC_CAP_DELAY | AV_CODEC_CAP_DR1,
189     .priv_class     = &mpeg2_qsv_class,
190     .pix_fmts       = (const enum AVPixelFormat[]){ AV_PIX_FMT_NV12,
191                                                     AV_PIX_FMT_QSV,
192                                                     AV_PIX_FMT_NONE },
193 };
194 #endif
195
196 #if CONFIG_VC1_QSV_HWACCEL
197 AVHWAccel ff_vc1_qsv_hwaccel = {
198     .name           = "vc1_qsv",
199     .type           = AVMEDIA_TYPE_VIDEO,
200     .id             = AV_CODEC_ID_VC1,
201     .pix_fmt        = AV_PIX_FMT_QSV,
202 };
203 #endif
204
205 #if CONFIG_VC1_QSV_DECODER
206 static const AVClass vc1_qsv_class = {
207     .class_name = "vc1_qsv",
208     .item_name  = av_default_item_name,
209     .option     = options,
210     .version    = LIBAVUTIL_VERSION_INT,
211 };
212
213 AVCodec ff_vc1_qsv_decoder = {
214     .name           = "vc1_qsv",
215     .long_name      = NULL_IF_CONFIG_SMALL("VC-1 video (Intel Quick Sync Video acceleration)"),
216     .priv_data_size = sizeof(QSVOtherContext),
217     .type           = AVMEDIA_TYPE_VIDEO,
218     .id             = AV_CODEC_ID_VC1,
219     .init           = qsv_decode_init,
220     .decode         = qsv_decode_frame,
221     .flush          = qsv_decode_flush,
222     .close          = qsv_decode_close,
223     .capabilities   = AV_CODEC_CAP_DELAY | AV_CODEC_CAP_DR1,
224     .priv_class     = &vc1_qsv_class,
225     .pix_fmts       = (const enum AVPixelFormat[]){ AV_PIX_FMT_NV12,
226                                                     AV_PIX_FMT_QSV,
227                                                     AV_PIX_FMT_NONE },
228 };
229 #endif
230
231 #if CONFIG_VP8_QSV_HWACCEL
232 AVHWAccel ff_vp8_qsv_hwaccel = {
233     .name           = "vp8_qsv",
234     .type           = AVMEDIA_TYPE_VIDEO,
235     .id             = AV_CODEC_ID_VP8,
236     .pix_fmt        = AV_PIX_FMT_QSV,
237 };
238 #endif
239
240 #if CONFIG_VP8_QSV_DECODER
241 static const AVClass vp8_qsv_class = {
242     .class_name = "vp8_qsv",
243     .item_name  = av_default_item_name,
244     .option     = options,
245     .version    = LIBAVUTIL_VERSION_INT,
246 };
247
248 AVCodec ff_vp8_qsv_decoder = {
249     .name           = "vp8_qsv",
250     .long_name      = NULL_IF_CONFIG_SMALL("VP8 video (Intel Quick Sync Video acceleration)"),
251     .priv_data_size = sizeof(QSVOtherContext),
252     .type           = AVMEDIA_TYPE_VIDEO,
253     .id             = AV_CODEC_ID_VP8,
254     .init           = qsv_decode_init,
255     .decode         = qsv_decode_frame,
256     .flush          = qsv_decode_flush,
257     .close          = qsv_decode_close,
258     .capabilities   = AV_CODEC_CAP_DELAY | AV_CODEC_CAP_DR1,
259     .priv_class     = &vp8_qsv_class,
260     .pix_fmts       = (const enum AVPixelFormat[]){ AV_PIX_FMT_NV12,
261                                                     AV_PIX_FMT_QSV,
262                                                     AV_PIX_FMT_NONE },
263 };
264 #endif