tools/target_dec_fuzzer: Also fuzz request_channel_layout
[ffmpeg.git] / libavcodec / qsvdec_h2645.c
1 /*
2  * Intel MediaSDK QSV based H.264 / HEVC decoder
3  *
4  * copyright (c) 2013 Luca Barbato
5  * copyright (c) 2015 Anton Khirnov
6  *
7  * This file is part of FFmpeg.
8  *
9  * FFmpeg is free software; you can redistribute it and/or
10  * modify it under the terms of the GNU Lesser General Public
11  * License as published by the Free Software Foundation; either
12  * version 2.1 of the License, or (at your option) any later version.
13  *
14  * FFmpeg is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
17  * Lesser General Public License for more details.
18  *
19  * You should have received a copy of the GNU Lesser General Public
20  * License along with FFmpeg; if not, write to the Free Software
21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
22  */
23
24
25 #include <stdint.h>
26 #include <string.h>
27
28 #include <mfx/mfxvideo.h>
29
30 #include "libavutil/common.h"
31 #include "libavutil/fifo.h"
32 #include "libavutil/opt.h"
33
34 #include "avcodec.h"
35 #include "internal.h"
36 #include "qsv_internal.h"
37 #include "qsvdec.h"
38 #include "qsv.h"
39
40 enum LoadPlugin {
41     LOAD_PLUGIN_NONE,
42     LOAD_PLUGIN_HEVC_SW,
43     LOAD_PLUGIN_HEVC_HW,
44 };
45
46 typedef struct QSVH2645Context {
47     AVClass *class;
48     QSVContext qsv;
49
50     int load_plugin;
51
52     AVFifoBuffer *packet_fifo;
53
54     AVPacket buffer_pkt;
55 } QSVH2645Context;
56
57 static void qsv_clear_buffers(QSVH2645Context *s)
58 {
59     AVPacket pkt;
60     while (av_fifo_size(s->packet_fifo) >= sizeof(pkt)) {
61         av_fifo_generic_read(s->packet_fifo, &pkt, sizeof(pkt), NULL);
62         av_packet_unref(&pkt);
63     }
64
65     av_packet_unref(&s->buffer_pkt);
66 }
67
68 static av_cold int qsv_decode_close(AVCodecContext *avctx)
69 {
70     QSVH2645Context *s = avctx->priv_data;
71
72     ff_qsv_decode_close(&s->qsv);
73
74     qsv_clear_buffers(s);
75
76     av_fifo_free(s->packet_fifo);
77
78     return 0;
79 }
80
81 static av_cold int qsv_decode_init(AVCodecContext *avctx)
82 {
83     QSVH2645Context *s = avctx->priv_data;
84     int ret;
85
86     if (avctx->codec_id == AV_CODEC_ID_HEVC && s->load_plugin != LOAD_PLUGIN_NONE) {
87         static const char * const uid_hevcdec_sw = "15dd936825ad475ea34e35f3f54217a6";
88         static const char * const uid_hevcdec_hw = "33a61c0b4c27454ca8d85dde757c6f8e";
89
90         if (s->qsv.load_plugins[0]) {
91             av_log(avctx, AV_LOG_WARNING,
92                    "load_plugins is not empty, but load_plugin is not set to 'none'."
93                    "The load_plugin value will be ignored.\n");
94         } else {
95             av_freep(&s->qsv.load_plugins);
96
97             if (s->load_plugin == LOAD_PLUGIN_HEVC_SW)
98                 s->qsv.load_plugins = av_strdup(uid_hevcdec_sw);
99             else
100                 s->qsv.load_plugins = av_strdup(uid_hevcdec_hw);
101             if (!s->qsv.load_plugins)
102                 return AVERROR(ENOMEM);
103         }
104     }
105
106     s->qsv.orig_pix_fmt = AV_PIX_FMT_NV12;
107     s->packet_fifo = av_fifo_alloc(sizeof(AVPacket));
108     if (!s->packet_fifo) {
109         ret = AVERROR(ENOMEM);
110         goto fail;
111     }
112
113     return 0;
114 fail:
115     qsv_decode_close(avctx);
116     return ret;
117 }
118
119 static int qsv_decode_frame(AVCodecContext *avctx, void *data,
120                             int *got_frame, AVPacket *avpkt)
121 {
122     QSVH2645Context *s = avctx->priv_data;
123     AVFrame *frame    = data;
124     int ret;
125
126     /* buffer the input packet */
127     if (avpkt->size) {
128         AVPacket input_ref = { 0 };
129
130         if (av_fifo_space(s->packet_fifo) < sizeof(input_ref)) {
131             ret = av_fifo_realloc2(s->packet_fifo,
132                                    av_fifo_size(s->packet_fifo) + sizeof(input_ref));
133             if (ret < 0)
134                 return ret;
135         }
136
137         ret = av_packet_ref(&input_ref, avpkt);
138         if (ret < 0)
139             return ret;
140         av_fifo_generic_write(s->packet_fifo, &input_ref, sizeof(input_ref), NULL);
141     }
142
143     /* process buffered data */
144     while (!*got_frame) {
145         /* prepare the input data */
146         if (s->buffer_pkt.size <= 0) {
147             /* no more data */
148             if (av_fifo_size(s->packet_fifo) < sizeof(AVPacket))
149                 return avpkt->size ? avpkt->size : ff_qsv_process_data(avctx, &s->qsv, frame, got_frame, avpkt);
150             /* in progress of reinit, no read from fifo and keep the buffer_pkt */
151             if (!s->qsv.reinit_flag) {
152                 av_packet_unref(&s->buffer_pkt);
153                 av_fifo_generic_read(s->packet_fifo, &s->buffer_pkt, sizeof(s->buffer_pkt), NULL);
154             }
155         }
156
157         ret = ff_qsv_process_data(avctx, &s->qsv, frame, got_frame, &s->buffer_pkt);
158         if (ret < 0){
159             /* Drop buffer_pkt when failed to decode the packet. Otherwise,
160                the decoder will keep decoding the failure packet. */
161             av_packet_unref(&s->buffer_pkt);
162             return ret;
163         }
164         if (s->qsv.reinit_flag)
165             continue;
166
167         s->buffer_pkt.size -= ret;
168         s->buffer_pkt.data += ret;
169     }
170
171     return avpkt->size;
172 }
173
174 static void qsv_decode_flush(AVCodecContext *avctx)
175 {
176     QSVH2645Context *s = avctx->priv_data;
177
178     qsv_clear_buffers(s);
179     ff_qsv_decode_flush(avctx, &s->qsv);
180 }
181
182 #define OFFSET(x) offsetof(QSVH2645Context, x)
183 #define VD AV_OPT_FLAG_VIDEO_PARAM | AV_OPT_FLAG_DECODING_PARAM
184
185 #if CONFIG_HEVC_QSV_DECODER
186 static const AVOption hevc_options[] = {
187     { "async_depth", "Internal parallelization depth, the higher the value the higher the latency.", OFFSET(qsv.async_depth), AV_OPT_TYPE_INT, { .i64 = ASYNC_DEPTH_DEFAULT }, 1, INT_MAX, VD },
188
189     { "load_plugin", "A user plugin to load in an internal session", OFFSET(load_plugin), AV_OPT_TYPE_INT, { .i64 = LOAD_PLUGIN_HEVC_HW }, LOAD_PLUGIN_NONE, LOAD_PLUGIN_HEVC_HW, VD, "load_plugin" },
190     { "none",     NULL, 0, AV_OPT_TYPE_CONST, { .i64 = LOAD_PLUGIN_NONE },    0, 0, VD, "load_plugin" },
191     { "hevc_sw",  NULL, 0, AV_OPT_TYPE_CONST, { .i64 = LOAD_PLUGIN_HEVC_SW }, 0, 0, VD, "load_plugin" },
192     { "hevc_hw",  NULL, 0, AV_OPT_TYPE_CONST, { .i64 = LOAD_PLUGIN_HEVC_HW }, 0, 0, VD, "load_plugin" },
193
194     { "load_plugins", "A :-separate list of hexadecimal plugin UIDs to load in an internal session",
195         OFFSET(qsv.load_plugins), AV_OPT_TYPE_STRING, { .str = "" }, 0, 0, VD },
196
197     { "gpu_copy", "A GPU-accelerated copy between video and system memory", OFFSET(qsv.gpu_copy), AV_OPT_TYPE_INT, { .i64 = MFX_GPUCOPY_DEFAULT }, MFX_GPUCOPY_DEFAULT, MFX_GPUCOPY_OFF, VD, "gpu_copy"},
198         { "default", NULL, 0, AV_OPT_TYPE_CONST, { .i64 = MFX_GPUCOPY_DEFAULT }, 0, 0, VD, "gpu_copy"},
199         { "on",      NULL, 0, AV_OPT_TYPE_CONST, { .i64 = MFX_GPUCOPY_ON },      0, 0, VD, "gpu_copy"},
200         { "off",     NULL, 0, AV_OPT_TYPE_CONST, { .i64 = MFX_GPUCOPY_OFF },     0, 0, VD, "gpu_copy"},
201     { NULL },
202 };
203
204 static const AVClass hevc_class = {
205     .class_name = "hevc_qsv",
206     .item_name  = av_default_item_name,
207     .option     = hevc_options,
208     .version    = LIBAVUTIL_VERSION_INT,
209 };
210
211 AVCodec ff_hevc_qsv_decoder = {
212     .name           = "hevc_qsv",
213     .long_name      = NULL_IF_CONFIG_SMALL("HEVC (Intel Quick Sync Video acceleration)"),
214     .priv_data_size = sizeof(QSVH2645Context),
215     .type           = AVMEDIA_TYPE_VIDEO,
216     .id             = AV_CODEC_ID_HEVC,
217     .init           = qsv_decode_init,
218     .decode         = qsv_decode_frame,
219     .flush          = qsv_decode_flush,
220     .close          = qsv_decode_close,
221     .capabilities   = AV_CODEC_CAP_DELAY | AV_CODEC_CAP_DR1 | AV_CODEC_CAP_AVOID_PROBING | AV_CODEC_CAP_HYBRID,
222     .priv_class     = &hevc_class,
223     .pix_fmts       = (const enum AVPixelFormat[]){ AV_PIX_FMT_NV12,
224                                                     AV_PIX_FMT_P010,
225                                                     AV_PIX_FMT_QSV,
226                                                     AV_PIX_FMT_NONE },
227     .hw_configs     = ff_qsv_hw_configs,
228     .bsfs           = "hevc_mp4toannexb",
229     .wrapper_name   = "qsv",
230 };
231 #endif
232
233 #if CONFIG_H264_QSV_DECODER
234 static const AVOption options[] = {
235     { "async_depth", "Internal parallelization depth, the higher the value the higher the latency.", OFFSET(qsv.async_depth), AV_OPT_TYPE_INT, { .i64 = ASYNC_DEPTH_DEFAULT }, 1, INT_MAX, VD },
236
237     { "gpu_copy", "A GPU-accelerated copy between video and system memory", OFFSET(qsv.gpu_copy), AV_OPT_TYPE_INT, { .i64 = MFX_GPUCOPY_DEFAULT }, MFX_GPUCOPY_DEFAULT, MFX_GPUCOPY_OFF, VD, "gpu_copy"},
238         { "default", NULL, 0, AV_OPT_TYPE_CONST, { .i64 = MFX_GPUCOPY_DEFAULT }, 0, 0, VD, "gpu_copy"},
239         { "on",      NULL, 0, AV_OPT_TYPE_CONST, { .i64 = MFX_GPUCOPY_ON },      0, 0, VD, "gpu_copy"},
240         { "off",     NULL, 0, AV_OPT_TYPE_CONST, { .i64 = MFX_GPUCOPY_OFF },     0, 0, VD, "gpu_copy"},
241     { NULL },
242 };
243
244 static const AVClass class = {
245     .class_name = "h264_qsv",
246     .item_name  = av_default_item_name,
247     .option     = options,
248     .version    = LIBAVUTIL_VERSION_INT,
249 };
250
251 AVCodec ff_h264_qsv_decoder = {
252     .name           = "h264_qsv",
253     .long_name      = NULL_IF_CONFIG_SMALL("H.264 / AVC / MPEG-4 AVC / MPEG-4 part 10 (Intel Quick Sync Video acceleration)"),
254     .priv_data_size = sizeof(QSVH2645Context),
255     .type           = AVMEDIA_TYPE_VIDEO,
256     .id             = AV_CODEC_ID_H264,
257     .init           = qsv_decode_init,
258     .decode         = qsv_decode_frame,
259     .flush          = qsv_decode_flush,
260     .close          = qsv_decode_close,
261     .capabilities   = AV_CODEC_CAP_DELAY | AV_CODEC_CAP_DR1 | AV_CODEC_CAP_AVOID_PROBING | AV_CODEC_CAP_HYBRID,
262     .priv_class     = &class,
263     .pix_fmts       = (const enum AVPixelFormat[]){ AV_PIX_FMT_NV12,
264                                                     AV_PIX_FMT_P010,
265                                                     AV_PIX_FMT_QSV,
266                                                     AV_PIX_FMT_NONE },
267     .hw_configs     = ff_qsv_hw_configs,
268     .bsfs           = "h264_mp4toannexb",
269     .wrapper_name   = "qsv",
270 };
271 #endif