libavcodec/libvpx: Add VPx alpha decode support
[ffmpeg.git] / libavcodec / qsvdec_h2645.c
1 /*
2  * Intel MediaSDK QSV based H.264 / HEVC decoder
3  *
4  * copyright (c) 2013 Luca Barbato
5  * copyright (c) 2015 Anton Khirnov
6  *
7  * This file is part of FFmpeg.
8  *
9  * FFmpeg is free software; you can redistribute it and/or
10  * modify it under the terms of the GNU Lesser General Public
11  * License as published by the Free Software Foundation; either
12  * version 2.1 of the License, or (at your option) any later version.
13  *
14  * FFmpeg is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
17  * Lesser General Public License for more details.
18  *
19  * You should have received a copy of the GNU Lesser General Public
20  * License along with FFmpeg; if not, write to the Free Software
21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
22  */
23
24
25 #include <stdint.h>
26 #include <string.h>
27
28 #include <mfx/mfxvideo.h>
29
30 #include "libavutil/common.h"
31 #include "libavutil/fifo.h"
32 #include "libavutil/opt.h"
33
34 #include "avcodec.h"
35 #include "internal.h"
36 #include "qsvdec.h"
37
38 enum LoadPlugin {
39     LOAD_PLUGIN_NONE,
40     LOAD_PLUGIN_HEVC_SW,
41 };
42
43 typedef struct QSVH2645Context {
44     AVClass *class;
45     QSVContext qsv;
46
47     int load_plugin;
48
49     // the filter for converting to Annex B
50     AVBitStreamFilterContext *bsf;
51
52 } QSVH2645Context;
53
54 static av_cold int qsv_decode_close(AVCodecContext *avctx)
55 {
56     QSVH2645Context *s = avctx->priv_data;
57
58     ff_qsv_decode_close(&s->qsv);
59
60     av_bitstream_filter_close(s->bsf);
61
62     return 0;
63 }
64
65 static av_cold int qsv_decode_init(AVCodecContext *avctx)
66 {
67     QSVH2645Context *s = avctx->priv_data;
68     int ret;
69
70     if (avctx->codec_id == AV_CODEC_ID_HEVC && s->load_plugin != LOAD_PLUGIN_NONE) {
71         static const char *uid_hevcenc_sw = "15dd936825ad475ea34e35f3f54217a6";
72
73         if (s->qsv.load_plugins[0]) {
74             av_log(avctx, AV_LOG_WARNING,
75                    "load_plugins is not empty, but load_plugin is not set to 'none'."
76                    "The load_plugin value will be ignored.\n");
77         } else {
78             av_freep(&s->qsv.load_plugins);
79             s->qsv.load_plugins = av_strdup(uid_hevcenc_sw);
80             if (!s->qsv.load_plugins)
81                 return AVERROR(ENOMEM);
82         }
83     }
84
85     if (avctx->codec_id == AV_CODEC_ID_H264) {
86         s->bsf = av_bitstream_filter_init("h264_mp4toannexb");
87         //regarding ticks_per_frame description, should be 2 for h.264:
88         avctx->ticks_per_frame = 2;
89     } else
90         s->bsf = av_bitstream_filter_init("hevc_mp4toannexb");
91     if (!s->bsf) {
92         ret = AVERROR(ENOMEM);
93         goto fail;
94     }
95
96     return 0;
97 fail:
98     qsv_decode_close(avctx);
99     return ret;
100 }
101
102 static int qsv_decode_frame(AVCodecContext *avctx, void *data,
103                             int *got_frame, AVPacket *avpkt)
104 {
105     QSVH2645Context *s = avctx->priv_data;
106     AVFrame *frame    = data;
107     int ret;
108     uint8_t *p_filtered = NULL;
109     int      n_filtered = NULL;
110     AVPacket pkt_filtered = { 0 };
111
112     if (avpkt->size) {
113         if (avpkt->size > 3 && !avpkt->data[0] &&
114             !avpkt->data[1] && !avpkt->data[2] && 1==avpkt->data[3]) {
115             /* we already have annex-b prefix */
116             return ff_qsv_decode(avctx, &s->qsv, frame, got_frame, avpkt);
117
118         } else {
119             /* no annex-b prefix. try to restore: */
120             ret = av_bitstream_filter_filter(s->bsf, avctx, "private_spspps_buf",
121                                          &p_filtered, &n_filtered,
122                                          avpkt->data, avpkt->size, 0);
123             if (ret>=0) {
124                 pkt_filtered.pts  = avpkt->pts;
125                 pkt_filtered.data = p_filtered;
126                 pkt_filtered.size = n_filtered;
127
128                 ret = ff_qsv_decode(avctx, &s->qsv, frame, got_frame, &pkt_filtered);
129
130                 if (p_filtered != avpkt->data)
131                     av_free(p_filtered);
132                 return ret > 0 ? avpkt->size : ret;
133             }
134         }
135     }
136
137     return ff_qsv_decode(avctx, &s->qsv, frame, got_frame, avpkt);
138 }
139
140 static void qsv_decode_flush(AVCodecContext *avctx)
141 {
142     QSVH2645Context *s = avctx->priv_data;
143     ff_qsv_decode_reset(avctx, &s->qsv);
144 }
145
146 #define OFFSET(x) offsetof(QSVH2645Context, x)
147 #define VD AV_OPT_FLAG_VIDEO_PARAM | AV_OPT_FLAG_DECODING_PARAM
148
149 #if CONFIG_HEVC_QSV_DECODER
150 AVHWAccel ff_hevc_qsv_hwaccel = {
151     .name           = "hevc_qsv",
152     .type           = AVMEDIA_TYPE_VIDEO,
153     .id             = AV_CODEC_ID_HEVC,
154     .pix_fmt        = AV_PIX_FMT_QSV,
155 };
156
157 static const AVOption hevc_options[] = {
158     { "async_depth", "Internal parallelization depth, the higher the value the higher the latency.", OFFSET(qsv.async_depth), AV_OPT_TYPE_INT, { .i64 = ASYNC_DEPTH_DEFAULT }, 0, INT_MAX, VD },
159
160     { "load_plugin", "A user plugin to load in an internal session", OFFSET(load_plugin), AV_OPT_TYPE_INT, { .i64 = LOAD_PLUGIN_HEVC_SW }, LOAD_PLUGIN_NONE, LOAD_PLUGIN_HEVC_SW, VD, "load_plugin" },
161     { "none",     NULL, 0, AV_OPT_TYPE_CONST, { .i64 = LOAD_PLUGIN_NONE },    0, 0, VD, "load_plugin" },
162     { "hevc_sw",  NULL, 0, AV_OPT_TYPE_CONST, { .i64 = LOAD_PLUGIN_HEVC_SW }, 0, 0, VD, "load_plugin" },
163
164     { "load_plugins", "A :-separate list of hexadecimal plugin UIDs to load in an internal session",
165         OFFSET(qsv.load_plugins), AV_OPT_TYPE_STRING, { .str = "" }, 0, 0, VD },
166     { NULL },
167 };
168
169 static const AVClass hevc_class = {
170     .class_name = "hevc_qsv",
171     .item_name  = av_default_item_name,
172     .option     = hevc_options,
173     .version    = LIBAVUTIL_VERSION_INT,
174 };
175
176 AVCodec ff_hevc_qsv_decoder = {
177     .name           = "hevc_qsv",
178     .long_name      = NULL_IF_CONFIG_SMALL("HEVC (Intel Quick Sync Video acceleration)"),
179     .priv_data_size = sizeof(QSVH2645Context),
180     .type           = AVMEDIA_TYPE_VIDEO,
181     .id             = AV_CODEC_ID_HEVC,
182     .init           = qsv_decode_init,
183     .decode         = qsv_decode_frame,
184     .flush          = qsv_decode_flush,
185     .close          = qsv_decode_close,
186     .capabilities   = AV_CODEC_CAP_DELAY | AV_CODEC_CAP_DR1,
187     .priv_class     = &hevc_class,
188     .pix_fmts       = (const enum AVPixelFormat[]){ AV_PIX_FMT_NV12,
189                                                     AV_PIX_FMT_QSV,
190                                                     AV_PIX_FMT_NONE },
191 };
192 #endif
193
194 #if CONFIG_H264_QSV_DECODER
195 AVHWAccel ff_h264_qsv_hwaccel = {
196     .name           = "h264_qsv",
197     .type           = AVMEDIA_TYPE_VIDEO,
198     .id             = AV_CODEC_ID_H264,
199     .pix_fmt        = AV_PIX_FMT_QSV,
200 };
201
202 static const AVOption options[] = {
203     { "async_depth", "Internal parallelization depth, the higher the value the higher the latency.", OFFSET(qsv.async_depth), AV_OPT_TYPE_INT, { .i64 = ASYNC_DEPTH_DEFAULT }, 0, INT_MAX, VD },
204     { NULL },
205 };
206
207 static const AVClass class = {
208     .class_name = "h264_qsv",
209     .item_name  = av_default_item_name,
210     .option     = options,
211     .version    = LIBAVUTIL_VERSION_INT,
212 };
213
214 AVCodec ff_h264_qsv_decoder = {
215     .name           = "h264_qsv",
216     .long_name      = NULL_IF_CONFIG_SMALL("H.264 / AVC / MPEG-4 AVC / MPEG-4 part 10 (Intel Quick Sync Video acceleration)"),
217     .priv_data_size = sizeof(QSVH2645Context),
218     .type           = AVMEDIA_TYPE_VIDEO,
219     .id             = AV_CODEC_ID_H264,
220     .init           = qsv_decode_init,
221     .decode         = qsv_decode_frame,
222     .flush          = qsv_decode_flush,
223     .close          = qsv_decode_close,
224     .capabilities   = AV_CODEC_CAP_DELAY | AV_CODEC_CAP_DR1,
225     .priv_class     = &class,
226     .pix_fmts       = (const enum AVPixelFormat[]){ AV_PIX_FMT_NV12,
227                                                     AV_PIX_FMT_QSV,
228                                                     AV_PIX_FMT_NONE },
229 };
230 #endif