libopenh264dec: Fix cleanup if the init failed early
[ffmpeg.git] / libavcodec / libopenh264dec.c
1 /*
2  * OpenH264 video decoder
3  * Copyright (C) 2016 Martin Storsjo
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include <wels/codec_api.h>
23 #include <wels/codec_ver.h>
24
25 #include "libavutil/common.h"
26 #include "libavutil/fifo.h"
27 #include "libavutil/imgutils.h"
28 #include "libavutil/intreadwrite.h"
29 #include "libavutil/mathematics.h"
30 #include "libavutil/opt.h"
31
32 #include "avcodec.h"
33 #include "internal.h"
34 #include "libopenh264.h"
35
36 typedef struct SVCContext {
37     ISVCDecoder *decoder;
38     AVBSFContext *bsf;
39     AVFifoBuffer *packet_fifo;
40     AVPacket pkt_filtered;
41 } SVCContext;
42
43 static av_cold int svc_decode_close(AVCodecContext *avctx)
44 {
45     SVCContext *s = avctx->priv_data;
46     AVPacket pkt;
47
48     if (s->decoder)
49         WelsDestroyDecoder(s->decoder);
50
51     while (s->packet_fifo && av_fifo_size(s->packet_fifo) >= sizeof(pkt)) {
52         av_fifo_generic_read(s->packet_fifo, &pkt, sizeof(pkt), NULL);
53         av_packet_unref(&pkt);
54     }
55
56     av_bsf_free(&s->bsf);
57     av_packet_unref(&s->pkt_filtered);
58     av_fifo_free(s->packet_fifo);
59
60     return 0;
61 }
62
63 static av_cold int svc_decode_init(AVCodecContext *avctx)
64 {
65     SVCContext *s = avctx->priv_data;
66     SDecodingParam param = { 0 };
67     int err;
68     int log_level;
69     WelsTraceCallback callback_function;
70
71     if ((err = ff_libopenh264_check_version(avctx)) < 0)
72         return err;
73
74     s->packet_fifo = av_fifo_alloc(sizeof(AVPacket));
75     if (!s->packet_fifo) {
76         err = AVERROR(ENOMEM);
77         goto fail;
78     }
79
80     if (WelsCreateDecoder(&s->decoder)) {
81         av_log(avctx, AV_LOG_ERROR, "Unable to create decoder\n");
82         err = AVERROR_UNKNOWN;
83         goto fail;
84     }
85
86     // Pass all libopenh264 messages to our callback, to allow ourselves to filter them.
87     log_level = WELS_LOG_DETAIL;
88     callback_function = ff_libopenh264_trace_callback;
89     (*s->decoder)->SetOption(s->decoder, DECODER_OPTION_TRACE_LEVEL, &log_level);
90     (*s->decoder)->SetOption(s->decoder, DECODER_OPTION_TRACE_CALLBACK, (void *)&callback_function);
91     (*s->decoder)->SetOption(s->decoder, DECODER_OPTION_TRACE_CALLBACK_CONTEXT, (void *)&avctx);
92
93 #if !OPENH264_VER_AT_LEAST(1, 6)
94     param.eOutputColorFormat = videoFormatI420;
95 #endif
96     param.eEcActiveIdc       = ERROR_CON_DISABLE;
97     param.sVideoProperty.eVideoBsType = VIDEO_BITSTREAM_DEFAULT;
98
99     if ((*s->decoder)->Initialize(s->decoder, &param) != cmResultSuccess) {
100         av_log(avctx, AV_LOG_ERROR, "Initialize failed\n");
101         err = AVERROR_UNKNOWN;
102         goto fail;
103     }
104
105     avctx->pix_fmt = AV_PIX_FMT_YUV420P;
106
107 fail:
108     return err;
109 }
110
111 static int init_bsf(AVCodecContext *avctx)
112 {
113     SVCContext *s = avctx->priv_data;
114     const AVBitStreamFilter *filter;
115     int ret;
116
117     if (s->bsf)
118         return 0;
119
120     // If the input stream already is annex b, this BSF only passes the
121     // packets through unchanged.
122     filter = av_bsf_get_by_name("h264_mp4toannexb");
123     if (!filter)
124         return AVERROR_BUG;
125
126     ret = av_bsf_alloc(filter, &s->bsf);
127     if (ret < 0)
128         return ret;
129
130     ret = avcodec_parameters_from_context(s->bsf->par_in, avctx);
131     if (ret < 0)
132         return ret;
133
134     s->bsf->time_base_in = avctx->time_base;
135
136     ret = av_bsf_init(s->bsf);
137     if (ret < 0)
138         return ret;
139
140     return ret;
141 }
142
143 static int svc_decode_frame(AVCodecContext *avctx, void *data,
144                             int *got_frame, AVPacket *avpkt)
145 {
146     SVCContext *s = avctx->priv_data;
147     SBufferInfo info = { 0 };
148     uint8_t* ptrs[3];
149     int linesize[3];
150     AVFrame *avframe = data;
151     int ret;
152     DECODING_STATE state;
153
154     if ((ret = init_bsf(avctx)) < 0)
155         return ret;
156
157     if (avpkt->size) {
158         AVPacket input_ref = { 0 };
159         if (av_fifo_space(s->packet_fifo) < sizeof(input_ref)) {
160             ret = av_fifo_realloc2(s->packet_fifo,
161                                    av_fifo_size(s->packet_fifo) + sizeof(input_ref));
162             if (ret < 0)
163                 return ret;
164         }
165
166         ret = av_packet_ref(&input_ref, avpkt);
167         if (ret < 0)
168             return ret;
169         av_fifo_generic_write(s->packet_fifo, &input_ref, sizeof(input_ref), NULL);
170     }
171
172     while (!*got_frame) {
173         /* prepare the input data -- convert to Annex B if needed */
174         if (s->pkt_filtered.size <= 0) {
175             AVPacket input_ref;
176
177             /* no more data */
178             if (av_fifo_size(s->packet_fifo) < sizeof(AVPacket))
179                 return avpkt->size ? avpkt->size : 0;
180
181             av_packet_unref(&s->pkt_filtered);
182
183             av_fifo_generic_read(s->packet_fifo, &input_ref, sizeof(input_ref), NULL);
184             ret = av_bsf_send_packet(s->bsf, &input_ref);
185             if (ret < 0) {
186                 av_packet_unref(&input_ref);
187                 return ret;
188             }
189
190             ret = av_bsf_receive_packet(s->bsf, &s->pkt_filtered);
191             if (ret < 0)
192                 av_packet_move_ref(&s->pkt_filtered, &input_ref);
193             else
194                 av_packet_unref(&input_ref);
195         }
196
197         state = (*s->decoder)->DecodeFrame2(s->decoder, s->pkt_filtered.data, s->pkt_filtered.size, ptrs, &info);
198         s->pkt_filtered.size = 0;
199         if (state != dsErrorFree) {
200             av_log(avctx, AV_LOG_ERROR, "DecodeFrame2 failed\n");
201             return AVERROR_UNKNOWN;
202         }
203         if (info.iBufferStatus != 1) {
204             av_log(avctx, AV_LOG_DEBUG, "No frame produced\n");
205             continue;
206         }
207
208         ff_set_dimensions(avctx, info.UsrData.sSystemBuffer.iWidth, info.UsrData.sSystemBuffer.iHeight);
209         // The decoder doesn't (currently) support decoding into a user
210         // provided buffer, so do a copy instead.
211         if (ff_get_buffer(avctx, avframe, 0) < 0) {
212             av_log(avctx, AV_LOG_ERROR, "Unable to allocate buffer\n");
213             return AVERROR(ENOMEM);
214         }
215
216         linesize[0] = info.UsrData.sSystemBuffer.iStride[0];
217         linesize[1] = linesize[2] = info.UsrData.sSystemBuffer.iStride[1];
218         av_image_copy(avframe->data, avframe->linesize, (const uint8_t **) ptrs, linesize, avctx->pix_fmt, avctx->width, avctx->height);
219
220         avframe->pts     = s->pkt_filtered.pts;
221         avframe->pkt_dts = s->pkt_filtered.dts;
222 #if FF_API_PKT_PTS
223 FF_DISABLE_DEPRECATION_WARNINGS
224         avframe->pkt_pts = s->pkt_filtered.pts;
225 FF_ENABLE_DEPRECATION_WARNINGS
226 #endif
227
228         *got_frame = 1;
229     }
230     return avpkt->size;
231 }
232
233 AVCodec ff_libopenh264_decoder = {
234     .name           = "libopenh264",
235     .long_name      = NULL_IF_CONFIG_SMALL("OpenH264 H.264 / AVC / MPEG-4 AVC / MPEG-4 part 10"),
236     .type           = AVMEDIA_TYPE_VIDEO,
237     .id             = AV_CODEC_ID_H264,
238     .priv_data_size = sizeof(SVCContext),
239     .init           = svc_decode_init,
240     .decode         = svc_decode_frame,
241     .close          = svc_decode_close,
242     // The decoder doesn't currently support B-frames, and the decoder's API
243     // doesn't support reordering/delay, but the BSF could incur delay.
244     .capabilities   = AV_CODEC_CAP_DELAY | AV_CODEC_CAP_DR1,
245     .caps_internal  = FF_CODEC_CAP_SETS_PKT_DTS | FF_CODEC_CAP_INIT_THREADSAFE |
246                       FF_CODEC_CAP_INIT_CLEANUP,
247 };