avcodec/adpcm: clip step for ADPCM MTAF decoder
[ffmpeg.git] / libavcodec / mediacodecdec_h264.c
1 /*
2  * Android MediaCodec H.264 decoder
3  *
4  * Copyright (c) 2015-2016 Matthieu Bouron <matthieu.bouron stupeflix.com>
5  *
6  * This file is part of FFmpeg.
7  *
8  * FFmpeg is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * FFmpeg is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with FFmpeg; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 #include <stdint.h>
24 #include <string.h>
25
26 #include "libavutil/avassert.h"
27 #include "libavutil/common.h"
28 #include "libavutil/fifo.h"
29 #include "libavutil/opt.h"
30 #include "libavutil/intreadwrite.h"
31 #include "libavutil/pixfmt.h"
32 #include "libavutil/atomic.h"
33
34 #include "avcodec.h"
35 #include "h264_parse.h"
36 #include "internal.h"
37 #include "mediacodecdec.h"
38 #include "mediacodec_wrapper.h"
39
40 #define CODEC_MIME "video/avc"
41
42 typedef struct MediaCodecH264DecContext {
43
44     MediaCodecDecContext *ctx;
45
46     AVBSFContext *bsf;
47
48     AVFifoBuffer *fifo;
49
50     AVPacket filtered_pkt;
51
52 } MediaCodecH264DecContext;
53
54 static av_cold int mediacodec_decode_close(AVCodecContext *avctx)
55 {
56     MediaCodecH264DecContext *s = avctx->priv_data;
57
58     ff_mediacodec_dec_close(avctx, s->ctx);
59     s->ctx = NULL;
60
61     av_fifo_free(s->fifo);
62
63     av_bsf_free(&s->bsf);
64     av_packet_unref(&s->filtered_pkt);
65
66     return 0;
67 }
68
69 static int h264_ps_to_nalu(const uint8_t *src, int src_size, uint8_t **out, int *out_size)
70 {
71     int i;
72     int ret = 0;
73     uint8_t *p = NULL;
74     static const uint8_t nalu_header[] = { 0x00, 0x00, 0x00, 0x01 };
75
76     if (!out || !out_size) {
77         return AVERROR(EINVAL);
78     }
79
80     p = av_malloc(sizeof(nalu_header) + src_size);
81     if (!p) {
82         return AVERROR(ENOMEM);
83     }
84
85     *out = p;
86     *out_size = sizeof(nalu_header) + src_size;
87
88     memcpy(p, nalu_header, sizeof(nalu_header));
89     memcpy(p + sizeof(nalu_header), src, src_size);
90
91     /* Escape 0x00, 0x00, 0x0{0-3} pattern */
92     for (i = 4; i < *out_size; i++) {
93         if (i < *out_size - 3 &&
94             p[i + 0] == 0 &&
95             p[i + 1] == 0 &&
96             p[i + 2] <= 3) {
97             uint8_t *new;
98
99             *out_size += 1;
100             new = av_realloc(*out, *out_size);
101             if (!new) {
102                 ret = AVERROR(ENOMEM);
103                 goto done;
104             }
105             *out = p = new;
106
107             i = i + 2;
108             memmove(p + i + 1, p + i, *out_size - (i + 1));
109             p[i] = 0x03;
110         }
111     }
112 done:
113     if (ret < 0) {
114         av_freep(out);
115         *out_size = 0;
116     }
117
118     return ret;
119 }
120
121 static av_cold int mediacodec_decode_init(AVCodecContext *avctx)
122 {
123     int i;
124     int ret;
125
126     H264ParamSets ps;
127     const PPS *pps = NULL;
128     const SPS *sps = NULL;
129     int is_avc = 0;
130     int nal_length_size = 0;
131
132     const AVBitStreamFilter *bsf = NULL;
133
134     FFAMediaFormat *format = NULL;
135     MediaCodecH264DecContext *s = avctx->priv_data;
136
137     memset(&ps, 0, sizeof(ps));
138
139     format = ff_AMediaFormat_new();
140     if (!format) {
141         av_log(avctx, AV_LOG_ERROR, "Failed to create media format\n");
142         ret = AVERROR_EXTERNAL;
143         goto done;
144     }
145
146     ff_AMediaFormat_setString(format, "mime", CODEC_MIME);
147     ff_AMediaFormat_setInt32(format, "width", avctx->width);
148     ff_AMediaFormat_setInt32(format, "height", avctx->height);
149
150     ret = ff_h264_decode_extradata(avctx->extradata, avctx->extradata_size,
151                                    &ps, &is_avc, &nal_length_size, 0, avctx);
152     if (ret < 0) {
153         goto done;
154     }
155
156     for (i = 0; i < MAX_PPS_COUNT; i++) {
157         if (ps.pps_list[i]) {
158             pps = (const PPS*)ps.pps_list[i]->data;
159             break;
160         }
161     }
162
163     if (pps) {
164         if (ps.sps_list[pps->sps_id]) {
165             sps = (const SPS*)ps.sps_list[pps->sps_id]->data;
166         }
167     }
168
169     if (pps && sps) {
170         uint8_t *data = NULL;
171         size_t data_size = 0;
172
173         if ((ret = h264_ps_to_nalu(sps->data, sps->data_size, &data, &data_size)) < 0) {
174             goto done;
175         }
176         ff_AMediaFormat_setBuffer(format, "csd-0", (void*)data, data_size);
177         av_freep(&data);
178
179         if ((ret = h264_ps_to_nalu(pps->data, pps->data_size, &data, &data_size)) < 0) {
180             goto done;
181         }
182         ff_AMediaFormat_setBuffer(format, "csd-1", (void*)data, data_size);
183         av_freep(&data);
184     } else {
185         av_log(avctx, AV_LOG_ERROR, "Could not extract PPS/SPS from extradata");
186         ret = AVERROR_INVALIDDATA;
187         goto done;
188     }
189
190     s->ctx = av_mallocz(sizeof(*s->ctx));
191     if (!s->ctx) {
192         av_log(avctx, AV_LOG_ERROR, "Failed to allocate MediaCodecDecContext\n");
193         ret = AVERROR(ENOMEM);
194         goto done;
195     }
196
197     if ((ret = ff_mediacodec_dec_init(avctx, s->ctx, CODEC_MIME, format)) < 0) {
198         s->ctx = NULL;
199         goto done;
200     }
201
202     av_log(avctx, AV_LOG_INFO, "MediaCodec started successfully, ret = %d\n", ret);
203
204     s->fifo = av_fifo_alloc(sizeof(AVPacket));
205     if (!s->fifo) {
206         ret = AVERROR(ENOMEM);
207         goto done;
208     }
209
210     bsf = av_bsf_get_by_name("h264_mp4toannexb");
211     if(!bsf) {
212         ret = AVERROR_BSF_NOT_FOUND;
213         goto done;
214     }
215
216     if ((ret = av_bsf_alloc(bsf, &s->bsf))) {
217         goto done;
218     }
219
220     if (((ret = avcodec_parameters_from_context(s->bsf->par_in, avctx)) < 0) ||
221         ((ret = av_bsf_init(s->bsf)) < 0)) {
222           goto done;
223     }
224
225     av_init_packet(&s->filtered_pkt);
226
227 done:
228     if (format) {
229         ff_AMediaFormat_delete(format);
230     }
231
232     if (ret < 0) {
233         mediacodec_decode_close(avctx);
234     }
235
236     ff_h264_ps_uninit(&ps);
237
238     return ret;
239 }
240
241
242 static int mediacodec_process_data(AVCodecContext *avctx, AVFrame *frame,
243                                    int *got_frame, AVPacket *pkt)
244 {
245     MediaCodecH264DecContext *s = avctx->priv_data;
246
247     return ff_mediacodec_dec_decode(avctx, s->ctx, frame, got_frame, pkt);
248 }
249
250 static int mediacodec_decode_frame(AVCodecContext *avctx, void *data,
251                                    int *got_frame, AVPacket *avpkt)
252 {
253     MediaCodecH264DecContext *s = avctx->priv_data;
254     AVFrame *frame    = data;
255     int ret;
256
257     /* buffer the input packet */
258     if (avpkt->size) {
259         AVPacket input_pkt = { 0 };
260
261         if (av_fifo_space(s->fifo) < sizeof(input_pkt)) {
262             ret = av_fifo_realloc2(s->fifo,
263                                    av_fifo_size(s->fifo) + sizeof(input_pkt));
264             if (ret < 0)
265                 return ret;
266         }
267
268         ret = av_packet_ref(&input_pkt, avpkt);
269         if (ret < 0)
270             return ret;
271         av_fifo_generic_write(s->fifo, &input_pkt, sizeof(input_pkt), NULL);
272     }
273
274     /*
275      * MediaCodec.flush() discards both input and output buffers, thus we
276      * need to delay the call to this function until the user has released or
277      * renderered the frames he retains.
278      *
279      * After we have buffered an input packet, check if the codec is in the
280      * flushing state. If it is, we need to call ff_mediacodec_dec_flush.
281      *
282      * ff_mediacodec_dec_flush returns 0 if the flush cannot be performed on
283      * the codec (because the user retains frames). The codec stays in the
284      * flushing state.
285      *
286      * ff_mediacodec_dec_flush returns 1 if the flush can actually be
287      * performed on the codec. The codec leaves the flushing state and can
288      * process again packets.
289      *
290      * ff_mediacodec_dec_flush returns a negative value if an error has
291      * occurred.
292      *
293      */
294     if (ff_mediacodec_dec_is_flushing(avctx, s->ctx)) {
295         if (!ff_mediacodec_dec_flush(avctx, s->ctx)) {
296             return avpkt->size;
297         }
298     }
299
300     /* process buffered data */
301     while (!*got_frame) {
302         /* prepare the input data -- convert to Annex B if needed */
303         if (s->filtered_pkt.size <= 0) {
304             AVPacket input_pkt = { 0 };
305
306             av_packet_unref(&s->filtered_pkt);
307
308             /* no more data */
309             if (av_fifo_size(s->fifo) < sizeof(AVPacket)) {
310                 return avpkt->size ? avpkt->size :
311                     ff_mediacodec_dec_decode(avctx, s->ctx, frame, got_frame, avpkt);
312             }
313
314             av_fifo_generic_read(s->fifo, &input_pkt, sizeof(input_pkt), NULL);
315
316             ret = av_bsf_send_packet(s->bsf, &input_pkt);
317             if (ret < 0) {
318                 return ret;
319             }
320
321             ret = av_bsf_receive_packet(s->bsf, &s->filtered_pkt);
322             if (ret == AVERROR(EAGAIN)) {
323                 goto done;
324             }
325
326             /* h264_mp4toannexb is used here and does not requires flushing */
327             av_assert0(ret != AVERROR_EOF);
328
329             if (ret < 0) {
330                 return ret;
331             }
332         }
333
334         ret = mediacodec_process_data(avctx, frame, got_frame, &s->filtered_pkt);
335         if (ret < 0)
336             return ret;
337
338         s->filtered_pkt.size -= ret;
339         s->filtered_pkt.data += ret;
340     }
341 done:
342     return avpkt->size;
343 }
344
345 static void mediacodec_decode_flush(AVCodecContext *avctx)
346 {
347     MediaCodecH264DecContext *s = avctx->priv_data;
348
349     while (av_fifo_size(s->fifo)) {
350         AVPacket pkt;
351         av_fifo_generic_read(s->fifo, &pkt, sizeof(pkt), NULL);
352         av_packet_unref(&pkt);
353     }
354     av_fifo_reset(s->fifo);
355
356     av_packet_unref(&s->filtered_pkt);
357
358     ff_mediacodec_dec_flush(avctx, s->ctx);
359 }
360
361 AVCodec ff_h264_mediacodec_decoder = {
362     .name           = "h264_mediacodec",
363     .long_name      = NULL_IF_CONFIG_SMALL("H.264 Android MediaCodec decoder"),
364     .type           = AVMEDIA_TYPE_VIDEO,
365     .id             = AV_CODEC_ID_H264,
366     .priv_data_size = sizeof(MediaCodecH264DecContext),
367     .init           = mediacodec_decode_init,
368     .decode         = mediacodec_decode_frame,
369     .flush          = mediacodec_decode_flush,
370     .close          = mediacodec_decode_close,
371     .capabilities   = CODEC_CAP_DELAY,
372     .caps_internal  = FF_CODEC_CAP_SETS_PKT_DTS,
373 };