avcodec/h264_slice: Fix overflow in slice offset
[ffmpeg.git] / libavcodec / bsf.c
1 /*
2  * This file is part of FFmpeg.
3  *
4  * FFmpeg is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU Lesser General Public
6  * License as published by the Free Software Foundation; either
7  * version 2.1 of the License, or (at your option) any later version.
8  *
9  * FFmpeg is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
12  * Lesser General Public License for more details.
13  *
14  * You should have received a copy of the GNU Lesser General Public
15  * License along with FFmpeg; if not, write to the Free Software
16  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
17  */
18
19 #include <string.h>
20
21 #include "libavutil/log.h"
22 #include "libavutil/mem.h"
23 #include "libavutil/opt.h"
24 #include "libavutil/avstring.h"
25 #include "libavutil/bprint.h"
26
27 #include "avcodec.h"
28 #include "bsf.h"
29
30 struct AVBSFInternal {
31     AVPacket *buffer_pkt;
32     int eof;
33 };
34
35 void av_bsf_free(AVBSFContext **pctx)
36 {
37     AVBSFContext *ctx;
38
39     if (!pctx || !*pctx)
40         return;
41     ctx = *pctx;
42
43     if (ctx->filter->close)
44         ctx->filter->close(ctx);
45     if (ctx->filter->priv_class && ctx->priv_data)
46         av_opt_free(ctx->priv_data);
47
48     av_opt_free(ctx);
49
50     av_packet_free(&ctx->internal->buffer_pkt);
51     av_freep(&ctx->internal);
52     av_freep(&ctx->priv_data);
53
54     avcodec_parameters_free(&ctx->par_in);
55     avcodec_parameters_free(&ctx->par_out);
56
57     av_freep(pctx);
58 }
59
60 static void *bsf_child_next(void *obj, void *prev)
61 {
62     AVBSFContext *ctx = obj;
63     if (!prev && ctx->filter->priv_class)
64         return ctx->priv_data;
65     return NULL;
66 }
67
68 static const AVClass bsf_class = {
69     .class_name       = "AVBSFContext",
70     .item_name        = av_default_item_name,
71     .version          = LIBAVUTIL_VERSION_INT,
72     .child_next       = bsf_child_next,
73     .child_class_next = ff_bsf_child_class_next,
74 };
75
76 const AVClass *av_bsf_get_class(void)
77 {
78     return &bsf_class;
79 }
80
81 int av_bsf_alloc(const AVBitStreamFilter *filter, AVBSFContext **pctx)
82 {
83     AVBSFContext *ctx;
84     int ret;
85
86     ctx = av_mallocz(sizeof(*ctx));
87     if (!ctx)
88         return AVERROR(ENOMEM);
89
90     ctx->av_class = &bsf_class;
91     ctx->filter   = filter;
92
93     ctx->par_in  = avcodec_parameters_alloc();
94     ctx->par_out = avcodec_parameters_alloc();
95     if (!ctx->par_in || !ctx->par_out) {
96         ret = AVERROR(ENOMEM);
97         goto fail;
98     }
99
100     ctx->internal = av_mallocz(sizeof(*ctx->internal));
101     if (!ctx->internal) {
102         ret = AVERROR(ENOMEM);
103         goto fail;
104     }
105
106     ctx->internal->buffer_pkt = av_packet_alloc();
107     if (!ctx->internal->buffer_pkt) {
108         ret = AVERROR(ENOMEM);
109         goto fail;
110     }
111
112     av_opt_set_defaults(ctx);
113
114     /* allocate priv data and init private options */
115     if (filter->priv_data_size) {
116         ctx->priv_data = av_mallocz(filter->priv_data_size);
117         if (!ctx->priv_data) {
118             ret = AVERROR(ENOMEM);
119             goto fail;
120         }
121         if (filter->priv_class) {
122             *(const AVClass **)ctx->priv_data = filter->priv_class;
123             av_opt_set_defaults(ctx->priv_data);
124         }
125     }
126
127     *pctx = ctx;
128     return 0;
129 fail:
130     av_bsf_free(&ctx);
131     return ret;
132 }
133
134 int av_bsf_init(AVBSFContext *ctx)
135 {
136     int ret, i;
137
138     /* check that the codec is supported */
139     if (ctx->filter->codec_ids) {
140         for (i = 0; ctx->filter->codec_ids[i] != AV_CODEC_ID_NONE; i++)
141             if (ctx->par_in->codec_id == ctx->filter->codec_ids[i])
142                 break;
143         if (ctx->filter->codec_ids[i] == AV_CODEC_ID_NONE) {
144             const AVCodecDescriptor *desc = avcodec_descriptor_get(ctx->par_in->codec_id);
145             av_log(ctx, AV_LOG_ERROR, "Codec '%s' (%d) is not supported by the "
146                    "bitstream filter '%s'. Supported codecs are: ",
147                    desc ? desc->name : "unknown", ctx->par_in->codec_id, ctx->filter->name);
148             for (i = 0; ctx->filter->codec_ids[i] != AV_CODEC_ID_NONE; i++) {
149                 desc = avcodec_descriptor_get(ctx->filter->codec_ids[i]);
150                 av_log(ctx, AV_LOG_ERROR, "%s (%d) ",
151                        desc ? desc->name : "unknown", ctx->filter->codec_ids[i]);
152             }
153             av_log(ctx, AV_LOG_ERROR, "\n");
154             return AVERROR(EINVAL);
155         }
156     }
157
158     /* initialize output parameters to be the same as input
159      * init below might overwrite that */
160     ret = avcodec_parameters_copy(ctx->par_out, ctx->par_in);
161     if (ret < 0)
162         return ret;
163
164     ctx->time_base_out = ctx->time_base_in;
165
166     if (ctx->filter->init) {
167         ret = ctx->filter->init(ctx);
168         if (ret < 0)
169             return ret;
170     }
171
172     return 0;
173 }
174
175 int av_bsf_send_packet(AVBSFContext *ctx, AVPacket *pkt)
176 {
177     if (!pkt || (!pkt->data && !pkt->side_data_elems)) {
178         ctx->internal->eof = 1;
179         return 0;
180     }
181
182     if (ctx->internal->eof) {
183         av_log(ctx, AV_LOG_ERROR, "A non-NULL packet sent after an EOF.\n");
184         return AVERROR(EINVAL);
185     }
186
187     if (ctx->internal->buffer_pkt->data ||
188         ctx->internal->buffer_pkt->side_data_elems)
189         return AVERROR(EAGAIN);
190
191     av_packet_move_ref(ctx->internal->buffer_pkt, pkt);
192
193     return 0;
194 }
195
196 int av_bsf_receive_packet(AVBSFContext *ctx, AVPacket *pkt)
197 {
198     return ctx->filter->filter(ctx, pkt);
199 }
200
201 int ff_bsf_get_packet(AVBSFContext *ctx, AVPacket **pkt)
202 {
203     AVBSFInternal *in = ctx->internal;
204     AVPacket *tmp_pkt;
205
206     if (in->eof)
207         return AVERROR_EOF;
208
209     if (!ctx->internal->buffer_pkt->data &&
210         !ctx->internal->buffer_pkt->side_data_elems)
211         return AVERROR(EAGAIN);
212
213     tmp_pkt = av_packet_alloc();
214     if (!tmp_pkt)
215         return AVERROR(ENOMEM);
216
217     *pkt = ctx->internal->buffer_pkt;
218     ctx->internal->buffer_pkt = tmp_pkt;
219
220     return 0;
221 }
222
223 int ff_bsf_get_packet_ref(AVBSFContext *ctx, AVPacket *pkt)
224 {
225     AVBSFInternal *in = ctx->internal;
226
227     if (in->eof)
228         return AVERROR_EOF;
229
230     if (!ctx->internal->buffer_pkt->data &&
231         !ctx->internal->buffer_pkt->side_data_elems)
232         return AVERROR(EAGAIN);
233
234     av_packet_move_ref(pkt, ctx->internal->buffer_pkt);
235
236     return 0;
237 }
238
239 typedef struct BSFListContext {
240     const AVClass *class;
241
242     AVBSFContext **bsfs;
243     int nb_bsfs;
244
245     unsigned idx;           // index of currently processed BSF
246     unsigned flushed_idx;   // index of BSF being flushed
247
248     char * item_name;
249 } BSFListContext;
250
251
252 static int bsf_list_init(AVBSFContext *bsf)
253 {
254     BSFListContext *lst = bsf->priv_data;
255     int ret, i;
256     const AVCodecParameters *cod_par = bsf->par_in;
257     AVRational tb = bsf->time_base_in;
258
259     for (i = 0; i < lst->nb_bsfs; ++i) {
260         ret = avcodec_parameters_copy(lst->bsfs[i]->par_in, cod_par);
261         if (ret < 0)
262             goto fail;
263
264         lst->bsfs[i]->time_base_in = tb;
265
266         ret = av_bsf_init(lst->bsfs[i]);
267         if (ret < 0)
268             goto fail;
269
270         cod_par = lst->bsfs[i]->par_out;
271         tb = lst->bsfs[i]->time_base_out;
272     }
273
274     bsf->time_base_out = tb;
275     ret = avcodec_parameters_copy(bsf->par_out, cod_par);
276
277 fail:
278     return ret;
279 }
280
281 static int bsf_list_filter(AVBSFContext *bsf, AVPacket *out)
282 {
283     BSFListContext *lst = bsf->priv_data;
284     int ret;
285
286     if (!lst->nb_bsfs)
287         return ff_bsf_get_packet_ref(bsf, out);
288
289     while (1) {
290         if (lst->idx > lst->flushed_idx) {
291             ret = av_bsf_receive_packet(lst->bsfs[lst->idx-1], out);
292             if (ret == AVERROR(EAGAIN)) {
293                 /* no more packets from idx-1, try with previous */
294                 ret = 0;
295                 lst->idx--;
296                 continue;
297             } else if (ret == AVERROR_EOF) {
298                 /* filter idx-1 is done, continue with idx...nb_bsfs */
299                 lst->flushed_idx = lst->idx;
300                 continue;
301             }else if (ret < 0) {
302                 /* filtering error */
303                 break;
304             }
305         } else {
306             ret = ff_bsf_get_packet_ref(bsf, out);
307             if (ret == AVERROR_EOF) {
308                 lst->idx = lst->flushed_idx;
309             } else if (ret < 0)
310                 break;
311         }
312
313         if (lst->idx < lst->nb_bsfs) {
314             AVPacket *pkt;
315             if (ret == AVERROR_EOF && lst->idx == lst->flushed_idx) {
316                 /* ff_bsf_get_packet_ref returned EOF and idx is first
317                  * filter of yet not flushed filter chain */
318                 pkt = NULL;
319             } else {
320                 pkt = out;
321             }
322             ret = av_bsf_send_packet(lst->bsfs[lst->idx], pkt);
323             if (ret < 0)
324                 break;
325             lst->idx++;
326         } else {
327             /* The end of filter chain, break to return result */
328             break;
329         }
330     }
331
332     if (ret < 0)
333         av_packet_unref(out);
334
335     return ret;
336 }
337
338 static void bsf_list_close(AVBSFContext *bsf)
339 {
340     BSFListContext *lst = bsf->priv_data;
341     int i;
342
343     for (i = 0; i < lst->nb_bsfs; ++i)
344         av_bsf_free(&lst->bsfs[i]);
345     av_freep(&lst->bsfs);
346     av_freep(&lst->item_name);
347 }
348
349 static const char *bsf_list_item_name(void *ctx)
350 {
351     static const char *null_filter_name = "null";
352     AVBSFContext *bsf_ctx = ctx;
353     BSFListContext *lst = bsf_ctx->priv_data;
354
355     if (!lst->nb_bsfs)
356         return null_filter_name;
357
358     if (!lst->item_name) {
359         int i;
360         AVBPrint bp;
361         av_bprint_init(&bp, 16, 128);
362
363         av_bprintf(&bp, "bsf_list(");
364         for (i = 0; i < lst->nb_bsfs; i++)
365             av_bprintf(&bp, i ? ",%s" : "%s", lst->bsfs[i]->filter->name);
366         av_bprintf(&bp, ")");
367
368         av_bprint_finalize(&bp, &lst->item_name);
369     }
370
371     return lst->item_name;
372 }
373
374 static const AVClass bsf_list_class = {
375         .class_name = "bsf_list",
376         .item_name  = bsf_list_item_name,
377         .version    = LIBAVUTIL_VERSION_INT,
378 };
379
380 const AVBitStreamFilter ff_list_bsf = {
381         .name           = "bsf_list",
382         .priv_data_size = sizeof(BSFListContext),
383         .priv_class     = &bsf_list_class,
384         .init           = bsf_list_init,
385         .filter         = bsf_list_filter,
386         .close          = bsf_list_close,
387 };
388
389 struct AVBSFList {
390     AVBSFContext **bsfs;
391     int nb_bsfs;
392 };
393
394 AVBSFList *av_bsf_list_alloc(void)
395 {
396     return av_mallocz(sizeof(AVBSFList));
397 }
398
399 void av_bsf_list_free(AVBSFList **lst)
400 {
401     int i;
402
403     if (!*lst)
404         return;
405
406     for (i = 0; i < (*lst)->nb_bsfs; ++i)
407         av_bsf_free(&(*lst)->bsfs[i]);
408     av_free((*lst)->bsfs);
409     av_freep(lst);
410 }
411
412 int av_bsf_list_append(AVBSFList *lst, AVBSFContext *bsf)
413 {
414     return av_dynarray_add_nofree(&lst->bsfs, &lst->nb_bsfs, bsf);
415 }
416
417 int av_bsf_list_append2(AVBSFList *lst, const char *bsf_name, AVDictionary ** options)
418 {
419     int ret;
420     const AVBitStreamFilter *filter;
421     AVBSFContext *bsf;
422
423     filter = av_bsf_get_by_name(bsf_name);
424     if (!filter)
425         return AVERROR_BSF_NOT_FOUND;
426
427     ret = av_bsf_alloc(filter, &bsf);
428     if (ret < 0)
429         return ret;
430
431     if (options) {
432         ret = av_opt_set_dict2(bsf, options, AV_OPT_SEARCH_CHILDREN);
433         if (ret < 0)
434             goto end;
435     }
436
437     ret = av_bsf_list_append(lst, bsf);
438
439 end:
440     if (ret < 0)
441         av_bsf_free(&bsf);
442
443     return ret;
444 }
445
446 int av_bsf_list_finalize(AVBSFList **lst, AVBSFContext **bsf)
447 {
448     int ret = 0;
449     BSFListContext *ctx;
450
451     if ((*lst)->nb_bsfs == 1) {
452         *bsf = (*lst)->bsfs[0];
453         av_freep(&(*lst)->bsfs);
454         (*lst)->nb_bsfs = 0;
455         goto end;
456     }
457
458     ret = av_bsf_alloc(&ff_list_bsf, bsf);
459     if (ret < 0)
460         return ret;
461
462     ctx = (*bsf)->priv_data;
463
464     ctx->bsfs = (*lst)->bsfs;
465     ctx->nb_bsfs = (*lst)->nb_bsfs;
466
467 end:
468     av_freep(lst);
469     return ret;
470 }
471
472 static int bsf_parse_single(const char *str, AVBSFList *bsf_lst)
473 {
474     char *bsf_name, *bsf_options_str, *buf;
475     AVDictionary *bsf_options = NULL;
476     int ret = 0;
477
478     if (!(buf = av_strdup(str)))
479         return AVERROR(ENOMEM);
480
481     bsf_name = av_strtok(buf, "=", &bsf_options_str);
482     if (!bsf_name) {
483         ret = AVERROR(EINVAL);
484         goto end;
485     }
486
487     if (bsf_options_str) {
488         ret = av_dict_parse_string(&bsf_options, bsf_options_str, "=", ":", 0);
489         if (ret < 0)
490             goto end;
491     }
492
493     ret = av_bsf_list_append2(bsf_lst, bsf_name, &bsf_options);
494
495     av_dict_free(&bsf_options);
496 end:
497     av_free(buf);
498     return ret;
499 }
500
501 int av_bsf_list_parse_str(const char *str, AVBSFContext **bsf_lst)
502 {
503     AVBSFList *lst;
504     char *bsf_str, *buf, *dup, *saveptr;
505     int ret;
506
507     if (!str)
508         return av_bsf_get_null_filter(bsf_lst);
509
510     lst = av_bsf_list_alloc();
511     if (!lst)
512         return AVERROR(ENOMEM);
513
514     if (!(dup = buf = av_strdup(str))) {
515         ret = AVERROR(ENOMEM);
516         goto end;
517     }
518
519     while (1) {
520         bsf_str = av_strtok(buf, ",", &saveptr);
521         if (!bsf_str)
522             break;
523
524         ret = bsf_parse_single(bsf_str, lst);
525         if (ret < 0)
526             goto end;
527
528         buf = NULL;
529     }
530
531     ret = av_bsf_list_finalize(&lst, bsf_lst);
532 end:
533     if (ret < 0)
534         av_bsf_list_free(&lst);
535     av_free(dup);
536     return ret;
537 }
538
539 int av_bsf_get_null_filter(AVBSFContext **bsf)
540 {
541     return av_bsf_alloc(&ff_list_bsf, bsf);
542 }