avdevice/xcbgrab: check if frame size fits in INT_MAX
[ffmpeg.git] / libavcodec / dump_extradata_bsf.c
1 /*
2  * copyright (c) 2006 Michael Niedermayer <michaelni@gmx.at>
3  *
4  * This file is part of FFmpeg.
5  *
6  * FFmpeg is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * FFmpeg is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with FFmpeg; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 #include <string.h>
22
23 #include "avcodec.h"
24 #include "bsf.h"
25
26 #include "libavutil/log.h"
27 #include "libavutil/mem.h"
28 #include "libavutil/opt.h"
29
30 enum DumpFreq {
31     DUMP_FREQ_KEYFRAME,
32     DUMP_FREQ_ALL,
33 };
34
35 typedef struct DumpExtradataContext {
36     const AVClass *class;
37     AVPacket pkt;
38     int freq;
39 } DumpExtradataContext;
40
41 static int dump_extradata(AVBSFContext *ctx, AVPacket *out)
42 {
43     DumpExtradataContext *s = ctx->priv_data;
44     AVPacket *in = &s->pkt;
45     int ret = 0;
46
47     ret = ff_bsf_get_packet_ref(ctx, in);
48     if (ret < 0)
49         return ret;
50
51     if (ctx->par_in->extradata &&
52         (s->freq == DUMP_FREQ_ALL ||
53          (s->freq == DUMP_FREQ_KEYFRAME && in->flags & AV_PKT_FLAG_KEY)) &&
54          in->size >= ctx->par_in->extradata_size &&
55          memcmp(in->data, ctx->par_in->extradata, ctx->par_in->extradata_size)) {
56         if (in->size >= INT_MAX - ctx->par_in->extradata_size) {
57             ret = AVERROR(ERANGE);
58             goto fail;
59         }
60
61         ret = av_new_packet(out, in->size + ctx->par_in->extradata_size);
62         if (ret < 0)
63             goto fail;
64
65         ret = av_packet_copy_props(out, in);
66         if (ret < 0) {
67             av_packet_unref(out);
68             goto fail;
69         }
70
71         memcpy(out->data, ctx->par_in->extradata, ctx->par_in->extradata_size);
72         memcpy(out->data + ctx->par_in->extradata_size, in->data, in->size);
73     } else {
74         av_packet_move_ref(out, in);
75     }
76
77 fail:
78     av_packet_unref(in);
79
80     return ret;
81 }
82
83 #define OFFSET(x) offsetof(DumpExtradataContext, x)
84 #define FLAGS (AV_OPT_FLAG_VIDEO_PARAM|AV_OPT_FLAG_BSF_PARAM)
85 static const AVOption options[] = {
86     { "freq", "When to dump extradata", OFFSET(freq), AV_OPT_TYPE_INT,
87         { .i64 = DUMP_FREQ_KEYFRAME }, DUMP_FREQ_KEYFRAME, DUMP_FREQ_ALL, FLAGS, "freq" },
88         { "k",        NULL, 0, AV_OPT_TYPE_CONST, { .i64 = DUMP_FREQ_KEYFRAME }, .flags = FLAGS, .unit = "freq" },
89         { "keyframe", NULL, 0, AV_OPT_TYPE_CONST, { .i64 = DUMP_FREQ_KEYFRAME }, .flags = FLAGS, .unit = "freq" },
90         { "e",        NULL, 0, AV_OPT_TYPE_CONST, { .i64 = DUMP_FREQ_ALL      }, .flags = FLAGS, .unit = "freq" },
91         { "all",      NULL, 0, AV_OPT_TYPE_CONST, { .i64 = DUMP_FREQ_ALL      }, .flags = FLAGS, .unit = "freq" },
92     { NULL },
93 };
94
95 static const AVClass dump_extradata_class = {
96     .class_name = "dump_extradata bsf",
97     .item_name  = av_default_item_name,
98     .option     = options,
99     .version    = LIBAVUTIL_VERSION_INT,
100 };
101
102 const AVBitStreamFilter ff_dump_extradata_bsf = {
103     .name           = "dump_extra",
104     .priv_data_size = sizeof(DumpExtradataContext),
105     .priv_class     = &dump_extradata_class,
106     .filter         = dump_extradata,
107 };