avpacket: fix duplicating side data.
[ffmpeg.git] / libavcodec / avpacket.c
1 /*
2  * AVPacket functions for libavcodec
3  * Copyright (c) 2000, 2001, 2002 Fabrice Bellard
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "libavutil/avassert.h"
23 #include "avcodec.h"
24
25 void av_destruct_packet_nofree(AVPacket *pkt)
26 {
27     pkt->data            = NULL;
28     pkt->size            = 0;
29     pkt->side_data       = NULL;
30     pkt->side_data_elems = 0;
31 }
32
33 void av_destruct_packet(AVPacket *pkt)
34 {
35     int i;
36
37     av_free(pkt->data);
38     pkt->data = NULL;
39     pkt->size = 0;
40
41     for (i = 0; i < pkt->side_data_elems; i++)
42         av_free(pkt->side_data[i].data);
43     av_freep(&pkt->side_data);
44     pkt->side_data_elems = 0;
45 }
46
47 void av_init_packet(AVPacket *pkt)
48 {
49     pkt->pts                  = AV_NOPTS_VALUE;
50     pkt->dts                  = AV_NOPTS_VALUE;
51     pkt->pos                  = -1;
52     pkt->duration             = 0;
53     pkt->convergence_duration = 0;
54     pkt->flags                = 0;
55     pkt->stream_index         = 0;
56     pkt->destruct             = NULL;
57     pkt->side_data            = NULL;
58     pkt->side_data_elems      = 0;
59 }
60
61 int av_new_packet(AVPacket *pkt, int size)
62 {
63     uint8_t *data = NULL;
64     if ((unsigned)size < (unsigned)size + FF_INPUT_BUFFER_PADDING_SIZE)
65         data = av_malloc(size + FF_INPUT_BUFFER_PADDING_SIZE);
66     if (data) {
67         memset(data + size, 0, FF_INPUT_BUFFER_PADDING_SIZE);
68     } else
69         size = 0;
70
71     av_init_packet(pkt);
72     pkt->data     = data;
73     pkt->size     = size;
74     pkt->destruct = av_destruct_packet;
75     if (!data)
76         return AVERROR(ENOMEM);
77     return 0;
78 }
79
80 void av_shrink_packet(AVPacket *pkt, int size)
81 {
82     if (pkt->size <= size)
83         return;
84     pkt->size = size;
85     memset(pkt->data + size, 0, FF_INPUT_BUFFER_PADDING_SIZE);
86 }
87
88 int av_grow_packet(AVPacket *pkt, int grow_by)
89 {
90     void *new_ptr;
91     av_assert0((unsigned)pkt->size <= INT_MAX - FF_INPUT_BUFFER_PADDING_SIZE);
92     if (!pkt->size)
93         return av_new_packet(pkt, grow_by);
94     if ((unsigned)grow_by >
95         INT_MAX - (pkt->size + FF_INPUT_BUFFER_PADDING_SIZE))
96         return -1;
97     new_ptr = av_realloc(pkt->data,
98                          pkt->size + grow_by + FF_INPUT_BUFFER_PADDING_SIZE);
99     if (!new_ptr)
100         return AVERROR(ENOMEM);
101     pkt->data  = new_ptr;
102     pkt->size += grow_by;
103     memset(pkt->data + pkt->size, 0, FF_INPUT_BUFFER_PADDING_SIZE);
104     return 0;
105 }
106
107 #define DUP_DATA(dst, src, size, padding)                               \
108     do {                                                                \
109         void *data;                                                     \
110         if (padding) {                                                  \
111             if ((unsigned)(size) >                                      \
112                 (unsigned)(size) + FF_INPUT_BUFFER_PADDING_SIZE)        \
113                 goto failed_alloc;                                      \
114             data = av_malloc(size + FF_INPUT_BUFFER_PADDING_SIZE);      \
115         } else {                                                        \
116             data = av_malloc(size);                                     \
117         }                                                               \
118         if (!data)                                                      \
119             goto failed_alloc;                                          \
120         memcpy(data, src, size);                                        \
121         if (padding)                                                    \
122             memset((uint8_t *)data + size, 0,                           \
123                    FF_INPUT_BUFFER_PADDING_SIZE);                       \
124         dst = data;                                                     \
125     } while (0)
126
127 int av_dup_packet(AVPacket *pkt)
128 {
129     AVPacket tmp_pkt;
130
131     if (((pkt->destruct == av_destruct_packet_nofree) ||
132          (pkt->destruct == NULL)) && pkt->data) {
133         tmp_pkt = *pkt;
134
135         pkt->data      = NULL;
136         pkt->side_data = NULL;
137         DUP_DATA(pkt->data, tmp_pkt.data, pkt->size, 1);
138         pkt->destruct = av_destruct_packet;
139
140         if (pkt->side_data_elems) {
141             int i;
142
143             DUP_DATA(pkt->side_data, tmp_pkt.side_data,
144                      pkt->side_data_elems * sizeof(*pkt->side_data), 0);
145             memset(pkt->side_data, 0,
146                    pkt->side_data_elems * sizeof(*pkt->side_data));
147             for (i = 0; i < pkt->side_data_elems; i++)
148                 DUP_DATA(pkt->side_data[i].data, tmp_pkt.side_data[i].data,
149                          tmp_pkt.side_data[i].size, 1);
150         }
151     }
152     return 0;
153
154 failed_alloc:
155     av_destruct_packet(pkt);
156     return AVERROR(ENOMEM);
157 }
158
159 void av_free_packet(AVPacket *pkt)
160 {
161     if (pkt) {
162         if (pkt->destruct)
163             pkt->destruct(pkt);
164         pkt->data            = NULL;
165         pkt->size            = 0;
166         pkt->side_data       = NULL;
167         pkt->side_data_elems = 0;
168     }
169 }
170
171 uint8_t *av_packet_new_side_data(AVPacket *pkt, enum AVPacketSideDataType type,
172                                  int size)
173 {
174     int elems = pkt->side_data_elems;
175
176     if ((unsigned)elems + 1 > INT_MAX / sizeof(*pkt->side_data))
177         return NULL;
178     if ((unsigned)size > INT_MAX - FF_INPUT_BUFFER_PADDING_SIZE)
179         return NULL;
180
181     pkt->side_data = av_realloc(pkt->side_data,
182                                 (elems + 1) * sizeof(*pkt->side_data));
183     if (!pkt->side_data)
184         return NULL;
185
186     pkt->side_data[elems].data = av_malloc(size + FF_INPUT_BUFFER_PADDING_SIZE);
187     if (!pkt->side_data[elems].data)
188         return NULL;
189     pkt->side_data[elems].size = size;
190     pkt->side_data[elems].type = type;
191     pkt->side_data_elems++;
192
193     return pkt->side_data[elems].data;
194 }
195
196 uint8_t *av_packet_get_side_data(AVPacket *pkt, enum AVPacketSideDataType type,
197                                  int *size)
198 {
199     int i;
200
201     for (i = 0; i < pkt->side_data_elems; i++) {
202         if (pkt->side_data[i].type == type) {
203             if (size)
204                 *size = pkt->side_data[i].size;
205             return pkt->side_data[i].data;
206         }
207     }
208     return NULL;
209 }
210
211 int av_packet_shrink_side_data(AVPacket *pkt, enum AVPacketSideDataType type,
212                                int size)
213 {
214     int i;
215
216     for (i = 0; i < pkt->side_data_elems; i++) {
217         if (pkt->side_data[i].type == type) {
218             if (size > pkt->side_data[i].size)
219                 return AVERROR(ENOMEM);
220             pkt->side_data[i].size = size;
221             return 0;
222         }
223     }
224     return AVERROR(ENOENT);
225 }