rtpdec_mpeg4: add more verbose error logging
[ffmpeg.git] / libavformat / rtpdec_mpeg4.c
1 /*
2  * Common code for the RTP depacketization of MPEG-4 formats.
3  * Copyright (c) 2010 Fabrice Bellard
4  *                    Romain Degez
5  *
6  * This file is part of Libav.
7  *
8  * Libav is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * Libav is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with Libav; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 /**
24  * @file
25  * @brief MPEG4 / RTP Code
26  * @author Fabrice Bellard
27  * @author Romain Degez
28  */
29
30 #include "rtpdec_formats.h"
31 #include "internal.h"
32 #include "libavutil/attributes.h"
33 #include "libavutil/avstring.h"
34 #include "libavcodec/get_bits.h"
35
36 /** Structure listing useful vars to parse RTP packet payload */
37 struct PayloadContext {
38     int sizelength;
39     int indexlength;
40     int indexdeltalength;
41     int profile_level_id;
42     int streamtype;
43     int objecttype;
44     char *mode;
45
46     /** mpeg 4 AU headers */
47     struct AUHeaders {
48         int size;
49         int index;
50         int cts_flag;
51         int cts;
52         int dts_flag;
53         int dts;
54         int rap_flag;
55         int streamstate;
56     } *au_headers;
57     int au_headers_allocated;
58     int nb_au_headers;
59     int au_headers_length_bytes;
60     int cur_au_index;
61
62     uint8_t buf[RTP_MAX_PACKET_LENGTH];
63     int buf_pos, buf_size;
64 };
65
66 typedef struct AttrNameMap {
67     const char *str;
68     uint16_t    type;
69     uint32_t    offset;
70 } AttrNameMap;
71
72 /* All known fmtp parameters and the corresponding RTPAttrTypeEnum */
73 #define ATTR_NAME_TYPE_INT 0
74 #define ATTR_NAME_TYPE_STR 1
75 static const AttrNameMap attr_names[] = {
76     { "SizeLength",       ATTR_NAME_TYPE_INT,
77       offsetof(PayloadContext, sizelength) },
78     { "IndexLength",      ATTR_NAME_TYPE_INT,
79       offsetof(PayloadContext, indexlength) },
80     { "IndexDeltaLength", ATTR_NAME_TYPE_INT,
81       offsetof(PayloadContext, indexdeltalength) },
82     { "profile-level-id", ATTR_NAME_TYPE_INT,
83       offsetof(PayloadContext, profile_level_id) },
84     { "StreamType",       ATTR_NAME_TYPE_INT,
85       offsetof(PayloadContext, streamtype) },
86     { "mode",             ATTR_NAME_TYPE_STR,
87       offsetof(PayloadContext, mode) },
88     { NULL, -1, -1 },
89 };
90
91 static PayloadContext *new_context(void)
92 {
93     return av_mallocz(sizeof(PayloadContext));
94 }
95
96 static void free_context(PayloadContext *data)
97 {
98     av_free(data->au_headers);
99     av_free(data->mode);
100     av_free(data);
101 }
102
103 static int parse_fmtp_config(AVCodecContext *codec, char *value)
104 {
105     /* decode the hexa encoded parameter */
106     int len = ff_hex_to_data(NULL, value);
107     av_free(codec->extradata);
108     codec->extradata = av_mallocz(len + FF_INPUT_BUFFER_PADDING_SIZE);
109     if (!codec->extradata)
110         return AVERROR(ENOMEM);
111     codec->extradata_size = len;
112     ff_hex_to_data(codec->extradata, value);
113     return 0;
114 }
115
116 static int rtp_parse_mp4_au(PayloadContext *data, const uint8_t *buf, int len)
117 {
118     int au_headers_length, au_header_size, i;
119     GetBitContext getbitcontext;
120
121     if (len < 2)
122         return AVERROR_INVALIDDATA;
123
124     /* decode the first 2 bytes where the AUHeader sections are stored
125        length in bits */
126     au_headers_length = AV_RB16(buf);
127
128     if (au_headers_length > RTP_MAX_PACKET_LENGTH)
129       return -1;
130
131     data->au_headers_length_bytes = (au_headers_length + 7) / 8;
132
133     /* skip AU headers length section (2 bytes) */
134     buf += 2;
135     len -= 2;
136
137     if (len < data->au_headers_length_bytes)
138         return AVERROR_INVALIDDATA;
139
140     init_get_bits(&getbitcontext, buf, data->au_headers_length_bytes * 8);
141
142     /* XXX: Wrong if optionnal additional sections are present (cts, dts etc...) */
143     au_header_size = data->sizelength + data->indexlength;
144     if (au_header_size <= 0 || (au_headers_length % au_header_size != 0))
145         return -1;
146
147     data->nb_au_headers = au_headers_length / au_header_size;
148     if (!data->au_headers || data->au_headers_allocated < data->nb_au_headers) {
149         av_free(data->au_headers);
150         data->au_headers = av_malloc(sizeof(struct AUHeaders) * data->nb_au_headers);
151         if (!data->au_headers)
152             return AVERROR(ENOMEM);
153         data->au_headers_allocated = data->nb_au_headers;
154     }
155
156     for (i = 0; i < data->nb_au_headers; ++i) {
157         data->au_headers[i].size  = get_bits_long(&getbitcontext, data->sizelength);
158         data->au_headers[i].index = get_bits_long(&getbitcontext, data->indexlength);
159     }
160
161     return 0;
162 }
163
164
165 /* Follows RFC 3640 */
166 static int aac_parse_packet(AVFormatContext *ctx, PayloadContext *data,
167                             AVStream *st, AVPacket *pkt, uint32_t *timestamp,
168                             const uint8_t *buf, int len, uint16_t seq,
169                             int flags)
170 {
171     int ret;
172
173     if (!buf) {
174         if (data->cur_au_index > data->nb_au_headers) {
175             av_log(ctx, AV_LOG_ERROR, "Invalid parser state\n");
176             return AVERROR_INVALIDDATA;
177         }
178         if (data->buf_size - data->buf_pos < data->au_headers[data->cur_au_index].size) {
179             av_log(ctx, AV_LOG_ERROR, "Invalid AU size\n");
180             return AVERROR_INVALIDDATA;
181         }
182         if ((ret = av_new_packet(pkt, data->au_headers[data->cur_au_index].size)) < 0) {
183             av_log(ctx, AV_LOG_ERROR, "Out of memory\n");
184             return ret;
185         }
186         memcpy(pkt->data, &data->buf[data->buf_pos], data->au_headers[data->cur_au_index].size);
187         data->buf_pos += data->au_headers[data->cur_au_index].size;
188         pkt->stream_index = st->index;
189         data->cur_au_index++;
190         return data->cur_au_index < data->nb_au_headers;
191     }
192
193     if (rtp_parse_mp4_au(data, buf, len)) {
194         av_log(ctx, AV_LOG_ERROR, "Error parsing AU headers\n");
195         return -1;
196     }
197
198     buf += data->au_headers_length_bytes + 2;
199     len -= data->au_headers_length_bytes + 2;
200
201     if (len < data->au_headers[0].size) {
202         av_log(ctx, AV_LOG_ERROR, "First AU larger than packet size\n");
203         return AVERROR_INVALIDDATA;
204     }
205     if ((ret = av_new_packet(pkt, data->au_headers[0].size)) < 0) {
206         av_log(ctx, AV_LOG_ERROR, "Out of memory\n");
207         return ret;
208     }
209     memcpy(pkt->data, buf, data->au_headers[0].size);
210     len -= data->au_headers[0].size;
211     buf += data->au_headers[0].size;
212     pkt->stream_index = st->index;
213
214     if (len > 0 && data->nb_au_headers > 1) {
215         data->buf_size = FFMIN(len, sizeof(data->buf));
216         memcpy(data->buf, buf, data->buf_size);
217         data->cur_au_index = 1;
218         data->buf_pos = 0;
219         return 1;
220     }
221
222     return 0;
223 }
224
225 static int parse_fmtp(AVFormatContext *s,
226                       AVStream *stream, PayloadContext *data,
227                       char *attr, char *value)
228 {
229     AVCodecContext *codec = stream->codec;
230     int res, i;
231
232     if (!strcmp(attr, "config")) {
233         res = parse_fmtp_config(codec, value);
234
235         if (res < 0)
236             return res;
237     }
238
239     if (codec->codec_id == AV_CODEC_ID_AAC) {
240         /* Looking for a known attribute */
241         for (i = 0; attr_names[i].str; ++i) {
242             if (!av_strcasecmp(attr, attr_names[i].str)) {
243                 if (attr_names[i].type == ATTR_NAME_TYPE_INT) {
244                     *(int *)((char *)data+
245                         attr_names[i].offset) = atoi(value);
246                 } else if (attr_names[i].type == ATTR_NAME_TYPE_STR)
247                     *(char **)((char *)data+
248                         attr_names[i].offset) = av_strdup(value);
249             }
250         }
251     }
252     return 0;
253 }
254
255 static int parse_sdp_line(AVFormatContext *s, int st_index,
256                           PayloadContext *data, const char *line)
257 {
258     const char *p;
259
260     if (st_index < 0)
261         return 0;
262
263     if (av_strstart(line, "fmtp:", &p))
264         return ff_parse_fmtp(s, s->streams[st_index], data, p, parse_fmtp);
265
266     return 0;
267 }
268
269 static av_cold int init_video(AVFormatContext *s, int st_index,
270                               PayloadContext *data)
271 {
272     if (st_index < 0)
273         return 0;
274     s->streams[st_index]->need_parsing = AVSTREAM_PARSE_FULL;
275     return 0;
276 }
277
278 RTPDynamicProtocolHandler ff_mp4v_es_dynamic_handler = {
279     .enc_name           = "MP4V-ES",
280     .codec_type         = AVMEDIA_TYPE_VIDEO,
281     .codec_id           = AV_CODEC_ID_MPEG4,
282     .init               = init_video,
283     .parse_sdp_a_line   = parse_sdp_line,
284 };
285
286 RTPDynamicProtocolHandler ff_mpeg4_generic_dynamic_handler = {
287     .enc_name           = "mpeg4-generic",
288     .codec_type         = AVMEDIA_TYPE_AUDIO,
289     .codec_id           = AV_CODEC_ID_AAC,
290     .parse_sdp_a_line   = parse_sdp_line,
291     .alloc              = new_context,
292     .free               = free_context,
293     .parse_packet       = aac_parse_packet
294 };