tscc2: Fix an out of array access
[ffmpeg.git] / libavcodec / dca_parser.c
1 /*
2  * DCA parser
3  * Copyright (C) 2004 Gildas Bazin
4  * Copyright (C) 2004 Benjamin Zores
5  * Copyright (C) 2006 Benjamin Larsson
6  * Copyright (C) 2007 Konstantin Shishkov
7  *
8  * This file is part of Libav.
9  *
10  * Libav is free software; you can redistribute it and/or
11  * modify it under the terms of the GNU Lesser General Public
12  * License as published by the Free Software Foundation; either
13  * version 2.1 of the License, or (at your option) any later version.
14  *
15  * Libav is distributed in the hope that it will be useful,
16  * but WITHOUT ANY WARRANTY; without even the implied warranty of
17  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
18  * Lesser General Public License for more details.
19  *
20  * You should have received a copy of the GNU Lesser General Public
21  * License along with Libav; if not, write to the Free Software
22  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
23  */
24
25 #include "parser.h"
26 #include "dca.h"
27 #include "dca_parser.h"
28 #include "get_bits.h"
29 #include "put_bits.h"
30
31 typedef struct DCAParseContext {
32     ParseContext pc;
33     uint32_t lastmarker;
34     int size;
35     int framesize;
36     int hd_pos;
37 } DCAParseContext;
38
39 #define IS_MARKER(state, i, buf, buf_size) \
40  ((state == DCA_MARKER_14B_LE && (i < buf_size-2) && (buf[i+1] & 0xF0) == 0xF0 && buf[i+2] == 0x07) \
41  || (state == DCA_MARKER_14B_BE && (i < buf_size-2) && buf[i+1] == 0x07 && (buf[i+2] & 0xF0) == 0xF0) \
42  || state == DCA_MARKER_RAW_LE || state == DCA_MARKER_RAW_BE)
43
44 /**
45  * Find the end of the current frame in the bitstream.
46  * @return the position of the first byte of the next frame, or -1
47  */
48 static int dca_find_frame_end(DCAParseContext * pc1, const uint8_t * buf,
49                               int buf_size)
50 {
51     int start_found, i;
52     uint32_t state;
53     ParseContext *pc = &pc1->pc;
54
55     start_found = pc->frame_start_found;
56     state = pc->state;
57
58     i = 0;
59     if (!start_found) {
60         for (i = 0; i < buf_size; i++) {
61             state = (state << 8) | buf[i];
62             if (IS_MARKER(state, i, buf, buf_size)) {
63                 if (pc1->lastmarker && state == pc1->lastmarker) {
64                     start_found = 1;
65                     break;
66                 } else if (!pc1->lastmarker) {
67                     start_found = 1;
68                     pc1->lastmarker = state;
69                     break;
70                 }
71             }
72         }
73     }
74     if (start_found) {
75         for (; i < buf_size; i++) {
76             pc1->size++;
77             state = (state << 8) | buf[i];
78             if (state == DCA_HD_MARKER && !pc1->hd_pos)
79                 pc1->hd_pos = pc1->size;
80             if (state == pc1->lastmarker && IS_MARKER(state, i, buf, buf_size)) {
81                 if(pc1->framesize > pc1->size)
82                     continue;
83                 if(!pc1->framesize){
84                     pc1->framesize = pc1->hd_pos ? pc1->hd_pos : pc1->size;
85                 }
86                 pc->frame_start_found = 0;
87                 pc->state = -1;
88                 pc1->size = 0;
89                 return i - 3;
90             }
91         }
92     }
93     pc->frame_start_found = start_found;
94     pc->state = state;
95     return END_NOT_FOUND;
96 }
97
98 static av_cold int dca_parse_init(AVCodecParserContext * s)
99 {
100     DCAParseContext *pc1 = s->priv_data;
101
102     pc1->lastmarker = 0;
103     return 0;
104 }
105
106 int ff_dca_convert_bitstream(const uint8_t *src, int src_size, uint8_t *dst,
107                              int max_size)
108 {
109     uint32_t mrk;
110     int i, tmp;
111     const uint16_t *ssrc = (const uint16_t *) src;
112     uint16_t *sdst = (uint16_t *) dst;
113     PutBitContext pb;
114
115     if ((unsigned) src_size > (unsigned) max_size)
116         src_size = max_size;
117
118     mrk = AV_RB32(src);
119     switch (mrk) {
120     case DCA_MARKER_RAW_BE:
121         memcpy(dst, src, src_size);
122         return src_size;
123     case DCA_MARKER_RAW_LE:
124         for (i = 0; i < (src_size + 1) >> 1; i++)
125             *sdst++ = av_bswap16(*ssrc++);
126         return src_size;
127     case DCA_MARKER_14B_BE:
128     case DCA_MARKER_14B_LE:
129         init_put_bits(&pb, dst, max_size);
130         for (i = 0; i < (src_size + 1) >> 1; i++, src += 2) {
131             tmp = ((mrk == DCA_MARKER_14B_BE) ? AV_RB16(src) : AV_RL16(src)) & 0x3FFF;
132             put_bits(&pb, 14, tmp);
133         }
134         flush_put_bits(&pb);
135         return (put_bits_count(&pb) + 7) >> 3;
136     default:
137         return AVERROR_INVALIDDATA;
138     }
139 }
140
141 static int dca_parse_params(const uint8_t *buf, int buf_size, int *duration,
142                             int *sample_rate)
143 {
144     GetBitContext gb;
145     uint8_t hdr[12 + FF_INPUT_BUFFER_PADDING_SIZE] = { 0 };
146     int ret, sample_blocks, sr_code;
147
148     if (buf_size < 12)
149         return AVERROR_INVALIDDATA;
150
151     if ((ret = ff_dca_convert_bitstream(buf, 12, hdr, 12)) < 0)
152         return ret;
153
154     init_get_bits(&gb, hdr, 96);
155
156     skip_bits_long(&gb, 39);
157     sample_blocks = get_bits(&gb, 7) + 1;
158     if (sample_blocks < 8)
159         return AVERROR_INVALIDDATA;
160     *duration = 256 * (sample_blocks / 8);
161
162     skip_bits(&gb, 20);
163     sr_code = get_bits(&gb, 4);
164     *sample_rate = avpriv_dca_sample_rates[sr_code];
165     if (*sample_rate == 0)
166         return AVERROR_INVALIDDATA;
167
168     return 0;
169 }
170
171 static int dca_parse(AVCodecParserContext * s,
172                      AVCodecContext * avctx,
173                      const uint8_t ** poutbuf, int *poutbuf_size,
174                      const uint8_t * buf, int buf_size)
175 {
176     DCAParseContext *pc1 = s->priv_data;
177     ParseContext *pc = &pc1->pc;
178     int next, duration, sample_rate;
179
180     if (s->flags & PARSER_FLAG_COMPLETE_FRAMES) {
181         next = buf_size;
182     } else {
183         next = dca_find_frame_end(pc1, buf, buf_size);
184
185         if (ff_combine_frame(pc, next, &buf, &buf_size) < 0) {
186             *poutbuf = NULL;
187             *poutbuf_size = 0;
188             return buf_size;
189         }
190     }
191
192     /* read the duration and sample rate from the frame header */
193     if (!dca_parse_params(buf, buf_size, &duration, &sample_rate)) {
194         s->duration = duration;
195         if (!avctx->sample_rate)
196             avctx->sample_rate = sample_rate;
197     } else
198         s->duration = 0;
199
200     *poutbuf = buf;
201     *poutbuf_size = buf_size;
202     return next;
203 }
204
205 AVCodecParser ff_dca_parser = {
206     .codec_ids      = { AV_CODEC_ID_DTS },
207     .priv_data_size = sizeof(DCAParseContext),
208     .parser_init    = dca_parse_init,
209     .parser_parse   = dca_parse,
210     .parser_close   = ff_parse_close,
211 };