gsm: log error message when packet is too small
[ffmpeg.git] / libavcodec / gsmdec.c
1 /*
2  * gsm 06.10 decoder
3  * Copyright (c) 2010 Reimar Döffinger <Reimar.Doeffinger@gmx.de>
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * GSM decoder
25  */
26
27 #include "avcodec.h"
28 #include "get_bits.h"
29 #include "msgsmdec.h"
30
31 #include "gsmdec_template.c"
32
33 static av_cold int gsm_init(AVCodecContext *avctx)
34 {
35     avctx->channels = 1;
36     if (!avctx->sample_rate)
37         avctx->sample_rate = 8000;
38     avctx->sample_fmt = AV_SAMPLE_FMT_S16;
39
40     switch (avctx->codec_id) {
41     case CODEC_ID_GSM:
42         avctx->frame_size  = GSM_FRAME_SIZE;
43         avctx->block_align = GSM_BLOCK_SIZE;
44         break;
45     case CODEC_ID_GSM_MS:
46         avctx->frame_size  = 2 * GSM_FRAME_SIZE;
47         avctx->block_align = GSM_MS_BLOCK_SIZE;
48     }
49
50     return 0;
51 }
52
53 static int gsm_decode_frame(AVCodecContext *avctx, void *data,
54                             int *data_size, AVPacket *avpkt)
55 {
56     int res;
57     GetBitContext gb;
58     const uint8_t *buf = avpkt->data;
59     int buf_size = avpkt->size;
60     int16_t *samples = data;
61     int frame_bytes = avctx->frame_size *
62                       av_get_bytes_per_sample(avctx->sample_fmt);
63
64     if (*data_size < frame_bytes) {
65         av_log(avctx, AV_LOG_ERROR, "Output buffer is too small\n");
66         return AVERROR(EINVAL);
67     }
68
69     if (buf_size < avctx->block_align) {
70         av_log(avctx, AV_LOG_ERROR, "Packet is too small\n");
71         return AVERROR_INVALIDDATA;
72     }
73
74     switch (avctx->codec_id) {
75     case CODEC_ID_GSM:
76         init_get_bits(&gb, buf, buf_size * 8);
77         if (get_bits(&gb, 4) != 0xd)
78             av_log(avctx, AV_LOG_WARNING, "Missing GSM magic!\n");
79         res = gsm_decode_block(avctx, samples, &gb);
80         if (res < 0)
81             return res;
82         break;
83     case CODEC_ID_GSM_MS:
84         res = ff_msgsm_decode_block(avctx, samples, buf);
85         if (res < 0)
86             return res;
87     }
88     *data_size = frame_bytes;
89     return avctx->block_align;
90 }
91
92 static void gsm_flush(AVCodecContext *avctx)
93 {
94     GSMContext *s = avctx->priv_data;
95     memset(s, 0, sizeof(*s));
96 }
97
98 AVCodec ff_gsm_decoder = {
99     .name           = "gsm",
100     .type           = AVMEDIA_TYPE_AUDIO,
101     .id             = CODEC_ID_GSM,
102     .priv_data_size = sizeof(GSMContext),
103     .init           = gsm_init,
104     .decode         = gsm_decode_frame,
105     .flush          = gsm_flush,
106     .long_name = NULL_IF_CONFIG_SMALL("GSM"),
107 };
108
109 AVCodec ff_gsm_ms_decoder = {
110     .name           = "gsm_ms",
111     .type           = AVMEDIA_TYPE_AUDIO,
112     .id             = CODEC_ID_GSM_MS,
113     .priv_data_size = sizeof(GSMContext),
114     .init           = gsm_init,
115     .decode         = gsm_decode_frame,
116     .flush          = gsm_flush,
117     .long_name = NULL_IF_CONFIG_SMALL("GSM Microsoft variant"),
118 };