libspeexdec: do not set AVCodecContext.frame_size
[ffmpeg.git] / libavcodec / libspeexdec.c
1 /*
2  * Copyright (C) 2008 David Conrad
3  *
4  * This file is part of Libav.
5  *
6  * Libav is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * Libav is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with Libav; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 #include <speex/speex.h>
22 #include <speex/speex_header.h>
23 #include <speex/speex_stereo.h>
24 #include <speex/speex_callbacks.h>
25 #include "avcodec.h"
26
27 typedef struct {
28     AVFrame frame;
29     SpeexBits bits;
30     SpeexStereoState stereo;
31     void *dec_state;
32     SpeexHeader *header;
33     int frame_size;
34 } LibSpeexContext;
35
36
37 static av_cold int libspeex_decode_init(AVCodecContext *avctx)
38 {
39     LibSpeexContext *s = avctx->priv_data;
40     const SpeexMode *mode;
41
42     // defaults in the case of a missing header
43     if (avctx->sample_rate <= 8000)
44         mode = &speex_nb_mode;
45     else if (avctx->sample_rate <= 16000)
46         mode = &speex_wb_mode;
47     else
48         mode = &speex_uwb_mode;
49
50     if (avctx->extradata_size >= 80)
51         s->header = speex_packet_to_header(avctx->extradata, avctx->extradata_size);
52
53     avctx->sample_fmt = AV_SAMPLE_FMT_S16;
54     if (s->header) {
55         avctx->sample_rate = s->header->rate;
56         avctx->channels    = s->header->nb_channels;
57
58         mode = speex_lib_get_mode(s->header->mode);
59         if (!mode) {
60             av_log(avctx, AV_LOG_ERROR, "Unknown Speex mode %d", s->header->mode);
61             return AVERROR_INVALIDDATA;
62         }
63     } else
64         av_log(avctx, AV_LOG_INFO, "Missing Speex header, assuming defaults.\n");
65
66     if (avctx->channels > 2) {
67         av_log(avctx, AV_LOG_ERROR, "Only stereo and mono are supported.\n");
68         return AVERROR(EINVAL);
69     }
70
71     speex_bits_init(&s->bits);
72     s->dec_state = speex_decoder_init(mode);
73     if (!s->dec_state) {
74         av_log(avctx, AV_LOG_ERROR, "Error initializing libspeex decoder.\n");
75         return -1;
76     }
77
78     if (!s->header) {
79         speex_decoder_ctl(s->dec_state, SPEEX_GET_FRAME_SIZE, &s->frame_size);
80     }
81
82     if (avctx->channels == 2) {
83         SpeexCallback callback;
84         callback.callback_id = SPEEX_INBAND_STEREO;
85         callback.func = speex_std_stereo_request_handler;
86         callback.data = &s->stereo;
87         s->stereo = (SpeexStereoState)SPEEX_STEREO_STATE_INIT;
88         speex_decoder_ctl(s->dec_state, SPEEX_SET_HANDLER, &callback);
89     }
90
91     avcodec_get_frame_defaults(&s->frame);
92     avctx->coded_frame = &s->frame;
93
94     return 0;
95 }
96
97 static int libspeex_decode_frame(AVCodecContext *avctx, void *data,
98                                  int *got_frame_ptr, AVPacket *avpkt)
99 {
100     uint8_t *buf = avpkt->data;
101     int buf_size = avpkt->size;
102     LibSpeexContext *s = avctx->priv_data;
103     int16_t *output;
104     int ret, consumed = 0;
105
106     /* get output buffer */
107     s->frame.nb_samples = s->frame_size;
108     if ((ret = avctx->get_buffer(avctx, &s->frame)) < 0) {
109         av_log(avctx, AV_LOG_ERROR, "get_buffer() failed\n");
110         return ret;
111     }
112     output = (int16_t *)s->frame.data[0];
113
114     /* if there is not enough data left for the smallest possible frame,
115        reset the libspeex buffer using the current packet, otherwise ignore
116        the current packet and keep decoding frames from the libspeex buffer. */
117     if (speex_bits_remaining(&s->bits) < 43) {
118         /* check for flush packet */
119         if (!buf || !buf_size) {
120             *got_frame_ptr = 0;
121             return buf_size;
122         }
123         /* set new buffer */
124         speex_bits_read_from(&s->bits, buf, buf_size);
125         consumed = buf_size;
126     }
127
128     /* decode a single frame */
129     ret = speex_decode_int(s->dec_state, &s->bits, output);
130     if (ret <= -2) {
131         av_log(avctx, AV_LOG_ERROR, "Error decoding Speex frame.\n");
132         return AVERROR_INVALIDDATA;
133     }
134     if (avctx->channels == 2)
135         speex_decode_stereo_int(output, s->frame_size, &s->stereo);
136
137     *got_frame_ptr   = 1;
138     *(AVFrame *)data = s->frame;
139
140     return consumed;
141 }
142
143 static av_cold int libspeex_decode_close(AVCodecContext *avctx)
144 {
145     LibSpeexContext *s = avctx->priv_data;
146
147     speex_header_free(s->header);
148     speex_bits_destroy(&s->bits);
149     speex_decoder_destroy(s->dec_state);
150
151     return 0;
152 }
153
154 static av_cold void libspeex_decode_flush(AVCodecContext *avctx)
155 {
156     LibSpeexContext *s = avctx->priv_data;
157     speex_bits_reset(&s->bits);
158 }
159
160 AVCodec ff_libspeex_decoder = {
161     .name           = "libspeex",
162     .type           = AVMEDIA_TYPE_AUDIO,
163     .id             = CODEC_ID_SPEEX,
164     .priv_data_size = sizeof(LibSpeexContext),
165     .init           = libspeex_decode_init,
166     .close          = libspeex_decode_close,
167     .decode         = libspeex_decode_frame,
168     .flush          = libspeex_decode_flush,
169     .capabilities   = CODEC_CAP_SUBFRAMES | CODEC_CAP_DELAY | CODEC_CAP_DR1,
170     .long_name = NULL_IF_CONFIG_SMALL("libspeex Speex"),
171 };