Merge remote branch 'qatar/master'
[ffmpeg.git] / libavcodec / libcelt_dec.c
1 /*
2  * Xiph CELT / Opus decoder using libcelt
3  * Copyright (c) 2011 Nicolas George
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include <celt/celt.h>
23 #include <celt/celt_header.h>
24 #include "avcodec.h"
25 #include "libavutil/intreadwrite.h"
26
27 struct libcelt_context {
28     CELTMode *mode;
29     CELTDecoder *dec;
30     int frame_bytes;
31     int discard;
32 };
33
34 static int ff_celt_error_to_averror(int err)
35 {
36     switch(err) {
37         case CELT_BAD_ARG:          return AVERROR(EINVAL);
38 #ifdef CELT_BUFFER_TOO_SMALL
39         case CELT_BUFFER_TOO_SMALL: return AVERROR(ENOBUFS);
40 #endif
41         case CELT_INTERNAL_ERROR:   return AVERROR(EFAULT);
42         case CELT_CORRUPTED_DATA:   return AVERROR_INVALIDDATA;
43         case CELT_UNIMPLEMENTED:    return AVERROR(ENOTSUP);
44 #ifdef ENOTRECOVERABLE
45         case CELT_INVALID_STATE:    return AVERROR(ENOTRECOVERABLE);
46 #endif
47         case CELT_ALLOC_FAIL:       return AVERROR(ENOMEM);
48         default:                    return AVERROR(EINVAL);
49     }
50 }
51
52 static int ff_celt_bitstream_version_hack(CELTMode *mode)
53 {
54     CELTHeader header = { .version_id = 0 };
55     celt_header_init(&header, mode, 960, 2);
56     return header.version_id;
57 }
58
59 static av_cold int libcelt_dec_init(AVCodecContext *c)
60 {
61     struct libcelt_context *celt = c->priv_data;
62     int err;
63
64     if (!c->channels || !c->frame_size ||
65         c->frame_size > INT_MAX / sizeof(int16_t) / c->channels)
66         return AVERROR(EINVAL);
67     celt->frame_bytes = c->frame_size * c->channels * sizeof(int16_t);
68     celt->mode = celt_mode_create(c->sample_rate, c->frame_size, &err);
69     if (!celt->mode)
70         return ff_celt_error_to_averror(err);
71     celt->dec = celt_decoder_create_custom(celt->mode, c->channels, &err);
72     if (!celt->dec) {
73         celt_mode_destroy(celt->mode);
74         return ff_celt_error_to_averror(err);
75     }
76     if (c->extradata_size >= 4) {
77         celt->discard = AV_RL32(c->extradata);
78         if (celt->discard < 0 || celt->discard >= c->frame_size) {
79             av_log(c, AV_LOG_WARNING,
80                    "Invalid overlap (%d), ignored.\n", celt->discard);
81             celt->discard = 0;
82         }
83         celt->discard *= c->channels * sizeof(int16_t);
84     }
85     if(c->extradata_size >= 8) {
86         unsigned version = AV_RL32(c->extradata + 4);
87         unsigned lib_version = ff_celt_bitstream_version_hack(celt->mode);
88         if (version != lib_version)
89             av_log(c, AV_LOG_WARNING,
90                    "CELT bitstream version 0x%x may be "
91                    "improperly decoded by libcelt for version 0x%x.\n",
92                    version, lib_version);
93     }
94     return 0;
95 }
96
97 static av_cold int libcelt_dec_close(AVCodecContext *c)
98 {
99     struct libcelt_context *celt = c->priv_data;
100
101     celt_decoder_destroy(celt->dec);
102     celt_mode_destroy(celt->mode);
103     return 0;
104 }
105
106 static int libcelt_dec_decode(AVCodecContext *c, void *pcm, int *pcm_size,
107                               AVPacket *pkt)
108 {
109     struct libcelt_context *celt = c->priv_data;
110     int err;
111
112     if (*pcm_size < celt->frame_bytes)
113         return AVERROR(ENOBUFS);
114     err = celt_decode(celt->dec, pkt->data, pkt->size, pcm, c->frame_size);
115     if (err < 0)
116         return ff_celt_error_to_averror(err);
117     *pcm_size = celt->frame_bytes;
118     if (celt->discard) {
119         *pcm_size = celt->frame_bytes - celt->discard;
120         memmove(pcm, (char *)pcm + celt->discard, *pcm_size);
121         celt->discard = 0;
122     }
123     return pkt->size;
124 }
125
126 AVCodec ff_libcelt_decoder = {
127     .name           = "libcelt",
128     .type           = AVMEDIA_TYPE_AUDIO,
129     .id             = CODEC_ID_CELT,
130     .priv_data_size = sizeof(struct libcelt_context),
131     .init           = libcelt_dec_init,
132     .close          = libcelt_dec_close,
133     .decode         = libcelt_dec_decode,
134     .capabilities   = 0,
135     .long_name = NULL_IF_CONFIG_SMALL("Xiph CELT/Opus decoder using libcelt"),
136 };