avcodec: add support for planar signed 8-bit PCM.
[ffmpeg.git] / libavcodec / 8svx.c
1 /*
2  * 8SVX audio decoder
3  * Copyright (C) 2008 Jaikrishnan Menon
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * 8svx audio decoder
25  * @author Jaikrishnan Menon
26  *
27  * supports: fibonacci delta encoding
28  *         : exponential encoding
29  */
30
31 #include "avcodec.h"
32
33 /** decoder context */
34 typedef struct EightSvxContext {
35     uint8_t fib_acc[2];
36     const int8_t *table;
37
38     /* buffer used to store the whole first packet.
39        data is only sent as one large packet */
40     uint8_t *data[2];
41     int data_size;
42     int data_idx;
43 } EightSvxContext;
44
45 static const int8_t fibonacci[16]   = { -34, -21, -13,  -8, -5, -3, -2, -1,
46                                           0,   1,   2,   3,  5,  8, 13, 21 };
47 static const int8_t exponential[16] = { -128, -64, -32, -16, -8, -4, -2, -1,
48                                            0,   1,   2,   4,  8, 16, 32, 64 };
49
50 #define MAX_FRAME_SIZE 32768
51
52 /**
53  * Delta decode the compressed values in src, and put the resulting
54  * decoded samples in dst.
55  *
56  * @param[in,out] state starting value. it is saved for use in the next call.
57  */
58 static void delta_decode(uint8_t *dst, const uint8_t *src, int src_size,
59                          uint8_t *state, const int8_t *table, int channels)
60 {
61     uint8_t val = *state;
62
63     while (src_size--) {
64         uint8_t d = *src++;
65         val = av_clip_uint8(val + table[d & 0xF]);
66         *dst = val;
67         dst += channels;
68         val = av_clip_uint8(val + table[d >> 4]);
69         *dst = val;
70         dst += channels;
71     }
72
73     *state = val;
74 }
75
76 static void raw_decode(uint8_t *dst, const int8_t *src, int src_size,
77                        int channels)
78 {
79     while (src_size--) {
80         *dst = *src++ + 128;
81         dst += channels;
82     }
83 }
84
85 /** decode a frame */
86 static int eightsvx_decode_frame(AVCodecContext *avctx, void *data, int *data_size,
87                                  AVPacket *avpkt)
88 {
89     EightSvxContext *esc = avctx->priv_data;
90     int buf_size;
91     uint8_t *out_data = data;
92     int out_data_size;
93     int is_compr = (avctx->codec_id != CODEC_ID_PCM_S8_PLANAR);
94
95     /* for the first packet, copy data to buffer */
96     if (avpkt->data) {
97         int hdr_size  = is_compr ? 2 : 0;
98         int chan_size = (avpkt->size - hdr_size * avctx->channels) / avctx->channels;
99
100         if (avpkt->size < hdr_size * avctx->channels) {
101             av_log(avctx, AV_LOG_ERROR, "packet size is too small\n");
102             return AVERROR(EINVAL);
103         }
104         if (esc->data[0]) {
105             av_log(avctx, AV_LOG_ERROR, "unexpected data after first packet\n");
106             return AVERROR(EINVAL);
107         }
108
109         if (is_compr) {
110         esc->fib_acc[0] = avpkt->data[1] + 128;
111         if (avctx->channels == 2)
112             esc->fib_acc[1] = avpkt->data[2+chan_size+1] + 128;
113         }
114
115         esc->data_idx  = 0;
116         esc->data_size = chan_size;
117         if (!(esc->data[0] = av_malloc(chan_size)))
118             return AVERROR(ENOMEM);
119         if (avctx->channels == 2) {
120             if (!(esc->data[1] = av_malloc(chan_size))) {
121                 av_freep(&esc->data[0]);
122                 return AVERROR(ENOMEM);
123             }
124         }
125         memcpy(esc->data[0], &avpkt->data[hdr_size], chan_size);
126         if (avctx->channels == 2)
127             memcpy(esc->data[1], &avpkt->data[2*hdr_size+chan_size], chan_size);
128     }
129     if (!esc->data[0]) {
130         av_log(avctx, AV_LOG_ERROR, "unexpected empty packet\n");
131         return AVERROR(EINVAL);
132     }
133
134     /* decode next piece of data from the buffer */
135     buf_size = FFMIN(MAX_FRAME_SIZE, esc->data_size - esc->data_idx);
136     if (buf_size <= 0) {
137         *data_size = 0;
138         return avpkt->size;
139     }
140     out_data_size = buf_size * (is_compr + 1) * avctx->channels;
141     if (*data_size < out_data_size) {
142         av_log(avctx, AV_LOG_ERROR, "Provided buffer with size %d is too small.\n",
143                *data_size);
144         return AVERROR(EINVAL);
145     }
146     if (is_compr) {
147     delta_decode(out_data, &esc->data[0][esc->data_idx], buf_size,
148                  &esc->fib_acc[0], esc->table, avctx->channels);
149     if (avctx->channels == 2) {
150         delta_decode(&out_data[1], &esc->data[1][esc->data_idx], buf_size,
151                     &esc->fib_acc[1], esc->table, avctx->channels);
152     }
153     } else {
154         int ch;
155         for (ch = 0; ch < avctx->channels; ch++) {
156             raw_decode((int8_t *)&out_data[ch], &esc->data[ch][esc->data_idx],
157                        buf_size, avctx->channels);
158         }
159     }
160     esc->data_idx += buf_size;
161     *data_size = out_data_size;
162
163     return avpkt->size;
164 }
165
166 /** initialize 8svx decoder */
167 static av_cold int eightsvx_decode_init(AVCodecContext *avctx)
168 {
169     EightSvxContext *esc = avctx->priv_data;
170
171     if (avctx->channels < 1 || avctx->channels > 2) {
172         av_log(avctx, AV_LOG_ERROR, "8SVX does not support more than 2 channels\n");
173         return AVERROR(EINVAL);
174     }
175
176     switch(avctx->codec->id) {
177         case CODEC_ID_8SVX_FIB:
178           esc->table = fibonacci;
179           break;
180         case CODEC_ID_8SVX_EXP:
181           esc->table = exponential;
182           break;
183         case CODEC_ID_PCM_S8_PLANAR:
184             break;
185         default:
186           return -1;
187     }
188     avctx->sample_fmt = AV_SAMPLE_FMT_U8;
189     return 0;
190 }
191
192 static av_cold int eightsvx_decode_close(AVCodecContext *avctx)
193 {
194     EightSvxContext *esc = avctx->priv_data;
195
196     av_freep(&esc->data[0]);
197     av_freep(&esc->data[1]);
198
199     return 0;
200 }
201
202 AVCodec ff_eightsvx_fib_decoder = {
203   .name           = "8svx_fib",
204   .type           = AVMEDIA_TYPE_AUDIO,
205   .id             = CODEC_ID_8SVX_FIB,
206   .priv_data_size = sizeof (EightSvxContext),
207   .init           = eightsvx_decode_init,
208   .close          = eightsvx_decode_close,
209   .decode         = eightsvx_decode_frame,
210   .capabilities   = CODEC_CAP_DELAY,
211   .long_name      = NULL_IF_CONFIG_SMALL("8SVX fibonacci"),
212 };
213
214 AVCodec ff_eightsvx_exp_decoder = {
215   .name           = "8svx_exp",
216   .type           = AVMEDIA_TYPE_AUDIO,
217   .id             = CODEC_ID_8SVX_EXP,
218   .priv_data_size = sizeof (EightSvxContext),
219   .init           = eightsvx_decode_init,
220   .close          = eightsvx_decode_close,
221   .decode         = eightsvx_decode_frame,
222   .capabilities   = CODEC_CAP_DELAY,
223   .long_name      = NULL_IF_CONFIG_SMALL("8SVX exponential"),
224 };
225
226 AVCodec ff_pcm_s8_planar_decoder = {
227     .name           = "pcm_s8_planar",
228     .type           = AVMEDIA_TYPE_AUDIO,
229     .id             = CODEC_ID_PCM_S8_PLANAR,
230     .priv_data_size = sizeof(EightSvxContext),
231     .init           = eightsvx_decode_init,
232     .close          = eightsvx_decode_close,
233     .decode         = eightsvx_decode_frame,
234     .capabilities   = CODEC_CAP_DELAY,
235     .long_name      = NULL_IF_CONFIG_SMALL("PCM signed 8-bit planar"),
236 };