Use AV_XX16 macros
[ffmpeg.git] / libavcodec / pcm.c
1 /*
2  * PCM codecs
3  * Copyright (c) 2001 Fabrice Bellard.
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file pcm.c
24  * PCM codecs
25  */
26
27 #include "avcodec.h"
28 #include "bitstream.h" // for ff_reverse
29
30 /* from g711.c by SUN microsystems (unrestricted use) */
31
32 #define         SIGN_BIT        (0x80)      /* Sign bit for a A-law byte. */
33 #define         QUANT_MASK      (0xf)       /* Quantization field mask. */
34 #define         NSEGS           (8)         /* Number of A-law segments. */
35 #define         SEG_SHIFT       (4)         /* Left shift for segment number. */
36 #define         SEG_MASK        (0x70)      /* Segment field mask. */
37
38 #define         BIAS            (0x84)      /* Bias for linear code. */
39
40 /*
41  * alaw2linear() - Convert an A-law value to 16-bit linear PCM
42  *
43  */
44 static int alaw2linear(unsigned char a_val)
45 {
46         int t;
47         int seg;
48
49         a_val ^= 0x55;
50
51         t = a_val & QUANT_MASK;
52         seg = ((unsigned)a_val & SEG_MASK) >> SEG_SHIFT;
53         if(seg) t= (t + t + 1 + 32) << (seg + 2);
54         else    t= (t + t + 1     ) << 3;
55
56         return ((a_val & SIGN_BIT) ? t : -t);
57 }
58
59 static int ulaw2linear(unsigned char u_val)
60 {
61         int t;
62
63         /* Complement to obtain normal u-law value. */
64         u_val = ~u_val;
65
66         /*
67          * Extract and bias the quantization bits. Then
68          * shift up by the segment number and subtract out the bias.
69          */
70         t = ((u_val & QUANT_MASK) << 3) + BIAS;
71         t <<= ((unsigned)u_val & SEG_MASK) >> SEG_SHIFT;
72
73         return ((u_val & SIGN_BIT) ? (BIAS - t) : (t - BIAS));
74 }
75
76 /* 16384 entries per table */
77 static uint8_t linear_to_alaw[16384];
78 static uint8_t linear_to_ulaw[16384];
79
80 static void build_xlaw_table(uint8_t *linear_to_xlaw,
81                              int (*xlaw2linear)(unsigned char),
82                              int mask)
83 {
84     int i, j, v, v1, v2;
85
86     j = 0;
87     for(i=0;i<128;i++) {
88         if (i != 127) {
89             v1 = xlaw2linear(i ^ mask);
90             v2 = xlaw2linear((i + 1) ^ mask);
91             v = (v1 + v2 + 4) >> 3;
92         } else {
93             v = 8192;
94         }
95         for(;j<v;j++) {
96             linear_to_xlaw[8192 + j] = (i ^ mask);
97             if (j > 0)
98                 linear_to_xlaw[8192 - j] = (i ^ (mask ^ 0x80));
99         }
100     }
101     linear_to_xlaw[0] = linear_to_xlaw[1];
102 }
103
104 static int pcm_encode_init(AVCodecContext *avctx)
105 {
106     avctx->frame_size = 1;
107     switch(avctx->codec->id) {
108     case CODEC_ID_PCM_ALAW:
109         build_xlaw_table(linear_to_alaw, alaw2linear, 0xd5);
110         break;
111     case CODEC_ID_PCM_MULAW:
112         build_xlaw_table(linear_to_ulaw, ulaw2linear, 0xff);
113         break;
114     default:
115         break;
116     }
117
118     switch(avctx->codec->id) {
119     case CODEC_ID_PCM_S32LE:
120     case CODEC_ID_PCM_S32BE:
121     case CODEC_ID_PCM_U32LE:
122     case CODEC_ID_PCM_U32BE:
123         avctx->block_align = 4 * avctx->channels;
124         break;
125     case CODEC_ID_PCM_S24LE:
126     case CODEC_ID_PCM_S24BE:
127     case CODEC_ID_PCM_U24LE:
128     case CODEC_ID_PCM_U24BE:
129     case CODEC_ID_PCM_S24DAUD:
130         avctx->block_align = 3 * avctx->channels;
131         break;
132     case CODEC_ID_PCM_S16LE:
133     case CODEC_ID_PCM_S16BE:
134     case CODEC_ID_PCM_U16LE:
135     case CODEC_ID_PCM_U16BE:
136         avctx->block_align = 2 * avctx->channels;
137         break;
138     case CODEC_ID_PCM_S8:
139     case CODEC_ID_PCM_U8:
140     case CODEC_ID_PCM_MULAW:
141     case CODEC_ID_PCM_ALAW:
142         avctx->block_align = avctx->channels;
143         break;
144     default:
145         break;
146     }
147
148     avctx->coded_frame= avcodec_alloc_frame();
149     avctx->coded_frame->key_frame= 1;
150
151     return 0;
152 }
153
154 static int pcm_encode_close(AVCodecContext *avctx)
155 {
156     av_freep(&avctx->coded_frame);
157
158     return 0;
159 }
160
161 /**
162  * \brief convert samples from 16 bit
163  * \param bps byte per sample for the destination format, must be >= 2
164  * \param le 0 for big-, 1 for little-endian
165  * \param us 0 for signed, 1 for unsigned output
166  * \param samples input samples
167  * \param dst output samples
168  * \param n number of samples in samples buffer.
169  */
170 static inline void encode_from16(int bps, int le, int us,
171                                short **samples, uint8_t **dst, int n) {
172     int usum = us ? 0x8000 : 0;
173     if (bps > 2)
174         memset(*dst, 0, n * bps);
175     if (le) *dst += bps - 2;
176     for(;n>0;n--) {
177         register int v = *(*samples)++;
178         v += usum;
179         if (le) AV_WL16(*dst, v);
180         else    AV_WB16(*dst, v);
181         *dst += bps;
182     }
183     if (le) *dst -= bps - 2;
184 }
185
186 static int pcm_encode_frame(AVCodecContext *avctx,
187                             unsigned char *frame, int buf_size, void *data)
188 {
189     int n, sample_size, v;
190     short *samples;
191     unsigned char *dst;
192
193     switch(avctx->codec->id) {
194     case CODEC_ID_PCM_S32LE:
195     case CODEC_ID_PCM_S32BE:
196     case CODEC_ID_PCM_U32LE:
197     case CODEC_ID_PCM_U32BE:
198         sample_size = 4;
199         break;
200     case CODEC_ID_PCM_S24LE:
201     case CODEC_ID_PCM_S24BE:
202     case CODEC_ID_PCM_U24LE:
203     case CODEC_ID_PCM_U24BE:
204     case CODEC_ID_PCM_S24DAUD:
205         sample_size = 3;
206         break;
207     case CODEC_ID_PCM_S16LE:
208     case CODEC_ID_PCM_S16BE:
209     case CODEC_ID_PCM_U16LE:
210     case CODEC_ID_PCM_U16BE:
211         sample_size = 2;
212         break;
213     default:
214         sample_size = 1;
215         break;
216     }
217     n = buf_size / sample_size;
218     samples = data;
219     dst = frame;
220
221     switch(avctx->codec->id) {
222     case CODEC_ID_PCM_S32LE:
223         encode_from16(4, 1, 0, &samples, &dst, n);
224         break;
225     case CODEC_ID_PCM_S32BE:
226         encode_from16(4, 0, 0, &samples, &dst, n);
227         break;
228     case CODEC_ID_PCM_U32LE:
229         encode_from16(4, 1, 1, &samples, &dst, n);
230         break;
231     case CODEC_ID_PCM_U32BE:
232         encode_from16(4, 0, 1, &samples, &dst, n);
233         break;
234     case CODEC_ID_PCM_S24LE:
235         encode_from16(3, 1, 0, &samples, &dst, n);
236         break;
237     case CODEC_ID_PCM_S24BE:
238         encode_from16(3, 0, 0, &samples, &dst, n);
239         break;
240     case CODEC_ID_PCM_U24LE:
241         encode_from16(3, 1, 1, &samples, &dst, n);
242         break;
243     case CODEC_ID_PCM_U24BE:
244         encode_from16(3, 0, 1, &samples, &dst, n);
245         break;
246     case CODEC_ID_PCM_S24DAUD:
247         for(;n>0;n--) {
248             uint32_t tmp = ff_reverse[*samples >> 8] +
249                            (ff_reverse[*samples & 0xff] << 8);
250             tmp <<= 4; // sync flags would go here
251             dst[2] = tmp & 0xff;
252             tmp >>= 8;
253             dst[1] = tmp & 0xff;
254             dst[0] = tmp >> 8;
255             samples++;
256             dst += 3;
257         }
258         break;
259     case CODEC_ID_PCM_S16LE:
260         for(;n>0;n--) {
261             v = *samples++;
262             dst[0] = v & 0xff;
263             dst[1] = v >> 8;
264             dst += 2;
265         }
266         break;
267     case CODEC_ID_PCM_S16BE:
268         for(;n>0;n--) {
269             v = *samples++;
270             dst[0] = v >> 8;
271             dst[1] = v;
272             dst += 2;
273         }
274         break;
275     case CODEC_ID_PCM_U16LE:
276         for(;n>0;n--) {
277             v = *samples++;
278             v += 0x8000;
279             dst[0] = v & 0xff;
280             dst[1] = v >> 8;
281             dst += 2;
282         }
283         break;
284     case CODEC_ID_PCM_U16BE:
285         for(;n>0;n--) {
286             v = *samples++;
287             v += 0x8000;
288             dst[0] = v >> 8;
289             dst[1] = v;
290             dst += 2;
291         }
292         break;
293     case CODEC_ID_PCM_S8:
294         for(;n>0;n--) {
295             v = *samples++;
296             dst[0] = v >> 8;
297             dst++;
298         }
299         break;
300     case CODEC_ID_PCM_U8:
301         for(;n>0;n--) {
302             v = *samples++;
303             dst[0] = (v >> 8) + 128;
304             dst++;
305         }
306         break;
307     case CODEC_ID_PCM_ALAW:
308         for(;n>0;n--) {
309             v = *samples++;
310             dst[0] = linear_to_alaw[(v + 32768) >> 2];
311             dst++;
312         }
313         break;
314     case CODEC_ID_PCM_MULAW:
315         for(;n>0;n--) {
316             v = *samples++;
317             dst[0] = linear_to_ulaw[(v + 32768) >> 2];
318             dst++;
319         }
320         break;
321     default:
322         return -1;
323     }
324     //avctx->frame_size = (dst - frame) / (sample_size * avctx->channels);
325
326     return dst - frame;
327 }
328
329 typedef struct PCMDecode {
330     short table[256];
331 } PCMDecode;
332
333 static int pcm_decode_init(AVCodecContext * avctx)
334 {
335     PCMDecode *s = avctx->priv_data;
336     int i;
337
338     switch(avctx->codec->id) {
339     case CODEC_ID_PCM_ALAW:
340         for(i=0;i<256;i++)
341             s->table[i] = alaw2linear(i);
342         break;
343     case CODEC_ID_PCM_MULAW:
344         for(i=0;i<256;i++)
345             s->table[i] = ulaw2linear(i);
346         break;
347     default:
348         break;
349     }
350     return 0;
351 }
352
353 /**
354  * \brief convert samples to 16 bit
355  * \param bps byte per sample for the source format, must be >= 2
356  * \param le 0 for big-, 1 for little-endian
357  * \param us 0 for signed, 1 for unsigned input
358  * \param src input samples
359  * \param samples output samples
360  * \param src_len number of bytes in src
361  */
362 static inline void decode_to16(int bps, int le, int us,
363                                uint8_t **src, short **samples, int src_len)
364 {
365     int usum = us ? -0x8000 : 0;
366     register int n = src_len / bps;
367     if (le) *src += bps - 2;
368     for(;n>0;n--) {
369         register int v;
370         if (le) v = AV_RL16(*src);
371         else    v = AV_RB16(*src);
372         v += usum;
373         *(*samples)++ = v;
374         *src += bps;
375     }
376     if (le) *src -= bps - 2;
377 }
378
379 static int pcm_decode_frame(AVCodecContext *avctx,
380                             void *data, int *data_size,
381                             uint8_t *buf, int buf_size)
382 {
383     PCMDecode *s = avctx->priv_data;
384     int n;
385     short *samples;
386     uint8_t *src;
387
388     samples = data;
389     src = buf;
390
391     n= av_get_bits_per_sample(avctx->codec_id)/8;
392     if(n && buf_size % n){
393         av_log(avctx, AV_LOG_ERROR, "invalid PCM packet\n");
394         return -1;
395     }
396
397     buf_size= FFMIN(buf_size, *data_size/2);
398     *data_size=0;
399
400     switch(avctx->codec->id) {
401     case CODEC_ID_PCM_S32LE:
402         decode_to16(4, 1, 0, &src, &samples, buf_size);
403         break;
404     case CODEC_ID_PCM_S32BE:
405         decode_to16(4, 0, 0, &src, &samples, buf_size);
406         break;
407     case CODEC_ID_PCM_U32LE:
408         decode_to16(4, 1, 1, &src, &samples, buf_size);
409         break;
410     case CODEC_ID_PCM_U32BE:
411         decode_to16(4, 0, 1, &src, &samples, buf_size);
412         break;
413     case CODEC_ID_PCM_S24LE:
414         decode_to16(3, 1, 0, &src, &samples, buf_size);
415         break;
416     case CODEC_ID_PCM_S24BE:
417         decode_to16(3, 0, 0, &src, &samples, buf_size);
418         break;
419     case CODEC_ID_PCM_U24LE:
420         decode_to16(3, 1, 1, &src, &samples, buf_size);
421         break;
422     case CODEC_ID_PCM_U24BE:
423         decode_to16(3, 0, 1, &src, &samples, buf_size);
424         break;
425     case CODEC_ID_PCM_S24DAUD:
426         n = buf_size / 3;
427         for(;n>0;n--) {
428           uint32_t v = src[0] << 16 | src[1] << 8 | src[2];
429           v >>= 4; // sync flags are here
430           *samples++ = ff_reverse[(v >> 8) & 0xff] +
431                        (ff_reverse[v & 0xff] << 8);
432           src += 3;
433         }
434         break;
435     case CODEC_ID_PCM_S16LE:
436         n = buf_size >> 1;
437         for(;n>0;n--) {
438             *samples++ = src[0] | (src[1] << 8);
439             src += 2;
440         }
441         break;
442     case CODEC_ID_PCM_S16BE:
443         n = buf_size >> 1;
444         for(;n>0;n--) {
445             *samples++ = (src[0] << 8) | src[1];
446             src += 2;
447         }
448         break;
449     case CODEC_ID_PCM_U16LE:
450         n = buf_size >> 1;
451         for(;n>0;n--) {
452             *samples++ = (src[0] | (src[1] << 8)) - 0x8000;
453             src += 2;
454         }
455         break;
456     case CODEC_ID_PCM_U16BE:
457         n = buf_size >> 1;
458         for(;n>0;n--) {
459             *samples++ = ((src[0] << 8) | src[1]) - 0x8000;
460             src += 2;
461         }
462         break;
463     case CODEC_ID_PCM_S8:
464         n = buf_size;
465         for(;n>0;n--) {
466             *samples++ = src[0] << 8;
467             src++;
468         }
469         break;
470     case CODEC_ID_PCM_U8:
471         n = buf_size;
472         for(;n>0;n--) {
473             *samples++ = ((int)src[0] - 128) << 8;
474             src++;
475         }
476         break;
477     case CODEC_ID_PCM_ALAW:
478     case CODEC_ID_PCM_MULAW:
479         n = buf_size;
480         for(;n>0;n--) {
481             *samples++ = s->table[src[0]];
482             src++;
483         }
484         break;
485     default:
486         return -1;
487     }
488     *data_size = (uint8_t *)samples - (uint8_t *)data;
489     return src - buf;
490 }
491
492 #define PCM_CODEC(id, name)                     \
493 AVCodec name ## _encoder = {                    \
494     #name,                                      \
495     CODEC_TYPE_AUDIO,                           \
496     id,                                         \
497     0,                                          \
498     pcm_encode_init,                            \
499     pcm_encode_frame,                           \
500     pcm_encode_close,                           \
501     NULL,                                       \
502 };                                              \
503 AVCodec name ## _decoder = {                    \
504     #name,                                      \
505     CODEC_TYPE_AUDIO,                           \
506     id,                                         \
507     sizeof(PCMDecode),                          \
508     pcm_decode_init,                            \
509     NULL,                                       \
510     NULL,                                       \
511     pcm_decode_frame,                           \
512 }
513
514 PCM_CODEC(CODEC_ID_PCM_S32LE, pcm_s32le);
515 PCM_CODEC(CODEC_ID_PCM_S32BE, pcm_s32be);
516 PCM_CODEC(CODEC_ID_PCM_U32LE, pcm_u32le);
517 PCM_CODEC(CODEC_ID_PCM_U32BE, pcm_u32be);
518 PCM_CODEC(CODEC_ID_PCM_S24LE, pcm_s24le);
519 PCM_CODEC(CODEC_ID_PCM_S24BE, pcm_s24be);
520 PCM_CODEC(CODEC_ID_PCM_U24LE, pcm_u24le);
521 PCM_CODEC(CODEC_ID_PCM_U24BE, pcm_u24be);
522 PCM_CODEC(CODEC_ID_PCM_S24DAUD, pcm_s24daud);
523 PCM_CODEC(CODEC_ID_PCM_S16LE, pcm_s16le);
524 PCM_CODEC(CODEC_ID_PCM_S16BE, pcm_s16be);
525 PCM_CODEC(CODEC_ID_PCM_U16LE, pcm_u16le);
526 PCM_CODEC(CODEC_ID_PCM_U16BE, pcm_u16be);
527 PCM_CODEC(CODEC_ID_PCM_S8, pcm_s8);
528 PCM_CODEC(CODEC_ID_PCM_U8, pcm_u8);
529 PCM_CODEC(CODEC_ID_PCM_ALAW, pcm_alaw);
530 PCM_CODEC(CODEC_ID_PCM_MULAW, pcm_mulaw);
531
532 #undef PCM_CODEC