Add simpler/cleaner/faster F32BE encoding/decoding.
[ffmpeg.git] / libavcodec / pcm.c
1 /*
2  * PCM codecs
3  * Copyright (c) 2001 Fabrice Bellard.
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file pcm.c
24  * PCM codecs
25  */
26
27 #include "avcodec.h"
28 #include "bitstream.h" // for ff_reverse
29 #include "bytestream.h"
30
31 #define MAX_CHANNELS 64
32
33 /* from g711.c by SUN microsystems (unrestricted use) */
34
35 #define         SIGN_BIT        (0x80)      /* Sign bit for a A-law byte. */
36 #define         QUANT_MASK      (0xf)       /* Quantization field mask. */
37 #define         NSEGS           (8)         /* Number of A-law segments. */
38 #define         SEG_SHIFT       (4)         /* Left shift for segment number. */
39 #define         SEG_MASK        (0x70)      /* Segment field mask. */
40
41 #define         BIAS            (0x84)      /* Bias for linear code. */
42
43 /*
44  * alaw2linear() - Convert an A-law value to 16-bit linear PCM
45  *
46  */
47 static av_cold int alaw2linear(unsigned char a_val)
48 {
49         int t;
50         int seg;
51
52         a_val ^= 0x55;
53
54         t = a_val & QUANT_MASK;
55         seg = ((unsigned)a_val & SEG_MASK) >> SEG_SHIFT;
56         if(seg) t= (t + t + 1 + 32) << (seg + 2);
57         else    t= (t + t + 1     ) << 3;
58
59         return (a_val & SIGN_BIT) ? t : -t;
60 }
61
62 static av_cold int ulaw2linear(unsigned char u_val)
63 {
64         int t;
65
66         /* Complement to obtain normal u-law value. */
67         u_val = ~u_val;
68
69         /*
70          * Extract and bias the quantization bits. Then
71          * shift up by the segment number and subtract out the bias.
72          */
73         t = ((u_val & QUANT_MASK) << 3) + BIAS;
74         t <<= ((unsigned)u_val & SEG_MASK) >> SEG_SHIFT;
75
76         return (u_val & SIGN_BIT) ? (BIAS - t) : (t - BIAS);
77 }
78
79 /* 16384 entries per table */
80 static uint8_t linear_to_alaw[16384];
81 static uint8_t linear_to_ulaw[16384];
82
83 static av_cold void build_xlaw_table(uint8_t *linear_to_xlaw,
84                              int (*xlaw2linear)(unsigned char),
85                              int mask)
86 {
87     int i, j, v, v1, v2;
88
89     j = 0;
90     for(i=0;i<128;i++) {
91         if (i != 127) {
92             v1 = xlaw2linear(i ^ mask);
93             v2 = xlaw2linear((i + 1) ^ mask);
94             v = (v1 + v2 + 4) >> 3;
95         } else {
96             v = 8192;
97         }
98         for(;j<v;j++) {
99             linear_to_xlaw[8192 + j] = (i ^ mask);
100             if (j > 0)
101                 linear_to_xlaw[8192 - j] = (i ^ (mask ^ 0x80));
102         }
103     }
104     linear_to_xlaw[0] = linear_to_xlaw[1];
105 }
106
107 static av_cold int pcm_encode_init(AVCodecContext *avctx)
108 {
109     avctx->frame_size = 1;
110     if (avctx->codec->id==CODEC_ID_PCM_F32BE && avctx->sample_fmt!=SAMPLE_FMT_FLT) {
111         return -1;
112     }
113     switch(avctx->codec->id) {
114     case CODEC_ID_PCM_ALAW:
115         build_xlaw_table(linear_to_alaw, alaw2linear, 0xd5);
116         break;
117     case CODEC_ID_PCM_MULAW:
118         build_xlaw_table(linear_to_ulaw, ulaw2linear, 0xff);
119         break;
120     default:
121         break;
122     }
123
124     avctx->block_align = avctx->channels * av_get_bits_per_sample(avctx->codec->id)/8;
125     avctx->coded_frame= avcodec_alloc_frame();
126     avctx->coded_frame->key_frame= 1;
127
128     return 0;
129 }
130
131 static av_cold int pcm_encode_close(AVCodecContext *avctx)
132 {
133     av_freep(&avctx->coded_frame);
134
135     return 0;
136 }
137
138 /**
139  * \brief convert samples from 16 bit
140  * \param bps byte per sample for the destination format, must be >= 2
141  * \param le 0 for big-, 1 for little-endian
142  * \param us 0 for signed, 1 for unsigned output
143  * \param samples input samples
144  * \param dst output samples
145  * \param n number of samples in samples buffer.
146  */
147 static inline void encode_from16(int bps, int le, int us,
148                                short **samples, uint8_t **dst, int n) {
149     int usum = us ? 0x8000 : 0;
150     if (bps > 2)
151         memset(*dst, 0, n * bps);
152     if (le) *dst += bps - 2;
153     for(;n>0;n--) {
154         register int v = *(*samples)++;
155         v += usum;
156         if (le) AV_WL16(*dst, v);
157         else    AV_WB16(*dst, v);
158         *dst += bps;
159     }
160     if (le) *dst -= bps - 2;
161 }
162
163 /**
164  * Write PCM samples macro
165  * @param type Datatype of native machine format
166  * @param endian bytestream_put_xxx() suffix
167  * @param src Source pointer (variable name)
168  * @param dst Destination pointer (variable name)
169  * @param n Total number of samples (variable name)
170  * @param offset Sample value offset
171  */
172 #define ENCODE(type, endian, src, dst, n, offset) \
173 { \
174     type *samples = src; \
175     for(;n>0;n--) { \
176         register type v = *samples++ + offset; \
177         bytestream_put_##endian(&dst, v); \
178     } \
179 }
180
181 static int pcm_encode_frame(AVCodecContext *avctx,
182                             unsigned char *frame, int buf_size, void *data)
183 {
184     int n, sample_size, v;
185     short *samples;
186     unsigned char *dst;
187
188     sample_size = av_get_bits_per_sample(avctx->codec->id)/8;
189     n = buf_size / sample_size;
190     samples = data;
191     dst = frame;
192
193     switch(avctx->codec->id) {
194     case CODEC_ID_PCM_F32BE:
195         ENCODE(int32_t, be32, samples, dst, n, 0)
196         break;
197     case CODEC_ID_PCM_S32LE:
198         encode_from16(4, 1, 0, &samples, &dst, n);
199         break;
200     case CODEC_ID_PCM_S32BE:
201         encode_from16(4, 0, 0, &samples, &dst, n);
202         break;
203     case CODEC_ID_PCM_U32LE:
204         encode_from16(4, 1, 1, &samples, &dst, n);
205         break;
206     case CODEC_ID_PCM_U32BE:
207         encode_from16(4, 0, 1, &samples, &dst, n);
208         break;
209     case CODEC_ID_PCM_S24LE:
210         encode_from16(3, 1, 0, &samples, &dst, n);
211         break;
212     case CODEC_ID_PCM_S24BE:
213         encode_from16(3, 0, 0, &samples, &dst, n);
214         break;
215     case CODEC_ID_PCM_U24LE:
216         encode_from16(3, 1, 1, &samples, &dst, n);
217         break;
218     case CODEC_ID_PCM_U24BE:
219         encode_from16(3, 0, 1, &samples, &dst, n);
220         break;
221     case CODEC_ID_PCM_S24DAUD:
222         for(;n>0;n--) {
223             uint32_t tmp = ff_reverse[(*samples >> 8) & 0xff] +
224                            (ff_reverse[*samples & 0xff] << 8);
225             tmp <<= 4; // sync flags would go here
226             bytestream_put_be24(&dst, tmp);
227             samples++;
228         }
229         break;
230     case CODEC_ID_PCM_S16LE:
231         for(;n>0;n--) {
232             v = *samples++;
233             bytestream_put_le16(&dst, v);
234         }
235         break;
236     case CODEC_ID_PCM_S16BE:
237         for(;n>0;n--) {
238             v = *samples++;
239             bytestream_put_be16(&dst, v);
240         }
241         break;
242     case CODEC_ID_PCM_U16LE:
243         for(;n>0;n--) {
244             v = *samples++;
245             v += 0x8000;
246             bytestream_put_le16(&dst, v);
247         }
248         break;
249     case CODEC_ID_PCM_U16BE:
250         for(;n>0;n--) {
251             v = *samples++;
252             v += 0x8000;
253             bytestream_put_be16(&dst, v);
254         }
255         break;
256     case CODEC_ID_PCM_S8:
257         for(;n>0;n--) {
258             v = *samples++;
259             *dst++ = v >> 8;
260         }
261         break;
262     case CODEC_ID_PCM_U8:
263         for(;n>0;n--) {
264             v = *samples++;
265             *dst++ = (v >> 8) + 128;
266         }
267         break;
268     case CODEC_ID_PCM_ZORK:
269         for(;n>0;n--) {
270             v= *samples++ >> 8;
271             if(v<0)   v = -v;
272             else      v+= 128;
273             *dst++ = v;
274         }
275         break;
276     case CODEC_ID_PCM_ALAW:
277         for(;n>0;n--) {
278             v = *samples++;
279             *dst++ = linear_to_alaw[(v + 32768) >> 2];
280         }
281         break;
282     case CODEC_ID_PCM_MULAW:
283         for(;n>0;n--) {
284             v = *samples++;
285             *dst++ = linear_to_ulaw[(v + 32768) >> 2];
286         }
287         break;
288     default:
289         return -1;
290     }
291     //avctx->frame_size = (dst - frame) / (sample_size * avctx->channels);
292
293     return dst - frame;
294 }
295
296 typedef struct PCMDecode {
297     short table[256];
298 } PCMDecode;
299
300 static av_cold int pcm_decode_init(AVCodecContext * avctx)
301 {
302     PCMDecode *s = avctx->priv_data;
303     int i;
304
305     switch(avctx->codec->id) {
306     case CODEC_ID_PCM_ALAW:
307         for(i=0;i<256;i++)
308             s->table[i] = alaw2linear(i);
309         break;
310     case CODEC_ID_PCM_MULAW:
311         for(i=0;i<256;i++)
312             s->table[i] = ulaw2linear(i);
313         break;
314     default:
315         break;
316     }
317
318     avctx->sample_fmt = avctx->codec->sample_fmts[0];
319     return 0;
320 }
321
322 /**
323  * \brief convert samples to 16 bit
324  * \param bps byte per sample for the source format, must be >= 2
325  * \param le 0 for big-, 1 for little-endian
326  * \param us 0 for signed, 1 for unsigned input
327  * \param src input samples
328  * \param samples output samples
329  * \param src_len number of bytes in src
330  */
331 static inline void decode_to16(int bps, int le, int us,
332                                const uint8_t **src, short **samples, int src_len)
333 {
334     int usum = us ? -0x8000 : 0;
335     register int n = src_len / bps;
336     if (le) *src += bps - 2;
337     for(;n>0;n--) {
338         register int v;
339         if (le) v = AV_RL16(*src);
340         else    v = AV_RB16(*src);
341         v += usum;
342         *(*samples)++ = v;
343         *src += bps;
344     }
345     if (le) *src -= bps - 2;
346 }
347
348 /**
349  * Read PCM samples macro
350  * @param type Datatype of native machine format
351  * @param endian bytestream_get_xxx() endian suffix
352  * @param src Source pointer (variable name)
353  * @param dst Destination pointer (variable name)
354  * @param n Total number of samples (variable name)
355  * @param offset Sample value offset
356  */
357 #define DECODE(type, endian, src, dst, n, offset) \
358 { \
359     type *dst2 = (type*)dst; \
360     for(;n>0;n--) { \
361         register type v = bytestream_get_##endian(&src); \
362         *dst2++ = v - offset; \
363     } \
364     dst = (short*)dst2; \
365 }
366
367 static int pcm_decode_frame(AVCodecContext *avctx,
368                             void *data, int *data_size,
369                             const uint8_t *buf, int buf_size)
370 {
371     PCMDecode *s = avctx->priv_data;
372     int sample_size, c, n;
373     short *samples;
374     const uint8_t *src, *src2[MAX_CHANNELS];
375
376     samples = data;
377     src = buf;
378
379     if(avctx->channels <= 0 || avctx->channels > MAX_CHANNELS){
380         av_log(avctx, AV_LOG_ERROR, "PCM channels out of bounds\n");
381         return -1;
382     }
383
384     sample_size = av_get_bits_per_sample(avctx->codec_id)/8;
385
386     n = avctx->channels * sample_size;
387     /* av_get_bits_per_sample returns 0 for CODEC_ID_PCM_DVD */
388     if (CODEC_ID_PCM_DVD == avctx->codec_id)
389         /* 2 samples are interleaved per block in PCM_DVD */
390         n = 2 * avctx->channels * avctx->bits_per_sample/8;
391
392     if(n && buf_size % n){
393         av_log(avctx, AV_LOG_ERROR, "invalid PCM packet\n");
394         return -1;
395     }
396
397     buf_size= FFMIN(buf_size, *data_size/2);
398     *data_size=0;
399
400     n = buf_size/sample_size;
401
402     switch(avctx->codec->id) {
403     case CODEC_ID_PCM_F32BE:
404         DECODE(int32_t, be32, src, samples, n, 0)
405         break;
406     case CODEC_ID_PCM_S32LE:
407         decode_to16(4, 1, 0, &src, &samples, buf_size);
408         break;
409     case CODEC_ID_PCM_S32BE:
410         decode_to16(4, 0, 0, &src, &samples, buf_size);
411         break;
412     case CODEC_ID_PCM_U32LE:
413         decode_to16(4, 1, 1, &src, &samples, buf_size);
414         break;
415     case CODEC_ID_PCM_U32BE:
416         decode_to16(4, 0, 1, &src, &samples, buf_size);
417         break;
418     case CODEC_ID_PCM_S24LE:
419         decode_to16(3, 1, 0, &src, &samples, buf_size);
420         break;
421     case CODEC_ID_PCM_S24BE:
422         decode_to16(3, 0, 0, &src, &samples, buf_size);
423         break;
424     case CODEC_ID_PCM_U24LE:
425         decode_to16(3, 1, 1, &src, &samples, buf_size);
426         break;
427     case CODEC_ID_PCM_U24BE:
428         decode_to16(3, 0, 1, &src, &samples, buf_size);
429         break;
430     case CODEC_ID_PCM_S24DAUD:
431         for(;n>0;n--) {
432           uint32_t v = bytestream_get_be24(&src);
433           v >>= 4; // sync flags are here
434           *samples++ = ff_reverse[(v >> 8) & 0xff] +
435                        (ff_reverse[v & 0xff] << 8);
436         }
437         break;
438     case CODEC_ID_PCM_S16LE:
439         for(;n>0;n--) {
440             *samples++ = bytestream_get_le16(&src);
441         }
442         break;
443     case CODEC_ID_PCM_S16LE_PLANAR:
444         n /= avctx->channels;
445         for(c=0;c<avctx->channels;c++)
446             src2[c] = &src[c*n];
447         for(n>>=1;n>0;n--)
448             for(c=0;c<avctx->channels;c++)
449                 *samples++ = bytestream_get_le16(&src2[c]);
450         src = src2[avctx->channels-1];
451         break;
452     case CODEC_ID_PCM_S16BE:
453         for(;n>0;n--) {
454             *samples++ = bytestream_get_be16(&src);
455         }
456         break;
457     case CODEC_ID_PCM_U16LE:
458         for(;n>0;n--) {
459             *samples++ = bytestream_get_le16(&src) - 0x8000;
460         }
461         break;
462     case CODEC_ID_PCM_U16BE:
463         for(;n>0;n--) {
464             *samples++ = bytestream_get_be16(&src) - 0x8000;
465         }
466         break;
467     case CODEC_ID_PCM_S8:
468         for(;n>0;n--) {
469             *samples++ = *src++ << 8;
470         }
471         break;
472     case CODEC_ID_PCM_U8:
473         for(;n>0;n--) {
474             *samples++ = ((int)*src++ - 128) << 8;
475         }
476         break;
477     case CODEC_ID_PCM_ZORK:
478         for(;n>0;n--) {
479             int x= *src++;
480             if(x&128) x-= 128;
481             else      x = -x;
482             *samples++ = x << 8;
483         }
484         break;
485     case CODEC_ID_PCM_ALAW:
486     case CODEC_ID_PCM_MULAW:
487         for(;n>0;n--) {
488             *samples++ = s->table[*src++];
489         }
490         break;
491     case CODEC_ID_PCM_DVD:
492         if(avctx->bits_per_sample != 20 && avctx->bits_per_sample != 24) {
493             av_log(avctx, AV_LOG_ERROR, "PCM DVD unsupported sample depth\n");
494             return -1;
495         } else {
496             int jump = avctx->channels * (avctx->bits_per_sample-16) / 4;
497             n = buf_size / (avctx->channels * 2 * avctx->bits_per_sample / 8);
498             while (n--) {
499                 for (c=0; c < 2*avctx->channels; c++)
500                     *samples++ = bytestream_get_be16(&src);
501                 src += jump;
502             }
503         }
504         break;
505     default:
506         return -1;
507     }
508     *data_size = (uint8_t *)samples - (uint8_t *)data;
509     return src - buf;
510 }
511
512 #ifdef CONFIG_ENCODERS
513 #define PCM_ENCODER(id,sample_fmt_,name,long_name_) \
514 AVCodec name ## _encoder = {                    \
515     #name,                                      \
516     CODEC_TYPE_AUDIO,                           \
517     id,                                         \
518     0,                                          \
519     pcm_encode_init,                            \
520     pcm_encode_frame,                           \
521     pcm_encode_close,                           \
522     NULL,                                       \
523     .sample_fmts = (enum SampleFormat[]){sample_fmt_,SAMPLE_FMT_NONE}, \
524     .long_name = NULL_IF_CONFIG_SMALL(long_name_), \
525 };
526 #else
527 #define PCM_ENCODER(id,sample_fmt_,name,long_name_)
528 #endif
529
530 #ifdef CONFIG_DECODERS
531 #define PCM_DECODER(id,sample_fmt_,name,long_name_)         \
532 AVCodec name ## _decoder = {                    \
533     #name,                                      \
534     CODEC_TYPE_AUDIO,                           \
535     id,                                         \
536     sizeof(PCMDecode),                          \
537     pcm_decode_init,                            \
538     NULL,                                       \
539     NULL,                                       \
540     pcm_decode_frame,                           \
541     .sample_fmts = (enum SampleFormat[]){sample_fmt_,SAMPLE_FMT_NONE}, \
542     .long_name = NULL_IF_CONFIG_SMALL(long_name_), \
543 };
544 #else
545 #define PCM_DECODER(id,sample_fmt_,name,long_name_)
546 #endif
547
548 #define PCM_CODEC(id, sample_fmt_, name, long_name_)         \
549     PCM_ENCODER(id,sample_fmt_,name,long_name_) PCM_DECODER(id,sample_fmt_,name,long_name_)
550
551 /* Note: Do not forget to add new entries to the Makefile as well. */
552 PCM_CODEC  (CODEC_ID_PCM_ALAW,  SAMPLE_FMT_S16, pcm_alaw, "A-law PCM");
553 PCM_CODEC  (CODEC_ID_PCM_DVD,   SAMPLE_FMT_S16, pcm_dvd, "signed 16|20|24-bit big-endian PCM");
554 PCM_CODEC  (CODEC_ID_PCM_F32BE, SAMPLE_FMT_FLT, pcm_f32be, "32-bit floating point big-endian PCM");
555 PCM_CODEC  (CODEC_ID_PCM_MULAW, SAMPLE_FMT_S16, pcm_mulaw, "mu-law PCM");
556 PCM_CODEC  (CODEC_ID_PCM_S8,    SAMPLE_FMT_S16, pcm_s8, "signed 8-bit PCM");
557 PCM_CODEC  (CODEC_ID_PCM_S16BE, SAMPLE_FMT_S16, pcm_s16be, "signed 16-bit big-endian PCM");
558 PCM_CODEC  (CODEC_ID_PCM_S16LE, SAMPLE_FMT_S16, pcm_s16le, "signed 16-bit little-endian PCM");
559 PCM_DECODER(CODEC_ID_PCM_S16LE_PLANAR, SAMPLE_FMT_S16, pcm_s16le_planar, "16-bit little-endian planar PCM");
560 PCM_CODEC  (CODEC_ID_PCM_S24BE, SAMPLE_FMT_S16, pcm_s24be, "signed 24-bit big-endian PCM");
561 PCM_CODEC  (CODEC_ID_PCM_S24DAUD, SAMPLE_FMT_S16,  pcm_s24daud, "D-Cinema audio signed 24-bit PCM");
562 PCM_CODEC  (CODEC_ID_PCM_S24LE, SAMPLE_FMT_S16, pcm_s24le, "signed 24-bit little-endian PCM");
563 PCM_CODEC  (CODEC_ID_PCM_S32BE, SAMPLE_FMT_S16, pcm_s32be, "signed 32-bit big-endian PCM");
564 PCM_CODEC  (CODEC_ID_PCM_S32LE, SAMPLE_FMT_S16, pcm_s32le, "signed 32-bit little-endian PCM");
565 PCM_CODEC  (CODEC_ID_PCM_U8,    SAMPLE_FMT_S16, pcm_u8, "unsigned 8-bit PCM");
566 PCM_CODEC  (CODEC_ID_PCM_U16BE, SAMPLE_FMT_S16, pcm_u16be, "unsigned 16-bit big-endian PCM");
567 PCM_CODEC  (CODEC_ID_PCM_U16LE, SAMPLE_FMT_S16, pcm_u16le, "unsigned 16-bit little-endian PCM");
568 PCM_CODEC  (CODEC_ID_PCM_U24BE, SAMPLE_FMT_S16, pcm_u24be, "unsigned 24-bit big-endian PCM");
569 PCM_CODEC  (CODEC_ID_PCM_U24LE, SAMPLE_FMT_S16, pcm_u24le, "unsigned 24-bit little-endian PCM");
570 PCM_CODEC  (CODEC_ID_PCM_U32BE, SAMPLE_FMT_S16, pcm_u32be, "unsigned 32-bit big-endian PCM");
571 PCM_CODEC  (CODEC_ID_PCM_U32LE, SAMPLE_FMT_S16, pcm_u32le, "unsigned 32-bit little-endian PCM");
572 PCM_CODEC  (CODEC_ID_PCM_ZORK,  SAMPLE_FMT_S16, pcm_zork, "Zork PCM");