Modify all codecs to report their supported input and output sample format(s).
[ffmpeg.git] / libavcodec / pcm.c
1 /*
2  * PCM codecs
3  * Copyright (c) 2001 Fabrice Bellard.
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file pcm.c
24  * PCM codecs
25  */
26
27 #include "avcodec.h"
28 #include "bitstream.h" // for ff_reverse
29 #include "bytestream.h"
30
31 #define MAX_CHANNELS 64
32
33 /* from g711.c by SUN microsystems (unrestricted use) */
34
35 #define         SIGN_BIT        (0x80)      /* Sign bit for a A-law byte. */
36 #define         QUANT_MASK      (0xf)       /* Quantization field mask. */
37 #define         NSEGS           (8)         /* Number of A-law segments. */
38 #define         SEG_SHIFT       (4)         /* Left shift for segment number. */
39 #define         SEG_MASK        (0x70)      /* Segment field mask. */
40
41 #define         BIAS            (0x84)      /* Bias for linear code. */
42
43 /*
44  * alaw2linear() - Convert an A-law value to 16-bit linear PCM
45  *
46  */
47 static av_cold int alaw2linear(unsigned char a_val)
48 {
49         int t;
50         int seg;
51
52         a_val ^= 0x55;
53
54         t = a_val & QUANT_MASK;
55         seg = ((unsigned)a_val & SEG_MASK) >> SEG_SHIFT;
56         if(seg) t= (t + t + 1 + 32) << (seg + 2);
57         else    t= (t + t + 1     ) << 3;
58
59         return (a_val & SIGN_BIT) ? t : -t;
60 }
61
62 static av_cold int ulaw2linear(unsigned char u_val)
63 {
64         int t;
65
66         /* Complement to obtain normal u-law value. */
67         u_val = ~u_val;
68
69         /*
70          * Extract and bias the quantization bits. Then
71          * shift up by the segment number and subtract out the bias.
72          */
73         t = ((u_val & QUANT_MASK) << 3) + BIAS;
74         t <<= ((unsigned)u_val & SEG_MASK) >> SEG_SHIFT;
75
76         return (u_val & SIGN_BIT) ? (BIAS - t) : (t - BIAS);
77 }
78
79 /* 16384 entries per table */
80 static uint8_t linear_to_alaw[16384];
81 static uint8_t linear_to_ulaw[16384];
82
83 static av_cold void build_xlaw_table(uint8_t *linear_to_xlaw,
84                              int (*xlaw2linear)(unsigned char),
85                              int mask)
86 {
87     int i, j, v, v1, v2;
88
89     j = 0;
90     for(i=0;i<128;i++) {
91         if (i != 127) {
92             v1 = xlaw2linear(i ^ mask);
93             v2 = xlaw2linear((i + 1) ^ mask);
94             v = (v1 + v2 + 4) >> 3;
95         } else {
96             v = 8192;
97         }
98         for(;j<v;j++) {
99             linear_to_xlaw[8192 + j] = (i ^ mask);
100             if (j > 0)
101                 linear_to_xlaw[8192 - j] = (i ^ (mask ^ 0x80));
102         }
103     }
104     linear_to_xlaw[0] = linear_to_xlaw[1];
105 }
106
107 static av_cold int pcm_encode_init(AVCodecContext *avctx)
108 {
109     avctx->frame_size = 1;
110     if (avctx->codec->id==CODEC_ID_PCM_F32BE && avctx->sample_fmt!=SAMPLE_FMT_FLT) {
111         return -1;
112     }
113     switch(avctx->codec->id) {
114     case CODEC_ID_PCM_ALAW:
115         build_xlaw_table(linear_to_alaw, alaw2linear, 0xd5);
116         break;
117     case CODEC_ID_PCM_MULAW:
118         build_xlaw_table(linear_to_ulaw, ulaw2linear, 0xff);
119         break;
120     default:
121         break;
122     }
123
124     switch(avctx->codec->id) {
125     case CODEC_ID_PCM_S32LE:
126     case CODEC_ID_PCM_S32BE:
127     case CODEC_ID_PCM_U32LE:
128     case CODEC_ID_PCM_U32BE:
129     case CODEC_ID_PCM_F32BE:
130         avctx->block_align = 4 * avctx->channels;
131         break;
132     case CODEC_ID_PCM_S24LE:
133     case CODEC_ID_PCM_S24BE:
134     case CODEC_ID_PCM_U24LE:
135     case CODEC_ID_PCM_U24BE:
136     case CODEC_ID_PCM_S24DAUD:
137         avctx->block_align = 3 * avctx->channels;
138         break;
139     case CODEC_ID_PCM_S16LE:
140     case CODEC_ID_PCM_S16BE:
141     case CODEC_ID_PCM_U16LE:
142     case CODEC_ID_PCM_U16BE:
143         avctx->block_align = 2 * avctx->channels;
144         break;
145     case CODEC_ID_PCM_S8:
146     case CODEC_ID_PCM_U8:
147     case CODEC_ID_PCM_MULAW:
148     case CODEC_ID_PCM_ALAW:
149         avctx->block_align = avctx->channels;
150         break;
151     default:
152         break;
153     }
154
155     avctx->coded_frame= avcodec_alloc_frame();
156     avctx->coded_frame->key_frame= 1;
157
158     return 0;
159 }
160
161 static av_cold int pcm_encode_close(AVCodecContext *avctx)
162 {
163     av_freep(&avctx->coded_frame);
164
165     return 0;
166 }
167
168 /**
169  * \brief convert samples from 16 bit
170  * \param bps byte per sample for the destination format, must be >= 2
171  * \param le 0 for big-, 1 for little-endian
172  * \param us 0 for signed, 1 for unsigned output
173  * \param samples input samples
174  * \param dst output samples
175  * \param n number of samples in samples buffer.
176  */
177 static inline void encode_from16(int bps, int le, int us,
178                                short **samples, uint8_t **dst, int n) {
179     int usum = us ? 0x8000 : 0;
180     if (bps > 2)
181         memset(*dst, 0, n * bps);
182     if (le) *dst += bps - 2;
183     for(;n>0;n--) {
184         register int v = *(*samples)++;
185         v += usum;
186         if (le) AV_WL16(*dst, v);
187         else    AV_WB16(*dst, v);
188         *dst += bps;
189     }
190     if (le) *dst -= bps - 2;
191 }
192
193 static int pcm_encode_frame(AVCodecContext *avctx,
194                             unsigned char *frame, int buf_size, void *data)
195 {
196     int n, sample_size, v;
197     short *samples;
198     unsigned char *dst;
199
200     switch(avctx->codec->id) {
201     case CODEC_ID_PCM_S32LE:
202     case CODEC_ID_PCM_S32BE:
203     case CODEC_ID_PCM_U32LE:
204     case CODEC_ID_PCM_U32BE:
205     case CODEC_ID_PCM_F32BE:
206         sample_size = 4;
207         break;
208     case CODEC_ID_PCM_S24LE:
209     case CODEC_ID_PCM_S24BE:
210     case CODEC_ID_PCM_U24LE:
211     case CODEC_ID_PCM_U24BE:
212     case CODEC_ID_PCM_S24DAUD:
213         sample_size = 3;
214         break;
215     case CODEC_ID_PCM_S16LE:
216     case CODEC_ID_PCM_S16BE:
217     case CODEC_ID_PCM_U16LE:
218     case CODEC_ID_PCM_U16BE:
219         sample_size = 2;
220         break;
221     default:
222         sample_size = 1;
223         break;
224     }
225     n = buf_size / sample_size;
226     samples = data;
227     dst = frame;
228
229     switch(avctx->codec->id) {
230     case CODEC_ID_PCM_F32BE:
231         {
232         float *fsamples = data;
233         for(;n>0;n--) {
234             float fv = *fsamples++;
235             bytestream_put_be32(&dst, av_flt2int(fv));
236         }
237         samples = (void*)fsamples;
238         }
239         break;
240     case CODEC_ID_PCM_S32LE:
241         encode_from16(4, 1, 0, &samples, &dst, n);
242         break;
243     case CODEC_ID_PCM_S32BE:
244         encode_from16(4, 0, 0, &samples, &dst, n);
245         break;
246     case CODEC_ID_PCM_U32LE:
247         encode_from16(4, 1, 1, &samples, &dst, n);
248         break;
249     case CODEC_ID_PCM_U32BE:
250         encode_from16(4, 0, 1, &samples, &dst, n);
251         break;
252     case CODEC_ID_PCM_S24LE:
253         encode_from16(3, 1, 0, &samples, &dst, n);
254         break;
255     case CODEC_ID_PCM_S24BE:
256         encode_from16(3, 0, 0, &samples, &dst, n);
257         break;
258     case CODEC_ID_PCM_U24LE:
259         encode_from16(3, 1, 1, &samples, &dst, n);
260         break;
261     case CODEC_ID_PCM_U24BE:
262         encode_from16(3, 0, 1, &samples, &dst, n);
263         break;
264     case CODEC_ID_PCM_S24DAUD:
265         for(;n>0;n--) {
266             uint32_t tmp = ff_reverse[*samples >> 8] +
267                            (ff_reverse[*samples & 0xff] << 8);
268             tmp <<= 4; // sync flags would go here
269             bytestream_put_be24(&dst, tmp);
270             samples++;
271         }
272         break;
273     case CODEC_ID_PCM_S16LE:
274         for(;n>0;n--) {
275             v = *samples++;
276             bytestream_put_le16(&dst, v);
277         }
278         break;
279     case CODEC_ID_PCM_S16BE:
280         for(;n>0;n--) {
281             v = *samples++;
282             bytestream_put_be16(&dst, v);
283         }
284         break;
285     case CODEC_ID_PCM_U16LE:
286         for(;n>0;n--) {
287             v = *samples++;
288             v += 0x8000;
289             bytestream_put_le16(&dst, v);
290         }
291         break;
292     case CODEC_ID_PCM_U16BE:
293         for(;n>0;n--) {
294             v = *samples++;
295             v += 0x8000;
296             bytestream_put_be16(&dst, v);
297         }
298         break;
299     case CODEC_ID_PCM_S8:
300         for(;n>0;n--) {
301             v = *samples++;
302             *dst++ = v >> 8;
303         }
304         break;
305     case CODEC_ID_PCM_U8:
306         for(;n>0;n--) {
307             v = *samples++;
308             *dst++ = (v >> 8) + 128;
309         }
310         break;
311     case CODEC_ID_PCM_ZORK:
312         for(;n>0;n--) {
313             v= *samples++ >> 8;
314             if(v<0)   v = -v;
315             else      v+= 128;
316             *dst++ = v;
317         }
318         break;
319     case CODEC_ID_PCM_ALAW:
320         for(;n>0;n--) {
321             v = *samples++;
322             *dst++ = linear_to_alaw[(v + 32768) >> 2];
323         }
324         break;
325     case CODEC_ID_PCM_MULAW:
326         for(;n>0;n--) {
327             v = *samples++;
328             *dst++ = linear_to_ulaw[(v + 32768) >> 2];
329         }
330         break;
331     default:
332         return -1;
333     }
334     //avctx->frame_size = (dst - frame) / (sample_size * avctx->channels);
335
336     return dst - frame;
337 }
338
339 typedef struct PCMDecode {
340     short table[256];
341 } PCMDecode;
342
343 static av_cold int pcm_decode_init(AVCodecContext * avctx)
344 {
345     PCMDecode *s = avctx->priv_data;
346     int i;
347
348     switch(avctx->codec->id) {
349     case CODEC_ID_PCM_ALAW:
350         for(i=0;i<256;i++)
351             s->table[i] = alaw2linear(i);
352         break;
353     case CODEC_ID_PCM_MULAW:
354         for(i=0;i<256;i++)
355             s->table[i] = ulaw2linear(i);
356         break;
357     default:
358         break;
359     }
360
361     switch(avctx->codec->id) {
362     case CODEC_ID_PCM_F32BE:
363         avctx->sample_fmt = SAMPLE_FMT_FLT;
364         break;
365     default:
366         avctx->sample_fmt = SAMPLE_FMT_S16;
367         break;
368     }
369     return 0;
370 }
371
372 /**
373  * \brief convert samples to 16 bit
374  * \param bps byte per sample for the source format, must be >= 2
375  * \param le 0 for big-, 1 for little-endian
376  * \param us 0 for signed, 1 for unsigned input
377  * \param src input samples
378  * \param samples output samples
379  * \param src_len number of bytes in src
380  */
381 static inline void decode_to16(int bps, int le, int us,
382                                const uint8_t **src, short **samples, int src_len)
383 {
384     int usum = us ? -0x8000 : 0;
385     register int n = src_len / bps;
386     if (le) *src += bps - 2;
387     for(;n>0;n--) {
388         register int v;
389         if (le) v = AV_RL16(*src);
390         else    v = AV_RB16(*src);
391         v += usum;
392         *(*samples)++ = v;
393         *src += bps;
394     }
395     if (le) *src -= bps - 2;
396 }
397
398 static int pcm_decode_frame(AVCodecContext *avctx,
399                             void *data, int *data_size,
400                             const uint8_t *buf, int buf_size)
401 {
402     PCMDecode *s = avctx->priv_data;
403     int c, n;
404     short *samples;
405     const uint8_t *src, *src2[MAX_CHANNELS];
406
407     samples = data;
408     src = buf;
409
410     if(avctx->channels <= 0 || avctx->channels > MAX_CHANNELS){
411         av_log(avctx, AV_LOG_ERROR, "PCM channels out of bounds\n");
412         return -1;
413     }
414
415     n = avctx->channels * av_get_bits_per_sample(avctx->codec_id)/8;
416     /* av_get_bits_per_sample returns 0 for CODEC_ID_PCM_DVD */
417     if (CODEC_ID_PCM_DVD == avctx->codec_id)
418         /* 2 samples are interleaved per block in PCM_DVD */
419         n = 2 * avctx->channels * avctx->bits_per_sample/8;
420
421     if(n && buf_size % n){
422         av_log(avctx, AV_LOG_ERROR, "invalid PCM packet\n");
423         return -1;
424     }
425
426     buf_size= FFMIN(buf_size, *data_size/2);
427     *data_size=0;
428
429     n = buf_size/avctx->channels;
430     for(c=0;c<avctx->channels;c++)
431         src2[c] = &src[c*n];
432
433     switch(avctx->codec->id) {
434     case CODEC_ID_PCM_F32BE:
435         {
436         float *fsamples = data;
437         n = buf_size >> 2;
438         for(;n>0;n--)
439             *fsamples++ = av_int2flt(bytestream_get_be32(&src));
440         samples = (void*)fsamples;
441         break;
442         }
443     case CODEC_ID_PCM_S32LE:
444         decode_to16(4, 1, 0, &src, &samples, buf_size);
445         break;
446     case CODEC_ID_PCM_S32BE:
447         decode_to16(4, 0, 0, &src, &samples, buf_size);
448         break;
449     case CODEC_ID_PCM_U32LE:
450         decode_to16(4, 1, 1, &src, &samples, buf_size);
451         break;
452     case CODEC_ID_PCM_U32BE:
453         decode_to16(4, 0, 1, &src, &samples, buf_size);
454         break;
455     case CODEC_ID_PCM_S24LE:
456         decode_to16(3, 1, 0, &src, &samples, buf_size);
457         break;
458     case CODEC_ID_PCM_S24BE:
459         decode_to16(3, 0, 0, &src, &samples, buf_size);
460         break;
461     case CODEC_ID_PCM_U24LE:
462         decode_to16(3, 1, 1, &src, &samples, buf_size);
463         break;
464     case CODEC_ID_PCM_U24BE:
465         decode_to16(3, 0, 1, &src, &samples, buf_size);
466         break;
467     case CODEC_ID_PCM_S24DAUD:
468         n = buf_size / 3;
469         for(;n>0;n--) {
470           uint32_t v = bytestream_get_be24(&src);
471           v >>= 4; // sync flags are here
472           *samples++ = ff_reverse[(v >> 8) & 0xff] +
473                        (ff_reverse[v & 0xff] << 8);
474         }
475         break;
476     case CODEC_ID_PCM_S16LE:
477         n = buf_size >> 1;
478         for(;n>0;n--) {
479             *samples++ = bytestream_get_le16(&src);
480         }
481         break;
482     case CODEC_ID_PCM_S16LE_PLANAR:
483         for(n>>=1;n>0;n--)
484             for(c=0;c<avctx->channels;c++)
485                 *samples++ = bytestream_get_le16(&src2[c]);
486         src = src2[avctx->channels-1];
487         break;
488     case CODEC_ID_PCM_S16BE:
489         n = buf_size >> 1;
490         for(;n>0;n--) {
491             *samples++ = bytestream_get_be16(&src);
492         }
493         break;
494     case CODEC_ID_PCM_U16LE:
495         n = buf_size >> 1;
496         for(;n>0;n--) {
497             *samples++ = bytestream_get_le16(&src) - 0x8000;
498         }
499         break;
500     case CODEC_ID_PCM_U16BE:
501         n = buf_size >> 1;
502         for(;n>0;n--) {
503             *samples++ = bytestream_get_be16(&src) - 0x8000;
504         }
505         break;
506     case CODEC_ID_PCM_S8:
507         n = buf_size;
508         for(;n>0;n--) {
509             *samples++ = *src++ << 8;
510         }
511         break;
512     case CODEC_ID_PCM_U8:
513         n = buf_size;
514         for(;n>0;n--) {
515             *samples++ = ((int)*src++ - 128) << 8;
516         }
517         break;
518     case CODEC_ID_PCM_ZORK:
519         n = buf_size;
520         for(;n>0;n--) {
521             int x= *src++;
522             if(x&128) x-= 128;
523             else      x = -x;
524             *samples++ = x << 8;
525         }
526         break;
527     case CODEC_ID_PCM_ALAW:
528     case CODEC_ID_PCM_MULAW:
529         n = buf_size;
530         for(;n>0;n--) {
531             *samples++ = s->table[*src++];
532         }
533         break;
534     case CODEC_ID_PCM_DVD:
535         if(avctx->bits_per_sample != 20 && avctx->bits_per_sample != 24) {
536             av_log(avctx, AV_LOG_ERROR, "PCM DVD unsupported sample depth\n");
537             return -1;
538         } else {
539             int jump = avctx->channels * (avctx->bits_per_sample-16) / 4;
540             n = buf_size / (avctx->channels * 2 * avctx->bits_per_sample / 8);
541             while (n--) {
542                 for (c=0; c < 2*avctx->channels; c++)
543                     *samples++ = bytestream_get_be16(&src);
544                 src += jump;
545             }
546         }
547         break;
548     default:
549         return -1;
550     }
551     *data_size = (uint8_t *)samples - (uint8_t *)data;
552     return src - buf;
553 }
554
555 #ifdef CONFIG_ENCODERS
556 #define PCM_ENCODER(id,sample_fmt_,name,long_name_) \
557 AVCodec name ## _encoder = {                    \
558     #name,                                      \
559     CODEC_TYPE_AUDIO,                           \
560     id,                                         \
561     0,                                          \
562     pcm_encode_init,                            \
563     pcm_encode_frame,                           \
564     pcm_encode_close,                           \
565     NULL,                                       \
566     .sample_fmts = (enum SampleFormat[]){sample_fmt_,SAMPLE_FMT_NONE}, \
567     .long_name = NULL_IF_CONFIG_SMALL(long_name_), \
568 };
569 #else
570 #define PCM_ENCODER(id,sample_fmt_,name,long_name_)
571 #endif
572
573 #ifdef CONFIG_DECODERS
574 #define PCM_DECODER(id,name,long_name_)         \
575 AVCodec name ## _decoder = {                    \
576     #name,                                      \
577     CODEC_TYPE_AUDIO,                           \
578     id,                                         \
579     sizeof(PCMDecode),                          \
580     pcm_decode_init,                            \
581     NULL,                                       \
582     NULL,                                       \
583     pcm_decode_frame,                           \
584     .long_name = NULL_IF_CONFIG_SMALL(long_name_), \
585 };
586 #else
587 #define PCM_DECODER(id,name,long_name_)
588 #endif
589
590 #define PCM_CODEC(id, sample_fmt_, name, long_name_)         \
591     PCM_ENCODER(id,sample_fmt_,name,long_name_) PCM_DECODER(id,name,long_name_)
592
593 /* Note: Do not forget to add new entries to the Makefile as well. */
594 PCM_CODEC  (CODEC_ID_PCM_ALAW,  SAMPLE_FMT_S16, pcm_alaw, "A-law PCM");
595 PCM_CODEC  (CODEC_ID_PCM_DVD,   SAMPLE_FMT_S16, pcm_dvd, "signed 16|20|24-bit big-endian PCM");
596 PCM_CODEC  (CODEC_ID_PCM_F32BE, SAMPLE_FMT_FLT, pcm_f32be, "32-bit floating point big-endian PCM");
597 PCM_CODEC  (CODEC_ID_PCM_MULAW, SAMPLE_FMT_S16, pcm_mulaw, "mu-law PCM");
598 PCM_CODEC  (CODEC_ID_PCM_S8,    SAMPLE_FMT_S16, pcm_s8, "signed 8-bit PCM");
599 PCM_CODEC  (CODEC_ID_PCM_S16BE, SAMPLE_FMT_S16, pcm_s16be, "signed 16-bit big-endian PCM");
600 PCM_CODEC  (CODEC_ID_PCM_S16LE, SAMPLE_FMT_S16, pcm_s16le, "signed 16-bit little-endian PCM");
601 PCM_DECODER(CODEC_ID_PCM_S16LE_PLANAR, pcm_s16le_planar, "16-bit little-endian planar PCM");
602 PCM_CODEC  (CODEC_ID_PCM_S24BE, SAMPLE_FMT_S16, pcm_s24be, "signed 24-bit big-endian PCM");
603 PCM_CODEC  (CODEC_ID_PCM_S24DAUD, SAMPLE_FMT_S16,  pcm_s24daud, "D-Cinema audio signed 24-bit PCM");
604 PCM_CODEC  (CODEC_ID_PCM_S24LE, SAMPLE_FMT_S16, pcm_s24le, "signed 24-bit little-endian PCM");
605 PCM_CODEC  (CODEC_ID_PCM_S32BE, SAMPLE_FMT_S16, pcm_s32be, "signed 32-bit big-endian PCM");
606 PCM_CODEC  (CODEC_ID_PCM_S32LE, SAMPLE_FMT_S16, pcm_s32le, "signed 32-bit little-endian PCM");
607 PCM_CODEC  (CODEC_ID_PCM_U8,    SAMPLE_FMT_S16, pcm_u8, "unsigned 8-bit PCM");
608 PCM_CODEC  (CODEC_ID_PCM_U16BE, SAMPLE_FMT_S16, pcm_u16be, "unsigned 16-bit big-endian PCM");
609 PCM_CODEC  (CODEC_ID_PCM_U16LE, SAMPLE_FMT_S16, pcm_u16le, "unsigned 16-bit little-endian PCM");
610 PCM_CODEC  (CODEC_ID_PCM_U24BE, SAMPLE_FMT_S16, pcm_u24be, "unsigned 24-bit big-endian PCM");
611 PCM_CODEC  (CODEC_ID_PCM_U24LE, SAMPLE_FMT_S16, pcm_u24le, "unsigned 24-bit little-endian PCM");
612 PCM_CODEC  (CODEC_ID_PCM_U32BE, SAMPLE_FMT_S16, pcm_u32be, "unsigned 32-bit big-endian PCM");
613 PCM_CODEC  (CODEC_ID_PCM_U32LE, SAMPLE_FMT_S16, pcm_u32le, "unsigned 32-bit little-endian PCM");
614 PCM_CODEC  (CODEC_ID_PCM_ZORK,  SAMPLE_FMT_S16, pcm_zork, "Zork PCM");