Fix H.264 8x8 transform selection
[ffmpeg.git] / libavcodec / pcm.c
1 /*
2  * PCM codecs
3  * Copyright (c) 2001 Fabrice Bellard.
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file pcm.c
24  * PCM codecs
25  */
26
27 #include "avcodec.h"
28 #include "bitstream.h" // for ff_reverse
29
30 /* from g711.c by SUN microsystems (unrestricted use) */
31
32 #define         SIGN_BIT        (0x80)      /* Sign bit for a A-law byte. */
33 #define         QUANT_MASK      (0xf)       /* Quantization field mask. */
34 #define         NSEGS           (8)         /* Number of A-law segments. */
35 #define         SEG_SHIFT       (4)         /* Left shift for segment number. */
36 #define         SEG_MASK        (0x70)      /* Segment field mask. */
37
38 #define         BIAS            (0x84)      /* Bias for linear code. */
39
40 /*
41  * alaw2linear() - Convert an A-law value to 16-bit linear PCM
42  *
43  */
44 static int alaw2linear(unsigned char a_val)
45 {
46         int t;
47         int seg;
48
49         a_val ^= 0x55;
50
51         t = a_val & QUANT_MASK;
52         seg = ((unsigned)a_val & SEG_MASK) >> SEG_SHIFT;
53         if(seg) t= (t + t + 1 + 32) << (seg + 2);
54         else    t= (t + t + 1     ) << 3;
55
56         return ((a_val & SIGN_BIT) ? t : -t);
57 }
58
59 static int ulaw2linear(unsigned char u_val)
60 {
61         int t;
62
63         /* Complement to obtain normal u-law value. */
64         u_val = ~u_val;
65
66         /*
67          * Extract and bias the quantization bits. Then
68          * shift up by the segment number and subtract out the bias.
69          */
70         t = ((u_val & QUANT_MASK) << 3) + BIAS;
71         t <<= ((unsigned)u_val & SEG_MASK) >> SEG_SHIFT;
72
73         return ((u_val & SIGN_BIT) ? (BIAS - t) : (t - BIAS));
74 }
75
76 /* 16384 entries per table */
77 static uint8_t linear_to_alaw[16384];
78 static uint8_t linear_to_ulaw[16384];
79
80 static void build_xlaw_table(uint8_t *linear_to_xlaw,
81                              int (*xlaw2linear)(unsigned char),
82                              int mask)
83 {
84     int i, j, v, v1, v2;
85
86     j = 0;
87     for(i=0;i<128;i++) {
88         if (i != 127) {
89             v1 = xlaw2linear(i ^ mask);
90             v2 = xlaw2linear((i + 1) ^ mask);
91             v = (v1 + v2 + 4) >> 3;
92         } else {
93             v = 8192;
94         }
95         for(;j<v;j++) {
96             linear_to_xlaw[8192 + j] = (i ^ mask);
97             if (j > 0)
98                 linear_to_xlaw[8192 - j] = (i ^ (mask ^ 0x80));
99         }
100     }
101     linear_to_xlaw[0] = linear_to_xlaw[1];
102 }
103
104 static int pcm_encode_init(AVCodecContext *avctx)
105 {
106     avctx->frame_size = 1;
107     switch(avctx->codec->id) {
108     case CODEC_ID_PCM_ALAW:
109         build_xlaw_table(linear_to_alaw, alaw2linear, 0xd5);
110         break;
111     case CODEC_ID_PCM_MULAW:
112         build_xlaw_table(linear_to_ulaw, ulaw2linear, 0xff);
113         break;
114     default:
115         break;
116     }
117
118     switch(avctx->codec->id) {
119     case CODEC_ID_PCM_S32LE:
120     case CODEC_ID_PCM_S32BE:
121     case CODEC_ID_PCM_U32LE:
122     case CODEC_ID_PCM_U32BE:
123         avctx->block_align = 4 * avctx->channels;
124         break;
125     case CODEC_ID_PCM_S24LE:
126     case CODEC_ID_PCM_S24BE:
127     case CODEC_ID_PCM_U24LE:
128     case CODEC_ID_PCM_U24BE:
129     case CODEC_ID_PCM_S24DAUD:
130         avctx->block_align = 3 * avctx->channels;
131         break;
132     case CODEC_ID_PCM_S16LE:
133     case CODEC_ID_PCM_S16BE:
134     case CODEC_ID_PCM_U16LE:
135     case CODEC_ID_PCM_U16BE:
136         avctx->block_align = 2 * avctx->channels;
137         break;
138     case CODEC_ID_PCM_S8:
139     case CODEC_ID_PCM_U8:
140     case CODEC_ID_PCM_MULAW:
141     case CODEC_ID_PCM_ALAW:
142         avctx->block_align = avctx->channels;
143         break;
144     default:
145         break;
146     }
147
148     avctx->coded_frame= avcodec_alloc_frame();
149     avctx->coded_frame->key_frame= 1;
150
151     return 0;
152 }
153
154 static int pcm_encode_close(AVCodecContext *avctx)
155 {
156     av_freep(&avctx->coded_frame);
157
158     return 0;
159 }
160
161 /**
162  * \brief convert samples from 16 bit
163  * \param bps byte per sample for the destination format, must be >= 2
164  * \param le 0 for big-, 1 for little-endian
165  * \param us 0 for signed, 1 for unsigned output
166  * \param samples input samples
167  * \param dst output samples
168  * \param n number of samples in samples buffer.
169  */
170 static inline void encode_from16(int bps, int le, int us,
171                                short **samples, uint8_t **dst, int n) {
172     if (bps > 2)
173         memset(*dst, 0, n * bps);
174     if (le) *dst += bps - 2;
175     for(;n>0;n--) {
176         register int v = *(*samples)++;
177         if (us) v += 0x8000;
178         (*dst)[le] = v >> 8;
179         (*dst)[1 - le] = v;
180         *dst += bps;
181     }
182     if (le) *dst -= bps - 2;
183 }
184
185 static int pcm_encode_frame(AVCodecContext *avctx,
186                             unsigned char *frame, int buf_size, void *data)
187 {
188     int n, sample_size, v;
189     short *samples;
190     unsigned char *dst;
191
192     switch(avctx->codec->id) {
193     case CODEC_ID_PCM_S32LE:
194     case CODEC_ID_PCM_S32BE:
195     case CODEC_ID_PCM_U32LE:
196     case CODEC_ID_PCM_U32BE:
197         sample_size = 4;
198         break;
199     case CODEC_ID_PCM_S24LE:
200     case CODEC_ID_PCM_S24BE:
201     case CODEC_ID_PCM_U24LE:
202     case CODEC_ID_PCM_U24BE:
203     case CODEC_ID_PCM_S24DAUD:
204         sample_size = 3;
205         break;
206     case CODEC_ID_PCM_S16LE:
207     case CODEC_ID_PCM_S16BE:
208     case CODEC_ID_PCM_U16LE:
209     case CODEC_ID_PCM_U16BE:
210         sample_size = 2;
211         break;
212     default:
213         sample_size = 1;
214         break;
215     }
216     n = buf_size / sample_size;
217     samples = data;
218     dst = frame;
219
220     switch(avctx->codec->id) {
221     case CODEC_ID_PCM_S32LE:
222         encode_from16(4, 1, 0, &samples, &dst, n);
223         break;
224     case CODEC_ID_PCM_S32BE:
225         encode_from16(4, 0, 0, &samples, &dst, n);
226         break;
227     case CODEC_ID_PCM_U32LE:
228         encode_from16(4, 1, 1, &samples, &dst, n);
229         break;
230     case CODEC_ID_PCM_U32BE:
231         encode_from16(4, 0, 1, &samples, &dst, n);
232         break;
233     case CODEC_ID_PCM_S24LE:
234         encode_from16(3, 1, 0, &samples, &dst, n);
235         break;
236     case CODEC_ID_PCM_S24BE:
237         encode_from16(3, 0, 0, &samples, &dst, n);
238         break;
239     case CODEC_ID_PCM_U24LE:
240         encode_from16(3, 1, 1, &samples, &dst, n);
241         break;
242     case CODEC_ID_PCM_U24BE:
243         encode_from16(3, 0, 1, &samples, &dst, n);
244         break;
245     case CODEC_ID_PCM_S24DAUD:
246         for(;n>0;n--) {
247             uint32_t tmp = ff_reverse[*samples >> 8] +
248                            (ff_reverse[*samples & 0xff] << 8);
249             tmp <<= 4; // sync flags would go here
250             dst[2] = tmp & 0xff;
251             tmp >>= 8;
252             dst[1] = tmp & 0xff;
253             dst[0] = tmp >> 8;
254             samples++;
255             dst += 3;
256         }
257         break;
258     case CODEC_ID_PCM_S16LE:
259         for(;n>0;n--) {
260             v = *samples++;
261             dst[0] = v & 0xff;
262             dst[1] = v >> 8;
263             dst += 2;
264         }
265         break;
266     case CODEC_ID_PCM_S16BE:
267         for(;n>0;n--) {
268             v = *samples++;
269             dst[0] = v >> 8;
270             dst[1] = v;
271             dst += 2;
272         }
273         break;
274     case CODEC_ID_PCM_U16LE:
275         for(;n>0;n--) {
276             v = *samples++;
277             v += 0x8000;
278             dst[0] = v & 0xff;
279             dst[1] = v >> 8;
280             dst += 2;
281         }
282         break;
283     case CODEC_ID_PCM_U16BE:
284         for(;n>0;n--) {
285             v = *samples++;
286             v += 0x8000;
287             dst[0] = v >> 8;
288             dst[1] = v;
289             dst += 2;
290         }
291         break;
292     case CODEC_ID_PCM_S8:
293         for(;n>0;n--) {
294             v = *samples++;
295             dst[0] = v >> 8;
296             dst++;
297         }
298         break;
299     case CODEC_ID_PCM_U8:
300         for(;n>0;n--) {
301             v = *samples++;
302             dst[0] = (v >> 8) + 128;
303             dst++;
304         }
305         break;
306     case CODEC_ID_PCM_ALAW:
307         for(;n>0;n--) {
308             v = *samples++;
309             dst[0] = linear_to_alaw[(v + 32768) >> 2];
310             dst++;
311         }
312         break;
313     case CODEC_ID_PCM_MULAW:
314         for(;n>0;n--) {
315             v = *samples++;
316             dst[0] = linear_to_ulaw[(v + 32768) >> 2];
317             dst++;
318         }
319         break;
320     default:
321         return -1;
322     }
323     //avctx->frame_size = (dst - frame) / (sample_size * avctx->channels);
324
325     return dst - frame;
326 }
327
328 typedef struct PCMDecode {
329     short table[256];
330 } PCMDecode;
331
332 static int pcm_decode_init(AVCodecContext * avctx)
333 {
334     PCMDecode *s = avctx->priv_data;
335     int i;
336
337     switch(avctx->codec->id) {
338     case CODEC_ID_PCM_ALAW:
339         for(i=0;i<256;i++)
340             s->table[i] = alaw2linear(i);
341         break;
342     case CODEC_ID_PCM_MULAW:
343         for(i=0;i<256;i++)
344             s->table[i] = ulaw2linear(i);
345         break;
346     default:
347         break;
348     }
349     return 0;
350 }
351
352 /**
353  * \brief convert samples to 16 bit
354  * \param bps byte per sample for the source format, must be >= 2
355  * \param le 0 for big-, 1 for little-endian
356  * \param us 0 for signed, 1 for unsigned input
357  * \param src input samples
358  * \param samples output samples
359  * \param src_len number of bytes in src
360  */
361 static inline void decode_to16(int bps, int le, int us,
362                                uint8_t **src, short **samples, int src_len)
363 {
364     register int n = src_len / bps;
365     if (le) *src += bps - 2;
366     for(;n>0;n--) {
367         *(*samples)++ = ((*src)[le] << 8 | (*src)[1 - le]) - (us?0x8000:0);
368         *src += bps;
369     }
370     if (le) *src -= bps - 2;
371 }
372
373 static int pcm_decode_frame(AVCodecContext *avctx,
374                             void *data, int *data_size,
375                             uint8_t *buf, int buf_size)
376 {
377     PCMDecode *s = avctx->priv_data;
378     int n;
379     short *samples;
380     uint8_t *src;
381
382     samples = data;
383     src = buf;
384
385     n= av_get_bits_per_sample(avctx->codec_id)/8;
386     if(n && buf_size % n){
387         av_log(avctx, AV_LOG_ERROR, "invalid PCM packet\n");
388         return -1;
389     }
390
391     buf_size= FFMIN(buf_size, *data_size/2);
392     *data_size=0;
393
394     switch(avctx->codec->id) {
395     case CODEC_ID_PCM_S32LE:
396         decode_to16(4, 1, 0, &src, &samples, buf_size);
397         break;
398     case CODEC_ID_PCM_S32BE:
399         decode_to16(4, 0, 0, &src, &samples, buf_size);
400         break;
401     case CODEC_ID_PCM_U32LE:
402         decode_to16(4, 1, 1, &src, &samples, buf_size);
403         break;
404     case CODEC_ID_PCM_U32BE:
405         decode_to16(4, 0, 1, &src, &samples, buf_size);
406         break;
407     case CODEC_ID_PCM_S24LE:
408         decode_to16(3, 1, 0, &src, &samples, buf_size);
409         break;
410     case CODEC_ID_PCM_S24BE:
411         decode_to16(3, 0, 0, &src, &samples, buf_size);
412         break;
413     case CODEC_ID_PCM_U24LE:
414         decode_to16(3, 1, 1, &src, &samples, buf_size);
415         break;
416     case CODEC_ID_PCM_U24BE:
417         decode_to16(3, 0, 1, &src, &samples, buf_size);
418         break;
419     case CODEC_ID_PCM_S24DAUD:
420         n = buf_size / 3;
421         for(;n>0;n--) {
422           uint32_t v = src[0] << 16 | src[1] << 8 | src[2];
423           v >>= 4; // sync flags are here
424           *samples++ = ff_reverse[(v >> 8) & 0xff] +
425                        (ff_reverse[v & 0xff] << 8);
426           src += 3;
427         }
428         break;
429     case CODEC_ID_PCM_S16LE:
430         n = buf_size >> 1;
431         for(;n>0;n--) {
432             *samples++ = src[0] | (src[1] << 8);
433             src += 2;
434         }
435         break;
436     case CODEC_ID_PCM_S16BE:
437         n = buf_size >> 1;
438         for(;n>0;n--) {
439             *samples++ = (src[0] << 8) | src[1];
440             src += 2;
441         }
442         break;
443     case CODEC_ID_PCM_U16LE:
444         n = buf_size >> 1;
445         for(;n>0;n--) {
446             *samples++ = (src[0] | (src[1] << 8)) - 0x8000;
447             src += 2;
448         }
449         break;
450     case CODEC_ID_PCM_U16BE:
451         n = buf_size >> 1;
452         for(;n>0;n--) {
453             *samples++ = ((src[0] << 8) | src[1]) - 0x8000;
454             src += 2;
455         }
456         break;
457     case CODEC_ID_PCM_S8:
458         n = buf_size;
459         for(;n>0;n--) {
460             *samples++ = src[0] << 8;
461             src++;
462         }
463         break;
464     case CODEC_ID_PCM_U8:
465         n = buf_size;
466         for(;n>0;n--) {
467             *samples++ = ((int)src[0] - 128) << 8;
468             src++;
469         }
470         break;
471     case CODEC_ID_PCM_ALAW:
472     case CODEC_ID_PCM_MULAW:
473         n = buf_size;
474         for(;n>0;n--) {
475             *samples++ = s->table[src[0]];
476             src++;
477         }
478         break;
479     default:
480         return -1;
481     }
482     *data_size = (uint8_t *)samples - (uint8_t *)data;
483     return src - buf;
484 }
485
486 #define PCM_CODEC(id, name)                     \
487 AVCodec name ## _encoder = {                    \
488     #name,                                      \
489     CODEC_TYPE_AUDIO,                           \
490     id,                                         \
491     0,                                          \
492     pcm_encode_init,                            \
493     pcm_encode_frame,                           \
494     pcm_encode_close,                           \
495     NULL,                                       \
496 };                                              \
497 AVCodec name ## _decoder = {                    \
498     #name,                                      \
499     CODEC_TYPE_AUDIO,                           \
500     id,                                         \
501     sizeof(PCMDecode),                          \
502     pcm_decode_init,                            \
503     NULL,                                       \
504     NULL,                                       \
505     pcm_decode_frame,                           \
506 }
507
508 PCM_CODEC(CODEC_ID_PCM_S32LE, pcm_s32le);
509 PCM_CODEC(CODEC_ID_PCM_S32BE, pcm_s32be);
510 PCM_CODEC(CODEC_ID_PCM_U32LE, pcm_u32le);
511 PCM_CODEC(CODEC_ID_PCM_U32BE, pcm_u32be);
512 PCM_CODEC(CODEC_ID_PCM_S24LE, pcm_s24le);
513 PCM_CODEC(CODEC_ID_PCM_S24BE, pcm_s24be);
514 PCM_CODEC(CODEC_ID_PCM_U24LE, pcm_u24le);
515 PCM_CODEC(CODEC_ID_PCM_U24BE, pcm_u24be);
516 PCM_CODEC(CODEC_ID_PCM_S24DAUD, pcm_s24daud);
517 PCM_CODEC(CODEC_ID_PCM_S16LE, pcm_s16le);
518 PCM_CODEC(CODEC_ID_PCM_S16BE, pcm_s16be);
519 PCM_CODEC(CODEC_ID_PCM_U16LE, pcm_u16le);
520 PCM_CODEC(CODEC_ID_PCM_U16BE, pcm_u16be);
521 PCM_CODEC(CODEC_ID_PCM_S8, pcm_s8);
522 PCM_CODEC(CODEC_ID_PCM_U8, pcm_u8);
523 PCM_CODEC(CODEC_ID_PCM_ALAW, pcm_alaw);
524 PCM_CODEC(CODEC_ID_PCM_MULAW, pcm_mulaw);
525
526 #undef PCM_CODEC