pcmenc: Do not set avpkt->size.
[ffmpeg.git] / libavcodec / pcm.c
1 /*
2  * PCM codecs
3  * Copyright (c) 2001 Fabrice Bellard
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * PCM codecs
25  */
26
27 #include "avcodec.h"
28 #include "libavutil/common.h" /* for av_reverse */
29 #include "bytestream.h"
30 #include "internal.h"
31 #include "pcm_tablegen.h"
32
33 #define MAX_CHANNELS 64
34
35 static av_cold int pcm_encode_init(AVCodecContext *avctx)
36 {
37     avctx->frame_size = 0;
38     switch(avctx->codec->id) {
39     case CODEC_ID_PCM_ALAW:
40         pcm_alaw_tableinit();
41         break;
42     case CODEC_ID_PCM_MULAW:
43         pcm_ulaw_tableinit();
44         break;
45     default:
46         break;
47     }
48
49     avctx->bits_per_coded_sample = av_get_bits_per_sample(avctx->codec->id);
50     avctx->block_align = avctx->channels * avctx->bits_per_coded_sample/8;
51     avctx->coded_frame= avcodec_alloc_frame();
52     avctx->coded_frame->key_frame= 1;
53
54     return 0;
55 }
56
57 static av_cold int pcm_encode_close(AVCodecContext *avctx)
58 {
59     av_freep(&avctx->coded_frame);
60
61     return 0;
62 }
63
64 /**
65  * Write PCM samples macro
66  * @param type Datatype of native machine format
67  * @param endian bytestream_put_xxx() suffix
68  * @param src Source pointer (variable name)
69  * @param dst Destination pointer (variable name)
70  * @param n Total number of samples (variable name)
71  * @param shift Bitshift (bits)
72  * @param offset Sample value offset
73  */
74 #define ENCODE(type, endian, src, dst, n, shift, offset) \
75     samples_##type = (const type*) src; \
76     for(;n>0;n--) { \
77         register type v = (*samples_##type++ >> shift) + offset; \
78         bytestream_put_##endian(&dst, v); \
79     }
80
81 static int pcm_encode_frame(AVCodecContext *avctx, AVPacket *avpkt,
82                             const AVFrame *frame, int *got_packet_ptr)
83 {
84     int n, sample_size, v, ret;
85     const short *samples;
86     unsigned char *dst;
87     const uint8_t *srcu8;
88     const int16_t *samples_int16_t;
89     const int32_t *samples_int32_t;
90     const int64_t *samples_int64_t;
91     const uint16_t *samples_uint16_t;
92     const uint32_t *samples_uint32_t;
93
94     sample_size = av_get_bits_per_sample(avctx->codec->id)/8;
95     n           = frame->nb_samples * avctx->channels;
96     samples     = (const short *)frame->data[0];
97
98     if ((ret = ff_alloc_packet(avpkt, n * sample_size))) {
99         av_log(avctx, AV_LOG_ERROR, "Error getting output packet\n");
100         return ret;
101     }
102     dst = avpkt->data;
103
104     switch(avctx->codec->id) {
105     case CODEC_ID_PCM_U32LE:
106         ENCODE(uint32_t, le32, samples, dst, n, 0, 0x80000000)
107         break;
108     case CODEC_ID_PCM_U32BE:
109         ENCODE(uint32_t, be32, samples, dst, n, 0, 0x80000000)
110         break;
111     case CODEC_ID_PCM_S24LE:
112         ENCODE(int32_t, le24, samples, dst, n, 8, 0)
113         break;
114     case CODEC_ID_PCM_S24BE:
115         ENCODE(int32_t, be24, samples, dst, n, 8, 0)
116         break;
117     case CODEC_ID_PCM_U24LE:
118         ENCODE(uint32_t, le24, samples, dst, n, 8, 0x800000)
119         break;
120     case CODEC_ID_PCM_U24BE:
121         ENCODE(uint32_t, be24, samples, dst, n, 8, 0x800000)
122         break;
123     case CODEC_ID_PCM_S24DAUD:
124         for(;n>0;n--) {
125             uint32_t tmp = av_reverse[(*samples >> 8) & 0xff] +
126                            (av_reverse[*samples & 0xff] << 8);
127             tmp <<= 4; // sync flags would go here
128             bytestream_put_be24(&dst, tmp);
129             samples++;
130         }
131         break;
132     case CODEC_ID_PCM_U16LE:
133         ENCODE(uint16_t, le16, samples, dst, n, 0, 0x8000)
134         break;
135     case CODEC_ID_PCM_U16BE:
136         ENCODE(uint16_t, be16, samples, dst, n, 0, 0x8000)
137         break;
138     case CODEC_ID_PCM_S8:
139         srcu8 = frame->data[0];
140         for(;n>0;n--) {
141             v = *srcu8++;
142             *dst++ = v - 128;
143         }
144         break;
145 #if HAVE_BIGENDIAN
146     case CODEC_ID_PCM_F64LE:
147         ENCODE(int64_t, le64, samples, dst, n, 0, 0)
148         break;
149     case CODEC_ID_PCM_S32LE:
150     case CODEC_ID_PCM_F32LE:
151         ENCODE(int32_t, le32, samples, dst, n, 0, 0)
152         break;
153     case CODEC_ID_PCM_S16LE:
154         ENCODE(int16_t, le16, samples, dst, n, 0, 0)
155         break;
156     case CODEC_ID_PCM_F64BE:
157     case CODEC_ID_PCM_F32BE:
158     case CODEC_ID_PCM_S32BE:
159     case CODEC_ID_PCM_S16BE:
160 #else
161     case CODEC_ID_PCM_F64BE:
162         ENCODE(int64_t, be64, samples, dst, n, 0, 0)
163         break;
164     case CODEC_ID_PCM_F32BE:
165     case CODEC_ID_PCM_S32BE:
166         ENCODE(int32_t, be32, samples, dst, n, 0, 0)
167         break;
168     case CODEC_ID_PCM_S16BE:
169         ENCODE(int16_t, be16, samples, dst, n, 0, 0)
170         break;
171     case CODEC_ID_PCM_F64LE:
172     case CODEC_ID_PCM_F32LE:
173     case CODEC_ID_PCM_S32LE:
174     case CODEC_ID_PCM_S16LE:
175 #endif /* HAVE_BIGENDIAN */
176     case CODEC_ID_PCM_U8:
177         memcpy(dst, samples, n*sample_size);
178         dst += n*sample_size;
179         break;
180     case CODEC_ID_PCM_ALAW:
181         for(;n>0;n--) {
182             v = *samples++;
183             *dst++ = linear_to_alaw[(v + 32768) >> 2];
184         }
185         break;
186     case CODEC_ID_PCM_MULAW:
187         for(;n>0;n--) {
188             v = *samples++;
189             *dst++ = linear_to_ulaw[(v + 32768) >> 2];
190         }
191         break;
192     default:
193         return -1;
194     }
195
196     *got_packet_ptr = 1;
197     return 0;
198 }
199
200 typedef struct PCMDecode {
201     AVFrame frame;
202     short table[256];
203 } PCMDecode;
204
205 static av_cold int pcm_decode_init(AVCodecContext * avctx)
206 {
207     PCMDecode *s = avctx->priv_data;
208     int i;
209
210     if (avctx->channels <= 0 || avctx->channels > MAX_CHANNELS) {
211         av_log(avctx, AV_LOG_ERROR, "PCM channels out of bounds\n");
212         return AVERROR(EINVAL);
213     }
214
215     switch(avctx->codec->id) {
216     case CODEC_ID_PCM_ALAW:
217         for(i=0;i<256;i++)
218             s->table[i] = alaw2linear(i);
219         break;
220     case CODEC_ID_PCM_MULAW:
221         for(i=0;i<256;i++)
222             s->table[i] = ulaw2linear(i);
223         break;
224     default:
225         break;
226     }
227
228     avctx->sample_fmt = avctx->codec->sample_fmts[0];
229
230     if (avctx->sample_fmt == AV_SAMPLE_FMT_S32)
231         avctx->bits_per_raw_sample = av_get_bits_per_sample(avctx->codec->id);
232
233     avcodec_get_frame_defaults(&s->frame);
234     avctx->coded_frame = &s->frame;
235
236     return 0;
237 }
238
239 /**
240  * Read PCM samples macro
241  * @param size Data size of native machine format
242  * @param endian bytestream_get_xxx() endian suffix
243  * @param src Source pointer (variable name)
244  * @param dst Destination pointer (variable name)
245  * @param n Total number of samples (variable name)
246  * @param shift Bitshift (bits)
247  * @param offset Sample value offset
248  */
249 #define DECODE(size, endian, src, dst, n, shift, offset) \
250     for(;n>0;n--) { \
251         uint##size##_t v = bytestream_get_##endian(&src); \
252         AV_WN##size##A(dst, (v - offset) << shift); \
253         dst += size / 8; \
254     }
255
256 static int pcm_decode_frame(AVCodecContext *avctx, void *data,
257                             int *got_frame_ptr, AVPacket *avpkt)
258 {
259     const uint8_t *src = avpkt->data;
260     int buf_size = avpkt->size;
261     PCMDecode *s = avctx->priv_data;
262     int sample_size, c, n, ret, samples_per_block;
263     uint8_t *samples;
264     int32_t *dst_int32_t;
265
266     sample_size = av_get_bits_per_sample(avctx->codec_id)/8;
267
268     /* av_get_bits_per_sample returns 0 for CODEC_ID_PCM_DVD */
269     samples_per_block = 1;
270     if (CODEC_ID_PCM_DVD == avctx->codec_id) {
271         if (avctx->bits_per_coded_sample != 20 &&
272             avctx->bits_per_coded_sample != 24) {
273             av_log(avctx, AV_LOG_ERROR, "PCM DVD unsupported sample depth\n");
274             return AVERROR(EINVAL);
275         }
276         /* 2 samples are interleaved per block in PCM_DVD */
277         samples_per_block = 2;
278         sample_size = avctx->bits_per_coded_sample * 2 / 8;
279     } else if (avctx->codec_id == CODEC_ID_PCM_LXF) {
280         /* we process 40-bit blocks per channel for LXF */
281         samples_per_block = 2;
282         sample_size = 5;
283     }
284
285     if (sample_size == 0) {
286         av_log(avctx, AV_LOG_ERROR, "Invalid sample_size\n");
287         return AVERROR(EINVAL);
288     }
289
290     n = avctx->channels * sample_size;
291
292     if(n && buf_size % n){
293         if (buf_size < n) {
294             av_log(avctx, AV_LOG_ERROR, "invalid PCM packet\n");
295             return -1;
296         }else
297             buf_size -= buf_size % n;
298     }
299
300     n = buf_size/sample_size;
301
302     /* get output buffer */
303     s->frame.nb_samples = n * samples_per_block / avctx->channels;
304     if ((ret = avctx->get_buffer(avctx, &s->frame)) < 0) {
305         av_log(avctx, AV_LOG_ERROR, "get_buffer() failed\n");
306         return ret;
307     }
308     samples = s->frame.data[0];
309
310     switch(avctx->codec->id) {
311     case CODEC_ID_PCM_U32LE:
312         DECODE(32, le32, src, samples, n, 0, 0x80000000)
313         break;
314     case CODEC_ID_PCM_U32BE:
315         DECODE(32, be32, src, samples, n, 0, 0x80000000)
316         break;
317     case CODEC_ID_PCM_S24LE:
318         DECODE(32, le24, src, samples, n, 8, 0)
319         break;
320     case CODEC_ID_PCM_S24BE:
321         DECODE(32, be24, src, samples, n, 8, 0)
322         break;
323     case CODEC_ID_PCM_U24LE:
324         DECODE(32, le24, src, samples, n, 8, 0x800000)
325         break;
326     case CODEC_ID_PCM_U24BE:
327         DECODE(32, be24, src, samples, n, 8, 0x800000)
328         break;
329     case CODEC_ID_PCM_S24DAUD:
330         for(;n>0;n--) {
331           uint32_t v = bytestream_get_be24(&src);
332           v >>= 4; // sync flags are here
333           AV_WN16A(samples, av_reverse[(v >> 8) & 0xff] +
334                            (av_reverse[v & 0xff] << 8));
335           samples += 2;
336         }
337         break;
338     case CODEC_ID_PCM_S16LE_PLANAR:
339     {
340         const uint8_t *src2[MAX_CHANNELS];
341         n /= avctx->channels;
342         for(c=0;c<avctx->channels;c++)
343             src2[c] = &src[c*n*2];
344         for(;n>0;n--)
345             for(c=0;c<avctx->channels;c++) {
346                 AV_WN16A(samples, bytestream_get_le16(&src2[c]));
347                 samples += 2;
348             }
349         break;
350     }
351     case CODEC_ID_PCM_U16LE:
352         DECODE(16, le16, src, samples, n, 0, 0x8000)
353         break;
354     case CODEC_ID_PCM_U16BE:
355         DECODE(16, be16, src, samples, n, 0, 0x8000)
356         break;
357     case CODEC_ID_PCM_S8:
358         for(;n>0;n--) {
359             *samples++ = *src++ + 128;
360         }
361         break;
362 #if HAVE_BIGENDIAN
363     case CODEC_ID_PCM_F64LE:
364         DECODE(64, le64, src, samples, n, 0, 0)
365         break;
366     case CODEC_ID_PCM_S32LE:
367     case CODEC_ID_PCM_F32LE:
368         DECODE(32, le32, src, samples, n, 0, 0)
369         break;
370     case CODEC_ID_PCM_S16LE:
371         DECODE(16, le16, src, samples, n, 0, 0)
372         break;
373     case CODEC_ID_PCM_F64BE:
374     case CODEC_ID_PCM_F32BE:
375     case CODEC_ID_PCM_S32BE:
376     case CODEC_ID_PCM_S16BE:
377 #else
378     case CODEC_ID_PCM_F64BE:
379         DECODE(64, be64, src, samples, n, 0, 0)
380         break;
381     case CODEC_ID_PCM_F32BE:
382     case CODEC_ID_PCM_S32BE:
383         DECODE(32, be32, src, samples, n, 0, 0)
384         break;
385     case CODEC_ID_PCM_S16BE:
386         DECODE(16, be16, src, samples, n, 0, 0)
387         break;
388     case CODEC_ID_PCM_F64LE:
389     case CODEC_ID_PCM_F32LE:
390     case CODEC_ID_PCM_S32LE:
391     case CODEC_ID_PCM_S16LE:
392 #endif /* HAVE_BIGENDIAN */
393     case CODEC_ID_PCM_U8:
394         memcpy(samples, src, n*sample_size);
395         break;
396     case CODEC_ID_PCM_ZORK:
397         for (; n > 0; n--) {
398             int v = *src++;
399             if (v < 128)
400                 v = 128 - v;
401             *samples++ = v;
402         }
403         break;
404     case CODEC_ID_PCM_ALAW:
405     case CODEC_ID_PCM_MULAW:
406         for(;n>0;n--) {
407             AV_WN16A(samples, s->table[*src++]);
408             samples += 2;
409         }
410         break;
411     case CODEC_ID_PCM_DVD:
412     {
413         const uint8_t *src8;
414         dst_int32_t = (int32_t *)s->frame.data[0];
415         n /= avctx->channels;
416         switch (avctx->bits_per_coded_sample) {
417         case 20:
418             while (n--) {
419                 c = avctx->channels;
420                 src8 = src + 4*c;
421                 while (c--) {
422                     *dst_int32_t++ = (bytestream_get_be16(&src) << 16) + ((*src8   &0xf0) << 8);
423                     *dst_int32_t++ = (bytestream_get_be16(&src) << 16) + ((*src8++ &0x0f) << 12);
424                 }
425                 src = src8;
426             }
427             break;
428         case 24:
429             while (n--) {
430                 c = avctx->channels;
431                 src8 = src + 4*c;
432                 while (c--) {
433                     *dst_int32_t++ = (bytestream_get_be16(&src) << 16) + ((*src8++) << 8);
434                     *dst_int32_t++ = (bytestream_get_be16(&src) << 16) + ((*src8++) << 8);
435                 }
436                 src = src8;
437             }
438             break;
439         }
440         break;
441     }
442     case CODEC_ID_PCM_LXF:
443     {
444         int i;
445         const uint8_t *src8;
446         dst_int32_t = (int32_t *)s->frame.data[0];
447         n /= avctx->channels;
448         //unpack and de-planerize
449         for (i = 0; i < n; i++) {
450             for (c = 0, src8 = src + i*5; c < avctx->channels; c++, src8 += n*5) {
451                 //extract low 20 bits and expand to 32 bits
452                 *dst_int32_t++ = (src8[2] << 28) | (src8[1] << 20) | (src8[0] << 12) |
453                                  ((src8[2] & 0xF) << 8) | src8[1];
454             }
455
456             for (c = 0, src8 = src + i*5; c < avctx->channels; c++, src8 += n*5) {
457                 //extract high 20 bits and expand to 32 bits
458                 *dst_int32_t++ = (src8[4] << 24) | (src8[3] << 16) |
459                                  ((src8[2] & 0xF0) << 8) | (src8[4] << 4) | (src8[3] >> 4);
460             }
461         }
462         break;
463     }
464     default:
465         return -1;
466     }
467
468     *got_frame_ptr   = 1;
469     *(AVFrame *)data = s->frame;
470
471     return buf_size;
472 }
473
474 #if CONFIG_ENCODERS
475 #define PCM_ENCODER(id_,sample_fmt_,name_,long_name_) \
476 AVCodec ff_ ## name_ ## _encoder = {            \
477     .name        = #name_,                      \
478     .type        = AVMEDIA_TYPE_AUDIO,          \
479     .id          = id_,                         \
480     .init        = pcm_encode_init,             \
481     .encode2     = pcm_encode_frame,            \
482     .close       = pcm_encode_close,            \
483     .capabilities = CODEC_CAP_VARIABLE_FRAME_SIZE, \
484     .sample_fmts = (const enum AVSampleFormat[]){sample_fmt_,AV_SAMPLE_FMT_NONE}, \
485     .long_name = NULL_IF_CONFIG_SMALL(long_name_), \
486 }
487 #else
488 #define PCM_ENCODER(id,sample_fmt_,name,long_name_)
489 #endif
490
491 #if CONFIG_DECODERS
492 #define PCM_DECODER(id_,sample_fmt_,name_,long_name_)         \
493 AVCodec ff_ ## name_ ## _decoder = {            \
494     .name           = #name_,                   \
495     .type           = AVMEDIA_TYPE_AUDIO,       \
496     .id             = id_,                      \
497     .priv_data_size = sizeof(PCMDecode),        \
498     .init           = pcm_decode_init,          \
499     .decode         = pcm_decode_frame,         \
500     .capabilities   = CODEC_CAP_DR1,            \
501     .sample_fmts = (const enum AVSampleFormat[]){sample_fmt_,AV_SAMPLE_FMT_NONE}, \
502     .long_name = NULL_IF_CONFIG_SMALL(long_name_), \
503 }
504 #else
505 #define PCM_DECODER(id,sample_fmt_,name,long_name_)
506 #endif
507
508 #define PCM_CODEC(id, sample_fmt_, name, long_name_)         \
509     PCM_ENCODER(id,sample_fmt_,name,long_name_); PCM_DECODER(id,sample_fmt_,name,long_name_)
510
511 /* Note: Do not forget to add new entries to the Makefile as well. */
512 PCM_CODEC  (CODEC_ID_PCM_ALAW,  AV_SAMPLE_FMT_S16, pcm_alaw, "PCM A-law");
513 PCM_DECODER(CODEC_ID_PCM_DVD,   AV_SAMPLE_FMT_S32, pcm_dvd, "PCM signed 20|24-bit big-endian");
514 PCM_CODEC  (CODEC_ID_PCM_F32BE, AV_SAMPLE_FMT_FLT, pcm_f32be, "PCM 32-bit floating point big-endian");
515 PCM_CODEC  (CODEC_ID_PCM_F32LE, AV_SAMPLE_FMT_FLT, pcm_f32le, "PCM 32-bit floating point little-endian");
516 PCM_CODEC  (CODEC_ID_PCM_F64BE, AV_SAMPLE_FMT_DBL, pcm_f64be, "PCM 64-bit floating point big-endian");
517 PCM_CODEC  (CODEC_ID_PCM_F64LE, AV_SAMPLE_FMT_DBL, pcm_f64le, "PCM 64-bit floating point little-endian");
518 PCM_DECODER(CODEC_ID_PCM_LXF,   AV_SAMPLE_FMT_S32, pcm_lxf, "PCM signed 20-bit little-endian planar");
519 PCM_CODEC  (CODEC_ID_PCM_MULAW, AV_SAMPLE_FMT_S16, pcm_mulaw, "PCM mu-law");
520 PCM_CODEC  (CODEC_ID_PCM_S8,    AV_SAMPLE_FMT_U8,  pcm_s8, "PCM signed 8-bit");
521 PCM_CODEC  (CODEC_ID_PCM_S16BE, AV_SAMPLE_FMT_S16, pcm_s16be, "PCM signed 16-bit big-endian");
522 PCM_CODEC  (CODEC_ID_PCM_S16LE, AV_SAMPLE_FMT_S16, pcm_s16le, "PCM signed 16-bit little-endian");
523 PCM_DECODER(CODEC_ID_PCM_S16LE_PLANAR, AV_SAMPLE_FMT_S16, pcm_s16le_planar, "PCM 16-bit little-endian planar");
524 PCM_CODEC  (CODEC_ID_PCM_S24BE, AV_SAMPLE_FMT_S32, pcm_s24be, "PCM signed 24-bit big-endian");
525 PCM_CODEC  (CODEC_ID_PCM_S24DAUD, AV_SAMPLE_FMT_S16,  pcm_s24daud, "PCM D-Cinema audio signed 24-bit");
526 PCM_CODEC  (CODEC_ID_PCM_S24LE, AV_SAMPLE_FMT_S32, pcm_s24le, "PCM signed 24-bit little-endian");
527 PCM_CODEC  (CODEC_ID_PCM_S32BE, AV_SAMPLE_FMT_S32, pcm_s32be, "PCM signed 32-bit big-endian");
528 PCM_CODEC  (CODEC_ID_PCM_S32LE, AV_SAMPLE_FMT_S32, pcm_s32le, "PCM signed 32-bit little-endian");
529 PCM_CODEC  (CODEC_ID_PCM_U8,    AV_SAMPLE_FMT_U8,  pcm_u8, "PCM unsigned 8-bit");
530 PCM_CODEC  (CODEC_ID_PCM_U16BE, AV_SAMPLE_FMT_S16, pcm_u16be, "PCM unsigned 16-bit big-endian");
531 PCM_CODEC  (CODEC_ID_PCM_U16LE, AV_SAMPLE_FMT_S16, pcm_u16le, "PCM unsigned 16-bit little-endian");
532 PCM_CODEC  (CODEC_ID_PCM_U24BE, AV_SAMPLE_FMT_S32, pcm_u24be, "PCM unsigned 24-bit big-endian");
533 PCM_CODEC  (CODEC_ID_PCM_U24LE, AV_SAMPLE_FMT_S32, pcm_u24le, "PCM unsigned 24-bit little-endian");
534 PCM_CODEC  (CODEC_ID_PCM_U32BE, AV_SAMPLE_FMT_S32, pcm_u32be, "PCM unsigned 32-bit big-endian");
535 PCM_CODEC  (CODEC_ID_PCM_U32LE, AV_SAMPLE_FMT_S32, pcm_u32le, "PCM unsigned 32-bit little-endian");
536 PCM_DECODER(CODEC_ID_PCM_ZORK,  AV_SAMPLE_FMT_U8,  pcm_zork,  "PCM Zork");