indeo: Do not reference mismatched tiles
[ffmpeg.git] / libavcodec / pcm-mpeg.c
1 /*
2  * LPCM codecs for PCM formats found in MPEG streams
3  * Copyright (c) 2009 Christian Schmidt
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * PCM codecs for encodings found in MPEG streams (DVD/Blu-ray)
25  */
26
27 #include "libavutil/channel_layout.h"
28 #include "avcodec.h"
29 #include "bytestream.h"
30 #include "internal.h"
31
32 /*
33  * Channel Mapping according to
34  * Blu-ray Disc Read-Only Format Version 1
35  * Part 3: Audio Visual Basic Specifications
36  * mono     M1    X
37  * stereo   L     R
38  * 3/0      L     R    C    X
39  * 2/1      L     R    S    X
40  * 3/1      L     R    C    S
41  * 2/2      L     R    LS   RS
42  * 3/2      L     R    C    LS    RS    X
43  * 3/2+lfe  L     R    C    LS    RS    lfe
44  * 3/4      L     R    C    LS    Rls   Rrs  RS   X
45  * 3/4+lfe  L     R    C    LS    Rls   Rrs  RS   lfe
46  */
47
48 /**
49  * Parse the header of a LPCM frame read from a MPEG-TS stream
50  * @param avctx the codec context
51  * @param header pointer to the first four bytes of the data packet
52  */
53 static int pcm_bluray_parse_header(AVCodecContext *avctx,
54                                    const uint8_t *header)
55 {
56     static const uint8_t bits_per_samples[4] = { 0, 16, 20, 24 };
57     static const uint32_t channel_layouts[16] = {
58         0, AV_CH_LAYOUT_MONO, 0, AV_CH_LAYOUT_STEREO, AV_CH_LAYOUT_SURROUND,
59         AV_CH_LAYOUT_2_1, AV_CH_LAYOUT_4POINT0, AV_CH_LAYOUT_2_2, AV_CH_LAYOUT_5POINT0,
60         AV_CH_LAYOUT_5POINT1, AV_CH_LAYOUT_7POINT0, AV_CH_LAYOUT_7POINT1, 0, 0, 0, 0
61     };
62     static const uint8_t channels[16] = {
63         0, 1, 0, 2, 3, 3, 4, 4, 5, 6, 7, 8, 0, 0, 0, 0
64     };
65     uint8_t channel_layout = header[2] >> 4;
66
67     if (avctx->debug & FF_DEBUG_PICT_INFO)
68         av_dlog(avctx, "pcm_bluray_parse_header: header = %02x%02x%02x%02x\n",
69                 header[0], header[1], header[2], header[3]);
70
71     /* get the sample depth and derive the sample format from it */
72     avctx->bits_per_coded_sample = bits_per_samples[header[3] >> 6];
73     if (!avctx->bits_per_coded_sample) {
74         av_log(avctx, AV_LOG_ERROR, "reserved sample depth (0)\n");
75         return -1;
76     }
77     avctx->sample_fmt = avctx->bits_per_coded_sample == 16 ? AV_SAMPLE_FMT_S16 :
78                                                              AV_SAMPLE_FMT_S32;
79     avctx->bits_per_raw_sample = avctx->bits_per_coded_sample;
80
81     /* get the sample rate. Not all values are used. */
82     switch (header[2] & 0x0f) {
83     case 1:
84         avctx->sample_rate = 48000;
85         break;
86     case 4:
87         avctx->sample_rate = 96000;
88         break;
89     case 5:
90         avctx->sample_rate = 192000;
91         break;
92     default:
93         avctx->sample_rate = 0;
94         av_log(avctx, AV_LOG_ERROR, "reserved sample rate (%d)\n",
95                header[2] & 0x0f);
96         return -1;
97     }
98
99     /*
100      * get the channel number (and mapping). Not all values are used.
101      * It must be noted that the number of channels in the MPEG stream can
102      * differ from the actual meaningful number, e.g. mono audio still has two
103      * channels, one being empty.
104      */
105     avctx->channel_layout  = channel_layouts[channel_layout];
106     avctx->channels        =        channels[channel_layout];
107     if (!avctx->channels) {
108         av_log(avctx, AV_LOG_ERROR, "reserved channel configuration (%d)\n",
109                channel_layout);
110         return -1;
111     }
112
113     avctx->bit_rate = FFALIGN(avctx->channels, 2) * avctx->sample_rate *
114                       avctx->bits_per_coded_sample;
115
116     if (avctx->debug & FF_DEBUG_PICT_INFO)
117         av_dlog(avctx,
118                 "pcm_bluray_parse_header: %d channels, %d bits per sample, %d Hz, %d bit/s\n",
119                 avctx->channels, avctx->bits_per_coded_sample,
120                 avctx->sample_rate, avctx->bit_rate);
121     return 0;
122 }
123
124 static int pcm_bluray_decode_frame(AVCodecContext *avctx, void *data,
125                                    int *got_frame_ptr, AVPacket *avpkt)
126 {
127     AVFrame *frame     = data;
128     const uint8_t *src = avpkt->data;
129     int buf_size = avpkt->size;
130     GetByteContext gb;
131     int num_source_channels, channel, retval;
132     int sample_size, samples;
133     int16_t *dst16;
134     int32_t *dst32;
135
136     if (buf_size < 4) {
137         av_log(avctx, AV_LOG_ERROR, "PCM packet too small\n");
138         return -1;
139     }
140
141     if (pcm_bluray_parse_header(avctx, src))
142         return -1;
143     src += 4;
144     buf_size -= 4;
145
146     bytestream2_init(&gb, src, buf_size);
147
148     /* There's always an even number of channels in the source */
149     num_source_channels = FFALIGN(avctx->channels, 2);
150     sample_size = (num_source_channels * (avctx->sample_fmt == AV_SAMPLE_FMT_S16 ? 16 : 24)) >> 3;
151     samples = buf_size / sample_size;
152
153     /* get output buffer */
154     frame->nb_samples = samples;
155     if ((retval = ff_get_buffer(avctx, frame, 0)) < 0) {
156         av_log(avctx, AV_LOG_ERROR, "get_buffer() failed\n");
157         return retval;
158     }
159     dst16 = (int16_t *)frame->data[0];
160     dst32 = (int32_t *)frame->data[0];
161
162     if (samples) {
163         switch (avctx->channel_layout) {
164             /* cases with same number of source and coded channels */
165         case AV_CH_LAYOUT_STEREO:
166         case AV_CH_LAYOUT_4POINT0:
167         case AV_CH_LAYOUT_2_2:
168             samples *= num_source_channels;
169             if (AV_SAMPLE_FMT_S16 == avctx->sample_fmt) {
170 #if HAVE_BIGENDIAN
171                 bytestream2_get_buffer(&gb, dst16, buf_size);
172 #else
173                 do {
174                     *dst16++ = bytestream2_get_be16u(&gb);
175                 } while (--samples);
176 #endif
177             } else {
178                 do {
179                     *dst32++ = bytestream2_get_be24u(&gb) << 8;
180                 } while (--samples);
181             }
182             break;
183         /* cases where number of source channels = coded channels + 1 */
184         case AV_CH_LAYOUT_MONO:
185         case AV_CH_LAYOUT_SURROUND:
186         case AV_CH_LAYOUT_2_1:
187         case AV_CH_LAYOUT_5POINT0:
188             if (AV_SAMPLE_FMT_S16 == avctx->sample_fmt) {
189                 do {
190 #if HAVE_BIGENDIAN
191                     bytestream2_get_buffer(&gb, dst16, avctx->channels * 2);
192                     dst16 += avctx->channels;
193 #else
194                     channel = avctx->channels;
195                     do {
196                         *dst16++ = bytestream2_get_be16u(&gb);
197                     } while (--channel);
198 #endif
199                     bytestream2_skip(&gb, 2);
200                 } while (--samples);
201             } else {
202                 do {
203                     channel = avctx->channels;
204                     do {
205                         *dst32++ = bytestream2_get_be24u(&gb) << 8;
206                     } while (--channel);
207                     bytestream2_skip(&gb, 3);
208                 } while (--samples);
209             }
210             break;
211             /* remapping: L, R, C, LBack, RBack, LF */
212         case AV_CH_LAYOUT_5POINT1:
213             if (AV_SAMPLE_FMT_S16 == avctx->sample_fmt) {
214                 do {
215                     dst16[0] = bytestream2_get_be16u(&gb);
216                     dst16[1] = bytestream2_get_be16u(&gb);
217                     dst16[2] = bytestream2_get_be16u(&gb);
218                     dst16[4] = bytestream2_get_be16u(&gb);
219                     dst16[5] = bytestream2_get_be16u(&gb);
220                     dst16[3] = bytestream2_get_be16u(&gb);
221                     dst16 += 6;
222                 } while (--samples);
223             } else {
224                 do {
225                     dst32[0] = bytestream2_get_be24u(&gb) << 8;
226                     dst32[1] = bytestream2_get_be24u(&gb) << 8;
227                     dst32[2] = bytestream2_get_be24u(&gb) << 8;
228                     dst32[4] = bytestream2_get_be24u(&gb) << 8;
229                     dst32[5] = bytestream2_get_be24u(&gb) << 8;
230                     dst32[3] = bytestream2_get_be24u(&gb) << 8;
231                     dst32 += 6;
232                 } while (--samples);
233             }
234             break;
235             /* remapping: L, R, C, LSide, LBack, RBack, RSide, <unused> */
236         case AV_CH_LAYOUT_7POINT0:
237             if (AV_SAMPLE_FMT_S16 == avctx->sample_fmt) {
238                 do {
239                     dst16[0] = bytestream2_get_be16u(&gb);
240                     dst16[1] = bytestream2_get_be16u(&gb);
241                     dst16[2] = bytestream2_get_be16u(&gb);
242                     dst16[5] = bytestream2_get_be16u(&gb);
243                     dst16[3] = bytestream2_get_be16u(&gb);
244                     dst16[4] = bytestream2_get_be16u(&gb);
245                     dst16[6] = bytestream2_get_be16u(&gb);
246                     dst16 += 7;
247                     bytestream2_skip(&gb, 2);
248                 } while (--samples);
249             } else {
250                 do {
251                     dst32[0] = bytestream2_get_be24u(&gb) << 8;
252                     dst32[1] = bytestream2_get_be24u(&gb) << 8;
253                     dst32[2] = bytestream2_get_be24u(&gb) << 8;
254                     dst32[5] = bytestream2_get_be24u(&gb) << 8;
255                     dst32[3] = bytestream2_get_be24u(&gb) << 8;
256                     dst32[4] = bytestream2_get_be24u(&gb) << 8;
257                     dst32[6] = bytestream2_get_be24u(&gb) << 8;
258                     dst32 += 7;
259                     bytestream2_skip(&gb, 3);
260                 } while (--samples);
261             }
262             break;
263             /* remapping: L, R, C, LSide, LBack, RBack, RSide, LF */
264         case AV_CH_LAYOUT_7POINT1:
265             if (AV_SAMPLE_FMT_S16 == avctx->sample_fmt) {
266                 do {
267                     dst16[0] = bytestream2_get_be16u(&gb);
268                     dst16[1] = bytestream2_get_be16u(&gb);
269                     dst16[2] = bytestream2_get_be16u(&gb);
270                     dst16[6] = bytestream2_get_be16u(&gb);
271                     dst16[4] = bytestream2_get_be16u(&gb);
272                     dst16[5] = bytestream2_get_be16u(&gb);
273                     dst16[7] = bytestream2_get_be16u(&gb);
274                     dst16[3] = bytestream2_get_be16u(&gb);
275                     dst16 += 8;
276                 } while (--samples);
277             } else {
278                 do {
279                     dst32[0] = bytestream2_get_be24u(&gb) << 8;
280                     dst32[1] = bytestream2_get_be24u(&gb) << 8;
281                     dst32[2] = bytestream2_get_be24u(&gb) << 8;
282                     dst32[6] = bytestream2_get_be24u(&gb) << 8;
283                     dst32[4] = bytestream2_get_be24u(&gb) << 8;
284                     dst32[5] = bytestream2_get_be24u(&gb) << 8;
285                     dst32[7] = bytestream2_get_be24u(&gb) << 8;
286                     dst32[3] = bytestream2_get_be24u(&gb) << 8;
287                     dst32 += 8;
288                 } while (--samples);
289             }
290             break;
291         }
292     }
293
294     *got_frame_ptr = 1;
295
296     retval = bytestream2_tell(&gb);
297     if (avctx->debug & FF_DEBUG_BITSTREAM)
298         av_dlog(avctx, "pcm_bluray_decode_frame: decoded %d -> %d bytes\n",
299                 retval, buf_size);
300     return retval + 4;
301 }
302
303 AVCodec ff_pcm_bluray_decoder = {
304     .name           = "pcm_bluray",
305     .type           = AVMEDIA_TYPE_AUDIO,
306     .id             = AV_CODEC_ID_PCM_BLURAY,
307     .decode         = pcm_bluray_decode_frame,
308     .capabilities   = CODEC_CAP_DR1,
309     .sample_fmts    = (const enum AVSampleFormat[]){
310         AV_SAMPLE_FMT_S16, AV_SAMPLE_FMT_S32, AV_SAMPLE_FMT_NONE
311     },
312     .long_name      = NULL_IF_CONFIG_SMALL("PCM signed 16|20|24-bit big-endian for Blu-ray media"),
313 };