mlp: split simple inline function that xors 4 bytes into one.
[ffmpeg.git] / libavcodec / mlp.h
1 /*
2  * MLP codec common header file
3  * Copyright (c) 2007-2008 Ian Caulfield
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #ifndef FFMPEG_MLP_H
23 #define FFMPEG_MLP_H
24
25 #include <stdint.h>
26
27 #include "avcodec.h"
28
29 /** Maximum number of channels that can be decoded. */
30 #define MAX_CHANNELS        16
31
32 /** Maximum number of matrices used in decoding; most streams have one matrix
33  *  per output channel, but some rematrix a channel (usually 0) more than once.
34  */
35 #define MAX_MATRICES        15
36
37 /** Maximum number of substreams that can be decoded. This could also be set
38  *  higher, but I haven't seen any examples with more than two.
39  */
40 #define MAX_SUBSTREAMS      2
41
42 /** maximum sample frequency seen in files */
43 #define MAX_SAMPLERATE      192000
44
45 /** maximum number of audio samples within one access unit */
46 #define MAX_BLOCKSIZE       (40 * (MAX_SAMPLERATE / 48000))
47 /** next power of two greater than MAX_BLOCKSIZE */
48 #define MAX_BLOCKSIZE_POW2  (64 * (MAX_SAMPLERATE / 48000))
49
50 /** number of allowed filters */
51 #define NUM_FILTERS         2
52
53 /** The maximum number of taps in either the IIR or FIR filter;
54  *  I believe MLP actually specifies the maximum order for IIR filters as four,
55  *  and that the sum of the orders of both filters must be <= 8.
56 */
57 #define MAX_FILTER_ORDER    8
58
59 #define FIR 0
60 #define IIR 1
61
62 /** filter data */
63 typedef struct {
64     uint8_t     order; ///< number of taps in filter
65     uint8_t     shift; ///< Right shift to apply to output of filter.
66
67     int32_t     coeff[MAX_FILTER_ORDER];
68     int32_t     state[MAX_FILTER_ORDER];
69 } FilterParams;
70
71 /** sample data coding information */
72 typedef struct {
73     FilterParams filter_params[NUM_FILTERS];
74
75     int16_t     huff_offset;      ///< Offset to apply to residual values.
76     int32_t     sign_huff_offset; ///< sign/rounding-corrected version of huff_offset
77     uint8_t     codebook;         ///< Which VLC codebook to use to read residuals.
78     uint8_t     huff_lsbs;        ///< Size of residual suffix not encoded using VLC.
79 } ChannelParams;
80
81 /** Tables defining the Huffman codes.
82  *  There are three entropy coding methods used in MLP (four if you count
83  *  "none" as a method). These use the same sequences for codes starting with
84  *  00 or 01, but have different codes starting with 1.
85  */
86 extern const uint8_t ff_mlp_huffman_tables[3][18][2];
87
88 /** MLP uses checksums that seem to be based on the standard CRC algorithm, but
89  *  are not (in implementation terms, the table lookup and XOR are reversed).
90  *  We can implement this behavior using a standard av_crc on all but the
91  *  last element, then XOR that with the last element.
92  */
93 uint8_t  ff_mlp_checksum8 (const uint8_t *buf, unsigned int buf_size);
94 uint16_t ff_mlp_checksum16(const uint8_t *buf, unsigned int buf_size);
95
96 /** Calculate an 8-bit checksum over a restart header -- a non-multiple-of-8
97  *  number of bits, starting two bits into the first byte of buf.
98  */
99 uint8_t ff_mlp_restart_checksum(const uint8_t *buf, unsigned int bit_size);
100
101 /** XOR together all the bytes of a buffer.
102  *  Does this belong in dspcontext?
103  */
104 uint8_t ff_mlp_calculate_parity(const uint8_t *buf, unsigned int buf_size);
105
106 int ff_mlp_init_crc2D(AVCodecParserContext *s);
107
108 void ff_mlp_init_crc();
109
110 /** XOR four bytes into one. */
111 static inline uint8_t xor_32_to_8(uint32_t value)
112 {
113     value ^= value >> 16;
114     value ^= value >>  8;
115     return value;
116 }
117
118 #endif /* FFMPEG_MLP_H */