avutil/lzo: K&R formatting cosmetics
[ffmpeg.git] / libavutil / lzo.c
1 /*
2  * LZO 1x decompression
3  * Copyright (c) 2006 Reimar Doeffinger
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include <string.h>
23
24 #include "avutil.h"
25 #include "common.h"
26 #include "lzo.h"
27
28 /// Define if we may write up to 12 bytes beyond the output buffer.
29 #define OUTBUF_PADDED 1
30 /// Define if we may read up to 8 bytes beyond the input buffer.
31 #define INBUF_PADDED 1
32
33 typedef struct LZOContext {
34     const uint8_t *in, *in_end;
35     uint8_t *out_start, *out, *out_end;
36     int error;
37 } LZOContext;
38
39 /**
40  * @brief Reads one byte from the input buffer, avoiding an overrun.
41  * @return byte read
42  */
43 static inline int get_byte(LZOContext *c)
44 {
45     if (c->in < c->in_end)
46         return *c->in++;
47     c->error |= AV_LZO_INPUT_DEPLETED;
48     return 1;
49 }
50
51 #ifdef INBUF_PADDED
52 #define GETB(c) (*(c).in++)
53 #else
54 #define GETB(c) get_byte(&(c))
55 #endif
56
57 /**
58  * @brief Decodes a length value in the coding used by lzo.
59  * @param x previous byte value
60  * @param mask bits used from x
61  * @return decoded length value
62  */
63 static inline int get_len(LZOContext *c, int x, int mask)
64 {
65     int cnt = x & mask;
66     if (!cnt) {
67         while (!(x = get_byte(c)))
68             cnt += 255;
69         cnt += mask + x;
70     }
71     return cnt;
72 }
73
74 //#define UNALIGNED_LOADSTORE
75 #define BUILTIN_MEMCPY
76 #ifdef UNALIGNED_LOADSTORE
77 #define COPY2(d, s) *(uint16_t *)(d) = *(uint16_t *)(s);
78 #define COPY4(d, s) *(uint32_t *)(d) = *(uint32_t *)(s);
79 #elif defined(BUILTIN_MEMCPY)
80 #define COPY2(d, s) memcpy(d, s, 2);
81 #define COPY4(d, s) memcpy(d, s, 4);
82 #else
83 #define COPY2(d, s) (d)[0] = (s)[0]; (d)[1] = (s)[1];
84 #define COPY4(d, s) (d)[0] = (s)[0]; (d)[1] = (s)[1]; (d)[2] = (s)[2]; (d)[3] = (s)[3];
85 #endif
86
87 /**
88  * @brief Copies bytes from input to output buffer with checking.
89  * @param cnt number of bytes to copy, must be >= 0
90  */
91 static inline void copy(LZOContext *c, int cnt)
92 {
93     register const uint8_t *src = c->in;
94     register uint8_t *dst       = c->out;
95     if (cnt > c->in_end - src) {
96         cnt       = FFMAX(c->in_end - src, 0);
97         c->error |= AV_LZO_INPUT_DEPLETED;
98     }
99     if (cnt > c->out_end - dst) {
100         cnt       = FFMAX(c->out_end - dst, 0);
101         c->error |= AV_LZO_OUTPUT_FULL;
102     }
103 #if defined(INBUF_PADDED) && defined(OUTBUF_PADDED)
104     COPY4(dst, src);
105     src += 4;
106     dst += 4;
107     cnt -= 4;
108     if (cnt > 0)
109 #endif
110     memcpy(dst, src, cnt);
111     c->in  = src + cnt;
112     c->out = dst + cnt;
113 }
114
115 static inline void memcpy_backptr(uint8_t *dst, int back, int cnt);
116
117 /**
118  * @brief Copies previously decoded bytes to current position.
119  * @param back how many bytes back we start
120  * @param cnt number of bytes to copy, must be >= 0
121  *
122  * cnt > back is valid, this will copy the bytes we just copied,
123  * thus creating a repeating pattern with a period length of back.
124  */
125 static inline void copy_backptr(LZOContext *c, int back, int cnt)
126 {
127     register const uint8_t *src = &c->out[-back];
128     register uint8_t *dst       = c->out;
129     if (src < c->out_start || src > dst) {
130         c->error |= AV_LZO_INVALID_BACKPTR;
131         return;
132     }
133     if (cnt > c->out_end - dst) {
134         cnt       = FFMAX(c->out_end - dst, 0);
135         c->error |= AV_LZO_OUTPUT_FULL;
136     }
137     memcpy_backptr(dst, back, cnt);
138     c->out = dst + cnt;
139 }
140
141 static inline void memcpy_backptr(uint8_t *dst, int back, int cnt)
142 {
143     const uint8_t *src = &dst[-back];
144     if (back == 1) {
145         memset(dst, *src, cnt);
146     } else {
147 #ifdef OUTBUF_PADDED
148         COPY2(dst, src);
149         COPY2(dst + 2, src + 2);
150         src += 4;
151         dst += 4;
152         cnt -= 4;
153         if (cnt > 0) {
154             COPY2(dst, src);
155             COPY2(dst + 2, src + 2);
156             COPY2(dst + 4, src + 4);
157             COPY2(dst + 6, src + 6);
158             src += 8;
159             dst += 8;
160             cnt -= 8;
161         }
162 #endif
163         if (cnt > 0) {
164             int blocklen = back;
165             while (cnt > blocklen) {
166                 memcpy(dst, src, blocklen);
167                 dst       += blocklen;
168                 cnt       -= blocklen;
169                 blocklen <<= 1;
170             }
171             memcpy(dst, src, cnt);
172         }
173     }
174 }
175
176 void av_memcpy_backptr(uint8_t *dst, int back, int cnt)
177 {
178     memcpy_backptr(dst, back, cnt);
179 }
180
181 int av_lzo1x_decode(void *out, int *outlen, const void *in, int *inlen)
182 {
183     int state = 0;
184     int x;
185     LZOContext c;
186     if (!*outlen || !*inlen) {
187         int res = 0;
188         if (!*outlen)
189             res |= AV_LZO_OUTPUT_FULL;
190         if (!*inlen)
191             res |= AV_LZO_INPUT_DEPLETED;
192         return res;
193     }
194     c.in      = in;
195     c.in_end  = (const uint8_t *)in + *inlen;
196     c.out     = c.out_start = out;
197     c.out_end = (uint8_t *)out + *outlen;
198     c.error   = 0;
199     x         = GETB(c);
200     if (x > 17) {
201         copy(&c, x - 17);
202         x = GETB(c);
203         if (x < 16)
204             c.error |= AV_LZO_ERROR;
205     }
206     if (c.in > c.in_end)
207         c.error |= AV_LZO_INPUT_DEPLETED;
208     while (!c.error) {
209         int cnt, back;
210         if (x > 15) {
211             if (x > 63) {
212                 cnt  = (x >> 5) - 1;
213                 back = (GETB(c) << 3) + ((x >> 2) & 7) + 1;
214             } else if (x > 31) {
215                 cnt  = get_len(&c, x, 31);
216                 x    = GETB(c);
217                 back = (GETB(c) << 6) + (x >> 2) + 1;
218             } else {
219                 cnt   = get_len(&c, x, 7);
220                 back  = (1 << 14) + ((x & 8) << 11);
221                 x     = GETB(c);
222                 back += (GETB(c) << 6) + (x >> 2);
223                 if (back == (1 << 14)) {
224                     if (cnt != 1)
225                         c.error |= AV_LZO_ERROR;
226                     break;
227                 }
228             }
229         } else if (!state) {
230             cnt = get_len(&c, x, 15);
231             copy(&c, cnt + 3);
232             x = GETB(c);
233             if (x > 15)
234                 continue;
235             cnt  = 1;
236             back = (1 << 11) + (GETB(c) << 2) + (x >> 2) + 1;
237         } else {
238             cnt  = 0;
239             back = (GETB(c) << 2) + (x >> 2) + 1;
240         }
241         copy_backptr(&c, back, cnt + 2);
242         state =
243         cnt   = x & 3;
244         copy(&c, cnt);
245         x = GETB(c);
246     }
247     *inlen = c.in_end - c.in;
248     if (c.in > c.in_end)
249         *inlen = 0;
250     *outlen = c.out_end - c.out;
251     return c.error;
252 }