ppc: linux: Check altivec using the auxv
[ffmpeg.git] / libavutil / lzo.c
1 /*
2  * LZO 1x decompression
3  * Copyright (c) 2006 Reimar Doeffinger
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include <string.h>
23
24 #include "avutil.h"
25 #include "common.h"
26 #include "intreadwrite.h"
27 #include "lzo.h"
28
29 /// Define if we may write up to 12 bytes beyond the output buffer.
30 #define OUTBUF_PADDED 1
31 /// Define if we may read up to 8 bytes beyond the input buffer.
32 #define INBUF_PADDED 1
33
34 typedef struct LZOContext {
35     const uint8_t *in, *in_end;
36     uint8_t *out_start, *out, *out_end;
37     int error;
38 } LZOContext;
39
40 /**
41  * @brief Reads one byte from the input buffer, avoiding an overrun.
42  * @return byte read
43  */
44 static inline int get_byte(LZOContext *c)
45 {
46     if (c->in < c->in_end)
47         return *c->in++;
48     c->error |= AV_LZO_INPUT_DEPLETED;
49     return 1;
50 }
51
52 #ifdef INBUF_PADDED
53 #define GETB(c) (*(c).in++)
54 #else
55 #define GETB(c) get_byte(&(c))
56 #endif
57
58 /**
59  * @brief Decodes a length value in the coding used by lzo.
60  * @param x previous byte value
61  * @param mask bits used from x
62  * @return decoded length value
63  */
64 static inline int get_len(LZOContext *c, int x, int mask)
65 {
66     int cnt = x & mask;
67     if (!cnt) {
68         while (!(x = get_byte(c)))
69             cnt += 255;
70         cnt += mask + x;
71     }
72     return cnt;
73 }
74
75 /**
76  * @brief Copies bytes from input to output buffer with checking.
77  * @param cnt number of bytes to copy, must be >= 0
78  */
79 static inline void copy(LZOContext *c, int cnt)
80 {
81     register const uint8_t *src = c->in;
82     register uint8_t *dst       = c->out;
83     if (cnt < 0) {
84         c->error |= AV_LZO_ERROR;
85         return;
86     }
87     if (cnt > c->in_end - src) {
88         cnt       = FFMAX(c->in_end - src, 0);
89         c->error |= AV_LZO_INPUT_DEPLETED;
90     }
91     if (cnt > c->out_end - dst) {
92         cnt       = FFMAX(c->out_end - dst, 0);
93         c->error |= AV_LZO_OUTPUT_FULL;
94     }
95 #if defined(INBUF_PADDED) && defined(OUTBUF_PADDED)
96     AV_COPY32U(dst, src);
97     src += 4;
98     dst += 4;
99     cnt -= 4;
100     if (cnt > 0)
101 #endif
102     memcpy(dst, src, cnt);
103     c->in  = src + cnt;
104     c->out = dst + cnt;
105 }
106
107 /**
108  * @brief Copies previously decoded bytes to current position.
109  * @param back how many bytes back we start
110  * @param cnt number of bytes to copy, must be > 0
111  *
112  * cnt > back is valid, this will copy the bytes we just copied,
113  * thus creating a repeating pattern with a period length of back.
114  */
115 static inline void copy_backptr(LZOContext *c, int back, int cnt)
116 {
117     register uint8_t *dst       = c->out;
118     if (cnt <= 0) {
119         c->error |= AV_LZO_ERROR;
120         return;
121     }
122     if (dst - c->out_start < back) {
123         c->error |= AV_LZO_INVALID_BACKPTR;
124         return;
125     }
126     if (cnt > c->out_end - dst) {
127         cnt       = FFMAX(c->out_end - dst, 0);
128         c->error |= AV_LZO_OUTPUT_FULL;
129     }
130     av_memcpy_backptr(dst, back, cnt);
131     c->out = dst + cnt;
132 }
133
134 int av_lzo1x_decode(void *out, int *outlen, const void *in, int *inlen)
135 {
136     int state = 0;
137     int x;
138     LZOContext c;
139     if (!*outlen || !*inlen) {
140         int res = 0;
141         if (!*outlen)
142             res |= AV_LZO_OUTPUT_FULL;
143         if (!*inlen)
144             res |= AV_LZO_INPUT_DEPLETED;
145         return res;
146     }
147     c.in      = in;
148     c.in_end  = (const uint8_t *)in + *inlen;
149     c.out     = c.out_start = out;
150     c.out_end = (uint8_t *)out + *outlen;
151     c.error   = 0;
152     x         = GETB(c);
153     if (x > 17) {
154         copy(&c, x - 17);
155         x = GETB(c);
156         if (x < 16)
157             c.error |= AV_LZO_ERROR;
158     }
159     if (c.in > c.in_end)
160         c.error |= AV_LZO_INPUT_DEPLETED;
161     while (!c.error) {
162         int cnt, back;
163         if (x > 15) {
164             if (x > 63) {
165                 cnt  = (x >> 5) - 1;
166                 back = (GETB(c) << 3) + ((x >> 2) & 7) + 1;
167             } else if (x > 31) {
168                 cnt  = get_len(&c, x, 31);
169                 x    = GETB(c);
170                 back = (GETB(c) << 6) + (x >> 2) + 1;
171             } else {
172                 cnt   = get_len(&c, x, 7);
173                 back  = (1 << 14) + ((x & 8) << 11);
174                 x     = GETB(c);
175                 back += (GETB(c) << 6) + (x >> 2);
176                 if (back == (1 << 14)) {
177                     if (cnt != 1)
178                         c.error |= AV_LZO_ERROR;
179                     break;
180                 }
181             }
182         } else if (!state) {
183             cnt = get_len(&c, x, 15);
184             copy(&c, cnt + 3);
185             x = GETB(c);
186             if (x > 15)
187                 continue;
188             cnt  = 1;
189             back = (1 << 11) + (GETB(c) << 2) + (x >> 2) + 1;
190         } else {
191             cnt  = 0;
192             back = (GETB(c) << 2) + (x >> 2) + 1;
193         }
194         copy_backptr(&c, back, cnt + 2);
195         state =
196         cnt   = x & 3;
197         copy(&c, cnt);
198         x = GETB(c);
199     }
200     *inlen = c.in_end - c.in;
201     if (c.in > c.in_end)
202         *inlen = 0;
203     *outlen = c.out_end - c.out;
204     return c.error;
205 }