vble: remove unused variable len.
[ffmpeg.git] / libavcodec / vble.c
1 /*
2  * VBLE Decoder
3  * Copyright (c) 2011 Derek Buitenhuis
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * VBLE Decoder
25  */
26
27 #define ALT_BITSTREAM_READER_LE
28
29 #include "avcodec.h"
30 #include "get_bits.h"
31
32 typedef struct {
33     AVCodecContext *avctx;
34
35     int            size;
36     int            flags;
37     uint8_t        *len;
38     uint8_t        *val;
39 } VBLEContext;
40
41 static int vble_unpack(VBLEContext *ctx, GetBitContext *gb)
42 {
43     int i;
44     int allbits = 0;
45     static const uint8_t LUT[256] = {
46         8,0,1,0,2,0,1,0,3,0,1,0,2,0,1,0,4,0,1,0,2,0,1,0,3,0,1,0,2,0,1,0,
47         5,0,1,0,2,0,1,0,3,0,1,0,2,0,1,0,4,0,1,0,2,0,1,0,3,0,1,0,2,0,1,0,
48         6,0,1,0,2,0,1,0,3,0,1,0,2,0,1,0,4,0,1,0,2,0,1,0,3,0,1,0,2,0,1,0,
49         5,0,1,0,2,0,1,0,3,0,1,0,2,0,1,0,4,0,1,0,2,0,1,0,3,0,1,0,2,0,1,0,
50         7,0,1,0,2,0,1,0,3,0,1,0,2,0,1,0,4,0,1,0,2,0,1,0,3,0,1,0,2,0,1,0,
51         5,0,1,0,2,0,1,0,3,0,1,0,2,0,1,0,4,0,1,0,2,0,1,0,3,0,1,0,2,0,1,0,
52         6,0,1,0,2,0,1,0,3,0,1,0,2,0,1,0,4,0,1,0,2,0,1,0,3,0,1,0,2,0,1,0,
53         5,0,1,0,2,0,1,0,3,0,1,0,2,0,1,0,4,0,1,0,2,0,1,0,3,0,1,0,2,0,1,0,
54     };
55
56     /* Read all the lengths in first */
57     for (i = 0; i < ctx->size; i++) {
58         /* At most we need to read 9 bits total to get indices up to 8 */
59         int val = show_bits(gb, 8);
60
61         // read reverse unary
62         if (val) {
63             val = LUT[val];
64             skip_bits(gb, val + 1);
65             ctx->len[i] = val;
66         } else {
67             skip_bits(gb, 8);
68             if (!get_bits1(gb))
69                 return -1;
70             ctx->len[i] = 8;
71         }
72         allbits += ctx->len[i];
73     }
74
75     /* Check we have enough bits left */
76     if (get_bits_left(gb) < allbits)
77         return -1;
78
79     /* For any values that have length 0 */
80     memset(ctx->val, 0, ctx->size);
81
82     for (i = 0; i < ctx->size; i++) {
83         /* get_bits can't take a length of 0 */
84         if (ctx->len[i])
85             ctx->val[i] = (1 << ctx->len[i]) + get_bits(gb, ctx->len[i]) - 1;
86     }
87
88     return 0;
89 }
90
91 static void vble_restore_plane(VBLEContext *ctx, int plane, int offset,
92                               int width, int height)
93 {
94     AVFrame *pic = ctx->avctx->coded_frame;
95     uint8_t *dst = pic->data[plane];
96     uint8_t *val = ctx->val + offset;
97     uint8_t a, b, c;
98     int stride = pic->linesize[plane];
99     int i, j;
100
101     for (i = 0; i < height; i++) {
102         for (j = 0; j < width; j++) {
103             dst[j] = (val[j] >> 1) ^ -(val[j] & 1);
104
105             /* Top line and left column are not predicted */
106             if (!j)
107                 continue;
108
109             if (!i) {
110                 dst[j] += dst[j - 1];
111                 continue;
112             }
113
114             a = dst[j - 1];
115             b = dst[j - stride];
116             c = a + b - dst[j - 1 - stride];
117             dst[j] += mid_pred(a, b, c);
118         }
119         dst += stride;
120         val += width;
121     }
122 }
123
124 static int vble_decode_frame(AVCodecContext *avctx, void *data, int *data_size,
125                              AVPacket *avpkt)
126 {
127     VBLEContext *ctx = avctx->priv_data;
128     AVFrame *pic = avctx->coded_frame;
129     GetBitContext gb;
130     const uint8_t *src = avpkt->data;
131     int version;
132     int offset = 0;
133     int width_uv = avctx->width / 2, height_uv = avctx->height / 2;
134
135     pic->reference = 0;
136
137     /* Clear buffer if need be */
138     if (pic->data[0])
139         avctx->release_buffer(avctx, pic);
140
141     /* Allocate buffer */
142     if (avctx->get_buffer(avctx, pic) < 0) {
143         av_log(avctx, AV_LOG_ERROR, "Could not allocate buffer.\n");
144         return AVERROR(ENOMEM);
145     }
146
147     /* Set flags */
148     pic->key_frame = 1;
149     pic->pict_type = FF_I_TYPE;
150
151     /* Version should always be 1 */
152     version = AV_RL32(src);
153
154     if (version != 1) {
155         av_log(avctx, AV_LOG_ERROR, "Unsupported VBLE Version: %d\n", version);
156         return AVERROR_INVALIDDATA;
157     }
158
159     init_get_bits(&gb, src + 4, (avpkt->size - 4) * 8);
160
161     /* Unpack */
162     if (vble_unpack(ctx, &gb) < 0) {
163         av_log(avctx, AV_LOG_ERROR, "Invalid Code\n");
164         return AVERROR_INVALIDDATA;
165     }
166
167     /* Restore planes. Should be almost identical to Huffyuv's. */
168     vble_restore_plane(ctx, 0, offset, avctx->width, avctx->height);
169
170     /* Chroma */
171     if (!(ctx->flags & CODEC_FLAG_GRAY)) {
172         offset += avctx->width * avctx->height;
173         vble_restore_plane(ctx, 1, offset, width_uv, height_uv);
174
175         offset += width_uv * height_uv;
176         vble_restore_plane(ctx, 2, offset, width_uv, height_uv);
177     }
178
179     *data_size = sizeof(AVFrame);
180     *(AVFrame *)data = *pic;
181
182     return avpkt->size;
183 }
184
185 static av_cold int vble_decode_close(AVCodecContext *avctx)
186 {
187     VBLEContext *ctx = avctx->priv_data;
188     AVFrame *pic = avctx->coded_frame;
189
190     if (pic->data[0])
191         avctx->release_buffer(avctx, pic);
192
193     av_freep(&avctx->coded_frame);
194     av_freep(&ctx->len);
195     av_freep(&ctx->val);
196
197     return 0;
198 }
199
200 static av_cold int vble_decode_init(AVCodecContext *avctx)
201 {
202     VBLEContext *ctx = avctx->priv_data;
203
204     /* Stash for later use */
205     ctx->avctx = avctx;
206     ctx->flags = avctx->flags;
207
208     avctx->pix_fmt = PIX_FMT_YUV420P;
209     avctx->bits_per_raw_sample = 8;
210     avctx->coded_frame = avcodec_alloc_frame();
211
212     if (!avctx->coded_frame) {
213         av_log(avctx, AV_LOG_ERROR, "Could not allocate frame.\n");
214         return AVERROR(ENOMEM);
215     }
216
217     ctx->size = avpicture_get_size(avctx->pix_fmt,
218                                    avctx->width, avctx->height);
219
220     ctx->len = av_malloc(ctx->size * sizeof(*ctx->len));
221
222     if (!ctx->len) {
223         av_log(avctx, AV_LOG_ERROR, "Could not allocate lengths buffer.\n");
224         vble_decode_close(avctx);
225         return AVERROR(ENOMEM);
226     }
227
228     ctx->val = av_malloc(ctx->size * sizeof(*ctx->val));
229
230     if (!ctx->val) {
231         av_log(avctx, AV_LOG_ERROR, "Could not allocate values buffer.\n");
232         vble_decode_close(avctx);
233         return AVERROR(ENOMEM);
234     }
235
236     return 0;
237 }
238
239 AVCodec ff_vble_decoder = {
240     .name           = "vble",
241     .type           = AVMEDIA_TYPE_VIDEO,
242     .id             = CODEC_ID_VBLE,
243     .priv_data_size = sizeof(VBLEContext),
244     .init           = vble_decode_init,
245     .close          = vble_decode_close,
246     .decode         = vble_decode_frame,
247     .capabilities   = CODEC_CAP_DR1,
248     .long_name      = NULL_IF_CONFIG_SMALL("VBLE Lossless Codec"),
249 };