9589b535ec73627404928a50b45b72d4a640916e
[ffmpeg.git] / libavcodec / vble.c
1 /*
2  * VBLE Decoder
3  * Copyright (c) 2011 Derek Buitenhuis
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * VBLE Decoder
25  */
26
27 #define ALT_BITSTREAM_READER_LE
28
29 #include "avcodec.h"
30 #include "get_bits.h"
31
32 typedef struct {
33     AVCodecContext *avctx;
34
35     int            size;
36     int            flags;
37     uint8_t        *len;
38     uint8_t        *val;
39 } VBLEContext;
40
41 static uint8_t vble_read_reverse_unary(GetBitContext *gb)
42 {
43     /* At most we need to read 9 bits total to get indices up to 8 */
44     uint8_t val = show_bits(gb, 8);
45
46     if (val) {
47         val = 7 - av_log2_16bit(av_reverse[val]);
48         skip_bits(gb, val + 1);
49         return val;
50     } else {
51         skip_bits(gb, 8);
52         if (get_bits1(gb))
53             return 8;
54     }
55
56     /* Return something larger than 8 on error */
57     return UINT8_MAX;
58 }
59
60 static int vble_unpack(VBLEContext *ctx, GetBitContext *gb)
61 {
62     int i;
63
64     /* Read all the lengths in first */
65     for (i = 0; i < ctx->size; i++) {
66         ctx->len[i] = vble_read_reverse_unary(gb);
67
68         if (ctx->len[i] == UINT8_MAX)
69             return -1;
70     }
71
72     /* For any values that have length 0 */
73     memset(ctx->val, 0, ctx->size);
74
75     for (i = 0; i < ctx->size; i++) {
76         /* Check we have enough bits left */
77         if (get_bits_left(gb) < ctx->len[i])
78             return -1;
79
80         /* get_bits can't take a length of 0 */
81         if (ctx->len[i])
82             ctx->val[i] = (1 << ctx->len[i]) + get_bits(gb, ctx->len[i]) - 1;
83     }
84
85     return 0;
86 }
87
88 static void vble_restore_plane(VBLEContext *ctx, int plane, int offset,
89                               int width, int height)
90 {
91     AVFrame *pic = ctx->avctx->coded_frame;
92     uint8_t *dst = pic->data[plane];
93     uint8_t *val = ctx->val + offset;
94     uint8_t *len = ctx->len + offset;
95     uint8_t a, b, c;
96     int stride = pic->linesize[plane];
97     int i, j;
98
99     for (i = 0; i < height; i++) {
100         for (j = 0; j < width; j++) {
101             dst[j] = (val[j] >> 1) ^ -(val[j] & 1);
102
103             /* Top line and left column are not predicted */
104             if (!j)
105                 continue;
106
107             if (!i) {
108                 dst[j] += dst[j - 1];
109                 continue;
110             }
111
112             a = dst[j - 1];
113             b = dst[j - stride];
114             c = a + b - dst[j - 1 - stride];
115             dst[j] += mid_pred(a, b, c);
116         }
117         dst += stride;
118         val += width;
119         len += width;
120     }
121 }
122
123 static int vble_decode_frame(AVCodecContext *avctx, void *data, int *data_size,
124                              AVPacket *avpkt)
125 {
126     VBLEContext *ctx = avctx->priv_data;
127     AVFrame *pic = avctx->coded_frame;
128     GetBitContext gb;
129     const uint8_t *src = avpkt->data;
130     int version;
131     int offset = 0;
132     int width_uv = avctx->width / 2, height_uv = avctx->height / 2;
133
134     pic->reference = 0;
135
136     /* Clear buffer if need be */
137     if (pic->data[0])
138         avctx->release_buffer(avctx, pic);
139
140     /* Allocate buffer */
141     if (avctx->get_buffer(avctx, pic) < 0) {
142         av_log(avctx, AV_LOG_ERROR, "Could not allocate buffer.\n");
143         return AVERROR(ENOMEM);
144     }
145
146     /* Set flags */
147     pic->key_frame = 1;
148     pic->pict_type = FF_I_TYPE;
149
150     /* Version should always be 1 */
151     version = AV_RL32(src);
152
153     if (version != 1) {
154         av_log(avctx, AV_LOG_ERROR, "Unsupported VBLE Version: %d\n", version);
155         return AVERROR_INVALIDDATA;
156     }
157
158     init_get_bits(&gb, src + 4, (avpkt->size - 4) * 8);
159
160     /* Unpack */
161     if (vble_unpack(ctx, &gb) < 0) {
162         av_log(avctx, AV_LOG_ERROR, "Invalid Code\n");
163         return AVERROR_INVALIDDATA;
164     }
165
166     /* Restore planes. Should be almost identical to Huffyuv's. */
167     vble_restore_plane(ctx, 0, offset, avctx->width, avctx->height);
168
169     /* Chroma */
170     if (!(ctx->flags & CODEC_FLAG_GRAY)) {
171         offset += avctx->width * avctx->height;
172         vble_restore_plane(ctx, 1, offset, width_uv, height_uv);
173
174         offset += width_uv * height_uv;
175         vble_restore_plane(ctx, 2, offset, width_uv, height_uv);
176     }
177
178     *data_size = sizeof(AVFrame);
179     *(AVFrame *)data = *pic;
180
181     return avpkt->size;
182 }
183
184 static av_cold int vble_decode_close(AVCodecContext *avctx)
185 {
186     VBLEContext *ctx = avctx->priv_data;
187     AVFrame *pic = avctx->coded_frame;
188
189     if (pic->data[0])
190         avctx->release_buffer(avctx, pic);
191
192     av_freep(&avctx->coded_frame);
193     av_freep(&ctx->len);
194     av_freep(&ctx->val);
195
196     return 0;
197 }
198
199 static av_cold int vble_decode_init(AVCodecContext *avctx)
200 {
201     VBLEContext *ctx = avctx->priv_data;
202
203     /* Stash for later use */
204     ctx->avctx = avctx;
205     ctx->flags = avctx->flags;
206
207     avctx->pix_fmt = PIX_FMT_YUV420P;
208     avctx->bits_per_raw_sample = 8;
209     avctx->coded_frame = avcodec_alloc_frame();
210
211     if (!avctx->coded_frame) {
212         av_log(avctx, AV_LOG_ERROR, "Could not allocate frame.\n");
213         return AVERROR(ENOMEM);
214     }
215
216     ctx->size = avpicture_get_size(avctx->pix_fmt,
217                                    avctx->width, avctx->height);
218
219     ctx->len = av_malloc(ctx->size * sizeof(*ctx->len));
220
221     if (!ctx->len) {
222         av_log(avctx, AV_LOG_ERROR, "Could not allocate lengths buffer.\n");
223         vble_decode_close(avctx);
224         return AVERROR(ENOMEM);
225     }
226
227     ctx->val = av_malloc(ctx->size * sizeof(*ctx->val));
228
229     if (!ctx->val) {
230         av_log(avctx, AV_LOG_ERROR, "Could not allocate values buffer.\n");
231         vble_decode_close(avctx);
232         return AVERROR(ENOMEM);
233     }
234
235     return 0;
236 }
237
238 AVCodec ff_vble_decoder = {
239     .name           = "vble",
240     .type           = AVMEDIA_TYPE_VIDEO,
241     .id             = CODEC_ID_VBLE,
242     .priv_data_size = sizeof(VBLEContext),
243     .init           = vble_decode_init,
244     .close          = vble_decode_close,
245     .decode         = vble_decode_frame,
246     .capabilities   = CODEC_CAP_DR1,
247     .long_name      = NULL_IF_CONFIG_SMALL("VBLE Lossless Codec"),
248 };