vble: remove flags copy, its not used in any speed relevant code.
[ffmpeg.git] / libavcodec / vble.c
1 /*
2  * VBLE Decoder
3  * Copyright (c) 2011 Derek Buitenhuis
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * VBLE Decoder
25  */
26
27 #define ALT_BITSTREAM_READER_LE
28
29 #include "avcodec.h"
30 #include "get_bits.h"
31
32 typedef struct {
33     AVCodecContext *avctx;
34
35     int            size;
36     uint8_t        *val; ///< This array first holds the lengths of vlc symbols and then their value.
37 } VBLEContext;
38
39 static int vble_unpack(VBLEContext *ctx, GetBitContext *gb)
40 {
41     int i;
42     int allbits = 0;
43     static const uint8_t LUT[256] = {
44         8,0,1,0,2,0,1,0,3,0,1,0,2,0,1,0,4,0,1,0,2,0,1,0,3,0,1,0,2,0,1,0,
45         5,0,1,0,2,0,1,0,3,0,1,0,2,0,1,0,4,0,1,0,2,0,1,0,3,0,1,0,2,0,1,0,
46         6,0,1,0,2,0,1,0,3,0,1,0,2,0,1,0,4,0,1,0,2,0,1,0,3,0,1,0,2,0,1,0,
47         5,0,1,0,2,0,1,0,3,0,1,0,2,0,1,0,4,0,1,0,2,0,1,0,3,0,1,0,2,0,1,0,
48         7,0,1,0,2,0,1,0,3,0,1,0,2,0,1,0,4,0,1,0,2,0,1,0,3,0,1,0,2,0,1,0,
49         5,0,1,0,2,0,1,0,3,0,1,0,2,0,1,0,4,0,1,0,2,0,1,0,3,0,1,0,2,0,1,0,
50         6,0,1,0,2,0,1,0,3,0,1,0,2,0,1,0,4,0,1,0,2,0,1,0,3,0,1,0,2,0,1,0,
51         5,0,1,0,2,0,1,0,3,0,1,0,2,0,1,0,4,0,1,0,2,0,1,0,3,0,1,0,2,0,1,0,
52     };
53
54     /* Read all the lengths in first */
55     for (i = 0; i < ctx->size; i++) {
56         /* At most we need to read 9 bits total to get indices up to 8 */
57         int val = show_bits(gb, 8);
58
59         // read reverse unary
60         if (val) {
61             val = LUT[val];
62             skip_bits(gb, val + 1);
63             ctx->val[i] = val;
64         } else {
65             skip_bits(gb, 8);
66             if (!get_bits1(gb))
67                 return -1;
68             ctx->val[i] = 8;
69         }
70         allbits += ctx->val[i];
71     }
72
73     /* Check we have enough bits left */
74     if (get_bits_left(gb) < allbits)
75         return -1;
76
77     for (i = 0; i < ctx->size; i++) {
78         /* get_bits can't take a length of 0 */
79         if (ctx->val[i])
80             ctx->val[i] = (1 << ctx->val[i]) + get_bits(gb, ctx->val[i]) - 1;
81     }
82
83     return 0;
84 }
85
86 static void vble_restore_plane(VBLEContext *ctx, int plane, int offset,
87                               int width, int height)
88 {
89     AVFrame *pic = ctx->avctx->coded_frame;
90     uint8_t *dst = pic->data[plane];
91     uint8_t *val = ctx->val + offset;
92     uint8_t a, b, c;
93     int stride = pic->linesize[plane];
94     int i, j;
95
96     for (i = 0; i < height; i++) {
97         for (j = 0; j < width; j++) {
98             dst[j] = (val[j] >> 1) ^ -(val[j] & 1);
99
100             /* Top line and left column are not predicted */
101             if (!j)
102                 continue;
103
104             if (!i) {
105                 dst[j] += dst[j - 1];
106                 continue;
107             }
108
109             a = dst[j - 1];
110             b = dst[j - stride];
111             c = a + b - dst[j - 1 - stride];
112             dst[j] += mid_pred(a, b, c);
113         }
114         dst += stride;
115         val += width;
116     }
117 }
118
119 static int vble_decode_frame(AVCodecContext *avctx, void *data, int *data_size,
120                              AVPacket *avpkt)
121 {
122     VBLEContext *ctx = avctx->priv_data;
123     AVFrame *pic = avctx->coded_frame;
124     GetBitContext gb;
125     const uint8_t *src = avpkt->data;
126     int version;
127     int offset = 0;
128     int width_uv = avctx->width / 2, height_uv = avctx->height / 2;
129
130     pic->reference = 0;
131
132     /* Clear buffer if need be */
133     if (pic->data[0])
134         avctx->release_buffer(avctx, pic);
135
136     /* Allocate buffer */
137     if (avctx->get_buffer(avctx, pic) < 0) {
138         av_log(avctx, AV_LOG_ERROR, "Could not allocate buffer.\n");
139         return AVERROR(ENOMEM);
140     }
141
142     /* Set flags */
143     pic->key_frame = 1;
144     pic->pict_type = FF_I_TYPE;
145
146     /* Version should always be 1 */
147     version = AV_RL32(src);
148
149     if (version != 1) {
150         av_log(avctx, AV_LOG_ERROR, "Unsupported VBLE Version: %d\n", version);
151         return AVERROR_INVALIDDATA;
152     }
153
154     init_get_bits(&gb, src + 4, (avpkt->size - 4) * 8);
155
156     /* Unpack */
157     if (vble_unpack(ctx, &gb) < 0) {
158         av_log(avctx, AV_LOG_ERROR, "Invalid Code\n");
159         return AVERROR_INVALIDDATA;
160     }
161
162     /* Restore planes. Should be almost identical to Huffyuv's. */
163     vble_restore_plane(ctx, 0, offset, avctx->width, avctx->height);
164
165     /* Chroma */
166     if (!(ctx->avctx->flags & CODEC_FLAG_GRAY)) {
167         offset += avctx->width * avctx->height;
168         vble_restore_plane(ctx, 1, offset, width_uv, height_uv);
169
170         offset += width_uv * height_uv;
171         vble_restore_plane(ctx, 2, offset, width_uv, height_uv);
172     }
173
174     *data_size = sizeof(AVFrame);
175     *(AVFrame *)data = *pic;
176
177     return avpkt->size;
178 }
179
180 static av_cold int vble_decode_close(AVCodecContext *avctx)
181 {
182     VBLEContext *ctx = avctx->priv_data;
183     AVFrame *pic = avctx->coded_frame;
184
185     if (pic->data[0])
186         avctx->release_buffer(avctx, pic);
187
188     av_freep(&avctx->coded_frame);
189     av_freep(&ctx->val);
190
191     return 0;
192 }
193
194 static av_cold int vble_decode_init(AVCodecContext *avctx)
195 {
196     VBLEContext *ctx = avctx->priv_data;
197
198     /* Stash for later use */
199     ctx->avctx = avctx;
200
201     avctx->pix_fmt = PIX_FMT_YUV420P;
202     avctx->bits_per_raw_sample = 8;
203     avctx->coded_frame = avcodec_alloc_frame();
204
205     if (!avctx->coded_frame) {
206         av_log(avctx, AV_LOG_ERROR, "Could not allocate frame.\n");
207         return AVERROR(ENOMEM);
208     }
209
210     ctx->size = avpicture_get_size(avctx->pix_fmt,
211                                    avctx->width, avctx->height);
212
213     ctx->val = av_malloc(ctx->size * sizeof(*ctx->val));
214
215     if (!ctx->val) {
216         av_log(avctx, AV_LOG_ERROR, "Could not allocate values buffer.\n");
217         vble_decode_close(avctx);
218         return AVERROR(ENOMEM);
219     }
220
221     return 0;
222 }
223
224 AVCodec ff_vble_decoder = {
225     .name           = "vble",
226     .type           = AVMEDIA_TYPE_VIDEO,
227     .id             = CODEC_ID_VBLE,
228     .priv_data_size = sizeof(VBLEContext),
229     .init           = vble_decode_init,
230     .close          = vble_decode_close,
231     .decode         = vble_decode_frame,
232     .capabilities   = CODEC_CAP_DR1,
233     .long_name      = NULL_IF_CONFIG_SMALL("VBLE Lossless Codec"),
234 };