dsputil: Split clear_block*/fill_block* off into a separate context
[ffmpeg.git] / libavcodec / jvdec.c
1 /*
2  * Bitmap Brothers JV video decoder
3  * Copyright (c) 2011 Peter Ross <pross@xvid.org>
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * Bitmap Brothers JV video decoder
25  * @author Peter Ross <pross@xvid.org>
26  */
27
28 #include "libavutil/intreadwrite.h"
29
30 #include "avcodec.h"
31 #include "blockdsp.h"
32 #include "get_bits.h"
33 #include "internal.h"
34
35 typedef struct JvContext {
36     BlockDSPContext bdsp;
37     AVFrame   *frame;
38     uint32_t   palette[AVPALETTE_COUNT];
39     int        palette_has_changed;
40 } JvContext;
41
42 static av_cold int decode_init(AVCodecContext *avctx)
43 {
44     JvContext *s = avctx->priv_data;
45
46     s->frame = av_frame_alloc();
47     if (!s->frame)
48         return AVERROR(ENOMEM);
49
50     avctx->pix_fmt = AV_PIX_FMT_PAL8;
51     ff_blockdsp_init(&s->bdsp, avctx);
52     return 0;
53 }
54
55 /**
56  * Decode 2x2 block
57  */
58 static inline void decode2x2(GetBitContext *gb, uint8_t *dst, int linesize)
59 {
60     int i, j, v[2];
61
62     switch (get_bits(gb, 2)) {
63     case 1:
64         v[0] = get_bits(gb, 8);
65         for (j = 0; j < 2; j++)
66             memset(dst + j * linesize, v[0], 2);
67         break;
68     case 2:
69         v[0] = get_bits(gb, 8);
70         v[1] = get_bits(gb, 8);
71         for (j = 0; j < 2; j++)
72             for (i = 0; i < 2; i++)
73                 dst[j * linesize + i] = v[get_bits1(gb)];
74         break;
75     case 3:
76         for (j = 0; j < 2; j++)
77             for (i = 0; i < 2; i++)
78                 dst[j * linesize + i] = get_bits(gb, 8);
79     }
80 }
81
82 /**
83  * Decode 4x4 block
84  */
85 static inline void decode4x4(GetBitContext *gb, uint8_t *dst, int linesize)
86 {
87     int i, j, v[2];
88
89     switch (get_bits(gb, 2)) {
90     case 1:
91         v[0] = get_bits(gb, 8);
92         for (j = 0; j < 4; j++)
93             memset(dst + j * linesize, v[0], 4);
94         break;
95     case 2:
96         v[0] = get_bits(gb, 8);
97         v[1] = get_bits(gb, 8);
98         for (j = 2; j >= 0; j -= 2) {
99             for (i = 0; i < 4; i++)
100                 dst[j * linesize + i] = v[get_bits1(gb)];
101             for (i = 0; i < 4; i++)
102                 dst[(j + 1) * linesize + i] = v[get_bits1(gb)];
103         }
104         break;
105     case 3:
106         for (j = 0; j < 4; j += 2)
107             for (i = 0; i < 4; i += 2)
108                 decode2x2(gb, dst + j * linesize + i, linesize);
109     }
110 }
111
112 /**
113  * Decode 8x8 block
114  */
115 static inline void decode8x8(GetBitContext *gb, uint8_t *dst, int linesize,
116                              BlockDSPContext *bdsp)
117 {
118     int i, j, v[2];
119
120     switch (get_bits(gb, 2)) {
121     case 1:
122         v[0] = get_bits(gb, 8);
123         bdsp->fill_block_tab[1](dst, v[0], linesize, 8);
124         break;
125     case 2:
126         v[0] = get_bits(gb, 8);
127         v[1] = get_bits(gb, 8);
128         for (j = 7; j >= 0; j--)
129             for (i = 0; i < 8; i++)
130                 dst[j * linesize + i] = v[get_bits1(gb)];
131         break;
132     case 3:
133         for (j = 0; j < 8; j += 4)
134             for (i = 0; i < 8; i += 4)
135                 decode4x4(gb, dst + j * linesize + i, linesize);
136     }
137 }
138
139 static int decode_frame(AVCodecContext *avctx, void *data, int *got_frame,
140                         AVPacket *avpkt)
141 {
142     JvContext *s = avctx->priv_data;
143     int buf_size = avpkt->size;
144     const uint8_t *buf = avpkt->data;
145     const uint8_t *buf_end = buf + buf_size;
146     int video_size, video_type, i, j, ret;
147
148     video_size = AV_RL32(buf);
149     video_type = buf[4];
150     buf += 5;
151
152     if (video_size) {
153         if ((ret = ff_reget_buffer(avctx, s->frame)) < 0) {
154             av_log(avctx, AV_LOG_ERROR, "get_buffer() failed\n");
155             return ret;
156         }
157
158         if (video_type == 0 || video_type == 1) {
159             GetBitContext gb;
160             init_get_bits(&gb, buf, 8 * FFMIN(video_size, buf_end - buf));
161
162             for (j = 0; j < avctx->height; j += 8)
163                 for (i = 0; i < avctx->width; i += 8)
164                     decode8x8(&gb,
165                               s->frame->data[0] + j * s->frame->linesize[0] + i,
166                               s->frame->linesize[0], &s->bdsp);
167
168             buf += video_size;
169         } else if (video_type == 2) {
170             if (buf + 1 <= buf_end) {
171                 int v = *buf++;
172                 for (j = 0; j < avctx->height; j++)
173                     memset(s->frame->data[0] + j * s->frame->linesize[0],
174                            v, avctx->width);
175             }
176         } else {
177             av_log(avctx, AV_LOG_WARNING,
178                    "unsupported frame type %i\n", video_type);
179             return AVERROR_INVALIDDATA;
180         }
181     }
182
183     if (buf < buf_end) {
184         for (i = 0; i < AVPALETTE_COUNT && buf + 3 <= buf_end; i++) {
185             s->palette[i] = AV_RB24(buf) << 2;
186             buf += 3;
187         }
188         s->palette_has_changed = 1;
189     }
190
191     if (video_size) {
192         s->frame->key_frame           = 1;
193         s->frame->pict_type           = AV_PICTURE_TYPE_I;
194         s->frame->palette_has_changed = s->palette_has_changed;
195         s->palette_has_changed        = 0;
196         memcpy(s->frame->data[1], s->palette, AVPALETTE_SIZE);
197
198         if ((ret = av_frame_ref(data, s->frame)) < 0)
199             return ret;
200         *got_frame = 1;
201     }
202
203     return buf_size;
204 }
205
206 static av_cold int decode_close(AVCodecContext *avctx)
207 {
208     JvContext *s = avctx->priv_data;
209
210     av_frame_free(&s->frame);
211
212     return 0;
213 }
214
215 AVCodec ff_jv_decoder = {
216     .name           = "jv",
217     .long_name      = NULL_IF_CONFIG_SMALL("Bitmap Brothers JV video"),
218     .type           = AVMEDIA_TYPE_VIDEO,
219     .id             = AV_CODEC_ID_JV,
220     .priv_data_size = sizeof(JvContext),
221     .init           = decode_init,
222     .close          = decode_close,
223     .decode         = decode_frame,
224     .capabilities   = CODEC_CAP_DR1,
225 };