Set BFI palette opaque.
[ffmpeg.git] / libavcodec / bfi.c
1 /*
2  * Brute Force & Ignorance (BFI) video decoder
3  * Copyright (c) 2008 Sisir Koppaka
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * @brief Brute Force & Ignorance (.bfi) video decoder
25  * @author Sisir Koppaka ( sisir.koppaka at gmail dot com )
26  * @see http://wiki.multimedia.cx/index.php?title=BFI
27  */
28
29 #include "libavutil/common.h"
30 #include "avcodec.h"
31 #include "bytestream.h"
32
33 typedef struct BFIContext {
34     AVCodecContext *avctx;
35     AVFrame frame;
36     uint8_t *dst;
37     uint32_t pal[256];
38 } BFIContext;
39
40 static av_cold int bfi_decode_init(AVCodecContext * avctx)
41 {
42     BFIContext *bfi = avctx->priv_data;
43     avctx->pix_fmt = PIX_FMT_PAL8;
44     avcodec_get_frame_defaults(&bfi->frame);
45     bfi->dst = av_mallocz(avctx->width * avctx->height);
46     return 0;
47 }
48
49 static int bfi_decode_frame(AVCodecContext * avctx, void *data,
50                             int *data_size, AVPacket *avpkt)
51 {
52     const uint8_t *buf = avpkt->data, *buf_end = avpkt->data + avpkt->size;
53     int buf_size = avpkt->size;
54     BFIContext *bfi = avctx->priv_data;
55     uint8_t *dst = bfi->dst;
56     uint8_t *src, *dst_offset, colour1, colour2;
57     uint8_t *frame_end = bfi->dst + avctx->width * avctx->height;
58     uint32_t *pal;
59     int i, j, height = avctx->height;
60
61     if (bfi->frame.data[0])
62         avctx->release_buffer(avctx, &bfi->frame);
63
64     bfi->frame.reference = 3;
65
66     if (avctx->get_buffer(avctx, &bfi->frame) < 0) {
67         av_log(avctx, AV_LOG_ERROR, "get_buffer() failed\n");
68         return -1;
69     }
70
71     /* Set frame parameters and palette, if necessary */
72     if (!avctx->frame_number) {
73         bfi->frame.pict_type = AV_PICTURE_TYPE_I;
74         bfi->frame.key_frame = 1;
75         /* Setting the palette */
76         if(avctx->extradata_size>768) {
77             av_log(NULL, AV_LOG_ERROR, "Palette is too large.\n");
78             return -1;
79         }
80         pal = (uint32_t *) bfi->frame.data[1];
81         for (i = 0; i < avctx->extradata_size / 3; i++) {
82             int shift = 16;
83             *pal = 0xFF << 24;
84             for (j = 0; j < 3; j++, shift -= 8)
85                 *pal +=
86                     ((avctx->extradata[i * 3 + j] << 2) |
87                     (avctx->extradata[i * 3 + j] >> 4)) << shift;
88             pal++;
89         }
90         memcpy(bfi->pal, bfi->frame.data[1], sizeof(bfi->pal));
91         bfi->frame.palette_has_changed = 1;
92     } else {
93         bfi->frame.pict_type = AV_PICTURE_TYPE_P;
94         bfi->frame.key_frame = 0;
95         bfi->frame.palette_has_changed = 0;
96         memcpy(bfi->frame.data[1], bfi->pal, sizeof(bfi->pal));
97     }
98
99     buf += 4; //Unpacked size, not required.
100
101     while (dst != frame_end) {
102         static const uint8_t lentab[4]={0,2,0,1};
103         unsigned int byte = *buf++, av_uninit(offset);
104         unsigned int code = byte >> 6;
105         unsigned int length = byte & ~0xC0;
106
107         if (buf >= buf_end) {
108             av_log(avctx, AV_LOG_ERROR, "Input resolution larger than actual frame.\n");
109             return -1;
110         }
111
112         /* Get length and offset(if required) */
113         if (length == 0) {
114             if (code == 1) {
115                 length = bytestream_get_byte(&buf);
116                 offset = bytestream_get_le16(&buf);
117             } else {
118                 length = bytestream_get_le16(&buf);
119                 if (code == 2 && length == 0)
120                     break;
121             }
122         } else {
123             if (code == 1)
124                 offset = bytestream_get_byte(&buf);
125         }
126
127         /* Do boundary check */
128         if (dst + (length<<lentab[code]) > frame_end)
129             break;
130
131         switch (code) {
132
133         case 0:                //Normal Chain
134             if (length >= buf_end - buf) {
135                 av_log(avctx, AV_LOG_ERROR, "Frame larger than buffer.\n");
136                 return -1;
137             }
138             bytestream_get_buffer(&buf, dst, length);
139             dst += length;
140             break;
141
142         case 1:                //Back Chain
143             dst_offset = dst - offset;
144             length *= 4;        //Convert dwords to bytes.
145             if (dst_offset < bfi->dst)
146                 break;
147             while (length--)
148                 *dst++ = *dst_offset++;
149             break;
150
151         case 2:                //Skip Chain
152             dst += length;
153             break;
154
155         case 3:                //Fill Chain
156             colour1 = bytestream_get_byte(&buf);
157             colour2 = bytestream_get_byte(&buf);
158             while (length--) {
159                 *dst++ = colour1;
160                 *dst++ = colour2;
161             }
162             break;
163
164         }
165     }
166
167     src = bfi->dst;
168     dst = bfi->frame.data[0];
169     while (height--) {
170         memcpy(dst, src, avctx->width);
171         src += avctx->width;
172         dst += bfi->frame.linesize[0];
173     }
174     *data_size = sizeof(AVFrame);
175     *(AVFrame *) data = bfi->frame;
176     return buf_size;
177 }
178
179 static av_cold int bfi_decode_close(AVCodecContext * avctx)
180 {
181     BFIContext *bfi = avctx->priv_data;
182     if (bfi->frame.data[0])
183         avctx->release_buffer(avctx, &bfi->frame);
184     av_free(bfi->dst);
185     return 0;
186 }
187
188 AVCodec ff_bfi_decoder = {
189     .name = "bfi",
190     .type = AVMEDIA_TYPE_VIDEO,
191     .id = CODEC_ID_BFI,
192     .priv_data_size = sizeof(BFIContext),
193     .init = bfi_decode_init,
194     .close = bfi_decode_close,
195     .decode = bfi_decode_frame,
196     .capabilities = CODEC_CAP_DR1,
197     .long_name = NULL_IF_CONFIG_SMALL("Brute Force & Ignorance"),
198 };