Add support for 1-bit, 4-bit, 8-bit and some 16-bit raw BMP
[ffmpeg.git] / libavcodec / bmp.c
1 /*
2  * BMP image format decoder
3  * Copyright (c) 2005 Mans Rullgard
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "avcodec.h"
23 #include "bytestream.h"
24 #include "bmp.h"
25
26 static av_cold int bmp_decode_init(AVCodecContext *avctx){
27     BMPContext *s = avctx->priv_data;
28
29     avcodec_get_frame_defaults((AVFrame*)&s->picture);
30     avctx->coded_frame = (AVFrame*)&s->picture;
31
32     return 0;
33 }
34
35 static int bmp_decode_frame(AVCodecContext *avctx,
36                             void *data, int *data_size,
37                             const uint8_t *buf, int buf_size)
38 {
39     BMPContext *s = avctx->priv_data;
40     AVFrame *picture = data;
41     AVFrame *p = &s->picture;
42     unsigned int fsize, hsize;
43     int width, height;
44     unsigned int depth;
45     BiCompression comp;
46     unsigned int ihsize;
47     int i, j, n, linesize;
48     uint32_t rgb[3];
49     uint8_t *ptr;
50     int dsize;
51     const uint8_t *buf0 = buf;
52
53     if(buf_size < 14){
54         av_log(avctx, AV_LOG_ERROR, "buf size too small (%d)\n", buf_size);
55         return -1;
56     }
57
58     if(bytestream_get_byte(&buf) != 'B' ||
59        bytestream_get_byte(&buf) != 'M') {
60         av_log(avctx, AV_LOG_ERROR, "bad magic number\n");
61         return -1;
62     }
63
64     fsize = bytestream_get_le32(&buf);
65     if(buf_size < fsize){
66         av_log(avctx, AV_LOG_ERROR, "not enough data (%d < %d)\n",
67                buf_size, fsize);
68         return -1;
69     }
70
71     buf += 2; /* reserved1 */
72     buf += 2; /* reserved2 */
73
74     hsize = bytestream_get_le32(&buf); /* header size */
75     if(fsize <= hsize){
76         av_log(avctx, AV_LOG_ERROR, "not enough data (%d < %d)\n",
77                fsize, hsize);
78         return -1;
79     }
80
81     ihsize = bytestream_get_le32(&buf);       /* more header size */
82     if(ihsize + 14 > hsize){
83         av_log(avctx, AV_LOG_ERROR, "invalid header size %d\n", hsize);
84         return -1;
85     }
86
87     if (ihsize == 40) {
88         width = bytestream_get_le32(&buf);
89         height = bytestream_get_le32(&buf);
90     } else if (ihsize == 12) {
91         width  = bytestream_get_le16(&buf);
92         height = bytestream_get_le16(&buf);
93     } else {
94         av_log(avctx, AV_LOG_ERROR, "unsupported BMP file, patch welcome\n");
95         return -1;
96     }
97
98     if(bytestream_get_le16(&buf) != 1){ /* planes */
99         av_log(avctx, AV_LOG_ERROR, "invalid BMP header\n");
100         return -1;
101     }
102
103     depth = bytestream_get_le16(&buf);
104
105     if(ihsize == 40)
106         comp = bytestream_get_le32(&buf);
107     else
108         comp = BMP_RGB;
109
110     if(comp != BMP_RGB && comp != BMP_BITFIELDS){
111         av_log(avctx, AV_LOG_ERROR, "BMP coding %d not supported\n", comp);
112         return -1;
113     }
114
115     if(comp == BMP_BITFIELDS){
116         buf += 20;
117         rgb[0] = bytestream_get_le32(&buf);
118         rgb[1] = bytestream_get_le32(&buf);
119         rgb[2] = bytestream_get_le32(&buf);
120     }
121
122     avctx->width = width;
123     avctx->height = height > 0? height: -height;
124
125     avctx->pix_fmt = PIX_FMT_NONE;
126
127     switch(depth){
128     case 32:
129         if(comp == BMP_BITFIELDS){
130             rgb[0] = (rgb[0] >> 15) & 3;
131             rgb[1] = (rgb[1] >> 15) & 3;
132             rgb[2] = (rgb[2] >> 15) & 3;
133
134             if(rgb[0] + rgb[1] + rgb[2] != 3 ||
135                rgb[0] == rgb[1] || rgb[0] == rgb[2] || rgb[1] == rgb[2]){
136                 break;
137             }
138         } else {
139             rgb[0] = 2;
140             rgb[1] = 1;
141             rgb[2] = 0;
142         }
143
144         avctx->pix_fmt = PIX_FMT_BGR24;
145         break;
146     case 24:
147         avctx->pix_fmt = PIX_FMT_BGR24;
148         break;
149     case 16:
150         if(comp == BMP_RGB)
151             avctx->pix_fmt = PIX_FMT_RGB555;
152         if(comp == BMP_BITFIELDS)
153             avctx->pix_fmt = rgb[1] == 0x07E0 ? PIX_FMT_RGB565 : PIX_FMT_RGB555;
154         break;
155     case 8:
156         if(hsize - ihsize - 14 > 0)
157             avctx->pix_fmt = PIX_FMT_PAL8;
158         else
159             avctx->pix_fmt = PIX_FMT_GRAY8;
160         break;
161     case 4:
162         if(hsize - ihsize - 14 > 0){
163             avctx->pix_fmt = PIX_FMT_PAL8;
164         }else{
165             av_log(avctx, AV_LOG_ERROR, "Unknown palette for 16-colour BMP\n");
166             return -1;
167         }
168         break;
169     case 1:
170         avctx->pix_fmt = PIX_FMT_MONOBLACK;
171         break;
172     default:
173         av_log(avctx, AV_LOG_ERROR, "depth %d not supported\n", depth);
174         return -1;
175     }
176
177     if(avctx->pix_fmt == PIX_FMT_NONE){
178         av_log(avctx, AV_LOG_ERROR, "unsupported pixel format\n");
179         return -1;
180     }
181
182     if(p->data[0])
183         avctx->release_buffer(avctx, p);
184
185     p->reference = 0;
186     if(avctx->get_buffer(avctx, p) < 0){
187         av_log(avctx, AV_LOG_ERROR, "get_buffer() failed\n");
188         return -1;
189     }
190     p->pict_type = FF_I_TYPE;
191     p->key_frame = 1;
192
193     buf = buf0 + hsize;
194     dsize = buf_size - hsize;
195
196     /* Line size in file multiple of 4 */
197     n = ((avctx->width * depth) / 8 + 3) & ~3;
198
199     if(n * avctx->height > dsize){
200         av_log(avctx, AV_LOG_ERROR, "not enough data (%d < %d)\n",
201                dsize, n * avctx->height);
202         return -1;
203     }
204
205     if(depth == 4 || depth == 8)
206         memset(p->data[1], 0, 1024);
207
208     if(height > 0){
209         ptr = p->data[0] + (avctx->height - 1) * p->linesize[0];
210         linesize = -p->linesize[0];
211     } else {
212         ptr = p->data[0];
213         linesize = p->linesize[0];
214     }
215
216     if(avctx->pix_fmt == PIX_FMT_PAL8){
217         buf = buf0 + 14 + ihsize; //palette location
218         if((hsize-ihsize-14)>>depth < 4){ // OS/2 bitmap, 3 bytes per palette entry
219             for(i = 0; i < (1 << depth); i++)
220                 ((uint32_t*)p->data[1])[i] = bytestream_get_le24(&buf);
221         }else{
222             for(i = 0; i < (1 << depth); i++)
223                 ((uint32_t*)p->data[1])[i] = bytestream_get_le32(&buf);
224         }
225         buf = buf0 + hsize;
226     }
227     switch(depth){
228     case 1:
229         for(i = 0; i < avctx->height; i++){
230             memcpy(ptr, buf, n);
231             buf += n;
232             ptr += linesize;
233         }
234         break;
235     case 4:
236         for(i = 0; i < avctx->height; i++){
237             int j;
238             for(j = 0; j < n; j++){
239                 ptr[j*2+0] = (buf[j] >> 4) & 0xF;
240                 ptr[j*2+1] = buf[j] & 0xF;
241             }
242             buf += n;
243             ptr += linesize;
244         }
245         break;
246     case 8:
247         for(i = 0; i < avctx->height; i++){
248             memcpy(ptr, buf, avctx->width);
249             buf += n;
250             ptr += linesize;
251         }
252         break;
253     case 24:
254         for(i = 0; i < avctx->height; i++){
255             memcpy(ptr, buf, avctx->width*(depth>>3));
256             buf += n;
257             ptr += linesize;
258         }
259         break;
260     case 16:
261         for(i = 0; i < avctx->height; i++){
262             const uint16_t *src = (const uint16_t *) buf;
263             uint16_t *dst = (uint16_t *) ptr;
264
265             for(j = 0; j < avctx->width; j++)
266                 *dst++ = le2me_16(*src++);
267
268             buf += n;
269             ptr += linesize;
270         }
271         break;
272     case 32:
273         for(i = 0; i < avctx->height; i++){
274             const uint8_t *src = buf;
275             uint8_t *dst = ptr;
276
277             for(j = 0; j < avctx->width; j++){
278                 dst[0] = src[rgb[2]];
279                 dst[1] = src[rgb[1]];
280                 dst[2] = src[rgb[0]];
281                 dst += 3;
282                 src += 4;
283             }
284
285             buf += n;
286             ptr += linesize;
287         }
288         break;
289     default:
290         av_log(avctx, AV_LOG_ERROR, "BMP decoder is broken\n");
291         return -1;
292     }
293
294     *picture = s->picture;
295     *data_size = sizeof(AVPicture);
296
297     return buf_size;
298 }
299
300 static av_cold int bmp_decode_end(AVCodecContext *avctx)
301 {
302     BMPContext* c = avctx->priv_data;
303
304     if (c->picture.data[0])
305         avctx->release_buffer(avctx, &c->picture);
306
307     return 0;
308 }
309
310 AVCodec bmp_decoder = {
311     "bmp",
312     CODEC_TYPE_VIDEO,
313     CODEC_ID_BMP,
314     sizeof(BMPContext),
315     bmp_decode_init,
316     NULL,
317     bmp_decode_end,
318     bmp_decode_frame,
319     .long_name = NULL_IF_CONFIG_SMALL("BMP image"),
320 };