alac: make block_size signed
[ffmpeg.git] / libavcodec / bmv.c
1 /*
2  * Discworld II BMV video and audio decoder
3  * Copyright (c) 2011 Konstantin Shishkov
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "avcodec.h"
23 #include "bytestream.h"
24
25 enum BMVFlags{
26     BMV_NOP = 0,
27     BMV_END,
28     BMV_DELTA,
29     BMV_INTRA,
30
31     BMV_SCROLL  = 0x04,
32     BMV_PALETTE = 0x08,
33     BMV_COMMAND = 0x10,
34     BMV_AUDIO   = 0x20,
35     BMV_EXT     = 0x40,
36     BMV_PRINT   = 0x80
37 };
38
39 #define SCREEN_WIDE 640
40 #define SCREEN_HIGH 429
41
42 typedef struct BMVDecContext {
43     AVCodecContext *avctx;
44     AVFrame pic;
45
46     uint8_t *frame, frame_base[SCREEN_WIDE * (SCREEN_HIGH + 1)];
47     uint32_t pal[256];
48     const uint8_t *stream;
49 } BMVDecContext;
50
51 #define NEXT_BYTE(v) v = forward ? v + 1 : v - 1;
52
53 static int decode_bmv_frame(const uint8_t *source, int src_len, uint8_t *frame, int frame_off)
54 {
55     unsigned val, saved_val = 0;
56     int tmplen = src_len;
57     const uint8_t *src, *source_end = source + src_len;
58     uint8_t *frame_end = frame + SCREEN_WIDE * SCREEN_HIGH;
59     uint8_t *dst, *dst_end;
60     int len, mask;
61     int forward = (frame_off <= -SCREEN_WIDE) || (frame_off >= 0);
62     int read_two_nibbles, flag;
63     int advance_mode;
64     int mode = 0;
65     int i;
66
67     if (src_len <= 0)
68         return -1;
69
70     if (forward) {
71         src = source;
72         dst = frame;
73         dst_end = frame_end;
74     } else {
75         src = source + src_len - 1;
76         dst = frame_end - 1;
77         dst_end = frame - 1;
78     }
79     for (;;) {
80         int shift = 0;
81         flag = 0;
82
83         /* The mode/len decoding is a bit strange:
84          * values are coded as variable-length codes with nibble units,
85          * code end is signalled by two top bits in the nibble being nonzero.
86          * And since data is bytepacked and we read two nibbles at a time,
87          * we may get a nibble belonging to the next code.
88          * Hence this convoluted loop.
89          */
90         if (!mode || (tmplen == 4)) {
91             if (src < source || src >= source_end)
92                 return -1;
93             val = *src;
94             read_two_nibbles = 1;
95         } else {
96             val = saved_val;
97             read_two_nibbles = 0;
98         }
99         if (!(val & 0xC)) {
100             for (;;) {
101                 if (!read_two_nibbles) {
102                     if (src < source || src >= source_end)
103                         return -1;
104                     shift += 2;
105                     val |= *src << shift;
106                     if (*src & 0xC)
107                         break;
108                 }
109                 // two upper bits of the nibble is zero,
110                 // so shift top nibble value down into their place
111                 read_two_nibbles = 0;
112                 shift += 2;
113                 mask = (1 << shift) - 1;
114                 val = ((val >> 2) & ~mask) | (val & mask);
115                 NEXT_BYTE(src);
116                 if ((val & (0xC << shift))) {
117                     flag = 1;
118                     break;
119                 }
120             }
121         } else if (mode) {
122             flag = tmplen != 4;
123         }
124         if (flag) {
125             tmplen = 4;
126         } else {
127             saved_val = val >> (4 + shift);
128             tmplen = 0;
129             val &= (1 << (shift + 4)) - 1;
130             NEXT_BYTE(src);
131         }
132         advance_mode = val & 1;
133         len = (val >> 1) - 1;
134         mode += 1 + advance_mode;
135         if (mode >= 4)
136             mode -= 3;
137         if (FFABS(dst_end - dst) < len)
138             return -1;
139         switch (mode) {
140         case 1:
141             if (forward) {
142                 if (dst - frame + SCREEN_WIDE < frame_off ||
143                         dst - frame + SCREEN_WIDE + frame_off < 0 ||
144                         frame_end - dst < frame_off + len ||
145                         frame_end - dst < len)
146                     return -1;
147                 for (i = 0; i < len; i++)
148                     dst[i] = dst[frame_off + i];
149                 dst += len;
150             } else {
151                 dst -= len;
152                 if (dst - frame + SCREEN_WIDE < frame_off ||
153                         dst - frame + SCREEN_WIDE + frame_off < 0 ||
154                         frame_end - dst < frame_off + len ||
155                         frame_end - dst < len)
156                     return -1;
157                 for (i = len - 1; i >= 0; i--)
158                     dst[i] = dst[frame_off + i];
159             }
160             break;
161         case 2:
162             if (forward) {
163                 if (source + src_len - src < len)
164                     return -1;
165                 memcpy(dst, src, len);
166                 dst += len;
167                 src += len;
168             } else {
169                 if (src - source < len)
170                     return -1;
171                 dst -= len;
172                 src -= len;
173                 memcpy(dst, src, len);
174             }
175             break;
176         case 3:
177             val = forward ? dst[-1] : dst[1];
178             if (forward) {
179                 memset(dst, val, len);
180                 dst += len;
181             } else {
182                 dst -= len;
183                 memset(dst, val, len);
184             }
185             break;
186         default:
187             break;
188         }
189         if (dst == dst_end)
190             return 0;
191     }
192     return 0;
193 }
194
195 static int decode_frame(AVCodecContext *avctx, void *data, int *data_size, AVPacket *pkt)
196 {
197     BMVDecContext * const c = avctx->priv_data;
198     int type, scr_off;
199     int i;
200     uint8_t *srcptr, *outptr;
201
202     c->stream = pkt->data;
203     type = bytestream_get_byte(&c->stream);
204     if (type & BMV_AUDIO) {
205         int blobs = bytestream_get_byte(&c->stream);
206         if (pkt->size < blobs * 65 + 2) {
207             av_log(avctx, AV_LOG_ERROR, "Audio data doesn't fit in frame\n");
208             return AVERROR_INVALIDDATA;
209         }
210         c->stream += blobs * 65;
211     }
212     if (type & BMV_COMMAND) {
213         int command_size = (type & BMV_PRINT) ? 8 : 10;
214         if (c->stream - pkt->data + command_size > pkt->size) {
215             av_log(avctx, AV_LOG_ERROR, "Command data doesn't fit in frame\n");
216             return AVERROR_INVALIDDATA;
217         }
218         c->stream += command_size;
219     }
220     if (type & BMV_PALETTE) {
221         if (c->stream - pkt->data > pkt->size - 768) {
222             av_log(avctx, AV_LOG_ERROR, "Palette data doesn't fit in frame\n");
223             return AVERROR_INVALIDDATA;
224         }
225         for (i = 0; i < 256; i++)
226             c->pal[i] = bytestream_get_be24(&c->stream);
227     }
228     if (type & BMV_SCROLL) {
229         if (c->stream - pkt->data > pkt->size - 2) {
230             av_log(avctx, AV_LOG_ERROR, "Screen offset data doesn't fit in frame\n");
231             return AVERROR_INVALIDDATA;
232         }
233         scr_off = (int16_t)bytestream_get_le16(&c->stream);
234     } else if ((type & BMV_INTRA) == BMV_INTRA) {
235         scr_off = -640;
236     } else {
237         scr_off = 0;
238     }
239
240     if (decode_bmv_frame(c->stream, pkt->size - (c->stream - pkt->data), c->frame, scr_off)) {
241         av_log(avctx, AV_LOG_ERROR, "Error decoding frame data\n");
242         return AVERROR_INVALIDDATA;
243     }
244
245     memcpy(c->pic.data[1], c->pal, AVPALETTE_SIZE);
246     c->pic.palette_has_changed = type & BMV_PALETTE;
247
248     outptr = c->pic.data[0];
249     srcptr = c->frame;
250
251     for (i = 0; i < avctx->height; i++) {
252         memcpy(outptr, srcptr, avctx->width);
253         srcptr += avctx->width;
254         outptr += c->pic.linesize[0];
255     }
256
257     *data_size = sizeof(AVFrame);
258     *(AVFrame*)data = c->pic;
259
260     /* always report that the buffer was completely consumed */
261     return pkt->size;
262 }
263
264 static av_cold int decode_init(AVCodecContext *avctx)
265 {
266     BMVDecContext * const c = avctx->priv_data;
267
268     c->avctx = avctx;
269     avctx->pix_fmt = PIX_FMT_PAL8;
270
271     c->pic.reference = 1;
272     if (avctx->get_buffer(avctx, &c->pic) < 0) {
273         av_log(avctx, AV_LOG_ERROR, "get_buffer() failed\n");
274         return -1;
275     }
276
277     c->frame = c->frame_base + 640;
278
279     return 0;
280 }
281
282 static av_cold int decode_end(AVCodecContext *avctx)
283 {
284     BMVDecContext *c = avctx->priv_data;
285
286     if (c->pic.data[0])
287         avctx->release_buffer(avctx, &c->pic);
288
289     return 0;
290 }
291
292 typedef struct BMVAudioDecContext {
293     AVFrame frame;
294 } BMVAudioDecContext;
295
296 static const int bmv_aud_mults[16] = {
297     16512, 8256, 4128, 2064, 1032, 516, 258, 192, 129, 88, 64, 56, 48, 40, 36, 32
298 };
299
300 static av_cold int bmv_aud_decode_init(AVCodecContext *avctx)
301 {
302     BMVAudioDecContext *c = avctx->priv_data;
303
304     if (avctx->channels != 2) {
305         av_log(avctx, AV_LOG_INFO, "invalid number of channels\n");
306         return AVERROR(EINVAL);
307     }
308
309     avctx->sample_fmt = AV_SAMPLE_FMT_S16;
310
311     avcodec_get_frame_defaults(&c->frame);
312     avctx->coded_frame = &c->frame;
313
314     return 0;
315 }
316
317 static int bmv_aud_decode_frame(AVCodecContext *avctx, void *data,
318                                 int *got_frame_ptr, AVPacket *avpkt)
319 {
320     BMVAudioDecContext *c = avctx->priv_data;
321     const uint8_t *buf = avpkt->data;
322     int buf_size = avpkt->size;
323     int blocks = 0, total_blocks, i;
324     int ret;
325     int16_t *output_samples;
326     int scale[2];
327
328     total_blocks = *buf++;
329     if (buf_size < total_blocks * 65 + 1) {
330         av_log(avctx, AV_LOG_ERROR, "expected %d bytes, got %d\n",
331                total_blocks * 65 + 1, buf_size);
332         return AVERROR_INVALIDDATA;
333     }
334
335     /* get output buffer */
336     c->frame.nb_samples = total_blocks * 32;
337     if ((ret = avctx->get_buffer(avctx, &c->frame)) < 0) {
338         av_log(avctx, AV_LOG_ERROR, "get_buffer() failed\n");
339         return ret;
340     }
341     output_samples = (int16_t *)c->frame.data[0];
342
343     for (blocks = 0; blocks < total_blocks; blocks++) {
344         uint8_t code = *buf++;
345         code = (code >> 1) | (code << 7);
346         scale[0] = bmv_aud_mults[code & 0xF];
347         scale[1] = bmv_aud_mults[code >> 4];
348         for (i = 0; i < 32; i++) {
349             *output_samples++ = av_clip_int16((scale[0] * (int8_t)*buf++) >> 5);
350             *output_samples++ = av_clip_int16((scale[1] * (int8_t)*buf++) >> 5);
351         }
352     }
353
354     *got_frame_ptr   = 1;
355     *(AVFrame *)data = c->frame;
356
357     return buf_size;
358 }
359
360 AVCodec ff_bmv_video_decoder = {
361     .name           = "bmv_video",
362     .type           = AVMEDIA_TYPE_VIDEO,
363     .id             = CODEC_ID_BMV_VIDEO,
364     .priv_data_size = sizeof(BMVDecContext),
365     .init           = decode_init,
366     .close          = decode_end,
367     .decode         = decode_frame,
368     .long_name      = NULL_IF_CONFIG_SMALL("Discworld II BMV video"),
369 };
370
371 AVCodec ff_bmv_audio_decoder = {
372     .name           = "bmv_audio",
373     .type           = AVMEDIA_TYPE_AUDIO,
374     .id             = CODEC_ID_BMV_AUDIO,
375     .priv_data_size = sizeof(BMVAudioDecContext),
376     .init           = bmv_aud_decode_init,
377     .decode         = bmv_aud_decode_frame,
378     .capabilities   = CODEC_CAP_DR1,
379     .long_name      = NULL_IF_CONFIG_SMALL("Discworld II BMV audio"),
380 };