bethsoftvideo: return proper consumed size for palette packets.
[ffmpeg.git] / libavcodec / bethsoftvideo.c
1 /*
2  * Bethesda VID video decoder
3  * Copyright (C) 2007 Nicholas Tung
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * @brief Bethesda Softworks VID Video Decoder
25  * @author Nicholas Tung [ntung (at. ntung com] (2007-03)
26  * @see http://wiki.multimedia.cx/index.php?title=Bethsoft_VID
27  * @see http://www.svatopluk.com/andux/docs/dfvid.html
28  */
29
30 #include "libavutil/common.h"
31 #include "dsputil.h"
32 #include "bethsoftvideo.h"
33 #include "bytestream.h"
34
35 typedef struct BethsoftvidContext {
36     AVFrame frame;
37 } BethsoftvidContext;
38
39 static av_cold int bethsoftvid_decode_init(AVCodecContext *avctx)
40 {
41     BethsoftvidContext *vid = avctx->priv_data;
42     vid->frame.reference = 1;
43     vid->frame.buffer_hints = FF_BUFFER_HINTS_VALID |
44         FF_BUFFER_HINTS_PRESERVE | FF_BUFFER_HINTS_REUSABLE;
45     avctx->pix_fmt = PIX_FMT_PAL8;
46     return 0;
47 }
48
49 static int set_palette(AVFrame * frame, const uint8_t * palette_buffer, int buf_size)
50 {
51     uint32_t * palette = (uint32_t *)frame->data[1];
52     int a;
53
54     if (buf_size < 256*3)
55         return AVERROR_INVALIDDATA;
56
57     for(a = 0; a < 256; a++){
58         palette[a] = AV_RB24(&palette_buffer[a * 3]) * 4;
59     }
60     frame->palette_has_changed = 1;
61     return 256*3;
62 }
63
64 static int bethsoftvid_decode_frame(AVCodecContext *avctx,
65                               void *data, int *data_size,
66                               AVPacket *avpkt)
67 {
68     const uint8_t *buf = avpkt->data;
69     int buf_size = avpkt->size;
70     BethsoftvidContext * vid = avctx->priv_data;
71     char block_type;
72     uint8_t * dst;
73     uint8_t * frame_end;
74     int remaining = avctx->width;          // number of bytes remaining on a line
75     const int wrap_to_next_line = vid->frame.linesize[0] - avctx->width;
76     int code;
77     int yoffset;
78
79     if (avctx->reget_buffer(avctx, &vid->frame)) {
80         av_log(avctx, AV_LOG_ERROR, "reget_buffer() failed\n");
81         return -1;
82     }
83     dst = vid->frame.data[0];
84     frame_end = vid->frame.data[0] + vid->frame.linesize[0] * avctx->height;
85
86     switch(block_type = *buf++){
87         case PALETTE_BLOCK:
88             return set_palette(&vid->frame, buf, buf_size);
89         case VIDEO_YOFF_P_FRAME:
90             yoffset = bytestream_get_le16(&buf);
91             if(yoffset >= avctx->height)
92                 return -1;
93             dst += vid->frame.linesize[0] * yoffset;
94     }
95
96     // main code
97     while((code = *buf++)){
98         int length = code & 0x7f;
99
100         // copy any bytes starting at the current position, and ending at the frame width
101         while(length > remaining){
102             if(code < 0x80)
103                 bytestream_get_buffer(&buf, dst, remaining);
104             else if(block_type == VIDEO_I_FRAME)
105                 memset(dst, buf[0], remaining);
106             length -= remaining;      // decrement the number of bytes to be copied
107             dst += remaining + wrap_to_next_line;    // skip over extra bytes at end of frame
108             remaining = avctx->width;
109             if(dst == frame_end)
110                 goto end;
111         }
112
113         // copy any remaining bytes after / if line overflows
114         if(code < 0x80)
115             bytestream_get_buffer(&buf, dst, length);
116         else if(block_type == VIDEO_I_FRAME)
117             memset(dst, *buf++, length);
118         remaining -= length;
119         dst += length;
120     }
121     end:
122
123     *data_size = sizeof(AVFrame);
124     *(AVFrame*)data = vid->frame;
125
126     return buf_size;
127 }
128
129 static av_cold int bethsoftvid_decode_end(AVCodecContext *avctx)
130 {
131     BethsoftvidContext * vid = avctx->priv_data;
132     if(vid->frame.data[0])
133         avctx->release_buffer(avctx, &vid->frame);
134     return 0;
135 }
136
137 AVCodec ff_bethsoftvid_decoder = {
138     .name = "bethsoftvid",
139     .type = AVMEDIA_TYPE_VIDEO,
140     .id = CODEC_ID_BETHSOFTVID,
141     .priv_data_size = sizeof(BethsoftvidContext),
142     .init = bethsoftvid_decode_init,
143     .close = bethsoftvid_decode_end,
144     .decode = bethsoftvid_decode_frame,
145     .capabilities = CODEC_CAP_DR1,
146     .long_name = NULL_IF_CONFIG_SMALL("Bethesda VID video"),
147 };