Merge commit 'ade402804a0e811cd00862c90559121a793054a6'
[ffmpeg.git] / libavcodec / cyuv.c
1 /*
2  * Creative YUV (CYUV) Video Decoder
3  *   by Mike Melanson (melanson@pcisys.net)
4  * based on "Creative YUV (CYUV) stream format for AVI":
5  *   http://www.csse.monash.edu.au/~timf/videocodec/cyuv.txt
6  *
7  * Copyright (C) 2003 the ffmpeg project
8  *
9  * This file is part of FFmpeg.
10  *
11  * FFmpeg is free software; you can redistribute it and/or
12  * modify it under the terms of the GNU Lesser General Public
13  * License as published by the Free Software Foundation; either
14  * version 2.1 of the License, or (at your option) any later version.
15  *
16  * FFmpeg is distributed in the hope that it will be useful,
17  * but WITHOUT ANY WARRANTY; without even the implied warranty of
18  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
19  * Lesser General Public License for more details.
20  *
21  * You should have received a copy of the GNU Lesser General Public
22  * License along with FFmpeg; if not, write to the Free Software
23  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
24  */
25
26 /**
27  * @file
28  * Creative YUV (CYUV) Video Decoder.
29  */
30
31 #include <stdio.h>
32 #include <stdlib.h>
33 #include <string.h>
34
35 #include "avcodec.h"
36 #include "dsputil.h"
37 #include "internal.h"
38 #include "libavutil/internal.h"
39
40
41 typedef struct CyuvDecodeContext {
42     AVCodecContext *avctx;
43     int width, height;
44     AVFrame frame;
45 } CyuvDecodeContext;
46
47 static av_cold int cyuv_decode_init(AVCodecContext *avctx)
48 {
49     CyuvDecodeContext *s = avctx->priv_data;
50
51     s->avctx = avctx;
52     s->width = avctx->width;
53     /* width needs to be divisible by 4 for this codec to work */
54     if (s->width & 0x3)
55         return AVERROR_INVALIDDATA;
56     s->height = avctx->height;
57     avcodec_get_frame_defaults(&s->frame);
58
59     return 0;
60 }
61
62 static int cyuv_decode_frame(AVCodecContext *avctx,
63                              void *data, int *got_frame,
64                              AVPacket *avpkt)
65 {
66     const uint8_t *buf = avpkt->data;
67     int buf_size = avpkt->size;
68     CyuvDecodeContext *s=avctx->priv_data;
69
70     unsigned char *y_plane;
71     unsigned char *u_plane;
72     unsigned char *v_plane;
73     int y_ptr;
74     int u_ptr;
75     int v_ptr;
76
77     /* prediction error tables (make it clear that they are signed values) */
78     const signed char *y_table = (const signed char*)buf +  0;
79     const signed char *u_table = (const signed char*)buf + 16;
80     const signed char *v_table = (const signed char*)buf + 32;
81
82     unsigned char y_pred, u_pred, v_pred;
83     int stream_ptr;
84     unsigned char cur_byte;
85     int pixel_groups;
86     int rawsize = s->height * FFALIGN(s->width,2) * 2;
87     int ret;
88
89     if (avctx->codec_id == AV_CODEC_ID_AURA) {
90         y_table = u_table;
91         u_table = v_table;
92     }
93     /* sanity check the buffer size: A buffer has 3x16-bytes tables
94      * followed by (height) lines each with 3 bytes to represent groups
95      * of 4 pixels. Thus, the total size of the buffer ought to be:
96      *    (3 * 16) + height * (width * 3 / 4) */
97     if (buf_size == 48 + s->height * (s->width * 3 / 4)) {
98         avctx->pix_fmt = AV_PIX_FMT_YUV411P;
99     } else if(buf_size == rawsize ) {
100         avctx->pix_fmt = AV_PIX_FMT_UYVY422;
101     } else {
102         av_log(avctx, AV_LOG_ERROR, "got a buffer with %d bytes when %d were expected\n",
103                buf_size, 48 + s->height * (s->width * 3 / 4));
104         return AVERROR_INVALIDDATA;
105     }
106
107     /* pixel data starts 48 bytes in, after 3x16-byte tables */
108     stream_ptr = 48;
109
110     if (s->frame.data[0])
111         avctx->release_buffer(avctx, &s->frame);
112
113     s->frame.buffer_hints = FF_BUFFER_HINTS_VALID;
114     s->frame.reference = 0;
115     if ((ret = ff_get_buffer(avctx, &s->frame)) < 0) {
116         av_log(avctx, AV_LOG_ERROR, "get_buffer() failed\n");
117         return ret;
118     }
119
120     y_plane = s->frame.data[0];
121     u_plane = s->frame.data[1];
122     v_plane = s->frame.data[2];
123
124     if (buf_size == rawsize) {
125         int linesize = FFALIGN(s->width,2) * 2;
126         y_plane += s->frame.linesize[0] * s->height;
127         for (stream_ptr = 0; stream_ptr < rawsize; stream_ptr += linesize) {
128             y_plane -= s->frame.linesize[0];
129             memcpy(y_plane, buf+stream_ptr, linesize);
130         }
131     } else {
132
133     /* iterate through each line in the height */
134     for (y_ptr = 0, u_ptr = 0, v_ptr = 0;
135          y_ptr < (s->height * s->frame.linesize[0]);
136          y_ptr += s->frame.linesize[0] - s->width,
137          u_ptr += s->frame.linesize[1] - s->width / 4,
138          v_ptr += s->frame.linesize[2] - s->width / 4) {
139
140         /* reset predictors */
141         cur_byte = buf[stream_ptr++];
142         u_plane[u_ptr++] = u_pred = cur_byte & 0xF0;
143         y_plane[y_ptr++] = y_pred = (cur_byte & 0x0F) << 4;
144
145         cur_byte = buf[stream_ptr++];
146         v_plane[v_ptr++] = v_pred = cur_byte & 0xF0;
147         y_pred += y_table[cur_byte & 0x0F];
148         y_plane[y_ptr++] = y_pred;
149
150         cur_byte = buf[stream_ptr++];
151         y_pred += y_table[cur_byte & 0x0F];
152         y_plane[y_ptr++] = y_pred;
153         y_pred += y_table[(cur_byte & 0xF0) >> 4];
154         y_plane[y_ptr++] = y_pred;
155
156         /* iterate through the remaining pixel groups (4 pixels/group) */
157         pixel_groups = s->width / 4 - 1;
158         while (pixel_groups--) {
159
160             cur_byte = buf[stream_ptr++];
161             u_pred += u_table[(cur_byte & 0xF0) >> 4];
162             u_plane[u_ptr++] = u_pred;
163             y_pred += y_table[cur_byte & 0x0F];
164             y_plane[y_ptr++] = y_pred;
165
166             cur_byte = buf[stream_ptr++];
167             v_pred += v_table[(cur_byte & 0xF0) >> 4];
168             v_plane[v_ptr++] = v_pred;
169             y_pred += y_table[cur_byte & 0x0F];
170             y_plane[y_ptr++] = y_pred;
171
172             cur_byte = buf[stream_ptr++];
173             y_pred += y_table[cur_byte & 0x0F];
174             y_plane[y_ptr++] = y_pred;
175             y_pred += y_table[(cur_byte & 0xF0) >> 4];
176             y_plane[y_ptr++] = y_pred;
177
178         }
179     }
180     }
181
182     *got_frame = 1;
183     *(AVFrame*)data= s->frame;
184
185     return buf_size;
186 }
187
188 static av_cold int cyuv_decode_end(AVCodecContext *avctx)
189 {
190     CyuvDecodeContext *s = avctx->priv_data;
191
192     if (s->frame.data[0])
193         avctx->release_buffer(avctx, &s->frame);
194
195     return 0;
196 }
197
198 #if CONFIG_AURA_DECODER
199 AVCodec ff_aura_decoder = {
200     .name           = "aura",
201     .type           = AVMEDIA_TYPE_VIDEO,
202     .id             = AV_CODEC_ID_AURA,
203     .priv_data_size = sizeof(CyuvDecodeContext),
204     .init           = cyuv_decode_init,
205     .close          = cyuv_decode_end,
206     .decode         = cyuv_decode_frame,
207     .capabilities   = CODEC_CAP_DR1,
208     .long_name      = NULL_IF_CONFIG_SMALL("Auravision AURA"),
209 };
210 #endif
211
212 #if CONFIG_CYUV_DECODER
213 AVCodec ff_cyuv_decoder = {
214     .name           = "cyuv",
215     .type           = AVMEDIA_TYPE_VIDEO,
216     .id             = AV_CODEC_ID_CYUV,
217     .priv_data_size = sizeof(CyuvDecodeContext),
218     .init           = cyuv_decode_init,
219     .close          = cyuv_decode_end,
220     .decode         = cyuv_decode_frame,
221     .capabilities   = CODEC_CAP_DR1,
222     .long_name      = NULL_IF_CONFIG_SMALL("Creative YUV (CYUV)"),
223 };
224 #endif