lavc: set defaults in internal codec frames
[ffmpeg.git] / libavcodec / cyuv.c
1 /*
2  * Creative YUV (CYUV) Video Decoder
3  *   by Mike Melanson (melanson@pcisys.net)
4  * based on "Creative YUV (CYUV) stream format for AVI":
5  *   http://www.csse.monash.edu.au/~timf/videocodec/cyuv.txt
6  *
7  * Copyright (C) 2003 the ffmpeg project
8  *
9  * This file is part of FFmpeg.
10  *
11  * FFmpeg is free software; you can redistribute it and/or
12  * modify it under the terms of the GNU Lesser General Public
13  * License as published by the Free Software Foundation; either
14  * version 2.1 of the License, or (at your option) any later version.
15  *
16  * FFmpeg is distributed in the hope that it will be useful,
17  * but WITHOUT ANY WARRANTY; without even the implied warranty of
18  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
19  * Lesser General Public License for more details.
20  *
21  * You should have received a copy of the GNU Lesser General Public
22  * License along with FFmpeg; if not, write to the Free Software
23  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
24  */
25
26 /**
27  * @file
28  * Creative YUV (CYUV) Video Decoder.
29  */
30
31 #include <stdio.h>
32 #include <stdlib.h>
33 #include <string.h>
34
35 #include "avcodec.h"
36 #include "dsputil.h"
37
38
39 typedef struct CyuvDecodeContext {
40     AVCodecContext *avctx;
41     int width, height;
42     AVFrame frame;
43 } CyuvDecodeContext;
44
45 static av_cold int cyuv_decode_init(AVCodecContext *avctx)
46 {
47     CyuvDecodeContext *s = avctx->priv_data;
48
49     s->avctx = avctx;
50     s->width = avctx->width;
51     /* width needs to be divisible by 4 for this codec to work */
52     if (s->width & 0x3)
53         return -1;
54     s->height = avctx->height;
55     avctx->pix_fmt = PIX_FMT_YUV411P;
56     avcodec_get_frame_defaults(&s->frame);
57
58     return 0;
59 }
60
61 static int cyuv_decode_frame(AVCodecContext *avctx,
62                              void *data, int *data_size,
63                              AVPacket *avpkt)
64 {
65     const uint8_t *buf = avpkt->data;
66     int buf_size = avpkt->size;
67     CyuvDecodeContext *s=avctx->priv_data;
68
69     unsigned char *y_plane;
70     unsigned char *u_plane;
71     unsigned char *v_plane;
72     int y_ptr;
73     int u_ptr;
74     int v_ptr;
75
76     /* prediction error tables (make it clear that they are signed values) */
77     const signed char *y_table = (const signed char*)buf +  0;
78     const signed char *u_table = (const signed char*)buf + 16;
79     const signed char *v_table = (const signed char*)buf + 32;
80
81     unsigned char y_pred, u_pred, v_pred;
82     int stream_ptr;
83     unsigned char cur_byte;
84     int pixel_groups;
85
86     if (avctx->codec_id == CODEC_ID_AURA) {
87         y_table = u_table;
88         u_table = v_table;
89     }
90     /* sanity check the buffer size: A buffer has 3x16-bytes tables
91      * followed by (height) lines each with 3 bytes to represent groups
92      * of 4 pixels. Thus, the total size of the buffer ought to be:
93      *    (3 * 16) + height * (width * 3 / 4) */
94     if (buf_size != 48 + s->height * (s->width * 3 / 4)) {
95         av_log(avctx, AV_LOG_ERROR, "got a buffer with %d bytes when %d were expected\n",
96                buf_size, 48 + s->height * (s->width * 3 / 4));
97         return -1;
98     }
99
100     /* pixel data starts 48 bytes in, after 3x16-byte tables */
101     stream_ptr = 48;
102
103     if (s->frame.data[0])
104         avctx->release_buffer(avctx, &s->frame);
105
106     s->frame.buffer_hints = FF_BUFFER_HINTS_VALID;
107     s->frame.reference = 0;
108     if (avctx->get_buffer(avctx, &s->frame) < 0) {
109         av_log(avctx, AV_LOG_ERROR, "get_buffer() failed\n");
110         return -1;
111     }
112
113     y_plane = s->frame.data[0];
114     u_plane = s->frame.data[1];
115     v_plane = s->frame.data[2];
116
117     /* iterate through each line in the height */
118     for (y_ptr = 0, u_ptr = 0, v_ptr = 0;
119          y_ptr < (s->height * s->frame.linesize[0]);
120          y_ptr += s->frame.linesize[0] - s->width,
121          u_ptr += s->frame.linesize[1] - s->width / 4,
122          v_ptr += s->frame.linesize[2] - s->width / 4) {
123
124         /* reset predictors */
125         cur_byte = buf[stream_ptr++];
126         u_plane[u_ptr++] = u_pred = cur_byte & 0xF0;
127         y_plane[y_ptr++] = y_pred = (cur_byte & 0x0F) << 4;
128
129         cur_byte = buf[stream_ptr++];
130         v_plane[v_ptr++] = v_pred = cur_byte & 0xF0;
131         y_pred += y_table[cur_byte & 0x0F];
132         y_plane[y_ptr++] = y_pred;
133
134         cur_byte = buf[stream_ptr++];
135         y_pred += y_table[cur_byte & 0x0F];
136         y_plane[y_ptr++] = y_pred;
137         y_pred += y_table[(cur_byte & 0xF0) >> 4];
138         y_plane[y_ptr++] = y_pred;
139
140         /* iterate through the remaining pixel groups (4 pixels/group) */
141         pixel_groups = s->width / 4 - 1;
142         while (pixel_groups--) {
143
144             cur_byte = buf[stream_ptr++];
145             u_pred += u_table[(cur_byte & 0xF0) >> 4];
146             u_plane[u_ptr++] = u_pred;
147             y_pred += y_table[cur_byte & 0x0F];
148             y_plane[y_ptr++] = y_pred;
149
150             cur_byte = buf[stream_ptr++];
151             v_pred += v_table[(cur_byte & 0xF0) >> 4];
152             v_plane[v_ptr++] = v_pred;
153             y_pred += y_table[cur_byte & 0x0F];
154             y_plane[y_ptr++] = y_pred;
155
156             cur_byte = buf[stream_ptr++];
157             y_pred += y_table[cur_byte & 0x0F];
158             y_plane[y_ptr++] = y_pred;
159             y_pred += y_table[(cur_byte & 0xF0) >> 4];
160             y_plane[y_ptr++] = y_pred;
161
162         }
163     }
164
165     *data_size=sizeof(AVFrame);
166     *(AVFrame*)data= s->frame;
167
168     return buf_size;
169 }
170
171 static av_cold int cyuv_decode_end(AVCodecContext *avctx)
172 {
173     CyuvDecodeContext *s = avctx->priv_data;
174
175     if (s->frame.data[0])
176         avctx->release_buffer(avctx, &s->frame);
177
178     return 0;
179 }
180
181 #if CONFIG_AURA_DECODER
182 AVCodec ff_aura_decoder = {
183     "aura",
184     AVMEDIA_TYPE_VIDEO,
185     CODEC_ID_AURA,
186     sizeof(CyuvDecodeContext),
187     cyuv_decode_init,
188     NULL,
189     cyuv_decode_end,
190     cyuv_decode_frame,
191     CODEC_CAP_DR1,
192     NULL,
193     .long_name = NULL_IF_CONFIG_SMALL("Auravision AURA"),
194 };
195 #endif
196
197 #if CONFIG_CYUV_DECODER
198 AVCodec ff_cyuv_decoder = {
199     "cyuv",
200     AVMEDIA_TYPE_VIDEO,
201     CODEC_ID_CYUV,
202     sizeof(CyuvDecodeContext),
203     cyuv_decode_init,
204     NULL,
205     cyuv_decode_end,
206     cyuv_decode_frame,
207     CODEC_CAP_DR1,
208     NULL,
209     .long_name = NULL_IF_CONFIG_SMALL("Creative YUV (CYUV)"),
210 };
211 #endif