Simplify AVUI decoding, one skip value is enough.
[ffmpeg.git] / libavcodec / avuidec.c
1 /*
2  * AVID Meridien decoder
3  *
4  * Copyright (c) 2012 Carl Eugen Hoyos
5  *
6  * This file is part of FFmpeg.
7  *
8  * FFmpeg is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * FFmpeg is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with FFmpeg; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 #include "avcodec.h"
24
25 static av_cold int avui_decode_init(AVCodecContext *avctx)
26 {
27     avctx->pix_fmt = PIX_FMT_YUVA422P;
28
29     avctx->coded_frame = avcodec_alloc_frame();
30
31     if (!avctx->coded_frame) {
32         av_log(avctx, AV_LOG_ERROR, "Could not allocate frame.\n");
33         return AVERROR(ENOMEM);
34     }
35
36     return 0;
37 }
38
39 static int avui_decode_frame(AVCodecContext *avctx, void *data,
40                              int *data_size, AVPacket *avpkt)
41 {
42     AVFrame *pic = avctx->coded_frame;
43     const uint8_t *src = avpkt->data;
44     const uint8_t *srca;
45     uint8_t *y, *u, *v, *a;
46     int transparent, interlaced = 1, skip, i, j, k;
47
48     if (pic->data[0])
49         avctx->release_buffer(avctx, pic);
50
51     if (!memcmp(&avctx->extradata[4], "APRGAPRG0001", 12) &&
52         avctx->extradata_size >= 24)
53         interlaced = avctx->extradata[19] != 1;
54     if (avctx->height == 486) {
55         skip = 10;
56     } else {
57         skip = 16;
58     }
59     if (avpkt->size < 2 * avctx->width * (avctx->height + skip)
60                       + 4 * interlaced) {
61         av_log(avctx, AV_LOG_ERROR, "Insufficient input data.\n");
62         return AVERROR(EINVAL);
63     }
64     transparent = avctx->bits_per_coded_sample == 32 &&
65                   avpkt->size >= 2 * (avctx->height + skip) *
66                                  2 * avctx->width + 4 + 8 * interlaced;
67     srca = src + 2 * (avctx->height + skip) * avctx->width
68            + 5 + interlaced * 4;
69
70     pic->reference = 0;
71
72     if (avctx->get_buffer(avctx, pic) < 0) {
73         av_log(avctx, AV_LOG_ERROR, "Could not allocate buffer.\n");
74         return AVERROR(ENOMEM);
75     }
76
77     pic->key_frame = 1;
78     pic->pict_type = AV_PICTURE_TYPE_I;
79
80     if (!interlaced) {
81         src  += avctx->width * skip;
82         srca += avctx->width * skip;
83     }
84
85     for (i = 0; i < interlaced + 1; i++) {
86         src  += avctx->width * skip;
87         srca += avctx->width * skip;
88         if (interlaced && avctx->height == 486) {
89         y = pic->data[0] + (1 - i) * pic->linesize[0];
90         u = pic->data[1] + (1 - i) * pic->linesize[1];
91         v = pic->data[2] + (1 - i) * pic->linesize[2];
92         a = pic->data[3] + (1 - i) * pic->linesize[3];
93         } else {
94         y = pic->data[0] + i * pic->linesize[0];
95         u = pic->data[1] + i * pic->linesize[1];
96         v = pic->data[2] + i * pic->linesize[2];
97         a = pic->data[3] + i * pic->linesize[3];
98         }
99
100         for (j = 0; j < avctx->height >> interlaced; j++) {
101             for (k = 0; k < avctx->width >> 1; k++) {
102                 u[    k    ] = *src++;
103                 y[2 * k    ] = *src++;
104                 a[2 * k    ] = 0xFF - (transparent ? *srca++ : 0);
105                 srca++;
106                 v[    k    ] = *src++;
107                 y[2 * k + 1] = *src++;
108                 a[2 * k + 1] = 0xFF - (transparent ? *srca++ : 0);
109                 srca++;
110             }
111
112             y += (interlaced + 1) * pic->linesize[0];
113             u += (interlaced + 1) * pic->linesize[1];
114             v += (interlaced + 1) * pic->linesize[2];
115             a += (interlaced + 1) * pic->linesize[3];
116         }
117         src  += 4;
118         srca += 4;
119     }
120     *data_size = sizeof(AVFrame);
121     *(AVFrame *)data = *pic;
122
123     return avpkt->size;
124 }
125
126 static av_cold int avui_decode_close(AVCodecContext *avctx)
127 {
128     if (avctx->coded_frame->data[0])
129         avctx->release_buffer(avctx, avctx->coded_frame);
130
131     av_freep(&avctx->coded_frame);
132
133     return 0;
134 }
135
136 AVCodec ff_avui_decoder = {
137     .name         = "avui",
138     .type         = AVMEDIA_TYPE_VIDEO,
139     .id           = CODEC_ID_AVUI,
140     .init         = avui_decode_init,
141     .decode       = avui_decode_frame,
142     .close        = avui_decode_close,
143     .capabilities = CODEC_CAP_DR1,
144     .long_name    = NULL_IF_CONFIG_SMALL("AVID Meridien"),
145 };