Merge commit '86bfcfcf2364bc837b7bb582c66a8a15a332414f'
[ffmpeg.git] / libavcodec / avuidec.c
1 /*
2  * AVID Meridien decoder
3  *
4  * Copyright (c) 2012 Carl Eugen Hoyos
5  *
6  * This file is part of FFmpeg.
7  *
8  * FFmpeg is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * FFmpeg is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with FFmpeg; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 #include "avcodec.h"
24 #include "internal.h"
25 #include "libavutil/intreadwrite.h"
26
27 static av_cold int avui_decode_init(AVCodecContext *avctx)
28 {
29     avctx->pix_fmt = AV_PIX_FMT_YUVA422P;
30
31     avctx->coded_frame = avcodec_alloc_frame();
32
33     if (!avctx->coded_frame) {
34         av_log(avctx, AV_LOG_ERROR, "Could not allocate frame.\n");
35         return AVERROR(ENOMEM);
36     }
37
38     return 0;
39 }
40
41 static int avui_decode_frame(AVCodecContext *avctx, void *data,
42                              int *got_frame, AVPacket *avpkt)
43 {
44     AVFrame *pic = avctx->coded_frame;
45     const uint8_t *src = avpkt->data, *extradata = avctx->extradata;
46     const uint8_t *srca;
47     uint8_t *y, *u, *v, *a;
48     int transparent, interlaced = 1, skip, opaque_length, i, j, k;
49     uint32_t extradata_size = avctx->extradata_size;
50
51     if (pic->data[0])
52         avctx->release_buffer(avctx, pic);
53
54     while (extradata_size >= 24) {
55         uint32_t atom_size = AV_RB32(extradata);
56         if (!memcmp(&extradata[4], "APRGAPRG0001", 12)) {
57             interlaced = extradata[19] != 1;
58             break;
59         }
60         if (atom_size && atom_size <= extradata_size) {
61             extradata      += atom_size;
62             extradata_size -= atom_size;
63         } else {
64             break;
65         }
66     }
67     if (avctx->height == 486) {
68         skip = 10;
69     } else {
70         skip = 16;
71     }
72     opaque_length = 2 * avctx->width * (avctx->height + skip) + 4 * interlaced;
73     if (avpkt->size < opaque_length) {
74         av_log(avctx, AV_LOG_ERROR, "Insufficient input data.\n");
75         return AVERROR(EINVAL);
76     }
77     transparent = avctx->bits_per_coded_sample == 32 &&
78                   avpkt->size >= opaque_length * 2 + 4;
79     srca = src + opaque_length + 5;
80
81     pic->reference = 0;
82
83     if (ff_get_buffer(avctx, pic) < 0) {
84         av_log(avctx, AV_LOG_ERROR, "Could not allocate buffer.\n");
85         return AVERROR(ENOMEM);
86     }
87
88     pic->key_frame = 1;
89     pic->pict_type = AV_PICTURE_TYPE_I;
90
91     if (!interlaced) {
92         src  += avctx->width * skip;
93         srca += avctx->width * skip;
94     }
95
96     for (i = 0; i < interlaced + 1; i++) {
97         src  += avctx->width * skip;
98         srca += avctx->width * skip;
99         if (interlaced && avctx->height == 486) {
100             y = pic->data[0] + (1 - i) * pic->linesize[0];
101             u = pic->data[1] + (1 - i) * pic->linesize[1];
102             v = pic->data[2] + (1 - i) * pic->linesize[2];
103             a = pic->data[3] + (1 - i) * pic->linesize[3];
104         } else {
105             y = pic->data[0] + i * pic->linesize[0];
106             u = pic->data[1] + i * pic->linesize[1];
107             v = pic->data[2] + i * pic->linesize[2];
108             a = pic->data[3] + i * pic->linesize[3];
109         }
110
111         for (j = 0; j < avctx->height >> interlaced; j++) {
112             for (k = 0; k < avctx->width >> 1; k++) {
113                 u[    k    ] = *src++;
114                 y[2 * k    ] = *src++;
115                 a[2 * k    ] = 0xFF - (transparent ? *srca++ : 0);
116                 srca++;
117                 v[    k    ] = *src++;
118                 y[2 * k + 1] = *src++;
119                 a[2 * k + 1] = 0xFF - (transparent ? *srca++ : 0);
120                 srca++;
121             }
122
123             y += (interlaced + 1) * pic->linesize[0];
124             u += (interlaced + 1) * pic->linesize[1];
125             v += (interlaced + 1) * pic->linesize[2];
126             a += (interlaced + 1) * pic->linesize[3];
127         }
128         src  += 4;
129         srca += 4;
130     }
131     *got_frame       = 1;
132     *(AVFrame *)data = *pic;
133
134     return avpkt->size;
135 }
136
137 static av_cold int avui_decode_close(AVCodecContext *avctx)
138 {
139     if (avctx->coded_frame->data[0])
140         avctx->release_buffer(avctx, avctx->coded_frame);
141
142     av_freep(&avctx->coded_frame);
143
144     return 0;
145 }
146
147 AVCodec ff_avui_decoder = {
148     .name         = "avui",
149     .type         = AVMEDIA_TYPE_VIDEO,
150     .id           = AV_CODEC_ID_AVUI,
151     .init         = avui_decode_init,
152     .decode       = avui_decode_frame,
153     .close        = avui_decode_close,
154     .capabilities = CODEC_CAP_DR1,
155     .long_name    = NULL_IF_CONFIG_SMALL("Avid Meridien Uncompressed"),
156 };