29e6db16d0a057f6d40ac97fec51d4a183ed05cf
[ffmpeg.git] / libavcodec / libutvideodec.cpp
1 /*
2  * Copyright (c) 2011 Derek Buitenhuis
3  *
4  * This file is part of FFmpeg.
5  *
6  * FFmpeg is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU General Public
8  * License as published by the Free Software Foundation;
9  * version 2 of the License.
10  *
11  * FFmpeg is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public
17  * License along with FFmpeg; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 /**
22  * @file
23  * Known FOURCCs:
24  *     'ULY0' (YCbCr 4:2:0), 'ULY2' (YCbCr 4:2:2), 'ULRG' (RGB), 'ULRA' (RGBA),
25  *     'ULH0' (YCbCr 4:2:0 BT.709), 'ULH2' (YCbCr 4:2:2 BT.709)
26  */
27
28 extern "C" {
29 #include "avcodec.h"
30 #include "libavutil/imgutils.h"
31 }
32
33 #include "libutvideo.h"
34 #include "get_bits.h"
35
36 static av_cold int utvideo_decode_init(AVCodecContext *avctx)
37 {
38     UtVideoContext *utv = (UtVideoContext *)avctx->priv_data;
39     UtVideoExtra info;
40     int format;
41     int begin_ret;
42
43     if (avctx->extradata_size != 16 && avctx->extradata_size != 8 ) {
44         av_log(avctx, AV_LOG_ERROR, "Extradata size (%d) mismatch.\n", avctx->extradata_size);
45         return -1;
46     }
47
48     /* Read extradata */
49     info.version = AV_RL32(avctx->extradata);
50     info.original_format = AV_RL32(avctx->extradata + 4);
51     info.frameinfo_size = AV_RL32(avctx->extradata + 8);
52     info.flags = AV_RL32(avctx->extradata + 12);
53
54     /* Pick format based on FOURCC */
55     switch (avctx->codec_tag) {
56 #ifdef UTV_BT709
57     case MKTAG('U', 'L', 'H', '0'):
58         avctx->pix_fmt = AV_PIX_FMT_YUV420P;
59         avctx->colorspace = AVCOL_SPC_BT709;
60         format = UTVF_YV12;
61         break;
62     case MKTAG('U', 'L', 'H', '2'):
63         avctx->pix_fmt = AV_PIX_FMT_YUYV422;
64         avctx->colorspace = AVCOL_SPC_BT709;
65         format = UTVF_YUY2;
66         break;
67 #endif
68     case MKTAG('U', 'L', 'Y', '0'):
69         avctx->pix_fmt = AV_PIX_FMT_YUV420P;
70         format = UTVF_YV12;
71         break;
72     case MKTAG('U', 'L', 'Y', '2'):
73         avctx->pix_fmt = AV_PIX_FMT_YUYV422;
74         format = UTVF_YUY2;
75         break;
76     case MKTAG('U', 'L', 'R', 'G'):
77         avctx->pix_fmt = AV_PIX_FMT_BGR24;
78         format = UTVF_NFCC_BGR_BU;
79         break;
80     case MKTAG('U', 'L', 'R', 'A'):
81         avctx->pix_fmt = AV_PIX_FMT_RGB32;
82         format = UTVF_NFCC_BGRA_BU;
83         break;
84 #ifdef UTVF_UQY2
85     case MKTAG('U', 'Q', 'Y', '2'):
86         avctx->pix_fmt = AV_PIX_FMT_YUV422P10;
87         format = UTVF_v210;
88         break;
89 #endif
90     default:
91         av_log(avctx, AV_LOG_ERROR,
92               "Not a Ut Video FOURCC: %X\n", avctx->codec_tag);
93         return -1;
94     }
95
96     /* Only allocate the buffer once */
97     utv->buf_size = av_image_get_buffer_size(avctx->pix_fmt, avctx->width, avctx->height, 1);
98 #ifdef UTVF_UQY2
99     if (format == UTVF_v210)
100         utv->buf_size += avctx->height * ((avctx->width + 47) / 48) * 128; // the linesize used by the decoder, this does not seem to be exported
101 #endif
102     utv->buffer = (uint8_t *)av_malloc(utv->buf_size * sizeof(uint8_t));
103
104     if (utv->buffer == NULL) {
105         av_log(avctx, AV_LOG_ERROR, "Unable to allocate output buffer.\n");
106         return -1;
107     }
108
109     /* Allocate the output frame */
110     avctx->coded_frame = av_frame_alloc();
111
112     /* Is it interlaced? */
113     avctx->coded_frame->interlaced_frame = info.flags & 0x800 ? 1 : 0;
114
115     /* Apparently Ut Video doesn't store this info... */
116     avctx->coded_frame->top_field_first = 1;
117
118     /*
119      * Create a Ut Video instance. Since the function wants
120      * an "interface name" string, pass it the name of the lib.
121      */
122     utv->codec = CCodec::CreateInstance(UNFCC(avctx->codec_tag), "libavcodec");
123
124     /* Initialize Decoding */
125     begin_ret = utv->codec->DecodeBegin(format, avctx->width, avctx->height,
126                             CBGROSSWIDTH_WINDOWS, &info, sizeof(UtVideoExtra));
127
128     /* Check to see if the decoder initlized properly */
129     if (begin_ret != 0) {
130         av_log(avctx, AV_LOG_ERROR,
131                "Could not initialize decoder: %d\n", begin_ret);
132         return -1;
133     }
134
135     return 0;
136 }
137
138 static int utvideo_decode_frame(AVCodecContext *avctx, void *data,
139                                 int *got_frame, AVPacket *avpkt)
140 {
141     UtVideoContext *utv = (UtVideoContext *)avctx->priv_data;
142     AVFrame *pic = avctx->coded_frame;
143     int w = avctx->width, h = avctx->height;
144
145     /* Set flags */
146     pic->pict_type = AV_PICTURE_TYPE_I;
147     pic->key_frame = 1;
148
149     /* Decode the frame */
150     utv->codec->DecodeFrame(utv->buffer, avpkt->data, true);
151
152     /* Set the output data depending on the colorspace */
153     switch (avctx->pix_fmt) {
154     case AV_PIX_FMT_YUV420P:
155         pic->linesize[0] = w;
156         pic->linesize[1] = pic->linesize[2] = w / 2;
157         pic->data[0] = utv->buffer;
158         pic->data[2] = utv->buffer + (w * h);
159         pic->data[1] = pic->data[2] + (w * h / 4);
160         break;
161     case AV_PIX_FMT_YUYV422:
162         pic->linesize[0] = w * 2;
163         pic->data[0] = utv->buffer;
164         break;
165     case AV_PIX_FMT_YUV422P10: {
166         uint16_t *y, *u, *v;
167         int i,j;
168         int linesize = ((w + 47) / 48) * 128;
169
170         pic->linesize[0] = w * 2;
171         pic->linesize[1] =
172         pic->linesize[2] = w;
173         pic->data[0] = utv->buffer + linesize * h;
174         pic->data[1] = pic->data[0] + h*pic->linesize[0];
175         pic->data[2] = pic->data[1] + h*pic->linesize[1];
176         y = (uint16_t*)pic->data[0];
177         u = (uint16_t*)pic->data[1];
178         v = (uint16_t*)pic->data[2];
179         for (j = 0; j < h; j++) {
180             const uint8_t *in = utv->buffer + j * linesize;
181
182             for (i = 0; i + 1 < w; i += 6, in += 4) {
183                 unsigned a,b;
184                 a = AV_RL32(in);
185                 in += 4;
186                 b = AV_RL32(in);
187                 *u++ = (a    ) & 0x3FF;
188                 *y++ = (a>>10) & 0x3FF;
189                 *v++ = (a>>20) & 0x3FF;
190                 *y++ = (b    ) & 0x3FF;
191
192                 if (i + 3 >= w)
193                     break;
194
195                 in += 4;
196                 a = AV_RL32(in);
197                 *u++ = (b>>10) & 0x3FF;
198                 *y++ = (b>>20) & 0x3FF;
199                 *v++ = (a    ) & 0x3FF;
200                 *y++ = (a>>10) & 0x3FF;
201
202                 if (i + 5 >= w)
203                     break;
204
205                 in += 4;
206                 b = AV_RL32(in);
207                 *u++ = (a>>20) & 0x3FF;
208                 *y++ = (b    ) & 0x3FF;
209                 *v++ = (b>>10) & 0x3FF;
210                 *y++ = (b>>20) & 0x3FF;
211             }
212         }
213         break;
214     }
215     case AV_PIX_FMT_BGR24:
216     case AV_PIX_FMT_RGB32:
217         /* Make the linesize negative, since Ut Video uses bottom-up BGR */
218         pic->linesize[0] = -1 * w * (avctx->pix_fmt == AV_PIX_FMT_BGR24 ? 3 : 4);
219         pic->data[0] = utv->buffer + utv->buf_size + pic->linesize[0];
220         break;
221     }
222     pic->width  = w;
223     pic->height = h;
224     pic->format = avctx->pix_fmt;
225
226     if (avctx->refcounted_frames) {
227         int ret = av_frame_ref((AVFrame*)data, pic);
228         if (ret < 0)
229              return ret;
230     } else {
231         av_frame_move_ref((AVFrame*)data, pic);
232     }
233
234     *got_frame = 1;
235
236     return avpkt->size;
237 }
238
239 static av_cold int utvideo_decode_close(AVCodecContext *avctx)
240 {
241     UtVideoContext *utv = (UtVideoContext *)avctx->priv_data;
242
243     /* Free output */
244     av_frame_free(&avctx->coded_frame);
245     av_freep(&utv->buffer);
246
247     /* Finish decoding and clean up the instance */
248     utv->codec->DecodeEnd();
249     CCodec::DeleteInstance(utv->codec);
250
251     return 0;
252 }
253
254 AVCodec ff_libutvideo_decoder = {
255     "libutvideo",
256     NULL_IF_CONFIG_SMALL("Ut Video"),
257     AVMEDIA_TYPE_VIDEO,
258     AV_CODEC_ID_UTVIDEO,
259     0,    //capabilities
260     NULL, //supported_framerates
261     NULL, //pix_fmts
262     NULL, //supported_samplerates
263     NULL, //sample_fmts
264     NULL, //channel_layouts
265     0,    //max_lowres
266     NULL, //priv_class
267     NULL, //profiles
268     sizeof(UtVideoContext),
269     NULL, //next
270     NULL, //init_thread_copy
271     NULL, //update_thread_context
272     NULL, //defaults
273     NULL, //init_static_data
274     utvideo_decode_init,
275     NULL, //encode
276     NULL, //encode2
277     utvideo_decode_frame,
278     utvideo_decode_close,
279 };