eadf4a145d3830c28bda7f7f39cf589c71c04f1c
[ffmpeg.git] / libavcodec / libutvideodec.cpp
1 /*
2  * Copyright (c) 2011 Derek Buitenhuis
3  *
4  * This file is part of FFmpeg.
5  *
6  * FFmpeg is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU General Public
8  * License as published by the Free Software Foundation;
9  * version 2 of the License.
10  *
11  * FFmpeg is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public
17  * License along with FFmpeg; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 /**
22  * @file
23  * Known FOURCCs:
24  *     'ULY0' (YCbCr 4:2:0), 'ULY2' (YCbCr 4:2:2), 'ULRG' (RGB), 'ULRA' (RGBA),
25  *     'ULH0' (YCbCr 4:2:0 BT.709), 'ULH2' (YCbCr 4:2:2 BT.709)
26  */
27
28 extern "C" {
29 #include "avcodec.h"
30 }
31
32 #include "libutvideo.h"
33 #include "get_bits.h"
34
35 static av_cold int utvideo_decode_init(AVCodecContext *avctx)
36 {
37     UtVideoContext *utv = (UtVideoContext *)avctx->priv_data;
38     UtVideoExtra info;
39     int format;
40     int begin_ret;
41
42     if (avctx->extradata_size != 4*4) {
43         av_log(avctx, AV_LOG_ERROR, "Extradata size mismatch.\n");
44         return -1;
45     }
46
47     /* Read extradata */
48     info.version = AV_RL32(avctx->extradata);
49     info.original_format = AV_RL32(avctx->extradata + 4);
50     info.frameinfo_size = AV_RL32(avctx->extradata + 8);
51     info.flags = AV_RL32(avctx->extradata + 12);
52
53     /* Pick format based on FOURCC */
54     switch (avctx->codec_tag) {
55 #ifdef UTV_BT709
56     case MKTAG('U', 'L', 'H', '0'):
57         avctx->pix_fmt = AV_PIX_FMT_YUV420P;
58         avctx->color_primaries = AVCOL_PRI_BT709;
59         avctx->colorspace = AVCOL_SPC_BT709;
60         format = UTVF_YV12;
61         break;
62     case MKTAG('U', 'L', 'H', '2'):
63         avctx->pix_fmt = AV_PIX_FMT_YUYV422;
64         avctx->color_primaries = AVCOL_PRI_BT709;
65         avctx->colorspace = AVCOL_SPC_BT709;
66         format = UTVF_YUY2;
67         break;
68 #endif
69     case MKTAG('U', 'L', 'Y', '0'):
70         avctx->pix_fmt = AV_PIX_FMT_YUV420P;
71         format = UTVF_YV12;
72         break;
73     case MKTAG('U', 'L', 'Y', '2'):
74         avctx->pix_fmt = AV_PIX_FMT_YUYV422;
75         format = UTVF_YUY2;
76         break;
77     case MKTAG('U', 'L', 'R', 'G'):
78         avctx->pix_fmt = AV_PIX_FMT_BGR24;
79         format = UTVF_NFCC_BGR_BU;
80         break;
81     case MKTAG('U', 'L', 'R', 'A'):
82         avctx->pix_fmt = AV_PIX_FMT_RGB32;
83         format = UTVF_NFCC_BGRA_BU;
84         break;
85     default:
86         av_log(avctx, AV_LOG_ERROR,
87               "Not a Ut Video FOURCC: %X\n", avctx->codec_tag);
88         return -1;
89     }
90
91     /* Only allocate the buffer once */
92     utv->buf_size = avpicture_get_size(avctx->pix_fmt, avctx->width, avctx->height);
93     utv->buffer = (uint8_t *)av_malloc(utv->buf_size * sizeof(uint8_t));
94
95     if (utv->buffer == NULL) {
96         av_log(avctx, AV_LOG_ERROR, "Unable to allocate output buffer.\n");
97         return -1;
98     }
99
100     /* Allocate the output frame */
101     avctx->coded_frame = avcodec_alloc_frame();
102
103     /* Ut Video only supports 8-bit */
104     avctx->bits_per_raw_sample = 8;
105
106     /* Is it interlaced? */
107     avctx->coded_frame->interlaced_frame = info.flags & 0x800 ? 1 : 0;
108
109     /* Apparently Ut Video doesn't store this info... */
110     avctx->coded_frame->top_field_first = 1;
111
112     /*
113      * Create a Ut Video instance. Since the function wants
114      * an "interface name" string, pass it the name of the lib.
115      */
116     utv->codec = CCodec::CreateInstance(UNFCC(avctx->codec_tag), "libavcodec");
117
118     /* Initialize Decoding */
119     begin_ret = utv->codec->DecodeBegin(format, avctx->width, avctx->height,
120                             CBGROSSWIDTH_WINDOWS, &info, sizeof(UtVideoExtra));
121
122     /* Check to see if the decoder initlized properly */
123     if (begin_ret != 0) {
124         av_log(avctx, AV_LOG_ERROR,
125                "Could not initialize decoder: %d\n", begin_ret);
126         return -1;
127     }
128
129     return 0;
130 }
131
132 static int utvideo_decode_frame(AVCodecContext *avctx, void *data,
133                                 int *got_frame, AVPacket *avpkt)
134 {
135     UtVideoContext *utv = (UtVideoContext *)avctx->priv_data;
136     AVFrame *pic = avctx->coded_frame;
137     int w = avctx->width, h = avctx->height;
138
139     /* Set flags */
140     pic->reference = 0;
141     pic->pict_type = AV_PICTURE_TYPE_I;
142     pic->key_frame = 1;
143
144     /* Decode the frame */
145     utv->codec->DecodeFrame(utv->buffer, avpkt->data, true);
146
147     /* Set the output data depending on the colorspace */
148     switch (avctx->pix_fmt) {
149     case AV_PIX_FMT_YUV420P:
150         pic->linesize[0] = w;
151         pic->linesize[1] = pic->linesize[2] = w / 2;
152         pic->data[0] = utv->buffer;
153         pic->data[2] = utv->buffer + (w * h);
154         pic->data[1] = pic->data[2] + (w * h / 4);
155         break;
156     case AV_PIX_FMT_YUYV422:
157         pic->linesize[0] = w * 2;
158         pic->data[0] = utv->buffer;
159         break;
160     case AV_PIX_FMT_BGR24:
161     case AV_PIX_FMT_RGB32:
162         /* Make the linesize negative, since Ut Video uses bottom-up BGR */
163         pic->linesize[0] = -1 * w * (avctx->pix_fmt == AV_PIX_FMT_BGR24 ? 3 : 4);
164         pic->data[0] = utv->buffer + utv->buf_size + pic->linesize[0];
165         break;
166     }
167
168     *got_frame = 1;
169     *(AVFrame *)data = *pic;
170
171     return avpkt->size;
172 }
173
174 static av_cold int utvideo_decode_close(AVCodecContext *avctx)
175 {
176     UtVideoContext *utv = (UtVideoContext *)avctx->priv_data;
177
178     /* Free output */
179     av_freep(&avctx->coded_frame);
180     av_freep(&utv->buffer);
181
182     /* Finish decoding and clean up the instance */
183     utv->codec->DecodeEnd();
184     CCodec::DeleteInstance(utv->codec);
185
186     return 0;
187 }
188
189 AVCodec ff_libutvideo_decoder = {
190     "libutvideo",
191     NULL_IF_CONFIG_SMALL("Ut Video"),
192     AVMEDIA_TYPE_VIDEO,
193     AV_CODEC_ID_UTVIDEO,
194     0,    //capabilities
195     NULL, //supported_framerates
196     NULL, //pix_fmts
197     NULL, //supported_samplerates
198     NULL, //sample_fmts
199     NULL, //channel_layouts
200     0,    //max_lowres
201     NULL, //priv_class
202     NULL, //profiles
203     sizeof(UtVideoContext),
204     NULL, //next
205     NULL, //init_thread_copy
206     NULL, //update_thread_context
207     NULL, //defaults
208     NULL, //init_static_data
209     utvideo_decode_init,
210     NULL, //encode
211     NULL, //encode2
212     utvideo_decode_frame,
213     utvideo_decode_close,
214 };