dnxhd: rename some data tables
[ffmpeg.git] / libavcodec / libopenjpeg.c
1 /*
2  * JPEG 2000 decoding support via OpenJPEG
3  * Copyright (c) 2009 Jaikrishnan Menon <realityman@gmx.net>
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23 * @file
24 * JPEG 2000 decoder using libopenjpeg
25 */
26
27 #include "libavutil/imgutils.h"
28 #include "avcodec.h"
29 #include "libavutil/intreadwrite.h"
30 #define  OPJ_STATIC
31 #include <openjpeg.h>
32
33 #define JP2_SIG_TYPE    0x6A502020
34 #define JP2_SIG_VALUE   0x0D0A870A
35
36 typedef struct {
37     opj_dparameters_t dec_params;
38     AVFrame image;
39 } LibOpenJPEGContext;
40
41 static int check_image_attributes(opj_image_t *image)
42 {
43     return image->comps[0].dx == image->comps[1].dx &&
44            image->comps[1].dx == image->comps[2].dx &&
45            image->comps[0].dy == image->comps[1].dy &&
46            image->comps[1].dy == image->comps[2].dy &&
47            image->comps[0].prec == image->comps[1].prec &&
48            image->comps[1].prec == image->comps[2].prec;
49 }
50
51 static av_cold int libopenjpeg_decode_init(AVCodecContext *avctx)
52 {
53     LibOpenJPEGContext *ctx = avctx->priv_data;
54
55     opj_set_default_decoder_parameters(&ctx->dec_params);
56     avctx->coded_frame = &ctx->image;
57     return 0;
58 }
59
60 static int libopenjpeg_decode_frame(AVCodecContext *avctx,
61                                     void *data, int *data_size,
62                                     AVPacket *avpkt)
63 {
64     uint8_t *buf = avpkt->data;
65     int buf_size = avpkt->size;
66     LibOpenJPEGContext *ctx = avctx->priv_data;
67     AVFrame *picture = &ctx->image, *output = data;
68     opj_dinfo_t *dec;
69     opj_cio_t *stream;
70     opj_image_t *image;
71     int width, height, has_alpha = 0, ret = -1;
72     int x, y, index;
73     uint8_t *img_ptr;
74     int adjust[4];
75
76     *data_size = 0;
77
78     // Check if input is a raw jpeg2k codestream or in jp2 wrapping
79     if((AV_RB32(buf) == 12) &&
80        (AV_RB32(buf + 4) == JP2_SIG_TYPE) &&
81        (AV_RB32(buf + 8) == JP2_SIG_VALUE)) {
82         dec = opj_create_decompress(CODEC_JP2);
83     } else {
84         // If the AVPacket contains a jp2c box, then skip to
85         // the starting byte of the codestream.
86         if (AV_RB32(buf + 4) == AV_RB32("jp2c"))
87             buf += 8;
88         dec = opj_create_decompress(CODEC_J2K);
89     }
90
91     if(!dec) {
92         av_log(avctx, AV_LOG_ERROR, "Error initializing decoder.\n");
93         return -1;
94     }
95     opj_set_event_mgr((opj_common_ptr)dec, NULL, NULL);
96
97     ctx->dec_params.cp_reduce = avctx->lowres;
98     // Tie decoder with decoding parameters
99     opj_setup_decoder(dec, &ctx->dec_params);
100     stream = opj_cio_open((opj_common_ptr)dec, buf, buf_size);
101     if(!stream) {
102         av_log(avctx, AV_LOG_ERROR, "Codestream could not be opened for reading.\n");
103         opj_destroy_decompress(dec);
104         return -1;
105     }
106
107     // Decode the codestream
108     image = opj_decode_with_info(dec, stream, NULL);
109     opj_cio_close(stream);
110     if(!image) {
111         av_log(avctx, AV_LOG_ERROR, "Error decoding codestream.\n");
112         opj_destroy_decompress(dec);
113         return -1;
114     }
115     width  = image->comps[0].w << avctx->lowres;
116     height = image->comps[0].h << avctx->lowres;
117     if(av_image_check_size(width, height, 0, avctx) < 0) {
118         av_log(avctx, AV_LOG_ERROR, "%dx%d dimension invalid.\n", width, height);
119         goto done;
120     }
121     avcodec_set_dimensions(avctx, width, height);
122
123     switch(image->numcomps)
124     {
125         case 1:  avctx->pix_fmt = PIX_FMT_GRAY8;
126                  break;
127         case 3:  if(check_image_attributes(image)) {
128                      avctx->pix_fmt = PIX_FMT_RGB24;
129                  } else {
130                      avctx->pix_fmt = PIX_FMT_GRAY8;
131                      av_log(avctx, AV_LOG_ERROR, "Only first component will be used.\n");
132                  }
133                  break;
134         case 4:  has_alpha = 1;
135                  avctx->pix_fmt = PIX_FMT_RGBA;
136                  break;
137         default: av_log(avctx, AV_LOG_ERROR, "%d components unsupported.\n", image->numcomps);
138                  goto done;
139     }
140
141     if(picture->data[0])
142         avctx->release_buffer(avctx, picture);
143
144     if(avctx->get_buffer(avctx, picture) < 0) {
145         av_log(avctx, AV_LOG_ERROR, "Couldn't allocate image buffer.\n");
146         return -1;
147     }
148
149     for(x = 0; x < image->numcomps; x++) {
150         adjust[x] = FFMAX(image->comps[x].prec - 8, 0);
151     }
152
153     for(y = 0; y < avctx->height; y++) {
154         index = y*avctx->width;
155         img_ptr = picture->data[0] + y*picture->linesize[0];
156         for(x = 0; x < avctx->width; x++, index++) {
157             *img_ptr++ = image->comps[0].data[index] >> adjust[0];
158             if(image->numcomps > 2 && check_image_attributes(image)) {
159                 *img_ptr++ = image->comps[1].data[index] >> adjust[1];
160                 *img_ptr++ = image->comps[2].data[index] >> adjust[2];
161                 if(has_alpha)
162                     *img_ptr++ = image->comps[3].data[index] >> adjust[3];
163             }
164         }
165     }
166
167     *output    = ctx->image;
168     *data_size = sizeof(AVPicture);
169     ret = buf_size;
170
171 done:
172     opj_image_destroy(image);
173     opj_destroy_decompress(dec);
174     return ret;
175 }
176
177 static av_cold int libopenjpeg_decode_close(AVCodecContext *avctx)
178 {
179     LibOpenJPEGContext *ctx = avctx->priv_data;
180
181     if(ctx->image.data[0])
182         avctx->release_buffer(avctx, &ctx->image);
183     return 0 ;
184 }
185
186
187 AVCodec ff_libopenjpeg_decoder = {
188     "libopenjpeg",
189     AVMEDIA_TYPE_VIDEO,
190     CODEC_ID_JPEG2000,
191     sizeof(LibOpenJPEGContext),
192     libopenjpeg_decode_init,
193     NULL,
194     libopenjpeg_decode_close,
195     libopenjpeg_decode_frame,
196     CODEC_CAP_DR1,
197     .max_lowres = 5,
198     .long_name = NULL_IF_CONFIG_SMALL("OpenJPEG based JPEG 2000 decoder"),
199 } ;