dpx: invalid aspect ratio is 0/1, not 0/0.
[ffmpeg.git] / libavcodec / dpx.c
1 /*
2  * DPX (.dpx) image decoder
3  * Copyright (c) 2009 Jimmy Christensen
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "libavutil/intreadwrite.h"
23 #include "libavutil/imgutils.h"
24 #include "bytestream.h"
25 #include "avcodec.h"
26
27 typedef struct DPXContext {
28     AVFrame picture;
29 } DPXContext;
30
31
32 static unsigned int read32(const uint8_t **ptr, int is_big)
33 {
34     unsigned int temp;
35     if (is_big) {
36         temp = AV_RB32(*ptr);
37     } else {
38         temp = AV_RL32(*ptr);
39     }
40     *ptr += 4;
41     return temp;
42 }
43
44 static inline unsigned make_16bit(unsigned value)
45 {
46     // mask away invalid bits
47     value &= 0xFFC0;
48     // correctly expand to 16 bits
49     return value + (value >> 10);
50 }
51
52 static int decode_frame(AVCodecContext *avctx,
53                         void *data,
54                         int *data_size,
55                         AVPacket *avpkt)
56 {
57     const uint8_t *buf = avpkt->data;
58     const uint8_t *buf_end = avpkt->data + avpkt->size;
59     int buf_size       = avpkt->size;
60     DPXContext *const s = avctx->priv_data;
61     AVFrame *picture  = data;
62     AVFrame *const p = &s->picture;
63     uint8_t *ptr;
64
65     int magic_num, offset, endian;
66     int x, y;
67     int w, h, stride, bits_per_color, descriptor, elements, target_packet_size, source_packet_size;
68
69     unsigned int rgbBuffer;
70
71     if (avpkt->size <= 1634) {
72         av_log(avctx, AV_LOG_ERROR, "Packet too small for DPX header\n");
73         return AVERROR_INVALIDDATA;
74     }
75
76     magic_num = AV_RB32(buf);
77     buf += 4;
78
79     /* Check if the files "magic number" is "SDPX" which means it uses
80      * big-endian or XPDS which is for little-endian files */
81     if (magic_num == AV_RL32("SDPX")) {
82         endian = 0;
83     } else if (magic_num == AV_RB32("SDPX")) {
84         endian = 1;
85     } else {
86         av_log(avctx, AV_LOG_ERROR, "DPX marker not found\n");
87         return -1;
88     }
89
90     offset = read32(&buf, endian);
91     if (avpkt->size <= offset) {
92         av_log(avctx, AV_LOG_ERROR, "Invalid data start offset\n");
93         return AVERROR_INVALIDDATA;
94     }
95     // Need to end in 0x304 offset from start of file
96     buf = avpkt->data + 0x304;
97     w = read32(&buf, endian);
98     h = read32(&buf, endian);
99
100     // Need to end in 0x320 to read the descriptor
101     buf += 20;
102     descriptor = buf[0];
103
104     // Need to end in 0x323 to read the bits per color
105     buf += 3;
106     avctx->bits_per_raw_sample =
107     bits_per_color = buf[0];
108
109     buf += 825;
110     avctx->sample_aspect_ratio.num = read32(&buf, endian);
111     avctx->sample_aspect_ratio.den = read32(&buf, endian);
112     if (avctx->sample_aspect_ratio.num > 0 && avctx->sample_aspect_ratio.den > 0)
113         av_reduce(&avctx->sample_aspect_ratio.num, &avctx->sample_aspect_ratio.den,
114                    avctx->sample_aspect_ratio.num,  avctx->sample_aspect_ratio.den,
115                   0x10000);
116     else
117         avctx->sample_aspect_ratio = (AVRational){ 0, 1 };
118
119     switch (descriptor) {
120         case 51: // RGBA
121             elements = 4;
122             break;
123         case 50: // RGB
124             elements = 3;
125             break;
126         default:
127             av_log(avctx, AV_LOG_ERROR, "Unsupported descriptor %d\n", descriptor);
128             return -1;
129     }
130
131     switch (bits_per_color) {
132         case 8:
133             if (elements == 4) {
134                 avctx->pix_fmt = PIX_FMT_RGBA;
135             } else {
136                 avctx->pix_fmt = PIX_FMT_RGB24;
137             }
138             source_packet_size = elements;
139             target_packet_size = elements;
140             break;
141         case 10:
142             avctx->pix_fmt = PIX_FMT_RGB48;
143             target_packet_size = 6;
144             source_packet_size = 4;
145             break;
146         case 12:
147         case 16:
148             if (endian) {
149                 avctx->pix_fmt = elements == 4 ? PIX_FMT_RGBA64BE : PIX_FMT_RGB48BE;
150             } else {
151                 avctx->pix_fmt = elements == 4 ? PIX_FMT_RGBA64LE : PIX_FMT_RGB48LE;
152             }
153             target_packet_size =
154             source_packet_size = elements * 2;
155             break;
156         default:
157             av_log(avctx, AV_LOG_ERROR, "Unsupported color depth : %d\n", bits_per_color);
158             return -1;
159     }
160
161     if (s->picture.data[0])
162         avctx->release_buffer(avctx, &s->picture);
163     if (av_image_check_size(w, h, 0, avctx))
164         return -1;
165     if (w != avctx->width || h != avctx->height)
166         avcodec_set_dimensions(avctx, w, h);
167     if (avctx->get_buffer(avctx, p) < 0) {
168         av_log(avctx, AV_LOG_ERROR, "get_buffer() failed\n");
169         return -1;
170     }
171
172     // Move pointer to offset from start of file
173     buf =  avpkt->data + offset;
174
175     ptr    = p->data[0];
176     stride = p->linesize[0];
177
178     if (source_packet_size*avctx->width*avctx->height > buf_end - buf) {
179         av_log(avctx, AV_LOG_ERROR, "Overread buffer. Invalid header?\n");
180         return -1;
181     }
182     switch (bits_per_color) {
183         case 10:
184             for (x = 0; x < avctx->height; x++) {
185                uint16_t *dst = (uint16_t*)ptr;
186                for (y = 0; y < avctx->width; y++) {
187                    rgbBuffer = read32(&buf, endian);
188                    // Read out the 10-bit colors and convert to 16-bit
189                    *dst++ = make_16bit(rgbBuffer >> 16);
190                    *dst++ = make_16bit(rgbBuffer >>  6);
191                    *dst++ = make_16bit(rgbBuffer <<  4);
192                }
193                ptr += stride;
194             }
195             break;
196         case 8:
197         case 12: // Treat 12-bit as 16-bit
198         case 16:
199             if (source_packet_size == target_packet_size) {
200                 for (x = 0; x < avctx->height; x++) {
201                     memcpy(ptr, buf, target_packet_size*avctx->width);
202                     ptr += stride;
203                     buf += source_packet_size*avctx->width;
204                 }
205             } else {
206                 for (x = 0; x < avctx->height; x++) {
207                     uint8_t *dst = ptr;
208                     for (y = 0; y < avctx->width; y++) {
209                         memcpy(dst, buf, target_packet_size);
210                         dst += target_packet_size;
211                         buf += source_packet_size;
212                     }
213                     ptr += stride;
214                 }
215             }
216             break;
217     }
218
219     *picture   = s->picture;
220     *data_size = sizeof(AVPicture);
221
222     return buf_size;
223 }
224
225 static av_cold int decode_init(AVCodecContext *avctx)
226 {
227     DPXContext *s = avctx->priv_data;
228     avcodec_get_frame_defaults(&s->picture);
229     avctx->coded_frame = &s->picture;
230     return 0;
231 }
232
233 static av_cold int decode_end(AVCodecContext *avctx)
234 {
235     DPXContext *s = avctx->priv_data;
236     if (s->picture.data[0])
237         avctx->release_buffer(avctx, &s->picture);
238
239     return 0;
240 }
241
242 AVCodec ff_dpx_decoder = {
243     .name           = "dpx",
244     .type           = AVMEDIA_TYPE_VIDEO,
245     .id             = CODEC_ID_DPX,
246     .priv_data_size = sizeof(DPXContext),
247     .init           = decode_init,
248     .close          = decode_end,
249     .decode         = decode_frame,
250     .capabilities   = CODEC_CAP_DR1,
251     .long_name      = NULL_IF_CONFIG_SMALL("DPX image"),
252 };