libopenh264enc: Return a more sensible error code in some init failure paths
[ffmpeg.git] / libavcodec / txd.c
1 /*
2  * Renderware TeXture Dictionary (.txd) image decoder
3  * Copyright (c) 2007 Ivo van Poorten
4  *
5  * See also: http://wiki.multimedia.cx/index.php?title=TXD
6  *
7  * This file is part of Libav.
8  *
9  * Libav is free software; you can redistribute it and/or
10  * modify it under the terms of the GNU Lesser General Public
11  * License as published by the Free Software Foundation; either
12  * version 2.1 of the License, or (at your option) any later version.
13  *
14  * Libav is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
17  * Lesser General Public License for more details.
18  *
19  * You should have received a copy of the GNU Lesser General Public
20  * License along with Libav; if not, write to the Free Software
21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
22  */
23
24 #include "libavutil/intreadwrite.h"
25 #include "libavutil/imgutils.h"
26 #include "avcodec.h"
27 #include "bytestream.h"
28 #include "internal.h"
29 #include "texturedsp.h"
30
31 #define TXD_DXT1 0x31545844
32 #define TXD_DXT3 0x33545844
33
34 static int txd_decode_frame(AVCodecContext *avctx, void *data, int *got_frame,
35                             AVPacket *avpkt) {
36     GetByteContext gb;
37     TextureDSPContext dxtc;
38     AVFrame * const p = data;
39     unsigned int version, w, h, d3d_format, depth, stride, flags;
40     unsigned int y, v;
41     uint8_t *ptr;
42     uint32_t *pal;
43     int i, j;
44     int ret;
45
46     ff_texturedsp_init(&dxtc);
47
48     bytestream2_init(&gb, avpkt->data, avpkt->size);
49     version         = bytestream2_get_le32(&gb);
50     bytestream2_skip(&gb, 72);
51     d3d_format      = bytestream2_get_le32(&gb);
52     w               = bytestream2_get_le16(&gb);
53     h               = bytestream2_get_le16(&gb);
54     depth           = bytestream2_get_byte(&gb);
55     bytestream2_skip(&gb, 2);
56     flags           = bytestream2_get_byte(&gb);
57
58     if (version < 8 || version > 9) {
59         av_log(avctx, AV_LOG_ERROR, "texture data version %i is unsupported\n",
60                                                                     version);
61         return AVERROR_PATCHWELCOME;
62     }
63
64     if (depth == 8) {
65         avctx->pix_fmt = AV_PIX_FMT_PAL8;
66     } else if (depth == 16 || depth == 32) {
67         avctx->pix_fmt = AV_PIX_FMT_RGBA;
68     } else {
69         av_log(avctx, AV_LOG_ERROR, "depth of %i is unsupported\n", depth);
70         return AVERROR_PATCHWELCOME;
71     }
72
73     if ((ret = ff_set_dimensions(avctx, w, h)) < 0)
74         return ret;
75
76     avctx->coded_width  = FFALIGN(w, 4);
77     avctx->coded_height = FFALIGN(h, 4);
78
79     if ((ret = ff_get_buffer(avctx, p, 0)) < 0) {
80         av_log(avctx, AV_LOG_ERROR, "get_buffer() failed\n");
81         return ret;
82     }
83
84     p->pict_type = AV_PICTURE_TYPE_I;
85
86     ptr    = p->data[0];
87     stride = p->linesize[0];
88
89     if (depth == 8) {
90         pal = (uint32_t *) p->data[1];
91         for (y = 0; y < 256; y++) {
92             v = bytestream2_get_be32(&gb);
93             pal[y] = (v >> 8) + (v << 24);
94         }
95         bytestream2_skip(&gb, 4);
96         for (y=0; y<h; y++) {
97             bytestream2_get_buffer(&gb, ptr, w);
98             ptr += stride;
99         }
100     } else if (depth == 16) {
101         bytestream2_skip(&gb, 4);
102         switch (d3d_format) {
103         case 0:
104             if (!(flags & 1))
105                 goto unsupported;
106         case TXD_DXT1:
107             for (j = 0; j < avctx->height; j += 4) {
108                 for (i = 0; i < avctx->width; i += 4) {
109                     uint8_t *p = ptr + i * 4 + j * stride;
110                     int step = dxtc.dxt1_block(p, stride, gb.buffer);
111                     bytestream2_skip(&gb, step);
112                 }
113             }
114             break;
115         case TXD_DXT3:
116             for (j = 0; j < avctx->height; j += 4) {
117                 for (i = 0; i < avctx->width; i += 4) {
118                     uint8_t *p = ptr + i * 4 + j * stride;
119                     int step = dxtc.dxt3_block(p, stride, gb.buffer);
120                     bytestream2_skip(&gb, step);
121                 }
122             }
123             break;
124         default:
125             goto unsupported;
126         }
127     } else if (depth == 32) {
128         switch (d3d_format) {
129         case 0x15:
130         case 0x16:
131             for (y=0; y<h; y++) {
132                 bytestream2_get_buffer(&gb, ptr, w * 4);
133                 ptr += stride;
134             }
135             break;
136         default:
137             goto unsupported;
138         }
139     }
140
141     *got_frame = 1;
142
143     return avpkt->size;
144
145 unsupported:
146     av_log(avctx, AV_LOG_ERROR, "unsupported d3d format (%08x)\n", d3d_format);
147     return AVERROR_PATCHWELCOME;
148 }
149
150 AVCodec ff_txd_decoder = {
151     .name           = "txd",
152     .long_name      = NULL_IF_CONFIG_SMALL("Renderware TXD (TeXture Dictionary) image"),
153     .type           = AVMEDIA_TYPE_VIDEO,
154     .id             = AV_CODEC_ID_TXD,
155     .decode         = txd_decode_frame,
156     .capabilities   = AV_CODEC_CAP_DR1,
157 };