lavc: replace AVCodecContext.encode with subtitle-specific callback
[ffmpeg.git] / libavcodec / qdrw.c
1 /*
2  * QuickDraw (qdrw) codec
3  * Copyright (c) 2004 Konstantin Shishkov
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * Apple QuickDraw codec.
25  */
26
27 #include "libavutil/common.h"
28 #include "libavutil/intreadwrite.h"
29 #include "avcodec.h"
30
31 typedef struct QdrawContext{
32     AVCodecContext *avctx;
33     AVFrame pic;
34 } QdrawContext;
35
36 static int decode_frame(AVCodecContext *avctx,
37                         void *data, int *data_size,
38                         AVPacket *avpkt)
39 {
40     const uint8_t *buf = avpkt->data;
41     const uint8_t *buf_end = avpkt->data + avpkt->size;
42     int buf_size = avpkt->size;
43     QdrawContext * const a = avctx->priv_data;
44     AVFrame * const p = &a->pic;
45     uint8_t* outdata;
46     int colors;
47     int i;
48     uint32_t *pal;
49     int r, g, b;
50
51     if(p->data[0])
52         avctx->release_buffer(avctx, p);
53
54     p->reference= 0;
55     if(avctx->get_buffer(avctx, p) < 0){
56         av_log(avctx, AV_LOG_ERROR, "get_buffer() failed\n");
57         return -1;
58     }
59     p->pict_type= AV_PICTURE_TYPE_I;
60     p->key_frame= 1;
61
62     outdata = a->pic.data[0];
63
64     if (buf_end - buf < 0x68 + 4)
65         return AVERROR_INVALIDDATA;
66     buf += 0x68; /* jump to palette */
67     colors = AV_RB32(buf);
68     buf += 4;
69
70     if(colors < 0 || colors > 256) {
71         av_log(avctx, AV_LOG_ERROR, "Error color count - %i(0x%X)\n", colors, colors);
72         return -1;
73     }
74     if (buf_end - buf < (colors + 1) * 8)
75         return AVERROR_INVALIDDATA;
76
77     pal = (uint32_t*)p->data[1];
78     for (i = 0; i <= colors; i++) {
79         unsigned int idx;
80         idx = AV_RB16(buf); /* color index */
81         buf += 2;
82
83         if (idx > 255) {
84             av_log(avctx, AV_LOG_ERROR, "Palette index out of range: %u\n", idx);
85             buf += 6;
86             continue;
87         }
88         r = *buf++;
89         buf++;
90         g = *buf++;
91         buf++;
92         b = *buf++;
93         buf++;
94         pal[idx] = (r << 16) | (g << 8) | b;
95     }
96     p->palette_has_changed = 1;
97
98     if (buf_end - buf < 18)
99         return AVERROR_INVALIDDATA;
100     buf += 18; /* skip unneeded data */
101     for (i = 0; i < avctx->height; i++) {
102         int size, left, code, pix;
103         const uint8_t *next;
104         uint8_t *out;
105         int tsize = 0;
106
107         /* decode line */
108         out = outdata;
109         size = AV_RB16(buf); /* size of packed line */
110         buf += 2;
111         if (buf_end - buf < size)
112             return AVERROR_INVALIDDATA;
113
114         left = size;
115         next = buf + size;
116         while (left > 0) {
117             code = *buf++;
118             if (code & 0x80 ) { /* run */
119                 pix = *buf++;
120                 if ((out + (257 - code)) > (outdata +  a->pic.linesize[0]))
121                     break;
122                 memset(out, pix, 257 - code);
123                 out += 257 - code;
124                 tsize += 257 - code;
125                 left -= 2;
126             } else { /* copy */
127                 if ((out + code) > (outdata +  a->pic.linesize[0]))
128                     break;
129                 if (buf_end - buf < code + 1)
130                     return AVERROR_INVALIDDATA;
131                 memcpy(out, buf, code + 1);
132                 out += code + 1;
133                 buf += code + 1;
134                 left -= 2 + code;
135                 tsize += code + 1;
136             }
137         }
138         buf = next;
139         outdata += a->pic.linesize[0];
140     }
141
142     *data_size = sizeof(AVFrame);
143     *(AVFrame*)data = a->pic;
144
145     return buf_size;
146 }
147
148 static av_cold int decode_init(AVCodecContext *avctx){
149 //    QdrawContext * const a = avctx->priv_data;
150
151     avctx->pix_fmt= PIX_FMT_PAL8;
152
153     return 0;
154 }
155
156 static av_cold int decode_end(AVCodecContext *avctx){
157     QdrawContext * const a = avctx->priv_data;
158     AVFrame *pic = &a->pic;
159
160     if (pic->data[0])
161         avctx->release_buffer(avctx, pic);
162
163     return 0;
164 }
165
166 AVCodec ff_qdraw_decoder = {
167     .name           = "qdraw",
168     .type           = AVMEDIA_TYPE_VIDEO,
169     .id             = AV_CODEC_ID_QDRAW,
170     .priv_data_size = sizeof(QdrawContext),
171     .init           = decode_init,
172     .close          = decode_end,
173     .decode         = decode_frame,
174     .capabilities   = CODEC_CAP_DR1,
175     .long_name      = NULL_IF_CONFIG_SMALL("Apple QuickDraw"),
176 };