avcodec/pngdec: check for stream end in png_decode_idat()
[ffmpeg.git] / libavcodec / pngdec.c
1 /*
2  * PNG image format
3  * Copyright (c) 2003 Fabrice Bellard
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 //#define DEBUG
23
24 #include "libavutil/bprint.h"
25 #include "libavutil/imgutils.h"
26 #include "avcodec.h"
27 #include "bytestream.h"
28 #include "internal.h"
29 #include "png.h"
30 #include "pngdsp.h"
31 #include "thread.h"
32
33 #include <zlib.h>
34
35 typedef struct PNGDecContext {
36     PNGDSPContext dsp;
37     AVCodecContext *avctx;
38
39     GetByteContext gb;
40     ThreadFrame last_picture;
41     ThreadFrame picture;
42
43     int state;
44     int width, height;
45     int bit_depth;
46     int color_type;
47     int compression_type;
48     int interlace_type;
49     int filter_type;
50     int channels;
51     int bits_per_pixel;
52     int bpp;
53
54     uint8_t *image_buf;
55     int image_linesize;
56     uint32_t palette[256];
57     uint8_t *crow_buf;
58     uint8_t *last_row;
59     unsigned int last_row_size;
60     uint8_t *tmp_row;
61     unsigned int tmp_row_size;
62     uint8_t *buffer;
63     int buffer_size;
64     int pass;
65     int crow_size; /* compressed row size (include filter type) */
66     int row_size; /* decompressed row size */
67     int pass_row_size; /* decompress row size of the current pass */
68     int y;
69     z_stream zstream;
70 } PNGDecContext;
71
72 /* Mask to determine which pixels are valid in a pass */
73 static const uint8_t png_pass_mask[NB_PASSES] = {
74     0x01, 0x01, 0x11, 0x11, 0x55, 0x55, 0xff,
75 };
76
77 /* Mask to determine which y pixels can be written in a pass */
78 static const uint8_t png_pass_dsp_ymask[NB_PASSES] = {
79     0xff, 0xff, 0x0f, 0xff, 0x33, 0xff, 0x55,
80 };
81
82 /* Mask to determine which pixels to overwrite while displaying */
83 static const uint8_t png_pass_dsp_mask[NB_PASSES] = {
84     0xff, 0x0f, 0xff, 0x33, 0xff, 0x55, 0xff
85 };
86
87 /* NOTE: we try to construct a good looking image at each pass. width
88    is the original image width. We also do pixel format conversion at
89    this stage */
90 static void png_put_interlaced_row(uint8_t *dst, int width,
91                                    int bits_per_pixel, int pass,
92                                    int color_type, const uint8_t *src)
93 {
94     int x, mask, dsp_mask, j, src_x, b, bpp;
95     uint8_t *d;
96     const uint8_t *s;
97
98     mask     = png_pass_mask[pass];
99     dsp_mask = png_pass_dsp_mask[pass];
100
101     switch (bits_per_pixel) {
102     case 1:
103         src_x = 0;
104         for (x = 0; x < width; x++) {
105             j = (x & 7);
106             if ((dsp_mask << j) & 0x80) {
107                 b = (src[src_x >> 3] >> (7 - (src_x & 7))) & 1;
108                 dst[x >> 3] &= 0xFF7F>>j;
109                 dst[x >> 3] |= b << (7 - j);
110             }
111             if ((mask << j) & 0x80)
112                 src_x++;
113         }
114         break;
115     case 2:
116         src_x = 0;
117         for (x = 0; x < width; x++) {
118             int j2 = 2 * (x & 3);
119             j = (x & 7);
120             if ((dsp_mask << j) & 0x80) {
121                 b = (src[src_x >> 2] >> (6 - 2*(src_x & 3))) & 3;
122                 dst[x >> 2] &= 0xFF3F>>j2;
123                 dst[x >> 2] |= b << (6 - j2);
124             }
125             if ((mask << j) & 0x80)
126                 src_x++;
127         }
128         break;
129     case 4:
130         src_x = 0;
131         for (x = 0; x < width; x++) {
132             int j2 = 4*(x&1);
133             j = (x & 7);
134             if ((dsp_mask << j) & 0x80) {
135                 b = (src[src_x >> 1] >> (4 - 4*(src_x & 1))) & 15;
136                 dst[x >> 1] &= 0xFF0F>>j2;
137                 dst[x >> 1] |= b << (4 - j2);
138             }
139             if ((mask << j) & 0x80)
140                 src_x++;
141         }
142         break;
143     default:
144         bpp = bits_per_pixel >> 3;
145         d   = dst;
146         s   = src;
147             for (x = 0; x < width; x++) {
148                 j = x & 7;
149                 if ((dsp_mask << j) & 0x80) {
150                     memcpy(d, s, bpp);
151                 }
152                 d += bpp;
153                 if ((mask << j) & 0x80)
154                     s += bpp;
155             }
156         break;
157     }
158 }
159
160 void ff_add_png_paeth_prediction(uint8_t *dst, uint8_t *src, uint8_t *top, int w, int bpp)
161 {
162     int i;
163     for (i = 0; i < w; i++) {
164         int a, b, c, p, pa, pb, pc;
165
166         a = dst[i - bpp];
167         b = top[i];
168         c = top[i - bpp];
169
170         p  = b - c;
171         pc = a - c;
172
173         pa = abs(p);
174         pb = abs(pc);
175         pc = abs(p + pc);
176
177         if (pa <= pb && pa <= pc)
178             p = a;
179         else if (pb <= pc)
180             p = b;
181         else
182             p = c;
183         dst[i] = p + src[i];
184     }
185 }
186
187 #define UNROLL1(bpp, op) {\
188                  r = dst[0];\
189     if(bpp >= 2) g = dst[1];\
190     if(bpp >= 3) b = dst[2];\
191     if(bpp >= 4) a = dst[3];\
192     for(; i <= size - bpp; i+=bpp) {\
193         dst[i+0] = r = op(r, src[i+0], last[i+0]);\
194         if(bpp == 1) continue;\
195         dst[i+1] = g = op(g, src[i+1], last[i+1]);\
196         if(bpp == 2) continue;\
197         dst[i+2] = b = op(b, src[i+2], last[i+2]);\
198         if(bpp == 3) continue;\
199         dst[i+3] = a = op(a, src[i+3], last[i+3]);\
200     }\
201 }
202
203 #define UNROLL_FILTER(op)\
204          if(bpp == 1) UNROLL1(1, op)\
205     else if(bpp == 2) UNROLL1(2, op)\
206     else if(bpp == 3) UNROLL1(3, op)\
207     else if(bpp == 4) UNROLL1(4, op)\
208     for (; i < size; i++) {\
209         dst[i] = op(dst[i-bpp], src[i], last[i]);\
210     }\
211
212 /* NOTE: 'dst' can be equal to 'last' */
213 static void png_filter_row(PNGDSPContext *dsp, uint8_t *dst, int filter_type,
214                            uint8_t *src, uint8_t *last, int size, int bpp)
215 {
216     int i, p, r, g, b, a;
217
218     switch (filter_type) {
219     case PNG_FILTER_VALUE_NONE:
220         memcpy(dst, src, size);
221         break;
222     case PNG_FILTER_VALUE_SUB:
223         for (i = 0; i < bpp; i++) {
224             dst[i] = src[i];
225         }
226         if (bpp == 4) {
227             p = *(int*)dst;
228             for (; i < size; i += bpp) {
229                 int s = *(int*)(src + i);
230                 p = ((s & 0x7f7f7f7f) + (p & 0x7f7f7f7f)) ^ ((s ^ p) & 0x80808080);
231                 *(int*)(dst + i) = p;
232             }
233         } else {
234 #define OP_SUB(x,s,l) x+s
235             UNROLL_FILTER(OP_SUB);
236         }
237         break;
238     case PNG_FILTER_VALUE_UP:
239         dsp->add_bytes_l2(dst, src, last, size);
240         break;
241     case PNG_FILTER_VALUE_AVG:
242         for (i = 0; i < bpp; i++) {
243             p = (last[i] >> 1);
244             dst[i] = p + src[i];
245         }
246 #define OP_AVG(x,s,l) (((x + l) >> 1) + s) & 0xff
247         UNROLL_FILTER(OP_AVG);
248         break;
249     case PNG_FILTER_VALUE_PAETH:
250         for (i = 0; i < bpp; i++) {
251             p = last[i];
252             dst[i] = p + src[i];
253         }
254         if (bpp > 2 && size > 4) {
255             // would write off the end of the array if we let it process the last pixel with bpp=3
256             int w = bpp == 4 ? size : size - 3;
257             dsp->add_paeth_prediction(dst + i, src + i, last + i, w - i, bpp);
258             i = w;
259         }
260         ff_add_png_paeth_prediction(dst + i, src + i, last + i, size - i, bpp);
261         break;
262     }
263 }
264
265 /* This used to be called "deloco" in FFmpeg
266  * and is actually an inverse reversible colorspace transformation */
267 #define YUV2RGB(NAME, TYPE) \
268 static void deloco_ ## NAME(TYPE *dst, int size, int alpha) \
269 { \
270     int i; \
271     for (i = 0; i < size; i += 3 + alpha) { \
272         int g = dst [i+1]; \
273         dst[i+0] += g; \
274         dst[i+2] += g; \
275     } \
276 }
277
278 YUV2RGB(rgb8, uint8_t)
279 YUV2RGB(rgb16, uint16_t)
280
281 /* process exactly one decompressed row */
282 static void png_handle_row(PNGDecContext *s)
283 {
284     uint8_t *ptr, *last_row;
285     int got_line;
286
287     if (!s->interlace_type) {
288         ptr = s->image_buf + s->image_linesize * s->y;
289             if (s->y == 0)
290                 last_row = s->last_row;
291             else
292                 last_row = ptr - s->image_linesize;
293
294             png_filter_row(&s->dsp, ptr, s->crow_buf[0], s->crow_buf + 1,
295                            last_row, s->row_size, s->bpp);
296         /* loco lags by 1 row so that it doesn't interfere with top prediction */
297         if (s->filter_type == PNG_FILTER_TYPE_LOCO && s->y > 0) {
298             if (s->bit_depth == 16) {
299                 deloco_rgb16((uint16_t *)(ptr - s->image_linesize), s->row_size / 2,
300                              s->color_type == PNG_COLOR_TYPE_RGB_ALPHA);
301             } else {
302                 deloco_rgb8(ptr - s->image_linesize, s->row_size,
303                             s->color_type == PNG_COLOR_TYPE_RGB_ALPHA);
304             }
305         }
306         s->y++;
307         if (s->y == s->height) {
308             s->state |= PNG_ALLIMAGE;
309             if (s->filter_type == PNG_FILTER_TYPE_LOCO) {
310                 if (s->bit_depth == 16) {
311                     deloco_rgb16((uint16_t *)ptr, s->row_size / 2,
312                                  s->color_type == PNG_COLOR_TYPE_RGB_ALPHA);
313                 } else {
314                     deloco_rgb8(ptr, s->row_size,
315                                 s->color_type == PNG_COLOR_TYPE_RGB_ALPHA);
316                 }
317             }
318         }
319     } else {
320         got_line = 0;
321         for (;;) {
322             ptr = s->image_buf + s->image_linesize * s->y;
323             if ((ff_png_pass_ymask[s->pass] << (s->y & 7)) & 0x80) {
324                 /* if we already read one row, it is time to stop to
325                    wait for the next one */
326                 if (got_line)
327                     break;
328                 png_filter_row(&s->dsp, s->tmp_row, s->crow_buf[0], s->crow_buf + 1,
329                                s->last_row, s->pass_row_size, s->bpp);
330                 FFSWAP(uint8_t*, s->last_row, s->tmp_row);
331                 FFSWAP(unsigned int, s->last_row_size, s->tmp_row_size);
332                 got_line = 1;
333             }
334             if ((png_pass_dsp_ymask[s->pass] << (s->y & 7)) & 0x80) {
335                 png_put_interlaced_row(ptr, s->width, s->bits_per_pixel, s->pass,
336                                        s->color_type, s->last_row);
337             }
338             s->y++;
339             if (s->y == s->height) {
340                 memset(s->last_row, 0, s->row_size);
341                 for (;;) {
342                     if (s->pass == NB_PASSES - 1) {
343                         s->state |= PNG_ALLIMAGE;
344                         goto the_end;
345                     } else {
346                         s->pass++;
347                         s->y = 0;
348                         s->pass_row_size = ff_png_pass_row_size(s->pass,
349                                                              s->bits_per_pixel,
350                                                              s->width);
351                         s->crow_size = s->pass_row_size + 1;
352                         if (s->pass_row_size != 0)
353                             break;
354                         /* skip pass if empty row */
355                     }
356                 }
357             }
358         }
359     the_end: ;
360     }
361 }
362
363 static int png_decode_idat(PNGDecContext *s, int length)
364 {
365     int ret;
366     s->zstream.avail_in = FFMIN(length, bytestream2_get_bytes_left(&s->gb));
367     s->zstream.next_in  = (unsigned char *)s->gb.buffer;
368     bytestream2_skip(&s->gb, length);
369
370     /* decode one line if possible */
371     while (s->zstream.avail_in > 0) {
372         ret = inflate(&s->zstream, Z_PARTIAL_FLUSH);
373         if (ret != Z_OK && ret != Z_STREAM_END) {
374             av_log(s->avctx, AV_LOG_ERROR, "inflate returned error %d\n", ret);
375             return AVERROR_EXTERNAL;
376         }
377         if (s->zstream.avail_out == 0) {
378             if (!(s->state & PNG_ALLIMAGE)) {
379                 png_handle_row(s);
380             }
381             s->zstream.avail_out = s->crow_size;
382             s->zstream.next_out  = s->crow_buf;
383         }
384         if (ret == Z_STREAM_END)
385             break;
386     }
387     return 0;
388 }
389
390 static int decode_zbuf(AVBPrint *bp, const uint8_t *data,
391                        const uint8_t *data_end)
392 {
393     z_stream zstream;
394     unsigned char *buf;
395     unsigned buf_size;
396     int ret;
397
398     zstream.zalloc = ff_png_zalloc;
399     zstream.zfree  = ff_png_zfree;
400     zstream.opaque = NULL;
401     if (inflateInit(&zstream) != Z_OK)
402         return AVERROR_EXTERNAL;
403     zstream.next_in  = (unsigned char *)data;
404     zstream.avail_in = data_end - data;
405     av_bprint_init(bp, 0, -1);
406
407     while (zstream.avail_in > 0) {
408         av_bprint_get_buffer(bp, 1, &buf, &buf_size);
409         if (!buf_size) {
410             ret = AVERROR(ENOMEM);
411             goto fail;
412         }
413         zstream.next_out  = buf;
414         zstream.avail_out = buf_size;
415         ret = inflate(&zstream, Z_PARTIAL_FLUSH);
416         if (ret != Z_OK && ret != Z_STREAM_END) {
417             ret = AVERROR_EXTERNAL;
418             goto fail;
419         }
420         bp->len += zstream.next_out - buf;
421         if (ret == Z_STREAM_END)
422             break;
423     }
424     inflateEnd(&zstream);
425     bp->str[bp->len] = 0;
426     return 0;
427
428 fail:
429     inflateEnd(&zstream);
430     av_bprint_finalize(bp, NULL);
431     return ret;
432 }
433
434 static uint8_t *iso88591_to_utf8(const uint8_t *in, size_t size_in)
435 {
436     size_t extra = 0, i;
437     uint8_t *out, *q;
438
439     for (i = 0; i < size_in; i++)
440         extra += in[i] >= 0x80;
441     if (size_in == SIZE_MAX || extra > SIZE_MAX - size_in - 1)
442         return NULL;
443     q = out = av_malloc(size_in + extra + 1);
444     if (!out)
445         return NULL;
446     for (i = 0; i < size_in; i++) {
447         if (in[i] >= 0x80) {
448             *(q++) = 0xC0 | (in[i] >> 6);
449             *(q++) = 0x80 | (in[i] & 0x3F);
450         } else {
451             *(q++) = in[i];
452         }
453     }
454     *(q++) = 0;
455     return out;
456 }
457
458 static int decode_text_chunk(PNGDecContext *s, uint32_t length, int compressed,
459                              AVDictionary **dict)
460 {
461     int ret, method;
462     const uint8_t *data        = s->gb.buffer;
463     const uint8_t *data_end    = data + length;
464     const uint8_t *keyword     = data;
465     const uint8_t *keyword_end = memchr(keyword, 0, data_end - keyword);
466     uint8_t *kw_utf8 = NULL, *text, *txt_utf8 = NULL;
467     unsigned text_len;
468     AVBPrint bp;
469
470     if (!keyword_end)
471         return AVERROR_INVALIDDATA;
472     data = keyword_end + 1;
473
474     if (compressed) {
475         if (data == data_end)
476             return AVERROR_INVALIDDATA;
477         method = *(data++);
478         if (method)
479             return AVERROR_INVALIDDATA;
480         if ((ret = decode_zbuf(&bp, data, data_end)) < 0)
481             return ret;
482         text_len = bp.len;
483         av_bprint_finalize(&bp, (char **)&text);
484         if (!text)
485             return AVERROR(ENOMEM);
486     } else {
487         text = (uint8_t *)data;
488         text_len = data_end - text;
489     }
490
491     kw_utf8  = iso88591_to_utf8(keyword, keyword_end - keyword);
492     txt_utf8 = iso88591_to_utf8(text, text_len);
493     if (text != data)
494         av_free(text);
495     if (!(kw_utf8 && txt_utf8)) {
496         av_free(kw_utf8);
497         av_free(txt_utf8);
498         return AVERROR(ENOMEM);
499     }
500
501     av_dict_set(dict, kw_utf8, txt_utf8,
502                 AV_DICT_DONT_STRDUP_KEY | AV_DICT_DONT_STRDUP_VAL);
503     return 0;
504 }
505
506 static int decode_frame(AVCodecContext *avctx,
507                         void *data, int *got_frame,
508                         AVPacket *avpkt)
509 {
510     PNGDecContext * const s = avctx->priv_data;
511     const uint8_t *buf      = avpkt->data;
512     int buf_size            = avpkt->size;
513     AVFrame *p;
514     AVDictionary *metadata  = NULL;
515     uint32_t tag, length;
516     int64_t sig;
517     int ret;
518
519     ff_thread_release_buffer(avctx, &s->last_picture);
520     FFSWAP(ThreadFrame, s->picture, s->last_picture);
521     p = s->picture.f;
522
523     bytestream2_init(&s->gb, buf, buf_size);
524
525     /* check signature */
526     sig = bytestream2_get_be64(&s->gb);
527     if (sig != PNGSIG &&
528         sig != MNGSIG) {
529         av_log(avctx, AV_LOG_ERROR, "Missing png signature\n");
530         return AVERROR_INVALIDDATA;
531     }
532
533     s->y = s->state = 0;
534
535     /* init the zlib */
536     s->zstream.zalloc = ff_png_zalloc;
537     s->zstream.zfree  = ff_png_zfree;
538     s->zstream.opaque = NULL;
539     ret = inflateInit(&s->zstream);
540     if (ret != Z_OK) {
541         av_log(avctx, AV_LOG_ERROR, "inflateInit returned error %d\n", ret);
542         return AVERROR_EXTERNAL;
543     }
544     for (;;) {
545         if (bytestream2_get_bytes_left(&s->gb) <= 0) {
546             av_log(avctx, AV_LOG_ERROR, "No bytes left\n");
547             goto fail;
548         }
549
550         length = bytestream2_get_be32(&s->gb);
551         if (length > 0x7fffffff || length > bytestream2_get_bytes_left(&s->gb))  {
552             av_log(avctx, AV_LOG_ERROR, "chunk too big\n");
553             goto fail;
554         }
555         tag = bytestream2_get_le32(&s->gb);
556         if (avctx->debug & FF_DEBUG_STARTCODE)
557             av_log(avctx, AV_LOG_DEBUG, "png: tag=%c%c%c%c length=%u\n",
558                 (tag & 0xff),
559                 ((tag >> 8) & 0xff),
560                 ((tag >> 16) & 0xff),
561                 ((tag >> 24) & 0xff), length);
562         switch (tag) {
563         case MKTAG('I', 'H', 'D', 'R'):
564             if (length != 13)
565                 goto fail;
566             s->width  = bytestream2_get_be32(&s->gb);
567             s->height = bytestream2_get_be32(&s->gb);
568             if (av_image_check_size(s->width, s->height, 0, avctx)) {
569                 s->width = s->height = 0;
570                 av_log(avctx, AV_LOG_ERROR, "Invalid image size\n");
571                 goto fail;
572             }
573             s->bit_depth        = bytestream2_get_byte(&s->gb);
574             s->color_type       = bytestream2_get_byte(&s->gb);
575             s->compression_type = bytestream2_get_byte(&s->gb);
576             s->filter_type      = bytestream2_get_byte(&s->gb);
577             s->interlace_type   = bytestream2_get_byte(&s->gb);
578             bytestream2_skip(&s->gb, 4); /* crc */
579             s->state |= PNG_IHDR;
580             if (avctx->debug & FF_DEBUG_PICT_INFO)
581                 av_log(avctx, AV_LOG_DEBUG, "width=%d height=%d depth=%d color_type=%d "
582                     "compression_type=%d filter_type=%d interlace_type=%d\n",
583                     s->width, s->height, s->bit_depth, s->color_type,
584                     s->compression_type, s->filter_type, s->interlace_type);
585             break;
586         case MKTAG('p', 'H', 'Y', 's'):
587             if (s->state & PNG_IDAT) {
588                 av_log(avctx, AV_LOG_ERROR, "pHYs after IDAT\n");
589                 goto fail;
590             }
591             avctx->sample_aspect_ratio.num = bytestream2_get_be32(&s->gb);
592             avctx->sample_aspect_ratio.den = bytestream2_get_be32(&s->gb);
593             if (avctx->sample_aspect_ratio.num < 0 || avctx->sample_aspect_ratio.den < 0)
594                 avctx->sample_aspect_ratio = (AVRational){ 0, 1 };
595             bytestream2_skip(&s->gb, 1); /* unit specifier */
596             bytestream2_skip(&s->gb, 4); /* crc */
597             break;
598         case MKTAG('I', 'D', 'A', 'T'):
599             if (!(s->state & PNG_IHDR)) {
600                 av_log(avctx, AV_LOG_ERROR, "IDAT without IHDR\n");
601                 goto fail;
602             }
603             if (!(s->state & PNG_IDAT)) {
604                 /* init image info */
605                 avctx->width  = s->width;
606                 avctx->height = s->height;
607
608                 s->channels       = ff_png_get_nb_channels(s->color_type);
609                 s->bits_per_pixel = s->bit_depth * s->channels;
610                 s->bpp            = (s->bits_per_pixel + 7) >> 3;
611                 s->row_size       = (avctx->width * s->bits_per_pixel + 7) >> 3;
612
613                 if ((s->bit_depth == 2 || s->bit_depth == 4 || s->bit_depth == 8) &&
614                     s->color_type == PNG_COLOR_TYPE_RGB) {
615                     avctx->pix_fmt = AV_PIX_FMT_RGB24;
616                 } else if ((s->bit_depth == 2 || s->bit_depth == 4 || s->bit_depth == 8) &&
617                            s->color_type == PNG_COLOR_TYPE_RGB_ALPHA) {
618                     avctx->pix_fmt = AV_PIX_FMT_RGBA;
619                 } else if ((s->bit_depth == 2 || s->bit_depth == 4 || s->bit_depth == 8) &&
620                            s->color_type == PNG_COLOR_TYPE_GRAY) {
621                     avctx->pix_fmt = AV_PIX_FMT_GRAY8;
622                 } else if (s->bit_depth == 16 &&
623                            s->color_type == PNG_COLOR_TYPE_GRAY) {
624                     avctx->pix_fmt = AV_PIX_FMT_GRAY16BE;
625                 } else if (s->bit_depth == 16 &&
626                            s->color_type == PNG_COLOR_TYPE_RGB) {
627                     avctx->pix_fmt = AV_PIX_FMT_RGB48BE;
628                 } else if (s->bit_depth == 16 &&
629                            s->color_type == PNG_COLOR_TYPE_RGB_ALPHA) {
630                     avctx->pix_fmt = AV_PIX_FMT_RGBA64BE;
631                 } else if ((s->bits_per_pixel == 1 || s->bits_per_pixel == 2 || s->bits_per_pixel == 4 || s->bits_per_pixel == 8) &&
632                            s->color_type == PNG_COLOR_TYPE_PALETTE) {
633                     avctx->pix_fmt = AV_PIX_FMT_PAL8;
634                 } else if (s->bit_depth == 1) {
635                     avctx->pix_fmt = AV_PIX_FMT_MONOBLACK;
636                 } else if (s->bit_depth == 8 &&
637                            s->color_type == PNG_COLOR_TYPE_GRAY_ALPHA) {
638                     avctx->pix_fmt = AV_PIX_FMT_Y400A;
639                 } else {
640                     av_log(avctx, AV_LOG_ERROR, "unsupported bit depth %d "
641                                                 "and color type %d\n",
642                                                  s->bit_depth, s->color_type);
643                     goto fail;
644                 }
645
646                 if (ff_thread_get_buffer(avctx, &s->picture, AV_GET_BUFFER_FLAG_REF) < 0)
647                     goto fail;
648                 ff_thread_finish_setup(avctx);
649
650                 p->pict_type        = AV_PICTURE_TYPE_I;
651                 p->key_frame        = 1;
652                 p->interlaced_frame = !!s->interlace_type;
653
654                 /* compute the compressed row size */
655                 if (!s->interlace_type) {
656                     s->crow_size = s->row_size + 1;
657                 } else {
658                     s->pass = 0;
659                     s->pass_row_size = ff_png_pass_row_size(s->pass,
660                                                          s->bits_per_pixel,
661                                                          s->width);
662                     s->crow_size = s->pass_row_size + 1;
663                 }
664                 av_dlog(avctx, "row_size=%d crow_size =%d\n",
665                         s->row_size, s->crow_size);
666                 s->image_buf      = p->data[0];
667                 s->image_linesize = p->linesize[0];
668                 /* copy the palette if needed */
669                 if (avctx->pix_fmt == AV_PIX_FMT_PAL8)
670                     memcpy(p->data[1], s->palette, 256 * sizeof(uint32_t));
671                 /* empty row is used if differencing to the first row */
672                 av_fast_padded_mallocz(&s->last_row, &s->last_row_size, s->row_size);
673                 if (!s->last_row)
674                     goto fail;
675                 if (s->interlace_type ||
676                     s->color_type == PNG_COLOR_TYPE_RGB_ALPHA) {
677                     av_fast_padded_malloc(&s->tmp_row, &s->tmp_row_size, s->row_size);
678                     if (!s->tmp_row)
679                         goto fail;
680                 }
681                 /* compressed row */
682                 av_fast_padded_malloc(&s->buffer, &s->buffer_size, s->row_size + 16);
683                 if (!s->buffer)
684                     goto fail;
685
686                 /* we want crow_buf+1 to be 16-byte aligned */
687                 s->crow_buf          = s->buffer + 15;
688                 s->zstream.avail_out = s->crow_size;
689                 s->zstream.next_out  = s->crow_buf;
690             }
691             s->state |= PNG_IDAT;
692             if (png_decode_idat(s, length) < 0)
693                 goto fail;
694             bytestream2_skip(&s->gb, 4); /* crc */
695             break;
696         case MKTAG('P', 'L', 'T', 'E'):
697             {
698                 int n, i, r, g, b;
699
700                 if ((length % 3) != 0 || length > 256 * 3)
701                     goto skip_tag;
702                 /* read the palette */
703                 n = length / 3;
704                 for (i = 0; i < n; i++) {
705                     r = bytestream2_get_byte(&s->gb);
706                     g = bytestream2_get_byte(&s->gb);
707                     b = bytestream2_get_byte(&s->gb);
708                     s->palette[i] = (0xFFU << 24) | (r << 16) | (g << 8) | b;
709                 }
710                 for (; i < 256; i++) {
711                     s->palette[i] = (0xFFU << 24);
712                 }
713                 s->state |= PNG_PLTE;
714                 bytestream2_skip(&s->gb, 4); /* crc */
715             }
716             break;
717         case MKTAG('t', 'R', 'N', 'S'):
718             {
719                 int v, i;
720
721                 /* read the transparency. XXX: Only palette mode supported */
722                 if (s->color_type != PNG_COLOR_TYPE_PALETTE ||
723                     length > 256 ||
724                     !(s->state & PNG_PLTE))
725                     goto skip_tag;
726                 for (i = 0; i < length; i++) {
727                     v = bytestream2_get_byte(&s->gb);
728                     s->palette[i] = (s->palette[i] & 0x00ffffff) | (v << 24);
729                 }
730                 bytestream2_skip(&s->gb, 4); /* crc */
731             }
732             break;
733         case MKTAG('t', 'E', 'X', 't'):
734             if (decode_text_chunk(s, length, 0, &metadata) < 0)
735                 av_log(avctx, AV_LOG_WARNING, "Broken tEXt chunk\n");
736             bytestream2_skip(&s->gb, length + 4);
737             break;
738         case MKTAG('z', 'T', 'X', 't'):
739             if (decode_text_chunk(s, length, 1, &metadata) < 0)
740                 av_log(avctx, AV_LOG_WARNING, "Broken zTXt chunk\n");
741             bytestream2_skip(&s->gb, length + 4);
742             break;
743         case MKTAG('I', 'E', 'N', 'D'):
744             if (!(s->state & PNG_ALLIMAGE))
745                 av_log(avctx, AV_LOG_ERROR, "IEND without all image\n");
746             if (!(s->state & (PNG_ALLIMAGE|PNG_IDAT))) {
747                 goto fail;
748             }
749             bytestream2_skip(&s->gb, 4); /* crc */
750             goto exit_loop;
751         default:
752             /* skip tag */
753         skip_tag:
754             bytestream2_skip(&s->gb, length + 4);
755             break;
756         }
757     }
758  exit_loop:
759
760     if (s->bits_per_pixel == 1 && s->color_type == PNG_COLOR_TYPE_PALETTE){
761         int i, j, k;
762         uint8_t *pd = p->data[0];
763         for (j = 0; j < s->height; j++) {
764             i = s->width / 8;
765             for (k = 7; k >= 1; k--)
766                 if ((s->width&7) >= k)
767                     pd[8*i + k - 1] = (pd[i]>>8-k) & 1;
768             for (i--; i >= 0; i--) {
769                 pd[8*i + 7]=  pd[i]     & 1;
770                 pd[8*i + 6]= (pd[i]>>1) & 1;
771                 pd[8*i + 5]= (pd[i]>>2) & 1;
772                 pd[8*i + 4]= (pd[i]>>3) & 1;
773                 pd[8*i + 3]= (pd[i]>>4) & 1;
774                 pd[8*i + 2]= (pd[i]>>5) & 1;
775                 pd[8*i + 1]= (pd[i]>>6) & 1;
776                 pd[8*i + 0]=  pd[i]>>7;
777             }
778             pd += s->image_linesize;
779         }
780     }
781     if (s->bits_per_pixel == 2){
782         int i, j;
783         uint8_t *pd = p->data[0];
784         for (j = 0; j < s->height; j++) {
785             i = s->width / 4;
786             if (s->color_type == PNG_COLOR_TYPE_PALETTE){
787                 if ((s->width&3) >= 3) pd[4*i + 2]= (pd[i] >> 2) & 3;
788                 if ((s->width&3) >= 2) pd[4*i + 1]= (pd[i] >> 4) & 3;
789                 if ((s->width&3) >= 1) pd[4*i + 0]=  pd[i] >> 6;
790                 for (i--; i >= 0; i--) {
791                     pd[4*i + 3]=  pd[i]     & 3;
792                     pd[4*i + 2]= (pd[i]>>2) & 3;
793                     pd[4*i + 1]= (pd[i]>>4) & 3;
794                     pd[4*i + 0]=  pd[i]>>6;
795                 }
796             } else {
797                 if ((s->width&3) >= 3) pd[4*i + 2]= ((pd[i]>>2) & 3)*0x55;
798                 if ((s->width&3) >= 2) pd[4*i + 1]= ((pd[i]>>4) & 3)*0x55;
799                 if ((s->width&3) >= 1) pd[4*i + 0]= ( pd[i]>>6     )*0x55;
800                 for (i--; i >= 0; i--) {
801                     pd[4*i + 3]= ( pd[i]     & 3)*0x55;
802                     pd[4*i + 2]= ((pd[i]>>2) & 3)*0x55;
803                     pd[4*i + 1]= ((pd[i]>>4) & 3)*0x55;
804                     pd[4*i + 0]= ( pd[i]>>6     )*0x55;
805                 }
806             }
807             pd += s->image_linesize;
808         }
809     }
810     if (s->bits_per_pixel == 4){
811         int i, j;
812         uint8_t *pd = p->data[0];
813         for (j = 0; j < s->height; j++) {
814             i = s->width/2;
815             if (s->color_type == PNG_COLOR_TYPE_PALETTE){
816                 if (s->width&1) pd[2*i+0]= pd[i]>>4;
817                 for (i--; i >= 0; i--) {
818                 pd[2*i + 1] = pd[i] & 15;
819                 pd[2*i + 0] = pd[i] >> 4;
820             }
821             } else {
822                 if (s->width & 1) pd[2*i + 0]= (pd[i] >> 4) * 0x11;
823                 for (i--; i >= 0; i--) {
824                     pd[2*i + 1] = (pd[i] & 15) * 0x11;
825                     pd[2*i + 0] = (pd[i] >> 4) * 0x11;
826                 }
827             }
828             pd += s->image_linesize;
829         }
830     }
831
832      /* handle p-frames only if a predecessor frame is available */
833      if (s->last_picture.f->data[0]) {
834          if (   !(avpkt->flags & AV_PKT_FLAG_KEY) && avctx->codec_tag != AV_RL32("MPNG")
835             && s->last_picture.f->width == p->width
836             && s->last_picture.f->height== p->height
837             && s->last_picture.f->format== p->format
838          ) {
839             int i, j;
840             uint8_t *pd      = p->data[0];
841             uint8_t *pd_last = s->last_picture.f->data[0];
842
843             ff_thread_await_progress(&s->last_picture, INT_MAX, 0);
844             for (j = 0; j < s->height; j++) {
845                 for (i = 0; i < s->width * s->bpp; i++) {
846                     pd[i] += pd_last[i];
847                 }
848                 pd      += s->image_linesize;
849                 pd_last += s->image_linesize;
850             }
851         }
852     }
853     ff_thread_report_progress(&s->picture, INT_MAX, 0);
854
855     av_frame_set_metadata(p, metadata);
856     metadata   = NULL;
857
858     if ((ret = av_frame_ref(data, s->picture.f)) < 0)
859         return ret;
860
861     *got_frame = 1;
862
863     ret = bytestream2_tell(&s->gb);
864  the_end:
865     inflateEnd(&s->zstream);
866     s->crow_buf = NULL;
867     return ret;
868  fail:
869     av_dict_free(&metadata);
870     ff_thread_report_progress(&s->picture, INT_MAX, 0);
871     ret = AVERROR_INVALIDDATA;
872     goto the_end;
873 }
874
875 static int update_thread_context(AVCodecContext *dst, const AVCodecContext *src)
876 {
877     PNGDecContext *psrc = src->priv_data;
878     PNGDecContext *pdst = dst->priv_data;
879
880     if (dst == src)
881         return 0;
882
883     ff_thread_release_buffer(dst, &pdst->picture);
884     if (psrc->picture.f->data[0])
885         return ff_thread_ref_frame(&pdst->picture, &psrc->picture);
886
887     return 0;
888 }
889
890 static av_cold int png_dec_init(AVCodecContext *avctx)
891 {
892     PNGDecContext *s = avctx->priv_data;
893
894     s->avctx = avctx;
895     s->last_picture.f = av_frame_alloc();
896     s->picture.f = av_frame_alloc();
897     if (!s->last_picture.f || !s->picture.f)
898         return AVERROR(ENOMEM);
899
900     if (!avctx->internal->is_copy) {
901         avctx->internal->allocate_progress = 1;
902         ff_pngdsp_init(&s->dsp);
903     }
904
905     return 0;
906 }
907
908 static av_cold int png_dec_end(AVCodecContext *avctx)
909 {
910     PNGDecContext *s = avctx->priv_data;
911
912     ff_thread_release_buffer(avctx, &s->last_picture);
913     av_frame_free(&s->last_picture.f);
914     ff_thread_release_buffer(avctx, &s->picture);
915     av_frame_free(&s->picture.f);
916     av_freep(&s->buffer);
917     s->buffer_size = 0;
918     av_freep(&s->last_row);
919     s->last_row_size = 0;
920     av_freep(&s->tmp_row);
921     s->tmp_row_size = 0;
922
923     return 0;
924 }
925
926 AVCodec ff_png_decoder = {
927     .name           = "png",
928     .type           = AVMEDIA_TYPE_VIDEO,
929     .id             = AV_CODEC_ID_PNG,
930     .priv_data_size = sizeof(PNGDecContext),
931     .init           = png_dec_init,
932     .close          = png_dec_end,
933     .decode         = decode_frame,
934     .init_thread_copy = ONLY_IF_THREADS_ENABLED(png_dec_init),
935     .update_thread_context = ONLY_IF_THREADS_ENABLED(update_thread_context),
936     .capabilities   = CODEC_CAP_DR1 | CODEC_CAP_FRAME_THREADS /*| CODEC_CAP_DRAW_HORIZ_BAND*/,
937     .long_name      = NULL_IF_CONFIG_SMALL("PNG (Portable Network Graphics) image"),
938 };