Merge commit '36ef5369ee9b336febc2c270f8718cec4476cb85'
[ffmpeg.git] / libavcodec / tiff.c
1 /*
2  * Copyright (c) 2006 Konstantin Shishkov
3  *
4  * This file is part of FFmpeg.
5  *
6  * FFmpeg is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * FFmpeg is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with FFmpeg; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 /**
22  * @file
23  * TIFF image decoder
24  * @author Konstantin Shishkov
25  */
26
27 #include "avcodec.h"
28 #include "bytestream.h"
29 #if CONFIG_ZLIB
30 #include <zlib.h>
31 #endif
32 #include "lzw.h"
33 #include "tiff.h"
34 #include "tiff_data.h"
35 #include "faxcompr.h"
36 #include "libavutil/common.h"
37 #include "libavutil/intreadwrite.h"
38 #include "libavutil/imgutils.h"
39 #include "libavutil/avstring.h"
40
41 typedef struct TiffContext {
42     AVCodecContext *avctx;
43     AVFrame picture;
44     GetByteContext gb;
45
46     int width, height;
47     unsigned int bpp, bppcount;
48     uint32_t palette[256];
49     int palette_is_set;
50     int le;
51     enum TiffCompr compr;
52     int invert;
53     int fax_opts;
54     int predictor;
55     int fill_order;
56
57     int strips, rps, sstype;
58     int sot;
59     int stripsizesoff, stripsize, stripoff, strippos;
60     LZWState *lzw;
61
62     int geotag_count;
63     TiffGeoTag *geotags;
64 } TiffContext;
65
66 static unsigned tget_short(GetByteContext *gb, int le)
67 {
68     unsigned v = le ? bytestream2_get_le16u(gb) : bytestream2_get_be16u(gb);
69     return v;
70 }
71
72 static unsigned tget_long(GetByteContext *gb, int le)
73 {
74     unsigned v = le ? bytestream2_get_le32u(gb) : bytestream2_get_be32u(gb);
75     return v;
76 }
77
78 static double tget_double(GetByteContext *gb, int le)
79 {
80     av_alias64 i = { .u64 = le ? bytestream2_get_le64u(gb) : bytestream2_get_be64u(gb)};
81     return i.f64;
82 }
83
84 static unsigned tget(GetByteContext *gb, int type, int le)
85 {
86     switch (type) {
87     case TIFF_BYTE : return bytestream2_get_byteu(gb);
88     case TIFF_SHORT: return tget_short(gb, le);
89     case TIFF_LONG : return tget_long(gb, le);
90     default        : return UINT_MAX;
91     }
92 }
93
94 static void free_geotags(TiffContext *const s)
95 {
96     int i;
97     for (i = 0; i < s->geotag_count; i++) {
98         if (s->geotags[i].val)
99             av_freep(&s->geotags[i].val);
100     }
101     av_freep(&s->geotags);
102 }
103
104 #define RET_GEOKEY(TYPE, array, element)\
105     if (key >= TIFF_##TYPE##_KEY_ID_OFFSET &&\
106         key - TIFF_##TYPE##_KEY_ID_OFFSET < FF_ARRAY_ELEMS(ff_tiff_##array##_name_type_map))\
107         return ff_tiff_##array##_name_type_map[key - TIFF_##TYPE##_KEY_ID_OFFSET].element;
108
109 static const char *get_geokey_name(int key)
110 {
111     RET_GEOKEY(VERT, vert, name);
112     RET_GEOKEY(PROJ, proj, name);
113     RET_GEOKEY(GEOG, geog, name);
114     RET_GEOKEY(CONF, conf, name);
115
116     return NULL;
117 }
118
119 static int get_geokey_type(int key)
120 {
121     RET_GEOKEY(VERT, vert, type);
122     RET_GEOKEY(PROJ, proj, type);
123     RET_GEOKEY(GEOG, geog, type);
124     RET_GEOKEY(CONF, conf, type);
125
126     return AVERROR_INVALIDDATA;
127 }
128
129 static int cmp_id_key(const void *id, const void *k)
130 {
131     return *(const int*)id - ((const TiffGeoTagKeyName*)k)->key;
132 }
133
134 static const char *search_keyval(const TiffGeoTagKeyName *keys, int n, int id)
135 {
136     return ((TiffGeoTagKeyName*)bsearch(&id, keys, n, sizeof(keys[0]), cmp_id_key))->name;
137 }
138
139 static char *get_geokey_val(int key, int val)
140 {
141     char *ap;
142
143     if (val == TIFF_GEO_KEY_UNDEFINED)
144         return av_strdup("undefined");
145     if (val == TIFF_GEO_KEY_USER_DEFINED)
146         return av_strdup("User-Defined");
147
148 #define RET_GEOKEY_VAL(TYPE, array)\
149     if (val >= TIFF_##TYPE##_OFFSET &&\
150         val - TIFF_##TYPE##_OFFSET < FF_ARRAY_ELEMS(ff_tiff_##array##_codes))\
151         return av_strdup(ff_tiff_##array##_codes[val - TIFF_##TYPE##_OFFSET]);
152
153     switch (key) {
154     case TIFF_GT_MODEL_TYPE_GEOKEY:
155         RET_GEOKEY_VAL(GT_MODEL_TYPE, gt_model_type);
156         break;
157     case TIFF_GT_RASTER_TYPE_GEOKEY:
158         RET_GEOKEY_VAL(GT_RASTER_TYPE, gt_raster_type);
159         break;
160     case TIFF_GEOG_LINEAR_UNITS_GEOKEY:
161     case TIFF_PROJ_LINEAR_UNITS_GEOKEY:
162     case TIFF_VERTICAL_UNITS_GEOKEY:
163         RET_GEOKEY_VAL(LINEAR_UNIT, linear_unit);
164         break;
165     case TIFF_GEOG_ANGULAR_UNITS_GEOKEY:
166     case TIFF_GEOG_AZIMUTH_UNITS_GEOKEY:
167         RET_GEOKEY_VAL(ANGULAR_UNIT, angular_unit);
168         break;
169     case TIFF_GEOGRAPHIC_TYPE_GEOKEY:
170         RET_GEOKEY_VAL(GCS_TYPE, gcs_type);
171         RET_GEOKEY_VAL(GCSE_TYPE, gcse_type);
172         break;
173     case TIFF_GEOG_GEODETIC_DATUM_GEOKEY:
174         RET_GEOKEY_VAL(GEODETIC_DATUM, geodetic_datum);
175         RET_GEOKEY_VAL(GEODETIC_DATUM_E, geodetic_datum_e);
176         break;
177     case TIFF_GEOG_ELLIPSOID_GEOKEY:
178         RET_GEOKEY_VAL(ELLIPSOID, ellipsoid);
179         break;
180     case TIFF_GEOG_PRIME_MERIDIAN_GEOKEY:
181         RET_GEOKEY_VAL(PRIME_MERIDIAN, prime_meridian);
182         break;
183     case TIFF_PROJECTED_CS_TYPE_GEOKEY:
184         return av_strdup(search_keyval(ff_tiff_proj_cs_type_codes, FF_ARRAY_ELEMS(ff_tiff_proj_cs_type_codes), val));
185         break;
186     case TIFF_PROJECTION_GEOKEY:
187         return av_strdup(search_keyval(ff_tiff_projection_codes, FF_ARRAY_ELEMS(ff_tiff_projection_codes), val));
188         break;
189     case TIFF_PROJ_COORD_TRANS_GEOKEY:
190         RET_GEOKEY_VAL(COORD_TRANS, coord_trans);
191         break;
192     case TIFF_VERTICAL_CS_TYPE_GEOKEY:
193         RET_GEOKEY_VAL(VERT_CS, vert_cs);
194         RET_GEOKEY_VAL(ORTHO_VERT_CS, ortho_vert_cs);
195         break;
196
197     }
198
199     ap = av_malloc(14);
200     if (ap)
201         snprintf(ap, 14, "Unknown-%d", val);
202     return ap;
203 }
204
205 static char *doubles2str(double *dp, int count, const char *sep)
206 {
207     int i;
208     char *ap, *ap0;
209     if (!sep) sep = ", ";
210     ap = av_malloc((15 + strlen(sep)) * count);
211     if (!ap)
212         return NULL;
213     ap0   = ap;
214     ap[0] = '\0';
215     for (i = 0; i < count; i++) {
216         int l = snprintf(ap, 15 + strlen(sep), "%f%s", dp[i], sep);
217         ap += l;
218     }
219     ap0[strlen(ap0) - strlen(sep)] = '\0';
220     return ap0;
221 }
222
223 static char *shorts2str(int16_t *sp, int count, const char *sep)
224 {
225     int i;
226     char *ap, *ap0;
227     if (!sep) sep = ", ";
228     ap = av_malloc((5 + strlen(sep)) * count);
229     if (!ap)
230         return NULL;
231     ap0   = ap;
232     ap[0] = '\0';
233     for (i = 0; i < count; i++) {
234         int l = snprintf(ap, 5 + strlen(sep), "%d%s", sp[i], sep);
235         ap += l;
236     }
237     ap0[strlen(ap0) - strlen(sep)] = '\0';
238     return ap0;
239 }
240
241 static int add_doubles_metadata(int count,
242                                 const char *name, const char *sep,
243                                 TiffContext *s)
244 {
245     char *ap;
246     int i;
247     double *dp;
248
249     if (count >= INT_MAX / sizeof(int64_t))
250         return AVERROR_INVALIDDATA;
251     if (bytestream2_get_bytes_left(&s->gb) < count * sizeof(int64_t))
252         return AVERROR_INVALIDDATA;
253
254     dp = av_malloc(count * sizeof(double));
255     if (!dp)
256         return AVERROR(ENOMEM);
257
258     for (i = 0; i < count; i++)
259         dp[i] = tget_double(&s->gb, s->le);
260     ap = doubles2str(dp, count, sep);
261     av_freep(&dp);
262     if (!ap)
263         return AVERROR(ENOMEM);
264     av_dict_set(&s->picture.metadata, name, ap, AV_DICT_DONT_STRDUP_VAL);
265     return 0;
266 }
267
268 static int add_shorts_metadata(int count, const char *name,
269                                const char *sep, TiffContext *s)
270 {
271     char *ap;
272     int i;
273     int16_t *sp;
274
275     if (count >= INT_MAX / sizeof(int16_t))
276         return AVERROR_INVALIDDATA;
277     if (bytestream2_get_bytes_left(&s->gb) < count * sizeof(int16_t))
278         return AVERROR_INVALIDDATA;
279
280     sp = av_malloc(count * sizeof(int16_t));
281     if (!sp)
282         return AVERROR(ENOMEM);
283
284     for (i = 0; i < count; i++)
285         sp[i] = tget_short(&s->gb, s->le);
286     ap = shorts2str(sp, count, sep);
287     av_freep(&sp);
288     if (!ap)
289         return AVERROR(ENOMEM);
290     av_dict_set(&s->picture.metadata, name, ap, AV_DICT_DONT_STRDUP_VAL);
291     return 0;
292 }
293
294 static int add_string_metadata(int count, const char *name,
295                                TiffContext *s)
296 {
297     char *value;
298
299     if (bytestream2_get_bytes_left(&s->gb) < count)
300         return AVERROR_INVALIDDATA;
301
302     value = av_malloc(count + 1);
303     if (!value)
304         return AVERROR(ENOMEM);
305
306     bytestream2_get_bufferu(&s->gb, value, count);
307     value[count] = 0;
308
309     av_dict_set(&s->picture.metadata, name, value, AV_DICT_DONT_STRDUP_VAL);
310     return 0;
311 }
312
313 static int add_metadata(int count, int type,
314                         const char *name, const char *sep, TiffContext *s)
315 {
316     switch(type) {
317     case TIFF_DOUBLE: return add_doubles_metadata(count, name, sep, s);
318     case TIFF_SHORT : return add_shorts_metadata(count, name, sep, s);
319     case TIFF_STRING: return add_string_metadata(count, name, s);
320     default         : return AVERROR_INVALIDDATA;
321     };
322 }
323
324 #if CONFIG_ZLIB
325 static int tiff_uncompress(uint8_t *dst, unsigned long *len, const uint8_t *src,
326                            int size)
327 {
328     z_stream zstream = { 0 };
329     int zret;
330
331     zstream.next_in = src;
332     zstream.avail_in = size;
333     zstream.next_out = dst;
334     zstream.avail_out = *len;
335     zret = inflateInit(&zstream);
336     if (zret != Z_OK) {
337         av_log(NULL, AV_LOG_ERROR, "Inflate init error: %d\n", zret);
338         return zret;
339     }
340     zret = inflate(&zstream, Z_SYNC_FLUSH);
341     inflateEnd(&zstream);
342     *len = zstream.total_out;
343     return zret == Z_STREAM_END ? Z_OK : zret;
344 }
345 #endif
346
347 static void av_always_inline horizontal_fill(unsigned int bpp, uint8_t* dst,
348                                              int usePtr, const uint8_t *src,
349                                              uint8_t c, int width, int offset)
350 {
351     switch (bpp) {
352     case 1:
353         while (--width >= 0) {
354             dst[(width+offset)*8+7] = (usePtr ? src[width] : c)      & 0x1;
355             dst[(width+offset)*8+6] = (usePtr ? src[width] : c) >> 1 & 0x1;
356             dst[(width+offset)*8+5] = (usePtr ? src[width] : c) >> 2 & 0x1;
357             dst[(width+offset)*8+4] = (usePtr ? src[width] : c) >> 3 & 0x1;
358             dst[(width+offset)*8+3] = (usePtr ? src[width] : c) >> 4 & 0x1;
359             dst[(width+offset)*8+2] = (usePtr ? src[width] : c) >> 5 & 0x1;
360             dst[(width+offset)*8+1] = (usePtr ? src[width] : c) >> 6 & 0x1;
361             dst[(width+offset)*8+0] = (usePtr ? src[width] : c) >> 7;
362         }
363         break;
364     case 2:
365         while (--width >= 0) {
366             dst[(width+offset)*4+3] = (usePtr ? src[width] : c) & 0x3;
367             dst[(width+offset)*4+2] = (usePtr ? src[width] : c) >> 2 & 0x3;
368             dst[(width+offset)*4+1] = (usePtr ? src[width] : c) >> 4 & 0x3;
369             dst[(width+offset)*4+0] = (usePtr ? src[width] : c) >> 6;
370         }
371         break;
372     case 4:
373         while (--width >= 0) {
374             dst[(width+offset)*2+1] = (usePtr ? src[width] : c) & 0xF;
375             dst[(width+offset)*2+0] = (usePtr ? src[width] : c) >> 4;
376         }
377         break;
378     default:
379         if (usePtr) {
380             memcpy(dst + offset, src, width);
381         } else {
382             memset(dst + offset, c, width);
383         }
384     }
385 }
386
387 static int tiff_unpack_strip(TiffContext *s, uint8_t *dst, int stride,
388                              const uint8_t *src, int size, int lines)
389 {
390     int c, line, pixels, code;
391     const uint8_t *ssrc = src;
392     int width = ((s->width * s->bpp) + 7) >> 3;
393
394     if (size <= 0)
395         return AVERROR_INVALIDDATA;
396
397 #if CONFIG_ZLIB
398     if (s->compr == TIFF_DEFLATE || s->compr == TIFF_ADOBE_DEFLATE) {
399         uint8_t *zbuf;
400         unsigned long outlen;
401         int ret;
402         outlen = width * lines;
403         zbuf = av_malloc(outlen);
404         if (!zbuf)
405             return AVERROR(ENOMEM);
406         ret = tiff_uncompress(zbuf, &outlen, src, size);
407         if (ret != Z_OK) {
408             av_log(s->avctx, AV_LOG_ERROR,
409                    "Uncompressing failed (%lu of %lu) with error %d\n", outlen,
410                    (unsigned long)width * lines, ret);
411             av_free(zbuf);
412             return -1;
413         }
414         src = zbuf;
415         for (line = 0; line < lines; line++) {
416             if(s->bpp < 8 && s->avctx->pix_fmt == PIX_FMT_PAL8){
417                 horizontal_fill(s->bpp, dst, 1, src, 0, width, 0);
418             }else{
419                 memcpy(dst, src, width);
420             }
421             dst += stride;
422             src += width;
423         }
424         av_free(zbuf);
425         return 0;
426     }
427 #endif
428     if (s->compr == TIFF_LZW) {
429         if (ff_lzw_decode_init(s->lzw, 8, src, size, FF_LZW_TIFF) < 0) {
430             av_log(s->avctx, AV_LOG_ERROR, "Error initializing LZW decoder\n");
431             return -1;
432         }
433     }
434     if (s->compr == TIFF_CCITT_RLE || s->compr == TIFF_G3
435         || s->compr == TIFF_G4) {
436         int i, ret = 0;
437         uint8_t *src2 = av_malloc((unsigned)size +
438                                   FF_INPUT_BUFFER_PADDING_SIZE);
439
440         if (!src2) {
441             av_log(s->avctx, AV_LOG_ERROR,
442                    "Error allocating temporary buffer\n");
443             return AVERROR(ENOMEM);
444         }
445         if (s->fax_opts & 2) {
446             av_log(s->avctx, AV_LOG_ERROR,
447                    "Uncompressed fax mode is not supported (yet)\n");
448             av_free(src2);
449             return -1;
450         }
451         if (!s->fill_order) {
452             memcpy(src2, src, size);
453         } else {
454             for (i = 0; i < size; i++)
455                 src2[i] = av_reverse[src[i]];
456         }
457         memset(src2 + size, 0, FF_INPUT_BUFFER_PADDING_SIZE);
458         switch (s->compr) {
459         case TIFF_CCITT_RLE:
460         case TIFF_G3:
461         case TIFF_G4:
462             ret = ff_ccitt_unpack(s->avctx, src2, size, dst, lines, stride,
463                                   s->compr, s->fax_opts);
464             break;
465         }
466         if (s->bpp < 8 && s->avctx->pix_fmt == PIX_FMT_PAL8)
467             for (line = 0; line < lines; line++) {
468                 horizontal_fill(s->bpp, dst, 1, dst, 0, width, 0);
469                 dst += stride;
470             }
471         av_free(src2);
472         return ret;
473     }
474     for (line = 0; line < lines; line++) {
475         if (src - ssrc > size) {
476             av_log(s->avctx, AV_LOG_ERROR, "Source data overread\n");
477             return -1;
478         }
479         switch (s->compr) {
480         case TIFF_RAW:
481             if (ssrc + size - src < width)
482                 return AVERROR_INVALIDDATA;
483             if (!s->fill_order) {
484                 horizontal_fill(s->bpp * (s->avctx->pix_fmt == PIX_FMT_PAL8),
485                                 dst, 1, src, 0, width, 0);
486             } else {
487                 int i;
488                 for (i = 0; i < width; i++)
489                     dst[i] = av_reverse[src[i]];
490             }
491             src += width;
492             break;
493         case TIFF_PACKBITS:
494             for (pixels = 0; pixels < width;) {
495                 if (ssrc + size - src < 2) {
496                     av_log(s->avctx, AV_LOG_ERROR, "Read went out of bounds\n");
497                     return AVERROR_INVALIDDATA;
498                 }
499                 code = (int8_t) * src++;
500                 if (code >= 0) {
501                     code++;
502                     if (pixels + code > width) {
503                         av_log(s->avctx, AV_LOG_ERROR,
504                                "Copy went out of bounds\n");
505                         return -1;
506                     }
507                     if (ssrc + size - src < code) {
508                         av_log(s->avctx, AV_LOG_ERROR, "Read went out of bounds\n");
509                         return AVERROR_INVALIDDATA;
510                     }
511                     horizontal_fill(s->bpp * (s->avctx->pix_fmt == PIX_FMT_PAL8),
512                                     dst, 1, src, 0, code, pixels);
513                     src += code;
514                     pixels += code;
515                 } else if (code != -128) { // -127..-1
516                     code = (-code) + 1;
517                     if (pixels + code > width) {
518                         av_log(s->avctx, AV_LOG_ERROR,
519                                "Run went out of bounds\n");
520                         return -1;
521                     }
522                     c = *src++;
523                     horizontal_fill(s->bpp * (s->avctx->pix_fmt == PIX_FMT_PAL8),
524                                     dst, 0, NULL, c, code, pixels);
525                     pixels += code;
526                 }
527             }
528             break;
529         case TIFF_LZW:
530             pixels = ff_lzw_decode(s->lzw, dst, width);
531             if (pixels < width) {
532                 av_log(s->avctx, AV_LOG_ERROR, "Decoded only %i bytes of %i\n",
533                        pixels, width);
534                 return -1;
535             }
536             if (s->bpp < 8 && s->avctx->pix_fmt == PIX_FMT_PAL8)
537                 horizontal_fill(s->bpp, dst, 1, dst, 0, width, 0);
538             break;
539         }
540         dst += stride;
541     }
542     return 0;
543 }
544
545 static int init_image(TiffContext *s)
546 {
547     int i, ret;
548     uint32_t *pal;
549
550     switch (s->bpp * 10 + s->bppcount) {
551     case 11:
552         if (!s->palette_is_set) {
553             s->avctx->pix_fmt = PIX_FMT_MONOBLACK;
554             break;
555         }
556     case 21:
557     case 41:
558     case 81:
559         s->avctx->pix_fmt = PIX_FMT_PAL8;
560         break;
561     case 243:
562         s->avctx->pix_fmt = PIX_FMT_RGB24;
563         break;
564     case 161:
565         s->avctx->pix_fmt = s->le ? PIX_FMT_GRAY16LE : PIX_FMT_GRAY16BE;
566         break;
567     case 162:
568         s->avctx->pix_fmt = PIX_FMT_GRAY8A;
569         break;
570     case 324:
571         s->avctx->pix_fmt = PIX_FMT_RGBA;
572         break;
573     case 483:
574         s->avctx->pix_fmt = s->le ? PIX_FMT_RGB48LE : PIX_FMT_RGB48BE;
575         break;
576     case 644:
577         s->avctx->pix_fmt = s->le ? PIX_FMT_RGBA64LE : PIX_FMT_RGBA64BE;
578         break;
579     default:
580         av_log(s->avctx, AV_LOG_ERROR,
581                "This format is not supported (bpp=%d, bppcount=%d)\n",
582                s->bpp, s->bppcount);
583         return AVERROR_INVALIDDATA;
584     }
585     if (s->width != s->avctx->width || s->height != s->avctx->height) {
586         if ((ret = av_image_check_size(s->width, s->height, 0, s->avctx)) < 0)
587             return ret;
588         avcodec_set_dimensions(s->avctx, s->width, s->height);
589     }
590     if (s->picture.data[0])
591         s->avctx->release_buffer(s->avctx, &s->picture);
592     if ((ret = s->avctx->get_buffer(s->avctx, &s->picture)) < 0) {
593         av_log(s->avctx, AV_LOG_ERROR, "get_buffer() failed\n");
594         return ret;
595     }
596     if (s->avctx->pix_fmt == PIX_FMT_PAL8) {
597         if (s->palette_is_set) {
598             memcpy(s->picture.data[1], s->palette, sizeof(s->palette));
599         } else {
600             /* make default grayscale pal */
601             pal = (uint32_t *) s->picture.data[1];
602             for (i = 0; i < 1<<s->bpp; i++)
603                 pal[i] = 0xFF << 24 | i * 255 / ((1<<s->bpp) - 1) * 0x010101;
604         }
605     }
606     return 0;
607 }
608
609 static int tiff_decode_tag(TiffContext *s)
610 {
611     unsigned tag, type, count, off, value = 0;
612     int i, j, k, pos, start;
613     int ret;
614     uint32_t *pal;
615     double *dp;
616
617     tag   = tget_short(&s->gb, s->le);
618     type  = tget_short(&s->gb, s->le);
619     count = tget_long(&s->gb, s->le);
620     off   = tget_long(&s->gb, s->le);
621     start = bytestream2_tell(&s->gb);
622
623     if (type == 0 || type >= FF_ARRAY_ELEMS(type_sizes)) {
624         av_log(s->avctx, AV_LOG_DEBUG, "Unknown tiff type (%u) encountered\n",
625                type);
626         return 0;
627     }
628
629     if (count == 1) {
630         switch (type) {
631         case TIFF_BYTE:
632         case TIFF_SHORT:
633             bytestream2_seek(&s->gb, -4, SEEK_CUR);
634             value = tget(&s->gb, type, s->le);
635             break;
636         case TIFF_LONG:
637             value = off;
638             break;
639         case TIFF_STRING:
640             if (count <= 4) {
641                 bytestream2_seek(&s->gb, -4, SEEK_CUR);
642                 break;
643             }
644         default:
645             value = UINT_MAX;
646             bytestream2_seek(&s->gb, off, SEEK_SET);
647         }
648     } else {
649         if (count <= 4 && type_sizes[type] * count <= 4) {
650             bytestream2_seek(&s->gb, -4, SEEK_CUR);
651         } else {
652             bytestream2_seek(&s->gb, off, SEEK_SET);
653         }
654     }
655
656     switch (tag) {
657     case TIFF_WIDTH:
658         s->width = value;
659         break;
660     case TIFF_HEIGHT:
661         s->height = value;
662         break;
663     case TIFF_BPP:
664         s->bppcount = count;
665         if (count > 4) {
666             av_log(s->avctx, AV_LOG_ERROR,
667                    "This format is not supported (bpp=%d, %d components)\n",
668                    s->bpp, count);
669             return -1;
670         }
671         if (count == 1)
672             s->bpp = value;
673         else {
674             switch (type) {
675             case TIFF_BYTE:
676                 s->bpp = (off & 0xFF) + ((off >> 8) & 0xFF) +
677                          ((off >> 16) & 0xFF) + ((off >> 24) & 0xFF);
678                 break;
679             case TIFF_SHORT:
680             case TIFF_LONG:
681                 s->bpp = 0;
682                 if (bytestream2_get_bytes_left(&s->gb) < type_sizes[type] * count)
683                     return -1;
684                 for (i = 0; i < count; i++)
685                     s->bpp += tget(&s->gb, type, s->le);
686                 break;
687             default:
688                 s->bpp = -1;
689             }
690         }
691         break;
692     case TIFF_SAMPLES_PER_PIXEL:
693         if (count != 1) {
694             av_log(s->avctx, AV_LOG_ERROR,
695                    "Samples per pixel requires a single value, many provided\n");
696             return AVERROR_INVALIDDATA;
697         }
698         if (s->bppcount == 1)
699             s->bpp *= value;
700         s->bppcount = value;
701         break;
702     case TIFF_COMPR:
703         s->compr = value;
704         s->predictor = 0;
705         switch (s->compr) {
706         case TIFF_RAW:
707         case TIFF_PACKBITS:
708         case TIFF_LZW:
709         case TIFF_CCITT_RLE:
710             break;
711         case TIFF_G3:
712         case TIFF_G4:
713             s->fax_opts = 0;
714             break;
715         case TIFF_DEFLATE:
716         case TIFF_ADOBE_DEFLATE:
717 #if CONFIG_ZLIB
718             break;
719 #else
720             av_log(s->avctx, AV_LOG_ERROR, "Deflate: ZLib not compiled in\n");
721             return -1;
722 #endif
723         case TIFF_JPEG:
724         case TIFF_NEWJPEG:
725             av_log(s->avctx, AV_LOG_ERROR,
726                    "JPEG compression is not supported\n");
727             return -1;
728         default:
729             av_log(s->avctx, AV_LOG_ERROR, "Unknown compression method %i\n",
730                    s->compr);
731             return -1;
732         }
733         break;
734     case TIFF_ROWSPERSTRIP:
735         if (type == TIFF_LONG && value == UINT_MAX)
736             value = s->avctx->height;
737         if (value < 1) {
738             av_log(s->avctx, AV_LOG_ERROR,
739                    "Incorrect value of rows per strip\n");
740             return -1;
741         }
742         s->rps = value;
743         break;
744     case TIFF_STRIP_OFFS:
745         if (count == 1) {
746             s->strippos = 0;
747             s->stripoff = value;
748         } else
749             s->strippos = off;
750         s->strips = count;
751         if (s->strips == 1)
752             s->rps = s->height;
753         s->sot = type;
754         if (s->strippos > bytestream2_size(&s->gb)) {
755             av_log(s->avctx, AV_LOG_ERROR,
756                    "Tag referencing position outside the image\n");
757             return -1;
758         }
759         break;
760     case TIFF_STRIP_SIZE:
761         if (count == 1) {
762             s->stripsizesoff = 0;
763             s->stripsize = value;
764             s->strips = 1;
765         } else {
766             s->stripsizesoff = off;
767         }
768         s->strips = count;
769         s->sstype = type;
770         if (s->stripsizesoff > bytestream2_size(&s->gb)) {
771             av_log(s->avctx, AV_LOG_ERROR,
772                    "Tag referencing position outside the image\n");
773             return -1;
774         }
775         break;
776     case TIFF_TILE_BYTE_COUNTS:
777     case TIFF_TILE_LENGTH:
778     case TIFF_TILE_OFFSETS:
779     case TIFF_TILE_WIDTH:
780         av_log(s->avctx, AV_LOG_ERROR, "Tiled images are not supported\n");
781         return AVERROR_PATCHWELCOME;
782         break;
783     case TIFF_PREDICTOR:
784         s->predictor = value;
785         break;
786     case TIFF_INVERT:
787         switch (value) {
788         case 0:
789             s->invert = 1;
790             break;
791         case 1:
792             s->invert = 0;
793             break;
794         case 2:
795         case 3:
796             break;
797         default:
798             av_log(s->avctx, AV_LOG_ERROR, "Color mode %d is not supported\n",
799                    value);
800             return -1;
801         }
802         break;
803     case TIFF_FILL_ORDER:
804         if (value < 1 || value > 2) {
805             av_log(s->avctx, AV_LOG_ERROR,
806                    "Unknown FillOrder value %d, trying default one\n", value);
807             value = 1;
808         }
809         s->fill_order = value - 1;
810         break;
811     case TIFF_PAL:
812         pal = (uint32_t *) s->palette;
813         off = type_sizes[type];
814         if (count / 3 > 256 || bytestream2_get_bytes_left(&s->gb) < count / 3 * off * 3)
815             return -1;
816         off = (type_sizes[type] - 1) << 3;
817         for (k = 2; k >= 0; k--) {
818             for (i = 0; i < count / 3; i++) {
819                 if (k == 2)
820                     pal[i] = 0xff << 24;
821                 j =  (tget(&s->gb, type, s->le) >> off) << (k * 8);
822                 pal[i] |= j;
823             }
824         }
825         s->palette_is_set = 1;
826         break;
827     case TIFF_PLANAR:
828         if (value == 2) {
829             av_log(s->avctx, AV_LOG_ERROR, "Planar format is not supported\n");
830             return -1;
831         }
832         break;
833     case TIFF_T4OPTIONS:
834         if (s->compr == TIFF_G3)
835             s->fax_opts = value;
836         break;
837     case TIFF_T6OPTIONS:
838         if (s->compr == TIFF_G4)
839             s->fax_opts = value;
840         break;
841 #define ADD_METADATA(count, name, sep)\
842     if (ret = add_metadata(count, type, name, sep, s) < 0) {\
843         av_log(s->avctx, AV_LOG_ERROR, "Error allocating temporary buffer\n");\
844         return ret;\
845     }
846     case TIFF_MODEL_PIXEL_SCALE:
847         ADD_METADATA(count, "ModelPixelScaleTag", NULL);
848         break;
849     case TIFF_MODEL_TRANSFORMATION:
850         ADD_METADATA(count, "ModelTransformationTag", NULL);
851         break;
852     case TIFF_MODEL_TIEPOINT:
853         ADD_METADATA(count, "ModelTiepointTag", NULL);
854         break;
855     case TIFF_GEO_KEY_DIRECTORY:
856         ADD_METADATA(1, "GeoTIFF_Version", NULL);
857         ADD_METADATA(2, "GeoTIFF_Key_Revision", ".");
858         s->geotag_count   = tget_short(&s->gb, s->le);
859         if (s->geotag_count > count / 4 - 1) {
860             s->geotag_count = count / 4 - 1;
861             av_log(s->avctx, AV_LOG_WARNING, "GeoTIFF key directory buffer shorter than specified\n");
862         }
863         if (bytestream2_get_bytes_left(&s->gb) < s->geotag_count * sizeof(int16_t) * 4)
864             return -1;
865         s->geotags = av_mallocz(sizeof(TiffGeoTag) * s->geotag_count);
866         if (!s->geotags) {
867             av_log(s->avctx, AV_LOG_ERROR, "Error allocating temporary buffer\n");
868             return AVERROR(ENOMEM);
869         }
870         for (i = 0; i < s->geotag_count; i++) {
871             s->geotags[i].key    = tget_short(&s->gb, s->le);
872             s->geotags[i].type   = tget_short(&s->gb, s->le);
873             s->geotags[i].count  = tget_short(&s->gb, s->le);
874
875             if (!s->geotags[i].type)
876                 s->geotags[i].val  = get_geokey_val(s->geotags[i].key, tget_short(&s->gb, s->le));
877             else
878                 s->geotags[i].offset = tget_short(&s->gb, s->le);
879         }
880         break;
881     case TIFF_GEO_DOUBLE_PARAMS:
882         if (count >= INT_MAX / sizeof(int64_t))
883             return AVERROR_INVALIDDATA;
884         if (bytestream2_get_bytes_left(&s->gb) < count * sizeof(int64_t))
885             return AVERROR_INVALIDDATA;
886         dp = av_malloc(count * sizeof(double));
887         if (!dp) {
888             av_log(s->avctx, AV_LOG_ERROR, "Error allocating temporary buffer\n");
889             return AVERROR(ENOMEM);
890         }
891         for (i = 0; i < count; i++)
892             dp[i] = tget_double(&s->gb, s->le);
893         for (i = 0; i < s->geotag_count; i++) {
894             if (s->geotags[i].type == TIFF_GEO_DOUBLE_PARAMS) {
895                 if (s->geotags[i].count == 0
896                     || s->geotags[i].offset + s->geotags[i].count > count) {
897                     av_log(s->avctx, AV_LOG_WARNING, "Invalid GeoTIFF key %d\n", s->geotags[i].key);
898                 } else {
899                     char *ap = doubles2str(&dp[s->geotags[i].offset], s->geotags[i].count, ", ");
900                     if (!ap) {
901                         av_log(s->avctx, AV_LOG_ERROR, "Error allocating temporary buffer\n");
902                         av_freep(&dp);
903                         return AVERROR(ENOMEM);
904                     }
905                     s->geotags[i].val = ap;
906                 }
907             }
908         }
909         av_freep(&dp);
910         break;
911     case TIFF_GEO_ASCII_PARAMS:
912         pos = bytestream2_tell(&s->gb);
913         for (i = 0; i < s->geotag_count; i++) {
914             if (s->geotags[i].type == TIFF_GEO_ASCII_PARAMS) {
915                 if (s->geotags[i].count == 0
916                     || s->geotags[i].offset +  s->geotags[i].count > count) {
917                     av_log(s->avctx, AV_LOG_WARNING, "Invalid GeoTIFF key %d\n", s->geotags[i].key);
918                 } else {
919                     char *ap;
920
921                     bytestream2_seek(&s->gb, pos + s->geotags[i].offset, SEEK_SET);
922                     if (bytestream2_get_bytes_left(&s->gb) < s->geotags[i].count)
923                         return -1;
924                     ap = av_malloc(s->geotags[i].count);
925                     if (!ap) {
926                         av_log(s->avctx, AV_LOG_ERROR, "Error allocating temporary buffer\n");
927                         return AVERROR(ENOMEM);
928                     }
929                     bytestream2_get_bufferu(&s->gb, ap, s->geotags[i].count);
930                     ap[s->geotags[i].count - 1] = '\0'; //replace the "|" delimiter with a 0 byte
931                     s->geotags[i].val = ap;
932                 }
933             }
934         }
935         break;
936     case TIFF_ARTIST:
937         ADD_METADATA(count, "artist", NULL);
938         break;
939     case TIFF_COPYRIGHT:
940         ADD_METADATA(count, "copyright", NULL);
941         break;
942     case TIFF_DATE:
943         ADD_METADATA(count, "date", NULL);
944         break;
945     case TIFF_DOCUMENT_NAME:
946         ADD_METADATA(count, "document_name", NULL);
947         break;
948     case TIFF_HOST_COMPUTER:
949         ADD_METADATA(count, "computer", NULL);
950         break;
951     case TIFF_IMAGE_DESCRIPTION:
952         ADD_METADATA(count, "description", NULL);
953         break;
954     case TIFF_MAKE:
955         ADD_METADATA(count, "make", NULL);
956         break;
957     case TIFF_MODEL:
958         ADD_METADATA(count, "model", NULL);
959         break;
960     case TIFF_PAGE_NAME:
961         ADD_METADATA(count, "page_name", NULL);
962         break;
963     case TIFF_PAGE_NUMBER:
964         ADD_METADATA(count, "page_number", " / ");
965         break;
966     case TIFF_SOFTWARE_NAME:
967         ADD_METADATA(count, "software", NULL);
968         break;
969     default:
970         av_log(s->avctx, AV_LOG_DEBUG, "Unknown or unsupported tag %d/0X%0X\n",
971                tag, tag);
972     }
973     bytestream2_seek(&s->gb, start, SEEK_SET);
974     return 0;
975 }
976
977 static int decode_frame(AVCodecContext *avctx,
978                         void *data, int *data_size, AVPacket *avpkt)
979 {
980     TiffContext *const s = avctx->priv_data;
981     AVFrame *picture = data;
982     AVFrame *const p = &s->picture;
983     unsigned off;
984     int id, le, ret;
985     int i, j, entries;
986     int stride;
987     unsigned soff, ssize;
988     uint8_t *dst;
989     GetByteContext stripsizes;
990     GetByteContext stripdata;
991
992     bytestream2_init(&s->gb, avpkt->data, avpkt->size);
993
994     //parse image header
995     if (avpkt->size < 8)
996         return AVERROR_INVALIDDATA;
997     id = bytestream2_get_le16u(&s->gb);
998     if (id == 0x4949)
999         le = 1;
1000     else if (id == 0x4D4D)
1001         le = 0;
1002     else {
1003         av_log(avctx, AV_LOG_ERROR, "TIFF header not found\n");
1004         return -1;
1005     }
1006     s->le = le;
1007     s->invert = 0;
1008     s->compr = TIFF_RAW;
1009     s->fill_order = 0;
1010     free_geotags(s);
1011     /* free existing metadata */
1012     av_dict_free(&s->picture.metadata);
1013
1014     // As TIFF 6.0 specification puts it "An arbitrary but carefully chosen number
1015     // that further identifies the file as a TIFF file"
1016     if (tget_short(&s->gb, le) != 42) {
1017         av_log(avctx, AV_LOG_ERROR,
1018                "The answer to life, universe and everything is not correct!\n");
1019         return -1;
1020     }
1021     // Reset these offsets so we can tell if they were set this frame
1022     s->stripsizesoff = s->strippos = 0;
1023     /* parse image file directory */
1024     off = tget_long(&s->gb, le);
1025     if (off >= UINT_MAX - 14 || avpkt->size < off + 14) {
1026         av_log(avctx, AV_LOG_ERROR, "IFD offset is greater than image size\n");
1027         return AVERROR_INVALIDDATA;
1028     }
1029     bytestream2_seek(&s->gb, off, SEEK_SET);
1030     entries = tget_short(&s->gb, le);
1031     if (bytestream2_get_bytes_left(&s->gb) < entries * 12)
1032         return AVERROR_INVALIDDATA;
1033     for (i = 0; i < entries; i++) {
1034         if (tiff_decode_tag(s) < 0)
1035             return -1;
1036     }
1037
1038     for (i = 0; i<s->geotag_count; i++) {
1039         const char *keyname = get_geokey_name(s->geotags[i].key);
1040         if (!keyname) {
1041             av_log(avctx, AV_LOG_WARNING, "Unknown or unsupported GeoTIFF key %d\n", s->geotags[i].key);
1042             continue;
1043         }
1044         if (get_geokey_type(s->geotags[i].key) != s->geotags[i].type) {
1045             av_log(avctx, AV_LOG_WARNING, "Type of GeoTIFF key %d is wrong\n", s->geotags[i].key);
1046             continue;
1047         }
1048         ret = av_dict_set(&s->picture.metadata, keyname, s->geotags[i].val, 0);
1049         if (ret<0) {
1050             av_log(avctx, AV_LOG_ERROR, "Writing metadata with key '%s' failed\n", keyname);
1051             return ret;
1052         }
1053     }
1054
1055     if (!s->strippos && !s->stripoff) {
1056         av_log(avctx, AV_LOG_ERROR, "Image data is missing\n");
1057         return -1;
1058     }
1059     /* now we have the data and may start decoding */
1060     if ((ret = init_image(s)) < 0)
1061         return ret;
1062
1063     if (s->strips == 1 && !s->stripsize) {
1064         av_log(avctx, AV_LOG_WARNING, "Image data size missing\n");
1065         s->stripsize = avpkt->size - s->stripoff;
1066     }
1067     stride = p->linesize[0];
1068     dst = p->data[0];
1069
1070     if (s->stripsizesoff) {
1071         if (s->stripsizesoff >= avpkt->size)
1072             return AVERROR_INVALIDDATA;
1073         bytestream2_init(&stripsizes, avpkt->data + s->stripsizesoff, avpkt->size - s->stripsizesoff);
1074     }
1075     if (s->strippos) {
1076         if (s->strippos >= avpkt->size)
1077             return AVERROR_INVALIDDATA;
1078         bytestream2_init(&stripdata, avpkt->data + s->strippos, avpkt->size - s->strippos);
1079     }
1080
1081     for (i = 0; i < s->height; i += s->rps) {
1082         if (s->stripsizesoff)
1083             ssize = tget(&stripsizes, s->sstype, s->le);
1084         else
1085             ssize = s->stripsize;
1086
1087         if (s->strippos)
1088             soff = tget(&stripdata, s->sot, s->le);
1089         else
1090             soff = s->stripoff;
1091
1092         if (soff > avpkt->size || ssize > avpkt->size - soff) {
1093             av_log(avctx, AV_LOG_ERROR, "Invalid strip size/offset\n");
1094             return -1;
1095         }
1096         if (tiff_unpack_strip(s, dst, stride, avpkt->data + soff, ssize,
1097                               FFMIN(s->rps, s->height - i)) < 0)
1098             break;
1099         dst += s->rps * stride;
1100     }
1101     if (s->predictor == 2) {
1102         dst = p->data[0];
1103         soff = s->bpp >> 3;
1104         ssize = s->width * soff;
1105         if (s->avctx->pix_fmt == PIX_FMT_RGB48LE ||
1106             s->avctx->pix_fmt == PIX_FMT_RGBA64LE) {
1107             for (i = 0; i < s->height; i++) {
1108                 for (j = soff; j < ssize; j += 2)
1109                     AV_WL16(dst + j, AV_RL16(dst + j) + AV_RL16(dst + j - soff));
1110                 dst += stride;
1111             }
1112         } else if (s->avctx->pix_fmt == PIX_FMT_RGB48BE ||
1113                    s->avctx->pix_fmt == PIX_FMT_RGBA64BE) {
1114             for (i = 0; i < s->height; i++) {
1115                 for (j = soff; j < ssize; j += 2)
1116                     AV_WB16(dst + j, AV_RB16(dst + j) + AV_RB16(dst + j - soff));
1117                 dst += stride;
1118             }
1119         } else {
1120             for (i = 0; i < s->height; i++) {
1121                 for (j = soff; j < ssize; j++)
1122                     dst[j] += dst[j - soff];
1123                 dst += stride;
1124             }
1125         }
1126     }
1127
1128     if (s->invert) {
1129         dst = s->picture.data[0];
1130         for (i = 0; i < s->height; i++) {
1131             for (j = 0; j < s->picture.linesize[0]; j++)
1132                 dst[j] = (s->avctx->pix_fmt == PIX_FMT_PAL8 ? (1<<s->bpp) - 1 : 255) - dst[j];
1133             dst += s->picture.linesize[0];
1134         }
1135     }
1136     *picture   = s->picture;
1137     *data_size = sizeof(AVPicture);
1138
1139     return avpkt->size;
1140 }
1141
1142 static av_cold int tiff_init(AVCodecContext *avctx)
1143 {
1144     TiffContext *s = avctx->priv_data;
1145
1146     s->width = 0;
1147     s->height = 0;
1148     s->avctx = avctx;
1149     avcodec_get_frame_defaults(&s->picture);
1150     avctx->coded_frame = &s->picture;
1151     ff_lzw_decode_open(&s->lzw);
1152     ff_ccitt_unpack_init();
1153
1154     return 0;
1155 }
1156
1157 static av_cold int tiff_end(AVCodecContext *avctx)
1158 {
1159     TiffContext *const s = avctx->priv_data;
1160
1161     free_geotags(s);
1162     if (avctx->coded_frame && avctx->coded_frame->metadata)
1163         av_dict_free(&avctx->coded_frame->metadata);
1164
1165     ff_lzw_decode_close(&s->lzw);
1166     if (s->picture.data[0])
1167         avctx->release_buffer(avctx, &s->picture);
1168     return 0;
1169 }
1170
1171 AVCodec ff_tiff_decoder = {
1172     .name           = "tiff",
1173     .type           = AVMEDIA_TYPE_VIDEO,
1174     .id             = AV_CODEC_ID_TIFF,
1175     .priv_data_size = sizeof(TiffContext),
1176     .init           = tiff_init,
1177     .close          = tiff_end,
1178     .decode         = decode_frame,
1179     .capabilities   = CODEC_CAP_DR1,
1180     .long_name      = NULL_IF_CONFIG_SMALL("TIFF image"),
1181 };