j2kdec: move s->avctx initialization to j2kdec_init()
[ffmpeg.git] / libavcodec / mjpegdec.c
1 /*
2  * MJPEG decoder
3  * Copyright (c) 2000, 2001 Fabrice Bellard
4  * Copyright (c) 2003 Alex Beregszaszi
5  * Copyright (c) 2003-2004 Michael Niedermayer
6  *
7  * Support for external huffman table, various fixes (AVID workaround),
8  * aspecting, new decode_frame mechanism and apple mjpeg-b support
9  *                                  by Alex Beregszaszi
10  *
11  * This file is part of FFmpeg.
12  *
13  * FFmpeg is free software; you can redistribute it and/or
14  * modify it under the terms of the GNU Lesser General Public
15  * License as published by the Free Software Foundation; either
16  * version 2.1 of the License, or (at your option) any later version.
17  *
18  * FFmpeg is distributed in the hope that it will be useful,
19  * but WITHOUT ANY WARRANTY; without even the implied warranty of
20  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
21  * Lesser General Public License for more details.
22  *
23  * You should have received a copy of the GNU Lesser General Public
24  * License along with FFmpeg; if not, write to the Free Software
25  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
26  */
27
28 /**
29  * @file
30  * MJPEG decoder.
31  */
32
33 // #define DEBUG
34 #include <assert.h>
35
36 #include "libavutil/imgutils.h"
37 #include "libavutil/avassert.h"
38 #include "libavutil/opt.h"
39 #include "avcodec.h"
40 #include "dsputil.h"
41 #include "mjpeg.h"
42 #include "mjpegdec.h"
43 #include "jpeglsdec.h"
44
45
46 static int build_vlc(VLC *vlc, const uint8_t *bits_table,
47                      const uint8_t *val_table, int nb_codes,
48                      int use_static, int is_ac)
49 {
50     uint8_t huff_size[256] = { 0 };
51     uint16_t huff_code[256];
52     uint16_t huff_sym[256];
53     int i;
54
55     assert(nb_codes <= 256);
56
57     ff_mjpeg_build_huffman_codes(huff_size, huff_code, bits_table, val_table);
58
59     for (i = 0; i < 256; i++)
60         huff_sym[i] = i + 16 * is_ac;
61
62     if (is_ac)
63         huff_sym[0] = 16 * 256;
64
65     return ff_init_vlc_sparse(vlc, 9, nb_codes, huff_size, 1, 1,
66                               huff_code, 2, 2, huff_sym, 2, 2, use_static);
67 }
68
69 static void build_basic_mjpeg_vlc(MJpegDecodeContext *s)
70 {
71     build_vlc(&s->vlcs[0][0], ff_mjpeg_bits_dc_luminance,
72               ff_mjpeg_val_dc, 12, 0, 0);
73     build_vlc(&s->vlcs[0][1], ff_mjpeg_bits_dc_chrominance,
74               ff_mjpeg_val_dc, 12, 0, 0);
75     build_vlc(&s->vlcs[1][0], ff_mjpeg_bits_ac_luminance,
76               ff_mjpeg_val_ac_luminance, 251, 0, 1);
77     build_vlc(&s->vlcs[1][1], ff_mjpeg_bits_ac_chrominance,
78               ff_mjpeg_val_ac_chrominance, 251, 0, 1);
79     build_vlc(&s->vlcs[2][0], ff_mjpeg_bits_ac_luminance,
80               ff_mjpeg_val_ac_luminance, 251, 0, 0);
81     build_vlc(&s->vlcs[2][1], ff_mjpeg_bits_ac_chrominance,
82               ff_mjpeg_val_ac_chrominance, 251, 0, 0);
83 }
84
85 av_cold int ff_mjpeg_decode_init(AVCodecContext *avctx)
86 {
87     MJpegDecodeContext *s = avctx->priv_data;
88
89     if (!s->picture_ptr)
90         s->picture_ptr = &s->picture;
91     avcodec_get_frame_defaults(&s->picture);
92
93     s->avctx = avctx;
94     ff_dsputil_init(&s->dsp, avctx);
95     ff_init_scantable(s->dsp.idct_permutation, &s->scantable, ff_zigzag_direct);
96     s->buffer_size   = 0;
97     s->buffer        = NULL;
98     s->start_code    = -1;
99     s->first_picture = 1;
100     s->org_height    = avctx->coded_height;
101     avctx->chroma_sample_location = AVCHROMA_LOC_CENTER;
102
103     build_basic_mjpeg_vlc(s);
104
105     if (s->extern_huff) {
106         av_log(avctx, AV_LOG_INFO, "using external huffman table\n");
107         init_get_bits(&s->gb, avctx->extradata, avctx->extradata_size * 8);
108         if (ff_mjpeg_decode_dht(s)) {
109             av_log(avctx, AV_LOG_ERROR,
110                    "error using external huffman table, switching back to internal\n");
111             build_basic_mjpeg_vlc(s);
112         }
113     }
114     if (avctx->field_order == AV_FIELD_BB) { /* quicktime icefloe 019 */
115         s->interlace_polarity = 1;           /* bottom field first */
116         av_log(avctx, AV_LOG_DEBUG, "bottom field first\n");
117     }
118     if (avctx->codec->id == CODEC_ID_AMV)
119         s->flipped = 1;
120
121     return 0;
122 }
123
124
125 /* quantize tables */
126 int ff_mjpeg_decode_dqt(MJpegDecodeContext *s)
127 {
128     int len, index, i, j;
129
130     len = get_bits(&s->gb, 16) - 2;
131
132     while (len >= 65) {
133         /* only 8 bit precision handled */
134         if (get_bits(&s->gb, 4) != 0) {
135             av_log(s->avctx, AV_LOG_ERROR, "dqt: 16bit precision\n");
136             return -1;
137         }
138         index = get_bits(&s->gb, 4);
139         if (index >= 4)
140             return -1;
141         av_log(s->avctx, AV_LOG_DEBUG, "index=%d\n", index);
142         /* read quant table */
143         for (i = 0; i < 64; i++) {
144             j = s->scantable.permutated[i];
145             s->quant_matrixes[index][j] = get_bits(&s->gb, 8);
146         }
147
148         // XXX FIXME finetune, and perhaps add dc too
149         s->qscale[index] = FFMAX(s->quant_matrixes[index][s->scantable.permutated[1]],
150                                  s->quant_matrixes[index][s->scantable.permutated[8]]) >> 1;
151         av_log(s->avctx, AV_LOG_DEBUG, "qscale[%d]: %d\n",
152                index, s->qscale[index]);
153         len -= 65;
154     }
155     return 0;
156 }
157
158 /* decode huffman tables and build VLC decoders */
159 int ff_mjpeg_decode_dht(MJpegDecodeContext *s)
160 {
161     int len, index, i, class, n, v, code_max;
162     uint8_t bits_table[17];
163     uint8_t val_table[256];
164
165     len = get_bits(&s->gb, 16) - 2;
166
167     while (len > 0) {
168         if (len < 17)
169             return -1;
170         class = get_bits(&s->gb, 4);
171         if (class >= 2)
172             return -1;
173         index = get_bits(&s->gb, 4);
174         if (index >= 4)
175             return -1;
176         n = 0;
177         for (i = 1; i <= 16; i++) {
178             bits_table[i] = get_bits(&s->gb, 8);
179             n += bits_table[i];
180         }
181         len -= 17;
182         if (len < n || n > 256)
183             return -1;
184
185         code_max = 0;
186         for (i = 0; i < n; i++) {
187             v = get_bits(&s->gb, 8);
188             if (v > code_max)
189                 code_max = v;
190             val_table[i] = v;
191         }
192         len -= n;
193
194         /* build VLC and flush previous vlc if present */
195         ff_free_vlc(&s->vlcs[class][index]);
196         av_log(s->avctx, AV_LOG_DEBUG, "class=%d index=%d nb_codes=%d\n",
197                class, index, code_max + 1);
198         if (build_vlc(&s->vlcs[class][index], bits_table, val_table,
199                       code_max + 1, 0, class > 0) < 0)
200             return -1;
201
202         if (class > 0) {
203             ff_free_vlc(&s->vlcs[2][index]);
204             if (build_vlc(&s->vlcs[2][index], bits_table, val_table,
205                           code_max + 1, 0, 0) < 0)
206                 return -1;
207         }
208     }
209     return 0;
210 }
211
212 int ff_mjpeg_decode_sof(MJpegDecodeContext *s)
213 {
214     int len, nb_components, i, width, height, pix_fmt_id;
215
216     s->cur_scan = 0;
217     s->upscale_h = s->upscale_v = 0;
218
219     /* XXX: verify len field validity */
220     len     = get_bits(&s->gb, 16);
221     s->bits = get_bits(&s->gb, 8);
222
223     if (s->pegasus_rct)
224         s->bits = 9;
225     if (s->bits == 9 && !s->pegasus_rct)
226         s->rct  = 1;    // FIXME ugly
227
228     if (s->bits != 8 && !s->lossless) {
229         av_log(s->avctx, AV_LOG_ERROR, "only 8 bits/component accepted\n");
230         return -1;
231     }
232
233     if(s->lossless && s->avctx->lowres){
234         av_log(s->avctx, AV_LOG_ERROR, "lowres is not possible with lossless jpeg\n");
235         return -1;
236     }
237
238     height = get_bits(&s->gb, 16);
239     width  = get_bits(&s->gb, 16);
240
241     // HACK for odd_height.mov
242     if (s->interlaced && s->width == width && s->height == height + 1)
243         height= s->height;
244
245     av_log(s->avctx, AV_LOG_DEBUG, "sof0: picture: %dx%d\n", width, height);
246     if (av_image_check_size(width, height, 0, s->avctx))
247         return -1;
248
249     nb_components = get_bits(&s->gb, 8);
250     if (nb_components <= 0 ||
251         nb_components > MAX_COMPONENTS)
252         return -1;
253     if (s->interlaced && (s->bottom_field == !s->interlace_polarity)) {
254         if (nb_components != s->nb_components) {
255             av_log(s->avctx, AV_LOG_ERROR, "nb_components changing in interlaced picture\n");
256             return AVERROR_INVALIDDATA;
257         }
258     }
259     if (s->ls && !(s->bits <= 8 || nb_components == 1)) {
260         av_log(s->avctx, AV_LOG_ERROR,
261                "only <= 8 bits/component or 16-bit gray accepted for JPEG-LS\n");
262         return -1;
263     }
264     s->nb_components = nb_components;
265     s->h_max         = 1;
266     s->v_max         = 1;
267     for (i = 0; i < nb_components; i++) {
268         /* component id */
269         s->component_id[i] = get_bits(&s->gb, 8) - 1;
270         s->h_count[i]      = get_bits(&s->gb, 4);
271         s->v_count[i]      = get_bits(&s->gb, 4);
272         /* compute hmax and vmax (only used in interleaved case) */
273         if (s->h_count[i] > s->h_max)
274             s->h_max = s->h_count[i];
275         if (s->v_count[i] > s->v_max)
276             s->v_max = s->v_count[i];
277         if (!s->h_count[i] || !s->v_count[i]) {
278             av_log(s->avctx, AV_LOG_ERROR, "h/v_count is 0\n");
279             return -1;
280         }
281         s->quant_index[i] = get_bits(&s->gb, 8);
282         if (s->quant_index[i] >= 4)
283             return -1;
284         av_log(s->avctx, AV_LOG_DEBUG, "component %d %d:%d id: %d quant:%d\n",
285                i, s->h_count[i], s->v_count[i],
286                s->component_id[i], s->quant_index[i]);
287     }
288
289     if (s->ls && (s->h_max > 1 || s->v_max > 1)) {
290         av_log(s->avctx, AV_LOG_ERROR,
291                "Subsampling in JPEG-LS is not supported.\n");
292         return -1;
293     }
294
295     if (s->v_max == 1 && s->h_max == 1 && s->lossless==1 && nb_components==3)
296         s->rgb = 1;
297
298     /* if different size, realloc/alloc picture */
299     /* XXX: also check h_count and v_count */
300     if (width != s->width || height != s->height) {
301         av_freep(&s->qscale_table);
302
303         s->width      = width;
304         s->height     = height;
305         s->interlaced = 0;
306
307         /* test interlaced mode */
308         if (s->first_picture   &&
309             s->org_height != 0 &&
310             s->height < ((s->org_height * 3) / 4)) {
311             s->interlaced                    = 1;
312             s->bottom_field                  = s->interlace_polarity;
313             s->picture_ptr->interlaced_frame = 1;
314             s->picture_ptr->top_field_first  = !s->interlace_polarity;
315             height *= 2;
316         }
317
318         avcodec_set_dimensions(s->avctx, width, height);
319
320         s->qscale_table  = av_mallocz((s->width + 15) / 16);
321         s->first_picture = 0;
322     }
323
324     if (s->interlaced && (s->bottom_field == !s->interlace_polarity)) {
325         if (s->progressive) {
326             av_log_ask_for_sample(s->avctx, "progressively coded interlaced pictures not supported\n");
327             return AVERROR_INVALIDDATA;
328         }
329     } else{
330     /* XXX: not complete test ! */
331     pix_fmt_id = (s->h_count[0] << 28) | (s->v_count[0] << 24) |
332                  (s->h_count[1] << 20) | (s->v_count[1] << 16) |
333                  (s->h_count[2] << 12) | (s->v_count[2] <<  8) |
334                  (s->h_count[3] <<  4) |  s->v_count[3];
335     av_log(s->avctx, AV_LOG_DEBUG, "pix fmt id %x\n", pix_fmt_id);
336     /* NOTE we do not allocate pictures large enough for the possible
337      * padding of h/v_count being 4 */
338     if (!(pix_fmt_id & 0xD0D0D0D0))
339         pix_fmt_id -= (pix_fmt_id & 0xF0F0F0F0) >> 1;
340     if (!(pix_fmt_id & 0x0D0D0D0D))
341         pix_fmt_id -= (pix_fmt_id & 0x0F0F0F0F) >> 1;
342
343     switch (pix_fmt_id) {
344     case 0x11111100:
345         if (s->rgb)
346             s->avctx->pix_fmt = PIX_FMT_BGR24;
347         else {
348             if (s->component_id[0] == 'Q' && s->component_id[1] == 'F' && s->component_id[2] == 'A') {
349                 s->avctx->pix_fmt = PIX_FMT_GBR24P;
350             } else {
351             s->avctx->pix_fmt = s->cs_itu601 ? PIX_FMT_YUV444P : PIX_FMT_YUVJ444P;
352             s->avctx->color_range = s->cs_itu601 ? AVCOL_RANGE_MPEG : AVCOL_RANGE_JPEG;
353             }
354         }
355         assert(s->nb_components == 3);
356         break;
357     case 0x12121100:
358     case 0x22122100:
359         s->avctx->pix_fmt = s->cs_itu601 ? PIX_FMT_YUV444P : PIX_FMT_YUVJ444P;
360         s->avctx->color_range = s->cs_itu601 ? AVCOL_RANGE_MPEG : AVCOL_RANGE_JPEG;
361         s->upscale_v = 2;
362         s->upscale_h = (pix_fmt_id == 0x22122100);
363         s->chroma_height = s->height;
364         break;
365     case 0x21211100:
366     case 0x22211200:
367         s->avctx->pix_fmt = s->cs_itu601 ? PIX_FMT_YUV444P : PIX_FMT_YUVJ444P;
368         s->avctx->color_range = s->cs_itu601 ? AVCOL_RANGE_MPEG : AVCOL_RANGE_JPEG;
369         s->upscale_v = (pix_fmt_id == 0x22211200);
370         s->upscale_h = 2;
371         s->chroma_height = s->height;
372         break;
373     case 0x22221100:
374         s->avctx->pix_fmt = s->cs_itu601 ? PIX_FMT_YUV444P : PIX_FMT_YUVJ444P;
375         s->avctx->color_range = s->cs_itu601 ? AVCOL_RANGE_MPEG : AVCOL_RANGE_JPEG;
376         s->upscale_v = 2;
377         s->upscale_h = 2;
378         s->chroma_height = s->height / 2;
379         break;
380     case 0x11000000:
381         if(s->bits <= 8)
382             s->avctx->pix_fmt = PIX_FMT_GRAY8;
383         else
384             s->avctx->pix_fmt = PIX_FMT_GRAY16;
385         break;
386     case 0x12111100:
387     case 0x22211100:
388     case 0x22112100:
389         s->avctx->pix_fmt = s->cs_itu601 ? PIX_FMT_YUV440P : PIX_FMT_YUVJ440P;
390         s->avctx->color_range = s->cs_itu601 ? AVCOL_RANGE_MPEG : AVCOL_RANGE_JPEG;
391         s->upscale_h = (pix_fmt_id == 0x22211100) * 2 + (pix_fmt_id == 0x22112100);
392         s->chroma_height = s->height / 2;
393         break;
394     case 0x21111100:
395         s->avctx->pix_fmt = s->cs_itu601 ? PIX_FMT_YUV422P : PIX_FMT_YUVJ422P;
396         s->avctx->color_range = s->cs_itu601 ? AVCOL_RANGE_MPEG : AVCOL_RANGE_JPEG;
397         break;
398     case 0x22121100:
399     case 0x22111200:
400         s->avctx->pix_fmt = s->cs_itu601 ? PIX_FMT_YUV422P : PIX_FMT_YUVJ422P;
401         s->avctx->color_range = s->cs_itu601 ? AVCOL_RANGE_MPEG : AVCOL_RANGE_JPEG;
402         s->upscale_v = (pix_fmt_id == 0x22121100) + 1;
403         break;
404     case 0x22111100:
405         s->avctx->pix_fmt = s->cs_itu601 ? PIX_FMT_YUV420P : PIX_FMT_YUVJ420P;
406         s->avctx->color_range = s->cs_itu601 ? AVCOL_RANGE_MPEG : AVCOL_RANGE_JPEG;
407         break;
408     default:
409         av_log(s->avctx, AV_LOG_ERROR, "Unhandled pixel format 0x%x\n", pix_fmt_id);
410         return -1;
411     }
412     if ((s->upscale_h || s->upscale_v) && s->avctx->lowres) {
413         av_log(s->avctx, AV_LOG_ERROR, "lowres not supported for weird subsampling\n");
414         return AVERROR_PATCHWELCOME;
415     }
416     if (s->ls) {
417         s->upscale_h = s->upscale_v = 0;
418         if (s->nb_components > 1)
419             s->avctx->pix_fmt = PIX_FMT_RGB24;
420         else if (s->bits <= 8)
421             s->avctx->pix_fmt = PIX_FMT_GRAY8;
422         else
423             s->avctx->pix_fmt = PIX_FMT_GRAY16;
424     }
425
426     if (s->picture_ptr->data[0])
427         s->avctx->release_buffer(s->avctx, s->picture_ptr);
428
429     if (s->avctx->get_buffer(s->avctx, s->picture_ptr) < 0) {
430         av_log(s->avctx, AV_LOG_ERROR, "get_buffer() failed\n");
431         return -1;
432     }
433     s->picture_ptr->pict_type = AV_PICTURE_TYPE_I;
434     s->picture_ptr->key_frame = 1;
435     s->got_picture            = 1;
436
437     for (i = 0; i < 3; i++)
438         s->linesize[i] = s->picture_ptr->linesize[i] << s->interlaced;
439
440 //    printf("%d %d %d %d %d %d\n",
441 //           s->width, s->height, s->linesize[0], s->linesize[1],
442 //           s->interlaced, s->avctx->height);
443
444     if (len != (8 + (3 * nb_components)))
445         av_log(s->avctx, AV_LOG_DEBUG, "decode_sof0: error, len(%d) mismatch\n", len);
446     }
447
448     /* totally blank picture as progressive JPEG will only add details to it */
449     if (s->progressive) {
450         int bw = (width  + s->h_max * 8 - 1) / (s->h_max * 8);
451         int bh = (height + s->v_max * 8 - 1) / (s->v_max * 8);
452         for (i = 0; i < s->nb_components; i++) {
453             int size = bw * bh * s->h_count[i] * s->v_count[i];
454             av_freep(&s->blocks[i]);
455             av_freep(&s->last_nnz[i]);
456             s->blocks[i]       = av_malloc(size * sizeof(**s->blocks));
457             s->last_nnz[i]     = av_mallocz(size * sizeof(**s->last_nnz));
458             s->block_stride[i] = bw * s->h_count[i];
459         }
460         memset(s->coefs_finished, 0, sizeof(s->coefs_finished));
461     }
462     return 0;
463 }
464
465 static inline int mjpeg_decode_dc(MJpegDecodeContext *s, int dc_index)
466 {
467     int code;
468     code = get_vlc2(&s->gb, s->vlcs[0][dc_index].table, 9, 2);
469     if (code < 0) {
470         av_log(s->avctx, AV_LOG_WARNING,
471                "mjpeg_decode_dc: bad vlc: %d:%d (%p)\n",
472                0, dc_index, &s->vlcs[0][dc_index]);
473         return 0xffff;
474     }
475
476     if (code)
477         return get_xbits(&s->gb, code);
478     else
479         return 0;
480 }
481
482 /* decode block and dequantize */
483 static int decode_block(MJpegDecodeContext *s, DCTELEM *block, int component,
484                         int dc_index, int ac_index, int16_t *quant_matrix)
485 {
486     int code, i, j, level, val;
487
488     /* DC coef */
489     val = mjpeg_decode_dc(s, dc_index);
490     if (val == 0xffff) {
491         av_log(s->avctx, AV_LOG_ERROR, "error dc\n");
492         return -1;
493     }
494     val = val * quant_matrix[0] + s->last_dc[component];
495     s->last_dc[component] = val;
496     block[0] = val;
497     /* AC coefs */
498     i = 0;
499     {OPEN_READER(re, &s->gb);
500     do {
501         UPDATE_CACHE(re, &s->gb);
502         GET_VLC(code, re, &s->gb, s->vlcs[1][ac_index].table, 9, 2);
503
504         i += ((unsigned)code) >> 4;
505             code &= 0xf;
506         if (code) {
507             if (code > MIN_CACHE_BITS - 16)
508                 UPDATE_CACHE(re, &s->gb);
509
510             {
511                 int cache = GET_CACHE(re, &s->gb);
512                 int sign  = (~cache) >> 31;
513                 level     = (NEG_USR32(sign ^ cache,code) ^ sign) - sign;
514             }
515
516             LAST_SKIP_BITS(re, &s->gb, code);
517
518             if (i > 63) {
519                 av_log(s->avctx, AV_LOG_ERROR, "error count: %d\n", i);
520                 return -1;
521             }
522             j        = s->scantable.permutated[i];
523             block[j] = level * quant_matrix[j];
524         }
525     } while (i < 63);
526     CLOSE_READER(re, &s->gb);}
527
528     return 0;
529 }
530
531 static int decode_dc_progressive(MJpegDecodeContext *s, DCTELEM *block,
532                                  int component, int dc_index,
533                                  int16_t *quant_matrix, int Al)
534 {
535     int val;
536     s->dsp.clear_block(block);
537     val = mjpeg_decode_dc(s, dc_index);
538     if (val == 0xffff) {
539         av_log(s->avctx, AV_LOG_ERROR, "error dc\n");
540         return -1;
541     }
542     val = (val * quant_matrix[0] << Al) + s->last_dc[component];
543     s->last_dc[component] = val;
544     block[0] = val;
545     return 0;
546 }
547
548 /* decode block and dequantize - progressive JPEG version */
549 static int decode_block_progressive(MJpegDecodeContext *s, DCTELEM *block,
550                                     uint8_t *last_nnz, int ac_index,
551                                     int16_t *quant_matrix,
552                                     int ss, int se, int Al, int *EOBRUN)
553 {
554     int code, i, j, level, val, run;
555
556     if (*EOBRUN) {
557         (*EOBRUN)--;
558         return 0;
559     }
560
561     {
562         OPEN_READER(re, &s->gb);
563         for (i = ss; ; i++) {
564             UPDATE_CACHE(re, &s->gb);
565             GET_VLC(code, re, &s->gb, s->vlcs[2][ac_index].table, 9, 2);
566
567             run = ((unsigned) code) >> 4;
568             code &= 0xF;
569             if (code) {
570                 i += run;
571                 if (code > MIN_CACHE_BITS - 16)
572                     UPDATE_CACHE(re, &s->gb);
573
574                 {
575                     int cache = GET_CACHE(re, &s->gb);
576                     int sign  = (~cache) >> 31;
577                     level     = (NEG_USR32(sign ^ cache,code) ^ sign) - sign;
578                 }
579
580                 LAST_SKIP_BITS(re, &s->gb, code);
581
582                 if (i >= se) {
583                     if (i == se) {
584                         j = s->scantable.permutated[se];
585                         block[j] = level * quant_matrix[j] << Al;
586                         break;
587                     }
588                     av_log(s->avctx, AV_LOG_ERROR, "error count: %d\n", i);
589                     return -1;
590                 }
591                 j = s->scantable.permutated[i];
592                 block[j] = level * quant_matrix[j] << Al;
593             } else {
594                 if (run == 0xF) {// ZRL - skip 15 coefficients
595                     i += 15;
596                     if (i >= se) {
597                         av_log(s->avctx, AV_LOG_ERROR, "ZRL overflow: %d\n", i);
598                         return -1;
599                     }
600                 } else {
601                     val = (1 << run);
602                     if (run) {
603                         UPDATE_CACHE(re, &s->gb);
604                         val += NEG_USR32(GET_CACHE(re, &s->gb), run);
605                         LAST_SKIP_BITS(re, &s->gb, run);
606                     }
607                     *EOBRUN = val - 1;
608                     break;
609                 }
610             }
611         }
612         CLOSE_READER(re, &s->gb);
613     }
614
615     if (i > *last_nnz)
616         *last_nnz = i;
617
618     return 0;
619 }
620
621 #define REFINE_BIT(j) {                                             \
622     UPDATE_CACHE(re, &s->gb);                                       \
623     sign = block[j] >> 15;                                          \
624     block[j] += SHOW_UBITS(re, &s->gb, 1) *                         \
625                 ((quant_matrix[j] ^ sign) - sign) << Al;            \
626     LAST_SKIP_BITS(re, &s->gb, 1);                                  \
627 }
628
629 #define ZERO_RUN                                                    \
630 for (; ; i++) {                                                     \
631     if (i > last) {                                                 \
632         i += run;                                                   \
633         if (i > se) {                                               \
634             av_log(s->avctx, AV_LOG_ERROR, "error count: %d\n", i); \
635             return -1;                                              \
636         }                                                           \
637         break;                                                      \
638     }                                                               \
639     j = s->scantable.permutated[i];                                 \
640     if (block[j])                                                   \
641         REFINE_BIT(j)                                               \
642     else if (run-- == 0)                                            \
643         break;                                                      \
644 }
645
646 /* decode block and dequantize - progressive JPEG refinement pass */
647 static int decode_block_refinement(MJpegDecodeContext *s, DCTELEM *block,
648                                    uint8_t *last_nnz,
649                                    int ac_index, int16_t *quant_matrix,
650                                    int ss, int se, int Al, int *EOBRUN)
651 {
652     int code, i = ss, j, sign, val, run;
653     int last    = FFMIN(se, *last_nnz);
654
655     OPEN_READER(re, &s->gb);
656     if (*EOBRUN) {
657         (*EOBRUN)--;
658     } else {
659         for (; ; i++) {
660             UPDATE_CACHE(re, &s->gb);
661             GET_VLC(code, re, &s->gb, s->vlcs[2][ac_index].table, 9, 2);
662
663             if (code & 0xF) {
664                 run = ((unsigned) code) >> 4;
665                 UPDATE_CACHE(re, &s->gb);
666                 val = SHOW_UBITS(re, &s->gb, 1);
667                 LAST_SKIP_BITS(re, &s->gb, 1);
668                 ZERO_RUN;
669                 j = s->scantable.permutated[i];
670                 val--;
671                 block[j] = ((quant_matrix[j]^val) - val) << Al;
672                 if (i == se) {
673                     if (i > *last_nnz)
674                         *last_nnz = i;
675                     CLOSE_READER(re, &s->gb);
676                     return 0;
677                 }
678             } else {
679                 run = ((unsigned) code) >> 4;
680                 if (run == 0xF) {
681                     ZERO_RUN;
682                 } else {
683                     val = run;
684                     run = (1 << run);
685                     if (val) {
686                         UPDATE_CACHE(re, &s->gb);
687                         run += SHOW_UBITS(re, &s->gb, val);
688                         LAST_SKIP_BITS(re, &s->gb, val);
689                     }
690                     *EOBRUN = run - 1;
691                     break;
692                 }
693             }
694         }
695
696         if (i > *last_nnz)
697             *last_nnz = i;
698     }
699
700     for (; i <= last; i++) {
701         j = s->scantable.permutated[i];
702         if (block[j])
703             REFINE_BIT(j)
704     }
705     CLOSE_READER(re, &s->gb);
706
707     return 0;
708 }
709 #undef REFINE_BIT
710 #undef ZERO_RUN
711
712 static int ljpeg_decode_rgb_scan(MJpegDecodeContext *s, int nb_components, int predictor, int point_transform)
713 {
714     int i, mb_x, mb_y;
715     uint16_t (*buffer)[4];
716     int left[3], top[3], topleft[3];
717     const int linesize = s->linesize[0];
718     const int mask     = (1 << s->bits) - 1;
719     int resync_mb_y = 0;
720     int resync_mb_x = 0;
721
722     s->restart_count = s->restart_interval;
723
724     av_fast_malloc(&s->ljpeg_buffer, &s->ljpeg_buffer_size,
725                    (unsigned)s->mb_width * 4 * sizeof(s->ljpeg_buffer[0][0]));
726     buffer = s->ljpeg_buffer;
727
728     for (i = 0; i < 3; i++)
729         buffer[0][i] = 1 << (s->bits - 1);
730
731     for (mb_y = 0; mb_y < s->mb_height; mb_y++) {
732         uint8_t *ptr = s->picture.data[0] + (linesize * mb_y);
733
734         if (s->interlaced && s->bottom_field)
735             ptr += linesize >> 1;
736
737         for (i = 0; i < 3; i++)
738             top[i] = left[i] = topleft[i] = buffer[0][i];
739
740         for (mb_x = 0; mb_x < s->mb_width; mb_x++) {
741             int modified_predictor = predictor;
742
743             if (s->restart_interval && !s->restart_count){
744                 s->restart_count = s->restart_interval;
745                 resync_mb_x = mb_x;
746                 resync_mb_y = mb_y;
747                 for(i=0; i<3; i++)
748                     top[i] = left[i]= topleft[i]= 1 << (s->bits - 1);
749             }
750             if (mb_y == resync_mb_y || mb_y == resync_mb_y+1 && mb_x < resync_mb_x || !mb_x)
751                 modified_predictor = 1;
752
753             for (i=0;i<nb_components;i++) {
754                 int pred, dc;
755
756                 topleft[i] = top[i];
757                 top[i]     = buffer[mb_x][i];
758
759                 PREDICT(pred, topleft[i], top[i], left[i], modified_predictor);
760
761                 dc = mjpeg_decode_dc(s, s->dc_index[i]);
762                 if(dc == 0xFFFF)
763                     return -1;
764
765                 left[i] = buffer[mb_x][i] =
766                     mask & (pred + (dc << point_transform));
767             }
768
769             if (s->restart_interval && !--s->restart_count) {
770                 align_get_bits(&s->gb);
771                 skip_bits(&s->gb, 16); /* skip RSTn */
772             }
773         }
774
775         if (s->rct) {
776             for (mb_x = 0; mb_x < s->mb_width; mb_x++) {
777                 ptr[3*mb_x + 1] = buffer[mb_x][0] - ((buffer[mb_x][1] + buffer[mb_x][2] - 0x200) >> 2);
778                 ptr[3*mb_x + 0] = buffer[mb_x][1] + ptr[3*mb_x + 1];
779                 ptr[3*mb_x + 2] = buffer[mb_x][2] + ptr[3*mb_x + 1];
780             }
781         } else if (s->pegasus_rct) {
782             for (mb_x = 0; mb_x < s->mb_width; mb_x++) {
783                 ptr[3*mb_x + 1] = buffer[mb_x][0] - ((buffer[mb_x][1] + buffer[mb_x][2]) >> 2);
784                 ptr[3*mb_x + 0] = buffer[mb_x][1] + ptr[3*mb_x + 1];
785                 ptr[3*mb_x + 2] = buffer[mb_x][2] + ptr[3*mb_x + 1];
786             }
787         } else {
788             for(i=0; i<nb_components; i++) {
789                 int c= s->comp_index[i];
790                 for(mb_x = 0; mb_x < s->mb_width; mb_x++) {
791                     ptr[3*mb_x+2-c] = buffer[mb_x][i];
792                 }
793             }
794         }
795     }
796     return 0;
797 }
798
799 static int ljpeg_decode_yuv_scan(MJpegDecodeContext *s, int predictor,
800                                  int point_transform)
801 {
802     int i, mb_x, mb_y;
803     const int nb_components=s->nb_components;
804     int bits= (s->bits+7)&~7;
805     int resync_mb_y = 0;
806     int resync_mb_x = 0;
807
808     point_transform += bits - s->bits;
809
810     av_assert0(nb_components==1 || nb_components==3);
811
812     for (mb_y = 0; mb_y < s->mb_height; mb_y++) {
813         for (mb_x = 0; mb_x < s->mb_width; mb_x++) {
814             if (s->restart_interval && !s->restart_count){
815                 s->restart_count = s->restart_interval;
816                 resync_mb_x = mb_x;
817                 resync_mb_y = mb_y;
818             }
819
820             if(!mb_x || mb_y == resync_mb_y || mb_y == resync_mb_y+1 && mb_x < resync_mb_x || s->interlaced){
821                 int toprow  = mb_y == resync_mb_y || mb_y == resync_mb_y+1 && mb_x < resync_mb_x;
822                 int leftcol = !mb_x || mb_y == resync_mb_y && mb_x == resync_mb_x;
823                 for (i = 0; i < nb_components; i++) {
824                     uint8_t *ptr;
825                     uint16_t *ptr16;
826                     int n, h, v, x, y, c, j, linesize;
827                     n = s->nb_blocks[i];
828                     c = s->comp_index[i];
829                     h = s->h_scount[i];
830                     v = s->v_scount[i];
831                     x = 0;
832                     y = 0;
833                     linesize= s->linesize[c];
834
835                     if(bits>8) linesize /= 2;
836
837                     for(j=0; j<n; j++) {
838                         int pred, dc;
839
840                         dc = mjpeg_decode_dc(s, s->dc_index[i]);
841                         if(dc == 0xFFFF)
842                             return -1;
843                         if(bits<=8){
844                         ptr = s->picture.data[c] + (linesize * (v * mb_y + y)) + (h * mb_x + x); //FIXME optimize this crap
845                         if(y==0 && toprow){
846                             if(x==0 && leftcol){
847                                 pred= 1 << (bits - 1);
848                             }else{
849                                 pred= ptr[-1];
850                             }
851                         }else{
852                             if(x==0 && leftcol){
853                                 pred= ptr[-linesize];
854                             }else{
855                                 PREDICT(pred, ptr[-linesize-1], ptr[-linesize], ptr[-1], predictor);
856                             }
857                         }
858
859                         if (s->interlaced && s->bottom_field)
860                             ptr += linesize >> 1;
861                         pred &= (-1)<<(8-s->bits);
862                         *ptr= pred + (dc << point_transform);
863                         }else{
864                             ptr16 = (uint16_t*)(s->picture.data[c] + 2*(linesize * (v * mb_y + y)) + 2*(h * mb_x + x)); //FIXME optimize this crap
865                             if(y==0 && toprow){
866                                 if(x==0 && leftcol){
867                                     pred= 1 << (bits - 1);
868                                 }else{
869                                     pred= ptr16[-1];
870                                 }
871                             }else{
872                                 if(x==0 && leftcol){
873                                     pred= ptr16[-linesize];
874                                 }else{
875                                     PREDICT(pred, ptr16[-linesize-1], ptr16[-linesize], ptr16[-1], predictor);
876                                 }
877                             }
878
879                             if (s->interlaced && s->bottom_field)
880                                 ptr16 += linesize >> 1;
881                             pred &= (-1)<<(16-s->bits);
882                             *ptr16= pred + (dc << point_transform);
883                         }
884                         if (++x == h) {
885                             x = 0;
886                             y++;
887                         }
888                     }
889                 }
890             } else {
891                 for (i = 0; i < nb_components; i++) {
892                     uint8_t *ptr;
893                     uint16_t *ptr16;
894                     int n, h, v, x, y, c, j, linesize, dc;
895                     n        = s->nb_blocks[i];
896                     c        = s->comp_index[i];
897                     h        = s->h_scount[i];
898                     v        = s->v_scount[i];
899                     x        = 0;
900                     y        = 0;
901                     linesize = s->linesize[c];
902
903                     if(bits>8) linesize /= 2;
904
905                     for (j = 0; j < n; j++) {
906                         int pred;
907
908                         dc = mjpeg_decode_dc(s, s->dc_index[i]);
909                         if(dc == 0xFFFF)
910                             return -1;
911                         if(bits<=8){
912                             ptr = s->picture.data[c] +
913                               (linesize * (v * mb_y + y)) +
914                               (h * mb_x + x); //FIXME optimize this crap
915                             PREDICT(pred, ptr[-linesize-1], ptr[-linesize], ptr[-1], predictor);
916
917                             pred &= (-1)<<(8-s->bits);
918                             *ptr = pred + (dc << point_transform);
919                         }else{
920                             ptr16 = (uint16_t*)(s->picture.data[c] + 2*(linesize * (v * mb_y + y)) + 2*(h * mb_x + x)); //FIXME optimize this crap
921                             PREDICT(pred, ptr16[-linesize-1], ptr16[-linesize], ptr16[-1], predictor);
922
923                             pred &= (-1)<<(16-s->bits);
924                             *ptr16= pred + (dc << point_transform);
925                         }
926
927                         if (++x == h) {
928                             x = 0;
929                             y++;
930                         }
931                     }
932                 }
933             }
934             if (s->restart_interval && !--s->restart_count) {
935                 align_get_bits(&s->gb);
936                 skip_bits(&s->gb, 16); /* skip RSTn */
937             }
938         }
939     }
940     return 0;
941 }
942
943 static av_always_inline void mjpeg_copy_block(uint8_t *dst, const uint8_t *src,
944                                               int linesize, int lowres)
945 {
946     switch (lowres) {
947     case 0: copy_block8(dst, src, linesize, linesize, 8);
948         break;
949     case 1: copy_block4(dst, src, linesize, linesize, 4);
950         break;
951     case 2: copy_block2(dst, src, linesize, linesize, 2);
952         break;
953     case 3: *dst = *src;
954         break;
955     }
956 }
957
958 static int mjpeg_decode_scan(MJpegDecodeContext *s, int nb_components, int Ah,
959                              int Al, const uint8_t *mb_bitmask,
960                              const AVFrame *reference)
961 {
962     int i, mb_x, mb_y;
963     uint8_t *data[MAX_COMPONENTS];
964     const uint8_t *reference_data[MAX_COMPONENTS];
965     int linesize[MAX_COMPONENTS];
966     GetBitContext mb_bitmask_gb;
967
968     if (mb_bitmask)
969         init_get_bits(&mb_bitmask_gb, mb_bitmask, s->mb_width * s->mb_height);
970
971     if (s->flipped && s->avctx->flags & CODEC_FLAG_EMU_EDGE) {
972         av_log(s->avctx, AV_LOG_ERROR,
973                "Can not flip image with CODEC_FLAG_EMU_EDGE set!\n");
974         s->flipped = 0;
975     }
976     if (s->flipped && s->avctx->lowres) {
977         av_log(s->avctx, AV_LOG_ERROR, "Can not flip image with lowres\n");
978         s->flipped = 0;
979     }
980
981     for (i = 0; i < nb_components; i++) {
982         int c   = s->comp_index[i];
983         data[c] = s->picture_ptr->data[c];
984         reference_data[c] = reference ? reference->data[c] : NULL;
985         linesize[c] = s->linesize[c];
986         s->coefs_finished[c] |= 1;
987         if (s->flipped) {
988             // picture should be flipped upside-down for this codec
989             int offset = (linesize[c] * (s->v_scount[i] *
990                          (8 * s->mb_height - ((s->height / s->v_max) & 7)) - 1));
991             data[c]           += offset;
992             reference_data[c] += offset;
993             linesize[c]       *= -1;
994         }
995     }
996
997     for (mb_y = 0; mb_y < s->mb_height; mb_y++) {
998         for (mb_x = 0; mb_x < s->mb_width; mb_x++) {
999             const int copy_mb = mb_bitmask && !get_bits1(&mb_bitmask_gb);
1000
1001             if (s->restart_interval && !s->restart_count)
1002                 s->restart_count = s->restart_interval;
1003
1004             if (get_bits_left(&s->gb) < 0) {
1005                 av_log(s->avctx, AV_LOG_ERROR, "overread %d\n",
1006                        -get_bits_left(&s->gb));
1007                 return -1;
1008             }
1009             for (i = 0; i < nb_components; i++) {
1010                 uint8_t *ptr;
1011                 int n, h, v, x, y, c, j;
1012                 int block_offset;
1013                 n = s->nb_blocks[i];
1014                 c = s->comp_index[i];
1015                 h = s->h_scount[i];
1016                 v = s->v_scount[i];
1017                 x = 0;
1018                 y = 0;
1019                 for (j = 0; j < n; j++) {
1020                     block_offset = (((linesize[c] * (v * mb_y + y) * 8) +
1021                                      (h * mb_x + x) * 8) >> s->avctx->lowres);
1022
1023                     if (s->interlaced && s->bottom_field)
1024                         block_offset += linesize[c] >> 1;
1025                     ptr = data[c] + block_offset;
1026                     if (!s->progressive) {
1027                         if (copy_mb)
1028                             mjpeg_copy_block(ptr, reference_data[c] + block_offset,
1029                                              linesize[c], s->avctx->lowres);
1030                         else {
1031                             s->dsp.clear_block(s->block);
1032                             if (decode_block(s, s->block, i,
1033                                              s->dc_index[i], s->ac_index[i],
1034                                              s->quant_matrixes[s->quant_index[c]]) < 0) {
1035                                 av_log(s->avctx, AV_LOG_ERROR,
1036                                        "error y=%d x=%d\n", mb_y, mb_x);
1037                                 return -1;
1038                             }
1039                             s->dsp.idct_put(ptr, linesize[c], s->block);
1040                         }
1041                     } else {
1042                         int block_idx  = s->block_stride[c] * (v * mb_y + y) +
1043                                          (h * mb_x + x);
1044                         DCTELEM *block = s->blocks[c][block_idx];
1045                         if (Ah)
1046                             block[0] += get_bits1(&s->gb) *
1047                                         s->quant_matrixes[s->quant_index[c]][0] << Al;
1048                         else if (decode_dc_progressive(s, block, i, s->dc_index[i],
1049                                                        s->quant_matrixes[s->quant_index[c]],
1050                                                        Al) < 0) {
1051                             av_log(s->avctx, AV_LOG_ERROR,
1052                                    "error y=%d x=%d\n", mb_y, mb_x);
1053                             return -1;
1054                         }
1055                     }
1056                     // av_log(s->avctx, AV_LOG_DEBUG, "mb: %d %d processed\n",
1057                     //        mb_y, mb_x);
1058                     // av_log(NULL, AV_LOG_DEBUG, "%d %d %d %d %d %d %d %d \n",
1059                     //        mb_x, mb_y, x, y, c, s->bottom_field,
1060                     //        (v * mb_y + y) * 8, (h * mb_x + x) * 8);
1061                     if (++x == h) {
1062                         x = 0;
1063                         y++;
1064                     }
1065                 }
1066             }
1067
1068             if (s->restart_interval) {
1069                 s->restart_count--;
1070                 if(s->restart_count == 0 && s->avctx->codec_id == CODEC_ID_THP){
1071                     align_get_bits(&s->gb);
1072                     for (i = 0; i < nb_components; i++) /* reset dc */
1073                         s->last_dc[i] = 1024;
1074                 }
1075
1076                 i = 8 + ((-get_bits_count(&s->gb)) & 7);
1077                 /* skip RSTn */
1078                 if (show_bits(&s->gb, i) == (1 << i) - 1) {
1079                     int pos = get_bits_count(&s->gb);
1080                     align_get_bits(&s->gb);
1081                     while (get_bits_left(&s->gb) >= 8 && show_bits(&s->gb, 8) == 0xFF)
1082                         skip_bits(&s->gb, 8);
1083                     if (get_bits_left(&s->gb) >= 8 && (get_bits(&s->gb, 8) & 0xF8) == 0xD0) {
1084                         for (i = 0; i < nb_components; i++) /* reset dc */
1085                             s->last_dc[i] = 1024;
1086                     } else
1087                         skip_bits_long(&s->gb, pos - get_bits_count(&s->gb));
1088                 }
1089             }
1090         }
1091     }
1092     return 0;
1093 }
1094
1095 static int mjpeg_decode_scan_progressive_ac(MJpegDecodeContext *s, int ss,
1096                                             int se, int Ah, int Al)
1097 {
1098     int mb_x, mb_y;
1099     int EOBRUN = 0;
1100     int c = s->comp_index[0];
1101     uint8_t *data = s->picture.data[c];
1102     int linesize  = s->linesize[c];
1103     int last_scan = 0;
1104     int16_t *quant_matrix = s->quant_matrixes[s->quant_index[c]];
1105
1106     if (!Al) {
1107         s->coefs_finished[c] |= (1LL << (se + 1)) - (1LL << ss);
1108         last_scan = !~s->coefs_finished[c];
1109     }
1110
1111     if (s->interlaced && s->bottom_field)
1112         data += linesize >> 1;
1113
1114     for (mb_y = 0; mb_y < s->mb_height; mb_y++) {
1115         uint8_t *ptr     = data + (mb_y * linesize * 8 >> s->avctx->lowres);
1116         int block_idx    = mb_y * s->block_stride[c];
1117         DCTELEM (*block)[64] = &s->blocks[c][block_idx];
1118         uint8_t *last_nnz    = &s->last_nnz[c][block_idx];
1119         for (mb_x = 0; mb_x < s->mb_width; mb_x++, block++, last_nnz++) {
1120                 int ret;
1121                 if (Ah)
1122                     ret = decode_block_refinement(s, *block, last_nnz, s->ac_index[0],
1123                                                   quant_matrix, ss, se, Al, &EOBRUN);
1124                 else
1125                     ret = decode_block_progressive(s, *block, last_nnz, s->ac_index[0],
1126                                                    quant_matrix, ss, se, Al, &EOBRUN);
1127                 if (ret < 0) {
1128                     av_log(s->avctx, AV_LOG_ERROR,
1129                            "error y=%d x=%d\n", mb_y, mb_x);
1130                     return -1;
1131                 }
1132
1133             if (last_scan) {
1134                     s->dsp.idct_put(ptr, linesize, *block);
1135                     ptr += 8 >> s->avctx->lowres;
1136             }
1137         }
1138     }
1139     return 0;
1140 }
1141
1142 int ff_mjpeg_decode_sos(MJpegDecodeContext *s, const uint8_t *mb_bitmask,
1143                         const AVFrame *reference)
1144 {
1145     int len, nb_components, i, h, v, predictor, point_transform;
1146     int index, id;
1147     const int block_size = s->lossless ? 1 : 8;
1148     int ilv, prev_shift;
1149
1150     if (!s->got_picture) {
1151         av_log(s->avctx, AV_LOG_WARNING,
1152                 "Can not process SOS before SOF, skipping\n");
1153         return -1;
1154     }
1155
1156     av_assert0(s->picture_ptr->data[0]);
1157     /* XXX: verify len field validity */
1158     len = get_bits(&s->gb, 16);
1159     nb_components = get_bits(&s->gb, 8);
1160     if (nb_components == 0 || nb_components > MAX_COMPONENTS) {
1161         av_log(s->avctx, AV_LOG_ERROR,
1162                "decode_sos: nb_components (%d) unsupported\n", nb_components);
1163         return -1;
1164     }
1165     if (len != 6 + 2 * nb_components) {
1166         av_log(s->avctx, AV_LOG_ERROR, "decode_sos: invalid len (%d)\n", len);
1167         return -1;
1168     }
1169     for (i = 0; i < nb_components; i++) {
1170         id = get_bits(&s->gb, 8) - 1;
1171         av_log(s->avctx, AV_LOG_DEBUG, "component: %d\n", id);
1172         /* find component index */
1173         for (index = 0; index < s->nb_components; index++)
1174             if (id == s->component_id[index])
1175                 break;
1176         if (index == s->nb_components) {
1177             av_log(s->avctx, AV_LOG_ERROR,
1178                    "decode_sos: index(%d) out of components\n", index);
1179             return -1;
1180         }
1181         /* Metasoft MJPEG codec has Cb and Cr swapped */
1182         if (s->avctx->codec_tag == MKTAG('M', 'T', 'S', 'J')
1183             && nb_components == 3 && s->nb_components == 3 && i)
1184             index = 3 - i;
1185
1186         if(nb_components == 3 && s->nb_components == 3 && s->avctx->pix_fmt == PIX_FMT_GBR24P)
1187             index = (i+2)%3;
1188         if(nb_components == 1 && s->nb_components == 3 && s->avctx->pix_fmt == PIX_FMT_GBR24P)
1189             index = (index+2)%3;
1190
1191         s->comp_index[i] = index;
1192
1193         s->nb_blocks[i] = s->h_count[index] * s->v_count[index];
1194         s->h_scount[i]  = s->h_count[index];
1195         s->v_scount[i]  = s->v_count[index];
1196
1197         s->dc_index[i] = get_bits(&s->gb, 4);
1198         s->ac_index[i] = get_bits(&s->gb, 4);
1199
1200         if (s->dc_index[i] <  0 || s->ac_index[i] < 0 ||
1201             s->dc_index[i] >= 4 || s->ac_index[i] >= 4)
1202             goto out_of_range;
1203         if (!s->vlcs[0][s->dc_index[i]].table || !(s->progressive ? s->vlcs[2][s->ac_index[0]].table : s->vlcs[1][s->ac_index[i]].table))
1204             goto out_of_range;
1205     }
1206
1207     predictor = get_bits(&s->gb, 8);       /* JPEG Ss / lossless JPEG predictor /JPEG-LS NEAR */
1208     ilv = get_bits(&s->gb, 8);             /* JPEG Se / JPEG-LS ILV */
1209     if(s->avctx->codec_tag != AV_RL32("CJPG")){
1210         prev_shift      = get_bits(&s->gb, 4); /* Ah */
1211         point_transform = get_bits(&s->gb, 4); /* Al */
1212     }else
1213         prev_shift = point_transform = 0;
1214
1215     for (i = 0; i < nb_components; i++)
1216         s->last_dc[i] = 1024;
1217
1218     if (nb_components > 1) {
1219         /* interleaved stream */
1220         s->mb_width  = (s->width  + s->h_max * block_size - 1) / (s->h_max * block_size);
1221         s->mb_height = (s->height + s->v_max * block_size - 1) / (s->v_max * block_size);
1222     } else if (!s->ls) { /* skip this for JPEG-LS */
1223         h = s->h_max / s->h_scount[0];
1224         v = s->v_max / s->v_scount[0];
1225         s->mb_width     = (s->width  + h * block_size - 1) / (h * block_size);
1226         s->mb_height    = (s->height + v * block_size - 1) / (v * block_size);
1227         s->nb_blocks[0] = 1;
1228         s->h_scount[0]  = 1;
1229         s->v_scount[0]  = 1;
1230     }
1231
1232     if (s->avctx->debug & FF_DEBUG_PICT_INFO)
1233         av_log(s->avctx, AV_LOG_DEBUG, "%s %s p:%d >>:%d ilv:%d bits:%d skip:%d %s comp:%d\n",
1234                s->lossless ? "lossless" : "sequential DCT", s->rgb ? "RGB" : "",
1235                predictor, point_transform, ilv, s->bits, s->mjpb_skiptosod,
1236                s->pegasus_rct ? "PRCT" : (s->rct ? "RCT" : ""), nb_components);
1237
1238
1239     /* mjpeg-b can have padding bytes between sos and image data, skip them */
1240     for (i = s->mjpb_skiptosod; i > 0; i--)
1241         skip_bits(&s->gb, 8);
1242
1243     if (s->lossless) {
1244         av_assert0(s->picture_ptr == &s->picture);
1245         if (CONFIG_JPEGLS_DECODER && s->ls) {
1246 //            for () {
1247 //            reset_ls_coding_parameters(s, 0);
1248
1249             if (ff_jpegls_decode_picture(s, predictor, point_transform, ilv) < 0)
1250                 return -1;
1251         } else {
1252             if (s->rgb) {
1253                 if (ljpeg_decode_rgb_scan(s, nb_components, predictor, point_transform) < 0)
1254                     return -1;
1255             } else {
1256                 if (ljpeg_decode_yuv_scan(s, predictor, point_transform) < 0)
1257                     return -1;
1258             }
1259         }
1260     } else {
1261         if (s->progressive && predictor) {
1262             av_assert0(s->picture_ptr == &s->picture);
1263             if (mjpeg_decode_scan_progressive_ac(s, predictor, ilv, prev_shift,
1264                                                  point_transform) < 0)
1265                 return -1;
1266         } else {
1267             if (mjpeg_decode_scan(s, nb_components, prev_shift, point_transform,
1268                                   mb_bitmask, reference) < 0)
1269                 return -1;
1270         }
1271     }
1272     emms_c();
1273     return 0;
1274  out_of_range:
1275     av_log(s->avctx, AV_LOG_ERROR, "decode_sos: ac/dc index out of range\n");
1276     return -1;
1277 }
1278
1279 static int mjpeg_decode_dri(MJpegDecodeContext *s)
1280 {
1281     if (get_bits(&s->gb, 16) != 4)
1282         return -1;
1283     s->restart_interval = get_bits(&s->gb, 16);
1284     s->restart_count    = 0;
1285     av_log(s->avctx, AV_LOG_DEBUG, "restart interval: %d\n",
1286            s->restart_interval);
1287
1288     return 0;
1289 }
1290
1291 static int mjpeg_decode_app(MJpegDecodeContext *s)
1292 {
1293     int len, id, i;
1294
1295     len = get_bits(&s->gb, 16);
1296     if (len < 5)
1297         return -1;
1298     if (8 * len > get_bits_left(&s->gb))
1299         return -1;
1300
1301     id   = get_bits_long(&s->gb, 32);
1302     id   = av_be2ne32(id);
1303     len -= 6;
1304
1305     if (s->avctx->debug & FF_DEBUG_STARTCODE)
1306         av_log(s->avctx, AV_LOG_DEBUG, "APPx %8X\n", id);
1307
1308     /* Buggy AVID, it puts EOI only at every 10th frame. */
1309     /* Also, this fourcc is used by non-avid files too, it holds some
1310        information, but it's always present in AVID-created files. */
1311     if (id == AV_RL32("AVI1")) {
1312         /* structure:
1313             4bytes      AVI1
1314             1bytes      polarity
1315             1bytes      always zero
1316             4bytes      field_size
1317             4bytes      field_size_less_padding
1318         */
1319             s->buggy_avid = 1;
1320 //        if (s->first_picture)
1321 //            printf("mjpeg: workarounding buggy AVID\n");
1322         i = get_bits(&s->gb, 8); len--;
1323         av_log(s->avctx, AV_LOG_DEBUG, "polarity %d\n", i);
1324 #if 0
1325         skip_bits(&s->gb, 8);
1326         skip_bits(&s->gb, 32);
1327         skip_bits(&s->gb, 32);
1328         len -= 10;
1329 #endif
1330 //        if (s->interlace_polarity)
1331 //            printf("mjpeg: interlace polarity: %d\n", s->interlace_polarity);
1332         goto out;
1333     }
1334
1335 //    len -= 2;
1336
1337     if (id == AV_RL32("JFIF")) {
1338         int t_w, t_h, v1, v2;
1339         skip_bits(&s->gb, 8); /* the trailing zero-byte */
1340         v1 = get_bits(&s->gb, 8);
1341         v2 = get_bits(&s->gb, 8);
1342         skip_bits(&s->gb, 8);
1343
1344         s->avctx->sample_aspect_ratio.num = get_bits(&s->gb, 16);
1345         s->avctx->sample_aspect_ratio.den = get_bits(&s->gb, 16);
1346
1347         if (s->avctx->debug & FF_DEBUG_PICT_INFO)
1348             av_log(s->avctx, AV_LOG_INFO,
1349                    "mjpeg: JFIF header found (version: %x.%x) SAR=%d/%d\n",
1350                    v1, v2,
1351                    s->avctx->sample_aspect_ratio.num,
1352                    s->avctx->sample_aspect_ratio.den);
1353
1354         t_w = get_bits(&s->gb, 8);
1355         t_h = get_bits(&s->gb, 8);
1356         if (t_w && t_h) {
1357             /* skip thumbnail */
1358             if (len -10 - (t_w * t_h * 3) > 0)
1359                 len -= t_w * t_h * 3;
1360         }
1361         len -= 10;
1362         goto out;
1363     }
1364
1365     if (id == AV_RL32("Adob") && (get_bits(&s->gb, 8) == 'e')) {
1366         if (s->avctx->debug & FF_DEBUG_PICT_INFO)
1367             av_log(s->avctx, AV_LOG_INFO, "mjpeg: Adobe header found\n");
1368         skip_bits(&s->gb, 16); /* version */
1369         skip_bits(&s->gb, 16); /* flags0 */
1370         skip_bits(&s->gb, 16); /* flags1 */
1371         skip_bits(&s->gb,  8); /* transform */
1372         len -= 7;
1373         goto out;
1374     }
1375
1376     if (id == AV_RL32("LJIF")) {
1377         if (s->avctx->debug & FF_DEBUG_PICT_INFO)
1378             av_log(s->avctx, AV_LOG_INFO,
1379                    "Pegasus lossless jpeg header found\n");
1380         skip_bits(&s->gb, 16); /* version ? */
1381         skip_bits(&s->gb, 16); /* unknwon always 0? */
1382         skip_bits(&s->gb, 16); /* unknwon always 0? */
1383         skip_bits(&s->gb, 16); /* unknwon always 0? */
1384         switch (get_bits(&s->gb, 8)) {
1385         case 1:
1386             s->rgb         = 1;
1387             s->pegasus_rct = 0;
1388             break;
1389         case 2:
1390             s->rgb         = 1;
1391             s->pegasus_rct = 1;
1392             break;
1393         default:
1394             av_log(s->avctx, AV_LOG_ERROR, "unknown colorspace\n");
1395         }
1396         len -= 9;
1397         goto out;
1398     }
1399
1400     /* Apple MJPEG-A */
1401     if ((s->start_code == APP1) && (len > (0x28 - 8))) {
1402         id   = get_bits_long(&s->gb, 32);
1403         id   = av_be2ne32(id);
1404         len -= 4;
1405         /* Apple MJPEG-A */
1406         if (id == AV_RL32("mjpg")) {
1407 #if 0
1408             skip_bits(&s->gb, 32); /* field size */
1409             skip_bits(&s->gb, 32); /* pad field size */
1410             skip_bits(&s->gb, 32); /* next off */
1411             skip_bits(&s->gb, 32); /* quant off */
1412             skip_bits(&s->gb, 32); /* huff off */
1413             skip_bits(&s->gb, 32); /* image off */
1414             skip_bits(&s->gb, 32); /* scan off */
1415             skip_bits(&s->gb, 32); /* data off */
1416 #endif
1417             if (s->avctx->debug & FF_DEBUG_PICT_INFO)
1418                 av_log(s->avctx, AV_LOG_INFO, "mjpeg: Apple MJPEG-A header found\n");
1419         }
1420     }
1421
1422 out:
1423     /* slow but needed for extreme adobe jpegs */
1424     if (len < 0)
1425         av_log(s->avctx, AV_LOG_ERROR,
1426                "mjpeg: error, decode_app parser read over the end\n");
1427     while (--len > 0)
1428         skip_bits(&s->gb, 8);
1429
1430     return 0;
1431 }
1432
1433 static int mjpeg_decode_com(MJpegDecodeContext *s)
1434 {
1435     int len = get_bits(&s->gb, 16);
1436     if (len >= 2 && 8 * len - 16 <= get_bits_left(&s->gb)) {
1437         char *cbuf = av_malloc(len - 1);
1438         if (cbuf) {
1439             int i;
1440             for (i = 0; i < len - 2; i++)
1441                 cbuf[i] = get_bits(&s->gb, 8);
1442             if (i > 0 && cbuf[i - 1] == '\n')
1443                 cbuf[i - 1] = 0;
1444             else
1445                 cbuf[i] = 0;
1446
1447             if (s->avctx->debug & FF_DEBUG_PICT_INFO)
1448                 av_log(s->avctx, AV_LOG_INFO, "comment: '%s'\n", cbuf);
1449
1450             /* buggy avid, it puts EOI only at every 10th frame */
1451             if (!strcmp(cbuf, "AVID")) {
1452                 s->buggy_avid = 1;
1453                 // if (s->first_picture)
1454                 // printf("mjpeg: workarounding buggy AVID\n");
1455             } else if (!strcmp(cbuf, "CS=ITU601"))
1456                 s->cs_itu601 = 1;
1457             else if ((len > 20 && !strncmp(cbuf, "Intel(R) JPEG Library", 21)) ||
1458                      (len > 19 && !strncmp(cbuf, "Metasoft MJPEG Codec", 20)))
1459                 s->flipped = 1;
1460
1461             av_free(cbuf);
1462         }
1463     }
1464
1465     return 0;
1466 }
1467
1468 /* return the 8 bit start code value and update the search
1469    state. Return -1 if no start code found */
1470 static int find_marker(const uint8_t **pbuf_ptr, const uint8_t *buf_end)
1471 {
1472     const uint8_t *buf_ptr;
1473     unsigned int v, v2;
1474     int val;
1475     int skipped = 0;
1476
1477     buf_ptr = *pbuf_ptr;
1478     while (buf_ptr < buf_end) {
1479         v  = *buf_ptr++;
1480         v2 = *buf_ptr;
1481         if ((v == 0xff) && (v2 >= 0xc0) && (v2 <= 0xfe) && buf_ptr < buf_end) {
1482             val = *buf_ptr++;
1483             goto found;
1484         }
1485         skipped++;
1486     }
1487     val = -1;
1488 found:
1489     av_dlog(NULL, "find_marker skipped %d bytes\n", skipped);
1490     *pbuf_ptr = buf_ptr;
1491     return val;
1492 }
1493
1494 int ff_mjpeg_find_marker(MJpegDecodeContext *s,
1495                          const uint8_t **buf_ptr, const uint8_t *buf_end,
1496                          const uint8_t **unescaped_buf_ptr,
1497                          int *unescaped_buf_size)
1498 {
1499     int start_code;
1500     start_code = find_marker(buf_ptr, buf_end);
1501
1502     av_fast_padded_malloc(&s->buffer, &s->buffer_size, buf_end - *buf_ptr);
1503     if (!s->buffer)
1504         return AVERROR(ENOMEM);
1505
1506     /* unescape buffer of SOS, use special treatment for JPEG-LS */
1507     if (start_code == SOS && !s->ls) {
1508         const uint8_t *src = *buf_ptr;
1509         uint8_t *dst = s->buffer;
1510
1511         while (src < buf_end) {
1512             uint8_t x = *(src++);
1513
1514             *(dst++) = x;
1515             if (s->avctx->codec_id != CODEC_ID_THP) {
1516                 if (x == 0xff) {
1517                     while (src < buf_end && x == 0xff)
1518                         x = *(src++);
1519
1520                     if (x >= 0xd0 && x <= 0xd7)
1521                         *(dst++) = x;
1522                     else if (x)
1523                         break;
1524                 }
1525             }
1526         }
1527         *unescaped_buf_ptr  = s->buffer;
1528         *unescaped_buf_size = dst - s->buffer;
1529
1530         av_log(s->avctx, AV_LOG_DEBUG, "escaping removed %td bytes\n",
1531                (buf_end - *buf_ptr) - (dst - s->buffer));
1532     } else if (start_code == SOS && s->ls) {
1533         const uint8_t *src = *buf_ptr;
1534         uint8_t *dst  = s->buffer;
1535         int bit_count = 0;
1536         int t = 0, b = 0;
1537         PutBitContext pb;
1538
1539         s->cur_scan++;
1540
1541         /* find marker */
1542         while (src + t < buf_end) {
1543             uint8_t x = src[t++];
1544             if (x == 0xff) {
1545                 while ((src + t < buf_end) && x == 0xff)
1546                     x = src[t++];
1547                 if (x & 0x80) {
1548                     t -= 2;
1549                     break;
1550                 }
1551             }
1552         }
1553         bit_count = t * 8;
1554         init_put_bits(&pb, dst, t);
1555
1556         /* unescape bitstream */
1557         while (b < t) {
1558             uint8_t x = src[b++];
1559             put_bits(&pb, 8, x);
1560             if (x == 0xFF) {
1561                 x = src[b++];
1562                 put_bits(&pb, 7, x);
1563                 bit_count--;
1564             }
1565         }
1566         flush_put_bits(&pb);
1567
1568         *unescaped_buf_ptr  = dst;
1569         *unescaped_buf_size = (bit_count + 7) >> 3;
1570     } else {
1571         *unescaped_buf_ptr  = *buf_ptr;
1572         *unescaped_buf_size = buf_end - *buf_ptr;
1573     }
1574
1575     return start_code;
1576 }
1577
1578 int ff_mjpeg_decode_frame(AVCodecContext *avctx, void *data, int *data_size,
1579                           AVPacket *avpkt)
1580 {
1581     const uint8_t *buf = avpkt->data;
1582     int buf_size       = avpkt->size;
1583     MJpegDecodeContext *s = avctx->priv_data;
1584     const uint8_t *buf_end, *buf_ptr;
1585     const uint8_t *unescaped_buf_ptr;
1586     int unescaped_buf_size;
1587     int start_code;
1588     int i, index;
1589     AVFrame *picture = data;
1590
1591     s->got_picture = 0; // picture from previous image can not be reused
1592     buf_ptr = buf;
1593     buf_end = buf + buf_size;
1594     while (buf_ptr < buf_end) {
1595         /* find start next marker */
1596         start_code = ff_mjpeg_find_marker(s, &buf_ptr, buf_end,
1597                                           &unescaped_buf_ptr,
1598                                           &unescaped_buf_size);
1599         /* EOF */
1600         if (start_code < 0) {
1601             goto the_end;
1602         } else if (unescaped_buf_size > (1U<<29)) {
1603             av_log(avctx, AV_LOG_ERROR, "MJPEG packet 0x%x too big (0x%x/0x%x), corrupt data?\n",
1604                    start_code, unescaped_buf_size, buf_size);
1605             return AVERROR_INVALIDDATA;
1606         } else {
1607             av_log(avctx, AV_LOG_DEBUG, "marker=%x avail_size_in_buf=%td\n",
1608                    start_code, buf_end - buf_ptr);
1609
1610             init_get_bits(&s->gb, unescaped_buf_ptr, unescaped_buf_size * 8);
1611
1612             s->start_code = start_code;
1613             if (s->avctx->debug & FF_DEBUG_STARTCODE)
1614                 av_log(avctx, AV_LOG_DEBUG, "startcode: %X\n", start_code);
1615
1616             /* process markers */
1617             if (start_code >= 0xd0 && start_code <= 0xd7)
1618                 av_log(avctx, AV_LOG_DEBUG,
1619                        "restart marker: %d\n", start_code & 0x0f);
1620                 /* APP fields */
1621             else if (start_code >= APP0 && start_code <= APP15)
1622                 mjpeg_decode_app(s);
1623                 /* Comment */
1624             else if (start_code == COM)
1625                 mjpeg_decode_com(s);
1626
1627             switch (start_code) {
1628             case SOI:
1629                 s->restart_interval = 0;
1630                 s->restart_count    = 0;
1631                 /* nothing to do on SOI */
1632                 break;
1633             case DQT:
1634                 ff_mjpeg_decode_dqt(s);
1635                 break;
1636             case DHT:
1637                 if (ff_mjpeg_decode_dht(s) < 0) {
1638                     av_log(avctx, AV_LOG_ERROR, "huffman table decode error\n");
1639                     return -1;
1640                 }
1641                 break;
1642             case SOF0:
1643             case SOF1:
1644                 s->lossless    = 0;
1645                 s->ls          = 0;
1646                 s->progressive = 0;
1647                 if (ff_mjpeg_decode_sof(s) < 0)
1648                     return -1;
1649                 break;
1650             case SOF2:
1651                 s->lossless    = 0;
1652                 s->ls          = 0;
1653                 s->progressive = 1;
1654                 if (ff_mjpeg_decode_sof(s) < 0)
1655                     return -1;
1656                 break;
1657             case SOF3:
1658                 s->lossless    = 1;
1659                 s->ls          = 0;
1660                 s->progressive = 0;
1661                 if (ff_mjpeg_decode_sof(s) < 0)
1662                     return -1;
1663                 break;
1664             case SOF48:
1665                 s->lossless    = 1;
1666                 s->ls          = 1;
1667                 s->progressive = 0;
1668                 if (ff_mjpeg_decode_sof(s) < 0)
1669                     return -1;
1670                 break;
1671             case LSE:
1672                 if (!CONFIG_JPEGLS_DECODER || ff_jpegls_decode_lse(s) < 0)
1673                     return -1;
1674                 break;
1675             case EOI:
1676 eoi_parser:
1677                 s->cur_scan = 0;
1678                 if (!s->got_picture) {
1679                     av_log(avctx, AV_LOG_WARNING,
1680                            "Found EOI before any SOF, ignoring\n");
1681                     break;
1682                 }
1683                 if (s->interlaced) {
1684                     s->bottom_field ^= 1;
1685                     /* if not bottom field, do not output image yet */
1686                     if (s->bottom_field == !s->interlace_polarity)
1687                         break;
1688                 }
1689                     *picture   = *s->picture_ptr;
1690                     *data_size = sizeof(AVFrame);
1691
1692                     if (!s->lossless) {
1693                         picture->quality      = FFMAX3(s->qscale[0],
1694                                                        s->qscale[1],
1695                                                        s->qscale[2]);
1696                         picture->qstride      = 0;
1697                         picture->qscale_table = s->qscale_table;
1698                         memset(picture->qscale_table, picture->quality,
1699                                (s->width + 15) / 16);
1700                         if (avctx->debug & FF_DEBUG_QP)
1701                             av_log(avctx, AV_LOG_DEBUG,
1702                                    "QP: %d\n", picture->quality);
1703                         picture->quality *= FF_QP2LAMBDA;
1704                     }
1705
1706                 goto the_end;
1707             case SOS:
1708                 if (ff_mjpeg_decode_sos(s, NULL, NULL) < 0 &&
1709                     (avctx->err_recognition & AV_EF_EXPLODE))
1710                     return AVERROR_INVALIDDATA;
1711                 break;
1712             case DRI:
1713                 mjpeg_decode_dri(s);
1714                 break;
1715             case SOF5:
1716             case SOF6:
1717             case SOF7:
1718             case SOF9:
1719             case SOF10:
1720             case SOF11:
1721             case SOF13:
1722             case SOF14:
1723             case SOF15:
1724             case JPG:
1725                 av_log(avctx, AV_LOG_ERROR,
1726                        "mjpeg: unsupported coding type (%x)\n", start_code);
1727                 break;
1728 //              default:
1729 //              printf("mjpeg: unsupported marker (%x)\n", start_code);
1730 //              break;
1731             }
1732
1733             /* eof process start code */
1734             buf_ptr += (get_bits_count(&s->gb) + 7) / 8;
1735             av_log(avctx, AV_LOG_DEBUG,
1736                    "marker parser used %d bytes (%d bits)\n",
1737                    (get_bits_count(&s->gb) + 7) / 8, get_bits_count(&s->gb));
1738         }
1739     }
1740     if (s->got_picture) {
1741         av_log(avctx, AV_LOG_WARNING, "EOI missing, emulating\n");
1742         goto eoi_parser;
1743     }
1744     av_log(avctx, AV_LOG_FATAL, "No JPEG data found in image\n");
1745     return -1;
1746 the_end:
1747     if (s->upscale_h) {
1748         uint8_t *line = s->picture_ptr->data[s->upscale_h];
1749         av_assert0(avctx->pix_fmt == PIX_FMT_YUVJ444P ||
1750                    avctx->pix_fmt == PIX_FMT_YUV444P  ||
1751                    avctx->pix_fmt == PIX_FMT_YUVJ440P ||
1752                    avctx->pix_fmt == PIX_FMT_YUV440P);
1753         for (i = 0; i < s->chroma_height; i++) {
1754             for (index = s->width - 1; index; index--)
1755                 line[index] = (line[index / 2] + line[(index + 1) / 2]) >> 1;
1756             line += s->linesize[s->upscale_h];
1757         }
1758     }
1759     if (s->upscale_v) {
1760         uint8_t *dst = &((uint8_t *)s->picture_ptr->data[s->upscale_v])[(s->height - 1) * s->linesize[s->upscale_v]];
1761         av_assert0(avctx->pix_fmt == PIX_FMT_YUVJ444P ||
1762                    avctx->pix_fmt == PIX_FMT_YUV444P  ||
1763                    avctx->pix_fmt == PIX_FMT_YUVJ422P ||
1764                    avctx->pix_fmt == PIX_FMT_YUV422P);
1765         for (i = s->height - 1; i; i--) {
1766             uint8_t *src1 = &((uint8_t *)s->picture_ptr->data[s->upscale_v])[i / 2 * s->linesize[s->upscale_v]];
1767             uint8_t *src2 = &((uint8_t *)s->picture_ptr->data[s->upscale_v])[(i + 1) / 2 * s->linesize[s->upscale_v]];
1768             if (src1 == src2) {
1769                 memcpy(dst, src1, s->width);
1770             } else {
1771                 for (index = 0; index < s->width; index++)
1772                     dst[index] = (src1[index] + src2[index]) >> 1;
1773             }
1774             dst -= s->linesize[s->upscale_v];
1775         }
1776     }
1777     av_log(avctx, AV_LOG_DEBUG, "decode frame unused %td bytes\n",
1778            buf_end - buf_ptr);
1779 //  return buf_end - buf_ptr;
1780     return buf_ptr - buf;
1781 }
1782
1783 av_cold int ff_mjpeg_decode_end(AVCodecContext *avctx)
1784 {
1785     MJpegDecodeContext *s = avctx->priv_data;
1786     int i, j;
1787
1788     if (s->picture_ptr && s->picture_ptr->data[0])
1789         avctx->release_buffer(avctx, s->picture_ptr);
1790
1791     av_free(s->buffer);
1792     av_free(s->qscale_table);
1793     av_freep(&s->ljpeg_buffer);
1794     s->ljpeg_buffer_size = 0;
1795
1796     for (i = 0; i < 3; i++) {
1797         for (j = 0; j < 4; j++)
1798             ff_free_vlc(&s->vlcs[i][j]);
1799     }
1800     for (i = 0; i < MAX_COMPONENTS; i++) {
1801         av_freep(&s->blocks[i]);
1802         av_freep(&s->last_nnz[i]);
1803     }
1804     return 0;
1805 }
1806
1807 #define OFFSET(x) offsetof(MJpegDecodeContext, x)
1808 #define VD AV_OPT_FLAG_VIDEO_PARAM | AV_OPT_FLAG_DECODING_PARAM
1809 static const AVOption options[] = {
1810     { "extern_huff", "Use external huffman table.",
1811       OFFSET(extern_huff), AV_OPT_TYPE_INT, { 0 }, 0, 1, VD },
1812     { NULL },
1813 };
1814
1815 static const AVClass mjpegdec_class = {
1816     .class_name = "MJPEG decoder",
1817     .item_name  = av_default_item_name,
1818     .option     = options,
1819     .version    = LIBAVUTIL_VERSION_INT,
1820 };
1821
1822 AVCodec ff_mjpeg_decoder = {
1823     .name           = "mjpeg",
1824     .type           = AVMEDIA_TYPE_VIDEO,
1825     .id             = CODEC_ID_MJPEG,
1826     .priv_data_size = sizeof(MJpegDecodeContext),
1827     .init           = ff_mjpeg_decode_init,
1828     .close          = ff_mjpeg_decode_end,
1829     .decode         = ff_mjpeg_decode_frame,
1830     .capabilities   = CODEC_CAP_DR1,
1831     .max_lowres     = 3,
1832     .long_name      = NULL_IF_CONFIG_SMALL("MJPEG (Motion JPEG)"),
1833     .priv_class     = &mjpegdec_class,
1834 };
1835
1836 AVCodec ff_thp_decoder = {
1837     .name           = "thp",
1838     .type           = AVMEDIA_TYPE_VIDEO,
1839     .id             = CODEC_ID_THP,
1840     .priv_data_size = sizeof(MJpegDecodeContext),
1841     .init           = ff_mjpeg_decode_init,
1842     .close          = ff_mjpeg_decode_end,
1843     .decode         = ff_mjpeg_decode_frame,
1844     .capabilities   = CODEC_CAP_DR1,
1845     .max_lowres     = 3,
1846     .long_name      = NULL_IF_CONFIG_SMALL("Nintendo Gamecube THP video"),
1847 };