avformat/diracdec: check 2 chunks in probe
[ffmpeg.git] / libavcodec / mpeg12dec.c
1 /*
2  * MPEG-1/2 decoder
3  * Copyright (c) 2000, 2001 Fabrice Bellard
4  * Copyright (c) 2002-2013 Michael Niedermayer <michaelni@gmx.at>
5  *
6  * This file is part of FFmpeg.
7  *
8  * FFmpeg is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * FFmpeg is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with FFmpeg; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 /**
24  * @file
25  * MPEG-1/2 decoder
26  */
27
28 #include "libavutil/attributes.h"
29 #include "libavutil/internal.h"
30 #include "internal.h"
31 #include "avcodec.h"
32 #include "dsputil.h"
33 #include "mpegvideo.h"
34 #include "error_resilience.h"
35 #include "mpeg12.h"
36 #include "mpeg12data.h"
37 #include "bytestream.h"
38 #include "vdpau_internal.h"
39 #include "xvmc_internal.h"
40 #include "thread.h"
41
42 typedef struct Mpeg1Context {
43     MpegEncContext mpeg_enc_ctx;
44     int mpeg_enc_ctx_allocated; /* true if decoding context allocated */
45     int repeat_field; /* true if we must repeat the field */
46     AVPanScan pan_scan;              /**< some temporary storage for the panscan */
47     int slice_count;
48     int swap_uv;//indicate VCR2
49     int save_aspect_info;
50     int save_width, save_height, save_progressive_seq;
51     AVRational frame_rate_ext;       ///< MPEG-2 specific framerate modificator
52     int sync;                        ///< Did we reach a sync point like a GOP/SEQ/KEYFrame?
53     int tmpgexs;
54     int extradata_decoded;
55 } Mpeg1Context;
56
57 #define MB_TYPE_ZERO_MV   0x20000000
58
59 static const uint32_t ptype2mb_type[7] = {
60                     MB_TYPE_INTRA,
61                     MB_TYPE_L0 | MB_TYPE_CBP | MB_TYPE_ZERO_MV | MB_TYPE_16x16,
62                     MB_TYPE_L0,
63                     MB_TYPE_L0 | MB_TYPE_CBP,
64     MB_TYPE_QUANT | MB_TYPE_INTRA,
65     MB_TYPE_QUANT | MB_TYPE_L0 | MB_TYPE_CBP | MB_TYPE_ZERO_MV | MB_TYPE_16x16,
66     MB_TYPE_QUANT | MB_TYPE_L0 | MB_TYPE_CBP,
67 };
68
69 static const uint32_t btype2mb_type[11] = {
70                     MB_TYPE_INTRA,
71                     MB_TYPE_L1,
72                     MB_TYPE_L1   | MB_TYPE_CBP,
73                     MB_TYPE_L0,
74                     MB_TYPE_L0   | MB_TYPE_CBP,
75                     MB_TYPE_L0L1,
76                     MB_TYPE_L0L1 | MB_TYPE_CBP,
77     MB_TYPE_QUANT | MB_TYPE_INTRA,
78     MB_TYPE_QUANT | MB_TYPE_L1   | MB_TYPE_CBP,
79     MB_TYPE_QUANT | MB_TYPE_L0   | MB_TYPE_CBP,
80     MB_TYPE_QUANT | MB_TYPE_L0L1 | MB_TYPE_CBP,
81 };
82
83 static const uint8_t non_linear_qscale[32] = {
84     0, 1, 2, 3, 4, 5, 6, 7,
85     8,10,12,14,16,18,20,22,
86     24,28,32,36,40,44,48,52,
87     56,64,72,80,88,96,104,112,
88 };
89
90 /* as H.263, but only 17 codes */
91 static int mpeg_decode_motion(MpegEncContext *s, int fcode, int pred)
92 {
93     int code, sign, val, shift;
94
95     code = get_vlc2(&s->gb, ff_mv_vlc.table, MV_VLC_BITS, 2);
96     if (code == 0) {
97         return pred;
98     }
99     if (code < 0) {
100         return 0xffff;
101     }
102
103     sign  = get_bits1(&s->gb);
104     shift = fcode - 1;
105     val   = code;
106     if (shift) {
107         val  = (val - 1) << shift;
108         val |= get_bits(&s->gb, shift);
109         val++;
110     }
111     if (sign)
112         val = -val;
113     val += pred;
114
115     /* modulo decoding */
116     return sign_extend(val, 5 + shift);
117 }
118
119 static inline int mpeg1_decode_block_intra(MpegEncContext *s, int16_t *block, int n)
120 {
121     int level, dc, diff, i, j, run;
122     int component;
123     RLTable *rl = &ff_rl_mpeg1;
124     uint8_t * const scantable    = s->intra_scantable.permutated;
125     const uint16_t *quant_matrix = s->intra_matrix;
126     const int qscale             = s->qscale;
127
128     /* DC coefficient */
129     component = (n <= 3 ? 0 : n - 4 + 1);
130     diff = decode_dc(&s->gb, component);
131     if (diff >= 0xffff)
132         return -1;
133     dc  = s->last_dc[component];
134     dc += diff;
135     s->last_dc[component] = dc;
136     block[0] = dc * quant_matrix[0];
137     av_dlog(s->avctx, "dc=%d diff=%d\n", dc, diff);
138     i = 0;
139     {
140         OPEN_READER(re, &s->gb);
141         /* now quantify & encode AC coefficients */
142         for (;;) {
143             UPDATE_CACHE(re, &s->gb);
144             GET_RL_VLC(level, run, re, &s->gb, rl->rl_vlc[0], TEX_VLC_BITS, 2, 0);
145
146             if (level == 127) {
147                 break;
148             } else if (level != 0) {
149                 i += run;
150                 j = scantable[i];
151                 level = (level * qscale * quant_matrix[j]) >> 4;
152                 level = (level - 1) | 1;
153                 level = (level ^ SHOW_SBITS(re, &s->gb, 1)) - SHOW_SBITS(re, &s->gb, 1);
154                 LAST_SKIP_BITS(re, &s->gb, 1);
155             } else {
156                 /* escape */
157                 run = SHOW_UBITS(re, &s->gb, 6) + 1; LAST_SKIP_BITS(re, &s->gb, 6);
158                 UPDATE_CACHE(re, &s->gb);
159                 level = SHOW_SBITS(re, &s->gb, 8); SKIP_BITS(re, &s->gb, 8);
160                 if (level == -128) {
161                     level = SHOW_UBITS(re, &s->gb, 8) - 256; LAST_SKIP_BITS(re, &s->gb, 8);
162                 } else if (level == 0) {
163                     level = SHOW_UBITS(re, &s->gb, 8)      ; LAST_SKIP_BITS(re, &s->gb, 8);
164                 }
165                 i += run;
166                 j = scantable[i];
167                 if (level < 0) {
168                     level = -level;
169                     level = (level * qscale * quant_matrix[j]) >> 4;
170                     level = (level - 1) | 1;
171                     level = -level;
172                 } else {
173                     level = (level * qscale * quant_matrix[j]) >> 4;
174                     level = (level - 1) | 1;
175                 }
176             }
177             if (i > 63) {
178                 av_log(s->avctx, AV_LOG_ERROR, "ac-tex damaged at %d %d\n", s->mb_x, s->mb_y);
179                 return -1;
180             }
181
182             block[j] = level;
183         }
184         CLOSE_READER(re, &s->gb);
185     }
186     s->block_last_index[n] = i;
187    return 0;
188 }
189
190 int ff_mpeg1_decode_block_intra(MpegEncContext *s, int16_t *block, int n)
191 {
192     return mpeg1_decode_block_intra(s, block, n);
193 }
194
195 static inline int mpeg1_decode_block_inter(MpegEncContext *s, int16_t *block, int n)
196 {
197     int level, i, j, run;
198     RLTable *rl = &ff_rl_mpeg1;
199     uint8_t * const scantable    = s->intra_scantable.permutated;
200     const uint16_t *quant_matrix = s->inter_matrix;
201     const int qscale             = s->qscale;
202
203     {
204         OPEN_READER(re, &s->gb);
205         i = -1;
206         // special case for first coefficient, no need to add second VLC table
207         UPDATE_CACHE(re, &s->gb);
208         if (((int32_t)GET_CACHE(re, &s->gb)) < 0) {
209             level = (3 * qscale * quant_matrix[0]) >> 5;
210             level = (level - 1) | 1;
211             if (GET_CACHE(re, &s->gb) & 0x40000000)
212                 level = -level;
213             block[0] = level;
214             i++;
215             SKIP_BITS(re, &s->gb, 2);
216             if (((int32_t)GET_CACHE(re, &s->gb)) <= (int32_t)0xBFFFFFFF)
217                 goto end;
218         }
219         /* now quantify & encode AC coefficients */
220         for (;;) {
221             GET_RL_VLC(level, run, re, &s->gb, rl->rl_vlc[0], TEX_VLC_BITS, 2, 0);
222
223             if (level != 0) {
224                 i += run;
225                 j = scantable[i];
226                 level = ((level * 2 + 1) * qscale * quant_matrix[j]) >> 5;
227                 level = (level - 1) | 1;
228                 level = (level ^ SHOW_SBITS(re, &s->gb, 1)) - SHOW_SBITS(re, &s->gb, 1);
229                 SKIP_BITS(re, &s->gb, 1);
230             } else {
231                 /* escape */
232                 run = SHOW_UBITS(re, &s->gb, 6) + 1; LAST_SKIP_BITS(re, &s->gb, 6);
233                 UPDATE_CACHE(re, &s->gb);
234                 level = SHOW_SBITS(re, &s->gb, 8); SKIP_BITS(re, &s->gb, 8);
235                 if (level == -128) {
236                     level = SHOW_UBITS(re, &s->gb, 8) - 256; SKIP_BITS(re, &s->gb, 8);
237                 } else if (level == 0) {
238                     level = SHOW_UBITS(re, &s->gb, 8)      ; SKIP_BITS(re, &s->gb, 8);
239                 }
240                 i += run;
241                 j = scantable[i];
242                 if (level < 0) {
243                     level = -level;
244                     level = ((level * 2 + 1) * qscale * quant_matrix[j]) >> 5;
245                     level = (level - 1) | 1;
246                     level = -level;
247                 } else {
248                     level = ((level * 2 + 1) * qscale * quant_matrix[j]) >> 5;
249                     level = (level - 1) | 1;
250                 }
251             }
252             if (i > 63) {
253                 av_log(s->avctx, AV_LOG_ERROR, "ac-tex damaged at %d %d\n", s->mb_x, s->mb_y);
254                 return -1;
255             }
256
257             block[j] = level;
258             if (((int32_t)GET_CACHE(re, &s->gb)) <= (int32_t)0xBFFFFFFF)
259                 break;
260             UPDATE_CACHE(re, &s->gb);
261         }
262 end:
263         LAST_SKIP_BITS(re, &s->gb, 2);
264         CLOSE_READER(re, &s->gb);
265     }
266     s->block_last_index[n] = i;
267     return 0;
268 }
269
270 /**
271  * Note: this function can read out of range and crash for corrupt streams.
272  * Changing this would eat up any speed benefits it has.
273  * Do not use "fast" flag if you need the code to be robust.
274  */
275 static inline int mpeg1_fast_decode_block_inter(MpegEncContext *s, int16_t *block, int n)
276 {
277     int level, i, j, run;
278     RLTable *rl = &ff_rl_mpeg1;
279     uint8_t * const scantable = s->intra_scantable.permutated;
280     const int qscale          = s->qscale;
281
282     {
283         OPEN_READER(re, &s->gb);
284         i = -1;
285         // special case for first coefficient, no need to add second VLC table
286         UPDATE_CACHE(re, &s->gb);
287         if (((int32_t)GET_CACHE(re, &s->gb)) < 0) {
288             level = (3 * qscale) >> 1;
289             level = (level - 1) | 1;
290             if (GET_CACHE(re, &s->gb) & 0x40000000)
291                 level = -level;
292             block[0] = level;
293             i++;
294             SKIP_BITS(re, &s->gb, 2);
295             if (((int32_t)GET_CACHE(re, &s->gb)) <= (int32_t)0xBFFFFFFF)
296                 goto end;
297         }
298
299         /* now quantify & encode AC coefficients */
300         for (;;) {
301             GET_RL_VLC(level, run, re, &s->gb, rl->rl_vlc[0], TEX_VLC_BITS, 2, 0);
302
303             if (level != 0) {
304                 i += run;
305                 j = scantable[i];
306                 level = ((level * 2 + 1) * qscale) >> 1;
307                 level = (level - 1) | 1;
308                 level = (level ^ SHOW_SBITS(re, &s->gb, 1)) - SHOW_SBITS(re, &s->gb, 1);
309                 SKIP_BITS(re, &s->gb, 1);
310             } else {
311                 /* escape */
312                 run = SHOW_UBITS(re, &s->gb, 6)+1; LAST_SKIP_BITS(re, &s->gb, 6);
313                 UPDATE_CACHE(re, &s->gb);
314                 level = SHOW_SBITS(re, &s->gb, 8); SKIP_BITS(re, &s->gb, 8);
315                 if (level == -128) {
316                     level = SHOW_UBITS(re, &s->gb, 8) - 256; SKIP_BITS(re, &s->gb, 8);
317                 } else if (level == 0) {
318                     level = SHOW_UBITS(re, &s->gb, 8)      ; SKIP_BITS(re, &s->gb, 8);
319                 }
320                 i += run;
321                 j = scantable[i];
322                 if (level < 0) {
323                     level = -level;
324                     level = ((level * 2 + 1) * qscale) >> 1;
325                     level = (level - 1) | 1;
326                     level = -level;
327                 } else {
328                     level = ((level * 2 + 1) * qscale) >> 1;
329                     level = (level - 1) | 1;
330                 }
331             }
332
333             block[j] = level;
334             if (((int32_t)GET_CACHE(re, &s->gb)) <= (int32_t)0xBFFFFFFF)
335                 break;
336             UPDATE_CACHE(re, &s->gb);
337         }
338 end:
339         LAST_SKIP_BITS(re, &s->gb, 2);
340         CLOSE_READER(re, &s->gb);
341     }
342     s->block_last_index[n] = i;
343     return 0;
344 }
345
346
347 static inline int mpeg2_decode_block_non_intra(MpegEncContext *s, int16_t *block, int n)
348 {
349     int level, i, j, run;
350     RLTable *rl = &ff_rl_mpeg1;
351     uint8_t * const scantable = s->intra_scantable.permutated;
352     const uint16_t *quant_matrix;
353     const int qscale = s->qscale;
354     int mismatch;
355
356     mismatch = 1;
357
358     {
359         OPEN_READER(re, &s->gb);
360         i = -1;
361         if (n < 4)
362             quant_matrix = s->inter_matrix;
363         else
364             quant_matrix = s->chroma_inter_matrix;
365
366         // special case for first coefficient, no need to add second VLC table
367         UPDATE_CACHE(re, &s->gb);
368         if (((int32_t)GET_CACHE(re, &s->gb)) < 0) {
369             level= (3 * qscale * quant_matrix[0]) >> 5;
370             if (GET_CACHE(re, &s->gb) & 0x40000000)
371                 level = -level;
372             block[0]  = level;
373             mismatch ^= level;
374             i++;
375             SKIP_BITS(re, &s->gb, 2);
376             if (((int32_t)GET_CACHE(re, &s->gb)) <= (int32_t)0xBFFFFFFF)
377                 goto end;
378         }
379
380         /* now quantify & encode AC coefficients */
381         for (;;) {
382             GET_RL_VLC(level, run, re, &s->gb, rl->rl_vlc[0], TEX_VLC_BITS, 2, 0);
383
384             if (level != 0) {
385                 i += run;
386                 j = scantable[i];
387                 level = ((level * 2 + 1) * qscale * quant_matrix[j]) >> 5;
388                 level = (level ^ SHOW_SBITS(re, &s->gb, 1)) - SHOW_SBITS(re, &s->gb, 1);
389                 SKIP_BITS(re, &s->gb, 1);
390             } else {
391                 /* escape */
392                 run = SHOW_UBITS(re, &s->gb, 6) + 1; LAST_SKIP_BITS(re, &s->gb, 6);
393                 UPDATE_CACHE(re, &s->gb);
394                 level = SHOW_SBITS(re, &s->gb, 12); SKIP_BITS(re, &s->gb, 12);
395
396                 i += run;
397                 j = scantable[i];
398                 if (level < 0) {
399                     level = ((-level * 2 + 1) * qscale * quant_matrix[j]) >> 5;
400                     level = -level;
401                 } else {
402                     level = ((level * 2 + 1) * qscale * quant_matrix[j]) >> 5;
403                 }
404             }
405             if (i > 63) {
406                 av_log(s->avctx, AV_LOG_ERROR, "ac-tex damaged at %d %d\n", s->mb_x, s->mb_y);
407                 return -1;
408             }
409
410             mismatch ^= level;
411             block[j]  = level;
412             if (((int32_t)GET_CACHE(re, &s->gb)) <= (int32_t)0xBFFFFFFF)
413                 break;
414             UPDATE_CACHE(re, &s->gb);
415         }
416 end:
417         LAST_SKIP_BITS(re, &s->gb, 2);
418         CLOSE_READER(re, &s->gb);
419     }
420     block[63] ^= (mismatch & 1);
421
422     s->block_last_index[n] = i;
423     return 0;
424 }
425
426 /**
427  * Note: this function can read out of range and crash for corrupt streams.
428  * Changing this would eat up any speed benefits it has.
429  * Do not use "fast" flag if you need the code to be robust.
430  */
431 static inline int mpeg2_fast_decode_block_non_intra(MpegEncContext *s,
432                                                     int16_t *block, int n)
433 {
434     int level, i, j, run;
435     RLTable *rl = &ff_rl_mpeg1;
436     uint8_t * const scantable = s->intra_scantable.permutated;
437     const int qscale          = s->qscale;
438     OPEN_READER(re, &s->gb);
439     i = -1;
440
441     // special case for first coefficient, no need to add second VLC table
442     UPDATE_CACHE(re, &s->gb);
443     if (((int32_t)GET_CACHE(re, &s->gb)) < 0) {
444         level = (3 * qscale) >> 1;
445         if (GET_CACHE(re, &s->gb) & 0x40000000)
446             level = -level;
447         block[0] = level;
448         i++;
449         SKIP_BITS(re, &s->gb, 2);
450         if (((int32_t)GET_CACHE(re, &s->gb)) <= (int32_t)0xBFFFFFFF)
451             goto end;
452     }
453
454     /* now quantify & encode AC coefficients */
455     for (;;) {
456         GET_RL_VLC(level, run, re, &s->gb, rl->rl_vlc[0], TEX_VLC_BITS, 2, 0);
457
458         if (level != 0) {
459             i += run;
460             j  = scantable[i];
461             level = ((level * 2 + 1) * qscale) >> 1;
462             level = (level ^ SHOW_SBITS(re, &s->gb, 1)) - SHOW_SBITS(re, &s->gb, 1);
463             SKIP_BITS(re, &s->gb, 1);
464         } else {
465             /* escape */
466             run = SHOW_UBITS(re, &s->gb, 6) + 1; LAST_SKIP_BITS(re, &s->gb, 6);
467             UPDATE_CACHE(re, &s->gb);
468             level = SHOW_SBITS(re, &s->gb, 12); SKIP_BITS(re, &s->gb, 12);
469
470             i += run;
471             j  = scantable[i];
472             if (level < 0) {
473                 level = ((-level * 2 + 1) * qscale) >> 1;
474                 level = -level;
475             } else {
476                 level = ((level * 2 + 1) * qscale) >> 1;
477             }
478         }
479
480         block[j] = level;
481         if (((int32_t)GET_CACHE(re, &s->gb)) <= (int32_t)0xBFFFFFFF)
482             break;
483         UPDATE_CACHE(re, &s->gb);
484     }
485 end:
486     LAST_SKIP_BITS(re, &s->gb, 2);
487     CLOSE_READER(re, &s->gb);
488     s->block_last_index[n] = i;
489     return 0;
490 }
491
492
493 static inline int mpeg2_decode_block_intra(MpegEncContext *s, int16_t *block, int n)
494 {
495     int level, dc, diff, i, j, run;
496     int component;
497     RLTable *rl;
498     uint8_t * const scantable = s->intra_scantable.permutated;
499     const uint16_t *quant_matrix;
500     const int qscale = s->qscale;
501     int mismatch;
502
503     /* DC coefficient */
504     if (n < 4) {
505         quant_matrix = s->intra_matrix;
506         component = 0;
507     } else {
508         quant_matrix = s->chroma_intra_matrix;
509         component = (n & 1) + 1;
510     }
511     diff = decode_dc(&s->gb, component);
512     if (diff >= 0xffff)
513         return -1;
514     dc  = s->last_dc[component];
515     dc += diff;
516     s->last_dc[component] = dc;
517     block[0] = dc << (3 - s->intra_dc_precision);
518     av_dlog(s->avctx, "dc=%d\n", block[0]);
519     mismatch = block[0] ^ 1;
520     i = 0;
521     if (s->intra_vlc_format)
522         rl = &ff_rl_mpeg2;
523     else
524         rl = &ff_rl_mpeg1;
525
526     {
527         OPEN_READER(re, &s->gb);
528         /* now quantify & encode AC coefficients */
529         for (;;) {
530             UPDATE_CACHE(re, &s->gb);
531             GET_RL_VLC(level, run, re, &s->gb, rl->rl_vlc[0], TEX_VLC_BITS, 2, 0);
532
533             if (level == 127) {
534                 break;
535             } else if (level != 0) {
536                 i += run;
537                 j  = scantable[i];
538                 level = (level * qscale * quant_matrix[j]) >> 4;
539                 level = (level ^ SHOW_SBITS(re, &s->gb, 1)) - SHOW_SBITS(re, &s->gb, 1);
540                 LAST_SKIP_BITS(re, &s->gb, 1);
541             } else {
542                 /* escape */
543                 run = SHOW_UBITS(re, &s->gb, 6) + 1; LAST_SKIP_BITS(re, &s->gb, 6);
544                 UPDATE_CACHE(re, &s->gb);
545                 level = SHOW_SBITS(re, &s->gb, 12); SKIP_BITS(re, &s->gb, 12);
546                 i += run;
547                 j  = scantable[i];
548                 if (level < 0) {
549                     level = (-level * qscale * quant_matrix[j]) >> 4;
550                     level = -level;
551                 } else {
552                     level = (level * qscale * quant_matrix[j]) >> 4;
553                 }
554             }
555             if (i > 63) {
556                 av_log(s->avctx, AV_LOG_ERROR, "ac-tex damaged at %d %d\n", s->mb_x, s->mb_y);
557                 return -1;
558             }
559
560             mismatch ^= level;
561             block[j]  = level;
562         }
563         CLOSE_READER(re, &s->gb);
564     }
565     block[63] ^= mismatch & 1;
566
567     s->block_last_index[n] = i;
568     return 0;
569 }
570
571 /**
572  * Note: this function can read out of range and crash for corrupt streams.
573  * Changing this would eat up any speed benefits it has.
574  * Do not use "fast" flag if you need the code to be robust.
575  */
576 static inline int mpeg2_fast_decode_block_intra(MpegEncContext *s, int16_t *block, int n)
577 {
578     int level, dc, diff, j, run;
579     int component;
580     RLTable *rl;
581     uint8_t * scantable = s->intra_scantable.permutated;
582     const uint16_t *quant_matrix;
583     const int qscale = s->qscale;
584
585     /* DC coefficient */
586     if (n < 4) {
587         quant_matrix = s->intra_matrix;
588         component = 0;
589     } else {
590         quant_matrix = s->chroma_intra_matrix;
591         component = (n & 1) + 1;
592     }
593     diff = decode_dc(&s->gb, component);
594     if (diff >= 0xffff)
595         return -1;
596     dc = s->last_dc[component];
597     dc += diff;
598     s->last_dc[component] = dc;
599     block[0] = dc << (3 - s->intra_dc_precision);
600     if (s->intra_vlc_format)
601         rl = &ff_rl_mpeg2;
602     else
603         rl = &ff_rl_mpeg1;
604
605     {
606         OPEN_READER(re, &s->gb);
607         /* now quantify & encode AC coefficients */
608         for (;;) {
609             UPDATE_CACHE(re, &s->gb);
610             GET_RL_VLC(level, run, re, &s->gb, rl->rl_vlc[0], TEX_VLC_BITS, 2, 0);
611
612             if (level == 127) {
613                 break;
614             } else if (level != 0) {
615                 scantable += run;
616                 j = *scantable;
617                 level = (level * qscale * quant_matrix[j]) >> 4;
618                 level = (level ^ SHOW_SBITS(re, &s->gb, 1)) - SHOW_SBITS(re, &s->gb, 1);
619                 LAST_SKIP_BITS(re, &s->gb, 1);
620             } else {
621                 /* escape */
622                 run = SHOW_UBITS(re, &s->gb, 6) + 1; LAST_SKIP_BITS(re, &s->gb, 6);
623                 UPDATE_CACHE(re, &s->gb);
624                 level = SHOW_SBITS(re, &s->gb, 12); SKIP_BITS(re, &s->gb, 12);
625                 scantable += run;
626                 j = *scantable;
627                 if (level < 0) {
628                     level = (-level * qscale * quant_matrix[j]) >> 4;
629                     level = -level;
630                 } else {
631                     level = (level * qscale * quant_matrix[j]) >> 4;
632                 }
633             }
634
635             block[j] = level;
636         }
637         CLOSE_READER(re, &s->gb);
638     }
639
640     s->block_last_index[n] = scantable - s->intra_scantable.permutated;
641     return 0;
642 }
643
644 /******************************************/
645 /* decoding */
646
647 static inline int get_dmv(MpegEncContext *s)
648 {
649     if (get_bits1(&s->gb))
650         return 1 - (get_bits1(&s->gb) << 1);
651     else
652         return 0;
653 }
654
655 static inline int get_qscale(MpegEncContext *s)
656 {
657     int qscale = get_bits(&s->gb, 5);
658     if (s->q_scale_type) {
659         return non_linear_qscale[qscale];
660     } else {
661         return qscale << 1;
662     }
663 }
664
665 static void exchange_uv(MpegEncContext *s)
666 {
667     int16_t (*tmp)[64];
668
669     tmp           = s->pblocks[4];
670     s->pblocks[4] = s->pblocks[5];
671     s->pblocks[5] = tmp;
672 }
673
674 /* motion type (for MPEG-2) */
675 #define MT_FIELD 1
676 #define MT_FRAME 2
677 #define MT_16X8  2
678 #define MT_DMV   3
679
680 static int mpeg_decode_mb(MpegEncContext *s, int16_t block[12][64])
681 {
682     int i, j, k, cbp, val, mb_type, motion_type;
683     const int mb_block_count = 4 + (1 << s->chroma_format);
684
685     av_dlog(s->avctx, "decode_mb: x=%d y=%d\n", s->mb_x, s->mb_y);
686
687     av_assert2(s->mb_skipped == 0);
688
689     if (s->mb_skip_run-- != 0) {
690         if (s->pict_type == AV_PICTURE_TYPE_P) {
691             s->mb_skipped = 1;
692             s->current_picture.mb_type[s->mb_x + s->mb_y * s->mb_stride] = MB_TYPE_SKIP | MB_TYPE_L0 | MB_TYPE_16x16;
693         } else {
694             int mb_type;
695
696             if (s->mb_x)
697                 mb_type = s->current_picture.mb_type[s->mb_x + s->mb_y * s->mb_stride - 1];
698             else
699                 mb_type = s->current_picture.mb_type[s->mb_width + (s->mb_y - 1) * s->mb_stride - 1]; // FIXME not sure if this is allowed in MPEG at all
700             if (IS_INTRA(mb_type)) {
701                 av_log(s->avctx, AV_LOG_ERROR, "skip with previntra\n");
702                 return -1;
703             }
704             s->current_picture.mb_type[s->mb_x + s->mb_y*s->mb_stride] =
705                 mb_type | MB_TYPE_SKIP;
706
707             if ((s->mv[0][0][0] | s->mv[0][0][1] | s->mv[1][0][0] | s->mv[1][0][1]) == 0)
708                 s->mb_skipped = 1;
709         }
710
711         return 0;
712     }
713
714     switch (s->pict_type) {
715     default:
716     case AV_PICTURE_TYPE_I:
717         if (get_bits1(&s->gb) == 0) {
718             if (get_bits1(&s->gb) == 0) {
719                 av_log(s->avctx, AV_LOG_ERROR, "invalid mb type in I Frame at %d %d\n", s->mb_x, s->mb_y);
720                 return -1;
721             }
722             mb_type = MB_TYPE_QUANT | MB_TYPE_INTRA;
723         } else {
724             mb_type = MB_TYPE_INTRA;
725         }
726         break;
727     case AV_PICTURE_TYPE_P:
728         mb_type = get_vlc2(&s->gb, ff_mb_ptype_vlc.table, MB_PTYPE_VLC_BITS, 1);
729         if (mb_type < 0) {
730             av_log(s->avctx, AV_LOG_ERROR, "invalid mb type in P Frame at %d %d\n", s->mb_x, s->mb_y);
731             return -1;
732         }
733         mb_type = ptype2mb_type[mb_type];
734         break;
735     case AV_PICTURE_TYPE_B:
736         mb_type = get_vlc2(&s->gb, ff_mb_btype_vlc.table, MB_BTYPE_VLC_BITS, 1);
737         if (mb_type < 0) {
738             av_log(s->avctx, AV_LOG_ERROR, "invalid mb type in B Frame at %d %d\n", s->mb_x, s->mb_y);
739             return -1;
740         }
741         mb_type = btype2mb_type[mb_type];
742         break;
743     }
744     av_dlog(s->avctx, "mb_type=%x\n", mb_type);
745 //    motion_type = 0; /* avoid warning */
746     if (IS_INTRA(mb_type)) {
747         s->dsp.clear_blocks(s->block[0]);
748
749         if (!s->chroma_y_shift) {
750             s->dsp.clear_blocks(s->block[6]);
751         }
752
753         /* compute DCT type */
754         if (s->picture_structure == PICT_FRAME && // FIXME add an interlaced_dct coded var?
755             !s->frame_pred_frame_dct) {
756             s->interlaced_dct = get_bits1(&s->gb);
757         }
758
759         if (IS_QUANT(mb_type))
760             s->qscale = get_qscale(s);
761
762         if (s->concealment_motion_vectors) {
763             /* just parse them */
764             if (s->picture_structure != PICT_FRAME)
765                 skip_bits1(&s->gb); /* field select */
766
767             s->mv[0][0][0]= s->last_mv[0][0][0]= s->last_mv[0][1][0] =
768                 mpeg_decode_motion(s, s->mpeg_f_code[0][0], s->last_mv[0][0][0]);
769             s->mv[0][0][1]= s->last_mv[0][0][1]= s->last_mv[0][1][1] =
770                 mpeg_decode_motion(s, s->mpeg_f_code[0][1], s->last_mv[0][0][1]);
771
772             skip_bits1(&s->gb); /* marker */
773         } else
774             memset(s->last_mv, 0, sizeof(s->last_mv)); /* reset mv prediction */
775         s->mb_intra = 1;
776         // if 1, we memcpy blocks in xvmcvideo
777         if (CONFIG_MPEG_XVMC_DECODER && s->avctx->xvmc_acceleration > 1) {
778             ff_xvmc_pack_pblocks(s, -1); // inter are always full blocks
779             if (s->swap_uv) {
780                 exchange_uv(s);
781             }
782         }
783
784         if (s->codec_id == AV_CODEC_ID_MPEG2VIDEO) {
785             if (s->flags2 & CODEC_FLAG2_FAST) {
786                 for (i = 0; i < 6; i++) {
787                     mpeg2_fast_decode_block_intra(s, *s->pblocks[i], i);
788                 }
789             } else {
790                 for (i = 0; i < mb_block_count; i++) {
791                     if (mpeg2_decode_block_intra(s, *s->pblocks[i], i) < 0)
792                         return -1;
793                 }
794             }
795         } else {
796             for (i = 0; i < 6; i++) {
797                 if (mpeg1_decode_block_intra(s, *s->pblocks[i], i) < 0)
798                     return -1;
799             }
800         }
801     } else {
802         if (mb_type & MB_TYPE_ZERO_MV) {
803             av_assert2(mb_type & MB_TYPE_CBP);
804
805             s->mv_dir = MV_DIR_FORWARD;
806             if (s->picture_structure == PICT_FRAME) {
807                 if (s->picture_structure == PICT_FRAME
808                     && !s->frame_pred_frame_dct)
809                     s->interlaced_dct = get_bits1(&s->gb);
810                 s->mv_type = MV_TYPE_16X16;
811             } else {
812                 s->mv_type = MV_TYPE_FIELD;
813                 mb_type |= MB_TYPE_INTERLACED;
814                 s->field_select[0][0] = s->picture_structure - 1;
815             }
816
817             if (IS_QUANT(mb_type))
818                 s->qscale = get_qscale(s);
819
820             s->last_mv[0][0][0] = 0;
821             s->last_mv[0][0][1] = 0;
822             s->last_mv[0][1][0] = 0;
823             s->last_mv[0][1][1] = 0;
824             s->mv[0][0][0] = 0;
825             s->mv[0][0][1] = 0;
826         } else {
827             av_assert2(mb_type & MB_TYPE_L0L1);
828             // FIXME decide if MBs in field pictures are MB_TYPE_INTERLACED
829             /* get additional motion vector type */
830             if (s->picture_structure == PICT_FRAME && s->frame_pred_frame_dct)
831                 motion_type = MT_FRAME;
832             else {
833                 motion_type = get_bits(&s->gb, 2);
834                 if (s->picture_structure == PICT_FRAME && HAS_CBP(mb_type))
835                     s->interlaced_dct = get_bits1(&s->gb);
836             }
837
838             if (IS_QUANT(mb_type))
839                 s->qscale = get_qscale(s);
840
841             /* motion vectors */
842             s->mv_dir = (mb_type >> 13) & 3;
843             av_dlog(s->avctx, "motion_type=%d\n", motion_type);
844             switch (motion_type) {
845             case MT_FRAME: /* or MT_16X8 */
846                 if (s->picture_structure == PICT_FRAME) {
847                     mb_type |= MB_TYPE_16x16;
848                     s->mv_type = MV_TYPE_16X16;
849                     for (i = 0; i < 2; i++) {
850                         if (USES_LIST(mb_type, i)) {
851                             /* MT_FRAME */
852                             s->mv[i][0][0]= s->last_mv[i][0][0]= s->last_mv[i][1][0] =
853                                 mpeg_decode_motion(s, s->mpeg_f_code[i][0], s->last_mv[i][0][0]);
854                             s->mv[i][0][1]= s->last_mv[i][0][1]= s->last_mv[i][1][1] =
855                                 mpeg_decode_motion(s, s->mpeg_f_code[i][1], s->last_mv[i][0][1]);
856                             /* full_pel: only for MPEG-1 */
857                             if (s->full_pel[i]) {
858                                 s->mv[i][0][0] <<= 1;
859                                 s->mv[i][0][1] <<= 1;
860                             }
861                         }
862                     }
863                 } else {
864                     mb_type |= MB_TYPE_16x8 | MB_TYPE_INTERLACED;
865                     s->mv_type = MV_TYPE_16X8;
866                     for (i = 0; i < 2; i++) {
867                         if (USES_LIST(mb_type, i)) {
868                             /* MT_16X8 */
869                             for (j = 0; j < 2; j++) {
870                                 s->field_select[i][j] = get_bits1(&s->gb);
871                                 for (k = 0; k < 2; k++) {
872                                     val = mpeg_decode_motion(s, s->mpeg_f_code[i][k],
873                                                              s->last_mv[i][j][k]);
874                                     s->last_mv[i][j][k] = val;
875                                     s->mv[i][j][k]      = val;
876                                 }
877                             }
878                         }
879                     }
880                 }
881                 break;
882             case MT_FIELD:
883                 s->mv_type = MV_TYPE_FIELD;
884                 if (s->picture_structure == PICT_FRAME) {
885                     mb_type |= MB_TYPE_16x8 | MB_TYPE_INTERLACED;
886                     for (i = 0; i < 2; i++) {
887                         if (USES_LIST(mb_type, i)) {
888                             for (j = 0; j < 2; j++) {
889                                 s->field_select[i][j] = get_bits1(&s->gb);
890                                 val = mpeg_decode_motion(s, s->mpeg_f_code[i][0],
891                                                          s->last_mv[i][j][0]);
892                                 s->last_mv[i][j][0] = val;
893                                 s->mv[i][j][0]      = val;
894                                 av_dlog(s->avctx, "fmx=%d\n", val);
895                                 val = mpeg_decode_motion(s, s->mpeg_f_code[i][1],
896                                                          s->last_mv[i][j][1] >> 1);
897                                 s->last_mv[i][j][1] = val << 1;
898                                 s->mv[i][j][1]      = val;
899                                 av_dlog(s->avctx, "fmy=%d\n", val);
900                             }
901                         }
902                     }
903                 } else {
904                     av_assert0(!s->progressive_sequence);
905                     mb_type |= MB_TYPE_16x16 | MB_TYPE_INTERLACED;
906                     for (i = 0; i < 2; i++) {
907                         if (USES_LIST(mb_type, i)) {
908                             s->field_select[i][0] = get_bits1(&s->gb);
909                             for (k = 0; k < 2; k++) {
910                                 val = mpeg_decode_motion(s, s->mpeg_f_code[i][k],
911                                                          s->last_mv[i][0][k]);
912                                 s->last_mv[i][0][k] = val;
913                                 s->last_mv[i][1][k] = val;
914                                 s->mv[i][0][k]      = val;
915                             }
916                         }
917                     }
918                 }
919                 break;
920             case MT_DMV:
921                 if(s->progressive_sequence){
922                     av_log(s->avctx, AV_LOG_ERROR, "MT_DMV in progressive_sequence\n");
923                     return -1;
924                 }
925                 s->mv_type = MV_TYPE_DMV;
926                 for (i = 0; i < 2; i++) {
927                     if (USES_LIST(mb_type, i)) {
928                         int dmx, dmy, mx, my, m;
929                         const int my_shift = s->picture_structure == PICT_FRAME;
930
931                         mx = mpeg_decode_motion(s, s->mpeg_f_code[i][0],
932                                                 s->last_mv[i][0][0]);
933                         s->last_mv[i][0][0] = mx;
934                         s->last_mv[i][1][0] = mx;
935                         dmx = get_dmv(s);
936                         my  = mpeg_decode_motion(s, s->mpeg_f_code[i][1],
937                                                  s->last_mv[i][0][1] >> my_shift);
938                         dmy = get_dmv(s);
939
940
941                         s->last_mv[i][0][1] = my << my_shift;
942                         s->last_mv[i][1][1] = my << my_shift;
943
944                         s->mv[i][0][0] = mx;
945                         s->mv[i][0][1] = my;
946                         s->mv[i][1][0] = mx; // not used
947                         s->mv[i][1][1] = my; // not used
948
949                         if (s->picture_structure == PICT_FRAME) {
950                             mb_type |= MB_TYPE_16x16 | MB_TYPE_INTERLACED;
951
952                             // m = 1 + 2 * s->top_field_first;
953                             m = s->top_field_first ? 1 : 3;
954
955                             /* top -> top pred */
956                             s->mv[i][2][0] = ((mx * m + (mx > 0)) >> 1) + dmx;
957                             s->mv[i][2][1] = ((my * m + (my > 0)) >> 1) + dmy - 1;
958                             m = 4 - m;
959                             s->mv[i][3][0] = ((mx * m + (mx > 0)) >> 1) + dmx;
960                             s->mv[i][3][1] = ((my * m + (my > 0)) >> 1) + dmy + 1;
961                         } else {
962                             mb_type |= MB_TYPE_16x16;
963
964                             s->mv[i][2][0] = ((mx + (mx > 0)) >> 1) + dmx;
965                             s->mv[i][2][1] = ((my + (my > 0)) >> 1) + dmy;
966                             if (s->picture_structure == PICT_TOP_FIELD)
967                                 s->mv[i][2][1]--;
968                             else
969                                 s->mv[i][2][1]++;
970                         }
971                     }
972                 }
973                 break;
974             default:
975                 av_log(s->avctx, AV_LOG_ERROR, "00 motion_type at %d %d\n", s->mb_x, s->mb_y);
976                 return -1;
977             }
978         }
979
980         s->mb_intra = 0;
981         if (HAS_CBP(mb_type)) {
982             s->dsp.clear_blocks(s->block[0]);
983
984             cbp = get_vlc2(&s->gb, ff_mb_pat_vlc.table, MB_PAT_VLC_BITS, 1);
985             if (mb_block_count > 6) {
986                  cbp <<= mb_block_count - 6;
987                  cbp  |= get_bits(&s->gb, mb_block_count - 6);
988                  s->dsp.clear_blocks(s->block[6]);
989             }
990             if (cbp <= 0) {
991                 av_log(s->avctx, AV_LOG_ERROR, "invalid cbp %d at %d %d\n", cbp, s->mb_x, s->mb_y);
992                 return -1;
993             }
994
995             //if 1, we memcpy blocks in xvmcvideo
996             if (CONFIG_MPEG_XVMC_DECODER && s->avctx->xvmc_acceleration > 1) {
997                 ff_xvmc_pack_pblocks(s, cbp);
998                 if (s->swap_uv) {
999                     exchange_uv(s);
1000                 }
1001             }
1002
1003             if (s->codec_id == AV_CODEC_ID_MPEG2VIDEO) {
1004                 if (s->flags2 & CODEC_FLAG2_FAST) {
1005                     for (i = 0; i < 6; i++) {
1006                         if (cbp & 32) {
1007                             mpeg2_fast_decode_block_non_intra(s, *s->pblocks[i], i);
1008                         } else {
1009                             s->block_last_index[i] = -1;
1010                         }
1011                         cbp += cbp;
1012                     }
1013                 } else {
1014                     cbp <<= 12-mb_block_count;
1015
1016                     for (i = 0; i < mb_block_count; i++) {
1017                         if (cbp & (1 << 11)) {
1018                             if (mpeg2_decode_block_non_intra(s, *s->pblocks[i], i) < 0)
1019                                 return -1;
1020                         } else {
1021                             s->block_last_index[i] = -1;
1022                         }
1023                         cbp += cbp;
1024                     }
1025                 }
1026             } else {
1027                 if (s->flags2 & CODEC_FLAG2_FAST) {
1028                     for (i = 0; i < 6; i++) {
1029                         if (cbp & 32) {
1030                             mpeg1_fast_decode_block_inter(s, *s->pblocks[i], i);
1031                         } else {
1032                             s->block_last_index[i] = -1;
1033                         }
1034                         cbp += cbp;
1035                     }
1036                 } else {
1037                     for (i = 0; i < 6; i++) {
1038                         if (cbp & 32) {
1039                             if (mpeg1_decode_block_inter(s, *s->pblocks[i], i) < 0)
1040                                 return -1;
1041                         } else {
1042                             s->block_last_index[i] = -1;
1043                         }
1044                         cbp += cbp;
1045                     }
1046                 }
1047             }
1048         } else {
1049             for (i = 0; i < 12; i++)
1050                 s->block_last_index[i] = -1;
1051         }
1052     }
1053
1054     s->current_picture.mb_type[s->mb_x + s->mb_y * s->mb_stride] = mb_type;
1055
1056     return 0;
1057 }
1058
1059 static av_cold int mpeg_decode_init(AVCodecContext *avctx)
1060 {
1061     Mpeg1Context *s = avctx->priv_data;
1062     MpegEncContext *s2 = &s->mpeg_enc_ctx;
1063     int i;
1064
1065     /* we need some permutation to store matrices,
1066      * until MPV_common_init() sets the real permutation. */
1067     for (i = 0; i < 64; i++)
1068        s2->dsp.idct_permutation[i]=i;
1069
1070     ff_MPV_decode_defaults(s2);
1071
1072     s->mpeg_enc_ctx.avctx  = avctx;
1073     s->mpeg_enc_ctx.flags  = avctx->flags;
1074     s->mpeg_enc_ctx.flags2 = avctx->flags2;
1075     ff_mpeg12_common_init(&s->mpeg_enc_ctx);
1076     ff_mpeg12_init_vlcs();
1077
1078     s->mpeg_enc_ctx_allocated      = 0;
1079     s->mpeg_enc_ctx.picture_number = 0;
1080     s->repeat_field                = 0;
1081     s->mpeg_enc_ctx.codec_id       = avctx->codec->id;
1082     avctx->color_range = AVCOL_RANGE_MPEG;
1083     if (avctx->codec->id == AV_CODEC_ID_MPEG1VIDEO)
1084         avctx->chroma_sample_location = AVCHROMA_LOC_CENTER;
1085     else
1086         avctx->chroma_sample_location = AVCHROMA_LOC_LEFT;
1087     return 0;
1088 }
1089
1090 static int mpeg_decode_update_thread_context(AVCodecContext *avctx, const AVCodecContext *avctx_from)
1091 {
1092     Mpeg1Context *ctx = avctx->priv_data, *ctx_from = avctx_from->priv_data;
1093     MpegEncContext *s = &ctx->mpeg_enc_ctx, *s1 = &ctx_from->mpeg_enc_ctx;
1094     int err;
1095
1096     if (avctx == avctx_from || !ctx_from->mpeg_enc_ctx_allocated || !s1->context_initialized)
1097         return 0;
1098
1099     err = ff_mpeg_update_thread_context(avctx, avctx_from);
1100     if (err) return err;
1101
1102     if (!ctx->mpeg_enc_ctx_allocated)
1103         memcpy(s + 1, s1 + 1, sizeof(Mpeg1Context) - sizeof(MpegEncContext));
1104
1105     if (!(s->pict_type == AV_PICTURE_TYPE_B || s->low_delay))
1106         s->picture_number++;
1107
1108     return 0;
1109 }
1110
1111 static void quant_matrix_rebuild(uint16_t *matrix, const uint8_t *old_perm,
1112                                  const uint8_t *new_perm)
1113 {
1114     uint16_t temp_matrix[64];
1115     int i;
1116
1117     memcpy(temp_matrix, matrix, 64 * sizeof(uint16_t));
1118
1119     for (i = 0; i < 64; i++) {
1120         matrix[new_perm[i]] = temp_matrix[old_perm[i]];
1121     }
1122 }
1123
1124 static const enum AVPixelFormat mpeg1_hwaccel_pixfmt_list_420[] = {
1125 #if CONFIG_MPEG_XVMC_DECODER
1126     AV_PIX_FMT_XVMC_MPEG2_IDCT,
1127     AV_PIX_FMT_XVMC_MPEG2_MC,
1128 #endif
1129 #if CONFIG_MPEG1_VDPAU_HWACCEL
1130     AV_PIX_FMT_VDPAU_MPEG1,
1131     AV_PIX_FMT_VDPAU,
1132 #endif
1133     AV_PIX_FMT_YUV420P,
1134     AV_PIX_FMT_NONE
1135 };
1136
1137 static const enum AVPixelFormat mpeg2_hwaccel_pixfmt_list_420[] = {
1138 #if CONFIG_MPEG_XVMC_DECODER
1139     AV_PIX_FMT_XVMC_MPEG2_IDCT,
1140     AV_PIX_FMT_XVMC_MPEG2_MC,
1141 #endif
1142 #if CONFIG_MPEG2_VDPAU_HWACCEL
1143     AV_PIX_FMT_VDPAU_MPEG2,
1144     AV_PIX_FMT_VDPAU,
1145 #endif
1146 #if CONFIG_MPEG2_DXVA2_HWACCEL
1147     AV_PIX_FMT_DXVA2_VLD,
1148 #endif
1149 #if CONFIG_MPEG2_VAAPI_HWACCEL
1150     AV_PIX_FMT_VAAPI_VLD,
1151 #endif
1152     AV_PIX_FMT_YUV420P,
1153     AV_PIX_FMT_NONE
1154 };
1155
1156 static inline int uses_vdpau(AVCodecContext *avctx) {
1157     return avctx->pix_fmt == AV_PIX_FMT_VDPAU_MPEG1 || avctx->pix_fmt == AV_PIX_FMT_VDPAU_MPEG2;
1158 }
1159
1160 static enum AVPixelFormat mpeg_get_pixelformat(AVCodecContext *avctx)
1161 {
1162     Mpeg1Context *s1 = avctx->priv_data;
1163     MpegEncContext *s = &s1->mpeg_enc_ctx;
1164
1165     if(s->chroma_format < 2) {
1166         return ff_thread_get_format(avctx,
1167                                 avctx->codec_id == AV_CODEC_ID_MPEG1VIDEO ?
1168                                 mpeg1_hwaccel_pixfmt_list_420 :
1169                                 mpeg2_hwaccel_pixfmt_list_420);
1170     } else if(s->chroma_format == 2)
1171         return AV_PIX_FMT_YUV422P;
1172     else
1173         return AV_PIX_FMT_YUV444P;
1174 }
1175
1176 static void setup_hwaccel_for_pixfmt(AVCodecContext *avctx)
1177 {
1178     if (avctx->pix_fmt != AV_PIX_FMT_XVMC_MPEG2_IDCT && avctx->pix_fmt != AV_PIX_FMT_XVMC_MPEG2_MC) {
1179         avctx->xvmc_acceleration = 0;
1180     } else if (!avctx->xvmc_acceleration) {
1181         avctx->xvmc_acceleration = 2;
1182     }
1183     avctx->hwaccel = ff_find_hwaccel(avctx->codec->id, avctx->pix_fmt);
1184     // until then pix_fmt may be changed right after codec init
1185     if (avctx->pix_fmt == AV_PIX_FMT_XVMC_MPEG2_IDCT ||
1186         avctx->hwaccel || uses_vdpau(avctx))
1187         if (avctx->idct_algo == FF_IDCT_AUTO)
1188             avctx->idct_algo = FF_IDCT_SIMPLE;
1189 }
1190
1191 /* Call this function when we know all parameters.
1192  * It may be called in different places for MPEG-1 and MPEG-2. */
1193 static int mpeg_decode_postinit(AVCodecContext *avctx)
1194 {
1195     Mpeg1Context *s1 = avctx->priv_data;
1196     MpegEncContext *s = &s1->mpeg_enc_ctx;
1197     uint8_t old_permutation[64];
1198     int ret;
1199
1200     if ((s1->mpeg_enc_ctx_allocated == 0) ||
1201         avctx->coded_width  != s->width   ||
1202         avctx->coded_height != s->height  ||
1203         s1->save_width           != s->width                ||
1204         s1->save_height          != s->height               ||
1205         s1->save_aspect_info     != s->aspect_ratio_info    ||
1206         (s1->save_progressive_seq != s->progressive_sequence && (s->height&31)) ||
1207         0)
1208     {
1209
1210         if (s1->mpeg_enc_ctx_allocated) {
1211             ParseContext pc = s->parse_context;
1212             s->parse_context.buffer = 0;
1213             ff_MPV_common_end(s);
1214             s->parse_context = pc;
1215             s1->mpeg_enc_ctx_allocated = 0;
1216         }
1217
1218         if ((s->width == 0) || (s->height == 0))
1219             return -2;
1220
1221         ret = ff_set_dimensions(avctx, s->width, s->height);
1222         if (ret < 0)
1223             return ret;
1224
1225         if (avctx->codec_id == AV_CODEC_ID_MPEG2VIDEO && s->bit_rate) {
1226             avctx->rc_max_rate = s->bit_rate;
1227         } else if (avctx->codec_id == AV_CODEC_ID_MPEG1VIDEO && s->bit_rate &&
1228                    (s->bit_rate != 0x3FFFF*400 || s->vbv_delay != 0xFFFF)) {
1229             avctx->bit_rate = s->bit_rate;
1230         }
1231         s1->save_aspect_info     = s->aspect_ratio_info;
1232         s1->save_width           = s->width;
1233         s1->save_height          = s->height;
1234         s1->save_progressive_seq = s->progressive_sequence;
1235
1236         /* low_delay may be forced, in this case we will have B-frames
1237          * that behave like P-frames. */
1238         avctx->has_b_frames = !s->low_delay;
1239
1240         if (avctx->codec_id == AV_CODEC_ID_MPEG1VIDEO) {
1241             //MPEG-1 fps
1242             avctx->time_base.den = ff_mpeg12_frame_rate_tab[s->frame_rate_index].num;
1243             avctx->time_base.num = ff_mpeg12_frame_rate_tab[s->frame_rate_index].den;
1244             //MPEG-1 aspect
1245             avctx->sample_aspect_ratio = av_d2q(1.0/ff_mpeg1_aspect[s->aspect_ratio_info], 255);
1246             avctx->ticks_per_frame=1;
1247         } else {//MPEG-2
1248         //MPEG-2 fps
1249             av_reduce(&s->avctx->time_base.den,
1250                       &s->avctx->time_base.num,
1251                       ff_mpeg12_frame_rate_tab[s->frame_rate_index].num * s1->frame_rate_ext.num*2,
1252                       ff_mpeg12_frame_rate_tab[s->frame_rate_index].den * s1->frame_rate_ext.den,
1253                       1 << 30);
1254             avctx->ticks_per_frame = 2;
1255             //MPEG-2 aspect
1256             if (s->aspect_ratio_info > 1) {
1257                 AVRational dar =
1258                     av_mul_q(av_div_q(ff_mpeg2_aspect[s->aspect_ratio_info],
1259                                       (AVRational) {s1->pan_scan.width, s1->pan_scan.height}),
1260                              (AVRational) {s->width, s->height});
1261
1262                 // we ignore the spec here and guess a bit as reality does not match the spec, see for example
1263                 // res_change_ffmpeg_aspect.ts and sequence-display-aspect.mpg
1264                 // issue1613, 621, 562
1265                 if ((s1->pan_scan.width == 0) || (s1->pan_scan.height == 0) ||
1266                    (av_cmp_q(dar, (AVRational) {4, 3}) && av_cmp_q(dar, (AVRational) {16, 9}))) {
1267                     s->avctx->sample_aspect_ratio =
1268                         av_div_q(ff_mpeg2_aspect[s->aspect_ratio_info],
1269                                  (AVRational) {s->width, s->height});
1270                 } else {
1271                     s->avctx->sample_aspect_ratio =
1272                         av_div_q(ff_mpeg2_aspect[s->aspect_ratio_info],
1273                                  (AVRational) {s1->pan_scan.width, s1->pan_scan.height});
1274 //issue1613 4/3 16/9 -> 16/9
1275 //res_change_ffmpeg_aspect.ts 4/3 225/44 ->4/3
1276 //widescreen-issue562.mpg 4/3 16/9 -> 16/9
1277 //                    s->avctx->sample_aspect_ratio = av_mul_q(s->avctx->sample_aspect_ratio, (AVRational) {s->width, s->height});
1278                     av_dlog(avctx, "A %d/%d\n",
1279                             ff_mpeg2_aspect[s->aspect_ratio_info].num, ff_mpeg2_aspect[s->aspect_ratio_info].den);
1280                     av_dlog(avctx, "B %d/%d\n", s->avctx->sample_aspect_ratio.num,
1281                             s->avctx->sample_aspect_ratio.den);
1282                 }
1283             } else {
1284                 s->avctx->sample_aspect_ratio =
1285                     ff_mpeg2_aspect[s->aspect_ratio_info];
1286             }
1287         } // MPEG-2
1288
1289         avctx->pix_fmt = mpeg_get_pixelformat(avctx);
1290         setup_hwaccel_for_pixfmt(avctx);
1291
1292         /* Quantization matrices may need reordering
1293          * if DCT permutation is changed. */
1294         memcpy(old_permutation, s->dsp.idct_permutation, 64 * sizeof(uint8_t));
1295
1296         if (ff_MPV_common_init(s) < 0)
1297             return -2;
1298
1299         quant_matrix_rebuild(s->intra_matrix,        old_permutation, s->dsp.idct_permutation);
1300         quant_matrix_rebuild(s->inter_matrix,        old_permutation, s->dsp.idct_permutation);
1301         quant_matrix_rebuild(s->chroma_intra_matrix, old_permutation, s->dsp.idct_permutation);
1302         quant_matrix_rebuild(s->chroma_inter_matrix, old_permutation, s->dsp.idct_permutation);
1303
1304         s1->mpeg_enc_ctx_allocated = 1;
1305     }
1306     return 0;
1307 }
1308
1309 static int mpeg1_decode_picture(AVCodecContext *avctx,
1310                                 const uint8_t *buf, int buf_size)
1311 {
1312     Mpeg1Context *s1 = avctx->priv_data;
1313     MpegEncContext *s = &s1->mpeg_enc_ctx;
1314     int ref, f_code, vbv_delay;
1315
1316     init_get_bits(&s->gb, buf, buf_size*8);
1317
1318     ref = get_bits(&s->gb, 10); /* temporal ref */
1319     s->pict_type = get_bits(&s->gb, 3);
1320     if (s->pict_type == 0 || s->pict_type > 3)
1321         return -1;
1322
1323     vbv_delay = get_bits(&s->gb, 16);
1324     s->vbv_delay = vbv_delay;
1325     if (s->pict_type == AV_PICTURE_TYPE_P || s->pict_type == AV_PICTURE_TYPE_B) {
1326         s->full_pel[0] = get_bits1(&s->gb);
1327         f_code = get_bits(&s->gb, 3);
1328         if (f_code == 0 && (avctx->err_recognition & (AV_EF_BITSTREAM|AV_EF_COMPLIANT)))
1329             return -1;
1330         f_code += !f_code;
1331         s->mpeg_f_code[0][0] = f_code;
1332         s->mpeg_f_code[0][1] = f_code;
1333     }
1334     if (s->pict_type == AV_PICTURE_TYPE_B) {
1335         s->full_pel[1] = get_bits1(&s->gb);
1336         f_code = get_bits(&s->gb, 3);
1337         if (f_code == 0 && (avctx->err_recognition & (AV_EF_BITSTREAM|AV_EF_COMPLIANT)))
1338             return -1;
1339         f_code += !f_code;
1340         s->mpeg_f_code[1][0] = f_code;
1341         s->mpeg_f_code[1][1] = f_code;
1342     }
1343     s->current_picture.f.pict_type = s->pict_type;
1344     s->current_picture.f.key_frame = s->pict_type == AV_PICTURE_TYPE_I;
1345
1346     if (avctx->debug & FF_DEBUG_PICT_INFO)
1347         av_log(avctx, AV_LOG_DEBUG, "vbv_delay %d, ref %d type:%d\n", vbv_delay, ref, s->pict_type);
1348
1349     s->y_dc_scale = 8;
1350     s->c_dc_scale = 8;
1351     return 0;
1352 }
1353
1354 static void mpeg_decode_sequence_extension(Mpeg1Context *s1)
1355 {
1356     MpegEncContext *s= &s1->mpeg_enc_ctx;
1357     int horiz_size_ext, vert_size_ext;
1358     int bit_rate_ext;
1359
1360     skip_bits(&s->gb, 1); /* profile and level esc*/
1361     s->avctx->profile       = get_bits(&s->gb, 3);
1362     s->avctx->level         = get_bits(&s->gb, 4);
1363     s->progressive_sequence = get_bits1(&s->gb); /* progressive_sequence */
1364     s->chroma_format        = get_bits(&s->gb, 2); /* chroma_format 1=420, 2=422, 3=444 */
1365     horiz_size_ext          = get_bits(&s->gb, 2);
1366     vert_size_ext           = get_bits(&s->gb, 2);
1367     s->width  |= (horiz_size_ext << 12);
1368     s->height |= (vert_size_ext  << 12);
1369     bit_rate_ext = get_bits(&s->gb, 12);  /* XXX: handle it */
1370     s->bit_rate += (bit_rate_ext << 18) * 400;
1371     skip_bits1(&s->gb); /* marker */
1372     s->avctx->rc_buffer_size += get_bits(&s->gb, 8) * 1024 * 16 << 10;
1373
1374     s->low_delay = get_bits1(&s->gb);
1375     if (s->flags & CODEC_FLAG_LOW_DELAY)
1376         s->low_delay = 1;
1377
1378     s1->frame_rate_ext.num = get_bits(&s->gb, 2) + 1;
1379     s1->frame_rate_ext.den = get_bits(&s->gb, 5) + 1;
1380
1381     av_dlog(s->avctx, "sequence extension\n");
1382     s->codec_id      = s->avctx->codec_id = AV_CODEC_ID_MPEG2VIDEO;
1383
1384     if (s->avctx->debug & FF_DEBUG_PICT_INFO)
1385         av_log(s->avctx, AV_LOG_DEBUG, "profile: %d, level: %d ps: %d cf:%d vbv buffer: %d, bitrate:%d\n",
1386                s->avctx->profile, s->avctx->level, s->progressive_sequence, s->chroma_format, s->avctx->rc_buffer_size, s->bit_rate);
1387
1388 }
1389
1390 static void mpeg_decode_sequence_display_extension(Mpeg1Context *s1)
1391 {
1392     MpegEncContext *s = &s1->mpeg_enc_ctx;
1393     int color_description, w, h;
1394
1395     skip_bits(&s->gb, 3); /* video format */
1396     color_description = get_bits1(&s->gb);
1397     if (color_description) {
1398         s->avctx->color_primaries = get_bits(&s->gb, 8);
1399         s->avctx->color_trc       = get_bits(&s->gb, 8);
1400         s->avctx->colorspace      = get_bits(&s->gb, 8);
1401     }
1402     w = get_bits(&s->gb, 14);
1403     skip_bits(&s->gb, 1); //marker
1404     h = get_bits(&s->gb, 14);
1405     // remaining 3 bits are zero padding
1406
1407     s1->pan_scan.width  = 16 * w;
1408     s1->pan_scan.height = 16 * h;
1409
1410     if (s->avctx->debug & FF_DEBUG_PICT_INFO)
1411         av_log(s->avctx, AV_LOG_DEBUG, "sde w:%d, h:%d\n", w, h);
1412 }
1413
1414 static void mpeg_decode_picture_display_extension(Mpeg1Context *s1)
1415 {
1416     MpegEncContext *s = &s1->mpeg_enc_ctx;
1417     int i, nofco;
1418
1419     nofco = 1;
1420     if (s->progressive_sequence) {
1421         if (s->repeat_first_field) {
1422             nofco++;
1423             if (s->top_field_first)
1424                 nofco++;
1425         }
1426     } else {
1427         if (s->picture_structure == PICT_FRAME) {
1428             nofco++;
1429             if (s->repeat_first_field)
1430                 nofco++;
1431         }
1432     }
1433     for (i = 0; i < nofco; i++) {
1434         s1->pan_scan.position[i][0] = get_sbits(&s->gb, 16);
1435         skip_bits(&s->gb, 1); // marker
1436         s1->pan_scan.position[i][1] = get_sbits(&s->gb, 16);
1437         skip_bits(&s->gb, 1); // marker
1438     }
1439
1440     if (s->avctx->debug & FF_DEBUG_PICT_INFO)
1441         av_log(s->avctx, AV_LOG_DEBUG, "pde (%d,%d) (%d,%d) (%d,%d)\n",
1442                s1->pan_scan.position[0][0], s1->pan_scan.position[0][1],
1443                s1->pan_scan.position[1][0], s1->pan_scan.position[1][1],
1444                s1->pan_scan.position[2][0], s1->pan_scan.position[2][1]);
1445 }
1446
1447 static int load_matrix(MpegEncContext *s, uint16_t matrix0[64], uint16_t matrix1[64], int intra)
1448 {
1449     int i;
1450
1451     for (i = 0; i < 64; i++) {
1452         int j = s->dsp.idct_permutation[ff_zigzag_direct[i]];
1453         int v = get_bits(&s->gb, 8);
1454         if (v == 0) {
1455             av_log(s->avctx, AV_LOG_ERROR, "matrix damaged\n");
1456             return -1;
1457         }
1458         if (intra && i == 0 && v != 8) {
1459             av_log(s->avctx, AV_LOG_DEBUG, "intra matrix specifies invalid DC quantizer %d, ignoring\n", v);
1460             v = 8; // needed by pink.mpg / issue1046
1461         }
1462         matrix0[j] = v;
1463         if (matrix1)
1464             matrix1[j] = v;
1465     }
1466     return 0;
1467 }
1468
1469 static void mpeg_decode_quant_matrix_extension(MpegEncContext *s)
1470 {
1471     av_dlog(s->avctx, "matrix extension\n");
1472
1473     if (get_bits1(&s->gb)) load_matrix(s, s->chroma_intra_matrix, s->intra_matrix, 1);
1474     if (get_bits1(&s->gb)) load_matrix(s, s->chroma_inter_matrix, s->inter_matrix, 0);
1475     if (get_bits1(&s->gb)) load_matrix(s, s->chroma_intra_matrix, NULL           , 1);
1476     if (get_bits1(&s->gb)) load_matrix(s, s->chroma_inter_matrix, NULL           , 0);
1477 }
1478
1479 static void mpeg_decode_picture_coding_extension(Mpeg1Context *s1)
1480 {
1481     MpegEncContext *s = &s1->mpeg_enc_ctx;
1482
1483     s->full_pel[0] = s->full_pel[1] = 0;
1484     s->mpeg_f_code[0][0] = get_bits(&s->gb, 4);
1485     s->mpeg_f_code[0][1] = get_bits(&s->gb, 4);
1486     s->mpeg_f_code[1][0] = get_bits(&s->gb, 4);
1487     s->mpeg_f_code[1][1] = get_bits(&s->gb, 4);
1488     if (!s->pict_type && s1->mpeg_enc_ctx_allocated) {
1489         av_log(s->avctx, AV_LOG_ERROR, "Missing picture start code, guessing missing values\n");
1490         if (s->mpeg_f_code[1][0] == 15 && s->mpeg_f_code[1][1] == 15) {
1491             if (s->mpeg_f_code[0][0] == 15 && s->mpeg_f_code[0][1] == 15)
1492                 s->pict_type = AV_PICTURE_TYPE_I;
1493             else
1494                 s->pict_type = AV_PICTURE_TYPE_P;
1495         } else
1496             s->pict_type = AV_PICTURE_TYPE_B;
1497         s->current_picture.f.pict_type = s->pict_type;
1498         s->current_picture.f.key_frame = s->pict_type == AV_PICTURE_TYPE_I;
1499     }
1500     s->mpeg_f_code[0][0] += !s->mpeg_f_code[0][0];
1501     s->mpeg_f_code[0][1] += !s->mpeg_f_code[0][1];
1502     s->mpeg_f_code[1][0] += !s->mpeg_f_code[1][0];
1503     s->mpeg_f_code[1][1] += !s->mpeg_f_code[1][1];
1504
1505     s->intra_dc_precision         = get_bits(&s->gb, 2);
1506     s->picture_structure          = get_bits(&s->gb, 2);
1507     s->top_field_first            = get_bits1(&s->gb);
1508     s->frame_pred_frame_dct       = get_bits1(&s->gb);
1509     s->concealment_motion_vectors = get_bits1(&s->gb);
1510     s->q_scale_type               = get_bits1(&s->gb);
1511     s->intra_vlc_format           = get_bits1(&s->gb);
1512     s->alternate_scan             = get_bits1(&s->gb);
1513     s->repeat_first_field         = get_bits1(&s->gb);
1514     s->chroma_420_type            = get_bits1(&s->gb);
1515     s->progressive_frame          = get_bits1(&s->gb);
1516
1517
1518     if (s->alternate_scan) {
1519         ff_init_scantable(s->dsp.idct_permutation, &s->inter_scantable, ff_alternate_vertical_scan);
1520         ff_init_scantable(s->dsp.idct_permutation, &s->intra_scantable, ff_alternate_vertical_scan);
1521     } else {
1522         ff_init_scantable(s->dsp.idct_permutation, &s->inter_scantable, ff_zigzag_direct);
1523         ff_init_scantable(s->dsp.idct_permutation, &s->intra_scantable, ff_zigzag_direct);
1524     }
1525
1526     /* composite display not parsed */
1527     av_dlog(s->avctx, "intra_dc_precision=%d\n", s->intra_dc_precision);
1528     av_dlog(s->avctx, "picture_structure=%d\n", s->picture_structure);
1529     av_dlog(s->avctx, "top field first=%d\n", s->top_field_first);
1530     av_dlog(s->avctx, "repeat first field=%d\n", s->repeat_first_field);
1531     av_dlog(s->avctx, "conceal=%d\n", s->concealment_motion_vectors);
1532     av_dlog(s->avctx, "intra_vlc_format=%d\n", s->intra_vlc_format);
1533     av_dlog(s->avctx, "alternate_scan=%d\n", s->alternate_scan);
1534     av_dlog(s->avctx, "frame_pred_frame_dct=%d\n", s->frame_pred_frame_dct);
1535     av_dlog(s->avctx, "progressive_frame=%d\n", s->progressive_frame);
1536 }
1537
1538 static int mpeg_field_start(MpegEncContext *s, const uint8_t *buf, int buf_size)
1539 {
1540     AVCodecContext *avctx = s->avctx;
1541     Mpeg1Context *s1 = (Mpeg1Context*)s;
1542
1543     /* start frame decoding */
1544     if (s->first_field || s->picture_structure == PICT_FRAME) {
1545         AVFrameSideData *pan_scan;
1546
1547         if (ff_MPV_frame_start(s, avctx) < 0)
1548             return -1;
1549
1550         ff_mpeg_er_frame_start(s);
1551
1552         /* first check if we must repeat the frame */
1553         s->current_picture_ptr->f.repeat_pict = 0;
1554         if (s->repeat_first_field) {
1555             if (s->progressive_sequence) {
1556                 if (s->top_field_first)
1557                     s->current_picture_ptr->f.repeat_pict = 4;
1558                 else
1559                     s->current_picture_ptr->f.repeat_pict = 2;
1560             } else if (s->progressive_frame) {
1561                 s->current_picture_ptr->f.repeat_pict = 1;
1562             }
1563         }
1564
1565         pan_scan = av_frame_new_side_data(&s->current_picture_ptr->f,
1566                                           AV_FRAME_DATA_PANSCAN,
1567                                           sizeof(s1->pan_scan));
1568         if (!pan_scan)
1569             return AVERROR(ENOMEM);
1570         memcpy(pan_scan->data, &s1->pan_scan, sizeof(s1->pan_scan));
1571
1572         if (HAVE_THREADS && (avctx->active_thread_type & FF_THREAD_FRAME))
1573             ff_thread_finish_setup(avctx);
1574     } else { // second field
1575         int i;
1576
1577         if (!s->current_picture_ptr) {
1578             av_log(s->avctx, AV_LOG_ERROR, "first field missing\n");
1579             return -1;
1580         }
1581
1582         if (s->avctx->hwaccel &&
1583             (s->avctx->slice_flags & SLICE_FLAG_ALLOW_FIELD)) {
1584             if (s->avctx->hwaccel->end_frame(s->avctx) < 0)
1585                 av_log(avctx, AV_LOG_ERROR, "hardware accelerator failed to decode first field\n");
1586         }
1587
1588         for (i = 0; i < 4; i++) {
1589             s->current_picture.f.data[i] = s->current_picture_ptr->f.data[i];
1590             if (s->picture_structure == PICT_BOTTOM_FIELD) {
1591                 s->current_picture.f.data[i] += s->current_picture_ptr->f.linesize[i];
1592             }
1593         }
1594     }
1595
1596     if (avctx->hwaccel) {
1597         if (avctx->hwaccel->start_frame(avctx, buf, buf_size) < 0)
1598             return -1;
1599     }
1600
1601 // MPV_frame_start will call this function too,
1602 // but we need to call it on every field
1603     if (CONFIG_MPEG_XVMC_DECODER && s->avctx->xvmc_acceleration)
1604         if (ff_xvmc_field_start(s, avctx) < 0)
1605             return -1;
1606
1607     return 0;
1608 }
1609
1610 #define DECODE_SLICE_ERROR -1
1611 #define DECODE_SLICE_OK     0
1612
1613 /**
1614  * Decode a slice.
1615  * MpegEncContext.mb_y must be set to the MB row from the startcode.
1616  * @return DECODE_SLICE_ERROR if the slice is damaged,
1617  *         DECODE_SLICE_OK if this slice is OK
1618  */
1619 static int mpeg_decode_slice(MpegEncContext *s, int mb_y,
1620                              const uint8_t **buf, int buf_size)
1621 {
1622     AVCodecContext *avctx = s->avctx;
1623     const int lowres      = s->avctx->lowres;
1624     const int field_pic   = s->picture_structure != PICT_FRAME;
1625
1626     s->resync_mb_x =
1627     s->resync_mb_y = -1;
1628
1629     av_assert0(mb_y < s->mb_height);
1630
1631     init_get_bits(&s->gb, *buf, buf_size * 8);
1632     if(s->codec_id != AV_CODEC_ID_MPEG1VIDEO && s->mb_height > 2800/16)
1633         skip_bits(&s->gb, 3);
1634
1635     ff_mpeg1_clean_buffers(s);
1636     s->interlaced_dct = 0;
1637
1638     s->qscale = get_qscale(s);
1639
1640     if (s->qscale == 0) {
1641         av_log(s->avctx, AV_LOG_ERROR, "qscale == 0\n");
1642         return -1;
1643     }
1644
1645     /* extra slice info */
1646     if (skip_1stop_8data_bits(&s->gb) < 0)
1647         return AVERROR_INVALIDDATA;
1648
1649     s->mb_x = 0;
1650
1651     if (mb_y == 0 && s->codec_tag == AV_RL32("SLIF")) {
1652         skip_bits1(&s->gb);
1653     } else {
1654         while (get_bits_left(&s->gb) > 0) {
1655             int code = get_vlc2(&s->gb, ff_mbincr_vlc.table,
1656                                 MBINCR_VLC_BITS, 2);
1657             if (code < 0) {
1658                 av_log(s->avctx, AV_LOG_ERROR, "first mb_incr damaged\n");
1659                 return -1;
1660             }
1661             if (code >= 33) {
1662                 if (code == 33) {
1663                     s->mb_x += 33;
1664                 }
1665                 /* otherwise, stuffing, nothing to do */
1666             } else {
1667                 s->mb_x += code;
1668                 break;
1669             }
1670         }
1671     }
1672
1673     if (s->mb_x >= (unsigned)s->mb_width) {
1674         av_log(s->avctx, AV_LOG_ERROR, "initial skip overflow\n");
1675         return -1;
1676     }
1677
1678     if (avctx->hwaccel) {
1679         const uint8_t *buf_end, *buf_start = *buf - 4; /* include start_code */
1680         int start_code = -1;
1681         buf_end = avpriv_find_start_code(buf_start + 2, *buf + buf_size, &start_code);
1682         if (buf_end < *buf + buf_size)
1683             buf_end -= 4;
1684         s->mb_y = mb_y;
1685         if (avctx->hwaccel->decode_slice(avctx, buf_start, buf_end - buf_start) < 0)
1686             return DECODE_SLICE_ERROR;
1687         *buf = buf_end;
1688         return DECODE_SLICE_OK;
1689     }
1690
1691     s->resync_mb_x = s->mb_x;
1692     s->resync_mb_y = s->mb_y = mb_y;
1693     s->mb_skip_run = 0;
1694     ff_init_block_index(s);
1695
1696     if (s->mb_y == 0 && s->mb_x == 0 && (s->first_field || s->picture_structure == PICT_FRAME)) {
1697         if (s->avctx->debug & FF_DEBUG_PICT_INFO) {
1698              av_log(s->avctx, AV_LOG_DEBUG, "qp:%d fc:%2d%2d%2d%2d %s %s %s %s %s dc:%d pstruct:%d fdct:%d cmv:%d qtype:%d ivlc:%d rff:%d %s\n",
1699                     s->qscale, s->mpeg_f_code[0][0], s->mpeg_f_code[0][1], s->mpeg_f_code[1][0], s->mpeg_f_code[1][1],
1700                     s->pict_type == AV_PICTURE_TYPE_I ? "I" : (s->pict_type == AV_PICTURE_TYPE_P ? "P" : (s->pict_type == AV_PICTURE_TYPE_B ? "B" : "S")),
1701                     s->progressive_sequence ? "ps" :"", s->progressive_frame ? "pf" : "", s->alternate_scan ? "alt" :"", s->top_field_first ? "top" :"",
1702                     s->intra_dc_precision, s->picture_structure, s->frame_pred_frame_dct, s->concealment_motion_vectors,
1703                     s->q_scale_type, s->intra_vlc_format, s->repeat_first_field, s->chroma_420_type ? "420" :"");
1704         }
1705     }
1706
1707     for (;;) {
1708         // If 1, we memcpy blocks in xvmcvideo.
1709         if (CONFIG_MPEG_XVMC_DECODER && s->avctx->xvmc_acceleration > 1)
1710             ff_xvmc_init_block(s); // set s->block
1711
1712         if (mpeg_decode_mb(s, s->block) < 0)
1713             return -1;
1714
1715         if (s->current_picture.motion_val[0] && !s->encoding) { // note motion_val is normally NULL unless we want to extract the MVs
1716             const int wrap = s->b8_stride;
1717             int xy         = s->mb_x * 2 + s->mb_y * 2 * wrap;
1718             int b8_xy      = 4 * (s->mb_x + s->mb_y * s->mb_stride);
1719             int motion_x, motion_y, dir, i;
1720
1721             for (i = 0; i < 2; i++) {
1722                 for (dir = 0; dir < 2; dir++) {
1723                     if (s->mb_intra || (dir == 1 && s->pict_type != AV_PICTURE_TYPE_B)) {
1724                         motion_x = motion_y = 0;
1725                     } else if (s->mv_type == MV_TYPE_16X16 || (s->mv_type == MV_TYPE_FIELD && field_pic)) {
1726                         motion_x = s->mv[dir][0][0];
1727                         motion_y = s->mv[dir][0][1];
1728                     } else /*if ((s->mv_type == MV_TYPE_FIELD) || (s->mv_type == MV_TYPE_16X8))*/ {
1729                         motion_x = s->mv[dir][i][0];
1730                         motion_y = s->mv[dir][i][1];
1731                     }
1732
1733                     s->current_picture.motion_val[dir][xy    ][0] = motion_x;
1734                     s->current_picture.motion_val[dir][xy    ][1] = motion_y;
1735                     s->current_picture.motion_val[dir][xy + 1][0] = motion_x;
1736                     s->current_picture.motion_val[dir][xy + 1][1] = motion_y;
1737                     s->current_picture.ref_index [dir][b8_xy    ] =
1738                     s->current_picture.ref_index [dir][b8_xy + 1] = s->field_select[dir][i];
1739                     av_assert2(s->field_select[dir][i] == 0 || s->field_select[dir][i] == 1);
1740                 }
1741                 xy += wrap;
1742                 b8_xy +=2;
1743             }
1744         }
1745
1746         s->dest[0] += 16 >> lowres;
1747         s->dest[1] +=(16 >> lowres) >> s->chroma_x_shift;
1748         s->dest[2] +=(16 >> lowres) >> s->chroma_x_shift;
1749
1750         ff_MPV_decode_mb(s, s->block);
1751
1752         if (++s->mb_x >= s->mb_width) {
1753             const int mb_size = 16 >> s->avctx->lowres;
1754
1755             ff_mpeg_draw_horiz_band(s, mb_size*(s->mb_y >> field_pic), mb_size);
1756             ff_MPV_report_decode_progress(s);
1757
1758             s->mb_x = 0;
1759             s->mb_y += 1 << field_pic;
1760
1761             if (s->mb_y >= s->mb_height) {
1762                 int left   = get_bits_left(&s->gb);
1763                 int is_d10 = s->chroma_format == 2 && s->pict_type == AV_PICTURE_TYPE_I && avctx->profile == 0 && avctx->level == 5
1764                              && s->intra_dc_precision == 2 && s->q_scale_type == 1 && s->alternate_scan == 0
1765                              && s->progressive_frame == 0 /* vbv_delay == 0xBBB || 0xE10*/;
1766
1767                 if (left >= 32 && !is_d10) {
1768                     GetBitContext gb = s->gb;
1769                     align_get_bits(&gb);
1770                     if (show_bits(&gb, 24) == 0x060E2B) {
1771                         av_log(avctx, AV_LOG_DEBUG, "Invalid MXF data found in video stream\n");
1772                         is_d10 = 1;
1773                     }
1774                 }
1775
1776                 if (left < 0 || (left && show_bits(&s->gb, FFMIN(left, 23)) && !is_d10)
1777                     || ((avctx->err_recognition & (AV_EF_BITSTREAM | AV_EF_AGGRESSIVE)) && left > 8)) {
1778                     av_log(avctx, AV_LOG_ERROR, "end mismatch left=%d %0X\n", left, show_bits(&s->gb, FFMIN(left, 23)));
1779                     return -1;
1780                 } else
1781                     goto eos;
1782             }
1783
1784             ff_init_block_index(s);
1785         }
1786
1787         /* skip mb handling */
1788         if (s->mb_skip_run == -1) {
1789             /* read increment again */
1790             s->mb_skip_run = 0;
1791             for (;;) {
1792                 int code = get_vlc2(&s->gb, ff_mbincr_vlc.table,
1793                                     MBINCR_VLC_BITS, 2);
1794                 if (code < 0) {
1795                     av_log(s->avctx, AV_LOG_ERROR, "mb incr damaged\n");
1796                     return -1;
1797                 }
1798                 if (code >= 33) {
1799                     if (code == 33) {
1800                         s->mb_skip_run += 33;
1801                     } else if (code == 35) {
1802                         if (s->mb_skip_run != 0 || show_bits(&s->gb, 15) != 0) {
1803                             av_log(s->avctx, AV_LOG_ERROR, "slice mismatch\n");
1804                             return -1;
1805                         }
1806                         goto eos; /* end of slice */
1807                     }
1808                     /* otherwise, stuffing, nothing to do */
1809                 } else {
1810                     s->mb_skip_run += code;
1811                     break;
1812                 }
1813             }
1814             if (s->mb_skip_run) {
1815                 int i;
1816                 if (s->pict_type == AV_PICTURE_TYPE_I) {
1817                     av_log(s->avctx, AV_LOG_ERROR, "skipped MB in I frame at %d %d\n", s->mb_x, s->mb_y);
1818                     return -1;
1819                 }
1820
1821                 /* skip mb */
1822                 s->mb_intra = 0;
1823                 for (i = 0; i < 12; i++)
1824                     s->block_last_index[i] = -1;
1825                 if (s->picture_structure == PICT_FRAME)
1826                     s->mv_type = MV_TYPE_16X16;
1827                 else
1828                     s->mv_type = MV_TYPE_FIELD;
1829                 if (s->pict_type == AV_PICTURE_TYPE_P) {
1830                     /* if P type, zero motion vector is implied */
1831                     s->mv_dir             = MV_DIR_FORWARD;
1832                     s->mv[0][0][0]        = s->mv[0][0][1]      = 0;
1833                     s->last_mv[0][0][0]   = s->last_mv[0][0][1] = 0;
1834                     s->last_mv[0][1][0]   = s->last_mv[0][1][1] = 0;
1835                     s->field_select[0][0] = (s->picture_structure - 1) & 1;
1836                 } else {
1837                     /* if B type, reuse previous vectors and directions */
1838                     s->mv[0][0][0] = s->last_mv[0][0][0];
1839                     s->mv[0][0][1] = s->last_mv[0][0][1];
1840                     s->mv[1][0][0] = s->last_mv[1][0][0];
1841                     s->mv[1][0][1] = s->last_mv[1][0][1];
1842                 }
1843             }
1844         }
1845     }
1846 eos: // end of slice
1847     *buf += (get_bits_count(&s->gb)-1)/8;
1848     av_dlog(s, "y %d %d %d %d\n", s->resync_mb_x, s->resync_mb_y, s->mb_x, s->mb_y);
1849     return 0;
1850 }
1851
1852 static int slice_decode_thread(AVCodecContext *c, void *arg)
1853 {
1854     MpegEncContext *s   = *(void**)arg;
1855     const uint8_t *buf  = s->gb.buffer;
1856     int mb_y            = s->start_mb_y;
1857     const int field_pic = s->picture_structure != PICT_FRAME;
1858
1859     s->er.error_count = (3 * (s->end_mb_y - s->start_mb_y) * s->mb_width) >> field_pic;
1860
1861     for (;;) {
1862         uint32_t start_code;
1863         int ret;
1864
1865         ret = mpeg_decode_slice(s, mb_y, &buf, s->gb.buffer_end - buf);
1866         emms_c();
1867         av_dlog(c, "ret:%d resync:%d/%d mb:%d/%d ts:%d/%d ec:%d\n",
1868                 ret, s->resync_mb_x, s->resync_mb_y, s->mb_x, s->mb_y,
1869                 s->start_mb_y, s->end_mb_y, s->er.error_count);
1870         if (ret < 0) {
1871             if (c->err_recognition & AV_EF_EXPLODE)
1872                 return ret;
1873             if (s->resync_mb_x >= 0 && s->resync_mb_y >= 0)
1874                 ff_er_add_slice(&s->er, s->resync_mb_x, s->resync_mb_y, s->mb_x, s->mb_y, ER_AC_ERROR | ER_DC_ERROR | ER_MV_ERROR);
1875         } else {
1876             ff_er_add_slice(&s->er, s->resync_mb_x, s->resync_mb_y, s->mb_x-1, s->mb_y, ER_AC_END | ER_DC_END | ER_MV_END);
1877         }
1878
1879         if (s->mb_y == s->end_mb_y)
1880             return 0;
1881
1882         start_code = -1;
1883         buf = avpriv_find_start_code(buf, s->gb.buffer_end, &start_code);
1884         mb_y= start_code - SLICE_MIN_START_CODE;
1885         if(s->codec_id != AV_CODEC_ID_MPEG1VIDEO && s->mb_height > 2800/16)
1886             mb_y += (*buf&0xE0)<<2;
1887         mb_y <<= field_pic;
1888         if (s->picture_structure == PICT_BOTTOM_FIELD)
1889             mb_y++;
1890         if (mb_y < 0 || mb_y >= s->end_mb_y)
1891             return -1;
1892     }
1893 }
1894
1895 /**
1896  * Handle slice ends.
1897  * @return 1 if it seems to be the last slice
1898  */
1899 static int slice_end(AVCodecContext *avctx, AVFrame *pict)
1900 {
1901     Mpeg1Context *s1 = avctx->priv_data;
1902     MpegEncContext *s = &s1->mpeg_enc_ctx;
1903
1904     if (!s1->mpeg_enc_ctx_allocated || !s->current_picture_ptr)
1905         return 0;
1906
1907     if (s->avctx->hwaccel) {
1908         if (s->avctx->hwaccel->end_frame(s->avctx) < 0)
1909             av_log(avctx, AV_LOG_ERROR, "hardware accelerator failed to decode picture\n");
1910     }
1911
1912     if (CONFIG_MPEG_XVMC_DECODER && s->avctx->xvmc_acceleration)
1913         ff_xvmc_field_end(s);
1914
1915     /* end of slice reached */
1916     if (/*s->mb_y << field_pic == s->mb_height &&*/ !s->first_field && !s->first_slice) {
1917         /* end of image */
1918
1919         ff_er_frame_end(&s->er);
1920
1921         ff_MPV_frame_end(s);
1922
1923         if (s->pict_type == AV_PICTURE_TYPE_B || s->low_delay) {
1924             int ret = av_frame_ref(pict, &s->current_picture_ptr->f);
1925             if (ret < 0)
1926                 return ret;
1927             ff_print_debug_info(s, s->current_picture_ptr, pict);
1928             ff_mpv_export_qp_table(s, pict, s->current_picture_ptr, FF_QSCALE_TYPE_MPEG2);
1929         } else {
1930             if (avctx->active_thread_type & FF_THREAD_FRAME)
1931                 s->picture_number++;
1932             /* latency of 1 frame for I- and P-frames */
1933             /* XXX: use another variable than picture_number */
1934             if (s->last_picture_ptr != NULL) {
1935                 int ret = av_frame_ref(pict, &s->last_picture_ptr->f);
1936                 if (ret < 0)
1937                     return ret;
1938                 ff_print_debug_info(s, s->last_picture_ptr, pict);
1939                 ff_mpv_export_qp_table(s, pict, s->last_picture_ptr, FF_QSCALE_TYPE_MPEG2);
1940             }
1941         }
1942
1943         return 1;
1944     } else {
1945         return 0;
1946     }
1947 }
1948
1949 static int mpeg1_decode_sequence(AVCodecContext *avctx,
1950                                  const uint8_t *buf, int buf_size)
1951 {
1952     Mpeg1Context *s1 = avctx->priv_data;
1953     MpegEncContext *s = &s1->mpeg_enc_ctx;
1954     int width, height;
1955     int i, v, j;
1956
1957     init_get_bits(&s->gb, buf, buf_size*8);
1958
1959     width  = get_bits(&s->gb, 12);
1960     height = get_bits(&s->gb, 12);
1961     if (width == 0 || height == 0) {
1962         av_log(avctx, AV_LOG_WARNING, "Invalid horizontal or vertical size "
1963                "value.\n");
1964         if (avctx->err_recognition & (AV_EF_BITSTREAM | AV_EF_COMPLIANT))
1965             return AVERROR_INVALIDDATA;
1966     }
1967     s->aspect_ratio_info = get_bits(&s->gb, 4);
1968     if (s->aspect_ratio_info == 0) {
1969         av_log(avctx, AV_LOG_ERROR, "aspect ratio has forbidden 0 value\n");
1970         if (avctx->err_recognition & (AV_EF_BITSTREAM | AV_EF_COMPLIANT))
1971             return -1;
1972     }
1973     s->frame_rate_index = get_bits(&s->gb, 4);
1974     if (s->frame_rate_index == 0 || s->frame_rate_index > 13)
1975         return -1;
1976     s->bit_rate = get_bits(&s->gb, 18) * 400;
1977     if (get_bits1(&s->gb) == 0) /* marker */
1978         return -1;
1979     s->width  = width;
1980     s->height = height;
1981
1982     s->avctx->rc_buffer_size = get_bits(&s->gb, 10) * 1024 * 16;
1983     skip_bits(&s->gb, 1);
1984
1985     /* get matrix */
1986     if (get_bits1(&s->gb)) {
1987         load_matrix(s, s->chroma_intra_matrix, s->intra_matrix, 1);
1988     } else {
1989         for (i = 0; i < 64; i++) {
1990             j = s->dsp.idct_permutation[i];
1991             v = ff_mpeg1_default_intra_matrix[i];
1992             s->intra_matrix[j]        = v;
1993             s->chroma_intra_matrix[j] = v;
1994         }
1995     }
1996     if (get_bits1(&s->gb)) {
1997         load_matrix(s, s->chroma_inter_matrix, s->inter_matrix, 0);
1998     } else {
1999         for (i = 0; i < 64; i++) {
2000             int j = s->dsp.idct_permutation[i];
2001             v = ff_mpeg1_default_non_intra_matrix[i];
2002             s->inter_matrix[j]        = v;
2003             s->chroma_inter_matrix[j] = v;
2004         }
2005     }
2006
2007     if (show_bits(&s->gb, 23) != 0) {
2008         av_log(s->avctx, AV_LOG_ERROR, "sequence header damaged\n");
2009         return -1;
2010     }
2011
2012     /* we set MPEG-2 parameters so that it emulates MPEG-1 */
2013     s->progressive_sequence = 1;
2014     s->progressive_frame    = 1;
2015     s->picture_structure    = PICT_FRAME;
2016     s->first_field          = 0;
2017     s->frame_pred_frame_dct = 1;
2018     s->chroma_format        = 1;
2019     s->codec_id             = s->avctx->codec_id = AV_CODEC_ID_MPEG1VIDEO;
2020     s->out_format           = FMT_MPEG1;
2021     s->swap_uv              = 0; // AFAIK VCR2 does not have SEQ_HEADER
2022     if (s->flags & CODEC_FLAG_LOW_DELAY)
2023         s->low_delay = 1;
2024
2025     if (s->avctx->debug & FF_DEBUG_PICT_INFO)
2026         av_log(s->avctx, AV_LOG_DEBUG, "vbv buffer: %d, bitrate:%d\n",
2027                s->avctx->rc_buffer_size, s->bit_rate);
2028
2029     return 0;
2030 }
2031
2032 static int vcr2_init_sequence(AVCodecContext *avctx)
2033 {
2034     Mpeg1Context *s1 = avctx->priv_data;
2035     MpegEncContext *s = &s1->mpeg_enc_ctx;
2036     int i, v;
2037
2038     /* start new MPEG-1 context decoding */
2039     s->out_format = FMT_MPEG1;
2040     if (s1->mpeg_enc_ctx_allocated) {
2041         ff_MPV_common_end(s);
2042         s1->mpeg_enc_ctx_allocated = 0;
2043     }
2044     s->width  = avctx->coded_width;
2045     s->height = avctx->coded_height;
2046     avctx->has_b_frames = 0; // true?
2047     s->low_delay = 1;
2048
2049     avctx->pix_fmt = mpeg_get_pixelformat(avctx);
2050     setup_hwaccel_for_pixfmt(avctx);
2051
2052     if (ff_MPV_common_init(s) < 0)
2053         return -1;
2054     s1->mpeg_enc_ctx_allocated = 1;
2055
2056     for (i = 0; i < 64; i++) {
2057         int j = s->dsp.idct_permutation[i];
2058         v = ff_mpeg1_default_intra_matrix[i];
2059         s->intra_matrix[j]        = v;
2060         s->chroma_intra_matrix[j] = v;
2061
2062         v = ff_mpeg1_default_non_intra_matrix[i];
2063         s->inter_matrix[j]        = v;
2064         s->chroma_inter_matrix[j] = v;
2065     }
2066
2067     s->progressive_sequence  = 1;
2068     s->progressive_frame     = 1;
2069     s->picture_structure     = PICT_FRAME;
2070     s->first_field           = 0;
2071     s->frame_pred_frame_dct  = 1;
2072     s->chroma_format         = 1;
2073     if (s->codec_tag == AV_RL32("BW10")) {
2074         s->codec_id              = s->avctx->codec_id = AV_CODEC_ID_MPEG1VIDEO;
2075     } else {
2076         exchange_uv(s); // common init reset pblocks, so we swap them here
2077         s->swap_uv = 1; // in case of xvmc we need to swap uv for each MB
2078         s->codec_id              = s->avctx->codec_id = AV_CODEC_ID_MPEG2VIDEO;
2079     }
2080     s1->save_width           = s->width;
2081     s1->save_height          = s->height;
2082     s1->save_progressive_seq = s->progressive_sequence;
2083     return 0;
2084 }
2085
2086
2087 static void mpeg_decode_user_data(AVCodecContext *avctx,
2088                                   const uint8_t *p, int buf_size)
2089 {
2090     Mpeg1Context *s = avctx->priv_data;
2091     const uint8_t *buf_end = p + buf_size;
2092
2093     if(buf_size > 29){
2094         int i;
2095         for(i=0; i<20; i++)
2096             if(!memcmp(p+i, "\0TMPGEXS\0", 9)){
2097                 s->tmpgexs= 1;
2098             }
2099
2100 /*        for(i=0; !(!p[i-2] && !p[i-1] && p[i]==1) && i<buf_size; i++){
2101             av_log(avctx, AV_LOG_ERROR, "%c", p[i]);
2102         }
2103             av_log(avctx, AV_LOG_ERROR, "\n");*/
2104     }
2105
2106     /* we parse the DTG active format information */
2107     if (buf_end - p >= 5 &&
2108         p[0] == 'D' && p[1] == 'T' && p[2] == 'G' && p[3] == '1') {
2109         int flags = p[4];
2110         p += 5;
2111         if (flags & 0x80) {
2112             /* skip event id */
2113             p += 2;
2114         }
2115         if (flags & 0x40) {
2116             if (buf_end - p < 1)
2117                 return;
2118             avctx->dtg_active_format = p[0] & 0x0f;
2119         }
2120     }
2121 }
2122
2123 static void mpeg_decode_gop(AVCodecContext *avctx,
2124                             const uint8_t *buf, int buf_size)
2125 {
2126     Mpeg1Context *s1  = avctx->priv_data;
2127     MpegEncContext *s = &s1->mpeg_enc_ctx;
2128     int broken_link;
2129     int64_t tc;
2130
2131     init_get_bits(&s->gb, buf, buf_size*8);
2132
2133     tc = avctx->timecode_frame_start = get_bits(&s->gb, 25);
2134
2135     s->closed_gop = get_bits1(&s->gb);
2136     /*broken_link indicate that after editing the
2137       reference frames of the first B-Frames after GOP I-Frame
2138       are missing (open gop)*/
2139     broken_link = get_bits1(&s->gb);
2140
2141     if (s->avctx->debug & FF_DEBUG_PICT_INFO) {
2142         char tcbuf[AV_TIMECODE_STR_SIZE];
2143         av_timecode_make_mpeg_tc_string(tcbuf, tc);
2144         av_log(s->avctx, AV_LOG_DEBUG,
2145                "GOP (%s) closed_gop=%d broken_link=%d\n",
2146                tcbuf, s->closed_gop, broken_link);
2147     }
2148 }
2149
2150 static int decode_chunks(AVCodecContext *avctx,
2151                          AVFrame *picture, int *got_output,
2152                          const uint8_t *buf, int buf_size)
2153 {
2154     Mpeg1Context *s = avctx->priv_data;
2155     MpegEncContext *s2 = &s->mpeg_enc_ctx;
2156     const uint8_t *buf_ptr = buf;
2157     const uint8_t *buf_end = buf + buf_size;
2158     int ret, input_size;
2159     int last_code = 0, skip_frame = 0;
2160     int picture_start_code_seen = 0;
2161
2162     for (;;) {
2163         /* find next start code */
2164         uint32_t start_code = -1;
2165         buf_ptr = avpriv_find_start_code(buf_ptr, buf_end, &start_code);
2166         if (start_code > 0x1ff) {
2167             if (!skip_frame) {
2168                 if (HAVE_THREADS && (avctx->active_thread_type & FF_THREAD_SLICE) &&
2169                     !avctx->hwaccel) {
2170                     int i;
2171                     av_assert0(avctx->thread_count > 1);
2172
2173                     avctx->execute(avctx, slice_decode_thread,  &s2->thread_context[0], NULL, s->slice_count, sizeof(void*));
2174                     for (i = 0; i < s->slice_count; i++)
2175                         s2->er.error_count += s2->thread_context[i]->er.error_count;
2176                 }
2177
2178                 if ((CONFIG_MPEG_VDPAU_DECODER || CONFIG_MPEG1_VDPAU_DECODER)
2179                     && uses_vdpau(avctx))
2180                     ff_vdpau_mpeg_picture_complete(s2, buf, buf_size, s->slice_count);
2181
2182                 ret = slice_end(avctx, picture);
2183                 if (ret < 0)
2184                     return ret;
2185                 else if (ret) {
2186                     if (s2->last_picture_ptr || s2->low_delay) //FIXME merge with the stuff in mpeg_decode_slice
2187                         *got_output = 1;
2188                 }
2189             }
2190             s2->pict_type = 0;
2191
2192             if (avctx->err_recognition & AV_EF_EXPLODE && s2->er.error_count)
2193                 return AVERROR_INVALIDDATA;
2194
2195             return FFMAX(0, buf_ptr - buf - s2->parse_context.last_index);
2196         }
2197
2198         input_size = buf_end - buf_ptr;
2199
2200         if (avctx->debug & FF_DEBUG_STARTCODE) {
2201             av_log(avctx, AV_LOG_DEBUG, "%3X at %td left %d\n", start_code, buf_ptr-buf, input_size);
2202         }
2203
2204         /* prepare data for next start code */
2205         switch (start_code) {
2206         case SEQ_START_CODE:
2207             if (last_code == 0) {
2208                 mpeg1_decode_sequence(avctx, buf_ptr, input_size);
2209                 if(buf != avctx->extradata)
2210                     s->sync=1;
2211             } else {
2212                 av_log(avctx, AV_LOG_ERROR, "ignoring SEQ_START_CODE after %X\n", last_code);
2213                 if (avctx->err_recognition & AV_EF_EXPLODE)
2214                     return AVERROR_INVALIDDATA;
2215             }
2216             break;
2217
2218         case PICTURE_START_CODE:
2219             if (picture_start_code_seen && s2->picture_structure == PICT_FRAME) {
2220                /* If it's a frame picture, there can't be more than one picture header.
2221                   Yet, it does happen and we need to handle it. */
2222                av_log(avctx, AV_LOG_WARNING, "ignoring extra picture following a frame-picture\n");
2223                break;
2224             }
2225             picture_start_code_seen = 1;
2226
2227             if (s2->width <= 0 || s2->height <= 0) {
2228                 av_log(avctx, AV_LOG_ERROR, "Invalid frame dimensions %dx%d.\n",
2229                        s2->width, s2->height);
2230                 return AVERROR_INVALIDDATA;
2231             }
2232
2233             if(s->tmpgexs){
2234                 s2->intra_dc_precision= 3;
2235                 s2->intra_matrix[0]= 1;
2236             }
2237             if (HAVE_THREADS && (avctx->active_thread_type & FF_THREAD_SLICE) &&
2238                 !avctx->hwaccel && s->slice_count) {
2239                 int i;
2240
2241                 avctx->execute(avctx, slice_decode_thread,
2242                                s2->thread_context, NULL,
2243                                s->slice_count, sizeof(void*));
2244                 for (i = 0; i < s->slice_count; i++)
2245                     s2->er.error_count += s2->thread_context[i]->er.error_count;
2246                 s->slice_count = 0;
2247             }
2248             if (last_code == 0 || last_code == SLICE_MIN_START_CODE) {
2249                 ret = mpeg_decode_postinit(avctx);
2250                 if (ret < 0) {
2251                     av_log(avctx, AV_LOG_ERROR, "mpeg_decode_postinit() failure\n");
2252                     return ret;
2253                 }
2254
2255                 /* we have a complete image: we try to decompress it */
2256                 if (mpeg1_decode_picture(avctx, buf_ptr, input_size) < 0)
2257                     s2->pict_type = 0;
2258                 s2->first_slice = 1;
2259                 last_code = PICTURE_START_CODE;
2260             } else {
2261                 av_log(avctx, AV_LOG_ERROR, "ignoring pic after %X\n", last_code);
2262                 if (avctx->err_recognition & AV_EF_EXPLODE)
2263                     return AVERROR_INVALIDDATA;
2264             }
2265             break;
2266         case EXT_START_CODE:
2267             init_get_bits(&s2->gb, buf_ptr, input_size*8);
2268
2269             switch (get_bits(&s2->gb, 4)) {
2270             case 0x1:
2271                 if (last_code == 0) {
2272                 mpeg_decode_sequence_extension(s);
2273                 } else {
2274                     av_log(avctx, AV_LOG_ERROR, "ignoring seq ext after %X\n", last_code);
2275                     if (avctx->err_recognition & AV_EF_EXPLODE)
2276                         return AVERROR_INVALIDDATA;
2277                 }
2278                 break;
2279             case 0x2:
2280                 mpeg_decode_sequence_display_extension(s);
2281                 break;
2282             case 0x3:
2283                 mpeg_decode_quant_matrix_extension(s2);
2284                 break;
2285             case 0x7:
2286                 mpeg_decode_picture_display_extension(s);
2287                 break;
2288             case 0x8:
2289                 if (last_code == PICTURE_START_CODE) {
2290                     mpeg_decode_picture_coding_extension(s);
2291                 } else {
2292                     av_log(avctx, AV_LOG_ERROR, "ignoring pic cod ext after %X\n", last_code);
2293                     if (avctx->err_recognition & AV_EF_EXPLODE)
2294                         return AVERROR_INVALIDDATA;
2295                 }
2296                 break;
2297             }
2298             break;
2299         case USER_START_CODE:
2300             mpeg_decode_user_data(avctx, buf_ptr, input_size);
2301             break;
2302         case GOP_START_CODE:
2303             if (last_code == 0) {
2304                 s2->first_field=0;
2305                 mpeg_decode_gop(avctx, buf_ptr, input_size);
2306                 s->sync=1;
2307             } else {
2308                 av_log(avctx, AV_LOG_ERROR, "ignoring GOP_START_CODE after %X\n", last_code);
2309                 if (avctx->err_recognition & AV_EF_EXPLODE)
2310                     return AVERROR_INVALIDDATA;
2311             }
2312             break;
2313         default:
2314             if (start_code >= SLICE_MIN_START_CODE &&
2315                 start_code <= SLICE_MAX_START_CODE && last_code == PICTURE_START_CODE) {
2316
2317                 if (s2->progressive_sequence && !s2->progressive_frame) {
2318                     s2->progressive_frame = 1;
2319                     av_log(s2->avctx, AV_LOG_ERROR, "interlaced frame in progressive sequence, ignoring\n");
2320                 }
2321
2322                 if (s2->picture_structure == 0 || (s2->progressive_frame && s2->picture_structure != PICT_FRAME)) {
2323                     av_log(s2->avctx, AV_LOG_ERROR, "picture_structure %d invalid, ignoring\n", s2->picture_structure);
2324                     s2->picture_structure = PICT_FRAME;
2325                 }
2326
2327                 if (s2->progressive_sequence && !s2->frame_pred_frame_dct) {
2328                     av_log(s2->avctx, AV_LOG_WARNING, "invalid frame_pred_frame_dct\n");
2329                 }
2330
2331                 if (s2->picture_structure == PICT_FRAME) {
2332                     s2->first_field = 0;
2333                     s2->v_edge_pos  = 16 * s2->mb_height;
2334                 } else {
2335                     s2->first_field ^= 1;
2336                     s2->v_edge_pos   = 8 * s2->mb_height;
2337                     memset(s2->mbskip_table, 0, s2->mb_stride * s2->mb_height);
2338                 }
2339             }
2340             if (start_code >= SLICE_MIN_START_CODE &&
2341                 start_code <= SLICE_MAX_START_CODE && last_code != 0) {
2342                 const int field_pic = s2->picture_structure != PICT_FRAME;
2343                 int mb_y = start_code - SLICE_MIN_START_CODE;
2344                 last_code = SLICE_MIN_START_CODE;
2345                 if(s2->codec_id != AV_CODEC_ID_MPEG1VIDEO && s2->mb_height > 2800/16)
2346                     mb_y += (*buf_ptr&0xE0)<<2;
2347
2348                 mb_y <<= field_pic;
2349                 if (s2->picture_structure == PICT_BOTTOM_FIELD)
2350                     mb_y++;
2351
2352                 if (buf_end - buf_ptr < 2) {
2353                     av_log(s2->avctx, AV_LOG_ERROR, "slice too small\n");
2354                     return AVERROR_INVALIDDATA;
2355                 }
2356
2357                 if (mb_y >= s2->mb_height) {
2358                     av_log(s2->avctx, AV_LOG_ERROR, "slice below image (%d >= %d)\n", mb_y, s2->mb_height);
2359                     return -1;
2360                 }
2361
2362                 if (s2->last_picture_ptr == NULL) {
2363                 /* Skip B-frames if we do not have reference frames and gop is not closed */
2364                     if (s2->pict_type == AV_PICTURE_TYPE_B) {
2365                         if (!s2->closed_gop) {
2366                             skip_frame = 1;
2367                             break;
2368                         }
2369                     }
2370                 }
2371                 if (s2->pict_type == AV_PICTURE_TYPE_I || (s2->flags2 & CODEC_FLAG2_SHOW_ALL))
2372                     s->sync=1;
2373                 if (s2->next_picture_ptr == NULL) {
2374                 /* Skip P-frames if we do not have a reference frame or we have an invalid header. */
2375                     if (s2->pict_type == AV_PICTURE_TYPE_P && !s->sync) {
2376                         skip_frame = 1;
2377                         break;
2378                     }
2379                 }
2380                 if ((avctx->skip_frame >= AVDISCARD_NONREF && s2->pict_type == AV_PICTURE_TYPE_B) ||
2381                     (avctx->skip_frame >= AVDISCARD_NONKEY && s2->pict_type != AV_PICTURE_TYPE_I) ||
2382                      avctx->skip_frame >= AVDISCARD_ALL) {
2383                     skip_frame = 1;
2384                     break;
2385                 }
2386
2387                 if (!s->mpeg_enc_ctx_allocated)
2388                     break;
2389
2390                 if (s2->codec_id == AV_CODEC_ID_MPEG2VIDEO) {
2391                     if (mb_y < avctx->skip_top || mb_y >= s2->mb_height - avctx->skip_bottom)
2392                         break;
2393                 }
2394
2395                 if (!s2->pict_type) {
2396                     av_log(avctx, AV_LOG_ERROR, "Missing picture start code\n");
2397                     if (avctx->err_recognition & AV_EF_EXPLODE)
2398                         return AVERROR_INVALIDDATA;
2399                     break;
2400                 }
2401
2402                 if (s2->first_slice) {
2403                     skip_frame = 0;
2404                     s2->first_slice = 0;
2405                     if (mpeg_field_start(s2, buf, buf_size) < 0)
2406                         return -1;
2407                 }
2408                 if (!s2->current_picture_ptr) {
2409                     av_log(avctx, AV_LOG_ERROR, "current_picture not initialized\n");
2410                     return AVERROR_INVALIDDATA;
2411                 }
2412
2413                 if (uses_vdpau(avctx)) {
2414                     s->slice_count++;
2415                     break;
2416                 }
2417
2418                 if (HAVE_THREADS && (avctx->active_thread_type & FF_THREAD_SLICE) &&
2419                     !avctx->hwaccel) {
2420                     int threshold = (s2->mb_height * s->slice_count +
2421                                      s2->slice_context_count / 2) /
2422                                     s2->slice_context_count;
2423                     av_assert0(avctx->thread_count > 1);
2424                     if (threshold <= mb_y) {
2425                         MpegEncContext *thread_context = s2->thread_context[s->slice_count];
2426
2427                         thread_context->start_mb_y = mb_y;
2428                         thread_context->end_mb_y   = s2->mb_height;
2429                         if (s->slice_count) {
2430                             s2->thread_context[s->slice_count-1]->end_mb_y = mb_y;
2431                             ret = ff_update_duplicate_context(thread_context,
2432                                                               s2);
2433                             if (ret < 0)
2434                                 return ret;
2435                         }
2436                         init_get_bits(&thread_context->gb, buf_ptr, input_size*8);
2437                         s->slice_count++;
2438                     }
2439                     buf_ptr += 2; // FIXME add minimum number of bytes per slice
2440                 } else {
2441                     ret = mpeg_decode_slice(s2, mb_y, &buf_ptr, input_size);
2442                     emms_c();
2443
2444                     if (ret < 0) {
2445                         if (avctx->err_recognition & AV_EF_EXPLODE)
2446                             return ret;
2447                         if (s2->resync_mb_x >= 0 && s2->resync_mb_y >= 0)
2448                             ff_er_add_slice(&s2->er, s2->resync_mb_x, s2->resync_mb_y, s2->mb_x, s2->mb_y, ER_AC_ERROR | ER_DC_ERROR | ER_MV_ERROR);
2449                     } else {
2450                         ff_er_add_slice(&s2->er, s2->resync_mb_x, s2->resync_mb_y, s2->mb_x-1, s2->mb_y, ER_AC_END | ER_DC_END | ER_MV_END);
2451                     }
2452                 }
2453             }
2454             break;
2455         }
2456     }
2457 }
2458
2459 static int mpeg_decode_frame(AVCodecContext *avctx,
2460                              void *data, int *got_output,
2461                              AVPacket *avpkt)
2462 {
2463     const uint8_t *buf = avpkt->data;
2464     int ret;
2465     int buf_size = avpkt->size;
2466     Mpeg1Context *s = avctx->priv_data;
2467     AVFrame *picture = data;
2468     MpegEncContext *s2 = &s->mpeg_enc_ctx;
2469     av_dlog(avctx, "fill_buffer\n");
2470
2471     if (buf_size == 0 || (buf_size == 4 && AV_RB32(buf) == SEQ_END_CODE)) {
2472         /* special case for last picture */
2473         if (s2->low_delay == 0 && s2->next_picture_ptr) {
2474             int ret = av_frame_ref(picture, &s2->next_picture_ptr->f);
2475             if (ret < 0)
2476                 return ret;
2477
2478             s2->next_picture_ptr = NULL;
2479
2480             *got_output = 1;
2481         }
2482         return buf_size;
2483     }
2484
2485     if (s2->flags & CODEC_FLAG_TRUNCATED) {
2486         int next = ff_mpeg1_find_frame_end(&s2->parse_context, buf, buf_size, NULL);
2487
2488         if (ff_combine_frame(&s2->parse_context, next, (const uint8_t **)&buf, &buf_size) < 0)
2489             return buf_size;
2490     }
2491
2492     s2->codec_tag = avpriv_toupper4(avctx->codec_tag);
2493     if (s->mpeg_enc_ctx_allocated == 0 && (   s2->codec_tag == AV_RL32("VCR2")
2494                                            || s2->codec_tag == AV_RL32("BW10")
2495                                           ))
2496         vcr2_init_sequence(avctx);
2497
2498     s->slice_count = 0;
2499
2500     if (avctx->extradata && !s->extradata_decoded) {
2501         ret = decode_chunks(avctx, picture, got_output, avctx->extradata, avctx->extradata_size);
2502         if(*got_output) {
2503             av_log(avctx, AV_LOG_ERROR, "picture in extradata\n");
2504             *got_output = 0;
2505         }
2506         s->extradata_decoded = 1;
2507         if (ret < 0 && (avctx->err_recognition & AV_EF_EXPLODE)) {
2508             s2->current_picture_ptr = NULL;
2509             return ret;
2510         }
2511     }
2512
2513     ret = decode_chunks(avctx, picture, got_output, buf, buf_size);
2514     if (ret<0 || *got_output)
2515         s2->current_picture_ptr = NULL;
2516
2517     return ret;
2518 }
2519
2520
2521 static void flush(AVCodecContext *avctx)
2522 {
2523     Mpeg1Context *s = avctx->priv_data;
2524
2525     s->sync=0;
2526
2527     ff_mpeg_flush(avctx);
2528 }
2529
2530 static av_cold int mpeg_decode_end(AVCodecContext *avctx)
2531 {
2532     Mpeg1Context *s = avctx->priv_data;
2533
2534     if (s->mpeg_enc_ctx_allocated)
2535         ff_MPV_common_end(&s->mpeg_enc_ctx);
2536     return 0;
2537 }
2538
2539 static const AVProfile mpeg2_video_profiles[] = {
2540     { FF_PROFILE_MPEG2_422,          "4:2:2"              },
2541     { FF_PROFILE_MPEG2_HIGH,         "High"               },
2542     { FF_PROFILE_MPEG2_SS,           "Spatially Scalable" },
2543     { FF_PROFILE_MPEG2_SNR_SCALABLE, "SNR Scalable"       },
2544     { FF_PROFILE_MPEG2_MAIN,         "Main"               },
2545     { FF_PROFILE_MPEG2_SIMPLE,       "Simple"             },
2546     { FF_PROFILE_RESERVED,           "Reserved"           },
2547     { FF_PROFILE_RESERVED,           "Reserved"           },
2548     { FF_PROFILE_UNKNOWN },
2549 };
2550
2551
2552 AVCodec ff_mpeg1video_decoder = {
2553     .name                  = "mpeg1video",
2554     .long_name             = NULL_IF_CONFIG_SMALL("MPEG-1 video"),
2555     .type                  = AVMEDIA_TYPE_VIDEO,
2556     .id                    = AV_CODEC_ID_MPEG1VIDEO,
2557     .priv_data_size        = sizeof(Mpeg1Context),
2558     .init                  = mpeg_decode_init,
2559     .close                 = mpeg_decode_end,
2560     .decode                = mpeg_decode_frame,
2561     .capabilities          = CODEC_CAP_DRAW_HORIZ_BAND | CODEC_CAP_DR1 |
2562                              CODEC_CAP_TRUNCATED | CODEC_CAP_DELAY |
2563                              CODEC_CAP_SLICE_THREADS,
2564     .flush                 = flush,
2565     .max_lowres            = 3,
2566     .update_thread_context = ONLY_IF_THREADS_ENABLED(mpeg_decode_update_thread_context)
2567 };
2568
2569 AVCodec ff_mpeg2video_decoder = {
2570     .name           = "mpeg2video",
2571     .long_name      = NULL_IF_CONFIG_SMALL("MPEG-2 video"),
2572     .type           = AVMEDIA_TYPE_VIDEO,
2573     .id             = AV_CODEC_ID_MPEG2VIDEO,
2574     .priv_data_size = sizeof(Mpeg1Context),
2575     .init           = mpeg_decode_init,
2576     .close          = mpeg_decode_end,
2577     .decode         = mpeg_decode_frame,
2578     .capabilities   = CODEC_CAP_DRAW_HORIZ_BAND | CODEC_CAP_DR1 |
2579                       CODEC_CAP_TRUNCATED | CODEC_CAP_DELAY |
2580                       CODEC_CAP_SLICE_THREADS,
2581     .flush          = flush,
2582     .max_lowres     = 3,
2583     .profiles       = NULL_IF_CONFIG_SMALL(mpeg2_video_profiles),
2584 };
2585
2586 //legacy decoder
2587 AVCodec ff_mpegvideo_decoder = {
2588     .name           = "mpegvideo",
2589     .long_name      = NULL_IF_CONFIG_SMALL("MPEG-1 video"),
2590     .type           = AVMEDIA_TYPE_VIDEO,
2591     .id             = AV_CODEC_ID_MPEG2VIDEO,
2592     .priv_data_size = sizeof(Mpeg1Context),
2593     .init           = mpeg_decode_init,
2594     .close          = mpeg_decode_end,
2595     .decode         = mpeg_decode_frame,
2596     .capabilities   = CODEC_CAP_DRAW_HORIZ_BAND | CODEC_CAP_DR1 | CODEC_CAP_TRUNCATED | CODEC_CAP_DELAY | CODEC_CAP_SLICE_THREADS,
2597     .flush          = flush,
2598     .max_lowres     = 3,
2599 };
2600
2601 #if CONFIG_MPEG_XVMC_DECODER
2602 static av_cold int mpeg_mc_decode_init(AVCodecContext *avctx)
2603 {
2604     if (avctx->active_thread_type & FF_THREAD_SLICE)
2605         return -1;
2606     if (!(avctx->slice_flags & SLICE_FLAG_CODED_ORDER))
2607         return -1;
2608     if (!(avctx->slice_flags & SLICE_FLAG_ALLOW_FIELD)) {
2609         av_dlog(avctx, "mpeg12.c: XvMC decoder will work better if SLICE_FLAG_ALLOW_FIELD is set\n");
2610     }
2611     mpeg_decode_init(avctx);
2612
2613     avctx->pix_fmt           = AV_PIX_FMT_XVMC_MPEG2_IDCT;
2614     avctx->xvmc_acceleration = 2; // 2 - the blocks are packed!
2615
2616     return 0;
2617 }
2618
2619 AVCodec ff_mpeg_xvmc_decoder = {
2620     .name           = "mpegvideo_xvmc",
2621     .long_name      = NULL_IF_CONFIG_SMALL("MPEG-1/2 video XvMC (X-Video Motion Compensation)"),
2622     .type           = AVMEDIA_TYPE_VIDEO,
2623     .id             = AV_CODEC_ID_MPEG2VIDEO_XVMC,
2624     .priv_data_size = sizeof(Mpeg1Context),
2625     .init           = mpeg_mc_decode_init,
2626     .close          = mpeg_decode_end,
2627     .decode         = mpeg_decode_frame,
2628     .capabilities   = CODEC_CAP_DRAW_HORIZ_BAND | CODEC_CAP_DR1 |
2629                       CODEC_CAP_TRUNCATED| CODEC_CAP_HWACCEL | CODEC_CAP_DELAY,
2630     .flush          = flush,
2631 };
2632
2633 #endif
2634
2635 #if CONFIG_MPEG_VDPAU_DECODER
2636 AVCodec ff_mpeg_vdpau_decoder = {
2637     .name           = "mpegvideo_vdpau",
2638     .long_name      = NULL_IF_CONFIG_SMALL("MPEG-1/2 video (VDPAU acceleration)"),
2639     .type           = AVMEDIA_TYPE_VIDEO,
2640     .id             = AV_CODEC_ID_MPEG2VIDEO,
2641     .priv_data_size = sizeof(Mpeg1Context),
2642     .init           = mpeg_decode_init,
2643     .close          = mpeg_decode_end,
2644     .decode         = mpeg_decode_frame,
2645     .capabilities   = CODEC_CAP_DR1 | CODEC_CAP_TRUNCATED |
2646                       CODEC_CAP_HWACCEL_VDPAU | CODEC_CAP_DELAY,
2647     .flush          = flush,
2648 };
2649 #endif
2650
2651 #if CONFIG_MPEG1_VDPAU_DECODER
2652 AVCodec ff_mpeg1_vdpau_decoder = {
2653     .name           = "mpeg1video_vdpau",
2654     .long_name      = NULL_IF_CONFIG_SMALL("MPEG-1 video (VDPAU acceleration)"),
2655     .type           = AVMEDIA_TYPE_VIDEO,
2656     .id             = AV_CODEC_ID_MPEG1VIDEO,
2657     .priv_data_size = sizeof(Mpeg1Context),
2658     .init           = mpeg_decode_init,
2659     .close          = mpeg_decode_end,
2660     .decode         = mpeg_decode_frame,
2661     .capabilities   = CODEC_CAP_DR1 | CODEC_CAP_TRUNCATED |
2662                       CODEC_CAP_HWACCEL_VDPAU | CODEC_CAP_DELAY,
2663     .flush          = flush,
2664 };
2665 #endif