mpeg12dec: move first_slice from MpegEncContext to Mpeg1Context
[ffmpeg.git] / libavcodec / mpeg12dec.c
1 /*
2  * MPEG-1/2 decoder
3  * Copyright (c) 2000, 2001 Fabrice Bellard
4  * Copyright (c) 2002-2004 Michael Niedermayer <michaelni@gmx.at>
5  *
6  * This file is part of Libav.
7  *
8  * Libav is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * Libav is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with Libav; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 /**
24  * @file
25  * MPEG-1/2 decoder
26  */
27
28 #include "libavutil/attributes.h"
29 #include "libavutil/internal.h"
30 #include "internal.h"
31 #include "avcodec.h"
32 #include "dsputil.h"
33 #include "mpegvideo.h"
34 #include "error_resilience.h"
35 #include "mpeg12.h"
36 #include "mpeg12data.h"
37 #include "bytestream.h"
38 #include "xvmc_internal.h"
39 #include "thread.h"
40 #include "version.h"
41
42 typedef struct Mpeg1Context {
43     MpegEncContext mpeg_enc_ctx;
44     int mpeg_enc_ctx_allocated; /* true if decoding context allocated */
45     int repeat_field; /* true if we must repeat the field */
46     AVPanScan pan_scan;              /**< some temporary storage for the panscan */
47     uint8_t *a53_caption;
48     int a53_caption_size;
49     int slice_count;
50     int save_aspect_info;
51     int save_width, save_height, save_progressive_seq;
52     AVRational frame_rate_ext;       ///< MPEG-2 specific framerate modificator
53     int sync;                        ///< Did we reach a sync point like a GOP/SEQ/KEYFrame?
54     int closed_gop;                  ///< GOP is closed
55     int first_slice;
56     int extradata_decoded;
57 } Mpeg1Context;
58
59 #define MB_TYPE_ZERO_MV   0x20000000
60
61 static const uint32_t ptype2mb_type[7] = {
62                     MB_TYPE_INTRA,
63                     MB_TYPE_L0 | MB_TYPE_CBP | MB_TYPE_ZERO_MV | MB_TYPE_16x16,
64                     MB_TYPE_L0,
65                     MB_TYPE_L0 | MB_TYPE_CBP,
66     MB_TYPE_QUANT | MB_TYPE_INTRA,
67     MB_TYPE_QUANT | MB_TYPE_L0 | MB_TYPE_CBP | MB_TYPE_ZERO_MV | MB_TYPE_16x16,
68     MB_TYPE_QUANT | MB_TYPE_L0 | MB_TYPE_CBP,
69 };
70
71 static const uint32_t btype2mb_type[11] = {
72                     MB_TYPE_INTRA,
73                     MB_TYPE_L1,
74                     MB_TYPE_L1   | MB_TYPE_CBP,
75                     MB_TYPE_L0,
76                     MB_TYPE_L0   | MB_TYPE_CBP,
77                     MB_TYPE_L0L1,
78                     MB_TYPE_L0L1 | MB_TYPE_CBP,
79     MB_TYPE_QUANT | MB_TYPE_INTRA,
80     MB_TYPE_QUANT | MB_TYPE_L1   | MB_TYPE_CBP,
81     MB_TYPE_QUANT | MB_TYPE_L0   | MB_TYPE_CBP,
82     MB_TYPE_QUANT | MB_TYPE_L0L1 | MB_TYPE_CBP,
83 };
84
85 static const uint8_t non_linear_qscale[32] = {
86     0, 1, 2, 3, 4, 5, 6, 7,
87     8,10,12,14,16,18,20,22,
88     24,28,32,36,40,44,48,52,
89     56,64,72,80,88,96,104,112,
90 };
91
92 /* as H.263, but only 17 codes */
93 static int mpeg_decode_motion(MpegEncContext *s, int fcode, int pred)
94 {
95     int code, sign, val, shift;
96
97     code = get_vlc2(&s->gb, ff_mv_vlc.table, MV_VLC_BITS, 2);
98     if (code == 0) {
99         return pred;
100     }
101     if (code < 0) {
102         return 0xffff;
103     }
104
105     sign  = get_bits1(&s->gb);
106     shift = fcode - 1;
107     val   = code;
108     if (shift) {
109         val  = (val - 1) << shift;
110         val |= get_bits(&s->gb, shift);
111         val++;
112     }
113     if (sign)
114         val = -val;
115     val += pred;
116
117     /* modulo decoding */
118     return sign_extend(val, 5 + shift);
119 }
120
121 static inline int mpeg1_decode_block_intra(MpegEncContext *s, int16_t *block, int n)
122 {
123     int level, dc, diff, i, j, run;
124     int component;
125     RLTable *rl = &ff_rl_mpeg1;
126     uint8_t * const scantable    = s->intra_scantable.permutated;
127     const uint16_t *quant_matrix = s->intra_matrix;
128     const int qscale             = s->qscale;
129
130     /* DC coefficient */
131     component = (n <= 3 ? 0 : n - 4 + 1);
132     diff = decode_dc(&s->gb, component);
133     if (diff >= 0xffff)
134         return -1;
135     dc  = s->last_dc[component];
136     dc += diff;
137     s->last_dc[component] = dc;
138     block[0] = dc * quant_matrix[0];
139     av_dlog(s->avctx, "dc=%d diff=%d\n", dc, diff);
140     i = 0;
141     {
142         OPEN_READER(re, &s->gb);
143         /* now quantify & encode AC coefficients */
144         for (;;) {
145             UPDATE_CACHE(re, &s->gb);
146             GET_RL_VLC(level, run, re, &s->gb, rl->rl_vlc[0], TEX_VLC_BITS, 2, 0);
147
148             if (level == 127) {
149                 break;
150             } else if (level != 0) {
151                 i += run;
152                 j = scantable[i];
153                 level = (level * qscale * quant_matrix[j]) >> 4;
154                 level = (level - 1) | 1;
155                 level = (level ^ SHOW_SBITS(re, &s->gb, 1)) - SHOW_SBITS(re, &s->gb, 1);
156                 LAST_SKIP_BITS(re, &s->gb, 1);
157             } else {
158                 /* escape */
159                 run = SHOW_UBITS(re, &s->gb, 6) + 1; LAST_SKIP_BITS(re, &s->gb, 6);
160                 UPDATE_CACHE(re, &s->gb);
161                 level = SHOW_SBITS(re, &s->gb, 8); SKIP_BITS(re, &s->gb, 8);
162                 if (level == -128) {
163                     level = SHOW_UBITS(re, &s->gb, 8) - 256; LAST_SKIP_BITS(re, &s->gb, 8);
164                 } else if (level == 0) {
165                     level = SHOW_UBITS(re, &s->gb, 8)      ; LAST_SKIP_BITS(re, &s->gb, 8);
166                 }
167                 i += run;
168                 j = scantable[i];
169                 if (level < 0) {
170                     level = -level;
171                     level = (level * qscale * quant_matrix[j]) >> 4;
172                     level = (level - 1) | 1;
173                     level = -level;
174                 } else {
175                     level = (level * qscale * quant_matrix[j]) >> 4;
176                     level = (level - 1) | 1;
177                 }
178             }
179             if (i > 63) {
180                 av_log(s->avctx, AV_LOG_ERROR, "ac-tex damaged at %d %d\n", s->mb_x, s->mb_y);
181                 return -1;
182             }
183
184             block[j] = level;
185         }
186         CLOSE_READER(re, &s->gb);
187     }
188     s->block_last_index[n] = i;
189    return 0;
190 }
191
192 int ff_mpeg1_decode_block_intra(MpegEncContext *s, int16_t *block, int n)
193 {
194     return mpeg1_decode_block_intra(s, block, n);
195 }
196
197 static inline int mpeg1_decode_block_inter(MpegEncContext *s, int16_t *block, int n)
198 {
199     int level, i, j, run;
200     RLTable *rl = &ff_rl_mpeg1;
201     uint8_t * const scantable    = s->intra_scantable.permutated;
202     const uint16_t *quant_matrix = s->inter_matrix;
203     const int qscale             = s->qscale;
204
205     {
206         OPEN_READER(re, &s->gb);
207         i = -1;
208         // special case for first coefficient, no need to add second VLC table
209         UPDATE_CACHE(re, &s->gb);
210         if (((int32_t)GET_CACHE(re, &s->gb)) < 0) {
211             level = (3 * qscale * quant_matrix[0]) >> 5;
212             level = (level - 1) | 1;
213             if (GET_CACHE(re, &s->gb) & 0x40000000)
214                 level = -level;
215             block[0] = level;
216             i++;
217             SKIP_BITS(re, &s->gb, 2);
218             if (((int32_t)GET_CACHE(re, &s->gb)) <= (int32_t)0xBFFFFFFF)
219                 goto end;
220         }
221         /* now quantify & encode AC coefficients */
222         for (;;) {
223             GET_RL_VLC(level, run, re, &s->gb, rl->rl_vlc[0], TEX_VLC_BITS, 2, 0);
224
225             if (level != 0) {
226                 i += run;
227                 j = scantable[i];
228                 level = ((level * 2 + 1) * qscale * quant_matrix[j]) >> 5;
229                 level = (level - 1) | 1;
230                 level = (level ^ SHOW_SBITS(re, &s->gb, 1)) - SHOW_SBITS(re, &s->gb, 1);
231                 SKIP_BITS(re, &s->gb, 1);
232             } else {
233                 /* escape */
234                 run = SHOW_UBITS(re, &s->gb, 6) + 1; LAST_SKIP_BITS(re, &s->gb, 6);
235                 UPDATE_CACHE(re, &s->gb);
236                 level = SHOW_SBITS(re, &s->gb, 8); SKIP_BITS(re, &s->gb, 8);
237                 if (level == -128) {
238                     level = SHOW_UBITS(re, &s->gb, 8) - 256; SKIP_BITS(re, &s->gb, 8);
239                 } else if (level == 0) {
240                     level = SHOW_UBITS(re, &s->gb, 8)      ; SKIP_BITS(re, &s->gb, 8);
241                 }
242                 i += run;
243                 j = scantable[i];
244                 if (level < 0) {
245                     level = -level;
246                     level = ((level * 2 + 1) * qscale * quant_matrix[j]) >> 5;
247                     level = (level - 1) | 1;
248                     level = -level;
249                 } else {
250                     level = ((level * 2 + 1) * qscale * quant_matrix[j]) >> 5;
251                     level = (level - 1) | 1;
252                 }
253             }
254             if (i > 63) {
255                 av_log(s->avctx, AV_LOG_ERROR, "ac-tex damaged at %d %d\n", s->mb_x, s->mb_y);
256                 return -1;
257             }
258
259             block[j] = level;
260             if (((int32_t)GET_CACHE(re, &s->gb)) <= (int32_t)0xBFFFFFFF)
261                 break;
262             UPDATE_CACHE(re, &s->gb);
263         }
264 end:
265         LAST_SKIP_BITS(re, &s->gb, 2);
266         CLOSE_READER(re, &s->gb);
267     }
268     s->block_last_index[n] = i;
269     return 0;
270 }
271
272 static inline int mpeg1_fast_decode_block_inter(MpegEncContext *s, int16_t *block, int n)
273 {
274     int level, i, j, run;
275     RLTable *rl = &ff_rl_mpeg1;
276     uint8_t * const scantable = s->intra_scantable.permutated;
277     const int qscale          = s->qscale;
278
279     {
280         OPEN_READER(re, &s->gb);
281         i = -1;
282         // special case for first coefficient, no need to add second VLC table
283         UPDATE_CACHE(re, &s->gb);
284         if (((int32_t)GET_CACHE(re, &s->gb)) < 0) {
285             level = (3 * qscale) >> 1;
286             level = (level - 1) | 1;
287             if (GET_CACHE(re, &s->gb) & 0x40000000)
288                 level = -level;
289             block[0] = level;
290             i++;
291             SKIP_BITS(re, &s->gb, 2);
292             if (((int32_t)GET_CACHE(re, &s->gb)) <= (int32_t)0xBFFFFFFF)
293                 goto end;
294         }
295
296         /* now quantify & encode AC coefficients */
297         for (;;) {
298             GET_RL_VLC(level, run, re, &s->gb, rl->rl_vlc[0], TEX_VLC_BITS, 2, 0);
299
300             if (level != 0) {
301                 i += run;
302                 j = scantable[i];
303                 level = ((level * 2 + 1) * qscale) >> 1;
304                 level = (level - 1) | 1;
305                 level = (level ^ SHOW_SBITS(re, &s->gb, 1)) - SHOW_SBITS(re, &s->gb, 1);
306                 SKIP_BITS(re, &s->gb, 1);
307             } else {
308                 /* escape */
309                 run = SHOW_UBITS(re, &s->gb, 6)+1; LAST_SKIP_BITS(re, &s->gb, 6);
310                 UPDATE_CACHE(re, &s->gb);
311                 level = SHOW_SBITS(re, &s->gb, 8); SKIP_BITS(re, &s->gb, 8);
312                 if (level == -128) {
313                     level = SHOW_UBITS(re, &s->gb, 8) - 256; SKIP_BITS(re, &s->gb, 8);
314                 } else if (level == 0) {
315                     level = SHOW_UBITS(re, &s->gb, 8)      ; SKIP_BITS(re, &s->gb, 8);
316                 }
317                 i += run;
318                 j = scantable[i];
319                 if (level < 0) {
320                     level = -level;
321                     level = ((level * 2 + 1) * qscale) >> 1;
322                     level = (level - 1) | 1;
323                     level = -level;
324                 } else {
325                     level = ((level * 2 + 1) * qscale) >> 1;
326                     level = (level - 1) | 1;
327                 }
328             }
329
330             block[j] = level;
331             if (((int32_t)GET_CACHE(re, &s->gb)) <= (int32_t)0xBFFFFFFF)
332                 break;
333             UPDATE_CACHE(re, &s->gb);
334         }
335 end:
336         LAST_SKIP_BITS(re, &s->gb, 2);
337         CLOSE_READER(re, &s->gb);
338     }
339     s->block_last_index[n] = i;
340     return 0;
341 }
342
343
344 static inline int mpeg2_decode_block_non_intra(MpegEncContext *s, int16_t *block, int n)
345 {
346     int level, i, j, run;
347     RLTable *rl = &ff_rl_mpeg1;
348     uint8_t * const scantable = s->intra_scantable.permutated;
349     const uint16_t *quant_matrix;
350     const int qscale = s->qscale;
351     int mismatch;
352
353     mismatch = 1;
354
355     {
356         OPEN_READER(re, &s->gb);
357         i = -1;
358         if (n < 4)
359             quant_matrix = s->inter_matrix;
360         else
361             quant_matrix = s->chroma_inter_matrix;
362
363         // special case for first coefficient, no need to add second VLC table
364         UPDATE_CACHE(re, &s->gb);
365         if (((int32_t)GET_CACHE(re, &s->gb)) < 0) {
366             level= (3 * qscale * quant_matrix[0]) >> 5;
367             if (GET_CACHE(re, &s->gb) & 0x40000000)
368                 level = -level;
369             block[0]  = level;
370             mismatch ^= level;
371             i++;
372             SKIP_BITS(re, &s->gb, 2);
373             if (((int32_t)GET_CACHE(re, &s->gb)) <= (int32_t)0xBFFFFFFF)
374                 goto end;
375         }
376
377         /* now quantify & encode AC coefficients */
378         for (;;) {
379             GET_RL_VLC(level, run, re, &s->gb, rl->rl_vlc[0], TEX_VLC_BITS, 2, 0);
380
381             if (level != 0) {
382                 i += run;
383                 j = scantable[i];
384                 level = ((level * 2 + 1) * qscale * quant_matrix[j]) >> 5;
385                 level = (level ^ SHOW_SBITS(re, &s->gb, 1)) - SHOW_SBITS(re, &s->gb, 1);
386                 SKIP_BITS(re, &s->gb, 1);
387             } else {
388                 /* escape */
389                 run = SHOW_UBITS(re, &s->gb, 6) + 1; LAST_SKIP_BITS(re, &s->gb, 6);
390                 UPDATE_CACHE(re, &s->gb);
391                 level = SHOW_SBITS(re, &s->gb, 12); SKIP_BITS(re, &s->gb, 12);
392
393                 i += run;
394                 j = scantable[i];
395                 if (level < 0) {
396                     level = ((-level * 2 + 1) * qscale * quant_matrix[j]) >> 5;
397                     level = -level;
398                 } else {
399                     level = ((level * 2 + 1) * qscale * quant_matrix[j]) >> 5;
400                 }
401             }
402             if (i > 63) {
403                 av_log(s->avctx, AV_LOG_ERROR, "ac-tex damaged at %d %d\n", s->mb_x, s->mb_y);
404                 return -1;
405             }
406
407             mismatch ^= level;
408             block[j]  = level;
409             if (((int32_t)GET_CACHE(re, &s->gb)) <= (int32_t)0xBFFFFFFF)
410                 break;
411             UPDATE_CACHE(re, &s->gb);
412         }
413 end:
414         LAST_SKIP_BITS(re, &s->gb, 2);
415         CLOSE_READER(re, &s->gb);
416     }
417     block[63] ^= (mismatch & 1);
418
419     s->block_last_index[n] = i;
420     return 0;
421 }
422
423 static inline int mpeg2_fast_decode_block_non_intra(MpegEncContext *s,
424                                                     int16_t *block, int n)
425 {
426     int level, i, j, run;
427     RLTable *rl = &ff_rl_mpeg1;
428     uint8_t * const scantable = s->intra_scantable.permutated;
429     const int qscale          = s->qscale;
430     OPEN_READER(re, &s->gb);
431     i = -1;
432
433     // special case for first coefficient, no need to add second VLC table
434     UPDATE_CACHE(re, &s->gb);
435     if (((int32_t)GET_CACHE(re, &s->gb)) < 0) {
436         level = (3 * qscale) >> 1;
437         if (GET_CACHE(re, &s->gb) & 0x40000000)
438             level = -level;
439         block[0] = level;
440         i++;
441         SKIP_BITS(re, &s->gb, 2);
442         if (((int32_t)GET_CACHE(re, &s->gb)) <= (int32_t)0xBFFFFFFF)
443             goto end;
444     }
445
446     /* now quantify & encode AC coefficients */
447     for (;;) {
448         GET_RL_VLC(level, run, re, &s->gb, rl->rl_vlc[0], TEX_VLC_BITS, 2, 0);
449
450         if (level != 0) {
451             i += run;
452             j  = scantable[i];
453             level = ((level * 2 + 1) * qscale) >> 1;
454             level = (level ^ SHOW_SBITS(re, &s->gb, 1)) - SHOW_SBITS(re, &s->gb, 1);
455             SKIP_BITS(re, &s->gb, 1);
456         } else {
457             /* escape */
458             run = SHOW_UBITS(re, &s->gb, 6) + 1; LAST_SKIP_BITS(re, &s->gb, 6);
459             UPDATE_CACHE(re, &s->gb);
460             level = SHOW_SBITS(re, &s->gb, 12); SKIP_BITS(re, &s->gb, 12);
461
462             i += run;
463             j  = scantable[i];
464             if (level < 0) {
465                 level = ((-level * 2 + 1) * qscale) >> 1;
466                 level = -level;
467             } else {
468                 level = ((level * 2 + 1) * qscale) >> 1;
469             }
470         }
471
472         block[j] = level;
473         if (((int32_t)GET_CACHE(re, &s->gb)) <= (int32_t)0xBFFFFFFF)
474             break;
475         UPDATE_CACHE(re, &s->gb);
476     }
477 end:
478     LAST_SKIP_BITS(re, &s->gb, 2);
479     CLOSE_READER(re, &s->gb);
480     s->block_last_index[n] = i;
481     return 0;
482 }
483
484
485 static inline int mpeg2_decode_block_intra(MpegEncContext *s, int16_t *block, int n)
486 {
487     int level, dc, diff, i, j, run;
488     int component;
489     RLTable *rl;
490     uint8_t * const scantable = s->intra_scantable.permutated;
491     const uint16_t *quant_matrix;
492     const int qscale = s->qscale;
493     int mismatch;
494
495     /* DC coefficient */
496     if (n < 4) {
497         quant_matrix = s->intra_matrix;
498         component = 0;
499     } else {
500         quant_matrix = s->chroma_intra_matrix;
501         component = (n & 1) + 1;
502     }
503     diff = decode_dc(&s->gb, component);
504     if (diff >= 0xffff)
505         return -1;
506     dc  = s->last_dc[component];
507     dc += diff;
508     s->last_dc[component] = dc;
509     block[0] = dc << (3 - s->intra_dc_precision);
510     av_dlog(s->avctx, "dc=%d\n", block[0]);
511     mismatch = block[0] ^ 1;
512     i = 0;
513     if (s->intra_vlc_format)
514         rl = &ff_rl_mpeg2;
515     else
516         rl = &ff_rl_mpeg1;
517
518     {
519         OPEN_READER(re, &s->gb);
520         /* now quantify & encode AC coefficients */
521         for (;;) {
522             UPDATE_CACHE(re, &s->gb);
523             GET_RL_VLC(level, run, re, &s->gb, rl->rl_vlc[0], TEX_VLC_BITS, 2, 0);
524
525             if (level == 127) {
526                 break;
527             } else if (level != 0) {
528                 i += run;
529                 j  = scantable[i];
530                 level = (level * qscale * quant_matrix[j]) >> 4;
531                 level = (level ^ SHOW_SBITS(re, &s->gb, 1)) - SHOW_SBITS(re, &s->gb, 1);
532                 LAST_SKIP_BITS(re, &s->gb, 1);
533             } else {
534                 /* escape */
535                 run = SHOW_UBITS(re, &s->gb, 6) + 1; LAST_SKIP_BITS(re, &s->gb, 6);
536                 UPDATE_CACHE(re, &s->gb);
537                 level = SHOW_SBITS(re, &s->gb, 12); SKIP_BITS(re, &s->gb, 12);
538                 i += run;
539                 j  = scantable[i];
540                 if (level < 0) {
541                     level = (-level * qscale * quant_matrix[j]) >> 4;
542                     level = -level;
543                 } else {
544                     level = (level * qscale * quant_matrix[j]) >> 4;
545                 }
546             }
547             if (i > 63) {
548                 av_log(s->avctx, AV_LOG_ERROR, "ac-tex damaged at %d %d\n", s->mb_x, s->mb_y);
549                 return -1;
550             }
551
552             mismatch ^= level;
553             block[j]  = level;
554         }
555         CLOSE_READER(re, &s->gb);
556     }
557     block[63] ^= mismatch & 1;
558
559     s->block_last_index[n] = i;
560     return 0;
561 }
562
563 static inline int mpeg2_fast_decode_block_intra(MpegEncContext *s, int16_t *block, int n)
564 {
565     int level, dc, diff, j, run;
566     int component;
567     RLTable *rl;
568     uint8_t * scantable = s->intra_scantable.permutated;
569     const uint16_t *quant_matrix;
570     const int qscale = s->qscale;
571
572     /* DC coefficient */
573     if (n < 4) {
574         quant_matrix = s->intra_matrix;
575         component = 0;
576     } else {
577         quant_matrix = s->chroma_intra_matrix;
578         component = (n & 1) + 1;
579     }
580     diff = decode_dc(&s->gb, component);
581     if (diff >= 0xffff)
582         return -1;
583     dc = s->last_dc[component];
584     dc += diff;
585     s->last_dc[component] = dc;
586     block[0] = dc << (3 - s->intra_dc_precision);
587     if (s->intra_vlc_format)
588         rl = &ff_rl_mpeg2;
589     else
590         rl = &ff_rl_mpeg1;
591
592     {
593         OPEN_READER(re, &s->gb);
594         /* now quantify & encode AC coefficients */
595         for (;;) {
596             UPDATE_CACHE(re, &s->gb);
597             GET_RL_VLC(level, run, re, &s->gb, rl->rl_vlc[0], TEX_VLC_BITS, 2, 0);
598
599             if (level == 127) {
600                 break;
601             } else if (level != 0) {
602                 scantable += run;
603                 j = *scantable;
604                 level = (level * qscale * quant_matrix[j]) >> 4;
605                 level = (level ^ SHOW_SBITS(re, &s->gb, 1)) - SHOW_SBITS(re, &s->gb, 1);
606                 LAST_SKIP_BITS(re, &s->gb, 1);
607             } else {
608                 /* escape */
609                 run = SHOW_UBITS(re, &s->gb, 6) + 1; LAST_SKIP_BITS(re, &s->gb, 6);
610                 UPDATE_CACHE(re, &s->gb);
611                 level = SHOW_SBITS(re, &s->gb, 12); SKIP_BITS(re, &s->gb, 12);
612                 scantable += run;
613                 j = *scantable;
614                 if (level < 0) {
615                     level = (-level * qscale * quant_matrix[j]) >> 4;
616                     level = -level;
617                 } else {
618                     level = (level * qscale * quant_matrix[j]) >> 4;
619                 }
620             }
621
622             block[j] = level;
623         }
624         CLOSE_READER(re, &s->gb);
625     }
626
627     s->block_last_index[n] = scantable - s->intra_scantable.permutated;
628     return 0;
629 }
630
631 /******************************************/
632 /* decoding */
633
634 static inline int get_dmv(MpegEncContext *s)
635 {
636     if (get_bits1(&s->gb))
637         return 1 - (get_bits1(&s->gb) << 1);
638     else
639         return 0;
640 }
641
642 static inline int get_qscale(MpegEncContext *s)
643 {
644     int qscale = get_bits(&s->gb, 5);
645     if (s->q_scale_type) {
646         return non_linear_qscale[qscale];
647     } else {
648         return qscale << 1;
649     }
650 }
651
652 /* motion type (for MPEG-2) */
653 #define MT_FIELD 1
654 #define MT_FRAME 2
655 #define MT_16X8  2
656 #define MT_DMV   3
657
658 static int mpeg_decode_mb(MpegEncContext *s, int16_t block[12][64])
659 {
660     int i, j, k, cbp, val, mb_type, motion_type;
661     const int mb_block_count = 4 + (1 << s->chroma_format);
662
663     av_dlog(s->avctx, "decode_mb: x=%d y=%d\n", s->mb_x, s->mb_y);
664
665     assert(s->mb_skipped == 0);
666
667     if (s->mb_skip_run-- != 0) {
668         if (s->pict_type == AV_PICTURE_TYPE_P) {
669             s->mb_skipped = 1;
670             s->current_picture.mb_type[s->mb_x + s->mb_y * s->mb_stride] = MB_TYPE_SKIP | MB_TYPE_L0 | MB_TYPE_16x16;
671         } else {
672             int mb_type;
673
674             if (s->mb_x)
675                 mb_type = s->current_picture.mb_type[s->mb_x + s->mb_y * s->mb_stride - 1];
676             else
677                 mb_type = s->current_picture.mb_type[s->mb_width + (s->mb_y - 1) * s->mb_stride - 1]; // FIXME not sure if this is allowed in MPEG at all
678             if (IS_INTRA(mb_type))
679                 return -1;
680             s->current_picture.mb_type[s->mb_x + s->mb_y*s->mb_stride] =
681                 mb_type | MB_TYPE_SKIP;
682 //            assert(s->current_picture.mb_type[s->mb_x + s->mb_y * s->mb_stride - 1] & (MB_TYPE_16x16 | MB_TYPE_16x8));
683
684             if ((s->mv[0][0][0] | s->mv[0][0][1] | s->mv[1][0][0] | s->mv[1][0][1]) == 0)
685                 s->mb_skipped = 1;
686         }
687
688         return 0;
689     }
690
691     switch (s->pict_type) {
692     default:
693     case AV_PICTURE_TYPE_I:
694         if (get_bits1(&s->gb) == 0) {
695             if (get_bits1(&s->gb) == 0) {
696                 av_log(s->avctx, AV_LOG_ERROR, "invalid mb type in I Frame at %d %d\n", s->mb_x, s->mb_y);
697                 return -1;
698             }
699             mb_type = MB_TYPE_QUANT | MB_TYPE_INTRA;
700         } else {
701             mb_type = MB_TYPE_INTRA;
702         }
703         break;
704     case AV_PICTURE_TYPE_P:
705         mb_type = get_vlc2(&s->gb, ff_mb_ptype_vlc.table, MB_PTYPE_VLC_BITS, 1);
706         if (mb_type < 0) {
707             av_log(s->avctx, AV_LOG_ERROR, "invalid mb type in P Frame at %d %d\n", s->mb_x, s->mb_y);
708             return -1;
709         }
710         mb_type = ptype2mb_type[mb_type];
711         break;
712     case AV_PICTURE_TYPE_B:
713         mb_type = get_vlc2(&s->gb, ff_mb_btype_vlc.table, MB_BTYPE_VLC_BITS, 1);
714         if (mb_type < 0) {
715             av_log(s->avctx, AV_LOG_ERROR, "invalid mb type in B Frame at %d %d\n", s->mb_x, s->mb_y);
716             return -1;
717         }
718         mb_type = btype2mb_type[mb_type];
719         break;
720     }
721     av_dlog(s->avctx, "mb_type=%x\n", mb_type);
722 //    motion_type = 0; /* avoid warning */
723     if (IS_INTRA(mb_type)) {
724         s->dsp.clear_blocks(s->block[0]);
725
726         if (!s->chroma_y_shift) {
727             s->dsp.clear_blocks(s->block[6]);
728         }
729
730         /* compute DCT type */
731         if (s->picture_structure == PICT_FRAME && // FIXME add an interlaced_dct coded var?
732             !s->frame_pred_frame_dct) {
733             s->interlaced_dct = get_bits1(&s->gb);
734         }
735
736         if (IS_QUANT(mb_type))
737             s->qscale = get_qscale(s);
738
739         if (s->concealment_motion_vectors) {
740             /* just parse them */
741             if (s->picture_structure != PICT_FRAME)
742                 skip_bits1(&s->gb); /* field select */
743
744             s->mv[0][0][0]= s->last_mv[0][0][0]= s->last_mv[0][1][0] =
745                 mpeg_decode_motion(s, s->mpeg_f_code[0][0], s->last_mv[0][0][0]);
746             s->mv[0][0][1]= s->last_mv[0][0][1]= s->last_mv[0][1][1] =
747                 mpeg_decode_motion(s, s->mpeg_f_code[0][1], s->last_mv[0][0][1]);
748
749             skip_bits1(&s->gb); /* marker */
750         } else
751             memset(s->last_mv, 0, sizeof(s->last_mv)); /* reset mv prediction */
752         s->mb_intra = 1;
753 #if FF_API_XVMC
754 FF_DISABLE_DEPRECATION_WARNINGS
755         // if 1, we memcpy blocks in xvmcvideo
756         if (CONFIG_MPEG_XVMC_DECODER && s->avctx->xvmc_acceleration > 1) {
757             ff_xvmc_pack_pblocks(s, -1); // inter are always full blocks
758         }
759 FF_ENABLE_DEPRECATION_WARNINGS
760 #endif /* FF_API_XVMC */
761
762         if (s->codec_id == AV_CODEC_ID_MPEG2VIDEO) {
763             if (s->flags2 & CODEC_FLAG2_FAST) {
764                 for (i = 0; i < 6; i++) {
765                     mpeg2_fast_decode_block_intra(s, *s->pblocks[i], i);
766                 }
767             } else {
768                 for (i = 0; i < mb_block_count; i++) {
769                     if (mpeg2_decode_block_intra(s, *s->pblocks[i], i) < 0)
770                         return -1;
771                 }
772             }
773         } else {
774             for (i = 0; i < 6; i++) {
775                 if (mpeg1_decode_block_intra(s, *s->pblocks[i], i) < 0)
776                     return -1;
777             }
778         }
779     } else {
780         if (mb_type & MB_TYPE_ZERO_MV) {
781             assert(mb_type & MB_TYPE_CBP);
782
783             s->mv_dir = MV_DIR_FORWARD;
784             if (s->picture_structure == PICT_FRAME) {
785                 if (!s->frame_pred_frame_dct)
786                     s->interlaced_dct = get_bits1(&s->gb);
787                 s->mv_type = MV_TYPE_16X16;
788             } else {
789                 s->mv_type = MV_TYPE_FIELD;
790                 mb_type |= MB_TYPE_INTERLACED;
791                 s->field_select[0][0] = s->picture_structure - 1;
792             }
793
794             if (IS_QUANT(mb_type))
795                 s->qscale = get_qscale(s);
796
797             s->last_mv[0][0][0] = 0;
798             s->last_mv[0][0][1] = 0;
799             s->last_mv[0][1][0] = 0;
800             s->last_mv[0][1][1] = 0;
801             s->mv[0][0][0] = 0;
802             s->mv[0][0][1] = 0;
803         } else {
804             assert(mb_type & MB_TYPE_L0L1);
805             // FIXME decide if MBs in field pictures are MB_TYPE_INTERLACED
806             /* get additional motion vector type */
807             if (s->frame_pred_frame_dct)
808                 motion_type = MT_FRAME;
809             else {
810                 motion_type = get_bits(&s->gb, 2);
811                 if (s->picture_structure == PICT_FRAME && HAS_CBP(mb_type))
812                     s->interlaced_dct = get_bits1(&s->gb);
813             }
814
815             if (IS_QUANT(mb_type))
816                 s->qscale = get_qscale(s);
817
818             /* motion vectors */
819             s->mv_dir = (mb_type >> 13) & 3;
820             av_dlog(s->avctx, "motion_type=%d\n", motion_type);
821             switch (motion_type) {
822             case MT_FRAME: /* or MT_16X8 */
823                 if (s->picture_structure == PICT_FRAME) {
824                     mb_type |= MB_TYPE_16x16;
825                     s->mv_type = MV_TYPE_16X16;
826                     for (i = 0; i < 2; i++) {
827                         if (USES_LIST(mb_type, i)) {
828                             /* MT_FRAME */
829                             s->mv[i][0][0]= s->last_mv[i][0][0]= s->last_mv[i][1][0] =
830                                 mpeg_decode_motion(s, s->mpeg_f_code[i][0], s->last_mv[i][0][0]);
831                             s->mv[i][0][1]= s->last_mv[i][0][1]= s->last_mv[i][1][1] =
832                                 mpeg_decode_motion(s, s->mpeg_f_code[i][1], s->last_mv[i][0][1]);
833                             /* full_pel: only for MPEG-1 */
834                             if (s->full_pel[i]) {
835                                 s->mv[i][0][0] <<= 1;
836                                 s->mv[i][0][1] <<= 1;
837                             }
838                         }
839                     }
840                 } else {
841                     mb_type |= MB_TYPE_16x8 | MB_TYPE_INTERLACED;
842                     s->mv_type = MV_TYPE_16X8;
843                     for (i = 0; i < 2; i++) {
844                         if (USES_LIST(mb_type, i)) {
845                             /* MT_16X8 */
846                             for (j = 0; j < 2; j++) {
847                                 s->field_select[i][j] = get_bits1(&s->gb);
848                                 for (k = 0; k < 2; k++) {
849                                     val = mpeg_decode_motion(s, s->mpeg_f_code[i][k],
850                                                              s->last_mv[i][j][k]);
851                                     s->last_mv[i][j][k] = val;
852                                     s->mv[i][j][k]      = val;
853                                 }
854                             }
855                         }
856                     }
857                 }
858                 break;
859             case MT_FIELD:
860                 s->mv_type = MV_TYPE_FIELD;
861                 if (s->picture_structure == PICT_FRAME) {
862                     mb_type |= MB_TYPE_16x8 | MB_TYPE_INTERLACED;
863                     for (i = 0; i < 2; i++) {
864                         if (USES_LIST(mb_type, i)) {
865                             for (j = 0; j < 2; j++) {
866                                 s->field_select[i][j] = get_bits1(&s->gb);
867                                 val = mpeg_decode_motion(s, s->mpeg_f_code[i][0],
868                                                          s->last_mv[i][j][0]);
869                                 s->last_mv[i][j][0] = val;
870                                 s->mv[i][j][0]      = val;
871                                 av_dlog(s->avctx, "fmx=%d\n", val);
872                                 val = mpeg_decode_motion(s, s->mpeg_f_code[i][1],
873                                                          s->last_mv[i][j][1] >> 1);
874                                 s->last_mv[i][j][1] = val << 1;
875                                 s->mv[i][j][1]      = val;
876                                 av_dlog(s->avctx, "fmy=%d\n", val);
877                             }
878                         }
879                     }
880                 } else {
881                     mb_type |= MB_TYPE_16x16 | MB_TYPE_INTERLACED;
882                     for (i = 0; i < 2; i++) {
883                         if (USES_LIST(mb_type, i)) {
884                             s->field_select[i][0] = get_bits1(&s->gb);
885                             for (k = 0; k < 2; k++) {
886                                 val = mpeg_decode_motion(s, s->mpeg_f_code[i][k],
887                                                          s->last_mv[i][0][k]);
888                                 s->last_mv[i][0][k] = val;
889                                 s->last_mv[i][1][k] = val;
890                                 s->mv[i][0][k]      = val;
891                             }
892                         }
893                     }
894                 }
895                 break;
896             case MT_DMV:
897                 s->mv_type = MV_TYPE_DMV;
898                 for (i = 0; i < 2; i++) {
899                     if (USES_LIST(mb_type, i)) {
900                         int dmx, dmy, mx, my, m;
901                         const int my_shift = s->picture_structure == PICT_FRAME;
902
903                         mx = mpeg_decode_motion(s, s->mpeg_f_code[i][0],
904                                                 s->last_mv[i][0][0]);
905                         s->last_mv[i][0][0] = mx;
906                         s->last_mv[i][1][0] = mx;
907                         dmx = get_dmv(s);
908                         my  = mpeg_decode_motion(s, s->mpeg_f_code[i][1],
909                                                  s->last_mv[i][0][1] >> my_shift);
910                         dmy = get_dmv(s);
911
912
913                         s->last_mv[i][0][1] = my << my_shift;
914                         s->last_mv[i][1][1] = my << my_shift;
915
916                         s->mv[i][0][0] = mx;
917                         s->mv[i][0][1] = my;
918                         s->mv[i][1][0] = mx; // not used
919                         s->mv[i][1][1] = my; // not used
920
921                         if (s->picture_structure == PICT_FRAME) {
922                             mb_type |= MB_TYPE_16x16 | MB_TYPE_INTERLACED;
923
924                             // m = 1 + 2 * s->top_field_first;
925                             m = s->top_field_first ? 1 : 3;
926
927                             /* top -> top pred */
928                             s->mv[i][2][0] = ((mx * m + (mx > 0)) >> 1) + dmx;
929                             s->mv[i][2][1] = ((my * m + (my > 0)) >> 1) + dmy - 1;
930                             m = 4 - m;
931                             s->mv[i][3][0] = ((mx * m + (mx > 0)) >> 1) + dmx;
932                             s->mv[i][3][1] = ((my * m + (my > 0)) >> 1) + dmy + 1;
933                         } else {
934                             mb_type |= MB_TYPE_16x16;
935
936                             s->mv[i][2][0] = ((mx + (mx > 0)) >> 1) + dmx;
937                             s->mv[i][2][1] = ((my + (my > 0)) >> 1) + dmy;
938                             if (s->picture_structure == PICT_TOP_FIELD)
939                                 s->mv[i][2][1]--;
940                             else
941                                 s->mv[i][2][1]++;
942                         }
943                     }
944                 }
945                 break;
946             default:
947                 av_log(s->avctx, AV_LOG_ERROR, "00 motion_type at %d %d\n", s->mb_x, s->mb_y);
948                 return -1;
949             }
950         }
951
952         s->mb_intra = 0;
953         if (HAS_CBP(mb_type)) {
954             s->dsp.clear_blocks(s->block[0]);
955
956             cbp = get_vlc2(&s->gb, ff_mb_pat_vlc.table, MB_PAT_VLC_BITS, 1);
957             if (mb_block_count > 6) {
958                  cbp <<= mb_block_count - 6;
959                  cbp  |= get_bits(&s->gb, mb_block_count - 6);
960                  s->dsp.clear_blocks(s->block[6]);
961             }
962             if (cbp <= 0) {
963                 av_log(s->avctx, AV_LOG_ERROR, "invalid cbp at %d %d\n", s->mb_x, s->mb_y);
964                 return -1;
965             }
966
967 #if FF_API_XVMC
968 FF_DISABLE_DEPRECATION_WARNINGS
969             //if 1, we memcpy blocks in xvmcvideo
970             if (CONFIG_MPEG_XVMC_DECODER && s->avctx->xvmc_acceleration > 1) {
971                 ff_xvmc_pack_pblocks(s, cbp);
972             }
973 FF_ENABLE_DEPRECATION_WARNINGS
974 #endif /* FF_API_XVMC */
975
976             if (s->codec_id == AV_CODEC_ID_MPEG2VIDEO) {
977                 if (s->flags2 & CODEC_FLAG2_FAST) {
978                     for (i = 0; i < 6; i++) {
979                         if (cbp & 32) {
980                             mpeg2_fast_decode_block_non_intra(s, *s->pblocks[i], i);
981                         } else {
982                             s->block_last_index[i] = -1;
983                         }
984                         cbp += cbp;
985                     }
986                 } else {
987                     cbp <<= 12-mb_block_count;
988
989                     for (i = 0; i < mb_block_count; i++) {
990                         if (cbp & (1 << 11)) {
991                             if (mpeg2_decode_block_non_intra(s, *s->pblocks[i], i) < 0)
992                                 return -1;
993                         } else {
994                             s->block_last_index[i] = -1;
995                         }
996                         cbp += cbp;
997                     }
998                 }
999             } else {
1000                 if (s->flags2 & CODEC_FLAG2_FAST) {
1001                     for (i = 0; i < 6; i++) {
1002                         if (cbp & 32) {
1003                             mpeg1_fast_decode_block_inter(s, *s->pblocks[i], i);
1004                         } else {
1005                             s->block_last_index[i] = -1;
1006                         }
1007                         cbp += cbp;
1008                     }
1009                 } else {
1010                     for (i = 0; i < 6; i++) {
1011                         if (cbp & 32) {
1012                             if (mpeg1_decode_block_inter(s, *s->pblocks[i], i) < 0)
1013                                 return -1;
1014                         } else {
1015                             s->block_last_index[i] = -1;
1016                         }
1017                         cbp += cbp;
1018                     }
1019                 }
1020             }
1021         } else {
1022             for (i = 0; i < 12; i++)
1023                 s->block_last_index[i] = -1;
1024         }
1025     }
1026
1027     s->current_picture.mb_type[s->mb_x + s->mb_y * s->mb_stride] = mb_type;
1028
1029     return 0;
1030 }
1031
1032 static av_cold int mpeg_decode_init(AVCodecContext *avctx)
1033 {
1034     Mpeg1Context *s = avctx->priv_data;
1035     MpegEncContext *s2 = &s->mpeg_enc_ctx;
1036     int i;
1037
1038     /* we need some permutation to store matrices,
1039      * until MPV_common_init() sets the real permutation. */
1040     for (i = 0; i < 64; i++)
1041        s2->dsp.idct_permutation[i]=i;
1042
1043     ff_MPV_decode_defaults(s2);
1044
1045     s->mpeg_enc_ctx.avctx  = avctx;
1046     s->mpeg_enc_ctx.flags  = avctx->flags;
1047     s->mpeg_enc_ctx.flags2 = avctx->flags2;
1048     ff_mpeg12_common_init(&s->mpeg_enc_ctx);
1049     ff_mpeg12_init_vlcs();
1050
1051     s->mpeg_enc_ctx_allocated      = 0;
1052     s->mpeg_enc_ctx.picture_number = 0;
1053     s->repeat_field                = 0;
1054     s->mpeg_enc_ctx.codec_id       = avctx->codec->id;
1055     avctx->color_range = AVCOL_RANGE_MPEG;
1056     if (avctx->codec->id == AV_CODEC_ID_MPEG1VIDEO)
1057         avctx->chroma_sample_location = AVCHROMA_LOC_CENTER;
1058     else
1059         avctx->chroma_sample_location = AVCHROMA_LOC_LEFT;
1060     return 0;
1061 }
1062
1063 static int mpeg_decode_update_thread_context(AVCodecContext *avctx, const AVCodecContext *avctx_from)
1064 {
1065     Mpeg1Context *ctx = avctx->priv_data, *ctx_from = avctx_from->priv_data;
1066     MpegEncContext *s = &ctx->mpeg_enc_ctx, *s1 = &ctx_from->mpeg_enc_ctx;
1067     int err;
1068
1069     if (avctx == avctx_from || !ctx_from->mpeg_enc_ctx_allocated || !s1->context_initialized)
1070         return 0;
1071
1072     err = ff_mpeg_update_thread_context(avctx, avctx_from);
1073     if (err) return err;
1074
1075     if (!ctx->mpeg_enc_ctx_allocated)
1076         memcpy(s + 1, s1 + 1, sizeof(Mpeg1Context) - sizeof(MpegEncContext));
1077
1078     if (!(s->pict_type == AV_PICTURE_TYPE_B || s->low_delay))
1079         s->picture_number++;
1080
1081     return 0;
1082 }
1083
1084 static void quant_matrix_rebuild(uint16_t *matrix, const uint8_t *old_perm,
1085                                  const uint8_t *new_perm)
1086 {
1087     uint16_t temp_matrix[64];
1088     int i;
1089
1090     memcpy(temp_matrix, matrix, 64 * sizeof(uint16_t));
1091
1092     for (i = 0; i < 64; i++) {
1093         matrix[new_perm[i]] = temp_matrix[old_perm[i]];
1094     }
1095 }
1096
1097 #if FF_API_XVMC
1098 static const enum AVPixelFormat pixfmt_xvmc_mpg2_420[] = {
1099     AV_PIX_FMT_XVMC_MPEG2_IDCT,
1100     AV_PIX_FMT_XVMC_MPEG2_MC,
1101     AV_PIX_FMT_NONE };
1102 #endif /* FF_API_XVMC */
1103
1104 static const enum AVPixelFormat mpeg12_hwaccel_pixfmt_list_420[] = {
1105 #if CONFIG_MPEG2_DXVA2_HWACCEL
1106     AV_PIX_FMT_DXVA2_VLD,
1107 #endif
1108 #if CONFIG_MPEG2_VAAPI_HWACCEL
1109     AV_PIX_FMT_VAAPI_VLD,
1110 #endif
1111 #if CONFIG_MPEG1_VDPAU_HWACCEL | CONFIG_MPEG2_VDPAU_HWACCEL
1112     AV_PIX_FMT_VDPAU,
1113 #endif
1114     AV_PIX_FMT_YUV420P,
1115     AV_PIX_FMT_NONE
1116 };
1117
1118 static enum AVPixelFormat mpeg_get_pixelformat(AVCodecContext *avctx)
1119 {
1120     Mpeg1Context *s1 = avctx->priv_data;
1121     MpegEncContext *s = &s1->mpeg_enc_ctx;
1122
1123 #if FF_API_XVMC
1124 FF_DISABLE_DEPRECATION_WARNINGS
1125     if (avctx->xvmc_acceleration)
1126         return avctx->get_format(avctx, pixfmt_xvmc_mpg2_420);
1127 FF_ENABLE_DEPRECATION_WARNINGS
1128 #endif /* FF_API_XVMC */
1129
1130     if (s->chroma_format <  2)
1131         return avctx->get_format(avctx, mpeg12_hwaccel_pixfmt_list_420);
1132     else if (s->chroma_format == 2)
1133         return AV_PIX_FMT_YUV422P;
1134     else
1135         return AV_PIX_FMT_YUV444P;
1136 }
1137
1138 /* Call this function when we know all parameters.
1139  * It may be called in different places for MPEG-1 and MPEG-2. */
1140 static int mpeg_decode_postinit(AVCodecContext *avctx)
1141 {
1142     Mpeg1Context *s1 = avctx->priv_data;
1143     MpegEncContext *s = &s1->mpeg_enc_ctx;
1144     uint8_t old_permutation[64];
1145     int ret;
1146
1147     if ((s1->mpeg_enc_ctx_allocated == 0) ||
1148         avctx->coded_width  != s->width   ||
1149         avctx->coded_height != s->height  ||
1150         s1->save_width           != s->width                ||
1151         s1->save_height          != s->height               ||
1152         s1->save_aspect_info     != s->aspect_ratio_info    ||
1153         s1->save_progressive_seq != s->progressive_sequence ||
1154         0)
1155     {
1156
1157         if (s1->mpeg_enc_ctx_allocated) {
1158             ParseContext pc = s->parse_context;
1159             s->parse_context.buffer = 0;
1160             ff_MPV_common_end(s);
1161             s->parse_context = pc;
1162         }
1163
1164         if ((s->width == 0) || (s->height == 0))
1165             return -2;
1166
1167         ret = ff_set_dimensions(avctx, s->width, s->height);
1168         if (ret < 0)
1169             return ret;
1170
1171         avctx->bit_rate          = s->bit_rate;
1172         s1->save_aspect_info     = s->aspect_ratio_info;
1173         s1->save_width           = s->width;
1174         s1->save_height          = s->height;
1175         s1->save_progressive_seq = s->progressive_sequence;
1176
1177         /* low_delay may be forced, in this case we will have B-frames
1178          * that behave like P-frames. */
1179         avctx->has_b_frames = !s->low_delay;
1180
1181         if (avctx->codec_id == AV_CODEC_ID_MPEG1VIDEO) {
1182             //MPEG-1 fps
1183             avctx->time_base.den = ff_mpeg12_frame_rate_tab[s->frame_rate_index].num;
1184             avctx->time_base.num = ff_mpeg12_frame_rate_tab[s->frame_rate_index].den;
1185             //MPEG-1 aspect
1186             avctx->sample_aspect_ratio = av_d2q(1.0/ff_mpeg1_aspect[s->aspect_ratio_info], 255);
1187             avctx->ticks_per_frame=1;
1188         } else {//MPEG-2
1189         //MPEG-2 fps
1190             av_reduce(&s->avctx->time_base.den,
1191                       &s->avctx->time_base.num,
1192                       ff_mpeg12_frame_rate_tab[s->frame_rate_index].num * s1->frame_rate_ext.num*2,
1193                       ff_mpeg12_frame_rate_tab[s->frame_rate_index].den * s1->frame_rate_ext.den,
1194                       1 << 30);
1195             avctx->ticks_per_frame = 2;
1196             //MPEG-2 aspect
1197             if (s->aspect_ratio_info > 1) {
1198                 AVRational dar =
1199                     av_mul_q(av_div_q(ff_mpeg2_aspect[s->aspect_ratio_info],
1200                                       (AVRational) {s1->pan_scan.width, s1->pan_scan.height}),
1201                              (AVRational) {s->width, s->height});
1202
1203                 // we ignore the spec here and guess a bit as reality does not match the spec, see for example
1204                 // res_change_ffmpeg_aspect.ts and sequence-display-aspect.mpg
1205                 // issue1613, 621, 562
1206                 if ((s1->pan_scan.width == 0) || (s1->pan_scan.height == 0) ||
1207                    (av_cmp_q(dar, (AVRational) {4, 3}) && av_cmp_q(dar, (AVRational) {16, 9}))) {
1208                     s->avctx->sample_aspect_ratio =
1209                         av_div_q(ff_mpeg2_aspect[s->aspect_ratio_info],
1210                                  (AVRational) {s->width, s->height});
1211                 } else {
1212                     s->avctx->sample_aspect_ratio =
1213                         av_div_q(ff_mpeg2_aspect[s->aspect_ratio_info],
1214                                  (AVRational) {s1->pan_scan.width, s1->pan_scan.height});
1215 //issue1613 4/3 16/9 -> 16/9
1216 //res_change_ffmpeg_aspect.ts 4/3 225/44 ->4/3
1217 //widescreen-issue562.mpg 4/3 16/9 -> 16/9
1218 //                    s->avctx->sample_aspect_ratio = av_mul_q(s->avctx->sample_aspect_ratio, (AVRational) {s->width, s->height});
1219                     av_dlog(avctx, "A %d/%d\n",
1220                             ff_mpeg2_aspect[s->aspect_ratio_info].num, ff_mpeg2_aspect[s->aspect_ratio_info].den);
1221                     av_dlog(avctx, "B %d/%d\n", s->avctx->sample_aspect_ratio.num,
1222                             s->avctx->sample_aspect_ratio.den);
1223                 }
1224             } else {
1225                 s->avctx->sample_aspect_ratio =
1226                     ff_mpeg2_aspect[s->aspect_ratio_info];
1227             }
1228         } // MPEG-2
1229
1230         avctx->pix_fmt = mpeg_get_pixelformat(avctx);
1231         avctx->hwaccel = ff_find_hwaccel(avctx);
1232         // until then pix_fmt may be changed right after codec init
1233 #if FF_API_XVMC
1234         if ((avctx->pix_fmt == AV_PIX_FMT_XVMC_MPEG2_IDCT ||
1235             avctx->hwaccel) && avctx->idct_algo == FF_IDCT_AUTO)
1236 #else
1237         if (avctx->hwaccel && avctx->idct_algo == FF_IDCT_AUTO)
1238 #endif /* FF_API_XVMC */
1239             avctx->idct_algo = FF_IDCT_SIMPLE;
1240
1241         /* Quantization matrices may need reordering
1242          * if DCT permutation is changed. */
1243         memcpy(old_permutation, s->dsp.idct_permutation, 64 * sizeof(uint8_t));
1244
1245         if (ff_MPV_common_init(s) < 0)
1246             return -2;
1247
1248         quant_matrix_rebuild(s->intra_matrix,        old_permutation, s->dsp.idct_permutation);
1249         quant_matrix_rebuild(s->inter_matrix,        old_permutation, s->dsp.idct_permutation);
1250         quant_matrix_rebuild(s->chroma_intra_matrix, old_permutation, s->dsp.idct_permutation);
1251         quant_matrix_rebuild(s->chroma_inter_matrix, old_permutation, s->dsp.idct_permutation);
1252
1253         s1->mpeg_enc_ctx_allocated = 1;
1254     }
1255     return 0;
1256 }
1257
1258 static int mpeg1_decode_picture(AVCodecContext *avctx,
1259                                 const uint8_t *buf, int buf_size)
1260 {
1261     Mpeg1Context *s1 = avctx->priv_data;
1262     MpegEncContext *s = &s1->mpeg_enc_ctx;
1263     int ref, f_code, vbv_delay;
1264
1265     init_get_bits(&s->gb, buf, buf_size*8);
1266
1267     ref = get_bits(&s->gb, 10); /* temporal ref */
1268     s->pict_type = get_bits(&s->gb, 3);
1269     if (s->pict_type == 0 || s->pict_type > 3)
1270         return -1;
1271
1272     vbv_delay = get_bits(&s->gb, 16);
1273     if (s->pict_type == AV_PICTURE_TYPE_P || s->pict_type == AV_PICTURE_TYPE_B) {
1274         s->full_pel[0] = get_bits1(&s->gb);
1275         f_code = get_bits(&s->gb, 3);
1276         if (f_code == 0 && (avctx->err_recognition & AV_EF_BITSTREAM))
1277             return -1;
1278         s->mpeg_f_code[0][0] = f_code;
1279         s->mpeg_f_code[0][1] = f_code;
1280     }
1281     if (s->pict_type == AV_PICTURE_TYPE_B) {
1282         s->full_pel[1] = get_bits1(&s->gb);
1283         f_code = get_bits(&s->gb, 3);
1284         if (f_code == 0 && (avctx->err_recognition & AV_EF_BITSTREAM))
1285             return -1;
1286         s->mpeg_f_code[1][0] = f_code;
1287         s->mpeg_f_code[1][1] = f_code;
1288     }
1289     s->current_picture.f.pict_type = s->pict_type;
1290     s->current_picture.f.key_frame = s->pict_type == AV_PICTURE_TYPE_I;
1291
1292     if (avctx->debug & FF_DEBUG_PICT_INFO)
1293         av_log(avctx, AV_LOG_DEBUG, "vbv_delay %d, ref %d type:%d\n", vbv_delay, ref, s->pict_type);
1294
1295     s->y_dc_scale = 8;
1296     s->c_dc_scale = 8;
1297     return 0;
1298 }
1299
1300 static void mpeg_decode_sequence_extension(Mpeg1Context *s1)
1301 {
1302     MpegEncContext *s= &s1->mpeg_enc_ctx;
1303     int horiz_size_ext, vert_size_ext;
1304     int bit_rate_ext;
1305
1306     skip_bits(&s->gb, 1); /* profile and level esc*/
1307     s->avctx->profile       = get_bits(&s->gb, 3);
1308     s->avctx->level         = get_bits(&s->gb, 4);
1309     s->progressive_sequence = get_bits1(&s->gb); /* progressive_sequence */
1310     s->chroma_format        = get_bits(&s->gb, 2); /* chroma_format 1=420, 2=422, 3=444 */
1311     horiz_size_ext          = get_bits(&s->gb, 2);
1312     vert_size_ext           = get_bits(&s->gb, 2);
1313     s->width  |= (horiz_size_ext << 12);
1314     s->height |= (vert_size_ext  << 12);
1315     bit_rate_ext = get_bits(&s->gb, 12);  /* XXX: handle it */
1316     s->bit_rate += (bit_rate_ext << 18) * 400;
1317     skip_bits1(&s->gb); /* marker */
1318     s->avctx->rc_buffer_size += get_bits(&s->gb, 8) * 1024 * 16 << 10;
1319
1320     s->low_delay = get_bits1(&s->gb);
1321     if (s->flags & CODEC_FLAG_LOW_DELAY)
1322         s->low_delay = 1;
1323
1324     s1->frame_rate_ext.num = get_bits(&s->gb, 2) + 1;
1325     s1->frame_rate_ext.den = get_bits(&s->gb, 5) + 1;
1326
1327     av_dlog(s->avctx, "sequence extension\n");
1328     s->codec_id      = s->avctx->codec_id = AV_CODEC_ID_MPEG2VIDEO;
1329
1330     if (s->avctx->debug & FF_DEBUG_PICT_INFO)
1331         av_log(s->avctx, AV_LOG_DEBUG, "profile: %d, level: %d vbv buffer: %d, bitrate:%d\n",
1332                s->avctx->profile, s->avctx->level, s->avctx->rc_buffer_size, s->bit_rate);
1333
1334 }
1335
1336 static void mpeg_decode_sequence_display_extension(Mpeg1Context *s1)
1337 {
1338     MpegEncContext *s = &s1->mpeg_enc_ctx;
1339     int color_description, w, h;
1340
1341     skip_bits(&s->gb, 3); /* video format */
1342     color_description = get_bits1(&s->gb);
1343     if (color_description) {
1344         s->avctx->color_primaries = get_bits(&s->gb, 8);
1345         s->avctx->color_trc       = get_bits(&s->gb, 8);
1346         s->avctx->colorspace      = get_bits(&s->gb, 8);
1347     }
1348     w = get_bits(&s->gb, 14);
1349     skip_bits(&s->gb, 1); //marker
1350     h = get_bits(&s->gb, 14);
1351     // remaining 3 bits are zero padding
1352
1353     s1->pan_scan.width  = 16 * w;
1354     s1->pan_scan.height = 16 * h;
1355
1356     if (s->avctx->debug & FF_DEBUG_PICT_INFO)
1357         av_log(s->avctx, AV_LOG_DEBUG, "sde w:%d, h:%d\n", w, h);
1358 }
1359
1360 static void mpeg_decode_picture_display_extension(Mpeg1Context *s1)
1361 {
1362     MpegEncContext *s = &s1->mpeg_enc_ctx;
1363     int i, nofco;
1364
1365     nofco = 1;
1366     if (s->progressive_sequence) {
1367         if (s->repeat_first_field) {
1368             nofco++;
1369             if (s->top_field_first)
1370                 nofco++;
1371         }
1372     } else {
1373         if (s->picture_structure == PICT_FRAME) {
1374             nofco++;
1375             if (s->repeat_first_field)
1376                 nofco++;
1377         }
1378     }
1379     for (i = 0; i < nofco; i++) {
1380         s1->pan_scan.position[i][0] = get_sbits(&s->gb, 16);
1381         skip_bits(&s->gb, 1); // marker
1382         s1->pan_scan.position[i][1] = get_sbits(&s->gb, 16);
1383         skip_bits(&s->gb, 1); // marker
1384     }
1385
1386     if (s->avctx->debug & FF_DEBUG_PICT_INFO)
1387         av_log(s->avctx, AV_LOG_DEBUG, "pde (%d,%d) (%d,%d) (%d,%d)\n",
1388                s1->pan_scan.position[0][0], s1->pan_scan.position[0][1],
1389                s1->pan_scan.position[1][0], s1->pan_scan.position[1][1],
1390                s1->pan_scan.position[2][0], s1->pan_scan.position[2][1]);
1391 }
1392
1393 static int load_matrix(MpegEncContext *s, uint16_t matrix0[64], uint16_t matrix1[64], int intra)
1394 {
1395     int i;
1396
1397     for (i = 0; i < 64; i++) {
1398         int j = s->dsp.idct_permutation[ff_zigzag_direct[i]];
1399         int v = get_bits(&s->gb, 8);
1400         if (v == 0) {
1401             av_log(s->avctx, AV_LOG_ERROR, "matrix damaged\n");
1402             return -1;
1403         }
1404         if (intra && i == 0 && v != 8) {
1405             av_log(s->avctx, AV_LOG_ERROR, "intra matrix invalid, ignoring\n");
1406             v = 8; // needed by pink.mpg / issue1046
1407         }
1408         matrix0[j] = v;
1409         if (matrix1)
1410             matrix1[j] = v;
1411     }
1412     return 0;
1413 }
1414
1415 static void mpeg_decode_quant_matrix_extension(MpegEncContext *s)
1416 {
1417     av_dlog(s->avctx, "matrix extension\n");
1418
1419     if (get_bits1(&s->gb)) load_matrix(s, s->chroma_intra_matrix, s->intra_matrix, 1);
1420     if (get_bits1(&s->gb)) load_matrix(s, s->chroma_inter_matrix, s->inter_matrix, 0);
1421     if (get_bits1(&s->gb)) load_matrix(s, s->chroma_intra_matrix, NULL           , 1);
1422     if (get_bits1(&s->gb)) load_matrix(s, s->chroma_inter_matrix, NULL           , 0);
1423 }
1424
1425 static void mpeg_decode_picture_coding_extension(Mpeg1Context *s1)
1426 {
1427     MpegEncContext *s = &s1->mpeg_enc_ctx;
1428
1429     s->full_pel[0] = s->full_pel[1] = 0;
1430     s->mpeg_f_code[0][0] = get_bits(&s->gb, 4);
1431     s->mpeg_f_code[0][1] = get_bits(&s->gb, 4);
1432     s->mpeg_f_code[1][0] = get_bits(&s->gb, 4);
1433     s->mpeg_f_code[1][1] = get_bits(&s->gb, 4);
1434     if (!s->pict_type && s1->mpeg_enc_ctx_allocated) {
1435         av_log(s->avctx, AV_LOG_ERROR, "Missing picture start code, guessing missing values\n");
1436         if (s->mpeg_f_code[1][0] == 15 && s->mpeg_f_code[1][1] == 15) {
1437             if (s->mpeg_f_code[0][0] == 15 && s->mpeg_f_code[0][1] == 15)
1438                 s->pict_type = AV_PICTURE_TYPE_I;
1439             else
1440                 s->pict_type = AV_PICTURE_TYPE_P;
1441         } else
1442             s->pict_type = AV_PICTURE_TYPE_B;
1443         s->current_picture.f.pict_type = s->pict_type;
1444         s->current_picture.f.key_frame = s->pict_type == AV_PICTURE_TYPE_I;
1445     }
1446     s->intra_dc_precision         = get_bits(&s->gb, 2);
1447     s->picture_structure          = get_bits(&s->gb, 2);
1448     s->top_field_first            = get_bits1(&s->gb);
1449     s->frame_pred_frame_dct       = get_bits1(&s->gb);
1450     s->concealment_motion_vectors = get_bits1(&s->gb);
1451     s->q_scale_type               = get_bits1(&s->gb);
1452     s->intra_vlc_format           = get_bits1(&s->gb);
1453     s->alternate_scan             = get_bits1(&s->gb);
1454     s->repeat_first_field         = get_bits1(&s->gb);
1455     s->chroma_420_type            = get_bits1(&s->gb);
1456     s->progressive_frame          = get_bits1(&s->gb);
1457
1458     if (s->progressive_sequence && !s->progressive_frame) {
1459         s->progressive_frame = 1;
1460         av_log(s->avctx, AV_LOG_ERROR, "interlaced frame in progressive sequence, ignoring\n");
1461     }
1462
1463     if (s->picture_structure == 0 || (s->progressive_frame && s->picture_structure != PICT_FRAME)) {
1464         av_log(s->avctx, AV_LOG_ERROR, "picture_structure %d invalid, ignoring\n", s->picture_structure);
1465         s->picture_structure = PICT_FRAME;
1466     }
1467
1468     if (s->progressive_sequence && !s->frame_pred_frame_dct) {
1469         av_log(s->avctx, AV_LOG_WARNING, "invalid frame_pred_frame_dct\n");
1470     }
1471
1472     if (s->picture_structure == PICT_FRAME) {
1473         s->first_field = 0;
1474         s->v_edge_pos  = 16 * s->mb_height;
1475     } else {
1476         s->first_field ^= 1;
1477         s->v_edge_pos   = 8 * s->mb_height;
1478         memset(s->mbskip_table, 0, s->mb_stride * s->mb_height);
1479     }
1480
1481     if (s->alternate_scan) {
1482         ff_init_scantable(s->dsp.idct_permutation, &s->inter_scantable, ff_alternate_vertical_scan);
1483         ff_init_scantable(s->dsp.idct_permutation, &s->intra_scantable, ff_alternate_vertical_scan);
1484     } else {
1485         ff_init_scantable(s->dsp.idct_permutation, &s->inter_scantable, ff_zigzag_direct);
1486         ff_init_scantable(s->dsp.idct_permutation, &s->intra_scantable, ff_zigzag_direct);
1487     }
1488
1489     /* composite display not parsed */
1490     av_dlog(s->avctx, "intra_dc_precision=%d\n", s->intra_dc_precision);
1491     av_dlog(s->avctx, "picture_structure=%d\n", s->picture_structure);
1492     av_dlog(s->avctx, "top field first=%d\n", s->top_field_first);
1493     av_dlog(s->avctx, "repeat first field=%d\n", s->repeat_first_field);
1494     av_dlog(s->avctx, "conceal=%d\n", s->concealment_motion_vectors);
1495     av_dlog(s->avctx, "intra_vlc_format=%d\n", s->intra_vlc_format);
1496     av_dlog(s->avctx, "alternate_scan=%d\n", s->alternate_scan);
1497     av_dlog(s->avctx, "frame_pred_frame_dct=%d\n", s->frame_pred_frame_dct);
1498     av_dlog(s->avctx, "progressive_frame=%d\n", s->progressive_frame);
1499 }
1500
1501 static int mpeg_field_start(MpegEncContext *s, const uint8_t *buf, int buf_size)
1502 {
1503     AVCodecContext *avctx = s->avctx;
1504     Mpeg1Context *s1 = (Mpeg1Context*)s;
1505
1506     /* start frame decoding */
1507     if (s->first_field || s->picture_structure == PICT_FRAME) {
1508         AVFrameSideData *pan_scan;
1509
1510         if (ff_MPV_frame_start(s, avctx) < 0)
1511             return -1;
1512
1513         ff_mpeg_er_frame_start(s);
1514
1515         /* first check if we must repeat the frame */
1516         s->current_picture_ptr->f.repeat_pict = 0;
1517         if (s->repeat_first_field) {
1518             if (s->progressive_sequence) {
1519                 if (s->top_field_first)
1520                     s->current_picture_ptr->f.repeat_pict = 4;
1521                 else
1522                     s->current_picture_ptr->f.repeat_pict = 2;
1523             } else if (s->progressive_frame) {
1524                 s->current_picture_ptr->f.repeat_pict = 1;
1525             }
1526         }
1527
1528         pan_scan = av_frame_new_side_data(&s->current_picture_ptr->f,
1529                                           AV_FRAME_DATA_PANSCAN,
1530                                           sizeof(s1->pan_scan));
1531         if (!pan_scan)
1532             return AVERROR(ENOMEM);
1533         memcpy(pan_scan->data, &s1->pan_scan, sizeof(s1->pan_scan));
1534
1535         if (s1->a53_caption) {
1536             AVFrameSideData *sd = av_frame_new_side_data(
1537                 &s->current_picture_ptr->f, AV_FRAME_DATA_A53_CC,
1538                 s1->a53_caption_size);
1539             if (sd)
1540                 memcpy(sd->data, s1->a53_caption, s1->a53_caption_size);
1541             av_freep(&s1->a53_caption);
1542         }
1543         if (HAVE_THREADS && (avctx->active_thread_type & FF_THREAD_FRAME))
1544             ff_thread_finish_setup(avctx);
1545     } else { // second field
1546         int i;
1547
1548         if (!s->current_picture_ptr) {
1549             av_log(s->avctx, AV_LOG_ERROR, "first field missing\n");
1550             return -1;
1551         }
1552
1553         if (s->avctx->hwaccel &&
1554             (s->avctx->slice_flags & SLICE_FLAG_ALLOW_FIELD)) {
1555             if (s->avctx->hwaccel->end_frame(s->avctx) < 0)
1556                 av_log(avctx, AV_LOG_ERROR, "hardware accelerator failed to decode first field\n");
1557         }
1558
1559         for (i = 0; i < 4; i++) {
1560             s->current_picture.f.data[i] = s->current_picture_ptr->f.data[i];
1561             if (s->picture_structure == PICT_BOTTOM_FIELD) {
1562                 s->current_picture.f.data[i] += s->current_picture_ptr->f.linesize[i];
1563             }
1564         }
1565     }
1566
1567     if (avctx->hwaccel) {
1568         if (avctx->hwaccel->start_frame(avctx, buf, buf_size) < 0)
1569             return -1;
1570     }
1571
1572 #if FF_API_XVMC
1573 FF_DISABLE_DEPRECATION_WARNINGS
1574 // MPV_frame_start will call this function too,
1575 // but we need to call it on every field
1576     if (CONFIG_MPEG_XVMC_DECODER && s->avctx->xvmc_acceleration)
1577         if (ff_xvmc_field_start(s, avctx) < 0)
1578             return -1;
1579 FF_ENABLE_DEPRECATION_WARNINGS
1580 #endif /* FF_API_XVMC */
1581
1582     return 0;
1583 }
1584
1585 #define DECODE_SLICE_ERROR -1
1586 #define DECODE_SLICE_OK     0
1587
1588 /**
1589  * Decode a slice.
1590  * MpegEncContext.mb_y must be set to the MB row from the startcode.
1591  * @return DECODE_SLICE_ERROR if the slice is damaged,
1592  *         DECODE_SLICE_OK if this slice is OK
1593  */
1594 static int mpeg_decode_slice(MpegEncContext *s, int mb_y,
1595                              const uint8_t **buf, int buf_size)
1596 {
1597     AVCodecContext *avctx = s->avctx;
1598     const int field_pic   = s->picture_structure != PICT_FRAME;
1599
1600     s->resync_mb_x =
1601     s->resync_mb_y = -1;
1602
1603     assert(mb_y < s->mb_height);
1604
1605     init_get_bits(&s->gb, *buf, buf_size * 8);
1606
1607     ff_mpeg1_clean_buffers(s);
1608     s->interlaced_dct = 0;
1609
1610     s->qscale = get_qscale(s);
1611
1612     if (s->qscale == 0) {
1613         av_log(s->avctx, AV_LOG_ERROR, "qscale == 0\n");
1614         return -1;
1615     }
1616
1617     /* extra slice info */
1618     while (get_bits1(&s->gb) != 0) {
1619         skip_bits(&s->gb, 8);
1620     }
1621
1622     s->mb_x = 0;
1623
1624     if (mb_y == 0 && s->codec_tag == AV_RL32("SLIF")) {
1625         skip_bits1(&s->gb);
1626     } else {
1627         while (get_bits_left(&s->gb) > 0) {
1628             int code = get_vlc2(&s->gb, ff_mbincr_vlc.table,
1629                                 MBINCR_VLC_BITS, 2);
1630             if (code < 0) {
1631                 av_log(s->avctx, AV_LOG_ERROR, "first mb_incr damaged\n");
1632                 return -1;
1633             }
1634             if (code >= 33) {
1635                 if (code == 33) {
1636                     s->mb_x += 33;
1637                 }
1638                 /* otherwise, stuffing, nothing to do */
1639             } else {
1640                 s->mb_x += code;
1641                 break;
1642             }
1643         }
1644     }
1645
1646     if (s->mb_x >= (unsigned)s->mb_width) {
1647         av_log(s->avctx, AV_LOG_ERROR, "initial skip overflow\n");
1648         return -1;
1649     }
1650
1651     if (avctx->hwaccel) {
1652         const uint8_t *buf_end, *buf_start = *buf - 4; /* include start_code */
1653         int start_code = -1;
1654         buf_end = avpriv_find_start_code(buf_start + 2, *buf + buf_size, &start_code);
1655         if (buf_end < *buf + buf_size)
1656             buf_end -= 4;
1657         s->mb_y = mb_y;
1658         if (avctx->hwaccel->decode_slice(avctx, buf_start, buf_end - buf_start) < 0)
1659             return DECODE_SLICE_ERROR;
1660         *buf = buf_end;
1661         return DECODE_SLICE_OK;
1662     }
1663
1664     s->resync_mb_x = s->mb_x;
1665     s->resync_mb_y = s->mb_y = mb_y;
1666     s->mb_skip_run = 0;
1667     ff_init_block_index(s);
1668
1669     if (s->mb_y == 0 && s->mb_x == 0 && (s->first_field || s->picture_structure == PICT_FRAME)) {
1670         if (s->avctx->debug & FF_DEBUG_PICT_INFO) {
1671              av_log(s->avctx, AV_LOG_DEBUG, "qp:%d fc:%2d%2d%2d%2d %s %s %s %s %s dc:%d pstruct:%d fdct:%d cmv:%d qtype:%d ivlc:%d rff:%d %s\n",
1672                     s->qscale, s->mpeg_f_code[0][0], s->mpeg_f_code[0][1], s->mpeg_f_code[1][0], s->mpeg_f_code[1][1],
1673                     s->pict_type == AV_PICTURE_TYPE_I ? "I" : (s->pict_type == AV_PICTURE_TYPE_P ? "P" : (s->pict_type == AV_PICTURE_TYPE_B ? "B" : "S")),
1674                     s->progressive_sequence ? "ps" :"", s->progressive_frame ? "pf" : "", s->alternate_scan ? "alt" :"", s->top_field_first ? "top" :"",
1675                     s->intra_dc_precision, s->picture_structure, s->frame_pred_frame_dct, s->concealment_motion_vectors,
1676                     s->q_scale_type, s->intra_vlc_format, s->repeat_first_field, s->chroma_420_type ? "420" :"");
1677         }
1678     }
1679
1680     for (;;) {
1681 #if FF_API_XVMC
1682 FF_DISABLE_DEPRECATION_WARNINGS
1683         // If 1, we memcpy blocks in xvmcvideo.
1684         if (CONFIG_MPEG_XVMC_DECODER && s->avctx->xvmc_acceleration > 1)
1685             ff_xvmc_init_block(s); // set s->block
1686 FF_ENABLE_DEPRECATION_WARNINGS
1687 #endif /* FF_API_XVMC */
1688
1689         if (mpeg_decode_mb(s, s->block) < 0)
1690             return -1;
1691
1692         if (s->current_picture.motion_val[0] && !s->encoding) { // note motion_val is normally NULL unless we want to extract the MVs
1693             const int wrap = s->b8_stride;
1694             int xy         = s->mb_x * 2 + s->mb_y * 2 * wrap;
1695             int b8_xy      = 4 * (s->mb_x + s->mb_y * s->mb_stride);
1696             int motion_x, motion_y, dir, i;
1697
1698             for (i = 0; i < 2; i++) {
1699                 for (dir = 0; dir < 2; dir++) {
1700                     if (s->mb_intra || (dir == 1 && s->pict_type != AV_PICTURE_TYPE_B)) {
1701                         motion_x = motion_y = 0;
1702                     } else if (s->mv_type == MV_TYPE_16X16 || (s->mv_type == MV_TYPE_FIELD && field_pic)) {
1703                         motion_x = s->mv[dir][0][0];
1704                         motion_y = s->mv[dir][0][1];
1705                     } else /*if ((s->mv_type == MV_TYPE_FIELD) || (s->mv_type == MV_TYPE_16X8))*/ {
1706                         motion_x = s->mv[dir][i][0];
1707                         motion_y = s->mv[dir][i][1];
1708                     }
1709
1710                     s->current_picture.motion_val[dir][xy    ][0] = motion_x;
1711                     s->current_picture.motion_val[dir][xy    ][1] = motion_y;
1712                     s->current_picture.motion_val[dir][xy + 1][0] = motion_x;
1713                     s->current_picture.motion_val[dir][xy + 1][1] = motion_y;
1714                     s->current_picture.ref_index [dir][b8_xy    ] =
1715                     s->current_picture.ref_index [dir][b8_xy + 1] = s->field_select[dir][i];
1716                     assert(s->field_select[dir][i] == 0 || s->field_select[dir][i] == 1);
1717                 }
1718                 xy += wrap;
1719                 b8_xy +=2;
1720             }
1721         }
1722
1723         s->dest[0] += 16;
1724         s->dest[1] += 16 >> s->chroma_x_shift;
1725         s->dest[2] += 16 >> s->chroma_x_shift;
1726
1727         ff_MPV_decode_mb(s, s->block);
1728
1729         if (++s->mb_x >= s->mb_width) {
1730             const int mb_size = 16;
1731
1732             ff_mpeg_draw_horiz_band(s, mb_size*(s->mb_y >> field_pic), mb_size);
1733             ff_MPV_report_decode_progress(s);
1734
1735             s->mb_x = 0;
1736             s->mb_y += 1 << field_pic;
1737
1738             if (s->mb_y >= s->mb_height) {
1739                 int left   = get_bits_left(&s->gb);
1740                 int is_d10 = s->chroma_format == 2 && s->pict_type == AV_PICTURE_TYPE_I && avctx->profile == 0 && avctx->level == 5
1741                              && s->intra_dc_precision == 2 && s->q_scale_type == 1 && s->alternate_scan == 0
1742                              && s->progressive_frame == 0 /* vbv_delay == 0xBBB || 0xE10*/;
1743
1744                 if (left < 0 || (left && show_bits(&s->gb, FFMIN(left, 23)) && !is_d10)
1745                     || ((avctx->err_recognition & AV_EF_BUFFER) && left > 8)) {
1746                     av_log(avctx, AV_LOG_ERROR, "end mismatch left=%d %0X\n", left, show_bits(&s->gb, FFMIN(left, 23)));
1747                     return -1;
1748                 } else
1749                     goto eos;
1750             }
1751
1752             ff_init_block_index(s);
1753         }
1754
1755         /* skip mb handling */
1756         if (s->mb_skip_run == -1) {
1757             /* read increment again */
1758             s->mb_skip_run = 0;
1759             for (;;) {
1760                 int code = get_vlc2(&s->gb, ff_mbincr_vlc.table,
1761                                     MBINCR_VLC_BITS, 2);
1762                 if (code < 0) {
1763                     av_log(s->avctx, AV_LOG_ERROR, "mb incr damaged\n");
1764                     return -1;
1765                 }
1766                 if (code >= 33) {
1767                     if (code == 33) {
1768                         s->mb_skip_run += 33;
1769                     } else if (code == 35) {
1770                         if (s->mb_skip_run != 0 || show_bits(&s->gb, 15) != 0) {
1771                             av_log(s->avctx, AV_LOG_ERROR, "slice mismatch\n");
1772                             return -1;
1773                         }
1774                         goto eos; /* end of slice */
1775                     }
1776                     /* otherwise, stuffing, nothing to do */
1777                 } else {
1778                     s->mb_skip_run += code;
1779                     break;
1780                 }
1781             }
1782             if (s->mb_skip_run) {
1783                 int i;
1784                 if (s->pict_type == AV_PICTURE_TYPE_I) {
1785                     av_log(s->avctx, AV_LOG_ERROR, "skipped MB in I frame at %d %d\n", s->mb_x, s->mb_y);
1786                     return -1;
1787                 }
1788
1789                 /* skip mb */
1790                 s->mb_intra = 0;
1791                 for (i = 0; i < 12; i++)
1792                     s->block_last_index[i] = -1;
1793                 if (s->picture_structure == PICT_FRAME)
1794                     s->mv_type = MV_TYPE_16X16;
1795                 else
1796                     s->mv_type = MV_TYPE_FIELD;
1797                 if (s->pict_type == AV_PICTURE_TYPE_P) {
1798                     /* if P type, zero motion vector is implied */
1799                     s->mv_dir             = MV_DIR_FORWARD;
1800                     s->mv[0][0][0]        = s->mv[0][0][1]      = 0;
1801                     s->last_mv[0][0][0]   = s->last_mv[0][0][1] = 0;
1802                     s->last_mv[0][1][0]   = s->last_mv[0][1][1] = 0;
1803                     s->field_select[0][0] = (s->picture_structure - 1) & 1;
1804                 } else {
1805                     /* if B type, reuse previous vectors and directions */
1806                     s->mv[0][0][0] = s->last_mv[0][0][0];
1807                     s->mv[0][0][1] = s->last_mv[0][0][1];
1808                     s->mv[1][0][0] = s->last_mv[1][0][0];
1809                     s->mv[1][0][1] = s->last_mv[1][0][1];
1810                 }
1811             }
1812         }
1813     }
1814 eos: // end of slice
1815     *buf += (get_bits_count(&s->gb)-1)/8;
1816     av_dlog(s, "y %d %d %d %d\n", s->resync_mb_x, s->resync_mb_y, s->mb_x, s->mb_y);
1817     return 0;
1818 }
1819
1820 static int slice_decode_thread(AVCodecContext *c, void *arg)
1821 {
1822     MpegEncContext *s   = *(void**)arg;
1823     const uint8_t *buf  = s->gb.buffer;
1824     int mb_y            = s->start_mb_y;
1825     const int field_pic = s->picture_structure != PICT_FRAME;
1826
1827     s->er.error_count = (3 * (s->end_mb_y - s->start_mb_y) * s->mb_width) >> field_pic;
1828
1829     for (;;) {
1830         uint32_t start_code;
1831         int ret;
1832
1833         ret = mpeg_decode_slice(s, mb_y, &buf, s->gb.buffer_end - buf);
1834         emms_c();
1835         av_dlog(c, "ret:%d resync:%d/%d mb:%d/%d ts:%d/%d ec:%d\n",
1836                 ret, s->resync_mb_x, s->resync_mb_y, s->mb_x, s->mb_y,
1837                 s->start_mb_y, s->end_mb_y, s->er.error_count);
1838         if (ret < 0) {
1839             if (c->err_recognition & AV_EF_EXPLODE)
1840                 return ret;
1841             if (s->resync_mb_x >= 0 && s->resync_mb_y >= 0)
1842                 ff_er_add_slice(&s->er, s->resync_mb_x, s->resync_mb_y, s->mb_x, s->mb_y, ER_AC_ERROR | ER_DC_ERROR | ER_MV_ERROR);
1843         } else {
1844             ff_er_add_slice(&s->er, s->resync_mb_x, s->resync_mb_y, s->mb_x-1, s->mb_y, ER_AC_END | ER_DC_END | ER_MV_END);
1845         }
1846
1847         if (s->mb_y == s->end_mb_y)
1848             return 0;
1849
1850         start_code = -1;
1851         buf = avpriv_find_start_code(buf, s->gb.buffer_end, &start_code);
1852         mb_y= (start_code - SLICE_MIN_START_CODE) << field_pic;
1853         if (s->picture_structure == PICT_BOTTOM_FIELD)
1854             mb_y++;
1855         if (mb_y < 0 || mb_y >= s->end_mb_y)
1856             return -1;
1857     }
1858 }
1859
1860 /**
1861  * Handle slice ends.
1862  * @return 1 if it seems to be the last slice
1863  */
1864 static int slice_end(AVCodecContext *avctx, AVFrame *pict)
1865 {
1866     Mpeg1Context *s1 = avctx->priv_data;
1867     MpegEncContext *s = &s1->mpeg_enc_ctx;
1868
1869     if (!s1->mpeg_enc_ctx_allocated || !s->current_picture_ptr)
1870         return 0;
1871
1872     if (s->avctx->hwaccel) {
1873         if (s->avctx->hwaccel->end_frame(s->avctx) < 0)
1874             av_log(avctx, AV_LOG_ERROR, "hardware accelerator failed to decode picture\n");
1875     }
1876
1877 #if FF_API_XVMC
1878 FF_DISABLE_DEPRECATION_WARNINGS
1879     if (CONFIG_MPEG_XVMC_DECODER && s->avctx->xvmc_acceleration)
1880         ff_xvmc_field_end(s);
1881 FF_ENABLE_DEPRECATION_WARNINGS
1882 #endif /* FF_API_XVMC */
1883
1884     /* end of slice reached */
1885     if (/*s->mb_y << field_pic == s->mb_height &&*/ !s->first_field) {
1886         /* end of image */
1887
1888         ff_er_frame_end(&s->er);
1889
1890         ff_MPV_frame_end(s);
1891
1892         if (s->pict_type == AV_PICTURE_TYPE_B || s->low_delay) {
1893             int ret = av_frame_ref(pict, &s->current_picture_ptr->f);
1894             if (ret < 0)
1895                 return ret;
1896             ff_print_debug_info(s, s->current_picture_ptr);
1897         } else {
1898             if (avctx->active_thread_type & FF_THREAD_FRAME)
1899                 s->picture_number++;
1900             /* latency of 1 frame for I- and P-frames */
1901             /* XXX: use another variable than picture_number */
1902             if (s->last_picture_ptr != NULL) {
1903                 int ret = av_frame_ref(pict, &s->last_picture_ptr->f);
1904                 if (ret < 0)
1905                     return ret;
1906                 ff_print_debug_info(s, s->last_picture_ptr);
1907             }
1908         }
1909
1910         return 1;
1911     } else {
1912         return 0;
1913     }
1914 }
1915
1916 static int mpeg1_decode_sequence(AVCodecContext *avctx,
1917                                  const uint8_t *buf, int buf_size)
1918 {
1919     Mpeg1Context *s1 = avctx->priv_data;
1920     MpegEncContext *s = &s1->mpeg_enc_ctx;
1921     int width, height;
1922     int i, v, j;
1923
1924     init_get_bits(&s->gb, buf, buf_size*8);
1925
1926     width  = get_bits(&s->gb, 12);
1927     height = get_bits(&s->gb, 12);
1928     if (width == 0 || height == 0) {
1929         av_log(avctx, AV_LOG_WARNING, "Invalid horizontal or vertical size "
1930                "value.\n");
1931         if (avctx->err_recognition & AV_EF_BITSTREAM)
1932             return AVERROR_INVALIDDATA;
1933     }
1934     s->aspect_ratio_info = get_bits(&s->gb, 4);
1935     if (s->aspect_ratio_info == 0) {
1936         av_log(avctx, AV_LOG_ERROR, "aspect ratio has forbidden 0 value\n");
1937         if (avctx->err_recognition & AV_EF_BITSTREAM)
1938             return -1;
1939     }
1940     s->frame_rate_index = get_bits(&s->gb, 4);
1941     if (s->frame_rate_index == 0 || s->frame_rate_index > 13)
1942         return -1;
1943     s->bit_rate = get_bits(&s->gb, 18) * 400;
1944     if (get_bits1(&s->gb) == 0) /* marker */
1945         return -1;
1946     s->width  = width;
1947     s->height = height;
1948
1949     s->avctx->rc_buffer_size = get_bits(&s->gb, 10) * 1024 * 16;
1950     skip_bits(&s->gb, 1);
1951
1952     /* get matrix */
1953     if (get_bits1(&s->gb)) {
1954         load_matrix(s, s->chroma_intra_matrix, s->intra_matrix, 1);
1955     } else {
1956         for (i = 0; i < 64; i++) {
1957             j = s->dsp.idct_permutation[i];
1958             v = ff_mpeg1_default_intra_matrix[i];
1959             s->intra_matrix[j]        = v;
1960             s->chroma_intra_matrix[j] = v;
1961         }
1962     }
1963     if (get_bits1(&s->gb)) {
1964         load_matrix(s, s->chroma_inter_matrix, s->inter_matrix, 0);
1965     } else {
1966         for (i = 0; i < 64; i++) {
1967             int j = s->dsp.idct_permutation[i];
1968             v = ff_mpeg1_default_non_intra_matrix[i];
1969             s->inter_matrix[j]        = v;
1970             s->chroma_inter_matrix[j] = v;
1971         }
1972     }
1973
1974     if (show_bits(&s->gb, 23) != 0) {
1975         av_log(s->avctx, AV_LOG_ERROR, "sequence header damaged\n");
1976         return -1;
1977     }
1978
1979     /* we set MPEG-2 parameters so that it emulates MPEG-1 */
1980     s->progressive_sequence = 1;
1981     s->progressive_frame    = 1;
1982     s->picture_structure    = PICT_FRAME;
1983     s->frame_pred_frame_dct = 1;
1984     s->chroma_format        = 1;
1985     s->codec_id             = s->avctx->codec_id = AV_CODEC_ID_MPEG1VIDEO;
1986     s->out_format           = FMT_MPEG1;
1987     if (s->flags & CODEC_FLAG_LOW_DELAY)
1988         s->low_delay = 1;
1989
1990     if (s->avctx->debug & FF_DEBUG_PICT_INFO)
1991         av_log(s->avctx, AV_LOG_DEBUG, "vbv buffer: %d, bitrate:%d\n",
1992                s->avctx->rc_buffer_size, s->bit_rate);
1993
1994     return 0;
1995 }
1996
1997 static int vcr2_init_sequence(AVCodecContext *avctx)
1998 {
1999     Mpeg1Context *s1 = avctx->priv_data;
2000     MpegEncContext *s = &s1->mpeg_enc_ctx;
2001     int i, v;
2002
2003     /* start new MPEG-1 context decoding */
2004     s->out_format = FMT_MPEG1;
2005     if (s1->mpeg_enc_ctx_allocated) {
2006         ff_MPV_common_end(s);
2007     }
2008     s->width  = avctx->coded_width;
2009     s->height = avctx->coded_height;
2010     avctx->has_b_frames = 0; // true?
2011     s->low_delay = 1;
2012
2013     avctx->pix_fmt = mpeg_get_pixelformat(avctx);
2014     avctx->hwaccel = ff_find_hwaccel(avctx);
2015
2016 #if FF_API_XVMC
2017     if ((avctx->pix_fmt == AV_PIX_FMT_XVMC_MPEG2_IDCT || avctx->hwaccel) &&
2018         avctx->idct_algo == FF_IDCT_AUTO)
2019 #else
2020     if (avctx->hwaccel && avctx->idct_algo == FF_IDCT_AUTO)
2021 #endif /* FF_API_XVMC */
2022         avctx->idct_algo = FF_IDCT_SIMPLE;
2023
2024     if (ff_MPV_common_init(s) < 0)
2025         return -1;
2026     s1->mpeg_enc_ctx_allocated = 1;
2027
2028     for (i = 0; i < 64; i++) {
2029         int j = s->dsp.idct_permutation[i];
2030         v = ff_mpeg1_default_intra_matrix[i];
2031         s->intra_matrix[j]        = v;
2032         s->chroma_intra_matrix[j] = v;
2033
2034         v = ff_mpeg1_default_non_intra_matrix[i];
2035         s->inter_matrix[j]        = v;
2036         s->chroma_inter_matrix[j] = v;
2037     }
2038
2039     s->progressive_sequence  = 1;
2040     s->progressive_frame     = 1;
2041     s->picture_structure     = PICT_FRAME;
2042     s->frame_pred_frame_dct  = 1;
2043     s->chroma_format         = 1;
2044     s->codec_id              = s->avctx->codec_id = AV_CODEC_ID_MPEG2VIDEO;
2045     s1->save_width           = s->width;
2046     s1->save_height          = s->height;
2047     s1->save_progressive_seq = s->progressive_sequence;
2048     return 0;
2049 }
2050
2051
2052 static int mpeg_decode_a53_cc(AVCodecContext *avctx,
2053                               const uint8_t *p, int buf_size)
2054 {
2055     Mpeg1Context *s1 = avctx->priv_data;
2056
2057     if (buf_size >= 6 &&
2058         p[0] == 'G' && p[1] == 'A' && p[2] == '9' && p[3] == '4' &&
2059         p[4] == 3 && (p[5] & 0x40)) {
2060         /* extract A53 Part 4 CC data */
2061         int cc_count = p[5] & 0x1f;
2062         if (cc_count > 0 && buf_size >= 7 + cc_count * 3) {
2063             av_freep(&s1->a53_caption);
2064             s1->a53_caption_size = cc_count * 3;
2065             s1->a53_caption = av_malloc(s1->a53_caption_size);
2066             if (s1->a53_caption) {
2067                 memcpy(s1->a53_caption, p + 7, s1->a53_caption_size);
2068             }
2069         }
2070         return 1;
2071     } else if (buf_size >= 11 &&
2072         p[0] == 'C' && p[1] == 'C' && p[2] == 0x01 && p[3] == 0xf8) {
2073         /* extract DVD CC data */
2074         int cc_count = 0;
2075         int i;
2076         // There is a caption count field in the data, but it is often
2077         // incorect.  So count the number of captions present.
2078         for (i = 5; i + 6 <= buf_size && ((p[i] & 0xfe) == 0xfe); i += 6)
2079             cc_count++;
2080         // Transform the DVD format into A53 Part 4 format
2081         if (cc_count > 0) {
2082             av_freep(&s1->a53_caption);
2083             s1->a53_caption_size = cc_count * 6;
2084             s1->a53_caption = av_malloc(s1->a53_caption_size);
2085             if (s1->a53_caption) {
2086                 uint8_t field1 = !!(p[4] & 0x80);
2087                 uint8_t *cap = s1->a53_caption;
2088                 p += 5;
2089                 for (i = 0; i < cc_count; i++) {
2090                     cap[0] = (p[0] == 0xff && field1) ? 0xfc : 0xfd;
2091                     cap[1] = p[1];
2092                     cap[2] = p[2];
2093                     cap[3] = (p[3] == 0xff && !field1) ? 0xfc : 0xfd;
2094                     cap[4] = p[4];
2095                     cap[5] = p[5];
2096                     cap += 6;
2097                     p += 6;
2098                 }
2099             }
2100         }
2101         return 1;
2102     }
2103     return 0;
2104 }
2105
2106 static void mpeg_decode_user_data(AVCodecContext *avctx,
2107                                   const uint8_t *p, int buf_size)
2108 {
2109     const uint8_t *buf_end = p + buf_size;
2110
2111     /* we parse the DTG active format information */
2112     if (buf_end - p >= 5 &&
2113         p[0] == 'D' && p[1] == 'T' && p[2] == 'G' && p[3] == '1') {
2114         int flags = p[4];
2115         p += 5;
2116         if (flags & 0x80) {
2117             /* skip event id */
2118             p += 2;
2119         }
2120         if (flags & 0x40) {
2121             if (buf_end - p < 1)
2122                 return;
2123             avctx->dtg_active_format = p[0] & 0x0f;
2124         }
2125     } else if (mpeg_decode_a53_cc(avctx, p, buf_size)) {
2126         return;
2127     }
2128 }
2129
2130 static void mpeg_decode_gop(AVCodecContext *avctx,
2131                             const uint8_t *buf, int buf_size)
2132 {
2133     Mpeg1Context *s1  = avctx->priv_data;
2134     MpegEncContext *s = &s1->mpeg_enc_ctx;
2135
2136     int time_code_hours, time_code_minutes;
2137     int time_code_seconds, time_code_pictures;
2138     int broken_link;
2139
2140     init_get_bits(&s->gb, buf, buf_size*8);
2141
2142     skip_bits1(&s->gb); /* drop_frame_flag */
2143
2144     time_code_hours   = get_bits(&s->gb, 5);
2145     time_code_minutes = get_bits(&s->gb, 6);
2146     skip_bits1(&s->gb); // marker bit
2147     time_code_seconds  = get_bits(&s->gb, 6);
2148     time_code_pictures = get_bits(&s->gb, 6);
2149
2150     s1->closed_gop = get_bits1(&s->gb);
2151     /*broken_link indicate that after editing the
2152       reference frames of the first B-Frames after GOP I-Frame
2153       are missing (open gop)*/
2154     broken_link = get_bits1(&s->gb);
2155
2156     if (s->avctx->debug & FF_DEBUG_PICT_INFO)
2157         av_log(s->avctx, AV_LOG_DEBUG, "GOP (%2d:%02d:%02d.[%02d]) closed_gop=%d broken_link=%d\n",
2158                time_code_hours, time_code_minutes, time_code_seconds,
2159                time_code_pictures, s1->closed_gop, broken_link);
2160 }
2161
2162 static int decode_chunks(AVCodecContext *avctx,
2163                          AVFrame *picture, int *got_output,
2164                          const uint8_t *buf, int buf_size)
2165 {
2166     Mpeg1Context *s = avctx->priv_data;
2167     MpegEncContext *s2 = &s->mpeg_enc_ctx;
2168     const uint8_t *buf_ptr = buf;
2169     const uint8_t *buf_end = buf + buf_size;
2170     int ret, input_size;
2171     int last_code = 0, skip_frame = 0;
2172
2173     for (;;) {
2174         /* find next start code */
2175         uint32_t start_code = -1;
2176         buf_ptr = avpriv_find_start_code(buf_ptr, buf_end, &start_code);
2177         if (start_code > 0x1ff) {
2178             if (!skip_frame) {
2179                 if (HAVE_THREADS && (avctx->active_thread_type & FF_THREAD_SLICE) &&
2180                     !avctx->hwaccel) {
2181                     int i;
2182
2183                     avctx->execute(avctx, slice_decode_thread,  &s2->thread_context[0], NULL, s->slice_count, sizeof(void*));
2184                     for (i = 0; i < s->slice_count; i++)
2185                         s2->er.error_count += s2->thread_context[i]->er.error_count;
2186                 }
2187
2188                 ret = slice_end(avctx, picture);
2189                 if (ret < 0)
2190                     return ret;
2191                 else if (ret) {
2192                     if (s2->last_picture_ptr || s2->low_delay) //FIXME merge with the stuff in mpeg_decode_slice
2193                         *got_output = 1;
2194                 }
2195             }
2196             s2->pict_type = 0;
2197             return FFMAX(0, buf_ptr - buf - s2->parse_context.last_index);
2198         }
2199
2200         input_size = buf_end - buf_ptr;
2201
2202         if (avctx->debug & FF_DEBUG_STARTCODE) {
2203             av_log(avctx, AV_LOG_DEBUG, "%3X at %td left %d\n", start_code, buf_ptr-buf, input_size);
2204         }
2205
2206         /* prepare data for next start code */
2207         switch (start_code) {
2208         case SEQ_START_CODE:
2209             if (last_code == 0) {
2210                 mpeg1_decode_sequence(avctx, buf_ptr, input_size);
2211                 s->sync=1;
2212             } else {
2213                 av_log(avctx, AV_LOG_ERROR, "ignoring SEQ_START_CODE after %X\n", last_code);
2214                 if (avctx->err_recognition & AV_EF_EXPLODE)
2215                     return AVERROR_INVALIDDATA;
2216             }
2217             break;
2218
2219         case PICTURE_START_CODE:
2220             if (s2->width <= 0 || s2->height <= 0) {
2221                 av_log(avctx, AV_LOG_ERROR, "Invalid frame dimensions %dx%d.\n",
2222                        s2->width, s2->height);
2223                 return AVERROR_INVALIDDATA;
2224             }
2225
2226             if (HAVE_THREADS && (avctx->active_thread_type & FF_THREAD_SLICE) &&
2227                 !avctx->hwaccel && s->slice_count) {
2228                 int i;
2229
2230                 avctx->execute(avctx, slice_decode_thread,
2231                                s2->thread_context, NULL,
2232                                s->slice_count, sizeof(void*));
2233                 for (i = 0; i < s->slice_count; i++)
2234                     s2->er.error_count += s2->thread_context[i]->er.error_count;
2235                 s->slice_count = 0;
2236             }
2237             if (last_code == 0 || last_code == SLICE_MIN_START_CODE) {
2238                 ret = mpeg_decode_postinit(avctx);
2239                 if (ret < 0) {
2240                     av_log(avctx, AV_LOG_ERROR, "mpeg_decode_postinit() failure\n");
2241                     return ret;
2242                 }
2243
2244                 /* we have a complete image: we try to decompress it */
2245                 if (mpeg1_decode_picture(avctx, buf_ptr, input_size) < 0)
2246                     s2->pict_type = 0;
2247                 s->first_slice = 1;
2248                 last_code = PICTURE_START_CODE;
2249             } else {
2250                 av_log(avctx, AV_LOG_ERROR, "ignoring pic after %X\n", last_code);
2251                 if (avctx->err_recognition & AV_EF_EXPLODE)
2252                     return AVERROR_INVALIDDATA;
2253             }
2254             break;
2255         case EXT_START_CODE:
2256             init_get_bits(&s2->gb, buf_ptr, input_size*8);
2257
2258             switch (get_bits(&s2->gb, 4)) {
2259             case 0x1:
2260                 if (last_code == 0) {
2261                 mpeg_decode_sequence_extension(s);
2262                 } else {
2263                     av_log(avctx, AV_LOG_ERROR, "ignoring seq ext after %X\n", last_code);
2264                     if (avctx->err_recognition & AV_EF_EXPLODE)
2265                         return AVERROR_INVALIDDATA;
2266                 }
2267                 break;
2268             case 0x2:
2269                 mpeg_decode_sequence_display_extension(s);
2270                 break;
2271             case 0x3:
2272                 mpeg_decode_quant_matrix_extension(s2);
2273                 break;
2274             case 0x7:
2275                 mpeg_decode_picture_display_extension(s);
2276                 break;
2277             case 0x8:
2278                 if (last_code == PICTURE_START_CODE) {
2279                     mpeg_decode_picture_coding_extension(s);
2280                 } else {
2281                     av_log(avctx, AV_LOG_ERROR, "ignoring pic cod ext after %X\n", last_code);
2282                     if (avctx->err_recognition & AV_EF_EXPLODE)
2283                         return AVERROR_INVALIDDATA;
2284                 }
2285                 break;
2286             }
2287             break;
2288         case USER_START_CODE:
2289             mpeg_decode_user_data(avctx, buf_ptr, input_size);
2290             break;
2291         case GOP_START_CODE:
2292             if (last_code == 0) {
2293                 s2->first_field=0;
2294                 mpeg_decode_gop(avctx, buf_ptr, input_size);
2295                 s->sync=1;
2296             } else {
2297                 av_log(avctx, AV_LOG_ERROR, "ignoring GOP_START_CODE after %X\n", last_code);
2298                 if (avctx->err_recognition & AV_EF_EXPLODE)
2299                     return AVERROR_INVALIDDATA;
2300             }
2301             break;
2302         default:
2303             if (start_code >= SLICE_MIN_START_CODE &&
2304                 start_code <= SLICE_MAX_START_CODE && last_code != 0) {
2305                 const int field_pic = s2->picture_structure != PICT_FRAME;
2306                 int mb_y = (start_code - SLICE_MIN_START_CODE) << field_pic;
2307                 last_code = SLICE_MIN_START_CODE;
2308
2309                 if (s2->picture_structure == PICT_BOTTOM_FIELD)
2310                     mb_y++;
2311
2312                 if (mb_y >= s2->mb_height) {
2313                     av_log(s2->avctx, AV_LOG_ERROR, "slice below image (%d >= %d)\n", mb_y, s2->mb_height);
2314                     return -1;
2315                 }
2316
2317                 if (s2->last_picture_ptr == NULL) {
2318                 /* Skip B-frames if we do not have reference frames and gop is not closed */
2319                     if (s2->pict_type == AV_PICTURE_TYPE_B) {
2320                         if (!s->closed_gop) {
2321                             skip_frame = 1;
2322                             break;
2323                         }
2324                     }
2325                 }
2326                 if (s2->pict_type == AV_PICTURE_TYPE_I)
2327                     s->sync=1;
2328                 if (s2->next_picture_ptr == NULL) {
2329                 /* Skip P-frames if we do not have a reference frame or we have an invalid header. */
2330                     if (s2->pict_type == AV_PICTURE_TYPE_P && !s->sync) {
2331                         skip_frame = 1;
2332                         break;
2333                     }
2334                 }
2335                 if ((avctx->skip_frame >= AVDISCARD_NONREF && s2->pict_type == AV_PICTURE_TYPE_B) ||
2336                     (avctx->skip_frame >= AVDISCARD_NONKEY && s2->pict_type != AV_PICTURE_TYPE_I) ||
2337                      avctx->skip_frame >= AVDISCARD_ALL) {
2338                     skip_frame = 1;
2339                     break;
2340                 }
2341
2342                 if (!s->mpeg_enc_ctx_allocated)
2343                     break;
2344
2345                 if (s2->codec_id == AV_CODEC_ID_MPEG2VIDEO) {
2346                     if (mb_y < avctx->skip_top || mb_y >= s2->mb_height - avctx->skip_bottom)
2347                         break;
2348                 }
2349
2350                 if (!s2->pict_type) {
2351                     av_log(avctx, AV_LOG_ERROR, "Missing picture start code\n");
2352                     if (avctx->err_recognition & AV_EF_EXPLODE)
2353                         return AVERROR_INVALIDDATA;
2354                     break;
2355                 }
2356
2357                 if (s->first_slice) {
2358                     skip_frame = 0;
2359                     s->first_slice = 0;
2360                     if (mpeg_field_start(s2, buf, buf_size) < 0)
2361                         return -1;
2362                 }
2363                 if (!s2->current_picture_ptr) {
2364                     av_log(avctx, AV_LOG_ERROR, "current_picture not initialized\n");
2365                     return AVERROR_INVALIDDATA;
2366                 }
2367
2368                 if (HAVE_THREADS && (avctx->active_thread_type & FF_THREAD_SLICE) &&
2369                     !avctx->hwaccel) {
2370                     int threshold = (s2->mb_height * s->slice_count +
2371                                      s2->slice_context_count / 2) /
2372                                     s2->slice_context_count;
2373                     if (threshold <= mb_y) {
2374                         MpegEncContext *thread_context = s2->thread_context[s->slice_count];
2375
2376                         thread_context->start_mb_y = mb_y;
2377                         thread_context->end_mb_y   = s2->mb_height;
2378                         if (s->slice_count) {
2379                             s2->thread_context[s->slice_count-1]->end_mb_y = mb_y;
2380                             ret = ff_update_duplicate_context(thread_context,
2381                                                               s2);
2382                             if (ret < 0)
2383                                 return ret;
2384                         }
2385                         init_get_bits(&thread_context->gb, buf_ptr, input_size*8);
2386                         s->slice_count++;
2387                     }
2388                     buf_ptr += 2; // FIXME add minimum number of bytes per slice
2389                 } else {
2390                     ret = mpeg_decode_slice(s2, mb_y, &buf_ptr, input_size);
2391                     emms_c();
2392
2393                     if (ret < 0) {
2394                         if (avctx->err_recognition & AV_EF_EXPLODE)
2395                             return ret;
2396                         if (s2->resync_mb_x >= 0 && s2->resync_mb_y >= 0)
2397                             ff_er_add_slice(&s2->er, s2->resync_mb_x, s2->resync_mb_y, s2->mb_x, s2->mb_y, ER_AC_ERROR | ER_DC_ERROR | ER_MV_ERROR);
2398                     } else {
2399                         ff_er_add_slice(&s2->er, s2->resync_mb_x, s2->resync_mb_y, s2->mb_x-1, s2->mb_y, ER_AC_END | ER_DC_END | ER_MV_END);
2400                     }
2401                 }
2402             }
2403             break;
2404         }
2405     }
2406 }
2407
2408 static int mpeg_decode_frame(AVCodecContext *avctx,
2409                              void *data, int *got_output,
2410                              AVPacket *avpkt)
2411 {
2412     const uint8_t *buf = avpkt->data;
2413     int buf_size = avpkt->size;
2414     Mpeg1Context *s = avctx->priv_data;
2415     AVFrame *picture = data;
2416     MpegEncContext *s2 = &s->mpeg_enc_ctx;
2417     av_dlog(avctx, "fill_buffer\n");
2418
2419     if (buf_size == 0 || (buf_size == 4 && AV_RB32(buf) == SEQ_END_CODE)) {
2420         /* special case for last picture */
2421         if (s2->low_delay == 0 && s2->next_picture_ptr) {
2422             int ret = av_frame_ref(picture, &s2->next_picture_ptr->f);
2423             if (ret < 0)
2424                 return ret;
2425
2426             s2->next_picture_ptr = NULL;
2427
2428             *got_output = 1;
2429         }
2430         return buf_size;
2431     }
2432
2433     if (s2->flags & CODEC_FLAG_TRUNCATED) {
2434         int next = ff_mpeg1_find_frame_end(&s2->parse_context, buf, buf_size, NULL);
2435
2436         if (ff_combine_frame(&s2->parse_context, next, (const uint8_t **)&buf, &buf_size) < 0)
2437             return buf_size;
2438     }
2439
2440     if (s->mpeg_enc_ctx_allocated == 0 && avctx->codec_tag == AV_RL32("VCR2"))
2441         vcr2_init_sequence(avctx);
2442
2443     s->slice_count = 0;
2444
2445     if (avctx->extradata && !s->extradata_decoded) {
2446         int ret = decode_chunks(avctx, picture, got_output, avctx->extradata, avctx->extradata_size);
2447         s->extradata_decoded = 1;
2448         if (ret < 0 && (avctx->err_recognition & AV_EF_EXPLODE))
2449             return ret;
2450     }
2451
2452     return decode_chunks(avctx, picture, got_output, buf, buf_size);
2453 }
2454
2455
2456 static void flush(AVCodecContext *avctx)
2457 {
2458     Mpeg1Context *s = avctx->priv_data;
2459
2460     s->sync=0;
2461     s->closed_gop = 0;
2462
2463     ff_mpeg_flush(avctx);
2464 }
2465
2466 static av_cold int mpeg_decode_end(AVCodecContext *avctx)
2467 {
2468     Mpeg1Context *s = avctx->priv_data;
2469
2470     if (s->mpeg_enc_ctx_allocated)
2471         ff_MPV_common_end(&s->mpeg_enc_ctx);
2472     av_freep(&s->a53_caption);
2473     return 0;
2474 }
2475
2476 static const AVProfile mpeg2_video_profiles[] = {
2477     { FF_PROFILE_MPEG2_422,          "4:2:2"              },
2478     { FF_PROFILE_MPEG2_HIGH,         "High"               },
2479     { FF_PROFILE_MPEG2_SS,           "Spatially Scalable" },
2480     { FF_PROFILE_MPEG2_SNR_SCALABLE, "SNR Scalable"       },
2481     { FF_PROFILE_MPEG2_MAIN,         "Main"               },
2482     { FF_PROFILE_MPEG2_SIMPLE,       "Simple"             },
2483     { FF_PROFILE_RESERVED,           "Reserved"           },
2484     { FF_PROFILE_RESERVED,           "Reserved"           },
2485     { FF_PROFILE_UNKNOWN },
2486 };
2487
2488
2489 AVCodec ff_mpeg1video_decoder = {
2490     .name                  = "mpeg1video",
2491     .long_name             = NULL_IF_CONFIG_SMALL("MPEG-1 video"),
2492     .type                  = AVMEDIA_TYPE_VIDEO,
2493     .id                    = AV_CODEC_ID_MPEG1VIDEO,
2494     .priv_data_size        = sizeof(Mpeg1Context),
2495     .init                  = mpeg_decode_init,
2496     .close                 = mpeg_decode_end,
2497     .decode                = mpeg_decode_frame,
2498     .capabilities          = CODEC_CAP_DRAW_HORIZ_BAND | CODEC_CAP_DR1 |
2499                              CODEC_CAP_TRUNCATED | CODEC_CAP_DELAY |
2500                              CODEC_CAP_SLICE_THREADS,
2501     .flush                 = flush,
2502     .update_thread_context = ONLY_IF_THREADS_ENABLED(mpeg_decode_update_thread_context)
2503 };
2504
2505 AVCodec ff_mpeg2video_decoder = {
2506     .name           = "mpeg2video",
2507     .long_name      = NULL_IF_CONFIG_SMALL("MPEG-2 video"),
2508     .type           = AVMEDIA_TYPE_VIDEO,
2509     .id             = AV_CODEC_ID_MPEG2VIDEO,
2510     .priv_data_size = sizeof(Mpeg1Context),
2511     .init           = mpeg_decode_init,
2512     .close          = mpeg_decode_end,
2513     .decode         = mpeg_decode_frame,
2514     .capabilities   = CODEC_CAP_DRAW_HORIZ_BAND | CODEC_CAP_DR1 |
2515                       CODEC_CAP_TRUNCATED | CODEC_CAP_DELAY |
2516                       CODEC_CAP_SLICE_THREADS,
2517     .flush          = flush,
2518     .profiles       = NULL_IF_CONFIG_SMALL(mpeg2_video_profiles),
2519 };
2520
2521 #if FF_API_XVMC
2522 #if CONFIG_MPEG_XVMC_DECODER
2523 static av_cold int mpeg_mc_decode_init(AVCodecContext *avctx)
2524 {
2525     if (avctx->active_thread_type & FF_THREAD_SLICE)
2526         return -1;
2527     if (!(avctx->slice_flags & SLICE_FLAG_CODED_ORDER))
2528         return -1;
2529     if (!(avctx->slice_flags & SLICE_FLAG_ALLOW_FIELD)) {
2530         av_dlog(avctx, "mpeg12.c: XvMC decoder will work better if SLICE_FLAG_ALLOW_FIELD is set\n");
2531     }
2532     mpeg_decode_init(avctx);
2533
2534     avctx->pix_fmt           = AV_PIX_FMT_XVMC_MPEG2_IDCT;
2535     avctx->xvmc_acceleration = 2; // 2 - the blocks are packed!
2536
2537     return 0;
2538 }
2539
2540 AVCodec ff_mpeg_xvmc_decoder = {
2541     .name           = "mpegvideo_xvmc",
2542     .long_name      = NULL_IF_CONFIG_SMALL("MPEG-1/2 video XvMC (X-Video Motion Compensation)"),
2543     .type           = AVMEDIA_TYPE_VIDEO,
2544     .id             = AV_CODEC_ID_MPEG2VIDEO_XVMC,
2545     .priv_data_size = sizeof(Mpeg1Context),
2546     .init           = mpeg_mc_decode_init,
2547     .close          = mpeg_decode_end,
2548     .decode         = mpeg_decode_frame,
2549     .capabilities   = CODEC_CAP_DRAW_HORIZ_BAND | CODEC_CAP_DR1 |
2550                       CODEC_CAP_TRUNCATED| CODEC_CAP_HWACCEL | CODEC_CAP_DELAY,
2551     .flush          = flush,
2552 };
2553
2554 #endif
2555 #endif /* FF_API_XVMC */