dump: split audio and video probing on multiple lines
[ffmpeg.git] / libavcodec / ituh263dec.c
1 /*
2  * ITU H263 bitstream decoder
3  * Copyright (c) 2000,2001 Fabrice Bellard
4  * H263+ support.
5  * Copyright (c) 2001 Juan J. Sierralta P
6  * Copyright (c) 2002-2004 Michael Niedermayer <michaelni@gmx.at>
7  *
8  * This file is part of Libav.
9  *
10  * Libav is free software; you can redistribute it and/or
11  * modify it under the terms of the GNU Lesser General Public
12  * License as published by the Free Software Foundation; either
13  * version 2.1 of the License, or (at your option) any later version.
14  *
15  * Libav is distributed in the hope that it will be useful,
16  * but WITHOUT ANY WARRANTY; without even the implied warranty of
17  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
18  * Lesser General Public License for more details.
19  *
20  * You should have received a copy of the GNU Lesser General Public
21  * License along with Libav; if not, write to the Free Software
22  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
23  */
24
25 /**
26  * @file
27  * h263 decoder.
28  */
29
30 #include <limits.h>
31
32 #include "libavutil/attributes.h"
33 #include "libavutil/internal.h"
34 #include "libavutil/mathematics.h"
35 #include "avcodec.h"
36 #include "mpegvideo.h"
37 #include "h263.h"
38 #include "mathops.h"
39 #include "mpegutils.h"
40 #include "unary.h"
41 #include "flv.h"
42 #include "mpeg4video.h"
43
44 // The defines below define the number of bits that are read at once for
45 // reading vlc values. Changing these may improve speed and data cache needs
46 // be aware though that decreasing them may need the number of stages that is
47 // passed to get_vlc* to be increased.
48 #define MV_VLC_BITS 9
49 #define H263_MBTYPE_B_VLC_BITS 6
50 #define CBPC_B_VLC_BITS 3
51
52 static const int h263_mb_type_b_map[15]= {
53     MB_TYPE_DIRECT2 | MB_TYPE_L0L1,
54     MB_TYPE_DIRECT2 | MB_TYPE_L0L1 | MB_TYPE_CBP,
55     MB_TYPE_DIRECT2 | MB_TYPE_L0L1 | MB_TYPE_CBP | MB_TYPE_QUANT,
56                       MB_TYPE_L0                                 | MB_TYPE_16x16,
57                       MB_TYPE_L0   | MB_TYPE_CBP                 | MB_TYPE_16x16,
58                       MB_TYPE_L0   | MB_TYPE_CBP | MB_TYPE_QUANT | MB_TYPE_16x16,
59                       MB_TYPE_L1                                 | MB_TYPE_16x16,
60                       MB_TYPE_L1   | MB_TYPE_CBP                 | MB_TYPE_16x16,
61                       MB_TYPE_L1   | MB_TYPE_CBP | MB_TYPE_QUANT | MB_TYPE_16x16,
62                       MB_TYPE_L0L1                               | MB_TYPE_16x16,
63                       MB_TYPE_L0L1 | MB_TYPE_CBP                 | MB_TYPE_16x16,
64                       MB_TYPE_L0L1 | MB_TYPE_CBP | MB_TYPE_QUANT | MB_TYPE_16x16,
65     0, //stuffing
66     MB_TYPE_INTRA4x4                | MB_TYPE_CBP,
67     MB_TYPE_INTRA4x4                | MB_TYPE_CBP | MB_TYPE_QUANT,
68 };
69
70 void ff_h263_show_pict_info(MpegEncContext *s){
71     if(s->avctx->debug&FF_DEBUG_PICT_INFO){
72     av_log(s->avctx, AV_LOG_DEBUG, "qp:%d %c size:%d rnd:%d%s%s%s%s%s%s%s%s%s %d/%d\n",
73          s->qscale, av_get_picture_type_char(s->pict_type),
74          s->gb.size_in_bits, 1-s->no_rounding,
75          s->obmc ? " AP" : "",
76          s->umvplus ? " UMV" : "",
77          s->h263_long_vectors ? " LONG" : "",
78          s->h263_plus ? " +" : "",
79          s->h263_aic ? " AIC" : "",
80          s->alt_inter_vlc ? " AIV" : "",
81          s->modified_quant ? " MQ" : "",
82          s->loop_filter ? " LOOP" : "",
83          s->h263_slice_structured ? " SS" : "",
84          s->avctx->time_base.den, s->avctx->time_base.num
85     );
86     }
87 }
88
89 /***********************************************/
90 /* decoding */
91
92 VLC ff_h263_intra_MCBPC_vlc;
93 VLC ff_h263_inter_MCBPC_vlc;
94 VLC ff_h263_cbpy_vlc;
95 static VLC mv_vlc;
96 static VLC h263_mbtype_b_vlc;
97 static VLC cbpc_b_vlc;
98
99 /* init vlcs */
100
101 /* XXX: find a better solution to handle static init */
102 av_cold void ff_h263_decode_init_vlc(void)
103 {
104     static int done = 0;
105
106     if (!done) {
107         done = 1;
108
109         INIT_VLC_STATIC(&ff_h263_intra_MCBPC_vlc, INTRA_MCBPC_VLC_BITS, 9,
110                  ff_h263_intra_MCBPC_bits, 1, 1,
111                  ff_h263_intra_MCBPC_code, 1, 1, 72);
112         INIT_VLC_STATIC(&ff_h263_inter_MCBPC_vlc, INTER_MCBPC_VLC_BITS, 28,
113                  ff_h263_inter_MCBPC_bits, 1, 1,
114                  ff_h263_inter_MCBPC_code, 1, 1, 198);
115         INIT_VLC_STATIC(&ff_h263_cbpy_vlc, CBPY_VLC_BITS, 16,
116                  &ff_h263_cbpy_tab[0][1], 2, 1,
117                  &ff_h263_cbpy_tab[0][0], 2, 1, 64);
118         INIT_VLC_STATIC(&mv_vlc, MV_VLC_BITS, 33,
119                  &ff_mvtab[0][1], 2, 1,
120                  &ff_mvtab[0][0], 2, 1, 538);
121         ff_init_rl(&ff_h263_rl_inter, ff_h263_static_rl_table_store[0]);
122         ff_init_rl(&ff_rl_intra_aic, ff_h263_static_rl_table_store[1]);
123         INIT_VLC_RL(ff_h263_rl_inter, 554);
124         INIT_VLC_RL(ff_rl_intra_aic, 554);
125         INIT_VLC_STATIC(&h263_mbtype_b_vlc, H263_MBTYPE_B_VLC_BITS, 15,
126                  &ff_h263_mbtype_b_tab[0][1], 2, 1,
127                  &ff_h263_mbtype_b_tab[0][0], 2, 1, 80);
128         INIT_VLC_STATIC(&cbpc_b_vlc, CBPC_B_VLC_BITS, 4,
129                  &ff_cbpc_b_tab[0][1], 2, 1,
130                  &ff_cbpc_b_tab[0][0], 2, 1, 8);
131     }
132 }
133
134 int ff_h263_decode_mba(MpegEncContext *s)
135 {
136     int i, mb_pos;
137
138     for(i=0; i<6; i++){
139         if(s->mb_num-1 <= ff_mba_max[i]) break;
140     }
141     mb_pos= get_bits(&s->gb, ff_mba_length[i]);
142     s->mb_x= mb_pos % s->mb_width;
143     s->mb_y= mb_pos / s->mb_width;
144
145     return mb_pos;
146 }
147
148 /**
149  * Decode the group of blocks header or slice header.
150  * @return <0 if an error occurred
151  */
152 static int h263_decode_gob_header(MpegEncContext *s)
153 {
154     unsigned int val, gob_number;
155     int left;
156
157     /* Check for GOB Start Code */
158     val = show_bits(&s->gb, 16);
159     if(val)
160         return -1;
161
162         /* We have a GBSC probably with GSTUFF */
163     skip_bits(&s->gb, 16); /* Drop the zeros */
164     left= get_bits_left(&s->gb);
165     //MN: we must check the bits left or we might end in a infinite loop (or segfault)
166     for(;left>13; left--){
167         if(get_bits1(&s->gb)) break; /* Seek the '1' bit */
168     }
169     if(left<=13)
170         return -1;
171
172     if(s->h263_slice_structured){
173         if(get_bits1(&s->gb)==0)
174             return -1;
175
176         ff_h263_decode_mba(s);
177
178         if(s->mb_num > 1583)
179             if(get_bits1(&s->gb)==0)
180                 return -1;
181
182         s->qscale = get_bits(&s->gb, 5); /* SQUANT */
183         if(get_bits1(&s->gb)==0)
184             return -1;
185         skip_bits(&s->gb, 2); /* GFID */
186     }else{
187         gob_number = get_bits(&s->gb, 5); /* GN */
188         s->mb_x= 0;
189         s->mb_y= s->gob_index* gob_number;
190         skip_bits(&s->gb, 2); /* GFID */
191         s->qscale = get_bits(&s->gb, 5); /* GQUANT */
192     }
193
194     if(s->mb_y >= s->mb_height)
195         return -1;
196
197     if(s->qscale==0)
198         return -1;
199
200     return 0;
201 }
202
203 /**
204  * Find the next resync_marker.
205  * @param p pointer to buffer to scan
206  * @param end pointer to the end of the buffer
207  * @return pointer to the next resync_marker, or end if none was found
208  */
209 const uint8_t *ff_h263_find_resync_marker(const uint8_t *restrict p, const uint8_t * restrict end)
210 {
211     assert(p < end);
212
213     end-=2;
214     p++;
215     for(;p<end; p+=2){
216         if(!*p){
217             if     (!p[-1] && p[1]) return p - 1;
218             else if(!p[ 1] && p[2]) return p;
219         }
220     }
221     return end+2;
222 }
223
224 /**
225  * Decode the group of blocks / video packet header.
226  * @return bit position of the resync_marker, or <0 if none was found
227  */
228 int ff_h263_resync(MpegEncContext *s){
229     int left, pos, ret;
230
231     if(s->codec_id==AV_CODEC_ID_MPEG4){
232         skip_bits1(&s->gb);
233         align_get_bits(&s->gb);
234     }
235
236     if(show_bits(&s->gb, 16)==0){
237         pos= get_bits_count(&s->gb);
238         if(CONFIG_MPEG4_DECODER && s->codec_id==AV_CODEC_ID_MPEG4)
239             ret= ff_mpeg4_decode_video_packet_header(s->avctx->priv_data);
240         else
241             ret= h263_decode_gob_header(s);
242         if(ret>=0)
243             return pos;
244     }
245     //OK, it's not where it is supposed to be ...
246     s->gb= s->last_resync_gb;
247     align_get_bits(&s->gb);
248     left= get_bits_left(&s->gb);
249
250     for(;left>16+1+5+5; left-=8){
251         if(show_bits(&s->gb, 16)==0){
252             GetBitContext bak= s->gb;
253
254             pos= get_bits_count(&s->gb);
255             if(CONFIG_MPEG4_DECODER && s->codec_id==AV_CODEC_ID_MPEG4)
256                 ret= ff_mpeg4_decode_video_packet_header(s->avctx->priv_data);
257             else
258                 ret= h263_decode_gob_header(s);
259             if(ret>=0)
260                 return pos;
261
262             s->gb= bak;
263         }
264         skip_bits(&s->gb, 8);
265     }
266
267     return -1;
268 }
269
270 int ff_h263_decode_motion(MpegEncContext * s, int pred, int f_code)
271 {
272     int code, val, sign, shift;
273     code = get_vlc2(&s->gb, mv_vlc.table, MV_VLC_BITS, 2);
274
275     if (code == 0)
276         return pred;
277     if (code < 0)
278         return 0xffff;
279
280     sign = get_bits1(&s->gb);
281     shift = f_code - 1;
282     val = code;
283     if (shift) {
284         val = (val - 1) << shift;
285         val |= get_bits(&s->gb, shift);
286         val++;
287     }
288     if (sign)
289         val = -val;
290     val += pred;
291
292     /* modulo decoding */
293     if (!s->h263_long_vectors) {
294         val = sign_extend(val, 5 + f_code);
295     } else {
296         /* horrible h263 long vector mode */
297         if (pred < -31 && val < -63)
298             val += 64;
299         if (pred > 32 && val > 63)
300             val -= 64;
301
302     }
303     return val;
304 }
305
306
307 /* Decode RVLC of H.263+ UMV */
308 static int h263p_decode_umotion(MpegEncContext * s, int pred)
309 {
310    int code = 0, sign;
311
312    if (get_bits1(&s->gb)) /* Motion difference = 0 */
313       return pred;
314
315    code = 2 + get_bits1(&s->gb);
316
317    while (get_bits1(&s->gb))
318    {
319       code <<= 1;
320       code += get_bits1(&s->gb);
321    }
322    sign = code & 1;
323    code >>= 1;
324
325    code = (sign) ? (pred - code) : (pred + code);
326    av_dlog(s->avctx,"H.263+ UMV Motion = %d\n", code);
327    return code;
328
329 }
330
331 /**
332  * read the next MVs for OBMC. yes this is a ugly hack, feel free to send a patch :)
333  */
334 static void preview_obmc(MpegEncContext *s){
335     GetBitContext gb= s->gb;
336
337     int cbpc, i, pred_x, pred_y, mx, my;
338     int16_t *mot_val;
339     const int xy= s->mb_x + 1 + s->mb_y * s->mb_stride;
340     const int stride= s->b8_stride*2;
341
342     for(i=0; i<4; i++)
343         s->block_index[i]+= 2;
344     for(i=4; i<6; i++)
345         s->block_index[i]+= 1;
346     s->mb_x++;
347
348     assert(s->pict_type == AV_PICTURE_TYPE_P);
349
350     do{
351         if (get_bits1(&s->gb)) {
352             /* skip mb */
353             mot_val = s->current_picture.motion_val[0][s->block_index[0]];
354             mot_val[0       ]= mot_val[2       ]=
355             mot_val[0+stride]= mot_val[2+stride]= 0;
356             mot_val[1       ]= mot_val[3       ]=
357             mot_val[1+stride]= mot_val[3+stride]= 0;
358
359             s->current_picture.mb_type[xy] = MB_TYPE_SKIP | MB_TYPE_16x16 | MB_TYPE_L0;
360             goto end;
361         }
362         cbpc = get_vlc2(&s->gb, ff_h263_inter_MCBPC_vlc.table, INTER_MCBPC_VLC_BITS, 2);
363     }while(cbpc == 20);
364
365     if(cbpc & 4){
366         s->current_picture.mb_type[xy] = MB_TYPE_INTRA;
367     }else{
368         get_vlc2(&s->gb, ff_h263_cbpy_vlc.table, CBPY_VLC_BITS, 1);
369         if (cbpc & 8) {
370             if(s->modified_quant){
371                 if(get_bits1(&s->gb)) skip_bits(&s->gb, 1);
372                 else                  skip_bits(&s->gb, 5);
373             }else
374                 skip_bits(&s->gb, 2);
375         }
376
377         if ((cbpc & 16) == 0) {
378                 s->current_picture.mb_type[xy] = MB_TYPE_16x16 | MB_TYPE_L0;
379                 /* 16x16 motion prediction */
380                 mot_val= ff_h263_pred_motion(s, 0, 0, &pred_x, &pred_y);
381                 if (s->umvplus)
382                    mx = h263p_decode_umotion(s, pred_x);
383                 else
384                    mx = ff_h263_decode_motion(s, pred_x, 1);
385
386                 if (s->umvplus)
387                    my = h263p_decode_umotion(s, pred_y);
388                 else
389                    my = ff_h263_decode_motion(s, pred_y, 1);
390
391                 mot_val[0       ]= mot_val[2       ]=
392                 mot_val[0+stride]= mot_val[2+stride]= mx;
393                 mot_val[1       ]= mot_val[3       ]=
394                 mot_val[1+stride]= mot_val[3+stride]= my;
395         } else {
396             s->current_picture.mb_type[xy] = MB_TYPE_8x8 | MB_TYPE_L0;
397             for(i=0;i<4;i++) {
398                 mot_val = ff_h263_pred_motion(s, i, 0, &pred_x, &pred_y);
399                 if (s->umvplus)
400                   mx = h263p_decode_umotion(s, pred_x);
401                 else
402                   mx = ff_h263_decode_motion(s, pred_x, 1);
403
404                 if (s->umvplus)
405                   my = h263p_decode_umotion(s, pred_y);
406                 else
407                   my = ff_h263_decode_motion(s, pred_y, 1);
408                 if (s->umvplus && (mx - pred_x) == 1 && (my - pred_y) == 1)
409                   skip_bits1(&s->gb); /* Bit stuffing to prevent PSC */
410                 mot_val[0] = mx;
411                 mot_val[1] = my;
412             }
413         }
414     }
415 end:
416
417     for(i=0; i<4; i++)
418         s->block_index[i]-= 2;
419     for(i=4; i<6; i++)
420         s->block_index[i]-= 1;
421     s->mb_x--;
422
423     s->gb= gb;
424 }
425
426 static void h263_decode_dquant(MpegEncContext *s){
427     static const int8_t quant_tab[4] = { -1, -2, 1, 2 };
428
429     if(s->modified_quant){
430         if(get_bits1(&s->gb))
431             s->qscale= ff_modified_quant_tab[get_bits1(&s->gb)][ s->qscale ];
432         else
433             s->qscale= get_bits(&s->gb, 5);
434     }else
435         s->qscale += quant_tab[get_bits(&s->gb, 2)];
436     ff_set_qscale(s, s->qscale);
437 }
438
439 static int h263_decode_block(MpegEncContext * s, int16_t * block,
440                              int n, int coded)
441 {
442     int code, level, i, j, last, run;
443     RLTable *rl = &ff_h263_rl_inter;
444     const uint8_t *scan_table;
445     GetBitContext gb= s->gb;
446
447     scan_table = s->intra_scantable.permutated;
448     if (s->h263_aic && s->mb_intra) {
449         rl = &ff_rl_intra_aic;
450         i = 0;
451         if (s->ac_pred) {
452             if (s->h263_aic_dir)
453                 scan_table = s->intra_v_scantable.permutated; /* left */
454             else
455                 scan_table = s->intra_h_scantable.permutated; /* top */
456         }
457     } else if (s->mb_intra) {
458         /* DC coef */
459         if(s->codec_id == AV_CODEC_ID_RV10){
460 #if CONFIG_RV10_DECODER
461           if (s->rv10_version == 3 && s->pict_type == AV_PICTURE_TYPE_I) {
462             int component, diff;
463             component = (n <= 3 ? 0 : n - 4 + 1);
464             level = s->last_dc[component];
465             if (s->rv10_first_dc_coded[component]) {
466                 diff = ff_rv_decode_dc(s, n);
467                 if (diff == 0xffff)
468                     return -1;
469                 level += diff;
470                 level = level & 0xff; /* handle wrap round */
471                 s->last_dc[component] = level;
472             } else {
473                 s->rv10_first_dc_coded[component] = 1;
474             }
475           } else {
476                 level = get_bits(&s->gb, 8);
477                 if (level == 255)
478                     level = 128;
479           }
480 #endif
481         }else{
482             level = get_bits(&s->gb, 8);
483             if((level&0x7F) == 0){
484                 av_log(s->avctx, AV_LOG_ERROR, "illegal dc %d at %d %d\n", level, s->mb_x, s->mb_y);
485                 if(s->err_recognition & AV_EF_BITSTREAM)
486                     return -1;
487             }
488             if (level == 255)
489                 level = 128;
490         }
491         block[0] = level;
492         i = 1;
493     } else {
494         i = 0;
495     }
496     if (!coded) {
497         if (s->mb_intra && s->h263_aic)
498             goto not_coded;
499         s->block_last_index[n] = i - 1;
500         return 0;
501     }
502 retry:
503     for(;;) {
504         code = get_vlc2(&s->gb, rl->vlc.table, TEX_VLC_BITS, 2);
505         if (code < 0){
506             av_log(s->avctx, AV_LOG_ERROR, "illegal ac vlc code at %dx%d\n", s->mb_x, s->mb_y);
507             return -1;
508         }
509         if (code == rl->n) {
510             /* escape */
511             if (CONFIG_FLV_DECODER && s->h263_flv > 1) {
512                 ff_flv2_decode_ac_esc(&s->gb, &level, &run, &last);
513             } else {
514                 last = get_bits1(&s->gb);
515                 run = get_bits(&s->gb, 6);
516                 level = (int8_t)get_bits(&s->gb, 8);
517                 if(level == -128){
518                     if (s->codec_id == AV_CODEC_ID_RV10) {
519                         /* XXX: should patch encoder too */
520                         level = get_sbits(&s->gb, 12);
521                     }else{
522                         level = get_bits(&s->gb, 5);
523                         level |= get_sbits(&s->gb, 6)<<5;
524                     }
525                 }
526             }
527         } else {
528             run = rl->table_run[code];
529             level = rl->table_level[code];
530             last = code >= rl->last;
531             if (get_bits1(&s->gb))
532                 level = -level;
533         }
534         i += run;
535         if (i >= 64){
536             if(s->alt_inter_vlc && rl == &ff_h263_rl_inter && !s->mb_intra){
537                 //Looks like a hack but no, it's the way it is supposed to work ...
538                 rl = &ff_rl_intra_aic;
539                 i = 0;
540                 s->gb= gb;
541                 s->bdsp.clear_block(block);
542                 goto retry;
543             }
544             av_log(s->avctx, AV_LOG_ERROR, "run overflow at %dx%d i:%d\n", s->mb_x, s->mb_y, s->mb_intra);
545             return -1;
546         }
547         j = scan_table[i];
548         block[j] = level;
549         if (last)
550             break;
551         i++;
552     }
553 not_coded:
554     if (s->mb_intra && s->h263_aic) {
555         ff_h263_pred_acdc(s, block, n);
556         i = 63;
557     }
558     s->block_last_index[n] = i;
559     return 0;
560 }
561
562 static int h263_skip_b_part(MpegEncContext *s, int cbp)
563 {
564     LOCAL_ALIGNED_16(int16_t, dblock, [64]);
565     int i, mbi;
566
567     /* we have to set s->mb_intra to zero to decode B-part of PB-frame correctly
568      * but real value should be restored in order to be used later (in OBMC condition)
569      */
570     mbi = s->mb_intra;
571     s->mb_intra = 0;
572     for (i = 0; i < 6; i++) {
573         if (h263_decode_block(s, dblock, i, cbp&32) < 0)
574             return -1;
575         cbp+=cbp;
576     }
577     s->mb_intra = mbi;
578     return 0;
579 }
580
581 static int h263_get_modb(GetBitContext *gb, int pb_frame, int *cbpb)
582 {
583     int c, mv = 1;
584
585     if (pb_frame < 3) { // h.263 Annex G and i263 PB-frame
586         c = get_bits1(gb);
587         if (pb_frame == 2 && c)
588             mv = !get_bits1(gb);
589     } else { // h.263 Annex M improved PB-frame
590         mv = get_unary(gb, 0, 4) + 1;
591         c = mv & 1;
592         mv = !!(mv & 2);
593     }
594     if(c)
595         *cbpb = get_bits(gb, 6);
596     return mv;
597 }
598
599 int ff_h263_decode_mb(MpegEncContext *s,
600                       int16_t block[6][64])
601 {
602     int cbpc, cbpy, i, cbp, pred_x, pred_y, mx, my, dquant;
603     int16_t *mot_val;
604     const int xy= s->mb_x + s->mb_y * s->mb_stride;
605     int cbpb = 0, pb_mv_count = 0;
606
607     assert(!s->h263_pred);
608
609     if (s->pict_type == AV_PICTURE_TYPE_P) {
610         do{
611             if (get_bits1(&s->gb)) {
612                 /* skip mb */
613                 s->mb_intra = 0;
614                 for(i=0;i<6;i++)
615                     s->block_last_index[i] = -1;
616                 s->mv_dir = MV_DIR_FORWARD;
617                 s->mv_type = MV_TYPE_16X16;
618                 s->current_picture.mb_type[xy] = MB_TYPE_SKIP | MB_TYPE_16x16 | MB_TYPE_L0;
619                 s->mv[0][0][0] = 0;
620                 s->mv[0][0][1] = 0;
621                 s->mb_skipped = !(s->obmc | s->loop_filter);
622                 goto end;
623             }
624             cbpc = get_vlc2(&s->gb, ff_h263_inter_MCBPC_vlc.table, INTER_MCBPC_VLC_BITS, 2);
625             if (cbpc < 0){
626                 av_log(s->avctx, AV_LOG_ERROR, "cbpc damaged at %d %d\n", s->mb_x, s->mb_y);
627                 return -1;
628             }
629         }while(cbpc == 20);
630
631         s->bdsp.clear_blocks(s->block[0]);
632
633         dquant = cbpc & 8;
634         s->mb_intra = ((cbpc & 4) != 0);
635         if (s->mb_intra) goto intra;
636
637         if(s->pb_frame && get_bits1(&s->gb))
638             pb_mv_count = h263_get_modb(&s->gb, s->pb_frame, &cbpb);
639         cbpy = get_vlc2(&s->gb, ff_h263_cbpy_vlc.table, CBPY_VLC_BITS, 1);
640
641         if(s->alt_inter_vlc==0 || (cbpc & 3)!=3)
642             cbpy ^= 0xF;
643
644         cbp = (cbpc & 3) | (cbpy << 2);
645         if (dquant) {
646             h263_decode_dquant(s);
647         }
648
649         s->mv_dir = MV_DIR_FORWARD;
650         if ((cbpc & 16) == 0) {
651             s->current_picture.mb_type[xy] = MB_TYPE_16x16 | MB_TYPE_L0;
652             /* 16x16 motion prediction */
653             s->mv_type = MV_TYPE_16X16;
654             ff_h263_pred_motion(s, 0, 0, &pred_x, &pred_y);
655             if (s->umvplus)
656                mx = h263p_decode_umotion(s, pred_x);
657             else
658                mx = ff_h263_decode_motion(s, pred_x, 1);
659
660             if (mx >= 0xffff)
661                 return -1;
662
663             if (s->umvplus)
664                my = h263p_decode_umotion(s, pred_y);
665             else
666                my = ff_h263_decode_motion(s, pred_y, 1);
667
668             if (my >= 0xffff)
669                 return -1;
670             s->mv[0][0][0] = mx;
671             s->mv[0][0][1] = my;
672
673             if (s->umvplus && (mx - pred_x) == 1 && (my - pred_y) == 1)
674                skip_bits1(&s->gb); /* Bit stuffing to prevent PSC */
675         } else {
676             s->current_picture.mb_type[xy] = MB_TYPE_8x8 | MB_TYPE_L0;
677             s->mv_type = MV_TYPE_8X8;
678             for(i=0;i<4;i++) {
679                 mot_val = ff_h263_pred_motion(s, i, 0, &pred_x, &pred_y);
680                 if (s->umvplus)
681                   mx = h263p_decode_umotion(s, pred_x);
682                 else
683                   mx = ff_h263_decode_motion(s, pred_x, 1);
684                 if (mx >= 0xffff)
685                     return -1;
686
687                 if (s->umvplus)
688                   my = h263p_decode_umotion(s, pred_y);
689                 else
690                   my = ff_h263_decode_motion(s, pred_y, 1);
691                 if (my >= 0xffff)
692                     return -1;
693                 s->mv[0][i][0] = mx;
694                 s->mv[0][i][1] = my;
695                 if (s->umvplus && (mx - pred_x) == 1 && (my - pred_y) == 1)
696                   skip_bits1(&s->gb); /* Bit stuffing to prevent PSC */
697                 mot_val[0] = mx;
698                 mot_val[1] = my;
699             }
700         }
701     } else if(s->pict_type==AV_PICTURE_TYPE_B) {
702         int mb_type;
703         const int stride= s->b8_stride;
704         int16_t *mot_val0 = s->current_picture.motion_val[0][2 * (s->mb_x + s->mb_y * stride)];
705         int16_t *mot_val1 = s->current_picture.motion_val[1][2 * (s->mb_x + s->mb_y * stride)];
706 //        const int mv_xy= s->mb_x + 1 + s->mb_y * s->mb_stride;
707
708         //FIXME ugly
709         mot_val0[0       ]= mot_val0[2       ]= mot_val0[0+2*stride]= mot_val0[2+2*stride]=
710         mot_val0[1       ]= mot_val0[3       ]= mot_val0[1+2*stride]= mot_val0[3+2*stride]=
711         mot_val1[0       ]= mot_val1[2       ]= mot_val1[0+2*stride]= mot_val1[2+2*stride]=
712         mot_val1[1       ]= mot_val1[3       ]= mot_val1[1+2*stride]= mot_val1[3+2*stride]= 0;
713
714         do{
715             mb_type= get_vlc2(&s->gb, h263_mbtype_b_vlc.table, H263_MBTYPE_B_VLC_BITS, 2);
716             if (mb_type < 0){
717                 av_log(s->avctx, AV_LOG_ERROR, "b mb_type damaged at %d %d\n", s->mb_x, s->mb_y);
718                 return -1;
719             }
720
721             mb_type= h263_mb_type_b_map[ mb_type ];
722         }while(!mb_type);
723
724         s->mb_intra = IS_INTRA(mb_type);
725         if(HAS_CBP(mb_type)){
726             s->bdsp.clear_blocks(s->block[0]);
727             cbpc = get_vlc2(&s->gb, cbpc_b_vlc.table, CBPC_B_VLC_BITS, 1);
728             if(s->mb_intra){
729                 dquant = IS_QUANT(mb_type);
730                 goto intra;
731             }
732
733             cbpy = get_vlc2(&s->gb, ff_h263_cbpy_vlc.table, CBPY_VLC_BITS, 1);
734
735             if (cbpy < 0){
736                 av_log(s->avctx, AV_LOG_ERROR, "b cbpy damaged at %d %d\n", s->mb_x, s->mb_y);
737                 return -1;
738             }
739
740             if(s->alt_inter_vlc==0 || (cbpc & 3)!=3)
741                 cbpy ^= 0xF;
742
743             cbp = (cbpc & 3) | (cbpy << 2);
744         }else
745             cbp=0;
746
747         assert(!s->mb_intra);
748
749         if(IS_QUANT(mb_type)){
750             h263_decode_dquant(s);
751         }
752
753         if(IS_DIRECT(mb_type)){
754             if (!s->pp_time)
755                 return AVERROR_INVALIDDATA;
756             s->mv_dir = MV_DIR_FORWARD | MV_DIR_BACKWARD | MV_DIRECT;
757             mb_type |= ff_mpeg4_set_direct_mv(s, 0, 0);
758         }else{
759             s->mv_dir = 0;
760             s->mv_type= MV_TYPE_16X16;
761 //FIXME UMV
762
763             if(USES_LIST(mb_type, 0)){
764                 int16_t *mot_val= ff_h263_pred_motion(s, 0, 0, &mx, &my);
765                 s->mv_dir = MV_DIR_FORWARD;
766
767                 mx = ff_h263_decode_motion(s, mx, 1);
768                 my = ff_h263_decode_motion(s, my, 1);
769
770                 s->mv[0][0][0] = mx;
771                 s->mv[0][0][1] = my;
772                 mot_val[0       ]= mot_val[2       ]= mot_val[0+2*stride]= mot_val[2+2*stride]= mx;
773                 mot_val[1       ]= mot_val[3       ]= mot_val[1+2*stride]= mot_val[3+2*stride]= my;
774             }
775
776             if(USES_LIST(mb_type, 1)){
777                 int16_t *mot_val= ff_h263_pred_motion(s, 0, 1, &mx, &my);
778                 s->mv_dir |= MV_DIR_BACKWARD;
779
780                 mx = ff_h263_decode_motion(s, mx, 1);
781                 my = ff_h263_decode_motion(s, my, 1);
782
783                 s->mv[1][0][0] = mx;
784                 s->mv[1][0][1] = my;
785                 mot_val[0       ]= mot_val[2       ]= mot_val[0+2*stride]= mot_val[2+2*stride]= mx;
786                 mot_val[1       ]= mot_val[3       ]= mot_val[1+2*stride]= mot_val[3+2*stride]= my;
787             }
788         }
789
790         s->current_picture.mb_type[xy] = mb_type;
791     } else { /* I-Frame */
792         do{
793             cbpc = get_vlc2(&s->gb, ff_h263_intra_MCBPC_vlc.table, INTRA_MCBPC_VLC_BITS, 2);
794             if (cbpc < 0){
795                 av_log(s->avctx, AV_LOG_ERROR, "I cbpc damaged at %d %d\n", s->mb_x, s->mb_y);
796                 return -1;
797             }
798         }while(cbpc == 8);
799
800         s->bdsp.clear_blocks(s->block[0]);
801
802         dquant = cbpc & 4;
803         s->mb_intra = 1;
804 intra:
805         s->current_picture.mb_type[xy] = MB_TYPE_INTRA;
806         if (s->h263_aic) {
807             s->ac_pred = get_bits1(&s->gb);
808             if(s->ac_pred){
809                 s->current_picture.mb_type[xy] = MB_TYPE_INTRA | MB_TYPE_ACPRED;
810
811                 s->h263_aic_dir = get_bits1(&s->gb);
812             }
813         }else
814             s->ac_pred = 0;
815
816         if(s->pb_frame && get_bits1(&s->gb))
817             pb_mv_count = h263_get_modb(&s->gb, s->pb_frame, &cbpb);
818         cbpy = get_vlc2(&s->gb, ff_h263_cbpy_vlc.table, CBPY_VLC_BITS, 1);
819         if(cbpy<0){
820             av_log(s->avctx, AV_LOG_ERROR, "I cbpy damaged at %d %d\n", s->mb_x, s->mb_y);
821             return -1;
822         }
823         cbp = (cbpc & 3) | (cbpy << 2);
824         if (dquant) {
825             h263_decode_dquant(s);
826         }
827
828         pb_mv_count += !!s->pb_frame;
829     }
830
831     while(pb_mv_count--){
832         ff_h263_decode_motion(s, 0, 1);
833         ff_h263_decode_motion(s, 0, 1);
834     }
835
836     /* decode each block */
837     for (i = 0; i < 6; i++) {
838         if (h263_decode_block(s, block[i], i, cbp&32) < 0)
839             return -1;
840         cbp+=cbp;
841     }
842
843     if(s->pb_frame && h263_skip_b_part(s, cbpb) < 0)
844         return -1;
845     if(s->obmc && !s->mb_intra){
846         if(s->pict_type == AV_PICTURE_TYPE_P && s->mb_x+1<s->mb_width && s->mb_num_left != 1)
847             preview_obmc(s);
848     }
849 end:
850
851         /* per-MB end of slice check */
852     {
853         int v= show_bits(&s->gb, 16);
854
855         if (get_bits_left(&s->gb) < 16) {
856             v >>= 16 - get_bits_left(&s->gb);
857         }
858
859         if(v==0)
860             return SLICE_END;
861     }
862
863     return SLICE_OK;
864 }
865
866 /* most is hardcoded. should extend to handle all h263 streams */
867 int ff_h263_decode_picture_header(MpegEncContext *s)
868 {
869     int format, width, height, i;
870     uint32_t startcode;
871
872     align_get_bits(&s->gb);
873
874     startcode= get_bits(&s->gb, 22-8);
875
876     for(i= get_bits_left(&s->gb); i>24; i-=8) {
877         startcode = ((startcode << 8) | get_bits(&s->gb, 8)) & 0x003FFFFF;
878
879         if(startcode == 0x20)
880             break;
881     }
882
883     if (startcode != 0x20) {
884         av_log(s->avctx, AV_LOG_ERROR, "Bad picture start code\n");
885         return -1;
886     }
887     /* temporal reference */
888     i = get_bits(&s->gb, 8); /* picture timestamp */
889     if( (s->picture_number&~0xFF)+i < s->picture_number)
890         i+= 256;
891     s->picture_number= (s->picture_number&~0xFF) + i;
892
893     /* PTYPE starts here */
894     if (get_bits1(&s->gb) != 1) {
895         /* marker */
896         av_log(s->avctx, AV_LOG_ERROR, "Bad marker\n");
897         return -1;
898     }
899     if (get_bits1(&s->gb) != 0) {
900         av_log(s->avctx, AV_LOG_ERROR, "Bad H263 id\n");
901         return -1;      /* h263 id */
902     }
903     skip_bits1(&s->gb);         /* split screen off */
904     skip_bits1(&s->gb);         /* camera  off */
905     skip_bits1(&s->gb);         /* freeze picture release off */
906
907     format = get_bits(&s->gb, 3);
908     /*
909         0    forbidden
910         1    sub-QCIF
911         10   QCIF
912         7       extended PTYPE (PLUSPTYPE)
913     */
914
915     if (format != 7 && format != 6) {
916         s->h263_plus = 0;
917         /* H.263v1 */
918         width = ff_h263_format[format][0];
919         height = ff_h263_format[format][1];
920         if (!width)
921             return -1;
922
923         s->pict_type = AV_PICTURE_TYPE_I + get_bits1(&s->gb);
924
925         s->h263_long_vectors = get_bits1(&s->gb);
926
927         if (get_bits1(&s->gb) != 0) {
928             av_log(s->avctx, AV_LOG_ERROR, "H263 SAC not supported\n");
929             return -1; /* SAC: off */
930         }
931         s->obmc= get_bits1(&s->gb); /* Advanced prediction mode */
932         s->unrestricted_mv = s->h263_long_vectors || s->obmc;
933
934         s->pb_frame = get_bits1(&s->gb);
935         s->chroma_qscale= s->qscale = get_bits(&s->gb, 5);
936         skip_bits1(&s->gb); /* Continuous Presence Multipoint mode: off */
937
938         s->width = width;
939         s->height = height;
940         s->avctx->sample_aspect_ratio= (AVRational){12,11};
941         s->avctx->time_base= (AVRational){1001, 30000};
942     } else {
943         int ufep;
944
945         /* H.263v2 */
946         s->h263_plus = 1;
947         ufep = get_bits(&s->gb, 3); /* Update Full Extended PTYPE */
948
949         /* ufep other than 0 and 1 are reserved */
950         if (ufep == 1) {
951             /* OPPTYPE */
952             format = get_bits(&s->gb, 3);
953             av_dlog(s->avctx, "ufep=1, format: %d\n", format);
954             s->custom_pcf= get_bits1(&s->gb);
955             s->umvplus = get_bits1(&s->gb); /* Unrestricted Motion Vector */
956             if (get_bits1(&s->gb) != 0) {
957                 av_log(s->avctx, AV_LOG_ERROR, "Syntax-based Arithmetic Coding (SAC) not supported\n");
958             }
959             s->obmc= get_bits1(&s->gb); /* Advanced prediction mode */
960             s->h263_aic = get_bits1(&s->gb); /* Advanced Intra Coding (AIC) */
961             s->loop_filter= get_bits1(&s->gb);
962             s->unrestricted_mv = s->umvplus || s->obmc || s->loop_filter;
963
964             s->h263_slice_structured= get_bits1(&s->gb);
965             if (get_bits1(&s->gb) != 0) {
966                 av_log(s->avctx, AV_LOG_ERROR, "Reference Picture Selection not supported\n");
967             }
968             if (get_bits1(&s->gb) != 0) {
969                 av_log(s->avctx, AV_LOG_ERROR, "Independent Segment Decoding not supported\n");
970             }
971             s->alt_inter_vlc= get_bits1(&s->gb);
972             s->modified_quant= get_bits1(&s->gb);
973             if(s->modified_quant)
974                 s->chroma_qscale_table= ff_h263_chroma_qscale_table;
975
976             skip_bits(&s->gb, 1); /* Prevent start code emulation */
977
978             skip_bits(&s->gb, 3); /* Reserved */
979         } else if (ufep != 0) {
980             av_log(s->avctx, AV_LOG_ERROR, "Bad UFEP type (%d)\n", ufep);
981             return -1;
982         }
983
984         /* MPPTYPE */
985         s->pict_type = get_bits(&s->gb, 3);
986         switch(s->pict_type){
987         case 0: s->pict_type= AV_PICTURE_TYPE_I;break;
988         case 1: s->pict_type= AV_PICTURE_TYPE_P;break;
989         case 2: s->pict_type= AV_PICTURE_TYPE_P;s->pb_frame = 3;break;
990         case 3: s->pict_type= AV_PICTURE_TYPE_B;break;
991         case 7: s->pict_type= AV_PICTURE_TYPE_I;break; //ZYGO
992         default:
993             return -1;
994         }
995         skip_bits(&s->gb, 2);
996         s->no_rounding = get_bits1(&s->gb);
997         skip_bits(&s->gb, 4);
998
999         /* Get the picture dimensions */
1000         if (ufep) {
1001             if (format == 6) {
1002                 /* Custom Picture Format (CPFMT) */
1003                 s->aspect_ratio_info = get_bits(&s->gb, 4);
1004                 av_dlog(s->avctx, "aspect: %d\n", s->aspect_ratio_info);
1005                 /* aspect ratios:
1006                 0 - forbidden
1007                 1 - 1:1
1008                 2 - 12:11 (CIF 4:3)
1009                 3 - 10:11 (525-type 4:3)
1010                 4 - 16:11 (CIF 16:9)
1011                 5 - 40:33 (525-type 16:9)
1012                 6-14 - reserved
1013                 */
1014                 width = (get_bits(&s->gb, 9) + 1) * 4;
1015                 skip_bits1(&s->gb);
1016                 height = get_bits(&s->gb, 9) * 4;
1017                 av_dlog(s->avctx, "\nH.263+ Custom picture: %dx%d\n",width,height);
1018                 if (s->aspect_ratio_info == FF_ASPECT_EXTENDED) {
1019                     /* aspected dimensions */
1020                     s->avctx->sample_aspect_ratio.num= get_bits(&s->gb, 8);
1021                     s->avctx->sample_aspect_ratio.den= get_bits(&s->gb, 8);
1022                 }else{
1023                     s->avctx->sample_aspect_ratio= ff_h263_pixel_aspect[s->aspect_ratio_info];
1024                 }
1025             } else {
1026                 width = ff_h263_format[format][0];
1027                 height = ff_h263_format[format][1];
1028                 s->avctx->sample_aspect_ratio= (AVRational){12,11};
1029             }
1030             if ((width == 0) || (height == 0))
1031                 return -1;
1032             s->width = width;
1033             s->height = height;
1034
1035             if(s->custom_pcf){
1036                 int gcd;
1037                 s->avctx->time_base.den= 1800000;
1038                 s->avctx->time_base.num= 1000 + get_bits1(&s->gb);
1039                 s->avctx->time_base.num*= get_bits(&s->gb, 7);
1040                 if(s->avctx->time_base.num == 0){
1041                     av_log(s, AV_LOG_ERROR, "zero framerate\n");
1042                     return -1;
1043                 }
1044                 gcd= av_gcd(s->avctx->time_base.den, s->avctx->time_base.num);
1045                 s->avctx->time_base.den /= gcd;
1046                 s->avctx->time_base.num /= gcd;
1047             }else{
1048                 s->avctx->time_base= (AVRational){1001, 30000};
1049             }
1050         }
1051
1052         if(s->custom_pcf){
1053             skip_bits(&s->gb, 2); //extended Temporal reference
1054         }
1055
1056         if (ufep) {
1057             if (s->umvplus) {
1058                 if(get_bits1(&s->gb)==0) /* Unlimited Unrestricted Motion Vectors Indicator (UUI) */
1059                     skip_bits1(&s->gb);
1060             }
1061             if(s->h263_slice_structured){
1062                 if (get_bits1(&s->gb) != 0) {
1063                     av_log(s->avctx, AV_LOG_ERROR, "rectangular slices not supported\n");
1064                 }
1065                 if (get_bits1(&s->gb) != 0) {
1066                     av_log(s->avctx, AV_LOG_ERROR, "unordered slices not supported\n");
1067                 }
1068             }
1069         }
1070
1071         s->qscale = get_bits(&s->gb, 5);
1072     }
1073
1074     s->mb_width = (s->width  + 15) / 16;
1075     s->mb_height = (s->height  + 15) / 16;
1076     s->mb_num = s->mb_width * s->mb_height;
1077
1078     if (s->pb_frame) {
1079         skip_bits(&s->gb, 3); /* Temporal reference for B-pictures */
1080         if (s->custom_pcf)
1081             skip_bits(&s->gb, 2); //extended Temporal reference
1082         skip_bits(&s->gb, 2); /* Quantization information for B-pictures */
1083     }
1084
1085     if (s->pict_type!=AV_PICTURE_TYPE_B) {
1086         s->time            = s->picture_number;
1087         s->pp_time         = s->time - s->last_non_b_time;
1088         s->last_non_b_time = s->time;
1089     }else{
1090         s->time    = s->picture_number;
1091         s->pb_time = s->pp_time - (s->last_non_b_time - s->time);
1092         if (s->pp_time <=s->pb_time ||
1093             s->pp_time <= s->pp_time - s->pb_time ||
1094             s->pp_time <= 0){
1095             s->pp_time = 2;
1096             s->pb_time = 1;
1097         }
1098         ff_mpeg4_init_direct_mv(s);
1099     }
1100
1101     /* PEI */
1102     while (get_bits1(&s->gb) != 0) {
1103         skip_bits(&s->gb, 8);
1104     }
1105
1106     if(s->h263_slice_structured){
1107         if (get_bits1(&s->gb) != 1) {
1108             av_log(s->avctx, AV_LOG_ERROR, "SEPB1 marker missing\n");
1109             return -1;
1110         }
1111
1112         ff_h263_decode_mba(s);
1113
1114         if (get_bits1(&s->gb) != 1) {
1115             av_log(s->avctx, AV_LOG_ERROR, "SEPB2 marker missing\n");
1116             return -1;
1117         }
1118     }
1119     s->f_code = 1;
1120
1121     if(s->h263_aic){
1122          s->y_dc_scale_table=
1123          s->c_dc_scale_table= ff_aic_dc_scale_table;
1124     }else{
1125         s->y_dc_scale_table=
1126         s->c_dc_scale_table= ff_mpeg1_dc_scale_table;
1127     }
1128
1129         ff_h263_show_pict_info(s);
1130     if (s->pict_type == AV_PICTURE_TYPE_I && s->codec_tag == AV_RL32("ZYGO")){
1131         int i,j;
1132         for(i=0; i<85; i++) av_log(s->avctx, AV_LOG_DEBUG, "%d", get_bits1(&s->gb));
1133         av_log(s->avctx, AV_LOG_DEBUG, "\n");
1134         for(i=0; i<13; i++){
1135             for(j=0; j<3; j++){
1136                 int v= get_bits(&s->gb, 8);
1137                 v |= get_sbits(&s->gb, 8)<<8;
1138                 av_log(s->avctx, AV_LOG_DEBUG, " %5d", v);
1139             }
1140             av_log(s->avctx, AV_LOG_DEBUG, "\n");
1141         }
1142         for(i=0; i<50; i++) av_log(s->avctx, AV_LOG_DEBUG, "%d", get_bits1(&s->gb));
1143     }
1144
1145     return 0;
1146 }