Do not include mathematics.h in avutil.h
[ffmpeg.git] / libavcodec / ituh263dec.c
1 /*
2  * ITU H263 bitstream decoder
3  * Copyright (c) 2000,2001 Fabrice Bellard
4  * H263+ support.
5  * Copyright (c) 2001 Juan J. Sierralta P
6  * Copyright (c) 2002-2004 Michael Niedermayer <michaelni@gmx.at>
7  *
8  * This file is part of Libav.
9  *
10  * Libav is free software; you can redistribute it and/or
11  * modify it under the terms of the GNU Lesser General Public
12  * License as published by the Free Software Foundation; either
13  * version 2.1 of the License, or (at your option) any later version.
14  *
15  * Libav is distributed in the hope that it will be useful,
16  * but WITHOUT ANY WARRANTY; without even the implied warranty of
17  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
18  * Lesser General Public License for more details.
19  *
20  * You should have received a copy of the GNU Lesser General Public
21  * License along with Libav; if not, write to the Free Software
22  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
23  */
24
25 /**
26  * @file
27  * h263 decoder.
28  */
29
30 //#define DEBUG
31 #include <limits.h>
32
33 #include "libavutil/mathematics.h"
34 #include "dsputil.h"
35 #include "avcodec.h"
36 #include "mpegvideo.h"
37 #include "h263.h"
38 #include "mathops.h"
39 #include "unary.h"
40 #include "flv.h"
41 #include "mpeg4video.h"
42
43 //#undef NDEBUG
44 //#include <assert.h>
45
46 // The defines below define the number of bits that are read at once for
47 // reading vlc values. Changing these may improve speed and data cache needs
48 // be aware though that decreasing them may need the number of stages that is
49 // passed to get_vlc* to be increased.
50 #define MV_VLC_BITS 9
51 #define H263_MBTYPE_B_VLC_BITS 6
52 #define CBPC_B_VLC_BITS 3
53
54 static const int h263_mb_type_b_map[15]= {
55     MB_TYPE_DIRECT2 | MB_TYPE_L0L1,
56     MB_TYPE_DIRECT2 | MB_TYPE_L0L1 | MB_TYPE_CBP,
57     MB_TYPE_DIRECT2 | MB_TYPE_L0L1 | MB_TYPE_CBP | MB_TYPE_QUANT,
58                       MB_TYPE_L0                                 | MB_TYPE_16x16,
59                       MB_TYPE_L0   | MB_TYPE_CBP                 | MB_TYPE_16x16,
60                       MB_TYPE_L0   | MB_TYPE_CBP | MB_TYPE_QUANT | MB_TYPE_16x16,
61                       MB_TYPE_L1                                 | MB_TYPE_16x16,
62                       MB_TYPE_L1   | MB_TYPE_CBP                 | MB_TYPE_16x16,
63                       MB_TYPE_L1   | MB_TYPE_CBP | MB_TYPE_QUANT | MB_TYPE_16x16,
64                       MB_TYPE_L0L1                               | MB_TYPE_16x16,
65                       MB_TYPE_L0L1 | MB_TYPE_CBP                 | MB_TYPE_16x16,
66                       MB_TYPE_L0L1 | MB_TYPE_CBP | MB_TYPE_QUANT | MB_TYPE_16x16,
67     0, //stuffing
68     MB_TYPE_INTRA4x4                | MB_TYPE_CBP,
69     MB_TYPE_INTRA4x4                | MB_TYPE_CBP | MB_TYPE_QUANT,
70 };
71
72 void ff_h263_show_pict_info(MpegEncContext *s){
73     if(s->avctx->debug&FF_DEBUG_PICT_INFO){
74     av_log(s->avctx, AV_LOG_DEBUG, "qp:%d %c size:%d rnd:%d%s%s%s%s%s%s%s%s%s %d/%d\n",
75          s->qscale, av_get_picture_type_char(s->pict_type),
76          s->gb.size_in_bits, 1-s->no_rounding,
77          s->obmc ? " AP" : "",
78          s->umvplus ? " UMV" : "",
79          s->h263_long_vectors ? " LONG" : "",
80          s->h263_plus ? " +" : "",
81          s->h263_aic ? " AIC" : "",
82          s->alt_inter_vlc ? " AIV" : "",
83          s->modified_quant ? " MQ" : "",
84          s->loop_filter ? " LOOP" : "",
85          s->h263_slice_structured ? " SS" : "",
86          s->avctx->time_base.den, s->avctx->time_base.num
87     );
88     }
89 }
90
91 /***********************************************/
92 /* decoding */
93
94 VLC ff_h263_intra_MCBPC_vlc;
95 VLC ff_h263_inter_MCBPC_vlc;
96 VLC ff_h263_cbpy_vlc;
97 static VLC mv_vlc;
98 static VLC h263_mbtype_b_vlc;
99 static VLC cbpc_b_vlc;
100
101 /* init vlcs */
102
103 /* XXX: find a better solution to handle static init */
104 void h263_decode_init_vlc(MpegEncContext *s)
105 {
106     static int done = 0;
107
108     if (!done) {
109         done = 1;
110
111         INIT_VLC_STATIC(&ff_h263_intra_MCBPC_vlc, INTRA_MCBPC_VLC_BITS, 9,
112                  ff_h263_intra_MCBPC_bits, 1, 1,
113                  ff_h263_intra_MCBPC_code, 1, 1, 72);
114         INIT_VLC_STATIC(&ff_h263_inter_MCBPC_vlc, INTER_MCBPC_VLC_BITS, 28,
115                  ff_h263_inter_MCBPC_bits, 1, 1,
116                  ff_h263_inter_MCBPC_code, 1, 1, 198);
117         INIT_VLC_STATIC(&ff_h263_cbpy_vlc, CBPY_VLC_BITS, 16,
118                  &ff_h263_cbpy_tab[0][1], 2, 1,
119                  &ff_h263_cbpy_tab[0][0], 2, 1, 64);
120         INIT_VLC_STATIC(&mv_vlc, MV_VLC_BITS, 33,
121                  &mvtab[0][1], 2, 1,
122                  &mvtab[0][0], 2, 1, 538);
123         init_rl(&ff_h263_rl_inter, ff_h263_static_rl_table_store[0]);
124         init_rl(&rl_intra_aic, ff_h263_static_rl_table_store[1]);
125         INIT_VLC_RL(ff_h263_rl_inter, 554);
126         INIT_VLC_RL(rl_intra_aic, 554);
127         INIT_VLC_STATIC(&h263_mbtype_b_vlc, H263_MBTYPE_B_VLC_BITS, 15,
128                  &h263_mbtype_b_tab[0][1], 2, 1,
129                  &h263_mbtype_b_tab[0][0], 2, 1, 80);
130         INIT_VLC_STATIC(&cbpc_b_vlc, CBPC_B_VLC_BITS, 4,
131                  &cbpc_b_tab[0][1], 2, 1,
132                  &cbpc_b_tab[0][0], 2, 1, 8);
133     }
134 }
135
136 int ff_h263_decode_mba(MpegEncContext *s)
137 {
138     int i, mb_pos;
139
140     for(i=0; i<6; i++){
141         if(s->mb_num-1 <= ff_mba_max[i]) break;
142     }
143     mb_pos= get_bits(&s->gb, ff_mba_length[i]);
144     s->mb_x= mb_pos % s->mb_width;
145     s->mb_y= mb_pos / s->mb_width;
146
147     return mb_pos;
148 }
149
150 /**
151  * decodes the group of blocks header or slice header.
152  * @return <0 if an error occurred
153  */
154 static int h263_decode_gob_header(MpegEncContext *s)
155 {
156     unsigned int val, gob_number;
157     int left;
158
159     /* Check for GOB Start Code */
160     val = show_bits(&s->gb, 16);
161     if(val)
162         return -1;
163
164         /* We have a GBSC probably with GSTUFF */
165     skip_bits(&s->gb, 16); /* Drop the zeros */
166     left= get_bits_left(&s->gb);
167     //MN: we must check the bits left or we might end in a infinite loop (or segfault)
168     for(;left>13; left--){
169         if(get_bits1(&s->gb)) break; /* Seek the '1' bit */
170     }
171     if(left<=13)
172         return -1;
173
174     if(s->h263_slice_structured){
175         if(get_bits1(&s->gb)==0)
176             return -1;
177
178         ff_h263_decode_mba(s);
179
180         if(s->mb_num > 1583)
181             if(get_bits1(&s->gb)==0)
182                 return -1;
183
184         s->qscale = get_bits(&s->gb, 5); /* SQUANT */
185         if(get_bits1(&s->gb)==0)
186             return -1;
187         skip_bits(&s->gb, 2); /* GFID */
188     }else{
189         gob_number = get_bits(&s->gb, 5); /* GN */
190         s->mb_x= 0;
191         s->mb_y= s->gob_index* gob_number;
192         skip_bits(&s->gb, 2); /* GFID */
193         s->qscale = get_bits(&s->gb, 5); /* GQUANT */
194     }
195
196     if(s->mb_y >= s->mb_height)
197         return -1;
198
199     if(s->qscale==0)
200         return -1;
201
202     return 0;
203 }
204
205 /**
206  * finds the next resync_marker
207  * @param p pointer to buffer to scan
208  * @param end pointer to the end of the buffer
209  * @return pointer to the next resync_marker, or end if none was found
210  */
211 const uint8_t *ff_h263_find_resync_marker(const uint8_t *restrict p, const uint8_t * restrict end)
212 {
213     assert(p < end);
214
215     end-=2;
216     p++;
217     for(;p<end; p+=2){
218         if(!*p){
219             if     (!p[-1] && p[1]) return p - 1;
220             else if(!p[ 1] && p[2]) return p;
221         }
222     }
223     return end+2;
224 }
225
226 /**
227  * decodes the group of blocks / video packet header.
228  * @return bit position of the resync_marker, or <0 if none was found
229  */
230 int ff_h263_resync(MpegEncContext *s){
231     int left, pos, ret;
232
233     if(s->codec_id==CODEC_ID_MPEG4){
234         skip_bits1(&s->gb);
235         align_get_bits(&s->gb);
236     }
237
238     if(show_bits(&s->gb, 16)==0){
239         pos= get_bits_count(&s->gb);
240         if(CONFIG_MPEG4_DECODER && s->codec_id==CODEC_ID_MPEG4)
241             ret= mpeg4_decode_video_packet_header(s);
242         else
243             ret= h263_decode_gob_header(s);
244         if(ret>=0)
245             return pos;
246     }
247     //OK, it's not where it is supposed to be ...
248     s->gb= s->last_resync_gb;
249     align_get_bits(&s->gb);
250     left= get_bits_left(&s->gb);
251
252     for(;left>16+1+5+5; left-=8){
253         if(show_bits(&s->gb, 16)==0){
254             GetBitContext bak= s->gb;
255
256             pos= get_bits_count(&s->gb);
257             if(CONFIG_MPEG4_DECODER && s->codec_id==CODEC_ID_MPEG4)
258                 ret= mpeg4_decode_video_packet_header(s);
259             else
260                 ret= h263_decode_gob_header(s);
261             if(ret>=0)
262                 return pos;
263
264             s->gb= bak;
265         }
266         skip_bits(&s->gb, 8);
267     }
268
269     return -1;
270 }
271
272 int h263_decode_motion(MpegEncContext * s, int pred, int f_code)
273 {
274     int code, val, sign, shift, l;
275     code = get_vlc2(&s->gb, mv_vlc.table, MV_VLC_BITS, 2);
276
277     if (code == 0)
278         return pred;
279     if (code < 0)
280         return 0xffff;
281
282     sign = get_bits1(&s->gb);
283     shift = f_code - 1;
284     val = code;
285     if (shift) {
286         val = (val - 1) << shift;
287         val |= get_bits(&s->gb, shift);
288         val++;
289     }
290     if (sign)
291         val = -val;
292     val += pred;
293
294     /* modulo decoding */
295     if (!s->h263_long_vectors) {
296         l = INT_BIT - 5 - f_code;
297         val = (val<<l)>>l;
298     } else {
299         /* horrible h263 long vector mode */
300         if (pred < -31 && val < -63)
301             val += 64;
302         if (pred > 32 && val > 63)
303             val -= 64;
304
305     }
306     return val;
307 }
308
309
310 /* Decodes RVLC of H.263+ UMV */
311 static int h263p_decode_umotion(MpegEncContext * s, int pred)
312 {
313    int code = 0, sign;
314
315    if (get_bits1(&s->gb)) /* Motion difference = 0 */
316       return pred;
317
318    code = 2 + get_bits1(&s->gb);
319
320    while (get_bits1(&s->gb))
321    {
322       code <<= 1;
323       code += get_bits1(&s->gb);
324    }
325    sign = code & 1;
326    code >>= 1;
327
328    code = (sign) ? (pred - code) : (pred + code);
329    av_dlog(s->avctx,"H.263+ UMV Motion = %d\n", code);
330    return code;
331
332 }
333
334 /**
335  * read the next MVs for OBMC. yes this is a ugly hack, feel free to send a patch :)
336  */
337 static void preview_obmc(MpegEncContext *s){
338     GetBitContext gb= s->gb;
339
340     int cbpc, i, pred_x, pred_y, mx, my;
341     int16_t *mot_val;
342     const int xy= s->mb_x + 1 + s->mb_y * s->mb_stride;
343     const int stride= s->b8_stride*2;
344
345     for(i=0; i<4; i++)
346         s->block_index[i]+= 2;
347     for(i=4; i<6; i++)
348         s->block_index[i]+= 1;
349     s->mb_x++;
350
351     assert(s->pict_type == AV_PICTURE_TYPE_P);
352
353     do{
354         if (get_bits1(&s->gb)) {
355             /* skip mb */
356             mot_val = s->current_picture.motion_val[0][ s->block_index[0] ];
357             mot_val[0       ]= mot_val[2       ]=
358             mot_val[0+stride]= mot_val[2+stride]= 0;
359             mot_val[1       ]= mot_val[3       ]=
360             mot_val[1+stride]= mot_val[3+stride]= 0;
361
362             s->current_picture.mb_type[xy]= MB_TYPE_SKIP | MB_TYPE_16x16 | MB_TYPE_L0;
363             goto end;
364         }
365         cbpc = get_vlc2(&s->gb, ff_h263_inter_MCBPC_vlc.table, INTER_MCBPC_VLC_BITS, 2);
366     }while(cbpc == 20);
367
368     if(cbpc & 4){
369         s->current_picture.mb_type[xy]= MB_TYPE_INTRA;
370     }else{
371         get_vlc2(&s->gb, ff_h263_cbpy_vlc.table, CBPY_VLC_BITS, 1);
372         if (cbpc & 8) {
373             if(s->modified_quant){
374                 if(get_bits1(&s->gb)) skip_bits(&s->gb, 1);
375                 else                  skip_bits(&s->gb, 5);
376             }else
377                 skip_bits(&s->gb, 2);
378         }
379
380         if ((cbpc & 16) == 0) {
381                 s->current_picture.mb_type[xy]= MB_TYPE_16x16 | MB_TYPE_L0;
382                 /* 16x16 motion prediction */
383                 mot_val= h263_pred_motion(s, 0, 0, &pred_x, &pred_y);
384                 if (s->umvplus)
385                    mx = h263p_decode_umotion(s, pred_x);
386                 else
387                    mx = h263_decode_motion(s, pred_x, 1);
388
389                 if (s->umvplus)
390                    my = h263p_decode_umotion(s, pred_y);
391                 else
392                    my = h263_decode_motion(s, pred_y, 1);
393
394                 mot_val[0       ]= mot_val[2       ]=
395                 mot_val[0+stride]= mot_val[2+stride]= mx;
396                 mot_val[1       ]= mot_val[3       ]=
397                 mot_val[1+stride]= mot_val[3+stride]= my;
398         } else {
399             s->current_picture.mb_type[xy]= MB_TYPE_8x8 | MB_TYPE_L0;
400             for(i=0;i<4;i++) {
401                 mot_val = h263_pred_motion(s, i, 0, &pred_x, &pred_y);
402                 if (s->umvplus)
403                   mx = h263p_decode_umotion(s, pred_x);
404                 else
405                   mx = h263_decode_motion(s, pred_x, 1);
406
407                 if (s->umvplus)
408                   my = h263p_decode_umotion(s, pred_y);
409                 else
410                   my = h263_decode_motion(s, pred_y, 1);
411                 if (s->umvplus && (mx - pred_x) == 1 && (my - pred_y) == 1)
412                   skip_bits1(&s->gb); /* Bit stuffing to prevent PSC */
413                 mot_val[0] = mx;
414                 mot_val[1] = my;
415             }
416         }
417     }
418 end:
419
420     for(i=0; i<4; i++)
421         s->block_index[i]-= 2;
422     for(i=4; i<6; i++)
423         s->block_index[i]-= 1;
424     s->mb_x--;
425
426     s->gb= gb;
427 }
428
429 static void h263_decode_dquant(MpegEncContext *s){
430     static const int8_t quant_tab[4] = { -1, -2, 1, 2 };
431
432     if(s->modified_quant){
433         if(get_bits1(&s->gb))
434             s->qscale= modified_quant_tab[get_bits1(&s->gb)][ s->qscale ];
435         else
436             s->qscale= get_bits(&s->gb, 5);
437     }else
438         s->qscale += quant_tab[get_bits(&s->gb, 2)];
439     ff_set_qscale(s, s->qscale);
440 }
441
442 static int h263_decode_block(MpegEncContext * s, DCTELEM * block,
443                              int n, int coded)
444 {
445     int code, level, i, j, last, run;
446     RLTable *rl = &ff_h263_rl_inter;
447     const uint8_t *scan_table;
448     GetBitContext gb= s->gb;
449
450     scan_table = s->intra_scantable.permutated;
451     if (s->h263_aic && s->mb_intra) {
452         rl = &rl_intra_aic;
453         i = 0;
454         if (s->ac_pred) {
455             if (s->h263_aic_dir)
456                 scan_table = s->intra_v_scantable.permutated; /* left */
457             else
458                 scan_table = s->intra_h_scantable.permutated; /* top */
459         }
460     } else if (s->mb_intra) {
461         /* DC coef */
462         if(s->codec_id == CODEC_ID_RV10){
463 #if CONFIG_RV10_DECODER
464           if (s->rv10_version == 3 && s->pict_type == AV_PICTURE_TYPE_I) {
465             int component, diff;
466             component = (n <= 3 ? 0 : n - 4 + 1);
467             level = s->last_dc[component];
468             if (s->rv10_first_dc_coded[component]) {
469                 diff = rv_decode_dc(s, n);
470                 if (diff == 0xffff)
471                     return -1;
472                 level += diff;
473                 level = level & 0xff; /* handle wrap round */
474                 s->last_dc[component] = level;
475             } else {
476                 s->rv10_first_dc_coded[component] = 1;
477             }
478           } else {
479                 level = get_bits(&s->gb, 8);
480                 if (level == 255)
481                     level = 128;
482           }
483 #endif
484         }else{
485             level = get_bits(&s->gb, 8);
486             if((level&0x7F) == 0){
487                 av_log(s->avctx, AV_LOG_ERROR, "illegal dc %d at %d %d\n", level, s->mb_x, s->mb_y);
488                 if(s->error_recognition >= FF_ER_COMPLIANT)
489                     return -1;
490             }
491             if (level == 255)
492                 level = 128;
493         }
494         block[0] = level;
495         i = 1;
496     } else {
497         i = 0;
498     }
499     if (!coded) {
500         if (s->mb_intra && s->h263_aic)
501             goto not_coded;
502         s->block_last_index[n] = i - 1;
503         return 0;
504     }
505 retry:
506     for(;;) {
507         code = get_vlc2(&s->gb, rl->vlc.table, TEX_VLC_BITS, 2);
508         if (code < 0){
509             av_log(s->avctx, AV_LOG_ERROR, "illegal ac vlc code at %dx%d\n", s->mb_x, s->mb_y);
510             return -1;
511         }
512         if (code == rl->n) {
513             /* escape */
514             if (CONFIG_FLV_DECODER && s->h263_flv > 1) {
515                 ff_flv2_decode_ac_esc(&s->gb, &level, &run, &last);
516             } else {
517                 last = get_bits1(&s->gb);
518                 run = get_bits(&s->gb, 6);
519                 level = (int8_t)get_bits(&s->gb, 8);
520                 if(level == -128){
521                     if (s->codec_id == CODEC_ID_RV10) {
522                         /* XXX: should patch encoder too */
523                         level = get_sbits(&s->gb, 12);
524                     }else{
525                         level = get_bits(&s->gb, 5);
526                         level |= get_sbits(&s->gb, 6)<<5;
527                     }
528                 }
529             }
530         } else {
531             run = rl->table_run[code];
532             level = rl->table_level[code];
533             last = code >= rl->last;
534             if (get_bits1(&s->gb))
535                 level = -level;
536         }
537         i += run;
538         if (i >= 64){
539             if(s->alt_inter_vlc && rl == &ff_h263_rl_inter && !s->mb_intra){
540                 //Looks like a hack but no, it's the way it is supposed to work ...
541                 rl = &rl_intra_aic;
542                 i = 0;
543                 s->gb= gb;
544                 s->dsp.clear_block(block);
545                 goto retry;
546             }
547             av_log(s->avctx, AV_LOG_ERROR, "run overflow at %dx%d i:%d\n", s->mb_x, s->mb_y, s->mb_intra);
548             return -1;
549         }
550         j = scan_table[i];
551         block[j] = level;
552         if (last)
553             break;
554         i++;
555     }
556 not_coded:
557     if (s->mb_intra && s->h263_aic) {
558         h263_pred_acdc(s, block, n);
559         i = 63;
560     }
561     s->block_last_index[n] = i;
562     return 0;
563 }
564
565 static int h263_skip_b_part(MpegEncContext *s, int cbp)
566 {
567     LOCAL_ALIGNED_16(DCTELEM, dblock, [64]);
568     int i, mbi;
569
570     /* we have to set s->mb_intra to zero to decode B-part of PB-frame correctly
571      * but real value should be restored in order to be used later (in OBMC condition)
572      */
573     mbi = s->mb_intra;
574     s->mb_intra = 0;
575     for (i = 0; i < 6; i++) {
576         if (h263_decode_block(s, dblock, i, cbp&32) < 0)
577             return -1;
578         cbp+=cbp;
579     }
580     s->mb_intra = mbi;
581     return 0;
582 }
583
584 static int h263_get_modb(GetBitContext *gb, int pb_frame, int *cbpb)
585 {
586     int c, mv = 1;
587
588     if (pb_frame < 3) { // h.263 Annex G and i263 PB-frame
589         c = get_bits1(gb);
590         if (pb_frame == 2 && c)
591             mv = !get_bits1(gb);
592     } else { // h.263 Annex M improved PB-frame
593         mv = get_unary(gb, 0, 4) + 1;
594         c = mv & 1;
595         mv = !!(mv & 2);
596     }
597     if(c)
598         *cbpb = get_bits(gb, 6);
599     return mv;
600 }
601
602 int ff_h263_decode_mb(MpegEncContext *s,
603                       DCTELEM block[6][64])
604 {
605     int cbpc, cbpy, i, cbp, pred_x, pred_y, mx, my, dquant;
606     int16_t *mot_val;
607     const int xy= s->mb_x + s->mb_y * s->mb_stride;
608     int cbpb = 0, pb_mv_count = 0;
609
610     assert(!s->h263_pred);
611
612     if (s->pict_type == AV_PICTURE_TYPE_P) {
613         do{
614             if (get_bits1(&s->gb)) {
615                 /* skip mb */
616                 s->mb_intra = 0;
617                 for(i=0;i<6;i++)
618                     s->block_last_index[i] = -1;
619                 s->mv_dir = MV_DIR_FORWARD;
620                 s->mv_type = MV_TYPE_16X16;
621                 s->current_picture.mb_type[xy]= MB_TYPE_SKIP | MB_TYPE_16x16 | MB_TYPE_L0;
622                 s->mv[0][0][0] = 0;
623                 s->mv[0][0][1] = 0;
624                 s->mb_skipped = !(s->obmc | s->loop_filter);
625                 goto end;
626             }
627             cbpc = get_vlc2(&s->gb, ff_h263_inter_MCBPC_vlc.table, INTER_MCBPC_VLC_BITS, 2);
628             if (cbpc < 0){
629                 av_log(s->avctx, AV_LOG_ERROR, "cbpc damaged at %d %d\n", s->mb_x, s->mb_y);
630                 return -1;
631             }
632         }while(cbpc == 20);
633
634         s->dsp.clear_blocks(s->block[0]);
635
636         dquant = cbpc & 8;
637         s->mb_intra = ((cbpc & 4) != 0);
638         if (s->mb_intra) goto intra;
639
640         if(s->pb_frame && get_bits1(&s->gb))
641             pb_mv_count = h263_get_modb(&s->gb, s->pb_frame, &cbpb);
642         cbpy = get_vlc2(&s->gb, ff_h263_cbpy_vlc.table, CBPY_VLC_BITS, 1);
643
644         if(s->alt_inter_vlc==0 || (cbpc & 3)!=3)
645             cbpy ^= 0xF;
646
647         cbp = (cbpc & 3) | (cbpy << 2);
648         if (dquant) {
649             h263_decode_dquant(s);
650         }
651
652         s->mv_dir = MV_DIR_FORWARD;
653         if ((cbpc & 16) == 0) {
654             s->current_picture.mb_type[xy]= MB_TYPE_16x16 | MB_TYPE_L0;
655             /* 16x16 motion prediction */
656             s->mv_type = MV_TYPE_16X16;
657             h263_pred_motion(s, 0, 0, &pred_x, &pred_y);
658             if (s->umvplus)
659                mx = h263p_decode_umotion(s, pred_x);
660             else
661                mx = h263_decode_motion(s, pred_x, 1);
662
663             if (mx >= 0xffff)
664                 return -1;
665
666             if (s->umvplus)
667                my = h263p_decode_umotion(s, pred_y);
668             else
669                my = h263_decode_motion(s, pred_y, 1);
670
671             if (my >= 0xffff)
672                 return -1;
673             s->mv[0][0][0] = mx;
674             s->mv[0][0][1] = my;
675
676             if (s->umvplus && (mx - pred_x) == 1 && (my - pred_y) == 1)
677                skip_bits1(&s->gb); /* Bit stuffing to prevent PSC */
678         } else {
679             s->current_picture.mb_type[xy]= MB_TYPE_8x8 | MB_TYPE_L0;
680             s->mv_type = MV_TYPE_8X8;
681             for(i=0;i<4;i++) {
682                 mot_val = h263_pred_motion(s, i, 0, &pred_x, &pred_y);
683                 if (s->umvplus)
684                   mx = h263p_decode_umotion(s, pred_x);
685                 else
686                   mx = h263_decode_motion(s, pred_x, 1);
687                 if (mx >= 0xffff)
688                     return -1;
689
690                 if (s->umvplus)
691                   my = h263p_decode_umotion(s, pred_y);
692                 else
693                   my = h263_decode_motion(s, pred_y, 1);
694                 if (my >= 0xffff)
695                     return -1;
696                 s->mv[0][i][0] = mx;
697                 s->mv[0][i][1] = my;
698                 if (s->umvplus && (mx - pred_x) == 1 && (my - pred_y) == 1)
699                   skip_bits1(&s->gb); /* Bit stuffing to prevent PSC */
700                 mot_val[0] = mx;
701                 mot_val[1] = my;
702             }
703         }
704     } else if(s->pict_type==AV_PICTURE_TYPE_B) {
705         int mb_type;
706         const int stride= s->b8_stride;
707         int16_t *mot_val0 = s->current_picture.motion_val[0][ 2*(s->mb_x + s->mb_y*stride) ];
708         int16_t *mot_val1 = s->current_picture.motion_val[1][ 2*(s->mb_x + s->mb_y*stride) ];
709 //        const int mv_xy= s->mb_x + 1 + s->mb_y * s->mb_stride;
710
711         //FIXME ugly
712         mot_val0[0       ]= mot_val0[2       ]= mot_val0[0+2*stride]= mot_val0[2+2*stride]=
713         mot_val0[1       ]= mot_val0[3       ]= mot_val0[1+2*stride]= mot_val0[3+2*stride]=
714         mot_val1[0       ]= mot_val1[2       ]= mot_val1[0+2*stride]= mot_val1[2+2*stride]=
715         mot_val1[1       ]= mot_val1[3       ]= mot_val1[1+2*stride]= mot_val1[3+2*stride]= 0;
716
717         do{
718             mb_type= get_vlc2(&s->gb, h263_mbtype_b_vlc.table, H263_MBTYPE_B_VLC_BITS, 2);
719             if (mb_type < 0){
720                 av_log(s->avctx, AV_LOG_ERROR, "b mb_type damaged at %d %d\n", s->mb_x, s->mb_y);
721                 return -1;
722             }
723
724             mb_type= h263_mb_type_b_map[ mb_type ];
725         }while(!mb_type);
726
727         s->mb_intra = IS_INTRA(mb_type);
728         if(HAS_CBP(mb_type)){
729             s->dsp.clear_blocks(s->block[0]);
730             cbpc = get_vlc2(&s->gb, cbpc_b_vlc.table, CBPC_B_VLC_BITS, 1);
731             if(s->mb_intra){
732                 dquant = IS_QUANT(mb_type);
733                 goto intra;
734             }
735
736             cbpy = get_vlc2(&s->gb, ff_h263_cbpy_vlc.table, CBPY_VLC_BITS, 1);
737
738             if (cbpy < 0){
739                 av_log(s->avctx, AV_LOG_ERROR, "b cbpy damaged at %d %d\n", s->mb_x, s->mb_y);
740                 return -1;
741             }
742
743             if(s->alt_inter_vlc==0 || (cbpc & 3)!=3)
744                 cbpy ^= 0xF;
745
746             cbp = (cbpc & 3) | (cbpy << 2);
747         }else
748             cbp=0;
749
750         assert(!s->mb_intra);
751
752         if(IS_QUANT(mb_type)){
753             h263_decode_dquant(s);
754         }
755
756         if(IS_DIRECT(mb_type)){
757             s->mv_dir = MV_DIR_FORWARD | MV_DIR_BACKWARD | MV_DIRECT;
758             mb_type |= ff_mpeg4_set_direct_mv(s, 0, 0);
759         }else{
760             s->mv_dir = 0;
761             s->mv_type= MV_TYPE_16X16;
762 //FIXME UMV
763
764             if(USES_LIST(mb_type, 0)){
765                 int16_t *mot_val= h263_pred_motion(s, 0, 0, &mx, &my);
766                 s->mv_dir = MV_DIR_FORWARD;
767
768                 mx = h263_decode_motion(s, mx, 1);
769                 my = h263_decode_motion(s, my, 1);
770
771                 s->mv[0][0][0] = mx;
772                 s->mv[0][0][1] = my;
773                 mot_val[0       ]= mot_val[2       ]= mot_val[0+2*stride]= mot_val[2+2*stride]= mx;
774                 mot_val[1       ]= mot_val[3       ]= mot_val[1+2*stride]= mot_val[3+2*stride]= my;
775             }
776
777             if(USES_LIST(mb_type, 1)){
778                 int16_t *mot_val= h263_pred_motion(s, 0, 1, &mx, &my);
779                 s->mv_dir |= MV_DIR_BACKWARD;
780
781                 mx = h263_decode_motion(s, mx, 1);
782                 my = h263_decode_motion(s, my, 1);
783
784                 s->mv[1][0][0] = mx;
785                 s->mv[1][0][1] = my;
786                 mot_val[0       ]= mot_val[2       ]= mot_val[0+2*stride]= mot_val[2+2*stride]= mx;
787                 mot_val[1       ]= mot_val[3       ]= mot_val[1+2*stride]= mot_val[3+2*stride]= my;
788             }
789         }
790
791         s->current_picture.mb_type[xy]= mb_type;
792     } else { /* I-Frame */
793         do{
794             cbpc = get_vlc2(&s->gb, ff_h263_intra_MCBPC_vlc.table, INTRA_MCBPC_VLC_BITS, 2);
795             if (cbpc < 0){
796                 av_log(s->avctx, AV_LOG_ERROR, "I cbpc damaged at %d %d\n", s->mb_x, s->mb_y);
797                 return -1;
798             }
799         }while(cbpc == 8);
800
801         s->dsp.clear_blocks(s->block[0]);
802
803         dquant = cbpc & 4;
804         s->mb_intra = 1;
805 intra:
806         s->current_picture.mb_type[xy]= MB_TYPE_INTRA;
807         if (s->h263_aic) {
808             s->ac_pred = get_bits1(&s->gb);
809             if(s->ac_pred){
810                 s->current_picture.mb_type[xy]= MB_TYPE_INTRA | MB_TYPE_ACPRED;
811
812                 s->h263_aic_dir = get_bits1(&s->gb);
813             }
814         }else
815             s->ac_pred = 0;
816
817         if(s->pb_frame && get_bits1(&s->gb))
818             pb_mv_count = h263_get_modb(&s->gb, s->pb_frame, &cbpb);
819         cbpy = get_vlc2(&s->gb, ff_h263_cbpy_vlc.table, CBPY_VLC_BITS, 1);
820         if(cbpy<0){
821             av_log(s->avctx, AV_LOG_ERROR, "I cbpy damaged at %d %d\n", s->mb_x, s->mb_y);
822             return -1;
823         }
824         cbp = (cbpc & 3) | (cbpy << 2);
825         if (dquant) {
826             h263_decode_dquant(s);
827         }
828
829         pb_mv_count += !!s->pb_frame;
830     }
831
832     while(pb_mv_count--){
833         h263_decode_motion(s, 0, 1);
834         h263_decode_motion(s, 0, 1);
835     }
836
837     /* decode each block */
838     for (i = 0; i < 6; i++) {
839         if (h263_decode_block(s, block[i], i, cbp&32) < 0)
840             return -1;
841         cbp+=cbp;
842     }
843
844     if(s->pb_frame && h263_skip_b_part(s, cbpb) < 0)
845         return -1;
846     if(s->obmc && !s->mb_intra){
847         if(s->pict_type == AV_PICTURE_TYPE_P && s->mb_x+1<s->mb_width && s->mb_num_left != 1)
848             preview_obmc(s);
849     }
850 end:
851
852         /* per-MB end of slice check */
853     {
854         int v= show_bits(&s->gb, 16);
855
856         if(get_bits_count(&s->gb) + 16 > s->gb.size_in_bits){
857             v>>= get_bits_count(&s->gb) + 16 - s->gb.size_in_bits;
858         }
859
860         if(v==0)
861             return SLICE_END;
862     }
863
864     return SLICE_OK;
865 }
866
867 /* most is hardcoded. should extend to handle all h263 streams */
868 int h263_decode_picture_header(MpegEncContext *s)
869 {
870     int format, width, height, i;
871     uint32_t startcode;
872
873     align_get_bits(&s->gb);
874
875     startcode= get_bits(&s->gb, 22-8);
876
877     for(i= get_bits_left(&s->gb); i>24; i-=8) {
878         startcode = ((startcode << 8) | get_bits(&s->gb, 8)) & 0x003FFFFF;
879
880         if(startcode == 0x20)
881             break;
882     }
883
884     if (startcode != 0x20) {
885         av_log(s->avctx, AV_LOG_ERROR, "Bad picture start code\n");
886         return -1;
887     }
888     /* temporal reference */
889     i = get_bits(&s->gb, 8); /* picture timestamp */
890     if( (s->picture_number&~0xFF)+i < s->picture_number)
891         i+= 256;
892     s->current_picture_ptr->pts=
893     s->picture_number= (s->picture_number&~0xFF) + i;
894
895     /* PTYPE starts here */
896     if (get_bits1(&s->gb) != 1) {
897         /* marker */
898         av_log(s->avctx, AV_LOG_ERROR, "Bad marker\n");
899         return -1;
900     }
901     if (get_bits1(&s->gb) != 0) {
902         av_log(s->avctx, AV_LOG_ERROR, "Bad H263 id\n");
903         return -1;      /* h263 id */
904     }
905     skip_bits1(&s->gb);         /* split screen off */
906     skip_bits1(&s->gb);         /* camera  off */
907     skip_bits1(&s->gb);         /* freeze picture release off */
908
909     format = get_bits(&s->gb, 3);
910     /*
911         0    forbidden
912         1    sub-QCIF
913         10   QCIF
914         7       extended PTYPE (PLUSPTYPE)
915     */
916
917     if (format != 7 && format != 6) {
918         s->h263_plus = 0;
919         /* H.263v1 */
920         width = h263_format[format][0];
921         height = h263_format[format][1];
922         if (!width)
923             return -1;
924
925         s->pict_type = AV_PICTURE_TYPE_I + get_bits1(&s->gb);
926
927         s->h263_long_vectors = get_bits1(&s->gb);
928
929         if (get_bits1(&s->gb) != 0) {
930             av_log(s->avctx, AV_LOG_ERROR, "H263 SAC not supported\n");
931             return -1; /* SAC: off */
932         }
933         s->obmc= get_bits1(&s->gb); /* Advanced prediction mode */
934         s->unrestricted_mv = s->h263_long_vectors || s->obmc;
935
936         s->pb_frame = get_bits1(&s->gb);
937         s->chroma_qscale= s->qscale = get_bits(&s->gb, 5);
938         skip_bits1(&s->gb); /* Continuous Presence Multipoint mode: off */
939
940         s->width = width;
941         s->height = height;
942         s->avctx->sample_aspect_ratio= (AVRational){12,11};
943         s->avctx->time_base= (AVRational){1001, 30000};
944     } else {
945         int ufep;
946
947         /* H.263v2 */
948         s->h263_plus = 1;
949         ufep = get_bits(&s->gb, 3); /* Update Full Extended PTYPE */
950
951         /* ufep other than 0 and 1 are reserved */
952         if (ufep == 1) {
953             /* OPPTYPE */
954             format = get_bits(&s->gb, 3);
955             av_dlog(s->avctx, "ufep=1, format: %d\n", format);
956             s->custom_pcf= get_bits1(&s->gb);
957             s->umvplus = get_bits1(&s->gb); /* Unrestricted Motion Vector */
958             if (get_bits1(&s->gb) != 0) {
959                 av_log(s->avctx, AV_LOG_ERROR, "Syntax-based Arithmetic Coding (SAC) not supported\n");
960             }
961             s->obmc= get_bits1(&s->gb); /* Advanced prediction mode */
962             s->h263_aic = get_bits1(&s->gb); /* Advanced Intra Coding (AIC) */
963             s->loop_filter= get_bits1(&s->gb);
964             s->unrestricted_mv = s->umvplus || s->obmc || s->loop_filter;
965
966             s->h263_slice_structured= get_bits1(&s->gb);
967             if (get_bits1(&s->gb) != 0) {
968                 av_log(s->avctx, AV_LOG_ERROR, "Reference Picture Selection not supported\n");
969             }
970             if (get_bits1(&s->gb) != 0) {
971                 av_log(s->avctx, AV_LOG_ERROR, "Independent Segment Decoding not supported\n");
972             }
973             s->alt_inter_vlc= get_bits1(&s->gb);
974             s->modified_quant= get_bits1(&s->gb);
975             if(s->modified_quant)
976                 s->chroma_qscale_table= ff_h263_chroma_qscale_table;
977
978             skip_bits(&s->gb, 1); /* Prevent start code emulation */
979
980             skip_bits(&s->gb, 3); /* Reserved */
981         } else if (ufep != 0) {
982             av_log(s->avctx, AV_LOG_ERROR, "Bad UFEP type (%d)\n", ufep);
983             return -1;
984         }
985
986         /* MPPTYPE */
987         s->pict_type = get_bits(&s->gb, 3);
988         switch(s->pict_type){
989         case 0: s->pict_type= AV_PICTURE_TYPE_I;break;
990         case 1: s->pict_type= AV_PICTURE_TYPE_P;break;
991         case 2: s->pict_type= AV_PICTURE_TYPE_P;s->pb_frame = 3;break;
992         case 3: s->pict_type= AV_PICTURE_TYPE_B;break;
993         case 7: s->pict_type= AV_PICTURE_TYPE_I;break; //ZYGO
994         default:
995             return -1;
996         }
997         skip_bits(&s->gb, 2);
998         s->no_rounding = get_bits1(&s->gb);
999         skip_bits(&s->gb, 4);
1000
1001         /* Get the picture dimensions */
1002         if (ufep) {
1003             if (format == 6) {
1004                 /* Custom Picture Format (CPFMT) */
1005                 s->aspect_ratio_info = get_bits(&s->gb, 4);
1006                 av_dlog(s->avctx, "aspect: %d\n", s->aspect_ratio_info);
1007                 /* aspect ratios:
1008                 0 - forbidden
1009                 1 - 1:1
1010                 2 - 12:11 (CIF 4:3)
1011                 3 - 10:11 (525-type 4:3)
1012                 4 - 16:11 (CIF 16:9)
1013                 5 - 40:33 (525-type 16:9)
1014                 6-14 - reserved
1015                 */
1016                 width = (get_bits(&s->gb, 9) + 1) * 4;
1017                 skip_bits1(&s->gb);
1018                 height = get_bits(&s->gb, 9) * 4;
1019                 av_dlog(s->avctx, "\nH.263+ Custom picture: %dx%d\n",width,height);
1020                 if (s->aspect_ratio_info == FF_ASPECT_EXTENDED) {
1021                     /* aspected dimensions */
1022                     s->avctx->sample_aspect_ratio.num= get_bits(&s->gb, 8);
1023                     s->avctx->sample_aspect_ratio.den= get_bits(&s->gb, 8);
1024                 }else{
1025                     s->avctx->sample_aspect_ratio= ff_h263_pixel_aspect[s->aspect_ratio_info];
1026                 }
1027             } else {
1028                 width = h263_format[format][0];
1029                 height = h263_format[format][1];
1030                 s->avctx->sample_aspect_ratio= (AVRational){12,11};
1031             }
1032             if ((width == 0) || (height == 0))
1033                 return -1;
1034             s->width = width;
1035             s->height = height;
1036
1037             if(s->custom_pcf){
1038                 int gcd;
1039                 s->avctx->time_base.den= 1800000;
1040                 s->avctx->time_base.num= 1000 + get_bits1(&s->gb);
1041                 s->avctx->time_base.num*= get_bits(&s->gb, 7);
1042                 if(s->avctx->time_base.num == 0){
1043                     av_log(s, AV_LOG_ERROR, "zero framerate\n");
1044                     return -1;
1045                 }
1046                 gcd= av_gcd(s->avctx->time_base.den, s->avctx->time_base.num);
1047                 s->avctx->time_base.den /= gcd;
1048                 s->avctx->time_base.num /= gcd;
1049             }else{
1050                 s->avctx->time_base= (AVRational){1001, 30000};
1051             }
1052         }
1053
1054         if(s->custom_pcf){
1055             skip_bits(&s->gb, 2); //extended Temporal reference
1056         }
1057
1058         if (ufep) {
1059             if (s->umvplus) {
1060                 if(get_bits1(&s->gb)==0) /* Unlimited Unrestricted Motion Vectors Indicator (UUI) */
1061                     skip_bits1(&s->gb);
1062             }
1063             if(s->h263_slice_structured){
1064                 if (get_bits1(&s->gb) != 0) {
1065                     av_log(s->avctx, AV_LOG_ERROR, "rectangular slices not supported\n");
1066                 }
1067                 if (get_bits1(&s->gb) != 0) {
1068                     av_log(s->avctx, AV_LOG_ERROR, "unordered slices not supported\n");
1069                 }
1070             }
1071         }
1072
1073         s->qscale = get_bits(&s->gb, 5);
1074     }
1075
1076     s->mb_width = (s->width  + 15) / 16;
1077     s->mb_height = (s->height  + 15) / 16;
1078     s->mb_num = s->mb_width * s->mb_height;
1079
1080     if (s->pb_frame) {
1081         skip_bits(&s->gb, 3); /* Temporal reference for B-pictures */
1082         if (s->custom_pcf)
1083             skip_bits(&s->gb, 2); //extended Temporal reference
1084         skip_bits(&s->gb, 2); /* Quantization information for B-pictures */
1085     }
1086
1087     /* PEI */
1088     while (get_bits1(&s->gb) != 0) {
1089         skip_bits(&s->gb, 8);
1090     }
1091
1092     if(s->h263_slice_structured){
1093         if (get_bits1(&s->gb) != 1) {
1094             av_log(s->avctx, AV_LOG_ERROR, "SEPB1 marker missing\n");
1095             return -1;
1096         }
1097
1098         ff_h263_decode_mba(s);
1099
1100         if (get_bits1(&s->gb) != 1) {
1101             av_log(s->avctx, AV_LOG_ERROR, "SEPB2 marker missing\n");
1102             return -1;
1103         }
1104     }
1105     s->f_code = 1;
1106
1107     if(s->h263_aic){
1108          s->y_dc_scale_table=
1109          s->c_dc_scale_table= ff_aic_dc_scale_table;
1110     }else{
1111         s->y_dc_scale_table=
1112         s->c_dc_scale_table= ff_mpeg1_dc_scale_table;
1113     }
1114
1115         ff_h263_show_pict_info(s);
1116     if (s->pict_type == AV_PICTURE_TYPE_I && s->codec_tag == AV_RL32("ZYGO")){
1117         int i,j;
1118         for(i=0; i<85; i++) av_log(s->avctx, AV_LOG_DEBUG, "%d", get_bits1(&s->gb));
1119         av_log(s->avctx, AV_LOG_DEBUG, "\n");
1120         for(i=0; i<13; i++){
1121             for(j=0; j<3; j++){
1122                 int v= get_bits(&s->gb, 8);
1123                 v |= get_sbits(&s->gb, 8)<<8;
1124                 av_log(s->avctx, AV_LOG_DEBUG, " %5d", v);
1125             }
1126             av_log(s->avctx, AV_LOG_DEBUG, "\n");
1127         }
1128         for(i=0; i<50; i++) av_log(s->avctx, AV_LOG_DEBUG, "%d", get_bits1(&s->gb));
1129     }
1130
1131     return 0;
1132 }