08be11d45a72cc5161ef107fc6703a31afb93222
[ffmpeg.git] / libavcodec / dv.c
1 /*
2  * DV decoder
3  * Copyright (c) 2002 Fabrice Bellard.
4  *
5  * DV encoder 
6  * Copyright (c) 2003 Roman Shaposhnik.
7  *
8  * Many thanks to Dan Dennedy <dan@dennedy.org> for providing wealth
9  * of DV technical info.
10  *
11  * This library is free software; you can redistribute it and/or
12  * modify it under the terms of the GNU Lesser General Public
13  * License as published by the Free Software Foundation; either
14  * version 2 of the License, or (at your option) any later version.
15  *
16  * This library is distributed in the hope that it will be useful,
17  * but WITHOUT ANY WARRANTY; without even the implied warranty of
18  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
19  * Lesser General Public License for more details.
20  *
21  * You should have received a copy of the GNU Lesser General Public
22  * License along with this library; if not, write to the Free Software
23  * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
24  */
25
26 /**
27  * @file dv.c
28  * DV codec.
29  */
30 #include "avcodec.h"
31 #include "dsputil.h"
32 #include "mpegvideo.h"
33 #include "simple_idct.h"
34 #include "dvdata.h"
35
36 typedef struct DVVideoDecodeContext {
37     const DVprofile* sys;
38     AVFrame picture;
39     
40     uint8_t dv_zigzag[2][64];
41     uint8_t dv_idct_shift[2][22][64];
42   
43     void (*get_pixels)(DCTELEM *block, const uint8_t *pixels, int line_size);
44     void (*fdct[2])(DCTELEM *block);
45     void (*idct_put[2])(uint8_t *dest, int line_size, DCTELEM *block);
46     
47     GetBitContext gb;
48     DCTELEM block[5*6][64] __align8;
49 } DVVideoDecodeContext;
50
51 #define TEX_VLC_BITS 9
52
53 #ifdef DV_CODEC_TINY_TARGET
54 #define DV_VLC_MAP_RUN_SIZE 15
55 #define DV_VLC_MAP_LEV_SIZE 23
56 #else
57 #define DV_VLC_MAP_RUN_SIZE  64 
58 #define DV_VLC_MAP_LEV_SIZE 512
59 #endif
60
61 /* XXX: also include quantization */
62 static RL_VLC_ELEM *dv_rl_vlc[1];
63 /* VLC encoding lookup table */
64 static struct dv_vlc_pair {
65    uint32_t vlc;
66    uint8_t  size;
67 } (*dv_vlc_map)[DV_VLC_MAP_LEV_SIZE] = NULL;
68
69 static void dv_build_unquantize_tables(DVVideoDecodeContext *s, uint8_t* perm)
70 {
71     int i, q, j;
72
73     /* NOTE: max left shift is 6 */
74     for(q = 0; q < 22; q++) {
75         /* 88DCT */
76         for(i = 1; i < 64; i++) {
77             /* 88 table */
78             j = perm[i];
79             s->dv_idct_shift[0][q][j] =
80                 dv_quant_shifts[q][dv_88_areas[i]] + 1;
81         }
82         
83         /* 248DCT */
84         for(i = 1; i < 64; i++) {
85             /* 248 table */
86             s->dv_idct_shift[1][q][i] =  
87                 dv_quant_shifts[q][dv_248_areas[i]] + 1;
88         }
89     }
90 }
91
92 static int dvvideo_init(AVCodecContext *avctx)
93 {
94     DVVideoDecodeContext *s = avctx->priv_data;
95     DSPContext dsp;
96     static int done=0;
97     int i, j;
98
99     if (!done) {
100         int i;
101         VLC dv_vlc;
102
103         done = 1;
104
105         dv_vlc_map = av_mallocz(DV_VLC_MAP_LEV_SIZE*DV_VLC_MAP_RUN_SIZE*sizeof(struct dv_vlc_pair));
106         if (!dv_vlc_map)
107             return -ENOMEM;
108
109         /* NOTE: as a trick, we use the fact the no codes are unused
110            to accelerate the parsing of partial codes */
111         init_vlc(&dv_vlc, TEX_VLC_BITS, NB_DV_VLC, 
112                  dv_vlc_len, 1, 1, dv_vlc_bits, 2, 2);
113
114         dv_rl_vlc[0] = av_malloc(dv_vlc.table_size * sizeof(RL_VLC_ELEM));
115         if (!dv_rl_vlc[0]) {
116             av_free(dv_vlc_map);
117             return -ENOMEM;
118         }
119         for(i = 0; i < dv_vlc.table_size; i++){
120             int code= dv_vlc.table[i][0];
121             int len = dv_vlc.table[i][1];
122             int level, run;
123         
124             if(len<0){ //more bits needed
125                 run= 0;
126                 level= code;
127             } else if (code == (NB_DV_VLC - 1)) {
128                 /* EOB */
129                 run = 0;
130                 level = 256;
131             } else {
132                 run=   dv_vlc_run[code] + 1;
133                 level= dv_vlc_level[code];
134             }
135             dv_rl_vlc[0][i].len = len;
136             dv_rl_vlc[0][i].level = level;
137             dv_rl_vlc[0][i].run = run;
138         }
139
140         for (i = 0; i < NB_DV_VLC - 1; i++) {
141            if (dv_vlc_run[i] >= DV_VLC_MAP_RUN_SIZE || dv_vlc_level[i] >= DV_VLC_MAP_LEV_SIZE)
142                continue;
143            
144            if (dv_vlc_map[dv_vlc_run[i]][dv_vlc_level[i]].size != 0)
145                continue;
146                
147            dv_vlc_map[dv_vlc_run[i]][dv_vlc_level[i]].vlc = dv_vlc_bits[i] << 
148                                                             (!!dv_vlc_level[i]);
149            dv_vlc_map[dv_vlc_run[i]][dv_vlc_level[i]].size = dv_vlc_len[i] + 
150                                                              (!!dv_vlc_level[i]);
151         }
152         for (i = 0; i < DV_VLC_MAP_RUN_SIZE; i++) {
153 #ifdef DV_CODEC_TINY_TARGET
154            for (j = 1; j < DV_VLC_MAP_LEV_SIZE; j++) {
155               if (dv_vlc_map[i][j].size == 0) {
156                   dv_vlc_map[i][j].vlc = dv_vlc_map[0][j].vlc |
157                             (dv_vlc_map[i-1][0].vlc << (dv_vlc_map[0][j].size));
158                   dv_vlc_map[i][j].size = dv_vlc_map[i-1][0].size + 
159                                           dv_vlc_map[0][j].size;
160               }
161            }
162 #else
163            for (j = 1; j < DV_VLC_MAP_LEV_SIZE/2; j++) {
164               if (dv_vlc_map[i][j].size == 0) {
165                   dv_vlc_map[i][j].vlc = dv_vlc_map[0][j].vlc |
166                             (dv_vlc_map[i-1][0].vlc << (dv_vlc_map[0][j].size));
167                   dv_vlc_map[i][j].size = dv_vlc_map[i-1][0].size + 
168                                           dv_vlc_map[0][j].size;
169               }
170               dv_vlc_map[i][((uint16_t)(-j))&0x1ff].vlc = 
171                                             dv_vlc_map[i][j].vlc | 1;
172               dv_vlc_map[i][((uint16_t)(-j))&0x1ff].size = 
173                                             dv_vlc_map[i][j].size;
174            }
175 #endif
176         }
177     }
178
179     /* Generic DSP setup */
180     dsputil_init(&dsp, avctx);
181     s->get_pixels = dsp.get_pixels;
182
183     /* 88DCT setup */
184     s->fdct[0] = dsp.fdct;
185     s->idct_put[0] = dsp.idct_put;
186     for (i=0; i<64; i++)
187        s->dv_zigzag[0][i] = dsp.idct_permutation[ff_zigzag_direct[i]];
188
189     /* 248DCT setup */
190     s->fdct[1] = dsp.fdct248;
191     s->idct_put[1] = simple_idct248_put;  // FIXME: need to add it to DSP
192     memcpy(s->dv_zigzag[1], ff_zigzag248_direct, 64);
193
194     /* XXX: do it only for constant case */
195     dv_build_unquantize_tables(s, dsp.idct_permutation);
196
197     /* FIXME: I really don't think this should be here */
198     if (dv_codec_profile(avctx))
199         avctx->pix_fmt = dv_codec_profile(avctx)->pix_fmt; 
200     avctx->coded_frame = &s->picture;
201     
202     return 0;
203 }
204
205 // #define VLC_DEBUG
206
207 typedef struct BlockInfo {
208     const uint8_t *shift_table;
209     const uint8_t *scan_table;
210     uint8_t pos; /* position in block */
211     uint8_t eob_reached; /* true if EOB has been reached */
212     uint8_t dct_mode;
213     uint8_t partial_bit_count;
214     uint16_t partial_bit_buffer;
215     int shift_offset;
216 } BlockInfo;
217
218 /* block size in bits */
219 static const uint16_t block_sizes[6] = {
220     112, 112, 112, 112, 80, 80
221 };
222 /* bit budget for AC only in 5 MBs */
223 static const int vs_total_ac_bits = (100 * 4 + 68*2) * 5;
224 /* see dv_88_areas and dv_248_areas for details */
225 static const int mb_area_start[5] = { 1, 6, 21, 43, 64 }; 
226
227 #ifndef ALT_BITSTREAM_READER
228 #warning only works with ALT_BITSTREAM_READER
229 #endif
230
231 /* decode ac coefs */
232 static void dv_decode_ac(DVVideoDecodeContext *s, 
233                          BlockInfo *mb, DCTELEM *block, int last_index)
234 {
235     int last_re_index;
236     int shift_offset = mb->shift_offset;
237     const uint8_t *scan_table = mb->scan_table;
238     const uint8_t *shift_table = mb->shift_table;
239     int pos = mb->pos;
240     int level, pos1, sign, run;
241     int partial_bit_count;
242 #ifndef ALT_BITSTREAM_READER //FIXME
243     int re_index=0; 
244     int re1_index=0;
245 #endif
246     OPEN_READER(re, &s->gb);
247     
248 #ifdef VLC_DEBUG
249     printf("start\n");
250 #endif
251
252     /* if we must parse a partial vlc, we do it here */
253     partial_bit_count = mb->partial_bit_count;
254     if (partial_bit_count > 0) {
255         uint8_t buf[4];
256         uint32_t v;
257         int l, l1;
258         GetBitContext gb1;
259
260         /* build the dummy bit buffer */
261         l = 16 - partial_bit_count;
262         UPDATE_CACHE(re, &s->gb);
263 #ifdef VLC_DEBUG
264         printf("show=%04x\n", SHOW_UBITS(re, &s->gb, 16));
265 #endif
266         v = (mb->partial_bit_buffer << l) | SHOW_UBITS(re, &s->gb, l);
267         buf[0] = v >> 8;
268         buf[1] = v;
269 #ifdef VLC_DEBUG
270         printf("v=%04x cnt=%d %04x\n", 
271                v, partial_bit_count, (mb->partial_bit_buffer << l));
272 #endif
273         /* try to read the codeword */
274         init_get_bits(&gb1, buf, 4*8);
275         {
276             OPEN_READER(re1, &gb1);
277             UPDATE_CACHE(re1, &gb1);
278             GET_RL_VLC(level, run, re1, &gb1, dv_rl_vlc[0], 
279                        TEX_VLC_BITS, 2);
280             l = re1_index;
281             CLOSE_READER(re1, &gb1);
282         }
283 #ifdef VLC_DEBUG
284         printf("****run=%d level=%d size=%d\n", run, level, l);
285 #endif
286         /* compute codeword length */
287         l1 = (level != 256 && level != 0);
288         /* if too long, we cannot parse */
289         l -= partial_bit_count;
290         if ((re_index + l + l1) > last_index)
291             return;
292         /* skip read bits */
293         last_re_index = 0; /* avoid warning */
294         re_index += l;
295         /* by definition, if we can read the vlc, all partial bits
296            will be read (otherwise we could have read the vlc before) */
297         mb->partial_bit_count = 0;
298         UPDATE_CACHE(re, &s->gb);
299         goto handle_vlc;
300     }
301
302     /* get the AC coefficients until last_index is reached */
303     for(;;) {
304         UPDATE_CACHE(re, &s->gb);
305 #ifdef VLC_DEBUG
306         printf("%2d: bits=%04x index=%d\n", 
307                pos, SHOW_UBITS(re, &s->gb, 16), re_index);
308 #endif
309         last_re_index = re_index;
310         GET_RL_VLC(level, run, re, &s->gb, dv_rl_vlc[0], 
311                    TEX_VLC_BITS, 2);
312     handle_vlc:
313 #ifdef VLC_DEBUG
314         printf("run=%d level=%d\n", run, level);
315 #endif
316         if (level == 256) {
317             if (re_index > last_index) {
318             cannot_read:
319                 /* put position before read code */
320                 re_index = last_re_index;
321                 mb->eob_reached = 0;
322                 break;
323             }
324             /* EOB */
325             mb->eob_reached = 1;
326             break;
327         } else if (level != 0) {
328             if ((re_index + 1) > last_index)
329                 goto cannot_read;
330             sign = SHOW_SBITS(re, &s->gb, 1);
331             level = (level ^ sign) - sign;
332             LAST_SKIP_BITS(re, &s->gb, 1);
333             pos += run;
334             /* error */
335             if (pos >= 64) {
336                 goto read_error;
337             }
338             pos1 = scan_table[pos];
339             level = level << (shift_table[pos1] + shift_offset);
340             block[pos1] = level;
341             //            printf("run=%d level=%d shift=%d\n", run, level, shift_table[pos1]);
342         } else {
343             if (re_index > last_index)
344                 goto cannot_read;
345             /* level is zero: means run without coding. No
346                sign is coded */
347             pos += run;
348             /* error */
349             if (pos >= 64) {
350             read_error:
351 #if defined(VLC_DEBUG) || 1
352                 av_log(NULL, AV_LOG_ERROR, "error pos=%d\n", pos);
353 #endif
354                 /* for errors, we consider the eob is reached */
355                 mb->eob_reached = 1;
356                 break;
357             }
358         }
359     }
360     CLOSE_READER(re, &s->gb);
361     mb->pos = pos;
362 }
363
364 static inline void bit_copy(PutBitContext *pb, GetBitContext *gb, int bits_left)
365 {
366     while (bits_left >= 16) {
367         put_bits(pb, 16, get_bits(gb, 16));
368         bits_left -= 16;
369     }
370     if (bits_left > 0) {
371         put_bits(pb, bits_left, get_bits(gb, bits_left));
372     }
373 }
374
375 /* mb_x and mb_y are in units of 8 pixels */
376 static inline void dv_decode_video_segment(DVVideoDecodeContext *s, 
377                                            uint8_t *buf_ptr1, 
378                                            const uint16_t *mb_pos_ptr)
379 {
380     int quant, dc, dct_mode, class1, j;
381     int mb_index, mb_x, mb_y, v, last_index;
382     DCTELEM *block, *block1;
383     int c_offset, bits_left;
384     uint8_t *y_ptr;
385     BlockInfo mb_data[5 * 6], *mb, *mb1;
386     void (*idct_put)(uint8_t *dest, int line_size, DCTELEM *block);
387     uint8_t *buf_ptr;
388     PutBitContext pb, vs_pb;
389     uint8_t mb_bit_buffer[80 + 4]; /* allow some slack */
390     int mb_bit_count;
391     uint8_t vs_bit_buffer[5 * 80 + 4]; /* allow some slack */
392     int vs_bit_count;
393     
394     memset(s->block, 0, sizeof(s->block));
395
396     /* pass 1 : read DC and AC coefficients in blocks */
397     buf_ptr = buf_ptr1;
398     block1 = &s->block[0][0];
399     mb1 = mb_data;
400     init_put_bits(&vs_pb, vs_bit_buffer, 5 * 80);
401     vs_bit_count = 0;
402     for(mb_index = 0; mb_index < 5; mb_index++) {
403         /* skip header */
404         quant = buf_ptr[3] & 0x0f;
405         buf_ptr += 4;
406         init_put_bits(&pb, mb_bit_buffer, 80);
407         mb_bit_count = 0;
408         mb = mb1;
409         block = block1;
410         for(j = 0;j < 6; j++) {
411             /* NOTE: size is not important here */
412             init_get_bits(&s->gb, buf_ptr, 14*8);
413             
414             /* get the dc */
415             dc = get_bits(&s->gb, 9);
416             dc = (dc << (32 - 9)) >> (32 - 9);
417             dct_mode = get_bits1(&s->gb);
418             mb->dct_mode = dct_mode;
419             mb->scan_table = s->dv_zigzag[dct_mode];
420             class1 = get_bits(&s->gb, 2);
421             mb->shift_offset = (class1 == 3);
422             mb->shift_table = s->dv_idct_shift[dct_mode]
423                 [quant + dv_quant_offset[class1]];
424             dc = dc << 2;
425             /* convert to unsigned because 128 is not added in the
426                standard IDCT */
427             dc += 1024;
428             block[0] = dc;
429             last_index = block_sizes[j];
430             buf_ptr += last_index >> 3;
431             mb->pos = 0;
432             mb->partial_bit_count = 0;
433
434 #ifdef VLC_DEBUG
435             printf("MB block: %d, %d ", mb_index, j);
436 #endif
437             dv_decode_ac(s, mb, block, last_index);
438
439             /* write the remaining bits  in a new buffer only if the
440                block is finished */
441             bits_left = last_index - get_bits_count(&s->gb);
442             if (mb->eob_reached) {
443                 mb->partial_bit_count = 0;
444                 mb_bit_count += bits_left;
445                 bit_copy(&pb, &s->gb, bits_left);
446             } else {
447                 /* should be < 16 bits otherwise a codeword could have
448                    been parsed */
449                 mb->partial_bit_count = bits_left;
450                 mb->partial_bit_buffer = get_bits(&s->gb, bits_left);
451             }
452             block += 64;
453             mb++;
454         }
455         
456         flush_put_bits(&pb);
457
458         /* pass 2 : we can do it just after */
459 #ifdef VLC_DEBUG
460         printf("***pass 2 size=%d MB#=%d\n", mb_bit_count, mb_index);
461 #endif
462         block = block1;
463         mb = mb1;
464         init_get_bits(&s->gb, mb_bit_buffer, 80*8);
465         for(j = 0;j < 6; j++) {
466             if (!mb->eob_reached && get_bits_count(&s->gb) < mb_bit_count) {
467                 dv_decode_ac(s, mb, block, mb_bit_count);
468                 /* if still not finished, no need to parse other blocks */
469                 if (!mb->eob_reached) {
470                     /* we could not parse the current AC coefficient,
471                        so we add the remaining bytes */
472                     bits_left = mb_bit_count - get_bits_count(&s->gb);
473                     if (bits_left > 0) {
474                         mb->partial_bit_count += bits_left;
475                         mb->partial_bit_buffer = 
476                             (mb->partial_bit_buffer << bits_left) | 
477                             get_bits(&s->gb, bits_left);
478                     }
479                     goto next_mb;
480                 }
481             }
482             block += 64;
483             mb++;
484         }
485         /* all blocks are finished, so the extra bytes can be used at
486            the video segment level */
487         bits_left = mb_bit_count - get_bits_count(&s->gb);
488         vs_bit_count += bits_left;
489         bit_copy(&vs_pb, &s->gb, bits_left);
490     next_mb:
491         mb1 += 6;
492         block1 += 6 * 64;
493     }
494
495     /* we need a pass other the whole video segment */
496     flush_put_bits(&vs_pb);
497         
498 #ifdef VLC_DEBUG
499     printf("***pass 3 size=%d\n", vs_bit_count);
500 #endif
501     block = &s->block[0][0];
502     mb = mb_data;
503     init_get_bits(&s->gb, vs_bit_buffer, 5 * 80*8);
504     for(mb_index = 0; mb_index < 5; mb_index++) {
505         for(j = 0;j < 6; j++) {
506             if (!mb->eob_reached) {
507 #ifdef VLC_DEBUG
508                 printf("start %d:%d\n", mb_index, j);
509 #endif
510                 dv_decode_ac(s, mb, block, vs_bit_count);
511             }
512             block += 64;
513             mb++;
514         }
515     }
516     
517     /* compute idct and place blocks */
518     block = &s->block[0][0];
519     mb = mb_data;
520     for(mb_index = 0; mb_index < 5; mb_index++) {
521         v = *mb_pos_ptr++;
522         mb_x = v & 0xff;
523         mb_y = v >> 8;
524         y_ptr = s->picture.data[0] + (mb_y * s->picture.linesize[0] * 8) + (mb_x * 8);
525         if (s->sys->pix_fmt == PIX_FMT_YUV411P)
526             c_offset = (mb_y * s->picture.linesize[1] * 8) + ((mb_x >> 2) * 8);
527         else
528             c_offset = ((mb_y >> 1) * s->picture.linesize[1] * 8) + ((mb_x >> 1) * 8);
529         for(j = 0;j < 6; j++) {
530             idct_put = s->idct_put[mb->dct_mode];
531             if (j < 4) {
532                 if (s->sys->pix_fmt == PIX_FMT_YUV411P && mb_x < (704 / 8)) {
533                     /* NOTE: at end of line, the macroblock is handled as 420 */
534                     idct_put(y_ptr + (j * 8), s->picture.linesize[0], block);
535                 } else {
536                     idct_put(y_ptr + ((j & 1) * 8) + ((j >> 1) * 8 * s->picture.linesize[0]),
537                              s->picture.linesize[0], block);
538                 }
539             } else {
540                 if (s->sys->pix_fmt == PIX_FMT_YUV411P && mb_x >= (704 / 8)) {
541                     uint64_t aligned_pixels[64/8];
542                     uint8_t *pixels= (uint8_t*)aligned_pixels;
543                     uint8_t *c_ptr, *c_ptr1, *ptr;
544                     int y, linesize;
545                     /* NOTE: at end of line, the macroblock is handled as 420 */
546                     idct_put(pixels, 8, block);
547                     linesize = s->picture.linesize[6 - j];
548                     c_ptr = s->picture.data[6 - j] + c_offset;
549                     ptr = pixels;
550                     for(y = 0;y < 8; y++) {
551                         /* convert to 411P */
552                         c_ptr1 = c_ptr + 8*linesize;
553                         c_ptr[0]= ptr[0]; c_ptr1[0]= ptr[4];
554                         c_ptr[1]= ptr[1]; c_ptr1[1]= ptr[5];
555                         c_ptr[2]= ptr[2]; c_ptr1[2]= ptr[6];
556                         c_ptr[3]= ptr[3]; c_ptr1[3]= ptr[7];
557                         c_ptr += linesize;
558                         ptr += 8;
559                     }
560                 } else {
561                     /* don't ask me why they inverted Cb and Cr ! */
562                     idct_put(s->picture.data[6 - j] + c_offset, 
563                              s->picture.linesize[6 - j], block);
564                 }
565             }
566             block += 64;
567             mb++;
568         }
569     }
570 }
571
572 #ifdef DV_CODEC_TINY_TARGET
573 /* Converts run and level (where level != 0) pair into vlc, returning bit size */
574 static always_inline int dv_rl2vlc(int run, int l, uint32_t* vlc)
575 {
576     int sign = l >> 8;
577     int level = (l ^ sign) - sign;
578     int size;
579     
580     sign = (sign & 1);
581
582     if (run < DV_VLC_MAP_RUN_SIZE && level < DV_VLC_MAP_LEV_SIZE) {
583         *vlc = dv_vlc_map[run][level].vlc | sign;
584         size = dv_vlc_map[run][level].size;
585     }
586     else { 
587         if (level < DV_VLC_MAP_LEV_SIZE) {
588             *vlc = dv_vlc_map[0][level].vlc | sign;
589             size = dv_vlc_map[0][level].size;
590         } else {
591             *vlc = 0xfe00 | (level << 1) | sign;
592             size = 16;
593         }
594         if (run) {
595             *vlc |= ((run < 16) ? dv_vlc_map[run-1][0].vlc : 
596                                   (0x1f80 | (run - 1))) << size;
597             size += (run < 16) ? dv_vlc_map[run-1][0].size : 13;
598         }
599     }
600     
601     return size;
602 }
603
604 static always_inline int dv_rl2vlc_size(int run, int l)
605 {
606     int level = (l ^ (l >> 8)) - (l >> 8);
607     int size;
608     
609     if (run < DV_VLC_MAP_RUN_SIZE && level < DV_VLC_MAP_LEV_SIZE) {
610         size = dv_vlc_map[run][level].size; 
611     }
612     else { 
613         size = (level < DV_VLC_MAP_LEV_SIZE) ? dv_vlc_map[0][level].size : 16;
614         if (run) {
615             size += (run < 16) ? dv_vlc_map[run-1][0].size : 13;
616         }
617     }
618     return size;
619 }
620 #else
621 static always_inline int dv_rl2vlc(int run, int l, uint32_t* vlc)
622 {
623     *vlc = dv_vlc_map[run][((uint16_t)l)&0x1ff].vlc;
624     return dv_vlc_map[run][((uint16_t)l)&0x1ff].size;
625 }
626
627 static always_inline int dv_rl2vlc_size(int run, int l)
628 {
629     return dv_vlc_map[run][((uint16_t)l)&0x1ff].size;
630 }
631 #endif
632
633 typedef struct EncBlockInfo {
634     int area_q[4];
635     int bit_size[4];
636     int prev_run[4];
637     int cur_ac;
638     int cno;
639     int dct_mode;
640     DCTELEM *mb;
641     uint8_t partial_bit_count;
642     uint32_t partial_bit_buffer; /* we can't use uint16_t here */
643 } EncBlockInfo;
644
645 static always_inline void dv_encode_ac(EncBlockInfo* bi, PutBitContext* pb_pool, 
646                                        int pb_size)
647 {
648     int run;
649     int bits_left;
650     PutBitContext* pb = pb_pool;
651     int size = bi->partial_bit_count;
652     uint32_t vlc = bi->partial_bit_buffer;
653     
654     bi->partial_bit_count = bi->partial_bit_buffer = 0;
655 vlc_loop:
656        /* Find suitable storage space */
657        for (; size > (bits_left = put_bits_left(pb)); pb++) {
658           if (bits_left) {
659               size -= bits_left;
660               put_bits(pb, bits_left, vlc >> size);
661               vlc = vlc & ((1<<size)-1);
662           }
663           if (pb_size == 1) {
664               bi->partial_bit_count = size;
665               bi->partial_bit_buffer = vlc;
666               return;
667           }
668           --pb_size;
669        }
670        
671        /* Store VLC */
672        put_bits(pb, size, vlc);
673        
674        /* Construct the next VLC */
675        run = 0;
676        for (; bi->cur_ac < 64; bi->cur_ac++, run++) {
677            if (bi->mb[bi->cur_ac]) {
678                size = dv_rl2vlc(run, bi->mb[bi->cur_ac], &vlc);
679                bi->cur_ac++;
680                goto vlc_loop;
681            }
682        }
683    
684        if (bi->cur_ac == 64) {
685            size = 4; vlc = 6; /* End Of Block stamp */
686            bi->cur_ac++;
687            goto vlc_loop;
688        }
689 }
690
691 static always_inline void dv_set_class_number(DCTELEM* blk, EncBlockInfo* bi, 
692                                               const uint8_t* zigzag_scan, int bias)
693 {
694     int i, area;
695     int run;
696     int classes[] = {12, 24, 36, 0xffff};
697
698     run = 0;
699     bi->mb[0] = blk[0]; 
700     bi->cno = 0;
701     for (area = 0; area < 4; area++) {
702        bi->prev_run[area] = run;
703        bi->bit_size[area] = 0;
704        for (i=mb_area_start[area]; i<mb_area_start[area+1]; i++) {
705           bi->mb[i] = (blk[zigzag_scan[i]] / 16);
706           while ((bi->mb[i] ^ (bi->mb[i] >> 8)) > classes[bi->cno])
707               bi->cno++;
708        
709           if (bi->mb[i]) {
710               bi->bit_size[area] += dv_rl2vlc_size(run, bi->mb[i]);
711               run = 0;
712           } else
713               ++run;
714        }
715     }
716     bi->bit_size[3] += 4; /* EOB marker */
717     bi->cno += bias;
718     
719     if (bi->cno >= 3) { /* FIXME: we have to recreate bit_size[], prev_run[] */
720         bi->cno = 3;
721         for (i=1; i<64; i++)
722            bi->mb[i] /= 2;
723     }
724 }
725
726 #define SC(x, y) ((s[x] - s[y]) ^ ((s[x] - s[y]) >> 7))
727 static always_inline int dv_guess_dct_mode(DCTELEM *blk) {
728     DCTELEM *s;
729     int score88 = 0;
730     int score248 = 0;
731     int i;
732     
733     /* Compute 8-8 score (small values give a better chance for 8-8 DCT) */
734     s = blk;
735     for(i=0; i<7; i++) {
736         score88 += SC(0,  8) + SC(1, 9) + SC(2, 10) + SC(3, 11) + 
737                    SC(4, 12) + SC(5,13) + SC(6, 14) + SC(7, 15);
738         s += 8;
739     }
740     /* Compute 2-4-8 score (small values give a better chance for 2-4-8 DCT) */
741     s = blk;
742     for(i=0; i<6; i++) {
743         score248 += SC(0, 16) + SC(1,17) + SC(2, 18) + SC(3, 19) +
744                     SC(4, 20) + SC(5,21) + SC(6, 22) + SC(7, 23);
745         s += 8;
746     }
747
748     return (score88 - score248 > -10);
749 }
750
751 static inline void dv_guess_qnos(EncBlockInfo* blks, int* qnos)
752 {
753     int size[5];
754     int i, j, k, a, run;
755     EncBlockInfo* b;
756     
757     do {
758        b = blks;
759        for (i=0; i<5; i++) {
760           if (!qnos[i])
761               continue;
762           
763           qnos[i]--;
764           size[i] = 0;
765           for (j=0; j<6; j++, b++) {
766              for (a=0; a<4; a++) {
767                 if (b->area_q[a] != dv_quant_shifts[qnos[i] + dv_quant_offset[b->cno]][a]) {
768                     b->bit_size[a] = (a==3)?4:0;
769                     b->area_q[a]++;
770                     run = b->prev_run[a];
771                     for (k=mb_area_start[a]; k<mb_area_start[a+1]; k++) {
772                        b->mb[k] /= 2;
773                        if (b->mb[k]) {
774                            b->bit_size[a] += dv_rl2vlc_size(run, b->mb[k]);
775                            run = 0;
776                        } else
777                            ++run;
778                     }
779                 }
780                 size[i] += b->bit_size[a];
781              }
782           }
783        }
784     } while ((vs_total_ac_bits < size[0] + size[1] + size[2] + size[3] + size[4]) && 
785              (qnos[0]|qnos[1]|qnos[2]|qnos[3]|qnos[4]));
786 }
787
788 /*
789  * This is a very rough initial implementaion. The performance is
790  * horrible and the weighting is missing. But it's missing from the 
791  * decoding step also -- so at least we're on the same page with decoder ;-)
792  */
793 static inline void dv_encode_video_segment(DVVideoDecodeContext *s, 
794                                            uint8_t *dif, 
795                                            const uint16_t *mb_pos_ptr)
796 {
797     int mb_index, i, j, v;
798     int mb_x, mb_y, c_offset, linesize; 
799     uint8_t*  y_ptr;
800     uint8_t*  data;
801     uint8_t*  ptr;
802     int       do_edge_wrap;
803     DCTELEM   block[64] __align8;
804     EncBlockInfo  enc_blks[5*6];
805     PutBitContext pbs[5*6];
806     PutBitContext* pb; 
807     EncBlockInfo* enc_blk;
808     int       vs_bit_size = 0;
809     int       qnos[5];
810    
811     enc_blk = &enc_blks[0];
812     pb = &pbs[0];
813     for(mb_index = 0; mb_index < 5; mb_index++) {
814         v = *mb_pos_ptr++;
815         mb_x = v & 0xff;
816         mb_y = v >> 8;
817         y_ptr = s->picture.data[0] + (mb_y * s->picture.linesize[0] * 8) + (mb_x * 8);
818         c_offset = (s->sys->pix_fmt == PIX_FMT_YUV411P) ?
819                    ((mb_y * s->picture.linesize[1] * 8) + ((mb_x >> 2) * 8)) :
820                    (((mb_y >> 1) * s->picture.linesize[1] * 8) + ((mb_x >> 1) * 8));
821         do_edge_wrap = 0;
822         qnos[mb_index] = 15; /* No quantization */
823         ptr = dif + mb_index*80 + 4;
824         for(j = 0;j < 6; j++) {
825             if (j < 4) {  /* Four Y blocks */
826                 /* NOTE: at end of line, the macroblock is handled as 420 */
827                 if (s->sys->pix_fmt == PIX_FMT_YUV411P && mb_x < (704 / 8)) {
828                     data = y_ptr + (j * 8);
829                 } else {
830                     data = y_ptr + ((j & 1) * 8) + ((j >> 1) * 8 * s->picture.linesize[0]);
831                 }
832                 linesize = s->picture.linesize[0];
833             } else {      /* Cr and Cb blocks */
834                 /* don't ask Fabrice why they inverted Cb and Cr ! */
835                 data = s->picture.data[6 - j] + c_offset;
836                 linesize = s->picture.linesize[6 - j];
837                 if (s->sys->pix_fmt == PIX_FMT_YUV411P && mb_x >= (704 / 8))
838                     do_edge_wrap = 1;
839             }   
840             
841             /* Everything is set up -- now just copy data -> DCT block */
842             if (do_edge_wrap) {  /* Edge wrap copy: 4x16 -> 8x8 */
843                 uint8_t* d;
844                 DCTELEM *b = block;
845                 for (i=0;i<8;i++) {
846                    d = data + 8 * linesize;
847                    b[0] = data[0]; b[1] = data[1]; b[2] = data[2]; b[3] = data[3];
848                    b[4] =    d[0]; b[5] =    d[1]; b[6] =    d[2]; b[7] =    d[3];
849                    data += linesize;
850                    b += 8;
851                 }
852             } else {             /* Simple copy: 8x8 -> 8x8 */
853                 s->get_pixels(block, data, linesize);
854             }
855           
856             enc_blk->dct_mode = dv_guess_dct_mode(block);
857             enc_blk->mb = &s->block[mb_index*6+j][0];
858             enc_blk->area_q[0] = enc_blk->area_q[1] = enc_blk->area_q[2] = enc_blk->area_q[3] = 0;
859             enc_blk->partial_bit_count = 0;
860             enc_blk->partial_bit_buffer = 0;
861             enc_blk->cur_ac = 1;
862             
863             s->fdct[enc_blk->dct_mode](block);
864             
865             dv_set_class_number(block, enc_blk, 
866                                 enc_blk->dct_mode ? ff_zigzag248_direct : ff_zigzag_direct,
867                                 j/4*(j%2));
868            
869             init_put_bits(pb, ptr, block_sizes[j]/8);
870             put_bits(pb, 9, (uint16_t)(((enc_blk->mb[0] >> 3) - 1024) >> 2));
871             put_bits(pb, 1, enc_blk->dct_mode);
872             put_bits(pb, 2, enc_blk->cno);
873             
874             vs_bit_size += enc_blk->bit_size[0] + enc_blk->bit_size[1] +
875                            enc_blk->bit_size[2] + enc_blk->bit_size[3];
876             ++enc_blk;
877             ++pb;
878             ptr += block_sizes[j]/8;
879         }
880     }
881
882     if (vs_total_ac_bits < vs_bit_size)
883         dv_guess_qnos(&enc_blks[0], &qnos[0]);
884
885     for (i=0; i<5; i++) {
886        dif[i*80 + 3] = qnos[i];
887     }
888
889     /* First pass over individual cells only */
890     for (j=0; j<5*6; j++)
891        dv_encode_ac(&enc_blks[j], &pbs[j], 1);
892
893     /* Second pass over each MB space */
894     for (j=0; j<5*6; j++) {
895        if (enc_blks[j].cur_ac < 65 || enc_blks[j].partial_bit_count)
896            dv_encode_ac(&enc_blks[j], &pbs[(j/6)*6], 6);
897     }
898
899     /* Third and final pass over the whole vides segment space */
900     for (j=0; j<5*6; j++) {
901        if (enc_blks[j].cur_ac < 65 || enc_blks[j].partial_bit_count)
902            dv_encode_ac(&enc_blks[j], &pbs[0], 6*5);
903     }
904
905     for (j=0; j<5*6; j++)
906        flush_put_bits(&pbs[j]);
907 }
908
909 /* NOTE: exactly one frame must be given (120000 bytes for NTSC,
910    144000 bytes for PAL) */
911 static int dvvideo_decode_frame(AVCodecContext *avctx, 
912                                  void *data, int *data_size,
913                                  uint8_t *buf, int buf_size)
914 {
915     DVVideoDecodeContext *s = avctx->priv_data;
916     int ds, vs;
917     const uint16_t *mb_pos_ptr;
918   
919     *data_size=0;
920     /* special case for last picture */
921     if(buf_size==0)
922         return 0;
923     
924     s->sys = dv_frame_profile(buf);
925     if (!s->sys || buf_size < s->sys->frame_size)
926         return -1; /* NOTE: we only accept several full frames */
927
928         
929     if(s->picture.data[0])
930         avctx->release_buffer(avctx, &s->picture);
931     
932     s->picture.reference = 0;
933     avctx->pix_fmt = s->sys->pix_fmt;
934     avctx->width = s->sys->width;
935     avctx->height = s->sys->height;
936     if(avctx->get_buffer(avctx, &s->picture) < 0) {
937         av_log(avctx, AV_LOG_ERROR, "get_buffer() failed\n");
938         return -1;
939     }
940     s->picture.interlaced_frame = 1;
941     s->picture.top_field_first = 0;
942
943     /* for each DIF segment */
944     mb_pos_ptr = s->sys->video_place;
945     for (ds = 0; ds < s->sys->difseg_size; ds++) {
946         buf += 6 * 80; /* skip DIF segment header */
947         
948         for(vs = 0; vs < 27; vs++) {
949             if ((vs % 3) == 0)
950                 buf += 80; /* skip audio block */
951             
952 #ifdef VLC_DEBUG
953             printf("********************* %d, %d **********************\n", ds, vs);
954 #endif
955             dv_decode_video_segment(s, buf, mb_pos_ptr);
956             buf += 5 * 80;
957             mb_pos_ptr += 5;
958         }
959     }
960
961     emms_c();
962
963     /* return image */
964     *data_size = sizeof(AVFrame);
965     *(AVFrame*)data= s->picture;
966     
967     return s->sys->frame_size;
968 }
969
970 static int dvvideo_encode_frame(AVCodecContext *c, uint8_t *buf, int buf_size, 
971                                 void *data)
972 {
973     DVVideoDecodeContext *s = c->priv_data;
974     const uint16_t *mb_pos_ptr;
975     int ds, vs;
976
977     s->sys = dv_codec_profile(c);
978     if (!s->sys)
979         return -1;
980     
981     c->pix_fmt = s->sys->pix_fmt;
982     s->picture = *((AVFrame *)data);
983
984     /* for each DIF segment */
985     mb_pos_ptr = s->sys->video_place;
986     for (ds = 0; ds < s->sys->difseg_size; ds++) {
987         buf += 6 * 80; /* skip DIF segment header */
988         
989         for(vs = 0; vs < 27; vs++) {
990             if ((vs % 3) == 0)
991                 buf += 80; /* skip audio block */
992
993 #ifdef VLC_DEBUG
994             printf("********************* %d, %d **********************\n", ds, vs);
995 #endif
996             dv_encode_video_segment(s, buf, mb_pos_ptr);
997             buf += 5 * 80;
998             mb_pos_ptr += 5;
999         }
1000     }
1001
1002     emms_c();
1003     return s->sys->frame_size;
1004 }
1005
1006 static int dvvideo_end(AVCodecContext *avctx)
1007 {
1008     avcodec_default_free_buffers(avctx);    
1009     return 0;
1010 }
1011
1012 AVCodec dvvideo_decoder = {
1013     "dvvideo",
1014     CODEC_TYPE_VIDEO,
1015     CODEC_ID_DVVIDEO,
1016     sizeof(DVVideoDecodeContext),
1017     dvvideo_init,
1018     dvvideo_encode_frame,
1019     dvvideo_end,
1020     dvvideo_decode_frame,
1021     CODEC_CAP_DR1,
1022     NULL
1023 };