cavsdec: fix qp fixed slice handling
[ffmpeg.git] / libavcodec / dvdec.c
1 /*
2  * DV decoder
3  * Copyright (c) 2002 Fabrice Bellard
4  * Copyright (c) 2004 Roman Shaposhnik
5  *
6  * 50 Mbps (DVCPRO50) support
7  * Copyright (c) 2006 Daniel Maas <dmaas@maasdigital.com>
8  *
9  * 100 Mbps (DVCPRO HD) support
10  * Initial code by Daniel Maas <dmaas@maasdigital.com> (funded by BBC R&D)
11  * Final code by Roman Shaposhnik
12  *
13  * Many thanks to Dan Dennedy <dan@dennedy.org> for providing wealth
14  * of DV technical info.
15  *
16  * This file is part of FFmpeg.
17  *
18  * FFmpeg is free software; you can redistribute it and/or
19  * modify it under the terms of the GNU Lesser General Public
20  * License as published by the Free Software Foundation; either
21  * version 2.1 of the License, or (at your option) any later version.
22  *
23  * FFmpeg is distributed in the hope that it will be useful,
24  * but WITHOUT ANY WARRANTY; without even the implied warranty of
25  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
26  * Lesser General Public License for more details.
27  *
28  * You should have received a copy of the GNU Lesser General Public
29  * License along with FFmpeg; if not, write to the Free Software
30  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
31  */
32
33 /**
34  * @file
35  * DV decoder
36  */
37
38 #include "libavutil/avassert.h"
39 #include "libavutil/internal.h"
40 #include "libavutil/pixdesc.h"
41 #include "avcodec.h"
42 #include "internal.h"
43 #include "get_bits.h"
44 #include "put_bits.h"
45 #include "simple_idct.h"
46 #include "dvdata.h"
47 #include "dv.h"
48
49 typedef struct BlockInfo {
50     const uint32_t *factor_table;
51     const uint8_t *scan_table;
52     uint8_t pos; /* position in block */
53     void (*idct_put)(uint8_t *dest, int line_size, int16_t *block);
54     uint8_t partial_bit_count;
55     uint32_t partial_bit_buffer;
56     int shift_offset;
57 } BlockInfo;
58
59 static const int dv_iweight_bits = 14;
60
61 /* decode AC coefficients */
62 static void dv_decode_ac(GetBitContext *gb, BlockInfo *mb, int16_t *block)
63 {
64     int last_index = gb->size_in_bits;
65     const uint8_t  *scan_table   = mb->scan_table;
66     const uint32_t *factor_table = mb->factor_table;
67     int pos               = mb->pos;
68     int partial_bit_count = mb->partial_bit_count;
69     int level, run, vlc_len, index;
70
71     OPEN_READER(re, gb);
72     UPDATE_CACHE(re, gb);
73
74     /* if we must parse a partial VLC, we do it here */
75     if (partial_bit_count > 0) {
76         re_cache = re_cache >> partial_bit_count | mb->partial_bit_buffer;
77         re_index -= partial_bit_count;
78         mb->partial_bit_count = 0;
79     }
80
81     /* get the AC coefficients until last_index is reached */
82     for (;;) {
83         av_dlog(NULL, "%2d: bits=%04x index=%d\n", pos, SHOW_UBITS(re, gb, 16),
84                 re_index);
85         /* our own optimized GET_RL_VLC */
86         index   = NEG_USR32(re_cache, TEX_VLC_BITS);
87         vlc_len = ff_dv_rl_vlc[index].len;
88         if (vlc_len < 0) {
89             index = NEG_USR32((unsigned)re_cache << TEX_VLC_BITS, -vlc_len) +
90                     ff_dv_rl_vlc[index].level;
91             vlc_len = TEX_VLC_BITS - vlc_len;
92         }
93         level = ff_dv_rl_vlc[index].level;
94         run   = ff_dv_rl_vlc[index].run;
95
96         /* gotta check if we're still within gb boundaries */
97         if (re_index + vlc_len > last_index) {
98             /* should be < 16 bits otherwise a codeword could have been parsed */
99             mb->partial_bit_count = last_index - re_index;
100             mb->partial_bit_buffer = re_cache & ~(-1u >> mb->partial_bit_count);
101             re_index = last_index;
102             break;
103         }
104         re_index += vlc_len;
105
106         av_dlog(NULL, "run=%d level=%d\n", run, level);
107         pos += run;
108         if (pos >= 64)
109             break;
110
111         level = (level * factor_table[pos] + (1 << (dv_iweight_bits - 1))) >> dv_iweight_bits;
112         block[scan_table[pos]] = level;
113
114         UPDATE_CACHE(re, gb);
115     }
116     CLOSE_READER(re, gb);
117     mb->pos = pos;
118 }
119
120 static inline void bit_copy(PutBitContext *pb, GetBitContext *gb)
121 {
122     int bits_left = get_bits_left(gb);
123     while (bits_left >= MIN_CACHE_BITS) {
124         put_bits(pb, MIN_CACHE_BITS, get_bits(gb, MIN_CACHE_BITS));
125         bits_left -= MIN_CACHE_BITS;
126     }
127     if (bits_left > 0) {
128         put_bits(pb, bits_left, get_bits(gb, bits_left));
129     }
130 }
131
132 /* mb_x and mb_y are in units of 8 pixels */
133 static int dv_decode_video_segment(AVCodecContext *avctx, void *arg)
134 {
135     DVVideoContext *s = avctx->priv_data;
136     DVwork_chunk *work_chunk = arg;
137     int quant, dc, dct_mode, class1, j;
138     int mb_index, mb_x, mb_y, last_index;
139     int y_stride, linesize;
140     int16_t *block, *block1;
141     int c_offset;
142     uint8_t *y_ptr;
143     const uint8_t *buf_ptr;
144     PutBitContext pb, vs_pb;
145     GetBitContext gb;
146     BlockInfo mb_data[5 * DV_MAX_BPM], *mb, *mb1;
147     LOCAL_ALIGNED_16(int16_t, sblock, [5*DV_MAX_BPM], [64]);
148     LOCAL_ALIGNED_16(uint8_t, mb_bit_buffer, [  80 + FF_INPUT_BUFFER_PADDING_SIZE]); /* allow some slack */
149     LOCAL_ALIGNED_16(uint8_t, vs_bit_buffer, [5*80 + FF_INPUT_BUFFER_PADDING_SIZE]); /* allow some slack */
150     const int log2_blocksize = 3-s->avctx->lowres;
151     int is_field_mode[5];
152
153     av_assert1((((int)mb_bit_buffer) & 7) == 0);
154     av_assert1((((int)vs_bit_buffer) & 7) == 0);
155
156     memset(sblock, 0, 5*DV_MAX_BPM*sizeof(*sblock));
157
158     /* pass 1: read DC and AC coefficients in blocks */
159     buf_ptr = &s->buf[work_chunk->buf_offset*80];
160     block1  = &sblock[0][0];
161     mb1     = mb_data;
162     init_put_bits(&vs_pb, vs_bit_buffer, 5 * 80);
163     for (mb_index = 0; mb_index < 5; mb_index++, mb1 += s->sys->bpm, block1 += s->sys->bpm * 64) {
164         /* skip header */
165         quant = buf_ptr[3] & 0x0f;
166         buf_ptr += 4;
167         init_put_bits(&pb, mb_bit_buffer, 80);
168         mb    = mb1;
169         block = block1;
170         is_field_mode[mb_index] = 0;
171         for (j = 0; j < s->sys->bpm; j++) {
172             last_index = s->sys->block_sizes[j];
173             init_get_bits(&gb, buf_ptr, last_index);
174
175             /* get the DC */
176             dc       = get_sbits(&gb, 9);
177             dct_mode = get_bits1(&gb);
178             class1   = get_bits(&gb, 2);
179             if (DV_PROFILE_IS_HD(s->sys)) {
180                 mb->idct_put     = s->idct_put[0];
181                 mb->scan_table   = s->dv_zigzag[0];
182                 mb->factor_table = &s->sys->idct_factor[(j >= 4)*4*16*64 + class1*16*64 + quant*64];
183                 is_field_mode[mb_index] |= !j && dct_mode;
184             } else {
185                 mb->idct_put     = s->idct_put[dct_mode && log2_blocksize == 3];
186                 mb->scan_table   = s->dv_zigzag[dct_mode];
187                 mb->factor_table = &s->sys->idct_factor[(class1 == 3)*2*22*64 + dct_mode*22*64 +
188                                                         (quant + ff_dv_quant_offset[class1])*64];
189             }
190             dc = dc << 2;
191             /* convert to unsigned because 128 is not added in the
192                standard IDCT */
193             dc += 1024;
194             block[0] = dc;
195             buf_ptr += last_index >> 3;
196             mb->pos               = 0;
197             mb->partial_bit_count = 0;
198
199             av_dlog(avctx, "MB block: %d, %d ", mb_index, j);
200             dv_decode_ac(&gb, mb, block);
201
202             /* write the remaining bits in a new buffer only if the
203                block is finished */
204             if (mb->pos >= 64)
205                 bit_copy(&pb, &gb);
206
207             block += 64;
208             mb++;
209         }
210
211         /* pass 2: we can do it just after */
212         av_dlog(avctx, "***pass 2 size=%d MB#=%d\n", put_bits_count(&pb), mb_index);
213         block = block1;
214         mb    = mb1;
215         init_get_bits(&gb, mb_bit_buffer, put_bits_count(&pb));
216         put_bits32(&pb, 0); // padding must be zeroed
217         flush_put_bits(&pb);
218         for (j = 0; j < s->sys->bpm; j++, block += 64, mb++) {
219             if (mb->pos < 64 && get_bits_left(&gb) > 0) {
220                 dv_decode_ac(&gb, mb, block);
221                 /* if still not finished, no need to parse other blocks */
222                 if (mb->pos < 64)
223                     break;
224             }
225         }
226         /* all blocks are finished, so the extra bytes can be used at
227            the video segment level */
228         if (j >= s->sys->bpm)
229             bit_copy(&vs_pb, &gb);
230     }
231
232     /* we need a pass over the whole video segment */
233     av_dlog(avctx, "***pass 3 size=%d\n", put_bits_count(&vs_pb));
234     block = &sblock[0][0];
235     mb    = mb_data;
236     init_get_bits(&gb, vs_bit_buffer, put_bits_count(&vs_pb));
237     put_bits32(&vs_pb, 0); // padding must be zeroed
238     flush_put_bits(&vs_pb);
239     for (mb_index = 0; mb_index < 5; mb_index++) {
240         for (j = 0; j < s->sys->bpm; j++) {
241             if (mb->pos < 64 && get_bits_left(&gb) > 0) {
242                 av_dlog(avctx, "start %d:%d\n", mb_index, j);
243                 dv_decode_ac(&gb, mb, block);
244             }
245             if (mb->pos >= 64 && mb->pos < 127)
246                 av_log(avctx, AV_LOG_ERROR, "AC EOB marker is absent pos=%d\n", mb->pos);
247             block += 64;
248             mb++;
249         }
250     }
251
252     /* compute idct and place blocks */
253     block = &sblock[0][0];
254     mb    = mb_data;
255     for (mb_index = 0; mb_index < 5; mb_index++) {
256         dv_calculate_mb_xy(s, work_chunk, mb_index, &mb_x, &mb_y);
257
258         /* idct_put'ting luminance */
259         if ((s->sys->pix_fmt == AV_PIX_FMT_YUV420P) ||
260             (s->sys->pix_fmt == AV_PIX_FMT_YUV411P && mb_x >= (704 / 8)) ||
261             (s->sys->height >= 720 && mb_y != 134)) {
262             y_stride = (s->frame->linesize[0] << ((!is_field_mode[mb_index]) * log2_blocksize));
263         } else {
264             y_stride = (2 << log2_blocksize);
265         }
266         y_ptr = s->frame->data[0] + ((mb_y * s->frame->linesize[0] + mb_x) << log2_blocksize);
267         linesize = s->frame->linesize[0] << is_field_mode[mb_index];
268         mb[0]    .idct_put(y_ptr                                   , linesize, block + 0*64);
269         if (s->sys->video_stype == 4) { /* SD 422 */
270             mb[2].idct_put(y_ptr + (1 << log2_blocksize)           , linesize, block + 2*64);
271         } else {
272             mb[1].idct_put(y_ptr + (1 << log2_blocksize)           , linesize, block + 1*64);
273             mb[2].idct_put(y_ptr                         + y_stride, linesize, block + 2*64);
274             mb[3].idct_put(y_ptr + (1 << log2_blocksize) + y_stride, linesize, block + 3*64);
275         }
276         mb += 4;
277         block += 4*64;
278
279         /* idct_put'ting chrominance */
280         c_offset = (((mb_y >>  (s->sys->pix_fmt == AV_PIX_FMT_YUV420P)) * s->frame->linesize[1] +
281                      (mb_x >> ((s->sys->pix_fmt == AV_PIX_FMT_YUV411P) ? 2 : 1))) << log2_blocksize);
282         for (j = 2; j; j--) {
283             uint8_t *c_ptr = s->frame->data[j] + c_offset;
284             if (s->sys->pix_fmt == AV_PIX_FMT_YUV411P && mb_x >= (704 / 8)) {
285                   uint64_t aligned_pixels[64/8];
286                   uint8_t *pixels = (uint8_t*)aligned_pixels;
287                   uint8_t *c_ptr1, *ptr1;
288                   int x, y;
289                   mb->idct_put(pixels, 8, block);
290                   for (y = 0; y < (1 << log2_blocksize); y++, c_ptr += s->frame->linesize[j], pixels += 8) {
291                       ptr1   = pixels + ((1 << (log2_blocksize))>>1);
292                       c_ptr1 = c_ptr + (s->frame->linesize[j] << log2_blocksize);
293                       for (x = 0; x < (1 << FFMAX(log2_blocksize - 1, 0)); x++) {
294                           c_ptr[x]  = pixels[x];
295                           c_ptr1[x] = ptr1[x];
296                       }
297                   }
298                   block += 64; mb++;
299             } else {
300                   y_stride = (mb_y == 134) ? (1 << log2_blocksize) :
301                                              s->frame->linesize[j] << ((!is_field_mode[mb_index]) * log2_blocksize);
302                   linesize = s->frame->linesize[j] << is_field_mode[mb_index];
303                   (mb++)->    idct_put(c_ptr           , linesize, block); block += 64;
304                   if (s->sys->bpm == 8) {
305                       (mb++)->idct_put(c_ptr + y_stride, linesize, block); block += 64;
306                   }
307             }
308         }
309     }
310     return 0;
311 }
312
313 /* NOTE: exactly one frame must be given (120000 bytes for NTSC,
314    144000 bytes for PAL - or twice those for 50Mbps) */
315 static int dvvideo_decode_frame(AVCodecContext *avctx,
316                                  void *data, int *got_frame,
317                                  AVPacket *avpkt)
318 {
319     uint8_t *buf = avpkt->data;
320     int buf_size = avpkt->size;
321     DVVideoContext *s = avctx->priv_data;
322     const uint8_t* vsc_pack;
323     int apt, is16_9, ret;
324
325     s->sys = avpriv_dv_frame_profile2(avctx, s->sys, buf, buf_size);
326     if (!s->sys || buf_size < s->sys->frame_size || ff_dv_init_dynamic_tables(s->sys)) {
327         av_log(avctx, AV_LOG_ERROR, "could not find dv frame profile\n");
328         return -1; /* NOTE: we only accept several full frames */
329     }
330
331     s->frame            = data;
332     s->frame->key_frame = 1;
333     s->frame->pict_type = AV_PICTURE_TYPE_I;
334     avctx->pix_fmt   = s->sys->pix_fmt;
335     avctx->time_base = s->sys->time_base;
336
337     ret = ff_set_dimensions(avctx, s->sys->width, s->sys->height);
338     if (ret < 0)
339         return ret;
340
341     if ((ret = ff_get_buffer(avctx, s->frame, 0)) < 0)
342         return ret;
343     s->frame->interlaced_frame = 1;
344     s->frame->top_field_first  = 0;
345
346     /* Determine the codec's sample_aspect ratio and field order from the packet */
347     vsc_pack = buf + 80*5 + 48 + 5;
348     if ( *vsc_pack == dv_video_control ) {
349         apt = buf[4] & 0x07;
350         is16_9 = (vsc_pack[2] & 0x07) == 0x02 || (!apt && (vsc_pack[2] & 0x07) == 0x07);
351         avctx->sample_aspect_ratio = s->sys->sar[is16_9];
352         s->frame->top_field_first = !(vsc_pack[3] & 0x40);
353     }
354
355     s->buf = buf;
356     avctx->execute(avctx, dv_decode_video_segment, s->sys->work_chunks, NULL,
357                    dv_work_pool_size(s->sys), sizeof(DVwork_chunk));
358
359     emms_c();
360
361     /* return image */
362     *got_frame = 1;
363
364     return s->sys->frame_size;
365 }
366
367 AVCodec ff_dvvideo_decoder = {
368     .name           = "dvvideo",
369     .long_name      = NULL_IF_CONFIG_SMALL("DV (Digital Video)"),
370     .type           = AVMEDIA_TYPE_VIDEO,
371     .id             = AV_CODEC_ID_DVVIDEO,
372     .priv_data_size = sizeof(DVVideoContext),
373     .init           = ff_dvvideo_init,
374     .decode         = dvvideo_decode_frame,
375     .capabilities   = CODEC_CAP_DR1 | CODEC_CAP_SLICE_THREADS,
376     .max_lowres     = 3,
377 };