proresenc: Drop unnecessary DCT permutation bits
[ffmpeg.git] / libavcodec / proresdsp.c
1 /*
2  * Apple ProRes compatible decoder
3  *
4  * Copyright (c) 2010-2011 Maxim Poliakovski
5  *
6  * This file is part of Libav.
7  *
8  * Libav is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * Libav is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with Libav; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 #include "libavutil/attributes.h"
24 #include "libavutil/common.h"
25 #include "dct.h"
26 #include "dsputil.h"
27 #include "proresdsp.h"
28 #include "simple_idct.h"
29
30 #define BIAS     (1 << (PRORES_BITS_PER_SAMPLE - 1))           ///< bias value for converting signed pixels into unsigned ones
31 #define CLIP_MIN (1 << (PRORES_BITS_PER_SAMPLE - 8))           ///< minimum value for clipping resulting pixels
32 #define CLIP_MAX (1 << PRORES_BITS_PER_SAMPLE) - CLIP_MIN - 1  ///< maximum value for clipping resulting pixels
33
34 #define CLIP_AND_BIAS(x) (av_clip((x) + BIAS, CLIP_MIN, CLIP_MAX))
35
36 #if CONFIG_PRORES_DECODER
37 /**
38  * Add bias value, clamp and output pixels of a slice
39  */
40 static void put_pixels(uint16_t *dst, int stride, const int16_t *in)
41 {
42     int x, y, src_offset, dst_offset;
43
44     for (y = 0, dst_offset = 0; y < 8; y++, dst_offset += stride) {
45         for (x = 0; x < 8; x++) {
46             src_offset = (y << 3) + x;
47
48             dst[dst_offset + x] = CLIP_AND_BIAS(in[src_offset]);
49         }
50     }
51 }
52
53 static void prores_idct_put_c(uint16_t *out, int linesize, int16_t *block, const int16_t *qmat)
54 {
55     ff_prores_idct(block, qmat);
56     put_pixels(out, linesize >> 1, block);
57 }
58 #endif
59
60 #if CONFIG_PRORES_ENCODER
61 static void prores_fdct_c(const uint16_t *src, int linesize, int16_t *block)
62 {
63     int x, y;
64     const uint16_t *tsrc = src;
65
66     for (y = 0; y < 8; y++) {
67         for (x = 0; x < 8; x++)
68             block[y * 8 + x] = tsrc[x];
69         tsrc += linesize >> 1;
70     }
71     ff_jpeg_fdct_islow_10(block);
72 }
73 #endif
74
75 av_cold void ff_proresdsp_init(ProresDSPContext *dsp)
76 {
77 #if CONFIG_PRORES_DECODER
78     dsp->idct_put = prores_idct_put_c;
79     dsp->idct_permutation_type = FF_NO_IDCT_PERM;
80
81     if (ARCH_X86)
82         ff_proresdsp_init_x86(dsp);
83
84     ff_init_scantable_permutation(dsp->idct_permutation,
85                                   dsp->idct_permutation_type);
86 #endif
87 #if CONFIG_PRORES_ENCODER
88     dsp->fdct                 = prores_fdct_c;
89 #endif
90 }