swr: Implement Noise shaping dither
[ffmpeg.git] / libswresample / dither.c
1 /*
2  * Copyright (C) 2012 Michael Niedermayer (michaelni@gmx.at)
3  *
4  * This file is part of libswresample
5  *
6  * libswresample is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * libswresample is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with libswresample; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 #include "libavutil/avassert.h"
22 #include "swresample_internal.h"
23
24 #include "noise_shaping_data.c"
25
26 void swri_get_dither(SwrContext *s, void *dst, int len, unsigned seed, enum AVSampleFormat out_fmt, enum AVSampleFormat in_fmt) {
27     double scale = 0;
28 #define TMP_EXTRA 2
29     double *tmp = av_malloc((len + TMP_EXTRA) * sizeof(double));
30     int i;
31
32     out_fmt = av_get_packed_sample_fmt(out_fmt);
33     in_fmt  = av_get_packed_sample_fmt( in_fmt);
34
35     if(in_fmt == AV_SAMPLE_FMT_FLT || in_fmt == AV_SAMPLE_FMT_DBL){
36         if(out_fmt == AV_SAMPLE_FMT_S32) scale = 1.0/(1L<<31);
37         if(out_fmt == AV_SAMPLE_FMT_S16) scale = 1.0/(1L<<15);
38         if(out_fmt == AV_SAMPLE_FMT_U8 ) scale = 1.0/(1L<< 7);
39     }
40     if(in_fmt == AV_SAMPLE_FMT_S32 && out_fmt == AV_SAMPLE_FMT_S16) scale = 1L<<16;
41     if(in_fmt == AV_SAMPLE_FMT_S32 && out_fmt == AV_SAMPLE_FMT_U8 ) scale = 1L<<24;
42     if(in_fmt == AV_SAMPLE_FMT_S16 && out_fmt == AV_SAMPLE_FMT_U8 ) scale = 1L<<8;
43
44     scale *= s->dither_scale;
45
46     s->ns_pos = 0;
47     s->ns_scale   =   scale;
48     s->ns_scale_1 = 1/scale;
49     memset(s->ns_errors, 0, sizeof(s->ns_errors));
50     for (i=0; filters[i].coefs; i++) {
51         const filter_t *f = &filters[i];
52         if (fabs(s->out_sample_rate - f->rate) / f->rate <= .05 && f->name == s->dither_method) {
53             int j;
54             s->ns_taps = f->len;
55             for (j=0; j<f->len; j++)
56                 s->ns_coeffs[j] = f->coefs[j];
57             break;
58         }
59     }
60     if (!filters[i].coefs && s->dither_method > SWR_DITHER_NS) {
61         av_log(s, AV_LOG_WARNING, "Requested noise shaping dither not available at this sampling rate, using triangular hp dither\n");
62         s->dither_method = SWR_DITHER_TRIANGULAR_HIGHPASS;
63     }
64
65     for(i=0; i<len + TMP_EXTRA; i++){
66         double v;
67         seed = seed* 1664525 + 1013904223;
68
69         switch(s->dither_method){
70             case SWR_DITHER_RECTANGULAR: v= ((double)seed) / UINT_MAX - 0.5; break;
71             default:
72                 av_assert0(s->dither_method < SWR_DITHER_NB);
73                 v = ((double)seed) / UINT_MAX;
74                 seed = seed*1664525 + 1013904223;
75                 v-= ((double)seed) / UINT_MAX;
76                 break;
77         }
78         tmp[i] = v;
79     }
80
81     for(i=0; i<len; i++){
82         double v;
83
84         switch(s->dither_method){
85             default:
86                 av_assert0(s->dither_method < SWR_DITHER_NB);
87                 v = tmp[i];
88                 break;
89             case SWR_DITHER_TRIANGULAR_HIGHPASS :
90                 v = (- tmp[i] + 2*tmp[i+1] - tmp[i+2]) / sqrt(6);
91                 break;
92         }
93
94         v*= scale;
95
96         switch(in_fmt){
97             case AV_SAMPLE_FMT_S16: ((int16_t*)dst)[i] = v; break;
98             case AV_SAMPLE_FMT_S32: ((int32_t*)dst)[i] = v; break;
99             case AV_SAMPLE_FMT_FLT: ((float  *)dst)[i] = v; break;
100             case AV_SAMPLE_FMT_DBL: ((double *)dst)[i] = v; break;
101             default: av_assert0(0);
102         }
103     }
104
105     av_free(tmp);
106 }
107
108 #define TEMPLATE_DITHER_S16
109 #include "dither_template.c"
110 #undef TEMPLATE_DITHER_S16
111
112 #define TEMPLATE_DITHER_S32
113 #include "dither_template.c"
114 #undef TEMPLATE_DITHER_S32
115
116 #define TEMPLATE_DITHER_FLT
117 #include "dither_template.c"
118 #undef TEMPLATE_DITHER_FLT
119
120 #define TEMPLATE_DITHER_DBL
121 #include "dither_template.c"
122 #undef TEMPLATE_DITHER_DBL