Merge commit 'fa1923f18205410a3b0aa6c0e77cb31443ef340d'
[ffmpeg.git] / libavcodec / rl.c
1 /*
2  * This file is part of FFmpeg.
3  *
4  * FFmpeg is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU Lesser General Public
6  * License as published by the Free Software Foundation; either
7  * version 2.1 of the License, or (at your option) any later version.
8  *
9  * FFmpeg is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
12  * Lesser General Public License for more details.
13  *
14  * You should have received a copy of the GNU Lesser General Public
15  * License along with FFmpeg; if not, write to the Free Software
16  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
17  */
18
19 #include <stdint.h>
20
21 #include "libavutil/attributes.h"
22
23 #include "rl.h"
24
25 av_cold void ff_init_rl(RLTable *rl,
26                         uint8_t static_store[2][2 * MAX_RUN + MAX_LEVEL + 3])
27 {
28     int8_t  max_level[MAX_RUN + 1], max_run[MAX_LEVEL + 1];
29     uint8_t index_run[MAX_RUN + 1];
30     int last, run, level, start, end, i;
31
32     /* If table is static, we can quit if rl->max_level[0] is not NULL */
33     if (static_store && rl->max_level[0])
34         return;
35
36     /* compute max_level[], max_run[] and index_run[] */
37     for (last = 0; last < 2; last++) {
38         if (last == 0) {
39             start = 0;
40             end = rl->last;
41         } else {
42             start = rl->last;
43             end = rl->n;
44         }
45
46         memset(max_level, 0, MAX_RUN + 1);
47         memset(max_run, 0, MAX_LEVEL + 1);
48         memset(index_run, rl->n, MAX_RUN + 1);
49         for (i = start; i < end; i++) {
50             run   = rl->table_run[i];
51             level = rl->table_level[i];
52             if (index_run[run] == rl->n)
53                 index_run[run] = i;
54             if (level > max_level[run])
55                 max_level[run] = level;
56             if (run > max_run[level])
57                 max_run[level] = run;
58         }
59         if (static_store)
60             rl->max_level[last] = static_store[last];
61         else
62             rl->max_level[last] = av_malloc(MAX_RUN + 1);
63         memcpy(rl->max_level[last], max_level, MAX_RUN + 1);
64         if (static_store)
65             rl->max_run[last]   = static_store[last] + MAX_RUN + 1;
66         else
67             rl->max_run[last]   = av_malloc(MAX_LEVEL + 1);
68         memcpy(rl->max_run[last], max_run, MAX_LEVEL + 1);
69         if (static_store)
70             rl->index_run[last] = static_store[last] + MAX_RUN + MAX_LEVEL + 2;
71         else
72             rl->index_run[last] = av_malloc(MAX_RUN + 1);
73         memcpy(rl->index_run[last], index_run, MAX_RUN + 1);
74     }
75 }
76
77 av_cold void ff_init_vlc_rl(RLTable *rl, unsigned static_size)
78 {
79     int i, q;
80     VLC_TYPE table[1500][2] = {{0}};
81     VLC vlc = { .table = table, .table_allocated = static_size };
82     av_assert0(static_size <= FF_ARRAY_ELEMS(table));
83     init_vlc(&vlc, 9, rl->n + 1, &rl->table_vlc[0][1], 4, 2, &rl->table_vlc[0][0], 4, 2, INIT_VLC_USE_NEW_STATIC);
84
85     for (q = 0; q < 32; q++) {
86         int qmul = q * 2;
87         int qadd = (q - 1) | 1;
88
89         if (q == 0) {
90             qmul = 1;
91             qadd = 0;
92         }
93         for (i = 0; i < vlc.table_size; i++) {
94             int code = vlc.table[i][0];
95             int len  = vlc.table[i][1];
96             int level, run;
97
98             if (len == 0) { // illegal code
99                 run   = 66;
100                 level = MAX_LEVEL;
101             } else if (len < 0) { // more bits needed
102                 run   = 0;
103                 level = code;
104             } else {
105                 if (code == rl->n) { // esc
106                     run   = 66;
107                     level =  0;
108                 } else {
109                     run   = rl->table_run[code] + 1;
110                     level = rl->table_level[code] * qmul + qadd;
111                     if (code >= rl->last) run += 192;
112                 }
113             }
114             rl->rl_vlc[q][i].len   = len;
115             rl->rl_vlc[q][i].level = level;
116             rl->rl_vlc[q][i].run   = run;
117         }
118     }
119 }