rl: Add a function for freeing dynamically allocated tables.
[ffmpeg.git] / libavcodec / rl.c
1 /*
2  * This file is part of Libav.
3  *
4  * Libav is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU Lesser General Public
6  * License as published by the Free Software Foundation; either
7  * version 2.1 of the License, or (at your option) any later version.
8  *
9  * Libav is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
12  * Lesser General Public License for more details.
13  *
14  * You should have received a copy of the GNU Lesser General Public
15  * License along with Libav; if not, write to the Free Software
16  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
17  */
18
19 #include <stdint.h>
20
21 #include "libavutil/attributes.h"
22 #include "libavutil/mem.h"
23
24 #include "rl.h"
25
26 void ff_rl_free(RLTable *rl)
27 {
28     int i;
29
30     for (i = 0; i < 2; i++) {
31         av_freep(&rl->max_run[i]);
32         av_freep(&rl->max_level[i]);
33         av_freep(&rl->index_run[i]);
34     }
35 }
36
37 av_cold void ff_rl_init(RLTable *rl,
38                         uint8_t static_store[2][2 * MAX_RUN + MAX_LEVEL + 3])
39 {
40     int8_t  max_level[MAX_RUN + 1], max_run[MAX_LEVEL + 1];
41     uint8_t index_run[MAX_RUN + 1];
42     int last, run, level, start, end, i;
43
44     /* If table is static, we can quit if rl->max_level[0] is not NULL */
45     if (static_store && rl->max_level[0])
46         return;
47
48     /* compute max_level[], max_run[] and index_run[] */
49     for (last = 0; last < 2; last++) {
50         if (last == 0) {
51             start = 0;
52             end = rl->last;
53         } else {
54             start = rl->last;
55             end = rl->n;
56         }
57
58         memset(max_level, 0, MAX_RUN + 1);
59         memset(max_run, 0, MAX_LEVEL + 1);
60         memset(index_run, rl->n, MAX_RUN + 1);
61         for (i = start; i < end; i++) {
62             run   = rl->table_run[i];
63             level = rl->table_level[i];
64             if (index_run[run] == rl->n)
65                 index_run[run] = i;
66             if (level > max_level[run])
67                 max_level[run] = level;
68             if (run > max_run[level])
69                 max_run[level] = run;
70         }
71         if (static_store)
72             rl->max_level[last] = static_store[last];
73         else
74             rl->max_level[last] = av_malloc(MAX_RUN + 1);
75         memcpy(rl->max_level[last], max_level, MAX_RUN + 1);
76         if (static_store)
77             rl->max_run[last]   = static_store[last] + MAX_RUN + 1;
78         else
79             rl->max_run[last]   = av_malloc(MAX_LEVEL + 1);
80         memcpy(rl->max_run[last], max_run, MAX_LEVEL + 1);
81         if (static_store)
82             rl->index_run[last] = static_store[last] + MAX_RUN + MAX_LEVEL + 2;
83         else
84             rl->index_run[last] = av_malloc(MAX_RUN + 1);
85         memcpy(rl->index_run[last], index_run, MAX_RUN + 1);
86     }
87 }
88
89 av_cold void ff_rl_init_vlc(RLTable *rl)
90 {
91     int i, q;
92
93     for (q = 0; q < 32; q++) {
94         int qmul = q * 2;
95         int qadd = (q - 1) | 1;
96
97         if (q == 0) {
98             qmul = 1;
99             qadd = 0;
100         }
101         for (i = 0; i < rl->vlc.table_size; i++) {
102             int code = rl->vlc.table[i][0];
103             int len  = rl->vlc.table[i][1];
104             int level, run;
105
106             if (len == 0) { // illegal code
107                 run   = 66;
108                 level = MAX_LEVEL;
109             } else if (len < 0) { // more bits needed
110                 run   = 0;
111                 level = code;
112             } else {
113                 if (code == rl->n) { // esc
114                     run   = 66;
115                     level =  0;
116                 } else {
117                     run   = rl->table_run[code] + 1;
118                     level = rl->table_level[code] * qmul + qadd;
119                     if (code >= rl->last) run += 192;
120                 }
121             }
122             rl->rl_vlc[q][i].len   = len;
123             rl->rl_vlc[q][i].level = level;
124             rl->rl_vlc[q][i].run   = run;
125         }
126     }
127 }