avcodec/mvha: fix warning: variable 'size' set but not used
[ffmpeg.git] / libavcodec / mvha.c
1 /*
2  * MidiVid Archive codec
3  *
4  * Copyright (c) 2019 Paul B Mahol
5  *
6  * This file is part of FFmpeg.
7  *
8  * FFmpeg is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * FFmpeg is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with FFmpeg; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 #include <stdio.h>
24 #include <stdlib.h>
25 #include <string.h>
26
27 #define CACHED_BITSTREAM_READER !ARCH_X86_32
28 #include "libavutil/intreadwrite.h"
29
30 #include "avcodec.h"
31 #include "bytestream.h"
32 #include "get_bits.h"
33 #include "internal.h"
34 #include "lossless_videodsp.h"
35
36 #include <zlib.h>
37
38 typedef struct MVHAContext {
39     GetBitContext     gb;
40     int nb_symbols;
41
42     uint8_t           symb[256];
43     uint32_t          prob[256];
44     VLC               vlc;
45
46     z_stream          zstream;
47     LLVidDSPContext   llviddsp;
48 } MVHAContext;
49
50 typedef struct Node {
51     int16_t  sym;
52     int16_t  n0;
53     int16_t  l, r;
54     uint32_t count;
55 } Node;
56
57 static void get_tree_codes(uint32_t *bits, int16_t *lens, uint8_t *xlat,
58                            Node *nodes, int node,
59                            uint32_t pfx, int pl, int *pos)
60 {
61     int s;
62
63     s = nodes[node].sym;
64     if (s != -1) {
65         bits[*pos] = (~pfx) & ((1ULL << FFMAX(pl, 1)) - 1);
66         lens[*pos] = FFMAX(pl, 1);
67         xlat[*pos] = s + (pl == 0);
68         (*pos)++;
69     } else {
70         pfx <<= 1;
71         pl++;
72         get_tree_codes(bits, lens, xlat, nodes, nodes[node].l, pfx, pl,
73                        pos);
74         pfx |= 1;
75         get_tree_codes(bits, lens, xlat, nodes, nodes[node].r, pfx, pl,
76                        pos);
77     }
78 }
79
80 static int build_vlc(AVCodecContext *avctx, VLC *vlc)
81 {
82     MVHAContext *s = avctx->priv_data;
83     Node nodes[512];
84     uint32_t bits[256];
85     int16_t lens[256];
86     uint8_t xlat[256];
87     int cur_node, i, j, pos = 0;
88
89     ff_free_vlc(vlc);
90
91     for (i = 0; i < s->nb_symbols; i++) {
92         nodes[i].count = s->prob[i];
93         nodes[i].sym   = s->symb[i];
94         nodes[i].n0    = -2;
95         nodes[i].l     = i;
96         nodes[i].r     = i;
97     }
98
99     cur_node = s->nb_symbols;
100     j = 0;
101     do {
102         for (i = 0; ; i++) {
103             int new_node = j;
104             int first_node = cur_node;
105             int second_node = cur_node;
106             unsigned nd, st;
107
108             nodes[cur_node].count = -1;
109
110             do {
111                 int val = nodes[new_node].count;
112                 if (val && (val < nodes[first_node].count)) {
113                     if (val >= nodes[second_node].count) {
114                         first_node = new_node;
115                     } else {
116                         first_node = second_node;
117                         second_node = new_node;
118                     }
119                 }
120                 new_node += 1;
121             } while (new_node != cur_node);
122
123             if (first_node == cur_node)
124                 break;
125
126             nd = nodes[second_node].count;
127             st = nodes[first_node].count;
128             nodes[second_node].count = 0;
129             nodes[first_node].count  = 0;
130             if (nd >= UINT32_MAX - st) {
131                 av_log(avctx, AV_LOG_ERROR, "count overflow\n");
132                 return AVERROR_INVALIDDATA;
133             }
134             nodes[cur_node].count = nd + st;
135             nodes[cur_node].sym = -1;
136             nodes[cur_node].n0 = cur_node;
137             nodes[cur_node].l = first_node;
138             nodes[cur_node].r = second_node;
139             cur_node++;
140         }
141         j++;
142     } while (cur_node - s->nb_symbols == j);
143
144     get_tree_codes(bits, lens, xlat, nodes, cur_node - 1, 0, 0, &pos);
145
146     return ff_init_vlc_sparse(vlc, 12, pos, lens, 2, 2, bits, 4, 4, xlat, 1, 1, 0);
147 }
148
149 static int decode_frame(AVCodecContext *avctx,
150                         void *data, int *got_frame,
151                         AVPacket *avpkt)
152 {
153     MVHAContext *s = avctx->priv_data;
154     AVFrame *frame = data;
155     uint32_t type, size;
156     int ret;
157
158     if (avpkt->size <= 8)
159         return AVERROR_INVALIDDATA;
160
161     type = AV_RB32(avpkt->data);
162     size = AV_RL32(avpkt->data + 4);
163
164     if (size < 1 || size >= avpkt->size)
165         return AVERROR_INVALIDDATA;
166
167     if ((ret = ff_get_buffer(avctx, frame, 0)) < 0)
168         return ret;
169
170     if (type == MKTAG('L','Z','Y','V')) {
171         ret = inflateReset(&s->zstream);
172         if (ret != Z_OK) {
173             av_log(avctx, AV_LOG_ERROR, "Inflate reset error: %d\n", ret);
174             return AVERROR_EXTERNAL;
175         }
176
177         s->zstream.next_in  = avpkt->data + 8;
178         s->zstream.avail_in = avpkt->size - 8;
179
180         for (int p = 0; p < 3; p++) {
181             for (int y = 0; y < avctx->height; y++) {
182                 s->zstream.next_out  = frame->data[p] + (avctx->height - y - 1) * frame->linesize[p];
183                 s->zstream.avail_out = avctx->width >> (p > 0);
184
185                 ret = inflate(&s->zstream, Z_SYNC_FLUSH);
186                 if (ret != Z_OK && ret != Z_STREAM_END) {
187                     av_log(avctx, AV_LOG_ERROR, "Inflate error: %d\n", ret);
188                     return AVERROR_EXTERNAL;
189                 }
190             }
191         }
192     } else if (type == MKTAG('H','U','F','Y')) {
193         GetBitContext *gb = &s->gb;
194         int first_symbol, symbol;
195
196         ret = init_get_bits8(gb, avpkt->data + 8, avpkt->size - 8);
197         if (ret < 0)
198             return ret;
199
200         skip_bits(gb, 24);
201
202         first_symbol = get_bits(gb, 8);
203         s->nb_symbols = get_bits(gb, 8) + 1;
204
205         symbol = first_symbol;
206         for (int i = 0; i < s->nb_symbols; symbol++) {
207             int prob;
208
209             if (get_bits_left(gb) < 4)
210                 return AVERROR_INVALIDDATA;
211
212             if (get_bits1(gb)) {
213                 prob = get_bits(gb, 12);
214             } else {
215                 prob = get_bits(gb, 3);
216             }
217
218             if (prob) {
219                 s->symb[i] = symbol;
220                 s->prob[i] = prob;
221                 i++;
222             }
223         }
224
225         ret = build_vlc(avctx, &s->vlc);
226         if (ret < 0)
227             return ret;
228
229         for (int p = 0; p < 3; p++) {
230             int width = avctx->width >> (p > 0);
231             ptrdiff_t stride = frame->linesize[p];
232             uint8_t *dst;
233
234             dst = frame->data[p] + (avctx->height - 1) * frame->linesize[p];
235             for (int y = 0; y < avctx->height; y++) {
236                 for (int x = 0; x < width; x++) {
237                     int v = get_vlc2(gb, s->vlc.table, s->vlc.bits, 3);
238
239                     if (v < 0)
240                         return AVERROR_INVALIDDATA;
241
242                     dst[x] = v;
243                 }
244                 dst -= stride;
245             }
246         }
247     } else {
248         return AVERROR_INVALIDDATA;
249     }
250
251     for (int p = 0; p < 3; p++) {
252         int left, lefttop;
253         int width = avctx->width >> (p > 0);
254         ptrdiff_t stride = frame->linesize[p];
255         uint8_t *dst;
256
257         dst = frame->data[p] + (avctx->height - 1) * frame->linesize[p];
258         s->llviddsp.add_left_pred(dst, dst, width, 0);
259         dst -= stride;
260         lefttop = left = dst[0];
261         for (int y = 1; y < avctx->height; y++) {
262             s->llviddsp.add_median_pred(dst, dst + stride, dst, width, &left, &lefttop);
263             lefttop = left = dst[0];
264             dst -= stride;
265         }
266     }
267
268     frame->pict_type = AV_PICTURE_TYPE_I;
269     frame->key_frame = 1;
270     *got_frame = 1;
271
272     return avpkt->size;
273 }
274
275 static av_cold int decode_init(AVCodecContext *avctx)
276 {
277     MVHAContext *s = avctx->priv_data;
278     int zret;
279
280     avctx->pix_fmt = AV_PIX_FMT_YUV422P;
281
282     s->zstream.zalloc = Z_NULL;
283     s->zstream.zfree = Z_NULL;
284     s->zstream.opaque = Z_NULL;
285     zret = inflateInit(&s->zstream);
286     if (zret != Z_OK) {
287         av_log(avctx, AV_LOG_ERROR, "Inflate init error: %d\n", zret);
288         return AVERROR_EXTERNAL;
289     }
290
291     ff_llviddsp_init(&s->llviddsp);
292
293     return 0;
294 }
295
296 static av_cold int decode_close(AVCodecContext *avctx)
297 {
298     MVHAContext *s = avctx->priv_data;
299
300     inflateEnd(&s->zstream);
301     ff_free_vlc(&s->vlc);
302
303     return 0;
304 }
305
306 AVCodec ff_mvha_decoder = {
307     .name             = "mvha",
308     .long_name        = NULL_IF_CONFIG_SMALL("MidiVid Archive Codec"),
309     .type             = AVMEDIA_TYPE_VIDEO,
310     .id               = AV_CODEC_ID_MVHA,
311     .priv_data_size   = sizeof(MVHAContext),
312     .init             = decode_init,
313     .close            = decode_close,
314     .decode           = decode_frame,
315     .capabilities     = AV_CODEC_CAP_DR1,
316     .caps_internal    = FF_CODEC_CAP_INIT_THREADSAFE |
317                         FF_CODEC_CAP_INIT_CLEANUP,
318 };