avcodec/scpr: Check y in first line loop in decompress_i()
[ffmpeg.git] / libavcodec / scpr.c
1 /*
2  * ScreenPressor decoder
3  *
4  * Copyright (c) 2017 Paul B Mahol
5  *
6  * This file is part of FFmpeg.
7  *
8  * FFmpeg is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * FFmpeg is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with FFmpeg; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 #include <stdio.h>
24 #include <stdlib.h>
25 #include <string.h>
26
27 #include "avcodec.h"
28 #include "bytestream.h"
29 #include "internal.h"
30
31 #define TOP  0x01000000
32 #define BOT    0x010000
33
34 typedef struct RangeCoder {
35     unsigned   code;
36     unsigned   range;
37     unsigned   code1;
38 } RangeCoder;
39
40 typedef struct PixelModel {
41     unsigned    freq[256];
42     unsigned    lookup[16];
43     unsigned    total_freq;
44 } PixelModel;
45
46 typedef struct SCPRContext {
47     AVFrame        *last_frame;
48     AVFrame        *current_frame;
49     GetByteContext  gb;
50     RangeCoder      rc;
51     PixelModel      pixel_model[3][4096];
52     unsigned        op_model[6][7];
53     unsigned        run_model[6][257];
54     unsigned        range_model[257];
55     unsigned        count_model[257];
56     unsigned        fill_model[6];
57     unsigned        sxy_model[4][17];
58     unsigned        mv_model[2][513];
59     unsigned        nbx, nby;
60     unsigned        nbcount;
61     unsigned       *blocks;
62     unsigned        cbits;
63     int             cxshift;
64
65     int           (*get_freq)(RangeCoder *rc, unsigned total_freq, unsigned *freq);
66     int           (*decode)(GetByteContext *gb, RangeCoder *rc, unsigned cumFreq, unsigned freq, unsigned total_freq);
67 } SCPRContext;
68
69 static void init_rangecoder(RangeCoder *rc, GetByteContext *gb)
70 {
71     rc->code1 = 0;
72     rc->range = 0xFFFFFFFFU;
73     rc->code  = bytestream2_get_be32(gb);
74 }
75
76 static void reinit_tables(SCPRContext *s)
77 {
78     int comp, i, j;
79
80     for (comp = 0; comp < 3; comp++) {
81         for (j = 0; j < 4096; j++) {
82             if (s->pixel_model[comp][j].total_freq != 256) {
83                 for (i = 0; i < 256; i++)
84                     s->pixel_model[comp][j].freq[i] = 1;
85                 for (i = 0; i < 16; i++)
86                     s->pixel_model[comp][j].lookup[i] = 16;
87                 s->pixel_model[comp][j].total_freq = 256;
88             }
89         }
90     }
91
92     for (j = 0; j < 6; j++) {
93         unsigned *p = s->run_model[j];
94         for (i = 0; i < 256; i++)
95             p[i] = 1;
96         p[256] = 256;
97     }
98
99     for (j = 0; j < 6; j++) {
100         unsigned *op = s->op_model[j];
101         for (i = 0; i < 6; i++)
102             op[i] = 1;
103         op[6] = 6;
104     }
105
106     for (i = 0; i < 256; i++) {
107         s->range_model[i] = 1;
108         s->count_model[i] = 1;
109     }
110     s->range_model[256] = 256;
111     s->count_model[256] = 256;
112
113     for (i = 0; i < 5; i++) {
114         s->fill_model[i] = 1;
115     }
116     s->fill_model[5] = 5;
117
118     for (j = 0; j < 4; j++) {
119         for (i = 0; i < 16; i++) {
120             s->sxy_model[j][i] = 1;
121         }
122         s->sxy_model[j][16] = 16;
123     }
124
125     for (i = 0; i < 512; i++) {
126         s->mv_model[0][i] = 1;
127         s->mv_model[1][i] = 1;
128     }
129     s->mv_model[0][512] = 512;
130     s->mv_model[1][512] = 512;
131 }
132
133 static int decode(GetByteContext *gb, RangeCoder *rc, unsigned cumFreq, unsigned freq, unsigned total_freq)
134 {
135     rc->code -= cumFreq * rc->range;
136     rc->range *= freq;
137
138     while (rc->range < TOP && bytestream2_get_bytes_left(gb) > 0) {
139         unsigned byte = bytestream2_get_byte(gb);
140         rc->code = (rc->code << 8) | byte;
141         rc->range <<= 8;
142     }
143
144     return 0;
145 }
146
147 static int get_freq(RangeCoder *rc, unsigned total_freq, unsigned *freq)
148 {
149     if (total_freq == 0)
150         return AVERROR_INVALIDDATA;
151
152     rc->range = rc->range / total_freq;
153
154     if (rc->range == 0)
155         return AVERROR_INVALIDDATA;
156
157     *freq = rc->code / rc->range;
158
159     return 0;
160 }
161
162 static int decode0(GetByteContext *gb, RangeCoder *rc, unsigned cumFreq, unsigned freq, unsigned total_freq)
163 {
164     unsigned t;
165
166     if (total_freq == 0)
167         return AVERROR_INVALIDDATA;
168
169     t = rc->range * (uint64_t)cumFreq / total_freq;
170
171     rc->code1 += t + 1;
172     rc->range = rc->range * (uint64_t)(freq + cumFreq) / total_freq - (t + 1);
173
174     while (rc->range < TOP && bytestream2_get_bytes_left(gb) > 0) {
175         unsigned byte = bytestream2_get_byte(gb);
176         rc->code = (rc->code << 8) | byte;
177         rc->code1 <<= 8;
178         rc->range <<= 8;
179     }
180
181     return 0;
182 }
183
184 static int get_freq0(RangeCoder *rc, unsigned total_freq, unsigned *freq)
185 {
186     if (rc->range == 0)
187         return AVERROR_INVALIDDATA;
188
189     *freq = total_freq * (uint64_t)(rc->code - rc->code1) / rc->range;
190
191     return 0;
192 }
193
194 static int decode_value(SCPRContext *s, unsigned *cnt, unsigned maxc, unsigned step, unsigned *rval)
195 {
196     GetByteContext *gb = &s->gb;
197     RangeCoder *rc = &s->rc;
198     unsigned totfr = cnt[maxc];
199     unsigned value;
200     unsigned c = 0, cumfr = 0, cnt_c = 0;
201     int i, ret;
202
203     if ((ret = s->get_freq(rc, totfr, &value)) < 0)
204         return ret;
205
206     while (c < maxc) {
207         cnt_c = cnt[c];
208         if (value >= cumfr + cnt_c)
209             cumfr += cnt_c;
210         else
211             break;
212         c++;
213     }
214     if ((ret = s->decode(gb, rc, cumfr, cnt_c, totfr)) < 0)
215         return ret;
216
217     cnt[c] = cnt_c + step;
218     totfr += step;
219     if (totfr > BOT) {
220         totfr = 0;
221         for (i = 0; i < maxc; i++) {
222             unsigned nc = (cnt[i] >> 1) + 1;
223             cnt[i] = nc;
224             totfr += nc;
225         }
226     }
227
228     cnt[maxc] = totfr;
229     *rval = c;
230
231     return 0;
232 }
233
234 static int decode_unit(SCPRContext *s, PixelModel *pixel, unsigned step, unsigned *rval)
235 {
236     GetByteContext *gb = &s->gb;
237     RangeCoder *rc = &s->rc;
238     unsigned totfr = pixel->total_freq;
239     unsigned value, x = 0, cumfr = 0, cnt_x = 0;
240     int i, j, ret, c, cnt_c;
241
242     if ((ret = s->get_freq(rc, totfr, &value)) < 0)
243         return ret;
244
245     while (x < 16) {
246         cnt_x = pixel->lookup[x];
247         if (value >= cumfr + cnt_x)
248             cumfr += cnt_x;
249         else
250             break;
251         x++;
252     }
253
254     c = x * 16;
255     cnt_c = 0;
256     while (c < 256) {
257         cnt_c = pixel->freq[c];
258         if (value >= cumfr + cnt_c)
259             cumfr += cnt_c;
260         else
261             break;
262         c++;
263     }
264
265     if ((ret = s->decode(gb, rc, cumfr, cnt_c, totfr)) < 0)
266         return ret;
267
268     pixel->freq[c] = cnt_c + step;
269     pixel->lookup[x] = cnt_x + step;
270     totfr += step;
271     if (totfr > BOT) {
272         totfr = 0;
273         for (i = 0; i < 256; i++) {
274             unsigned nc = (pixel->freq[i] >> 1) + 1;
275             pixel->freq[i] = nc;
276             totfr += nc;
277         }
278         for (i = 0; i < 16; i++) {
279             unsigned sum = 0;
280             unsigned i16_17 = i << 4;
281             for (j = 0; j < 16; j++)
282                 sum += pixel->freq[i16_17 + j];
283             pixel->lookup[i] = sum;
284         }
285     }
286     pixel->total_freq = totfr;
287
288     *rval = c & s->cbits;
289
290     return 0;
291 }
292
293 static int decompress_i(AVCodecContext *avctx, uint32_t *dst, int linesize)
294 {
295     SCPRContext *s = avctx->priv_data;
296     GetByteContext *gb = &s->gb;
297     int cx = 0, cx1 = 0, k = 0, clr = 0;
298     int run, r, g, b, off, y = 0, x = 0, z, ret;
299     unsigned backstep = linesize - avctx->width;
300     const int cxshift = s->cxshift;
301     unsigned lx, ly, ptype;
302
303     reinit_tables(s);
304     bytestream2_skip(gb, 2);
305     init_rangecoder(&s->rc, gb);
306
307     while (k < avctx->width + 1) {
308         ret = decode_unit(s, &s->pixel_model[0][cx + cx1], 400, &r);
309         if (ret < 0)
310             return ret;
311
312         cx1 = (cx << 6) & 0xFC0;
313         cx = r >> cxshift;
314         ret = decode_unit(s, &s->pixel_model[1][cx + cx1], 400, &g);
315         if (ret < 0)
316             return ret;
317
318         cx1 = (cx << 6) & 0xFC0;
319         cx = g >> cxshift;
320         ret = decode_unit(s, &s->pixel_model[2][cx + cx1], 400, &b);
321         if (ret < 0)
322             return ret;
323
324         cx1 = (cx << 6) & 0xFC0;
325         cx = b >> cxshift;
326
327         ret = decode_value(s, s->run_model[0], 256, 400, &run);
328         if (ret < 0)
329             return ret;
330
331         clr = (b << 16) + (g << 8) + r;
332         k += run;
333         while (run-- > 0) {
334             if (y >= avctx->height)
335                 return AVERROR_INVALIDDATA;
336
337             dst[y * linesize + x] = clr;
338             lx = x;
339             ly = y;
340             x++;
341             if (x >= avctx->width) {
342                 x = 0;
343                 y++;
344             }
345         }
346     }
347     off = -linesize - 1;
348     ptype = 0;
349
350     while (x < avctx->width && y < avctx->height) {
351         ret = decode_value(s, s->op_model[ptype], 6, 1000, &ptype);
352         if (ret < 0)
353             return ret;
354         if (ptype == 0) {
355             ret = decode_unit(s, &s->pixel_model[0][cx + cx1], 400, &r);
356             if (ret < 0)
357                 return ret;
358
359             cx1 = (cx << 6) & 0xFC0;
360             cx = r >> cxshift;
361             ret = decode_unit(s, &s->pixel_model[1][cx + cx1], 400, &g);
362             if (ret < 0)
363                 return ret;
364
365             cx1 = (cx << 6) & 0xFC0;
366             cx = g >> cxshift;
367             ret = decode_unit(s, &s->pixel_model[2][cx + cx1], 400, &b);
368             if (ret < 0)
369                 return ret;
370
371             clr = (b << 16) + (g << 8) + r;
372         }
373         if (ptype > 5)
374             return AVERROR_INVALIDDATA;
375         ret = decode_value(s, s->run_model[ptype], 256, 400, &run);
376         if (ret < 0)
377             return ret;
378
379         switch (ptype) {
380         case 0:
381             while (run-- > 0) {
382                 if (y >= avctx->height)
383                     return AVERROR_INVALIDDATA;
384
385                 dst[y * linesize + x] = clr;
386                 lx = x;
387                 ly = y;
388                 x++;
389                 if (x >= avctx->width) {
390                     x = 0;
391                     y++;
392                 }
393             }
394             break;
395         case 1:
396             while (run-- > 0) {
397                 if (y >= avctx->height)
398                     return AVERROR_INVALIDDATA;
399
400                 dst[y * linesize + x] = dst[ly * linesize + lx];
401                 lx = x;
402                 ly = y;
403                 x++;
404                 if (x >= avctx->width) {
405                     x = 0;
406                     y++;
407                 }
408             }
409             clr = dst[ly * linesize + lx];
410             break;
411         case 2:
412             while (run-- > 0) {
413                 if (y < 1 || y >= avctx->height)
414                     return AVERROR_INVALIDDATA;
415
416                 clr = dst[y * linesize + x + off + 1];
417                 dst[y * linesize + x] = clr;
418                 lx = x;
419                 ly = y;
420                 x++;
421                 if (x >= avctx->width) {
422                     x = 0;
423                     y++;
424                 }
425             }
426             break;
427         case 4:
428             while (run-- > 0) {
429                 uint8_t *odst = (uint8_t *)dst;
430
431                 if (y < 1 || y >= avctx->height ||
432                     (y == 1 && x == 0))
433                     return AVERROR_INVALIDDATA;
434
435                 if (x == 0) {
436                     z = backstep;
437                 } else {
438                     z = 0;
439                 }
440
441                 r = odst[(ly * linesize + lx) * 4] +
442                     odst[((y * linesize + x) + off - z) * 4 + 4] -
443                     odst[((y * linesize + x) + off - z) * 4];
444                 g = odst[(ly * linesize + lx) * 4 + 1] +
445                     odst[((y * linesize + x) + off - z) * 4 + 5] -
446                     odst[((y * linesize + x) + off - z) * 4 + 1];
447                 b = odst[(ly * linesize + lx) * 4 + 2] +
448                     odst[((y * linesize + x) + off - z) * 4 + 6] -
449                     odst[((y * linesize + x) + off - z) * 4 + 2];
450                 clr = ((b & 0xFF) << 16) + ((g & 0xFF) << 8) + (r & 0xFF);
451                 dst[y * linesize + x] = clr;
452                 lx = x;
453                 ly = y;
454                 x++;
455                 if (x >= avctx->width) {
456                     x = 0;
457                     y++;
458                 }
459             }
460             break;
461         case 5:
462             while (run-- > 0) {
463                 if (y < 1 || y >= avctx->height ||
464                     (y == 1 && x == 0))
465                     return AVERROR_INVALIDDATA;
466
467                 if (x == 0) {
468                     z = backstep;
469                 } else {
470                     z = 0;
471                 }
472
473                 clr = dst[y * linesize + x + off - z];
474                 dst[y * linesize + x] = clr;
475                 lx = x;
476                 ly = y;
477                 x++;
478                 if (x >= avctx->width) {
479                     x = 0;
480                     y++;
481                 }
482             }
483             break;
484         }
485
486         if (avctx->bits_per_coded_sample == 16) {
487             cx1 = (clr & 0x3F00) >> 2;
488             cx = (clr & 0xFFFFFF) >> 16;
489         } else {
490             cx1 = (clr & 0xFC00) >> 4;
491             cx = (clr & 0xFFFFFF) >> 18;
492         }
493     }
494
495     return 0;
496 }
497
498 static int decompress_p(AVCodecContext *avctx,
499                         uint32_t *dst, int linesize,
500                         uint32_t *prev, int plinesize)
501 {
502     SCPRContext *s = avctx->priv_data;
503     GetByteContext *gb = &s->gb;
504     int ret, temp, min, max, x, y, cx = 0, cx1 = 0;
505     int backstep = linesize - avctx->width;
506     const int cxshift = s->cxshift;
507
508     if (bytestream2_get_byte(gb) == 0)
509         return 0;
510     bytestream2_skip(gb, 1);
511     init_rangecoder(&s->rc, gb);
512
513     ret  = decode_value(s, s->range_model, 256, 1, &min);
514     ret |= decode_value(s, s->range_model, 256, 1, &temp);
515     min += temp << 8;
516     ret |= decode_value(s, s->range_model, 256, 1, &max);
517     ret |= decode_value(s, s->range_model, 256, 1, &temp);
518     if (ret < 0)
519         return ret;
520
521     max += temp << 8;
522     memset(s->blocks, 0, sizeof(*s->blocks) * s->nbcount);
523
524     while (min <= max) {
525         int fill, count;
526
527         ret  = decode_value(s, s->fill_model,  5,   10, &fill);
528         ret |= decode_value(s, s->count_model, 256, 20, &count);
529         if (ret < 0)
530             return ret;
531
532         while (min < s->nbcount && count-- > 0) {
533             s->blocks[min++] = fill;
534         }
535     }
536
537     for (y = 0; y < s->nby; y++) {
538         for (x = 0; x < s->nbx; x++) {
539             int sy1 = 0, sy2 = 16, sx1 = 0, sx2 = 16;
540
541             if (s->blocks[y * s->nbx + x] == 0)
542                 continue;
543
544             if (((s->blocks[y * s->nbx + x] - 1) & 1) > 0) {
545                 ret  = decode_value(s, s->sxy_model[0], 16, 100, &sx1);
546                 ret |= decode_value(s, s->sxy_model[1], 16, 100, &sy1);
547                 ret |= decode_value(s, s->sxy_model[2], 16, 100, &sx2);
548                 ret |= decode_value(s, s->sxy_model[3], 16, 100, &sy2);
549                 if (ret < 0)
550                     return ret;
551
552                 sx2++;
553                 sy2++;
554             }
555             if (((s->blocks[y * s->nbx + x] - 1) & 2) > 0) {
556                 int i, j, by = y * 16, bx = x * 16;
557                 int mvx, mvy;
558
559                 ret  = decode_value(s, s->mv_model[0], 512, 100, &mvx);
560                 ret |= decode_value(s, s->mv_model[1], 512, 100, &mvy);
561                 if (ret < 0)
562                     return ret;
563
564                 mvx -= 256;
565                 mvy -= 256;
566
567                 if (by + mvy + sy1 < 0 || bx + mvx + sx1 < 0 ||
568                     by + mvy + sy1 >= avctx->height || bx + mvx + sx1 >= avctx->width)
569                     return AVERROR_INVALIDDATA;
570
571                 for (i = 0; i < sy2 - sy1 && (by + sy1 + i) < avctx->height && (by + mvy + sy1 + i) < avctx->height; i++) {
572                     for (j = 0; j < sx2 - sx1 && (bx + sx1 + j) < avctx->width && (bx + mvx + sx1 + j) < avctx->width; j++) {
573                         dst[(by + i + sy1) * linesize + bx + sx1 + j] = prev[(by + mvy + sy1 + i) * plinesize + bx + sx1 + mvx + j];
574                     }
575                 }
576             } else {
577                 int run, r, g, b, z, bx = x * 16 + sx1, by = y * 16 + sy1;
578                 unsigned clr, ptype = 0;
579
580                 for (; by < y * 16 + sy2 && by < avctx->height;) {
581                     ret = decode_value(s, s->op_model[ptype], 6, 1000, &ptype);
582                     if (ptype == 0) {
583                         ret = decode_unit(s, &s->pixel_model[0][cx + cx1], 400, &r);
584                         if (ret < 0)
585                             return ret;
586
587                         cx1 = (cx << 6) & 0xFC0;
588                         cx = r >> cxshift;
589                         ret = decode_unit(s, &s->pixel_model[1][cx + cx1], 400, &g);
590                         if (ret < 0)
591                             return ret;
592
593                         cx1 = (cx << 6) & 0xFC0;
594                         cx = g >> cxshift;
595                         ret = decode_unit(s, &s->pixel_model[2][cx + cx1], 400, &b);
596                         if (ret < 0)
597                             return ret;
598
599                         clr = (b << 16) + (g << 8) + r;
600                     }
601                     if (ptype > 5)
602                         return AVERROR_INVALIDDATA;
603                     ret = decode_value(s, s->run_model[ptype], 256, 400, &run);
604                     if (ret < 0)
605                         return ret;
606
607                     switch (ptype) {
608                     case 0:
609                         while (run-- > 0) {
610                             if (by >= avctx->height)
611                                 return AVERROR_INVALIDDATA;
612
613                             dst[by * linesize + bx] = clr;
614                             bx++;
615                             if (bx >= x * 16 + sx2 || bx >= avctx->width) {
616                                 bx = x * 16 + sx1;
617                                 by++;
618                             }
619                         }
620                         break;
621                     case 1:
622                         while (run-- > 0) {
623                             if (bx == 0) {
624                                 if (by < 1)
625                                     return AVERROR_INVALIDDATA;
626                                 z = backstep;
627                             } else {
628                                 z = 0;
629                             }
630
631                             if (by >= avctx->height)
632                                 return AVERROR_INVALIDDATA;
633
634                             clr = dst[by * linesize + bx - 1 - z];
635                             dst[by * linesize + bx] = clr;
636                             bx++;
637                             if (bx >= x * 16 + sx2 || bx >= avctx->width) {
638                                 bx = x * 16 + sx1;
639                                 by++;
640                             }
641                         }
642                         break;
643                     case 2:
644                         while (run-- > 0) {
645                             if (by < 1 || by >= avctx->height)
646                                 return AVERROR_INVALIDDATA;
647
648                             clr = dst[(by - 1) * linesize + bx];
649                             dst[by * linesize + bx] = clr;
650                             bx++;
651                             if (bx >= x * 16 + sx2 || bx >= avctx->width) {
652                                 bx = x * 16 + sx1;
653                                 by++;
654                             }
655                         }
656                         break;
657                     case 3:
658                         while (run-- > 0) {
659                             if (by >= avctx->height)
660                                 return AVERROR_INVALIDDATA;
661
662                             clr = prev[by * plinesize + bx];
663                             dst[by * linesize + bx] = clr;
664                             bx++;
665                             if (bx >= x * 16 + sx2 || bx >= avctx->width) {
666                                 bx = x * 16 + sx1;
667                                 by++;
668                             }
669                         }
670                         break;
671                     case 4:
672                         while (run-- > 0) {
673                             uint8_t *odst = (uint8_t *)dst;
674
675                             if (by < 1 || by >= avctx->height)
676                                 return AVERROR_INVALIDDATA;
677
678                             if (bx == 0) {
679                                 z = backstep;
680                             } else {
681                                 z = 0;
682                             }
683
684                             r = odst[((by - 1) * linesize + bx) * 4] +
685                                 odst[(by * linesize + bx - 1 - z) * 4] -
686                                 odst[((by - 1) * linesize + bx - 1 - z) * 4];
687                             g = odst[((by - 1) * linesize + bx) * 4 + 1] +
688                                 odst[(by * linesize + bx - 1 - z) * 4 + 1] -
689                                 odst[((by - 1) * linesize + bx - 1 - z) * 4 + 1];
690                             b = odst[((by - 1) * linesize + bx) * 4 + 2] +
691                                 odst[(by * linesize + bx - 1 - z) * 4 + 2] -
692                                 odst[((by - 1) * linesize + bx - 1 - z) * 4 + 2];
693                             clr = ((b & 0xFF) << 16) + ((g & 0xFF) << 8) + (r & 0xFF);
694                             dst[by * linesize + bx] = clr;
695                             bx++;
696                             if (bx >= x * 16 + sx2 || bx >= avctx->width) {
697                                 bx = x * 16 + sx1;
698                                 by++;
699                             }
700                         }
701                         break;
702                     case 5:
703                         while (run-- > 0) {
704                             if (by < 1 || by >= avctx->height)
705                                 return AVERROR_INVALIDDATA;
706
707                             if (bx == 0) {
708                                 z = backstep;
709                             } else {
710                                 z = 0;
711                             }
712
713                             clr = dst[(by - 1) * linesize + bx - 1 - z];
714                             dst[by * linesize + bx] = clr;
715                             bx++;
716                             if (bx >= x * 16 + sx2 || bx >= avctx->width) {
717                                 bx = x * 16 + sx1;
718                                 by++;
719                             }
720                         }
721                         break;
722                     }
723
724                     if (avctx->bits_per_coded_sample == 16) {
725                         cx1 = (clr & 0x3F00) >> 2;
726                         cx = (clr & 0xFFFFFF) >> 16;
727                     } else {
728                         cx1 = (clr & 0xFC00) >> 4;
729                         cx = (clr & 0xFFFFFF) >> 18;
730                     }
731                 }
732             }
733         }
734     }
735
736     return 0;
737 }
738
739 static int decode_frame(AVCodecContext *avctx, void *data, int *got_frame,
740                         AVPacket *avpkt)
741 {
742     SCPRContext *s = avctx->priv_data;
743     GetByteContext *gb = &s->gb;
744     AVFrame *frame = data;
745     int ret, type;
746
747     if (avctx->bits_per_coded_sample == 16) {
748         if ((ret = ff_get_buffer(avctx, frame, 0)) < 0)
749             return ret;
750     }
751
752     if ((ret = ff_reget_buffer(avctx, s->current_frame)) < 0)
753         return ret;
754
755     bytestream2_init(gb, avpkt->data, avpkt->size);
756
757     type = bytestream2_peek_byte(gb);
758
759     if (type == 2) {
760         s->get_freq = get_freq0;
761         s->decode = decode0;
762         frame->key_frame = 1;
763         ret = decompress_i(avctx, (uint32_t *)s->current_frame->data[0],
764                            s->current_frame->linesize[0] / 4);
765     } else if (type == 18) {
766         s->get_freq = get_freq;
767         s->decode = decode;
768         frame->key_frame = 1;
769         ret = decompress_i(avctx, (uint32_t *)s->current_frame->data[0],
770                            s->current_frame->linesize[0] / 4);
771     } else if (type == 17) {
772         uint32_t clr, *dst = (uint32_t *)s->current_frame->data[0];
773         int x, y;
774
775         frame->key_frame = 1;
776         bytestream2_skip(gb, 1);
777         if (avctx->bits_per_coded_sample == 16) {
778             uint16_t value = bytestream2_get_le16(gb);
779             int r, g, b;
780
781             r = (value      ) & 31;
782             g = (value >>  5) & 31;
783             b = (value >> 10) & 31;
784             clr = (r << 16) + (g << 8) + b;
785         } else {
786             clr = bytestream2_get_le24(gb);
787         }
788         for (y = 0; y < avctx->height; y++) {
789             for (x = 0; x < avctx->width; x++) {
790                 dst[x] = clr;
791             }
792             dst += s->current_frame->linesize[0] / 4;
793         }
794     } else if (type == 0 || type == 1) {
795         frame->key_frame = 0;
796
797         ret = av_frame_copy(s->current_frame, s->last_frame);
798         if (ret < 0)
799             return ret;
800
801         ret = decompress_p(avctx, (uint32_t *)s->current_frame->data[0],
802                            s->current_frame->linesize[0] / 4,
803                            (uint32_t *)s->last_frame->data[0],
804                            s->last_frame->linesize[0] / 4);
805     } else {
806         return AVERROR_PATCHWELCOME;
807     }
808
809     if (ret < 0)
810         return ret;
811
812     if (avctx->bits_per_coded_sample != 16) {
813         ret = av_frame_ref(data, s->current_frame);
814         if (ret < 0)
815             return ret;
816     } else {
817         uint8_t *dst = frame->data[0];
818         int x, y;
819
820         ret = av_frame_copy(frame, s->current_frame);
821         if (ret < 0)
822             return ret;
823
824         for (y = 0; y < avctx->height; y++) {
825             for (x = 0; x < avctx->width * 4; x++) {
826                 dst[x] = dst[x] << 3;
827             }
828             dst += frame->linesize[0];
829         }
830     }
831
832     frame->pict_type = frame->key_frame ? AV_PICTURE_TYPE_I : AV_PICTURE_TYPE_P;
833
834     FFSWAP(AVFrame *, s->current_frame, s->last_frame);
835
836     frame->data[0]     += frame->linesize[0] * (avctx->height - 1);
837     frame->linesize[0] *= -1;
838
839     *got_frame = 1;
840
841     return avpkt->size;
842 }
843
844 static av_cold int decode_init(AVCodecContext *avctx)
845 {
846     SCPRContext *s = avctx->priv_data;
847
848     switch (avctx->bits_per_coded_sample) {
849     case 16: avctx->pix_fmt = AV_PIX_FMT_RGB0; break;
850     case 24:
851     case 32: avctx->pix_fmt = AV_PIX_FMT_BGR0; break;
852     default:
853         av_log(avctx, AV_LOG_ERROR, "Unsupported bitdepth %i\n", avctx->bits_per_coded_sample);
854         return AVERROR_INVALIDDATA;
855     }
856
857     s->get_freq = get_freq0;
858     s->decode = decode0;
859
860     s->cxshift = avctx->bits_per_coded_sample == 16 ? 0 : 2;
861     s->cbits = avctx->bits_per_coded_sample == 16 ? 0x1F : 0xFF;
862     s->nbx = (avctx->width + 15) / 16;
863     s->nby = (avctx->height + 15) / 16;
864     s->nbcount = s->nbx * s->nby;
865     s->blocks = av_malloc_array(s->nbcount, sizeof(*s->blocks));
866     if (!s->blocks)
867         return AVERROR(ENOMEM);
868
869     s->last_frame = av_frame_alloc();
870     s->current_frame = av_frame_alloc();
871     if (!s->last_frame || !s->current_frame)
872         return AVERROR(ENOMEM);
873
874     return 0;
875 }
876
877 static av_cold int decode_close(AVCodecContext *avctx)
878 {
879     SCPRContext *s = avctx->priv_data;
880
881     av_freep(&s->blocks);
882     av_frame_free(&s->last_frame);
883     av_frame_free(&s->current_frame);
884
885     return 0;
886 }
887
888 AVCodec ff_scpr_decoder = {
889     .name             = "scpr",
890     .long_name        = NULL_IF_CONFIG_SMALL("ScreenPressor"),
891     .type             = AVMEDIA_TYPE_VIDEO,
892     .id               = AV_CODEC_ID_SCPR,
893     .priv_data_size   = sizeof(SCPRContext),
894     .init             = decode_init,
895     .close            = decode_close,
896     .decode           = decode_frame,
897     .capabilities     = AV_CODEC_CAP_DR1,
898     .caps_internal    = FF_CODEC_CAP_INIT_THREADSAFE |
899                         FF_CODEC_CAP_INIT_CLEANUP,
900 };