46f072c757a76489d4f43d6731952b092b1a2077
[ffmpeg.git] / libavcodec / scpr.c
1 /*
2  * ScreenPressor decoder
3  *
4  * Copyright (c) 2017 Paul B Mahol
5  *
6  * This file is part of FFmpeg.
7  *
8  * FFmpeg is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * FFmpeg is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with FFmpeg; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 #include <stdio.h>
24 #include <stdlib.h>
25 #include <string.h>
26
27 #include "avcodec.h"
28 #include "bytestream.h"
29 #include "internal.h"
30
31 #define TOP  0x01000000
32 #define BOT    0x010000
33
34 typedef struct RangeCoder {
35     unsigned   code;
36     unsigned   range;
37     unsigned   code1;
38 } RangeCoder;
39
40 typedef struct PixelModel {
41     unsigned    freq[256];
42     unsigned    lookup[16];
43     unsigned    total_freq;
44 } PixelModel;
45
46 typedef struct SCPRContext {
47     AVFrame        *last_frame;
48     AVFrame        *current_frame;
49     GetByteContext  gb;
50     RangeCoder      rc;
51     PixelModel      pixel_model[3][4096];
52     unsigned        op_model[6][7];
53     unsigned        run_model[6][257];
54     unsigned        range_model[257];
55     unsigned        count_model[257];
56     unsigned        fill_model[6];
57     unsigned        sxy_model[4][17];
58     unsigned        mv_model[2][513];
59     unsigned        nbx, nby;
60     unsigned        nbcount;
61     unsigned       *blocks;
62     unsigned        cbits;
63     int             cxshift;
64
65     int           (*get_freq)(RangeCoder *rc, unsigned total_freq, unsigned *freq);
66     int           (*decode)(GetByteContext *gb, RangeCoder *rc, unsigned cumFreq, unsigned freq, unsigned total_freq);
67 } SCPRContext;
68
69 static void init_rangecoder(RangeCoder *rc, GetByteContext *gb)
70 {
71     rc->code1 = 0;
72     rc->range = 0xFFFFFFFFU;
73     rc->code  = bytestream2_get_be32(gb);
74 }
75
76 static void reinit_tables(SCPRContext *s)
77 {
78     int comp, i, j;
79
80     for (comp = 0; comp < 3; comp++) {
81         for (j = 0; j < 4096; j++) {
82             if (s->pixel_model[comp][j].total_freq != 256) {
83                 for (i = 0; i < 256; i++)
84                     s->pixel_model[comp][j].freq[i] = 1;
85                 for (i = 0; i < 16; i++)
86                     s->pixel_model[comp][j].lookup[i] = 16;
87                 s->pixel_model[comp][j].total_freq = 256;
88             }
89         }
90     }
91
92     for (j = 0; j < 6; j++) {
93         unsigned *p = s->run_model[j];
94         for (i = 0; i < 256; i++)
95             p[i] = 1;
96         p[256] = 256;
97     }
98
99     for (j = 0; j < 6; j++) {
100         unsigned *op = s->op_model[j];
101         for (i = 0; i < 6; i++)
102             op[i] = 1;
103         op[6] = 6;
104     }
105
106     for (i = 0; i < 256; i++) {
107         s->range_model[i] = 1;
108         s->count_model[i] = 1;
109     }
110     s->range_model[256] = 256;
111     s->count_model[256] = 256;
112
113     for (i = 0; i < 5; i++) {
114         s->fill_model[i] = 1;
115     }
116     s->fill_model[5] = 5;
117
118     for (j = 0; j < 4; j++) {
119         for (i = 0; i < 16; i++) {
120             s->sxy_model[j][i] = 1;
121         }
122         s->sxy_model[j][16] = 16;
123     }
124
125     for (i = 0; i < 512; i++) {
126         s->mv_model[0][i] = 1;
127         s->mv_model[1][i] = 1;
128     }
129     s->mv_model[0][512] = 512;
130     s->mv_model[1][512] = 512;
131 }
132
133 static int decode(GetByteContext *gb, RangeCoder *rc, unsigned cumFreq, unsigned freq, unsigned total_freq)
134 {
135     rc->code -= cumFreq * rc->range;
136     rc->range *= freq;
137
138     while (rc->range < TOP && bytestream2_get_bytes_left(gb) > 0) {
139         unsigned byte = bytestream2_get_byte(gb);
140         rc->code = (rc->code << 8) | byte;
141         rc->range <<= 8;
142     }
143
144     return 0;
145 }
146
147 static int get_freq(RangeCoder *rc, unsigned total_freq, unsigned *freq)
148 {
149     if (total_freq == 0)
150         return AVERROR_INVALIDDATA;
151
152     rc->range = rc->range / total_freq;
153
154     if (rc->range == 0)
155         return AVERROR_INVALIDDATA;
156
157     *freq = rc->code / rc->range;
158
159     return 0;
160 }
161
162 static int decode0(GetByteContext *gb, RangeCoder *rc, unsigned cumFreq, unsigned freq, unsigned total_freq)
163 {
164     unsigned t;
165
166     if (total_freq == 0)
167         return AVERROR_INVALIDDATA;
168
169     t = rc->range * (uint64_t)cumFreq / total_freq;
170
171     rc->code1 += t + 1;
172     rc->range = rc->range * (uint64_t)(freq + cumFreq) / total_freq - (t + 1);
173
174     while (rc->range < TOP && bytestream2_get_bytes_left(gb) > 0) {
175         unsigned byte = bytestream2_get_byte(gb);
176         rc->code = (rc->code << 8) | byte;
177         rc->code1 <<= 8;
178         rc->range <<= 8;
179     }
180
181     return 0;
182 }
183
184 static int get_freq0(RangeCoder *rc, unsigned total_freq, unsigned *freq)
185 {
186     if (rc->range == 0)
187         return AVERROR_INVALIDDATA;
188
189     *freq = total_freq * (uint64_t)(rc->code - rc->code1) / rc->range;
190
191     return 0;
192 }
193
194 static int decode_value(SCPRContext *s, unsigned *cnt, unsigned maxc, unsigned step, unsigned *rval)
195 {
196     GetByteContext *gb = &s->gb;
197     RangeCoder *rc = &s->rc;
198     unsigned totfr = cnt[maxc];
199     unsigned value;
200     unsigned c = 0, cumfr = 0, cnt_c = 0;
201     int i, ret;
202
203     if ((ret = s->get_freq(rc, totfr, &value)) < 0)
204         return ret;
205
206     while (c < maxc) {
207         cnt_c = cnt[c];
208         if (value >= cumfr + cnt_c)
209             cumfr += cnt_c;
210         else
211             break;
212         c++;
213     }
214     if ((ret = s->decode(gb, rc, cumfr, cnt_c, totfr)) < 0)
215         return ret;
216
217     cnt[c] = cnt_c + step;
218     totfr += step;
219     if (totfr > BOT) {
220         totfr = 0;
221         for (i = 0; i < maxc; i++) {
222             unsigned nc = (cnt[i] >> 1) + 1;
223             cnt[i] = nc;
224             totfr += nc;
225         }
226     }
227
228     cnt[maxc] = totfr;
229     *rval = c;
230
231     return 0;
232 }
233
234 static int decode_unit(SCPRContext *s, PixelModel *pixel, unsigned step, unsigned *rval)
235 {
236     GetByteContext *gb = &s->gb;
237     RangeCoder *rc = &s->rc;
238     unsigned totfr = pixel->total_freq;
239     unsigned value, x = 0, cumfr = 0, cnt_x = 0;
240     int i, j, ret, c, cnt_c;
241
242     if ((ret = s->get_freq(rc, totfr, &value)) < 0)
243         return ret;
244
245     while (x < 16) {
246         cnt_x = pixel->lookup[x];
247         if (value >= cumfr + cnt_x)
248             cumfr += cnt_x;
249         else
250             break;
251         x++;
252     }
253
254     c = x * 16;
255     cnt_c = 0;
256     while (c < 256) {
257         cnt_c = pixel->freq[c];
258         if (value >= cumfr + cnt_c)
259             cumfr += cnt_c;
260         else
261             break;
262         c++;
263     }
264     if (x >= 16 || c >= 256) {
265         return AVERROR_INVALIDDATA;
266     }
267
268     if ((ret = s->decode(gb, rc, cumfr, cnt_c, totfr)) < 0)
269         return ret;
270
271     pixel->freq[c] = cnt_c + step;
272     pixel->lookup[x] = cnt_x + step;
273     totfr += step;
274     if (totfr > BOT) {
275         totfr = 0;
276         for (i = 0; i < 256; i++) {
277             unsigned nc = (pixel->freq[i] >> 1) + 1;
278             pixel->freq[i] = nc;
279             totfr += nc;
280         }
281         for (i = 0; i < 16; i++) {
282             unsigned sum = 0;
283             unsigned i16_17 = i << 4;
284             for (j = 0; j < 16; j++)
285                 sum += pixel->freq[i16_17 + j];
286             pixel->lookup[i] = sum;
287         }
288     }
289     pixel->total_freq = totfr;
290
291     *rval = c & s->cbits;
292
293     return 0;
294 }
295
296 static int decompress_i(AVCodecContext *avctx, uint32_t *dst, int linesize)
297 {
298     SCPRContext *s = avctx->priv_data;
299     GetByteContext *gb = &s->gb;
300     int cx = 0, cx1 = 0, k = 0, clr = 0;
301     int run, r, g, b, off, y = 0, x = 0, z, ret;
302     unsigned backstep = linesize - avctx->width;
303     const int cxshift = s->cxshift;
304     unsigned lx, ly, ptype;
305
306     reinit_tables(s);
307     bytestream2_skip(gb, 2);
308     init_rangecoder(&s->rc, gb);
309
310     while (k < avctx->width + 1) {
311         ret = decode_unit(s, &s->pixel_model[0][cx + cx1], 400, &r);
312         if (ret < 0)
313             return ret;
314
315         cx1 = (cx << 6) & 0xFC0;
316         cx = r >> cxshift;
317         ret = decode_unit(s, &s->pixel_model[1][cx + cx1], 400, &g);
318         if (ret < 0)
319             return ret;
320
321         cx1 = (cx << 6) & 0xFC0;
322         cx = g >> cxshift;
323         ret = decode_unit(s, &s->pixel_model[2][cx + cx1], 400, &b);
324         if (ret < 0)
325             return ret;
326
327         cx1 = (cx << 6) & 0xFC0;
328         cx = b >> cxshift;
329
330         ret = decode_value(s, s->run_model[0], 256, 400, &run);
331         if (ret < 0)
332             return ret;
333
334         clr = (b << 16) + (g << 8) + r;
335         k += run;
336         while (run-- > 0) {
337             if (y >= avctx->height)
338                 return AVERROR_INVALIDDATA;
339
340             dst[y * linesize + x] = clr;
341             lx = x;
342             ly = y;
343             x++;
344             if (x >= avctx->width) {
345                 x = 0;
346                 y++;
347             }
348         }
349     }
350     off = -linesize - 1;
351     ptype = 0;
352
353     while (x < avctx->width && y < avctx->height) {
354         ret = decode_value(s, s->op_model[ptype], 6, 1000, &ptype);
355         if (ret < 0)
356             return ret;
357         if (ptype == 0) {
358             ret = decode_unit(s, &s->pixel_model[0][cx + cx1], 400, &r);
359             if (ret < 0)
360                 return ret;
361
362             cx1 = (cx << 6) & 0xFC0;
363             cx = r >> cxshift;
364             ret = decode_unit(s, &s->pixel_model[1][cx + cx1], 400, &g);
365             if (ret < 0)
366                 return ret;
367
368             cx1 = (cx << 6) & 0xFC0;
369             cx = g >> cxshift;
370             ret = decode_unit(s, &s->pixel_model[2][cx + cx1], 400, &b);
371             if (ret < 0)
372                 return ret;
373
374             clr = (b << 16) + (g << 8) + r;
375         }
376         if (ptype > 5)
377             return AVERROR_INVALIDDATA;
378         ret = decode_value(s, s->run_model[ptype], 256, 400, &run);
379         if (ret < 0)
380             return ret;
381
382         switch (ptype) {
383         case 0:
384             while (run-- > 0) {
385                 if (y >= avctx->height)
386                     return AVERROR_INVALIDDATA;
387
388                 dst[y * linesize + x] = clr;
389                 lx = x;
390                 ly = y;
391                 x++;
392                 if (x >= avctx->width) {
393                     x = 0;
394                     y++;
395                 }
396             }
397             break;
398         case 1:
399             while (run-- > 0) {
400                 if (y >= avctx->height)
401                     return AVERROR_INVALIDDATA;
402
403                 dst[y * linesize + x] = dst[ly * linesize + lx];
404                 lx = x;
405                 ly = y;
406                 x++;
407                 if (x >= avctx->width) {
408                     x = 0;
409                     y++;
410                 }
411             }
412             clr = dst[ly * linesize + lx];
413             break;
414         case 2:
415             while (run-- > 0) {
416                 if (y < 1 || y >= avctx->height)
417                     return AVERROR_INVALIDDATA;
418
419                 clr = dst[y * linesize + x + off + 1];
420                 dst[y * linesize + x] = clr;
421                 lx = x;
422                 ly = y;
423                 x++;
424                 if (x >= avctx->width) {
425                     x = 0;
426                     y++;
427                 }
428             }
429             break;
430         case 4:
431             while (run-- > 0) {
432                 uint8_t *odst = (uint8_t *)dst;
433
434                 if (y < 1 || y >= avctx->height ||
435                     (y == 1 && x == 0))
436                     return AVERROR_INVALIDDATA;
437
438                 if (x == 0) {
439                     z = backstep;
440                 } else {
441                     z = 0;
442                 }
443
444                 r = odst[(ly * linesize + lx) * 4] +
445                     odst[((y * linesize + x) + off - z) * 4 + 4] -
446                     odst[((y * linesize + x) + off - z) * 4];
447                 g = odst[(ly * linesize + lx) * 4 + 1] +
448                     odst[((y * linesize + x) + off - z) * 4 + 5] -
449                     odst[((y * linesize + x) + off - z) * 4 + 1];
450                 b = odst[(ly * linesize + lx) * 4 + 2] +
451                     odst[((y * linesize + x) + off - z) * 4 + 6] -
452                     odst[((y * linesize + x) + off - z) * 4 + 2];
453                 clr = ((b & 0xFF) << 16) + ((g & 0xFF) << 8) + (r & 0xFF);
454                 dst[y * linesize + x] = clr;
455                 lx = x;
456                 ly = y;
457                 x++;
458                 if (x >= avctx->width) {
459                     x = 0;
460                     y++;
461                 }
462             }
463             break;
464         case 5:
465             while (run-- > 0) {
466                 if (y < 1 || y >= avctx->height ||
467                     (y == 1 && x == 0))
468                     return AVERROR_INVALIDDATA;
469
470                 if (x == 0) {
471                     z = backstep;
472                 } else {
473                     z = 0;
474                 }
475
476                 clr = dst[y * linesize + x + off - z];
477                 dst[y * linesize + x] = clr;
478                 lx = x;
479                 ly = y;
480                 x++;
481                 if (x >= avctx->width) {
482                     x = 0;
483                     y++;
484                 }
485             }
486             break;
487         }
488
489         if (avctx->bits_per_coded_sample == 16) {
490             cx1 = (clr & 0x3F00) >> 2;
491             cx = (clr & 0xFFFFFF) >> 16;
492         } else {
493             cx1 = (clr & 0xFC00) >> 4;
494             cx = (clr & 0xFFFFFF) >> 18;
495         }
496     }
497
498     return 0;
499 }
500
501 static int decompress_p(AVCodecContext *avctx,
502                         uint32_t *dst, int linesize,
503                         uint32_t *prev, int plinesize)
504 {
505     SCPRContext *s = avctx->priv_data;
506     GetByteContext *gb = &s->gb;
507     int ret, temp, min, max, x, y, cx = 0, cx1 = 0;
508     int backstep = linesize - avctx->width;
509     const int cxshift = s->cxshift;
510
511     if (bytestream2_get_byte(gb) == 0)
512         return 0;
513     bytestream2_skip(gb, 1);
514     init_rangecoder(&s->rc, gb);
515
516     ret  = decode_value(s, s->range_model, 256, 1, &min);
517     ret |= decode_value(s, s->range_model, 256, 1, &temp);
518     min += temp << 8;
519     ret |= decode_value(s, s->range_model, 256, 1, &max);
520     ret |= decode_value(s, s->range_model, 256, 1, &temp);
521     if (ret < 0)
522         return ret;
523
524     max += temp << 8;
525     memset(s->blocks, 0, sizeof(*s->blocks) * s->nbcount);
526
527     while (min <= max) {
528         int fill, count;
529
530         ret  = decode_value(s, s->fill_model,  5,   10, &fill);
531         ret |= decode_value(s, s->count_model, 256, 20, &count);
532         if (ret < 0)
533             return ret;
534
535         while (min < s->nbcount && count-- > 0) {
536             s->blocks[min++] = fill;
537         }
538     }
539
540     for (y = 0; y < s->nby; y++) {
541         for (x = 0; x < s->nbx; x++) {
542             int sy1 = 0, sy2 = 16, sx1 = 0, sx2 = 16;
543
544             if (s->blocks[y * s->nbx + x] == 0)
545                 continue;
546
547             if (((s->blocks[y * s->nbx + x] - 1) & 1) > 0) {
548                 ret  = decode_value(s, s->sxy_model[0], 16, 100, &sx1);
549                 ret |= decode_value(s, s->sxy_model[1], 16, 100, &sy1);
550                 ret |= decode_value(s, s->sxy_model[2], 16, 100, &sx2);
551                 ret |= decode_value(s, s->sxy_model[3], 16, 100, &sy2);
552                 if (ret < 0)
553                     return ret;
554
555                 sx2++;
556                 sy2++;
557             }
558             if (((s->blocks[y * s->nbx + x] - 1) & 2) > 0) {
559                 int i, j, by = y * 16, bx = x * 16;
560                 int mvx, mvy;
561
562                 ret  = decode_value(s, s->mv_model[0], 512, 100, &mvx);
563                 ret |= decode_value(s, s->mv_model[1], 512, 100, &mvy);
564                 if (ret < 0)
565                     return ret;
566
567                 mvx -= 256;
568                 mvy -= 256;
569
570                 if (by + mvy + sy1 < 0 || bx + mvx + sx1 < 0 ||
571                     by + mvy + sy1 >= avctx->height || bx + mvx + sx1 >= avctx->width)
572                     return AVERROR_INVALIDDATA;
573
574                 for (i = 0; i < sy2 - sy1 && (by + sy1 + i) < avctx->height && (by + mvy + sy1 + i) < avctx->height; i++) {
575                     for (j = 0; j < sx2 - sx1 && (bx + sx1 + j) < avctx->width && (bx + mvx + sx1 + j) < avctx->width; j++) {
576                         dst[(by + i + sy1) * linesize + bx + sx1 + j] = prev[(by + mvy + sy1 + i) * plinesize + bx + sx1 + mvx + j];
577                     }
578                 }
579             } else {
580                 int run, r, g, b, z, bx = x * 16 + sx1, by = y * 16 + sy1;
581                 unsigned clr, ptype = 0;
582
583                 for (; by < y * 16 + sy2 && by < avctx->height;) {
584                     ret = decode_value(s, s->op_model[ptype], 6, 1000, &ptype);
585                     if (ptype == 0) {
586                         ret = decode_unit(s, &s->pixel_model[0][cx + cx1], 400, &r);
587                         if (ret < 0)
588                             return ret;
589
590                         cx1 = (cx << 6) & 0xFC0;
591                         cx = r >> cxshift;
592                         ret = decode_unit(s, &s->pixel_model[1][cx + cx1], 400, &g);
593                         if (ret < 0)
594                             return ret;
595
596                         cx1 = (cx << 6) & 0xFC0;
597                         cx = g >> cxshift;
598                         ret = decode_unit(s, &s->pixel_model[2][cx + cx1], 400, &b);
599                         if (ret < 0)
600                             return ret;
601
602                         clr = (b << 16) + (g << 8) + r;
603                     }
604                     if (ptype > 5)
605                         return AVERROR_INVALIDDATA;
606                     ret = decode_value(s, s->run_model[ptype], 256, 400, &run);
607                     if (ret < 0)
608                         return ret;
609
610                     switch (ptype) {
611                     case 0:
612                         while (run-- > 0) {
613                             if (by >= avctx->height)
614                                 return AVERROR_INVALIDDATA;
615
616                             dst[by * linesize + bx] = clr;
617                             bx++;
618                             if (bx >= x * 16 + sx2 || bx >= avctx->width) {
619                                 bx = x * 16 + sx1;
620                                 by++;
621                             }
622                         }
623                         break;
624                     case 1:
625                         while (run-- > 0) {
626                             if (bx == 0) {
627                                 if (by < 1)
628                                     return AVERROR_INVALIDDATA;
629                                 z = backstep;
630                             } else {
631                                 z = 0;
632                             }
633
634                             if (by >= avctx->height)
635                                 return AVERROR_INVALIDDATA;
636
637                             clr = dst[by * linesize + bx - 1 - z];
638                             dst[by * linesize + bx] = clr;
639                             bx++;
640                             if (bx >= x * 16 + sx2 || bx >= avctx->width) {
641                                 bx = x * 16 + sx1;
642                                 by++;
643                             }
644                         }
645                         break;
646                     case 2:
647                         while (run-- > 0) {
648                             if (by < 1 || by >= avctx->height)
649                                 return AVERROR_INVALIDDATA;
650
651                             clr = dst[(by - 1) * linesize + bx];
652                             dst[by * linesize + bx] = clr;
653                             bx++;
654                             if (bx >= x * 16 + sx2 || bx >= avctx->width) {
655                                 bx = x * 16 + sx1;
656                                 by++;
657                             }
658                         }
659                         break;
660                     case 3:
661                         while (run-- > 0) {
662                             if (by >= avctx->height)
663                                 return AVERROR_INVALIDDATA;
664
665                             clr = prev[by * plinesize + bx];
666                             dst[by * linesize + bx] = clr;
667                             bx++;
668                             if (bx >= x * 16 + sx2 || bx >= avctx->width) {
669                                 bx = x * 16 + sx1;
670                                 by++;
671                             }
672                         }
673                         break;
674                     case 4:
675                         while (run-- > 0) {
676                             uint8_t *odst = (uint8_t *)dst;
677
678                             if (by < 1 || by >= avctx->height)
679                                 return AVERROR_INVALIDDATA;
680
681                             if (bx == 0) {
682                                 z = backstep;
683                             } else {
684                                 z = 0;
685                             }
686
687                             r = odst[((by - 1) * linesize + bx) * 4] +
688                                 odst[(by * linesize + bx - 1 - z) * 4] -
689                                 odst[((by - 1) * linesize + bx - 1 - z) * 4];
690                             g = odst[((by - 1) * linesize + bx) * 4 + 1] +
691                                 odst[(by * linesize + bx - 1 - z) * 4 + 1] -
692                                 odst[((by - 1) * linesize + bx - 1 - z) * 4 + 1];
693                             b = odst[((by - 1) * linesize + bx) * 4 + 2] +
694                                 odst[(by * linesize + bx - 1 - z) * 4 + 2] -
695                                 odst[((by - 1) * linesize + bx - 1 - z) * 4 + 2];
696                             clr = ((b & 0xFF) << 16) + ((g & 0xFF) << 8) + (r & 0xFF);
697                             dst[by * linesize + bx] = clr;
698                             bx++;
699                             if (bx >= x * 16 + sx2 || bx >= avctx->width) {
700                                 bx = x * 16 + sx1;
701                                 by++;
702                             }
703                         }
704                         break;
705                     case 5:
706                         while (run-- > 0) {
707                             if (by < 1 || by >= avctx->height)
708                                 return AVERROR_INVALIDDATA;
709
710                             if (bx == 0) {
711                                 z = backstep;
712                             } else {
713                                 z = 0;
714                             }
715
716                             clr = dst[(by - 1) * linesize + bx - 1 - z];
717                             dst[by * linesize + bx] = clr;
718                             bx++;
719                             if (bx >= x * 16 + sx2 || bx >= avctx->width) {
720                                 bx = x * 16 + sx1;
721                                 by++;
722                             }
723                         }
724                         break;
725                     }
726
727                     if (avctx->bits_per_coded_sample == 16) {
728                         cx1 = (clr & 0x3F00) >> 2;
729                         cx = (clr & 0xFFFFFF) >> 16;
730                     } else {
731                         cx1 = (clr & 0xFC00) >> 4;
732                         cx = (clr & 0xFFFFFF) >> 18;
733                     }
734                 }
735             }
736         }
737     }
738
739     return 0;
740 }
741
742 static int decode_frame(AVCodecContext *avctx, void *data, int *got_frame,
743                         AVPacket *avpkt)
744 {
745     SCPRContext *s = avctx->priv_data;
746     GetByteContext *gb = &s->gb;
747     AVFrame *frame = data;
748     int ret, type;
749
750     if (avctx->bits_per_coded_sample == 16) {
751         if ((ret = ff_get_buffer(avctx, frame, 0)) < 0)
752             return ret;
753     }
754
755     if ((ret = ff_reget_buffer(avctx, s->current_frame)) < 0)
756         return ret;
757
758     bytestream2_init(gb, avpkt->data, avpkt->size);
759
760     type = bytestream2_peek_byte(gb);
761
762     if (type == 2) {
763         s->get_freq = get_freq0;
764         s->decode = decode0;
765         frame->key_frame = 1;
766         ret = decompress_i(avctx, (uint32_t *)s->current_frame->data[0],
767                            s->current_frame->linesize[0] / 4);
768     } else if (type == 18) {
769         s->get_freq = get_freq;
770         s->decode = decode;
771         frame->key_frame = 1;
772         ret = decompress_i(avctx, (uint32_t *)s->current_frame->data[0],
773                            s->current_frame->linesize[0] / 4);
774     } else if (type == 17) {
775         uint32_t clr, *dst = (uint32_t *)s->current_frame->data[0];
776         int x, y;
777
778         frame->key_frame = 1;
779         bytestream2_skip(gb, 1);
780         if (avctx->bits_per_coded_sample == 16) {
781             uint16_t value = bytestream2_get_le16(gb);
782             int r, g, b;
783
784             r = (value      ) & 31;
785             g = (value >>  5) & 31;
786             b = (value >> 10) & 31;
787             clr = (r << 16) + (g << 8) + b;
788         } else {
789             clr = bytestream2_get_le24(gb);
790         }
791         for (y = 0; y < avctx->height; y++) {
792             for (x = 0; x < avctx->width; x++) {
793                 dst[x] = clr;
794             }
795             dst += s->current_frame->linesize[0] / 4;
796         }
797     } else if (type == 0 || type == 1) {
798         frame->key_frame = 0;
799
800         ret = av_frame_copy(s->current_frame, s->last_frame);
801         if (ret < 0)
802             return ret;
803
804         ret = decompress_p(avctx, (uint32_t *)s->current_frame->data[0],
805                            s->current_frame->linesize[0] / 4,
806                            (uint32_t *)s->last_frame->data[0],
807                            s->last_frame->linesize[0] / 4);
808     } else {
809         return AVERROR_PATCHWELCOME;
810     }
811
812     if (ret < 0)
813         return ret;
814
815     if (avctx->bits_per_coded_sample != 16) {
816         ret = av_frame_ref(data, s->current_frame);
817         if (ret < 0)
818             return ret;
819     } else {
820         uint8_t *dst = frame->data[0];
821         int x, y;
822
823         ret = av_frame_copy(frame, s->current_frame);
824         if (ret < 0)
825             return ret;
826
827         for (y = 0; y < avctx->height; y++) {
828             for (x = 0; x < avctx->width * 4; x++) {
829                 dst[x] = dst[x] << 3;
830             }
831             dst += frame->linesize[0];
832         }
833     }
834
835     frame->pict_type = frame->key_frame ? AV_PICTURE_TYPE_I : AV_PICTURE_TYPE_P;
836
837     FFSWAP(AVFrame *, s->current_frame, s->last_frame);
838
839     frame->data[0]     += frame->linesize[0] * (avctx->height - 1);
840     frame->linesize[0] *= -1;
841
842     *got_frame = 1;
843
844     return avpkt->size;
845 }
846
847 static av_cold int decode_init(AVCodecContext *avctx)
848 {
849     SCPRContext *s = avctx->priv_data;
850
851     switch (avctx->bits_per_coded_sample) {
852     case 16: avctx->pix_fmt = AV_PIX_FMT_RGB0; break;
853     case 24:
854     case 32: avctx->pix_fmt = AV_PIX_FMT_BGR0; break;
855     default:
856         av_log(avctx, AV_LOG_ERROR, "Unsupported bitdepth %i\n", avctx->bits_per_coded_sample);
857         return AVERROR_INVALIDDATA;
858     }
859
860     s->get_freq = get_freq0;
861     s->decode = decode0;
862
863     s->cxshift = avctx->bits_per_coded_sample == 16 ? 0 : 2;
864     s->cbits = avctx->bits_per_coded_sample == 16 ? 0x1F : 0xFF;
865     s->nbx = (avctx->width + 15) / 16;
866     s->nby = (avctx->height + 15) / 16;
867     s->nbcount = s->nbx * s->nby;
868     s->blocks = av_malloc_array(s->nbcount, sizeof(*s->blocks));
869     if (!s->blocks)
870         return AVERROR(ENOMEM);
871
872     s->last_frame = av_frame_alloc();
873     s->current_frame = av_frame_alloc();
874     if (!s->last_frame || !s->current_frame)
875         return AVERROR(ENOMEM);
876
877     return 0;
878 }
879
880 static av_cold int decode_close(AVCodecContext *avctx)
881 {
882     SCPRContext *s = avctx->priv_data;
883
884     av_freep(&s->blocks);
885     av_frame_free(&s->last_frame);
886     av_frame_free(&s->current_frame);
887
888     return 0;
889 }
890
891 AVCodec ff_scpr_decoder = {
892     .name             = "scpr",
893     .long_name        = NULL_IF_CONFIG_SMALL("ScreenPressor"),
894     .type             = AVMEDIA_TYPE_VIDEO,
895     .id               = AV_CODEC_ID_SCPR,
896     .priv_data_size   = sizeof(SCPRContext),
897     .init             = decode_init,
898     .close            = decode_close,
899     .decode           = decode_frame,
900     .capabilities     = AV_CODEC_CAP_DR1,
901     .caps_internal    = FF_CODEC_CAP_INIT_THREADSAFE |
902                         FF_CODEC_CAP_INIT_CLEANUP,
903 };