avcodec/lagarith: reenable buggy lag_decode_zero_run_line()
[ffmpeg.git] / libavcodec / lagarith.c
1 /*
2  * Lagarith lossless decoder
3  * Copyright (c) 2009 Nathan Caldwell <saintdev (at) gmail.com>
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * Lagarith lossless decoder
25  * @author Nathan Caldwell
26  */
27
28 #include "avcodec.h"
29 #include "get_bits.h"
30 #include "mathops.h"
31 #include "dsputil.h"
32 #include "lagarithrac.h"
33 #include "thread.h"
34
35 enum LagarithFrameType {
36     FRAME_RAW           = 1,    /**< uncompressed */
37     FRAME_U_RGB24       = 2,    /**< unaligned RGB24 */
38     FRAME_ARITH_YUY2    = 3,    /**< arithmetic coded YUY2 */
39     FRAME_ARITH_RGB24   = 4,    /**< arithmetic coded RGB24 */
40     FRAME_SOLID_GRAY    = 5,    /**< solid grayscale color frame */
41     FRAME_SOLID_COLOR   = 6,    /**< solid non-grayscale color frame */
42     FRAME_OLD_ARITH_RGB = 7,    /**< obsolete arithmetic coded RGB (no longer encoded by upstream since version 1.1.0) */
43     FRAME_ARITH_RGBA    = 8,    /**< arithmetic coded RGBA */
44     FRAME_SOLID_RGBA    = 9,    /**< solid RGBA color frame */
45     FRAME_ARITH_YV12    = 10,   /**< arithmetic coded YV12 */
46     FRAME_REDUCED_RES   = 11,   /**< reduced resolution YV12 frame */
47 };
48
49 typedef struct LagarithContext {
50     AVCodecContext *avctx;
51     DSPContext dsp;
52     int zeros;                  /**< number of consecutive zero bytes encountered */
53     int zeros_rem;              /**< number of zero bytes remaining to output */
54     uint8_t *rgb_planes;
55     int rgb_stride;
56 } LagarithContext;
57
58 /**
59  * Compute the 52bit mantissa of 1/(double)denom.
60  * This crazy format uses floats in an entropy coder and we have to match x86
61  * rounding exactly, thus ordinary floats aren't portable enough.
62  * @param denom denominator
63  * @return 52bit mantissa
64  * @see softfloat_mul
65  */
66 static uint64_t softfloat_reciprocal(uint32_t denom)
67 {
68     int shift = av_log2(denom - 1) + 1;
69     uint64_t ret = (1ULL << 52) / denom;
70     uint64_t err = (1ULL << 52) - ret * denom;
71     ret <<= shift;
72     err <<= shift;
73     err +=  denom / 2;
74     return ret + err / denom;
75 }
76
77 /**
78  * (uint32_t)(x*f), where f has the given mantissa, and exponent 0
79  * Used in combination with softfloat_reciprocal computes x/(double)denom.
80  * @param x 32bit integer factor
81  * @param mantissa mantissa of f with exponent 0
82  * @return 32bit integer value (x*f)
83  * @see softfloat_reciprocal
84  */
85 static uint32_t softfloat_mul(uint32_t x, uint64_t mantissa)
86 {
87     uint64_t l = x * (mantissa & 0xffffffff);
88     uint64_t h = x * (mantissa >> 32);
89     h += l >> 32;
90     l &= 0xffffffff;
91     l += 1 << av_log2(h >> 21);
92     h += l >> 32;
93     return h >> 20;
94 }
95
96 static uint8_t lag_calc_zero_run(int8_t x)
97 {
98     return (x << 1) ^ (x >> 7);
99 }
100
101 static int lag_decode_prob(GetBitContext *gb, uint32_t *value)
102 {
103     static const uint8_t series[] = { 1, 2, 3, 5, 8, 13, 21 };
104     int i;
105     int bit     = 0;
106     int bits    = 0;
107     int prevbit = 0;
108     unsigned val;
109
110     for (i = 0; i < 7; i++) {
111         if (prevbit && bit)
112             break;
113         prevbit = bit;
114         bit = get_bits1(gb);
115         if (bit && !prevbit)
116             bits += series[i];
117     }
118     bits--;
119     if (bits < 0 || bits > 31) {
120         *value = 0;
121         return -1;
122     } else if (bits == 0) {
123         *value = 0;
124         return 0;
125     }
126
127     val  = get_bits_long(gb, bits);
128     val |= 1 << bits;
129
130     *value = val - 1;
131
132     return 0;
133 }
134
135 static int lag_read_prob_header(lag_rac *rac, GetBitContext *gb)
136 {
137     int i, j, scale_factor;
138     unsigned prob, cumulative_target;
139     unsigned cumul_prob = 0;
140     unsigned scaled_cumul_prob = 0;
141
142     rac->prob[0] = 0;
143     rac->prob[257] = UINT_MAX;
144     /* Read probabilities from bitstream */
145     for (i = 1; i < 257; i++) {
146         if (lag_decode_prob(gb, &rac->prob[i]) < 0) {
147             av_log(rac->avctx, AV_LOG_ERROR, "Invalid probability encountered.\n");
148             return -1;
149         }
150         if ((uint64_t)cumul_prob + rac->prob[i] > UINT_MAX) {
151             av_log(rac->avctx, AV_LOG_ERROR, "Integer overflow encountered in cumulative probability calculation.\n");
152             return -1;
153         }
154         cumul_prob += rac->prob[i];
155         if (!rac->prob[i]) {
156             if (lag_decode_prob(gb, &prob)) {
157                 av_log(rac->avctx, AV_LOG_ERROR, "Invalid probability run encountered.\n");
158                 return -1;
159             }
160             if (prob > 256 - i)
161                 prob = 256 - i;
162             for (j = 0; j < prob; j++)
163                 rac->prob[++i] = 0;
164         }
165     }
166
167     if (!cumul_prob) {
168         av_log(rac->avctx, AV_LOG_ERROR, "All probabilities are 0!\n");
169         return -1;
170     }
171
172     /* Scale probabilities so cumulative probability is an even power of 2. */
173     scale_factor = av_log2(cumul_prob);
174
175     if (cumul_prob & (cumul_prob - 1)) {
176         uint64_t mul = softfloat_reciprocal(cumul_prob);
177         for (i = 1; i <= 128; i++) {
178             rac->prob[i] = softfloat_mul(rac->prob[i], mul);
179             scaled_cumul_prob += rac->prob[i];
180         }
181         if (scaled_cumul_prob <= 0) {
182             av_log(rac->avctx, AV_LOG_ERROR, "Scaled probabilities invalid\n");
183             return AVERROR_INVALIDDATA;
184         }
185         for (; i < 257; i++) {
186             rac->prob[i] = softfloat_mul(rac->prob[i], mul);
187             scaled_cumul_prob += rac->prob[i];
188         }
189
190         scale_factor++;
191         cumulative_target = 1 << scale_factor;
192
193         if (scaled_cumul_prob > cumulative_target) {
194             av_log(rac->avctx, AV_LOG_ERROR,
195                    "Scaled probabilities are larger than target!\n");
196             return -1;
197         }
198
199         scaled_cumul_prob = cumulative_target - scaled_cumul_prob;
200
201         for (i = 1; scaled_cumul_prob; i = (i & 0x7f) + 1) {
202             if (rac->prob[i]) {
203                 rac->prob[i]++;
204                 scaled_cumul_prob--;
205             }
206             /* Comment from reference source:
207              * if (b & 0x80 == 0) {     // order of operations is 'wrong'; it has been left this way
208              *                          // since the compression change is negligible and fixing it
209              *                          // breaks backwards compatibility
210              *      b =- (signed int)b;
211              *      b &= 0xFF;
212              * } else {
213              *      b++;
214              *      b &= 0x7f;
215              * }
216              */
217         }
218     }
219
220     rac->scale = scale_factor;
221
222     /* Fill probability array with cumulative probability for each symbol. */
223     for (i = 1; i < 257; i++)
224         rac->prob[i] += rac->prob[i - 1];
225
226     return 0;
227 }
228
229 static void add_lag_median_prediction(uint8_t *dst, uint8_t *src1,
230                                       uint8_t *diff, int w, int *left,
231                                       int *left_top)
232 {
233     /* This is almost identical to add_hfyu_median_prediction in dsputil.h.
234      * However the &0xFF on the gradient predictor yealds incorrect output
235      * for lagarith.
236      */
237     int i;
238     uint8_t l, lt;
239
240     l  = *left;
241     lt = *left_top;
242
243     for (i = 0; i < w; i++) {
244         l = mid_pred(l, src1[i], l + src1[i] - lt) + diff[i];
245         lt = src1[i];
246         dst[i] = l;
247     }
248
249     *left     = l;
250     *left_top = lt;
251 }
252
253 static void lag_pred_line(LagarithContext *l, uint8_t *buf,
254                           int width, int stride, int line)
255 {
256     int L, TL;
257
258     if (!line) {
259         /* Left prediction only for first line */
260         L = l->dsp.add_hfyu_left_prediction(buf, buf,
261                                             width, 0);
262     } else {
263         /* Left pixel is actually prev_row[width] */
264         L = buf[width - stride - 1];
265
266         if (line == 1) {
267             /* Second line, left predict first pixel, the rest of the line is median predicted
268              * NOTE: In the case of RGB this pixel is top predicted */
269             TL = l->avctx->pix_fmt == AV_PIX_FMT_YUV420P ? buf[-stride] : L;
270         } else {
271             /* Top left is 2 rows back, last pixel */
272             TL = buf[width - (2 * stride) - 1];
273         }
274
275         add_lag_median_prediction(buf, buf - stride, buf,
276                                   width, &L, &TL);
277     }
278 }
279
280 static void lag_pred_line_yuy2(LagarithContext *l, uint8_t *buf,
281                                int width, int stride, int line,
282                                int is_luma)
283 {
284     int L, TL;
285
286     if (!line) {
287         L= buf[0];
288         if (is_luma)
289             buf[0] = 0;
290         l->dsp.add_hfyu_left_prediction(buf, buf, width, 0);
291         if (is_luma)
292             buf[0] = L;
293         return;
294     }
295     if (line == 1) {
296         const int HEAD = is_luma ? 4 : 2;
297         int i;
298
299         L  = buf[width - stride - 1];
300         TL = buf[HEAD  - stride - 1];
301         for (i = 0; i < HEAD; i++) {
302             L += buf[i];
303             buf[i] = L;
304         }
305         for (; i<width; i++) {
306             L     = mid_pred(L&0xFF, buf[i-stride], (L + buf[i-stride] - TL)&0xFF) + buf[i];
307             TL    = buf[i-stride];
308             buf[i]= L;
309         }
310     } else {
311         TL = buf[width - (2 * stride) - 1];
312         L  = buf[width - stride - 1];
313         l->dsp.add_hfyu_median_prediction(buf, buf - stride, buf, width,
314                                         &L, &TL);
315     }
316 }
317
318 static int lag_decode_line(LagarithContext *l, lag_rac *rac,
319                            uint8_t *dst, int width, int stride,
320                            int esc_count)
321 {
322     int i = 0;
323     int ret = 0;
324
325     if (!esc_count)
326         esc_count = -1;
327
328     /* Output any zeros remaining from the previous run */
329 handle_zeros:
330     if (l->zeros_rem) {
331         int count = FFMIN(l->zeros_rem, width - i);
332         memset(dst + i, 0, count);
333         i += count;
334         l->zeros_rem -= count;
335     }
336
337     while (i < width) {
338         dst[i] = lag_get_rac(rac);
339         ret++;
340
341         if (dst[i])
342             l->zeros = 0;
343         else
344             l->zeros++;
345
346         i++;
347         if (l->zeros == esc_count) {
348             int index = lag_get_rac(rac);
349             ret++;
350
351             l->zeros = 0;
352
353             l->zeros_rem = lag_calc_zero_run(index);
354             goto handle_zeros;
355         }
356     }
357     return ret;
358 }
359
360 static int lag_decode_zero_run_line(LagarithContext *l, uint8_t *dst,
361                                     const uint8_t *src, const uint8_t *src_end,
362                                     int width, int esc_count)
363 {
364     int i = 0;
365     int count;
366     uint8_t zero_run = 0;
367     const uint8_t *src_start = src;
368     uint8_t mask1 = -(esc_count < 2);
369     uint8_t mask2 = -(esc_count < 3);
370     uint8_t *end = dst + (width - 2);
371
372     avpriv_request_sample(l->avctx, "zero_run_line");
373
374     memset(dst, 0, width);
375
376 output_zeros:
377     if (l->zeros_rem) {
378         count = FFMIN(l->zeros_rem, width - i);
379         if (end - dst < count) {
380             av_log(l->avctx, AV_LOG_ERROR, "Too many zeros remaining.\n");
381             return AVERROR_INVALIDDATA;
382         }
383
384         memset(dst, 0, count);
385         l->zeros_rem -= count;
386         dst += count;
387     }
388
389     while (dst < end) {
390         i = 0;
391         while (!zero_run && dst + i < end) {
392             i++;
393             if (i+2 >= src_end - src)
394                 return AVERROR_INVALIDDATA;
395             zero_run =
396                 !(src[i] | (src[i + 1] & mask1) | (src[i + 2] & mask2));
397         }
398         if (zero_run) {
399             zero_run = 0;
400             i += esc_count;
401             memcpy(dst, src, i);
402             dst += i;
403             l->zeros_rem = lag_calc_zero_run(src[i]);
404
405             src += i + 1;
406             goto output_zeros;
407         } else {
408             memcpy(dst, src, i);
409             src += i;
410             dst += i;
411         }
412     }
413     return  src - src_start;
414 }
415
416
417
418 static int lag_decode_arith_plane(LagarithContext *l, uint8_t *dst,
419                                   int width, int height, int stride,
420                                   const uint8_t *src, int src_size)
421 {
422     int i = 0;
423     int read = 0;
424     uint32_t length;
425     uint32_t offset = 1;
426     int esc_count;
427     GetBitContext gb;
428     lag_rac rac;
429     const uint8_t *src_end = src + src_size;
430
431     rac.avctx = l->avctx;
432     l->zeros = 0;
433
434     if(src_size < 2)
435         return AVERROR_INVALIDDATA;
436
437     esc_count = src[0];
438     if (esc_count < 4) {
439         length = width * height;
440         if(src_size < 5)
441             return AVERROR_INVALIDDATA;
442         if (esc_count && AV_RL32(src + 1) < length) {
443             length = AV_RL32(src + 1);
444             offset += 4;
445         }
446
447         init_get_bits(&gb, src + offset, (src_size - offset) * 8);
448
449         if (lag_read_prob_header(&rac, &gb) < 0)
450             return -1;
451
452         ff_lag_rac_init(&rac, &gb, length - stride);
453
454         for (i = 0; i < height; i++)
455             read += lag_decode_line(l, &rac, dst + (i * stride), width,
456                                     stride, esc_count);
457
458         if (read > length)
459             av_log(l->avctx, AV_LOG_WARNING,
460                    "Output more bytes than length (%d of %d)\n", read,
461                    length);
462     } else if (esc_count < 8) {
463         esc_count -= 4;
464         src ++;
465         src_size --;
466         if (esc_count > 0) {
467             /* Zero run coding only, no range coding. */
468             for (i = 0; i < height; i++) {
469                 int res = lag_decode_zero_run_line(l, dst + (i * stride), src,
470                                                    src_end, width, esc_count);
471                 if (res < 0)
472                     return res;
473                 src += res;
474             }
475         } else {
476             if (src_size < width * height)
477                 return AVERROR_INVALIDDATA; // buffer not big enough
478             /* Plane is stored uncompressed */
479             for (i = 0; i < height; i++) {
480                 memcpy(dst + (i * stride), src, width);
481                 src += width;
482             }
483         }
484     } else if (esc_count == 0xff) {
485         /* Plane is a solid run of given value */
486         for (i = 0; i < height; i++)
487             memset(dst + i * stride, src[1], width);
488         /* Do not apply prediction.
489            Note: memset to 0 above, setting first value to src[1]
490            and applying prediction gives the same result. */
491         return 0;
492     } else {
493         av_log(l->avctx, AV_LOG_ERROR,
494                "Invalid zero run escape code! (%#x)\n", esc_count);
495         return -1;
496     }
497
498     if (l->avctx->pix_fmt != AV_PIX_FMT_YUV422P) {
499         for (i = 0; i < height; i++) {
500             lag_pred_line(l, dst, width, stride, i);
501             dst += stride;
502         }
503     } else {
504         for (i = 0; i < height; i++) {
505             lag_pred_line_yuy2(l, dst, width, stride, i,
506                                width == l->avctx->width);
507             dst += stride;
508         }
509     }
510
511     return 0;
512 }
513
514 /**
515  * Decode a frame.
516  * @param avctx codec context
517  * @param data output AVFrame
518  * @param data_size size of output data or 0 if no picture is returned
519  * @param avpkt input packet
520  * @return number of consumed bytes on success or negative if decode fails
521  */
522 static int lag_decode_frame(AVCodecContext *avctx,
523                             void *data, int *got_frame, AVPacket *avpkt)
524 {
525     const uint8_t *buf = avpkt->data;
526     unsigned int buf_size = avpkt->size;
527     LagarithContext *l = avctx->priv_data;
528     ThreadFrame frame = { .f = data };
529     AVFrame *const p  = data;
530     uint8_t frametype = 0;
531     uint32_t offset_gu = 0, offset_bv = 0, offset_ry = 9;
532     uint32_t offs[4];
533     uint8_t *srcs[4], *dst;
534     int i, j, planes = 3;
535     int ret;
536
537     p->key_frame = 1;
538
539     frametype = buf[0];
540
541     offset_gu = AV_RL32(buf + 1);
542     offset_bv = AV_RL32(buf + 5);
543
544     switch (frametype) {
545     case FRAME_SOLID_RGBA:
546         avctx->pix_fmt = AV_PIX_FMT_RGB32;
547     case FRAME_SOLID_GRAY:
548         if (frametype == FRAME_SOLID_GRAY)
549             if (avctx->bits_per_coded_sample == 24) {
550                 avctx->pix_fmt = AV_PIX_FMT_RGB24;
551             } else {
552                 avctx->pix_fmt = AV_PIX_FMT_0RGB32;
553                 planes = 4;
554             }
555
556         if ((ret = ff_thread_get_buffer(avctx, &frame, 0)) < 0)
557             return ret;
558
559         dst = p->data[0];
560         if (frametype == FRAME_SOLID_RGBA) {
561         for (j = 0; j < avctx->height; j++) {
562             for (i = 0; i < avctx->width; i++)
563                 AV_WN32(dst + i * 4, offset_gu);
564             dst += p->linesize[0];
565         }
566         } else {
567             for (j = 0; j < avctx->height; j++) {
568                 memset(dst, buf[1], avctx->width * planes);
569                 dst += p->linesize[0];
570             }
571         }
572         break;
573     case FRAME_SOLID_COLOR:
574         if (avctx->bits_per_coded_sample == 24) {
575             avctx->pix_fmt = AV_PIX_FMT_RGB24;
576         } else {
577             avctx->pix_fmt = AV_PIX_FMT_RGB32;
578             offset_gu |= 0xFFU << 24;
579         }
580
581         if ((ret = ff_thread_get_buffer(avctx, &frame,0)) < 0)
582             return ret;
583
584         dst = p->data[0];
585         for (j = 0; j < avctx->height; j++) {
586             for (i = 0; i < avctx->width; i++)
587                 if (avctx->bits_per_coded_sample == 24) {
588                     AV_WB24(dst + i * 3, offset_gu);
589                 } else {
590                     AV_WN32(dst + i * 4, offset_gu);
591                 }
592             dst += p->linesize[0];
593         }
594         break;
595     case FRAME_ARITH_RGBA:
596         avctx->pix_fmt = AV_PIX_FMT_RGB32;
597         planes = 4;
598         offset_ry += 4;
599         offs[3] = AV_RL32(buf + 9);
600     case FRAME_ARITH_RGB24:
601     case FRAME_U_RGB24:
602         if (frametype == FRAME_ARITH_RGB24 || frametype == FRAME_U_RGB24)
603             avctx->pix_fmt = AV_PIX_FMT_RGB24;
604
605         if ((ret = ff_thread_get_buffer(avctx, &frame, 0)) < 0)
606             return ret;
607
608         offs[0] = offset_bv;
609         offs[1] = offset_gu;
610         offs[2] = offset_ry;
611
612         if (!l->rgb_planes) {
613             l->rgb_stride = FFALIGN(avctx->width, 16);
614             l->rgb_planes = av_malloc(l->rgb_stride * avctx->height * 4 + 16);
615             if (!l->rgb_planes) {
616                 av_log(avctx, AV_LOG_ERROR, "cannot allocate temporary buffer\n");
617                 return AVERROR(ENOMEM);
618             }
619         }
620         for (i = 0; i < planes; i++)
621             srcs[i] = l->rgb_planes + (i + 1) * l->rgb_stride * avctx->height - l->rgb_stride;
622         for (i = 0; i < planes; i++)
623             if (buf_size <= offs[i]) {
624                 av_log(avctx, AV_LOG_ERROR,
625                         "Invalid frame offsets\n");
626                 return AVERROR_INVALIDDATA;
627             }
628
629         for (i = 0; i < planes; i++)
630             lag_decode_arith_plane(l, srcs[i],
631                                    avctx->width, avctx->height,
632                                    -l->rgb_stride, buf + offs[i],
633                                    buf_size - offs[i]);
634         dst = p->data[0];
635         for (i = 0; i < planes; i++)
636             srcs[i] = l->rgb_planes + i * l->rgb_stride * avctx->height;
637         for (j = 0; j < avctx->height; j++) {
638             for (i = 0; i < avctx->width; i++) {
639                 uint8_t r, g, b, a;
640                 r = srcs[0][i];
641                 g = srcs[1][i];
642                 b = srcs[2][i];
643                 r += g;
644                 b += g;
645                 if (frametype == FRAME_ARITH_RGBA) {
646                     a = srcs[3][i];
647                     AV_WN32(dst + i * 4, MKBETAG(a, r, g, b));
648                 } else {
649                     dst[i * 3 + 0] = r;
650                     dst[i * 3 + 1] = g;
651                     dst[i * 3 + 2] = b;
652                 }
653             }
654             dst += p->linesize[0];
655             for (i = 0; i < planes; i++)
656                 srcs[i] += l->rgb_stride;
657         }
658         break;
659     case FRAME_ARITH_YUY2:
660         avctx->pix_fmt = AV_PIX_FMT_YUV422P;
661
662         if ((ret = ff_thread_get_buffer(avctx, &frame, 0)) < 0)
663             return ret;
664
665         if (offset_ry >= buf_size ||
666             offset_gu >= buf_size ||
667             offset_bv >= buf_size) {
668             av_log(avctx, AV_LOG_ERROR,
669                    "Invalid frame offsets\n");
670             return AVERROR_INVALIDDATA;
671         }
672
673         lag_decode_arith_plane(l, p->data[0], avctx->width, avctx->height,
674                                p->linesize[0], buf + offset_ry,
675                                buf_size - offset_ry);
676         lag_decode_arith_plane(l, p->data[1], avctx->width / 2,
677                                avctx->height, p->linesize[1],
678                                buf + offset_gu, buf_size - offset_gu);
679         lag_decode_arith_plane(l, p->data[2], avctx->width / 2,
680                                avctx->height, p->linesize[2],
681                                buf + offset_bv, buf_size - offset_bv);
682         break;
683     case FRAME_ARITH_YV12:
684         avctx->pix_fmt = AV_PIX_FMT_YUV420P;
685
686         if ((ret = ff_thread_get_buffer(avctx, &frame, 0)) < 0)
687             return ret;
688         if (buf_size <= offset_ry || buf_size <= offset_gu || buf_size <= offset_bv) {
689             return AVERROR_INVALIDDATA;
690         }
691
692         if (offset_ry >= buf_size ||
693             offset_gu >= buf_size ||
694             offset_bv >= buf_size) {
695             av_log(avctx, AV_LOG_ERROR,
696                    "Invalid frame offsets\n");
697             return AVERROR_INVALIDDATA;
698         }
699
700         lag_decode_arith_plane(l, p->data[0], avctx->width, avctx->height,
701                                p->linesize[0], buf + offset_ry,
702                                buf_size - offset_ry);
703         lag_decode_arith_plane(l, p->data[2], avctx->width / 2,
704                                avctx->height / 2, p->linesize[2],
705                                buf + offset_gu, buf_size - offset_gu);
706         lag_decode_arith_plane(l, p->data[1], avctx->width / 2,
707                                avctx->height / 2, p->linesize[1],
708                                buf + offset_bv, buf_size - offset_bv);
709         break;
710     default:
711         av_log(avctx, AV_LOG_ERROR,
712                "Unsupported Lagarith frame type: %#x\n", frametype);
713         return AVERROR_PATCHWELCOME;
714     }
715
716     *got_frame = 1;
717
718     return buf_size;
719 }
720
721 static av_cold int lag_decode_init(AVCodecContext *avctx)
722 {
723     LagarithContext *l = avctx->priv_data;
724     l->avctx = avctx;
725
726     ff_dsputil_init(&l->dsp, avctx);
727
728     return 0;
729 }
730
731 static av_cold int lag_decode_end(AVCodecContext *avctx)
732 {
733     LagarithContext *l = avctx->priv_data;
734
735     av_freep(&l->rgb_planes);
736
737     return 0;
738 }
739
740 AVCodec ff_lagarith_decoder = {
741     .name           = "lagarith",
742     .long_name      = NULL_IF_CONFIG_SMALL("Lagarith lossless"),
743     .type           = AVMEDIA_TYPE_VIDEO,
744     .id             = AV_CODEC_ID_LAGARITH,
745     .priv_data_size = sizeof(LagarithContext),
746     .init           = lag_decode_init,
747     .close          = lag_decode_end,
748     .decode         = lag_decode_frame,
749     .capabilities   = CODEC_CAP_DR1 | CODEC_CAP_FRAME_THREADS,
750 };