c0ce742c53ff8764ca528d5ddeeccf3e6918b4fe
[ffmpeg.git] / libavcodec / jpeg_ls.c
1 /*
2  * JPEG-LS encoder and decoder
3  * Copyright (c) 2003 Michael Niedermayer
4  * Copyright (c) 2006 Konstantin Shishkov
5  *
6  * This file is part of FFmpeg.
7  *
8  * FFmpeg is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * FFmpeg is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with FFmpeg; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 #include "golomb.h"
24
25 /**
26  * @file jpeg_ls.c
27  * JPEG-LS encoder and decoder.
28  */
29
30 typedef struct JpeglsContext{
31     AVCodecContext *avctx;
32     AVFrame picture;
33 }JpeglsContext;
34
35 typedef struct JLSState{
36     int T1, T2, T3;
37     int A[367], B[367], C[365], N[367];
38     int limit, reset, bpp, qbpp, maxval, range;
39     int near, twonear;
40     int run_index[3];
41 }JLSState;
42
43 static const uint8_t log2_run[32]={
44  0, 0, 0, 0, 1, 1, 1, 1,
45  2, 2, 2, 2, 3, 3, 3, 3,
46  4, 4, 5, 5, 6, 6, 7, 7,
47  8, 9,10,11,12,13,14,15
48 };
49
50 /*
51 * Uncomment this to significantly speed up decoding of broken JPEG-LS
52 * (or test broken JPEG-LS decoder) and slow down ordinary decoding a bit.
53 *
54 * There is no Golomb code with length >= 32 bits possible, so check and
55 * avoid situation of 32 zeros, FFmpeg Golomb decoder is painfully slow
56 * on this errors.
57 */
58 //#define JLS_BROKEN
59
60 /********** Functions for both encoder and decoder **********/
61
62 /**
63  * Calculate initial JPEG-LS parameters
64  */
65 static void ls_init_state(JLSState *state){
66     int i;
67
68     state->twonear = state->near * 2 + 1;
69     state->range = ((state->maxval + state->twonear - 1) / state->twonear) + 1;
70
71     // QBPP = ceil(log2(RANGE))
72     for(state->qbpp = 0; (1 << state->qbpp) < state->range; state->qbpp++);
73
74     if(state->bpp < 8)
75         state->limit = 16 + 2 * state->bpp - state->qbpp;
76     else
77         state->limit = (4 * state->bpp) - state->qbpp;
78
79     for(i = 0; i < 367; i++) {
80         state->A[i] = FFMAX((state->range + 32) >> 6, 2);
81         state->N[i] = 1;
82     }
83
84 }
85
86 /**
87  * Calculate quantized gradient value, used for context determination
88  */
89 static inline int quantize(JLSState *s, int v){ //FIXME optimize
90     if(v==0) return 0;
91     if(v < 0){
92         if(v <= -s->T3) return -4;
93         if(v <= -s->T2) return -3;
94         if(v <= -s->T1) return -2;
95         if(v <  -s->near) return -1;
96         return 0;
97     }else{
98         if(v <= s->near) return 0;
99         if(v <  s->T1) return 1;
100         if(v <  s->T2) return 2;
101         if(v <  s->T3) return 3;
102         return 4;
103     }
104 }
105
106 /**
107  * Custom value clipping function used in T1, T2, T3 calculation
108  */
109 static inline int iso_clip(int v, int vmin, int vmax){
110     if(v > vmax || v < vmin) return vmin;
111     else                     return v;
112 }
113
114 /**
115  * Calculate JPEG-LS codec values
116  */
117 static void reset_ls_coding_parameters(JLSState *s, int reset_all){
118     const int basic_t1= 3;
119     const int basic_t2= 7;
120     const int basic_t3= 21;
121     int factor;
122
123     if(s->maxval==0 || reset_all) s->maxval= (1 << s->bpp) - 1;
124
125     if(s->maxval >=128){
126         factor= (FFMIN(s->maxval, 4095) + 128)>>8;
127
128         if(s->T1==0     || reset_all)
129             s->T1= iso_clip(factor*(basic_t1-2) + 2 + 3*s->near, s->near+1, s->maxval);
130         if(s->T2==0     || reset_all)
131             s->T2= iso_clip(factor*(basic_t2-3) + 3 + 5*s->near, s->T1, s->maxval);
132         if(s->T3==0     || reset_all)
133             s->T3= iso_clip(factor*(basic_t3-4) + 4 + 7*s->near, s->T2, s->maxval);
134     }else{
135         factor= 256 / (s->maxval + 1);
136
137         if(s->T1==0     || reset_all)
138             s->T1= iso_clip(FFMAX(2, basic_t1/factor + 3*s->near), s->near+1, s->maxval);
139         if(s->T2==0     || reset_all)
140             s->T2= iso_clip(FFMAX(3, basic_t2/factor + 5*s->near), s->T1, s->maxval);
141         if(s->T3==0     || reset_all)
142             s->T3= iso_clip(FFMAX(4, basic_t3/factor + 6*s->near), s->T2, s->maxval);
143     }
144
145     if(s->reset==0  || reset_all) s->reset= 64;
146 //    av_log(NULL, AV_LOG_DEBUG, "[JPEG-LS RESET] T=%i,%i,%i\n", s->T1, s->T2, s->T3);
147 }
148
149
150 /********** Decoder-specific functions **********/
151
152 /**
153  * Decode LSE block with initialization parameters
154  */
155 static int decode_lse(MJpegDecodeContext *s)
156 {
157     int len, id;
158
159     /* XXX: verify len field validity */
160     len = get_bits(&s->gb, 16);
161     id = get_bits(&s->gb, 8);
162
163     switch(id){
164     case 1:
165         s->maxval= get_bits(&s->gb, 16);
166         s->t1= get_bits(&s->gb, 16);
167         s->t2= get_bits(&s->gb, 16);
168         s->t3= get_bits(&s->gb, 16);
169         s->reset= get_bits(&s->gb, 16);
170
171 //        reset_ls_coding_parameters(s, 0);
172         //FIXME quant table?
173         break;
174     case 2:
175     case 3:
176         av_log(s->avctx, AV_LOG_ERROR, "palette not supported\n");
177         return -1;
178     case 4:
179         av_log(s->avctx, AV_LOG_ERROR, "oversize image not supported\n");
180         return -1;
181     default:
182         av_log(s->avctx, AV_LOG_ERROR, "invalid id %d\n", id);
183         return -1;
184     }
185 //    av_log(s->avctx, AV_LOG_DEBUG, "ID=%i, T=%i,%i,%i\n", id, s->t1, s->t2, s->t3);
186
187     return 0;
188 }
189
190 static void inline downscale_state(JLSState *state, int Q){
191     if(state->N[Q] == state->reset){
192         state->A[Q] >>=1;
193         state->B[Q] >>=1;
194         state->N[Q] >>=1;
195     }
196     state->N[Q]++;
197 }
198
199 static inline int update_state_regular(JLSState *state, int Q, int err){
200     state->A[Q] += FFABS(err);
201     err *= state->twonear;
202     state->B[Q] += err;
203
204     downscale_state(state, Q);
205
206     if(state->B[Q] <= -state->N[Q]) {
207         state->B[Q] += state->N[Q];
208         if(state->C[Q] > -128)
209             state->C[Q]--;
210         if(state->B[Q] <= -state->N[Q])
211             state->B[Q] = -state->N[Q] + 1;
212     }else if(state->B[Q] > 0){
213         state->B[Q] -= state->N[Q];
214         if(state->C[Q] < 127)
215             state->C[Q]++;
216         if(state->B[Q] > 0)
217             state->B[Q] = 0;
218     }
219
220     return err;
221 }
222
223 /**
224  * Get context-dependent Golomb code, decode it and update context
225  */
226 static inline int ls_get_code_regular(GetBitContext *gb, JLSState *state, int Q){
227     int k, ret;
228
229     for(k = 0; (state->N[Q] << k) < state->A[Q]; k++);
230
231 #ifdef JLS_BROKEN
232     if(!show_bits_long(gb, 32))return -1;
233 #endif
234     ret = get_ur_golomb_jpegls(gb, k, state->limit, state->qbpp);
235
236     /* decode mapped error */
237     if(ret & 1)
238         ret = -((ret + 1) >> 1);
239     else
240         ret >>= 1;
241
242     /* for NEAR=0, k=0 and 2*B[Q] <= - N[Q] mapping is reversed */
243     if(!state->near && !k && (2 * state->B[Q] <= -state->N[Q]))
244         ret = -(ret + 1);
245
246     ret= update_state_regular(state, Q, ret);
247
248     return ret;
249 }
250
251 /**
252  * Get Golomb code, decode it and update state for run termination
253  */
254 static inline int ls_get_code_runterm(GetBitContext *gb, JLSState *state, int RItype, int limit_add){
255     int k, ret, temp, map;
256     int Q = 365 + RItype;
257
258     temp=  state->A[Q];
259     if(RItype)
260         temp += state->N[Q] >> 1;
261
262     for(k = 0; (state->N[Q] << k) < temp; k++);
263
264 #ifdef JLS_BROKEN
265     if(!show_bits_long(gb, 32))return -1;
266 #endif
267     ret = get_ur_golomb_jpegls(gb, k, state->limit - limit_add - 1, state->qbpp);
268
269     /* decode mapped error */
270     map = 0;
271     if(!k && (RItype || ret) && (2 * state->B[Q] < state->N[Q]))
272         map = 1;
273     ret += RItype + map;
274
275     if(ret & 1){
276         ret = map - ((ret + 1) >> 1);
277         state->B[Q]++;
278     } else {
279         ret = ret >> 1;
280     }
281
282     /* update state */
283     state->A[Q] += FFABS(ret) - RItype;
284     ret *= state->twonear;
285     downscale_state(state, Q);
286
287     return ret;
288 }
289
290 #define R(a, i   ) (bits == 8 ?  ((uint8_t*)(a))[i]    :  ((uint16_t*)(a))[i]  )
291 #define W(a, i, v) (bits == 8 ? (((uint8_t*)(a))[i]=v) : (((uint16_t*)(a))[i]=v))
292 /**
293  * Decode one line of image
294  */
295 static inline void ls_decode_line(JLSState *state, MJpegDecodeContext *s, void *last, void *dst, int last2, int w, int stride, int comp, int bits){
296     int i, x = 0;
297     int Ra, Rb, Rc, Rd;
298     int D0, D1, D2;
299
300     while(x < w) {
301         int err, pred;
302
303         /* compute gradients */
304         Ra = x ? R(dst, x - stride) : R(last, x);
305         Rb = R(last, x);
306         Rc = x ? R(last, x - stride) : last2;
307         Rd = (x >= w - stride) ? R(last, x) : R(last, x + stride);
308         D0 = Rd - Rb;
309         D1 = Rb - Rc;
310         D2 = Rc - Ra;
311         /* run mode */
312         if((FFABS(D0) <= state->near) && (FFABS(D1) <= state->near) && (FFABS(D2) <= state->near)) {
313             int r;
314             int RItype;
315
316             /* decode full runs while available */
317             while(get_bits1(&s->gb)) {
318                 int r;
319                 r = 1 << log2_run[state->run_index[comp]];
320                 if(x + r * stride > w) {
321                     r = (w - x) / stride;
322                 }
323                 for(i = 0; i < r; i++) {
324                     W(dst, x, Ra);
325                     x += stride;
326                 }
327                 /* if EOL reached, we stop decoding */
328                 if(r != (1 << log2_run[state->run_index[comp]]))
329                     return;
330                 if(state->run_index[comp] < 31)
331                     state->run_index[comp]++;
332                 if(x + stride > w)
333                     return;
334             }
335             /* decode aborted run */
336             r = log2_run[state->run_index[comp]];
337             if(r)
338                 r = get_bits_long(&s->gb, r);
339             for(i = 0; i < r; i++) {
340                 W(dst, x, Ra);
341                 x += stride;
342             }
343
344             /* decode run termination value */
345             Rb = R(last, x);
346             RItype = (FFABS(Ra - Rb) <= state->near) ? 1 : 0;
347             err = ls_get_code_runterm(&s->gb, state, RItype, log2_run[state->run_index[comp]]);
348             if(state->run_index[comp])
349                 state->run_index[comp]--;
350
351             if(state->near && RItype){
352                 pred = Ra + err;
353             } else {
354                 if(Rb < Ra)
355                     pred = Rb - err;
356                 else
357                     pred = Rb + err;
358             }
359         } else { /* regular mode */
360             int context, sign;
361
362             context = quantize(state, D0) * 81 + quantize(state, D1) * 9 + quantize(state, D2);
363             pred = mid_pred(Ra, Ra + Rb - Rc, Rb);
364
365             if(context < 0){
366                 context = -context;
367                 sign = 1;
368             }else{
369                 sign = 0;
370             }
371
372             if(sign){
373                 pred = clip(pred - state->C[context], 0, state->maxval);
374                 err = -ls_get_code_regular(&s->gb, state, context);
375             } else {
376                 pred = clip(pred + state->C[context], 0, state->maxval);
377                 err = ls_get_code_regular(&s->gb, state, context);
378             }
379
380             /* we have to do something more for near-lossless coding */
381             pred += err;
382         }
383         if(state->near){
384             if(pred < -state->near)
385                 pred += state->range * state->twonear;
386             else if(pred > state->maxval + state->near)
387                 pred -= state->range * state->twonear;
388             pred = clip(pred, 0, state->maxval);
389         }
390
391         W(dst, x, pred);
392         x += stride;
393     }
394 }
395
396 static int ls_decode_picture(MJpegDecodeContext *s, int near, int point_transform, int ilv){
397     int i, t = 0;
398     uint8_t *zero, *last, *cur;
399     JLSState *state;
400     int off = 0, stride = 1, width, shift;
401
402     zero = av_mallocz(s->picture.linesize[0]);
403     last = zero;
404     cur = s->picture.data[0];
405
406     state = av_mallocz(sizeof(JLSState));
407     /* initialize JPEG-LS state from JPEG parameters */
408     state->near = near;
409     state->bpp = (s->bits < 2) ? 2 : s->bits;
410     state->maxval = s->maxval;
411     state->T1 = s->t1;
412     state->T2 = s->t2;
413     state->T3 = s->t3;
414     state->reset = s->reset;
415     reset_ls_coding_parameters(state, 0);
416     ls_init_state(state);
417
418     if(s->bits <= 8)
419         shift = point_transform + (8 - s->bits);
420     else
421         shift = point_transform + (16 - s->bits);
422
423 //    av_log(s->avctx, AV_LOG_DEBUG, "JPEG-LS params: %ix%i NEAR=%i MV=%i T(%i,%i,%i) RESET=%i, LIMIT=%i, qbpp=%i, RANGE=%i\n",s->width,s->height,state->near,state->maxval,state->T1,state->T2,state->T3,state->reset,state->limit,state->qbpp, state->range);
424 //    av_log(s->avctx, AV_LOG_DEBUG, "JPEG params: ILV=%i Pt=%i BPP=%i, scan = %i\n", ilv, point_transform, s->bits, s->cur_scan);
425     if(ilv == 0) { /* separate planes */
426         off = s->cur_scan - 1;
427         stride = (s->nb_components > 1) ? 3 : 1;
428         width = s->width * stride;
429         cur += off;
430         for(i = 0; i < s->height; i++) {
431             if(s->bits <= 8){
432                 ls_decode_line(state, s, last, cur, t, width, stride, off,  8);
433                 t = last[0];
434             }else{
435                 ls_decode_line(state, s, last, cur, t, width, stride, off, 16);
436                 t = *((uint16_t*)last);
437             }
438             last = cur;
439             cur += s->picture.linesize[0];
440
441             if (s->restart_interval && !--s->restart_count) {
442                 align_get_bits(&s->gb);
443                 skip_bits(&s->gb, 16); /* skip RSTn */
444             }
445         }
446     } else if(ilv == 1) { /* line interleaving */
447         int j;
448         int Rc[3] = {0, 0, 0};
449         memset(cur, 0, s->picture.linesize[0]);
450         width = s->width * 3;
451         for(i = 0; i < s->height; i++) {
452             for(j = 0; j < 3; j++) {
453                 ls_decode_line(state, s, last + j, cur + j, Rc[j], width, 3, j, 8);
454                 Rc[j] = last[j];
455
456                 if (s->restart_interval && !--s->restart_count) {
457                     align_get_bits(&s->gb);
458                     skip_bits(&s->gb, 16); /* skip RSTn */
459                 }
460             }
461             last = cur;
462             cur += s->picture.linesize[0];
463         }
464     } else if(ilv == 2) { /* sample interleaving */
465         av_log(s->avctx, AV_LOG_ERROR, "Sample interleaved images are not supported.\n");
466         av_free(state);
467         av_free(zero);
468         return -1;
469     }
470
471     if(shift){ /* we need to do point transform or normalize samples */
472         int x, w;
473
474         w = s->width * s->nb_components;
475
476         if(s->bits <= 8){
477             uint8_t *src = s->picture.data[0];
478
479             for(i = 0; i < s->height; i++){
480                 for(x = off; x < w; x+= stride){
481                     src[x] <<= shift;
482                 }
483                 src += s->picture.linesize[0];
484             }
485         }else{
486             uint16_t *src = s->picture.data[0];
487
488             for(i = 0; i < s->height; i++){
489                 for(x = 0; x < w; x++){
490                     src[x] <<= shift;
491                 }
492                 src += s->picture.linesize[0]/2;
493             }
494         }
495     }
496     av_free(state);
497     av_free(zero);
498
499     return 0;
500 }
501
502 #if defined(CONFIG_ENCODERS) && defined(CONFIG_JPEGLS_ENCODER)
503 /********** Encoder-specific functions **********/
504
505 /**
506  * Encode error from regular symbol
507  */
508 static inline void ls_encode_regular(JLSState *state, PutBitContext *pb, int Q, int err){
509     int k;
510     int val;
511     int map;
512
513     for(k = 0; (state->N[Q] << k) < state->A[Q]; k++);
514
515     map = !state->near && !k && (2 * state->B[Q] <= -state->N[Q]);
516
517     if(err < 0)
518         err += state->range;
519     if(err >= ((state->range + 1) >> 1)) {
520         err -= state->range;
521         val = 2 * FFABS(err) - 1 - map;
522     } else
523         val = 2 * err + map;
524
525     set_ur_golomb_jpegls(pb, val, k, state->limit, state->qbpp);
526
527     update_state_regular(state, Q, err);
528 }
529
530 /**
531  * Encode error from run termination
532  */
533 static inline void ls_encode_runterm(JLSState *state, PutBitContext *pb, int RItype, int err, int limit_add){
534     int k;
535     int val, map;
536     int Q = 365 + RItype;
537     int temp;
538
539     temp = state->A[Q];
540     if(RItype)
541         temp += state->N[Q] >> 1;
542     for(k = 0; (state->N[Q] << k) < temp; k++);
543     map = 0;
544     if(!k && err && (2 * state->B[Q] < state->N[Q]))
545         map = 1;
546
547     if(err < 0)
548         val = - (2 * err) - 1 - RItype + map;
549     else
550         val = 2 * err - RItype - map;
551     set_ur_golomb_jpegls(pb, val, k, state->limit - limit_add - 1, state->qbpp);
552
553     if(err < 0)
554         state->B[Q]++;
555     state->A[Q] += (val + 1 - RItype) >> 1;
556
557     downscale_state(state, Q);
558 }
559
560 /**
561  * Encode run value as specified by JPEG-LS standard
562  */
563 static inline void ls_encode_run(JLSState *state, PutBitContext *pb, int run, int comp, int trail){
564     while(run >= (1 << log2_run[state->run_index[comp]])){
565         put_bits(pb, 1, 1);
566         run -= 1 << log2_run[state->run_index[comp]];
567         if(state->run_index[comp] < 31)
568             state->run_index[comp]++;
569     }
570     /* if hit EOL, encode another full run, else encode aborted run */
571     if(!trail && run) {
572         put_bits(pb, 1, 1);
573     }else if(trail){
574         put_bits(pb, 1, 0);
575         if(log2_run[state->run_index[comp]])
576             put_bits(pb, log2_run[state->run_index[comp]], run);
577     }
578 }
579
580 /**
581  * Encode one line of image
582  */
583 static inline void ls_encode_line(JLSState *state, PutBitContext *pb, void *last, void *cur, int last2, int w, int stride, int comp, int bits){
584     int x = 0;
585     int Ra, Rb, Rc, Rd;
586     int D0, D1, D2;
587
588     while(x < w) {
589         int err, pred, sign;
590
591         /* compute gradients */
592         Ra = x ? R(cur, x - stride) : R(last, x);
593         Rb = R(last, x);
594         Rc = x ? R(last, x - stride) : last2;
595         Rd = (x >= w - stride) ? R(last, x) : R(last, x + stride);
596         D0 = Rd - Rb;
597         D1 = Rb - Rc;
598         D2 = Rc - Ra;
599
600         /* run mode */
601         if((FFABS(D0) <= state->near) && (FFABS(D1) <= state->near) && (FFABS(D2) <= state->near)) {
602             int RUNval, RItype, run;
603
604             run = 0;
605             RUNval = Ra;
606             while(x < w && (FFABS(R(cur, x) - RUNval) <= state->near)){
607                 run++;
608                 W(cur, x, Ra);
609                 x += stride;
610             }
611             ls_encode_run(state, pb, run, comp, x < w);
612             if(x >= w)
613                 return;
614             Rb = R(last, x);
615             RItype = (FFABS(Ra - Rb) <= state->near);
616             pred = RItype ? Ra : Rb;
617             err = R(cur, x) - pred;
618
619             if(!RItype && Ra > Rb)
620                 err = -err;
621
622             if(state->near){
623                 if(err > 0)
624                     err = (state->near + err) / state->twonear;
625                 else
626                     err = -(state->near - err) / state->twonear;
627
628                 if(RItype || (Rb >= Ra))
629                     Ra = clip(pred + err * state->twonear, 0, state->maxval);
630                 else
631                     Ra = clip(pred - err * state->twonear, 0, state->maxval);
632                 W(cur, x, Ra);
633             }
634             if(err < 0)
635                 err += state->range;
636             if(err >= ((state->range + 1) >> 1))
637                 err -= state->range;
638
639             ls_encode_runterm(state, pb, RItype, err, log2_run[state->run_index[comp]]);
640
641             if(state->run_index[comp] > 0)
642                 state->run_index[comp]--;
643         } else { /* regular mode */
644             int context;
645
646             context = quantize(state, D0) * 81 + quantize(state, D1) * 9 + quantize(state, D2);
647             pred = mid_pred(Ra, Ra + Rb - Rc, Rb);
648
649             if(context < 0){
650                 context = -context;
651                 sign = 1;
652                 pred = clip(pred - state->C[context], 0, state->maxval);
653                 err = pred - R(cur, x);
654             }else{
655                 sign = 0;
656                 pred = clip(pred + state->C[context], 0, state->maxval);
657                 err = R(cur, x) - pred;
658             }
659
660             if(state->near){
661                 if(err > 0)
662                     err = (state->near + err) / state->twonear;
663                 else
664                     err = -(state->near - err) / state->twonear;
665                 if(!sign)
666                     Ra = clip(pred + err * state->twonear, 0, state->maxval);
667                 else
668                     Ra = clip(pred - err * state->twonear, 0, state->maxval);
669                 W(cur, x, Ra);
670             }
671
672             ls_encode_regular(state, pb, context, err);
673         }
674         x += stride;
675     }
676 }
677
678 static void ls_store_lse(JLSState *state, PutBitContext *pb){
679     /* Test if we have default params and don't need to store LSE */
680     JLSState state2;
681     memset(&state2, 0, sizeof(JLSState));
682     state2.bpp = state->bpp;
683     state2.near = state->near;
684     reset_ls_coding_parameters(&state2, 1);
685     if(state->T1 == state2.T1 && state->T2 == state2.T2 && state->T3 == state2.T3 && state->reset == state2.reset)
686         return;
687     /* store LSE type 1 */
688     put_marker(pb, LSE);
689     put_bits(pb, 16, 13);
690     put_bits(pb, 8,   1);
691     put_bits(pb, 16, state->maxval);
692     put_bits(pb, 16, state->T1);
693     put_bits(pb, 16, state->T2);
694     put_bits(pb, 16, state->T3);
695     put_bits(pb, 16, state->reset);
696 }
697
698 static int encode_picture_ls(AVCodecContext *avctx, unsigned char *buf, int buf_size, void *data){
699     JpeglsContext * const s = avctx->priv_data;
700     AVFrame *pict = data;
701     AVFrame * const p= (AVFrame*)&s->picture;
702     const int near = avctx->prediction_method;
703     PutBitContext pb, pb2;
704     GetBitContext gb;
705     uint8_t *buf2, *zero, *cur, *last;
706     JLSState *state;
707     int i, size;
708     int comps;
709
710     buf2 = av_malloc(buf_size);
711
712     init_put_bits(&pb, buf, buf_size);
713     init_put_bits(&pb2, buf2, buf_size);
714
715     *p = *pict;
716     p->pict_type= FF_I_TYPE;
717     p->key_frame= 1;
718
719     if(avctx->pix_fmt == PIX_FMT_GRAY8 || avctx->pix_fmt == PIX_FMT_GRAY16)
720         comps = 1;
721     else
722         comps = 3;
723
724     /* write our own JPEG header, can't use mjpeg_picture_header */
725     put_marker(&pb, SOI);
726     put_marker(&pb, SOF48);
727     put_bits(&pb, 16, 8 + comps * 3); // header size depends on components
728     put_bits(&pb,  8, (avctx->pix_fmt == PIX_FMT_GRAY16) ? 16 : 8); // bpp
729     put_bits(&pb, 16, avctx->height);
730     put_bits(&pb, 16, avctx->width);
731     put_bits(&pb,  8, comps);         // components
732     for(i = 1; i <= comps; i++) {
733         put_bits(&pb,  8, i);    // component ID
734         put_bits(&pb,  8, 0x11); // subsampling: none
735         put_bits(&pb,  8, 0);    // Tiq, used by JPEG-LS ext
736     }
737
738     put_marker(&pb, SOS);
739     put_bits(&pb, 16, 6 + comps * 2);
740     put_bits(&pb,  8, comps);
741     for(i = 1; i <= comps; i++) {
742         put_bits(&pb,  8, i);  // component ID
743         put_bits(&pb,  8, 0);  // mapping index: none
744     }
745     put_bits(&pb,  8, near);
746     put_bits(&pb,  8, (comps > 1) ? 1 : 0); // interleaving: 0 - plane, 1 - line
747     put_bits(&pb,  8, 0); // point transform: none
748
749     state = av_mallocz(sizeof(JLSState));
750     /* initialize JPEG-LS state from JPEG parameters */
751     state->near = near;
752     state->bpp = (avctx->pix_fmt == PIX_FMT_GRAY16) ? 16 : 8;
753     reset_ls_coding_parameters(state, 0);
754     ls_init_state(state);
755
756     ls_store_lse(state, &pb);
757
758     zero = av_mallocz(p->linesize[0]);
759     last = zero;
760     cur = p->data[0];
761     if(avctx->pix_fmt == PIX_FMT_GRAY8){
762         int t = 0;
763
764         for(i = 0; i < avctx->height; i++) {
765             ls_encode_line(state, &pb2, last, cur, t, avctx->width, 1, 0,  8);
766             t = last[0];
767             last = cur;
768             cur += p->linesize[0];
769         }
770     }else if(avctx->pix_fmt == PIX_FMT_GRAY16){
771         int t = 0;
772
773         for(i = 0; i < avctx->height; i++) {
774             ls_encode_line(state, &pb2, last, cur, t, avctx->width, 1, 0, 16);
775             t = *((uint16_t*)last);
776             last = cur;
777             cur += p->linesize[0];
778         }
779     }else if(avctx->pix_fmt == PIX_FMT_RGB24){
780         int j, width;
781         int Rc[3] = {0, 0, 0};
782
783         width = avctx->width * 3;
784         for(i = 0; i < avctx->height; i++) {
785             for(j = 0; j < 3; j++) {
786                 ls_encode_line(state, &pb2, last + j, cur + j, Rc[j], width, 3, j, 8);
787                 Rc[j] = last[j];
788             }
789             last = cur;
790             cur += s->picture.linesize[0];
791         }
792     }else if(avctx->pix_fmt == PIX_FMT_BGR24){
793         int j, width;
794         int Rc[3] = {0, 0, 0};
795
796         width = avctx->width * 3;
797         for(i = 0; i < avctx->height; i++) {
798             for(j = 2; j >= 0; j--) {
799                 ls_encode_line(state, &pb2, last + j, cur + j, Rc[j], width, 3, j, 8);
800                 Rc[j] = last[j];
801             }
802             last = cur;
803             cur += s->picture.linesize[0];
804         }
805     }
806
807     av_free(zero);
808     av_free(state);
809
810     flush_put_bits(&pb2);
811     /* do escape coding */
812     size = put_bits_count(&pb2) >> 3;
813     init_get_bits(&gb, buf2, size);
814     while(get_bits_count(&gb) < size * 8){
815         int v;
816         v = get_bits(&gb, 8);
817         put_bits(&pb, 8, v);
818         if(v == 0xFF){
819             v = get_bits(&gb, 7);
820             put_bits(&pb, 8, v);
821         }
822     }
823     align_put_bits(&pb);
824     av_free(buf2);
825
826     /* End of image */
827     put_marker(&pb, EOI);
828     flush_put_bits(&pb);
829
830     emms_c();
831
832     return put_bits_count(&pb) >> 3;
833 }
834
835 static int encode_init_ls(AVCodecContext *ctx) {
836     JpeglsContext *c = (JpeglsContext*)ctx->priv_data;
837
838     c->avctx = ctx;
839     ctx->coded_frame = &c->picture;
840
841     if(ctx->pix_fmt != PIX_FMT_GRAY8 && ctx->pix_fmt != PIX_FMT_GRAY16 && ctx->pix_fmt != PIX_FMT_RGB24 && ctx->pix_fmt != PIX_FMT_BGR24){
842         av_log(ctx, AV_LOG_ERROR, "Only grayscale and RGB24/BGR24 images are supported\n");
843         return -1;
844     }
845     return 0;
846 }
847
848 AVCodec jpegls_encoder = { //FIXME avoid MPV_* lossless jpeg shouldnt need them
849     "jpegls",
850     CODEC_TYPE_VIDEO,
851     CODEC_ID_JPEGLS,
852     sizeof(JpeglsContext),
853     encode_init_ls,
854     encode_picture_ls,
855     NULL,
856     .pix_fmts= (enum PixelFormat[]){PIX_FMT_BGR24, PIX_FMT_RGB24, PIX_FMT_GRAY8, PIX_FMT_GRAY16, -1},
857 };
858 #endif