Merge commit 'ce70f28a1732c74a9cd7fec2d56178750bd6e457'
[ffmpeg.git] / libavcodec / jpeglsenc.c
1 /*
2  * JPEG-LS encoder
3  * Copyright (c) 2003 Michael Niedermayer
4  * Copyright (c) 2006 Konstantin Shishkov
5  *
6  * This file is part of FFmpeg.
7  *
8  * FFmpeg is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * FFmpeg is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with FFmpeg; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 /**
24  * @file
25  * JPEG-LS encoder.
26  */
27
28 #include "avcodec.h"
29 #include "get_bits.h"
30 #include "put_bits.h"
31 #include "golomb.h"
32 #include "internal.h"
33 #include "mathops.h"
34 #include "mjpeg.h"
35 #include "mjpegenc.h"
36 #include "jpegls.h"
37
38 /**
39  * Encode error from regular symbol
40  */
41 static inline void ls_encode_regular(JLSState *state, PutBitContext *pb, int Q,
42                                      int err)
43 {
44     int k;
45     int val;
46     int map;
47
48     for (k = 0; (state->N[Q] << k) < state->A[Q]; k++)
49         ;
50
51     map = !state->near && !k && (2 * state->B[Q] <= -state->N[Q]);
52
53     if (err < 0)
54         err += state->range;
55     if (err >= (state->range + 1 >> 1)) {
56         err -= state->range;
57         val  = 2 * FFABS(err) - 1 - map;
58     } else
59         val = 2 * err + map;
60
61     set_ur_golomb_jpegls(pb, val, k, state->limit, state->qbpp);
62
63     ff_jpegls_update_state_regular(state, Q, err);
64 }
65
66 /**
67  * Encode error from run termination
68  */
69 static inline void ls_encode_runterm(JLSState *state, PutBitContext *pb,
70                                      int RItype, int err, int limit_add)
71 {
72     int k;
73     int val, map;
74     int Q = 365 + RItype;
75     int temp;
76
77     temp = state->A[Q];
78     if (RItype)
79         temp += state->N[Q] >> 1;
80     for (k = 0; (state->N[Q] << k) < temp; k++)
81         ;
82     map = 0;
83     if (!k && err && (2 * state->B[Q] < state->N[Q]))
84         map = 1;
85
86     if (err < 0)
87         val = -(2 * err) - 1 - RItype + map;
88     else
89         val = 2 * err - RItype - map;
90     set_ur_golomb_jpegls(pb, val, k, state->limit - limit_add - 1, state->qbpp);
91
92     if (err < 0)
93         state->B[Q]++;
94     state->A[Q] += (val + 1 - RItype) >> 1;
95
96     ff_jpegls_downscale_state(state, Q);
97 }
98
99 /**
100  * Encode run value as specified by JPEG-LS standard
101  */
102 static inline void ls_encode_run(JLSState *state, PutBitContext *pb, int run,
103                                  int comp, int trail)
104 {
105     while (run >= (1 << ff_log2_run[state->run_index[comp]])) {
106         put_bits(pb, 1, 1);
107         run -= 1 << ff_log2_run[state->run_index[comp]];
108         if (state->run_index[comp] < 31)
109             state->run_index[comp]++;
110     }
111     /* if hit EOL, encode another full run, else encode aborted run */
112     if (!trail && run) {
113         put_bits(pb, 1, 1);
114     } else if (trail) {
115         put_bits(pb, 1, 0);
116         if (ff_log2_run[state->run_index[comp]])
117             put_bits(pb, ff_log2_run[state->run_index[comp]], run);
118     }
119 }
120
121 /**
122  * Encode one line of image
123  */
124 static inline void ls_encode_line(JLSState *state, PutBitContext *pb,
125                                   void *last, void *cur, int last2, int w,
126                                   int stride, int comp, int bits)
127 {
128     int x = 0;
129     int Ra, Rb, Rc, Rd;
130     int D0, D1, D2;
131
132     while (x < w) {
133         int err, pred, sign;
134
135         /* compute gradients */
136         Ra = x ? R(cur, x - stride) : R(last, x);
137         Rb = R(last, x);
138         Rc = x ? R(last, x - stride) : last2;
139         Rd = (x >= w - stride) ? R(last, x) : R(last, x + stride);
140         D0 = Rd - Rb;
141         D1 = Rb - Rc;
142         D2 = Rc - Ra;
143
144         /* run mode */
145         if ((FFABS(D0) <= state->near) &&
146             (FFABS(D1) <= state->near) &&
147             (FFABS(D2) <= state->near)) {
148             int RUNval, RItype, run;
149
150             run    = 0;
151             RUNval = Ra;
152             while (x < w && (FFABS(R(cur, x) - RUNval) <= state->near)) {
153                 run++;
154                 W(cur, x, Ra);
155                 x += stride;
156             }
157             ls_encode_run(state, pb, run, comp, x < w);
158             if (x >= w)
159                 return;
160             Rb     = R(last, x);
161             RItype = FFABS(Ra - Rb) <= state->near;
162             pred   = RItype ? Ra : Rb;
163             err    = R(cur, x) - pred;
164
165             if (!RItype && Ra > Rb)
166                 err = -err;
167
168             if (state->near) {
169                 if (err > 0)
170                     err =  (state->near + err) / state->twonear;
171                 else
172                     err = -(state->near - err) / state->twonear;
173
174                 if (RItype || (Rb >= Ra))
175                     Ra = av_clip(pred + err * state->twonear, 0, state->maxval);
176                 else
177                     Ra = av_clip(pred - err * state->twonear, 0, state->maxval);
178                 W(cur, x, Ra);
179             }
180             if (err < 0)
181                 err += state->range;
182             if (err >= state->range + 1 >> 1)
183                 err -= state->range;
184
185             ls_encode_runterm(state, pb, RItype, err,
186                               ff_log2_run[state->run_index[comp]]);
187
188             if (state->run_index[comp] > 0)
189                 state->run_index[comp]--;
190         } else { /* regular mode */
191             int context;
192
193             context = ff_jpegls_quantize(state, D0) * 81 +
194                       ff_jpegls_quantize(state, D1) *  9 +
195                       ff_jpegls_quantize(state, D2);
196             pred    = mid_pred(Ra, Ra + Rb - Rc, Rb);
197
198             if (context < 0) {
199                 context = -context;
200                 sign    = 1;
201                 pred    = av_clip(pred - state->C[context], 0, state->maxval);
202                 err     = pred - R(cur, x);
203             } else {
204                 sign = 0;
205                 pred = av_clip(pred + state->C[context], 0, state->maxval);
206                 err  = R(cur, x) - pred;
207             }
208
209             if (state->near) {
210                 if (err > 0)
211                     err =  (state->near + err) / state->twonear;
212                 else
213                     err = -(state->near - err) / state->twonear;
214                 if (!sign)
215                     Ra = av_clip(pred + err * state->twonear, 0, state->maxval);
216                 else
217                     Ra = av_clip(pred - err * state->twonear, 0, state->maxval);
218                 W(cur, x, Ra);
219             }
220
221             ls_encode_regular(state, pb, context, err);
222         }
223         x += stride;
224     }
225 }
226
227 static void ls_store_lse(JLSState *state, PutBitContext *pb)
228 {
229     /* Test if we have default params and don't need to store LSE */
230     JLSState state2 = { 0 };
231     state2.bpp  = state->bpp;
232     state2.near = state->near;
233     ff_jpegls_reset_coding_parameters(&state2, 1);
234     if (state->T1 == state2.T1 &&
235         state->T2 == state2.T2 &&
236         state->T3 == state2.T3 &&
237         state->reset == state2.reset)
238         return;
239     /* store LSE type 1 */
240     put_marker(pb, LSE);
241     put_bits(pb, 16, 13);
242     put_bits(pb, 8, 1);
243     put_bits(pb, 16, state->maxval);
244     put_bits(pb, 16, state->T1);
245     put_bits(pb, 16, state->T2);
246     put_bits(pb, 16, state->T3);
247     put_bits(pb, 16, state->reset);
248 }
249
250 static int encode_picture_ls(AVCodecContext *avctx, AVPacket *pkt,
251                              const AVFrame *pict, int *got_packet)
252 {
253     const AVFrame *const p = pict;
254     const int near         = avctx->prediction_method;
255     PutBitContext pb, pb2;
256     GetBitContext gb;
257     uint8_t *buf2 = NULL;
258     uint8_t *zero = NULL;
259     uint8_t *cur  = NULL;
260     uint8_t *last = NULL;
261     JLSState *state = NULL;
262     int i, size, ret;
263     int comps;
264
265     if (avctx->pix_fmt == AV_PIX_FMT_GRAY8 ||
266         avctx->pix_fmt == AV_PIX_FMT_GRAY16)
267         comps = 1;
268     else
269         comps = 3;
270
271     if ((ret = ff_alloc_packet2(avctx, pkt, avctx->width  *avctx->height * comps * 4 +
272                                 AV_INPUT_BUFFER_MIN_SIZE, 0)) < 0)
273         return ret;
274
275     buf2 = av_malloc(pkt->size);
276     if (!buf2)
277         goto memfail;
278
279     init_put_bits(&pb, pkt->data, pkt->size);
280     init_put_bits(&pb2, buf2, pkt->size);
281
282     /* write our own JPEG header, can't use mjpeg_picture_header */
283     put_marker(&pb, SOI);
284     put_marker(&pb, SOF48);
285     put_bits(&pb, 16, 8 + comps * 3); // header size depends on components
286     put_bits(&pb, 8, (avctx->pix_fmt == AV_PIX_FMT_GRAY16) ? 16 : 8);  // bpp
287     put_bits(&pb, 16, avctx->height);
288     put_bits(&pb, 16, avctx->width);
289     put_bits(&pb, 8, comps);          // components
290     for (i = 1; i <= comps; i++) {
291         put_bits(&pb, 8, i);     // component ID
292         put_bits(&pb, 8, 0x11);  // subsampling: none
293         put_bits(&pb, 8, 0);     // Tiq, used by JPEG-LS ext
294     }
295
296     put_marker(&pb, SOS);
297     put_bits(&pb, 16, 6 + comps * 2);
298     put_bits(&pb, 8, comps);
299     for (i = 1; i <= comps; i++) {
300         put_bits(&pb, 8, i);   // component ID
301         put_bits(&pb, 8, 0);   // mapping index: none
302     }
303     put_bits(&pb, 8, near);
304     put_bits(&pb, 8, (comps > 1) ? 1 : 0);  // interleaving: 0 - plane, 1 - line
305     put_bits(&pb, 8, 0);  // point transform: none
306
307     state = av_mallocz(sizeof(JLSState));
308     if (!state)
309         goto memfail;
310
311     /* initialize JPEG-LS state from JPEG parameters */
312     state->near = near;
313     state->bpp  = (avctx->pix_fmt == AV_PIX_FMT_GRAY16) ? 16 : 8;
314     ff_jpegls_reset_coding_parameters(state, 0);
315     ff_jpegls_init_state(state);
316
317     ls_store_lse(state, &pb);
318
319     zero = last = av_mallocz(FFABS(p->linesize[0]));
320     if (!zero)
321         goto memfail;
322
323     cur  = p->data[0];
324     if (avctx->pix_fmt == AV_PIX_FMT_GRAY8) {
325         int t = 0;
326
327         for (i = 0; i < avctx->height; i++) {
328             ls_encode_line(state, &pb2, last, cur, t, avctx->width, 1, 0, 8);
329             t    = last[0];
330             last = cur;
331             cur += p->linesize[0];
332         }
333     } else if (avctx->pix_fmt == AV_PIX_FMT_GRAY16) {
334         int t = 0;
335
336         for (i = 0; i < avctx->height; i++) {
337             ls_encode_line(state, &pb2, last, cur, t, avctx->width, 1, 0, 16);
338             t    = *((uint16_t *)last);
339             last = cur;
340             cur += p->linesize[0];
341         }
342     } else if (avctx->pix_fmt == AV_PIX_FMT_RGB24) {
343         int j, width;
344         int Rc[3] = { 0, 0, 0 };
345
346         width = avctx->width * 3;
347         for (i = 0; i < avctx->height; i++) {
348             for (j = 0; j < 3; j++) {
349                 ls_encode_line(state, &pb2, last + j, cur + j, Rc[j],
350                                width, 3, j, 8);
351                 Rc[j] = last[j];
352             }
353             last = cur;
354             cur += p->linesize[0];
355         }
356     } else if (avctx->pix_fmt == AV_PIX_FMT_BGR24) {
357         int j, width;
358         int Rc[3] = { 0, 0, 0 };
359
360         width = avctx->width * 3;
361         for (i = 0; i < avctx->height; i++) {
362             for (j = 2; j >= 0; j--) {
363                 ls_encode_line(state, &pb2, last + j, cur + j, Rc[j],
364                                width, 3, j, 8);
365                 Rc[j] = last[j];
366             }
367             last = cur;
368             cur += p->linesize[0];
369         }
370     }
371
372     av_freep(&zero);
373     av_freep(&state);
374
375     /* the specification says that after doing 0xff escaping unused bits in
376      * the last byte must be set to 0, so just append 7 "optional" zero-bits
377      * to avoid special-casing. */
378     put_bits(&pb2, 7, 0);
379     size = put_bits_count(&pb2);
380     flush_put_bits(&pb2);
381     /* do escape coding */
382     init_get_bits(&gb, buf2, size);
383     size -= 7;
384     while (get_bits_count(&gb) < size) {
385         int v;
386         v = get_bits(&gb, 8);
387         put_bits(&pb, 8, v);
388         if (v == 0xFF) {
389             v = get_bits(&gb, 7);
390             put_bits(&pb, 8, v);
391         }
392     }
393     avpriv_align_put_bits(&pb);
394     av_freep(&buf2);
395
396     /* End of image */
397     put_marker(&pb, EOI);
398     flush_put_bits(&pb);
399
400     emms_c();
401
402     pkt->size   = put_bits_count(&pb) >> 3;
403     pkt->flags |= AV_PKT_FLAG_KEY;
404     *got_packet = 1;
405     return 0;
406
407 memfail:
408     av_packet_unref(pkt);
409     av_freep(&buf2);
410     av_freep(&state);
411     av_freep(&zero);
412     return AVERROR(ENOMEM);
413 }
414
415 static av_cold int encode_init_ls(AVCodecContext *ctx)
416 {
417 #if FF_API_CODED_FRAME
418 FF_DISABLE_DEPRECATION_WARNINGS
419     ctx->coded_frame->pict_type = AV_PICTURE_TYPE_I;
420     ctx->coded_frame->key_frame = 1;
421 FF_ENABLE_DEPRECATION_WARNINGS
422 #endif
423
424     if (ctx->pix_fmt != AV_PIX_FMT_GRAY8  &&
425         ctx->pix_fmt != AV_PIX_FMT_GRAY16 &&
426         ctx->pix_fmt != AV_PIX_FMT_RGB24  &&
427         ctx->pix_fmt != AV_PIX_FMT_BGR24) {
428         av_log(ctx, AV_LOG_ERROR,
429                "Only grayscale and RGB24/BGR24 images are supported\n");
430         return -1;
431     }
432     return 0;
433 }
434
435 AVCodec ff_jpegls_encoder = {
436     .name           = "jpegls",
437     .long_name      = NULL_IF_CONFIG_SMALL("JPEG-LS"),
438     .type           = AVMEDIA_TYPE_VIDEO,
439     .id             = AV_CODEC_ID_JPEGLS,
440     .init           = encode_init_ls,
441     .capabilities   = AV_CODEC_CAP_FRAME_THREADS | AV_CODEC_CAP_INTRA_ONLY,
442     .encode2        = encode_picture_ls,
443     .pix_fmts       = (const enum AVPixelFormat[]) {
444         AV_PIX_FMT_BGR24, AV_PIX_FMT_RGB24,
445         AV_PIX_FMT_GRAY8, AV_PIX_FMT_GRAY16,
446         AV_PIX_FMT_NONE
447     },
448     .caps_internal  = FF_CODEC_CAP_INIT_THREADSAFE |
449                       FF_CODEC_CAP_INIT_CLEANUP,
450 };