mjpegenc: do not pass MpegEncContext to put_huffman_table()
[ffmpeg.git] / libavcodec / mjpegenc.c
1 /*
2  * MJPEG encoder
3  * Copyright (c) 2000, 2001 Fabrice Bellard
4  * Copyright (c) 2003 Alex Beregszaszi
5  * Copyright (c) 2003-2004 Michael Niedermayer
6  *
7  * Support for external huffman table, various fixes (AVID workaround),
8  * aspecting, new decode_frame mechanism and apple mjpeg-b support
9  *                                  by Alex Beregszaszi
10  *
11  * This file is part of Libav.
12  *
13  * Libav is free software; you can redistribute it and/or
14  * modify it under the terms of the GNU Lesser General Public
15  * License as published by the Free Software Foundation; either
16  * version 2.1 of the License, or (at your option) any later version.
17  *
18  * Libav is distributed in the hope that it will be useful,
19  * but WITHOUT ANY WARRANTY; without even the implied warranty of
20  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
21  * Lesser General Public License for more details.
22  *
23  * You should have received a copy of the GNU Lesser General Public
24  * License along with Libav; if not, write to the Free Software
25  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
26  */
27
28 /**
29  * @file
30  * MJPEG encoder.
31  */
32
33 #include <assert.h>
34
35 #include "avcodec.h"
36 #include "mpegvideo.h"
37 #include "mjpeg.h"
38 #include "mjpegenc.h"
39
40 /* use two quantizer tables (one for luminance and one for chrominance) */
41 /* not yet working */
42 #undef TWOMATRIXES
43
44
45 av_cold int ff_mjpeg_encode_init(MpegEncContext *s)
46 {
47     MJpegContext *m;
48
49     m = av_malloc(sizeof(MJpegContext));
50     if (!m)
51         return -1;
52
53     s->min_qcoeff=-1023;
54     s->max_qcoeff= 1023;
55
56     /* build all the huffman tables */
57     ff_mjpeg_build_huffman_codes(m->huff_size_dc_luminance,
58                                  m->huff_code_dc_luminance,
59                                  avpriv_mjpeg_bits_dc_luminance,
60                                  avpriv_mjpeg_val_dc);
61     ff_mjpeg_build_huffman_codes(m->huff_size_dc_chrominance,
62                                  m->huff_code_dc_chrominance,
63                                  avpriv_mjpeg_bits_dc_chrominance,
64                                  avpriv_mjpeg_val_dc);
65     ff_mjpeg_build_huffman_codes(m->huff_size_ac_luminance,
66                                  m->huff_code_ac_luminance,
67                                  avpriv_mjpeg_bits_ac_luminance,
68                                  avpriv_mjpeg_val_ac_luminance);
69     ff_mjpeg_build_huffman_codes(m->huff_size_ac_chrominance,
70                                  m->huff_code_ac_chrominance,
71                                  avpriv_mjpeg_bits_ac_chrominance,
72                                  avpriv_mjpeg_val_ac_chrominance);
73
74     s->mjpeg_ctx = m;
75     return 0;
76 }
77
78 void ff_mjpeg_encode_close(MpegEncContext *s)
79 {
80     av_free(s->mjpeg_ctx);
81 }
82
83 /* table_class: 0 = DC coef, 1 = AC coefs */
84 static int put_huffman_table(PutBitContext *p, int table_class, int table_id,
85                              const uint8_t *bits_table, const uint8_t *value_table)
86 {
87     int n, i;
88
89     put_bits(p, 4, table_class);
90     put_bits(p, 4, table_id);
91
92     n = 0;
93     for(i=1;i<=16;i++) {
94         n += bits_table[i];
95         put_bits(p, 8, bits_table[i]);
96     }
97
98     for(i=0;i<n;i++)
99         put_bits(p, 8, value_table[i]);
100
101     return n + 17;
102 }
103
104 static void jpeg_table_header(MpegEncContext *s)
105 {
106     PutBitContext *p = &s->pb;
107     int i, j, size;
108     uint8_t *ptr;
109
110     /* quant matrixes */
111     put_marker(p, DQT);
112 #ifdef TWOMATRIXES
113     put_bits(p, 16, 2 + 2 * (1 + 64));
114 #else
115     put_bits(p, 16, 2 + 1 * (1 + 64));
116 #endif
117     put_bits(p, 4, 0); /* 8 bit precision */
118     put_bits(p, 4, 0); /* table 0 */
119     for(i=0;i<64;i++) {
120         j = s->intra_scantable.permutated[i];
121         put_bits(p, 8, s->intra_matrix[j]);
122     }
123 #ifdef TWOMATRIXES
124     put_bits(p, 4, 0); /* 8 bit precision */
125     put_bits(p, 4, 1); /* table 1 */
126     for(i=0;i<64;i++) {
127         j = s->intra_scantable.permutated[i];
128         put_bits(p, 8, s->chroma_intra_matrix[j]);
129     }
130 #endif
131
132     /* huffman table */
133     put_marker(p, DHT);
134     flush_put_bits(p);
135     ptr = put_bits_ptr(p);
136     put_bits(p, 16, 0); /* patched later */
137     size = 2;
138     size += put_huffman_table(p, 0, 0, avpriv_mjpeg_bits_dc_luminance,
139                               avpriv_mjpeg_val_dc);
140     size += put_huffman_table(p, 0, 1, avpriv_mjpeg_bits_dc_chrominance,
141                               avpriv_mjpeg_val_dc);
142
143     size += put_huffman_table(p, 1, 0, avpriv_mjpeg_bits_ac_luminance,
144                               avpriv_mjpeg_val_ac_luminance);
145     size += put_huffman_table(p, 1, 1, avpriv_mjpeg_bits_ac_chrominance,
146                               avpriv_mjpeg_val_ac_chrominance);
147     AV_WB16(ptr, size);
148 }
149
150 static void jpeg_put_comments(AVCodecContext *avctx, PutBitContext *p)
151 {
152     int size;
153     uint8_t *ptr;
154
155     if (avctx->sample_aspect_ratio.num > 0 && avctx->sample_aspect_ratio.den > 0) {
156         /* JFIF header */
157         put_marker(p, APP0);
158         put_bits(p, 16, 16);
159         avpriv_put_string(p, "JFIF", 1); /* this puts the trailing zero-byte too */
160         put_bits(p, 16, 0x0201);         /* v 1.02 */
161         put_bits(p,  8, 0);              /* units type: 0 - aspect ratio */
162         put_bits(p, 16, avctx->sample_aspect_ratio.num);
163         put_bits(p, 16, avctx->sample_aspect_ratio.den);
164         put_bits(p, 8, 0); /* thumbnail width */
165         put_bits(p, 8, 0); /* thumbnail height */
166     }
167
168     /* comment */
169     if (!(avctx->flags & CODEC_FLAG_BITEXACT)) {
170         put_marker(p, COM);
171         flush_put_bits(p);
172         ptr = put_bits_ptr(p);
173         put_bits(p, 16, 0); /* patched later */
174         avpriv_put_string(p, LIBAVCODEC_IDENT, 1);
175         size = strlen(LIBAVCODEC_IDENT)+3;
176         AV_WB16(ptr, size);
177     }
178
179     if (avctx->pix_fmt == AV_PIX_FMT_YUV420P ||
180         avctx->pix_fmt == AV_PIX_FMT_YUV422P ||
181         avctx->pix_fmt == AV_PIX_FMT_YUV444P) {
182         put_marker(p, COM);
183         flush_put_bits(p);
184         ptr = put_bits_ptr(p);
185         put_bits(p, 16, 0); /* patched later */
186         avpriv_put_string(p, "CS=ITU601", 1);
187         size = strlen("CS=ITU601")+3;
188         AV_WB16(ptr, size);
189     }
190 }
191
192 void ff_mjpeg_encode_picture_header(MpegEncContext *s)
193 {
194     const int lossless= s->avctx->codec_id != AV_CODEC_ID_MJPEG;
195
196     put_marker(&s->pb, SOI);
197
198     jpeg_put_comments(s->avctx, &s->pb);
199
200     jpeg_table_header(s);
201
202     switch(s->avctx->codec_id){
203     case AV_CODEC_ID_MJPEG:  put_marker(&s->pb, SOF0 ); break;
204     case AV_CODEC_ID_LJPEG:  put_marker(&s->pb, SOF3 ); break;
205     default: assert(0);
206     }
207
208     put_bits(&s->pb, 16, 17);
209     if(lossless && s->avctx->pix_fmt == AV_PIX_FMT_BGRA)
210         put_bits(&s->pb, 8, 9); /* 9 bits/component RCT */
211     else
212         put_bits(&s->pb, 8, 8); /* 8 bits/component */
213     put_bits(&s->pb, 16, s->height);
214     put_bits(&s->pb, 16, s->width);
215     put_bits(&s->pb, 8, 3); /* 3 components */
216
217     /* Y component */
218     put_bits(&s->pb, 8, 1); /* component number */
219     put_bits(&s->pb, 4, s->mjpeg_hsample[0]); /* H factor */
220     put_bits(&s->pb, 4, s->mjpeg_vsample[0]); /* V factor */
221     put_bits(&s->pb, 8, 0); /* select matrix */
222
223     /* Cb component */
224     put_bits(&s->pb, 8, 2); /* component number */
225     put_bits(&s->pb, 4, s->mjpeg_hsample[1]); /* H factor */
226     put_bits(&s->pb, 4, s->mjpeg_vsample[1]); /* V factor */
227 #ifdef TWOMATRIXES
228     put_bits(&s->pb, 8, lossless ? 0 : 1); /* select matrix */
229 #else
230     put_bits(&s->pb, 8, 0); /* select matrix */
231 #endif
232
233     /* Cr component */
234     put_bits(&s->pb, 8, 3); /* component number */
235     put_bits(&s->pb, 4, s->mjpeg_hsample[2]); /* H factor */
236     put_bits(&s->pb, 4, s->mjpeg_vsample[2]); /* V factor */
237 #ifdef TWOMATRIXES
238     put_bits(&s->pb, 8, lossless ? 0 : 1); /* select matrix */
239 #else
240     put_bits(&s->pb, 8, 0); /* select matrix */
241 #endif
242
243     /* scan header */
244     put_marker(&s->pb, SOS);
245     put_bits(&s->pb, 16, 12); /* length */
246     put_bits(&s->pb, 8, 3); /* 3 components */
247
248     /* Y component */
249     put_bits(&s->pb, 8, 1); /* index */
250     put_bits(&s->pb, 4, 0); /* DC huffman table index */
251     put_bits(&s->pb, 4, 0); /* AC huffman table index */
252
253     /* Cb component */
254     put_bits(&s->pb, 8, 2); /* index */
255     put_bits(&s->pb, 4, 1); /* DC huffman table index */
256     put_bits(&s->pb, 4, lossless ? 0 : 1); /* AC huffman table index */
257
258     /* Cr component */
259     put_bits(&s->pb, 8, 3); /* index */
260     put_bits(&s->pb, 4, 1); /* DC huffman table index */
261     put_bits(&s->pb, 4, lossless ? 0 : 1); /* AC huffman table index */
262
263     put_bits(&s->pb, 8, lossless ? s->avctx->prediction_method+1 : 0); /* Ss (not used) */
264
265     switch(s->avctx->codec_id){
266     case AV_CODEC_ID_MJPEG:  put_bits(&s->pb, 8, 63); break; /* Se (not used) */
267     case AV_CODEC_ID_LJPEG:  put_bits(&s->pb, 8,  0); break; /* not used */
268     default: assert(0);
269     }
270
271     put_bits(&s->pb, 8, 0); /* Ah/Al (not used) */
272 }
273
274 static void escape_FF(MpegEncContext *s, int start)
275 {
276     int size= put_bits_count(&s->pb) - start*8;
277     int i, ff_count;
278     uint8_t *buf= s->pb.buf + start;
279     int align= (-(size_t)(buf))&3;
280
281     assert((size&7) == 0);
282     size >>= 3;
283
284     ff_count=0;
285     for(i=0; i<size && i<align; i++){
286         if(buf[i]==0xFF) ff_count++;
287     }
288     for(; i<size-15; i+=16){
289         int acc, v;
290
291         v= *(uint32_t*)(&buf[i]);
292         acc= (((v & (v>>4))&0x0F0F0F0F)+0x01010101)&0x10101010;
293         v= *(uint32_t*)(&buf[i+4]);
294         acc+=(((v & (v>>4))&0x0F0F0F0F)+0x01010101)&0x10101010;
295         v= *(uint32_t*)(&buf[i+8]);
296         acc+=(((v & (v>>4))&0x0F0F0F0F)+0x01010101)&0x10101010;
297         v= *(uint32_t*)(&buf[i+12]);
298         acc+=(((v & (v>>4))&0x0F0F0F0F)+0x01010101)&0x10101010;
299
300         acc>>=4;
301         acc+= (acc>>16);
302         acc+= (acc>>8);
303         ff_count+= acc&0xFF;
304     }
305     for(; i<size; i++){
306         if(buf[i]==0xFF) ff_count++;
307     }
308
309     if(ff_count==0) return;
310
311     flush_put_bits(&s->pb);
312     skip_put_bytes(&s->pb, ff_count);
313
314     for(i=size-1; ff_count; i--){
315         int v= buf[i];
316
317         if(v==0xFF){
318             buf[i+ff_count]= 0;
319             ff_count--;
320         }
321
322         buf[i+ff_count]= v;
323     }
324 }
325
326 void ff_mjpeg_encode_stuffing(PutBitContext * pbc)
327 {
328     int length;
329     length= (-put_bits_count(pbc))&7;
330     if(length) put_bits(pbc, length, (1<<length)-1);
331 }
332
333 void ff_mjpeg_encode_picture_trailer(MpegEncContext *s)
334 {
335     ff_mjpeg_encode_stuffing(&s->pb);
336     flush_put_bits(&s->pb);
337
338     assert((s->header_bits&7)==0);
339
340     escape_FF(s, s->header_bits>>3);
341
342     put_marker(&s->pb, EOI);
343 }
344
345 void ff_mjpeg_encode_dc(MpegEncContext *s, int val,
346                         uint8_t *huff_size, uint16_t *huff_code)
347 {
348     int mant, nbits;
349
350     if (val == 0) {
351         put_bits(&s->pb, huff_size[0], huff_code[0]);
352     } else {
353         mant = val;
354         if (val < 0) {
355             val = -val;
356             mant--;
357         }
358
359         nbits= av_log2_16bit(val) + 1;
360
361         put_bits(&s->pb, huff_size[nbits], huff_code[nbits]);
362
363         put_sbits(&s->pb, nbits, mant);
364     }
365 }
366
367 static void encode_block(MpegEncContext *s, int16_t *block, int n)
368 {
369     int mant, nbits, code, i, j;
370     int component, dc, run, last_index, val;
371     MJpegContext *m = s->mjpeg_ctx;
372     uint8_t *huff_size_ac;
373     uint16_t *huff_code_ac;
374
375     /* DC coef */
376     component = (n <= 3 ? 0 : (n&1) + 1);
377     dc = block[0]; /* overflow is impossible */
378     val = dc - s->last_dc[component];
379     if (n < 4) {
380         ff_mjpeg_encode_dc(s, val, m->huff_size_dc_luminance, m->huff_code_dc_luminance);
381         huff_size_ac = m->huff_size_ac_luminance;
382         huff_code_ac = m->huff_code_ac_luminance;
383     } else {
384         ff_mjpeg_encode_dc(s, val, m->huff_size_dc_chrominance, m->huff_code_dc_chrominance);
385         huff_size_ac = m->huff_size_ac_chrominance;
386         huff_code_ac = m->huff_code_ac_chrominance;
387     }
388     s->last_dc[component] = dc;
389
390     /* AC coefs */
391
392     run = 0;
393     last_index = s->block_last_index[n];
394     for(i=1;i<=last_index;i++) {
395         j = s->intra_scantable.permutated[i];
396         val = block[j];
397         if (val == 0) {
398             run++;
399         } else {
400             while (run >= 16) {
401                 put_bits(&s->pb, huff_size_ac[0xf0], huff_code_ac[0xf0]);
402                 run -= 16;
403             }
404             mant = val;
405             if (val < 0) {
406                 val = -val;
407                 mant--;
408             }
409
410             nbits= av_log2(val) + 1;
411             code = (run << 4) | nbits;
412
413             put_bits(&s->pb, huff_size_ac[code], huff_code_ac[code]);
414
415             put_sbits(&s->pb, nbits, mant);
416             run = 0;
417         }
418     }
419
420     /* output EOB only if not already 64 values */
421     if (last_index < 63 || run != 0)
422         put_bits(&s->pb, huff_size_ac[0], huff_code_ac[0]);
423 }
424
425 void ff_mjpeg_encode_mb(MpegEncContext *s, int16_t block[6][64])
426 {
427     int i;
428     for(i=0;i<5;i++) {
429         encode_block(s, block[i], i);
430     }
431     if (s->chroma_format == CHROMA_420) {
432         encode_block(s, block[5], 5);
433     } else {
434         encode_block(s, block[6], 6);
435         encode_block(s, block[5], 5);
436         encode_block(s, block[7], 7);
437     }
438
439     s->i_tex_bits += get_bits_diff(s);
440 }
441
442 AVCodec ff_mjpeg_encoder = {
443     .name           = "mjpeg",
444     .long_name      = NULL_IF_CONFIG_SMALL("MJPEG (Motion JPEG)"),
445     .type           = AVMEDIA_TYPE_VIDEO,
446     .id             = AV_CODEC_ID_MJPEG,
447     .priv_data_size = sizeof(MpegEncContext),
448     .init           = ff_MPV_encode_init,
449     .encode2        = ff_MPV_encode_picture,
450     .close          = ff_MPV_encode_end,
451     .pix_fmts       = (const enum AVPixelFormat[]){
452         AV_PIX_FMT_YUVJ420P, AV_PIX_FMT_YUVJ422P, AV_PIX_FMT_NONE
453     },
454 };