mjpegenc: cosmetics, reformat jpeg_put_comments()
[ffmpeg.git] / libavcodec / mjpegenc.c
1 /*
2  * MJPEG encoder
3  * Copyright (c) 2000, 2001 Fabrice Bellard
4  * Copyright (c) 2003 Alex Beregszaszi
5  * Copyright (c) 2003-2004 Michael Niedermayer
6  *
7  * Support for external huffman table, various fixes (AVID workaround),
8  * aspecting, new decode_frame mechanism and apple mjpeg-b support
9  *                                  by Alex Beregszaszi
10  *
11  * This file is part of Libav.
12  *
13  * Libav is free software; you can redistribute it and/or
14  * modify it under the terms of the GNU Lesser General Public
15  * License as published by the Free Software Foundation; either
16  * version 2.1 of the License, or (at your option) any later version.
17  *
18  * Libav is distributed in the hope that it will be useful,
19  * but WITHOUT ANY WARRANTY; without even the implied warranty of
20  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
21  * Lesser General Public License for more details.
22  *
23  * You should have received a copy of the GNU Lesser General Public
24  * License along with Libav; if not, write to the Free Software
25  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
26  */
27
28 /**
29  * @file
30  * MJPEG encoder.
31  */
32
33 #include <assert.h>
34
35 #include "avcodec.h"
36 #include "mpegvideo.h"
37 #include "mjpeg.h"
38 #include "mjpegenc.h"
39
40 /* use two quantizer tables (one for luminance and one for chrominance) */
41 /* not yet working */
42 #undef TWOMATRIXES
43
44
45 av_cold int ff_mjpeg_encode_init(MpegEncContext *s)
46 {
47     MJpegContext *m;
48
49     m = av_malloc(sizeof(MJpegContext));
50     if (!m)
51         return -1;
52
53     s->min_qcoeff=-1023;
54     s->max_qcoeff= 1023;
55
56     /* build all the huffman tables */
57     ff_mjpeg_build_huffman_codes(m->huff_size_dc_luminance,
58                                  m->huff_code_dc_luminance,
59                                  avpriv_mjpeg_bits_dc_luminance,
60                                  avpriv_mjpeg_val_dc);
61     ff_mjpeg_build_huffman_codes(m->huff_size_dc_chrominance,
62                                  m->huff_code_dc_chrominance,
63                                  avpriv_mjpeg_bits_dc_chrominance,
64                                  avpriv_mjpeg_val_dc);
65     ff_mjpeg_build_huffman_codes(m->huff_size_ac_luminance,
66                                  m->huff_code_ac_luminance,
67                                  avpriv_mjpeg_bits_ac_luminance,
68                                  avpriv_mjpeg_val_ac_luminance);
69     ff_mjpeg_build_huffman_codes(m->huff_size_ac_chrominance,
70                                  m->huff_code_ac_chrominance,
71                                  avpriv_mjpeg_bits_ac_chrominance,
72                                  avpriv_mjpeg_val_ac_chrominance);
73
74     s->mjpeg_ctx = m;
75     return 0;
76 }
77
78 void ff_mjpeg_encode_close(MpegEncContext *s)
79 {
80     av_free(s->mjpeg_ctx);
81 }
82
83 /* table_class: 0 = DC coef, 1 = AC coefs */
84 static int put_huffman_table(MpegEncContext *s, int table_class, int table_id,
85                              const uint8_t *bits_table, const uint8_t *value_table)
86 {
87     PutBitContext *p = &s->pb;
88     int n, i;
89
90     put_bits(p, 4, table_class);
91     put_bits(p, 4, table_id);
92
93     n = 0;
94     for(i=1;i<=16;i++) {
95         n += bits_table[i];
96         put_bits(p, 8, bits_table[i]);
97     }
98
99     for(i=0;i<n;i++)
100         put_bits(p, 8, value_table[i]);
101
102     return n + 17;
103 }
104
105 static void jpeg_table_header(MpegEncContext *s)
106 {
107     PutBitContext *p = &s->pb;
108     int i, j, size;
109     uint8_t *ptr;
110
111     /* quant matrixes */
112     put_marker(p, DQT);
113 #ifdef TWOMATRIXES
114     put_bits(p, 16, 2 + 2 * (1 + 64));
115 #else
116     put_bits(p, 16, 2 + 1 * (1 + 64));
117 #endif
118     put_bits(p, 4, 0); /* 8 bit precision */
119     put_bits(p, 4, 0); /* table 0 */
120     for(i=0;i<64;i++) {
121         j = s->intra_scantable.permutated[i];
122         put_bits(p, 8, s->intra_matrix[j]);
123     }
124 #ifdef TWOMATRIXES
125     put_bits(p, 4, 0); /* 8 bit precision */
126     put_bits(p, 4, 1); /* table 1 */
127     for(i=0;i<64;i++) {
128         j = s->intra_scantable.permutated[i];
129         put_bits(p, 8, s->chroma_intra_matrix[j]);
130     }
131 #endif
132
133     /* huffman table */
134     put_marker(p, DHT);
135     flush_put_bits(p);
136     ptr = put_bits_ptr(p);
137     put_bits(p, 16, 0); /* patched later */
138     size = 2;
139     size += put_huffman_table(s, 0, 0, avpriv_mjpeg_bits_dc_luminance,
140                               avpriv_mjpeg_val_dc);
141     size += put_huffman_table(s, 0, 1, avpriv_mjpeg_bits_dc_chrominance,
142                               avpriv_mjpeg_val_dc);
143
144     size += put_huffman_table(s, 1, 0, avpriv_mjpeg_bits_ac_luminance,
145                               avpriv_mjpeg_val_ac_luminance);
146     size += put_huffman_table(s, 1, 1, avpriv_mjpeg_bits_ac_chrominance,
147                               avpriv_mjpeg_val_ac_chrominance);
148     AV_WB16(ptr, size);
149 }
150
151 static void jpeg_put_comments(AVCodecContext *avctx, PutBitContext *p)
152 {
153     int size;
154     uint8_t *ptr;
155
156     if (avctx->sample_aspect_ratio.num > 0 && avctx->sample_aspect_ratio.den > 0) {
157         /* JFIF header */
158         put_marker(p, APP0);
159         put_bits(p, 16, 16);
160         avpriv_put_string(p, "JFIF", 1); /* this puts the trailing zero-byte too */
161         put_bits(p, 16, 0x0201);         /* v 1.02 */
162         put_bits(p,  8, 0);              /* units type: 0 - aspect ratio */
163         put_bits(p, 16, avctx->sample_aspect_ratio.num);
164         put_bits(p, 16, avctx->sample_aspect_ratio.den);
165         put_bits(p, 8, 0); /* thumbnail width */
166         put_bits(p, 8, 0); /* thumbnail height */
167     }
168
169     /* comment */
170     if (!(avctx->flags & CODEC_FLAG_BITEXACT)) {
171         put_marker(p, COM);
172         flush_put_bits(p);
173         ptr = put_bits_ptr(p);
174         put_bits(p, 16, 0); /* patched later */
175         avpriv_put_string(p, LIBAVCODEC_IDENT, 1);
176         size = strlen(LIBAVCODEC_IDENT)+3;
177         AV_WB16(ptr, size);
178     }
179
180     if (avctx->pix_fmt == AV_PIX_FMT_YUV420P ||
181         avctx->pix_fmt == AV_PIX_FMT_YUV422P ||
182         avctx->pix_fmt == AV_PIX_FMT_YUV444P) {
183         put_marker(p, COM);
184         flush_put_bits(p);
185         ptr = put_bits_ptr(p);
186         put_bits(p, 16, 0); /* patched later */
187         avpriv_put_string(p, "CS=ITU601", 1);
188         size = strlen("CS=ITU601")+3;
189         AV_WB16(ptr, size);
190     }
191 }
192
193 void ff_mjpeg_encode_picture_header(MpegEncContext *s)
194 {
195     const int lossless= s->avctx->codec_id != AV_CODEC_ID_MJPEG;
196
197     put_marker(&s->pb, SOI);
198
199     jpeg_put_comments(s->avctx, &s->pb);
200
201     jpeg_table_header(s);
202
203     switch(s->avctx->codec_id){
204     case AV_CODEC_ID_MJPEG:  put_marker(&s->pb, SOF0 ); break;
205     case AV_CODEC_ID_LJPEG:  put_marker(&s->pb, SOF3 ); break;
206     default: assert(0);
207     }
208
209     put_bits(&s->pb, 16, 17);
210     if(lossless && s->avctx->pix_fmt == AV_PIX_FMT_BGRA)
211         put_bits(&s->pb, 8, 9); /* 9 bits/component RCT */
212     else
213         put_bits(&s->pb, 8, 8); /* 8 bits/component */
214     put_bits(&s->pb, 16, s->height);
215     put_bits(&s->pb, 16, s->width);
216     put_bits(&s->pb, 8, 3); /* 3 components */
217
218     /* Y component */
219     put_bits(&s->pb, 8, 1); /* component number */
220     put_bits(&s->pb, 4, s->mjpeg_hsample[0]); /* H factor */
221     put_bits(&s->pb, 4, s->mjpeg_vsample[0]); /* V factor */
222     put_bits(&s->pb, 8, 0); /* select matrix */
223
224     /* Cb component */
225     put_bits(&s->pb, 8, 2); /* component number */
226     put_bits(&s->pb, 4, s->mjpeg_hsample[1]); /* H factor */
227     put_bits(&s->pb, 4, s->mjpeg_vsample[1]); /* V factor */
228 #ifdef TWOMATRIXES
229     put_bits(&s->pb, 8, lossless ? 0 : 1); /* select matrix */
230 #else
231     put_bits(&s->pb, 8, 0); /* select matrix */
232 #endif
233
234     /* Cr component */
235     put_bits(&s->pb, 8, 3); /* component number */
236     put_bits(&s->pb, 4, s->mjpeg_hsample[2]); /* H factor */
237     put_bits(&s->pb, 4, s->mjpeg_vsample[2]); /* V factor */
238 #ifdef TWOMATRIXES
239     put_bits(&s->pb, 8, lossless ? 0 : 1); /* select matrix */
240 #else
241     put_bits(&s->pb, 8, 0); /* select matrix */
242 #endif
243
244     /* scan header */
245     put_marker(&s->pb, SOS);
246     put_bits(&s->pb, 16, 12); /* length */
247     put_bits(&s->pb, 8, 3); /* 3 components */
248
249     /* Y component */
250     put_bits(&s->pb, 8, 1); /* index */
251     put_bits(&s->pb, 4, 0); /* DC huffman table index */
252     put_bits(&s->pb, 4, 0); /* AC huffman table index */
253
254     /* Cb component */
255     put_bits(&s->pb, 8, 2); /* index */
256     put_bits(&s->pb, 4, 1); /* DC huffman table index */
257     put_bits(&s->pb, 4, lossless ? 0 : 1); /* AC huffman table index */
258
259     /* Cr component */
260     put_bits(&s->pb, 8, 3); /* index */
261     put_bits(&s->pb, 4, 1); /* DC huffman table index */
262     put_bits(&s->pb, 4, lossless ? 0 : 1); /* AC huffman table index */
263
264     put_bits(&s->pb, 8, lossless ? s->avctx->prediction_method+1 : 0); /* Ss (not used) */
265
266     switch(s->avctx->codec_id){
267     case AV_CODEC_ID_MJPEG:  put_bits(&s->pb, 8, 63); break; /* Se (not used) */
268     case AV_CODEC_ID_LJPEG:  put_bits(&s->pb, 8,  0); break; /* not used */
269     default: assert(0);
270     }
271
272     put_bits(&s->pb, 8, 0); /* Ah/Al (not used) */
273 }
274
275 static void escape_FF(MpegEncContext *s, int start)
276 {
277     int size= put_bits_count(&s->pb) - start*8;
278     int i, ff_count;
279     uint8_t *buf= s->pb.buf + start;
280     int align= (-(size_t)(buf))&3;
281
282     assert((size&7) == 0);
283     size >>= 3;
284
285     ff_count=0;
286     for(i=0; i<size && i<align; i++){
287         if(buf[i]==0xFF) ff_count++;
288     }
289     for(; i<size-15; i+=16){
290         int acc, v;
291
292         v= *(uint32_t*)(&buf[i]);
293         acc= (((v & (v>>4))&0x0F0F0F0F)+0x01010101)&0x10101010;
294         v= *(uint32_t*)(&buf[i+4]);
295         acc+=(((v & (v>>4))&0x0F0F0F0F)+0x01010101)&0x10101010;
296         v= *(uint32_t*)(&buf[i+8]);
297         acc+=(((v & (v>>4))&0x0F0F0F0F)+0x01010101)&0x10101010;
298         v= *(uint32_t*)(&buf[i+12]);
299         acc+=(((v & (v>>4))&0x0F0F0F0F)+0x01010101)&0x10101010;
300
301         acc>>=4;
302         acc+= (acc>>16);
303         acc+= (acc>>8);
304         ff_count+= acc&0xFF;
305     }
306     for(; i<size; i++){
307         if(buf[i]==0xFF) ff_count++;
308     }
309
310     if(ff_count==0) return;
311
312     flush_put_bits(&s->pb);
313     skip_put_bytes(&s->pb, ff_count);
314
315     for(i=size-1; ff_count; i--){
316         int v= buf[i];
317
318         if(v==0xFF){
319             buf[i+ff_count]= 0;
320             ff_count--;
321         }
322
323         buf[i+ff_count]= v;
324     }
325 }
326
327 void ff_mjpeg_encode_stuffing(PutBitContext * pbc)
328 {
329     int length;
330     length= (-put_bits_count(pbc))&7;
331     if(length) put_bits(pbc, length, (1<<length)-1);
332 }
333
334 void ff_mjpeg_encode_picture_trailer(MpegEncContext *s)
335 {
336     ff_mjpeg_encode_stuffing(&s->pb);
337     flush_put_bits(&s->pb);
338
339     assert((s->header_bits&7)==0);
340
341     escape_FF(s, s->header_bits>>3);
342
343     put_marker(&s->pb, EOI);
344 }
345
346 void ff_mjpeg_encode_dc(MpegEncContext *s, int val,
347                         uint8_t *huff_size, uint16_t *huff_code)
348 {
349     int mant, nbits;
350
351     if (val == 0) {
352         put_bits(&s->pb, huff_size[0], huff_code[0]);
353     } else {
354         mant = val;
355         if (val < 0) {
356             val = -val;
357             mant--;
358         }
359
360         nbits= av_log2_16bit(val) + 1;
361
362         put_bits(&s->pb, huff_size[nbits], huff_code[nbits]);
363
364         put_sbits(&s->pb, nbits, mant);
365     }
366 }
367
368 static void encode_block(MpegEncContext *s, int16_t *block, int n)
369 {
370     int mant, nbits, code, i, j;
371     int component, dc, run, last_index, val;
372     MJpegContext *m = s->mjpeg_ctx;
373     uint8_t *huff_size_ac;
374     uint16_t *huff_code_ac;
375
376     /* DC coef */
377     component = (n <= 3 ? 0 : (n&1) + 1);
378     dc = block[0]; /* overflow is impossible */
379     val = dc - s->last_dc[component];
380     if (n < 4) {
381         ff_mjpeg_encode_dc(s, val, m->huff_size_dc_luminance, m->huff_code_dc_luminance);
382         huff_size_ac = m->huff_size_ac_luminance;
383         huff_code_ac = m->huff_code_ac_luminance;
384     } else {
385         ff_mjpeg_encode_dc(s, val, m->huff_size_dc_chrominance, m->huff_code_dc_chrominance);
386         huff_size_ac = m->huff_size_ac_chrominance;
387         huff_code_ac = m->huff_code_ac_chrominance;
388     }
389     s->last_dc[component] = dc;
390
391     /* AC coefs */
392
393     run = 0;
394     last_index = s->block_last_index[n];
395     for(i=1;i<=last_index;i++) {
396         j = s->intra_scantable.permutated[i];
397         val = block[j];
398         if (val == 0) {
399             run++;
400         } else {
401             while (run >= 16) {
402                 put_bits(&s->pb, huff_size_ac[0xf0], huff_code_ac[0xf0]);
403                 run -= 16;
404             }
405             mant = val;
406             if (val < 0) {
407                 val = -val;
408                 mant--;
409             }
410
411             nbits= av_log2(val) + 1;
412             code = (run << 4) | nbits;
413
414             put_bits(&s->pb, huff_size_ac[code], huff_code_ac[code]);
415
416             put_sbits(&s->pb, nbits, mant);
417             run = 0;
418         }
419     }
420
421     /* output EOB only if not already 64 values */
422     if (last_index < 63 || run != 0)
423         put_bits(&s->pb, huff_size_ac[0], huff_code_ac[0]);
424 }
425
426 void ff_mjpeg_encode_mb(MpegEncContext *s, int16_t block[6][64])
427 {
428     int i;
429     for(i=0;i<5;i++) {
430         encode_block(s, block[i], i);
431     }
432     if (s->chroma_format == CHROMA_420) {
433         encode_block(s, block[5], 5);
434     } else {
435         encode_block(s, block[6], 6);
436         encode_block(s, block[5], 5);
437         encode_block(s, block[7], 7);
438     }
439
440     s->i_tex_bits += get_bits_diff(s);
441 }
442
443 AVCodec ff_mjpeg_encoder = {
444     .name           = "mjpeg",
445     .long_name      = NULL_IF_CONFIG_SMALL("MJPEG (Motion JPEG)"),
446     .type           = AVMEDIA_TYPE_VIDEO,
447     .id             = AV_CODEC_ID_MJPEG,
448     .priv_data_size = sizeof(MpegEncContext),
449     .init           = ff_MPV_encode_init,
450     .encode2        = ff_MPV_encode_picture,
451     .close          = ff_MPV_encode_end,
452     .pix_fmts       = (const enum AVPixelFormat[]){
453         AV_PIX_FMT_YUVJ420P, AV_PIX_FMT_YUVJ422P, AV_PIX_FMT_NONE
454     },
455 };