Remove unnecessary dsputil.h #includes
[ffmpeg.git] / libavcodec / mjpegenc.c
1 /*
2  * MJPEG encoder
3  * Copyright (c) 2000, 2001 Fabrice Bellard
4  * Copyright (c) 2003 Alex Beregszaszi
5  * Copyright (c) 2003-2004 Michael Niedermayer
6  *
7  * Support for external huffman table, various fixes (AVID workaround),
8  * aspecting, new decode_frame mechanism and apple mjpeg-b support
9  *                                  by Alex Beregszaszi
10  *
11  * This file is part of Libav.
12  *
13  * Libav is free software; you can redistribute it and/or
14  * modify it under the terms of the GNU Lesser General Public
15  * License as published by the Free Software Foundation; either
16  * version 2.1 of the License, or (at your option) any later version.
17  *
18  * Libav is distributed in the hope that it will be useful,
19  * but WITHOUT ANY WARRANTY; without even the implied warranty of
20  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
21  * Lesser General Public License for more details.
22  *
23  * You should have received a copy of the GNU Lesser General Public
24  * License along with Libav; if not, write to the Free Software
25  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
26  */
27
28 /**
29  * @file
30  * MJPEG encoder.
31  */
32
33 //#define DEBUG
34 #include <assert.h>
35
36 #include "avcodec.h"
37 #include "mpegvideo.h"
38 #include "mjpeg.h"
39 #include "mjpegenc.h"
40
41 /* use two quantizer tables (one for luminance and one for chrominance) */
42 /* not yet working */
43 #undef TWOMATRIXES
44
45
46 av_cold int ff_mjpeg_encode_init(MpegEncContext *s)
47 {
48     MJpegContext *m;
49
50     m = av_malloc(sizeof(MJpegContext));
51     if (!m)
52         return -1;
53
54     s->min_qcoeff=-1023;
55     s->max_qcoeff= 1023;
56
57     /* build all the huffman tables */
58     ff_mjpeg_build_huffman_codes(m->huff_size_dc_luminance,
59                                  m->huff_code_dc_luminance,
60                                  avpriv_mjpeg_bits_dc_luminance,
61                                  avpriv_mjpeg_val_dc);
62     ff_mjpeg_build_huffman_codes(m->huff_size_dc_chrominance,
63                                  m->huff_code_dc_chrominance,
64                                  avpriv_mjpeg_bits_dc_chrominance,
65                                  avpriv_mjpeg_val_dc);
66     ff_mjpeg_build_huffman_codes(m->huff_size_ac_luminance,
67                                  m->huff_code_ac_luminance,
68                                  avpriv_mjpeg_bits_ac_luminance,
69                                  avpriv_mjpeg_val_ac_luminance);
70     ff_mjpeg_build_huffman_codes(m->huff_size_ac_chrominance,
71                                  m->huff_code_ac_chrominance,
72                                  avpriv_mjpeg_bits_ac_chrominance,
73                                  avpriv_mjpeg_val_ac_chrominance);
74
75     s->mjpeg_ctx = m;
76     return 0;
77 }
78
79 void ff_mjpeg_encode_close(MpegEncContext *s)
80 {
81     av_free(s->mjpeg_ctx);
82 }
83
84 /* table_class: 0 = DC coef, 1 = AC coefs */
85 static int put_huffman_table(MpegEncContext *s, int table_class, int table_id,
86                              const uint8_t *bits_table, const uint8_t *value_table)
87 {
88     PutBitContext *p = &s->pb;
89     int n, i;
90
91     put_bits(p, 4, table_class);
92     put_bits(p, 4, table_id);
93
94     n = 0;
95     for(i=1;i<=16;i++) {
96         n += bits_table[i];
97         put_bits(p, 8, bits_table[i]);
98     }
99
100     for(i=0;i<n;i++)
101         put_bits(p, 8, value_table[i]);
102
103     return n + 17;
104 }
105
106 static void jpeg_table_header(MpegEncContext *s)
107 {
108     PutBitContext *p = &s->pb;
109     int i, j, size;
110     uint8_t *ptr;
111
112     /* quant matrixes */
113     put_marker(p, DQT);
114 #ifdef TWOMATRIXES
115     put_bits(p, 16, 2 + 2 * (1 + 64));
116 #else
117     put_bits(p, 16, 2 + 1 * (1 + 64));
118 #endif
119     put_bits(p, 4, 0); /* 8 bit precision */
120     put_bits(p, 4, 0); /* table 0 */
121     for(i=0;i<64;i++) {
122         j = s->intra_scantable.permutated[i];
123         put_bits(p, 8, s->intra_matrix[j]);
124     }
125 #ifdef TWOMATRIXES
126     put_bits(p, 4, 0); /* 8 bit precision */
127     put_bits(p, 4, 1); /* table 1 */
128     for(i=0;i<64;i++) {
129         j = s->intra_scantable.permutated[i];
130         put_bits(p, 8, s->chroma_intra_matrix[j]);
131     }
132 #endif
133
134     /* huffman table */
135     put_marker(p, DHT);
136     flush_put_bits(p);
137     ptr = put_bits_ptr(p);
138     put_bits(p, 16, 0); /* patched later */
139     size = 2;
140     size += put_huffman_table(s, 0, 0, avpriv_mjpeg_bits_dc_luminance,
141                               avpriv_mjpeg_val_dc);
142     size += put_huffman_table(s, 0, 1, avpriv_mjpeg_bits_dc_chrominance,
143                               avpriv_mjpeg_val_dc);
144
145     size += put_huffman_table(s, 1, 0, avpriv_mjpeg_bits_ac_luminance,
146                               avpriv_mjpeg_val_ac_luminance);
147     size += put_huffman_table(s, 1, 1, avpriv_mjpeg_bits_ac_chrominance,
148                               avpriv_mjpeg_val_ac_chrominance);
149     AV_WB16(ptr, size);
150 }
151
152 static void jpeg_put_comments(MpegEncContext *s)
153 {
154     PutBitContext *p = &s->pb;
155     int size;
156     uint8_t *ptr;
157
158     if (s->aspect_ratio_info /* && !lossless */)
159     {
160     /* JFIF header */
161     put_marker(p, APP0);
162     put_bits(p, 16, 16);
163     avpriv_put_string(p, "JFIF", 1); /* this puts the trailing zero-byte too */
164     put_bits(p, 16, 0x0201); /* v 1.02 */
165     put_bits(p, 8, 0); /* units type: 0 - aspect ratio */
166     put_bits(p, 16, s->avctx->sample_aspect_ratio.num);
167     put_bits(p, 16, s->avctx->sample_aspect_ratio.den);
168     put_bits(p, 8, 0); /* thumbnail width */
169     put_bits(p, 8, 0); /* thumbnail height */
170     }
171
172     /* comment */
173     if(!(s->flags & CODEC_FLAG_BITEXACT)){
174         put_marker(p, COM);
175         flush_put_bits(p);
176         ptr = put_bits_ptr(p);
177         put_bits(p, 16, 0); /* patched later */
178         avpriv_put_string(p, LIBAVCODEC_IDENT, 1);
179         size = strlen(LIBAVCODEC_IDENT)+3;
180         AV_WB16(ptr, size);
181     }
182
183     if(  s->avctx->pix_fmt == AV_PIX_FMT_YUV420P
184        ||s->avctx->pix_fmt == AV_PIX_FMT_YUV422P
185        ||s->avctx->pix_fmt == AV_PIX_FMT_YUV444P){
186         put_marker(p, COM);
187         flush_put_bits(p);
188         ptr = put_bits_ptr(p);
189         put_bits(p, 16, 0); /* patched later */
190         avpriv_put_string(p, "CS=ITU601", 1);
191         size = strlen("CS=ITU601")+3;
192         AV_WB16(ptr, size);
193     }
194 }
195
196 void ff_mjpeg_encode_picture_header(MpegEncContext *s)
197 {
198     const int lossless= s->avctx->codec_id != AV_CODEC_ID_MJPEG;
199
200     put_marker(&s->pb, SOI);
201
202     jpeg_put_comments(s);
203
204     jpeg_table_header(s);
205
206     switch(s->avctx->codec_id){
207     case AV_CODEC_ID_MJPEG:  put_marker(&s->pb, SOF0 ); break;
208     case AV_CODEC_ID_LJPEG:  put_marker(&s->pb, SOF3 ); break;
209     default: assert(0);
210     }
211
212     put_bits(&s->pb, 16, 17);
213     if(lossless && s->avctx->pix_fmt == AV_PIX_FMT_BGRA)
214         put_bits(&s->pb, 8, 9); /* 9 bits/component RCT */
215     else
216         put_bits(&s->pb, 8, 8); /* 8 bits/component */
217     put_bits(&s->pb, 16, s->height);
218     put_bits(&s->pb, 16, s->width);
219     put_bits(&s->pb, 8, 3); /* 3 components */
220
221     /* Y component */
222     put_bits(&s->pb, 8, 1); /* component number */
223     put_bits(&s->pb, 4, s->mjpeg_hsample[0]); /* H factor */
224     put_bits(&s->pb, 4, s->mjpeg_vsample[0]); /* V factor */
225     put_bits(&s->pb, 8, 0); /* select matrix */
226
227     /* Cb component */
228     put_bits(&s->pb, 8, 2); /* component number */
229     put_bits(&s->pb, 4, s->mjpeg_hsample[1]); /* H factor */
230     put_bits(&s->pb, 4, s->mjpeg_vsample[1]); /* V factor */
231 #ifdef TWOMATRIXES
232     put_bits(&s->pb, 8, lossless ? 0 : 1); /* select matrix */
233 #else
234     put_bits(&s->pb, 8, 0); /* select matrix */
235 #endif
236
237     /* Cr component */
238     put_bits(&s->pb, 8, 3); /* component number */
239     put_bits(&s->pb, 4, s->mjpeg_hsample[2]); /* H factor */
240     put_bits(&s->pb, 4, s->mjpeg_vsample[2]); /* V factor */
241 #ifdef TWOMATRIXES
242     put_bits(&s->pb, 8, lossless ? 0 : 1); /* select matrix */
243 #else
244     put_bits(&s->pb, 8, 0); /* select matrix */
245 #endif
246
247     /* scan header */
248     put_marker(&s->pb, SOS);
249     put_bits(&s->pb, 16, 12); /* length */
250     put_bits(&s->pb, 8, 3); /* 3 components */
251
252     /* Y component */
253     put_bits(&s->pb, 8, 1); /* index */
254     put_bits(&s->pb, 4, 0); /* DC huffman table index */
255     put_bits(&s->pb, 4, 0); /* AC huffman table index */
256
257     /* Cb component */
258     put_bits(&s->pb, 8, 2); /* index */
259     put_bits(&s->pb, 4, 1); /* DC huffman table index */
260     put_bits(&s->pb, 4, lossless ? 0 : 1); /* AC huffman table index */
261
262     /* Cr component */
263     put_bits(&s->pb, 8, 3); /* index */
264     put_bits(&s->pb, 4, 1); /* DC huffman table index */
265     put_bits(&s->pb, 4, lossless ? 0 : 1); /* AC huffman table index */
266
267     put_bits(&s->pb, 8, lossless ? s->avctx->prediction_method+1 : 0); /* Ss (not used) */
268
269     switch(s->avctx->codec_id){
270     case AV_CODEC_ID_MJPEG:  put_bits(&s->pb, 8, 63); break; /* Se (not used) */
271     case AV_CODEC_ID_LJPEG:  put_bits(&s->pb, 8,  0); break; /* not used */
272     default: assert(0);
273     }
274
275     put_bits(&s->pb, 8, 0); /* Ah/Al (not used) */
276 }
277
278 static void escape_FF(MpegEncContext *s, int start)
279 {
280     int size= put_bits_count(&s->pb) - start*8;
281     int i, ff_count;
282     uint8_t *buf= s->pb.buf + start;
283     int align= (-(size_t)(buf))&3;
284
285     assert((size&7) == 0);
286     size >>= 3;
287
288     ff_count=0;
289     for(i=0; i<size && i<align; i++){
290         if(buf[i]==0xFF) ff_count++;
291     }
292     for(; i<size-15; i+=16){
293         int acc, v;
294
295         v= *(uint32_t*)(&buf[i]);
296         acc= (((v & (v>>4))&0x0F0F0F0F)+0x01010101)&0x10101010;
297         v= *(uint32_t*)(&buf[i+4]);
298         acc+=(((v & (v>>4))&0x0F0F0F0F)+0x01010101)&0x10101010;
299         v= *(uint32_t*)(&buf[i+8]);
300         acc+=(((v & (v>>4))&0x0F0F0F0F)+0x01010101)&0x10101010;
301         v= *(uint32_t*)(&buf[i+12]);
302         acc+=(((v & (v>>4))&0x0F0F0F0F)+0x01010101)&0x10101010;
303
304         acc>>=4;
305         acc+= (acc>>16);
306         acc+= (acc>>8);
307         ff_count+= acc&0xFF;
308     }
309     for(; i<size; i++){
310         if(buf[i]==0xFF) ff_count++;
311     }
312
313     if(ff_count==0) return;
314
315     flush_put_bits(&s->pb);
316     skip_put_bytes(&s->pb, ff_count);
317
318     for(i=size-1; ff_count; i--){
319         int v= buf[i];
320
321         if(v==0xFF){
322             buf[i+ff_count]= 0;
323             ff_count--;
324         }
325
326         buf[i+ff_count]= v;
327     }
328 }
329
330 void ff_mjpeg_encode_stuffing(PutBitContext * pbc)
331 {
332     int length;
333     length= (-put_bits_count(pbc))&7;
334     if(length) put_bits(pbc, length, (1<<length)-1);
335 }
336
337 void ff_mjpeg_encode_picture_trailer(MpegEncContext *s)
338 {
339     ff_mjpeg_encode_stuffing(&s->pb);
340     flush_put_bits(&s->pb);
341
342     assert((s->header_bits&7)==0);
343
344     escape_FF(s, s->header_bits>>3);
345
346     put_marker(&s->pb, EOI);
347 }
348
349 void ff_mjpeg_encode_dc(MpegEncContext *s, int val,
350                         uint8_t *huff_size, uint16_t *huff_code)
351 {
352     int mant, nbits;
353
354     if (val == 0) {
355         put_bits(&s->pb, huff_size[0], huff_code[0]);
356     } else {
357         mant = val;
358         if (val < 0) {
359             val = -val;
360             mant--;
361         }
362
363         nbits= av_log2_16bit(val) + 1;
364
365         put_bits(&s->pb, huff_size[nbits], huff_code[nbits]);
366
367         put_sbits(&s->pb, nbits, mant);
368     }
369 }
370
371 static void encode_block(MpegEncContext *s, int16_t *block, int n)
372 {
373     int mant, nbits, code, i, j;
374     int component, dc, run, last_index, val;
375     MJpegContext *m = s->mjpeg_ctx;
376     uint8_t *huff_size_ac;
377     uint16_t *huff_code_ac;
378
379     /* DC coef */
380     component = (n <= 3 ? 0 : (n&1) + 1);
381     dc = block[0]; /* overflow is impossible */
382     val = dc - s->last_dc[component];
383     if (n < 4) {
384         ff_mjpeg_encode_dc(s, val, m->huff_size_dc_luminance, m->huff_code_dc_luminance);
385         huff_size_ac = m->huff_size_ac_luminance;
386         huff_code_ac = m->huff_code_ac_luminance;
387     } else {
388         ff_mjpeg_encode_dc(s, val, m->huff_size_dc_chrominance, m->huff_code_dc_chrominance);
389         huff_size_ac = m->huff_size_ac_chrominance;
390         huff_code_ac = m->huff_code_ac_chrominance;
391     }
392     s->last_dc[component] = dc;
393
394     /* AC coefs */
395
396     run = 0;
397     last_index = s->block_last_index[n];
398     for(i=1;i<=last_index;i++) {
399         j = s->intra_scantable.permutated[i];
400         val = block[j];
401         if (val == 0) {
402             run++;
403         } else {
404             while (run >= 16) {
405                 put_bits(&s->pb, huff_size_ac[0xf0], huff_code_ac[0xf0]);
406                 run -= 16;
407             }
408             mant = val;
409             if (val < 0) {
410                 val = -val;
411                 mant--;
412             }
413
414             nbits= av_log2(val) + 1;
415             code = (run << 4) | nbits;
416
417             put_bits(&s->pb, huff_size_ac[code], huff_code_ac[code]);
418
419             put_sbits(&s->pb, nbits, mant);
420             run = 0;
421         }
422     }
423
424     /* output EOB only if not already 64 values */
425     if (last_index < 63 || run != 0)
426         put_bits(&s->pb, huff_size_ac[0], huff_code_ac[0]);
427 }
428
429 void ff_mjpeg_encode_mb(MpegEncContext *s, int16_t block[6][64])
430 {
431     int i;
432     for(i=0;i<5;i++) {
433         encode_block(s, block[i], i);
434     }
435     if (s->chroma_format == CHROMA_420) {
436         encode_block(s, block[5], 5);
437     } else {
438         encode_block(s, block[6], 6);
439         encode_block(s, block[5], 5);
440         encode_block(s, block[7], 7);
441     }
442
443     s->i_tex_bits += get_bits_diff(s);
444 }
445
446 AVCodec ff_mjpeg_encoder = {
447     .name           = "mjpeg",
448     .type           = AVMEDIA_TYPE_VIDEO,
449     .id             = AV_CODEC_ID_MJPEG,
450     .priv_data_size = sizeof(MpegEncContext),
451     .init           = ff_MPV_encode_init,
452     .encode2        = ff_MPV_encode_picture,
453     .close          = ff_MPV_encode_end,
454     .pix_fmts       = (const enum AVPixelFormat[]){
455         AV_PIX_FMT_YUVJ420P, AV_PIX_FMT_YUVJ422P, AV_PIX_FMT_NONE
456     },
457     .long_name      = NULL_IF_CONFIG_SMALL("MJPEG (Motion JPEG)"),
458 };