lavc: build some codecs only if they are actually enabled
[ffmpeg.git] / libavcodec / mjpegenc.c
1 /*
2  * MJPEG encoder
3  * Copyright (c) 2000, 2001 Fabrice Bellard
4  * Copyright (c) 2003 Alex Beregszaszi
5  * Copyright (c) 2003-2004 Michael Niedermayer
6  *
7  * Support for external huffman table, various fixes (AVID workaround),
8  * aspecting, new decode_frame mechanism and apple mjpeg-b support
9  *                                  by Alex Beregszaszi
10  *
11  * This file is part of FFmpeg.
12  *
13  * FFmpeg is free software; you can redistribute it and/or
14  * modify it under the terms of the GNU Lesser General Public
15  * License as published by the Free Software Foundation; either
16  * version 2.1 of the License, or (at your option) any later version.
17  *
18  * FFmpeg is distributed in the hope that it will be useful,
19  * but WITHOUT ANY WARRANTY; without even the implied warranty of
20  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
21  * Lesser General Public License for more details.
22  *
23  * You should have received a copy of the GNU Lesser General Public
24  * License along with FFmpeg; if not, write to the Free Software
25  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
26  */
27
28 /**
29  * @file
30  * MJPEG encoder.
31  */
32
33 //#define DEBUG
34 #include <assert.h>
35
36 #include "avcodec.h"
37 #include "dsputil.h"
38 #include "mpegvideo.h"
39 #include "mjpeg.h"
40 #include "mjpegenc.h"
41
42 /* use two quantizer tables (one for luminance and one for chrominance) */
43 /* not yet working */
44 #undef TWOMATRIXES
45
46
47 av_cold int ff_mjpeg_encode_init(MpegEncContext *s)
48 {
49     MJpegContext *m;
50
51     if (s->width > 65500 || s->height > 65500) {
52         av_log(s, AV_LOG_ERROR, "JPEG does not support resolutions above 65500x65500\n");
53         return -1;
54     }
55
56     m = av_malloc(sizeof(MJpegContext));
57     if (!m)
58         return -1;
59
60     s->min_qcoeff=-1023;
61     s->max_qcoeff= 1023;
62
63     /* build all the huffman tables */
64     ff_mjpeg_build_huffman_codes(m->huff_size_dc_luminance,
65                                  m->huff_code_dc_luminance,
66                                  ff_mjpeg_bits_dc_luminance,
67                                  ff_mjpeg_val_dc);
68     ff_mjpeg_build_huffman_codes(m->huff_size_dc_chrominance,
69                                  m->huff_code_dc_chrominance,
70                                  ff_mjpeg_bits_dc_chrominance,
71                                  ff_mjpeg_val_dc);
72     ff_mjpeg_build_huffman_codes(m->huff_size_ac_luminance,
73                                  m->huff_code_ac_luminance,
74                                  ff_mjpeg_bits_ac_luminance,
75                                  ff_mjpeg_val_ac_luminance);
76     ff_mjpeg_build_huffman_codes(m->huff_size_ac_chrominance,
77                                  m->huff_code_ac_chrominance,
78                                  ff_mjpeg_bits_ac_chrominance,
79                                  ff_mjpeg_val_ac_chrominance);
80
81     s->mjpeg_ctx = m;
82     return 0;
83 }
84
85 void ff_mjpeg_encode_close(MpegEncContext *s)
86 {
87     av_free(s->mjpeg_ctx);
88 }
89
90 /* table_class: 0 = DC coef, 1 = AC coefs */
91 static int put_huffman_table(MpegEncContext *s, int table_class, int table_id,
92                              const uint8_t *bits_table, const uint8_t *value_table)
93 {
94     PutBitContext *p = &s->pb;
95     int n, i;
96
97     put_bits(p, 4, table_class);
98     put_bits(p, 4, table_id);
99
100     n = 0;
101     for(i=1;i<=16;i++) {
102         n += bits_table[i];
103         put_bits(p, 8, bits_table[i]);
104     }
105
106     for(i=0;i<n;i++)
107         put_bits(p, 8, value_table[i]);
108
109     return n + 17;
110 }
111
112 static void jpeg_table_header(MpegEncContext *s)
113 {
114     PutBitContext *p = &s->pb;
115     int i, j, size;
116     uint8_t *ptr;
117
118     /* quant matrixes */
119     put_marker(p, DQT);
120 #ifdef TWOMATRIXES
121     put_bits(p, 16, 2 + 2 * (1 + 64));
122 #else
123     put_bits(p, 16, 2 + 1 * (1 + 64));
124 #endif
125     put_bits(p, 4, 0); /* 8 bit precision */
126     put_bits(p, 4, 0); /* table 0 */
127     for(i=0;i<64;i++) {
128         j = s->intra_scantable.permutated[i];
129         put_bits(p, 8, s->intra_matrix[j]);
130     }
131 #ifdef TWOMATRIXES
132     put_bits(p, 4, 0); /* 8 bit precision */
133     put_bits(p, 4, 1); /* table 1 */
134     for(i=0;i<64;i++) {
135         j = s->intra_scantable.permutated[i];
136         put_bits(p, 8, s->chroma_intra_matrix[j]);
137     }
138 #endif
139
140     if(s->avctx->active_thread_type & FF_THREAD_SLICE){
141         put_marker(p, DRI);
142         put_bits(p, 16, 4);
143         put_bits(p, 16, s->mb_width);
144     }
145
146     /* huffman table */
147     put_marker(p, DHT);
148     flush_put_bits(p);
149     ptr = put_bits_ptr(p);
150     put_bits(p, 16, 0); /* patched later */
151     size = 2;
152     size += put_huffman_table(s, 0, 0, ff_mjpeg_bits_dc_luminance,
153                               ff_mjpeg_val_dc);
154     size += put_huffman_table(s, 0, 1, ff_mjpeg_bits_dc_chrominance,
155                               ff_mjpeg_val_dc);
156
157     size += put_huffman_table(s, 1, 0, ff_mjpeg_bits_ac_luminance,
158                               ff_mjpeg_val_ac_luminance);
159     size += put_huffman_table(s, 1, 1, ff_mjpeg_bits_ac_chrominance,
160                               ff_mjpeg_val_ac_chrominance);
161     AV_WB16(ptr, size);
162 }
163
164 static void jpeg_put_comments(MpegEncContext *s)
165 {
166     PutBitContext *p = &s->pb;
167     int size;
168     uint8_t *ptr;
169
170     if (s->avctx->sample_aspect_ratio.num /* && !lossless */)
171     {
172     /* JFIF header */
173     put_marker(p, APP0);
174     put_bits(p, 16, 16);
175     ff_put_string(p, "JFIF", 1); /* this puts the trailing zero-byte too */
176     put_bits(p, 16, 0x0102); /* v 1.02 */
177     put_bits(p, 8, 0); /* units type: 0 - aspect ratio */
178     put_bits(p, 16, s->avctx->sample_aspect_ratio.num);
179     put_bits(p, 16, s->avctx->sample_aspect_ratio.den);
180     put_bits(p, 8, 0); /* thumbnail width */
181     put_bits(p, 8, 0); /* thumbnail height */
182     }
183
184     /* comment */
185     if(!(s->flags & CODEC_FLAG_BITEXACT)){
186         put_marker(p, COM);
187         flush_put_bits(p);
188         ptr = put_bits_ptr(p);
189         put_bits(p, 16, 0); /* patched later */
190         ff_put_string(p, LIBAVCODEC_IDENT, 1);
191         size = strlen(LIBAVCODEC_IDENT)+3;
192         AV_WB16(ptr, size);
193     }
194
195     if(  s->avctx->pix_fmt == PIX_FMT_YUV420P
196        ||s->avctx->pix_fmt == PIX_FMT_YUV422P
197        ||s->avctx->pix_fmt == PIX_FMT_YUV444P){
198         put_marker(p, COM);
199         flush_put_bits(p);
200         ptr = put_bits_ptr(p);
201         put_bits(p, 16, 0); /* patched later */
202         ff_put_string(p, "CS=ITU601", 1);
203         size = strlen("CS=ITU601")+3;
204         AV_WB16(ptr, size);
205     }
206 }
207
208 void ff_mjpeg_encode_picture_header(MpegEncContext *s)
209 {
210     const int lossless= s->avctx->codec_id != CODEC_ID_MJPEG;
211     int i;
212
213     put_marker(&s->pb, SOI);
214
215     // hack for AMV mjpeg format
216     if(s->avctx->codec_id == CODEC_ID_AMV) goto end;
217
218     jpeg_put_comments(s);
219
220     jpeg_table_header(s);
221
222     switch(s->avctx->codec_id){
223     case CODEC_ID_MJPEG:  put_marker(&s->pb, SOF0 ); break;
224     case CODEC_ID_LJPEG:  put_marker(&s->pb, SOF3 ); break;
225     default: assert(0);
226     }
227
228     put_bits(&s->pb, 16, 17);
229     if(lossless && (s->avctx->pix_fmt == PIX_FMT_BGR0
230                     || s->avctx->pix_fmt == PIX_FMT_BGRA
231                     || s->avctx->pix_fmt == PIX_FMT_BGR24))
232         put_bits(&s->pb, 8, 9); /* 9 bits/component RCT */
233     else
234         put_bits(&s->pb, 8, 8); /* 8 bits/component */
235     put_bits(&s->pb, 16, s->height);
236     put_bits(&s->pb, 16, s->width);
237     put_bits(&s->pb, 8, 3); /* 3 components */
238
239     /* Y component */
240     put_bits(&s->pb, 8, 1); /* component number */
241     put_bits(&s->pb, 4, s->mjpeg_hsample[0]); /* H factor */
242     put_bits(&s->pb, 4, s->mjpeg_vsample[0]); /* V factor */
243     put_bits(&s->pb, 8, 0); /* select matrix */
244
245     /* Cb component */
246     put_bits(&s->pb, 8, 2); /* component number */
247     put_bits(&s->pb, 4, s->mjpeg_hsample[1]); /* H factor */
248     put_bits(&s->pb, 4, s->mjpeg_vsample[1]); /* V factor */
249 #ifdef TWOMATRIXES
250     put_bits(&s->pb, 8, lossless ? 0 : 1); /* select matrix */
251 #else
252     put_bits(&s->pb, 8, 0); /* select matrix */
253 #endif
254
255     /* Cr component */
256     put_bits(&s->pb, 8, 3); /* component number */
257     put_bits(&s->pb, 4, s->mjpeg_hsample[2]); /* H factor */
258     put_bits(&s->pb, 4, s->mjpeg_vsample[2]); /* V factor */
259 #ifdef TWOMATRIXES
260     put_bits(&s->pb, 8, lossless ? 0 : 1); /* select matrix */
261 #else
262     put_bits(&s->pb, 8, 0); /* select matrix */
263 #endif
264
265     /* scan header */
266     put_marker(&s->pb, SOS);
267     put_bits(&s->pb, 16, 12); /* length */
268     put_bits(&s->pb, 8, 3); /* 3 components */
269
270     /* Y component */
271     put_bits(&s->pb, 8, 1); /* index */
272     put_bits(&s->pb, 4, 0); /* DC huffman table index */
273     put_bits(&s->pb, 4, 0); /* AC huffman table index */
274
275     /* Cb component */
276     put_bits(&s->pb, 8, 2); /* index */
277     put_bits(&s->pb, 4, 1); /* DC huffman table index */
278     put_bits(&s->pb, 4, lossless ? 0 : 1); /* AC huffman table index */
279
280     /* Cr component */
281     put_bits(&s->pb, 8, 3); /* index */
282     put_bits(&s->pb, 4, 1); /* DC huffman table index */
283     put_bits(&s->pb, 4, lossless ? 0 : 1); /* AC huffman table index */
284
285     put_bits(&s->pb, 8, lossless ? s->avctx->prediction_method+1 : 0); /* Ss (not used) */
286
287     switch(s->avctx->codec_id){
288     case CODEC_ID_MJPEG:  put_bits(&s->pb, 8, 63); break; /* Se (not used) */
289     case CODEC_ID_LJPEG:  put_bits(&s->pb, 8,  0); break; /* not used */
290     default: assert(0);
291     }
292
293     put_bits(&s->pb, 8, 0); /* Ah/Al (not used) */
294
295 end:
296     s->esc_pos = put_bits_count(&s->pb) >> 3;
297     for(i=1; i<s->slice_context_count; i++)
298         s->thread_context[i]->esc_pos = 0;
299 }
300
301 static void escape_FF(MpegEncContext *s, int start)
302 {
303     int size= put_bits_count(&s->pb) - start*8;
304     int i, ff_count;
305     uint8_t *buf= s->pb.buf + start;
306     int align= (-(size_t)(buf))&3;
307
308     assert((size&7) == 0);
309     size >>= 3;
310
311     ff_count=0;
312     for(i=0; i<size && i<align; i++){
313         if(buf[i]==0xFF) ff_count++;
314     }
315     for(; i<size-15; i+=16){
316         int acc, v;
317
318         v= *(uint32_t*)(&buf[i]);
319         acc= (((v & (v>>4))&0x0F0F0F0F)+0x01010101)&0x10101010;
320         v= *(uint32_t*)(&buf[i+4]);
321         acc+=(((v & (v>>4))&0x0F0F0F0F)+0x01010101)&0x10101010;
322         v= *(uint32_t*)(&buf[i+8]);
323         acc+=(((v & (v>>4))&0x0F0F0F0F)+0x01010101)&0x10101010;
324         v= *(uint32_t*)(&buf[i+12]);
325         acc+=(((v & (v>>4))&0x0F0F0F0F)+0x01010101)&0x10101010;
326
327         acc>>=4;
328         acc+= (acc>>16);
329         acc+= (acc>>8);
330         ff_count+= acc&0xFF;
331     }
332     for(; i<size; i++){
333         if(buf[i]==0xFF) ff_count++;
334     }
335
336     if(ff_count==0) return;
337
338     flush_put_bits(&s->pb);
339     skip_put_bytes(&s->pb, ff_count);
340
341     for(i=size-1; ff_count; i--){
342         int v= buf[i];
343
344         if(v==0xFF){
345 //printf("%d %d\n", i, ff_count);
346             buf[i+ff_count]= 0;
347             ff_count--;
348         }
349
350         buf[i+ff_count]= v;
351     }
352 }
353
354 void ff_mjpeg_encode_stuffing(MpegEncContext *s)
355 {
356     int length, i;
357     PutBitContext *pbc = &s->pb;
358     int mb_y = s->mb_y - !s->mb_x;
359     length= (-put_bits_count(pbc))&7;
360     if(length) put_bits(pbc, length, (1<<length)-1);
361
362     flush_put_bits(&s->pb);
363     escape_FF(s, s->esc_pos);
364
365     if((s->avctx->active_thread_type & FF_THREAD_SLICE) && mb_y < s->mb_height)
366         put_marker(pbc, RST0 + (mb_y&7));
367     s->esc_pos = put_bits_count(pbc) >> 3;
368
369     for(i=0; i<3; i++)
370         s->last_dc[i] = 128 << s->intra_dc_precision;
371 }
372
373 void ff_mjpeg_encode_picture_trailer(MpegEncContext *s)
374 {
375
376     assert((s->header_bits&7)==0);
377
378
379     put_marker(&s->pb, EOI);
380 }
381
382 void ff_mjpeg_encode_dc(MpegEncContext *s, int val,
383                         uint8_t *huff_size, uint16_t *huff_code)
384 {
385     int mant, nbits;
386
387     if (val == 0) {
388         put_bits(&s->pb, huff_size[0], huff_code[0]);
389     } else {
390         mant = val;
391         if (val < 0) {
392             val = -val;
393             mant--;
394         }
395
396         nbits= av_log2_16bit(val) + 1;
397
398         put_bits(&s->pb, huff_size[nbits], huff_code[nbits]);
399
400         put_sbits(&s->pb, nbits, mant);
401     }
402 }
403
404 static void encode_block(MpegEncContext *s, DCTELEM *block, int n)
405 {
406     int mant, nbits, code, i, j;
407     int component, dc, run, last_index, val;
408     MJpegContext *m = s->mjpeg_ctx;
409     uint8_t *huff_size_ac;
410     uint16_t *huff_code_ac;
411
412     /* DC coef */
413     component = (n <= 3 ? 0 : (n&1) + 1);
414     dc = block[0]; /* overflow is impossible */
415     val = dc - s->last_dc[component];
416     if (n < 4) {
417         ff_mjpeg_encode_dc(s, val, m->huff_size_dc_luminance, m->huff_code_dc_luminance);
418         huff_size_ac = m->huff_size_ac_luminance;
419         huff_code_ac = m->huff_code_ac_luminance;
420     } else {
421         ff_mjpeg_encode_dc(s, val, m->huff_size_dc_chrominance, m->huff_code_dc_chrominance);
422         huff_size_ac = m->huff_size_ac_chrominance;
423         huff_code_ac = m->huff_code_ac_chrominance;
424     }
425     s->last_dc[component] = dc;
426
427     /* AC coefs */
428
429     run = 0;
430     last_index = s->block_last_index[n];
431     for(i=1;i<=last_index;i++) {
432         j = s->intra_scantable.permutated[i];
433         val = block[j];
434         if (val == 0) {
435             run++;
436         } else {
437             while (run >= 16) {
438                 put_bits(&s->pb, huff_size_ac[0xf0], huff_code_ac[0xf0]);
439                 run -= 16;
440             }
441             mant = val;
442             if (val < 0) {
443                 val = -val;
444                 mant--;
445             }
446
447             nbits= av_log2(val) + 1;
448             code = (run << 4) | nbits;
449
450             put_bits(&s->pb, huff_size_ac[code], huff_code_ac[code]);
451
452             put_sbits(&s->pb, nbits, mant);
453             run = 0;
454         }
455     }
456
457     /* output EOB only if not already 64 values */
458     if (last_index < 63 || run != 0)
459         put_bits(&s->pb, huff_size_ac[0], huff_code_ac[0]);
460 }
461
462 void ff_mjpeg_encode_mb(MpegEncContext *s, DCTELEM block[6][64])
463 {
464     int i;
465     for(i=0;i<5;i++) {
466         encode_block(s, block[i], i);
467     }
468     if (s->chroma_format == CHROMA_420) {
469         encode_block(s, block[5], 5);
470     } else {
471         encode_block(s, block[6], 6);
472         encode_block(s, block[5], 5);
473         encode_block(s, block[7], 7);
474     }
475
476     s->i_tex_bits += get_bits_diff(s);
477 }
478
479 // maximum over s->mjpeg_vsample[i]
480 #define V_MAX 2
481 static int amv_encode_picture(AVCodecContext *avctx, AVPacket *pkt,
482                               const AVFrame *pic_arg, int *got_packet)
483
484 {
485     MpegEncContext *s = avctx->priv_data;
486     AVFrame pic = *pic_arg;
487     int i;
488
489     //CODEC_FLAG_EMU_EDGE have to be cleared
490     if(s->avctx->flags & CODEC_FLAG_EMU_EDGE)
491         return -1;
492
493     //picture should be flipped upside-down
494     for(i=0; i < 3; i++) {
495         pic.data[i] += (pic.linesize[i] * (s->mjpeg_vsample[i] * (8 * s->mb_height -((s->height/V_MAX)&7)) - 1 ));
496         pic.linesize[i] *= -1;
497     }
498     return ff_MPV_encode_picture(avctx, pkt, &pic, got_packet);
499 }
500
501 #if CONFIG_MJPEG_ENCODER
502 AVCodec ff_mjpeg_encoder = {
503     .name           = "mjpeg",
504     .type           = AVMEDIA_TYPE_VIDEO,
505     .id             = CODEC_ID_MJPEG,
506     .priv_data_size = sizeof(MpegEncContext),
507     .init           = ff_MPV_encode_init,
508     .encode2        = ff_MPV_encode_picture,
509     .close          = ff_MPV_encode_end,
510     .capabilities   = CODEC_CAP_SLICE_THREADS,
511     .pix_fmts       = (const enum PixelFormat[]){
512         PIX_FMT_YUVJ420P, PIX_FMT_YUVJ422P, PIX_FMT_NONE
513     },
514     .long_name      = NULL_IF_CONFIG_SMALL("MJPEG (Motion JPEG)"),
515 };
516 #endif
517 #if CONFIG_AMV_ENCODER
518 AVCodec ff_amv_encoder = {
519     .name           = "amv",
520     .type           = AVMEDIA_TYPE_VIDEO,
521     .id             = CODEC_ID_AMV,
522     .priv_data_size = sizeof(MpegEncContext),
523     .init           = ff_MPV_encode_init,
524     .encode2        = amv_encode_picture,
525     .close          = ff_MPV_encode_end,
526     .pix_fmts       = (const enum PixelFormat[]){
527         PIX_FMT_YUVJ420P, PIX_FMT_YUVJ422P, PIX_FMT_NONE
528     },
529     .long_name      = NULL_IF_CONFIG_SMALL("AMV Video"),
530 };
531 #endif