mjpeg: return proper error code
[ffmpeg.git] / libavcodec / mjpegenc.c
1 /*
2  * MJPEG encoder
3  * Copyright (c) 2000, 2001 Fabrice Bellard
4  * Copyright (c) 2003 Alex Beregszaszi
5  * Copyright (c) 2003-2004 Michael Niedermayer
6  *
7  * Support for external huffman table, various fixes (AVID workaround),
8  * aspecting, new decode_frame mechanism and apple mjpeg-b support
9  *                                  by Alex Beregszaszi
10  *
11  * This file is part of Libav.
12  *
13  * Libav is free software; you can redistribute it and/or
14  * modify it under the terms of the GNU Lesser General Public
15  * License as published by the Free Software Foundation; either
16  * version 2.1 of the License, or (at your option) any later version.
17  *
18  * Libav is distributed in the hope that it will be useful,
19  * but WITHOUT ANY WARRANTY; without even the implied warranty of
20  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
21  * Lesser General Public License for more details.
22  *
23  * You should have received a copy of the GNU Lesser General Public
24  * License along with Libav; if not, write to the Free Software
25  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
26  */
27
28 /**
29  * @file
30  * MJPEG encoder.
31  */
32
33 #include <assert.h>
34
35 #include "libavutil/pixdesc.h"
36
37 #include "avcodec.h"
38 #include "mjpegenc_common.h"
39 #include "mpegvideo.h"
40 #include "mjpeg.h"
41 #include "mjpegenc.h"
42
43 av_cold int ff_mjpeg_encode_init(MpegEncContext *s)
44 {
45     MJpegContext *m;
46
47     m = av_malloc(sizeof(MJpegContext));
48     if (!m)
49         return AVERROR(ENOMEM);
50
51     s->min_qcoeff=-1023;
52     s->max_qcoeff= 1023;
53
54     /* build all the huffman tables */
55     ff_mjpeg_build_huffman_codes(m->huff_size_dc_luminance,
56                                  m->huff_code_dc_luminance,
57                                  avpriv_mjpeg_bits_dc_luminance,
58                                  avpriv_mjpeg_val_dc);
59     ff_mjpeg_build_huffman_codes(m->huff_size_dc_chrominance,
60                                  m->huff_code_dc_chrominance,
61                                  avpriv_mjpeg_bits_dc_chrominance,
62                                  avpriv_mjpeg_val_dc);
63     ff_mjpeg_build_huffman_codes(m->huff_size_ac_luminance,
64                                  m->huff_code_ac_luminance,
65                                  avpriv_mjpeg_bits_ac_luminance,
66                                  avpriv_mjpeg_val_ac_luminance);
67     ff_mjpeg_build_huffman_codes(m->huff_size_ac_chrominance,
68                                  m->huff_code_ac_chrominance,
69                                  avpriv_mjpeg_bits_ac_chrominance,
70                                  avpriv_mjpeg_val_ac_chrominance);
71
72     s->mjpeg_ctx = m;
73     return 0;
74 }
75
76 void ff_mjpeg_encode_close(MpegEncContext *s)
77 {
78     av_free(s->mjpeg_ctx);
79 }
80
81 static void encode_block(MpegEncContext *s, int16_t *block, int n)
82 {
83     int mant, nbits, code, i, j;
84     int component, dc, run, last_index, val;
85     MJpegContext *m = s->mjpeg_ctx;
86     uint8_t *huff_size_ac;
87     uint16_t *huff_code_ac;
88
89     /* DC coef */
90     component = (n <= 3 ? 0 : (n&1) + 1);
91     dc = block[0]; /* overflow is impossible */
92     val = dc - s->last_dc[component];
93     if (n < 4) {
94         ff_mjpeg_encode_dc(&s->pb, val, m->huff_size_dc_luminance, m->huff_code_dc_luminance);
95         huff_size_ac = m->huff_size_ac_luminance;
96         huff_code_ac = m->huff_code_ac_luminance;
97     } else {
98         ff_mjpeg_encode_dc(&s->pb, val, m->huff_size_dc_chrominance, m->huff_code_dc_chrominance);
99         huff_size_ac = m->huff_size_ac_chrominance;
100         huff_code_ac = m->huff_code_ac_chrominance;
101     }
102     s->last_dc[component] = dc;
103
104     /* AC coefs */
105
106     run = 0;
107     last_index = s->block_last_index[n];
108     for(i=1;i<=last_index;i++) {
109         j = s->intra_scantable.permutated[i];
110         val = block[j];
111         if (val == 0) {
112             run++;
113         } else {
114             while (run >= 16) {
115                 put_bits(&s->pb, huff_size_ac[0xf0], huff_code_ac[0xf0]);
116                 run -= 16;
117             }
118             mant = val;
119             if (val < 0) {
120                 val = -val;
121                 mant--;
122             }
123
124             nbits= av_log2(val) + 1;
125             code = (run << 4) | nbits;
126
127             put_bits(&s->pb, huff_size_ac[code], huff_code_ac[code]);
128
129             put_sbits(&s->pb, nbits, mant);
130             run = 0;
131         }
132     }
133
134     /* output EOB only if not already 64 values */
135     if (last_index < 63 || run != 0)
136         put_bits(&s->pb, huff_size_ac[0], huff_code_ac[0]);
137 }
138
139 void ff_mjpeg_encode_mb(MpegEncContext *s, int16_t block[6][64])
140 {
141     int i;
142     for(i=0;i<5;i++) {
143         encode_block(s, block[i], i);
144     }
145     if (s->chroma_format == CHROMA_420) {
146         encode_block(s, block[5], 5);
147     } else {
148         encode_block(s, block[6], 6);
149         encode_block(s, block[5], 5);
150         encode_block(s, block[7], 7);
151     }
152
153     s->i_tex_bits += get_bits_diff(s);
154 }
155
156 AVCodec ff_mjpeg_encoder = {
157     .name           = "mjpeg",
158     .long_name      = NULL_IF_CONFIG_SMALL("MJPEG (Motion JPEG)"),
159     .type           = AVMEDIA_TYPE_VIDEO,
160     .id             = AV_CODEC_ID_MJPEG,
161     .priv_data_size = sizeof(MpegEncContext),
162     .init           = ff_MPV_encode_init,
163     .encode2        = ff_MPV_encode_picture,
164     .close          = ff_MPV_encode_end,
165     .pix_fmts       = (const enum AVPixelFormat[]){
166         AV_PIX_FMT_YUVJ420P, AV_PIX_FMT_YUVJ422P, AV_PIX_FMT_NONE
167     },
168 };