lavc: fix support of unofficial pix_fmt extensions of jpeg
[ffmpeg.git] / libavcodec / lclenc.c
1 /*
2  * LCL (LossLess Codec Library) Codec
3  * Copyright (c) 2002-2004 Roberto Togni
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * LCL (LossLess Codec Library) Video Codec
25  * Decoder for MSZH and ZLIB codecs
26  * Experimental encoder for ZLIB RGB24
27  *
28  * Fourcc: MSZH, ZLIB
29  *
30  * Original Win32 dll:
31  * Ver2.23 By Kenji Oshima 2000.09.20
32  * avimszh.dll, avizlib.dll
33  *
34  * A description of the decoding algorithm can be found here:
35  *   http://www.pcisys.net/~melanson/codecs
36  *
37  * Supports: BGR24 (RGB 24bpp)
38  *
39  */
40
41 #include <stdio.h>
42 #include <stdlib.h>
43
44 #include "avcodec.h"
45 #include "internal.h"
46 #include "lcl.h"
47
48 #include <zlib.h>
49
50 /*
51  * Decoder context
52  */
53 typedef struct LclEncContext {
54
55     AVCodecContext *avctx;
56     AVFrame pic;
57
58     // Image type
59     int imgtype;
60     // Compression type
61     int compression;
62     // Flags
63     int flags;
64     z_stream zstream;
65 } LclEncContext;
66
67 /*
68  *
69  * Encode a frame
70  *
71  */
72 static int encode_frame(AVCodecContext *avctx, AVPacket *pkt,
73                         const AVFrame *pict, int *got_packet)
74 {
75     LclEncContext *c = avctx->priv_data;
76     AVFrame * const p = &c->pic;
77     int i, ret;
78     int zret; // Zlib return code
79     int max_size = deflateBound(&c->zstream, avctx->width * avctx->height * 3);
80
81     if ((ret = ff_alloc_packet2(avctx, pkt, max_size)) < 0)
82             return ret;
83
84     *p = *pict;
85     p->pict_type= AV_PICTURE_TYPE_I;
86     p->key_frame= 1;
87
88     if(avctx->pix_fmt != PIX_FMT_BGR24){
89         av_log(avctx, AV_LOG_ERROR, "Format not supported!\n");
90         return -1;
91     }
92
93     zret = deflateReset(&c->zstream);
94     if (zret != Z_OK) {
95         av_log(avctx, AV_LOG_ERROR, "Deflate reset error: %d\n", zret);
96         return -1;
97     }
98     c->zstream.next_out  = pkt->data;
99     c->zstream.avail_out = pkt->size;
100
101     for(i = avctx->height - 1; i >= 0; i--) {
102         c->zstream.next_in = p->data[0]+p->linesize[0]*i;
103         c->zstream.avail_in = avctx->width*3;
104         zret = deflate(&c->zstream, Z_NO_FLUSH);
105         if (zret != Z_OK) {
106             av_log(avctx, AV_LOG_ERROR, "Deflate error: %d\n", zret);
107             return -1;
108         }
109     }
110     zret = deflate(&c->zstream, Z_FINISH);
111     if (zret != Z_STREAM_END) {
112         av_log(avctx, AV_LOG_ERROR, "Deflate error: %d\n", zret);
113         return -1;
114     }
115
116     pkt->size   = c->zstream.total_out;
117     pkt->flags |= AV_PKT_FLAG_KEY;
118     *got_packet = 1;
119
120     return 0;
121 }
122
123 /*
124  *
125  * Init lcl encoder
126  *
127  */
128 static av_cold int encode_init(AVCodecContext *avctx)
129 {
130     LclEncContext *c = avctx->priv_data;
131     int zret; // Zlib return code
132
133     c->avctx= avctx;
134
135     assert(avctx->width && avctx->height);
136
137     avctx->extradata= av_mallocz(8);
138     avctx->coded_frame= &c->pic;
139
140     // Will be user settable someday
141     c->compression = 6;
142     c->flags = 0;
143     c->imgtype = IMGTYPE_RGB24;
144     avctx->bits_per_coded_sample= 24;
145
146     avctx->extradata[0]= 4;
147     avctx->extradata[1]= 0;
148     avctx->extradata[2]= 0;
149     avctx->extradata[3]= 0;
150     avctx->extradata[4]= c->imgtype;
151     avctx->extradata[5]= c->compression;
152     avctx->extradata[6]= c->flags;
153     avctx->extradata[7]= CODEC_ZLIB;
154     c->avctx->extradata_size= 8;
155
156     c->zstream.zalloc = Z_NULL;
157     c->zstream.zfree = Z_NULL;
158     c->zstream.opaque = Z_NULL;
159     zret = deflateInit(&c->zstream, c->compression);
160     if (zret != Z_OK) {
161         av_log(avctx, AV_LOG_ERROR, "Deflate init error: %d\n", zret);
162         return 1;
163     }
164
165     return 0;
166 }
167
168 /*
169  *
170  * Uninit lcl encoder
171  *
172  */
173 static av_cold int encode_end(AVCodecContext *avctx)
174 {
175     LclEncContext *c = avctx->priv_data;
176
177     av_freep(&avctx->extradata);
178     deflateEnd(&c->zstream);
179
180     return 0;
181 }
182
183 AVCodec ff_zlib_encoder = {
184     .name           = "zlib",
185     .type           = AVMEDIA_TYPE_VIDEO,
186     .id             = CODEC_ID_ZLIB,
187     .priv_data_size = sizeof(LclEncContext),
188     .init           = encode_init,
189     .encode2        = encode_frame,
190     .close          = encode_end,
191     .pix_fmts       = (const enum PixelFormat[]) { PIX_FMT_BGR24, PIX_FMT_NONE },
192     .long_name      = NULL_IF_CONFIG_SMALL("LCL (LossLess Codec Library) ZLIB"),
193 };