avopt: Store defaults for AV_OPT_TYPE_FLAGS in the i64 union member
[ffmpeg.git] / libavcodec / sunrastenc.c
1 /*
2  * Sun Rasterfile (.sun/.ras/im{1,8,24}/.sunras) image encoder
3  * Copyright (c) 2012 Aneesh Dogra (lionaneesh) <lionaneesh@gmail.com>
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "avcodec.h"
23 #include "bytestream.h"
24 #include "internal.h"
25 #include "sunrast.h"
26
27 typedef struct SUNRASTContext {
28     AVFrame picture;
29     PutByteContext p;
30     int depth;      ///< depth of pixel
31     int length;     ///< length (bytes) of image
32     int type;       ///< type of file
33     int maptype;    ///< type of colormap
34     int maplength;  ///< length (bytes) of colormap
35     int size;
36 } SUNRASTContext;
37
38 static void sunrast_image_write_header(AVCodecContext *avctx)
39 {
40     SUNRASTContext *s = avctx->priv_data;
41
42     bytestream2_put_be32u(&s->p, RAS_MAGIC);
43     bytestream2_put_be32u(&s->p, avctx->width);
44     bytestream2_put_be32u(&s->p, avctx->height);
45     bytestream2_put_be32u(&s->p, s->depth);
46     bytestream2_put_be32u(&s->p, s->length);
47     bytestream2_put_be32u(&s->p, s->type);
48     bytestream2_put_be32u(&s->p, s->maptype);
49     bytestream2_put_be32u(&s->p, s->maplength);
50 }
51
52 static void sunrast_image_write_image(AVCodecContext *avctx,
53                                       const uint8_t *pixels,
54                                       const uint32_t *palette_data,
55                                       int linesize)
56 {
57     SUNRASTContext *s = avctx->priv_data;
58     const uint8_t *ptr;
59     int len, alen, x;
60
61     if (s->maplength) {     // palettized
62         PutByteContext pb_r, pb_g;
63         int len = s->maplength / 3;
64
65         pb_r = s->p;
66         bytestream2_skip_p(&s->p, len);
67         pb_g = s->p;
68         bytestream2_skip_p(&s->p, len);
69
70         for (x = 0; x < len; x++) {
71             uint32_t pixel = palette_data[x];
72
73             bytestream2_put_byteu(&pb_r, (pixel >> 16) & 0xFF);
74             bytestream2_put_byteu(&pb_g, (pixel >> 8)  & 0xFF);
75             bytestream2_put_byteu(&s->p,  pixel        & 0xFF);
76         }
77     }
78
79     len  = (s->depth * avctx->width + 7) >> 3;
80     alen = len + (len & 1);
81     ptr  = pixels;
82
83      if (s->type == RT_BYTE_ENCODED) {
84         uint8_t value, value2;
85         int run;
86         const uint8_t *start = linesize < 0 ? pixels + (avctx->height - 1) * linesize
87                                             : pixels;
88         const uint8_t *end   = linesize < 0 ? pixels - linesize
89                                             : pixels + avctx->height * linesize;
90
91         ptr = pixels;
92
93 #define GET_VALUE ptr >= end || ptr < start ? 0 : x >= len ? ptr[len-1] : ptr[x]
94
95         x = 0;
96         value2 = GET_VALUE;
97         while (ptr < end && ptr >= start) {
98             run = 1;
99             value = value2;
100             x++;
101             if (x >= alen) {
102                 x = 0;
103                 ptr += linesize;
104             }
105
106             value2 = GET_VALUE;
107             while (value2 == value && run < 256 && ptr < end && ptr >= start) {
108                 x++;
109                 run++;
110                 if (x >= alen) {
111                     x = 0;
112                     ptr += linesize;
113                 }
114                 value2 = GET_VALUE;
115             }
116
117             if (run > 2 || value == RLE_TRIGGER) {
118                 bytestream2_put_byteu(&s->p, RLE_TRIGGER);
119                 bytestream2_put_byteu(&s->p, run - 1);
120                 if (run > 1)
121                     bytestream2_put_byteu(&s->p, value);
122             } else if (run == 1) {
123                 bytestream2_put_byteu(&s->p, value);
124             } else
125                 bytestream2_put_be16u(&s->p, (value << 8) | value);
126         }
127
128         // update data length for header
129         s->length = bytestream2_tell_p(&s->p) - 32 - s->maplength;
130     } else {
131         int y;
132         for (y = 0; y < avctx->height; y++) {
133             bytestream2_put_buffer(&s->p, ptr, len);
134             if (len < alen)
135                 bytestream2_put_byteu(&s->p, 0);
136             ptr += linesize;
137         }
138     }
139 }
140
141 static av_cold int sunrast_encode_init(AVCodecContext *avctx)
142 {
143     SUNRASTContext *s = avctx->priv_data;
144
145     switch (avctx->coder_type) {
146     case FF_CODER_TYPE_RLE:
147         s->type = RT_BYTE_ENCODED;
148         break;
149     case FF_CODER_TYPE_RAW:
150         s->type = RT_STANDARD;
151         break;
152     default:
153         av_log(avctx, AV_LOG_ERROR, "invalid coder_type\n");
154         return AVERROR(EINVAL);
155     }
156
157     avctx->coded_frame            = &s->picture;
158     avctx->coded_frame->key_frame = 1;
159     avctx->coded_frame->pict_type = AV_PICTURE_TYPE_I;
160     s->maptype                    = RMT_NONE;
161     s->maplength                  = 0;
162
163     switch (avctx->pix_fmt) {
164     case PIX_FMT_MONOWHITE:
165         s->depth = 1;
166         break;
167     case PIX_FMT_PAL8 :
168         s->maptype   = RMT_EQUAL_RGB;
169         s->maplength = 3 * 256;
170     case PIX_FMT_GRAY8:
171         s->depth = 8;
172         break;
173     case PIX_FMT_BGR24:
174         s->depth = 24;
175         break;
176     default:
177         return AVERROR_BUG;
178     }
179     s->length = avctx->height * (FFALIGN(avctx->width * s->depth, 16) >> 3);
180     s->size   = 32 + s->maplength +
181                 s->length * (s->type == RT_BYTE_ENCODED ? 2 : 1);
182
183     return 0;
184 }
185
186 static int sunrast_encode_frame(AVCodecContext *avctx,  AVPacket *avpkt,
187                                 const AVFrame *frame, int *got_packet_ptr)
188 {
189     SUNRASTContext *s = avctx->priv_data;
190     int ret;
191
192     if ((ret = ff_alloc_packet(avpkt, s->size)) < 0)
193         return ret;
194
195     bytestream2_init_writer(&s->p, avpkt->data, avpkt->size);
196     sunrast_image_write_header(avctx);
197     sunrast_image_write_image(avctx, frame->data[0],
198                               (const uint32_t *)frame->data[1],
199                               frame->linesize[0]);
200     // update data length in header after RLE
201     if (s->type == RT_BYTE_ENCODED)
202         AV_WB32(&avpkt->data[16], s->length);
203
204     *got_packet_ptr = 1;
205     avpkt->flags |= AV_PKT_FLAG_KEY;
206     avpkt->size = bytestream2_tell_p(&s->p);
207     return 0;
208 }
209
210 static const AVCodecDefault sunrast_defaults[] = {
211      { "coder", "rle" },
212      { NULL },
213 };
214
215 AVCodec ff_sunrast_encoder = {
216     .name           = "sunrast",
217     .type           = AVMEDIA_TYPE_VIDEO,
218     .id             = AV_CODEC_ID_SUNRAST,
219     .priv_data_size = sizeof(SUNRASTContext),
220     .init           = sunrast_encode_init,
221     .encode2        = sunrast_encode_frame,
222     .defaults       = sunrast_defaults,
223     .pix_fmts       = (const enum PixelFormat[]){ PIX_FMT_BGR24,
224                                                   PIX_FMT_PAL8,
225                                                   PIX_FMT_GRAY8,
226                                                   PIX_FMT_MONOWHITE,
227                                                   PIX_FMT_NONE },
228     .long_name      = NULL_IF_CONFIG_SMALL("Sun Rasterfile image"),
229 };