9453941b761678f13f97199f8c1744e0c0296c60
[ffmpeg.git] / libavcodec / fic.c
1 /*
2  * Mirillis FIC decoder
3  *
4  * Copyright (c) 2014 Konstantin Shishkov
5  * Copyright (c) 2014 Derek Buitenhuis
6  *
7  * This file is part of Libav.
8  *
9  * Libav is free software; you can redistribute it and/or
10  * modify it under the terms of the GNU Lesser General Public
11  * License as published by the Free Software Foundation; either
12  * version 2.1 of the License, or (at your option) any later version.
13  *
14  * Libav is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
17  * Lesser General Public License for more details.
18  *
19  * You should have received a copy of the GNU Lesser General Public
20  * License along with Libav; if not, write to the Free Software
21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
22  */
23
24 #include "libavutil/common.h"
25 #include "avcodec.h"
26 #include "internal.h"
27 #include "get_bits.h"
28 #include "golomb.h"
29
30 typedef struct FICThreadContext {
31     DECLARE_ALIGNED(16, int16_t, block)[64];
32     uint8_t *src;
33     int slice_h;
34     int src_size;
35     int y_off;
36 } FICThreadContext;
37
38 typedef struct FICContext {
39     AVCodecContext *avctx;
40     AVFrame *frame;
41
42     FICThreadContext *slice_data;
43     int slice_data_size;
44
45     const uint8_t *qmat;
46
47     enum AVPictureType cur_frame_type;
48
49     int aligned_width, aligned_height;
50     int num_slices, slice_h;
51 } FICContext;
52
53 static const uint8_t fic_qmat_hq[64] = {
54     1, 2, 2, 2, 3, 3, 3, 4,
55     2, 2, 2, 3, 3, 3, 4, 4,
56     2, 2, 3, 3, 3, 4, 4, 4,
57     2, 2, 3, 3, 3, 4, 4, 5,
58     2, 3, 3, 3, 4, 4, 5, 6,
59     3, 3, 3, 4, 4, 5, 6, 7,
60     3, 3, 3, 4, 4, 5, 7, 7,
61     3, 3, 4, 4, 5, 7, 7, 7,
62 };
63
64 static const uint8_t fic_qmat_lq[64] = {
65     1,  5,  6,  7,  8,  9,  9, 11,
66     5,  5,  7,  8,  9,  9, 11, 12,
67     6,  7,  8,  9,  9, 11, 11, 12,
68     7,  7,  8,  9,  9, 11, 12, 13,
69     7,  8,  9,  9, 10, 11, 13, 16,
70     8,  9,  9, 10, 11, 13, 16, 19,
71     8,  9,  9, 11, 12, 15, 18, 23,
72     9,  9, 11, 12, 15, 18, 23, 27
73 };
74
75 static const uint8_t fic_header[7] = { 0, 0, 1, 'F', 'I', 'C', 'V' };
76
77 #define FIC_HEADER_SIZE 27
78
79 static av_always_inline void fic_idct(int16_t *blk, int step, int shift)
80 {
81     const int t0 =  27246 * blk[3 * step] + 18405 * blk[5 * step];
82     const int t1 =  27246 * blk[5 * step] - 18405 * blk[3 * step];
83     const int t2 =   6393 * blk[7 * step] + 32139 * blk[1 * step];
84     const int t3 =   6393 * blk[1 * step] - 32139 * blk[7 * step];
85     const int t4 = 5793 * (t2 + t0 + 0x800 >> 12);
86     const int t5 = 5793 * (t3 + t1 + 0x800 >> 12);
87     const int t6 = t2 - t0;
88     const int t7 = t3 - t1;
89     const int t8 =  17734 * blk[2 * step] - 42813 * blk[6 * step];
90     const int t9 =  17734 * blk[6 * step] + 42814 * blk[2 * step];
91     const int tA = (blk[0 * step] - blk[4 * step] << 15) + (1 << shift - 1);
92     const int tB = (blk[0 * step] + blk[4 * step] << 15) + (1 << shift - 1);
93     blk[0 * step] = (  t4       + t9 + tB) >> shift;
94     blk[1 * step] = (  t6 + t7  + t8 + tA) >> shift;
95     blk[2 * step] = (  t6 - t7  - t8 + tA) >> shift;
96     blk[3 * step] = (  t5       - t9 + tB) >> shift;
97     blk[4 * step] = ( -t5       - t9 + tB) >> shift;
98     blk[5 * step] = (-(t6 - t7) - t8 + tA) >> shift;
99     blk[6 * step] = (-(t6 + t7) + t8 + tA) >> shift;
100     blk[7 * step] = ( -t4       + t9 + tB) >> shift;
101 }
102
103 static void fic_idct_put(uint8_t *dst, int stride, int16_t *block)
104 {
105     int i, j;
106     int16_t *ptr;
107
108     ptr = block;
109     for (i = 0; i < 8; i++) {
110         fic_idct(ptr, 8, 13);
111         ptr++;
112     }
113
114     ptr = block;
115     for (i = 0; i < 8; i++) {
116         fic_idct(ptr, 1, 20);
117         ptr += 8;
118     }
119
120     ptr = block;
121     for (j = 0; j < 8; j++) {
122         for (i = 0; i < 8; i++)
123             dst[i] = av_clip_uint8(ptr[i]);
124         dst += stride;
125         ptr += 8;
126     }
127 }
128 static int fic_decode_block(FICContext *ctx, GetBitContext *gb,
129                             uint8_t *dst, int stride, int16_t *block)
130 {
131     int i, num_coeff;
132
133     /* Is it a skip block? */
134     if (get_bits1(gb)) {
135         /* This is a P-frame. */
136         ctx->frame->key_frame = 0;
137         ctx->frame->pict_type = AV_PICTURE_TYPE_P;
138
139         return 0;
140     }
141
142     memset(block, 0, sizeof(*block) * 64);
143
144     num_coeff = get_bits(gb, 7);
145     if (num_coeff > 64)
146         return AVERROR_INVALIDDATA;
147
148     for (i = 0; i < num_coeff; i++)
149         block[ff_zigzag_direct[i]] = get_se_golomb(gb) * ctx->qmat[i];
150
151     fic_idct_put(dst, stride, block);
152
153     return 0;
154 }
155
156 static int fic_decode_slice(AVCodecContext *avctx, void *tdata)
157 {
158     FICContext *ctx        = avctx->priv_data;
159     FICThreadContext *tctx = tdata;
160     GetBitContext gb;
161     uint8_t *src = tctx->src;
162     int slice_h  = tctx->slice_h;
163     int src_size = tctx->src_size;
164     int y_off    = tctx->y_off;
165     int x, y, p;
166
167     init_get_bits(&gb, src, src_size * 8);
168
169     for (p = 0; p < 3; p++) {
170         int stride   = ctx->frame->linesize[p];
171         uint8_t* dst = ctx->frame->data[p] + (y_off >> !!p) * stride;
172
173         for (y = 0; y < (slice_h >> !!p); y += 8) {
174             for (x = 0; x < (ctx->aligned_width >> !!p); x += 8) {
175                 int ret;
176
177                 if ((ret = fic_decode_block(ctx, &gb, dst + x, stride, tctx->block)) != 0)
178                     return ret;
179             }
180
181             dst += 8 * stride;
182         }
183     }
184
185     return 0;
186 }
187
188 static int fic_decode_frame(AVCodecContext *avctx, void *data,
189                             int *got_frame, AVPacket *avpkt)
190 {
191     FICContext *ctx = avctx->priv_data;
192     uint8_t *src = avpkt->data;
193     int ret;
194     int slice, nslices;
195     int msize;
196     int tsize;
197     uint8_t *sdata;
198
199     if ((ret = ff_reget_buffer(avctx, ctx->frame)) < 0) {
200         av_log(avctx, AV_LOG_ERROR, "reget_buffer() failed\n");
201         return ret;
202     }
203
204     /* Header + at least one slice (4) */
205     if (avpkt->size < FIC_HEADER_SIZE + 4) {
206         av_log(avctx, AV_LOG_ERROR, "Frame data is too small.\n");
207         return AVERROR_INVALIDDATA;
208     }
209
210     /* Check for header. */
211     if (memcmp(src, fic_header, 7))
212         av_log(avctx, AV_LOG_WARNING, "Invalid FIC Header.\n");
213
214     /* Is it a skip frame? */
215     if (src[17])
216         goto skip;
217
218     nslices = src[13];
219     if (!nslices) {
220         av_log(avctx, AV_LOG_ERROR, "Zero slices found.\n");
221         return AVERROR_INVALIDDATA;
222     }
223
224     /* High or Low Quality Matrix? */
225     ctx->qmat = src[23] ? fic_qmat_hq : fic_qmat_lq;
226
227     /* Skip cursor data. */
228     tsize = AV_RB24(src + 24);
229     if (tsize > avpkt->size - FIC_HEADER_SIZE) {
230         av_log(avctx, AV_LOG_ERROR, "Invalid cursor data size.\n");
231         return AVERROR_INVALIDDATA;
232     }
233
234     /* Slice height for all but the last slice. */
235     ctx->slice_h = 16 * (ctx->aligned_height >> 4) / nslices;
236     if (ctx->slice_h % 16)
237         ctx->slice_h = FFALIGN(ctx->slice_h - 16, 16);
238
239     /* First slice offset and remaining data. */
240     sdata = src + tsize + FIC_HEADER_SIZE + 4 * nslices;
241     msize = avpkt->size - nslices * 4 - tsize - FIC_HEADER_SIZE;
242
243     if (msize <= 0) {
244         av_log(avctx, AV_LOG_ERROR, "Not enough frame data to decode.\n");
245         return AVERROR_INVALIDDATA;
246     }
247
248     /*
249      * Set the frametype to I initially. It will be set to P if the frame
250      * has any dependencies (skip blocks). There will be a race condition
251      * inside the slice decode function to set these, but we do not care.
252      * since they will only ever be set to 0/P.
253      */
254     ctx->frame->key_frame = 1;
255     ctx->frame->pict_type = AV_PICTURE_TYPE_I;
256
257     /* Allocate slice data. */
258     av_fast_malloc(&ctx->slice_data, &ctx->slice_data_size,
259                    nslices * sizeof(ctx->slice_data[0]));
260     if (!ctx->slice_data_size) {
261         av_log(avctx, AV_LOG_ERROR, "Could not allocate slice data.\n");
262         return AVERROR(ENOMEM);
263     }
264
265     for (slice = 0; slice < nslices; slice++) {
266         unsigned slice_off = AV_RB32(src + tsize + FIC_HEADER_SIZE + slice * 4);
267         unsigned slice_size;
268         int y_off   = ctx->slice_h * slice;
269         int slice_h = ctx->slice_h;
270
271         /*
272          * Either read the slice size, or consume all data left.
273          * Also, special case the last slight height.
274          */
275         if (slice == nslices - 1) {
276             slice_size   = msize;
277             slice_h      = FFALIGN(avctx->height - ctx->slice_h * (nslices - 1), 16);
278         } else {
279             slice_size = AV_RB32(src + tsize + FIC_HEADER_SIZE + slice * 4 + 4);
280         }
281
282         if (slice_size < slice_off || slice_size > msize)
283             continue;
284
285         slice_size -= slice_off;
286
287         ctx->slice_data[slice].src      = sdata + slice_off;
288         ctx->slice_data[slice].src_size = slice_size;
289         ctx->slice_data[slice].slice_h  = slice_h;
290         ctx->slice_data[slice].y_off    = y_off;
291     }
292
293     if (ret = avctx->execute(avctx, fic_decode_slice, ctx->slice_data,
294                              NULL, nslices, sizeof(ctx->slice_data[0])) < 0)
295         return ret;
296
297 skip:
298     *got_frame = 1;
299     if ((ret = av_frame_ref(data, ctx->frame)) < 0)
300         return ret;
301
302     return avpkt->size;
303 }
304
305 static av_cold int fic_decode_close(AVCodecContext *avctx)
306 {
307     FICContext *ctx = avctx->priv_data;
308
309     av_freep(&ctx->slice_data);
310     av_frame_free(&ctx->frame);
311
312     return 0;
313 }
314
315 static av_cold int fic_decode_init(AVCodecContext *avctx)
316 {
317     FICContext *ctx = avctx->priv_data;
318
319     /* Initialize various context values */
320     ctx->avctx            = avctx;
321     ctx->aligned_width    = FFALIGN(avctx->width,  16);
322     ctx->aligned_height   = FFALIGN(avctx->height, 16);
323
324     avctx->pix_fmt             = AV_PIX_FMT_YUV420P;
325     avctx->bits_per_raw_sample = 8;
326
327     ctx->frame = av_frame_alloc();
328     if (!ctx->frame)
329         return AVERROR(ENOMEM);
330
331     return 0;
332 }
333
334 AVCodec ff_fic_decoder = {
335     .name           = "fic",
336     .long_name      = NULL_IF_CONFIG_SMALL("Mirillis FIC"),
337     .type           = AVMEDIA_TYPE_VIDEO,
338     .id             = AV_CODEC_ID_FIC,
339     .priv_data_size = sizeof(FICContext),
340     .init           = fic_decode_init,
341     .decode         = fic_decode_frame,
342     .close          = fic_decode_close,
343     .capabilities   = CODEC_CAP_DR1 | CODEC_CAP_SLICE_THREADS,
344 };