ffv1: split decoder and encoder
[ffmpeg.git] / libavcodec / ffv1.c
1 /*
2  * FFV1 codec for libavcodec
3  *
4  * Copyright (c) 2003-2012 Michael Niedermayer <michaelni@gmx.at>
5  *
6  * This file is part of FFmpeg.
7  *
8  * FFmpeg is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * FFmpeg is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with FFmpeg; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 /**
24  * @file
25  * FF Video Codec 1 (a lossless codec)
26  */
27
28 #include "libavutil/avassert.h"
29 #include "libavutil/crc.h"
30 #include "libavutil/opt.h"
31 #include "libavutil/imgutils.h"
32 #include "libavutil/pixdesc.h"
33 #include "libavutil/timer.h"
34 #include "avcodec.h"
35 #include "internal.h"
36 #include "dsputil.h"
37 #include "rangecoder.h"
38 #include "golomb.h"
39 #include "mathops.h"
40 #include "ffv1.h"
41
42 av_cold int ffv1_common_init(AVCodecContext *avctx)
43 {
44     FFV1Context *s = avctx->priv_data;
45
46     if (!avctx->width || !avctx->height)
47         return AVERROR_INVALIDDATA;
48
49     s->avctx = avctx;
50     s->flags = avctx->flags;
51
52     avcodec_get_frame_defaults(&s->picture);
53
54     ff_dsputil_init(&s->dsp, avctx);
55
56     s->width  = avctx->width;
57     s->height = avctx->height;
58
59     // defaults
60     s->num_h_slices = 1;
61     s->num_v_slices = 1;
62
63     return 0;
64 }
65
66 int ffv1_init_slice_state(FFV1Context *f, FFV1Context *fs)
67 {
68     int j;
69
70         fs->plane_count  = f->plane_count;
71         fs->transparency = f->transparency;
72         for (j = 0; j < f->plane_count; j++) {
73             PlaneContext *const p = &fs->plane[j];
74
75             if (fs->ac) {
76                 if (!p->state)
77                     p->state = av_malloc(CONTEXT_SIZE * p->context_count *
78                                          sizeof(uint8_t));
79                 if (!p->state)
80                     return AVERROR(ENOMEM);
81             } else {
82                 if (!p->vlc_state)
83                     p->vlc_state = av_malloc(p->context_count * sizeof(VlcState));
84                 if (!p->vlc_state)
85                     return AVERROR(ENOMEM);
86             }
87         }
88
89         if (fs->ac > 1) {
90             // FIXME: only redo if state_transition changed
91             for (j = 1; j < 256; j++) {
92                 fs->c. one_state[      j] = f->state_transition[j];
93                 fs->c.zero_state[256 - j] = 256 - fs->c.one_state[j];
94             }
95         }
96
97     return 0;
98 }
99
100 int ffv1_init_slices_state(FFV1Context *f) {
101     int i;
102     for (i = 0; i < f->slice_count; i++) {
103         FFV1Context *fs = f->slice_context[i];
104         if (ffv1_init_slice_state(f, fs) < 0)
105             return -1;
106     }
107     return 0;
108 }
109
110 av_cold int ffv1_init_slice_contexts(FFV1Context *f)
111 {
112     int i;
113
114     f->slice_count = f->num_h_slices * f->num_v_slices;
115
116     for (i = 0; i < f->slice_count; i++) {
117         FFV1Context *fs = av_mallocz(sizeof(*fs));
118         int sx          = i % f->num_h_slices;
119         int sy          = i / f->num_h_slices;
120         int sxs         = f->avctx->width  *  sx      / f->num_h_slices;
121         int sxe         = f->avctx->width  * (sx + 1) / f->num_h_slices;
122         int sys         = f->avctx->height *  sy      / f->num_v_slices;
123         int sye         = f->avctx->height * (sy + 1) / f->num_v_slices;
124         f->slice_context[i] = fs;
125         memcpy(fs, f, sizeof(*fs));
126         memset(fs->rc_stat2, 0, sizeof(fs->rc_stat2));
127
128         fs->slice_width  = sxe - sxs;
129         fs->slice_height = sye - sys;
130         fs->slice_x      = sxs;
131         fs->slice_y      = sys;
132
133         fs->sample_buffer = av_malloc(3*4 * (fs->width+6) * sizeof(*fs->sample_buffer));
134         if (!fs->sample_buffer)
135             return AVERROR(ENOMEM);
136     }
137     return 0;
138 }
139
140 int ffv1_allocate_initial_states(FFV1Context *f)
141 {
142     int i;
143
144     for (i = 0; i < f->quant_table_count; i++) {
145         f->initial_states[i] = av_malloc(f->context_count[i] *
146                                          sizeof(*f->initial_states[i]));
147         if (!f->initial_states[i])
148             return AVERROR(ENOMEM);
149         memset(f->initial_states[i], 128,
150                f->context_count[i] * sizeof(*f->initial_states[i]));
151     }
152     return 0;
153 }
154
155 void ffv1_clear_slice_state(FFV1Context *f, FFV1Context *fs)
156 {
157     int i, j;
158
159         for (i = 0; i < f->plane_count; i++) {
160             PlaneContext *p = &fs->plane[i];
161
162             p->interlace_bit_state[0] = 128;
163             p->interlace_bit_state[1] = 128;
164
165             if (fs->ac) {
166                 if (f->initial_states[p->quant_table_index]) {
167                     memcpy(p->state, f->initial_states[p->quant_table_index],
168                            CONTEXT_SIZE * p->context_count);
169                 } else
170                     memset(p->state, 128, CONTEXT_SIZE * p->context_count);
171             } else {
172                 for (j = 0; j < p->context_count; j++) {
173                     p->vlc_state[j].drift     = 0;
174                     p->vlc_state[j].error_sum = 4; // FFMAX((RANGE + 32)/64, 2);
175                     p->vlc_state[j].bias      = 0;
176                     p->vlc_state[j].count     = 1;
177                 }
178             }
179         }
180 }
181
182
183 av_cold int ffv1_common_end(AVCodecContext *avctx)
184 {
185     FFV1Context *s = avctx->priv_data;
186     int i, j;
187
188     if (avctx->codec->decode && s->picture.data[0])
189         avctx->release_buffer(avctx, &s->picture);
190     if (avctx->codec->decode && s->last_picture.data[0])
191         avctx->release_buffer(avctx, &s->last_picture);
192
193     for (j = 0; j < s->slice_count; j++) {
194         FFV1Context *fs = s->slice_context[j];
195         for (i = 0; i < s->plane_count; i++) {
196             PlaneContext *p = &fs->plane[i];
197
198             av_freep(&p->state);
199             av_freep(&p->vlc_state);
200         }
201         av_freep(&fs->sample_buffer);
202     }
203
204     av_freep(&avctx->stats_out);
205     for (j = 0; j < s->quant_table_count; j++) {
206         av_freep(&s->initial_states[j]);
207         for (i = 0; i < s->slice_count; i++) {
208             FFV1Context *sf = s->slice_context[i];
209             av_freep(&sf->rc_stat2[j]);
210         }
211         av_freep(&s->rc_stat2[j]);
212     }
213
214     for (i = 0; i < s->slice_count; i++)
215         av_freep(&s->slice_context[i]);
216
217     return 0;
218 }