lavfi/drawutils: make ff_draw_color() accept a const rgba map
[ffmpeg.git] / libavfilter / video.c
1 /*
2  * Copyright 2007 Bobby Bingham
3  * Copyright Stefano Sabatini <stefasab gmail com>
4  * Copyright Vitor Sessak <vitor1001 gmail com>
5  *
6  * This file is part of FFmpeg.
7  *
8  * FFmpeg is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * FFmpeg is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with FFmpeg; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 #include "libavutil/imgutils.h"
24
25 #include "avfilter.h"
26 #include "internal.h"
27 #include "video.h"
28
29 AVFilterBufferRef *ff_null_get_video_buffer(AVFilterLink *link, int perms, int w, int h)
30 {
31     return ff_get_video_buffer(link->dst->outputs[0], perms, w, h);
32 }
33
34 AVFilterBufferRef *ff_default_get_video_buffer(AVFilterLink *link, int perms, int w, int h)
35 {
36     int linesize[4];
37     uint8_t *data[4];
38     int i;
39     AVFilterBufferRef *picref = NULL;
40     AVFilterPool *pool = link->pool;
41
42     if (pool) {
43         for (i = 0; i < POOL_SIZE; i++) {
44             picref = pool->pic[i];
45             if (picref && picref->buf->format == link->format && picref->buf->w == w && picref->buf->h == h) {
46                 AVFilterBuffer *pic = picref->buf;
47                 pool->pic[i] = NULL;
48                 pool->count--;
49                 picref->video->w = w;
50                 picref->video->h = h;
51                 picref->perms = perms | AV_PERM_READ;
52                 picref->format = link->format;
53                 pic->refcount = 1;
54                 memcpy(picref->data,     pic->data,     sizeof(picref->data));
55                 memcpy(picref->linesize, pic->linesize, sizeof(picref->linesize));
56                 pool->refcount++;
57                 return picref;
58             }
59         }
60     } else {
61         pool = link->pool = av_mallocz(sizeof(AVFilterPool));
62         pool->refcount = 1;
63     }
64
65     // align: +2 is needed for swscaler, +16 to be SIMD-friendly
66     if ((i = av_image_alloc(data, linesize, w, h, link->format, 32)) < 0)
67         return NULL;
68
69     picref = avfilter_get_video_buffer_ref_from_arrays(data, linesize,
70                                                        perms, w, h, link->format);
71     if (!picref) {
72         av_free(data[0]);
73         return NULL;
74     }
75
76     memset(data[0], 128, i);
77
78     picref->buf->priv = pool;
79     picref->buf->free = NULL;
80     pool->refcount++;
81
82     return picref;
83 }
84
85 AVFilterBufferRef *
86 avfilter_get_video_buffer_ref_from_arrays(uint8_t * const data[4], const int linesize[4], int perms,
87                                           int w, int h, enum PixelFormat format)
88 {
89     AVFilterBuffer *pic = av_mallocz(sizeof(AVFilterBuffer));
90     AVFilterBufferRef *picref = av_mallocz(sizeof(AVFilterBufferRef));
91
92     if (!pic || !picref)
93         goto fail;
94
95     picref->buf = pic;
96     picref->buf->free = ff_avfilter_default_free_buffer;
97     if (!(picref->video = av_mallocz(sizeof(AVFilterBufferRefVideoProps))))
98         goto fail;
99
100     pic->w = picref->video->w = w;
101     pic->h = picref->video->h = h;
102
103     /* make sure the buffer gets read permission or it's useless for output */
104     picref->perms = perms | AV_PERM_READ;
105
106     pic->refcount = 1;
107     picref->type = AVMEDIA_TYPE_VIDEO;
108     pic->format = picref->format = format;
109
110     memcpy(pic->data,        data,          4*sizeof(data[0]));
111     memcpy(pic->linesize,    linesize,      4*sizeof(linesize[0]));
112     memcpy(picref->data,     pic->data,     sizeof(picref->data));
113     memcpy(picref->linesize, pic->linesize, sizeof(picref->linesize));
114
115     pic->   extended_data = pic->data;
116     picref->extended_data = picref->data;
117
118     picref->pts = AV_NOPTS_VALUE;
119
120     return picref;
121
122 fail:
123     if (picref && picref->video)
124         av_free(picref->video);
125     av_free(picref);
126     av_free(pic);
127     return NULL;
128 }
129
130 AVFilterBufferRef *ff_get_video_buffer(AVFilterLink *link, int perms, int w, int h)
131 {
132     AVFilterBufferRef *ret = NULL;
133
134     av_unused char buf[16];
135     FF_TPRINTF_START(NULL, get_video_buffer); ff_tlog_link(NULL, link, 0);
136     ff_tlog(NULL, " perms:%s w:%d h:%d\n", ff_get_ref_perms_string(buf, sizeof(buf), perms), w, h);
137
138     if (link->dstpad->get_video_buffer)
139         ret = link->dstpad->get_video_buffer(link, perms, w, h);
140
141     if (!ret)
142         ret = ff_default_get_video_buffer(link, perms, w, h);
143
144     if (ret)
145         ret->type = AVMEDIA_TYPE_VIDEO;
146
147     FF_TPRINTF_START(NULL, get_video_buffer); ff_tlog_link(NULL, link, 0); ff_tlog(NULL, " returning "); ff_tlog_ref(NULL, ret, 1);
148
149     return ret;
150 }
151
152 int ff_null_start_frame(AVFilterLink *link, AVFilterBufferRef *picref)
153 {
154     AVFilterBufferRef *buf_out = avfilter_ref_buffer(picref, ~0);
155     if (!buf_out)
156         return AVERROR(ENOMEM);
157     return ff_start_frame(link->dst->outputs[0], buf_out);
158 }
159
160 // for filters that support (but don't require) outpic==inpic
161 int ff_inplace_start_frame(AVFilterLink *inlink, AVFilterBufferRef *inpicref)
162 {
163     AVFilterLink *outlink = inlink->dst->outputs[0];
164     AVFilterBufferRef *outpicref = NULL, *for_next_filter;
165     int ret = 0;
166
167     if ((inpicref->perms & AV_PERM_WRITE) && !(inpicref->perms & AV_PERM_PRESERVE)) {
168         outpicref = avfilter_ref_buffer(inpicref, ~0);
169         if (!outpicref)
170             return AVERROR(ENOMEM);
171     } else {
172         outpicref = ff_get_video_buffer(outlink, AV_PERM_WRITE, outlink->w, outlink->h);
173         if (!outpicref)
174             return AVERROR(ENOMEM);
175
176         avfilter_copy_buffer_ref_props(outpicref, inpicref);
177         outpicref->video->w = outlink->w;
178         outpicref->video->h = outlink->h;
179     }
180
181     for_next_filter = avfilter_ref_buffer(outpicref, ~0);
182     if (for_next_filter)
183         ret = ff_start_frame(outlink, for_next_filter);
184     else
185         ret = AVERROR(ENOMEM);
186
187     if (ret < 0) {
188         avfilter_unref_bufferp(&outpicref);
189         return ret;
190     }
191
192     outlink->out_buf = outpicref;
193     return 0;
194 }
195
196 static int default_start_frame(AVFilterLink *inlink, AVFilterBufferRef *picref)
197 {
198     AVFilterLink *outlink = NULL;
199
200     if (inlink->dst->nb_outputs)
201         outlink = inlink->dst->outputs[0];
202
203     if (outlink) {
204         AVFilterBufferRef *buf_out;
205         outlink->out_buf = ff_get_video_buffer(outlink, AV_PERM_WRITE, outlink->w, outlink->h);
206         if (!outlink->out_buf)
207             return AVERROR(ENOMEM);
208
209         avfilter_copy_buffer_ref_props(outlink->out_buf, picref);
210         outlink->out_buf->video->w = outlink->w;
211         outlink->out_buf->video->h = outlink->h;
212         buf_out = avfilter_ref_buffer(outlink->out_buf, ~0);
213         if (!buf_out)
214             return AVERROR(ENOMEM);
215
216         return ff_start_frame(outlink, buf_out);
217     }
218     return 0;
219 }
220
221 static void clear_link(AVFilterLink *link)
222 {
223     avfilter_unref_bufferp(&link->cur_buf);
224     avfilter_unref_bufferp(&link->src_buf);
225     avfilter_unref_bufferp(&link->out_buf);
226 }
227
228 /* XXX: should we do the duplicating of the picture ref here, instead of
229  * forcing the source filter to do it? */
230 int ff_start_frame(AVFilterLink *link, AVFilterBufferRef *picref)
231 {
232     int (*start_frame)(AVFilterLink *, AVFilterBufferRef *);
233     AVFilterPad *dst = link->dstpad;
234     int ret, perms = picref->perms;
235     AVFilterCommand *cmd= link->dst->command_queue;
236     int64_t pts;
237
238     FF_TPRINTF_START(NULL, start_frame); ff_tlog_link(NULL, link, 0); ff_tlog(NULL, " "); ff_tlog_ref(NULL, picref, 1);
239
240     if (!(start_frame = dst->start_frame))
241         start_frame = default_start_frame;
242
243     if (picref->linesize[0] < 0)
244         perms |= AV_PERM_NEG_LINESIZES;
245     /* prepare to copy the picture if it has insufficient permissions */
246     if ((dst->min_perms & perms) != dst->min_perms || dst->rej_perms & perms) {
247         av_log(link->dst, AV_LOG_DEBUG,
248                 "frame copy needed (have perms %x, need %x, reject %x)\n",
249                 picref->perms,
250                 link->dstpad->min_perms, link->dstpad->rej_perms);
251
252         link->cur_buf = ff_get_video_buffer(link, dst->min_perms, link->w, link->h);
253         if (!link->cur_buf) {
254             avfilter_unref_bufferp(&picref);
255             return AVERROR(ENOMEM);
256         }
257
258         link->src_buf = picref;
259         avfilter_copy_buffer_ref_props(link->cur_buf, link->src_buf);
260
261         /* copy palette if required */
262         if (av_pix_fmt_descriptors[link->format].flags & PIX_FMT_PAL)
263             memcpy(link->cur_buf->data[1], link->src_buf-> data[1], AVPALETTE_SIZE);
264     }
265     else
266         link->cur_buf = picref;
267
268     while(cmd && cmd->time <= picref->pts * av_q2d(link->time_base)){
269         av_log(link->dst, AV_LOG_DEBUG,
270                "Processing command time:%f command:%s arg:%s\n",
271                cmd->time, cmd->command, cmd->arg);
272         avfilter_process_command(link->dst, cmd->command, cmd->arg, 0, 0, cmd->flags);
273         ff_command_queue_pop(link->dst);
274         cmd= link->dst->command_queue;
275     }
276     pts = link->cur_buf->pts;
277     ret = start_frame(link, link->cur_buf);
278     ff_update_link_current_pts(link, pts);
279     if (ret < 0)
280         clear_link(link);
281
282     return ret;
283 }
284
285 int ff_null_end_frame(AVFilterLink *link)
286 {
287     return ff_end_frame(link->dst->outputs[0]);
288 }
289
290 static int default_end_frame(AVFilterLink *inlink)
291 {
292     AVFilterLink *outlink = NULL;
293
294     if (inlink->dst->nb_outputs)
295         outlink = inlink->dst->outputs[0];
296
297     if (outlink) {
298         return ff_end_frame(outlink);
299     }
300     return 0;
301 }
302
303 int ff_end_frame(AVFilterLink *link)
304 {
305     int (*end_frame)(AVFilterLink *);
306     int ret;
307
308     if (!(end_frame = link->dstpad->end_frame))
309         end_frame = default_end_frame;
310
311     ret = end_frame(link);
312
313     clear_link(link);
314
315     return ret;
316 }
317
318 int ff_null_draw_slice(AVFilterLink *link, int y, int h, int slice_dir)
319 {
320     return ff_draw_slice(link->dst->outputs[0], y, h, slice_dir);
321 }
322
323 static int default_draw_slice(AVFilterLink *inlink, int y, int h, int slice_dir)
324 {
325     AVFilterLink *outlink = NULL;
326
327     if (inlink->dst->nb_outputs)
328         outlink = inlink->dst->outputs[0];
329
330     if (outlink)
331         return ff_draw_slice(outlink, y, h, slice_dir);
332     return 0;
333 }
334
335 int ff_draw_slice(AVFilterLink *link, int y, int h, int slice_dir)
336 {
337     uint8_t *src[4], *dst[4];
338     int i, j, vsub, ret;
339     int (*draw_slice)(AVFilterLink *, int, int, int);
340
341     FF_TPRINTF_START(NULL, draw_slice); ff_tlog_link(NULL, link, 0); ff_tlog(NULL, " y:%d h:%d dir:%d\n", y, h, slice_dir);
342
343     /* copy the slice if needed for permission reasons */
344     if (link->src_buf) {
345         vsub = av_pix_fmt_descriptors[link->format].log2_chroma_h;
346
347         for (i = 0; i < 4; i++) {
348             if (link->src_buf->data[i]) {
349                 src[i] = link->src_buf-> data[i] +
350                     (y >> (i==1 || i==2 ? vsub : 0)) * link->src_buf-> linesize[i];
351                 dst[i] = link->cur_buf->data[i] +
352                     (y >> (i==1 || i==2 ? vsub : 0)) * link->cur_buf->linesize[i];
353             } else
354                 src[i] = dst[i] = NULL;
355         }
356
357         for (i = 0; i < 4; i++) {
358             int planew =
359                 av_image_get_linesize(link->format, link->cur_buf->video->w, i);
360
361             if (!src[i]) continue;
362
363             for (j = 0; j < h >> (i==1 || i==2 ? vsub : 0); j++) {
364                 memcpy(dst[i], src[i], planew);
365                 src[i] += link->src_buf->linesize[i];
366                 dst[i] += link->cur_buf->linesize[i];
367             }
368         }
369     }
370
371     if (!(draw_slice = link->dstpad->draw_slice))
372         draw_slice = default_draw_slice;
373     ret = draw_slice(link, y, h, slice_dir);
374     if (ret < 0)
375         clear_link(link);
376     return ret;
377 }
378
379 int avfilter_default_end_frame(AVFilterLink *inlink)
380 {
381     return default_end_frame(inlink);
382 }
383