100L fix get_video_buffer in pad filter, get_video_buffer will store wrong values...
[ffmpeg.git] / libavfilter / vf_pad.c
1 /*
2  * copyright (c) 2008 vmrsss
3  * copyright (c) 2009 Stefano Sabatini
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * video padding filter and color source
25  */
26
27 #include "avfilter.h"
28 #include "parseutils.h"
29 #include "libavutil/pixdesc.h"
30 #include "libavutil/colorspace.h"
31 #include "libavcore/imgutils.h"
32 #include "libavcore/parseutils.h"
33
34 enum { RED = 0, GREEN, BLUE, ALPHA };
35
36 static int fill_line_with_color(uint8_t *line[4], int line_step[4], int w, uint8_t color[4],
37                                 enum PixelFormat pix_fmt, uint8_t rgba_color[4], int *is_packed_rgba)
38 {
39     uint8_t rgba_map[4] = {0};
40     int i;
41     const AVPixFmtDescriptor *pix_desc = &av_pix_fmt_descriptors[pix_fmt];
42     int hsub = pix_desc->log2_chroma_w;
43
44     *is_packed_rgba = 1;
45     switch (pix_fmt) {
46     case PIX_FMT_ARGB:  rgba_map[ALPHA] = 0; rgba_map[RED  ] = 1; rgba_map[GREEN] = 2; rgba_map[BLUE ] = 3; break;
47     case PIX_FMT_ABGR:  rgba_map[ALPHA] = 0; rgba_map[BLUE ] = 1; rgba_map[GREEN] = 2; rgba_map[RED  ] = 3; break;
48     case PIX_FMT_RGBA:
49     case PIX_FMT_RGB24: rgba_map[RED  ] = 0; rgba_map[GREEN] = 1; rgba_map[BLUE ] = 2; rgba_map[ALPHA] = 3; break;
50     case PIX_FMT_BGRA:
51     case PIX_FMT_BGR24: rgba_map[BLUE ] = 0; rgba_map[GREEN] = 1; rgba_map[RED  ] = 2; rgba_map[ALPHA] = 3; break;
52     default:
53         *is_packed_rgba = 0;
54     }
55
56     if (*is_packed_rgba) {
57         line_step[0] = (av_get_bits_per_pixel(pix_desc))>>3;
58         for (i = 0; i < 4; i++)
59             color[rgba_map[i]] = rgba_color[i];
60
61         line[0] = av_malloc(w * line_step[0]);
62         for (i = 0; i < w; i++)
63             memcpy(line[0] + i * line_step[0], color, line_step[0]);
64     } else {
65         int plane;
66
67         color[RED  ] = RGB_TO_Y_CCIR(rgba_color[0], rgba_color[1], rgba_color[2]);
68         color[GREEN] = RGB_TO_U_CCIR(rgba_color[0], rgba_color[1], rgba_color[2], 0);
69         color[BLUE ] = RGB_TO_V_CCIR(rgba_color[0], rgba_color[1], rgba_color[2], 0);
70         color[ALPHA] = rgba_color[3];
71
72         for (plane = 0; plane < 4; plane++) {
73             int line_size;
74             int hsub1 = (plane == 1 || plane == 2) ? hsub : 0;
75
76             line_step[plane] = 1;
77             line_size = (w >> hsub1) * line_step[plane];
78             line[plane] = av_malloc(line_size);
79             memset(line[plane], color[plane], line_size);
80         }
81     }
82
83     return 0;
84 }
85
86 static void draw_rectangle(AVFilterBufferRef *outpic, uint8_t *line[4], int line_step[4],
87                            int hsub, int vsub, int x, int y, int w, int h)
88 {
89     int i, plane;
90     uint8_t *p;
91
92     for (plane = 0; plane < 4 && outpic->data[plane]; plane++) {
93         int hsub1 = plane == 1 || plane == 2 ? hsub : 0;
94         int vsub1 = plane == 1 || plane == 2 ? vsub : 0;
95
96         p = outpic->data[plane] + (y >> vsub1) * outpic->linesize[plane];
97         for (i = 0; i < (h >> vsub1); i++) {
98             memcpy(p + (x >> hsub1) * line_step[plane], line[plane], (w >> hsub1) * line_step[plane]);
99             p += outpic->linesize[plane];
100         }
101     }
102 }
103
104 static int query_formats(AVFilterContext *ctx)
105 {
106     static const enum PixelFormat pix_fmts[] = {
107         PIX_FMT_ARGB,         PIX_FMT_RGBA,
108         PIX_FMT_ABGR,         PIX_FMT_BGRA,
109         PIX_FMT_RGB24,        PIX_FMT_BGR24,
110
111         PIX_FMT_YUV444P,      PIX_FMT_YUV422P,
112         PIX_FMT_YUV420P,      PIX_FMT_YUV411P,
113         PIX_FMT_YUV410P,      PIX_FMT_YUV440P,
114         PIX_FMT_YUVJ444P,     PIX_FMT_YUVJ422P,
115         PIX_FMT_YUVJ420P,     PIX_FMT_YUVJ440P,
116         PIX_FMT_YUVA420P,
117
118         PIX_FMT_NONE
119     };
120
121     avfilter_set_common_formats(ctx, avfilter_make_format_list(pix_fmts));
122     return 0;
123 }
124
125 #if CONFIG_PAD_FILTER
126
127 typedef struct {
128     int w, h;               ///< output dimensions, a value of 0 will result in the input size
129     int x, y;               ///< offsets of the input area with respect to the padded area
130     int in_w, in_h;         ///< width and height for the padded input video, which has to be aligned to the chroma values in order to avoid chroma issues
131
132     uint8_t color[4];       ///< color expressed either in YUVA or RGBA colorspace for the padding area
133     uint8_t *line[4];
134     int      line_step[4];
135     int hsub, vsub;         ///< chroma subsampling values
136 } PadContext;
137
138 static av_cold int init(AVFilterContext *ctx, const char *args, void *opaque)
139 {
140     PadContext *pad = ctx->priv;
141     char color_string[128] = "black";
142
143     if (args)
144         sscanf(args, "%d:%d:%d:%d:%s", &pad->w, &pad->h, &pad->x, &pad->y, color_string);
145
146     if (av_parse_color(pad->color, color_string, -1, ctx) < 0)
147         return AVERROR(EINVAL);
148
149     /* sanity check params */
150     if (pad->w < 0 || pad->h < 0) {
151         av_log(ctx, AV_LOG_ERROR, "Negative size values are not acceptable.\n");
152         return AVERROR(EINVAL);
153     }
154
155     return 0;
156 }
157
158 static av_cold void uninit(AVFilterContext *ctx)
159 {
160     PadContext *pad = ctx->priv;
161     int i;
162
163     for (i = 0; i < 4; i++) {
164         av_freep(&pad->line[i]);
165         pad->line_step[i] = 0;
166     }
167 }
168
169 static int config_input(AVFilterLink *inlink)
170 {
171     AVFilterContext *ctx = inlink->dst;
172     PadContext *pad = ctx->priv;
173     const AVPixFmtDescriptor *pix_desc = &av_pix_fmt_descriptors[inlink->format];
174     uint8_t rgba_color[4];
175     int is_packed_rgba;
176
177     pad->hsub = pix_desc->log2_chroma_w;
178     pad->vsub = pix_desc->log2_chroma_h;
179
180     if (!pad->w)
181         pad->w = inlink->w;
182     if (!pad->h)
183         pad->h = inlink->h;
184
185     pad->w &= ~((1 << pad->hsub) - 1);
186     pad->h &= ~((1 << pad->vsub) - 1);
187     pad->x &= ~((1 << pad->hsub) - 1);
188     pad->y &= ~((1 << pad->vsub) - 1);
189
190     pad->in_w = inlink->w & ~((1 << pad->hsub) - 1);
191     pad->in_h = inlink->h & ~((1 << pad->vsub) - 1);
192
193     memcpy(rgba_color, pad->color, sizeof(rgba_color));
194     fill_line_with_color(pad->line, pad->line_step, pad->w, pad->color,
195                          inlink->format, rgba_color, &is_packed_rgba);
196
197     av_log(ctx, AV_LOG_INFO, "w:%d h:%d x:%d y:%d color:0x%02X%02X%02X%02X[%s]\n",
198            pad->w, pad->h, pad->x, pad->y,
199            pad->color[0], pad->color[1], pad->color[2], pad->color[3],
200            is_packed_rgba ? "rgba" : "yuva");
201
202     if (pad->x <  0 || pad->y <  0                      ||
203         pad->w <= 0 || pad->h <= 0                      ||
204         (unsigned)pad->x + (unsigned)inlink->w > pad->w ||
205         (unsigned)pad->y + (unsigned)inlink->h > pad->h) {
206         av_log(ctx, AV_LOG_ERROR,
207                "Input area %d:%d:%d:%d not within the padded area 0:0:%d:%d or zero-sized\n",
208                pad->x, pad->y, pad->x + inlink->w, pad->y + inlink->h, pad->w, pad->h);
209         return AVERROR(EINVAL);
210     }
211
212     return 0;
213 }
214
215 static int config_output(AVFilterLink *outlink)
216 {
217     PadContext *pad = outlink->src->priv;
218
219     outlink->w = pad->w;
220     outlink->h = pad->h;
221     return 0;
222 }
223
224 static AVFilterBufferRef *get_video_buffer(AVFilterLink *inlink, int perms, int w, int h)
225 {
226     PadContext *pad = inlink->dst->priv;
227
228     AVFilterBufferRef *picref = avfilter_get_video_buffer(inlink->dst->outputs[0], perms,
229                                                        w + (pad->w - pad->in_w),
230                                                        h + (pad->h - pad->in_h));
231     int plane;
232
233     picref->video->w = w;
234     picref->video->h = h;
235
236     for (plane = 0; plane < 4 && picref->data[plane]; plane++) {
237         int hsub = (plane == 1 || plane == 2) ? pad->hsub : 0;
238         int vsub = (plane == 1 || plane == 2) ? pad->vsub : 0;
239
240         picref->data[plane] += (pad->x >> hsub) * pad->line_step[plane] +
241             (pad->y >> vsub) * picref->linesize[plane];
242     }
243
244     return picref;
245 }
246
247 static void start_frame(AVFilterLink *inlink, AVFilterBufferRef *inpicref)
248 {
249     PadContext *pad = inlink->dst->priv;
250     AVFilterBufferRef *outpicref = avfilter_ref_buffer(inpicref, ~0);
251     int plane;
252
253     inlink->dst->outputs[0]->out_buf = outpicref;
254
255     for (plane = 0; plane < 4 && outpicref->data[plane]; plane++) {
256         int hsub = (plane == 1 || plane == 2) ? pad->hsub : 0;
257         int vsub = (plane == 1 || plane == 2) ? pad->vsub : 0;
258
259         outpicref->data[plane] -= (pad->x >> hsub) * pad->line_step[plane] +
260             (pad->y >> vsub) * outpicref->linesize[plane];
261     }
262
263     avfilter_start_frame(inlink->dst->outputs[0], outpicref);
264 }
265
266 static void end_frame(AVFilterLink *link)
267 {
268     avfilter_end_frame(link->dst->outputs[0]);
269     avfilter_unref_buffer(link->cur_buf);
270 }
271
272 static void draw_send_bar_slice(AVFilterLink *link, int y, int h, int slice_dir, int before_slice)
273 {
274     PadContext *pad = link->dst->priv;
275     int bar_y, bar_h = 0;
276
277     if        (slice_dir * before_slice ==  1 && y == pad->y) {
278         /* top bar */
279         bar_y = 0;
280         bar_h = pad->y;
281     } else if (slice_dir * before_slice == -1 && (y + h) == (pad->y + pad->in_h)) {
282         /* bottom bar */
283         bar_y = pad->y + pad->in_h;
284         bar_h = pad->h - pad->in_h - pad->y;
285     }
286
287     if (bar_h) {
288         draw_rectangle(link->dst->outputs[0]->out_buf,
289                        pad->line, pad->line_step, pad->hsub, pad->vsub,
290                        0, bar_y, pad->w, bar_h);
291         avfilter_draw_slice(link->dst->outputs[0], bar_y, bar_h, slice_dir);
292     }
293 }
294
295 static void draw_slice(AVFilterLink *link, int y, int h, int slice_dir)
296 {
297     PadContext *pad = link->dst->priv;
298     AVFilterBufferRef *outpic = link->dst->outputs[0]->out_buf;
299
300     y += pad->y;
301
302     y &= ~((1 << pad->vsub) - 1);
303     h &= ~((1 << pad->vsub) - 1);
304
305     if (!h)
306         return;
307     draw_send_bar_slice(link, y, h, slice_dir, 1);
308
309     /* left border */
310     draw_rectangle(outpic, pad->line, pad->line_step, pad->hsub, pad->vsub,
311                    0, y, pad->x, h);
312     /* right border */
313     draw_rectangle(outpic, pad->line, pad->line_step, pad->hsub, pad->vsub,
314                    pad->x + pad->in_w, y, pad->w - pad->x - pad->in_w, h);
315     avfilter_draw_slice(link->dst->outputs[0], y, h, slice_dir);
316
317     draw_send_bar_slice(link, y, h, slice_dir, -1);
318 }
319
320 AVFilter avfilter_vf_pad = {
321     .name          = "pad",
322     .description   = NULL_IF_CONFIG_SMALL("Pad input image to width:height[:x:y[:color]] (default x and y: 0, default color: black)."),
323
324     .priv_size     = sizeof(PadContext),
325     .init          = init,
326     .uninit        = uninit,
327     .query_formats = query_formats,
328
329     .inputs    = (AVFilterPad[]) {{ .name             = "default",
330                                     .type             = AVMEDIA_TYPE_VIDEO,
331                                     .config_props     = config_input,
332                                     .get_video_buffer = get_video_buffer,
333                                     .start_frame      = start_frame,
334                                     .draw_slice       = draw_slice,
335                                     .end_frame        = end_frame, },
336                                   { .name = NULL}},
337
338     .outputs   = (AVFilterPad[]) {{ .name             = "default",
339                                     .type             = AVMEDIA_TYPE_VIDEO,
340                                     .config_props     = config_output, },
341                                   { .name = NULL}},
342 };
343
344 #endif /* CONFIG_PAD_FILTER */
345
346 #if CONFIG_COLOR_FILTER
347
348 typedef struct {
349     int w, h;
350     uint8_t color[4];
351     AVRational time_base;
352     uint8_t *line[4];
353     int      line_step[4];
354     int hsub, vsub;         ///< chroma subsampling values
355     uint64_t pts;
356 } ColorContext;
357
358 static av_cold int color_init(AVFilterContext *ctx, const char *args, void *opaque)
359 {
360     ColorContext *color = ctx->priv;
361     char color_string[128] = "black";
362     char frame_size  [128] = "320x240";
363     char frame_rate  [128] = "25";
364     AVRational frame_rate_q;
365     int ret;
366
367     if (args)
368         sscanf(args, "%127[^:]:%127[^:]:%127s", color_string, frame_size, frame_rate);
369
370     if (av_parse_video_size(&color->w, &color->h, frame_size) < 0) {
371         av_log(ctx, AV_LOG_ERROR, "Invalid frame size: %s\n", frame_size);
372         return AVERROR(EINVAL);
373     }
374
375     if (av_parse_video_rate(&frame_rate_q, frame_rate) < 0 ||
376         frame_rate_q.den <= 0 || frame_rate_q.num <= 0) {
377         av_log(ctx, AV_LOG_ERROR, "Invalid frame rate: %s\n", frame_rate);
378         return AVERROR(EINVAL);
379     }
380     color->time_base.num = frame_rate_q.den;
381     color->time_base.den = frame_rate_q.num;
382
383     if ((ret = av_parse_color(color->color, color_string, -1, ctx)) < 0)
384         return ret;
385
386     return 0;
387 }
388
389 static av_cold void color_uninit(AVFilterContext *ctx)
390 {
391     ColorContext *color = ctx->priv;
392     int i;
393
394     for (i = 0; i < 4; i++) {
395         av_freep(&color->line[i]);
396         color->line_step[i] = 0;
397     }
398 }
399
400 static int color_config_props(AVFilterLink *inlink)
401 {
402     AVFilterContext *ctx = inlink->src;
403     ColorContext *color = ctx->priv;
404     uint8_t rgba_color[4];
405     int is_packed_rgba;
406     const AVPixFmtDescriptor *pix_desc = &av_pix_fmt_descriptors[inlink->format];
407
408     color->hsub = pix_desc->log2_chroma_w;
409     color->vsub = pix_desc->log2_chroma_h;
410
411     color->w &= ~((1 << color->hsub) - 1);
412     color->h &= ~((1 << color->vsub) - 1);
413     if (av_image_check_size(color->w, color->h, 0, ctx) < 0)
414         return AVERROR(EINVAL);
415
416     memcpy(rgba_color, color->color, sizeof(rgba_color));
417     fill_line_with_color(color->line, color->line_step, color->w, color->color,
418                          inlink->format, rgba_color, &is_packed_rgba);
419
420     av_log(ctx, AV_LOG_INFO, "w:%d h:%d r:%d/%d color:0x%02x%02x%02x%02x[%s]\n",
421            color->w, color->h, color->time_base.den, color->time_base.num,
422            color->color[0], color->color[1], color->color[2], color->color[3],
423            is_packed_rgba ? "rgba" : "yuva");
424     inlink->w = color->w;
425     inlink->h = color->h;
426
427     return 0;
428 }
429
430 static int color_request_frame(AVFilterLink *link)
431 {
432     ColorContext *color = link->src->priv;
433     AVFilterBufferRef *picref = avfilter_get_video_buffer(link, AV_PERM_WRITE, color->w, color->h);
434     picref->video->pixel_aspect = (AVRational) {1, 1};
435     picref->pts                 = av_rescale_q(color->pts++, color->time_base, AV_TIME_BASE_Q);
436     picref->pos                 = 0;
437
438     avfilter_start_frame(link, avfilter_ref_buffer(picref, ~0));
439     draw_rectangle(picref,
440                    color->line, color->line_step, color->hsub, color->vsub,
441                    0, 0, color->w, color->h);
442     avfilter_draw_slice(link, 0, color->h, 1);
443     avfilter_end_frame(link);
444     avfilter_unref_buffer(picref);
445
446     return 0;
447 }
448
449 AVFilter avfilter_vsrc_color = {
450     .name        = "color",
451     .description = NULL_IF_CONFIG_SMALL("Provide an uniformly colored input, syntax is: [color[:size[:rate]]]"),
452
453     .priv_size = sizeof(ColorContext),
454     .init      = color_init,
455     .uninit    = color_uninit,
456
457     .query_formats = query_formats,
458
459     .inputs    = (AVFilterPad[]) {{ .name = NULL}},
460
461     .outputs   = (AVFilterPad[]) {{ .name            = "default",
462                                     .type            = AVMEDIA_TYPE_VIDEO,
463                                     .request_frame   = color_request_frame,
464                                     .config_props    = color_config_props },
465                                   { .name = NULL}},
466 };
467
468 #endif /* CONFIG_COLOR_FILTER */