a4d25c245d4340a17ef7985026a36c11a430753c
[ffmpeg.git] / libavfilter / vf_drawtext.c
1 /*
2  * Copyright (c) 2011 Stefano Sabatini
3  * Copyright (c) 2010 S.N. Hemanth Meenakshisundaram
4  * Copyright (c) 2003 Gustavo Sverzut Barbieri <gsbarbieri@yahoo.com.br>
5  *
6  * This file is part of Libav.
7  *
8  * Libav is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * Libav is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with Libav; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 /**
24  * @file
25  * drawtext filter, based on the original vhook/drawtext.c
26  * filter by Gustavo Sverzut Barbieri
27  */
28
29 #include "config.h"
30
31 #include <sys/types.h>
32 #include <sys/time.h>
33 #include <sys/stat.h>
34 #include <time.h>
35 #include <unistd.h>
36
37 #if CONFIG_LIBFONTCONFIG
38 #include <fontconfig/fontconfig.h>
39 #endif
40
41 #include "libavutil/colorspace.h"
42 #include "libavutil/common.h"
43 #include "libavutil/file.h"
44 #include "libavutil/eval.h"
45 #include "libavutil/opt.h"
46 #include "libavutil/mathematics.h"
47 #include "libavutil/random_seed.h"
48 #include "libavutil/parseutils.h"
49 #include "libavutil/pixdesc.h"
50 #include "libavutil/time_internal.h"
51 #include "libavutil/tree.h"
52 #include "libavutil/lfg.h"
53 #include "avfilter.h"
54 #include "drawutils.h"
55 #include "formats.h"
56 #include "internal.h"
57 #include "video.h"
58
59 #include <ft2build.h>
60 #include FT_FREETYPE_H
61 #include FT_GLYPH_H
62
63 static const char *const var_names[] = {
64     "E",
65     "PHI",
66     "PI",
67     "main_w",    "W", ///< width  of the main    video
68     "main_h",    "H", ///< height of the main    video
69     "text_w",    "w", ///< width  of the overlay text
70     "text_h",    "h", ///< height of the overlay text
71     "x",
72     "y",
73     "n",              ///< number of processed frames
74     "t",              ///< timestamp expressed in seconds
75     NULL
76 };
77
78 static const char *const fun2_names[] = {
79     "rand"
80 };
81
82 static double drand(void *opaque, double min, double max)
83 {
84     return min + (max-min) / UINT_MAX * av_lfg_get(opaque);
85 }
86
87 typedef double (*eval_func2)(void *, double a, double b);
88
89 static const eval_func2 fun2[] = {
90     drand,
91     NULL
92 };
93
94 enum var_name {
95     VAR_E,
96     VAR_PHI,
97     VAR_PI,
98     VAR_MAIN_W, VAR_MW,
99     VAR_MAIN_H, VAR_MH,
100     VAR_TEXT_W, VAR_TW,
101     VAR_TEXT_H, VAR_TH,
102     VAR_X,
103     VAR_Y,
104     VAR_N,
105     VAR_T,
106     VAR_VARS_NB
107 };
108
109 typedef struct DrawTextContext {
110     const AVClass *class;
111 #if CONFIG_LIBFONTCONFIG
112     uint8_t *font;              ///< font to be used
113 #endif
114     uint8_t *fontfile;              ///< font to be used
115     uint8_t *text;                  ///< text to be drawn
116     uint8_t *expanded_text;         ///< used to contain the strftime()-expanded text
117     size_t   expanded_text_size;    ///< size in bytes of the expanded_text buffer
118     int ft_load_flags;              ///< flags used for loading fonts, see FT_LOAD_*
119     FT_Vector *positions;           ///< positions for each element in the text
120     size_t nb_positions;            ///< number of elements of positions array
121     char *textfile;                 ///< file with text to be drawn
122     int x, y;                       ///< position to start drawing text
123     int w, h;                       ///< dimension of the text block
124     int shadowx, shadowy;
125     unsigned int fontsize;          ///< font size to use
126     char *fontcolor_string;         ///< font color as string
127     char *boxcolor_string;          ///< box color as string
128     char *shadowcolor_string;       ///< shadow color as string
129     uint8_t fontcolor[4];           ///< foreground color
130     uint8_t boxcolor[4];            ///< background color
131     uint8_t shadowcolor[4];         ///< shadow color
132     uint8_t fontcolor_rgba[4];      ///< foreground color in RGBA
133     uint8_t boxcolor_rgba[4];       ///< background color in RGBA
134     uint8_t shadowcolor_rgba[4];    ///< shadow color in RGBA
135
136     short int draw_box;             ///< draw box around text - true or false
137     int use_kerning;                ///< font kerning is used - true/false
138     int tabsize;                    ///< tab size
139     int fix_bounds;                 ///< do we let it go out of frame bounds - t/f
140
141     FT_Library library;             ///< freetype font library handle
142     FT_Face face;                   ///< freetype font face handle
143     struct AVTreeNode *glyphs;      ///< rendered glyphs, stored using the UTF-32 char code
144     int hsub, vsub;                 ///< chroma subsampling values
145     int is_packed_rgb;
146     int pixel_step[4];              ///< distance in bytes between the component of each pixel
147     uint8_t rgba_map[4];            ///< map RGBA offsets to the positions in the packed RGBA format
148     uint8_t *box_line[4];           ///< line used for filling the box background
149     char   *x_expr, *y_expr;
150     AVExpr *x_pexpr, *y_pexpr;      ///< parsed expressions for x and y
151     double var_values[VAR_VARS_NB];
152     char   *d_expr;
153     AVExpr *d_pexpr;
154     int draw;                       ///< set to zero to prevent drawing
155     char   *a_expr;
156     AVExpr *a_pexpr;
157     int alpha;
158     AVLFG  prng;                    ///< random
159 } DrawTextContext;
160
161 #define OFFSET(x) offsetof(DrawTextContext, x)
162 #define FLAGS AV_OPT_FLAG_VIDEO_PARAM
163
164 static const AVOption drawtext_options[]= {
165 #if CONFIG_LIBFONTCONFIG
166     { "font",        "Font name",            OFFSET(font),               AV_OPT_TYPE_STRING, { .str = "Sans" },           .flags = FLAGS },
167 #endif
168     { "fontfile",    NULL,                   OFFSET(fontfile),           AV_OPT_TYPE_STRING,                              .flags = FLAGS },
169     { "text",        NULL,                   OFFSET(text),               AV_OPT_TYPE_STRING,                              .flags = FLAGS },
170     { "textfile",    NULL,                   OFFSET(textfile),           AV_OPT_TYPE_STRING,                              .flags = FLAGS },
171     { "fontcolor",   NULL,                   OFFSET(fontcolor_string),   AV_OPT_TYPE_STRING, { .str = "black" },          .flags = FLAGS },
172     { "boxcolor",    NULL,                   OFFSET(boxcolor_string),    AV_OPT_TYPE_STRING, { .str = "white" },          .flags = FLAGS },
173     { "shadowcolor", NULL,                   OFFSET(shadowcolor_string), AV_OPT_TYPE_STRING, { .str = "black" },          .flags = FLAGS },
174     { "box",         NULL,                   OFFSET(draw_box),           AV_OPT_TYPE_INT,    { .i64 = 0       }, 0,       1,       FLAGS },
175     { "fontsize",    NULL,                   OFFSET(fontsize),           AV_OPT_TYPE_INT,    { .i64 = 16      }, 1,       1024,    FLAGS },
176     { "x",           NULL,                   OFFSET(x_expr),             AV_OPT_TYPE_STRING, { .str = "0"     },          .flags = FLAGS },
177     { "y",           NULL,                   OFFSET(y_expr),             AV_OPT_TYPE_STRING, { .str = "0"     },          .flags = FLAGS },
178     { "shadowx",     NULL,                   OFFSET(shadowx),            AV_OPT_TYPE_INT,    { .i64 = 0       }, INT_MIN, INT_MAX, FLAGS },
179     { "shadowy",     NULL,                   OFFSET(shadowy),            AV_OPT_TYPE_INT,    { .i64 = 0       }, INT_MIN, INT_MAX, FLAGS },
180     { "tabsize",     NULL,                   OFFSET(tabsize),            AV_OPT_TYPE_INT,    { .i64 = 4       }, 0,       INT_MAX, FLAGS },
181     { "draw",        "if false do not draw", OFFSET(d_expr),             AV_OPT_TYPE_STRING, { .str = "1"     },          .flags = FLAGS },
182     { "alpha",       "apply alpha while rendering", OFFSET(a_expr),      AV_OPT_TYPE_STRING, { .str = "1"     },          .flags = FLAGS },
183     { "fix_bounds",  "if true, check and fix text coords to avoid clipping",
184                                             OFFSET(fix_bounds),          AV_OPT_TYPE_INT,    { .i64 = 1       }, 0,       1,       FLAGS },
185
186     /* FT_LOAD_* flags */
187     { "ft_load_flags", "set font loading flags for libfreetype", OFFSET(ft_load_flags), AV_OPT_TYPE_FLAGS, { .i64 = FT_LOAD_DEFAULT | FT_LOAD_RENDER}, 0, INT_MAX, FLAGS, "ft_load_flags" },
188         { "default",                     NULL, 0, AV_OPT_TYPE_CONST, { .i64 = FT_LOAD_DEFAULT },                     .flags = FLAGS, .unit = "ft_load_flags" },
189         { "no_scale",                    NULL, 0, AV_OPT_TYPE_CONST, { .i64 = FT_LOAD_NO_SCALE },                    .flags = FLAGS, .unit = "ft_load_flags" },
190         { "no_hinting",                  NULL, 0, AV_OPT_TYPE_CONST, { .i64 = FT_LOAD_NO_HINTING },                  .flags = FLAGS, .unit = "ft_load_flags" },
191         { "render",                      NULL, 0, AV_OPT_TYPE_CONST, { .i64 = FT_LOAD_RENDER },                      .flags = FLAGS, .unit = "ft_load_flags" },
192         { "no_bitmap",                   NULL, 0, AV_OPT_TYPE_CONST, { .i64 = FT_LOAD_NO_BITMAP },                   .flags = FLAGS, .unit = "ft_load_flags" },
193         { "vertical_layout",             NULL, 0, AV_OPT_TYPE_CONST, { .i64 = FT_LOAD_VERTICAL_LAYOUT },             .flags = FLAGS, .unit = "ft_load_flags" },
194         { "force_autohint",              NULL, 0, AV_OPT_TYPE_CONST, { .i64 = FT_LOAD_FORCE_AUTOHINT },              .flags = FLAGS, .unit = "ft_load_flags" },
195         { "crop_bitmap",                 NULL, 0, AV_OPT_TYPE_CONST, { .i64 = FT_LOAD_CROP_BITMAP },                 .flags = FLAGS, .unit = "ft_load_flags" },
196         { "pedantic",                    NULL, 0, AV_OPT_TYPE_CONST, { .i64 = FT_LOAD_PEDANTIC },                    .flags = FLAGS, .unit = "ft_load_flags" },
197         { "ignore_global_advance_width", NULL, 0, AV_OPT_TYPE_CONST, { .i64 = FT_LOAD_IGNORE_GLOBAL_ADVANCE_WIDTH }, .flags = FLAGS, .unit = "ft_load_flags" },
198         { "no_recurse",                  NULL, 0, AV_OPT_TYPE_CONST, { .i64 = FT_LOAD_NO_RECURSE },                  .flags = FLAGS, .unit = "ft_load_flags" },
199         { "ignore_transform",            NULL, 0, AV_OPT_TYPE_CONST, { .i64 = FT_LOAD_IGNORE_TRANSFORM },            .flags = FLAGS, .unit = "ft_load_flags" },
200         { "monochrome",                  NULL, 0, AV_OPT_TYPE_CONST, { .i64 = FT_LOAD_MONOCHROME },                  .flags = FLAGS, .unit = "ft_load_flags" },
201         { "linear_design",               NULL, 0, AV_OPT_TYPE_CONST, { .i64 = FT_LOAD_LINEAR_DESIGN },               .flags = FLAGS, .unit = "ft_load_flags" },
202         { "no_autohint",                 NULL, 0, AV_OPT_TYPE_CONST, { .i64 = FT_LOAD_NO_AUTOHINT },                 .flags = FLAGS, .unit = "ft_load_flags" },
203     { NULL},
204 };
205
206 static const char *drawtext_get_name(void *ctx)
207 {
208     return "drawtext";
209 }
210
211 static const AVClass drawtext_class = {
212     "DrawTextContext",
213     drawtext_get_name,
214     drawtext_options
215 };
216
217 #undef __FTERRORS_H__
218 #define FT_ERROR_START_LIST {
219 #define FT_ERRORDEF(e, v, s) { (e), (s) },
220 #define FT_ERROR_END_LIST { 0, NULL } };
221
222 struct ft_error
223 {
224     int err;
225     const char *err_msg;
226 } static ft_errors[] =
227 #include FT_ERRORS_H
228
229 #define FT_ERRMSG(e) ft_errors[e].err_msg
230
231 typedef struct Glyph {
232     FT_Glyph *glyph;
233     uint32_t code;
234     FT_Bitmap bitmap; ///< array holding bitmaps of font
235     FT_BBox bbox;
236     int advance;
237     int bitmap_left;
238     int bitmap_top;
239 } Glyph;
240
241 static int glyph_cmp(void *key, const void *b)
242 {
243     const Glyph *a = key, *bb = b;
244     int64_t diff = (int64_t)a->code - (int64_t)bb->code;
245     return diff > 0 ? 1 : diff < 0 ? -1 : 0;
246 }
247
248 /**
249  * Load glyphs corresponding to the UTF-32 codepoint code.
250  */
251 static int load_glyph(AVFilterContext *ctx, Glyph **glyph_ptr, uint32_t code)
252 {
253     DrawTextContext *s = ctx->priv;
254     Glyph *glyph;
255     struct AVTreeNode *node = NULL;
256     int ret;
257
258     /* load glyph into s->face->glyph */
259     if (FT_Load_Char(s->face, code, s->ft_load_flags))
260         return AVERROR(EINVAL);
261
262     /* save glyph */
263     if (!(glyph = av_mallocz(sizeof(*glyph))) ||
264         !(glyph->glyph = av_mallocz(sizeof(*glyph->glyph)))) {
265         ret = AVERROR(ENOMEM);
266         goto error;
267     }
268     glyph->code  = code;
269
270     if (FT_Get_Glyph(s->face->glyph, glyph->glyph)) {
271         ret = AVERROR(EINVAL);
272         goto error;
273     }
274
275     glyph->bitmap      = s->face->glyph->bitmap;
276     glyph->bitmap_left = s->face->glyph->bitmap_left;
277     glyph->bitmap_top  = s->face->glyph->bitmap_top;
278     glyph->advance     = s->face->glyph->advance.x >> 6;
279
280     /* measure text height to calculate text_height (or the maximum text height) */
281     FT_Glyph_Get_CBox(*glyph->glyph, ft_glyph_bbox_pixels, &glyph->bbox);
282
283     /* cache the newly created glyph */
284     if (!(node = av_tree_node_alloc())) {
285         ret = AVERROR(ENOMEM);
286         goto error;
287     }
288     av_tree_insert(&s->glyphs, glyph, glyph_cmp, &node);
289
290     if (glyph_ptr)
291         *glyph_ptr = glyph;
292     return 0;
293
294 error:
295     if (glyph)
296         av_freep(&glyph->glyph);
297     av_freep(&glyph);
298     av_freep(&node);
299     return ret;
300 }
301
302 static int parse_font(AVFilterContext *ctx)
303 {
304     DrawTextContext *s = ctx->priv;
305 #if !CONFIG_LIBFONTCONFIG
306     if (!s->fontfile) {
307         av_log(ctx, AV_LOG_ERROR, "No font filename provided\n");
308         return AVERROR(EINVAL);
309     }
310
311     return 0;
312 #else
313     FcPattern *pat, *best;
314     FcResult result = FcResultMatch;
315
316     FcBool fc_bool;
317     FcChar8* fc_string;
318     int err = AVERROR(ENOENT);
319
320     if (s->fontfile)
321         return 0;
322
323     if (!FcInit())
324         return AVERROR_UNKNOWN;
325
326     if (!(pat = FcPatternCreate()))
327         return AVERROR(ENOMEM);
328
329     FcPatternAddString(pat, FC_FAMILY, s->font);
330     FcPatternAddBool(pat, FC_OUTLINE, FcTrue);
331     FcPatternAddDouble(pat, FC_SIZE, (double)s->fontsize);
332
333     FcDefaultSubstitute(pat);
334
335     if (!FcConfigSubstitute(NULL, pat, FcMatchPattern)) {
336         FcPatternDestroy(pat);
337         return AVERROR(ENOMEM);
338     }
339
340     best = FcFontMatch(NULL, pat, &result);
341     FcPatternDestroy(pat);
342
343     if (!best || result == FcResultNoMatch) {
344          av_log(ctx, AV_LOG_ERROR,
345                 "Cannot find a valid font for the family %s\n",
346                 s->font);
347         goto fail;
348     }
349
350     if (FcPatternGetBool(best, FC_OUTLINE, 0, &fc_bool) != FcResultMatch ||
351         !fc_bool) {
352         av_log(ctx, AV_LOG_ERROR, "Outline not available for %s\n",
353                s->font);
354         goto fail;
355     }
356
357     if (FcPatternGetString(best, FC_FAMILY, 0, &fc_string) != FcResultMatch) {
358         av_log(ctx, AV_LOG_ERROR, "No matches for %s\n",
359                s->font);
360         goto fail;
361     }
362
363     if (FcPatternGetString(best, FC_FILE, 0, &fc_string) != FcResultMatch) {
364         av_log(ctx, AV_LOG_ERROR, "No file path for %s\n",
365                s->font);
366         goto fail;
367     }
368
369     s->fontfile = av_strdup(fc_string);
370     if (!s->fontfile)
371         err = AVERROR(ENOMEM);
372     else
373         err = 0;
374
375 fail:
376     FcPatternDestroy(best);
377     return err;
378 #endif
379 }
380
381 static av_cold int init(AVFilterContext *ctx)
382 {
383     int err;
384     DrawTextContext *s = ctx->priv;
385     Glyph *glyph;
386
387     if ((err = parse_font(ctx)) < 0)
388         return err;
389
390     if (s->textfile) {
391         uint8_t *textbuf;
392         size_t textbuf_size;
393
394         if (s->text) {
395             av_log(ctx, AV_LOG_ERROR,
396                    "Both text and text file provided. Please provide only one\n");
397             return AVERROR(EINVAL);
398         }
399         if ((err = av_file_map(s->textfile, &textbuf, &textbuf_size, 0, ctx)) < 0) {
400             av_log(ctx, AV_LOG_ERROR,
401                    "The text file '%s' could not be read or is empty\n",
402                    s->textfile);
403             return err;
404         }
405
406         if (textbuf_size > SIZE_MAX - 1 ||
407             !(s->text = av_malloc(textbuf_size + 1))) {
408             av_file_unmap(textbuf, textbuf_size);
409             return AVERROR(ENOMEM);
410         }
411         memcpy(s->text, textbuf, textbuf_size);
412         s->text[textbuf_size] = 0;
413         av_file_unmap(textbuf, textbuf_size);
414     }
415
416     if (!s->text) {
417         av_log(ctx, AV_LOG_ERROR,
418                "Either text or a valid file must be provided\n");
419         return AVERROR(EINVAL);
420     }
421
422     if ((err = av_parse_color(s->fontcolor_rgba, s->fontcolor_string, -1, ctx))) {
423         av_log(ctx, AV_LOG_ERROR,
424                "Invalid font color '%s'\n", s->fontcolor_string);
425         return err;
426     }
427
428     if ((err = av_parse_color(s->boxcolor_rgba, s->boxcolor_string, -1, ctx))) {
429         av_log(ctx, AV_LOG_ERROR,
430                "Invalid box color '%s'\n", s->boxcolor_string);
431         return err;
432     }
433
434     if ((err = av_parse_color(s->shadowcolor_rgba, s->shadowcolor_string, -1, ctx))) {
435         av_log(ctx, AV_LOG_ERROR,
436                "Invalid shadow color '%s'\n", s->shadowcolor_string);
437         return err;
438     }
439
440     if ((err = FT_Init_FreeType(&(s->library)))) {
441         av_log(ctx, AV_LOG_ERROR,
442                "Could not load FreeType: %s\n", FT_ERRMSG(err));
443         return AVERROR(EINVAL);
444     }
445
446     /* load the face, and set up the encoding, which is by default UTF-8 */
447     if ((err = FT_New_Face(s->library, s->fontfile, 0, &s->face))) {
448         av_log(ctx, AV_LOG_ERROR, "Could not load fontface from file '%s': %s\n",
449                s->fontfile, FT_ERRMSG(err));
450         return AVERROR(EINVAL);
451     }
452     if ((err = FT_Set_Pixel_Sizes(s->face, 0, s->fontsize))) {
453         av_log(ctx, AV_LOG_ERROR, "Could not set font size to %d pixels: %s\n",
454                s->fontsize, FT_ERRMSG(err));
455         return AVERROR(EINVAL);
456     }
457
458     s->use_kerning = FT_HAS_KERNING(s->face);
459
460     /* load the fallback glyph with code 0 */
461     load_glyph(ctx, NULL, 0);
462
463     /* set the tabsize in pixels */
464     if ((err = load_glyph(ctx, &glyph, ' ') < 0)) {
465         av_log(ctx, AV_LOG_ERROR, "Could not set tabsize.\n");
466         return err;
467     }
468     s->tabsize *= glyph->advance;
469
470     return 0;
471 }
472
473 static int query_formats(AVFilterContext *ctx)
474 {
475     static const enum AVPixelFormat pix_fmts[] = {
476         AV_PIX_FMT_ARGB,    AV_PIX_FMT_RGBA,
477         AV_PIX_FMT_ABGR,    AV_PIX_FMT_BGRA,
478         AV_PIX_FMT_RGB24,   AV_PIX_FMT_BGR24,
479         AV_PIX_FMT_YUV420P, AV_PIX_FMT_YUV444P,
480         AV_PIX_FMT_YUV422P, AV_PIX_FMT_YUV411P,
481         AV_PIX_FMT_YUV410P, AV_PIX_FMT_YUV440P,
482         AV_PIX_FMT_NONE
483     };
484
485     ff_set_common_formats(ctx, ff_make_format_list(pix_fmts));
486     return 0;
487 }
488
489 static int glyph_enu_free(void *opaque, void *elem)
490 {
491     av_free(elem);
492     return 0;
493 }
494
495 static av_cold void uninit(AVFilterContext *ctx)
496 {
497     DrawTextContext *s = ctx->priv;
498     int i;
499
500     av_expr_free(s->x_pexpr);
501     av_expr_free(s->y_pexpr);
502     av_expr_free(s->d_pexpr);
503     s->x_pexpr = s->y_pexpr = s->d_pexpr = NULL;
504     av_freep(&s->expanded_text);
505     av_freep(&s->positions);
506     av_tree_enumerate(s->glyphs, NULL, NULL, glyph_enu_free);
507     av_tree_destroy(s->glyphs);
508     s->glyphs = 0;
509     FT_Done_Face(s->face);
510     FT_Done_FreeType(s->library);
511
512     for (i = 0; i < 4; i++) {
513         av_freep(&s->box_line[i]);
514         s->pixel_step[i] = 0;
515     }
516
517 }
518
519 static inline int is_newline(uint32_t c)
520 {
521     return c == '\n' || c == '\r' || c == '\f' || c == '\v';
522 }
523
524 static int dtext_prepare_text(AVFilterContext *ctx)
525 {
526     DrawTextContext *s = ctx->priv;
527     uint32_t code = 0, prev_code = 0;
528     int x = 0, y = 0, i = 0, ret;
529     int text_height, baseline;
530     char *text = s->text;
531     uint8_t *p;
532     int str_w = 0, len;
533     int y_min = 32000, y_max = -32000;
534     FT_Vector delta;
535     Glyph *glyph = NULL, *prev_glyph = NULL;
536     Glyph dummy = { 0 };
537     int width  = ctx->inputs[0]->w;
538     int height = ctx->inputs[0]->h;
539     time_t now = time(0);
540     struct tm ltime;
541     uint8_t *buf = s->expanded_text;
542     int buf_size = s->expanded_text_size;
543
544     if (!buf)
545         buf_size = 2*strlen(s->text)+1;
546
547     localtime_r(&now, &ltime);
548
549     while ((buf = av_realloc(buf, buf_size))) {
550         *buf = 1;
551         if (strftime(buf, buf_size, s->text, &ltime) != 0 || *buf == 0)
552             break;
553         buf_size *= 2;
554     }
555
556     if (!buf)
557         return AVERROR(ENOMEM);
558     text = s->expanded_text = buf;
559     s->expanded_text_size = buf_size;
560
561     if ((len = strlen(text)) > s->nb_positions) {
562         FT_Vector *p = av_realloc(s->positions,
563                                   len * sizeof(*s->positions));
564         if (!p) {
565             av_freep(s->positions);
566             s->nb_positions = 0;
567             return AVERROR(ENOMEM);
568         } else {
569             s->positions = p;
570             s->nb_positions = len;
571         }
572     }
573
574     /* load and cache glyphs */
575     for (i = 0, p = text; *p; i++) {
576         GET_UTF8(code, *p++, continue;);
577
578         /* get glyph */
579         dummy.code = code;
580         glyph = av_tree_find(s->glyphs, &dummy, glyph_cmp, NULL);
581         if (!glyph) {
582             ret = load_glyph(ctx, &glyph, code);
583             if (ret)
584                 return ret;
585         }
586
587         y_min = FFMIN(glyph->bbox.yMin, y_min);
588         y_max = FFMAX(glyph->bbox.yMax, y_max);
589     }
590     text_height = y_max - y_min;
591     baseline    = y_max;
592
593     /* compute and save position for each glyph */
594     glyph = NULL;
595     for (i = 0, p = text; *p; i++) {
596         GET_UTF8(code, *p++, continue;);
597
598         /* skip the \n in the sequence \r\n */
599         if (prev_code == '\r' && code == '\n')
600             continue;
601
602         prev_code = code;
603         if (is_newline(code)) {
604             str_w = FFMAX(str_w, x - s->x);
605             y += text_height;
606             x = 0;
607             continue;
608         }
609
610         /* get glyph */
611         prev_glyph = glyph;
612         dummy.code = code;
613         glyph = av_tree_find(s->glyphs, &dummy, glyph_cmp, NULL);
614
615         /* kerning */
616         if (s->use_kerning && prev_glyph && glyph->code) {
617             FT_Get_Kerning(s->face, prev_glyph->code, glyph->code,
618                            ft_kerning_default, &delta);
619             x += delta.x >> 6;
620         }
621
622         if (x + glyph->bbox.xMax >= width) {
623             str_w = FFMAX(str_w, x);
624             y += text_height;
625             x = 0;
626         }
627
628         /* save position */
629         s->positions[i].x = x + glyph->bitmap_left;
630         s->positions[i].y = y - glyph->bitmap_top + baseline;
631         if (code == '\t') x  = (x / s->tabsize + 1)*s->tabsize;
632         else              x += glyph->advance;
633     }
634
635     str_w = FFMIN(width - 1, FFMAX(str_w, x));
636     y     = FFMIN(y + text_height, height - 1);
637
638     s->w = str_w;
639     s->var_values[VAR_TEXT_W] = s->var_values[VAR_TW] = s->w;
640     s->h = y;
641     s->var_values[VAR_TEXT_H] = s->var_values[VAR_TH] = s->h;
642
643     return 0;
644 }
645
646
647 static int config_input(AVFilterLink *inlink)
648 {
649     AVFilterContext *ctx  = inlink->dst;
650     DrawTextContext *s = ctx->priv;
651     const AVPixFmtDescriptor *pix_desc = av_pix_fmt_desc_get(inlink->format);
652     int ret;
653
654     s->hsub = pix_desc->log2_chroma_w;
655     s->vsub = pix_desc->log2_chroma_h;
656
657     s->var_values[VAR_E  ] = M_E;
658     s->var_values[VAR_PHI] = M_PHI;
659     s->var_values[VAR_PI ] = M_PI;
660
661     s->var_values[VAR_MAIN_W] =
662         s->var_values[VAR_MW] = ctx->inputs[0]->w;
663     s->var_values[VAR_MAIN_H] =
664         s->var_values[VAR_MH] = ctx->inputs[0]->h;
665
666     s->var_values[VAR_X] = 0;
667     s->var_values[VAR_Y] = 0;
668     s->var_values[VAR_T] = NAN;
669
670     av_lfg_init(&s->prng, av_get_random_seed());
671
672     av_expr_free(s->x_pexpr);
673     av_expr_free(s->y_pexpr);
674     av_expr_free(s->d_pexpr);
675     s->x_pexpr = s->y_pexpr = s->d_pexpr = NULL;
676     if ((ret = av_expr_parse(&s->x_pexpr, s->x_expr, var_names,
677                              NULL, NULL, fun2_names, fun2, 0, ctx)) < 0 ||
678         (ret = av_expr_parse(&s->y_pexpr, s->y_expr, var_names,
679                              NULL, NULL, fun2_names, fun2, 0, ctx)) < 0 ||
680         (ret = av_expr_parse(&s->d_pexpr, s->d_expr, var_names,
681                              NULL, NULL, fun2_names, fun2, 0, ctx)) < 0 ||
682         (ret = av_expr_parse(&s->a_pexpr, s->a_expr, var_names,
683                              NULL, NULL, fun2_names, fun2, 0, ctx)) < 0)
684         return AVERROR(EINVAL);
685
686     if ((ret =
687          ff_fill_line_with_color(s->box_line, s->pixel_step,
688                                  inlink->w, s->boxcolor,
689                                  inlink->format, s->boxcolor_rgba,
690                                  &s->is_packed_rgb, s->rgba_map)) < 0)
691         return ret;
692
693     if (!s->is_packed_rgb) {
694         uint8_t *rgba = s->fontcolor_rgba;
695         s->fontcolor[0] = RGB_TO_Y_CCIR(rgba[0], rgba[1], rgba[2]);
696         s->fontcolor[1] = RGB_TO_U_CCIR(rgba[0], rgba[1], rgba[2], 0);
697         s->fontcolor[2] = RGB_TO_V_CCIR(rgba[0], rgba[1], rgba[2], 0);
698         s->fontcolor[3] = rgba[3];
699         rgba = s->shadowcolor_rgba;
700         s->shadowcolor[0] = RGB_TO_Y_CCIR(rgba[0], rgba[1], rgba[2]);
701         s->shadowcolor[1] = RGB_TO_U_CCIR(rgba[0], rgba[1], rgba[2], 0);
702         s->shadowcolor[2] = RGB_TO_V_CCIR(rgba[0], rgba[1], rgba[2], 0);
703         s->shadowcolor[3] = rgba[3];
704     }
705
706     s->draw = 1;
707
708     return dtext_prepare_text(ctx);
709 }
710
711 #define GET_BITMAP_VAL(r, c)                                            \
712     bitmap->pixel_mode == FT_PIXEL_MODE_MONO ?                          \
713         (bitmap->buffer[(r) * bitmap->pitch + ((c)>>3)] & (0x80 >> ((c)&7))) * 255 : \
714          bitmap->buffer[(r) * bitmap->pitch +  (c)]
715
716 #define SET_PIXEL_YUV(frame, yuva_color, val, x, y, hsub, vsub) {           \
717     luma_pos    = ((x)          ) + ((y)          ) * frame->linesize[0]; \
718     alpha = yuva_color[3] * alpha_mul * (val) * 129 / 255; \
719     frame->data[0][luma_pos]    = (alpha * yuva_color[0] + (255*255*129 - alpha) * frame->data[0][luma_pos]   ) >> 23; \
720     if (((x) & ((1<<(hsub)) - 1)) == 0 && ((y) & ((1<<(vsub)) - 1)) == 0) {\
721         chroma_pos1 = ((x) >> (hsub)) + ((y) >> (vsub)) * frame->linesize[1]; \
722         chroma_pos2 = ((x) >> (hsub)) + ((y) >> (vsub)) * frame->linesize[2]; \
723         frame->data[1][chroma_pos1] = (alpha * yuva_color[1] + (255*255*129 - alpha) * frame->data[1][chroma_pos1]) >> 23; \
724         frame->data[2][chroma_pos2] = (alpha * yuva_color[2] + (255*255*129 - alpha) * frame->data[2][chroma_pos2]) >> 23; \
725     }\
726 }
727
728 static inline int draw_glyph_yuv(AVFrame *frame, FT_Bitmap *bitmap, unsigned int x,
729                                  unsigned int y, unsigned int width, unsigned int height,
730                                  const uint8_t yuva_color[4], int hsub, int vsub,
731                                  int alpha_mul)
732 {
733     int r, c, alpha;
734     unsigned int luma_pos, chroma_pos1, chroma_pos2;
735     uint8_t src_val;
736
737     for (r = 0; r < bitmap->rows && r+y < height; r++) {
738         for (c = 0; c < bitmap->width && c+x < width; c++) {
739             /* get intensity value in the glyph bitmap (source) */
740             src_val = GET_BITMAP_VAL(r, c);
741             if (!src_val)
742                 continue;
743
744             SET_PIXEL_YUV(frame, yuva_color, src_val, c+x, y+r, hsub, vsub);
745         }
746     }
747
748     return 0;
749 }
750
751 #define SET_PIXEL_RGB(frame, rgba_color, val, x, y, pixel_step, r_off, g_off, b_off, a_off) { \
752     p   = frame->data[0] + (x) * pixel_step + ((y) * frame->linesize[0]); \
753     alpha = rgba_color[3] * alpha_mul * (val) * 129 / 255;                           \
754     *(p+r_off) = (alpha * rgba_color[0] + (255*255*129 - alpha) * *(p+r_off)) >> 23; \
755     *(p+g_off) = (alpha * rgba_color[1] + (255*255*129 - alpha) * *(p+g_off)) >> 23; \
756     *(p+b_off) = (alpha * rgba_color[2] + (255*255*129 - alpha) * *(p+b_off)) >> 23; \
757 }
758
759 static inline int draw_glyph_rgb(AVFrame *frame, FT_Bitmap *bitmap,
760                                  unsigned int x, unsigned int y,
761                                  unsigned int width, unsigned int height, int pixel_step,
762                                  const uint8_t rgba_color[4], const uint8_t rgba_map[4],
763                                  int alpha_mul)
764 {
765     int r, c, alpha;
766     uint8_t *p;
767     uint8_t src_val;
768
769     for (r = 0; r < bitmap->rows && r+y < height; r++) {
770         for (c = 0; c < bitmap->width && c+x < width; c++) {
771             /* get intensity value in the glyph bitmap (source) */
772             src_val = GET_BITMAP_VAL(r, c);
773             if (!src_val)
774                 continue;
775
776             SET_PIXEL_RGB(frame, rgba_color, src_val, c+x, y+r, pixel_step,
777                           rgba_map[0], rgba_map[1], rgba_map[2], rgba_map[3]);
778         }
779     }
780
781     return 0;
782 }
783
784 static inline void drawbox(AVFrame *frame, unsigned int x, unsigned int y,
785                            unsigned int width, unsigned int height,
786                            uint8_t *line[4], int pixel_step[4], uint8_t color[4],
787                            int hsub, int vsub, int is_rgba_packed, uint8_t rgba_map[4],
788                            int alpha_mul)
789 {
790     int i, j, alpha;
791
792     if (color[3] != 0xFF || alpha_mul != 0xFF) {
793         if (is_rgba_packed) {
794             uint8_t *p;
795             for (j = 0; j < height; j++)
796                 for (i = 0; i < width; i++)
797                     SET_PIXEL_RGB(frame, color, 255, i+x, y+j, pixel_step[0],
798                                   rgba_map[0], rgba_map[1], rgba_map[2], rgba_map[3]);
799         } else {
800             unsigned int luma_pos, chroma_pos1, chroma_pos2;
801             for (j = 0; j < height; j++)
802                 for (i = 0; i < width; i++)
803                     SET_PIXEL_YUV(frame, color, 255, i+x, y+j, hsub, vsub);
804         }
805     } else {
806         ff_draw_rectangle(frame->data, frame->linesize,
807                           line, pixel_step, hsub, vsub,
808                           x, y, width, height);
809     }
810 }
811
812 static int draw_glyphs(DrawTextContext *s, AVFrame *frame,
813                        int width, int height,
814                        const uint8_t rgbcolor[4], const uint8_t yuvcolor[4],
815                        int x, int y)
816 {
817     char *text = s->expanded_text;
818     uint32_t code = 0;
819     int i;
820     uint8_t *p;
821     Glyph *glyph = NULL;
822
823     for (i = 0, p = text; *p; i++) {
824         Glyph dummy = { 0 };
825         GET_UTF8(code, *p++, continue;);
826
827         /* skip new line chars, just go to new line */
828         if (code == '\n' || code == '\r' || code == '\t')
829             continue;
830
831         dummy.code = code;
832         glyph = av_tree_find(s->glyphs, &dummy, (void *)glyph_cmp, NULL);
833
834         if (glyph->bitmap.pixel_mode != FT_PIXEL_MODE_MONO &&
835             glyph->bitmap.pixel_mode != FT_PIXEL_MODE_GRAY)
836             return AVERROR(EINVAL);
837
838         if (s->is_packed_rgb) {
839             draw_glyph_rgb(frame, &glyph->bitmap,
840                            s->positions[i].x+x, s->positions[i].y+y, width, height,
841                            s->pixel_step[0], rgbcolor, s->rgba_map, s->alpha);
842         } else {
843             draw_glyph_yuv(frame, &glyph->bitmap,
844                            s->positions[i].x+x, s->positions[i].y+y, width, height,
845                            yuvcolor, s->hsub, s->vsub, s->alpha);
846         }
847     }
848
849     return 0;
850 }
851
852 static int draw_text(AVFilterContext *ctx, AVFrame *frame,
853                      int width, int height)
854 {
855     DrawTextContext *s = ctx->priv;
856     int ret;
857
858     /* draw box */
859     if (s->draw_box)
860         drawbox(frame, s->x, s->y, s->w, s->h,
861                 s->box_line, s->pixel_step, s->boxcolor,
862                 s->hsub, s->vsub, s->is_packed_rgb,
863                 s->rgba_map, s->alpha);
864
865     if (s->shadowx || s->shadowy) {
866         if ((ret = draw_glyphs(s, frame, width, height,
867                                s->shadowcolor_rgba,
868                                s->shadowcolor,
869                                s->x + s->shadowx,
870                                s->y + s->shadowy)) < 0)
871             return ret;
872     }
873
874     if ((ret = draw_glyphs(s, frame, width, height,
875                            s->fontcolor_rgba,
876                            s->fontcolor,
877                            s->x,
878                            s->y)) < 0)
879         return ret;
880
881     return 0;
882 }
883
884 static inline int normalize_double(int *n, double d)
885 {
886     int ret = 0;
887
888     if (isnan(d)) {
889         ret = AVERROR(EINVAL);
890     } else if (d > INT_MAX || d < INT_MIN) {
891         *n = d > INT_MAX ? INT_MAX : INT_MIN;
892         ret = AVERROR(EINVAL);
893     } else
894         *n = round(d);
895
896     return ret;
897 }
898
899 static void update_alpha(DrawTextContext *s)
900 {
901     double alpha = av_expr_eval(s->a_pexpr, s->var_values, &s->prng);
902
903     if (isnan(alpha))
904         return;
905
906     if (alpha >= 1.0)
907         s->alpha = 255;
908     else if (alpha <= 0)
909         s->alpha = 0;
910     else
911         s->alpha = 256 * alpha;
912 }
913
914 static int filter_frame(AVFilterLink *inlink, AVFrame *frame)
915 {
916     AVFilterContext *ctx = inlink->dst;
917     DrawTextContext *s = ctx->priv;
918     int ret = 0;
919
920     if ((ret = dtext_prepare_text(ctx)) < 0) {
921         av_log(ctx, AV_LOG_ERROR, "Can't draw text\n");
922         av_frame_free(&frame);
923         return ret;
924     }
925
926     s->var_values[VAR_T] = frame->pts == AV_NOPTS_VALUE ?
927         NAN : frame->pts * av_q2d(inlink->time_base);
928     s->var_values[VAR_X] =
929         av_expr_eval(s->x_pexpr, s->var_values, &s->prng);
930     s->var_values[VAR_Y] =
931         av_expr_eval(s->y_pexpr, s->var_values, &s->prng);
932     s->var_values[VAR_X] =
933         av_expr_eval(s->x_pexpr, s->var_values, &s->prng);
934
935     s->draw = av_expr_eval(s->d_pexpr, s->var_values, &s->prng);
936
937     update_alpha(s);
938
939     normalize_double(&s->x, s->var_values[VAR_X]);
940     normalize_double(&s->y, s->var_values[VAR_Y]);
941
942     if (s->fix_bounds) {
943         if (s->x < 0) s->x = 0;
944         if (s->y < 0) s->y = 0;
945         if ((unsigned)s->x + (unsigned)s->w > inlink->w)
946             s->x = inlink->w - s->w;
947         if ((unsigned)s->y + (unsigned)s->h > inlink->h)
948             s->y = inlink->h - s->h;
949     }
950
951     s->x &= ~((1 << s->hsub) - 1);
952     s->y &= ~((1 << s->vsub) - 1);
953
954     av_log(ctx, AV_LOG_TRACE, "n:%d t:%f x:%d y:%d x+w:%d y+h:%d\n",
955             (int)s->var_values[VAR_N], s->var_values[VAR_T],
956             s->x, s->y, s->x+s->w, s->y+s->h);
957
958     if (s->draw)
959         draw_text(inlink->dst, frame, frame->width, frame->height);
960
961     s->var_values[VAR_N] += 1.0;
962
963     return ff_filter_frame(inlink->dst->outputs[0], frame);
964 }
965
966 static const AVFilterPad avfilter_vf_drawtext_inputs[] = {
967     {
968         .name             = "default",
969         .type             = AVMEDIA_TYPE_VIDEO,
970         .get_video_buffer = ff_null_get_video_buffer,
971         .filter_frame     = filter_frame,
972         .config_props     = config_input,
973         .needs_writable   = 1,
974     },
975     { NULL }
976 };
977
978 static const AVFilterPad avfilter_vf_drawtext_outputs[] = {
979     {
980         .name = "default",
981         .type = AVMEDIA_TYPE_VIDEO,
982     },
983     { NULL }
984 };
985
986 AVFilter ff_vf_drawtext = {
987     .name          = "drawtext",
988     .description   = NULL_IF_CONFIG_SMALL("Draw text on top of video frames using libfreetype library."),
989     .priv_size     = sizeof(DrawTextContext),
990     .priv_class    = &drawtext_class,
991     .init          = init,
992     .uninit        = uninit,
993     .query_formats = query_formats,
994
995     .inputs    = avfilter_vf_drawtext_inputs,
996     .outputs   = avfilter_vf_drawtext_outputs,
997 };