Improved pre-blending in ssa decoder.
[vlc.git] / modules / codec / libass.c
1 /*****************************************************************************
2  * SSA/ASS subtitle decoder using libass.
3  *****************************************************************************
4  * Copyright (C) 2008-2009 the VideoLAN team
5  * $Id$
6  *
7  * Authors: Laurent Aimar <fenrir@videolan.org>
8  *
9  * This program is free software; you can redistribute it and/or modify
10  * it under the terms of the GNU General Public License as published by
11  * the Free Software Foundation; either version 2 of the License, or
12  * (at your option) any later version.
13  *
14  * This program is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
17  * GNU General Public License for more details.
18  *
19  * You should have received a copy of the GNU General Public License
20  * along with this program; if not, write to the Free Software
21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston MA 02110-1301, USA.
22  *****************************************************************************/
23
24 /*****************************************************************************
25  * Preamble
26  *****************************************************************************/
27
28 #ifdef HAVE_CONFIG_H
29 #   include "config.h"
30 #endif
31
32 #include <string.h>
33 #include <limits.h>
34 #include <assert.h>
35 #include <math.h>
36
37 #include <vlc_common.h>
38 #include <vlc_plugin.h>
39 #include <vlc_codec.h>
40 #include <vlc_osd.h>
41 #include <vlc_input.h>
42 #include <vlc_dialog.h>
43
44 #include <ass/ass.h>
45
46 #if defined(WIN32)
47 #   include <vlc_charset.h>
48 #endif
49
50 /*****************************************************************************
51  * Module descriptor
52  *****************************************************************************/
53 static int  Create ( vlc_object_t * );
54 static void Destroy( vlc_object_t * );
55
56 vlc_module_begin ()
57     set_shortname( N_("Subtitles (advanced)"))
58     set_description( N_("Subtitle renderers using libass") )
59     set_capability( "decoder", 100 )
60     set_category( CAT_INPUT )
61     set_subcategory( SUBCAT_INPUT_SCODEC )
62     set_callbacks( Create, Destroy )
63 vlc_module_end ()
64
65 /*****************************************************************************
66  * Local prototypes
67  *****************************************************************************/
68 static subpicture_t *DecodeBlock( decoder_t *, block_t ** );
69 static void DestroySubpicture( subpicture_t * );
70 static void UpdateRegions( spu_t *,
71                            subpicture_t *, const video_format_t *, mtime_t );
72
73 /* Yes libass sux with threads */
74 typedef struct 
75 {
76     vlc_object_t   *p_libvlc;
77
78     int             i_refcount;
79     ass_library_t   *p_library;
80     ass_renderer_t  *p_renderer;
81     video_format_t  fmt;
82 } ass_handle_t;
83 static ass_handle_t *AssHandleHold( decoder_t *p_dec );
84 static void AssHandleRelease( ass_handle_t * );
85
86 /* */
87 struct decoder_sys_t
88 {
89     mtime_t      i_max_stop;
90
91     /* decoder_sys_t is shared between decoder and spu units */
92     vlc_mutex_t  lock;
93     int          i_refcount;
94
95     /* */
96     ass_handle_t *p_ass;
97
98     /* */
99     ass_track_t  *p_track;
100 };
101 static void DecSysRelease( decoder_sys_t *p_sys );
102 static void DecSysHold( decoder_sys_t *p_sys );
103
104 struct subpicture_sys_t
105 {
106     decoder_sys_t *p_dec_sys;
107     void          *p_subs_data;
108     int           i_subs_len;
109     mtime_t       i_pts;
110 };
111
112 typedef struct
113 {
114     int x0;
115     int y0;
116     int x1;
117     int y1;
118 } rectangle_t;
119
120 static int BuildRegions( spu_t *p_spu, rectangle_t *p_region, int i_max_region, ass_image_t *p_img_list, int i_width, int i_height );
121 static void SubpictureReleaseRegions( spu_t *p_spu, subpicture_t *p_subpic );
122 static void RegionDraw( subpicture_region_t *p_region, ass_image_t *p_img );
123
124 static vlc_mutex_t libass_lock = VLC_STATIC_MUTEX;
125
126 //#define DEBUG_REGION
127
128 /*****************************************************************************
129  * Create: Open libass decoder.
130  *****************************************************************************/
131 static int Create( vlc_object_t *p_this )
132 {
133     decoder_t *p_dec = (decoder_t *)p_this;
134     decoder_sys_t *p_sys;
135     ass_track_t *p_track;
136
137     if( p_dec->fmt_in.i_codec != VLC_CODEC_SSA )
138         return VLC_EGENERIC;
139
140     p_dec->pf_decode_sub = DecodeBlock;
141
142     p_dec->p_sys = p_sys = malloc( sizeof( decoder_sys_t ) );
143     if( !p_sys )
144         return VLC_ENOMEM;
145
146     /* */
147     p_sys->i_max_stop = VLC_TS_INVALID;
148     p_sys->p_ass = AssHandleHold( p_dec );
149     if( !p_sys->p_ass )
150     {
151         free( p_sys );
152         return VLC_EGENERIC;
153     }
154     vlc_mutex_init( &p_sys->lock );
155     p_sys->i_refcount = 1;
156
157     /* Add a track */
158     vlc_mutex_lock( &libass_lock );
159     p_sys->p_track = p_track = ass_new_track( p_sys->p_ass->p_library );
160     if( !p_track )
161     {
162         vlc_mutex_unlock( &libass_lock );
163         DecSysRelease( p_sys );
164         return VLC_EGENERIC;
165     }
166     ass_process_codec_private( p_track, p_dec->fmt_in.p_extra, p_dec->fmt_in.i_extra );
167     vlc_mutex_unlock( &libass_lock );
168
169     p_dec->fmt_out.i_cat = SPU_ES;
170     p_dec->fmt_out.i_codec = VLC_CODEC_RGBA;
171
172     return VLC_SUCCESS;
173 }
174
175 /*****************************************************************************
176  * Destroy: finish
177  *****************************************************************************/
178 static void Destroy( vlc_object_t *p_this )
179 {
180     decoder_t *p_dec = (decoder_t *)p_this;
181
182     DecSysRelease( p_dec->p_sys );
183 }
184
185 static void DecSysHold( decoder_sys_t *p_sys )
186 {
187     vlc_mutex_lock( &p_sys->lock );
188     p_sys->i_refcount++;
189     vlc_mutex_unlock( &p_sys->lock );
190 }
191 static void DecSysRelease( decoder_sys_t *p_sys )
192 {
193     /* */
194     vlc_mutex_lock( &p_sys->lock );
195     p_sys->i_refcount--;
196     if( p_sys->i_refcount > 0 )
197     {
198         vlc_mutex_unlock( &p_sys->lock );
199         return;
200     }
201     vlc_mutex_unlock( &p_sys->lock );
202     vlc_mutex_destroy( &p_sys->lock );
203
204     vlc_mutex_lock( &libass_lock );
205     if( p_sys->p_track )
206         ass_free_track( p_sys->p_track );
207     vlc_mutex_unlock( &libass_lock );
208
209     AssHandleRelease( p_sys->p_ass );
210     free( p_sys );
211 }
212
213 /****************************************************************************
214  * DecodeBlock:
215  ****************************************************************************/
216 static subpicture_t *DecodeBlock( decoder_t *p_dec, block_t **pp_block )
217 {
218     decoder_sys_t *p_sys = p_dec->p_sys;
219
220     subpicture_t *p_spu = NULL;
221     block_t *p_block;
222
223     if( !pp_block || *pp_block == NULL )
224         return NULL;
225
226     p_block = *pp_block;
227     if( p_block->i_flags & (BLOCK_FLAG_DISCONTINUITY|BLOCK_FLAG_CORRUPTED) )
228     {
229         p_sys->i_max_stop = VLC_TS_INVALID;
230         block_Release( p_block );
231         return NULL;
232     }
233     *pp_block = NULL;
234
235     if( p_block->i_buffer == 0 || p_block->p_buffer[0] == '\0' )
236     {
237         block_Release( p_block );
238         return NULL;
239     }
240
241     p_spu = decoder_NewSubpicture( p_dec );
242     if( !p_spu )
243     {
244         msg_Warn( p_dec, "can't get spu buffer" );
245         block_Release( p_block );
246         return NULL;
247     }
248
249     p_spu->p_sys = malloc( sizeof( subpicture_sys_t ));
250     if( !p_spu->p_sys )
251     {
252         decoder_DeleteSubpicture( p_dec, p_spu );
253         block_Release( p_block );
254         return NULL;
255     }
256
257     p_spu->p_sys->i_subs_len = p_block->i_buffer;
258     p_spu->p_sys->p_subs_data = malloc( p_block->i_buffer );
259     if( !p_spu->p_sys->p_subs_data )
260     {
261         free( p_spu->p_sys );
262         decoder_DeleteSubpicture( p_dec, p_spu );
263         block_Release( p_block );
264         return NULL;
265     }
266     memcpy( p_spu->p_sys->p_subs_data, p_block->p_buffer,
267             p_block->i_buffer );
268     p_spu->p_sys->i_pts = p_block->i_pts;
269
270     p_spu->i_start = p_block->i_pts;
271     p_spu->i_stop = __MAX( p_sys->i_max_stop, p_block->i_pts + p_block->i_length );
272     p_spu->b_ephemer = true;
273     p_spu->b_absolute = true;
274
275     p_sys->i_max_stop = p_spu->i_stop;
276
277     vlc_mutex_lock( &libass_lock );
278     if( p_sys->p_track )
279     {
280         ass_process_chunk( p_sys->p_track, p_spu->p_sys->p_subs_data, p_spu->p_sys->i_subs_len,
281                            p_block->i_pts / 1000, p_block->i_length / 1000 );
282     }
283     vlc_mutex_unlock( &libass_lock );
284
285     p_spu->pf_update_regions = UpdateRegions;
286     p_spu->pf_destroy = DestroySubpicture;
287     p_spu->p_sys->p_dec_sys = p_sys;
288
289     DecSysHold( p_sys );
290
291     block_Release( p_block );
292
293     return p_spu;
294 }
295
296 /****************************************************************************
297  *
298  ****************************************************************************/
299 static void DestroySubpicture( subpicture_t *p_subpic )
300 {
301     DecSysRelease( p_subpic->p_sys->p_dec_sys );
302
303     free( p_subpic->p_sys->p_subs_data );
304     free( p_subpic->p_sys );
305 }
306
307 static void UpdateRegions( spu_t *p_spu, subpicture_t *p_subpic,
308                            const video_format_t *p_fmt, mtime_t i_ts )
309 {
310     decoder_sys_t *p_sys = p_subpic->p_sys->p_dec_sys;
311     ass_handle_t *p_ass = p_sys->p_ass;
312
313     video_format_t fmt;
314     bool b_fmt_changed;
315
316     vlc_mutex_lock( &libass_lock );
317
318     /* */
319     fmt = *p_fmt;
320     fmt.i_chroma = VLC_CODEC_RGBA;
321     fmt.i_width = fmt.i_visible_width;
322     fmt.i_height = fmt.i_visible_height;
323     fmt.i_bits_per_pixel = 0;
324     fmt.i_x_offset = fmt.i_y_offset = 0;
325
326     b_fmt_changed = memcmp( &fmt, &p_ass->fmt, sizeof(fmt) ) != 0;
327     if( b_fmt_changed )
328     {
329         ass_set_frame_size( p_ass->p_renderer, fmt.i_width, fmt.i_height );
330 #if defined( LIBASS_VERSION ) && LIBASS_VERSION >= 0x00907000
331     ass_set_aspect_ratio( p_ass->p_renderer, 1.0, 1.0 ); // TODO ?
332 #else
333     ass_set_aspect_ratio( p_ass->p_renderer, 1.0 ); // TODO ?
334 #endif
335
336         p_ass->fmt = fmt;
337     }
338
339     /* */
340     const mtime_t i_stream_date = p_subpic->p_sys->i_pts + (i_ts - p_subpic->i_start);
341     int i_changed;
342     ass_image_t *p_img = ass_render_frame( p_ass->p_renderer, p_sys->p_track,
343                                            i_stream_date/1000, &i_changed );
344
345     if( !i_changed && !b_fmt_changed &&
346         (p_img != NULL) == (p_subpic->p_region != NULL) )
347     {
348         vlc_mutex_unlock( &libass_lock );
349         return;
350     }
351
352     /* */
353     p_subpic->i_original_picture_height = fmt.i_height;
354     p_subpic->i_original_picture_width = fmt.i_width;
355     SubpictureReleaseRegions( p_spu, p_subpic );
356
357     /* XXX to improve efficiency we merge regions that are close minimizing
358      * the lost surface.
359      * libass tends to create a lot of small regions and thus spu engine
360      * reinstanciate a lot the scaler, and as we do not support subpel blending
361      * it looks ugly (text unaligned).
362      */
363     const int i_max_region = 4;
364     rectangle_t region[i_max_region];
365     const int i_region = BuildRegions( p_spu, region, i_max_region, p_img, fmt.i_width, fmt.i_height );
366
367     if( i_region <= 0 )
368     {
369         vlc_mutex_unlock( &libass_lock );
370         return;
371     }
372
373     /* Allocate the regions and draw them */
374     subpicture_region_t *pp_region[i_max_region];
375     subpicture_region_t **pp_region_last = &p_subpic->p_region;
376
377     for( int i = 0; i < i_region; i++ )
378     {
379         subpicture_region_t *r;
380         video_format_t fmt_region;
381
382         /* */
383         fmt_region = fmt;
384         fmt_region.i_width =
385         fmt_region.i_visible_width  = region[i].x1 - region[i].x0;
386         fmt_region.i_height =
387         fmt_region.i_visible_height = region[i].y1 - region[i].y0;
388
389         pp_region[i] = r = subpicture_region_New( &fmt_region );
390         if( !r )
391             break;
392         r->i_x = region[i].x0;
393         r->i_y = region[i].y0;
394         r->i_align = SUBPICTURE_ALIGN_TOP | SUBPICTURE_ALIGN_LEFT;
395
396         /* */
397         RegionDraw( r, p_img );
398
399         /* */
400         *pp_region_last = r;
401         pp_region_last = &r->p_next;
402     }
403     vlc_mutex_unlock( &libass_lock );
404 }
405
406 static rectangle_t r_create( int x0, int y0, int x1, int y1 )
407 {
408     rectangle_t r = { x0, y0, x1, y1 };
409     return r;
410 }
411 static rectangle_t r_img( const ass_image_t *p_img )
412 {
413     return r_create( p_img->dst_x, p_img->dst_y, p_img->dst_x+p_img->w, p_img->dst_y+p_img->h );
414 }
415 static void r_add( rectangle_t *r, const rectangle_t *n )
416 {
417     r->x0 = __MIN( r->x0, n->x0 );
418     r->y0 = __MIN( r->y0, n->y0 );
419     r->x1 = __MAX( r->x1, n->x1 );
420     r->y1 = __MAX( r->y1, n->y1 );
421 }
422 static int r_surface( const rectangle_t *r )
423 {
424     return (r->x1-r->x0) * (r->y1-r->y0);
425 }
426 static bool r_overlap( const rectangle_t *a, const rectangle_t *b, int i_dx, int i_dy )
427 {
428     return  __MAX(a->x0-i_dx, b->x0) < __MIN( a->x1+i_dx, b->x1 ) &&
429             __MAX(a->y0-i_dy, b->y0) < __MIN( a->y1+i_dy, b->y1 );
430 }
431
432 static int BuildRegions( spu_t *p_spu, rectangle_t *p_region, int i_max_region, ass_image_t *p_img_list, int i_width, int i_height )
433 {
434     ass_image_t *p_tmp;
435     int i_count;
436
437     VLC_UNUSED(p_spu);
438
439 #ifdef DEBUG_REGION
440     int64_t i_ck_start = mdate();
441 #endif
442
443     for( p_tmp = p_img_list, i_count = 0; p_tmp != NULL; p_tmp = p_tmp->next )
444         i_count++;
445     if( i_count <= 0 )
446         return 0;
447
448     ass_image_t **pp_img = calloc( i_count, sizeof(*pp_img) );
449     if( !pp_img )
450         return 0;
451
452     for( p_tmp = p_img_list, i_count = 0; p_tmp != NULL; p_tmp = p_tmp->next, i_count++ )
453         pp_img[i_count] = p_tmp;
454
455     /* */
456     const int i_w_inc = __MAX( ( i_width + 49 ) / 50, 32 );
457     const int i_h_inc = __MAX( ( i_height + 99 ) / 100, 32 );
458     int i_maxh = i_w_inc;
459     int i_maxw = i_h_inc;
460     int i_region;
461     rectangle_t region[i_max_region+1];
462
463     i_region = 0;
464     for( int i_used = 0; i_used < i_count; )
465     {
466         int n;
467         for( n = 0; n < i_count; n++ )
468         {
469             if( pp_img[n] )
470                 break;
471         }
472         assert( i_region < i_max_region + 1 );
473         region[i_region++] = r_img( pp_img[n] );
474         pp_img[n] = NULL; i_used++;
475
476         bool b_ok;
477         do {
478             b_ok = false;
479             for( n = 0; n < i_count; n++ )
480             {
481                 ass_image_t *p_img = pp_img[n];
482                 if( !p_img )
483                     continue;
484                 rectangle_t r = r_img( p_img );
485
486                 int k;
487                 int i_best = -1;
488                 int i_best_s = INT_MAX;
489                 for( k = 0; k < i_region; k++ )
490                 {
491                     if( !r_overlap( &region[k], &r, i_maxw, i_maxh ) )
492                         continue;
493                     int s = r_surface( &r );
494                     if( s < i_best_s )
495                     {
496                         i_best_s = s;
497                         i_best = k;
498                     }
499                 }
500                 if( i_best >= 0 )
501                 {
502                     r_add( &region[i_best], &r );
503                     pp_img[n] = NULL; i_used++;
504                     b_ok = true;
505                 }
506             }
507         } while( b_ok );
508
509         if( i_region > i_max_region )
510         {
511             int i_best_i = -1;
512             int i_best_j = -1;
513             int i_best_ds = INT_MAX;
514
515             /* merge best */
516             for( int i = 0; i < i_region; i++ )
517             {
518                 for( int j = i+1; j < i_region; j++ )
519                 {
520                     rectangle_t n = region[i];
521                     r_add( &n, &region[j] );
522                     int ds = r_surface( &n ) - r_surface( &region[i] ) - r_surface( &region[j] );
523
524                     if( ds < i_best_ds )
525                     {
526                         i_best_i = i;
527                         i_best_j = j;
528                         i_best_ds = ds;
529                     }
530                 }
531             }
532 #ifdef DEBUG_REGION
533             msg_Err( p_spu, "Merging %d and %d", i_best_i, i_best_j );
534 #endif
535             r_add( &region[i_best_i], &region[i_best_j] );
536
537             if( i_best_j+1 < i_region )
538                 memmove( &region[i_best_j], &region[i_best_j+1], sizeof(*region) * ( i_region - (i_best_j+1)  ) );
539             i_region--;
540         }
541     }
542
543     /* */
544     for( int n = 0; n < i_region; n++ )
545         p_region[n] = region[n];
546
547 #ifdef DEBUG_REGION
548     int64_t i_ck_time = mdate() - i_ck_start;
549     msg_Err( p_spu, "ASS: %d objects merged into %d region in %d micros", i_count, i_region, (int)(i_ck_time) );
550 #endif
551
552     free( pp_img );
553
554     return i_region;
555 }
556
557 static void RegionDraw( subpicture_region_t *p_region, ass_image_t *p_img )
558 {
559     const plane_t *p = &p_region->p_picture->p[0];
560     const int i_x = p_region->i_x;
561     const int i_y = p_region->i_y;
562     const int i_width  = p_region->fmt.i_width;
563     const int i_height = p_region->fmt.i_height;
564
565     memset( p->p_pixels, 0x00, p->i_pitch * p->i_lines );
566     for( ; p_img != NULL; p_img = p_img->next )
567     {
568         if( p_img->dst_x < i_x || p_img->dst_x + p_img->w > i_x + i_width ||
569             p_img->dst_y < i_y || p_img->dst_y + p_img->h > i_y + i_height )
570             continue;
571
572         const unsigned r = (p_img->color >> 24)&0xff;
573         const unsigned g = (p_img->color >> 16)&0xff;
574         const unsigned b = (p_img->color >>  8)&0xff;
575         const unsigned a = (p_img->color      )&0xff;
576         int x, y;
577
578         for( y = 0; y < p_img->h; y++ )
579         {
580             for( x = 0; x < p_img->w; x++ )
581             {
582                 const unsigned alpha = p_img->bitmap[y*p_img->stride+x];
583                 const unsigned an = (255 - a) * alpha / 255;
584
585                 uint8_t *p_rgba = &p->p_pixels[(y+p_img->dst_y-i_y) * p->i_pitch + 4 * (x+p_img->dst_x-i_x)];
586                 const unsigned ao = p_rgba[3];
587
588                 /* Native endianness, but RGBA ordering */
589                 if( ao == 0 )
590                 {
591                     /* Optimized but the else{} will produce the same result */
592                     p_rgba[0] = r;
593                     p_rgba[1] = g;
594                     p_rgba[2] = b;
595                     p_rgba[3] = an;
596                 }
597                 else
598                 {
599                     p_rgba[3] = 255 - ( 255 - p_rgba[3] ) * ( 255 - an ) / 255;
600                     if( p_rgba[3] != 0 )
601                     {
602                         p_rgba[0] = ( p_rgba[0] * ao * (255-an) / 255 + r * an ) / p_rgba[3];
603                         p_rgba[1] = ( p_rgba[1] * ao * (255-an) / 255 + g * an ) / p_rgba[3];
604                         p_rgba[2] = ( p_rgba[2] * ao * (255-an) / 255 + b * an ) / p_rgba[3];
605                     }
606                 }
607             }
608         }
609     }
610
611 #ifdef DEBUG_REGION
612     /* XXX Draw a box for debug */
613 #define P(x,y) ((uint32_t*)&p->p_pixels[(y)*p->i_pitch + 4*(x)])
614     for( int y = 0; y < p->i_lines; y++ )
615         *P(0,y) = *P(p->i_visible_pitch/4-1,y) = 0xff000000;
616     for( int x = 0; x < p->i_visible_pitch; x++ )
617         *P(x/4,0) = *P(x/4,p->i_visible_lines-1) = 0xff000000;
618 #undef P
619 #endif
620 }
621
622
623 static void SubpictureReleaseRegions( spu_t *p_spu, subpicture_t *p_subpic )
624 {
625     VLC_UNUSED( p_spu );
626     subpicture_region_ChainDelete( p_subpic->p_region );
627     p_subpic->p_region = NULL;
628 }
629
630 /* */
631 static ass_handle_t *AssHandleHold( decoder_t *p_dec )
632 {
633     vlc_mutex_lock( &libass_lock );
634
635     ass_handle_t *p_ass = NULL;
636     ass_library_t *p_library = NULL;
637     ass_renderer_t *p_renderer = NULL;
638     vlc_value_t val;
639
640     var_Create( p_dec->p_libvlc, "libass-handle", VLC_VAR_ADDRESS );
641     if( var_Get( p_dec->p_libvlc, "libass-handle", &val ) )
642         val.p_address = NULL;
643
644     if( val.p_address )
645     {
646         p_ass = val.p_address;
647
648         p_ass->i_refcount++;
649
650         vlc_mutex_unlock( &libass_lock );
651         return p_ass;
652     }
653
654     /* */
655     p_ass = malloc( sizeof(*p_ass) );
656     if( !p_ass )
657         goto error;
658
659     /* */
660     p_ass->p_libvlc = VLC_OBJECT(p_dec->p_libvlc);
661     p_ass->i_refcount = 1;
662
663     /* Create libass library */
664     p_ass->p_library = p_library = ass_library_init();
665     if( !p_library )
666         goto error;
667
668     /* load attachments */
669     input_attachment_t  **pp_attachments;
670     int                   i_attachments;
671
672     if( decoder_GetInputAttachments( p_dec, &pp_attachments, &i_attachments ))
673     {
674         i_attachments = 0;
675         pp_attachments = NULL;
676     }
677     for( int k = 0; k < i_attachments; k++ )
678     {
679         input_attachment_t *p_attach = pp_attachments[k];
680
681         if( !strcasecmp( p_attach->psz_mime, "application/x-truetype-font" ) )
682         {
683             msg_Dbg( p_dec, "adding embedded font %s", p_attach->psz_name );
684
685             ass_add_font( p_ass->p_library, p_attach->psz_name, p_attach->p_data, p_attach->i_data );
686         }
687         vlc_input_attachment_Delete( p_attach );
688     }
689     free( pp_attachments );
690
691     char *psz_font_dir = NULL;
692
693
694 #if defined(WIN32)
695     dialog_progress_bar_t *p_dialog = dialog_ProgressCreate( p_dec,
696         _("Building font cache"),
697         _( "Please wait while your font cache is rebuilt.\n"
698         "This should take less than a minute." ), NULL );
699     /* This makes Windows build of VLC hang */
700     const UINT uPath = GetSystemWindowsDirectoryW( NULL, 0 );
701     if( uPath > 0 )
702     {
703         wchar_t *psw_path = calloc( uPath + 1, sizeof(wchar_t) );
704         if( psw_path )
705         {
706             if( GetSystemWindowsDirectoryW( psw_path, uPath + 1 ) > 0 )
707             {
708                 char *psz_tmp = FromWide( psw_path );
709                 if( psz_tmp &&
710                     asprintf( &psz_font_dir, "%s\\Fonts", psz_tmp ) < 0 )
711                     psz_font_dir = NULL;
712                 free( psz_tmp );
713             }
714             free( psw_path );
715         }
716     }
717 #endif
718     if( !psz_font_dir )
719         psz_font_dir = config_GetCacheDir();
720
721     if( !psz_font_dir )
722         goto error;
723     msg_Dbg( p_dec, "Setting libass fontdir: %s", psz_font_dir );
724     ass_set_fonts_dir( p_library, psz_font_dir );
725     free( psz_font_dir );
726 #ifdef WIN32
727     dialog_ProgressSet( p_dialog, NULL, 0.1 );
728 #endif
729
730     ass_set_extract_fonts( p_library, true );
731     ass_set_style_overrides( p_library, NULL );
732
733     /* Create the renderer */
734     p_ass->p_renderer = p_renderer = ass_renderer_init( p_library );
735     if( !p_renderer )
736         goto error;
737
738     ass_set_use_margins( p_renderer, false);
739     //if( false )
740     //    ass_set_margins( p_renderer, int t, int b, int l, int r);
741     ass_set_hinting( p_renderer, ASS_HINTING_LIGHT );
742     ass_set_font_scale( p_renderer, 1.0 );
743     ass_set_line_spacing( p_renderer, 0.0 );
744
745     const char *psz_font = NULL; /* We don't ship a default font with VLC */
746     const char *psz_family = "Arial"; /* Use Arial if we can't find anything more suitable */
747
748 #ifdef HAVE_FONTCONFIG
749 #ifdef WIN32
750     dialog_ProgressSet( p_dialog, NULL, 0.2 );
751 #endif
752 #if defined( LIBASS_VERSION ) && LIBASS_VERSION >= 0x00907000
753     ass_set_fonts( p_renderer, psz_font, psz_family, true, NULL, 1 );  // setup default font/family
754 #else
755     ass_set_fonts( p_renderer, psz_font, psz_family );  // setup default font/family
756 #endif
757 #ifdef WIN32
758     dialog_ProgressSet( p_dialog, NULL, 1.0 );
759 #endif
760 #else
761     /* FIXME you HAVE to give him a font if no fontconfig */
762 #if defined( LIBASS_VERSION ) && LIBASS_VERSION >= 0x00907000
763     ass_set_fonts( p_renderer, psz_font, psz_family, false, NULL, 1 );
764 #else
765     ass_set_fonts_nofc( p_renderer, psz_font, psz_family );
766 #endif
767 #endif
768     memset( &p_ass->fmt, 0, sizeof(p_ass->fmt) );
769
770     /* */
771     val.p_address = p_ass;
772     var_Set( p_dec->p_libvlc, "libass-handle", val );
773
774     /* */
775     vlc_mutex_unlock( &libass_lock );
776 #ifdef WIN32
777     dialog_ProgressDestroy( p_dialog );
778 #endif
779     return p_ass;
780
781 error:
782     if( p_renderer )
783         ass_renderer_done( p_renderer );
784     if( p_library )
785         ass_library_done( p_library );
786
787     msg_Warn( p_dec, "Libass creation failed" );
788
789     free( p_ass );
790     vlc_mutex_unlock( &libass_lock );
791     return NULL;
792 }
793 static void AssHandleRelease( ass_handle_t *p_ass )
794 {
795     vlc_mutex_lock( &libass_lock );
796     p_ass->i_refcount--;
797     if( p_ass->i_refcount > 0 )
798     {
799         vlc_mutex_unlock( &libass_lock );
800         return;
801     }
802
803     ass_renderer_done( p_ass->p_renderer );
804     ass_library_done( p_ass->p_library );
805
806     vlc_value_t val;
807     val.p_address = NULL;
808     var_Set( p_ass->p_libvlc, "libass-handle", val );
809
810     vlc_mutex_unlock( &libass_lock );
811     free( p_ass );
812 }
813