6e732d50b3729bdfd67e3664848b44f9e5ee52fc
[vlc.git] / modules / video_output / xcb / xvideo.c
1 /**
2  * @file xvideo.c
3  * @brief X C Bindings video output module for VLC media player
4  */
5 /*****************************************************************************
6  * Copyright © 2009 Rémi Denis-Courmont
7  *
8  * This program is free software; you can redistribute it and/or modify it
9  * under the terms of the GNU Lesser General Public License as published by
10  * the Free Software Foundation; either version 2.1 of the License, or
11  * (at your option) any later version.
12  *
13  * This program is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the
16  * GNU Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public License
19  * along with this program; if not, write to the Free Software Foundation,
20  * Inc., 51 Franklin Street, Fifth Floor, Boston MA 02110-1301, USA.
21  *****************************************************************************/
22
23 #ifdef HAVE_CONFIG_H
24 # include <config.h>
25 #endif
26
27 #include <stdlib.h>
28 #include <limits.h>
29 #include <assert.h>
30
31 #include <xcb/xcb.h>
32 #include <xcb/shm.h>
33 #include <xcb/xv.h>
34
35 #include <vlc_common.h>
36 #include <vlc_plugin.h>
37 #include <vlc_vout_display.h>
38 #include <vlc_picture_pool.h>
39 #include <vlc_dialog.h>
40
41 #include "xcb_vlc.h"
42
43 #define ADAPTOR_TEXT N_("XVideo adaptor number")
44 #define ADAPTOR_LONGTEXT N_( \
45     "XVideo hardware adaptor to use. By default, VLC will " \
46     "use the first functional adaptor.")
47
48 #define FORMAT_TEXT N_("XVideo format id")
49 #define FORMAT_LONGTEXT N_( \
50     "XVideo image format id to use. By default, VLC will " \
51     "try to use the best match for the video being played.")
52
53 static int  Open (vlc_object_t *);
54 static void Close (vlc_object_t *);
55 static int EnumAdaptors (vlc_object_t *, const char *, int64_t **, char ***);
56
57 /*
58  * Module descriptor
59  */
60 vlc_module_begin ()
61     set_shortname (N_("XVideo"))
62     set_description (N_("XVideo output (XCB)"))
63     set_category (CAT_VIDEO)
64     set_subcategory (SUBCAT_VIDEO_VOUT)
65     set_capability ("vout display", 200)
66     set_callbacks (Open, Close)
67
68     add_integer ("xvideo-adaptor", -1,
69                  ADAPTOR_TEXT, ADAPTOR_LONGTEXT, true)
70         change_integer_cb (EnumAdaptors)
71     add_integer ("xvideo-format-id", 0,
72                  FORMAT_TEXT, FORMAT_LONGTEXT, true)
73     add_obsolete_bool ("xvideo-shm") /* removed in 2.0.0 */
74     add_shortcut ("xcb-xv", "xv", "xvideo", "xid")
75 vlc_module_end ()
76
77 #define MAX_PICTURES (128)
78
79 struct vout_display_sys_t
80 {
81     xcb_connection_t *conn;
82     vout_window_t *embed;/* VLC window */
83
84     xcb_cursor_t cursor; /* blank cursor */
85     xcb_window_t window; /* drawable X window */
86     xcb_gcontext_t gc;   /* context to put images */
87     xcb_xv_port_t port;  /* XVideo port */
88     uint32_t id;         /* XVideo format */
89     uint16_t width;      /* display width */
90     uint16_t height;     /* display height */
91     uint32_t data_size;  /* picture byte size (for non-SHM) */
92     bool     swap_uv;    /* U/V pointer must be swapped in a picture */
93     bool shm;            /* whether to use MIT-SHM */
94     bool visible;        /* whether it makes sense to draw at all */
95
96     xcb_xv_query_image_attributes_reply_t *att;
97     picture_pool_t *pool; /* picture pool */
98     picture_resource_t resource[MAX_PICTURES];
99 };
100
101 static picture_pool_t *Pool (vout_display_t *, unsigned);
102 static void Display (vout_display_t *, picture_t *, subpicture_t *subpicture);
103 static int Control (vout_display_t *, int, va_list);
104 static void Manage (vout_display_t *);
105
106 /**
107  * Check that the X server supports the XVideo extension.
108  */
109 static bool CheckXVideo (vout_display_t *vd, xcb_connection_t *conn)
110 {
111     xcb_xv_query_extension_reply_t *r;
112     xcb_xv_query_extension_cookie_t ck = xcb_xv_query_extension (conn);
113     bool ok = false;
114
115     /* We need XVideo 2.2 for PutImage */
116     r = xcb_xv_query_extension_reply (conn, ck, NULL);
117     if (r == NULL)
118         msg_Dbg (vd, "XVideo extension not available");
119     else
120     if (r->major != 2)
121         msg_Dbg (vd, "XVideo extension v%"PRIu8".%"PRIu8" unknown",
122                  r->major, r->minor);
123     else
124     if (r->minor < 2)
125         msg_Dbg (vd, "XVideo extension v%"PRIu8".%"PRIu8" too old",
126                  r->major, r->minor);
127     else
128     {
129         msg_Dbg (vd, "using XVideo extension v%"PRIu8".%"PRIu8,
130                  r->major, r->minor);
131         ok = true;
132     }
133     free (r);
134     return ok;
135 }
136
137 static vlc_fourcc_t ParseFormat (vlc_object_t *obj,
138                                  const xcb_xv_image_format_info_t *restrict f)
139 {
140     switch (f->type)
141     {
142       case XCB_XV_IMAGE_FORMAT_INFO_TYPE_RGB:
143         switch (f->num_planes)
144         {
145           case 1:
146             switch (popcount (f->red_mask | f->green_mask | f->blue_mask))
147             {
148               case 24:
149                 if (f->bpp == 32 && f->depth == 32)
150                     return VLC_CODEC_RGBA;
151                 if (f->bpp == 32 && f->depth == 24)
152                     return VLC_CODEC_RGB32;
153                 if (f->bpp == 24 && f->depth == 24)
154                     return VLC_CODEC_RGB24;
155                 break;
156               case 16:
157                 if (f->byte_order != ORDER)
158                     return 0; /* Mixed endian! */
159                 if (f->bpp == 16 && f->depth == 16)
160                     return VLC_CODEC_RGB16;
161                 break;
162               case 15:
163                 if (f->byte_order != ORDER)
164                     return 0; /* Mixed endian! */
165                 if (f->bpp == 16 && f->depth == 16)
166                     return VLC_CODEC_RGBT;
167                 if (f->bpp == 16 && f->depth == 15)
168                     return VLC_CODEC_RGB15;
169                 break;
170               case 12:
171                 if (f->bpp == 16 && f->depth == 16)
172                     return VLC_CODEC_RGBA16;
173                 if (f->bpp == 16 && f->depth == 12)
174                     return VLC_CODEC_RGB12;
175               case 8:
176                 if (f->bpp == 8 && f->depth == 8)
177                     return VLC_CODEC_RGB8;
178                 break;
179             }
180             break;
181         }
182         msg_Err (obj, "unknown XVideo RGB format %"PRIx32" (%.4s)",
183                  f->id, f->guid);
184         msg_Dbg (obj, " %"PRIu8" planes, %"PRIu8" bits/pixel, "
185                  "depth %"PRIu8, f->num_planes, f->bpp, f->depth);
186         break;
187
188       case XCB_XV_IMAGE_FORMAT_INFO_TYPE_YUV:
189         if (f->u_sample_bits != f->v_sample_bits
190          || f->vhorz_u_period != f->vhorz_v_period
191          || f->vvert_u_period != f->vvert_v_period
192          || f->y_sample_bits != 8 || f->u_sample_bits != 8
193          || f->vhorz_y_period != 1 || f->vvert_y_period != 1)
194             goto bad;
195         switch (f->num_planes)
196         {
197           case 1:
198             switch (f->bpp)
199             {
200               /*untested: case 24:
201                 if (f->vhorz_u_period == 1 && f->vvert_u_period == 1)
202                     return VLC_CODEC_I444;
203                 break;*/
204               case 16:
205                 if (f->vhorz_u_period == 2 && f->vvert_u_period == 1)
206                 {
207                     if (!strcmp ((const char *)f->vcomp_order, "YUYV"))
208                         return VLC_CODEC_YUYV;
209                     if (!strcmp ((const char *)f->vcomp_order, "UYVY"))
210                         return VLC_CODEC_UYVY;
211                 }
212                 break;
213             }
214             break;
215           case 3:
216             switch (f->bpp)
217             {
218               case 12:
219                 if (f->vhorz_u_period == 2 && f->vvert_u_period == 2)
220                 {
221                     if (!strcmp ((const char *)f->vcomp_order, "YVU"))
222                         return VLC_CODEC_YV12;
223                     if (!strcmp ((const char *)f->vcomp_order, "YUV"))
224                         return VLC_CODEC_I420;
225                 }
226             }
227             break;
228         }
229     bad:
230         msg_Err (obj, "unknown XVideo YUV format %"PRIx32" (%.4s)", f->id,
231                  f->guid);
232         msg_Dbg (obj, " %"PRIu8" planes, %"PRIu32" bits/pixel, "
233                  "%"PRIu32"/%"PRIu32"/%"PRIu32" bits/sample", f->num_planes,
234                  f->bpp, f->y_sample_bits, f->u_sample_bits, f->v_sample_bits);
235         msg_Dbg (obj, " period: %"PRIu32"/%"PRIu32"/%"PRIu32"x"
236                  "%"PRIu32"/%"PRIu32"/%"PRIu32,
237                  f->vhorz_y_period, f->vhorz_u_period, f->vhorz_v_period,
238                  f->vvert_y_period, f->vvert_u_period, f->vvert_v_period);
239         msg_Warn (obj, " order: %.32s", f->vcomp_order);
240         break;
241     }
242     return 0;
243 }
244
245 static bool BetterFormat (vlc_fourcc_t a, const vlc_fourcc_t *tab,
246                           unsigned *rankp)
247 {
248     for (unsigned i = 0, max = *rankp; i < max && tab[i] != 0; i++)
249         if (tab[i] == a)
250         {
251             *rankp = i;
252             return true;
253         }
254     return false;
255 }
256
257 static xcb_xv_query_image_attributes_reply_t *
258 FindFormat (vlc_object_t *obj, xcb_connection_t *conn, video_format_t *fmt,
259             const xcb_xv_adaptor_info_t *a, uint32_t *idp)
260 {
261     /* Order chromas by preference */
262     vlc_fourcc_t tab[7];
263     const vlc_fourcc_t *chromav = tab;
264
265     vlc_fourcc_t chroma = var_InheritInteger (obj, "xvideo-format-id");
266     if (chroma != 0) /* Forced chroma */
267     {
268         tab[0] = chroma;
269         tab[1] = 0;
270     }
271     else if (vlc_fourcc_IsYUV (fmt->i_chroma)) /* YUV chroma */
272     {
273         chromav = vlc_fourcc_GetYUVFallback (fmt->i_chroma);
274     }
275     else /* RGB chroma */
276     {
277         tab[0] = fmt->i_chroma;
278         tab[1] = VLC_CODEC_RGB32;
279         tab[2] = VLC_CODEC_RGB24;
280         tab[3] = VLC_CODEC_RGB16;
281         tab[4] = VLC_CODEC_RGB15;
282         tab[5] = VLC_CODEC_YUYV;
283         tab[6] = 0;
284     }
285
286     /* Get available image formats */
287     xcb_xv_list_image_formats_reply_t *list =
288         xcb_xv_list_image_formats_reply (conn,
289             xcb_xv_list_image_formats (conn, a->base_id), NULL);
290     if (list == NULL)
291         return NULL;
292
293     /* Check available XVideo chromas */
294     xcb_xv_query_image_attributes_reply_t *attr = NULL;
295     unsigned rank = UINT_MAX;
296
297     for (const xcb_xv_image_format_info_t *f =
298              xcb_xv_list_image_formats_format (list),
299                                           *f_end =
300              f + xcb_xv_list_image_formats_format_length (list);
301          f < f_end;
302          f++)
303     {
304         chroma = ParseFormat (obj, f);
305         if (chroma == 0)
306             continue;
307
308         /* Oink oink! */
309         if ((chroma == VLC_CODEC_I420 || chroma == VLC_CODEC_YV12)
310          && a->name_size >= 4
311          && !memcmp ("OMAP", xcb_xv_adaptor_info_name (a), 4))
312         {
313             msg_Dbg (obj, "skipping slow I420 format");
314             continue; /* OMAP framebuffer sucks at YUV 4:2:0 */
315         }
316
317         if (!BetterFormat (chroma, chromav, &rank))
318             continue;
319
320         /* VLC pads scanline to 16 pixels internally */
321         unsigned width = fmt->i_width;
322         unsigned height = fmt->i_height;
323         xcb_xv_query_image_attributes_reply_t *i;
324         i = xcb_xv_query_image_attributes_reply (conn,
325             xcb_xv_query_image_attributes (conn, a->base_id, f->id,
326                                            width, height), NULL);
327         if (i == NULL)
328             continue;
329
330         if (i->width != width || i->height != height)
331         {
332             msg_Warn (obj, "incompatible size %ux%u -> %"PRIu32"x%"PRIu32,
333                       fmt->i_width, fmt->i_height,
334                       i->width, i->height);
335             var_Create (obj->p_libvlc, "xvideo-res-error", VLC_VAR_BOOL);
336             if (!var_GetBool (obj->p_libvlc, "xvideo-res-error"))
337             {
338                 dialog_FatalWait (obj, _("Video acceleration not available"),
339                     _("The XVideo rendering acceleration driver does not "
340                       "support the required resolution of %ux%u pixels but "
341                       "%"PRIu32"x%"PRIu32" pixels instead.\n"
342                       "Acceleration will thus be disabled. Performance may "
343                       "be degraded severely if the resolution is large."),
344                                   width, height, i->width, i->height);
345                 var_SetBool (obj->p_libvlc, "xvideo-res-error", true);
346             }
347             free (i);
348             continue;
349         }
350
351         fmt->i_chroma = chroma;
352         if (f->type == XCB_XV_IMAGE_FORMAT_INFO_TYPE_RGB)
353         {
354             fmt->i_rmask = f->red_mask;
355             fmt->i_gmask = f->green_mask;
356             fmt->i_bmask = f->blue_mask;
357         }
358         *idp = f->id;
359         free (attr);
360         attr = i;
361         if (rank == 0)
362             break; /* shortcut for perfect match */
363     }
364
365     free (list);
366     return attr;
367 }
368
369
370 /**
371  * Probe the X server.
372  */
373 static int Open (vlc_object_t *obj)
374 {
375     vout_display_t *vd = (vout_display_t *)obj;
376     vout_display_sys_t *p_sys;
377
378     if (!var_InheritBool (obj, "overlay"))
379         return VLC_EGENERIC;
380     p_sys = malloc (sizeof (*p_sys));
381     if (p_sys == NULL)
382         return VLC_ENOMEM;
383
384     vd->sys = p_sys;
385
386     /* Connect to X */
387     xcb_connection_t *conn;
388     const xcb_screen_t *screen;
389     uint16_t width, height;
390     uint8_t depth;
391     p_sys->embed = XCB_parent_Create (vd, &conn, &screen,
392                                       &depth, &width, &height);
393     if (p_sys->embed == NULL)
394     {
395         free (p_sys);
396         return VLC_EGENERIC;
397     }
398
399     p_sys->conn = conn;
400     p_sys->att = NULL;
401     p_sys->pool = NULL;
402
403     if (!CheckXVideo (vd, conn))
404     {
405         msg_Warn (vd, "Please enable XVideo 2.2 for faster video display");
406         goto error;
407     }
408
409     p_sys->window = xcb_generate_id (conn);
410     xcb_pixmap_t pixmap = xcb_generate_id (conn);
411
412     /* Cache adaptors infos */
413     xcb_xv_query_adaptors_reply_t *adaptors =
414         xcb_xv_query_adaptors_reply (conn,
415             xcb_xv_query_adaptors (conn, p_sys->embed->handle.xid), NULL);
416     if (adaptors == NULL)
417         goto error;
418
419     int adaptor_selected = var_InheritInteger (obj, "xvideo-adaptor");
420     int adaptor_current = -1;
421
422     /* */
423     video_format_t fmt;
424     p_sys->port = 0;
425
426     xcb_xv_adaptor_info_iterator_t it;
427     for (it = xcb_xv_query_adaptors_info_iterator (adaptors);
428          it.rem > 0;
429          xcb_xv_adaptor_info_next (&it))
430     {
431         const xcb_xv_adaptor_info_t *a = it.data;
432
433         adaptor_current++;
434         if (adaptor_selected != -1 && adaptor_selected != adaptor_current)
435             continue;
436         if (!(a->type & XCB_XV_TYPE_INPUT_MASK)
437          || !(a->type & XCB_XV_TYPE_IMAGE_MASK))
438             continue;
439
440         /* Look for an image format */
441         fmt = vd->fmt;
442         free (p_sys->att);
443         p_sys->att = FindFormat (obj, conn, &fmt, a, &p_sys->id);
444         if (p_sys->att == NULL) /* No acceptable image formats */
445             continue;
446
447         /* Grab a port */
448         for (unsigned i = 0; i < a->num_ports; i++)
449         {
450              xcb_xv_port_t port = a->base_id + i;
451              xcb_xv_grab_port_reply_t *gr =
452                  xcb_xv_grab_port_reply (conn,
453                      xcb_xv_grab_port (conn, port, XCB_CURRENT_TIME), NULL);
454              uint8_t result = gr ? gr->result : 0xff;
455
456              free (gr);
457              if (result == 0)
458              {
459                  p_sys->port = port;
460                  goto grabbed_port;
461              }
462              msg_Dbg (vd, "cannot grab port %"PRIu32": Xv error %"PRIu8, port,
463                       result);
464         }
465         continue; /* No usable port */
466
467     grabbed_port:
468         /* Found port - initialize selected format */
469         msg_Dbg (vd, "using adaptor %.*s", (int)a->name_size,
470                  xcb_xv_adaptor_info_name (a));
471         msg_Dbg (vd, "using port %"PRIu32, p_sys->port);
472         msg_Dbg (vd, "using image format 0x%"PRIx32, p_sys->id);
473
474         /* Look for an X11 visual, create a window */
475         xcb_xv_format_t *f = xcb_xv_adaptor_info_formats (a);
476         for (uint_fast16_t i = a->num_formats; i > 0; i--, f++)
477         {
478             if (f->depth != screen->root_depth)
479                 continue; /* this would fail anyway */
480
481             uint32_t mask =
482                 XCB_CW_BACK_PIXMAP |
483                 XCB_CW_BACK_PIXEL |
484                 XCB_CW_BORDER_PIXMAP |
485                 XCB_CW_BORDER_PIXEL |
486                 XCB_CW_EVENT_MASK |
487                 XCB_CW_COLORMAP;
488             const uint32_t list[] = {
489                 /* XCB_CW_BACK_PIXMAP */
490                 pixmap,
491                 /* XCB_CW_BACK_PIXEL */
492                 screen->black_pixel,
493                 /* XCB_CW_BORDER_PIXMAP */
494                 pixmap,
495                 /* XCB_CW_BORDER_PIXEL */
496                 screen->black_pixel,
497                 /* XCB_CW_EVENT_MASK */
498                 XCB_EVENT_MASK_VISIBILITY_CHANGE,
499                 /* XCB_CW_COLORMAP */
500                 screen->default_colormap,
501             };
502
503             xcb_void_cookie_t c;
504
505             xcb_create_pixmap (conn, f->depth, pixmap, screen->root, 1, 1);
506             c = xcb_create_window_checked (conn, f->depth, p_sys->window,
507                  p_sys->embed->handle.xid, 0, 0, 1, 1, 0,
508                  XCB_WINDOW_CLASS_INPUT_OUTPUT, f->visual, mask, list);
509
510             if (!XCB_error_Check (vd, conn, "cannot create X11 window", c))
511             {
512                 msg_Dbg (vd, "using X11 visual ID 0x%"PRIx32
513                          " (depth: %"PRIu8")", f->visual, f->depth);
514                 msg_Dbg (vd, "using X11 window 0x%08"PRIx32, p_sys->window);
515                 goto created_window;
516             }
517         }
518         xcb_xv_ungrab_port (conn, p_sys->port, XCB_CURRENT_TIME);
519         p_sys->port = 0;
520         msg_Dbg (vd, "no usable X11 visual");
521         continue; /* No workable XVideo format (visual/depth) */
522
523     created_window:
524         break;
525     }
526     free (adaptors);
527     if (!p_sys->port)
528     {
529         msg_Err (vd, "no available XVideo adaptor");
530         goto error;
531     }
532     /* Compute video (window) placement within the parent window */
533     {
534         xcb_map_window (conn, p_sys->window);
535
536         vout_display_place_t place;
537
538         vout_display_PlacePicture (&place, &vd->source, vd->cfg, false);
539         p_sys->width  = place.width;
540         p_sys->height = place.height;
541
542         /* */
543         const uint32_t values[] = {
544             place.x, place.y, place.width, place.height };
545         xcb_configure_window (conn, p_sys->window,
546                               XCB_CONFIG_WINDOW_X | XCB_CONFIG_WINDOW_Y |
547                               XCB_CONFIG_WINDOW_WIDTH |
548                               XCB_CONFIG_WINDOW_HEIGHT,
549                               values);
550     }
551     p_sys->visible = false;
552
553     /* Create graphic context */
554     p_sys->gc = xcb_generate_id (conn);
555     xcb_create_gc (conn, p_sys->gc, p_sys->window, 0, NULL);
556     msg_Dbg (vd, "using X11 graphic context 0x%08"PRIx32, p_sys->gc);
557
558     /* Disable color keying if applicable */
559     {
560         xcb_intern_atom_reply_t *r =
561             xcb_intern_atom_reply (conn,
562                 xcb_intern_atom (conn, 1, 21, "XV_AUTOPAINT_COLORKEY"), NULL);
563         if (r != NULL && r->atom != 0)
564             xcb_xv_set_port_attribute(conn, p_sys->port, r->atom, 1);
565         free(r);
566     }
567
568     /* Create cursor */
569     p_sys->cursor = XCB_cursor_Create (conn, screen);
570
571     p_sys->shm = XCB_shm_Check (obj, conn);
572
573     /* */
574     vout_display_info_t info = vd->info;
575     info.has_pictures_invalid = false;
576     info.has_event_thread = true;
577
578     /* Setup vout_display_t once everything is fine */
579     p_sys->swap_uv = vlc_fourcc_AreUVPlanesSwapped (fmt.i_chroma,
580                                                     vd->fmt.i_chroma);
581     if (p_sys->swap_uv)
582         fmt.i_chroma = vd->fmt.i_chroma;
583     vd->fmt = fmt;
584     vd->info = info;
585
586     vd->pool = Pool;
587     vd->prepare = NULL;
588     vd->display = Display;
589     vd->control = Control;
590     vd->manage = Manage;
591
592     /* */
593     bool is_fullscreen = vd->cfg->is_fullscreen;
594     if (is_fullscreen && vout_window_SetFullScreen (p_sys->embed, true))
595         is_fullscreen = false;
596     vout_display_SendEventFullscreen (vd, is_fullscreen);
597     vout_display_SendEventDisplaySize (vd, width, height, is_fullscreen);
598
599     return VLC_SUCCESS;
600
601 error:
602     Close (obj);
603     return VLC_EGENERIC;
604 }
605
606
607 /**
608  * Disconnect from the X server.
609  */
610 static void Close (vlc_object_t *obj)
611 {
612     vout_display_t *vd = (vout_display_t *)obj;
613     vout_display_sys_t *p_sys = vd->sys;
614
615     if (p_sys->pool)
616     {
617         for (unsigned i = 0; i < MAX_PICTURES; i++)
618         {
619             picture_resource_t *res = &p_sys->resource[i];
620
621             if (!res->p->p_pixels)
622                 break;
623             XCB_pictures_Free (res, NULL);
624         }
625         picture_pool_Delete (p_sys->pool);
626     }
627
628     /* show the default cursor */
629     xcb_change_window_attributes (p_sys->conn, p_sys->embed->handle.xid, XCB_CW_CURSOR,
630                                   &(uint32_t) { XCB_CURSOR_NONE });
631     xcb_flush (p_sys->conn);
632
633     free (p_sys->att);
634     xcb_disconnect (p_sys->conn);
635     vout_display_DeleteWindow (vd, p_sys->embed);
636     free (p_sys);
637 }
638
639 static void PoolAlloc (vout_display_t *vd, unsigned requested_count)
640 {
641     vout_display_sys_t *p_sys = vd->sys;
642
643     memset (p_sys->resource, 0, sizeof(p_sys->resource));
644
645     const uint32_t *pitches= xcb_xv_query_image_attributes_pitches (p_sys->att);
646     const uint32_t *offsets= xcb_xv_query_image_attributes_offsets (p_sys->att);
647     const unsigned num_planes= __MIN(p_sys->att->num_planes, PICTURE_PLANE_MAX);
648     p_sys->data_size = p_sys->att->data_size;
649
650     picture_t *pic_array[MAX_PICTURES];
651     requested_count = __MIN(requested_count, MAX_PICTURES);
652
653     unsigned count;
654     for (count = 0; count < requested_count; count++)
655     {
656         picture_resource_t *res = &p_sys->resource[count];
657
658         for (unsigned i = 0; i < num_planes; i++)
659         {
660             uint32_t data_size;
661             data_size = (i < num_planes - 1) ? offsets[i+1] : p_sys->data_size;
662
663             res->p[i].i_lines = (data_size - offsets[i]) / pitches[i];
664             res->p[i].i_pitch = pitches[i];
665         }
666
667         if (XCB_pictures_Alloc (vd, res, p_sys->att->data_size,
668                                 p_sys->conn, p_sys->shm))
669             break;
670
671         /* Allocate further planes as specified by XVideo */
672         /* We assume that offsets[0] is zero */
673         for (unsigned i = 1; i < num_planes; i++)
674             res->p[i].p_pixels = res->p[0].p_pixels + offsets[i];
675
676         if (p_sys->swap_uv)
677         {   /* YVU: swap U and V planes */
678             uint8_t *buf = res->p[2].p_pixels;
679             res->p[2].p_pixels = res->p[1].p_pixels;
680             res->p[1].p_pixels = buf;
681         }
682
683         pic_array[count] = picture_NewFromResource (&vd->fmt, res);
684         if (!pic_array[count])
685         {
686             XCB_pictures_Free (res, p_sys->conn);
687             memset (res, 0, sizeof(*res));
688             break;
689         }
690     }
691
692     if (count == 0)
693         return;
694
695     p_sys->pool = picture_pool_New (count, pic_array);
696     /* TODO release picture resources if NULL */
697     xcb_flush (p_sys->conn);
698 }
699
700 /**
701  * Return a direct buffer
702  */
703 static picture_pool_t *Pool (vout_display_t *vd, unsigned requested_count)
704 {
705     vout_display_sys_t *p_sys = vd->sys;
706
707     if (!p_sys->pool)
708         PoolAlloc (vd, requested_count);
709
710     return p_sys->pool;
711 }
712
713 /**
714  * Sends an image to the X server.
715  */
716 static void Display (vout_display_t *vd, picture_t *pic, subpicture_t *subpicture)
717 {
718     vout_display_sys_t *p_sys = vd->sys;
719     xcb_shm_seg_t segment = pic->p_sys->segment;
720     xcb_void_cookie_t ck;
721
722     if (!p_sys->visible)
723         goto out;
724     if (segment)
725         ck = xcb_xv_shm_put_image_checked (p_sys->conn, p_sys->port,
726                               p_sys->window, p_sys->gc, segment, p_sys->id, 0,
727                    /* Src: */ vd->source.i_x_offset,
728                               vd->source.i_y_offset,
729                               vd->source.i_visible_width,
730                               vd->source.i_visible_height,
731                    /* Dst: */ 0, 0, p_sys->width, p_sys->height,
732                 /* Memory: */ pic->p->i_pitch / pic->p->i_pixel_pitch,
733                               pic->p->i_lines, false);
734     else
735         ck = xcb_xv_put_image_checked (p_sys->conn, p_sys->port, p_sys->window,
736                           p_sys->gc, p_sys->id,
737                           vd->source.i_x_offset,
738                           vd->source.i_y_offset,
739                           vd->source.i_visible_width,
740                           vd->source.i_visible_height,
741                           0, 0, p_sys->width, p_sys->height,
742                           pic->p->i_pitch / pic->p->i_pixel_pitch,
743                           pic->p->i_lines,
744                           p_sys->data_size, pic->p->p_pixels);
745
746     /* Wait for reply. See x11.c for rationale. */
747     xcb_generic_error_t *e = xcb_request_check (p_sys->conn, ck);
748     if (e != NULL)
749     {
750         msg_Dbg (vd, "%s: X11 error %d", "cannot put image", e->error_code);
751         free (e);
752     }
753 out:
754     picture_Release (pic);
755     (void)subpicture;
756 }
757
758 static int Control (vout_display_t *vd, int query, va_list ap)
759 {
760     vout_display_sys_t *p_sys = vd->sys;
761
762     switch (query)
763     {
764     case VOUT_DISPLAY_CHANGE_FULLSCREEN:
765     {
766         const vout_display_cfg_t *c = va_arg (ap, const vout_display_cfg_t *);
767         return vout_window_SetFullScreen (p_sys->embed, c->is_fullscreen);
768     }
769
770     case VOUT_DISPLAY_CHANGE_DISPLAY_SIZE:
771     case VOUT_DISPLAY_CHANGE_DISPLAY_FILLED:
772     case VOUT_DISPLAY_CHANGE_ZOOM:
773     case VOUT_DISPLAY_CHANGE_SOURCE_ASPECT:
774     case VOUT_DISPLAY_CHANGE_SOURCE_CROP:
775     {
776         const vout_display_cfg_t *cfg;
777         const video_format_t *source;
778         bool is_forced = false;
779
780         if (query == VOUT_DISPLAY_CHANGE_SOURCE_ASPECT
781          || query == VOUT_DISPLAY_CHANGE_SOURCE_CROP)
782         {
783             source = (const video_format_t *)va_arg (ap, const video_format_t *);
784             cfg = vd->cfg;
785         }
786         else
787         {
788             source = &vd->source;
789             cfg = (const vout_display_cfg_t*)va_arg (ap, const vout_display_cfg_t *);
790             if (query == VOUT_DISPLAY_CHANGE_DISPLAY_SIZE)
791                 is_forced = (bool)va_arg (ap, int);
792         }
793
794         /* */
795         if (query == VOUT_DISPLAY_CHANGE_DISPLAY_SIZE
796          && is_forced
797          && (cfg->display.width  != vd->cfg->display.width
798            ||cfg->display.height != vd->cfg->display.height)
799          && vout_window_SetSize (p_sys->embed,
800                                   cfg->display.width,
801                                   cfg->display.height))
802             return VLC_EGENERIC;
803
804         vout_display_place_t place;
805         vout_display_PlacePicture (&place, source, cfg, false);
806         p_sys->width  = place.width;
807         p_sys->height = place.height;
808
809         /* Move the picture within the window */
810         const uint32_t values[] = { place.x, place.y,
811                                     place.width, place.height, };
812         xcb_configure_window (p_sys->conn, p_sys->window,
813                               XCB_CONFIG_WINDOW_X | XCB_CONFIG_WINDOW_Y
814                             | XCB_CONFIG_WINDOW_WIDTH | XCB_CONFIG_WINDOW_HEIGHT,
815                               values);
816         xcb_flush (p_sys->conn);
817         return VLC_SUCCESS;
818     }
819     case VOUT_DISPLAY_CHANGE_WINDOW_STATE:
820     {
821         unsigned state = va_arg (ap, unsigned);
822         return vout_window_SetState (p_sys->embed, state);
823     }
824
825     /* Hide the mouse. It will be send when
826      * vout_display_t::info.b_hide_mouse is false */
827     case VOUT_DISPLAY_HIDE_MOUSE:
828         xcb_change_window_attributes (p_sys->conn, p_sys->embed->handle.xid,
829                                   XCB_CW_CURSOR, &(uint32_t){ p_sys->cursor });
830         xcb_flush (p_sys->conn);
831         return VLC_SUCCESS;
832     case VOUT_DISPLAY_RESET_PICTURES:
833         assert(0);
834     default:
835         msg_Err (vd, "Unknown request in XCB vout display");
836         return VLC_EGENERIC;
837     }
838 }
839
840 static void Manage (vout_display_t *vd)
841 {
842     vout_display_sys_t *p_sys = vd->sys;
843
844     XCB_Manage (vd, p_sys->conn, &p_sys->visible);
845 }
846
847 static int EnumAdaptors (vlc_object_t *obj, const char *var,
848                          int64_t **vp, char ***tp)
849 {
850     size_t n = 0;
851
852     /* Connect to X */
853     char *display = var_InheritString (obj, "x11-display");
854     xcb_connection_t *conn;
855     int snum;
856
857     conn = xcb_connect (display, &snum);
858     free (display);
859     if (xcb_connection_has_error (conn) /*== NULL*/)
860         goto error;
861
862     /* Find configured screen */
863     const xcb_setup_t *setup = xcb_get_setup (conn);
864     const xcb_screen_t *scr = NULL;
865     for (xcb_screen_iterator_t i = xcb_setup_roots_iterator (setup);
866          i.rem > 0; xcb_screen_next (&i))
867     {
868         if (snum == 0)
869         {
870             scr = i.data;
871             break;
872         }
873         snum--;
874     }
875     if (scr == NULL)
876         goto error;
877
878     xcb_xv_query_adaptors_reply_t *adaptors =
879         xcb_xv_query_adaptors_reply (conn,
880             xcb_xv_query_adaptors (conn, scr->root), NULL);
881     if (adaptors == NULL)
882         goto error;
883
884     xcb_xv_adaptor_info_iterator_t it;
885
886     for (it = xcb_xv_query_adaptors_info_iterator (adaptors);
887          it.rem > 0;
888          xcb_xv_adaptor_info_next (&it))
889         n++;
890
891     int64_t *values = xmalloc ((n + 1) * sizeof (*values));
892     char **texts = xmalloc ((n + 1) * sizeof (*texts));
893     *vp = values;
894     *tp = texts;
895     n = 0;
896
897     *(values++) = -1;
898     *(texts++) = strdup (N_("Auto"));
899     n++;
900
901     for (it = xcb_xv_query_adaptors_info_iterator (adaptors);
902          it.rem > 0;
903          xcb_xv_adaptor_info_next (&it))
904     {
905         const xcb_xv_adaptor_info_t *a = it.data;
906
907         n++;
908
909         if (!(a->type & XCB_XV_TYPE_INPUT_MASK)
910          || !(a->type & XCB_XV_TYPE_IMAGE_MASK))
911             continue;
912
913         *(values++) = n - 2;
914         *(texts++) = strndup (xcb_xv_adaptor_info_name (a), a->name_size);
915     }
916     free (adaptors);
917 error:
918     xcb_disconnect (conn);
919     (void) obj; (void) var;
920     return n;
921 }