XCB/XVideo: fix flawed logic for adaptor selection
[vlc.git] / modules / video_output / xcb / xvideo.c
1 /**
2  * @file xvideo.c
3  * @brief X C Bindings video output module for VLC media player
4  */
5 /*****************************************************************************
6  * Copyright © 2009 Rémi Denis-Courmont
7  *
8  * This program is free software; you can redistribute it and/or modify it
9  * under the terms of the GNU Lesser General Public License as published by
10  * the Free Software Foundation; either version 2.1 of the License, or
11  * (at your option) any later version.
12  *
13  * This program is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the
16  * GNU Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public License
19  * along with this program; if not, write to the Free Software Foundation,
20  * Inc., 51 Franklin Street, Fifth Floor, Boston MA 02110-1301, USA.
21  *****************************************************************************/
22
23 #ifdef HAVE_CONFIG_H
24 # include <config.h>
25 #endif
26
27 #include <stdlib.h>
28 #include <limits.h>
29 #include <assert.h>
30
31 #include <xcb/xcb.h>
32 #include <xcb/shm.h>
33 #include <xcb/xv.h>
34
35 #include <vlc_common.h>
36 #include <vlc_plugin.h>
37 #include <vlc_vout_display.h>
38 #include <vlc_picture_pool.h>
39 #include <vlc_dialog.h>
40
41 #include "xcb_vlc.h"
42
43 #define ADAPTOR_TEXT N_("XVideo adaptor number")
44 #define ADAPTOR_LONGTEXT N_( \
45     "XVideo hardware adaptor to use. By default, VLC will " \
46     "use the first functional adaptor.")
47
48 #define FORMAT_TEXT N_("XVideo format id")
49 #define FORMAT_LONGTEXT N_( \
50     "XVideo image format id to use. By default, VLC will " \
51     "try to use the best match for the video being played.")
52
53 static int  Open (vlc_object_t *);
54 static void Close (vlc_object_t *);
55
56 /*
57  * Module descriptor
58  */
59 vlc_module_begin ()
60     set_shortname (N_("XVideo"))
61     set_description (N_("XVideo output (XCB)"))
62     set_category (CAT_VIDEO)
63     set_subcategory (SUBCAT_VIDEO_VOUT)
64     set_capability ("vout display", 200)
65     set_callbacks (Open, Close)
66
67     add_integer ("xvideo-adaptor", -1,
68                  ADAPTOR_TEXT, ADAPTOR_LONGTEXT, true)
69     add_integer ("xvideo-format-id", 0,
70                  FORMAT_TEXT, FORMAT_LONGTEXT, true)
71     add_obsolete_bool ("xvideo-shm") /* removed in 2.0.0 */
72     add_shortcut ("xcb-xv", "xv", "xvideo", "xid")
73 vlc_module_end ()
74
75 #define MAX_PICTURES (128)
76
77 struct vout_display_sys_t
78 {
79     xcb_connection_t *conn;
80     vout_window_t *embed;/* VLC window */
81
82     xcb_cursor_t cursor; /* blank cursor */
83     xcb_window_t window; /* drawable X window */
84     xcb_gcontext_t gc;   /* context to put images */
85     xcb_xv_port_t port;  /* XVideo port */
86     uint32_t id;         /* XVideo format */
87     uint16_t width;      /* display width */
88     uint16_t height;     /* display height */
89     uint32_t data_size;  /* picture byte size (for non-SHM) */
90     bool     swap_uv;    /* U/V pointer must be swapped in a picture */
91     bool shm;            /* whether to use MIT-SHM */
92     bool visible;        /* whether it makes sense to draw at all */
93
94     xcb_xv_query_image_attributes_reply_t *att;
95     picture_pool_t *pool; /* picture pool */
96     picture_resource_t resource[MAX_PICTURES];
97 };
98
99 static picture_pool_t *Pool (vout_display_t *, unsigned);
100 static void Display (vout_display_t *, picture_t *, subpicture_t *subpicture);
101 static int Control (vout_display_t *, int, va_list);
102 static void Manage (vout_display_t *);
103
104 /**
105  * Check that the X server supports the XVideo extension.
106  */
107 static bool CheckXVideo (vout_display_t *vd, xcb_connection_t *conn)
108 {
109     xcb_xv_query_extension_reply_t *r;
110     xcb_xv_query_extension_cookie_t ck = xcb_xv_query_extension (conn);
111     bool ok = false;
112
113     /* We need XVideo 2.2 for PutImage */
114     r = xcb_xv_query_extension_reply (conn, ck, NULL);
115     if (r == NULL)
116         msg_Dbg (vd, "XVideo extension not available");
117     else
118     if (r->major != 2)
119         msg_Dbg (vd, "XVideo extension v%"PRIu8".%"PRIu8" unknown",
120                  r->major, r->minor);
121     else
122     if (r->minor < 2)
123         msg_Dbg (vd, "XVideo extension v%"PRIu8".%"PRIu8" too old",
124                  r->major, r->minor);
125     else
126     {
127         msg_Dbg (vd, "using XVideo extension v%"PRIu8".%"PRIu8,
128                  r->major, r->minor);
129         ok = true;
130     }
131     free (r);
132     return ok;
133 }
134
135 static vlc_fourcc_t ParseFormat (vlc_object_t *obj,
136                                  const xcb_xv_image_format_info_t *restrict f)
137 {
138     switch (f->type)
139     {
140       case XCB_XV_IMAGE_FORMAT_INFO_TYPE_RGB:
141         switch (f->num_planes)
142         {
143           case 1:
144             switch (popcount (f->red_mask | f->green_mask | f->blue_mask))
145             {
146               case 24:
147                 if (f->bpp == 32 && f->depth == 32)
148                     return VLC_CODEC_RGBA;
149                 if (f->bpp == 32 && f->depth == 24)
150                     return VLC_CODEC_RGB32;
151                 if (f->bpp == 24 && f->depth == 24)
152                     return VLC_CODEC_RGB24;
153                 break;
154               case 16:
155                 if (f->byte_order != ORDER)
156                     return 0; /* Mixed endian! */
157                 if (f->bpp == 16 && f->depth == 16)
158                     return VLC_CODEC_RGB16;
159                 break;
160               case 15:
161                 if (f->byte_order != ORDER)
162                     return 0; /* Mixed endian! */
163                 if (f->bpp == 16 && f->depth == 16)
164                     return VLC_CODEC_RGBT;
165                 if (f->bpp == 16 && f->depth == 15)
166                     return VLC_CODEC_RGB15;
167                 break;
168               case 12:
169                 if (f->bpp == 16 && f->depth == 16)
170                     return VLC_CODEC_RGBA16;
171                 if (f->bpp == 16 && f->depth == 12)
172                     return VLC_CODEC_RGB12;
173               case 8:
174                 if (f->bpp == 8 && f->depth == 8)
175                     return VLC_CODEC_RGB8;
176                 break;
177             }
178             break;
179         }
180         msg_Err (obj, "unknown XVideo RGB format %"PRIx32" (%.4s)",
181                  f->id, f->guid);
182         msg_Dbg (obj, " %"PRIu8" planes, %"PRIu8" bits/pixel, "
183                  "depth %"PRIu8, f->num_planes, f->bpp, f->depth);
184         break;
185
186       case XCB_XV_IMAGE_FORMAT_INFO_TYPE_YUV:
187         if (f->u_sample_bits != f->v_sample_bits
188          || f->vhorz_u_period != f->vhorz_v_period
189          || f->vvert_u_period != f->vvert_v_period
190          || f->y_sample_bits != 8 || f->u_sample_bits != 8
191          || f->vhorz_y_period != 1 || f->vvert_y_period != 1)
192             goto bad;
193         switch (f->num_planes)
194         {
195           case 1:
196             switch (f->bpp)
197             {
198               /*untested: case 24:
199                 if (f->vhorz_u_period == 1 && f->vvert_u_period == 1)
200                     return VLC_CODEC_I444;
201                 break;*/
202               case 16:
203                 if (f->vhorz_u_period == 2 && f->vvert_u_period == 1)
204                 {
205                     if (!strcmp ((const char *)f->vcomp_order, "YUYV"))
206                         return VLC_CODEC_YUYV;
207                     if (!strcmp ((const char *)f->vcomp_order, "UYVY"))
208                         return VLC_CODEC_UYVY;
209                 }
210                 break;
211             }
212             break;
213           case 3:
214             switch (f->bpp)
215             {
216               case 12:
217                 if (f->vhorz_u_period == 2 && f->vvert_u_period == 2)
218                 {
219                     if (!strcmp ((const char *)f->vcomp_order, "YVU"))
220                         return VLC_CODEC_YV12;
221                     if (!strcmp ((const char *)f->vcomp_order, "YUV"))
222                         return VLC_CODEC_I420;
223                 }
224             }
225             break;
226         }
227     bad:
228         msg_Err (obj, "unknown XVideo YUV format %"PRIx32" (%.4s)", f->id,
229                  f->guid);
230         msg_Dbg (obj, " %"PRIu8" planes, %"PRIu32" bits/pixel, "
231                  "%"PRIu32"/%"PRIu32"/%"PRIu32" bits/sample", f->num_planes,
232                  f->bpp, f->y_sample_bits, f->u_sample_bits, f->v_sample_bits);
233         msg_Dbg (obj, " period: %"PRIu32"/%"PRIu32"/%"PRIu32"x"
234                  "%"PRIu32"/%"PRIu32"/%"PRIu32,
235                  f->vhorz_y_period, f->vhorz_u_period, f->vhorz_v_period,
236                  f->vvert_y_period, f->vvert_u_period, f->vvert_v_period);
237         msg_Warn (obj, " order: %.32s", f->vcomp_order);
238         break;
239     }
240     return 0;
241 }
242
243 static bool BetterFormat (vlc_fourcc_t a, const vlc_fourcc_t *tab,
244                           unsigned *rankp)
245 {
246     for (unsigned i = 0, max = *rankp; i < max && tab[i] != 0; i++)
247         if (tab[i] == a)
248         {
249             *rankp = i;
250             return true;
251         }
252     return false;
253 }
254
255 static xcb_xv_query_image_attributes_reply_t *
256 FindFormat (vlc_object_t *obj, xcb_connection_t *conn, video_format_t *fmt,
257             const xcb_xv_adaptor_info_t *a, uint32_t *idp)
258 {
259     /* Order chromas by preference */
260     vlc_fourcc_t tab[7];
261     const vlc_fourcc_t *chromav = tab;
262
263     vlc_fourcc_t chroma = var_InheritInteger (obj, "xvideo-format-id");
264     if (chroma != 0) /* Forced chroma */
265     {
266         tab[0] = chroma;
267         tab[1] = 0;
268     }
269     else if (vlc_fourcc_IsYUV (fmt->i_chroma)) /* YUV chroma */
270     {
271         chromav = vlc_fourcc_GetYUVFallback (fmt->i_chroma);
272     }
273     else /* RGB chroma */
274     {
275         tab[0] = fmt->i_chroma;
276         tab[1] = VLC_CODEC_RGB32;
277         tab[2] = VLC_CODEC_RGB24;
278         tab[3] = VLC_CODEC_RGB16;
279         tab[4] = VLC_CODEC_RGB15;
280         tab[5] = VLC_CODEC_YUYV;
281         tab[6] = 0;
282     }
283
284     /* Get available image formats */
285     xcb_xv_list_image_formats_reply_t *list =
286         xcb_xv_list_image_formats_reply (conn,
287             xcb_xv_list_image_formats (conn, a->base_id), NULL);
288     if (list == NULL)
289         return NULL;
290
291     /* Check available XVideo chromas */
292     xcb_xv_query_image_attributes_reply_t *attr = NULL;
293     unsigned rank = UINT_MAX;
294
295     for (const xcb_xv_image_format_info_t *f =
296              xcb_xv_list_image_formats_format (list),
297                                           *f_end =
298              f + xcb_xv_list_image_formats_format_length (list);
299          f < f_end;
300          f++)
301     {
302         chroma = ParseFormat (obj, f);
303         if (chroma == 0)
304             continue;
305
306         /* Oink oink! */
307         if ((chroma == VLC_CODEC_I420 || chroma == VLC_CODEC_YV12)
308          && a->name_size >= 4
309          && !memcmp ("OMAP", xcb_xv_adaptor_info_name (a), 4))
310         {
311             msg_Dbg (obj, "skipping slow I420 format");
312             continue; /* OMAP framebuffer sucks at YUV 4:2:0 */
313         }
314
315         if (!BetterFormat (chroma, chromav, &rank))
316             continue;
317
318         /* VLC pads scanline to 16 pixels internally */
319         unsigned width = fmt->i_width;
320         unsigned height = fmt->i_height;
321         xcb_xv_query_image_attributes_reply_t *i;
322         i = xcb_xv_query_image_attributes_reply (conn,
323             xcb_xv_query_image_attributes (conn, a->base_id, f->id,
324                                            width, height), NULL);
325         if (i == NULL)
326             continue;
327
328         if (i->width != width || i->height != height)
329         {
330             msg_Warn (obj, "incompatible size %ux%u -> %"PRIu32"x%"PRIu32,
331                       fmt->i_width, fmt->i_height,
332                       i->width, i->height);
333             var_Create (obj->p_libvlc, "xvideo-res-error", VLC_VAR_BOOL);
334             if (!var_GetBool (obj->p_libvlc, "xvideo-res-error"))
335             {
336                 dialog_FatalWait (obj, _("Video acceleration not available"),
337                     _("The XVideo rendering acceleration driver does not "
338                       "support the required resolution of %ux%u pixels but "
339                       "%"PRIu32"x%"PRIu32" pixels instead.\n"
340                       "Acceleration will thus be disabled. Performance may "
341                       "be degraded severely if the resolution is large."),
342                                   width, height, i->width, i->height);
343                 var_SetBool (obj->p_libvlc, "xvideo-res-error", true);
344             }
345             free (i);
346             continue;
347         }
348
349         fmt->i_chroma = chroma;
350         if (f->type == XCB_XV_IMAGE_FORMAT_INFO_TYPE_RGB)
351         {
352             fmt->i_rmask = f->red_mask;
353             fmt->i_gmask = f->green_mask;
354             fmt->i_bmask = f->blue_mask;
355         }
356         *idp = f->id;
357         free (attr);
358         attr = i;
359         if (rank == 0)
360             break; /* shortcut for perfect match */
361     }
362
363     free (list);
364     return attr;
365 }
366
367
368 /**
369  * Probe the X server.
370  */
371 static int Open (vlc_object_t *obj)
372 {
373     vout_display_t *vd = (vout_display_t *)obj;
374     vout_display_sys_t *p_sys;
375
376     if (!var_InheritBool (obj, "overlay"))
377         return VLC_EGENERIC;
378     p_sys = malloc (sizeof (*p_sys));
379     if (p_sys == NULL)
380         return VLC_ENOMEM;
381
382     vd->sys = p_sys;
383
384     /* Connect to X */
385     xcb_connection_t *conn;
386     const xcb_screen_t *screen;
387     uint8_t depth;
388     p_sys->embed = GetWindow (vd, &conn, &screen, &depth);
389     if (p_sys->embed == NULL)
390     {
391         free (p_sys);
392         return VLC_EGENERIC;
393     }
394
395     p_sys->conn = conn;
396     p_sys->att = NULL;
397     p_sys->pool = NULL;
398
399     if (!CheckXVideo (vd, conn))
400     {
401         msg_Warn (vd, "Please enable XVideo 2.2 for faster video display");
402         goto error;
403     }
404
405     p_sys->window = xcb_generate_id (conn);
406     xcb_pixmap_t pixmap = xcb_generate_id (conn);
407
408     /* Cache adaptors infos */
409     xcb_xv_query_adaptors_reply_t *adaptors =
410         xcb_xv_query_adaptors_reply (conn,
411             xcb_xv_query_adaptors (conn, p_sys->embed->handle.xid), NULL);
412     if (adaptors == NULL)
413         goto error;
414
415     int adaptor_selected = var_InheritInteger (obj, "xvideo-adaptor");
416     int adaptor_current = -1;
417
418     /* */
419     video_format_t fmt;
420     p_sys->port = 0;
421
422     xcb_xv_adaptor_info_iterator_t it;
423     for (it = xcb_xv_query_adaptors_info_iterator (adaptors);
424          it.rem > 0;
425          xcb_xv_adaptor_info_next (&it))
426     {
427         const xcb_xv_adaptor_info_t *a = it.data;
428         char *name;
429
430         adaptor_current++;
431         if (adaptor_selected != -1 && adaptor_selected != adaptor_current)
432             continue;
433         if (!(a->type & XCB_XV_TYPE_INPUT_MASK)
434          || !(a->type & XCB_XV_TYPE_IMAGE_MASK))
435             continue;
436
437         /* Look for an image format */
438         fmt = vd->fmt;
439         free (p_sys->att);
440         p_sys->att = FindFormat (obj, conn, &fmt, a, &p_sys->id);
441         if (p_sys->att == NULL) /* No acceptable image formats */
442             continue;
443
444         /* Grab a port */
445         for (unsigned i = 0; i < a->num_ports; i++)
446         {
447              xcb_xv_port_t port = a->base_id + i;
448              xcb_xv_grab_port_reply_t *gr =
449                  xcb_xv_grab_port_reply (conn,
450                      xcb_xv_grab_port (conn, port, XCB_CURRENT_TIME), NULL);
451              uint8_t result = gr ? gr->result : 0xff;
452
453              free (gr);
454              if (result == 0)
455              {
456                  p_sys->port = port;
457                  goto grabbed_port;
458              }
459              msg_Dbg (vd, "cannot grab port %"PRIu32": Xv error %"PRIu8, port,
460                       result);
461         }
462         continue; /* No usable port */
463
464     grabbed_port:
465         /* Found port - initialize selected format */
466         name = strndup (xcb_xv_adaptor_info_name (a), a->name_size);
467         if (name != NULL)
468         {
469             msg_Dbg (vd, "using adaptor %s", name);
470             free (name);
471         }
472         msg_Dbg (vd, "using port %"PRIu32, p_sys->port);
473         msg_Dbg (vd, "using image format 0x%"PRIx32, p_sys->id);
474
475         /* Look for an X11 visual, create a window */
476         xcb_xv_format_t *f = xcb_xv_adaptor_info_formats (a);
477         for (uint_fast16_t i = a->num_formats; i > 0; i--, f++)
478         {
479             if (f->depth != screen->root_depth)
480                 continue; /* this would fail anyway */
481
482             uint32_t mask =
483                 XCB_CW_BACK_PIXMAP |
484                 XCB_CW_BACK_PIXEL |
485                 XCB_CW_BORDER_PIXMAP |
486                 XCB_CW_BORDER_PIXEL |
487                 XCB_CW_EVENT_MASK |
488                 XCB_CW_COLORMAP;
489             const uint32_t list[] = {
490                 /* XCB_CW_BACK_PIXMAP */
491                 pixmap,
492                 /* XCB_CW_BACK_PIXEL */
493                 screen->black_pixel,
494                 /* XCB_CW_BORDER_PIXMAP */
495                 pixmap,
496                 /* XCB_CW_BORDER_PIXEL */
497                 screen->black_pixel,
498                 /* XCB_CW_EVENT_MASK */
499                 XCB_EVENT_MASK_VISIBILITY_CHANGE,
500                 /* XCB_CW_COLORMAP */
501                 screen->default_colormap,
502             };
503
504             xcb_void_cookie_t c;
505
506             xcb_create_pixmap (conn, f->depth, pixmap, screen->root, 1, 1);
507             c = xcb_create_window_checked (conn, f->depth, p_sys->window,
508                  p_sys->embed->handle.xid, 0, 0, 1, 1, 0,
509                  XCB_WINDOW_CLASS_INPUT_OUTPUT, f->visual, mask, list);
510
511             if (!CheckError (vd, conn, "cannot create X11 window", c))
512             {
513                 msg_Dbg (vd, "using X11 visual ID 0x%"PRIx32
514                          " (depth: %"PRIu8")", f->visual, f->depth);
515                 msg_Dbg (vd, "using X11 window 0x%08"PRIx32, p_sys->window);
516                 goto created_window;
517             }
518         }
519         xcb_xv_ungrab_port (conn, p_sys->port, XCB_CURRENT_TIME);
520         p_sys->port = 0;
521         msg_Dbg (vd, "no usable X11 visual");
522         continue; /* No workable XVideo format (visual/depth) */
523
524     created_window:
525         break;
526     }
527     free (adaptors);
528     if (!p_sys->port)
529     {
530         msg_Err (vd, "no available XVideo adaptor");
531         goto error;
532     }
533     /* Compute video (window) placement within the parent window */
534     {
535         xcb_map_window (conn, p_sys->window);
536
537         vout_display_place_t place;
538
539         vout_display_PlacePicture (&place, &vd->source, vd->cfg, false);
540         p_sys->width  = place.width;
541         p_sys->height = place.height;
542
543         /* */
544         const uint32_t values[] = {
545             place.x, place.y, place.width, place.height };
546         xcb_configure_window (conn, p_sys->window,
547                               XCB_CONFIG_WINDOW_X | XCB_CONFIG_WINDOW_Y |
548                               XCB_CONFIG_WINDOW_WIDTH |
549                               XCB_CONFIG_WINDOW_HEIGHT,
550                               values);
551     }
552     p_sys->visible = false;
553
554     /* Create graphic context */
555     p_sys->gc = xcb_generate_id (conn);
556     xcb_create_gc (conn, p_sys->gc, p_sys->window, 0, NULL);
557     msg_Dbg (vd, "using X11 graphic context 0x%08"PRIx32, p_sys->gc);
558
559     /* Disable color keying if applicable */
560     {
561         xcb_intern_atom_reply_t *r =
562             xcb_intern_atom_reply (conn,
563                 xcb_intern_atom (conn, 1, 21, "XV_AUTOPAINT_COLORKEY"), NULL);
564         if (r != NULL && r->atom != 0)
565             xcb_xv_set_port_attribute(conn, p_sys->port, r->atom, 1);
566         free(r);
567     }
568
569     /* Create cursor */
570     p_sys->cursor = CreateBlankCursor (conn, screen);
571
572     p_sys->shm = CheckSHM (obj, conn);
573
574     /* */
575     vout_display_info_t info = vd->info;
576     info.has_pictures_invalid = false;
577     info.has_event_thread = true;
578
579     /* Setup vout_display_t once everything is fine */
580     p_sys->swap_uv = vlc_fourcc_AreUVPlanesSwapped (fmt.i_chroma,
581                                                     vd->fmt.i_chroma);
582     if (p_sys->swap_uv)
583         fmt.i_chroma = vd->fmt.i_chroma;
584     vd->fmt = fmt;
585     vd->info = info;
586
587     vd->pool = Pool;
588     vd->prepare = NULL;
589     vd->display = Display;
590     vd->control = Control;
591     vd->manage = Manage;
592
593     /* */
594     bool is_fullscreen = vd->cfg->is_fullscreen;
595     if (is_fullscreen && vout_window_SetFullScreen (p_sys->embed, true))
596         is_fullscreen = false;
597     vout_display_SendEventFullscreen (vd, is_fullscreen);
598     unsigned width, height;
599     if (!GetWindowSize (p_sys->embed, conn, &width, &height))
600         vout_display_SendEventDisplaySize (vd, width, height, is_fullscreen);
601
602     return VLC_SUCCESS;
603
604 error:
605     Close (obj);
606     return VLC_EGENERIC;
607 }
608
609
610 /**
611  * Disconnect from the X server.
612  */
613 static void Close (vlc_object_t *obj)
614 {
615     vout_display_t *vd = (vout_display_t *)obj;
616     vout_display_sys_t *p_sys = vd->sys;
617
618     if (p_sys->pool)
619     {
620         for (unsigned i = 0; i < MAX_PICTURES; i++)
621         {
622             picture_resource_t *res = &p_sys->resource[i];
623
624             if (!res->p->p_pixels)
625                 break;
626             PictureResourceFree (res, NULL);
627         }
628         picture_pool_Delete (p_sys->pool);
629     }
630
631     /* show the default cursor */
632     xcb_change_window_attributes (p_sys->conn, p_sys->embed->handle.xid, XCB_CW_CURSOR,
633                                   &(uint32_t) { XCB_CURSOR_NONE });
634     xcb_flush (p_sys->conn);
635
636     free (p_sys->att);
637     xcb_disconnect (p_sys->conn);
638     vout_display_DeleteWindow (vd, p_sys->embed);
639     free (p_sys);
640 }
641
642 static void PoolAlloc (vout_display_t *vd, unsigned requested_count)
643 {
644     vout_display_sys_t *p_sys = vd->sys;
645
646     memset (p_sys->resource, 0, sizeof(p_sys->resource));
647
648     const uint32_t *pitches= xcb_xv_query_image_attributes_pitches (p_sys->att);
649     const uint32_t *offsets= xcb_xv_query_image_attributes_offsets (p_sys->att);
650     const unsigned num_planes= __MIN(p_sys->att->num_planes, PICTURE_PLANE_MAX);
651     p_sys->data_size = p_sys->att->data_size;
652
653     picture_t *pic_array[MAX_PICTURES];
654     requested_count = __MIN(requested_count, MAX_PICTURES);
655
656     unsigned count;
657     for (count = 0; count < requested_count; count++)
658     {
659         picture_resource_t *res = &p_sys->resource[count];
660
661         for (unsigned i = 0; i < num_planes; i++)
662         {
663             uint32_t data_size;
664             data_size = (i < num_planes - 1) ? offsets[i+1] : p_sys->data_size;
665
666             res->p[i].i_lines = (data_size - offsets[i]) / pitches[i];
667             res->p[i].i_pitch = pitches[i];
668         }
669
670         if (PictureResourceAlloc (vd, res, p_sys->att->data_size,
671                                   p_sys->conn, p_sys->shm))
672             break;
673
674         /* Allocate further planes as specified by XVideo */
675         /* We assume that offsets[0] is zero */
676         for (unsigned i = 1; i < num_planes; i++)
677             res->p[i].p_pixels = res->p[0].p_pixels + offsets[i];
678
679         if (p_sys->swap_uv)
680         {   /* YVU: swap U and V planes */
681             uint8_t *buf = res->p[2].p_pixels;
682             res->p[2].p_pixels = res->p[1].p_pixels;
683             res->p[1].p_pixels = buf;
684         }
685
686         pic_array[count] = picture_NewFromResource (&vd->fmt, res);
687         if (!pic_array[count])
688         {
689             PictureResourceFree (res, p_sys->conn);
690             memset (res, 0, sizeof(*res));
691             break;
692         }
693     }
694
695     if (count == 0)
696         return;
697
698     p_sys->pool = picture_pool_New (count, pic_array);
699     /* TODO release picture resources if NULL */
700     xcb_flush (p_sys->conn);
701 }
702
703 /**
704  * Return a direct buffer
705  */
706 static picture_pool_t *Pool (vout_display_t *vd, unsigned requested_count)
707 {
708     vout_display_sys_t *p_sys = vd->sys;
709
710     if (!p_sys->pool)
711         PoolAlloc (vd, requested_count);
712
713     return p_sys->pool;
714 }
715
716 /**
717  * Sends an image to the X server.
718  */
719 static void Display (vout_display_t *vd, picture_t *pic, subpicture_t *subpicture)
720 {
721     vout_display_sys_t *p_sys = vd->sys;
722     xcb_shm_seg_t segment = pic->p_sys->segment;
723     xcb_void_cookie_t ck;
724
725     if (!p_sys->visible)
726         goto out;
727     if (segment)
728         ck = xcb_xv_shm_put_image_checked (p_sys->conn, p_sys->port,
729                               p_sys->window, p_sys->gc, segment, p_sys->id, 0,
730                    /* Src: */ vd->source.i_x_offset,
731                               vd->source.i_y_offset,
732                               vd->source.i_visible_width,
733                               vd->source.i_visible_height,
734                    /* Dst: */ 0, 0, p_sys->width, p_sys->height,
735                 /* Memory: */ pic->p->i_pitch / pic->p->i_pixel_pitch,
736                               pic->p->i_lines, false);
737     else
738         ck = xcb_xv_put_image_checked (p_sys->conn, p_sys->port, p_sys->window,
739                           p_sys->gc, p_sys->id,
740                           vd->source.i_x_offset,
741                           vd->source.i_y_offset,
742                           vd->source.i_visible_width,
743                           vd->source.i_visible_height,
744                           0, 0, p_sys->width, p_sys->height,
745                           pic->p->i_pitch / pic->p->i_pixel_pitch,
746                           pic->p->i_lines,
747                           p_sys->data_size, pic->p->p_pixels);
748
749     /* Wait for reply. See x11.c for rationale. */
750     xcb_generic_error_t *e = xcb_request_check (p_sys->conn, ck);
751     if (e != NULL)
752     {
753         msg_Dbg (vd, "%s: X11 error %d", "cannot put image", e->error_code);
754         free (e);
755     }
756 out:
757     picture_Release (pic);
758     (void)subpicture;
759 }
760
761 static int Control (vout_display_t *vd, int query, va_list ap)
762 {
763     vout_display_sys_t *p_sys = vd->sys;
764
765     switch (query)
766     {
767     case VOUT_DISPLAY_CHANGE_FULLSCREEN:
768     {
769         const vout_display_cfg_t *c = va_arg (ap, const vout_display_cfg_t *);
770         return vout_window_SetFullScreen (p_sys->embed, c->is_fullscreen);
771     }
772
773     case VOUT_DISPLAY_CHANGE_DISPLAY_SIZE:
774     case VOUT_DISPLAY_CHANGE_DISPLAY_FILLED:
775     case VOUT_DISPLAY_CHANGE_ZOOM:
776     case VOUT_DISPLAY_CHANGE_SOURCE_ASPECT:
777     case VOUT_DISPLAY_CHANGE_SOURCE_CROP:
778     {
779         const vout_display_cfg_t *cfg;
780         const video_format_t *source;
781         bool is_forced = false;
782
783         if (query == VOUT_DISPLAY_CHANGE_SOURCE_ASPECT
784          || query == VOUT_DISPLAY_CHANGE_SOURCE_CROP)
785         {
786             source = (const video_format_t *)va_arg (ap, const video_format_t *);
787             cfg = vd->cfg;
788         }
789         else
790         {
791             source = &vd->source;
792             cfg = (const vout_display_cfg_t*)va_arg (ap, const vout_display_cfg_t *);
793             if (query == VOUT_DISPLAY_CHANGE_DISPLAY_SIZE)
794                 is_forced = (bool)va_arg (ap, int);
795         }
796
797         /* */
798         if (query == VOUT_DISPLAY_CHANGE_DISPLAY_SIZE
799          && is_forced
800          && (cfg->display.width  != vd->cfg->display.width
801            ||cfg->display.height != vd->cfg->display.height)
802          && vout_window_SetSize (p_sys->embed,
803                                   cfg->display.width,
804                                   cfg->display.height))
805             return VLC_EGENERIC;
806
807         vout_display_place_t place;
808         vout_display_PlacePicture (&place, source, cfg, false);
809         p_sys->width  = place.width;
810         p_sys->height = place.height;
811
812         /* Move the picture within the window */
813         const uint32_t values[] = { place.x, place.y,
814                                     place.width, place.height, };
815         xcb_configure_window (p_sys->conn, p_sys->window,
816                               XCB_CONFIG_WINDOW_X | XCB_CONFIG_WINDOW_Y
817                             | XCB_CONFIG_WINDOW_WIDTH | XCB_CONFIG_WINDOW_HEIGHT,
818                               values);
819         xcb_flush (p_sys->conn);
820         return VLC_SUCCESS;
821     }
822     case VOUT_DISPLAY_CHANGE_WINDOW_STATE:
823     {
824         unsigned state = va_arg (ap, unsigned);
825         return vout_window_SetState (p_sys->embed, state);
826     }
827
828     /* Hide the mouse. It will be send when
829      * vout_display_t::info.b_hide_mouse is false */
830     case VOUT_DISPLAY_HIDE_MOUSE:
831         xcb_change_window_attributes (p_sys->conn, p_sys->embed->handle.xid,
832                                   XCB_CW_CURSOR, &(uint32_t){ p_sys->cursor });
833         xcb_flush (p_sys->conn);
834         return VLC_SUCCESS;
835     case VOUT_DISPLAY_RESET_PICTURES:
836         assert(0);
837     default:
838         msg_Err (vd, "Unknown request in XCB vout display");
839         return VLC_EGENERIC;
840     }
841 }
842
843 static void Manage (vout_display_t *vd)
844 {
845     vout_display_sys_t *p_sys = vd->sys;
846
847     ManageEvent (vd, p_sys->conn, &p_sys->visible);
848 }
849