0850acdcb155bf698a323c0a34e264a731367c58
[vlc.git] / modules / video_output / xcb / xvideo.c
1 /**
2  * @file xvideo.c
3  * @brief X C Bindings video output module for VLC media player
4  */
5 /*****************************************************************************
6  * Copyright © 2009 Rémi Denis-Courmont
7  *
8  * This program is free software; you can redistribute it and/or modify it
9  * under the terms of the GNU Lesser General Public License as published by
10  * the Free Software Foundation; either version 2.1 of the License, or
11  * (at your option) any later version.
12  *
13  * This program is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the
16  * GNU Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public License
19  * along with this program; if not, write to the Free Software Foundation,
20  * Inc., 51 Franklin Street, Fifth Floor, Boston MA 02110-1301, USA.
21  *****************************************************************************/
22
23 #ifdef HAVE_CONFIG_H
24 # include <config.h>
25 #endif
26
27 #include <stdlib.h>
28 #include <limits.h>
29 #include <assert.h>
30
31 #include <xcb/xcb.h>
32 #include <xcb/shm.h>
33 #include <xcb/xv.h>
34
35 #include <vlc_common.h>
36 #include <vlc_plugin.h>
37 #include <vlc_vout_display.h>
38 #include <vlc_picture_pool.h>
39 #include <vlc_dialog.h>
40
41 #include "pictures.h"
42 #include "events.h"
43
44 #define ADAPTOR_TEXT N_("XVideo adaptor number")
45 #define ADAPTOR_LONGTEXT N_( \
46     "XVideo hardware adaptor to use. By default, VLC will " \
47     "use the first functional adaptor.")
48
49 #define FORMAT_TEXT N_("XVideo format id")
50 #define FORMAT_LONGTEXT N_( \
51     "XVideo image format id to use. By default, VLC will " \
52     "try to use the best match for the video being played.")
53
54 static int  Open (vlc_object_t *);
55 static void Close (vlc_object_t *);
56 static int EnumAdaptors (vlc_object_t *, const char *, int64_t **, char ***);
57
58 /*
59  * Module descriptor
60  */
61 vlc_module_begin ()
62     set_shortname (N_("XVideo"))
63     set_description (N_("XVideo output (XCB)"))
64     set_category (CAT_VIDEO)
65     set_subcategory (SUBCAT_VIDEO_VOUT)
66     set_capability ("vout display", 200)
67     set_callbacks (Open, Close)
68
69     add_integer ("xvideo-adaptor", -1,
70                  ADAPTOR_TEXT, ADAPTOR_LONGTEXT, true)
71         change_integer_cb (EnumAdaptors)
72     add_integer ("xvideo-format-id", 0,
73                  FORMAT_TEXT, FORMAT_LONGTEXT, true)
74     add_obsolete_bool ("xvideo-shm") /* removed in 2.0.0 */
75     add_shortcut ("xcb-xv", "xv", "xvideo", "xid")
76 vlc_module_end ()
77
78 #define MAX_PICTURES (128)
79
80 struct vout_display_sys_t
81 {
82     xcb_connection_t *conn;
83     vout_window_t *embed;/* VLC window */
84
85     xcb_cursor_t cursor; /* blank cursor */
86     xcb_window_t window; /* drawable X window */
87     xcb_gcontext_t gc;   /* context to put images */
88     xcb_xv_port_t port;  /* XVideo port */
89     uint32_t id;         /* XVideo format */
90     uint16_t width;      /* display width */
91     uint16_t height;     /* display height */
92     uint32_t data_size;  /* picture byte size (for non-SHM) */
93     bool     swap_uv;    /* U/V pointer must be swapped in a picture */
94     bool shm;            /* whether to use MIT-SHM */
95     bool visible;        /* whether it makes sense to draw at all */
96
97     xcb_xv_query_image_attributes_reply_t *att;
98     picture_pool_t *pool; /* picture pool */
99 };
100
101 static picture_pool_t *Pool (vout_display_t *, unsigned);
102 static void Display (vout_display_t *, picture_t *, subpicture_t *subpicture);
103 static int Control (vout_display_t *, int, va_list);
104 static void Manage (vout_display_t *);
105
106 /**
107  * Check that the X server supports the XVideo extension.
108  */
109 static bool CheckXVideo (vout_display_t *vd, xcb_connection_t *conn)
110 {
111     xcb_xv_query_extension_reply_t *r;
112     xcb_xv_query_extension_cookie_t ck = xcb_xv_query_extension (conn);
113     bool ok = false;
114
115     /* We need XVideo 2.2 for PutImage */
116     r = xcb_xv_query_extension_reply (conn, ck, NULL);
117     if (r == NULL)
118         msg_Dbg (vd, "XVideo extension not available");
119     else
120     if (r->major != 2)
121         msg_Dbg (vd, "XVideo extension v%"PRIu8".%"PRIu8" unknown",
122                  r->major, r->minor);
123     else
124     if (r->minor < 2)
125         msg_Dbg (vd, "XVideo extension v%"PRIu8".%"PRIu8" too old",
126                  r->major, r->minor);
127     else
128     {
129         msg_Dbg (vd, "using XVideo extension v%"PRIu8".%"PRIu8,
130                  r->major, r->minor);
131         ok = true;
132     }
133     free (r);
134     return ok;
135 }
136
137 static vlc_fourcc_t ParseFormat (vlc_object_t *obj,
138                                  const xcb_xv_image_format_info_t *restrict f)
139 {
140     switch (f->type)
141     {
142       case XCB_XV_IMAGE_FORMAT_INFO_TYPE_RGB:
143         switch (f->num_planes)
144         {
145           case 1:
146             switch (popcount (f->red_mask | f->green_mask | f->blue_mask))
147             {
148               case 24:
149                 if (f->bpp == 32 && f->depth == 32)
150                     return VLC_CODEC_ARGB;
151                 if (f->bpp == 32 && f->depth == 24)
152                     return VLC_CODEC_RGB32;
153                 if (f->bpp == 24 && f->depth == 24)
154                     return VLC_CODEC_RGB24;
155                 break;
156               case 16:
157                 if (f->byte_order != ORDER)
158                     return 0; /* Mixed endian! */
159                 if (f->bpp == 16 && f->depth == 16)
160                     return VLC_CODEC_RGB16;
161                 break;
162               case 15:
163                 if (f->byte_order != ORDER)
164                     return 0; /* Mixed endian! */
165                 if (f->bpp == 16 && f->depth == 16)
166                     return VLC_CODEC_RGBT;
167                 if (f->bpp == 16 && f->depth == 15)
168                     return VLC_CODEC_RGB15;
169                 break;
170               case 12:
171                 if (f->bpp == 16 && f->depth == 16)
172                     return VLC_CODEC_RGBA16;
173                 if (f->bpp == 16 && f->depth == 12)
174                     return VLC_CODEC_RGB12;
175               case 8:
176                 if (f->bpp == 8 && f->depth == 8)
177                     return VLC_CODEC_RGB8;
178                 break;
179             }
180             break;
181         }
182         msg_Err (obj, "unknown XVideo RGB format %"PRIx32" (%.4s)",
183                  f->id, f->guid);
184         msg_Dbg (obj, " %"PRIu8" planes, %"PRIu8" bits/pixel, "
185                  "depth %"PRIu8, f->num_planes, f->bpp, f->depth);
186         break;
187
188       case XCB_XV_IMAGE_FORMAT_INFO_TYPE_YUV:
189         if (f->u_sample_bits != f->v_sample_bits
190          || f->vhorz_u_period != f->vhorz_v_period
191          || f->vvert_u_period != f->vvert_v_period
192          || f->y_sample_bits != 8 || f->u_sample_bits != 8
193          || f->vhorz_y_period != 1 || f->vvert_y_period != 1)
194             goto bad;
195         switch (f->num_planes)
196         {
197           case 1:
198             switch (f->bpp)
199             {
200               /*untested: case 24:
201                 if (f->vhorz_u_period == 1 && f->vvert_u_period == 1)
202                     return VLC_CODEC_I444;
203                 break;*/
204               case 16:
205                 if (f->vhorz_u_period == 2 && f->vvert_u_period == 1)
206                 {
207                     if (!strcmp ((const char *)f->vcomp_order, "YUYV"))
208                         return VLC_CODEC_YUYV;
209                     if (!strcmp ((const char *)f->vcomp_order, "UYVY"))
210                         return VLC_CODEC_UYVY;
211                 }
212                 break;
213             }
214             break;
215           case 3:
216             switch (f->bpp)
217             {
218               case 12:
219                 if (f->vhorz_u_period == 2 && f->vvert_u_period == 2)
220                 {
221                     if (!strcmp ((const char *)f->vcomp_order, "YVU"))
222                         return VLC_CODEC_YV12;
223                     if (!strcmp ((const char *)f->vcomp_order, "YUV"))
224                         return VLC_CODEC_I420;
225                 }
226             }
227             break;
228         }
229     bad:
230         msg_Err (obj, "unknown XVideo YUV format %"PRIx32" (%.4s)", f->id,
231                  f->guid);
232         msg_Dbg (obj, " %"PRIu8" planes, %"PRIu32" bits/pixel, "
233                  "%"PRIu32"/%"PRIu32"/%"PRIu32" bits/sample", f->num_planes,
234                  f->bpp, f->y_sample_bits, f->u_sample_bits, f->v_sample_bits);
235         msg_Dbg (obj, " period: %"PRIu32"/%"PRIu32"/%"PRIu32"x"
236                  "%"PRIu32"/%"PRIu32"/%"PRIu32,
237                  f->vhorz_y_period, f->vhorz_u_period, f->vhorz_v_period,
238                  f->vvert_y_period, f->vvert_u_period, f->vvert_v_period);
239         msg_Warn (obj, " order: %.32s", f->vcomp_order);
240         break;
241     }
242     return 0;
243 }
244
245 static bool BetterFormat (vlc_fourcc_t a, const vlc_fourcc_t *tab,
246                           unsigned *rankp)
247 {
248     for (unsigned i = 0, max = *rankp; i < max && tab[i] != 0; i++)
249         if (tab[i] == a)
250         {
251             *rankp = i;
252             return true;
253         }
254     return false;
255 }
256
257 static xcb_xv_query_image_attributes_reply_t *
258 FindFormat (vlc_object_t *obj, xcb_connection_t *conn, video_format_t *fmt,
259             const xcb_xv_adaptor_info_t *a, uint32_t *idp)
260 {
261     /* Order chromas by preference */
262     vlc_fourcc_t tab[7];
263     const vlc_fourcc_t *chromav = tab;
264
265     vlc_fourcc_t chroma = var_InheritInteger (obj, "xvideo-format-id");
266     if (chroma != 0) /* Forced chroma */
267     {
268         tab[0] = chroma;
269         tab[1] = 0;
270     }
271     else if (vlc_fourcc_IsYUV (fmt->i_chroma)) /* YUV chroma */
272     {
273         chromav = vlc_fourcc_GetYUVFallback (fmt->i_chroma);
274     }
275     else /* RGB chroma */
276     {
277         tab[0] = fmt->i_chroma;
278         tab[1] = VLC_CODEC_RGB32;
279         tab[2] = VLC_CODEC_RGB24;
280         tab[3] = VLC_CODEC_RGB16;
281         tab[4] = VLC_CODEC_RGB15;
282         tab[5] = VLC_CODEC_YUYV;
283         tab[6] = 0;
284     }
285
286     /* Get available image formats */
287     xcb_xv_list_image_formats_reply_t *list =
288         xcb_xv_list_image_formats_reply (conn,
289             xcb_xv_list_image_formats (conn, a->base_id), NULL);
290     if (list == NULL)
291         return NULL;
292
293     /* Check available XVideo chromas */
294     xcb_xv_query_image_attributes_reply_t *attr = NULL;
295     unsigned rank = UINT_MAX;
296
297     for (const xcb_xv_image_format_info_t *f =
298              xcb_xv_list_image_formats_format (list),
299                                           *f_end =
300              f + xcb_xv_list_image_formats_format_length (list);
301          f < f_end;
302          f++)
303     {
304         chroma = ParseFormat (obj, f);
305         if (chroma == 0)
306             continue;
307
308         /* Oink oink! */
309         if ((chroma == VLC_CODEC_I420 || chroma == VLC_CODEC_YV12)
310          && a->name_size >= 4
311          && !memcmp ("OMAP", xcb_xv_adaptor_info_name (a), 4))
312         {
313             msg_Dbg (obj, "skipping slow I420 format");
314             continue; /* OMAP framebuffer sucks at YUV 4:2:0 */
315         }
316
317         if (!BetterFormat (chroma, chromav, &rank))
318             continue;
319
320         /* VLC pads scanline to 16 pixels internally */
321         unsigned width = (fmt->i_width + 31) & ~31;
322         unsigned height = (fmt->i_height + 15) & ~15;
323         xcb_xv_query_image_attributes_reply_t *i;
324         i = xcb_xv_query_image_attributes_reply (conn,
325             xcb_xv_query_image_attributes (conn, a->base_id, f->id,
326                                            width, height), NULL);
327         if (i == NULL)
328             continue;
329
330         if (i->width != width || i->height != height)
331         {
332             msg_Warn (obj, "incompatible size %ux%u -> %"PRIu32"x%"PRIu32,
333                       fmt->i_width, fmt->i_height,
334                       i->width, i->height);
335             var_Create (obj->p_libvlc, "xvideo-res-error", VLC_VAR_BOOL);
336             if (!var_GetBool (obj->p_libvlc, "xvideo-res-error"))
337             {
338                 dialog_FatalWait (obj, _("Video acceleration not available"),
339                     _("The XVideo rendering acceleration driver does not "
340                       "support the required resolution of %ux%u pixels but "
341                       "%"PRIu32"x%"PRIu32" pixels instead.\n"
342                       "Acceleration will thus be disabled. Performance may "
343                       "be degraded severely if the resolution is large."),
344                                   width, height, i->width, i->height);
345                 var_SetBool (obj->p_libvlc, "xvideo-res-error", true);
346             }
347             free (i);
348             continue;
349         }
350
351         fmt->i_chroma = chroma;
352         if (f->type == XCB_XV_IMAGE_FORMAT_INFO_TYPE_RGB)
353         {
354             fmt->i_rmask = f->red_mask;
355             fmt->i_gmask = f->green_mask;
356             fmt->i_bmask = f->blue_mask;
357         }
358         *idp = f->id;
359         free (attr);
360         attr = i;
361         if (rank == 0)
362             break; /* shortcut for perfect match */
363     }
364
365     free (list);
366     return attr;
367 }
368
369
370 /**
371  * Probe the X server.
372  */
373 static int Open (vlc_object_t *obj)
374 {
375     vout_display_t *vd = (vout_display_t *)obj;
376     vout_display_sys_t *p_sys;
377
378     if (!var_InheritBool (obj, "overlay"))
379         return VLC_EGENERIC;
380     p_sys = malloc (sizeof (*p_sys));
381     if (p_sys == NULL)
382         return VLC_ENOMEM;
383
384     vd->sys = p_sys;
385
386     /* Connect to X */
387     xcb_connection_t *conn;
388     const xcb_screen_t *screen;
389     uint16_t width, height;
390     p_sys->embed = XCB_parent_Create (vd, &conn, &screen, &width, &height);
391     if (p_sys->embed == NULL)
392     {
393         free (p_sys);
394         return VLC_EGENERIC;
395     }
396
397     p_sys->conn = conn;
398     p_sys->att = NULL;
399     p_sys->pool = NULL;
400
401     if (!CheckXVideo (vd, conn))
402     {
403         msg_Warn (vd, "Please enable XVideo 2.2 for faster video display");
404         goto error;
405     }
406
407     p_sys->window = xcb_generate_id (conn);
408     xcb_pixmap_t pixmap = xcb_generate_id (conn);
409
410     /* Cache adaptors infos */
411     xcb_xv_query_adaptors_reply_t *adaptors =
412         xcb_xv_query_adaptors_reply (conn,
413             xcb_xv_query_adaptors (conn, p_sys->embed->handle.xid), NULL);
414     if (adaptors == NULL)
415         goto error;
416
417     int adaptor_selected = var_InheritInteger (obj, "xvideo-adaptor");
418     int adaptor_current = -1;
419
420     /* */
421     video_format_t fmt;
422     vout_display_place_t place;
423
424     p_sys->port = 0;
425     vout_display_PlacePicture (&place, &vd->source, vd->cfg, false);
426     p_sys->width  = place.width;
427     p_sys->height = place.height;
428
429     xcb_xv_adaptor_info_iterator_t it;
430     for (it = xcb_xv_query_adaptors_info_iterator (adaptors);
431          it.rem > 0;
432          xcb_xv_adaptor_info_next (&it))
433     {
434         const xcb_xv_adaptor_info_t *a = it.data;
435
436         adaptor_current++;
437         if (adaptor_selected != -1 && adaptor_selected != adaptor_current)
438             continue;
439         if (!(a->type & XCB_XV_TYPE_INPUT_MASK)
440          || !(a->type & XCB_XV_TYPE_IMAGE_MASK))
441             continue;
442
443         /* Look for an image format */
444         video_format_ApplyRotation(&fmt, &vd->fmt);
445         free (p_sys->att);
446         p_sys->att = FindFormat (obj, conn, &fmt, a, &p_sys->id);
447         if (p_sys->att == NULL) /* No acceptable image formats */
448             continue;
449
450         /* Grab a port */
451         for (unsigned i = 0; i < a->num_ports; i++)
452         {
453              xcb_xv_port_t port = a->base_id + i;
454              xcb_xv_grab_port_reply_t *gr =
455                  xcb_xv_grab_port_reply (conn,
456                      xcb_xv_grab_port (conn, port, XCB_CURRENT_TIME), NULL);
457              uint8_t result = gr ? gr->result : 0xff;
458
459              free (gr);
460              if (result == 0)
461              {
462                  p_sys->port = port;
463                  goto grabbed_port;
464              }
465              msg_Dbg (vd, "cannot grab port %"PRIu32": Xv error %"PRIu8, port,
466                       result);
467         }
468         continue; /* No usable port */
469
470     grabbed_port:
471         /* Found port - initialize selected format */
472         msg_Dbg (vd, "using adaptor %.*s", (int)a->name_size,
473                  xcb_xv_adaptor_info_name (a));
474         msg_Dbg (vd, "using port %"PRIu32, p_sys->port);
475         msg_Dbg (vd, "using image format 0x%"PRIx32, p_sys->id);
476
477         /* Look for an X11 visual, create a window */
478         xcb_xv_format_t *f = xcb_xv_adaptor_info_formats (a);
479         for (uint_fast16_t i = a->num_formats; i > 0; i--, f++)
480         {
481             if (f->depth != screen->root_depth)
482                 continue; /* this would fail anyway */
483
484             uint32_t mask =
485                 XCB_CW_BACK_PIXMAP |
486                 XCB_CW_BACK_PIXEL |
487                 XCB_CW_BORDER_PIXMAP |
488                 XCB_CW_BORDER_PIXEL |
489                 XCB_CW_EVENT_MASK |
490                 XCB_CW_COLORMAP;
491             const uint32_t list[] = {
492                 /* XCB_CW_BACK_PIXMAP */
493                 pixmap,
494                 /* XCB_CW_BACK_PIXEL */
495                 screen->black_pixel,
496                 /* XCB_CW_BORDER_PIXMAP */
497                 pixmap,
498                 /* XCB_CW_BORDER_PIXEL */
499                 screen->black_pixel,
500                 /* XCB_CW_EVENT_MASK */
501                 XCB_EVENT_MASK_VISIBILITY_CHANGE,
502                 /* XCB_CW_COLORMAP */
503                 screen->default_colormap,
504             };
505             xcb_void_cookie_t c;
506
507             xcb_create_pixmap (conn, f->depth, pixmap, screen->root, 1, 1);
508             c = xcb_create_window_checked (conn, f->depth, p_sys->window,
509                  p_sys->embed->handle.xid, place.x, place.y,
510                  place.width, place.height, 0, XCB_WINDOW_CLASS_INPUT_OUTPUT,
511                  f->visual, mask, list);
512             xcb_map_window (conn, p_sys->window);
513
514             if (!XCB_error_Check (vd, conn, "cannot create X11 window", c))
515             {
516                 msg_Dbg (vd, "using X11 visual ID 0x%"PRIx32
517                          " (depth: %"PRIu8")", f->visual, f->depth);
518                 msg_Dbg (vd, "using X11 window 0x%08"PRIx32, p_sys->window);
519                 goto created_window;
520             }
521         }
522         xcb_xv_ungrab_port (conn, p_sys->port, XCB_CURRENT_TIME);
523         p_sys->port = 0;
524         msg_Dbg (vd, "no usable X11 visual");
525         continue; /* No workable XVideo format (visual/depth) */
526
527     created_window:
528         break;
529     }
530     free (adaptors);
531     if (!p_sys->port)
532     {
533         msg_Err (vd, "no available XVideo adaptor");
534         goto error;
535     }
536
537     /* Create graphic context */
538     p_sys->gc = xcb_generate_id (conn);
539     xcb_create_gc (conn, p_sys->gc, p_sys->window, 0, NULL);
540     msg_Dbg (vd, "using X11 graphic context 0x%08"PRIx32, p_sys->gc);
541
542     /* Disable color keying if applicable */
543     {
544         xcb_intern_atom_reply_t *r =
545             xcb_intern_atom_reply (conn,
546                 xcb_intern_atom (conn, 1, 21, "XV_AUTOPAINT_COLORKEY"), NULL);
547         if (r != NULL && r->atom != 0)
548             xcb_xv_set_port_attribute(conn, p_sys->port, r->atom, 1);
549         free(r);
550     }
551
552     /* Colour space */
553     {
554         xcb_intern_atom_reply_t *r =
555             xcb_intern_atom_reply (conn,
556                 xcb_intern_atom (conn, 1, 13, "XV_ITURBT_709"), NULL);
557         if (r != NULL && r->atom != 0)
558             xcb_xv_set_port_attribute(conn, p_sys->port, r->atom,
559                                       fmt.i_height > 576);
560         free(r);
561     }
562
563     /* Create cursor */
564     p_sys->cursor = XCB_cursor_Create (conn, screen);
565
566     p_sys->shm = XCB_shm_Check (obj, conn);
567     p_sys->visible = false;
568
569     /* */
570     vout_display_info_t info = vd->info;
571     info.has_pictures_invalid = false;
572     info.has_event_thread = true;
573
574     /* Setup vout_display_t once everything is fine */
575     p_sys->swap_uv = vlc_fourcc_AreUVPlanesSwapped (fmt.i_chroma,
576                                                     vd->fmt.i_chroma);
577     if (p_sys->swap_uv)
578         fmt.i_chroma = vd->fmt.i_chroma;
579     vd->fmt = fmt;
580     vd->info = info;
581
582     vd->pool = Pool;
583     vd->prepare = NULL;
584     vd->display = Display;
585     vd->control = Control;
586     vd->manage = Manage;
587
588     /* */
589     bool is_fullscreen = vd->cfg->is_fullscreen;
590     if (is_fullscreen && vout_window_SetFullScreen (p_sys->embed, true))
591         is_fullscreen = false;
592     vout_display_SendEventFullscreen (vd, is_fullscreen);
593     vout_display_SendEventDisplaySize (vd, width, height, is_fullscreen);
594
595     return VLC_SUCCESS;
596
597 error:
598     Close (obj);
599     return VLC_EGENERIC;
600 }
601
602
603 /**
604  * Disconnect from the X server.
605  */
606 static void Close (vlc_object_t *obj)
607 {
608     vout_display_t *vd = (vout_display_t *)obj;
609     vout_display_sys_t *p_sys = vd->sys;
610
611     if (p_sys->pool)
612         picture_pool_Delete (p_sys->pool);
613
614     /* show the default cursor */
615     xcb_change_window_attributes (p_sys->conn, p_sys->embed->handle.xid, XCB_CW_CURSOR,
616                                   &(uint32_t) { XCB_CURSOR_NONE });
617     xcb_flush (p_sys->conn);
618
619     free (p_sys->att);
620     xcb_disconnect (p_sys->conn);
621     vout_display_DeleteWindow (vd, p_sys->embed);
622     free (p_sys);
623 }
624
625 static void PoolAlloc (vout_display_t *vd, unsigned requested_count)
626 {
627     vout_display_sys_t *p_sys = vd->sys;
628
629     const uint32_t *pitches= xcb_xv_query_image_attributes_pitches (p_sys->att);
630     const uint32_t *offsets= xcb_xv_query_image_attributes_offsets (p_sys->att);
631     const unsigned num_planes= __MIN(p_sys->att->num_planes, PICTURE_PLANE_MAX);
632     p_sys->data_size = p_sys->att->data_size;
633
634     picture_resource_t res = { NULL };
635     for (unsigned i = 0; i < num_planes; i++)
636     {
637         uint32_t data_size;
638         data_size = (i < num_planes - 1) ? offsets[i+1] : p_sys->data_size;
639
640         res.p[i].i_lines = (data_size - offsets[i]) / pitches[i];
641         res.p[i].i_pitch = pitches[i];
642     }
643
644     picture_t *pic_array[MAX_PICTURES];
645     requested_count = __MIN(requested_count, MAX_PICTURES);
646
647     unsigned count;
648     for (count = 0; count < requested_count; count++)
649     {
650         xcb_shm_seg_t seg = p_sys->shm ? xcb_generate_id (p_sys->conn) : 0;
651
652         if (XCB_picture_Alloc (vd, &res, p_sys->data_size, p_sys->conn, seg))
653             break;
654
655         /* Allocate further planes as specified by XVideo */
656         /* We assume that offsets[0] is zero */
657         for (unsigned i = 1; i < num_planes; i++)
658             res.p[i].p_pixels = res.p[0].p_pixels + offsets[i];
659
660         if (p_sys->swap_uv)
661         {   /* YVU: swap U and V planes */
662             uint8_t *buf = res.p[2].p_pixels;
663             res.p[2].p_pixels = res.p[1].p_pixels;
664             res.p[1].p_pixels = buf;
665         }
666
667         pic_array[count] = XCB_picture_NewFromResource (&vd->fmt, &res);
668         if (unlikely(pic_array[count] == NULL))
669             break;
670     }
671     xcb_flush (p_sys->conn);
672
673     if (count == 0)
674         return;
675
676     p_sys->pool = picture_pool_New (count, pic_array);
677     if (unlikely(p_sys->pool == NULL))
678         while (count > 0)
679             picture_Release(pic_array[--count]);
680 }
681
682 /**
683  * Return a direct buffer
684  */
685 static picture_pool_t *Pool (vout_display_t *vd, unsigned requested_count)
686 {
687     vout_display_sys_t *p_sys = vd->sys;
688
689     if (!p_sys->pool)
690         PoolAlloc (vd, requested_count);
691
692     return p_sys->pool;
693 }
694
695 /**
696  * Sends an image to the X server.
697  */
698 static void Display (vout_display_t *vd, picture_t *pic, subpicture_t *subpicture)
699 {
700     vout_display_sys_t *p_sys = vd->sys;
701     xcb_shm_seg_t segment = XCB_picture_GetSegment(pic);
702     xcb_void_cookie_t ck;
703
704     if (!p_sys->visible)
705         goto out;
706     if (segment)
707         ck = xcb_xv_shm_put_image_checked (p_sys->conn, p_sys->port,
708                               p_sys->window, p_sys->gc, segment, p_sys->id, 0,
709                    /* Src: */ vd->fmt.i_x_offset,
710                               vd->fmt.i_y_offset,
711                               vd->fmt.i_visible_width,
712                               vd->fmt.i_visible_height,
713                    /* Dst: */ 0, 0, p_sys->width, p_sys->height,
714                 /* Memory: */ pic->p->i_pitch / pic->p->i_pixel_pitch,
715                               pic->p->i_lines, false);
716     else
717         ck = xcb_xv_put_image_checked (p_sys->conn, p_sys->port, p_sys->window,
718                           p_sys->gc, p_sys->id,
719                           vd->fmt.i_x_offset,
720                           vd->fmt.i_y_offset,
721                           vd->fmt.i_visible_width,
722                           vd->fmt.i_visible_height,
723                           0, 0, p_sys->width, p_sys->height,
724                           pic->p->i_pitch / pic->p->i_pixel_pitch,
725                           pic->p->i_lines,
726                           p_sys->data_size, pic->p->p_pixels);
727
728     /* Wait for reply. See x11.c for rationale. */
729     xcb_generic_error_t *e = xcb_request_check (p_sys->conn, ck);
730     if (e != NULL)
731     {
732         msg_Dbg (vd, "%s: X11 error %d", "cannot put image", e->error_code);
733         free (e);
734     }
735 out:
736     picture_Release (pic);
737     (void)subpicture;
738 }
739
740 static int Control (vout_display_t *vd, int query, va_list ap)
741 {
742     vout_display_sys_t *p_sys = vd->sys;
743
744     switch (query)
745     {
746     case VOUT_DISPLAY_CHANGE_FULLSCREEN:
747     {
748         const vout_display_cfg_t *c = va_arg (ap, const vout_display_cfg_t *);
749         return vout_window_SetFullScreen (p_sys->embed, c->is_fullscreen);
750     }
751
752     case VOUT_DISPLAY_CHANGE_DISPLAY_SIZE:
753     case VOUT_DISPLAY_CHANGE_DISPLAY_FILLED:
754     case VOUT_DISPLAY_CHANGE_ZOOM:
755     case VOUT_DISPLAY_CHANGE_SOURCE_ASPECT:
756     case VOUT_DISPLAY_CHANGE_SOURCE_CROP:
757     {
758         const vout_display_cfg_t *cfg;
759         const video_format_t *source;
760
761         if (query == VOUT_DISPLAY_CHANGE_SOURCE_ASPECT
762          || query == VOUT_DISPLAY_CHANGE_SOURCE_CROP)
763         {
764             source = (const video_format_t *)va_arg (ap, const video_format_t *);
765             cfg = vd->cfg;
766         }
767         else
768         {
769             source = &vd->source;
770             cfg = (const vout_display_cfg_t*)va_arg (ap, const vout_display_cfg_t *);
771         }
772
773         if (query == VOUT_DISPLAY_CHANGE_DISPLAY_SIZE && va_arg (ap, int))
774         {
775             vout_window_SetSize (p_sys->embed,
776                                  cfg->display.width, cfg->display.height);
777             return VLC_EGENERIC; /* Always fail. See x11.c for rationale. */
778         }
779
780         vout_display_place_t place;
781         vout_display_PlacePicture (&place, source, cfg, false);
782         p_sys->width  = place.width;
783         p_sys->height = place.height;
784
785         /* Move the picture within the window */
786         const uint32_t values[] = { place.x, place.y,
787                                     place.width, place.height, };
788         xcb_configure_window (p_sys->conn, p_sys->window,
789                               XCB_CONFIG_WINDOW_X | XCB_CONFIG_WINDOW_Y
790                             | XCB_CONFIG_WINDOW_WIDTH | XCB_CONFIG_WINDOW_HEIGHT,
791                               values);
792         xcb_flush (p_sys->conn);
793         return VLC_SUCCESS;
794     }
795     case VOUT_DISPLAY_CHANGE_WINDOW_STATE:
796     {
797         unsigned state = va_arg (ap, unsigned);
798         return vout_window_SetState (p_sys->embed, state);
799     }
800
801     /* Hide the mouse. It will be send when
802      * vout_display_t::info.b_hide_mouse is false */
803     case VOUT_DISPLAY_HIDE_MOUSE:
804         xcb_change_window_attributes (p_sys->conn, p_sys->embed->handle.xid,
805                                   XCB_CW_CURSOR, &(uint32_t){ p_sys->cursor });
806         xcb_flush (p_sys->conn);
807         return VLC_SUCCESS;
808     case VOUT_DISPLAY_RESET_PICTURES:
809         assert(0);
810     default:
811         msg_Err (vd, "Unknown request in XCB vout display");
812         return VLC_EGENERIC;
813     }
814 }
815
816 static void Manage (vout_display_t *vd)
817 {
818     vout_display_sys_t *p_sys = vd->sys;
819
820     XCB_Manage (vd, p_sys->conn, &p_sys->visible);
821 }
822
823 static int EnumAdaptors (vlc_object_t *obj, const char *var,
824                          int64_t **vp, char ***tp)
825 {
826     size_t n = 0;
827
828     /* Connect to X */
829     char *display = var_InheritString (obj, "x11-display");
830     xcb_connection_t *conn;
831     int snum;
832
833     conn = xcb_connect (display, &snum);
834     free (display);
835     if (xcb_connection_has_error (conn) /*== NULL*/)
836         goto error;
837
838     /* Find configured screen */
839     const xcb_setup_t *setup = xcb_get_setup (conn);
840     const xcb_screen_t *scr = NULL;
841     for (xcb_screen_iterator_t i = xcb_setup_roots_iterator (setup);
842          i.rem > 0; xcb_screen_next (&i))
843     {
844         if (snum == 0)
845         {
846             scr = i.data;
847             break;
848         }
849         snum--;
850     }
851     if (scr == NULL)
852         goto error;
853
854     xcb_xv_query_adaptors_reply_t *adaptors =
855         xcb_xv_query_adaptors_reply (conn,
856             xcb_xv_query_adaptors (conn, scr->root), NULL);
857     if (adaptors == NULL)
858         goto error;
859
860     xcb_xv_adaptor_info_iterator_t it;
861
862     for (it = xcb_xv_query_adaptors_info_iterator (adaptors);
863          it.rem > 0;
864          xcb_xv_adaptor_info_next (&it))
865         n++;
866
867     int64_t *values = xmalloc ((n + 1) * sizeof (*values));
868     char **texts = xmalloc ((n + 1) * sizeof (*texts));
869     *vp = values;
870     *tp = texts;
871     n = 0;
872
873     *(values++) = -1;
874     *(texts++) = strdup (N_("Auto"));
875     n++;
876
877     for (it = xcb_xv_query_adaptors_info_iterator (adaptors);
878          it.rem > 0;
879          xcb_xv_adaptor_info_next (&it))
880     {
881         const xcb_xv_adaptor_info_t *a = it.data;
882
883         n++;
884
885         if (!(a->type & XCB_XV_TYPE_INPUT_MASK)
886          || !(a->type & XCB_XV_TYPE_IMAGE_MASK))
887             continue;
888
889         *(values++) = n - 2;
890         *(texts++) = strndup (xcb_xv_adaptor_info_name (a), a->name_size);
891     }
892     free (adaptors);
893 error:
894     xcb_disconnect (conn);
895     (void) obj; (void) var;
896     return n;
897 }