lavd/xv: add more supported formats
[ffmpeg.git] / libavdevice / xv.c
1 /*
2  * Copyright (c) 2013 Jeff Moguillansky
3  *
4  * This file is part of FFmpeg.
5  *
6  * FFmpeg is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * FFmpeg is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with FFmpeg; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 /**
22  * @file
23  * XVideo output device
24  *
25  * TODO:
26  * - add support to more formats
27  * - add support to window id specification
28  */
29
30 #include <X11/Xlib.h>
31 #include <X11/extensions/Xv.h>
32 #include <X11/extensions/XShm.h>
33 #include <X11/extensions/Xvlib.h>
34 #include <sys/shm.h>
35
36 #include "libavutil/opt.h"
37 #include "libavutil/pixdesc.h"
38 #include "libavutil/imgutils.h"
39 #include "avdevice.h"
40
41 typedef struct {
42     AVClass *class;
43     GC gc;
44
45     Window window;
46     char *window_title;
47     int window_width, window_height;
48     int window_x, window_y;
49
50     Display* display;
51     char *display_name;
52
53     XvImage* yuv_image;
54     enum AVPixelFormat image_format;
55     int image_width, image_height;
56     XShmSegmentInfo yuv_shminfo;
57     int xv_port;
58 } XVContext;
59
60 typedef struct XVTagFormatMap
61 {
62     int tag;
63     enum AVPixelFormat format;
64 } XVTagFormatMap;
65
66 static XVTagFormatMap tag_codec_map[] = {
67     { MKTAG('I','4','2','0'), AV_PIX_FMT_YUV420P },
68     { MKTAG('U','Y','V','Y'), AV_PIX_FMT_UYVY422 },
69     { MKTAG('Y','U','Y','2'), AV_PIX_FMT_YUYV422 },
70     { 0,                      AV_PIX_FMT_NONE }
71 };
72
73 static int xv_get_tag_from_format(enum AVPixelFormat format)
74 {
75     XVTagFormatMap *m = tag_codec_map;
76     int i;
77     for (i = 0; m->tag; m = &tag_codec_map[++i]) {
78         if (m->format == format)
79             return m->tag;
80     }
81     return 0;
82 }
83
84 static int xv_write_header(AVFormatContext *s)
85 {
86     XVContext *xv = s->priv_data;
87     unsigned int num_adaptors;
88     XvAdaptorInfo *ai;
89     XvImageFormatValues *fv;
90     int num_formats = 0, j, tag;
91     AVCodecContext *encctx = s->streams[0]->codec;
92
93     if (   s->nb_streams > 1
94         || encctx->codec_type != AVMEDIA_TYPE_VIDEO
95         || encctx->codec_id   != AV_CODEC_ID_RAWVIDEO) {
96         av_log(s, AV_LOG_ERROR, "Only supports one rawvideo stream\n");
97         return AVERROR(EINVAL);
98     }
99
100     if (!(tag = xv_get_tag_from_format(encctx->pix_fmt))) {
101         av_log(s, AV_LOG_ERROR,
102                "Unsupported pixel format '%s', only yuv420p, uyvy422, yuyv422 are currently supported\n",
103                av_get_pix_fmt_name(encctx->pix_fmt));
104         return AVERROR_PATCHWELCOME;
105     }
106     xv->image_format = encctx->pix_fmt;
107
108     xv->display = XOpenDisplay(xv->display_name);
109     if (!xv->display) {
110         av_log(s, AV_LOG_ERROR, "Could not open the X11 display '%s'\n", xv->display_name);
111         return AVERROR(EINVAL);
112     }
113
114     xv->image_width  = encctx->width;
115     xv->image_height = encctx->height;
116     if (!xv->window_width && !xv->window_height) {
117         xv->window_width  = encctx->width;
118         xv->window_height = encctx->height;
119     }
120     xv->window = XCreateSimpleWindow(xv->display, DefaultRootWindow(xv->display),
121                                      xv->window_x, xv->window_y,
122                                      xv->window_width, xv->window_height,
123                                      0, 0, 0);
124     if (!xv->window_title) {
125         if (!(xv->window_title = av_strdup(s->filename)))
126             return AVERROR(ENOMEM);
127     }
128     XStoreName(xv->display, xv->window, xv->window_title);
129     XMapWindow(xv->display, xv->window);
130
131     if (XvQueryAdaptors(xv->display, DefaultRootWindow(xv->display), &num_adaptors, &ai) != Success)
132         return AVERROR_EXTERNAL;
133     xv->xv_port = ai[0].base_id;
134     XvFreeAdaptorInfo(ai);
135
136     fv = XvListImageFormats(xv->display, xv->xv_port, &num_formats);
137     if (!fv)
138         return AVERROR_EXTERNAL;
139     for (j = 0; j < num_formats; j++) {
140         if (fv[j].id == tag) {
141             break;
142         }
143     }
144     XFree(fv);
145
146     if (j >= num_formats) {
147         av_log(s, AV_LOG_ERROR,
148                "Device does not support pixel format %s, aborting\n",
149                av_get_pix_fmt_name(encctx->pix_fmt));
150         return AVERROR(EINVAL);
151     }
152
153     xv->gc = XCreateGC(xv->display, xv->window, 0, 0);
154     xv->image_width  = encctx->width;
155     xv->image_height = encctx->height;
156     xv->yuv_image = XvShmCreateImage(xv->display, xv->xv_port, tag, 0,
157                                      xv->image_width, xv->image_height, &xv->yuv_shminfo);
158     xv->yuv_shminfo.shmid = shmget(IPC_PRIVATE, xv->yuv_image->data_size,
159                                    IPC_CREAT | 0777);
160     xv->yuv_shminfo.shmaddr = (char *)shmat(xv->yuv_shminfo.shmid, 0, 0);
161     xv->yuv_image->data = xv->yuv_shminfo.shmaddr;
162     xv->yuv_shminfo.readOnly = False;
163
164     XShmAttach(xv->display, &xv->yuv_shminfo);
165     XSync(xv->display, False);
166     shmctl(xv->yuv_shminfo.shmid, IPC_RMID, 0);
167
168     return 0;
169 }
170
171 static int xv_write_packet(AVFormatContext *s, AVPacket *pkt)
172 {
173     XVContext *xv = s->priv_data;
174     XvImage *img = xv->yuv_image;
175     XWindowAttributes window_attrs;
176     AVPicture pict;
177     AVCodecContext *ctx = s->streams[0]->codec;
178     uint8_t *data[3] = {
179         img->data + img->offsets[0],
180         img->data + img->offsets[1],
181         img->data + img->offsets[2]
182     };
183
184     avpicture_fill(&pict, pkt->data, ctx->pix_fmt, ctx->width, ctx->height);
185     av_image_copy(data, img->pitches, (const uint8_t **)pict.data, pict.linesize,
186                   xv->image_format, img->width, img->height);
187
188     XGetWindowAttributes(xv->display, xv->window, &window_attrs);
189     if (XvShmPutImage(xv->display, xv->xv_port, xv->window, xv->gc,
190                       xv->yuv_image, 0, 0, xv->image_width, xv->image_height, 0, 0,
191                       window_attrs.width, window_attrs.height, True) != Success) {
192         av_log(s, AV_LOG_ERROR, "Could not copy image to XV shared memory buffer\n");
193         return AVERROR_EXTERNAL;
194     }
195     return 0;
196 }
197
198 static int xv_write_trailer(AVFormatContext *s)
199 {
200     XVContext *xv = s->priv_data;
201
202     XShmDetach(xv->display, &xv->yuv_shminfo);
203     shmdt(xv->yuv_image->data);
204     XFree(xv->yuv_image);
205     XFreeGC(xv->display, xv->gc);
206     XCloseDisplay(xv->display);
207     return 0;
208 }
209
210 #define OFFSET(x) offsetof(XVContext, x)
211 static const AVOption options[] = {
212     { "display_name", "set display name",       OFFSET(display_name), AV_OPT_TYPE_STRING, {.str = NULL }, 0, 0, AV_OPT_FLAG_ENCODING_PARAM },
213     { "window_size",  "set window forced size", OFFSET(window_width), AV_OPT_TYPE_IMAGE_SIZE, {.str = NULL}, 0, 0, AV_OPT_FLAG_ENCODING_PARAM },
214     { "window_title", "set window title",       OFFSET(window_title), AV_OPT_TYPE_STRING, {.str = NULL }, 0, 0, AV_OPT_FLAG_ENCODING_PARAM },
215     { "window_x",     "set window x offset",    OFFSET(window_x),     AV_OPT_TYPE_INT,    {.i64 = 0 }, -INT_MAX, INT_MAX, AV_OPT_FLAG_ENCODING_PARAM },
216     { "window_y",     "set window y offset",    OFFSET(window_y),     AV_OPT_TYPE_INT,    {.i64 = 0 }, -INT_MAX, INT_MAX, AV_OPT_FLAG_ENCODING_PARAM },
217     { NULL }
218
219 };
220
221 static const AVClass xv_class = {
222     .class_name = "xvideo outdev",
223     .item_name  = av_default_item_name,
224     .option     = options,
225     .version    = LIBAVUTIL_VERSION_INT,
226 };
227
228 AVOutputFormat ff_xv_muxer = {
229     .name           = "xv",
230     .long_name      = NULL_IF_CONFIG_SMALL("XV (XVideo) output device"),
231     .priv_data_size = sizeof(XVContext),
232     .audio_codec    = AV_CODEC_ID_NONE,
233     .video_codec    = AV_CODEC_ID_RAWVIDEO,
234     .write_header   = xv_write_header,
235     .write_packet   = xv_write_packet,
236     .write_trailer  = xv_write_trailer,
237     .flags          = AVFMT_NOFILE | AVFMT_VARIABLE_FPS | AVFMT_NOTIMESTAMPS,
238     .priv_class     = &xv_class,
239 };