avutil/file_open: Use av_mallocz_array()
[ffmpeg.git] / libavutil / file_open.c
1 /*
2  * This file is part of FFmpeg.
3  *
4  * FFmpeg is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU Lesser General Public
6  * License as published by the Free Software Foundation; either
7  * version 2.1 of the License, or (at your option) any later version.
8  *
9  * FFmpeg is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
12  * Lesser General Public License for more details.
13  *
14  * You should have received a copy of the GNU Lesser General Public
15  * License along with FFmpeg; if not, write to the Free Software
16  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
17  */
18
19 #include "config.h"
20 #include "internal.h"
21 #include "mem.h"
22 #include <stdarg.h>
23 #include <fcntl.h>
24 #include <sys/stat.h>
25 #if HAVE_UNISTD_H
26 #include <unistd.h>
27 #endif
28 #if HAVE_IO_H
29 #include <io.h>
30 #endif
31
32 #if defined(_WIN32) && !defined(__MINGW32CE__)
33 #undef open
34 #undef lseek
35 #undef stat
36 #undef fstat
37 #include <windows.h>
38 #include <share.h>
39 #include <errno.h>
40
41 static int win32_open(const char *filename_utf8, int oflag, int pmode)
42 {
43     int fd;
44     int num_chars;
45     wchar_t *filename_w;
46
47     /* convert UTF-8 to wide chars */
48     num_chars = MultiByteToWideChar(CP_UTF8, MB_ERR_INVALID_CHARS, filename_utf8, -1, NULL, 0);
49     if (num_chars <= 0)
50         goto fallback;
51     filename_w = av_mallocz_array(num_chars, sizeof(wchar_t));
52     if (!filename_w) {
53         errno = ENOMEM;
54         return -1;
55     }
56     MultiByteToWideChar(CP_UTF8, 0, filename_utf8, -1, filename_w, num_chars);
57
58     fd = _wsopen(filename_w, oflag, SH_DENYNO, pmode);
59     av_freep(&filename_w);
60
61     if (fd != -1 || (oflag & O_CREAT))
62         return fd;
63
64 fallback:
65     /* filename may be in CP_ACP */
66     return _sopen(filename_utf8, oflag, SH_DENYNO, pmode);
67 }
68 #define open win32_open
69 #endif
70
71 int avpriv_open(const char *filename, int flags, ...)
72 {
73     int fd;
74     unsigned int mode = 0;
75     va_list ap;
76
77     va_start(ap, flags);
78     if (flags & O_CREAT)
79         mode = va_arg(ap, unsigned int);
80     va_end(ap);
81
82 #ifdef O_CLOEXEC
83     flags |= O_CLOEXEC;
84 #endif
85
86     fd = open(filename, flags, mode);
87 #if HAVE_FCNTL
88     if (fd != -1) {
89         if (fcntl(fd, F_SETFD, FD_CLOEXEC) == -1)
90             av_log(NULL, AV_LOG_DEBUG, "Failed to set close on exec\n");
91     }
92 #endif
93
94     return fd;
95 }
96
97 FILE *av_fopen_utf8(const char *path, const char *mode)
98 {
99     int fd;
100     int access;
101     const char *m = mode;
102
103     switch (*m++) {
104     case 'r': access = O_RDONLY; break;
105     case 'w': access = O_CREAT|O_WRONLY|O_TRUNC; break;
106     case 'a': access = O_CREAT|O_WRONLY|O_APPEND; break;
107     default :
108         errno = EINVAL;
109         return NULL;
110     }
111     while (*m) {
112         if (*m == '+') {
113             access &= ~(O_RDONLY | O_WRONLY);
114             access |= O_RDWR;
115         } else if (*m == 'b') {
116 #ifdef O_BINARY
117             access |= O_BINARY;
118 #endif
119         } else if (*m) {
120             errno = EINVAL;
121             return NULL;
122         }
123         m++;
124     }
125     fd = avpriv_open(path, access, 0666);
126     if (fd == -1)
127         return NULL;
128     return fdopen(fd, mode);
129 }