lavf: split tls.c
[ffmpeg.git] / libavformat / tls_openssl.c
1 /*
2  * TLS/SSL Protocol
3  * Copyright (c) 2011 Martin Storsjo
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "avformat.h"
23 #include "internal.h"
24 #include "network.h"
25 #include "os_support.h"
26 #include "url.h"
27 #include "tls.h"
28 #include "libavutil/avstring.h"
29 #include "libavutil/opt.h"
30 #include "libavutil/parseutils.h"
31
32 #include <openssl/bio.h>
33 #include <openssl/ssl.h>
34 #include <openssl/err.h>
35
36 typedef struct TLSContext {
37     const AVClass *class;
38     TLSShared tls_shared;
39     SSL_CTX *ctx;
40     SSL *ssl;
41 } TLSContext;
42
43 static int print_tls_error(URLContext *h, int ret)
44 {
45     av_log(h, AV_LOG_ERROR, "%s\n", ERR_error_string(ERR_get_error(), NULL));
46     return AVERROR(EIO);
47 }
48
49 static int tls_close(URLContext *h)
50 {
51     TLSContext *c = h->priv_data;
52     if (c->ssl) {
53         SSL_shutdown(c->ssl);
54         SSL_free(c->ssl);
55     }
56     if (c->ctx)
57         SSL_CTX_free(c->ctx);
58     if (c->tls_shared.tcp)
59         ffurl_close(c->tls_shared.tcp);
60     ff_tls_deinit();
61     return 0;
62 }
63
64 static int url_bio_create(BIO *b)
65 {
66     b->init = 1;
67     b->ptr = NULL;
68     b->flags = 0;
69     return 1;
70 }
71
72 static int url_bio_destroy(BIO *b)
73 {
74     return 1;
75 }
76
77 static int url_bio_bread(BIO *b, char *buf, int len)
78 {
79     URLContext *h = b->ptr;
80     int ret = ffurl_read(h, buf, len);
81     if (ret >= 0)
82         return ret;
83     BIO_clear_retry_flags(b);
84     if (ret == AVERROR_EXIT)
85         return 0;
86     return -1;
87 }
88
89 static int url_bio_bwrite(BIO *b, const char *buf, int len)
90 {
91     URLContext *h = b->ptr;
92     int ret = ffurl_write(h, buf, len);
93     if (ret >= 0)
94         return ret;
95     BIO_clear_retry_flags(b);
96     if (ret == AVERROR_EXIT)
97         return 0;
98     return -1;
99 }
100
101 static long url_bio_ctrl(BIO *b, int cmd, long num, void *ptr)
102 {
103     if (cmd == BIO_CTRL_FLUSH) {
104         BIO_clear_retry_flags(b);
105         return 1;
106     }
107     return 0;
108 }
109
110 static int url_bio_bputs(BIO *b, const char *str)
111 {
112     return url_bio_bwrite(b, str, strlen(str));
113 }
114
115 static BIO_METHOD url_bio_method = {
116     .type = BIO_TYPE_SOURCE_SINK,
117     .name = "urlprotocol bio",
118     .bwrite = url_bio_bwrite,
119     .bread = url_bio_bread,
120     .bputs = url_bio_bputs,
121     .bgets = NULL,
122     .ctrl = url_bio_ctrl,
123     .create = url_bio_create,
124     .destroy = url_bio_destroy,
125 };
126
127 static int tls_open(URLContext *h, const char *uri, int flags, AVDictionary **options)
128 {
129     TLSContext *p = h->priv_data;
130     TLSShared *c = &p->tls_shared;
131     BIO *bio;
132     int ret;
133
134     ff_tls_init();
135
136     if ((ret = ff_tls_open_underlying(c, h, uri, options)) < 0)
137         goto fail;
138
139     p->ctx = SSL_CTX_new(c->listen ? TLSv1_server_method() : TLSv1_client_method());
140     if (!p->ctx) {
141         av_log(h, AV_LOG_ERROR, "%s\n", ERR_error_string(ERR_get_error(), NULL));
142         ret = AVERROR(EIO);
143         goto fail;
144     }
145     if (c->ca_file)
146         SSL_CTX_load_verify_locations(p->ctx, c->ca_file, NULL);
147     if (c->cert_file && !SSL_CTX_use_certificate_chain_file(p->ctx, c->cert_file)) {
148         av_log(h, AV_LOG_ERROR, "Unable to load cert file %s: %s\n",
149                c->cert_file, ERR_error_string(ERR_get_error(), NULL));
150         ret = AVERROR(EIO);
151         goto fail;
152     }
153     if (c->key_file && !SSL_CTX_use_PrivateKey_file(p->ctx, c->key_file, SSL_FILETYPE_PEM)) {
154         av_log(h, AV_LOG_ERROR, "Unable to load key file %s: %s\n",
155                c->key_file, ERR_error_string(ERR_get_error(), NULL));
156         ret = AVERROR(EIO);
157         goto fail;
158     }
159     // Note, this doesn't check that the peer certificate actually matches
160     // the requested hostname.
161     if (c->verify)
162         SSL_CTX_set_verify(p->ctx, SSL_VERIFY_PEER, NULL);
163     p->ssl = SSL_new(p->ctx);
164     if (!p->ssl) {
165         av_log(h, AV_LOG_ERROR, "%s\n", ERR_error_string(ERR_get_error(), NULL));
166         ret = AVERROR(EIO);
167         goto fail;
168     }
169     bio = BIO_new(&url_bio_method);
170     bio->ptr = c->tcp;
171     SSL_set_bio(p->ssl, bio, bio);
172     if (!c->listen && !c->numerichost)
173         SSL_set_tlsext_host_name(p->ssl, c->host);
174     ret = c->listen ? SSL_accept(p->ssl) : SSL_connect(p->ssl);
175     if (ret == 0) {
176         av_log(h, AV_LOG_ERROR, "Unable to negotiate TLS/SSL session\n");
177         ret = AVERROR(EIO);
178         goto fail;
179     } else if (ret < 0) {
180         ret = print_tls_error(h, ret);
181         goto fail;
182     }
183
184     return 0;
185 fail:
186     tls_close(h);
187     return ret;
188 }
189
190 static int tls_read(URLContext *h, uint8_t *buf, int size)
191 {
192     TLSContext *c = h->priv_data;
193     int ret = SSL_read(c->ssl, buf, size);
194     if (ret > 0)
195         return ret;
196     if (ret == 0)
197         return AVERROR_EOF;
198     return print_tls_error(h, ret);
199 }
200
201 static int tls_write(URLContext *h, const uint8_t *buf, int size)
202 {
203     TLSContext *c = h->priv_data;
204     int ret = SSL_write(c->ssl, buf, size);
205     if (ret > 0)
206         return ret;
207     if (ret == 0)
208         return AVERROR_EOF;
209     return print_tls_error(h, ret);
210 }
211
212 static const AVOption options[] = {
213     TLS_COMMON_OPTIONS(TLSContext, tls_shared),
214     { NULL }
215 };
216
217 static const AVClass tls_class = {
218     .class_name = "tls",
219     .item_name  = av_default_item_name,
220     .option     = options,
221     .version    = LIBAVUTIL_VERSION_INT,
222 };
223
224 URLProtocol ff_tls_openssl_protocol = {
225     .name           = "tls",
226     .url_open2      = tls_open,
227     .url_read       = tls_read,
228     .url_write      = tls_write,
229     .url_close      = tls_close,
230     .priv_data_size = sizeof(TLSContext),
231     .flags          = URL_PROTOCOL_FLAG_NETWORK,
232     .priv_data_class = &tls_class,
233 };