Reset chunksize back to zero (= no chunked encoding) after each new open
[ffmpeg.git] / libavformat / http.c
1 /*
2  * HTTP protocol for ffmpeg client
3  * Copyright (c) 2000, 2001 Fabrice Bellard
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "libavutil/avstring.h"
23 #include "avformat.h"
24 #include <unistd.h>
25 #include <strings.h>
26 #include "internal.h"
27 #include "network.h"
28 #include "http.h"
29 #include "os_support.h"
30 #include "httpauth.h"
31
32 /* XXX: POST protocol is not completely implemented because ffmpeg uses
33    only a subset of it. */
34
35 /* used for protocol handling */
36 #define BUFFER_SIZE 1024
37 #define URL_SIZE    4096
38 #define MAX_REDIRECTS 8
39
40 typedef struct {
41     URLContext *hd;
42     unsigned char buffer[BUFFER_SIZE], *buf_ptr, *buf_end;
43     int line_count;
44     int http_code;
45     int64_t chunksize;      /**< Used if "Transfer-Encoding: chunked" otherwise -1. */
46     int64_t off, filesize;
47     char location[URL_SIZE];
48     HTTPAuthState auth_state;
49     int init;
50     unsigned char headers[BUFFER_SIZE];
51     int is_chunked;
52 } HTTPContext;
53
54 static int http_connect(URLContext *h, const char *path, const char *hoststr,
55                         const char *auth, int *new_location);
56
57 void ff_http_set_headers(URLContext *h, const char *headers)
58 {
59     HTTPContext *s = h->priv_data;
60     int len = strlen(headers);
61
62     if (len && strcmp("\r\n", headers + len - 2))
63         av_log(NULL, AV_LOG_ERROR, "No trailing CRLF found in HTTP header.\n");
64
65     av_strlcpy(s->headers, headers, sizeof(s->headers));
66 }
67
68 void ff_http_set_chunked_transfer_encoding(URLContext *h, int is_chunked)
69 {
70     ((HTTPContext*)h->priv_data)->is_chunked = is_chunked;
71 }
72
73 /* return non zero if error */
74 static int http_open_cnx(URLContext *h)
75 {
76     const char *path, *proxy_path;
77     char hostname[1024], hoststr[1024];
78     char auth[1024];
79     char path1[1024];
80     char buf[1024];
81     int port, use_proxy, err, location_changed = 0, redirects = 0;
82     HTTPAuthType cur_auth_type;
83     HTTPContext *s = h->priv_data;
84     URLContext *hd = NULL;
85
86     s->init = 1;
87     proxy_path = getenv("http_proxy");
88     use_proxy = (proxy_path != NULL) && !getenv("no_proxy") &&
89         av_strstart(proxy_path, "http://", NULL);
90
91     /* fill the dest addr */
92  redo:
93     /* needed in any case to build the host string */
94     ff_url_split(NULL, 0, auth, sizeof(auth), hostname, sizeof(hostname), &port,
95                  path1, sizeof(path1), s->location);
96     ff_url_join(hoststr, sizeof(hoststr), NULL, NULL, hostname, port, NULL);
97
98     if (use_proxy) {
99         ff_url_split(NULL, 0, auth, sizeof(auth), hostname, sizeof(hostname), &port,
100                      NULL, 0, proxy_path);
101         path = s->location;
102     } else {
103         if (path1[0] == '\0')
104             path = "/";
105         else
106             path = path1;
107     }
108     if (port < 0)
109         port = 80;
110
111     ff_url_join(buf, sizeof(buf), "tcp", NULL, hostname, port, NULL);
112     err = url_open(&hd, buf, URL_RDWR);
113     if (err < 0)
114         goto fail;
115
116     s->hd = hd;
117     cur_auth_type = s->auth_state.auth_type;
118     if (http_connect(h, path, hoststr, auth, &location_changed) < 0)
119         goto fail;
120     if (s->http_code == 401) {
121         if (cur_auth_type == HTTP_AUTH_NONE && s->auth_state.auth_type != HTTP_AUTH_NONE) {
122             url_close(hd);
123             goto redo;
124         } else
125             goto fail;
126     }
127     if ((s->http_code == 302 || s->http_code == 303) && location_changed == 1) {
128         /* url moved, get next */
129         url_close(hd);
130         if (redirects++ >= MAX_REDIRECTS)
131             return AVERROR(EIO);
132         location_changed = 0;
133         goto redo;
134     }
135     return 0;
136  fail:
137     if (hd)
138         url_close(hd);
139     s->hd = NULL;
140     return AVERROR(EIO);
141 }
142
143 static int http_open(URLContext *h, const char *uri, int flags)
144 {
145     HTTPContext *s;
146
147     h->is_streamed = 1;
148
149     s = av_malloc(sizeof(HTTPContext));
150     if (!s) {
151         return AVERROR(ENOMEM);
152     }
153     h->priv_data = s;
154     s->filesize = -1;
155     s->is_chunked = 1;
156     s->off = 0;
157     s->init = 0;
158     s->hd = NULL;
159     *s->headers = '\0';
160     memset(&s->auth_state, 0, sizeof(s->auth_state));
161     av_strlcpy(s->location, uri, URL_SIZE);
162
163     return 0;
164 }
165 static int http_getc(HTTPContext *s)
166 {
167     int len;
168     if (s->buf_ptr >= s->buf_end) {
169         len = url_read(s->hd, s->buffer, BUFFER_SIZE);
170         if (len < 0) {
171             return AVERROR(EIO);
172         } else if (len == 0) {
173             return -1;
174         } else {
175             s->buf_ptr = s->buffer;
176             s->buf_end = s->buffer + len;
177         }
178     }
179     return *s->buf_ptr++;
180 }
181
182 static int http_get_line(HTTPContext *s, char *line, int line_size)
183 {
184     int ch;
185     char *q;
186
187     q = line;
188     for(;;) {
189         ch = http_getc(s);
190         if (ch < 0)
191             return AVERROR(EIO);
192         if (ch == '\n') {
193             /* process line */
194             if (q > line && q[-1] == '\r')
195                 q--;
196             *q = '\0';
197
198             return 0;
199         } else {
200             if ((q - line) < line_size - 1)
201                 *q++ = ch;
202         }
203     }
204 }
205
206 static int process_line(URLContext *h, char *line, int line_count,
207                         int *new_location)
208 {
209     HTTPContext *s = h->priv_data;
210     char *tag, *p;
211
212     /* end of header */
213     if (line[0] == '\0')
214         return 0;
215
216     p = line;
217     if (line_count == 0) {
218         while (!isspace(*p) && *p != '\0')
219             p++;
220         while (isspace(*p))
221             p++;
222         s->http_code = strtol(p, NULL, 10);
223
224         dprintf(NULL, "http_code=%d\n", s->http_code);
225
226         /* error codes are 4xx and 5xx, but regard 401 as a success, so we
227          * don't abort until all headers have been parsed. */
228         if (s->http_code >= 400 && s->http_code < 600 && s->http_code != 401)
229             return -1;
230     } else {
231         while (*p != '\0' && *p != ':')
232             p++;
233         if (*p != ':')
234             return 1;
235
236         *p = '\0';
237         tag = line;
238         p++;
239         while (isspace(*p))
240             p++;
241         if (!strcmp(tag, "Location")) {
242             strcpy(s->location, p);
243             *new_location = 1;
244         } else if (!strcmp (tag, "Content-Length") && s->filesize == -1) {
245             s->filesize = atoll(p);
246         } else if (!strcmp (tag, "Content-Range")) {
247             /* "bytes $from-$to/$document_size" */
248             const char *slash;
249             if (!strncmp (p, "bytes ", 6)) {
250                 p += 6;
251                 s->off = atoll(p);
252                 if ((slash = strchr(p, '/')) && strlen(slash) > 0)
253                     s->filesize = atoll(slash+1);
254             }
255             h->is_streamed = 0; /* we _can_ in fact seek */
256         } else if (!strcmp (tag, "Transfer-Encoding") && !strncasecmp(p, "chunked", 7)) {
257             s->filesize = -1;
258             s->chunksize = 0;
259         } else if (!strcmp (tag, "WWW-Authenticate")) {
260             ff_http_auth_handle_header(&s->auth_state, tag, p);
261         } else if (!strcmp (tag, "Authentication-Info")) {
262             ff_http_auth_handle_header(&s->auth_state, tag, p);
263         }
264     }
265     return 1;
266 }
267
268 static inline int has_header(const char *str, const char *header)
269 {
270     /* header + 2 to skip over CRLF prefix. (make sure you have one!) */
271     return av_stristart(str, header + 2, NULL) || av_stristr(str, header);
272 }
273
274 static int http_connect(URLContext *h, const char *path, const char *hoststr,
275                         const char *auth, int *new_location)
276 {
277     HTTPContext *s = h->priv_data;
278     int post, err;
279     char line[1024];
280     char headers[1024] = "";
281     char *authstr = NULL;
282     int64_t off = s->off;
283     int len = 0;
284
285
286     /* send http header */
287     post = h->flags & URL_WRONLY;
288     authstr = ff_http_auth_create_response(&s->auth_state, auth, path,
289                                         post ? "POST" : "GET");
290
291     /* set default headers if needed */
292     if (!has_header(s->headers, "\r\nUser-Agent: "))
293        len += av_strlcatf(headers + len, sizeof(headers) - len,
294                           "User-Agent: %s\r\n", LIBAVFORMAT_IDENT);
295     if (!has_header(s->headers, "\r\nAccept: "))
296         len += av_strlcpy(headers + len, "Accept: */*\r\n",
297                           sizeof(headers) - len);
298     if (!has_header(s->headers, "\r\nRange: "))
299         len += av_strlcatf(headers + len, sizeof(headers) - len,
300                            "Range: bytes=%"PRId64"-\r\n", s->off);
301     if (!has_header(s->headers, "\r\nConnection: "))
302         len += av_strlcpy(headers + len, "Connection: close\r\n",
303                           sizeof(headers)-len);
304     if (!has_header(s->headers, "\r\nHost: "))
305         len += av_strlcatf(headers + len, sizeof(headers) - len,
306                            "Host: %s\r\n", hoststr);
307
308     /* now add in custom headers */
309     av_strlcpy(headers+len, s->headers, sizeof(headers)-len);
310
311     snprintf(s->buffer, sizeof(s->buffer),
312              "%s %s HTTP/1.1\r\n"
313              "%s"
314              "%s"
315              "%s"
316              "\r\n",
317              post ? "POST" : "GET",
318              path,
319              post && s->is_chunked ? "Transfer-Encoding: chunked\r\n" : "",
320              headers,
321              authstr ? authstr : "");
322
323     av_freep(&authstr);
324     if (url_write(s->hd, s->buffer, strlen(s->buffer)) < 0)
325         return AVERROR(EIO);
326
327     /* init input buffer */
328     s->buf_ptr = s->buffer;
329     s->buf_end = s->buffer;
330     s->line_count = 0;
331     s->off = 0;
332     s->filesize = -1;
333     s->chunksize = -1;
334     if (post) {
335         /* always use chunked encoding for upload data */
336         s->chunksize = 0;
337         /* Pretend that it did work. We didn't read any header yet, since
338          * we've still to send the POST data, but the code calling this
339          * function will check http_code after we return. */
340         s->http_code = 200;
341         return 0;
342     }
343
344     /* wait for header */
345     for(;;) {
346         if (http_get_line(s, line, sizeof(line)) < 0)
347             return AVERROR(EIO);
348
349         dprintf(NULL, "header='%s'\n", line);
350
351         err = process_line(h, line, s->line_count, new_location);
352         if (err < 0)
353             return err;
354         if (err == 0)
355             break;
356         s->line_count++;
357     }
358
359     return (off == s->off) ? 0 : -1;
360 }
361
362
363 static int http_read(URLContext *h, uint8_t *buf, int size)
364 {
365     HTTPContext *s = h->priv_data;
366     int len;
367
368     if (!s->init) {
369         int ret = http_open_cnx(h);
370         if (ret != 0)
371             return ret;
372     }
373     if (!s->hd)
374         return AVERROR(EIO);
375
376     /* A size of zero can be used to force
377      * initializaton of the connection. */
378     if (!size)
379         return 0;
380
381     if (s->chunksize >= 0) {
382         if (!s->chunksize) {
383             char line[32];
384
385             for(;;) {
386                 do {
387                     if (http_get_line(s, line, sizeof(line)) < 0)
388                         return AVERROR(EIO);
389                 } while (!*line);    /* skip CR LF from last chunk */
390
391                 s->chunksize = strtoll(line, NULL, 16);
392
393                 dprintf(NULL, "Chunked encoding data size: %"PRId64"'\n", s->chunksize);
394
395                 if (!s->chunksize)
396                     return 0;
397                 break;
398             }
399         }
400         size = FFMIN(size, s->chunksize);
401     }
402     /* read bytes from input buffer first */
403     len = s->buf_end - s->buf_ptr;
404     if (len > 0) {
405         if (len > size)
406             len = size;
407         memcpy(buf, s->buf_ptr, len);
408         s->buf_ptr += len;
409     } else {
410         len = url_read(s->hd, buf, size);
411     }
412     if (len > 0) {
413         s->off += len;
414         if (s->chunksize > 0)
415             s->chunksize -= len;
416     }
417     return len;
418 }
419
420 /* used only when posting data */
421 static int http_write(URLContext *h, const uint8_t *buf, int size)
422 {
423     char temp[11] = "";  /* 32-bit hex + CRLF + nul */
424     int ret;
425     char crlf[] = "\r\n";
426     HTTPContext *s = h->priv_data;
427
428     if (!s->init) {
429         int ret = http_open_cnx(h);
430         if (ret != 0)
431             return ret;
432     }
433     if (!s->hd)
434         return AVERROR(EIO);
435
436     if (s->chunksize == -1) {
437         /* headers are sent without any special encoding */
438         return url_write(s->hd, buf, size);
439     }
440
441     /* silently ignore zero-size data since chunk encoding that would
442      * signal EOF */
443     if (size > 0) {
444         /* upload data using chunked encoding */
445         if(s->is_chunked) {
446             snprintf(temp, sizeof(temp), "%x\r\n", size);
447             if ((ret = url_write(s->hd, temp, strlen(temp))) < 0)
448                 return ret;
449         }
450
451         if ((ret = url_write(s->hd, buf, size)) < 0)
452             return ret;
453
454         if (s->is_chunked && (ret = url_write(s->hd, crlf, sizeof(crlf) - 1)) < 0)
455             return ret;
456     }
457     return size;
458 }
459
460 static int http_close(URLContext *h)
461 {
462     int ret = 0;
463     char footer[] = "0\r\n\r\n";
464     HTTPContext *s = h->priv_data;
465
466     /* signal end of chunked encoding if used */
467     if ((h->flags & URL_WRONLY) && s->chunksize != -1) {
468         ret = url_write(s->hd, footer, sizeof(footer) - 1);
469         ret = ret > 0 ? 0 : ret;
470     }
471
472     if (s->hd)
473         url_close(s->hd);
474     av_free(s);
475     return ret;
476 }
477
478 static int64_t http_seek(URLContext *h, int64_t off, int whence)
479 {
480     HTTPContext *s = h->priv_data;
481     URLContext *old_hd = s->hd;
482     int64_t old_off = s->off;
483     uint8_t old_buf[BUFFER_SIZE];
484     int old_buf_size;
485
486     if (!s->init) {
487         int ret = http_open_cnx(h);
488         if (ret != 0)
489             return ret;
490     }
491     if (!s->hd)
492         return AVERROR(EIO);
493
494     if (whence == AVSEEK_SIZE)
495         return s->filesize;
496     else if ((s->filesize == -1 && whence == SEEK_END) || h->is_streamed)
497         return -1;
498
499     /* we save the old context in case the seek fails */
500     old_buf_size = s->buf_end - s->buf_ptr;
501     memcpy(old_buf, s->buf_ptr, old_buf_size);
502     s->hd = NULL;
503     if (whence == SEEK_CUR)
504         off += s->off;
505     else if (whence == SEEK_END)
506         off += s->filesize;
507     s->off = off;
508
509     /* if it fails, continue on old connection */
510     if (http_open_cnx(h) < 0) {
511         memcpy(s->buffer, old_buf, old_buf_size);
512         s->buf_ptr = s->buffer;
513         s->buf_end = s->buffer + old_buf_size;
514         s->hd = old_hd;
515         s->off = old_off;
516         return -1;
517     }
518     url_close(old_hd);
519     return off;
520 }
521
522 static int
523 http_get_file_handle(URLContext *h)
524 {
525     HTTPContext *s = h->priv_data;
526     return url_get_file_handle(s->hd);
527 }
528
529 URLProtocol http_protocol = {
530     "http",
531     http_open,
532     http_read,
533     http_write,
534     http_seek,
535     http_close,
536     .url_get_file_handle = http_get_file_handle,
537 };