avformat/aviobuf: fix flushing write buffers after seeking backward or forward
[ffmpeg.git] / libavformat / aviobuf.c
1 /*
2  * buffered I/O
3  * Copyright (c) 2000,2001 Fabrice Bellard
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "libavutil/bprint.h"
23 #include "libavutil/crc.h"
24 #include "libavutil/dict.h"
25 #include "libavutil/intreadwrite.h"
26 #include "libavutil/log.h"
27 #include "libavutil/opt.h"
28 #include "libavutil/avassert.h"
29 #include "avformat.h"
30 #include "avio.h"
31 #include "avio_internal.h"
32 #include "internal.h"
33 #include "url.h"
34 #include <stdarg.h>
35
36 #define IO_BUFFER_SIZE 32768
37
38 /**
39  * Do seeks within this distance ahead of the current buffer by skipping
40  * data instead of calling the protocol seek function, for seekable
41  * protocols.
42  */
43 #define SHORT_SEEK_THRESHOLD 4096
44
45 typedef struct AVIOInternal {
46     URLContext *h;
47 } AVIOInternal;
48
49 static void *ff_avio_child_next(void *obj, void *prev)
50 {
51     AVIOContext *s = obj;
52     AVIOInternal *internal = s->opaque;
53     return prev ? NULL : internal->h;
54 }
55
56 static const AVClass *ff_avio_child_class_next(const AVClass *prev)
57 {
58     return prev ? NULL : &ffurl_context_class;
59 }
60
61 #define OFFSET(x) offsetof(AVIOContext,x)
62 #define E AV_OPT_FLAG_ENCODING_PARAM
63 #define D AV_OPT_FLAG_DECODING_PARAM
64 static const AVOption ff_avio_options[] = {
65     {"protocol_whitelist", "List of protocols that are allowed to be used", OFFSET(protocol_whitelist), AV_OPT_TYPE_STRING, { .str = NULL },  CHAR_MIN, CHAR_MAX, D },
66     { NULL },
67 };
68
69 const AVClass ff_avio_class = {
70     .class_name = "AVIOContext",
71     .item_name  = av_default_item_name,
72     .version    = LIBAVUTIL_VERSION_INT,
73     .option     = ff_avio_options,
74     .child_next = ff_avio_child_next,
75     .child_class_next = ff_avio_child_class_next,
76 };
77
78 static void fill_buffer(AVIOContext *s);
79 static int url_resetbuf(AVIOContext *s, int flags);
80
81 int ffio_init_context(AVIOContext *s,
82                   unsigned char *buffer,
83                   int buffer_size,
84                   int write_flag,
85                   void *opaque,
86                   int (*read_packet)(void *opaque, uint8_t *buf, int buf_size),
87                   int (*write_packet)(void *opaque, uint8_t *buf, int buf_size),
88                   int64_t (*seek)(void *opaque, int64_t offset, int whence))
89 {
90     s->buffer      = buffer;
91     s->orig_buffer_size =
92     s->buffer_size = buffer_size;
93     s->buf_ptr     = buffer;
94     s->buf_ptr_max = buffer;
95     s->opaque      = opaque;
96     s->direct      = 0;
97
98     url_resetbuf(s, write_flag ? AVIO_FLAG_WRITE : AVIO_FLAG_READ);
99
100     s->write_packet    = write_packet;
101     s->read_packet     = read_packet;
102     s->seek            = seek;
103     s->pos             = 0;
104     s->eof_reached     = 0;
105     s->error           = 0;
106     s->seekable        = seek ? AVIO_SEEKABLE_NORMAL : 0;
107     s->max_packet_size = 0;
108     s->update_checksum = NULL;
109     s->short_seek_threshold = SHORT_SEEK_THRESHOLD;
110
111     if (!read_packet && !write_flag) {
112         s->pos     = buffer_size;
113         s->buf_end = s->buffer + buffer_size;
114     }
115     s->read_pause = NULL;
116     s->read_seek  = NULL;
117
118     s->write_data_type       = NULL;
119     s->ignore_boundary_point = 0;
120     s->current_type          = AVIO_DATA_MARKER_UNKNOWN;
121     s->last_time             = AV_NOPTS_VALUE;
122     s->short_seek_get        = NULL;
123     s->written               = 0;
124
125     return 0;
126 }
127
128 AVIOContext *avio_alloc_context(
129                   unsigned char *buffer,
130                   int buffer_size,
131                   int write_flag,
132                   void *opaque,
133                   int (*read_packet)(void *opaque, uint8_t *buf, int buf_size),
134                   int (*write_packet)(void *opaque, uint8_t *buf, int buf_size),
135                   int64_t (*seek)(void *opaque, int64_t offset, int whence))
136 {
137     AVIOContext *s = av_mallocz(sizeof(AVIOContext));
138     if (!s)
139         return NULL;
140     ffio_init_context(s, buffer, buffer_size, write_flag, opaque,
141                   read_packet, write_packet, seek);
142     return s;
143 }
144
145 static void writeout(AVIOContext *s, const uint8_t *data, int len)
146 {
147     if (!s->error) {
148         int ret = 0;
149         if (s->write_data_type)
150             ret = s->write_data_type(s->opaque, (uint8_t *)data,
151                                      len,
152                                      s->current_type,
153                                      s->last_time);
154         else if (s->write_packet)
155             ret = s->write_packet(s->opaque, (uint8_t *)data, len);
156         if (ret < 0) {
157             s->error = ret;
158         } else {
159             if (s->pos + len > s->written)
160                 s->written = s->pos + len;
161         }
162     }
163     if (s->current_type == AVIO_DATA_MARKER_SYNC_POINT ||
164         s->current_type == AVIO_DATA_MARKER_BOUNDARY_POINT) {
165         s->current_type = AVIO_DATA_MARKER_UNKNOWN;
166     }
167     s->last_time = AV_NOPTS_VALUE;
168     s->writeout_count ++;
169     s->pos += len;
170 }
171
172 static void flush_buffer(AVIOContext *s)
173 {
174     s->buf_ptr_max = FFMAX(s->buf_ptr, s->buf_ptr_max);
175     if (s->write_flag && s->buf_ptr_max > s->buffer) {
176         writeout(s, s->buffer, s->buf_ptr_max - s->buffer);
177         if (s->update_checksum) {
178             s->checksum     = s->update_checksum(s->checksum, s->checksum_ptr,
179                                                  s->buf_ptr_max - s->checksum_ptr);
180             s->checksum_ptr = s->buffer;
181         }
182     }
183     s->buf_ptr = s->buf_ptr_max = s->buffer;
184     if (!s->write_flag)
185         s->buf_end = s->buffer;
186 }
187
188 void avio_w8(AVIOContext *s, int b)
189 {
190     av_assert2(b>=-128 && b<=255);
191     *s->buf_ptr++ = b;
192     if (s->buf_ptr >= s->buf_end)
193         flush_buffer(s);
194 }
195
196 void ffio_fill(AVIOContext *s, int b, int count)
197 {
198     while (count > 0) {
199         int len = FFMIN(s->buf_end - s->buf_ptr, count);
200         memset(s->buf_ptr, b, len);
201         s->buf_ptr += len;
202
203         if (s->buf_ptr >= s->buf_end)
204             flush_buffer(s);
205
206         count -= len;
207     }
208 }
209
210 void avio_write(AVIOContext *s, const unsigned char *buf, int size)
211 {
212     if (s->direct && !s->update_checksum) {
213         avio_flush(s);
214         writeout(s, buf, size);
215         return;
216     }
217     while (size > 0) {
218         int len = FFMIN(s->buf_end - s->buf_ptr, size);
219         memcpy(s->buf_ptr, buf, len);
220         s->buf_ptr += len;
221
222         if (s->buf_ptr >= s->buf_end)
223             flush_buffer(s);
224
225         buf += len;
226         size -= len;
227     }
228 }
229
230 void avio_flush(AVIOContext *s)
231 {
232     int seekback = s->write_flag ? FFMIN(0, s->buf_ptr - s->buf_ptr_max) : 0;
233     flush_buffer(s);
234     if (seekback)
235         avio_seek(s, seekback, SEEK_CUR);
236 }
237
238 int64_t avio_seek(AVIOContext *s, int64_t offset, int whence)
239 {
240     int64_t offset1;
241     int64_t pos;
242     int force = whence & AVSEEK_FORCE;
243     int buffer_size;
244     int short_seek;
245     whence &= ~AVSEEK_FORCE;
246
247     if(!s)
248         return AVERROR(EINVAL);
249
250     buffer_size = s->buf_end - s->buffer;
251     // pos is the absolute position that the beginning of s->buffer corresponds to in the file
252     pos = s->pos - (s->write_flag ? 0 : buffer_size);
253
254     if (whence != SEEK_CUR && whence != SEEK_SET)
255         return AVERROR(EINVAL);
256
257     if (whence == SEEK_CUR) {
258         offset1 = pos + (s->buf_ptr - s->buffer);
259         if (offset == 0)
260             return offset1;
261         offset += offset1;
262     }
263     if (offset < 0)
264         return AVERROR(EINVAL);
265
266     if (s->short_seek_get) {
267         short_seek = s->short_seek_get(s->opaque);
268         /* fallback to default short seek */
269         if (short_seek <= 0)
270             short_seek = s->short_seek_threshold;
271     } else
272         short_seek = s->short_seek_threshold;
273
274     offset1 = offset - pos; // "offset1" is the relative offset from the beginning of s->buffer
275     s->buf_ptr_max = FFMAX(s->buf_ptr_max, s->buf_ptr);
276     if ((!s->direct || !s->seek) &&
277         offset1 >= 0 && offset1 <= (s->write_flag ? s->buf_ptr_max - s->buffer : buffer_size)) {
278         /* can do the seek inside the buffer */
279         s->buf_ptr = s->buffer + offset1;
280     } else if ((!(s->seekable & AVIO_SEEKABLE_NORMAL) ||
281                offset1 <= buffer_size + short_seek) &&
282                !s->write_flag && offset1 >= 0 &&
283                (!s->direct || !s->seek) &&
284               (whence != SEEK_END || force)) {
285         while(s->pos < offset && !s->eof_reached)
286             fill_buffer(s);
287         if (s->eof_reached)
288             return AVERROR_EOF;
289         s->buf_ptr = s->buf_end - (s->pos - offset);
290     } else if(!s->write_flag && offset1 < 0 && -offset1 < buffer_size>>1 && s->seek && offset > 0) {
291         int64_t res;
292
293         pos -= FFMIN(buffer_size>>1, pos);
294         if ((res = s->seek(s->opaque, pos, SEEK_SET)) < 0)
295             return res;
296         s->buf_end =
297         s->buf_ptr = s->buffer;
298         s->pos = pos;
299         s->eof_reached = 0;
300         fill_buffer(s);
301         return avio_seek(s, offset, SEEK_SET | force);
302     } else {
303         int64_t res;
304         if (s->write_flag) {
305             flush_buffer(s);
306         }
307         if (!s->seek)
308             return AVERROR(EPIPE);
309         if ((res = s->seek(s->opaque, offset, SEEK_SET)) < 0)
310             return res;
311         s->seek_count ++;
312         if (!s->write_flag)
313             s->buf_end = s->buffer;
314         s->buf_ptr = s->buf_ptr_max = s->buffer;
315         s->pos = offset;
316     }
317     s->eof_reached = 0;
318     return offset;
319 }
320
321 int64_t avio_skip(AVIOContext *s, int64_t offset)
322 {
323     return avio_seek(s, offset, SEEK_CUR);
324 }
325
326 int64_t avio_size(AVIOContext *s)
327 {
328     int64_t size;
329
330     if (!s)
331         return AVERROR(EINVAL);
332
333     if (s->written)
334         return s->written;
335
336     if (!s->seek)
337         return AVERROR(ENOSYS);
338     size = s->seek(s->opaque, 0, AVSEEK_SIZE);
339     if (size < 0) {
340         if ((size = s->seek(s->opaque, -1, SEEK_END)) < 0)
341             return size;
342         size++;
343         s->seek(s->opaque, s->pos, SEEK_SET);
344     }
345     return size;
346 }
347
348 int avio_feof(AVIOContext *s)
349 {
350     if(!s)
351         return 0;
352     if(s->eof_reached){
353         s->eof_reached=0;
354         fill_buffer(s);
355     }
356     return s->eof_reached;
357 }
358
359 #if FF_API_URL_FEOF
360 int url_feof(AVIOContext *s)
361 {
362     return avio_feof(s);
363 }
364 #endif
365
366 void avio_wl32(AVIOContext *s, unsigned int val)
367 {
368     avio_w8(s, (uint8_t) val       );
369     avio_w8(s, (uint8_t)(val >> 8 ));
370     avio_w8(s, (uint8_t)(val >> 16));
371     avio_w8(s,           val >> 24 );
372 }
373
374 void avio_wb32(AVIOContext *s, unsigned int val)
375 {
376     avio_w8(s,           val >> 24 );
377     avio_w8(s, (uint8_t)(val >> 16));
378     avio_w8(s, (uint8_t)(val >> 8 ));
379     avio_w8(s, (uint8_t) val       );
380 }
381
382 int avio_put_str(AVIOContext *s, const char *str)
383 {
384     int len = 1;
385     if (str) {
386         len += strlen(str);
387         avio_write(s, (const unsigned char *) str, len);
388     } else
389         avio_w8(s, 0);
390     return len;
391 }
392
393 static inline int put_str16(AVIOContext *s, const char *str, const int be)
394 {
395     const uint8_t *q = str;
396     int ret = 0;
397     int err = 0;
398
399     while (*q) {
400         uint32_t ch;
401         uint16_t tmp;
402
403         GET_UTF8(ch, *q++, goto invalid;)
404         PUT_UTF16(ch, tmp, be ? avio_wb16(s, tmp) : avio_wl16(s, tmp);
405                   ret += 2;)
406         continue;
407 invalid:
408         av_log(s, AV_LOG_ERROR, "Invalid UTF8 sequence in avio_put_str16%s\n", be ? "be" : "le");
409         err = AVERROR(EINVAL);
410         if (!*(q-1))
411             break;
412     }
413     if (be)
414         avio_wb16(s, 0);
415     else
416         avio_wl16(s, 0);
417     if (err)
418         return err;
419     ret += 2;
420     return ret;
421 }
422
423 #define PUT_STR16(type, big_endian)                          \
424 int avio_put_str16 ## type(AVIOContext *s, const char *str)  \
425 {                                                            \
426 return put_str16(s, str, big_endian);                        \
427 }
428
429 PUT_STR16(le, 0)
430 PUT_STR16(be, 1)
431
432 #undef PUT_STR16
433
434 int ff_get_v_length(uint64_t val)
435 {
436     int i = 1;
437
438     while (val >>= 7)
439         i++;
440
441     return i;
442 }
443
444 void ff_put_v(AVIOContext *bc, uint64_t val)
445 {
446     int i = ff_get_v_length(val);
447
448     while (--i > 0)
449         avio_w8(bc, 128 | (uint8_t)(val >> (7*i)));
450
451     avio_w8(bc, val & 127);
452 }
453
454 void avio_wl64(AVIOContext *s, uint64_t val)
455 {
456     avio_wl32(s, (uint32_t)(val & 0xffffffff));
457     avio_wl32(s, (uint32_t)(val >> 32));
458 }
459
460 void avio_wb64(AVIOContext *s, uint64_t val)
461 {
462     avio_wb32(s, (uint32_t)(val >> 32));
463     avio_wb32(s, (uint32_t)(val & 0xffffffff));
464 }
465
466 void avio_wl16(AVIOContext *s, unsigned int val)
467 {
468     avio_w8(s, (uint8_t)val);
469     avio_w8(s, (int)val >> 8);
470 }
471
472 void avio_wb16(AVIOContext *s, unsigned int val)
473 {
474     avio_w8(s, (int)val >> 8);
475     avio_w8(s, (uint8_t)val);
476 }
477
478 void avio_wl24(AVIOContext *s, unsigned int val)
479 {
480     avio_wl16(s, val & 0xffff);
481     avio_w8(s, (int)val >> 16);
482 }
483
484 void avio_wb24(AVIOContext *s, unsigned int val)
485 {
486     avio_wb16(s, (int)val >> 8);
487     avio_w8(s, (uint8_t)val);
488 }
489
490 void avio_write_marker(AVIOContext *s, int64_t time, enum AVIODataMarkerType type)
491 {
492     if (!s->write_data_type)
493         return;
494     // If ignoring boundary points, just treat it as unknown
495     if (type == AVIO_DATA_MARKER_BOUNDARY_POINT && s->ignore_boundary_point)
496         type = AVIO_DATA_MARKER_UNKNOWN;
497     // Avoid unnecessary flushes if we are already in non-header/trailer
498     // data and setting the type to unknown
499     if (type == AVIO_DATA_MARKER_UNKNOWN &&
500         (s->current_type != AVIO_DATA_MARKER_HEADER &&
501          s->current_type != AVIO_DATA_MARKER_TRAILER))
502         return;
503
504     switch (type) {
505     case AVIO_DATA_MARKER_HEADER:
506     case AVIO_DATA_MARKER_TRAILER:
507         // For header/trailer, ignore a new marker of the same type;
508         // consecutive header/trailer markers can be merged.
509         if (type == s->current_type)
510             return;
511         break;
512     }
513
514     // If we've reached here, we have a new, noteworthy marker.
515     // Flush the previous data and mark the start of the new data.
516     avio_flush(s);
517     s->current_type = type;
518     s->last_time = time;
519 }
520
521 /* Input stream */
522
523 static void fill_buffer(AVIOContext *s)
524 {
525     int max_buffer_size = s->max_packet_size ?
526                           s->max_packet_size : IO_BUFFER_SIZE;
527     uint8_t *dst        = s->buf_end - s->buffer + max_buffer_size < s->buffer_size ?
528                           s->buf_end : s->buffer;
529     int len             = s->buffer_size - (dst - s->buffer);
530
531     /* can't fill the buffer without read_packet, just set EOF if appropriate */
532     if (!s->read_packet && s->buf_ptr >= s->buf_end)
533         s->eof_reached = 1;
534
535     /* no need to do anything if EOF already reached */
536     if (s->eof_reached)
537         return;
538
539     if (s->update_checksum && dst == s->buffer) {
540         if (s->buf_end > s->checksum_ptr)
541             s->checksum = s->update_checksum(s->checksum, s->checksum_ptr,
542                                              s->buf_end - s->checksum_ptr);
543         s->checksum_ptr = s->buffer;
544     }
545
546     /* make buffer smaller in case it ended up large after probing */
547     if (s->read_packet && s->orig_buffer_size && s->buffer_size > s->orig_buffer_size) {
548         if (dst == s->buffer && s->buf_ptr != dst) {
549             int ret = ffio_set_buf_size(s, s->orig_buffer_size);
550             if (ret < 0)
551                 av_log(s, AV_LOG_WARNING, "Failed to decrease buffer size\n");
552
553             s->checksum_ptr = dst = s->buffer;
554         }
555         av_assert0(len >= s->orig_buffer_size);
556         len = s->orig_buffer_size;
557     }
558
559     if (s->read_packet)
560         len = s->read_packet(s->opaque, dst, len);
561     else
562         len = 0;
563     if (len <= 0) {
564         /* do not modify buffer if EOF reached so that a seek back can
565            be done without rereading data */
566         s->eof_reached = 1;
567         if (len < 0)
568             s->error = len;
569     } else {
570         s->pos += len;
571         s->buf_ptr = dst;
572         s->buf_end = dst + len;
573         s->bytes_read += len;
574     }
575 }
576
577 unsigned long ff_crc04C11DB7_update(unsigned long checksum, const uint8_t *buf,
578                                     unsigned int len)
579 {
580     return av_crc(av_crc_get_table(AV_CRC_32_IEEE), checksum, buf, len);
581 }
582
583 unsigned long ff_crcEDB88320_update(unsigned long checksum, const uint8_t *buf,
584                                     unsigned int len)
585 {
586     return av_crc(av_crc_get_table(AV_CRC_32_IEEE_LE), checksum, buf, len);
587 }
588
589 unsigned long ff_crcA001_update(unsigned long checksum, const uint8_t *buf,
590                                 unsigned int len)
591 {
592     return av_crc(av_crc_get_table(AV_CRC_16_ANSI_LE), checksum, buf, len);
593 }
594
595 unsigned long ffio_get_checksum(AVIOContext *s)
596 {
597     s->checksum = s->update_checksum(s->checksum, s->checksum_ptr,
598                                      s->buf_ptr - s->checksum_ptr);
599     s->update_checksum = NULL;
600     return s->checksum;
601 }
602
603 void ffio_init_checksum(AVIOContext *s,
604                    unsigned long (*update_checksum)(unsigned long c, const uint8_t *p, unsigned int len),
605                    unsigned long checksum)
606 {
607     s->update_checksum = update_checksum;
608     if (s->update_checksum) {
609         s->checksum     = checksum;
610         s->checksum_ptr = s->buf_ptr;
611     }
612 }
613
614 /* XXX: put an inline version */
615 int avio_r8(AVIOContext *s)
616 {
617     if (s->buf_ptr >= s->buf_end)
618         fill_buffer(s);
619     if (s->buf_ptr < s->buf_end)
620         return *s->buf_ptr++;
621     return 0;
622 }
623
624 int avio_read(AVIOContext *s, unsigned char *buf, int size)
625 {
626     int len, size1;
627
628     size1 = size;
629     while (size > 0) {
630         len = FFMIN(s->buf_end - s->buf_ptr, size);
631         if (len == 0 || s->write_flag) {
632             if((s->direct || size > s->buffer_size) && !s->update_checksum) {
633                 // bypass the buffer and read data directly into buf
634                 if(s->read_packet)
635                     len = s->read_packet(s->opaque, buf, size);
636
637                 if (len <= 0) {
638                     /* do not modify buffer if EOF reached so that a seek back can
639                     be done without rereading data */
640                     s->eof_reached = 1;
641                     if(len<0)
642                         s->error= len;
643                     break;
644                 } else {
645                     s->pos += len;
646                     s->bytes_read += len;
647                     size -= len;
648                     buf += len;
649                     // reset the buffer
650                     s->buf_ptr = s->buffer;
651                     s->buf_end = s->buffer/* + len*/;
652                 }
653             } else {
654                 fill_buffer(s);
655                 len = s->buf_end - s->buf_ptr;
656                 if (len == 0)
657                     break;
658             }
659         } else {
660             memcpy(buf, s->buf_ptr, len);
661             buf += len;
662             s->buf_ptr += len;
663             size -= len;
664         }
665     }
666     if (size1 == size) {
667         if (s->error)      return s->error;
668         if (avio_feof(s))  return AVERROR_EOF;
669     }
670     return size1 - size;
671 }
672
673 int ffio_read_size(AVIOContext *s, unsigned char *buf, int size)
674 {
675     int ret = avio_read(s, buf, size);
676     if (ret != size)
677         return AVERROR_INVALIDDATA;
678     return ret;
679 }
680
681 int ffio_read_indirect(AVIOContext *s, unsigned char *buf, int size, const unsigned char **data)
682 {
683     if (s->buf_end - s->buf_ptr >= size && !s->write_flag) {
684         *data = s->buf_ptr;
685         s->buf_ptr += size;
686         return size;
687     } else {
688         *data = buf;
689         return avio_read(s, buf, size);
690     }
691 }
692
693 int ffio_read_partial(AVIOContext *s, unsigned char *buf, int size)
694 {
695     int len;
696
697     if (size < 0)
698         return -1;
699
700     if (s->read_packet && s->write_flag) {
701         len = s->read_packet(s->opaque, buf, size);
702         if (len > 0)
703             s->pos += len;
704         return len;
705     }
706
707     len = s->buf_end - s->buf_ptr;
708     if (len == 0) {
709         /* Reset the buf_end pointer to the start of the buffer, to make sure
710          * the fill_buffer call tries to read as much data as fits into the
711          * full buffer, instead of just what space is left after buf_end.
712          * This avoids returning partial packets at the end of the buffer,
713          * for packet based inputs.
714          */
715         s->buf_end = s->buf_ptr = s->buffer;
716         fill_buffer(s);
717         len = s->buf_end - s->buf_ptr;
718     }
719     if (len > size)
720         len = size;
721     memcpy(buf, s->buf_ptr, len);
722     s->buf_ptr += len;
723     if (!len) {
724         if (s->error)      return s->error;
725         if (avio_feof(s))  return AVERROR_EOF;
726     }
727     return len;
728 }
729
730 unsigned int avio_rl16(AVIOContext *s)
731 {
732     unsigned int val;
733     val = avio_r8(s);
734     val |= avio_r8(s) << 8;
735     return val;
736 }
737
738 unsigned int avio_rl24(AVIOContext *s)
739 {
740     unsigned int val;
741     val = avio_rl16(s);
742     val |= avio_r8(s) << 16;
743     return val;
744 }
745
746 unsigned int avio_rl32(AVIOContext *s)
747 {
748     unsigned int val;
749     val = avio_rl16(s);
750     val |= avio_rl16(s) << 16;
751     return val;
752 }
753
754 uint64_t avio_rl64(AVIOContext *s)
755 {
756     uint64_t val;
757     val = (uint64_t)avio_rl32(s);
758     val |= (uint64_t)avio_rl32(s) << 32;
759     return val;
760 }
761
762 unsigned int avio_rb16(AVIOContext *s)
763 {
764     unsigned int val;
765     val = avio_r8(s) << 8;
766     val |= avio_r8(s);
767     return val;
768 }
769
770 unsigned int avio_rb24(AVIOContext *s)
771 {
772     unsigned int val;
773     val = avio_rb16(s) << 8;
774     val |= avio_r8(s);
775     return val;
776 }
777 unsigned int avio_rb32(AVIOContext *s)
778 {
779     unsigned int val;
780     val = avio_rb16(s) << 16;
781     val |= avio_rb16(s);
782     return val;
783 }
784
785 int ff_get_line(AVIOContext *s, char *buf, int maxlen)
786 {
787     int i = 0;
788     char c;
789
790     do {
791         c = avio_r8(s);
792         if (c && i < maxlen-1)
793             buf[i++] = c;
794     } while (c != '\n' && c != '\r' && c);
795     if (c == '\r' && avio_r8(s) != '\n' && !avio_feof(s))
796         avio_skip(s, -1);
797
798     buf[i] = 0;
799     return i;
800 }
801
802 int avio_get_str(AVIOContext *s, int maxlen, char *buf, int buflen)
803 {
804     int i;
805
806     if (buflen <= 0)
807         return AVERROR(EINVAL);
808     // reserve 1 byte for terminating 0
809     buflen = FFMIN(buflen - 1, maxlen);
810     for (i = 0; i < buflen; i++)
811         if (!(buf[i] = avio_r8(s)))
812             return i + 1;
813     buf[i] = 0;
814     for (; i < maxlen; i++)
815         if (!avio_r8(s))
816             return i + 1;
817     return maxlen;
818 }
819
820 #define GET_STR16(type, read) \
821     int avio_get_str16 ##type(AVIOContext *pb, int maxlen, char *buf, int buflen)\
822 {\
823     char* q = buf;\
824     int ret = 0;\
825     if (buflen <= 0) \
826         return AVERROR(EINVAL); \
827     while (ret + 1 < maxlen) {\
828         uint8_t tmp;\
829         uint32_t ch;\
830         GET_UTF16(ch, (ret += 2) <= maxlen ? read(pb) : 0, break;)\
831         if (!ch)\
832             break;\
833         PUT_UTF8(ch, tmp, if (q - buf < buflen - 1) *q++ = tmp;)\
834     }\
835     *q = 0;\
836     return ret;\
837 }\
838
839 GET_STR16(le, avio_rl16)
840 GET_STR16(be, avio_rb16)
841
842 #undef GET_STR16
843
844 uint64_t avio_rb64(AVIOContext *s)
845 {
846     uint64_t val;
847     val = (uint64_t)avio_rb32(s) << 32;
848     val |= (uint64_t)avio_rb32(s);
849     return val;
850 }
851
852 uint64_t ffio_read_varlen(AVIOContext *bc){
853     uint64_t val = 0;
854     int tmp;
855
856     do{
857         tmp = avio_r8(bc);
858         val= (val<<7) + (tmp&127);
859     }while(tmp&128);
860     return val;
861 }
862
863 static int io_read_packet(void *opaque, uint8_t *buf, int buf_size)
864 {
865     AVIOInternal *internal = opaque;
866     return ffurl_read(internal->h, buf, buf_size);
867 }
868
869 static int io_write_packet(void *opaque, uint8_t *buf, int buf_size)
870 {
871     AVIOInternal *internal = opaque;
872     return ffurl_write(internal->h, buf, buf_size);
873 }
874
875 static int64_t io_seek(void *opaque, int64_t offset, int whence)
876 {
877     AVIOInternal *internal = opaque;
878     return ffurl_seek(internal->h, offset, whence);
879 }
880
881 static int io_short_seek(void *opaque)
882 {
883     AVIOInternal *internal = opaque;
884     return ffurl_get_short_seek(internal->h);
885 }
886
887 static int io_read_pause(void *opaque, int pause)
888 {
889     AVIOInternal *internal = opaque;
890     if (!internal->h->prot->url_read_pause)
891         return AVERROR(ENOSYS);
892     return internal->h->prot->url_read_pause(internal->h, pause);
893 }
894
895 static int64_t io_read_seek(void *opaque, int stream_index, int64_t timestamp, int flags)
896 {
897     AVIOInternal *internal = opaque;
898     if (!internal->h->prot->url_read_seek)
899         return AVERROR(ENOSYS);
900     return internal->h->prot->url_read_seek(internal->h, stream_index, timestamp, flags);
901 }
902
903 int ffio_fdopen(AVIOContext **s, URLContext *h)
904 {
905     AVIOInternal *internal = NULL;
906     uint8_t *buffer = NULL;
907     int buffer_size, max_packet_size;
908
909     max_packet_size = h->max_packet_size;
910     if (max_packet_size) {
911         buffer_size = max_packet_size; /* no need to bufferize more than one packet */
912     } else {
913         buffer_size = IO_BUFFER_SIZE;
914     }
915     buffer = av_malloc(buffer_size);
916     if (!buffer)
917         return AVERROR(ENOMEM);
918
919     internal = av_mallocz(sizeof(*internal));
920     if (!internal)
921         goto fail;
922
923     internal->h = h;
924
925     *s = avio_alloc_context(buffer, buffer_size, h->flags & AVIO_FLAG_WRITE,
926                             internal, io_read_packet, io_write_packet, io_seek);
927     if (!*s)
928         goto fail;
929
930     (*s)->protocol_whitelist = av_strdup(h->protocol_whitelist);
931     if (!(*s)->protocol_whitelist && h->protocol_whitelist) {
932         avio_closep(s);
933         goto fail;
934     }
935     (*s)->protocol_blacklist = av_strdup(h->protocol_blacklist);
936     if (!(*s)->protocol_blacklist && h->protocol_blacklist) {
937         avio_closep(s);
938         goto fail;
939     }
940     (*s)->direct = h->flags & AVIO_FLAG_DIRECT;
941
942     (*s)->seekable = h->is_streamed ? 0 : AVIO_SEEKABLE_NORMAL;
943     (*s)->max_packet_size = max_packet_size;
944     if(h->prot) {
945         (*s)->read_pause = io_read_pause;
946         (*s)->read_seek  = io_read_seek;
947
948         if (h->prot->url_read_seek)
949             (*s)->seekable |= AVIO_SEEKABLE_TIME;
950     }
951     (*s)->short_seek_get = io_short_seek;
952     (*s)->av_class = &ff_avio_class;
953     return 0;
954 fail:
955     av_freep(&internal);
956     av_freep(&buffer);
957     return AVERROR(ENOMEM);
958 }
959
960 int ffio_ensure_seekback(AVIOContext *s, int64_t buf_size)
961 {
962     uint8_t *buffer;
963     int max_buffer_size = s->max_packet_size ?
964                           s->max_packet_size : IO_BUFFER_SIZE;
965     int filled = s->buf_end - s->buffer;
966     ptrdiff_t checksum_ptr_offset = s->checksum_ptr ? s->checksum_ptr - s->buffer : -1;
967
968     buf_size += s->buf_ptr - s->buffer + max_buffer_size;
969
970     if (buf_size < filled || s->seekable || !s->read_packet)
971         return 0;
972     av_assert0(!s->write_flag);
973
974     buffer = av_malloc(buf_size);
975     if (!buffer)
976         return AVERROR(ENOMEM);
977
978     memcpy(buffer, s->buffer, filled);
979     av_free(s->buffer);
980     s->buf_ptr = buffer + (s->buf_ptr - s->buffer);
981     s->buf_end = buffer + (s->buf_end - s->buffer);
982     s->buffer = buffer;
983     s->buffer_size = buf_size;
984     if (checksum_ptr_offset >= 0)
985         s->checksum_ptr = s->buffer + checksum_ptr_offset;
986     return 0;
987 }
988
989 int ffio_set_buf_size(AVIOContext *s, int buf_size)
990 {
991     uint8_t *buffer;
992     buffer = av_malloc(buf_size);
993     if (!buffer)
994         return AVERROR(ENOMEM);
995
996     av_free(s->buffer);
997     s->buffer = buffer;
998     s->orig_buffer_size =
999     s->buffer_size = buf_size;
1000     s->buf_ptr = s->buf_ptr_max = buffer;
1001     url_resetbuf(s, s->write_flag ? AVIO_FLAG_WRITE : AVIO_FLAG_READ);
1002     return 0;
1003 }
1004
1005 static int url_resetbuf(AVIOContext *s, int flags)
1006 {
1007     av_assert1(flags == AVIO_FLAG_WRITE || flags == AVIO_FLAG_READ);
1008
1009     if (flags & AVIO_FLAG_WRITE) {
1010         s->buf_end = s->buffer + s->buffer_size;
1011         s->write_flag = 1;
1012     } else {
1013         s->buf_end = s->buffer;
1014         s->write_flag = 0;
1015     }
1016     return 0;
1017 }
1018
1019 int ffio_rewind_with_probe_data(AVIOContext *s, unsigned char **bufp, int buf_size)
1020 {
1021     int64_t buffer_start;
1022     int buffer_size;
1023     int overlap, new_size, alloc_size;
1024     uint8_t *buf = *bufp;
1025
1026     if (s->write_flag) {
1027         av_freep(bufp);
1028         return AVERROR(EINVAL);
1029     }
1030
1031     buffer_size = s->buf_end - s->buffer;
1032
1033     /* the buffers must touch or overlap */
1034     if ((buffer_start = s->pos - buffer_size) > buf_size) {
1035         av_freep(bufp);
1036         return AVERROR(EINVAL);
1037     }
1038
1039     overlap = buf_size - buffer_start;
1040     new_size = buf_size + buffer_size - overlap;
1041
1042     alloc_size = FFMAX(s->buffer_size, new_size);
1043     if (alloc_size > buf_size)
1044         if (!(buf = (*bufp) = av_realloc_f(buf, 1, alloc_size)))
1045             return AVERROR(ENOMEM);
1046
1047     if (new_size > buf_size) {
1048         memcpy(buf + buf_size, s->buffer + overlap, buffer_size - overlap);
1049         buf_size = new_size;
1050     }
1051
1052     av_free(s->buffer);
1053     s->buf_ptr = s->buffer = buf;
1054     s->buffer_size = alloc_size;
1055     s->pos = buf_size;
1056     s->buf_end = s->buf_ptr + buf_size;
1057     s->eof_reached = 0;
1058
1059     return 0;
1060 }
1061
1062 int avio_open(AVIOContext **s, const char *filename, int flags)
1063 {
1064     return avio_open2(s, filename, flags, NULL, NULL);
1065 }
1066
1067 int ffio_open_whitelist(AVIOContext **s, const char *filename, int flags,
1068                          const AVIOInterruptCB *int_cb, AVDictionary **options,
1069                          const char *whitelist, const char *blacklist
1070                         )
1071 {
1072     URLContext *h;
1073     int err;
1074
1075     err = ffurl_open_whitelist(&h, filename, flags, int_cb, options, whitelist, blacklist, NULL);
1076     if (err < 0)
1077         return err;
1078     err = ffio_fdopen(s, h);
1079     if (err < 0) {
1080         ffurl_close(h);
1081         return err;
1082     }
1083     return 0;
1084 }
1085
1086 int avio_open2(AVIOContext **s, const char *filename, int flags,
1087                const AVIOInterruptCB *int_cb, AVDictionary **options)
1088 {
1089     return ffio_open_whitelist(s, filename, flags, int_cb, options, NULL, NULL);
1090 }
1091
1092 int ffio_open2_wrapper(struct AVFormatContext *s, AVIOContext **pb, const char *url, int flags,
1093                        const AVIOInterruptCB *int_cb, AVDictionary **options)
1094 {
1095     return ffio_open_whitelist(pb, url, flags, int_cb, options, s->protocol_whitelist, s->protocol_blacklist);
1096 }
1097
1098 int avio_close(AVIOContext *s)
1099 {
1100     AVIOInternal *internal;
1101     URLContext *h;
1102
1103     if (!s)
1104         return 0;
1105
1106     avio_flush(s);
1107     internal = s->opaque;
1108     h        = internal->h;
1109
1110     av_freep(&s->opaque);
1111     av_freep(&s->buffer);
1112     if (s->write_flag)
1113         av_log(s, AV_LOG_DEBUG, "Statistics: %d seeks, %d writeouts\n", s->seek_count, s->writeout_count);
1114     else
1115         av_log(s, AV_LOG_DEBUG, "Statistics: %"PRId64" bytes read, %d seeks\n", s->bytes_read, s->seek_count);
1116     av_opt_free(s);
1117     av_free(s);
1118     return ffurl_close(h);
1119 }
1120
1121 int avio_closep(AVIOContext **s)
1122 {
1123     int ret = avio_close(*s);
1124     *s = NULL;
1125     return ret;
1126 }
1127
1128 int avio_printf(AVIOContext *s, const char *fmt, ...)
1129 {
1130     va_list ap;
1131     char buf[4096]; /* update doc entry in avio.h if changed */
1132     int ret;
1133
1134     va_start(ap, fmt);
1135     ret = vsnprintf(buf, sizeof(buf), fmt, ap);
1136     va_end(ap);
1137     avio_write(s, buf, strlen(buf));
1138     return ret;
1139 }
1140
1141 int avio_pause(AVIOContext *s, int pause)
1142 {
1143     if (!s->read_pause)
1144         return AVERROR(ENOSYS);
1145     return s->read_pause(s->opaque, pause);
1146 }
1147
1148 int64_t avio_seek_time(AVIOContext *s, int stream_index,
1149                        int64_t timestamp, int flags)
1150 {
1151     int64_t ret;
1152     if (!s->read_seek)
1153         return AVERROR(ENOSYS);
1154     ret = s->read_seek(s->opaque, stream_index, timestamp, flags);
1155     if (ret >= 0) {
1156         int64_t pos;
1157         s->buf_ptr = s->buf_end; // Flush buffer
1158         pos = s->seek(s->opaque, 0, SEEK_CUR);
1159         if (pos >= 0)
1160             s->pos = pos;
1161         else if (pos != AVERROR(ENOSYS))
1162             ret = pos;
1163     }
1164     return ret;
1165 }
1166
1167 int avio_read_to_bprint(AVIOContext *h, AVBPrint *pb, size_t max_size)
1168 {
1169     int ret;
1170     char buf[1024];
1171     while (max_size) {
1172         ret = avio_read(h, buf, FFMIN(max_size, sizeof(buf)));
1173         if (ret == AVERROR_EOF)
1174             return 0;
1175         if (ret <= 0)
1176             return ret;
1177         av_bprint_append_data(pb, buf, ret);
1178         if (!av_bprint_is_complete(pb))
1179             return AVERROR(ENOMEM);
1180         max_size -= ret;
1181     }
1182     return 0;
1183 }
1184
1185 int avio_accept(AVIOContext *s, AVIOContext **c)
1186 {
1187     int ret;
1188     AVIOInternal *internal = s->opaque;
1189     URLContext *sc = internal->h;
1190     URLContext *cc = NULL;
1191     ret = ffurl_accept(sc, &cc);
1192     if (ret < 0)
1193         return ret;
1194     return ffio_fdopen(c, cc);
1195 }
1196
1197 int avio_handshake(AVIOContext *c)
1198 {
1199     AVIOInternal *internal = c->opaque;
1200     URLContext *cc = internal->h;
1201     return ffurl_handshake(cc);
1202 }
1203
1204 /* output in a dynamic buffer */
1205
1206 typedef struct DynBuffer {
1207     int pos, size, allocated_size;
1208     uint8_t *buffer;
1209     int io_buffer_size;
1210     uint8_t io_buffer[1];
1211 } DynBuffer;
1212
1213 static int dyn_buf_write(void *opaque, uint8_t *buf, int buf_size)
1214 {
1215     DynBuffer *d = opaque;
1216     unsigned new_size, new_allocated_size;
1217
1218     /* reallocate buffer if needed */
1219     new_size = d->pos + buf_size;
1220     new_allocated_size = d->allocated_size;
1221     if (new_size < d->pos || new_size > INT_MAX/2)
1222         return -1;
1223     while (new_size > new_allocated_size) {
1224         if (!new_allocated_size)
1225             new_allocated_size = new_size;
1226         else
1227             new_allocated_size += new_allocated_size / 2 + 1;
1228     }
1229
1230     if (new_allocated_size > d->allocated_size) {
1231         int err;
1232         if ((err = av_reallocp(&d->buffer, new_allocated_size)) < 0) {
1233             d->allocated_size = 0;
1234             d->size = 0;
1235             return err;
1236         }
1237         d->allocated_size = new_allocated_size;
1238     }
1239     memcpy(d->buffer + d->pos, buf, buf_size);
1240     d->pos = new_size;
1241     if (d->pos > d->size)
1242         d->size = d->pos;
1243     return buf_size;
1244 }
1245
1246 static int dyn_packet_buf_write(void *opaque, uint8_t *buf, int buf_size)
1247 {
1248     unsigned char buf1[4];
1249     int ret;
1250
1251     /* packetized write: output the header */
1252     AV_WB32(buf1, buf_size);
1253     ret = dyn_buf_write(opaque, buf1, 4);
1254     if (ret < 0)
1255         return ret;
1256
1257     /* then the data */
1258     return dyn_buf_write(opaque, buf, buf_size);
1259 }
1260
1261 static int64_t dyn_buf_seek(void *opaque, int64_t offset, int whence)
1262 {
1263     DynBuffer *d = opaque;
1264
1265     if (whence == SEEK_CUR)
1266         offset += d->pos;
1267     else if (whence == SEEK_END)
1268         offset += d->size;
1269     if (offset < 0 || offset > 0x7fffffffLL)
1270         return -1;
1271     d->pos = offset;
1272     return 0;
1273 }
1274
1275 static int url_open_dyn_buf_internal(AVIOContext **s, int max_packet_size)
1276 {
1277     DynBuffer *d;
1278     unsigned io_buffer_size = max_packet_size ? max_packet_size : 1024;
1279
1280     if (sizeof(DynBuffer) + io_buffer_size < io_buffer_size)
1281         return -1;
1282     d = av_mallocz(sizeof(DynBuffer) + io_buffer_size);
1283     if (!d)
1284         return AVERROR(ENOMEM);
1285     d->io_buffer_size = io_buffer_size;
1286     *s = avio_alloc_context(d->io_buffer, d->io_buffer_size, 1, d, NULL,
1287                             max_packet_size ? dyn_packet_buf_write : dyn_buf_write,
1288                             max_packet_size ? NULL : dyn_buf_seek);
1289     if(!*s) {
1290         av_free(d);
1291         return AVERROR(ENOMEM);
1292     }
1293     (*s)->max_packet_size = max_packet_size;
1294     return 0;
1295 }
1296
1297 int avio_open_dyn_buf(AVIOContext **s)
1298 {
1299     return url_open_dyn_buf_internal(s, 0);
1300 }
1301
1302 int ffio_open_dyn_packet_buf(AVIOContext **s, int max_packet_size)
1303 {
1304     if (max_packet_size <= 0)
1305         return -1;
1306     return url_open_dyn_buf_internal(s, max_packet_size);
1307 }
1308
1309 int avio_get_dyn_buf(AVIOContext *s, uint8_t **pbuffer)
1310 {
1311     DynBuffer *d;
1312
1313     if (!s) {
1314         *pbuffer = NULL;
1315         return 0;
1316     }
1317
1318     avio_flush(s);
1319
1320     d = s->opaque;
1321     *pbuffer = d->buffer;
1322
1323     return d->size;
1324 }
1325
1326 int avio_close_dyn_buf(AVIOContext *s, uint8_t **pbuffer)
1327 {
1328     DynBuffer *d;
1329     int size;
1330     static const char padbuf[AV_INPUT_BUFFER_PADDING_SIZE] = {0};
1331     int padding = 0;
1332
1333     if (!s) {
1334         *pbuffer = NULL;
1335         return 0;
1336     }
1337
1338     /* don't attempt to pad fixed-size packet buffers */
1339     if (!s->max_packet_size) {
1340         avio_write(s, padbuf, sizeof(padbuf));
1341         padding = AV_INPUT_BUFFER_PADDING_SIZE;
1342     }
1343
1344     avio_flush(s);
1345
1346     d = s->opaque;
1347     *pbuffer = d->buffer;
1348     size = d->size;
1349     av_free(d);
1350     av_free(s);
1351     return size - padding;
1352 }
1353
1354 void ffio_free_dyn_buf(AVIOContext **s)
1355 {
1356     uint8_t *tmp;
1357     if (!*s)
1358         return;
1359     avio_close_dyn_buf(*s, &tmp);
1360     av_free(tmp);
1361     *s = NULL;
1362 }
1363
1364 static int null_buf_write(void *opaque, uint8_t *buf, int buf_size)
1365 {
1366     DynBuffer *d = opaque;
1367
1368     d->pos += buf_size;
1369     if (d->pos > d->size)
1370         d->size = d->pos;
1371     return buf_size;
1372 }
1373
1374 int ffio_open_null_buf(AVIOContext **s)
1375 {
1376     int ret = url_open_dyn_buf_internal(s, 0);
1377     if (ret >= 0) {
1378         AVIOContext *pb = *s;
1379         pb->write_packet = null_buf_write;
1380     }
1381     return ret;
1382 }
1383
1384 int ffio_close_null_buf(AVIOContext *s)
1385 {
1386     DynBuffer *d = s->opaque;
1387     int size;
1388
1389     avio_flush(s);
1390
1391     size = d->size;
1392     av_free(d);
1393     av_free(s);
1394     return size;
1395 }