avformat/hlsenc: creation of hls variant streams in a single hlsenc instance
[ffmpeg.git] / libavformat / hlsenc.c
1 /*
2  * Apple HTTP Live Streaming segmenter
3  * Copyright (c) 2012, Luca Barbato
4  * Copyright (c) 2017 Akamai Technologies, Inc.
5  *
6  * This file is part of FFmpeg.
7  *
8  * FFmpeg is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * FFmpeg is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with FFmpeg; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 #include "config.h"
24 #include <float.h>
25 #include <stdint.h>
26 #if HAVE_UNISTD_H
27 #include <unistd.h>
28 #endif
29
30 #if CONFIG_GCRYPT
31 #include <gcrypt.h>
32 #elif CONFIG_OPENSSL
33 #include <openssl/rand.h>
34 #endif
35
36 #include "libavutil/avassert.h"
37 #include "libavutil/mathematics.h"
38 #include "libavutil/parseutils.h"
39 #include "libavutil/avstring.h"
40 #include "libavutil/intreadwrite.h"
41 #include "libavutil/random_seed.h"
42 #include "libavutil/opt.h"
43 #include "libavutil/log.h"
44 #include "libavutil/time_internal.h"
45
46 #include "avformat.h"
47 #include "avio_internal.h"
48 #include "internal.h"
49 #include "os_support.h"
50
51 typedef enum {
52   HLS_START_SEQUENCE_AS_START_NUMBER = 0,
53   HLS_START_SEQUENCE_AS_SECONDS_SINCE_EPOCH = 1,
54   HLS_START_SEQUENCE_AS_FORMATTED_DATETIME = 2,  // YYYYMMDDhhmmss
55 } StartSequenceSourceType;
56
57 #define KEYSIZE 16
58 #define LINE_BUFFER_SIZE 1024
59 #define HLS_MICROSECOND_UNIT   1000000
60 #define POSTFIX_PATTERN "_%d"
61
62 typedef struct HLSSegment {
63     char filename[1024];
64     char sub_filename[1024];
65     double duration; /* in seconds */
66     int discont;
67     int64_t pos;
68     int64_t size;
69
70     char key_uri[LINE_BUFFER_SIZE + 1];
71     char iv_string[KEYSIZE*2 + 1];
72
73     struct HLSSegment *next;
74 } HLSSegment;
75
76 typedef enum HLSFlags {
77     // Generate a single media file and use byte ranges in the playlist.
78     HLS_SINGLE_FILE = (1 << 0),
79     HLS_DELETE_SEGMENTS = (1 << 1),
80     HLS_ROUND_DURATIONS = (1 << 2),
81     HLS_DISCONT_START = (1 << 3),
82     HLS_OMIT_ENDLIST = (1 << 4),
83     HLS_SPLIT_BY_TIME = (1 << 5),
84     HLS_APPEND_LIST = (1 << 6),
85     HLS_PROGRAM_DATE_TIME = (1 << 7),
86     HLS_SECOND_LEVEL_SEGMENT_INDEX = (1 << 8), // include segment index in segment filenames when use_localtime  e.g.: %%03d
87     HLS_SECOND_LEVEL_SEGMENT_DURATION = (1 << 9), // include segment duration (microsec) in segment filenames when use_localtime  e.g.: %%09t
88     HLS_SECOND_LEVEL_SEGMENT_SIZE = (1 << 10), // include segment size (bytes) in segment filenames when use_localtime  e.g.: %%014s
89     HLS_TEMP_FILE = (1 << 11),
90     HLS_PERIODIC_REKEY = (1 << 12),
91 } HLSFlags;
92
93 typedef enum {
94     SEGMENT_TYPE_MPEGTS,
95     SEGMENT_TYPE_FMP4,
96 } SegmentType;
97
98 typedef enum {
99     PLAYLIST_TYPE_NONE,
100     PLAYLIST_TYPE_EVENT,
101     PLAYLIST_TYPE_VOD,
102     PLAYLIST_TYPE_NB,
103 } PlaylistType;
104
105 typedef struct VariantStream {
106     unsigned number;
107     int64_t sequence;
108     AVOutputFormat *oformat;
109     AVOutputFormat *vtt_oformat;
110     AVIOContext *out;
111     int packets_written;
112     int init_range_length;
113
114     AVFormatContext *avf;
115     AVFormatContext *vtt_avf;
116
117     int has_video;
118     int has_subtitle;
119     int new_start;
120     double dpp;           // duration per packet
121     int64_t start_pts;
122     int64_t end_pts;
123     double duration;      // last segment duration computed so far, in seconds
124     int64_t start_pos;    // last segment starting position
125     int64_t size;         // last segment size
126     int nb_entries;
127     int discontinuity_set;
128     int discontinuity;
129
130     HLSSegment *segments;
131     HLSSegment *last_segment;
132     HLSSegment *old_segments;
133
134     char *basename;
135     char *vtt_basename;
136     char *vtt_m3u8_name;
137     char *m3u8_name;
138
139     double initial_prog_date_time;
140     char current_segment_final_filename_fmt[1024]; // when renaming segments
141
142     char *fmp4_init_filename;
143     char *base_output_dirname;
144     int fmp4_init_mode;
145
146     AVStream **streams;
147     unsigned int nb_streams;
148     char *baseurl;
149 } VariantStream;
150
151 typedef struct HLSContext {
152     const AVClass *class;  // Class for private options.
153     int64_t start_sequence;
154     uint32_t start_sequence_source_type;  // enum StartSequenceSourceType
155
156     float time;            // Set by a private option.
157     float init_time;       // Set by a private option.
158     int max_nb_segments;   // Set by a private option.
159 #if FF_API_HLS_WRAP
160     int  wrap;             // Set by a private option.
161 #endif
162     uint32_t flags;        // enum HLSFlags
163     uint32_t pl_type;      // enum PlaylistType
164     char *segment_filename;
165     char *fmp4_init_filename;
166     int segment_type;
167
168     int use_localtime;      ///< flag to expand filename with localtime
169     int use_localtime_mkdir;///< flag to mkdir dirname in timebased filename
170     int allowcache;
171     int64_t recording_time;
172     int64_t max_seg_size; // every segment file max size
173
174     char *baseurl;
175     char *format_options_str;
176     char *vtt_format_options_str;
177     char *subtitle_filename;
178     AVDictionary *format_options;
179
180     int encrypt;
181     char *key;
182     char *key_url;
183     char *iv;
184     char *key_basename;
185     int encrypt_started;
186
187     char *key_info_file;
188     char key_file[LINE_BUFFER_SIZE + 1];
189     char key_uri[LINE_BUFFER_SIZE + 1];
190     char key_string[KEYSIZE*2 + 1];
191     char iv_string[KEYSIZE*2 + 1];
192     AVDictionary *vtt_format_options;
193
194     char *method;
195     char *user_agent;
196
197     VariantStream *var_streams;
198     unsigned int nb_varstreams;
199     char *var_stream_map; /* user specified variant stream map string */
200 } HLSContext;
201
202 static int get_int_from_double(double val)
203 {
204     return (int)((val - (int)val) >= 0.001) ? (int)(val + 1) : (int)val;
205 }
206
207 static int mkdir_p(const char *path) {
208     int ret = 0;
209     char *temp = av_strdup(path);
210     char *pos = temp;
211     char tmp_ch = '\0';
212
213     if (!path || !temp) {
214         return -1;
215     }
216
217     if (!strncmp(temp, "/", 1) || !strncmp(temp, "\\", 1)) {
218         pos++;
219     } else if (!strncmp(temp, "./", 2) || !strncmp(temp, ".\\", 2)) {
220         pos += 2;
221     }
222
223     for ( ; *pos != '\0'; ++pos) {
224         if (*pos == '/' || *pos == '\\') {
225             tmp_ch = *pos;
226             *pos = '\0';
227             ret = mkdir(temp, 0755);
228             *pos = tmp_ch;
229         }
230     }
231
232     if ((*(pos - 1) != '/') || (*(pos - 1) != '\\')) {
233         ret = mkdir(temp, 0755);
234     }
235
236     av_free(temp);
237     return ret;
238 }
239
240 static void set_http_options(AVFormatContext *s, AVDictionary **options, HLSContext *c)
241 {
242     const char *proto = avio_find_protocol_name(s->filename);
243     int http_base_proto = proto ? (!av_strcasecmp(proto, "http") || !av_strcasecmp(proto, "https")) : 0;
244
245     if (c->method) {
246         av_dict_set(options, "method", c->method, 0);
247     } else if (http_base_proto) {
248         av_log(c, AV_LOG_WARNING, "No HTTP method set, hls muxer defaulting to method PUT.\n");
249         av_dict_set(options, "method", "PUT", 0);
250     }
251     if (c->user_agent)
252         av_dict_set(options, "user_agent", c->user_agent, 0);
253
254 }
255
256 static int replace_int_data_in_filename(char *buf, int buf_size, const char *filename, char placeholder, int64_t number)
257 {
258     const char *p;
259     char *q, buf1[20], c;
260     int nd, len, addchar_count;
261     int found_count = 0;
262
263     q = buf;
264     p = filename;
265     for (;;) {
266         c = *p;
267         if (c == '\0')
268             break;
269         if (c == '%' && *(p+1) == '%')  // %%
270             addchar_count = 2;
271         else if (c == '%' && (av_isdigit(*(p+1)) || *(p+1) == placeholder)) {
272             nd = 0;
273             addchar_count = 1;
274             while (av_isdigit(*(p + addchar_count))) {
275                 nd = nd * 10 + *(p + addchar_count) - '0';
276                 addchar_count++;
277             }
278
279             if (*(p + addchar_count) == placeholder) {
280                 len = snprintf(buf1, sizeof(buf1), "%0*"PRId64, (number < 0) ? nd : nd++, number);
281                 if (len < 1)  // returned error or empty buf1
282                     goto fail;
283                 if ((q - buf + len) > buf_size - 1)
284                     goto fail;
285                 memcpy(q, buf1, len);
286                 q += len;
287                 p += (addchar_count + 1);
288                 addchar_count = 0;
289                 found_count++;
290             }
291
292         } else
293             addchar_count = 1;
294
295         while (addchar_count--)
296             if ((q - buf) < buf_size - 1)
297                 *q++ = *p++;
298             else
299                 goto fail;
300     }
301     *q = '\0';
302     return found_count;
303 fail:
304     *q = '\0';
305     return -1;
306 }
307
308 static void write_styp(AVIOContext *pb)
309 {
310     avio_wb32(pb, 24);
311     ffio_wfourcc(pb, "styp");
312     ffio_wfourcc(pb, "msdh");
313     avio_wb32(pb, 0); /* minor */
314     ffio_wfourcc(pb, "msdh");
315     ffio_wfourcc(pb, "msix");
316 }
317
318 static int hls_delete_old_segments(AVFormatContext *s, HLSContext *hls,
319                                    VariantStream *vs) {
320
321     HLSSegment *segment, *previous_segment = NULL;
322     float playlist_duration = 0.0f;
323     int ret = 0, path_size, sub_path_size;
324     char *dirname = NULL, *p, *sub_path;
325     char *path = NULL;
326     AVDictionary *options = NULL;
327     AVIOContext *out = NULL;
328     const char *proto = NULL;
329
330     segment = vs->segments;
331     while (segment) {
332         playlist_duration += segment->duration;
333         segment = segment->next;
334     }
335
336     segment = vs->old_segments;
337     while (segment) {
338         playlist_duration -= segment->duration;
339         previous_segment = segment;
340         segment = previous_segment->next;
341         if (playlist_duration <= -previous_segment->duration) {
342             previous_segment->next = NULL;
343             break;
344         }
345     }
346
347     if (segment && !hls->use_localtime_mkdir) {
348         if (hls->segment_filename) {
349             dirname = av_strdup(hls->segment_filename);
350         } else {
351             dirname = av_strdup(vs->avf->filename);
352         }
353         if (!dirname) {
354             ret = AVERROR(ENOMEM);
355             goto fail;
356         }
357         p = (char *)av_basename(dirname);
358         *p = '\0';
359     }
360
361     while (segment) {
362         av_log(hls, AV_LOG_DEBUG, "deleting old segment %s\n",
363                                   segment->filename);
364         path_size =  (hls->use_localtime_mkdir ? 0 : strlen(dirname)) + strlen(segment->filename) + 1;
365         path = av_malloc(path_size);
366         if (!path) {
367             ret = AVERROR(ENOMEM);
368             goto fail;
369         }
370
371         if (hls->use_localtime_mkdir)
372             av_strlcpy(path, segment->filename, path_size);
373         else { // segment->filename contains basename only
374             av_strlcpy(path, dirname, path_size);
375             av_strlcat(path, segment->filename, path_size);
376         }
377
378         proto = avio_find_protocol_name(s->filename);
379         if (hls->method || (proto && !av_strcasecmp(proto, "http"))) {
380             av_dict_set(&options, "method", "DELETE", 0);
381             if ((ret = vs->avf->io_open(vs->avf, &out, path, AVIO_FLAG_WRITE, &options)) < 0)
382                 goto fail;
383             ff_format_io_close(vs->avf, &out);
384         } else if (unlink(path) < 0) {
385             av_log(hls, AV_LOG_ERROR, "failed to delete old segment %s: %s\n",
386                                      path, strerror(errno));
387         }
388
389         if ((segment->sub_filename[0] != '\0')) {
390             sub_path_size = strlen(segment->sub_filename) + 1 + (dirname ? strlen(dirname) : 0);
391             sub_path = av_malloc(sub_path_size);
392             if (!sub_path) {
393                 ret = AVERROR(ENOMEM);
394                 goto fail;
395             }
396
397             av_strlcpy(sub_path, dirname, sub_path_size);
398             av_strlcat(sub_path, segment->sub_filename, sub_path_size);
399
400             if (hls->method || (proto && !av_strcasecmp(proto, "http"))) {
401                 av_dict_set(&options, "method", "DELETE", 0);
402                 if ((ret = vs->avf->io_open(vs->avf, &out, sub_path, AVIO_FLAG_WRITE, &options)) < 0) {
403                     av_free(sub_path);
404                     goto fail;
405                 }
406                 ff_format_io_close(vs->avf, &out);
407             } else if (unlink(sub_path) < 0) {
408                 av_log(hls, AV_LOG_ERROR, "failed to delete old segment %s: %s\n",
409                                          sub_path, strerror(errno));
410             }
411             av_free(sub_path);
412         }
413         av_freep(&path);
414         previous_segment = segment;
415         segment = previous_segment->next;
416         av_free(previous_segment);
417     }
418
419 fail:
420     av_free(path);
421     av_free(dirname);
422
423     return ret;
424 }
425
426 static int randomize(uint8_t *buf, int len)
427 {
428 #if CONFIG_GCRYPT
429     gcry_randomize(buf, len, GCRY_VERY_STRONG_RANDOM);
430     return 0;
431 #elif CONFIG_OPENSSL
432     if (RAND_bytes(buf, len))
433         return 0;
434 #else
435     return AVERROR(ENOSYS);
436 #endif
437     return AVERROR(EINVAL);
438 }
439
440 static int do_encrypt(AVFormatContext *s, VariantStream *vs)
441 {
442     HLSContext *hls = s->priv_data;
443     int ret;
444     int len;
445     AVIOContext *pb;
446     uint8_t key[KEYSIZE];
447
448     len = strlen(s->filename) + 4 + 1;
449     hls->key_basename = av_mallocz(len);
450     if (!hls->key_basename)
451         return AVERROR(ENOMEM);
452
453     av_strlcpy(hls->key_basename, s->filename, len);
454     av_strlcat(hls->key_basename, ".key", len);
455
456     if (hls->key_url) {
457         av_strlcpy(hls->key_file, hls->key_url, sizeof(hls->key_file));
458         av_strlcpy(hls->key_uri, hls->key_url, sizeof(hls->key_uri));
459     } else {
460         av_strlcpy(hls->key_file, hls->key_basename, sizeof(hls->key_file));
461         av_strlcpy(hls->key_uri, hls->key_basename, sizeof(hls->key_uri));
462     }
463
464     if (!*hls->iv_string) {
465         uint8_t iv[16] = { 0 };
466         char buf[33];
467
468         if (!hls->iv) {
469             AV_WB64(iv + 8, vs->sequence);
470         } else {
471             memcpy(iv, hls->iv, sizeof(iv));
472         }
473         ff_data_to_hex(buf, iv, sizeof(iv), 0);
474         buf[32] = '\0';
475         memcpy(hls->iv_string, buf, sizeof(hls->iv_string));
476     }
477
478     if (!*hls->key_uri) {
479         av_log(hls, AV_LOG_ERROR, "no key URI specified in key info file\n");
480         return AVERROR(EINVAL);
481     }
482
483     if (!*hls->key_file) {
484         av_log(hls, AV_LOG_ERROR, "no key file specified in key info file\n");
485         return AVERROR(EINVAL);
486     }
487
488     if (!*hls->key_string) {
489         if (!hls->key) {
490             if ((ret = randomize(key, sizeof(key))) < 0) {
491                 av_log(s, AV_LOG_ERROR, "Cannot generate a strong random key\n");
492                 return ret;
493             }
494         } else {
495             memcpy(key, hls->key, sizeof(key));
496         }
497
498         ff_data_to_hex(hls->key_string, key, sizeof(key), 0);
499         if ((ret = s->io_open(s, &pb, hls->key_file, AVIO_FLAG_WRITE, NULL)) < 0)
500             return ret;
501         avio_seek(pb, 0, SEEK_CUR);
502         avio_write(pb, key, KEYSIZE);
503         avio_close(pb);
504     }
505     return 0;
506 }
507
508
509 static int hls_encryption_start(AVFormatContext *s)
510 {
511     HLSContext *hls = s->priv_data;
512     int ret;
513     AVIOContext *pb;
514     uint8_t key[KEYSIZE];
515
516     if ((ret = s->io_open(s, &pb, hls->key_info_file, AVIO_FLAG_READ, NULL)) < 0) {
517         av_log(hls, AV_LOG_ERROR,
518                 "error opening key info file %s\n", hls->key_info_file);
519         return ret;
520     }
521
522     ff_get_line(pb, hls->key_uri, sizeof(hls->key_uri));
523     hls->key_uri[strcspn(hls->key_uri, "\r\n")] = '\0';
524
525     ff_get_line(pb, hls->key_file, sizeof(hls->key_file));
526     hls->key_file[strcspn(hls->key_file, "\r\n")] = '\0';
527
528     ff_get_line(pb, hls->iv_string, sizeof(hls->iv_string));
529     hls->iv_string[strcspn(hls->iv_string, "\r\n")] = '\0';
530
531     ff_format_io_close(s, &pb);
532
533     if (!*hls->key_uri) {
534         av_log(hls, AV_LOG_ERROR, "no key URI specified in key info file\n");
535         return AVERROR(EINVAL);
536     }
537
538     if (!*hls->key_file) {
539         av_log(hls, AV_LOG_ERROR, "no key file specified in key info file\n");
540         return AVERROR(EINVAL);
541     }
542
543     if ((ret = s->io_open(s, &pb, hls->key_file, AVIO_FLAG_READ, NULL)) < 0) {
544         av_log(hls, AV_LOG_ERROR, "error opening key file %s\n", hls->key_file);
545         return ret;
546     }
547
548     ret = avio_read(pb, key, sizeof(key));
549     ff_format_io_close(s, &pb);
550     if (ret != sizeof(key)) {
551         av_log(hls, AV_LOG_ERROR, "error reading key file %s\n", hls->key_file);
552         if (ret >= 0 || ret == AVERROR_EOF)
553             ret = AVERROR(EINVAL);
554         return ret;
555     }
556     ff_data_to_hex(hls->key_string, key, sizeof(key), 0);
557
558     return 0;
559 }
560
561 static int read_chomp_line(AVIOContext *s, char *buf, int maxlen)
562 {
563     int len = ff_get_line(s, buf, maxlen);
564     while (len > 0 && av_isspace(buf[len - 1]))
565         buf[--len] = '\0';
566     return len;
567 }
568
569 static int hls_mux_init(AVFormatContext *s, VariantStream *vs)
570 {
571     AVDictionary *options = NULL;
572     HLSContext *hls = s->priv_data;
573     AVFormatContext *oc;
574     AVFormatContext *vtt_oc = NULL;
575     int byterange_mode = (hls->flags & HLS_SINGLE_FILE) || (hls->max_seg_size > 0);
576     int i, ret;
577
578     ret = avformat_alloc_output_context2(&vs->avf, vs->oformat, NULL, NULL);
579     if (ret < 0)
580         return ret;
581     oc = vs->avf;
582
583     oc->filename[0]        = '\0';
584     oc->oformat            = vs->oformat;
585     oc->interrupt_callback = s->interrupt_callback;
586     oc->max_delay          = s->max_delay;
587     oc->opaque             = s->opaque;
588     oc->io_open            = s->io_open;
589     oc->io_close           = s->io_close;
590     av_dict_copy(&oc->metadata, s->metadata, 0);
591
592     if(vs->vtt_oformat) {
593         ret = avformat_alloc_output_context2(&vs->vtt_avf, vs->vtt_oformat, NULL, NULL);
594         if (ret < 0)
595             return ret;
596         vtt_oc          = vs->vtt_avf;
597         vtt_oc->oformat = vs->vtt_oformat;
598         av_dict_copy(&vtt_oc->metadata, s->metadata, 0);
599     }
600
601     for (i = 0; i < vs->nb_streams; i++) {
602         AVStream *st;
603         AVFormatContext *loc;
604         if (vs->streams[i]->codecpar->codec_type == AVMEDIA_TYPE_SUBTITLE)
605             loc = vtt_oc;
606         else
607             loc = oc;
608
609         if (!(st = avformat_new_stream(loc, NULL)))
610             return AVERROR(ENOMEM);
611         avcodec_parameters_copy(st->codecpar, vs->streams[i]->codecpar);
612         if (!oc->oformat->codec_tag ||
613             av_codec_get_id (oc->oformat->codec_tag, vs->streams[i]->codecpar->codec_tag) == st->codecpar->codec_id ||
614             av_codec_get_tag(oc->oformat->codec_tag, vs->streams[i]->codecpar->codec_id) <= 0) {
615             st->codecpar->codec_tag = vs->streams[i]->codecpar->codec_tag;
616         } else {
617             st->codecpar->codec_tag = 0;
618         }
619
620         st->sample_aspect_ratio = vs->streams[i]->sample_aspect_ratio;
621         st->time_base = vs->streams[i]->time_base;
622         av_dict_copy(&st->metadata, vs->streams[i]->metadata, 0);
623     }
624
625     vs->packets_written = 1;
626     vs->start_pos = 0;
627     vs->new_start = 1;
628     vs->fmp4_init_mode = 0;
629
630     if (hls->segment_type == SEGMENT_TYPE_FMP4) {
631         if (hls->max_seg_size > 0) {
632             av_log(s, AV_LOG_WARNING, "Multi-file byterange mode is currently unsupported in the HLS muxer.\n");
633             return AVERROR_PATCHWELCOME;
634         }
635
636         vs->packets_written = 0;
637         vs->init_range_length = 0;
638         vs->fmp4_init_mode = !byterange_mode;
639         set_http_options(s, &options, hls);
640         if ((ret = avio_open_dyn_buf(&oc->pb)) < 0)
641             return ret;
642
643         if ((ret = s->io_open(s, &vs->out, vs->base_output_dirname, AVIO_FLAG_WRITE, &options)) < 0) {
644             av_log(s, AV_LOG_ERROR, "Failed to open segment '%s'\n", vs->fmp4_init_filename);
645             return ret;
646         }
647
648         if (hls->format_options_str) {
649             ret = av_dict_parse_string(&hls->format_options, hls->format_options_str, "=", ":", 0);
650             if (ret < 0) {
651                 av_log(s, AV_LOG_ERROR, "Could not parse format options list '%s'\n",
652                        hls->format_options_str);
653                 return ret;
654             }
655         }
656
657         av_dict_copy(&options, hls->format_options, 0);
658         av_dict_set(&options, "fflags", "-autobsf", 0);
659         av_dict_set(&options, "movflags", "frag_custom+dash+delay_moov", 0);
660         ret = avformat_init_output(oc, &options);
661         if (ret < 0)
662             return ret;
663         if (av_dict_count(options)) {
664             av_log(s, AV_LOG_ERROR, "Some of the provided format options in '%s' are not recognized\n", hls->format_options_str);
665             av_dict_free(&options);
666             return AVERROR(EINVAL);
667         }
668         avio_flush(oc->pb);
669         av_dict_free(&options);
670     }
671     return 0;
672 }
673
674 static HLSSegment *find_segment_by_filename(HLSSegment *segment, const char *filename)
675 {
676     while (segment) {
677         if (!av_strcasecmp(segment->filename,filename))
678             return segment;
679         segment = segment->next;
680     }
681     return (HLSSegment *) NULL;
682 }
683
684 static int sls_flags_filename_process(struct AVFormatContext *s, HLSContext *hls,
685                                       VariantStream *vs, HLSSegment *en,
686                                       double duration, int64_t pos, int64_t size)
687 {
688     if ((hls->flags & (HLS_SECOND_LEVEL_SEGMENT_SIZE | HLS_SECOND_LEVEL_SEGMENT_DURATION)) &&
689         strlen(vs->current_segment_final_filename_fmt)) {
690         av_strlcpy(vs->avf->filename, vs->current_segment_final_filename_fmt, sizeof(vs->avf->filename));
691         if (hls->flags & HLS_SECOND_LEVEL_SEGMENT_SIZE) {
692             char * filename = av_strdup(vs->avf->filename);  // %%s will be %s after strftime
693             if (!filename) {
694                 av_free(en);
695                 return AVERROR(ENOMEM);
696             }
697             if (replace_int_data_in_filename(vs->avf->filename, sizeof(vs->avf->filename),
698                 filename, 's', pos + size) < 1) {
699                 av_log(hls, AV_LOG_ERROR,
700                        "Invalid second level segment filename template '%s', "
701                         "you can try to remove second_level_segment_size flag\n",
702                        filename);
703                 av_free(filename);
704                 av_free(en);
705                 return AVERROR(EINVAL);
706             }
707             av_free(filename);
708         }
709         if (hls->flags & HLS_SECOND_LEVEL_SEGMENT_DURATION) {
710             char * filename = av_strdup(vs->avf->filename);  // %%t will be %t after strftime
711             if (!filename) {
712                 av_free(en);
713                 return AVERROR(ENOMEM);
714             }
715             if (replace_int_data_in_filename(vs->avf->filename, sizeof(vs->avf->filename),
716                 filename, 't',  (int64_t)round(duration * HLS_MICROSECOND_UNIT)) < 1) {
717                 av_log(hls, AV_LOG_ERROR,
718                        "Invalid second level segment filename template '%s', "
719                         "you can try to remove second_level_segment_time flag\n",
720                        filename);
721                 av_free(filename);
722                 av_free(en);
723                 return AVERROR(EINVAL);
724             }
725             av_free(filename);
726         }
727     }
728     return 0;
729 }
730
731 static int sls_flag_check_duration_size_index(HLSContext *hls)
732 {
733     int ret = 0;
734
735     if (hls->flags & HLS_SECOND_LEVEL_SEGMENT_DURATION) {
736          av_log(hls, AV_LOG_ERROR,
737                 "second_level_segment_duration hls_flag requires use_localtime to be true\n");
738          ret = AVERROR(EINVAL);
739     }
740     if (hls->flags & HLS_SECOND_LEVEL_SEGMENT_SIZE) {
741          av_log(hls, AV_LOG_ERROR,
742                 "second_level_segment_size hls_flag requires use_localtime to be true\n");
743          ret = AVERROR(EINVAL);
744     }
745     if (hls->flags & HLS_SECOND_LEVEL_SEGMENT_INDEX) {
746         av_log(hls, AV_LOG_ERROR,
747                "second_level_segment_index hls_flag requires use_localtime to be true\n");
748         ret = AVERROR(EINVAL);
749     }
750
751     return ret;
752 }
753
754 static int sls_flag_check_duration_size(HLSContext *hls, VariantStream *vs)
755 {
756     const char *proto = avio_find_protocol_name(vs->basename);
757     int segment_renaming_ok = proto && !strcmp(proto, "file");
758     int ret = 0;
759
760     if ((hls->flags & HLS_SECOND_LEVEL_SEGMENT_DURATION) && !segment_renaming_ok) {
761          av_log(hls, AV_LOG_ERROR,
762                 "second_level_segment_duration hls_flag works only with file protocol segment names\n");
763          ret = AVERROR(EINVAL);
764     }
765     if ((hls->flags & HLS_SECOND_LEVEL_SEGMENT_SIZE) && !segment_renaming_ok) {
766          av_log(hls, AV_LOG_ERROR,
767                 "second_level_segment_size hls_flag works only with file protocol segment names\n");
768          ret = AVERROR(EINVAL);
769     }
770
771     return ret;
772 }
773
774 static void sls_flag_file_rename(HLSContext *hls, VariantStream *vs, char *old_filename) {
775     if ((hls->flags & (HLS_SECOND_LEVEL_SEGMENT_SIZE | HLS_SECOND_LEVEL_SEGMENT_DURATION)) &&
776         strlen(vs->current_segment_final_filename_fmt)) {
777         ff_rename(old_filename, vs->avf->filename, hls);
778     }
779 }
780
781 static int sls_flag_use_localtime_filename(AVFormatContext *oc, HLSContext *c, VariantStream *vs)
782 {
783     if (c->flags & HLS_SECOND_LEVEL_SEGMENT_INDEX) {
784         char * filename = av_strdup(oc->filename);  // %%d will be %d after strftime
785         if (!filename)
786             return AVERROR(ENOMEM);
787         if (replace_int_data_in_filename(oc->filename, sizeof(oc->filename),
788 #if FF_API_HLS_WRAP
789             filename, 'd', c->wrap ? vs->sequence % c->wrap : vs->sequence) < 1) {
790 #else
791             filename, 'd', vs->sequence) < 1) {
792 #endif
793             av_log(c, AV_LOG_ERROR, "Invalid second level segment filename template '%s', "
794                     "you can try to remove second_level_segment_index flag\n",
795                    filename);
796             av_free(filename);
797             return AVERROR(EINVAL);
798         }
799         av_free(filename);
800     }
801     if (c->flags & (HLS_SECOND_LEVEL_SEGMENT_SIZE | HLS_SECOND_LEVEL_SEGMENT_DURATION)) {
802         av_strlcpy(vs->current_segment_final_filename_fmt, oc->filename,
803                    sizeof(vs->current_segment_final_filename_fmt));
804         if (c->flags & HLS_SECOND_LEVEL_SEGMENT_SIZE) {
805             char * filename = av_strdup(oc->filename);  // %%s will be %s after strftime
806             if (!filename)
807                 return AVERROR(ENOMEM);
808             if (replace_int_data_in_filename(oc->filename, sizeof(oc->filename), filename, 's', 0) < 1) {
809                 av_log(c, AV_LOG_ERROR, "Invalid second level segment filename template '%s', "
810                         "you can try to remove second_level_segment_size flag\n",
811                        filename);
812                 av_free(filename);
813                 return AVERROR(EINVAL);
814             }
815             av_free(filename);
816         }
817         if (c->flags & HLS_SECOND_LEVEL_SEGMENT_DURATION) {
818             char * filename = av_strdup(oc->filename);  // %%t will be %t after strftime
819             if (!filename)
820                 return AVERROR(ENOMEM);
821             if (replace_int_data_in_filename(oc->filename, sizeof(oc->filename), filename, 't', 0) < 1) {
822                 av_log(c, AV_LOG_ERROR, "Invalid second level segment filename template '%s', "
823                         "you can try to remove second_level_segment_time flag\n",
824                        filename);
825                 av_free(filename);
826                 return AVERROR(EINVAL);
827             }
828             av_free(filename);
829         }
830     }
831     return 0;
832 }
833
834 /* Create a new segment and append it to the segment list */
835 static int hls_append_segment(struct AVFormatContext *s, HLSContext *hls,
836                               VariantStream *vs, double duration, int64_t pos,
837                               int64_t size)
838 {
839     HLSSegment *en = av_malloc(sizeof(*en));
840     const char  *filename;
841     int byterange_mode = (hls->flags & HLS_SINGLE_FILE) || (hls->max_seg_size > 0);
842     int ret;
843
844     if (!en)
845         return AVERROR(ENOMEM);
846
847     ret = sls_flags_filename_process(s, hls, vs, en, duration, pos, size);
848     if (ret < 0) {
849         return ret;
850     }
851
852     filename = av_basename(vs->avf->filename);
853
854     if (hls->use_localtime_mkdir) {
855         filename = vs->avf->filename;
856     }
857     if ((find_segment_by_filename(vs->segments, filename) || find_segment_by_filename(vs->old_segments, filename))
858         && !byterange_mode) {
859         av_log(hls, AV_LOG_WARNING, "Duplicated segment filename detected: %s\n", filename);
860     }
861     av_strlcpy(en->filename, filename, sizeof(en->filename));
862
863     if(vs->has_subtitle)
864         av_strlcpy(en->sub_filename, av_basename(vs->vtt_avf->filename), sizeof(en->sub_filename));
865     else
866         en->sub_filename[0] = '\0';
867
868     en->duration = duration;
869     en->pos      = pos;
870     en->size     = size;
871     en->next     = NULL;
872     en->discont  = 0;
873
874     if (vs->discontinuity) {
875         en->discont = 1;
876         vs->discontinuity = 0;
877     }
878
879     if (hls->key_info_file || hls->encrypt) {
880         av_strlcpy(en->key_uri, hls->key_uri, sizeof(en->key_uri));
881         av_strlcpy(en->iv_string, hls->iv_string, sizeof(en->iv_string));
882     }
883
884     if (!vs->segments)
885         vs->segments = en;
886     else
887         vs->last_segment->next = en;
888
889     vs->last_segment = en;
890
891     // EVENT or VOD playlists imply sliding window cannot be used
892     if (hls->pl_type != PLAYLIST_TYPE_NONE)
893         hls->max_nb_segments = 0;
894
895     if (hls->max_nb_segments && vs->nb_entries >= hls->max_nb_segments) {
896         en = vs->segments;
897         vs->initial_prog_date_time += en->duration;
898         vs->segments = en->next;
899         if (en && hls->flags & HLS_DELETE_SEGMENTS &&
900 #if FF_API_HLS_WRAP
901                 !(hls->flags & HLS_SINGLE_FILE || hls->wrap)) {
902 #else
903                 !(hls->flags & HLS_SINGLE_FILE)) {
904 #endif
905             en->next = vs->old_segments;
906             vs->old_segments = en;
907             if ((ret = hls_delete_old_segments(s, hls, vs)) < 0)
908                 return ret;
909         } else
910             av_free(en);
911     } else
912         vs->nb_entries++;
913
914     if (hls->max_seg_size > 0) {
915         return 0;
916     }
917     vs->sequence++;
918
919     return 0;
920 }
921
922 static int parse_playlist(AVFormatContext *s, const char *url, VariantStream *vs)
923 {
924     HLSContext *hls = s->priv_data;
925     AVIOContext *in;
926     int ret = 0, is_segment = 0;
927     int64_t new_start_pos;
928     char line[1024];
929     const char *ptr;
930     const char *end;
931
932     if ((ret = ffio_open_whitelist(&in, url, AVIO_FLAG_READ,
933                                    &s->interrupt_callback, NULL,
934                                    s->protocol_whitelist, s->protocol_blacklist)) < 0)
935         return ret;
936
937     read_chomp_line(in, line, sizeof(line));
938     if (strcmp(line, "#EXTM3U")) {
939         ret = AVERROR_INVALIDDATA;
940         goto fail;
941     }
942
943     vs->discontinuity = 0;
944     while (!avio_feof(in)) {
945         read_chomp_line(in, line, sizeof(line));
946         if (av_strstart(line, "#EXT-X-MEDIA-SEQUENCE:", &ptr)) {
947             int64_t tmp_sequence = strtoll(ptr, NULL, 10);
948             if (tmp_sequence < vs->sequence)
949               av_log(hls, AV_LOG_VERBOSE,
950                      "Found playlist sequence number was smaller """
951                      "than specified start sequence number: %"PRId64" < %"PRId64", "
952                      "omitting\n", tmp_sequence, hls->start_sequence);
953             else {
954               av_log(hls, AV_LOG_DEBUG, "Found playlist sequence number: %"PRId64"\n", tmp_sequence);
955               vs->sequence = tmp_sequence;
956             }
957         } else if (av_strstart(line, "#EXT-X-DISCONTINUITY", &ptr)) {
958             is_segment = 1;
959             vs->discontinuity = 1;
960         } else if (av_strstart(line, "#EXTINF:", &ptr)) {
961             is_segment = 1;
962             vs->duration = atof(ptr);
963         } else if (av_stristart(line, "#EXT-X-KEY:", &ptr)) {
964             ptr = av_stristr(line, "URI=\"");
965             if (ptr) {
966                 ptr += strlen("URI=\"");
967                 end = av_stristr(ptr, ",");
968                 if (end) {
969                     av_strlcpy(hls->key_uri, ptr, end - ptr);
970                 } else {
971                     av_strlcpy(hls->key_uri, ptr, sizeof(hls->key_uri));
972                 }
973             }
974
975             ptr = av_stristr(line, "IV=0x");
976             if (ptr) {
977                 ptr += strlen("IV=0x");
978                 end = av_stristr(ptr, ",");
979                 if (end) {
980                     av_strlcpy(hls->iv_string, ptr, end - ptr);
981                 } else {
982                     av_strlcpy(hls->iv_string, ptr, sizeof(hls->iv_string));
983                 }
984             }
985
986         } else if (av_strstart(line, "#", NULL)) {
987             continue;
988         } else if (line[0]) {
989             if (is_segment) {
990                 is_segment = 0;
991                 new_start_pos = avio_tell(vs->avf->pb);
992                 vs->size = new_start_pos - vs->start_pos;
993                 av_strlcpy(vs->avf->filename, line, sizeof(line));
994                 ret = hls_append_segment(s, hls, vs, vs->duration, vs->start_pos, vs->size);
995                 if (ret < 0)
996                     goto fail;
997                 vs->start_pos = new_start_pos;
998             }
999         }
1000     }
1001
1002 fail:
1003     avio_close(in);
1004     return ret;
1005 }
1006
1007 static void hls_free_segments(HLSSegment *p)
1008 {
1009     HLSSegment *en;
1010
1011     while(p) {
1012         en = p;
1013         p = p->next;
1014         av_free(en);
1015     }
1016 }
1017
1018 static void write_m3u8_head_block(HLSContext *hls, AVIOContext *out, int version,
1019                                   int target_duration, int64_t sequence)
1020 {
1021     avio_printf(out, "#EXTM3U\n");
1022     avio_printf(out, "#EXT-X-VERSION:%d\n", version);
1023     if (hls->allowcache == 0 || hls->allowcache == 1) {
1024         avio_printf(out, "#EXT-X-ALLOW-CACHE:%s\n", hls->allowcache == 0 ? "NO" : "YES");
1025     }
1026     avio_printf(out, "#EXT-X-TARGETDURATION:%d\n", target_duration);
1027     avio_printf(out, "#EXT-X-MEDIA-SEQUENCE:%"PRId64"\n", sequence);
1028     av_log(hls, AV_LOG_VERBOSE, "EXT-X-MEDIA-SEQUENCE:%"PRId64"\n", sequence);
1029 }
1030
1031 static void hls_rename_temp_file(AVFormatContext *s, AVFormatContext *oc)
1032 {
1033     size_t len = strlen(oc->filename);
1034     char final_filename[sizeof(oc->filename)];
1035
1036     av_strlcpy(final_filename, oc->filename, len);
1037     final_filename[len-4] = '\0';
1038     ff_rename(oc->filename, final_filename, s);
1039     oc->filename[len-4] = '\0';
1040 }
1041
1042 static int hls_window(AVFormatContext *s, int last, VariantStream *vs)
1043 {
1044     HLSContext *hls = s->priv_data;
1045     HLSSegment *en;
1046     int target_duration = 0;
1047     int ret = 0;
1048     AVIOContext *out = NULL;
1049     AVIOContext *sub_out = NULL;
1050     char temp_filename[1024];
1051     int64_t sequence = FFMAX(hls->start_sequence, vs->sequence - vs->nb_entries);
1052     int version = 3;
1053     const char *proto = avio_find_protocol_name(s->filename);
1054     int use_rename = proto && !strcmp(proto, "file");
1055     static unsigned warned_non_file;
1056     char *key_uri = NULL;
1057     char *iv_string = NULL;
1058     AVDictionary *options = NULL;
1059     double prog_date_time = vs->initial_prog_date_time;
1060     int byterange_mode = (hls->flags & HLS_SINGLE_FILE) || (hls->max_seg_size > 0);
1061
1062     if (byterange_mode) {
1063         version = 4;
1064         sequence = 0;
1065     }
1066
1067     if (hls->segment_type == SEGMENT_TYPE_FMP4) {
1068         version = 7;
1069     }
1070
1071     if (!use_rename && !warned_non_file++)
1072         av_log(s, AV_LOG_ERROR, "Cannot use rename on non file protocol, this may lead to races and temporary partial files\n");
1073
1074     set_http_options(s, &options, hls);
1075     snprintf(temp_filename, sizeof(temp_filename), use_rename ? "%s.tmp" : "%s", vs->m3u8_name);
1076     if ((ret = s->io_open(s, &out, temp_filename, AVIO_FLAG_WRITE, &options)) < 0)
1077         goto fail;
1078
1079     for (en = vs->segments; en; en = en->next) {
1080         if (target_duration <= en->duration)
1081             target_duration = get_int_from_double(en->duration);
1082     }
1083
1084     vs->discontinuity_set = 0;
1085     write_m3u8_head_block(hls, out, version, target_duration, sequence);
1086     if (hls->pl_type == PLAYLIST_TYPE_EVENT) {
1087         avio_printf(out, "#EXT-X-PLAYLIST-TYPE:EVENT\n");
1088     } else if (hls->pl_type == PLAYLIST_TYPE_VOD) {
1089         avio_printf(out, "#EXT-X-PLAYLIST-TYPE:VOD\n");
1090     }
1091
1092     if((hls->flags & HLS_DISCONT_START) && sequence==hls->start_sequence && vs->discontinuity_set==0 ){
1093         avio_printf(out, "#EXT-X-DISCONTINUITY\n");
1094         vs->discontinuity_set = 1;
1095     }
1096     for (en = vs->segments; en; en = en->next) {
1097         if ((hls->encrypt || hls->key_info_file) && (!key_uri || strcmp(en->key_uri, key_uri) ||
1098                                     av_strcasecmp(en->iv_string, iv_string))) {
1099             avio_printf(out, "#EXT-X-KEY:METHOD=AES-128,URI=\"%s\"", en->key_uri);
1100             if (*en->iv_string)
1101                 avio_printf(out, ",IV=0x%s", en->iv_string);
1102             avio_printf(out, "\n");
1103             key_uri = en->key_uri;
1104             iv_string = en->iv_string;
1105         }
1106
1107         if (en->discont) {
1108             avio_printf(out, "#EXT-X-DISCONTINUITY\n");
1109         }
1110
1111         if ((hls->segment_type == SEGMENT_TYPE_FMP4) && (en == vs->segments)) {
1112             avio_printf(out, "#EXT-X-MAP:URI=\"%s\"", vs->fmp4_init_filename);
1113             if (hls->flags & HLS_SINGLE_FILE) {
1114                 avio_printf(out, ",BYTERANGE=\"%"PRId64"@%"PRId64"\"", en->size, en->pos);
1115             }
1116             avio_printf(out, "\n");
1117         }
1118         if (hls->flags & HLS_ROUND_DURATIONS)
1119             avio_printf(out, "#EXTINF:%ld,\n",  lrint(en->duration));
1120         else
1121             avio_printf(out, "#EXTINF:%f,\n", en->duration);
1122         if (byterange_mode)
1123             avio_printf(out, "#EXT-X-BYTERANGE:%"PRId64"@%"PRId64"\n",
1124                         en->size, en->pos);
1125
1126         if (hls->flags & HLS_PROGRAM_DATE_TIME) {
1127             time_t tt, wrongsecs;
1128             int milli;
1129             struct tm *tm, tmpbuf;
1130             char buf0[128], buf1[128];
1131             tt = (int64_t)prog_date_time;
1132             milli = av_clip(lrint(1000*(prog_date_time - tt)), 0, 999);
1133             tm = localtime_r(&tt, &tmpbuf);
1134             strftime(buf0, sizeof(buf0), "%Y-%m-%dT%H:%M:%S", tm);
1135             if (!strftime(buf1, sizeof(buf1), "%z", tm) || buf1[1]<'0' ||buf1[1]>'2') {
1136                 int tz_min, dst = tm->tm_isdst;
1137                 tm = gmtime_r(&tt, &tmpbuf);
1138                 tm->tm_isdst = dst;
1139                 wrongsecs = mktime(tm);
1140                 tz_min = (abs(wrongsecs - tt) + 30) / 60;
1141                 snprintf(buf1, sizeof(buf1),
1142                          "%c%02d%02d",
1143                          wrongsecs <= tt ? '+' : '-',
1144                          tz_min / 60,
1145                          tz_min % 60);
1146             }
1147             avio_printf(out, "#EXT-X-PROGRAM-DATE-TIME:%s.%03d%s\n", buf0, milli, buf1);
1148             prog_date_time += en->duration;
1149         }
1150         if (vs->baseurl)
1151             avio_printf(out, "%s", vs->baseurl);
1152         avio_printf(out, "%s\n", en->filename);
1153     }
1154
1155     if (last && (hls->flags & HLS_OMIT_ENDLIST)==0)
1156         avio_printf(out, "#EXT-X-ENDLIST\n");
1157
1158     if( vs->vtt_m3u8_name ) {
1159         if ((ret = s->io_open(s, &sub_out, vs->vtt_m3u8_name, AVIO_FLAG_WRITE, &options)) < 0)
1160             goto fail;
1161         write_m3u8_head_block(hls, sub_out, version, target_duration, sequence);
1162
1163         for (en = vs->segments; en; en = en->next) {
1164             avio_printf(sub_out, "#EXTINF:%f,\n", en->duration);
1165             if (byterange_mode)
1166                  avio_printf(sub_out, "#EXT-X-BYTERANGE:%"PRIi64"@%"PRIi64"\n",
1167                          en->size, en->pos);
1168             if (vs->baseurl)
1169                 avio_printf(sub_out, "%s", vs->baseurl);
1170             avio_printf(sub_out, "%s\n", en->sub_filename);
1171         }
1172
1173         if (last)
1174             avio_printf(sub_out, "#EXT-X-ENDLIST\n");
1175
1176     }
1177
1178 fail:
1179     av_dict_free(&options);
1180     ff_format_io_close(s, &out);
1181     ff_format_io_close(s, &sub_out);
1182     if (ret >= 0 && use_rename)
1183         ff_rename(temp_filename, vs->m3u8_name, s);
1184     return ret;
1185 }
1186
1187 static int hls_start(AVFormatContext *s, VariantStream *vs)
1188 {
1189     HLSContext *c = s->priv_data;
1190     AVFormatContext *oc = vs->avf;
1191     AVFormatContext *vtt_oc = vs->vtt_avf;
1192     AVDictionary *options = NULL;
1193     char *filename, iv_string[KEYSIZE*2 + 1];
1194     int err = 0;
1195
1196     if (c->flags & HLS_SINGLE_FILE) {
1197         av_strlcpy(oc->filename, vs->basename,
1198                    sizeof(oc->filename));
1199         if (vs->vtt_basename)
1200             av_strlcpy(vtt_oc->filename, vs->vtt_basename,
1201                   sizeof(vtt_oc->filename));
1202     } else if (c->max_seg_size > 0) {
1203         if (replace_int_data_in_filename(oc->filename, sizeof(oc->filename),
1204 #if FF_API_HLS_WRAP
1205             vs->basename, 'd', c->wrap ? vs->sequence % c->wrap : vs->sequence) < 1) {
1206 #else
1207             vs->basename, 'd', vs->sequence) < 1) {
1208 #endif
1209                 av_log(oc, AV_LOG_ERROR, "Invalid segment filename template '%s', you can try to use -use_localtime 1 with it\n", vs->basename);
1210                 return AVERROR(EINVAL);
1211         }
1212     } else {
1213         if (c->use_localtime) {
1214             time_t now0;
1215             struct tm *tm, tmpbuf;
1216             time(&now0);
1217             tm = localtime_r(&now0, &tmpbuf);
1218             if (!strftime(oc->filename, sizeof(oc->filename), vs->basename, tm)) {
1219                 av_log(oc, AV_LOG_ERROR, "Could not get segment filename with use_localtime\n");
1220                 return AVERROR(EINVAL);
1221             }
1222
1223             err = sls_flag_use_localtime_filename(oc, c, vs);
1224             if (err < 0) {
1225                 return AVERROR(ENOMEM);
1226             }
1227
1228             if (c->use_localtime_mkdir) {
1229                 const char *dir;
1230                 char *fn_copy = av_strdup(oc->filename);
1231                 if (!fn_copy) {
1232                     return AVERROR(ENOMEM);
1233                 }
1234                 dir = av_dirname(fn_copy);
1235                 if (mkdir_p(dir) == -1 && errno != EEXIST) {
1236                     av_log(oc, AV_LOG_ERROR, "Could not create directory %s with use_localtime_mkdir\n", dir);
1237                     av_free(fn_copy);
1238                     return AVERROR(errno);
1239                 }
1240                 av_free(fn_copy);
1241             }
1242         } else if (replace_int_data_in_filename(oc->filename, sizeof(oc->filename),
1243 #if FF_API_HLS_WRAP
1244                    vs->basename, 'd', c->wrap ? vs->sequence % c->wrap : vs->sequence) < 1) {
1245 #else
1246                    vs->basename, 'd', vs->sequence) < 1) {
1247 #endif
1248             av_log(oc, AV_LOG_ERROR, "Invalid segment filename template '%s' you can try to use -use_localtime 1 with it\n", vs->basename);
1249             return AVERROR(EINVAL);
1250         }
1251         if( vs->vtt_basename) {
1252             if (replace_int_data_in_filename(vtt_oc->filename, sizeof(vtt_oc->filename),
1253 #if FF_API_HLS_WRAP
1254                 vs->vtt_basename, 'd', c->wrap ? vs->sequence % c->wrap : vs->sequence) < 1) {
1255 #else
1256                 vs->vtt_basename, 'd', vs->sequence) < 1) {
1257 #endif
1258                 av_log(vtt_oc, AV_LOG_ERROR, "Invalid segment filename template '%s'\n", vs->vtt_basename);
1259                 return AVERROR(EINVAL);
1260             }
1261        }
1262     }
1263     vs->number++;
1264
1265     set_http_options(s, &options, c);
1266
1267     if (c->flags & HLS_TEMP_FILE) {
1268         av_strlcat(oc->filename, ".tmp", sizeof(oc->filename));
1269     }
1270
1271     if (c->key_info_file || c->encrypt) {
1272         if (c->key_info_file && c->encrypt) {
1273             av_log(s, AV_LOG_WARNING, "Cannot use both -hls_key_info_file and -hls_enc,"
1274                   " will use -hls_key_info_file priority\n");
1275         }
1276
1277         if (!c->encrypt_started || (c->flags & HLS_PERIODIC_REKEY)) {
1278             if (c->key_info_file) {
1279                 if ((err = hls_encryption_start(s)) < 0)
1280                     goto fail;
1281             } else {
1282                 if ((err = do_encrypt(s, vs)) < 0)
1283                     goto fail;
1284             }
1285             c->encrypt_started = 1;
1286         }
1287         if ((err = av_dict_set(&options, "encryption_key", c->key_string, 0))
1288                 < 0)
1289             goto fail;
1290         err = av_strlcpy(iv_string, c->iv_string, sizeof(iv_string));
1291         if (!err)
1292             snprintf(iv_string, sizeof(iv_string), "%032"PRIx64, vs->sequence);
1293         if ((err = av_dict_set(&options, "encryption_iv", iv_string, 0)) < 0)
1294            goto fail;
1295
1296         filename = av_asprintf("crypto:%s", oc->filename);
1297         if (!filename) {
1298             err = AVERROR(ENOMEM);
1299             goto fail;
1300         }
1301         err = s->io_open(s, &oc->pb, filename, AVIO_FLAG_WRITE, &options);
1302         av_free(filename);
1303         av_dict_free(&options);
1304         if (err < 0)
1305             return err;
1306     } else
1307         if ((err = s->io_open(s, &oc->pb, oc->filename, AVIO_FLAG_WRITE, &options)) < 0)
1308             goto fail;
1309     if (vs->vtt_basename) {
1310         set_http_options(s, &options, c);
1311         if ((err = s->io_open(s, &vtt_oc->pb, vtt_oc->filename, AVIO_FLAG_WRITE, &options)) < 0)
1312             goto fail;
1313     }
1314     av_dict_free(&options);
1315
1316     if (c->segment_type == SEGMENT_TYPE_FMP4 && !(c->flags & HLS_SINGLE_FILE)) {
1317             write_styp(oc->pb);
1318     } else {
1319         /* We only require one PAT/PMT per segment. */
1320         if (oc->oformat->priv_class && oc->priv_data) {
1321             char period[21];
1322
1323             snprintf(period, sizeof(period), "%d", (INT_MAX / 2) - 1);
1324
1325             av_opt_set(oc->priv_data, "mpegts_flags", "resend_headers", 0);
1326             av_opt_set(oc->priv_data, "sdt_period", period, 0);
1327             av_opt_set(oc->priv_data, "pat_period", period, 0);
1328         }
1329     }
1330
1331     if (vs->vtt_basename) {
1332         err = avformat_write_header(vtt_oc,NULL);
1333         if (err < 0)
1334             return err;
1335     }
1336
1337     return 0;
1338 fail:
1339     av_dict_free(&options);
1340
1341     return err;
1342 }
1343
1344 static const char * get_default_pattern_localtime_fmt(AVFormatContext *s)
1345 {
1346     char b[21];
1347     time_t t = time(NULL);
1348     struct tm *p, tmbuf;
1349     HLSContext *hls = s->priv_data;
1350
1351     p = localtime_r(&t, &tmbuf);
1352     // no %s support when strftime returned error or left format string unchanged
1353     // also no %s support on MSVC, which invokes the invalid parameter handler on unsupported format strings, instead of returning an error
1354     if (hls->segment_type == SEGMENT_TYPE_FMP4) {
1355         return (HAVE_LIBC_MSVCRT || !strftime(b, sizeof(b), "%s", p) || !strcmp(b, "%s")) ? "-%Y%m%d%H%M%S.m4s" : "-%s.m4s";
1356     }
1357     return (HAVE_LIBC_MSVCRT || !strftime(b, sizeof(b), "%s", p) || !strcmp(b, "%s")) ? "-%Y%m%d%H%M%S.ts" : "-%s.ts";
1358 }
1359
1360 static int format_name(char *name, int name_buf_len, int i)
1361 {
1362     char *p;
1363     char extension[10] = {'\0'};
1364
1365     p = strrchr(name, '.');
1366     if (p) {
1367         av_strlcpy(extension, p, sizeof(extension));
1368         *p = '\0';
1369     }
1370
1371     snprintf(name + strlen(name), name_buf_len - strlen(name), POSTFIX_PATTERN, i);
1372
1373     if (strlen(extension))
1374         av_strlcat(name, extension, name_buf_len);
1375
1376     return 0;
1377 }
1378
1379 static int get_nth_codec_stream_index(AVFormatContext *s,
1380                                       enum AVMediaType codec_type,
1381                                       int stream_id)
1382 {
1383     unsigned int stream_index, cnt;
1384     if (stream_id < 0 || stream_id > s->nb_streams - 1)
1385         return -1;
1386     cnt = 0;
1387     for (stream_index = 0; stream_index < s->nb_streams; stream_index++) {
1388         if (s->streams[stream_index]->codecpar->codec_type != codec_type)
1389             continue;
1390         if (cnt == stream_id)
1391             return stream_index;
1392         cnt++;
1393     }
1394     return -1;
1395 }
1396
1397 static int parse_variant_stream_mapstring(AVFormatContext *s)
1398 {
1399     HLSContext *hls = s->priv_data;
1400     VariantStream *vs;
1401     int stream_index;
1402     enum AVMediaType codec_type;
1403     int nb_varstreams, nb_streams;
1404     char *p, *q, *saveptr1, *saveptr2, *varstr, *keyval;
1405     const char *val;
1406
1407     /**
1408      * Expected format for var_stream_map string is as below:
1409      * "a:0,v:0 a:1,v:1"
1410      * This string specifies how to group the audio, video and subtitle streams
1411      * into different variant streams. The variant stream groups are separated
1412      * by space.
1413      *
1414      * a:, v:, s: are keys to specify audio, video and subtitle streams
1415      * respectively. Allowed values are 0 to 9 digits (limited just based on
1416      * practical usage)
1417      *
1418      */
1419     p = av_strdup(hls->var_stream_map);
1420     q = p;
1421     while(av_strtok(q, " \t", &saveptr1)) {
1422         q = NULL;
1423         hls->nb_varstreams++;
1424     }
1425     av_freep(&p);
1426
1427     hls->var_streams = av_mallocz(sizeof(*hls->var_streams) * hls->nb_varstreams);
1428     if (!hls->var_streams)
1429         return AVERROR(ENOMEM);
1430
1431     p = hls->var_stream_map;
1432     nb_varstreams = 0;
1433     while (varstr = av_strtok(p, " \t", &saveptr1)) {
1434         p = NULL;
1435
1436         if (nb_varstreams < hls->nb_varstreams)
1437             vs = &(hls->var_streams[nb_varstreams++]);
1438         else
1439             return AVERROR(EINVAL);
1440
1441         q = varstr;
1442         while (q < varstr + strlen(varstr)) {
1443             if (!av_strncasecmp(q, "a:", 2) || !av_strncasecmp(q, "v:", 2) ||
1444                 !av_strncasecmp(q, "s:", 2))
1445                 vs->nb_streams++;
1446             q++;
1447         }
1448         vs->streams = av_mallocz(sizeof(AVStream *) * vs->nb_streams);
1449         if (!vs->streams)
1450             return AVERROR(ENOMEM);
1451
1452         nb_streams = 0;
1453         while (keyval = av_strtok(varstr, ",", &saveptr2)) {
1454             varstr = NULL;
1455
1456             if (av_strstart(keyval, "v:", &val)) {
1457                 codec_type = AVMEDIA_TYPE_VIDEO;
1458             } else if (av_strstart(keyval, "a:", &val)) {
1459                 codec_type = AVMEDIA_TYPE_AUDIO;
1460             } else if (av_strstart(keyval, "s:", &val)) {
1461                 codec_type = AVMEDIA_TYPE_SUBTITLE;
1462             } else {
1463                 av_log(s, AV_LOG_ERROR, "Invalid keyval %s\n", keyval);
1464                 return AVERROR(EINVAL);
1465             }
1466
1467             stream_index = -1;
1468             if (av_isdigit(*val))
1469                 stream_index = get_nth_codec_stream_index (s, codec_type,
1470                                                            atoi(val));
1471
1472             if (stream_index >= 0 && nb_streams < vs->nb_streams) {
1473                 vs->streams[nb_streams++] = s->streams[stream_index];
1474             } else {
1475                 av_log(s, AV_LOG_ERROR, "Unable to map stream at %s\n", keyval);
1476                 return AVERROR(EINVAL);
1477             }
1478         }
1479     }
1480     av_log(s, AV_LOG_DEBUG, "Number of variant streams %d\n",
1481             hls->nb_varstreams);
1482
1483     return 0;
1484 }
1485
1486 static int update_variant_stream_info(AVFormatContext *s) {
1487     HLSContext *hls = s->priv_data;
1488     unsigned int i;
1489
1490     if (hls->var_stream_map) {
1491         return parse_variant_stream_mapstring(s);
1492     } else {
1493         //By default, a single variant stream with all the codec streams is created
1494         hls->nb_varstreams = 1;
1495         hls->var_streams = av_mallocz(sizeof(*hls->var_streams) *
1496                                              hls->nb_varstreams);
1497         if (!hls->var_streams)
1498             return AVERROR(ENOMEM);
1499
1500         hls->var_streams[0].nb_streams = s->nb_streams;
1501         hls->var_streams[0].streams = av_mallocz(sizeof(AVStream *) *
1502                                             hls->var_streams[0].nb_streams);
1503         if (!hls->var_streams[0].streams)
1504             return AVERROR(ENOMEM);
1505
1506         for (i = 0; i < s->nb_streams; i++)
1507             hls->var_streams[0].streams[i] = s->streams[i];
1508     }
1509     return 0;
1510 }
1511
1512 static int hls_write_header(AVFormatContext *s)
1513 {
1514     HLSContext *hls = s->priv_data;
1515     int ret, i, j;
1516     char *p = NULL;
1517     const char *pattern = "%d.ts";
1518     const char *pattern_localtime_fmt = get_default_pattern_localtime_fmt(s);
1519     const char *vtt_pattern = "%d.vtt";
1520     AVDictionary *options = NULL;
1521     int basename_size = 0;
1522     int vtt_basename_size = 0, m3u8_name_size = 0;
1523     VariantStream *vs = NULL;
1524     int fmp4_init_filename_len = strlen(hls->fmp4_init_filename) + 1;
1525
1526     ret = update_variant_stream_info(s);
1527     if (ret < 0) {
1528         av_log(s, AV_LOG_ERROR, "Variant stream info update failed with status %x\n",
1529                 ret);
1530         goto fail;
1531     }
1532
1533     //TODO: Updates needed to encryption functionality with periodic re-key when more than one variant streams are present
1534     if (hls->nb_varstreams > 1 && hls->flags & HLS_PERIODIC_REKEY) {
1535         ret = AVERROR(EINVAL);
1536         av_log(s, AV_LOG_ERROR, "Periodic re-key not supported when more than one variant streams are present\n");
1537         goto fail;
1538     }
1539
1540     if (hls->segment_type == SEGMENT_TYPE_FMP4) {
1541         pattern = "%d.m4s";
1542     }
1543     if ((hls->start_sequence_source_type == HLS_START_SEQUENCE_AS_SECONDS_SINCE_EPOCH) ||
1544         (hls->start_sequence_source_type == HLS_START_SEQUENCE_AS_FORMATTED_DATETIME)) {
1545         time_t t = time(NULL); // we will need it in either case
1546         if (hls->start_sequence_source_type == HLS_START_SEQUENCE_AS_SECONDS_SINCE_EPOCH) {
1547             hls->start_sequence = (int64_t)t;
1548         } else if (hls->start_sequence_source_type == HLS_START_SEQUENCE_AS_FORMATTED_DATETIME) {
1549             char b[15];
1550             struct tm *p, tmbuf;
1551             if (!(p = localtime_r(&t, &tmbuf)))
1552                 return AVERROR(ENOMEM);
1553             if (!strftime(b, sizeof(b), "%Y%m%d%H%M%S", p))
1554                 return AVERROR(ENOMEM);
1555             hls->start_sequence = strtoll(b, NULL, 10);
1556         }
1557         av_log(hls, AV_LOG_DEBUG, "start_number evaluated to %"PRId64"\n", hls->start_sequence);
1558     }
1559
1560     for (i = 0; i < hls->nb_varstreams; i++) {
1561         vs = &hls->var_streams[i];
1562
1563     vs->sequence       = hls->start_sequence;
1564     hls->recording_time = (hls->init_time ? hls->init_time : hls->time) * AV_TIME_BASE;
1565     vs->start_pts      = AV_NOPTS_VALUE;
1566     vs->current_segment_final_filename_fmt[0] = '\0';
1567
1568     if (hls->flags & HLS_PROGRAM_DATE_TIME) {
1569         time_t now0;
1570         time(&now0);
1571         vs->initial_prog_date_time = now0;
1572     }
1573
1574     if (hls->format_options_str) {
1575         ret = av_dict_parse_string(&hls->format_options, hls->format_options_str, "=", ":", 0);
1576         if (ret < 0) {
1577             av_log(s, AV_LOG_ERROR, "Could not parse format options list '%s'\n", hls->format_options_str);
1578             goto fail;
1579         }
1580     }
1581
1582     for (j = 0; j < vs->nb_streams; j++) {
1583         vs->has_video +=
1584             vs->streams[j]->codecpar->codec_type == AVMEDIA_TYPE_VIDEO;
1585         vs->has_subtitle +=
1586             vs->streams[j]->codecpar->codec_type == AVMEDIA_TYPE_SUBTITLE;
1587     }
1588
1589     if (vs->has_video > 1)
1590         av_log(s, AV_LOG_WARNING,
1591                "More than a single video stream present, "
1592                "expect issues decoding it.\n");
1593
1594     if (hls->segment_type == SEGMENT_TYPE_FMP4) {
1595         vs->oformat = av_guess_format("mp4", NULL, NULL);
1596     } else {
1597         vs->oformat = av_guess_format("mpegts", NULL, NULL);
1598     }
1599
1600     if (!vs->oformat) {
1601         ret = AVERROR_MUXER_NOT_FOUND;
1602         goto fail;
1603     }
1604
1605     if(vs->has_subtitle) {
1606         vs->vtt_oformat = av_guess_format("webvtt", NULL, NULL);
1607         if (!vs->oformat) {
1608             ret = AVERROR_MUXER_NOT_FOUND;
1609             goto fail;
1610         }
1611     }
1612
1613     if (hls->segment_filename) {
1614         basename_size = strlen(hls->segment_filename) + 1;
1615         if (hls->nb_varstreams > 1) {
1616             basename_size += strlen(POSTFIX_PATTERN);
1617         }
1618         vs->basename = av_malloc(basename_size);
1619         if (!vs->basename) {
1620             ret = AVERROR(ENOMEM);
1621             goto fail;
1622         }
1623
1624         av_strlcpy(vs->basename, hls->segment_filename, basename_size);
1625     } else {
1626         if (hls->flags & HLS_SINGLE_FILE) {
1627             if (hls->segment_type == SEGMENT_TYPE_FMP4) {
1628                 pattern = ".m4s";
1629             } else {
1630                 pattern = ".ts";
1631             }
1632         }
1633
1634         if (hls->use_localtime) {
1635             basename_size = strlen(s->filename) + strlen(pattern_localtime_fmt) + 1;
1636         } else {
1637             basename_size = strlen(s->filename) + strlen(pattern) + 1;
1638         }
1639
1640         if (hls->nb_varstreams > 1) {
1641             basename_size += strlen(POSTFIX_PATTERN);
1642         }
1643
1644         vs->basename = av_malloc(basename_size);
1645         if (!vs->basename) {
1646             ret = AVERROR(ENOMEM);
1647             goto fail;
1648         }
1649
1650         av_strlcpy(vs->basename, s->filename, basename_size);
1651
1652         p = strrchr(vs->basename, '.');
1653         if (p)
1654             *p = '\0';
1655         if (hls->use_localtime) {
1656             av_strlcat(vs->basename, pattern_localtime_fmt, basename_size);
1657         } else {
1658             av_strlcat(vs->basename, pattern, basename_size);
1659         }
1660     }
1661
1662     m3u8_name_size = strlen(s->filename) + 1;
1663     if (hls->nb_varstreams > 1) {
1664         m3u8_name_size += strlen(POSTFIX_PATTERN);
1665     }
1666
1667     vs->m3u8_name = av_malloc(m3u8_name_size);
1668     if (!vs->m3u8_name ) {
1669         ret = AVERROR(ENOMEM);
1670         goto fail;
1671     }
1672
1673     av_strlcpy(vs->m3u8_name, s->filename, m3u8_name_size);
1674
1675     if (hls->nb_varstreams > 1) {
1676         ret = format_name(vs->basename, basename_size, i);
1677         if (ret < 0)
1678              goto fail;
1679         ret = format_name(vs->m3u8_name, m3u8_name_size, i);
1680         if (ret < 0)
1681              goto fail;
1682     }
1683
1684     if (hls->segment_type == SEGMENT_TYPE_FMP4) {
1685         if (hls->nb_varstreams > 1)
1686             fmp4_init_filename_len += strlen(POSTFIX_PATTERN);
1687         vs->fmp4_init_filename = av_malloc(fmp4_init_filename_len);
1688         if (!vs->fmp4_init_filename ) {
1689             ret = AVERROR(ENOMEM);
1690             goto fail;
1691         }
1692         av_strlcpy(vs->fmp4_init_filename, hls->fmp4_init_filename,
1693                 fmp4_init_filename_len);
1694         if (hls->nb_varstreams > 1) {
1695             ret = format_name(vs->fmp4_init_filename, fmp4_init_filename_len, i);
1696             if (ret < 0)
1697                  goto fail;
1698         }
1699
1700         if (av_strcasecmp(hls->fmp4_init_filename, "init.mp4")) {
1701             fmp4_init_filename_len = strlen(vs->fmp4_init_filename) + 1;
1702             vs->base_output_dirname = av_malloc(fmp4_init_filename_len);
1703             if (!vs->base_output_dirname) {
1704                 ret = AVERROR(ENOMEM);
1705                 goto fail;
1706             }
1707             av_strlcpy(vs->base_output_dirname, vs->fmp4_init_filename,
1708                     fmp4_init_filename_len);
1709         } else {
1710             fmp4_init_filename_len = strlen(vs->m3u8_name) +
1711                                          strlen(vs->fmp4_init_filename) + 1;
1712
1713             vs->base_output_dirname = av_malloc(fmp4_init_filename_len);
1714             if (!vs->base_output_dirname) {
1715                 ret = AVERROR(ENOMEM);
1716                 goto fail;
1717             }
1718
1719             av_strlcpy(vs->base_output_dirname, vs->m3u8_name,
1720                     fmp4_init_filename_len);
1721             p = strrchr(vs->base_output_dirname, '/');
1722             if (p) {
1723                 *(p + 1) = '\0';
1724                 av_strlcat(vs->base_output_dirname, vs->fmp4_init_filename,
1725                         fmp4_init_filename_len);
1726             } else {
1727                 av_strlcpy(vs->base_output_dirname, vs->fmp4_init_filename,
1728                         fmp4_init_filename_len);
1729             }
1730         }
1731     }
1732
1733     if (!hls->use_localtime) {
1734         ret = sls_flag_check_duration_size_index(hls);
1735         if (ret < 0) {
1736              goto fail;
1737         }
1738     } else {
1739         ret = sls_flag_check_duration_size(hls, vs);
1740         if (ret < 0) {
1741              goto fail;
1742         }
1743     }
1744     if(vs->has_subtitle) {
1745
1746         if (hls->flags & HLS_SINGLE_FILE)
1747             vtt_pattern = ".vtt";
1748         vtt_basename_size = strlen(s->filename) + strlen(vtt_pattern) + 1;
1749         if (hls->nb_varstreams > 1) {
1750             vtt_basename_size += strlen(POSTFIX_PATTERN);
1751         }
1752
1753         vs->vtt_basename = av_malloc(vtt_basename_size);
1754         if (!vs->vtt_basename) {
1755             ret = AVERROR(ENOMEM);
1756             goto fail;
1757         }
1758         vs->vtt_m3u8_name = av_malloc(vtt_basename_size);
1759         if (!vs->vtt_m3u8_name ) {
1760             ret = AVERROR(ENOMEM);
1761             goto fail;
1762         }
1763         av_strlcpy(vs->vtt_basename, s->filename, vtt_basename_size);
1764         p = strrchr(vs->vtt_basename, '.');
1765         if (p)
1766             *p = '\0';
1767
1768         if( hls->subtitle_filename ) {
1769             strcpy(vs->vtt_m3u8_name, hls->subtitle_filename);
1770         } else {
1771             strcpy(vs->vtt_m3u8_name, vs->vtt_basename);
1772             av_strlcat(vs->vtt_m3u8_name, "_vtt.m3u8", vtt_basename_size);
1773         }
1774         av_strlcat(vs->vtt_basename, vtt_pattern, vtt_basename_size);
1775
1776         if (hls->nb_varstreams > 1) {
1777             ret= format_name(vs->vtt_basename, vtt_basename_size, i);
1778             if (ret < 0)
1779                  goto fail;
1780             ret = format_name(vs->vtt_m3u8_name, vtt_basename_size, i);
1781             if (ret < 0)
1782                  goto fail;
1783         }
1784     }
1785
1786     if (hls->baseurl) {
1787         int baseurl_len;
1788         baseurl_len = strlen(hls->baseurl);
1789         vs->baseurl = av_malloc(baseurl_len);
1790         if (!vs->baseurl) {
1791             ret = AVERROR(ENOMEM);
1792             goto fail;
1793         }
1794         av_strlcpy(vs->baseurl, hls->baseurl, baseurl_len);
1795     }
1796
1797     if ((hls->flags & HLS_SINGLE_FILE) && (hls->segment_type == SEGMENT_TYPE_FMP4)) {
1798         vs->fmp4_init_filename  = av_strdup(vs->basename);
1799         if (!vs->fmp4_init_filename) {
1800             ret = AVERROR(ENOMEM);
1801             goto fail;
1802         }
1803     }
1804
1805     if ((ret = hls_mux_init(s, vs)) < 0)
1806         goto fail;
1807
1808     if (hls->flags & HLS_APPEND_LIST) {
1809         parse_playlist(s, vs->m3u8_name, vs);
1810         vs->discontinuity = 1;
1811         if (hls->init_time > 0) {
1812             av_log(s, AV_LOG_WARNING, "append_list mode does not support hls_init_time,"
1813                    " hls_init_time value will have no effect\n");
1814             hls->init_time = 0;
1815             hls->recording_time = hls->time * AV_TIME_BASE;
1816         }
1817     }
1818
1819     if (hls->segment_type != SEGMENT_TYPE_FMP4 || hls->flags & HLS_SINGLE_FILE) {
1820         if ((ret = hls_start(s, vs)) < 0)
1821             goto fail;
1822     }
1823
1824     av_dict_copy(&options, hls->format_options, 0);
1825     ret = avformat_write_header(vs->avf, &options);
1826     if (av_dict_count(options)) {
1827         av_log(s, AV_LOG_ERROR, "Some of provided format options in '%s' are not recognized\n", hls->format_options_str);
1828         ret = AVERROR(EINVAL);
1829         av_dict_free(&options);
1830         goto fail;
1831     }
1832     av_dict_free(&options);
1833     //av_assert0(s->nb_streams == hls->avf->nb_streams);
1834     for (j = 0; j < vs->nb_streams; j++) {
1835         AVStream *inner_st;
1836         AVStream *outer_st = vs->streams[j];
1837
1838         if (hls->max_seg_size > 0) {
1839             if ((outer_st->codecpar->codec_type == AVMEDIA_TYPE_VIDEO) &&
1840                 (outer_st->codecpar->bit_rate > hls->max_seg_size)) {
1841                 av_log(s, AV_LOG_WARNING, "Your video bitrate is bigger than hls_segment_size, "
1842                        "(%"PRId64 " > %"PRId64 "), the result maybe not be what you want.",
1843                        outer_st->codecpar->bit_rate, hls->max_seg_size);
1844             }
1845         }
1846
1847         if (outer_st->codecpar->codec_type != AVMEDIA_TYPE_SUBTITLE)
1848             inner_st = vs->avf->streams[j];
1849         else if (vs->vtt_avf)
1850             inner_st = vs->vtt_avf->streams[0];
1851         else {
1852             /* We have a subtitle stream, when the user does not want one */
1853             inner_st = NULL;
1854             continue;
1855         }
1856         avpriv_set_pts_info(outer_st, inner_st->pts_wrap_bits, inner_st->time_base.num, inner_st->time_base.den);
1857     }
1858     }
1859 fail:
1860
1861     if (ret < 0) {
1862         av_freep(&hls->key_basename);
1863         for (i = 0; i < hls->nb_varstreams && hls->var_streams; i++) {
1864             vs = &hls->var_streams[i];
1865             av_freep(&vs->basename);
1866             av_freep(&vs->vtt_basename);
1867             av_freep(&vs->fmp4_init_filename);
1868             av_freep(&vs->m3u8_name);
1869             av_freep(&vs->vtt_m3u8_name);
1870             av_freep(&vs->streams);
1871             av_freep(&vs->baseurl);
1872             if (vs->avf)
1873                 avformat_free_context(vs->avf);
1874             if (vs->vtt_avf)
1875                 avformat_free_context(vs->vtt_avf);
1876
1877         }
1878         av_freep(&hls->var_streams);
1879     }
1880     return ret;
1881 }
1882
1883 static int hls_write_packet(AVFormatContext *s, AVPacket *pkt)
1884 {
1885     HLSContext *hls = s->priv_data;
1886     AVFormatContext *oc = NULL;
1887     AVStream *st = s->streams[pkt->stream_index];
1888     int64_t end_pts = 0;
1889     int is_ref_pkt = 1;
1890     int ret = 0, can_split = 1, i, j;
1891     int stream_index = 0;
1892     int range_length = 0;
1893     uint8_t *buffer = NULL;
1894     VariantStream *vs = NULL;
1895
1896     for (i = 0; i < hls->nb_varstreams; i++) {
1897         vs = &hls->var_streams[i];
1898         for (j = 0; j < vs->nb_streams; j++) {
1899             if (vs->streams[j] == st) {
1900                 if( st->codecpar->codec_type == AVMEDIA_TYPE_SUBTITLE ) {
1901                     oc = vs->vtt_avf;
1902                     stream_index = 0;
1903                 } else {
1904                     oc = vs->avf;
1905                     stream_index = j;
1906                 }
1907                 break;
1908             }
1909         }
1910
1911         if (oc)
1912             break;
1913     }
1914
1915     if (!oc) {
1916         av_log(s, AV_LOG_ERROR, "Unable to find mapping variant stream\n");
1917         return AVERROR(ENOMEM);
1918     }
1919
1920     end_pts = hls->recording_time * vs->number;
1921
1922     if (vs->sequence - vs->nb_entries > hls->start_sequence && hls->init_time > 0) {
1923         /* reset end_pts, hls->recording_time at end of the init hls list */
1924         int init_list_dur = hls->init_time * vs->nb_entries * AV_TIME_BASE;
1925         int after_init_list_dur = (vs->sequence - vs->nb_entries ) * hls->time * AV_TIME_BASE;
1926         hls->recording_time = hls->time * AV_TIME_BASE;
1927         end_pts = init_list_dur + after_init_list_dur ;
1928     }
1929
1930     if (vs->start_pts == AV_NOPTS_VALUE) {
1931         vs->start_pts = pkt->pts;
1932         vs->end_pts   = pkt->pts;
1933     }
1934
1935     if (vs->has_video) {
1936         can_split = st->codecpar->codec_type == AVMEDIA_TYPE_VIDEO &&
1937                     ((pkt->flags & AV_PKT_FLAG_KEY) || (hls->flags & HLS_SPLIT_BY_TIME));
1938         is_ref_pkt = st->codecpar->codec_type == AVMEDIA_TYPE_VIDEO;
1939     }
1940     if (pkt->pts == AV_NOPTS_VALUE)
1941         is_ref_pkt = can_split = 0;
1942
1943     if (is_ref_pkt) {
1944         if (vs->new_start) {
1945             vs->new_start = 0;
1946             vs->duration = (double)(pkt->pts - vs->end_pts)
1947                                        * st->time_base.num / st->time_base.den;
1948             vs->dpp = (double)(pkt->duration) * st->time_base.num / st->time_base.den;
1949         } else {
1950             if (pkt->duration) {
1951                 vs->duration += (double)(pkt->duration) * st->time_base.num / st->time_base.den;
1952             } else {
1953                 av_log(s, AV_LOG_WARNING, "pkt->duration = 0, maybe the hls segment duration will not precise\n");
1954                 vs->duration = (double)(pkt->pts - vs->end_pts) * st->time_base.num / st->time_base.den;
1955             }
1956         }
1957
1958     }
1959
1960     if (vs->packets_written && can_split && av_compare_ts(pkt->pts - vs->start_pts, st->time_base,
1961                                    end_pts, AV_TIME_BASE_Q) >= 0) {
1962         int64_t new_start_pos;
1963         char *old_filename = av_strdup(vs->avf->filename);
1964         int byterange_mode = (hls->flags & HLS_SINGLE_FILE) || (hls->max_seg_size > 0);
1965
1966         if (!old_filename) {
1967             return AVERROR(ENOMEM);
1968         }
1969
1970         av_write_frame(vs->avf, NULL); /* Flush any buffered data */
1971
1972         new_start_pos = avio_tell(vs->avf->pb);
1973         vs->size = new_start_pos - vs->start_pos;
1974
1975         if (!byterange_mode) {
1976             if (hls->segment_type == SEGMENT_TYPE_FMP4 && !vs->init_range_length) {
1977                 avio_flush(oc->pb);
1978                 range_length = avio_close_dyn_buf(oc->pb, &buffer);
1979                 avio_write(vs->out, buffer, range_length);
1980                 vs->init_range_length = range_length;
1981                 avio_open_dyn_buf(&oc->pb);
1982                 vs->packets_written = 0;
1983                 ff_format_io_close(s, &vs->out);
1984             } else {
1985                 ff_format_io_close(s, &oc->pb);
1986             }
1987             if (vs->vtt_avf) {
1988                 ff_format_io_close(s, &vs->vtt_avf->pb);
1989             }
1990         }
1991         if ((hls->flags & HLS_TEMP_FILE) && oc->filename[0]) {
1992             if (!(hls->flags & HLS_SINGLE_FILE) || (hls->max_seg_size <= 0))
1993                 if ((vs->avf->oformat->priv_class && vs->avf->priv_data) && hls->segment_type != SEGMENT_TYPE_FMP4)
1994                     av_opt_set(vs->avf->priv_data, "mpegts_flags", "resend_headers", 0);
1995             hls_rename_temp_file(s, oc);
1996         }
1997
1998         if (vs->fmp4_init_mode) {
1999             vs->number--;
2000         }
2001
2002         if (!vs->fmp4_init_mode || byterange_mode)
2003             ret = hls_append_segment(s, hls, vs, vs->duration, vs->start_pos, vs->size);
2004         vs->start_pos = new_start_pos;
2005         if (ret < 0) {
2006             av_free(old_filename);
2007             return ret;
2008         }
2009
2010         vs->end_pts = pkt->pts;
2011         vs->duration = 0;
2012
2013         vs->fmp4_init_mode = 0;
2014         if (hls->flags & HLS_SINGLE_FILE) {
2015             vs->number++;
2016         } else if (hls->max_seg_size > 0) {
2017             if (vs->start_pos >= hls->max_seg_size) {
2018                 vs->sequence++;
2019                 sls_flag_file_rename(hls, vs, old_filename);
2020                 ret = hls_start(s, vs);
2021                 vs->start_pos = 0;
2022                 /* When split segment by byte, the duration is short than hls_time,
2023                  * so it is not enough one segment duration as hls_time, */
2024                 vs->number--;
2025             }
2026             vs->number++;
2027         } else {
2028             sls_flag_file_rename(hls, vs, old_filename);
2029             ret = hls_start(s, vs);
2030         }
2031         av_free(old_filename);
2032
2033         if (ret < 0) {
2034             return ret;
2035         }
2036
2037         if (!vs->fmp4_init_mode || byterange_mode)
2038             if ((ret = hls_window(s, 0, vs)) < 0) {
2039                 return ret;
2040             }
2041     }
2042
2043     vs->packets_written++;
2044     ret = ff_write_chained(oc, stream_index, pkt, s, 0);
2045
2046     return ret;
2047 }
2048
2049 static int hls_write_trailer(struct AVFormatContext *s)
2050 {
2051     HLSContext *hls = s->priv_data;
2052     AVFormatContext *oc = NULL;
2053     AVFormatContext *vtt_oc = NULL;
2054     char *old_filename = NULL;
2055     int i;
2056     VariantStream *vs = NULL;
2057
2058     for (i = 0; i < hls->nb_varstreams; i++) {
2059         vs = &hls->var_streams[i];
2060
2061     oc = vs->avf;
2062     vtt_oc = vs->vtt_avf;
2063     old_filename = av_strdup(vs->avf->filename);
2064
2065     if (!old_filename) {
2066         return AVERROR(ENOMEM);
2067     }
2068
2069
2070     av_write_trailer(oc);
2071     if (oc->pb) {
2072         vs->size = avio_tell(vs->avf->pb) - vs->start_pos;
2073         ff_format_io_close(s, &oc->pb);
2074
2075         if ((hls->flags & HLS_TEMP_FILE) && oc->filename[0]) {
2076             hls_rename_temp_file(s, oc);
2077         }
2078
2079         /* after av_write_trailer, then duration + 1 duration per packet */
2080         hls_append_segment(s, hls, vs, vs->duration + vs->dpp, vs->start_pos, vs->size);
2081     }
2082
2083     sls_flag_file_rename(hls, vs, old_filename);
2084
2085     if (vtt_oc) {
2086         if (vtt_oc->pb)
2087             av_write_trailer(vtt_oc);
2088         vs->size = avio_tell(vs->vtt_avf->pb) - vs->start_pos;
2089         ff_format_io_close(s, &vtt_oc->pb);
2090     }
2091     av_freep(&vs->basename);
2092     av_freep(&vs->base_output_dirname);
2093     avformat_free_context(oc);
2094
2095     vs->avf = NULL;
2096     hls_window(s, 1, vs);
2097
2098     av_freep(&vs->fmp4_init_filename);
2099     if (vtt_oc) {
2100         av_freep(&vs->vtt_basename);
2101         av_freep(&vs->vtt_m3u8_name);
2102         avformat_free_context(vtt_oc);
2103     }
2104
2105     hls_free_segments(vs->segments);
2106     hls_free_segments(vs->old_segments);
2107     av_free(old_filename);
2108     av_freep(&vs->m3u8_name);
2109     av_freep(&vs->streams);
2110     av_freep(&vs->baseurl);
2111     }
2112
2113     av_freep(&hls->key_basename);
2114     av_freep(&hls->var_streams);
2115     return 0;
2116 }
2117
2118 #define OFFSET(x) offsetof(HLSContext, x)
2119 #define E AV_OPT_FLAG_ENCODING_PARAM
2120 static const AVOption options[] = {
2121     {"start_number",  "set first number in the sequence",        OFFSET(start_sequence),AV_OPT_TYPE_INT64,  {.i64 = 0},     0, INT64_MAX, E},
2122     {"hls_time",      "set segment length in seconds",           OFFSET(time),    AV_OPT_TYPE_FLOAT,  {.dbl = 2},     0, FLT_MAX, E},
2123     {"hls_init_time", "set segment length in seconds at init list",           OFFSET(init_time),    AV_OPT_TYPE_FLOAT,  {.dbl = 0},     0, FLT_MAX, E},
2124     {"hls_list_size", "set maximum number of playlist entries",  OFFSET(max_nb_segments),    AV_OPT_TYPE_INT,    {.i64 = 5},     0, INT_MAX, E},
2125     {"hls_ts_options","set hls mpegts list of options for the container format used for hls", OFFSET(format_options_str), AV_OPT_TYPE_STRING, {.str = NULL},  0, 0,    E},
2126     {"hls_vtt_options","set hls vtt list of options for the container format used for hls", OFFSET(vtt_format_options_str), AV_OPT_TYPE_STRING, {.str = NULL},  0, 0,    E},
2127 #if FF_API_HLS_WRAP
2128     {"hls_wrap",      "set number after which the index wraps (will be deprecated)",  OFFSET(wrap),    AV_OPT_TYPE_INT,    {.i64 = 0},     0, INT_MAX, E},
2129 #endif
2130     {"hls_allow_cache", "explicitly set whether the client MAY (1) or MUST NOT (0) cache media segments", OFFSET(allowcache), AV_OPT_TYPE_INT, {.i64 = -1}, INT_MIN, INT_MAX, E},
2131     {"hls_base_url",  "url to prepend to each playlist entry",   OFFSET(baseurl), AV_OPT_TYPE_STRING, {.str = NULL},  0, 0,       E},
2132     {"hls_segment_filename", "filename template for segment files", OFFSET(segment_filename),   AV_OPT_TYPE_STRING, {.str = NULL},            0,       0,         E},
2133     {"hls_segment_size", "maximum size per segment file, (in bytes)",  OFFSET(max_seg_size),    AV_OPT_TYPE_INT,    {.i64 = 0},               0,       INT_MAX,   E},
2134     {"hls_key_info_file",    "file with key URI and key file path", OFFSET(key_info_file),      AV_OPT_TYPE_STRING, {.str = NULL},            0,       0,         E},
2135     {"hls_enc",    "enable AES128 encryption support", OFFSET(encrypt),      AV_OPT_TYPE_BOOL, {.i64 = 0},            0,       1,         E},
2136     {"hls_enc_key",    "hex-coded 16 byte key to encrypt the segments", OFFSET(key),      AV_OPT_TYPE_STRING, .flags = E},
2137     {"hls_enc_key_url",    "url to access the key to decrypt the segments", OFFSET(key_url),      AV_OPT_TYPE_STRING, {.str = NULL},            0,       0,         E},
2138     {"hls_enc_iv",    "hex-coded 16 byte initialization vector", OFFSET(iv),      AV_OPT_TYPE_STRING, .flags = E},
2139     {"hls_subtitle_path",     "set path of hls subtitles", OFFSET(subtitle_filename), AV_OPT_TYPE_STRING, {.str = NULL},  0, 0,    E},
2140     {"hls_segment_type",     "set hls segment files type", OFFSET(segment_type), AV_OPT_TYPE_INT, {.i64 = SEGMENT_TYPE_MPEGTS }, 0, SEGMENT_TYPE_FMP4, E, "segment_type"},
2141     {"mpegts",   "make segment file to mpegts files in m3u8", 0, AV_OPT_TYPE_CONST, {.i64 = SEGMENT_TYPE_MPEGTS }, 0, UINT_MAX,   E, "segment_type"},
2142     {"fmp4",   "make segment file to fragment mp4 files in m3u8", 0, AV_OPT_TYPE_CONST, {.i64 = SEGMENT_TYPE_FMP4 }, 0, UINT_MAX,   E, "segment_type"},
2143     {"hls_fmp4_init_filename", "set fragment mp4 file init filename", OFFSET(fmp4_init_filename),   AV_OPT_TYPE_STRING, {.str = "init.mp4"},            0,       0,         E},
2144     {"hls_flags",     "set flags affecting HLS playlist and media file generation", OFFSET(flags), AV_OPT_TYPE_FLAGS, {.i64 = 0 }, 0, UINT_MAX, E, "flags"},
2145     {"single_file",   "generate a single media file indexed with byte ranges", 0, AV_OPT_TYPE_CONST, {.i64 = HLS_SINGLE_FILE }, 0, UINT_MAX,   E, "flags"},
2146     {"temp_file", "write segment to temporary file and rename when complete", 0, AV_OPT_TYPE_CONST, {.i64 = HLS_TEMP_FILE }, 0, UINT_MAX,   E, "flags"},
2147     {"delete_segments", "delete segment files that are no longer part of the playlist", 0, AV_OPT_TYPE_CONST, {.i64 = HLS_DELETE_SEGMENTS }, 0, UINT_MAX,   E, "flags"},
2148     {"round_durations", "round durations in m3u8 to whole numbers", 0, AV_OPT_TYPE_CONST, {.i64 = HLS_ROUND_DURATIONS }, 0, UINT_MAX,   E, "flags"},
2149     {"discont_start", "start the playlist with a discontinuity tag", 0, AV_OPT_TYPE_CONST, {.i64 = HLS_DISCONT_START }, 0, UINT_MAX,   E, "flags"},
2150     {"omit_endlist", "Do not append an endlist when ending stream", 0, AV_OPT_TYPE_CONST, {.i64 = HLS_OMIT_ENDLIST }, 0, UINT_MAX,   E, "flags"},
2151     {"split_by_time", "split the hls segment by time which user set by hls_time", 0, AV_OPT_TYPE_CONST, {.i64 = HLS_SPLIT_BY_TIME }, 0, UINT_MAX,   E, "flags"},
2152     {"append_list", "append the new segments into old hls segment list", 0, AV_OPT_TYPE_CONST, {.i64 = HLS_APPEND_LIST }, 0, UINT_MAX,   E, "flags"},
2153     {"program_date_time", "add EXT-X-PROGRAM-DATE-TIME", 0, AV_OPT_TYPE_CONST, {.i64 = HLS_PROGRAM_DATE_TIME }, 0, UINT_MAX,   E, "flags"},
2154     {"second_level_segment_index", "include segment index in segment filenames when use_localtime", 0, AV_OPT_TYPE_CONST, {.i64 = HLS_SECOND_LEVEL_SEGMENT_INDEX }, 0, UINT_MAX,   E, "flags"},
2155     {"second_level_segment_duration", "include segment duration in segment filenames when use_localtime", 0, AV_OPT_TYPE_CONST, {.i64 = HLS_SECOND_LEVEL_SEGMENT_DURATION }, 0, UINT_MAX,   E, "flags"},
2156     {"second_level_segment_size", "include segment size in segment filenames when use_localtime", 0, AV_OPT_TYPE_CONST, {.i64 = HLS_SECOND_LEVEL_SEGMENT_SIZE }, 0, UINT_MAX,   E, "flags"},
2157     {"periodic_rekey", "reload keyinfo file periodically for re-keying", 0, AV_OPT_TYPE_CONST, {.i64 = HLS_PERIODIC_REKEY }, 0, UINT_MAX,   E, "flags"},
2158     {"use_localtime", "set filename expansion with strftime at segment creation", OFFSET(use_localtime), AV_OPT_TYPE_BOOL, {.i64 = 0 }, 0, 1, E },
2159     {"use_localtime_mkdir", "create last directory component in strftime-generated filename", OFFSET(use_localtime_mkdir), AV_OPT_TYPE_BOOL, {.i64 = 0 }, 0, 1, E },
2160     {"hls_playlist_type", "set the HLS playlist type", OFFSET(pl_type), AV_OPT_TYPE_INT, {.i64 = PLAYLIST_TYPE_NONE }, 0, PLAYLIST_TYPE_NB-1, E, "pl_type" },
2161     {"event", "EVENT playlist", 0, AV_OPT_TYPE_CONST, {.i64 = PLAYLIST_TYPE_EVENT }, INT_MIN, INT_MAX, E, "pl_type" },
2162     {"vod", "VOD playlist", 0, AV_OPT_TYPE_CONST, {.i64 = PLAYLIST_TYPE_VOD }, INT_MIN, INT_MAX, E, "pl_type" },
2163     {"method", "set the HTTP method(default: PUT)", OFFSET(method), AV_OPT_TYPE_STRING, {.str = NULL},  0, 0,    E},
2164     {"hls_start_number_source", "set source of first number in sequence", OFFSET(start_sequence_source_type), AV_OPT_TYPE_INT, {.i64 = HLS_START_SEQUENCE_AS_START_NUMBER }, 0, HLS_START_SEQUENCE_AS_FORMATTED_DATETIME, E, "start_sequence_source_type" },
2165     {"generic", "start_number value (default)", 0, AV_OPT_TYPE_CONST, {.i64 = HLS_START_SEQUENCE_AS_START_NUMBER }, INT_MIN, INT_MAX, E, "start_sequence_source_type" },
2166     {"epoch", "seconds since epoch", 0, AV_OPT_TYPE_CONST, {.i64 = HLS_START_SEQUENCE_AS_SECONDS_SINCE_EPOCH }, INT_MIN, INT_MAX, E, "start_sequence_source_type" },
2167     {"datetime", "current datetime as YYYYMMDDhhmmss", 0, AV_OPT_TYPE_CONST, {.i64 = HLS_START_SEQUENCE_AS_FORMATTED_DATETIME }, INT_MIN, INT_MAX, E, "start_sequence_source_type" },
2168     {"http_user_agent", "override User-Agent field in HTTP header", OFFSET(user_agent), AV_OPT_TYPE_STRING, {.str = NULL},  0, 0,    E},
2169     {"var_stream_map", "Variant stream map string", OFFSET(var_stream_map), AV_OPT_TYPE_STRING, {.str = NULL},  0, 0,    E},
2170     { NULL },
2171 };
2172
2173 static const AVClass hls_class = {
2174     .class_name = "hls muxer",
2175     .item_name  = av_default_item_name,
2176     .option     = options,
2177     .version    = LIBAVUTIL_VERSION_INT,
2178 };
2179
2180
2181 AVOutputFormat ff_hls_muxer = {
2182     .name           = "hls",
2183     .long_name      = NULL_IF_CONFIG_SMALL("Apple HTTP Live Streaming"),
2184     .extensions     = "m3u8",
2185     .priv_data_size = sizeof(HLSContext),
2186     .audio_codec    = AV_CODEC_ID_AAC,
2187     .video_codec    = AV_CODEC_ID_H264,
2188     .subtitle_codec = AV_CODEC_ID_WEBVTT,
2189     .flags          = AVFMT_NOFILE | AVFMT_GLOBALHEADER | AVFMT_ALLOW_FLUSH,
2190     .write_header   = hls_write_header,
2191     .write_packet   = hls_write_packet,
2192     .write_trailer  = hls_write_trailer,
2193     .priv_class     = &hls_class,
2194 };