avdevice/decklink_dec: autodetect the video input format
[ffmpeg.git] / libavdevice / decklink_dec.cpp
1 /*
2  * Blackmagic DeckLink input
3  * Copyright (c) 2013-2014 Luca Barbato, Deti Fliegl
4  * Copyright (c) 2014 Rafaël Carré
5  * Copyright (c) 2017 Akamai Technologies, Inc.
6  *
7  * This file is part of FFmpeg.
8  *
9  * FFmpeg is free software; you can redistribute it and/or
10  * modify it under the terms of the GNU Lesser General Public
11  * License as published by the Free Software Foundation; either
12  * version 2.1 of the License, or (at your option) any later version.
13  *
14  * FFmpeg is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
17  * Lesser General Public License for more details.
18  *
19  * You should have received a copy of the GNU Lesser General Public
20  * License along with FFmpeg; if not, write to the Free Software
21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
22  */
23
24 /* Include internal.h first to avoid conflict between winsock.h (used by
25  * DeckLink headers) and winsock2.h (used by libavformat) in MSVC++ builds */
26 extern "C" {
27 #include "libavformat/internal.h"
28 }
29
30 #include <DeckLinkAPI.h>
31
32 extern "C" {
33 #include "config.h"
34 #include "libavformat/avformat.h"
35 #include "libavutil/avassert.h"
36 #include "libavutil/avutil.h"
37 #include "libavutil/common.h"
38 #include "libavutil/imgutils.h"
39 #include "libavutil/intreadwrite.h"
40 #include "libavutil/time.h"
41 #include "libavutil/mathematics.h"
42 #include "libavutil/reverse.h"
43 #include "avdevice.h"
44 #if CONFIG_LIBZVBI
45 #include <libzvbi.h>
46 #endif
47 }
48
49 #include "decklink_common.h"
50 #include "decklink_dec.h"
51
52 #define MAX_WIDTH_VANC 1920
53 const BMDDisplayMode AUTODETECT_DEFAULT_MODE = bmdModeNTSC;
54
55 typedef struct VANCLineNumber {
56     BMDDisplayMode mode;
57     int vanc_start;
58     int field0_vanc_end;
59     int field1_vanc_start;
60     int vanc_end;
61 } VANCLineNumber;
62
63 /* These VANC line numbers need not be very accurate. In any case
64  * GetBufferForVerticalBlankingLine() will return an error when invalid
65  * ancillary line number was requested. We just need to make sure that the
66  * entire VANC region is covered, while making sure we don't decode VANC of
67  * another source during switching*/
68 static VANCLineNumber vanc_line_numbers[] = {
69     /* SD Modes */
70
71     {bmdModeNTSC, 11, 19, 274, 282},
72     {bmdModeNTSC2398, 11, 19, 274, 282},
73     {bmdModePAL, 7, 22, 320, 335},
74     {bmdModeNTSCp, 11, -1, -1, 39},
75     {bmdModePALp, 7, -1, -1, 45},
76
77     /* HD 1080 Modes */
78
79     {bmdModeHD1080p2398, 8, -1, -1, 42},
80     {bmdModeHD1080p24, 8, -1, -1, 42},
81     {bmdModeHD1080p25, 8, -1, -1, 42},
82     {bmdModeHD1080p2997, 8, -1, -1, 42},
83     {bmdModeHD1080p30, 8, -1, -1, 42},
84     {bmdModeHD1080i50, 8, 20, 570, 585},
85     {bmdModeHD1080i5994, 8, 20, 570, 585},
86     {bmdModeHD1080i6000, 8, 20, 570, 585},
87     {bmdModeHD1080p50, 8, -1, -1, 42},
88     {bmdModeHD1080p5994, 8, -1, -1, 42},
89     {bmdModeHD1080p6000, 8, -1, -1, 42},
90
91      /* HD 720 Modes */
92
93     {bmdModeHD720p50, 8, -1, -1, 26},
94     {bmdModeHD720p5994, 8, -1, -1, 26},
95     {bmdModeHD720p60, 8, -1, -1, 26},
96
97     /* For all other modes, for which we don't support VANC */
98     {bmdModeUnknown, 0, -1, -1, -1}
99 };
100
101 static int get_vanc_line_idx(BMDDisplayMode mode)
102 {
103     unsigned int i;
104     for (i = 0; i < FF_ARRAY_ELEMS(vanc_line_numbers); i++) {
105         if (mode == vanc_line_numbers[i].mode)
106             return i;
107     }
108     /* Return the VANC idx for Unknown mode */
109     return i - 1;
110 }
111
112 static inline void clear_parity_bits(uint16_t *buf, int len) {
113     int i;
114     for (i = 0; i < len; i++)
115         buf[i] &= 0xff;
116 }
117
118 static int check_vanc_parity_checksum(uint16_t *buf, int len, uint16_t checksum) {
119     int i;
120     uint16_t vanc_sum = 0;
121     for (i = 3; i < len - 1; i++) {
122         uint16_t v = buf[i];
123         int np = v >> 8;
124         int p = av_parity(v & 0xff);
125         if ((!!p ^ !!(v & 0x100)) || (np != 1 && np != 2)) {
126             // Parity check failed
127             return -1;
128         }
129         vanc_sum += v;
130     }
131     vanc_sum &= 0x1ff;
132     vanc_sum |= ((~vanc_sum & 0x100) << 1);
133     if (checksum != vanc_sum) {
134         // Checksum verification failed
135         return -1;
136     }
137     return 0;
138 }
139
140 /* The 10-bit VANC data is packed in V210, we only need the luma component. */
141 static void extract_luma_from_v210(uint16_t *dst, const uint8_t *src, int width)
142 {
143     int i;
144     for (i = 0; i < width / 3; i++) {
145         *dst++ = (src[1] >> 2) + ((src[2] & 15) << 6);
146         *dst++ =  src[4]       + ((src[5] &  3) << 8);
147         *dst++ = (src[6] >> 4) + ((src[7] & 63) << 4);
148         src += 8;
149     }
150 }
151
152 static uint8_t calc_parity_and_line_offset(int line)
153 {
154     uint8_t ret = (line < 313) << 5;
155     if (line >= 7 && line <= 22)
156         ret += line;
157     if (line >= 320 && line <= 335)
158         ret += (line - 313);
159     return ret;
160 }
161
162 static void fill_data_unit_head(int line, uint8_t *tgt)
163 {
164     tgt[0] = 0x02; // data_unit_id
165     tgt[1] = 0x2c; // data_unit_length
166     tgt[2] = calc_parity_and_line_offset(line); // field_parity, line_offset
167     tgt[3] = 0xe4; // framing code
168 }
169
170 #if CONFIG_LIBZVBI
171 static uint8_t* teletext_data_unit_from_vbi_data(int line, uint8_t *src, uint8_t *tgt, vbi_pixfmt fmt)
172 {
173     vbi_bit_slicer slicer;
174
175     vbi_bit_slicer_init(&slicer, 720, 13500000, 6937500, 6937500, 0x00aaaae4, 0xffff, 18, 6, 42 * 8, VBI_MODULATION_NRZ_MSB, fmt);
176
177     if (vbi_bit_slice(&slicer, src, tgt + 4) == FALSE)
178         return tgt;
179
180     fill_data_unit_head(line, tgt);
181
182     return tgt + 46;
183 }
184
185 static uint8_t* teletext_data_unit_from_vbi_data_10bit(int line, uint8_t *src, uint8_t *tgt)
186 {
187     uint8_t y[720];
188     uint8_t *py = y;
189     uint8_t *pend = y + 720;
190     /* The 10-bit VBI data is packed in V210, but libzvbi only supports 8-bit,
191      * so we extract the 8 MSBs of the luma component, that is enough for
192      * teletext bit slicing. */
193     while (py < pend) {
194         *py++ = (src[1] >> 4) + ((src[2] & 15) << 4);
195         *py++ = (src[4] >> 2) + ((src[5] & 3 ) << 6);
196         *py++ = (src[6] >> 6) + ((src[7] & 63) << 2);
197         src += 8;
198     }
199     return teletext_data_unit_from_vbi_data(line, y, tgt, VBI_PIXFMT_YUV420);
200 }
201 #endif
202
203 static uint8_t* teletext_data_unit_from_op47_vbi_packet(int line, uint16_t *py, uint8_t *tgt)
204 {
205     int i;
206
207     if (py[0] != 0x255 || py[1] != 0x255 || py[2] != 0x227)
208         return tgt;
209
210     fill_data_unit_head(line, tgt);
211
212     py += 3;
213     tgt += 4;
214
215     for (i = 0; i < 42; i++)
216        *tgt++ = ff_reverse[py[i] & 255];
217
218     return tgt;
219 }
220
221 static int linemask_matches(int line, int64_t mask)
222 {
223     int shift = -1;
224     if (line >= 6 && line <= 22)
225         shift = line - 6;
226     if (line >= 318 && line <= 335)
227         shift = line - 318 + 17;
228     return shift >= 0 && ((1ULL << shift) & mask);
229 }
230
231 static uint8_t* teletext_data_unit_from_op47_data(uint16_t *py, uint16_t *pend, uint8_t *tgt, int64_t wanted_lines)
232 {
233     if (py < pend - 9) {
234         if (py[0] == 0x151 && py[1] == 0x115 && py[3] == 0x102) {       // identifier, identifier, format code for WST teletext
235             uint16_t *descriptors = py + 4;
236             int i;
237             py += 9;
238             for (i = 0; i < 5 && py < pend - 45; i++, py += 45) {
239                 int line = (descriptors[i] & 31) + (!(descriptors[i] & 128)) * 313;
240                 if (line && linemask_matches(line, wanted_lines))
241                     tgt = teletext_data_unit_from_op47_vbi_packet(line, py, tgt);
242             }
243         }
244     }
245     return tgt;
246 }
247
248 static uint8_t* teletext_data_unit_from_ancillary_packet(uint16_t *py, uint16_t *pend, uint8_t *tgt, int64_t wanted_lines, int allow_multipacket)
249 {
250     uint16_t did = py[0];                                               // data id
251     uint16_t sdid = py[1];                                              // secondary data id
252     uint16_t dc = py[2] & 255;                                          // data count
253     py += 3;
254     pend = FFMIN(pend, py + dc);
255     if (did == 0x143 && sdid == 0x102) {                                // subtitle distribution packet
256         tgt = teletext_data_unit_from_op47_data(py, pend, tgt, wanted_lines);
257     } else if (allow_multipacket && did == 0x143 && sdid == 0x203) {    // VANC multipacket
258         py += 2;                                                        // priority, line/field
259         while (py < pend - 3) {
260             tgt = teletext_data_unit_from_ancillary_packet(py, pend, tgt, wanted_lines, 0);
261             py += 4 + (py[2] & 255);                                    // ndid, nsdid, ndc, line/field
262         }
263     }
264     return tgt;
265 }
266
267 static uint8_t *vanc_to_cc(AVFormatContext *avctx, uint16_t *buf, size_t words,
268                            unsigned &cc_count)
269 {
270     size_t i, len = (buf[5] & 0xff) + 6 + 1;
271     uint8_t cdp_sum, rate;
272     uint16_t hdr, ftr;
273     uint8_t *cc;
274     uint16_t *cdp = &buf[6]; // CDP follows
275     if (cdp[0] != 0x96 || cdp[1] != 0x69) {
276         av_log(avctx, AV_LOG_WARNING, "Invalid CDP header 0x%.2x 0x%.2x\n", cdp[0], cdp[1]);
277         return NULL;
278     }
279
280     len -= 7; // remove VANC header and checksum
281
282     if (cdp[2] != len) {
283         av_log(avctx, AV_LOG_WARNING, "CDP len %d != %zu\n", cdp[2], len);
284         return NULL;
285     }
286
287     cdp_sum = 0;
288     for (i = 0; i < len - 1; i++)
289         cdp_sum += cdp[i];
290     cdp_sum = cdp_sum ? 256 - cdp_sum : 0;
291     if (cdp[len - 1] != cdp_sum) {
292         av_log(avctx, AV_LOG_WARNING, "CDP checksum invalid 0x%.4x != 0x%.4x\n", cdp_sum, cdp[len-1]);
293         return NULL;
294     }
295
296     rate = cdp[3];
297     if (!(rate & 0x0f)) {
298         av_log(avctx, AV_LOG_WARNING, "CDP frame rate invalid (0x%.2x)\n", rate);
299         return NULL;
300     }
301     rate >>= 4;
302     if (rate > 8) {
303         av_log(avctx, AV_LOG_WARNING, "CDP frame rate invalid (0x%.2x)\n", rate);
304         return NULL;
305     }
306
307     if (!(cdp[4] & 0x43)) /* ccdata_present | caption_service_active | reserved */ {
308         av_log(avctx, AV_LOG_WARNING, "CDP flags invalid (0x%.2x)\n", cdp[4]);
309         return NULL;
310     }
311
312     hdr = (cdp[5] << 8) | cdp[6];
313     if (cdp[7] != 0x72) /* ccdata_id */ {
314         av_log(avctx, AV_LOG_WARNING, "Invalid ccdata_id 0x%.2x\n", cdp[7]);
315         return NULL;
316     }
317
318     cc_count = cdp[8];
319     if (!(cc_count & 0xe0)) {
320         av_log(avctx, AV_LOG_WARNING, "Invalid cc_count 0x%.2x\n", cc_count);
321         return NULL;
322     }
323
324     cc_count &= 0x1f;
325     if ((len - 13) < cc_count * 3) {
326         av_log(avctx, AV_LOG_WARNING, "Invalid cc_count %d (> %zu)\n", cc_count * 3, len - 13);
327         return NULL;
328     }
329
330     if (cdp[len - 4] != 0x74) /* footer id */ {
331         av_log(avctx, AV_LOG_WARNING, "Invalid footer id 0x%.2x\n", cdp[len-4]);
332         return NULL;
333     }
334
335     ftr = (cdp[len - 3] << 8) | cdp[len - 2];
336     if (ftr != hdr) {
337         av_log(avctx, AV_LOG_WARNING, "Header 0x%.4x != Footer 0x%.4x\n", hdr, ftr);
338         return NULL;
339     }
340
341     cc = (uint8_t *)av_malloc(cc_count * 3);
342     if (cc == NULL) {
343         av_log(avctx, AV_LOG_WARNING, "CC - av_malloc failed for cc_count = %d\n", cc_count);
344         return NULL;
345     }
346
347     for (size_t i = 0; i < cc_count; i++) {
348         cc[3*i + 0] = cdp[9 + 3*i+0] /* & 3 */;
349         cc[3*i + 1] = cdp[9 + 3*i+1];
350         cc[3*i + 2] = cdp[9 + 3*i+2];
351     }
352
353     cc_count *= 3;
354     return cc;
355 }
356
357 static uint8_t *get_metadata(AVFormatContext *avctx, uint16_t *buf, size_t width,
358                              uint8_t *tgt, size_t tgt_size, AVPacket *pkt)
359 {
360     decklink_cctx *cctx = (struct decklink_cctx *) avctx->priv_data;
361     uint16_t *max_buf = buf + width;
362
363     while (buf < max_buf - 6) {
364         int len;
365         uint16_t did = buf[3] & 0xFF;                                  // data id
366         uint16_t sdid = buf[4] & 0xFF;                                 // secondary data id
367         /* Check for VANC header */
368         if (buf[0] != 0 || buf[1] != 0x3ff || buf[2] != 0x3ff) {
369             return tgt;
370         }
371
372         len = (buf[5] & 0xff) + 6 + 1;
373         if (len > max_buf - buf) {
374             av_log(avctx, AV_LOG_WARNING, "Data Count (%d) > data left (%zu)\n",
375                     len, max_buf - buf);
376             return tgt;
377         }
378
379         if (did == 0x43 && (sdid == 0x02 || sdid == 0x03) && cctx->teletext_lines &&
380             width == 1920 && tgt_size >= 1920) {
381             if (check_vanc_parity_checksum(buf, len, buf[len - 1]) < 0) {
382                 av_log(avctx, AV_LOG_WARNING, "VANC parity or checksum incorrect\n");
383                 goto skip_packet;
384             }
385             tgt = teletext_data_unit_from_ancillary_packet(buf + 3, buf + len, tgt, cctx->teletext_lines, 1);
386         } else if (did == 0x61 && sdid == 0x01) {
387             unsigned int data_len;
388             uint8_t *data;
389             if (check_vanc_parity_checksum(buf, len, buf[len - 1]) < 0) {
390                 av_log(avctx, AV_LOG_WARNING, "VANC parity or checksum incorrect\n");
391                 goto skip_packet;
392             }
393             clear_parity_bits(buf, len);
394             data = vanc_to_cc(avctx, buf, width, data_len);
395             if (data) {
396                 if (av_packet_add_side_data(pkt, AV_PKT_DATA_A53_CC, data, data_len) < 0)
397                     av_free(data);
398             }
399         } else {
400             av_log(avctx, AV_LOG_DEBUG, "Unknown meta data DID = 0x%.2x SDID = 0x%.2x\n",
401                     did, sdid);
402         }
403 skip_packet:
404         buf += len;
405     }
406
407     return tgt;
408 }
409
410 static void avpacket_queue_init(AVFormatContext *avctx, AVPacketQueue *q)
411 {
412     struct decklink_cctx *ctx = (struct decklink_cctx *)avctx->priv_data;
413     memset(q, 0, sizeof(AVPacketQueue));
414     pthread_mutex_init(&q->mutex, NULL);
415     pthread_cond_init(&q->cond, NULL);
416     q->avctx = avctx;
417     q->max_q_size = ctx->queue_size;
418 }
419
420 static void avpacket_queue_flush(AVPacketQueue *q)
421 {
422     AVPacketList *pkt, *pkt1;
423
424     pthread_mutex_lock(&q->mutex);
425     for (pkt = q->first_pkt; pkt != NULL; pkt = pkt1) {
426         pkt1 = pkt->next;
427         av_packet_unref(&pkt->pkt);
428         av_freep(&pkt);
429     }
430     q->last_pkt   = NULL;
431     q->first_pkt  = NULL;
432     q->nb_packets = 0;
433     q->size       = 0;
434     pthread_mutex_unlock(&q->mutex);
435 }
436
437 static void avpacket_queue_end(AVPacketQueue *q)
438 {
439     avpacket_queue_flush(q);
440     pthread_mutex_destroy(&q->mutex);
441     pthread_cond_destroy(&q->cond);
442 }
443
444 static unsigned long long avpacket_queue_size(AVPacketQueue *q)
445 {
446     unsigned long long size;
447     pthread_mutex_lock(&q->mutex);
448     size = q->size;
449     pthread_mutex_unlock(&q->mutex);
450     return size;
451 }
452
453 static int avpacket_queue_put(AVPacketQueue *q, AVPacket *pkt)
454 {
455     AVPacketList *pkt1;
456     int ret;
457
458     // Drop Packet if queue size is > maximum queue size
459     if (avpacket_queue_size(q) > (uint64_t)q->max_q_size) {
460         av_log(q->avctx, AV_LOG_WARNING,  "Decklink input buffer overrun!\n");
461         return -1;
462     }
463
464     pkt1 = (AVPacketList *)av_mallocz(sizeof(AVPacketList));
465     if (!pkt1) {
466         return -1;
467     }
468     ret = av_packet_ref(&pkt1->pkt, pkt);
469     av_packet_unref(pkt);
470     if (ret < 0) {
471         av_free(pkt1);
472         return -1;
473     }
474     pkt1->next = NULL;
475
476     pthread_mutex_lock(&q->mutex);
477
478     if (!q->last_pkt) {
479         q->first_pkt = pkt1;
480     } else {
481         q->last_pkt->next = pkt1;
482     }
483
484     q->last_pkt = pkt1;
485     q->nb_packets++;
486     q->size += pkt1->pkt.size + sizeof(*pkt1);
487
488     pthread_cond_signal(&q->cond);
489
490     pthread_mutex_unlock(&q->mutex);
491     return 0;
492 }
493
494 static int avpacket_queue_get(AVPacketQueue *q, AVPacket *pkt, int block)
495 {
496     AVPacketList *pkt1;
497     int ret;
498
499     pthread_mutex_lock(&q->mutex);
500
501     for (;; ) {
502         pkt1 = q->first_pkt;
503         if (pkt1) {
504             q->first_pkt = pkt1->next;
505             if (!q->first_pkt) {
506                 q->last_pkt = NULL;
507             }
508             q->nb_packets--;
509             q->size -= pkt1->pkt.size + sizeof(*pkt1);
510             *pkt     = pkt1->pkt;
511             av_free(pkt1);
512             ret = 1;
513             break;
514         } else if (!block) {
515             ret = 0;
516             break;
517         } else {
518             pthread_cond_wait(&q->cond, &q->mutex);
519         }
520     }
521     pthread_mutex_unlock(&q->mutex);
522     return ret;
523 }
524
525 class decklink_input_callback : public IDeckLinkInputCallback
526 {
527 public:
528         decklink_input_callback(AVFormatContext *_avctx);
529         ~decklink_input_callback();
530
531         virtual HRESULT STDMETHODCALLTYPE QueryInterface(REFIID iid, LPVOID *ppv) { return E_NOINTERFACE; }
532         virtual ULONG STDMETHODCALLTYPE AddRef(void);
533         virtual ULONG STDMETHODCALLTYPE  Release(void);
534         virtual HRESULT STDMETHODCALLTYPE VideoInputFormatChanged(BMDVideoInputFormatChangedEvents, IDeckLinkDisplayMode*, BMDDetectedVideoInputFormatFlags);
535         virtual HRESULT STDMETHODCALLTYPE VideoInputFrameArrived(IDeckLinkVideoInputFrame*, IDeckLinkAudioInputPacket*);
536
537 private:
538         ULONG           m_refCount;
539         pthread_mutex_t m_mutex;
540         AVFormatContext *avctx;
541         decklink_ctx    *ctx;
542         int no_video;
543         int64_t initial_video_pts;
544         int64_t initial_audio_pts;
545 };
546
547 decklink_input_callback::decklink_input_callback(AVFormatContext *_avctx) : m_refCount(0)
548 {
549     avctx = _avctx;
550     decklink_cctx       *cctx = (struct decklink_cctx *)avctx->priv_data;
551     ctx = (struct decklink_ctx *)cctx->ctx;
552     no_video = 0;
553     initial_audio_pts = initial_video_pts = AV_NOPTS_VALUE;
554     pthread_mutex_init(&m_mutex, NULL);
555 }
556
557 decklink_input_callback::~decklink_input_callback()
558 {
559     pthread_mutex_destroy(&m_mutex);
560 }
561
562 ULONG decklink_input_callback::AddRef(void)
563 {
564     pthread_mutex_lock(&m_mutex);
565     m_refCount++;
566     pthread_mutex_unlock(&m_mutex);
567
568     return (ULONG)m_refCount;
569 }
570
571 ULONG decklink_input_callback::Release(void)
572 {
573     pthread_mutex_lock(&m_mutex);
574     m_refCount--;
575     pthread_mutex_unlock(&m_mutex);
576
577     if (m_refCount == 0) {
578         delete this;
579         return 0;
580     }
581
582     return (ULONG)m_refCount;
583 }
584
585 static int64_t get_pkt_pts(IDeckLinkVideoInputFrame *videoFrame,
586                            IDeckLinkAudioInputPacket *audioFrame,
587                            int64_t wallclock,
588                            DecklinkPtsSource pts_src,
589                            AVRational time_base, int64_t *initial_pts)
590 {
591     int64_t pts = AV_NOPTS_VALUE;
592     BMDTimeValue bmd_pts;
593     BMDTimeValue bmd_duration;
594     HRESULT res = E_INVALIDARG;
595     switch (pts_src) {
596         case PTS_SRC_AUDIO:
597             if (audioFrame)
598                 res = audioFrame->GetPacketTime(&bmd_pts, time_base.den);
599             break;
600         case PTS_SRC_VIDEO:
601             if (videoFrame)
602                 res = videoFrame->GetStreamTime(&bmd_pts, &bmd_duration, time_base.den);
603             break;
604         case PTS_SRC_REFERENCE:
605             if (videoFrame)
606                 res = videoFrame->GetHardwareReferenceTimestamp(time_base.den, &bmd_pts, &bmd_duration);
607             break;
608         case PTS_SRC_WALLCLOCK:
609         {
610             /* MSVC does not support compound literals like AV_TIME_BASE_Q
611              * in C++ code (compiler error C4576) */
612             AVRational timebase;
613             timebase.num = 1;
614             timebase.den = AV_TIME_BASE;
615             pts = av_rescale_q(wallclock, timebase, time_base);
616             break;
617         }
618     }
619     if (res == S_OK)
620         pts = bmd_pts / time_base.num;
621
622     if (pts != AV_NOPTS_VALUE && *initial_pts == AV_NOPTS_VALUE)
623         *initial_pts = pts;
624     if (*initial_pts != AV_NOPTS_VALUE)
625         pts -= *initial_pts;
626
627     return pts;
628 }
629
630 HRESULT decklink_input_callback::VideoInputFrameArrived(
631     IDeckLinkVideoInputFrame *videoFrame, IDeckLinkAudioInputPacket *audioFrame)
632 {
633     void *frameBytes;
634     void *audioFrameBytes;
635     BMDTimeValue frameTime;
636     BMDTimeValue frameDuration;
637     int64_t wallclock = 0;
638
639     if (ctx->autodetect) {
640         if (videoFrame && !(videoFrame->GetFlags() & bmdFrameHasNoInputSource) &&
641             ctx->bmd_mode == bmdModeUnknown)
642         {
643             ctx->bmd_mode = AUTODETECT_DEFAULT_MODE;
644         }
645         return S_OK;
646     }
647
648     ctx->frameCount++;
649     if (ctx->audio_pts_source == PTS_SRC_WALLCLOCK || ctx->video_pts_source == PTS_SRC_WALLCLOCK)
650         wallclock = av_gettime_relative();
651
652     // Handle Video Frame
653     if (videoFrame) {
654         AVPacket pkt;
655         av_init_packet(&pkt);
656         if (ctx->frameCount % 25 == 0) {
657             unsigned long long qsize = avpacket_queue_size(&ctx->queue);
658             av_log(avctx, AV_LOG_DEBUG,
659                     "Frame received (#%lu) - Valid (%liB) - QSize %fMB\n",
660                     ctx->frameCount,
661                     videoFrame->GetRowBytes() * videoFrame->GetHeight(),
662                     (double)qsize / 1024 / 1024);
663         }
664
665         videoFrame->GetBytes(&frameBytes);
666         videoFrame->GetStreamTime(&frameTime, &frameDuration,
667                                   ctx->video_st->time_base.den);
668
669         if (videoFrame->GetFlags() & bmdFrameHasNoInputSource) {
670             if (ctx->draw_bars && videoFrame->GetPixelFormat() == bmdFormat8BitYUV) {
671                 unsigned bars[8] = {
672                     0xEA80EA80, 0xD292D210, 0xA910A9A5, 0x90229035,
673                     0x6ADD6ACA, 0x51EF515A, 0x286D28EF, 0x10801080 };
674                 int width  = videoFrame->GetWidth();
675                 int height = videoFrame->GetHeight();
676                 unsigned *p = (unsigned *)frameBytes;
677
678                 for (int y = 0; y < height; y++) {
679                     for (int x = 0; x < width; x += 2)
680                         *p++ = bars[(x * 8) / width];
681                 }
682             }
683
684             if (!no_video) {
685                 av_log(avctx, AV_LOG_WARNING, "Frame received (#%lu) - No input signal detected "
686                         "- Frames dropped %u\n", ctx->frameCount, ++ctx->dropped);
687             }
688             no_video = 1;
689         } else {
690             if (no_video) {
691                 av_log(avctx, AV_LOG_WARNING, "Frame received (#%lu) - Input returned "
692                         "- Frames dropped %u\n", ctx->frameCount, ++ctx->dropped);
693             }
694             no_video = 0;
695         }
696
697         pkt.pts = get_pkt_pts(videoFrame, audioFrame, wallclock, ctx->video_pts_source, ctx->video_st->time_base, &initial_video_pts);
698         pkt.dts = pkt.pts;
699
700         pkt.duration = frameDuration;
701         //To be made sure it still applies
702         pkt.flags       |= AV_PKT_FLAG_KEY;
703         pkt.stream_index = ctx->video_st->index;
704         pkt.data         = (uint8_t *)frameBytes;
705         pkt.size         = videoFrame->GetRowBytes() *
706                            videoFrame->GetHeight();
707         //fprintf(stderr,"Video Frame size %d ts %d\n", pkt.size, pkt.pts);
708
709         if (!no_video) {
710             IDeckLinkVideoFrameAncillary *vanc;
711             AVPacket txt_pkt;
712             uint8_t txt_buf0[3531]; // 35 * 46 bytes decoded teletext lines + 1 byte data_identifier + 1920 bytes OP47 decode buffer
713             uint8_t *txt_buf = txt_buf0;
714
715             if (videoFrame->GetAncillaryData(&vanc) == S_OK) {
716                 int i;
717                 int64_t line_mask = 1;
718                 BMDPixelFormat vanc_format = vanc->GetPixelFormat();
719                 txt_buf[0] = 0x10;    // data_identifier - EBU_data
720                 txt_buf++;
721 #if CONFIG_LIBZVBI
722                 if (ctx->bmd_mode == bmdModePAL && ctx->teletext_lines &&
723                     (vanc_format == bmdFormat8BitYUV || vanc_format == bmdFormat10BitYUV)) {
724                     av_assert0(videoFrame->GetWidth() == 720);
725                     for (i = 6; i < 336; i++, line_mask <<= 1) {
726                         uint8_t *buf;
727                         if ((ctx->teletext_lines & line_mask) && vanc->GetBufferForVerticalBlankingLine(i, (void**)&buf) == S_OK) {
728                             if (vanc_format == bmdFormat8BitYUV)
729                                 txt_buf = teletext_data_unit_from_vbi_data(i, buf, txt_buf, VBI_PIXFMT_UYVY);
730                             else
731                                 txt_buf = teletext_data_unit_from_vbi_data_10bit(i, buf, txt_buf);
732                         }
733                         if (i == 22)
734                             i = 317;
735                     }
736                 }
737 #endif
738                 if (vanc_format == bmdFormat10BitYUV && videoFrame->GetWidth() <= MAX_WIDTH_VANC) {
739                     int idx = get_vanc_line_idx(ctx->bmd_mode);
740                     for (i = vanc_line_numbers[idx].vanc_start; i <= vanc_line_numbers[idx].vanc_end; i++) {
741                         uint8_t *buf;
742                         if (vanc->GetBufferForVerticalBlankingLine(i, (void**)&buf) == S_OK) {
743                             uint16_t luma_vanc[MAX_WIDTH_VANC];
744                             extract_luma_from_v210(luma_vanc, buf, videoFrame->GetWidth());
745                             txt_buf = get_metadata(avctx, luma_vanc, videoFrame->GetWidth(),
746                                                    txt_buf, sizeof(txt_buf0) - (txt_buf - txt_buf0), &pkt);
747                         }
748                         if (i == vanc_line_numbers[idx].field0_vanc_end)
749                             i = vanc_line_numbers[idx].field1_vanc_start - 1;
750                     }
751                 }
752                 vanc->Release();
753                 if (txt_buf - txt_buf0 > 1) {
754                     int stuffing_units = (4 - ((45 + txt_buf - txt_buf0) / 46) % 4) % 4;
755                     while (stuffing_units--) {
756                         memset(txt_buf, 0xff, 46);
757                         txt_buf[1] = 0x2c; // data_unit_length
758                         txt_buf += 46;
759                     }
760                     av_init_packet(&txt_pkt);
761                     txt_pkt.pts = pkt.pts;
762                     txt_pkt.dts = pkt.dts;
763                     txt_pkt.stream_index = ctx->teletext_st->index;
764                     txt_pkt.data = txt_buf0;
765                     txt_pkt.size = txt_buf - txt_buf0;
766                     if (avpacket_queue_put(&ctx->queue, &txt_pkt) < 0) {
767                         ++ctx->dropped;
768                     }
769                 }
770             }
771         }
772
773         if (avpacket_queue_put(&ctx->queue, &pkt) < 0) {
774             ++ctx->dropped;
775         }
776     }
777
778     // Handle Audio Frame
779     if (audioFrame) {
780         AVPacket pkt;
781         BMDTimeValue audio_pts;
782         av_init_packet(&pkt);
783
784         //hack among hacks
785         pkt.size = audioFrame->GetSampleFrameCount() * ctx->audio_st->codecpar->channels * (ctx->audio_depth / 8);
786         audioFrame->GetBytes(&audioFrameBytes);
787         audioFrame->GetPacketTime(&audio_pts, ctx->audio_st->time_base.den);
788         pkt.pts = get_pkt_pts(videoFrame, audioFrame, wallclock, ctx->audio_pts_source, ctx->audio_st->time_base, &initial_audio_pts);
789         pkt.dts = pkt.pts;
790
791         //fprintf(stderr,"Audio Frame size %d ts %d\n", pkt.size, pkt.pts);
792         pkt.flags       |= AV_PKT_FLAG_KEY;
793         pkt.stream_index = ctx->audio_st->index;
794         pkt.data         = (uint8_t *)audioFrameBytes;
795
796         if (avpacket_queue_put(&ctx->queue, &pkt) < 0) {
797             ++ctx->dropped;
798         }
799     }
800
801     return S_OK;
802 }
803
804 HRESULT decklink_input_callback::VideoInputFormatChanged(
805     BMDVideoInputFormatChangedEvents events, IDeckLinkDisplayMode *mode,
806     BMDDetectedVideoInputFormatFlags)
807 {
808     ctx->bmd_mode = mode->GetDisplayMode();
809     return S_OK;
810 }
811
812 static int decklink_autodetect(struct decklink_cctx *cctx) {
813     struct decklink_ctx *ctx = (struct decklink_ctx *)cctx->ctx;
814     DECKLINK_BOOL autodetect_supported = false;
815     int i;
816
817     if (ctx->attr->GetFlag(BMDDeckLinkSupportsInputFormatDetection, &autodetect_supported) != S_OK)
818         return -1;
819     if (autodetect_supported == false)
820         return -1;
821
822     ctx->autodetect = 1;
823     ctx->bmd_mode  = bmdModeUnknown;
824     if (ctx->dli->EnableVideoInput(AUTODETECT_DEFAULT_MODE,
825                                    bmdFormat8BitYUV,
826                                    bmdVideoInputEnableFormatDetection) != S_OK) {
827         return -1;
828     }
829
830     if (ctx->dli->StartStreams() != S_OK) {
831         return -1;
832     }
833
834     // 1 second timeout
835     for (i = 0; i < 10; i++) {
836         av_usleep(100000);
837         /* Sometimes VideoInputFrameArrived is called without the
838          * bmdFrameHasNoInputSource flag before VideoInputFormatChanged.
839          * So don't break for bmd_mode == AUTODETECT_DEFAULT_MODE. */
840         if (ctx->bmd_mode != bmdModeUnknown &&
841             ctx->bmd_mode != AUTODETECT_DEFAULT_MODE)
842             break;
843     }
844
845     ctx->dli->PauseStreams();
846     ctx->dli->FlushStreams();
847     ctx->autodetect = 0;
848     if (ctx->bmd_mode != bmdModeUnknown) {
849         cctx->format_code = (char *)av_mallocz(5);
850         if (!cctx->format_code)
851             return -1;
852         AV_WB32(cctx->format_code, ctx->bmd_mode);
853         return 0;
854     } else {
855         return -1;
856     }
857
858 }
859
860 extern "C" {
861
862 av_cold int ff_decklink_read_close(AVFormatContext *avctx)
863 {
864     struct decklink_cctx *cctx = (struct decklink_cctx *)avctx->priv_data;
865     struct decklink_ctx *ctx = (struct decklink_ctx *)cctx->ctx;
866
867     if (ctx->capture_started) {
868         ctx->dli->StopStreams();
869         ctx->dli->DisableVideoInput();
870         ctx->dli->DisableAudioInput();
871     }
872
873     ff_decklink_cleanup(avctx);
874     avpacket_queue_end(&ctx->queue);
875
876     av_freep(&cctx->ctx);
877
878     return 0;
879 }
880
881 av_cold int ff_decklink_read_header(AVFormatContext *avctx)
882 {
883     struct decklink_cctx *cctx = (struct decklink_cctx *)avctx->priv_data;
884     struct decklink_ctx *ctx;
885     AVStream *st;
886     HRESULT result;
887     char fname[1024];
888     char *tmp;
889     int mode_num = 0;
890     int ret;
891
892     ctx = (struct decklink_ctx *) av_mallocz(sizeof(struct decklink_ctx));
893     if (!ctx)
894         return AVERROR(ENOMEM);
895     ctx->list_devices = cctx->list_devices;
896     ctx->list_formats = cctx->list_formats;
897     ctx->teletext_lines = cctx->teletext_lines;
898     ctx->preroll      = cctx->preroll;
899     ctx->duplex_mode  = cctx->duplex_mode;
900     if (cctx->video_input > 0 && (unsigned int)cctx->video_input < FF_ARRAY_ELEMS(decklink_video_connection_map))
901         ctx->video_input = decklink_video_connection_map[cctx->video_input];
902     if (cctx->audio_input > 0 && (unsigned int)cctx->audio_input < FF_ARRAY_ELEMS(decklink_audio_connection_map))
903         ctx->audio_input = decklink_audio_connection_map[cctx->audio_input];
904     ctx->audio_pts_source = cctx->audio_pts_source;
905     ctx->video_pts_source = cctx->video_pts_source;
906     ctx->draw_bars = cctx->draw_bars;
907     ctx->audio_depth = cctx->audio_depth;
908     cctx->ctx = ctx;
909
910     /* Check audio channel option for valid values: 2, 8 or 16 */
911     switch (cctx->audio_channels) {
912         case 2:
913         case 8:
914         case 16:
915             break;
916         default:
917             av_log(avctx, AV_LOG_ERROR, "Value of channels option must be one of 2, 8 or 16\n");
918             return AVERROR(EINVAL);
919     }
920
921     /* Check audio bit depth option for valid values: 16 or 32 */
922     switch (cctx->audio_depth) {
923         case 16:
924         case 32:
925             break;
926         default:
927             av_log(avctx, AV_LOG_ERROR, "Value for audio bit depth option must be either 16 or 32\n");
928             return AVERROR(EINVAL);
929     }
930
931     /* List available devices. */
932     if (ctx->list_devices) {
933         ff_decklink_list_devices_legacy(avctx, 1, 0);
934         return AVERROR_EXIT;
935     }
936
937     if (cctx->v210) {
938         av_log(avctx, AV_LOG_WARNING, "The bm_v210 option is deprecated and will be removed. Please use the -raw_format yuv422p10.\n");
939         cctx->raw_format = MKBETAG('v','2','1','0');
940     }
941
942     strcpy (fname, avctx->filename);
943     tmp=strchr (fname, '@');
944     if (tmp != NULL) {
945         av_log(avctx, AV_LOG_WARNING, "The @mode syntax is deprecated and will be removed. Please use the -format_code option.\n");
946         mode_num = atoi (tmp+1);
947         *tmp = 0;
948     }
949
950     ret = ff_decklink_init_device(avctx, fname);
951     if (ret < 0)
952         return ret;
953
954     /* Get input device. */
955     if (ctx->dl->QueryInterface(IID_IDeckLinkInput, (void **) &ctx->dli) != S_OK) {
956         av_log(avctx, AV_LOG_ERROR, "Could not open input device from '%s'\n",
957                avctx->filename);
958         ret = AVERROR(EIO);
959         goto error;
960     }
961
962     /* List supported formats. */
963     if (ctx->list_formats) {
964         ff_decklink_list_formats(avctx, DIRECTION_IN);
965         ret = AVERROR_EXIT;
966         goto error;
967     }
968
969     if (ff_decklink_set_configs(avctx, DIRECTION_IN) < 0) {
970         av_log(avctx, AV_LOG_ERROR, "Could not set input configuration\n");
971         ret = AVERROR(EIO);
972         goto error;
973     }
974
975     ctx->input_callback = new decklink_input_callback(avctx);
976     ctx->dli->SetCallback(ctx->input_callback);
977
978     if (mode_num == 0 && !cctx->format_code) {
979         if (decklink_autodetect(cctx) < 0) {
980             av_log(avctx, AV_LOG_ERROR, "Cannot Autodetect input stream or No signal\n");
981             ret = AVERROR(EIO);
982             goto error;
983         }
984         av_log(avctx, AV_LOG_INFO, "Autodetected the input mode\n");
985     }
986     if (ff_decklink_set_format(avctx, DIRECTION_IN, mode_num) < 0) {
987         av_log(avctx, AV_LOG_ERROR, "Could not set mode number %d or format code %s for %s\n",
988             mode_num, (cctx->format_code) ? cctx->format_code : "(unset)", fname);
989         ret = AVERROR(EIO);
990         goto error;
991     }
992
993 #if !CONFIG_LIBZVBI
994     if (ctx->teletext_lines && ctx->bmd_mode == bmdModePAL) {
995         av_log(avctx, AV_LOG_ERROR, "Libzvbi support is needed for capturing SD PAL teletext, please recompile FFmpeg.\n");
996         ret = AVERROR(ENOSYS);
997         goto error;
998     }
999 #endif
1000
1001     /* Setup streams. */
1002     st = avformat_new_stream(avctx, NULL);
1003     if (!st) {
1004         av_log(avctx, AV_LOG_ERROR, "Cannot add stream\n");
1005         ret = AVERROR(ENOMEM);
1006         goto error;
1007     }
1008     st->codecpar->codec_type  = AVMEDIA_TYPE_AUDIO;
1009     st->codecpar->codec_id    = cctx->audio_depth == 32 ? AV_CODEC_ID_PCM_S32LE : AV_CODEC_ID_PCM_S16LE;
1010     st->codecpar->sample_rate = bmdAudioSampleRate48kHz;
1011     st->codecpar->channels    = cctx->audio_channels;
1012     avpriv_set_pts_info(st, 64, 1, 1000000);  /* 64 bits pts in us */
1013     ctx->audio_st=st;
1014
1015     st = avformat_new_stream(avctx, NULL);
1016     if (!st) {
1017         av_log(avctx, AV_LOG_ERROR, "Cannot add stream\n");
1018         ret = AVERROR(ENOMEM);
1019         goto error;
1020     }
1021     st->codecpar->codec_type  = AVMEDIA_TYPE_VIDEO;
1022     st->codecpar->width       = ctx->bmd_width;
1023     st->codecpar->height      = ctx->bmd_height;
1024
1025     st->time_base.den      = ctx->bmd_tb_den;
1026     st->time_base.num      = ctx->bmd_tb_num;
1027     st->r_frame_rate       = av_make_q(st->time_base.den, st->time_base.num);
1028
1029     switch((BMDPixelFormat)cctx->raw_format) {
1030     case bmdFormat8BitYUV:
1031         st->codecpar->codec_id    = AV_CODEC_ID_RAWVIDEO;
1032         st->codecpar->codec_tag   = MKTAG('U', 'Y', 'V', 'Y');
1033         st->codecpar->format      = AV_PIX_FMT_UYVY422;
1034         st->codecpar->bit_rate    = av_rescale(ctx->bmd_width * ctx->bmd_height * 16, st->time_base.den, st->time_base.num);
1035         break;
1036     case bmdFormat10BitYUV:
1037         st->codecpar->codec_id    = AV_CODEC_ID_V210;
1038         st->codecpar->codec_tag   = MKTAG('V','2','1','0');
1039         st->codecpar->bit_rate    = av_rescale(ctx->bmd_width * ctx->bmd_height * 64, st->time_base.den, st->time_base.num * 3);
1040         st->codecpar->bits_per_coded_sample = 10;
1041         break;
1042     case bmdFormat8BitARGB:
1043         st->codecpar->codec_id    = AV_CODEC_ID_RAWVIDEO;
1044         st->codecpar->codec_tag   = avcodec_pix_fmt_to_codec_tag((enum AVPixelFormat)st->codecpar->format);;
1045         st->codecpar->format      = AV_PIX_FMT_0RGB;
1046         st->codecpar->bit_rate    = av_rescale(ctx->bmd_width * ctx->bmd_height * 32, st->time_base.den, st->time_base.num);
1047         break;
1048     case bmdFormat8BitBGRA:
1049         st->codecpar->codec_id    = AV_CODEC_ID_RAWVIDEO;
1050         st->codecpar->codec_tag   = avcodec_pix_fmt_to_codec_tag((enum AVPixelFormat)st->codecpar->format);
1051         st->codecpar->format      = AV_PIX_FMT_BGR0;
1052         st->codecpar->bit_rate    = av_rescale(ctx->bmd_width * ctx->bmd_height * 32, st->time_base.den, st->time_base.num);
1053         break;
1054     case bmdFormat10BitRGB:
1055         st->codecpar->codec_id    = AV_CODEC_ID_R210;
1056         st->codecpar->codec_tag   = MKTAG('R','2','1','0');
1057         st->codecpar->format      = AV_PIX_FMT_RGB48LE;
1058         st->codecpar->bit_rate    = av_rescale(ctx->bmd_width * ctx->bmd_height * 30, st->time_base.den, st->time_base.num);
1059         st->codecpar->bits_per_coded_sample = 10;
1060         break;
1061     default:
1062         av_log(avctx, AV_LOG_ERROR, "Raw Format %.4s not supported\n", (char*) &cctx->raw_format);
1063         ret = AVERROR(EINVAL);
1064         goto error;
1065     }
1066
1067     switch (ctx->bmd_field_dominance) {
1068     case bmdUpperFieldFirst:
1069         st->codecpar->field_order = AV_FIELD_TT;
1070         break;
1071     case bmdLowerFieldFirst:
1072         st->codecpar->field_order = AV_FIELD_BB;
1073         break;
1074     case bmdProgressiveFrame:
1075     case bmdProgressiveSegmentedFrame:
1076         st->codecpar->field_order = AV_FIELD_PROGRESSIVE;
1077         break;
1078     }
1079
1080     avpriv_set_pts_info(st, 64, 1, 1000000);  /* 64 bits pts in us */
1081
1082     ctx->video_st=st;
1083
1084     if (ctx->teletext_lines) {
1085         st = avformat_new_stream(avctx, NULL);
1086         if (!st) {
1087             av_log(avctx, AV_LOG_ERROR, "Cannot add stream\n");
1088             ret = AVERROR(ENOMEM);
1089             goto error;
1090         }
1091         st->codecpar->codec_type  = AVMEDIA_TYPE_SUBTITLE;
1092         st->time_base.den         = ctx->bmd_tb_den;
1093         st->time_base.num         = ctx->bmd_tb_num;
1094         st->codecpar->codec_id    = AV_CODEC_ID_DVB_TELETEXT;
1095         avpriv_set_pts_info(st, 64, 1, 1000000);  /* 64 bits pts in us */
1096         ctx->teletext_st = st;
1097     }
1098
1099     av_log(avctx, AV_LOG_VERBOSE, "Using %d input audio channels\n", ctx->audio_st->codecpar->channels);
1100     result = ctx->dli->EnableAudioInput(bmdAudioSampleRate48kHz, cctx->audio_depth == 32 ? bmdAudioSampleType32bitInteger : bmdAudioSampleType16bitInteger, ctx->audio_st->codecpar->channels);
1101
1102     if (result != S_OK) {
1103         av_log(avctx, AV_LOG_ERROR, "Cannot enable audio input\n");
1104         ret = AVERROR(EIO);
1105         goto error;
1106     }
1107
1108     result = ctx->dli->EnableVideoInput(ctx->bmd_mode,
1109                                         (BMDPixelFormat) cctx->raw_format,
1110                                         bmdVideoInputFlagDefault);
1111
1112     if (result != S_OK) {
1113         av_log(avctx, AV_LOG_ERROR, "Cannot enable video input\n");
1114         ret = AVERROR(EIO);
1115         goto error;
1116     }
1117
1118     avpacket_queue_init (avctx, &ctx->queue);
1119
1120     if (ctx->dli->StartStreams() != S_OK) {
1121         av_log(avctx, AV_LOG_ERROR, "Cannot start input stream\n");
1122         ret = AVERROR(EIO);
1123         goto error;
1124     }
1125
1126     return 0;
1127
1128 error:
1129     ff_decklink_cleanup(avctx);
1130     return ret;
1131 }
1132
1133 int ff_decklink_read_packet(AVFormatContext *avctx, AVPacket *pkt)
1134 {
1135     struct decklink_cctx *cctx = (struct decklink_cctx *)avctx->priv_data;
1136     struct decklink_ctx *ctx = (struct decklink_ctx *)cctx->ctx;
1137
1138     avpacket_queue_get(&ctx->queue, pkt, 1);
1139
1140     return 0;
1141 }
1142
1143 int ff_decklink_list_input_devices(AVFormatContext *avctx, struct AVDeviceInfoList *device_list)
1144 {
1145     return ff_decklink_list_devices(avctx, device_list, 1, 0);
1146 }
1147
1148 } /* extern "C" */