avdevice/decklink_dec: Added Closed caption decode from VANC
[ffmpeg.git] / libavdevice / decklink_dec.cpp
1 /*
2  * Blackmagic DeckLink input
3  * Copyright (c) 2013-2014 Luca Barbato, Deti Fliegl
4  * Copyright (c) 2014 Rafaël Carré
5  * Copyright (c) 2017 Akamai Technologies, Inc.
6  *
7  * This file is part of FFmpeg.
8  *
9  * FFmpeg is free software; you can redistribute it and/or
10  * modify it under the terms of the GNU Lesser General Public
11  * License as published by the Free Software Foundation; either
12  * version 2.1 of the License, or (at your option) any later version.
13  *
14  * FFmpeg is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
17  * Lesser General Public License for more details.
18  *
19  * You should have received a copy of the GNU Lesser General Public
20  * License along with FFmpeg; if not, write to the Free Software
21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
22  */
23
24 /* Include internal.h first to avoid conflict between winsock.h (used by
25  * DeckLink headers) and winsock2.h (used by libavformat) in MSVC++ builds */
26 extern "C" {
27 #include "libavformat/internal.h"
28 }
29
30 #include <DeckLinkAPI.h>
31
32 extern "C" {
33 #include "config.h"
34 #include "libavformat/avformat.h"
35 #include "libavutil/avassert.h"
36 #include "libavutil/avutil.h"
37 #include "libavutil/common.h"
38 #include "libavutil/imgutils.h"
39 #include "libavutil/time.h"
40 #include "libavutil/mathematics.h"
41 #include "libavutil/reverse.h"
42 #if CONFIG_LIBZVBI
43 #include <libzvbi.h>
44 #endif
45 }
46
47 #include "decklink_common.h"
48 #include "decklink_dec.h"
49
50 #define MAX_WIDTH_VANC 1920
51
52 typedef struct VANCLineNumber {
53     BMDDisplayMode mode;
54     int vanc_start;
55     int field0_vanc_end;
56     int field1_vanc_start;
57     int vanc_end;
58 } VANCLineNumber;
59
60 /* These VANC line numbers need not be very accurate. In any case
61  * GetBufferForVerticalBlankingLine() will return an error when invalid
62  * ancillary line number was requested. We just need to make sure that the
63  * entire VANC region is covered, while making sure we don't decode VANC of
64  * another source during switching*/
65 static VANCLineNumber vanc_line_numbers[] = {
66     /* SD Modes */
67
68     {bmdModeNTSC, 11, 19, 274, 282},
69     {bmdModeNTSC2398, 11, 19, 274, 282},
70     {bmdModePAL, 7, 22, 320, 335},
71     {bmdModeNTSCp, 11, -1, -1, 39},
72     {bmdModePALp, 7, -1, -1, 45},
73
74     /* HD 1080 Modes */
75
76     {bmdModeHD1080p2398, 8, -1, -1, 42},
77     {bmdModeHD1080p24, 8, -1, -1, 42},
78     {bmdModeHD1080p25, 8, -1, -1, 42},
79     {bmdModeHD1080p2997, 8, -1, -1, 42},
80     {bmdModeHD1080p30, 8, -1, -1, 42},
81     {bmdModeHD1080i50, 8, 20, 570, 585},
82     {bmdModeHD1080i5994, 8, 20, 570, 585},
83     {bmdModeHD1080i6000, 8, 20, 570, 585},
84     {bmdModeHD1080p50, 8, -1, -1, 42},
85     {bmdModeHD1080p5994, 8, -1, -1, 42},
86     {bmdModeHD1080p6000, 8, -1, -1, 42},
87
88      /* HD 720 Modes */
89
90     {bmdModeHD720p50, 8, -1, -1, 26},
91     {bmdModeHD720p5994, 8, -1, -1, 26},
92     {bmdModeHD720p60, 8, -1, -1, 26},
93
94     /* For all other modes, for which we don't support VANC */
95     {bmdModeUnknown, 0, -1, -1, -1}
96 };
97
98 static int get_vanc_line_idx(BMDDisplayMode mode)
99 {
100     unsigned int i;
101     for (i = 0; i < FF_ARRAY_ELEMS(vanc_line_numbers); i++) {
102         if (mode == vanc_line_numbers[i].mode)
103             return i;
104     }
105     /* Return the VANC idx for Unknown mode */
106     return i - 1;
107 }
108
109 static inline uint16_t parity (uint16_t x)
110 {
111     uint16_t i;
112     for (i = 4 * sizeof (x); i > 0; i /= 2)
113         x ^= x >> i;
114     return x & 1;
115 }
116
117 static inline void clear_parity_bits(uint16_t *buf, int len) {
118     int i;
119     for (i = 0; i < len; i++)
120         buf[i] &= 0xff;
121 }
122
123 static int check_vanc_parity_checksum(uint16_t *buf, int len, uint16_t checksum) {
124     int i;
125     uint16_t vanc_sum = 0;
126     for (i = 3; i < len - 1; i++) {
127         uint16_t v = buf[i];
128         int np = v >> 8;
129         int p = parity(v & 0xff);
130         if ((!!p ^ !!(v & 0x100)) || (np != 1 && np != 2)) {
131             // Parity check failed
132             return -1;
133         }
134         vanc_sum += v;
135     }
136     vanc_sum &= 0x1ff;
137     vanc_sum |= ((~vanc_sum & 0x100) << 1);
138     if (checksum != vanc_sum) {
139         // Checksum verification failed
140         return -1;
141     }
142     return 0;
143 }
144
145 /* The 10-bit VANC data is packed in V210, we only need the luma component. */
146 static void extract_luma_from_v210(uint16_t *dst, const uint8_t *src, int width)
147 {
148     int i;
149     for (i = 0; i < width / 3; i += 3) {
150         *dst++ = (src[1] >> 2) + ((src[2] & 15) << 6);
151         *dst++ =  src[4]       + ((src[5] &  3) << 8);
152         *dst++ = (src[6] >> 4) + ((src[7] & 63) << 4);
153         src += 8;
154     }
155 }
156
157 static uint8_t calc_parity_and_line_offset(int line)
158 {
159     uint8_t ret = (line < 313) << 5;
160     if (line >= 7 && line <= 22)
161         ret += line;
162     if (line >= 320 && line <= 335)
163         ret += (line - 313);
164     return ret;
165 }
166
167 static void fill_data_unit_head(int line, uint8_t *tgt)
168 {
169     tgt[0] = 0x02; // data_unit_id
170     tgt[1] = 0x2c; // data_unit_length
171     tgt[2] = calc_parity_and_line_offset(line); // field_parity, line_offset
172     tgt[3] = 0xe4; // framing code
173 }
174
175 #if CONFIG_LIBZVBI
176 static uint8_t* teletext_data_unit_from_vbi_data(int line, uint8_t *src, uint8_t *tgt, vbi_pixfmt fmt)
177 {
178     vbi_bit_slicer slicer;
179
180     vbi_bit_slicer_init(&slicer, 720, 13500000, 6937500, 6937500, 0x00aaaae4, 0xffff, 18, 6, 42 * 8, VBI_MODULATION_NRZ_MSB, fmt);
181
182     if (vbi_bit_slice(&slicer, src, tgt + 4) == FALSE)
183         return tgt;
184
185     fill_data_unit_head(line, tgt);
186
187     return tgt + 46;
188 }
189
190 static uint8_t* teletext_data_unit_from_vbi_data_10bit(int line, uint8_t *src, uint8_t *tgt)
191 {
192     uint8_t y[720];
193     uint8_t *py = y;
194     uint8_t *pend = y + 720;
195     /* The 10-bit VBI data is packed in V210, but libzvbi only supports 8-bit,
196      * so we extract the 8 MSBs of the luma component, that is enough for
197      * teletext bit slicing. */
198     while (py < pend) {
199         *py++ = (src[1] >> 4) + ((src[2] & 15) << 4);
200         *py++ = (src[4] >> 2) + ((src[5] & 3 ) << 6);
201         *py++ = (src[6] >> 6) + ((src[7] & 63) << 2);
202         src += 8;
203     }
204     return teletext_data_unit_from_vbi_data(line, y, tgt, VBI_PIXFMT_YUV420);
205 }
206 #endif
207
208 static uint8_t* teletext_data_unit_from_op47_vbi_packet(int line, uint16_t *py, uint8_t *tgt)
209 {
210     int i;
211
212     if (py[0] != 0x255 || py[1] != 0x255 || py[2] != 0x227)
213         return tgt;
214
215     fill_data_unit_head(line, tgt);
216
217     py += 3;
218     tgt += 4;
219
220     for (i = 0; i < 42; i++)
221        *tgt++ = ff_reverse[py[i] & 255];
222
223     return tgt;
224 }
225
226 static int linemask_matches(int line, int64_t mask)
227 {
228     int shift = -1;
229     if (line >= 6 && line <= 22)
230         shift = line - 6;
231     if (line >= 318 && line <= 335)
232         shift = line - 318 + 17;
233     return shift >= 0 && ((1ULL << shift) & mask);
234 }
235
236 static uint8_t* teletext_data_unit_from_op47_data(uint16_t *py, uint16_t *pend, uint8_t *tgt, int64_t wanted_lines)
237 {
238     if (py < pend - 9) {
239         if (py[0] == 0x151 && py[1] == 0x115 && py[3] == 0x102) {       // identifier, identifier, format code for WST teletext
240             uint16_t *descriptors = py + 4;
241             int i;
242             py += 9;
243             for (i = 0; i < 5 && py < pend - 45; i++, py += 45) {
244                 int line = (descriptors[i] & 31) + (!(descriptors[i] & 128)) * 313;
245                 if (line && linemask_matches(line, wanted_lines))
246                     tgt = teletext_data_unit_from_op47_vbi_packet(line, py, tgt);
247             }
248         }
249     }
250     return tgt;
251 }
252
253 static uint8_t* teletext_data_unit_from_ancillary_packet(uint16_t *py, uint16_t *pend, uint8_t *tgt, int64_t wanted_lines, int allow_multipacket)
254 {
255     uint16_t did = py[0];                                               // data id
256     uint16_t sdid = py[1];                                              // secondary data id
257     uint16_t dc = py[2] & 255;                                          // data count
258     py += 3;
259     pend = FFMIN(pend, py + dc);
260     if (did == 0x143 && sdid == 0x102) {                                // subtitle distribution packet
261         tgt = teletext_data_unit_from_op47_data(py, pend, tgt, wanted_lines);
262     } else if (allow_multipacket && did == 0x143 && sdid == 0x203) {    // VANC multipacket
263         py += 2;                                                        // priority, line/field
264         while (py < pend - 3) {
265             tgt = teletext_data_unit_from_ancillary_packet(py, pend, tgt, wanted_lines, 0);
266             py += 4 + (py[2] & 255);                                    // ndid, nsdid, ndc, line/field
267         }
268     }
269     return tgt;
270 }
271
272 uint8_t *vanc_to_cc(AVFormatContext *avctx, uint16_t *buf, size_t words,
273     unsigned &cc_count)
274 {
275     size_t i, len = (buf[5] & 0xff) + 6 + 1;
276     uint8_t cdp_sum, rate;
277     uint16_t hdr, ftr;
278     uint8_t *cc;
279     uint16_t *cdp = &buf[6]; // CDP follows
280     if (cdp[0] != 0x96 || cdp[1] != 0x69) {
281         av_log(avctx, AV_LOG_WARNING, "Invalid CDP header 0x%.2x 0x%.2x\n", cdp[0], cdp[1]);
282         return NULL;
283     }
284
285     len -= 7; // remove VANC header and checksum
286
287     if (cdp[2] != len) {
288         av_log(avctx, AV_LOG_WARNING, "CDP len %d != %zu\n", cdp[2], len);
289         return NULL;
290     }
291
292     cdp_sum = 0;
293     for (i = 0; i < len - 1; i++)
294         cdp_sum += cdp[i];
295     cdp_sum = cdp_sum ? 256 - cdp_sum : 0;
296     if (cdp[len - 1] != cdp_sum) {
297         av_log(avctx, AV_LOG_WARNING, "CDP checksum invalid 0x%.4x != 0x%.4x\n", cdp_sum, cdp[len-1]);
298         return NULL;
299     }
300
301     rate = cdp[3];
302     if (!(rate & 0x0f)) {
303         av_log(avctx, AV_LOG_WARNING, "CDP frame rate invalid (0x%.2x)\n", rate);
304         return NULL;
305     }
306     rate >>= 4;
307     if (rate > 8) {
308         av_log(avctx, AV_LOG_WARNING, "CDP frame rate invalid (0x%.2x)\n", rate);
309         return NULL;
310     }
311
312     if (!(cdp[4] & 0x43)) /* ccdata_present | caption_service_active | reserved */ {
313         av_log(avctx, AV_LOG_WARNING, "CDP flags invalid (0x%.2x)\n", cdp[4]);
314         return NULL;
315     }
316
317     hdr = (cdp[5] << 8) | cdp[6];
318     if (cdp[7] != 0x72) /* ccdata_id */ {
319         av_log(avctx, AV_LOG_WARNING, "Invalid ccdata_id 0x%.2x\n", cdp[7]);
320         return NULL;
321     }
322
323     cc_count = cdp[8];
324     if (!(cc_count & 0xe0)) {
325         av_log(avctx, AV_LOG_WARNING, "Invalid cc_count 0x%.2x\n", cc_count);
326         return NULL;
327     }
328
329     cc_count &= 0x1f;
330     if ((len - 13) < cc_count * 3) {
331         av_log(avctx, AV_LOG_WARNING, "Invalid cc_count %d (> %zu)\n", cc_count * 3, len - 13);
332         return NULL;
333     }
334
335     if (cdp[len - 4] != 0x74) /* footer id */ {
336         av_log(avctx, AV_LOG_WARNING, "Invalid footer id 0x%.2x\n", cdp[len-4]);
337         return NULL;
338     }
339
340     ftr = (cdp[len - 3] << 8) | cdp[len - 2];
341     if (ftr != hdr) {
342         av_log(avctx, AV_LOG_WARNING, "Header 0x%.4x != Footer 0x%.4x\n", hdr, ftr);
343         return NULL;
344     }
345
346     cc = (uint8_t *)av_malloc(cc_count * 3);
347     if (cc == NULL) {
348         av_log(avctx, AV_LOG_WARNING, "CC - av_malloc failed for cc_count = %d\n", cc_count);
349         return NULL;
350     }
351
352     for (size_t i = 0; i < cc_count; i++) {
353         cc[3*i + 0] = cdp[9 + 3*i+0] /* & 3 */;
354         cc[3*i + 1] = cdp[9 + 3*i+1];
355         cc[3*i + 2] = cdp[9 + 3*i+2];
356     }
357
358     cc_count *= 3;
359     return cc;
360 }
361
362 uint8_t *get_metadata(AVFormatContext *avctx, uint16_t *buf, size_t width,
363                       uint8_t *tgt, size_t tgt_size, AVPacket *pkt)
364 {
365     decklink_cctx *cctx = (struct decklink_cctx *) avctx->priv_data;
366     uint16_t *max_buf = buf + width;
367
368     while (buf < max_buf - 6) {
369         int len;
370         uint16_t did = buf[3] & 0xFF;                                  // data id
371         uint16_t sdid = buf[4] & 0xFF;                                 // secondary data id
372         /* Check for VANC header */
373         if (buf[0] != 0 || buf[1] != 0x3ff || buf[2] != 0x3ff) {
374             return tgt;
375         }
376
377         len = (buf[5] & 0xff) + 6 + 1;
378         if (len > max_buf - buf) {
379             av_log(avctx, AV_LOG_WARNING, "Data Count (%d) > data left (%zu)\n",
380                     len, max_buf - buf);
381             return tgt;
382         }
383
384         if (did == 0x43 && (sdid == 0x02 || sdid == 0x03) && cctx->teletext_lines &&
385             width == 1920 && tgt_size >= 1920) {
386             if (check_vanc_parity_checksum(buf, len, buf[len - 1]) < 0) {
387                 av_log(avctx, AV_LOG_WARNING, "VANC parity or checksum incorrect\n");
388                 goto skip_packet;
389             }
390             tgt = teletext_data_unit_from_ancillary_packet(buf + 3, buf + len, tgt, cctx->teletext_lines, 0);
391         } else if (did == 0x61 && sdid == 0x01) {
392             unsigned int data_len;
393             uint8_t *data;
394             if (check_vanc_parity_checksum(buf, len, buf[len - 1]) < 0) {
395                 av_log(avctx, AV_LOG_WARNING, "VANC parity or checksum incorrect\n");
396                 goto skip_packet;
397             }
398             clear_parity_bits(buf, len);
399             data = vanc_to_cc(avctx, buf, width, data_len);
400             if (data) {
401                 uint8_t *pkt_cc = av_packet_new_side_data(pkt, AV_PKT_DATA_A53_CC, data_len);
402                 if (pkt_cc)
403                     memcpy(pkt_cc, data, data_len);
404                 av_free(data);
405             }
406         } else {
407             av_log(avctx, AV_LOG_DEBUG, "Unknown meta data DID = 0x%.2x SDID = 0x%.2x\n",
408                     did, sdid);
409         }
410 skip_packet:
411         buf += len;
412     }
413
414     return tgt;
415 }
416
417 static void avpacket_queue_init(AVFormatContext *avctx, AVPacketQueue *q)
418 {
419     struct decklink_cctx *ctx = (struct decklink_cctx *)avctx->priv_data;
420     memset(q, 0, sizeof(AVPacketQueue));
421     pthread_mutex_init(&q->mutex, NULL);
422     pthread_cond_init(&q->cond, NULL);
423     q->avctx = avctx;
424     q->max_q_size = ctx->queue_size;
425 }
426
427 static void avpacket_queue_flush(AVPacketQueue *q)
428 {
429     AVPacketList *pkt, *pkt1;
430
431     pthread_mutex_lock(&q->mutex);
432     for (pkt = q->first_pkt; pkt != NULL; pkt = pkt1) {
433         pkt1 = pkt->next;
434         av_packet_unref(&pkt->pkt);
435         av_freep(&pkt);
436     }
437     q->last_pkt   = NULL;
438     q->first_pkt  = NULL;
439     q->nb_packets = 0;
440     q->size       = 0;
441     pthread_mutex_unlock(&q->mutex);
442 }
443
444 static void avpacket_queue_end(AVPacketQueue *q)
445 {
446     avpacket_queue_flush(q);
447     pthread_mutex_destroy(&q->mutex);
448     pthread_cond_destroy(&q->cond);
449 }
450
451 static unsigned long long avpacket_queue_size(AVPacketQueue *q)
452 {
453     unsigned long long size;
454     pthread_mutex_lock(&q->mutex);
455     size = q->size;
456     pthread_mutex_unlock(&q->mutex);
457     return size;
458 }
459
460 static int avpacket_queue_put(AVPacketQueue *q, AVPacket *pkt)
461 {
462     AVPacketList *pkt1;
463
464     // Drop Packet if queue size is > maximum queue size
465     if (avpacket_queue_size(q) > (uint64_t)q->max_q_size) {
466         av_log(q->avctx, AV_LOG_WARNING,  "Decklink input buffer overrun!\n");
467         return -1;
468     }
469     /* duplicate the packet */
470     if (av_dup_packet(pkt) < 0) {
471         return -1;
472     }
473
474     pkt1 = (AVPacketList *)av_malloc(sizeof(AVPacketList));
475     if (!pkt1) {
476         return -1;
477     }
478     pkt1->pkt  = *pkt;
479     pkt1->next = NULL;
480
481     pthread_mutex_lock(&q->mutex);
482
483     if (!q->last_pkt) {
484         q->first_pkt = pkt1;
485     } else {
486         q->last_pkt->next = pkt1;
487     }
488
489     q->last_pkt = pkt1;
490     q->nb_packets++;
491     q->size += pkt1->pkt.size + sizeof(*pkt1);
492
493     pthread_cond_signal(&q->cond);
494
495     pthread_mutex_unlock(&q->mutex);
496     return 0;
497 }
498
499 static int avpacket_queue_get(AVPacketQueue *q, AVPacket *pkt, int block)
500 {
501     AVPacketList *pkt1;
502     int ret;
503
504     pthread_mutex_lock(&q->mutex);
505
506     for (;; ) {
507         pkt1 = q->first_pkt;
508         if (pkt1) {
509             q->first_pkt = pkt1->next;
510             if (!q->first_pkt) {
511                 q->last_pkt = NULL;
512             }
513             q->nb_packets--;
514             q->size -= pkt1->pkt.size + sizeof(*pkt1);
515             *pkt     = pkt1->pkt;
516             av_free(pkt1);
517             ret = 1;
518             break;
519         } else if (!block) {
520             ret = 0;
521             break;
522         } else {
523             pthread_cond_wait(&q->cond, &q->mutex);
524         }
525     }
526     pthread_mutex_unlock(&q->mutex);
527     return ret;
528 }
529
530 class decklink_input_callback : public IDeckLinkInputCallback
531 {
532 public:
533         decklink_input_callback(AVFormatContext *_avctx);
534         ~decklink_input_callback();
535
536         virtual HRESULT STDMETHODCALLTYPE QueryInterface(REFIID iid, LPVOID *ppv) { return E_NOINTERFACE; }
537         virtual ULONG STDMETHODCALLTYPE AddRef(void);
538         virtual ULONG STDMETHODCALLTYPE  Release(void);
539         virtual HRESULT STDMETHODCALLTYPE VideoInputFormatChanged(BMDVideoInputFormatChangedEvents, IDeckLinkDisplayMode*, BMDDetectedVideoInputFormatFlags);
540         virtual HRESULT STDMETHODCALLTYPE VideoInputFrameArrived(IDeckLinkVideoInputFrame*, IDeckLinkAudioInputPacket*);
541
542 private:
543         ULONG           m_refCount;
544         pthread_mutex_t m_mutex;
545         AVFormatContext *avctx;
546         decklink_ctx    *ctx;
547         int no_video;
548         int64_t initial_video_pts;
549         int64_t initial_audio_pts;
550 };
551
552 decklink_input_callback::decklink_input_callback(AVFormatContext *_avctx) : m_refCount(0)
553 {
554     avctx = _avctx;
555     decklink_cctx       *cctx = (struct decklink_cctx *)avctx->priv_data;
556     ctx = (struct decklink_ctx *)cctx->ctx;
557     no_video = 0;
558     initial_audio_pts = initial_video_pts = AV_NOPTS_VALUE;
559     pthread_mutex_init(&m_mutex, NULL);
560 }
561
562 decklink_input_callback::~decklink_input_callback()
563 {
564     pthread_mutex_destroy(&m_mutex);
565 }
566
567 ULONG decklink_input_callback::AddRef(void)
568 {
569     pthread_mutex_lock(&m_mutex);
570     m_refCount++;
571     pthread_mutex_unlock(&m_mutex);
572
573     return (ULONG)m_refCount;
574 }
575
576 ULONG decklink_input_callback::Release(void)
577 {
578     pthread_mutex_lock(&m_mutex);
579     m_refCount--;
580     pthread_mutex_unlock(&m_mutex);
581
582     if (m_refCount == 0) {
583         delete this;
584         return 0;
585     }
586
587     return (ULONG)m_refCount;
588 }
589
590 static int64_t get_pkt_pts(IDeckLinkVideoInputFrame *videoFrame,
591                            IDeckLinkAudioInputPacket *audioFrame,
592                            int64_t wallclock,
593                            DecklinkPtsSource pts_src,
594                            AVRational time_base, int64_t *initial_pts)
595 {
596     int64_t pts = AV_NOPTS_VALUE;
597     BMDTimeValue bmd_pts;
598     BMDTimeValue bmd_duration;
599     HRESULT res = E_INVALIDARG;
600     switch (pts_src) {
601         case PTS_SRC_AUDIO:
602             if (audioFrame)
603                 res = audioFrame->GetPacketTime(&bmd_pts, time_base.den);
604             break;
605         case PTS_SRC_VIDEO:
606             if (videoFrame)
607                 res = videoFrame->GetStreamTime(&bmd_pts, &bmd_duration, time_base.den);
608             break;
609         case PTS_SRC_REFERENCE:
610             if (videoFrame)
611                 res = videoFrame->GetHardwareReferenceTimestamp(time_base.den, &bmd_pts, &bmd_duration);
612             break;
613         case PTS_SRC_WALLCLOCK:
614         {
615             /* MSVC does not support compound literals like AV_TIME_BASE_Q
616              * in C++ code (compiler error C4576) */
617             AVRational timebase;
618             timebase.num = 1;
619             timebase.den = AV_TIME_BASE;
620             pts = av_rescale_q(wallclock, timebase, time_base);
621             break;
622         }
623     }
624     if (res == S_OK)
625         pts = bmd_pts / time_base.num;
626
627     if (pts != AV_NOPTS_VALUE && *initial_pts == AV_NOPTS_VALUE)
628         *initial_pts = pts;
629     if (*initial_pts != AV_NOPTS_VALUE)
630         pts -= *initial_pts;
631
632     return pts;
633 }
634
635 HRESULT decklink_input_callback::VideoInputFrameArrived(
636     IDeckLinkVideoInputFrame *videoFrame, IDeckLinkAudioInputPacket *audioFrame)
637 {
638     void *frameBytes;
639     void *audioFrameBytes;
640     BMDTimeValue frameTime;
641     BMDTimeValue frameDuration;
642     int64_t wallclock = 0;
643
644     ctx->frameCount++;
645     if (ctx->audio_pts_source == PTS_SRC_WALLCLOCK || ctx->video_pts_source == PTS_SRC_WALLCLOCK)
646         wallclock = av_gettime_relative();
647
648     // Handle Video Frame
649     if (videoFrame) {
650         AVPacket pkt;
651         av_init_packet(&pkt);
652         if (ctx->frameCount % 25 == 0) {
653             unsigned long long qsize = avpacket_queue_size(&ctx->queue);
654             av_log(avctx, AV_LOG_DEBUG,
655                     "Frame received (#%lu) - Valid (%liB) - QSize %fMB\n",
656                     ctx->frameCount,
657                     videoFrame->GetRowBytes() * videoFrame->GetHeight(),
658                     (double)qsize / 1024 / 1024);
659         }
660
661         videoFrame->GetBytes(&frameBytes);
662         videoFrame->GetStreamTime(&frameTime, &frameDuration,
663                                   ctx->video_st->time_base.den);
664
665         if (videoFrame->GetFlags() & bmdFrameHasNoInputSource) {
666             if (ctx->draw_bars && videoFrame->GetPixelFormat() == bmdFormat8BitYUV) {
667                 unsigned bars[8] = {
668                     0xEA80EA80, 0xD292D210, 0xA910A9A5, 0x90229035,
669                     0x6ADD6ACA, 0x51EF515A, 0x286D28EF, 0x10801080 };
670                 int width  = videoFrame->GetWidth();
671                 int height = videoFrame->GetHeight();
672                 unsigned *p = (unsigned *)frameBytes;
673
674                 for (int y = 0; y < height; y++) {
675                     for (int x = 0; x < width; x += 2)
676                         *p++ = bars[(x * 8) / width];
677                 }
678             }
679
680             if (!no_video) {
681                 av_log(avctx, AV_LOG_WARNING, "Frame received (#%lu) - No input signal detected "
682                         "- Frames dropped %u\n", ctx->frameCount, ++ctx->dropped);
683             }
684             no_video = 1;
685         } else {
686             if (no_video) {
687                 av_log(avctx, AV_LOG_WARNING, "Frame received (#%lu) - Input returned "
688                         "- Frames dropped %u\n", ctx->frameCount, ++ctx->dropped);
689             }
690             no_video = 0;
691         }
692
693         pkt.pts = get_pkt_pts(videoFrame, audioFrame, wallclock, ctx->video_pts_source, ctx->video_st->time_base, &initial_video_pts);
694         pkt.dts = pkt.pts;
695
696         pkt.duration = frameDuration;
697         //To be made sure it still applies
698         pkt.flags       |= AV_PKT_FLAG_KEY;
699         pkt.stream_index = ctx->video_st->index;
700         pkt.data         = (uint8_t *)frameBytes;
701         pkt.size         = videoFrame->GetRowBytes() *
702                            videoFrame->GetHeight();
703         //fprintf(stderr,"Video Frame size %d ts %d\n", pkt.size, pkt.pts);
704
705         if (!no_video) {
706             IDeckLinkVideoFrameAncillary *vanc;
707             AVPacket txt_pkt;
708             uint8_t txt_buf0[3531]; // 35 * 46 bytes decoded teletext lines + 1 byte data_identifier + 1920 bytes OP47 decode buffer
709             uint8_t *txt_buf = txt_buf0;
710
711             if (videoFrame->GetAncillaryData(&vanc) == S_OK) {
712                 int i;
713                 int64_t line_mask = 1;
714                 BMDPixelFormat vanc_format = vanc->GetPixelFormat();
715                 txt_buf[0] = 0x10;    // data_identifier - EBU_data
716                 txt_buf++;
717 #if CONFIG_LIBZVBI
718                 if (ctx->bmd_mode == bmdModePAL && ctx->teletext_lines &&
719                     (vanc_format == bmdFormat8BitYUV || vanc_format == bmdFormat10BitYUV)) {
720                     av_assert0(videoFrame->GetWidth() == 720);
721                     for (i = 6; i < 336; i++, line_mask <<= 1) {
722                         uint8_t *buf;
723                         if ((ctx->teletext_lines & line_mask) && vanc->GetBufferForVerticalBlankingLine(i, (void**)&buf) == S_OK) {
724                             if (vanc_format == bmdFormat8BitYUV)
725                                 txt_buf = teletext_data_unit_from_vbi_data(i, buf, txt_buf, VBI_PIXFMT_UYVY);
726                             else
727                                 txt_buf = teletext_data_unit_from_vbi_data_10bit(i, buf, txt_buf);
728                         }
729                         if (i == 22)
730                             i = 317;
731                     }
732                 }
733 #endif
734                 if (vanc_format == bmdFormat10BitYUV && videoFrame->GetWidth() <= MAX_WIDTH_VANC) {
735                     int idx = get_vanc_line_idx(ctx->bmd_mode);
736                     for (i = vanc_line_numbers[idx].vanc_start; i <= vanc_line_numbers[idx].vanc_end; i++) {
737                         uint8_t *buf;
738                         if (vanc->GetBufferForVerticalBlankingLine(i, (void**)&buf) == S_OK) {
739                             uint16_t luma_vanc[MAX_WIDTH_VANC];
740                             extract_luma_from_v210(luma_vanc, buf, videoFrame->GetWidth());
741                             txt_buf = get_metadata(avctx, luma_vanc, videoFrame->GetWidth(),
742                                                    txt_buf, sizeof(txt_buf0) - (txt_buf - txt_buf0), &pkt);
743                         }
744                         if (i == vanc_line_numbers[idx].field0_vanc_end)
745                             i = vanc_line_numbers[idx].field1_vanc_start - 1;
746                     }
747                 }
748                 vanc->Release();
749                 if (txt_buf - txt_buf0 > 1) {
750                     int stuffing_units = (4 - ((45 + txt_buf - txt_buf0) / 46) % 4) % 4;
751                     while (stuffing_units--) {
752                         memset(txt_buf, 0xff, 46);
753                         txt_buf[1] = 0x2c; // data_unit_length
754                         txt_buf += 46;
755                     }
756                     av_init_packet(&txt_pkt);
757                     txt_pkt.pts = pkt.pts;
758                     txt_pkt.dts = pkt.dts;
759                     txt_pkt.stream_index = ctx->teletext_st->index;
760                     txt_pkt.data = txt_buf0;
761                     txt_pkt.size = txt_buf - txt_buf0;
762                     if (avpacket_queue_put(&ctx->queue, &txt_pkt) < 0) {
763                         ++ctx->dropped;
764                     }
765                 }
766             }
767         }
768
769         if (avpacket_queue_put(&ctx->queue, &pkt) < 0) {
770             ++ctx->dropped;
771         }
772     }
773
774     // Handle Audio Frame
775     if (audioFrame) {
776         AVPacket pkt;
777         BMDTimeValue audio_pts;
778         av_init_packet(&pkt);
779
780         //hack among hacks
781         pkt.size = audioFrame->GetSampleFrameCount() * ctx->audio_st->codecpar->channels * (16 / 8);
782         audioFrame->GetBytes(&audioFrameBytes);
783         audioFrame->GetPacketTime(&audio_pts, ctx->audio_st->time_base.den);
784         pkt.pts = get_pkt_pts(videoFrame, audioFrame, wallclock, ctx->audio_pts_source, ctx->audio_st->time_base, &initial_audio_pts);
785         pkt.dts = pkt.pts;
786
787         //fprintf(stderr,"Audio Frame size %d ts %d\n", pkt.size, pkt.pts);
788         pkt.flags       |= AV_PKT_FLAG_KEY;
789         pkt.stream_index = ctx->audio_st->index;
790         pkt.data         = (uint8_t *)audioFrameBytes;
791
792         if (avpacket_queue_put(&ctx->queue, &pkt) < 0) {
793             ++ctx->dropped;
794         }
795     }
796
797     return S_OK;
798 }
799
800 HRESULT decklink_input_callback::VideoInputFormatChanged(
801     BMDVideoInputFormatChangedEvents events, IDeckLinkDisplayMode *mode,
802     BMDDetectedVideoInputFormatFlags)
803 {
804     return S_OK;
805 }
806
807 static HRESULT decklink_start_input(AVFormatContext *avctx)
808 {
809     struct decklink_cctx *cctx = (struct decklink_cctx *)avctx->priv_data;
810     struct decklink_ctx *ctx = (struct decklink_ctx *)cctx->ctx;
811
812     ctx->input_callback = new decklink_input_callback(avctx);
813     ctx->dli->SetCallback(ctx->input_callback);
814     return ctx->dli->StartStreams();
815 }
816
817 extern "C" {
818
819 av_cold int ff_decklink_read_close(AVFormatContext *avctx)
820 {
821     struct decklink_cctx *cctx = (struct decklink_cctx *)avctx->priv_data;
822     struct decklink_ctx *ctx = (struct decklink_ctx *)cctx->ctx;
823
824     if (ctx->capture_started) {
825         ctx->dli->StopStreams();
826         ctx->dli->DisableVideoInput();
827         ctx->dli->DisableAudioInput();
828     }
829
830     ff_decklink_cleanup(avctx);
831     avpacket_queue_end(&ctx->queue);
832
833     av_freep(&cctx->ctx);
834
835     return 0;
836 }
837
838 av_cold int ff_decklink_read_header(AVFormatContext *avctx)
839 {
840     struct decklink_cctx *cctx = (struct decklink_cctx *)avctx->priv_data;
841     struct decklink_ctx *ctx;
842     AVStream *st;
843     HRESULT result;
844     char fname[1024];
845     char *tmp;
846     int mode_num = 0;
847     int ret;
848
849     ctx = (struct decklink_ctx *) av_mallocz(sizeof(struct decklink_ctx));
850     if (!ctx)
851         return AVERROR(ENOMEM);
852     ctx->list_devices = cctx->list_devices;
853     ctx->list_formats = cctx->list_formats;
854     ctx->teletext_lines = cctx->teletext_lines;
855     ctx->preroll      = cctx->preroll;
856     ctx->duplex_mode  = cctx->duplex_mode;
857     if (cctx->video_input > 0 && (unsigned int)cctx->video_input < FF_ARRAY_ELEMS(decklink_video_connection_map))
858         ctx->video_input = decklink_video_connection_map[cctx->video_input];
859     if (cctx->audio_input > 0 && (unsigned int)cctx->audio_input < FF_ARRAY_ELEMS(decklink_audio_connection_map))
860         ctx->audio_input = decklink_audio_connection_map[cctx->audio_input];
861     ctx->audio_pts_source = cctx->audio_pts_source;
862     ctx->video_pts_source = cctx->video_pts_source;
863     ctx->draw_bars = cctx->draw_bars;
864     cctx->ctx = ctx;
865
866     /* Check audio channel option for valid values: 2, 8 or 16 */
867     switch (cctx->audio_channels) {
868         case 2:
869         case 8:
870         case 16:
871             break;
872         default:
873             av_log(avctx, AV_LOG_ERROR, "Value of channels option must be one of 2, 8 or 16\n");
874             return AVERROR(EINVAL);
875     }
876
877     /* List available devices. */
878     if (ctx->list_devices) {
879         ff_decklink_list_devices(avctx);
880         return AVERROR_EXIT;
881     }
882
883     if (cctx->v210) {
884         av_log(avctx, AV_LOG_WARNING, "The bm_v210 option is deprecated and will be removed. Please use the -raw_format yuv422p10.\n");
885         cctx->raw_format = MKBETAG('v','2','1','0');
886     }
887
888     strcpy (fname, avctx->filename);
889     tmp=strchr (fname, '@');
890     if (tmp != NULL) {
891         av_log(avctx, AV_LOG_WARNING, "The @mode syntax is deprecated and will be removed. Please use the -format_code option.\n");
892         mode_num = atoi (tmp+1);
893         *tmp = 0;
894     }
895
896     ret = ff_decklink_init_device(avctx, fname);
897     if (ret < 0)
898         return ret;
899
900     /* Get input device. */
901     if (ctx->dl->QueryInterface(IID_IDeckLinkInput, (void **) &ctx->dli) != S_OK) {
902         av_log(avctx, AV_LOG_ERROR, "Could not open input device from '%s'\n",
903                avctx->filename);
904         ret = AVERROR(EIO);
905         goto error;
906     }
907
908     /* List supported formats. */
909     if (ctx->list_formats) {
910         ff_decklink_list_formats(avctx, DIRECTION_IN);
911         ret = AVERROR_EXIT;
912         goto error;
913     }
914
915     if (mode_num > 0 || cctx->format_code) {
916         if (ff_decklink_set_format(avctx, DIRECTION_IN, mode_num) < 0) {
917             av_log(avctx, AV_LOG_ERROR, "Could not set mode number %d or format code %s for %s\n",
918                 mode_num, (cctx->format_code) ? cctx->format_code : "(unset)", fname);
919             ret = AVERROR(EIO);
920             goto error;
921         }
922     }
923
924 #if !CONFIG_LIBZVBI
925     if (ctx->teletext_lines && ctx->bmd_mode == bmdModePAL) {
926         av_log(avctx, AV_LOG_ERROR, "Libzvbi support is needed for capturing SD PAL teletext, please recompile FFmpeg.\n");
927         ret = AVERROR(ENOSYS);
928         goto error;
929     }
930 #endif
931
932     /* Setup streams. */
933     st = avformat_new_stream(avctx, NULL);
934     if (!st) {
935         av_log(avctx, AV_LOG_ERROR, "Cannot add stream\n");
936         ret = AVERROR(ENOMEM);
937         goto error;
938     }
939     st->codecpar->codec_type  = AVMEDIA_TYPE_AUDIO;
940     st->codecpar->codec_id    = AV_CODEC_ID_PCM_S16LE;
941     st->codecpar->sample_rate = bmdAudioSampleRate48kHz;
942     st->codecpar->channels    = cctx->audio_channels;
943     avpriv_set_pts_info(st, 64, 1, 1000000);  /* 64 bits pts in us */
944     ctx->audio_st=st;
945
946     st = avformat_new_stream(avctx, NULL);
947     if (!st) {
948         av_log(avctx, AV_LOG_ERROR, "Cannot add stream\n");
949         ret = AVERROR(ENOMEM);
950         goto error;
951     }
952     st->codecpar->codec_type  = AVMEDIA_TYPE_VIDEO;
953     st->codecpar->width       = ctx->bmd_width;
954     st->codecpar->height      = ctx->bmd_height;
955
956     st->time_base.den      = ctx->bmd_tb_den;
957     st->time_base.num      = ctx->bmd_tb_num;
958     av_stream_set_r_frame_rate(st, av_make_q(st->time_base.den, st->time_base.num));
959
960     switch((BMDPixelFormat)cctx->raw_format) {
961     case bmdFormat8BitYUV:
962         st->codecpar->codec_id    = AV_CODEC_ID_RAWVIDEO;
963         st->codecpar->codec_tag   = MKTAG('U', 'Y', 'V', 'Y');
964         st->codecpar->format      = AV_PIX_FMT_UYVY422;
965         st->codecpar->bit_rate    = av_rescale(ctx->bmd_width * ctx->bmd_height * 16, st->time_base.den, st->time_base.num);
966         break;
967     case bmdFormat10BitYUV:
968         st->codecpar->codec_id    = AV_CODEC_ID_V210;
969         st->codecpar->codec_tag   = MKTAG('V','2','1','0');
970         st->codecpar->bit_rate    = av_rescale(ctx->bmd_width * ctx->bmd_height * 64, st->time_base.den, st->time_base.num * 3);
971         st->codecpar->bits_per_coded_sample = 10;
972         break;
973     case bmdFormat8BitARGB:
974         st->codecpar->codec_id    = AV_CODEC_ID_RAWVIDEO;
975         st->codecpar->codec_tag   = avcodec_pix_fmt_to_codec_tag((enum AVPixelFormat)st->codecpar->format);;
976         st->codecpar->format      = AV_PIX_FMT_ARGB;
977         st->codecpar->bit_rate    = av_rescale(ctx->bmd_width * ctx->bmd_height * 32, st->time_base.den, st->time_base.num);
978         break;
979     case bmdFormat8BitBGRA:
980         st->codecpar->codec_id    = AV_CODEC_ID_RAWVIDEO;
981         st->codecpar->codec_tag   = avcodec_pix_fmt_to_codec_tag((enum AVPixelFormat)st->codecpar->format);
982         st->codecpar->format      = AV_PIX_FMT_BGRA;
983         st->codecpar->bit_rate    = av_rescale(ctx->bmd_width * ctx->bmd_height * 32, st->time_base.den, st->time_base.num);
984         break;
985     case bmdFormat10BitRGB:
986         st->codecpar->codec_id    = AV_CODEC_ID_R210;
987         st->codecpar->codec_tag   = MKTAG('R','2','1','0');
988         st->codecpar->format      = AV_PIX_FMT_RGB48LE;
989         st->codecpar->bit_rate    = av_rescale(ctx->bmd_width * ctx->bmd_height * 30, st->time_base.den, st->time_base.num);
990         st->codecpar->bits_per_coded_sample = 10;
991         break;
992     default:
993         av_log(avctx, AV_LOG_ERROR, "Raw Format %.4s not supported\n", (char*) &cctx->raw_format);
994         ret = AVERROR(EINVAL);
995         goto error;
996     }
997
998     switch (ctx->bmd_field_dominance) {
999     case bmdUpperFieldFirst:
1000         st->codecpar->field_order = AV_FIELD_TT;
1001         break;
1002     case bmdLowerFieldFirst:
1003         st->codecpar->field_order = AV_FIELD_BB;
1004         break;
1005     case bmdProgressiveFrame:
1006     case bmdProgressiveSegmentedFrame:
1007         st->codecpar->field_order = AV_FIELD_PROGRESSIVE;
1008         break;
1009     }
1010
1011     avpriv_set_pts_info(st, 64, 1, 1000000);  /* 64 bits pts in us */
1012
1013     ctx->video_st=st;
1014
1015     if (ctx->teletext_lines) {
1016         st = avformat_new_stream(avctx, NULL);
1017         if (!st) {
1018             av_log(avctx, AV_LOG_ERROR, "Cannot add stream\n");
1019             ret = AVERROR(ENOMEM);
1020             goto error;
1021         }
1022         st->codecpar->codec_type  = AVMEDIA_TYPE_SUBTITLE;
1023         st->time_base.den         = ctx->bmd_tb_den;
1024         st->time_base.num         = ctx->bmd_tb_num;
1025         st->codecpar->codec_id    = AV_CODEC_ID_DVB_TELETEXT;
1026         avpriv_set_pts_info(st, 64, 1, 1000000);  /* 64 bits pts in us */
1027         ctx->teletext_st = st;
1028     }
1029
1030     av_log(avctx, AV_LOG_VERBOSE, "Using %d input audio channels\n", ctx->audio_st->codecpar->channels);
1031     result = ctx->dli->EnableAudioInput(bmdAudioSampleRate48kHz, bmdAudioSampleType16bitInteger, ctx->audio_st->codecpar->channels);
1032
1033     if (result != S_OK) {
1034         av_log(avctx, AV_LOG_ERROR, "Cannot enable audio input\n");
1035         ret = AVERROR(EIO);
1036         goto error;
1037     }
1038
1039     result = ctx->dli->EnableVideoInput(ctx->bmd_mode,
1040                                         (BMDPixelFormat) cctx->raw_format,
1041                                         bmdVideoInputFlagDefault);
1042
1043     if (result != S_OK) {
1044         av_log(avctx, AV_LOG_ERROR, "Cannot enable video input\n");
1045         ret = AVERROR(EIO);
1046         goto error;
1047     }
1048
1049     avpacket_queue_init (avctx, &ctx->queue);
1050
1051     if (decklink_start_input (avctx) != S_OK) {
1052         av_log(avctx, AV_LOG_ERROR, "Cannot start input stream\n");
1053         ret = AVERROR(EIO);
1054         goto error;
1055     }
1056
1057     return 0;
1058
1059 error:
1060     ff_decklink_cleanup(avctx);
1061     return ret;
1062 }
1063
1064 int ff_decklink_read_packet(AVFormatContext *avctx, AVPacket *pkt)
1065 {
1066     struct decklink_cctx *cctx = (struct decklink_cctx *)avctx->priv_data;
1067     struct decklink_ctx *ctx = (struct decklink_ctx *)cctx->ctx;
1068
1069     avpacket_queue_get(&ctx->queue, pkt, 1);
1070
1071     return 0;
1072 }
1073
1074 } /* extern "C" */