0d652bc8dbeb1fabe2d4b56b1ce159be517d47f1
[ffmpeg.git] / libavdevice / decklink_dec.cpp
1 /*
2  * Blackmagic DeckLink output
3  * Copyright (c) 2013-2014 Luca Barbato, Deti Fliegl
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include <DeckLinkAPI.h>
23
24 #include <pthread.h>
25 #include <semaphore.h>
26
27 extern "C" {
28 #include "config.h"
29 #include "libavformat/avformat.h"
30 #include "libavformat/internal.h"
31 #include "libavutil/imgutils.h"
32 #if CONFIG_LIBZVBI
33 #include <libzvbi.h>
34 #endif
35 }
36
37 #include "decklink_common.h"
38 #include "decklink_dec.h"
39
40 #if CONFIG_LIBZVBI
41 static uint8_t calc_parity_and_line_offset(int line)
42 {
43     uint8_t ret = (line < 313) << 5;
44     if (line >= 7 && line <= 22)
45         ret += line;
46     if (line >= 320 && line <= 335)
47         ret += (line - 313);
48     return ret;
49 }
50
51 int teletext_data_unit_from_vbi_data(int line, uint8_t *src, uint8_t *tgt)
52 {
53     vbi_bit_slicer slicer;
54
55     vbi_bit_slicer_init(&slicer, 720, 13500000, 6937500, 6937500, 0x00aaaae4, 0xffff, 18, 6, 42 * 8, VBI_MODULATION_NRZ_MSB, VBI_PIXFMT_UYVY);
56
57     if (vbi_bit_slice(&slicer, src, tgt + 4) == FALSE)
58         return -1;
59
60     tgt[0] = 0x02; // data_unit_id
61     tgt[1] = 0x2c; // data_unit_length
62     tgt[2] = calc_parity_and_line_offset(line); // field_parity, line_offset
63     tgt[3] = 0xe4; // framing code
64
65     return 0;
66 }
67 #endif
68
69 static void avpacket_queue_init(AVFormatContext *avctx, AVPacketQueue *q)
70 {
71     memset(q, 0, sizeof(AVPacketQueue));
72     pthread_mutex_init(&q->mutex, NULL);
73     pthread_cond_init(&q->cond, NULL);
74     q->avctx = avctx;
75 }
76
77 static void avpacket_queue_flush(AVPacketQueue *q)
78 {
79     AVPacketList *pkt, *pkt1;
80
81     pthread_mutex_lock(&q->mutex);
82     for (pkt = q->first_pkt; pkt != NULL; pkt = pkt1) {
83         pkt1 = pkt->next;
84         av_packet_unref(&pkt->pkt);
85         av_freep(&pkt);
86     }
87     q->last_pkt   = NULL;
88     q->first_pkt  = NULL;
89     q->nb_packets = 0;
90     q->size       = 0;
91     pthread_mutex_unlock(&q->mutex);
92 }
93
94 static void avpacket_queue_end(AVPacketQueue *q)
95 {
96     avpacket_queue_flush(q);
97     pthread_mutex_destroy(&q->mutex);
98     pthread_cond_destroy(&q->cond);
99 }
100
101 static unsigned long long avpacket_queue_size(AVPacketQueue *q)
102 {
103     unsigned long long size;
104     pthread_mutex_lock(&q->mutex);
105     size = q->size;
106     pthread_mutex_unlock(&q->mutex);
107     return size;
108 }
109
110 static int avpacket_queue_put(AVPacketQueue *q, AVPacket *pkt)
111 {
112     AVPacketList *pkt1;
113
114     // Drop Packet if queue size is > 1GB
115     if (avpacket_queue_size(q) >  1024 * 1024 * 1024 ) {
116         av_log(q->avctx, AV_LOG_WARNING,  "Decklink input buffer overrun!\n");
117         return -1;
118     }
119     /* duplicate the packet */
120     if (av_dup_packet(pkt) < 0) {
121         return -1;
122     }
123
124     pkt1 = (AVPacketList *)av_malloc(sizeof(AVPacketList));
125     if (!pkt1) {
126         return -1;
127     }
128     pkt1->pkt  = *pkt;
129     pkt1->next = NULL;
130
131     pthread_mutex_lock(&q->mutex);
132
133     if (!q->last_pkt) {
134         q->first_pkt = pkt1;
135     } else {
136         q->last_pkt->next = pkt1;
137     }
138
139     q->last_pkt = pkt1;
140     q->nb_packets++;
141     q->size += pkt1->pkt.size + sizeof(*pkt1);
142
143     pthread_cond_signal(&q->cond);
144
145     pthread_mutex_unlock(&q->mutex);
146     return 0;
147 }
148
149 static int avpacket_queue_get(AVPacketQueue *q, AVPacket *pkt, int block)
150 {
151     AVPacketList *pkt1;
152     int ret;
153
154     pthread_mutex_lock(&q->mutex);
155
156     for (;; ) {
157         pkt1 = q->first_pkt;
158         if (pkt1) {
159             q->first_pkt = pkt1->next;
160             if (!q->first_pkt) {
161                 q->last_pkt = NULL;
162             }
163             q->nb_packets--;
164             q->size -= pkt1->pkt.size + sizeof(*pkt1);
165             *pkt     = pkt1->pkt;
166             av_free(pkt1);
167             ret = 1;
168             break;
169         } else if (!block) {
170             ret = 0;
171             break;
172         } else {
173             pthread_cond_wait(&q->cond, &q->mutex);
174         }
175     }
176     pthread_mutex_unlock(&q->mutex);
177     return ret;
178 }
179
180 class decklink_input_callback : public IDeckLinkInputCallback
181 {
182 public:
183         decklink_input_callback(AVFormatContext *_avctx);
184         ~decklink_input_callback();
185
186         virtual HRESULT STDMETHODCALLTYPE QueryInterface(REFIID iid, LPVOID *ppv) { return E_NOINTERFACE; }
187         virtual ULONG STDMETHODCALLTYPE AddRef(void);
188         virtual ULONG STDMETHODCALLTYPE  Release(void);
189         virtual HRESULT STDMETHODCALLTYPE VideoInputFormatChanged(BMDVideoInputFormatChangedEvents, IDeckLinkDisplayMode*, BMDDetectedVideoInputFormatFlags);
190         virtual HRESULT STDMETHODCALLTYPE VideoInputFrameArrived(IDeckLinkVideoInputFrame*, IDeckLinkAudioInputPacket*);
191
192 private:
193         ULONG           m_refCount;
194         pthread_mutex_t m_mutex;
195         AVFormatContext *avctx;
196         decklink_ctx    *ctx;
197         int no_video;
198         int64_t initial_video_pts;
199         int64_t initial_audio_pts;
200 };
201
202 decklink_input_callback::decklink_input_callback(AVFormatContext *_avctx) : m_refCount(0)
203 {
204     avctx = _avctx;
205     decklink_cctx       *cctx = (struct decklink_cctx *) avctx->priv_data;
206     ctx = (struct decklink_ctx *) cctx->ctx;
207     initial_audio_pts = initial_video_pts = AV_NOPTS_VALUE;
208     pthread_mutex_init(&m_mutex, NULL);
209 }
210
211 decklink_input_callback::~decklink_input_callback()
212 {
213     pthread_mutex_destroy(&m_mutex);
214 }
215
216 ULONG decklink_input_callback::AddRef(void)
217 {
218     pthread_mutex_lock(&m_mutex);
219     m_refCount++;
220     pthread_mutex_unlock(&m_mutex);
221
222     return (ULONG)m_refCount;
223 }
224
225 ULONG decklink_input_callback::Release(void)
226 {
227     pthread_mutex_lock(&m_mutex);
228     m_refCount--;
229     pthread_mutex_unlock(&m_mutex);
230
231     if (m_refCount == 0) {
232         delete this;
233         return 0;
234     }
235
236     return (ULONG)m_refCount;
237 }
238
239 HRESULT decklink_input_callback::VideoInputFrameArrived(
240     IDeckLinkVideoInputFrame *videoFrame, IDeckLinkAudioInputPacket *audioFrame)
241 {
242     void *frameBytes;
243     void *audioFrameBytes;
244     BMDTimeValue frameTime;
245     BMDTimeValue frameDuration;
246
247     ctx->frameCount++;
248
249     // Handle Video Frame
250     if (videoFrame) {
251         AVPacket pkt;
252         av_init_packet(&pkt);
253         if (ctx->frameCount % 25 == 0) {
254             unsigned long long qsize = avpacket_queue_size(&ctx->queue);
255             av_log(avctx, AV_LOG_DEBUG,
256                     "Frame received (#%lu) - Valid (%liB) - QSize %fMB\n",
257                     ctx->frameCount,
258                     videoFrame->GetRowBytes() * videoFrame->GetHeight(),
259                     (double)qsize / 1024 / 1024);
260         }
261
262         videoFrame->GetBytes(&frameBytes);
263         videoFrame->GetStreamTime(&frameTime, &frameDuration,
264                                   ctx->video_st->time_base.den);
265
266         if (videoFrame->GetFlags() & bmdFrameHasNoInputSource) {
267             if (videoFrame->GetPixelFormat() == bmdFormat8BitYUV) {
268             unsigned bars[8] = {
269                 0xEA80EA80, 0xD292D210, 0xA910A9A5, 0x90229035,
270                 0x6ADD6ACA, 0x51EF515A, 0x286D28EF, 0x10801080 };
271             int width  = videoFrame->GetWidth();
272             int height = videoFrame->GetHeight();
273             unsigned *p = (unsigned *)frameBytes;
274
275             for (int y = 0; y < height; y++) {
276                 for (int x = 0; x < width; x += 2)
277                     *p++ = bars[(x * 8) / width];
278             }
279             }
280
281             if (!no_video) {
282                 av_log(avctx, AV_LOG_WARNING, "Frame received (#%lu) - No input signal detected "
283                         "- Frames dropped %u\n", ctx->frameCount, ++ctx->dropped);
284             }
285             no_video = 1;
286         } else {
287             if (no_video) {
288                 av_log(avctx, AV_LOG_WARNING, "Frame received (#%lu) - Input returned "
289                         "- Frames dropped %u\n", ctx->frameCount, ++ctx->dropped);
290             }
291             no_video = 0;
292         }
293
294         pkt.pts = frameTime / ctx->video_st->time_base.num;
295
296         if (initial_video_pts == AV_NOPTS_VALUE) {
297             initial_video_pts = pkt.pts;
298         }
299
300         pkt.pts -= initial_video_pts;
301         pkt.dts = pkt.pts;
302
303         pkt.duration = frameDuration;
304         //To be made sure it still applies
305         pkt.flags       |= AV_PKT_FLAG_KEY;
306         pkt.stream_index = ctx->video_st->index;
307         pkt.data         = (uint8_t *)frameBytes;
308         pkt.size         = videoFrame->GetRowBytes() *
309                            videoFrame->GetHeight();
310         //fprintf(stderr,"Video Frame size %d ts %d\n", pkt.size, pkt.pts);
311
312 #if CONFIG_LIBZVBI
313         if (!no_video && ctx->teletext_lines && videoFrame->GetPixelFormat() == bmdFormat8BitYUV && videoFrame->GetWidth() == 720) {
314             IDeckLinkVideoFrameAncillary *vanc;
315             AVPacket txt_pkt;
316             uint8_t txt_buf0[1611]; // max 35 * 46 bytes decoded teletext lines + 1 byte data_identifier
317             uint8_t *txt_buf = txt_buf0;
318
319             if (videoFrame->GetAncillaryData(&vanc) == S_OK) {
320                 int i;
321                 int64_t line_mask = 1;
322                 txt_buf[0] = 0x10;    // data_identifier - EBU_data
323                 txt_buf++;
324                 for (i = 6; i < 336; i++, line_mask <<= 1) {
325                     uint8_t *buf;
326                     if ((ctx->teletext_lines & line_mask) && vanc->GetBufferForVerticalBlankingLine(i, (void**)&buf) == S_OK) {
327                         if (teletext_data_unit_from_vbi_data(i, buf, txt_buf) >= 0)
328                             txt_buf += 46;
329                     }
330                     if (i == 22)
331                         i = 317;
332                 }
333                 vanc->Release();
334                 if (txt_buf - txt_buf0 > 1) {
335                     int stuffing_units = (4 - ((45 + txt_buf - txt_buf0) / 46) % 4) % 4;
336                     while (stuffing_units--) {
337                         memset(txt_buf, 0xff, 46);
338                         txt_buf[1] = 0x2c; // data_unit_length
339                         txt_buf += 46;
340                     }
341                     av_init_packet(&txt_pkt);
342                     txt_pkt.pts = pkt.pts;
343                     txt_pkt.dts = pkt.dts;
344                     txt_pkt.stream_index = ctx->teletext_st->index;
345                     txt_pkt.data = txt_buf0;
346                     txt_pkt.size = txt_buf - txt_buf0;
347                     if (avpacket_queue_put(&ctx->queue, &txt_pkt) < 0) {
348                         ++ctx->dropped;
349                     }
350                 }
351             }
352         }
353 #endif
354
355         if (avpacket_queue_put(&ctx->queue, &pkt) < 0) {
356             ++ctx->dropped;
357         }
358     }
359
360     // Handle Audio Frame
361     if (audioFrame) {
362         AVPacket pkt;
363         BMDTimeValue audio_pts;
364         av_init_packet(&pkt);
365
366         //hack among hacks
367         pkt.size = audioFrame->GetSampleFrameCount() * ctx->audio_st->codecpar->channels * (16 / 8);
368         audioFrame->GetBytes(&audioFrameBytes);
369         audioFrame->GetPacketTime(&audio_pts, ctx->audio_st->time_base.den);
370         pkt.pts = audio_pts / ctx->audio_st->time_base.num;
371
372         if (initial_audio_pts == AV_NOPTS_VALUE) {
373             initial_audio_pts = pkt.pts;
374         }
375
376         pkt.pts -= initial_audio_pts;
377         pkt.dts = pkt.pts;
378
379         //fprintf(stderr,"Audio Frame size %d ts %d\n", pkt.size, pkt.pts);
380         pkt.flags       |= AV_PKT_FLAG_KEY;
381         pkt.stream_index = ctx->audio_st->index;
382         pkt.data         = (uint8_t *)audioFrameBytes;
383
384         if (avpacket_queue_put(&ctx->queue, &pkt) < 0) {
385             ++ctx->dropped;
386         }
387     }
388
389     return S_OK;
390 }
391
392 HRESULT decklink_input_callback::VideoInputFormatChanged(
393     BMDVideoInputFormatChangedEvents events, IDeckLinkDisplayMode *mode,
394     BMDDetectedVideoInputFormatFlags)
395 {
396     return S_OK;
397 }
398
399 static HRESULT decklink_start_input(AVFormatContext *avctx)
400 {
401     struct decklink_cctx *cctx = (struct decklink_cctx *) avctx->priv_data;
402     struct decklink_ctx *ctx = (struct decklink_ctx *) cctx->ctx;
403
404     ctx->input_callback = new decklink_input_callback(avctx);
405     ctx->dli->SetCallback(ctx->input_callback);
406     return ctx->dli->StartStreams();
407 }
408
409 extern "C" {
410
411 av_cold int ff_decklink_read_close(AVFormatContext *avctx)
412 {
413     struct decklink_cctx *cctx = (struct decklink_cctx *) avctx->priv_data;
414     struct decklink_ctx *ctx = (struct decklink_ctx *) cctx->ctx;
415
416     if (ctx->capture_started) {
417         ctx->dli->StopStreams();
418         ctx->dli->DisableVideoInput();
419         ctx->dli->DisableAudioInput();
420     }
421
422     ff_decklink_cleanup(avctx);
423     avpacket_queue_end(&ctx->queue);
424
425     av_freep(&cctx->ctx);
426
427     return 0;
428 }
429
430 av_cold int ff_decklink_read_header(AVFormatContext *avctx)
431 {
432     struct decklink_cctx *cctx = (struct decklink_cctx *) avctx->priv_data;
433     struct decklink_ctx *ctx;
434     IDeckLinkIterator *iter;
435     IDeckLink *dl = NULL;
436     AVStream *st;
437     HRESULT result;
438     char fname[1024];
439     char *tmp;
440     int mode_num = 0;
441
442     ctx = (struct decklink_ctx *) av_mallocz(sizeof(struct decklink_ctx));
443     if (!ctx)
444         return AVERROR(ENOMEM);
445     ctx->list_devices = cctx->list_devices;
446     ctx->list_formats = cctx->list_formats;
447     ctx->teletext_lines = cctx->teletext_lines;
448     ctx->preroll      = cctx->preroll;
449     cctx->ctx = ctx;
450
451 #if !CONFIG_LIBZVBI
452     if (ctx->teletext_lines) {
453         av_log(avctx, AV_LOG_ERROR, "Libzvbi support is needed for capturing teletext, please recompile FFmpeg.\n");
454         return AVERROR(ENOSYS);
455     }
456 #endif
457
458     /* Check audio channel option for valid values: 2, 8 or 16 */
459     switch (cctx->audio_channels) {
460         case 2:
461         case 8:
462         case 16:
463             break;
464         default:
465             av_log(avctx, AV_LOG_ERROR, "Value of channels option must be one of 2, 8 or 16\n");
466             return AVERROR(EINVAL);
467     }
468
469     iter = CreateDeckLinkIteratorInstance();
470     if (!iter) {
471         av_log(avctx, AV_LOG_ERROR, "Could not create DeckLink iterator\n");
472         return AVERROR(EIO);
473     }
474
475     /* List available devices. */
476     if (ctx->list_devices) {
477         ff_decklink_list_devices(avctx);
478         return AVERROR_EXIT;
479     }
480
481     strcpy (fname, avctx->filename);
482     tmp=strchr (fname, '@');
483     if (tmp != NULL) {
484         mode_num = atoi (tmp+1);
485         *tmp = 0;
486     }
487
488     /* Open device. */
489     while (iter->Next(&dl) == S_OK) {
490         const char *displayName;
491         ff_decklink_get_display_name(dl, &displayName);
492         if (!strcmp(fname, displayName)) {
493             av_free((void *) displayName);
494             ctx->dl = dl;
495             break;
496         }
497         av_free((void *) displayName);
498         dl->Release();
499     }
500     iter->Release();
501     if (!ctx->dl) {
502         av_log(avctx, AV_LOG_ERROR, "Could not open '%s'\n", fname);
503         return AVERROR(EIO);
504     }
505
506     /* Get input device. */
507     if (ctx->dl->QueryInterface(IID_IDeckLinkInput, (void **) &ctx->dli) != S_OK) {
508         av_log(avctx, AV_LOG_ERROR, "Could not open output device from '%s'\n",
509                avctx->filename);
510         ctx->dl->Release();
511         return AVERROR(EIO);
512     }
513
514     /* List supported formats. */
515     if (ctx->list_formats) {
516         ff_decklink_list_formats(avctx, DIRECTION_IN);
517         ctx->dli->Release();
518         ctx->dl->Release();
519         return AVERROR_EXIT;
520     }
521
522     if (mode_num > 0) {
523         if (ff_decklink_set_format(avctx, DIRECTION_IN, mode_num) < 0) {
524             av_log(avctx, AV_LOG_ERROR, "Could not set mode %d for %s\n", mode_num, fname);
525             goto error;
526         }
527     }
528
529     /* Setup streams. */
530     st = avformat_new_stream(avctx, NULL);
531     if (!st) {
532         av_log(avctx, AV_LOG_ERROR, "Cannot add stream\n");
533         goto error;
534     }
535     st->codecpar->codec_type  = AVMEDIA_TYPE_AUDIO;
536     st->codecpar->codec_id    = AV_CODEC_ID_PCM_S16LE;
537     st->codecpar->sample_rate = bmdAudioSampleRate48kHz;
538     st->codecpar->channels    = cctx->audio_channels;
539     avpriv_set_pts_info(st, 64, 1, 1000000);  /* 64 bits pts in us */
540     ctx->audio_st=st;
541
542     st = avformat_new_stream(avctx, NULL);
543     if (!st) {
544         av_log(avctx, AV_LOG_ERROR, "Cannot add stream\n");
545         goto error;
546     }
547     st->codecpar->codec_type  = AVMEDIA_TYPE_VIDEO;
548     st->codecpar->width       = ctx->bmd_width;
549     st->codecpar->height      = ctx->bmd_height;
550
551     st->time_base.den      = ctx->bmd_tb_den;
552     st->time_base.num      = ctx->bmd_tb_num;
553
554     if (cctx->v210) {
555         st->codecpar->codec_id    = AV_CODEC_ID_V210;
556         st->codecpar->codec_tag   = MKTAG('V', '2', '1', '0');
557         st->codecpar->bit_rate    = av_rescale(ctx->bmd_width * ctx->bmd_height * 64, st->time_base.den, st->time_base.num * 3);
558     } else {
559         st->codecpar->codec_id    = AV_CODEC_ID_RAWVIDEO;
560         st->codecpar->format      = AV_PIX_FMT_UYVY422;
561         st->codecpar->codec_tag   = MKTAG('U', 'Y', 'V', 'Y');
562         st->codecpar->bit_rate    = av_rescale(ctx->bmd_width * ctx->bmd_height * 16, st->time_base.den, st->time_base.num);
563     }
564
565     avpriv_set_pts_info(st, 64, 1, 1000000);  /* 64 bits pts in us */
566
567     ctx->video_st=st;
568
569     if (ctx->teletext_lines) {
570         st = avformat_new_stream(avctx, NULL);
571         if (!st) {
572             av_log(avctx, AV_LOG_ERROR, "Cannot add stream\n");
573             goto error;
574         }
575         st->codecpar->codec_type  = AVMEDIA_TYPE_SUBTITLE;
576         st->time_base.den         = ctx->bmd_tb_den;
577         st->time_base.num         = ctx->bmd_tb_num;
578         st->codecpar->codec_id    = AV_CODEC_ID_DVB_TELETEXT;
579         avpriv_set_pts_info(st, 64, 1, 1000000);  /* 64 bits pts in us */
580         ctx->teletext_st = st;
581     }
582
583     av_log(avctx, AV_LOG_VERBOSE, "Using %d input audio channels\n", ctx->audio_st->codecpar->channels);
584     result = ctx->dli->EnableAudioInput(bmdAudioSampleRate48kHz, bmdAudioSampleType16bitInteger, ctx->audio_st->codecpar->channels);
585
586     if (result != S_OK) {
587         av_log(avctx, AV_LOG_ERROR, "Cannot enable audio input\n");
588         goto error;
589     }
590
591     result = ctx->dli->EnableVideoInput(ctx->bmd_mode,
592                                         cctx->v210 ? bmdFormat10BitYUV : bmdFormat8BitYUV,
593                                         bmdVideoInputFlagDefault);
594
595     if (result != S_OK) {
596         av_log(avctx, AV_LOG_ERROR, "Cannot enable video input\n");
597         goto error;
598     }
599
600     avpacket_queue_init (avctx, &ctx->queue);
601
602     if (decklink_start_input (avctx) != S_OK) {
603         av_log(avctx, AV_LOG_ERROR, "Cannot start input stream\n");
604         goto error;
605     }
606
607     return 0;
608
609 error:
610     ff_decklink_cleanup(avctx);
611     return AVERROR(EIO);
612 }
613
614 int ff_decklink_read_packet(AVFormatContext *avctx, AVPacket *pkt)
615 {
616     struct decklink_cctx *cctx = (struct decklink_cctx *) avctx->priv_data;
617     struct decklink_ctx *ctx = (struct decklink_ctx *) cctx->ctx;
618     AVFrame *frame = ctx->video_st->codec->coded_frame;
619
620     avpacket_queue_get(&ctx->queue, pkt, 1);
621     if (frame && (ctx->bmd_field_dominance == bmdUpperFieldFirst || ctx->bmd_field_dominance == bmdLowerFieldFirst)) {
622         frame->interlaced_frame = 1;
623         if (ctx->bmd_field_dominance == bmdUpperFieldFirst) {
624             frame->top_field_first = 1;
625         }
626     }
627
628     return 0;
629 }
630
631 } /* extern "C" */