avcodec: Implement mpeg2 nvdec hwaccel
[ffmpeg.git] / libavcodec / nvdec_mpeg12.c
1 /*
2  * MPEG-2 HW decode acceleration through NVDEC
3  *
4  * Copyright (c) 2017 Philip Langdale
5  *
6  * This file is part of FFmpeg.
7  *
8  * FFmpeg is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * FFmpeg is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with FFmpeg; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 #include "avcodec.h"
24 #include "mpegvideo.h"
25 #include "nvdec.h"
26 #include "decode.h"
27
28 static int get_ref_idx(AVFrame *frame)
29 {
30     FrameDecodeData *fdd;
31     NVDECFrame *cf;
32
33     if (!frame || !frame->private_ref)
34         return -1;
35
36     fdd = (FrameDecodeData*)frame->private_ref->data;
37     cf  = (NVDECFrame*)fdd->hwaccel_priv;
38     if (!cf)
39         return -1;
40
41     return cf->idx;
42 }
43
44 static int nvdec_mpeg12_start_frame(AVCodecContext *avctx, const uint8_t *buffer, uint32_t size)
45 {
46     MpegEncContext *s = avctx->priv_data;
47
48     NVDECContext      *ctx = avctx->internal->hwaccel_priv_data;
49     CUVIDPICPARAMS     *pp = &ctx->pic_params;
50     CUVIDMPEG2PICPARAMS *ppc = &pp->CodecSpecific.mpeg2;
51     FrameDecodeData *fdd;
52     NVDECFrame *cf;
53     AVFrame *cur_frame = s->current_picture.f;
54
55     int ret, i;
56
57     ret = ff_nvdec_start_frame(avctx, cur_frame);
58     if (ret < 0)
59         return ret;
60
61     fdd = (FrameDecodeData*)cur_frame->private_ref->data;
62     cf  = (NVDECFrame*)fdd->hwaccel_priv;
63
64     *pp = (CUVIDPICPARAMS) {
65         .PicWidthInMbs     = (cur_frame->width  + 15) / 16,
66         .FrameHeightInMbs  = (cur_frame->height + 15) / 16,
67         .CurrPicIdx        = cf->idx,
68
69         .intra_pic_flag    = s->pict_type == AV_PICTURE_TYPE_I,
70         .ref_pic_flag      = s->pict_type == AV_PICTURE_TYPE_I ||
71                              s->pict_type == AV_PICTURE_TYPE_P,
72
73         .CodecSpecific.mpeg2 = {
74             .ForwardRefIdx     = get_ref_idx(s->last_picture.f),
75             .BackwardRefIdx    = get_ref_idx(s->next_picture.f),
76
77             .picture_coding_type        = s->pict_type,
78             .full_pel_forward_vector    = s->full_pel[0],
79             .full_pel_backward_vector   = s->full_pel[1],
80             .f_code                     = { { s->mpeg_f_code[0][0],
81                                               s->mpeg_f_code[0][1] },
82                                             { s->mpeg_f_code[1][0],
83                                               s->mpeg_f_code[1][1] } },
84             .intra_dc_precision         = s->intra_dc_precision,
85             .frame_pred_frame_dct       = s->frame_pred_frame_dct,
86             .concealment_motion_vectors = s->concealment_motion_vectors,
87             .q_scale_type               = s->q_scale_type,
88             .intra_vlc_format           = s->intra_vlc_format,
89             .alternate_scan             = s->alternate_scan,
90             .top_field_first            = s->top_field_first,
91         }
92     };
93
94     for (i = 0; i < 64; ++i) {
95         ppc->QuantMatrixIntra[i] = s->intra_matrix[i];
96         ppc->QuantMatrixInter[i] = s->inter_matrix[i];
97     }
98
99     return 0;
100 }
101
102 static int nvdec_mpeg12_end_frame(AVCodecContext *avctx)
103 {
104     NVDECContext *ctx = avctx->internal->hwaccel_priv_data;
105     int ret = ff_nvdec_end_frame(avctx);
106     ctx->bitstream = NULL;
107     return ret;
108 }
109
110 static int nvdec_mpeg12_decode_slice(AVCodecContext *avctx, const uint8_t *buffer, uint32_t size)
111 {
112     NVDECContext *ctx = avctx->internal->hwaccel_priv_data;
113     void *tmp;
114
115     tmp = av_fast_realloc(ctx->slice_offsets, &ctx->slice_offsets_allocated,
116                           (ctx->nb_slices + 1) * sizeof(*ctx->slice_offsets));
117     if (!tmp)
118         return AVERROR(ENOMEM);
119     ctx->slice_offsets = tmp;
120
121     if (!ctx->bitstream)
122         ctx->bitstream = (uint8_t*)buffer;
123
124     ctx->slice_offsets[ctx->nb_slices] = buffer - ctx->bitstream;
125     ctx->bitstream_len += size;
126     ctx->nb_slices++;
127
128     return 0;
129 }
130
131 static int nvdec_mpeg12_frame_params(AVCodecContext *avctx,
132                                   AVBufferRef *hw_frames_ctx)
133 {
134     // Each frame can at most have one P and one B reference
135     return ff_nvdec_frame_params(avctx, hw_frames_ctx, 2);
136 }
137
138 #if CONFIG_MPEG2_NVDEC_HWACCEL
139 AVHWAccel ff_mpeg2_nvdec_hwaccel = {
140     .name                 = "mpeg2_nvdec",
141     .type                 = AVMEDIA_TYPE_VIDEO,
142     .id                   = AV_CODEC_ID_MPEG2VIDEO,
143     .pix_fmt              = AV_PIX_FMT_CUDA,
144     .start_frame          = nvdec_mpeg12_start_frame,
145     .end_frame            = nvdec_mpeg12_end_frame,
146     .decode_slice         = nvdec_mpeg12_decode_slice,
147     .frame_params         = nvdec_mpeg12_frame_params,
148     .init                 = ff_nvdec_decode_init,
149     .uninit               = ff_nvdec_decode_uninit,
150     .priv_data_size       = sizeof(NVDECContext),
151 };
152 #endif