lavc/aacsbr: fix make checkheaders warning
[ffmpeg.git] / libavcodec / nvenc.h
1 /*
2  * This file is part of FFmpeg.
3  *
4  * FFmpeg is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU Lesser General Public
6  * License as published by the Free Software Foundation; either
7  * version 2.1 of the License, or (at your option) any later version.
8  *
9  * FFmpeg is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
12  * Lesser General Public License for more details.
13  *
14  * You should have received a copy of the GNU Lesser General Public
15  * License along with FFmpeg; if not, write to the Free Software
16  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
17  */
18
19 #ifndef AVCODEC_NVENC_H
20 #define AVCODEC_NVENC_H
21
22 #include "config.h"
23
24 #if CONFIG_D3D11VA
25 #define COBJMACROS
26 #include "libavutil/hwcontext_d3d11va.h"
27 #else
28 typedef void ID3D11Device;
29 #endif
30
31 #include <ffnvcodec/nvEncodeAPI.h>
32
33 #include "compat/cuda/dynlink_loader.h"
34 #include "libavutil/fifo.h"
35 #include "libavutil/opt.h"
36
37 #include "avcodec.h"
38
39 #define MAX_REGISTERED_FRAMES 64
40 #define RC_MODE_DEPRECATED 0x800000
41 #define RCD(rc_mode) ((rc_mode) | RC_MODE_DEPRECATED)
42
43 #define NVENCAPI_CHECK_VERSION(major, minor) \
44     ((major) < NVENCAPI_MAJOR_VERSION || ((major) == NVENCAPI_MAJOR_VERSION && (minor) <= NVENCAPI_MINOR_VERSION))
45
46 // SDK 8.1 compile time feature checks
47 #if NVENCAPI_CHECK_VERSION(8, 1)
48 #define NVENC_HAVE_BFRAME_REF_MODE
49 #define NVENC_HAVE_QP_MAP_MODE
50 #endif
51
52 typedef struct NvencSurface
53 {
54     NV_ENC_INPUT_PTR input_surface;
55     AVFrame *in_ref;
56     int reg_idx;
57     int width;
58     int height;
59     int pitch;
60
61     NV_ENC_OUTPUT_PTR output_surface;
62     NV_ENC_BUFFER_FORMAT format;
63     int size;
64 } NvencSurface;
65
66 typedef struct NvencDynLoadFunctions
67 {
68     CudaFunctions *cuda_dl;
69     NvencFunctions *nvenc_dl;
70
71     NV_ENCODE_API_FUNCTION_LIST nvenc_funcs;
72     int nvenc_device_count;
73 } NvencDynLoadFunctions;
74
75 enum {
76     PRESET_DEFAULT = 0,
77     PRESET_SLOW,
78     PRESET_MEDIUM,
79     PRESET_FAST,
80     PRESET_HP,
81     PRESET_HQ,
82     PRESET_BD ,
83     PRESET_LOW_LATENCY_DEFAULT ,
84     PRESET_LOW_LATENCY_HQ ,
85     PRESET_LOW_LATENCY_HP,
86     PRESET_LOSSLESS_DEFAULT, // lossless presets must be the last ones
87     PRESET_LOSSLESS_HP,
88 };
89
90 enum {
91     NV_ENC_H264_PROFILE_BASELINE,
92     NV_ENC_H264_PROFILE_MAIN,
93     NV_ENC_H264_PROFILE_HIGH,
94     NV_ENC_H264_PROFILE_HIGH_444P,
95 };
96
97 enum {
98     NV_ENC_HEVC_PROFILE_MAIN,
99     NV_ENC_HEVC_PROFILE_MAIN_10,
100     NV_ENC_HEVC_PROFILE_REXT,
101 };
102
103 enum {
104     NVENC_LOWLATENCY = 1,
105     NVENC_LOSSLESS   = 2,
106     NVENC_ONE_PASS   = 4,
107     NVENC_TWO_PASSES = 8,
108 };
109
110 enum {
111     LIST_DEVICES = -2,
112     ANY_DEVICE,
113 };
114
115 typedef struct NvencContext
116 {
117     AVClass *avclass;
118
119     NvencDynLoadFunctions nvenc_dload_funcs;
120
121     NV_ENC_INITIALIZE_PARAMS init_encode_params;
122     NV_ENC_CONFIG encode_config;
123     CUcontext cu_context;
124     CUcontext cu_context_internal;
125     ID3D11Device *d3d11_device;
126
127     int nb_surfaces;
128     NvencSurface *surfaces;
129
130     AVFifoBuffer *unused_surface_queue;
131     AVFifoBuffer *output_surface_queue;
132     AVFifoBuffer *output_surface_ready_queue;
133     AVFifoBuffer *timestamp_list;
134
135     int encoder_flushing;
136
137     struct {
138         void *ptr;
139         int ptr_index;
140         NV_ENC_REGISTERED_PTR regptr;
141         int mapped;
142         NV_ENC_MAP_INPUT_RESOURCE in_map;
143     } registered_frames[MAX_REGISTERED_FRAMES];
144     int nb_registered_frames;
145
146     /* the actual data pixel format, different from
147      * AVCodecContext.pix_fmt when using hwaccel frames on input */
148     enum AVPixelFormat data_pix_fmt;
149
150     /* timestamps of the first two frames, for computing the first dts
151      * when B-frames are present */
152     int64_t initial_pts[2];
153     int first_packet_output;
154
155     int support_dyn_bitrate;
156
157     void *nvencoder;
158
159     int preset;
160     int profile;
161     int level;
162     int tier;
163     int rc;
164     int cbr;
165     int twopass;
166     int device;
167     int flags;
168     int async_depth;
169     int rc_lookahead;
170     int aq;
171     int no_scenecut;
172     int forced_idr;
173     int b_adapt;
174     int temporal_aq;
175     int zerolatency;
176     int nonref_p;
177     int strict_gop;
178     int aq_strength;
179     float quality;
180     int aud;
181     int bluray_compat;
182     int init_qp_p;
183     int init_qp_b;
184     int init_qp_i;
185     int cqp;
186     int weighted_pred;
187     int coder;
188     int b_ref_mode;
189 } NvencContext;
190
191 int ff_nvenc_encode_init(AVCodecContext *avctx);
192
193 int ff_nvenc_encode_close(AVCodecContext *avctx);
194
195 int ff_nvenc_send_frame(AVCodecContext *avctx, const AVFrame *frame);
196
197 int ff_nvenc_receive_packet(AVCodecContext *avctx, AVPacket *pkt);
198
199 int ff_nvenc_encode_frame(AVCodecContext *avctx, AVPacket *pkt,
200                           const AVFrame *frame, int *got_packet);
201
202 extern const enum AVPixelFormat ff_nvenc_pix_fmts[];
203
204 #endif /* AVCODEC_NVENC_H */