avfilter/vf_normalize: add support for >8 depth
[ffmpeg.git] / libavformat / avc.c
1 /*
2  * AVC helper functions for muxers
3  * Copyright (c) 2006 Baptiste Coudurier <baptiste.coudurier@smartjog.com>
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "libavutil/intreadwrite.h"
23 #include "libavcodec/h264.h"
24 #include "libavcodec/get_bits.h"
25 #include "avformat.h"
26 #include "avio.h"
27 #include "avc.h"
28 #include "avio_internal.h"
29
30 static const uint8_t *ff_avc_find_startcode_internal(const uint8_t *p, const uint8_t *end)
31 {
32     const uint8_t *a = p + 4 - ((intptr_t)p & 3);
33
34     for (end -= 3; p < a && p < end; p++) {
35         if (p[0] == 0 && p[1] == 0 && p[2] == 1)
36             return p;
37     }
38
39     for (end -= 3; p < end; p += 4) {
40         uint32_t x = *(const uint32_t*)p;
41 //      if ((x - 0x01000100) & (~x) & 0x80008000) // little endian
42 //      if ((x - 0x00010001) & (~x) & 0x00800080) // big endian
43         if ((x - 0x01010101) & (~x) & 0x80808080) { // generic
44             if (p[1] == 0) {
45                 if (p[0] == 0 && p[2] == 1)
46                     return p;
47                 if (p[2] == 0 && p[3] == 1)
48                     return p+1;
49             }
50             if (p[3] == 0) {
51                 if (p[2] == 0 && p[4] == 1)
52                     return p+2;
53                 if (p[4] == 0 && p[5] == 1)
54                     return p+3;
55             }
56         }
57     }
58
59     for (end += 3; p < end; p++) {
60         if (p[0] == 0 && p[1] == 0 && p[2] == 1)
61             return p;
62     }
63
64     return end + 3;
65 }
66
67 const uint8_t *ff_avc_find_startcode(const uint8_t *p, const uint8_t *end){
68     const uint8_t *out= ff_avc_find_startcode_internal(p, end);
69     if(p<out && out<end && !out[-1]) out--;
70     return out;
71 }
72
73 int ff_avc_parse_nal_units(AVIOContext *pb, const uint8_t *buf_in, int size)
74 {
75     const uint8_t *p = buf_in;
76     const uint8_t *end = p + size;
77     const uint8_t *nal_start, *nal_end;
78
79     size = 0;
80     nal_start = ff_avc_find_startcode(p, end);
81     for (;;) {
82         while (nal_start < end && !*(nal_start++));
83         if (nal_start == end)
84             break;
85
86         nal_end = ff_avc_find_startcode(nal_start, end);
87         avio_wb32(pb, nal_end - nal_start);
88         avio_write(pb, nal_start, nal_end - nal_start);
89         size += 4 + nal_end - nal_start;
90         nal_start = nal_end;
91     }
92     return size;
93 }
94
95 int ff_avc_parse_nal_units_buf(const uint8_t *buf_in, uint8_t **buf, int *size)
96 {
97     AVIOContext *pb;
98     int ret = avio_open_dyn_buf(&pb);
99     if(ret < 0)
100         return ret;
101
102     ff_avc_parse_nal_units(pb, buf_in, *size);
103
104     av_freep(buf);
105     *size = avio_close_dyn_buf(pb, buf);
106     return 0;
107 }
108
109 int ff_isom_write_avcc(AVIOContext *pb, const uint8_t *data, int len)
110 {
111     AVIOContext *sps_pb = NULL, *pps_pb = NULL, *sps_ext_pb = NULL;
112     uint8_t *buf = NULL, *end, *start = NULL;
113     uint8_t *sps, *pps, *sps_ext;
114     uint32_t sps_size = 0, pps_size = 0, sps_ext_size = 0;
115     int ret, nb_sps = 0, nb_pps = 0, nb_sps_ext = 0;
116
117     if (len <= 6)
118         return AVERROR_INVALIDDATA;
119
120     /* check for H.264 start code */
121     if (AV_RB32(data) != 0x00000001 &&
122         AV_RB24(data) != 0x000001) {
123         avio_write(pb, data, len);
124         return 0;
125     }
126
127     ret = ff_avc_parse_nal_units_buf(data, &buf, &len);
128     if (ret < 0)
129         return ret;
130     start = buf;
131     end = buf + len;
132
133     ret = avio_open_dyn_buf(&sps_pb);
134     if (ret < 0)
135         goto fail;
136     ret = avio_open_dyn_buf(&pps_pb);
137     if (ret < 0)
138         goto fail;
139     ret = avio_open_dyn_buf(&sps_ext_pb);
140     if (ret < 0)
141         goto fail;
142
143     /* look for sps and pps */
144     while (end - buf > 4) {
145         uint32_t size;
146         uint8_t nal_type;
147         size = FFMIN(AV_RB32(buf), end - buf - 4);
148         buf += 4;
149         nal_type = buf[0] & 0x1f;
150
151         if (nal_type == 7) { /* SPS */
152             nb_sps++;
153             if (size > UINT16_MAX || nb_sps >= H264_MAX_SPS_COUNT) {
154                 ret = AVERROR_INVALIDDATA;
155                 goto fail;
156             }
157             avio_wb16(sps_pb, size);
158             avio_write(sps_pb, buf, size);
159         } else if (nal_type == 8) { /* PPS */
160             nb_pps++;
161             if (size > UINT16_MAX || nb_pps >= H264_MAX_PPS_COUNT) {
162                 ret = AVERROR_INVALIDDATA;
163                 goto fail;
164             }
165             avio_wb16(pps_pb, size);
166             avio_write(pps_pb, buf, size);
167         } else if (nal_type == 13) { /* SPS_EXT */
168             nb_sps_ext++;
169             if (size > UINT16_MAX || nb_sps_ext >= 256) {
170                 ret = AVERROR_INVALIDDATA;
171                 goto fail;
172             }
173             avio_wb16(sps_ext_pb, size);
174             avio_write(sps_ext_pb, buf, size);
175         }
176
177         buf += size;
178     }
179     sps_size = avio_get_dyn_buf(sps_pb, &sps);
180     pps_size = avio_get_dyn_buf(pps_pb, &pps);
181     sps_ext_size = avio_get_dyn_buf(sps_ext_pb, &sps_ext);
182
183     if (sps_size < 6 || !pps_size) {
184         ret = AVERROR_INVALIDDATA;
185         goto fail;
186     }
187
188     avio_w8(pb, 1); /* version */
189     avio_w8(pb, sps[3]); /* profile */
190     avio_w8(pb, sps[4]); /* profile compat */
191     avio_w8(pb, sps[5]); /* level */
192     avio_w8(pb, 0xff); /* 6 bits reserved (111111) + 2 bits nal size length - 1 (11) */
193     avio_w8(pb, 0xe0 | nb_sps); /* 3 bits reserved (111) + 5 bits number of sps */
194
195     avio_write(pb, sps, sps_size);
196     avio_w8(pb, nb_pps); /* number of pps */
197     avio_write(pb, pps, pps_size);
198
199     if (sps[3] != 66 && sps[3] != 77 && sps[3] != 88) {
200         H264SequenceParameterSet *seq = ff_avc_decode_sps(sps + 3, sps_size - 3);
201         if (!seq) {
202             ret = AVERROR(ENOMEM);
203             goto fail;
204         }
205         avio_w8(pb, 0xfc | seq->chroma_format_idc); /* 6 bits reserved (111111) + chroma_format_idc */
206         avio_w8(pb, 0xf8 | (seq->bit_depth_luma - 8)); /* 5 bits reserved (11111) + bit_depth_luma_minus8 */
207         avio_w8(pb, 0xf8 | (seq->bit_depth_chroma - 8)); /* 5 bits reserved (11111) + bit_depth_chroma_minus8 */
208         avio_w8(pb, nb_sps_ext); /* number of sps ext */
209         if (nb_sps_ext)
210             avio_write(pb, sps_ext, sps_ext_size);
211         av_free(seq);
212     }
213
214 fail:
215     ffio_free_dyn_buf(&sps_pb);
216     ffio_free_dyn_buf(&pps_pb);
217     ffio_free_dyn_buf(&sps_ext_pb);
218     av_free(start);
219
220     return ret;
221 }
222
223 int ff_avc_write_annexb_extradata(const uint8_t *in, uint8_t **buf, int *size)
224 {
225     uint16_t sps_size, pps_size;
226     uint8_t *out;
227     int out_size;
228
229     *buf = NULL;
230     if (*size >= 4 && (AV_RB32(in) == 0x00000001 || AV_RB24(in) == 0x000001))
231         return 0;
232     if (*size < 11 || in[0] != 1)
233         return AVERROR_INVALIDDATA;
234
235     sps_size = AV_RB16(&in[6]);
236     if (11 + sps_size > *size)
237         return AVERROR_INVALIDDATA;
238     pps_size = AV_RB16(&in[9 + sps_size]);
239     if (11 + sps_size + pps_size > *size)
240         return AVERROR_INVALIDDATA;
241     out_size = 8 + sps_size + pps_size;
242     out = av_mallocz(out_size + AV_INPUT_BUFFER_PADDING_SIZE);
243     if (!out)
244         return AVERROR(ENOMEM);
245     AV_WB32(&out[0], 0x00000001);
246     memcpy(out + 4, &in[8], sps_size);
247     AV_WB32(&out[4 + sps_size], 0x00000001);
248     memcpy(out + 8 + sps_size, &in[11 + sps_size], pps_size);
249     *buf = out;
250     *size = out_size;
251     return 0;
252 }
253
254 const uint8_t *ff_avc_mp4_find_startcode(const uint8_t *start,
255                                          const uint8_t *end,
256                                          int nal_length_size)
257 {
258     unsigned int res = 0;
259
260     if (end - start < nal_length_size)
261         return NULL;
262     while (nal_length_size--)
263         res = (res << 8) | *start++;
264
265     if (res > end - start)
266         return NULL;
267
268     return start + res;
269 }
270
271 uint8_t *ff_nal_unit_extract_rbsp(const uint8_t *src, uint32_t src_len,
272                                   uint32_t *dst_len, int header_len)
273 {
274     uint8_t *dst;
275     uint32_t i, len;
276
277     dst = av_malloc(src_len + AV_INPUT_BUFFER_PADDING_SIZE);
278     if (!dst)
279         return NULL;
280
281     /* NAL unit header */
282     i = len = 0;
283     while (i < header_len && i < src_len)
284         dst[len++] = src[i++];
285
286     while (i + 2 < src_len)
287         if (!src[i] && !src[i + 1] && src[i + 2] == 3) {
288             dst[len++] = src[i++];
289             dst[len++] = src[i++];
290             i++; // remove emulation_prevention_three_byte
291         } else
292             dst[len++] = src[i++];
293
294     while (i < src_len)
295         dst[len++] = src[i++];
296
297     memset(dst + len, 0, AV_INPUT_BUFFER_PADDING_SIZE);
298
299     *dst_len = len;
300     return dst;
301 }
302
303 static const AVRational avc_sample_aspect_ratio[17] = {
304     {   0,  1 },
305     {   1,  1 },
306     {  12, 11 },
307     {  10, 11 },
308     {  16, 11 },
309     {  40, 33 },
310     {  24, 11 },
311     {  20, 11 },
312     {  32, 11 },
313     {  80, 33 },
314     {  18, 11 },
315     {  15, 11 },
316     {  64, 33 },
317     { 160, 99 },
318     {   4,  3 },
319     {   3,  2 },
320     {   2,  1 },
321 };
322
323 static inline int get_ue_golomb(GetBitContext *gb) {
324     int i;
325     for (i = 0; i < 32 && !get_bits1(gb); i++)
326         ;
327     return get_bitsz(gb, i) + (1 << i) - 1;
328 }
329
330 static inline int get_se_golomb(GetBitContext *gb) {
331     int v = get_ue_golomb(gb) + 1;
332     int sign = -(v & 1);
333     return ((v >> 1) ^ sign) - sign;
334 }
335
336 H264SequenceParameterSet *ff_avc_decode_sps(const uint8_t *buf, int buf_size)
337 {
338     int i, j, ret, rbsp_size, aspect_ratio_idc, pic_order_cnt_type;
339     int num_ref_frames_in_pic_order_cnt_cycle;
340     int delta_scale, lastScale = 8, nextScale = 8;
341     int sizeOfScalingList;
342     H264SequenceParameterSet *sps = NULL;
343     GetBitContext gb;
344     uint8_t *rbsp_buf;
345
346     rbsp_buf = ff_nal_unit_extract_rbsp(buf, buf_size, &rbsp_size, 0);
347     if (!rbsp_buf)
348         return NULL;
349
350     ret = init_get_bits8(&gb, rbsp_buf, rbsp_size);
351     if (ret < 0)
352         goto end;
353
354     sps = av_mallocz(sizeof(*sps));
355     if (!sps)
356         goto end;
357
358     sps->profile_idc = get_bits(&gb, 8);
359     sps->constraint_set_flags |= get_bits1(&gb) << 0; // constraint_set0_flag
360     sps->constraint_set_flags |= get_bits1(&gb) << 1; // constraint_set1_flag
361     sps->constraint_set_flags |= get_bits1(&gb) << 2; // constraint_set2_flag
362     sps->constraint_set_flags |= get_bits1(&gb) << 3; // constraint_set3_flag
363     sps->constraint_set_flags |= get_bits1(&gb) << 4; // constraint_set4_flag
364     sps->constraint_set_flags |= get_bits1(&gb) << 5; // constraint_set5_flag
365     skip_bits(&gb, 2); // reserved_zero_2bits
366     sps->level_idc = get_bits(&gb, 8);
367     sps->id = get_ue_golomb(&gb);
368
369     if (sps->profile_idc == 100 || sps->profile_idc == 110 ||
370         sps->profile_idc == 122 || sps->profile_idc == 244 || sps->profile_idc ==  44 ||
371         sps->profile_idc ==  83 || sps->profile_idc ==  86 || sps->profile_idc == 118 ||
372         sps->profile_idc == 128 || sps->profile_idc == 138 || sps->profile_idc == 139 ||
373         sps->profile_idc == 134) {
374         sps->chroma_format_idc = get_ue_golomb(&gb); // chroma_format_idc
375         if (sps->chroma_format_idc == 3) {
376             skip_bits1(&gb); // separate_colour_plane_flag
377         }
378         sps->bit_depth_luma = get_ue_golomb(&gb) + 8;
379         sps->bit_depth_chroma = get_ue_golomb(&gb) + 8;
380         skip_bits1(&gb); // qpprime_y_zero_transform_bypass_flag
381         if (get_bits1(&gb)) { // seq_scaling_matrix_present_flag
382             for (i = 0; i < ((sps->chroma_format_idc != 3) ? 8 : 12); i++) {
383                 if (!get_bits1(&gb)) // seq_scaling_list_present_flag
384                     continue;
385                 lastScale = 8;
386                 nextScale = 8;
387                 sizeOfScalingList = i < 6 ? 16 : 64;
388                 for (j = 0; j < sizeOfScalingList; j++) {
389                     if (nextScale != 0) {
390                         delta_scale = get_se_golomb(&gb);
391                         nextScale = (lastScale + delta_scale) & 0xff;
392                     }
393                     lastScale = nextScale == 0 ? lastScale : nextScale;
394                 }
395             }
396         }
397     } else {
398         sps->chroma_format_idc = 1;
399         sps->bit_depth_luma = 8;
400         sps->bit_depth_chroma = 8;
401     }
402
403     get_ue_golomb(&gb); // log2_max_frame_num_minus4
404     pic_order_cnt_type = get_ue_golomb(&gb);
405
406     if (pic_order_cnt_type == 0) {
407         get_ue_golomb(&gb); // log2_max_pic_order_cnt_lsb_minus4
408     } else if (pic_order_cnt_type == 1) {
409         skip_bits1(&gb);    // delta_pic_order_always_zero
410         get_se_golomb(&gb); // offset_for_non_ref_pic
411         get_se_golomb(&gb); // offset_for_top_to_bottom_field
412         num_ref_frames_in_pic_order_cnt_cycle = get_ue_golomb(&gb);
413         for (i = 0; i < num_ref_frames_in_pic_order_cnt_cycle; i++)
414             get_se_golomb(&gb); // offset_for_ref_frame
415     }
416
417     get_ue_golomb(&gb); // max_num_ref_frames
418     skip_bits1(&gb); // gaps_in_frame_num_value_allowed_flag
419     get_ue_golomb(&gb); // pic_width_in_mbs_minus1
420     get_ue_golomb(&gb); // pic_height_in_map_units_minus1
421
422     sps->frame_mbs_only_flag = get_bits1(&gb);
423     if (!sps->frame_mbs_only_flag)
424         skip_bits1(&gb); // mb_adaptive_frame_field_flag
425
426     skip_bits1(&gb); // direct_8x8_inference_flag
427
428     if (get_bits1(&gb)) { // frame_cropping_flag
429         get_ue_golomb(&gb); // frame_crop_left_offset
430         get_ue_golomb(&gb); // frame_crop_right_offset
431         get_ue_golomb(&gb); // frame_crop_top_offset
432         get_ue_golomb(&gb); // frame_crop_bottom_offset
433     }
434
435     if (get_bits1(&gb)) { // vui_parameters_present_flag
436         if (get_bits1(&gb)) { // aspect_ratio_info_present_flag
437             aspect_ratio_idc = get_bits(&gb, 8);
438             if (aspect_ratio_idc == 0xff) {
439                 sps->sar.num = get_bits(&gb, 16);
440                 sps->sar.den = get_bits(&gb, 16);
441             } else if (aspect_ratio_idc < FF_ARRAY_ELEMS(avc_sample_aspect_ratio)) {
442                 sps->sar = avc_sample_aspect_ratio[aspect_ratio_idc];
443             }
444         }
445     }
446
447     if (!sps->sar.den) {
448         sps->sar.num = 1;
449         sps->sar.den = 1;
450     }
451
452  end:
453     av_free(rbsp_buf);
454     return sps;
455 }