Set context variable key_frame in H264 parser.
[ffmpeg.git] / libavcodec / h264_parser.c
1 /*
2  * H.26L/H.264/AVC/JVT/14496-10/... parser
3  * Copyright (c) 2003 Michael Niedermayer <michaelni@gmx.at>
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file libavcodec/h264_parser.c
24  * H.264 / AVC / MPEG4 part10 parser.
25  * @author Michael Niedermayer <michaelni@gmx.at>
26  */
27
28 #include "parser.h"
29 #include "h264_parser.h"
30 #include "h264data.h"
31 #include "golomb.h"
32
33 #include <assert.h>
34
35
36 int ff_h264_find_frame_end(H264Context *h, const uint8_t *buf, int buf_size)
37 {
38     int i;
39     uint32_t state;
40     ParseContext *pc = &(h->s.parse_context);
41 //printf("first %02X%02X%02X%02X\n", buf[0], buf[1],buf[2],buf[3]);
42 //    mb_addr= pc->mb_addr - 1;
43     state= pc->state;
44     if(state>13)
45         state= 7;
46
47     for(i=0; i<buf_size; i++){
48         if(state==7){
49 #if HAVE_FAST_UNALIGNED
50         /* we check i<buf_size instead of i+3/7 because its simpler
51          * and there should be FF_INPUT_BUFFER_PADDING_SIZE bytes at the end
52          */
53 #    if HAVE_FAST_64BIT
54             while(i<buf_size && !((~*(const uint64_t*)(buf+i) & (*(const uint64_t*)(buf+i) - 0x0101010101010101ULL)) & 0x8080808080808080ULL))
55                 i+=8;
56 #    else
57             while(i<buf_size && !((~*(const uint32_t*)(buf+i) & (*(const uint32_t*)(buf+i) - 0x01010101U)) & 0x80808080U))
58                 i+=4;
59 #    endif
60 #endif
61             for(; i<buf_size; i++){
62                 if(!buf[i]){
63                     state=2;
64                     break;
65                 }
66             }
67         }else if(state<=2){
68             if(buf[i]==1)   state^= 5; //2->7, 1->4, 0->5
69             else if(buf[i]) state = 7;
70             else            state>>=1; //2->1, 1->0, 0->0
71         }else if(state<=5){
72             int v= buf[i] & 0x1F;
73             if(v==7 || v==8 || v==9){
74                 if(pc->frame_start_found){
75                     i++;
76                     goto found;
77                 }
78             }else if(v==1 || v==2 || v==5){
79                 if(pc->frame_start_found){
80                     state+=8;
81                     continue;
82                 }else
83                     pc->frame_start_found = 1;
84             }
85             state= 7;
86         }else{
87             if(buf[i] & 0x80)
88                 goto found;
89             state= 7;
90         }
91     }
92     pc->state= state;
93     return END_NOT_FOUND;
94
95 found:
96     pc->state=7;
97     pc->frame_start_found= 0;
98     return i-(state&5);
99 }
100
101 /*!
102  * Parse NAL units of found picture and decode some basic information.
103  *
104  * @param s parser context.
105  * @param avctx codec context.
106  * @param buf buffer with field/frame data.
107  * @param buf_size size of the buffer.
108  */
109 static inline int parse_nal_units(AVCodecParserContext *s,
110                                   AVCodecContext *avctx,
111                                   const uint8_t *buf, int buf_size)
112 {
113     H264Context *h = s->priv_data;
114     const uint8_t *buf_end = buf + buf_size;
115     unsigned int slice_type;
116     int state;
117     const uint8_t *ptr;
118
119     /* set some sane default values */
120     s->pict_type = FF_I_TYPE;
121     s->key_frame = 0;
122
123     h->s.avctx= avctx;
124     h->sei_recovery_frame_cnt = -1;
125
126     for(;;) {
127         int src_length, dst_length, consumed;
128         buf = ff_find_start_code(buf, buf_end, &state);
129         if(buf >= buf_end)
130             break;
131         --buf;
132         src_length = buf_end - buf;
133         switch (state & 0x1f) {
134         case NAL_SLICE:
135         case NAL_IDR_SLICE:
136             // Do not walk the whole buffer just to decode slice header
137             if (src_length > 20)
138                 src_length = 20;
139             break;
140         }
141         ptr= ff_h264_decode_nal(h, buf, &dst_length, &consumed, src_length);
142         if (ptr==NULL || dst_length < 0)
143             break;
144
145         init_get_bits(&h->s.gb, ptr, 8*dst_length);
146         switch(h->nal_unit_type) {
147         case NAL_SPS:
148             ff_h264_decode_seq_parameter_set(h);
149             break;
150         case NAL_PPS:
151             ff_h264_decode_picture_parameter_set(h, h->s.gb.size_in_bits);
152             break;
153         case NAL_SEI:
154             ff_h264_decode_sei(h);
155             break;
156         case NAL_IDR_SLICE:
157             s->key_frame = 1;
158             /* fall through */
159         case NAL_SLICE:
160             get_ue_golomb(&h->s.gb);  // skip first_mb_in_slice
161             slice_type = get_ue_golomb_31(&h->s.gb);
162             s->pict_type = golomb_to_pict_type[slice_type % 5];
163             if (h->sei_recovery_frame_cnt >= 0) {
164                 /* key frame, since recovery_frame_cnt is set */
165                 s->key_frame = 1;
166             }
167             return 0; /* no need to evaluate the rest */
168         }
169         buf += consumed;
170     }
171     /* didn't find a picture! */
172     av_log(h->s.avctx, AV_LOG_ERROR, "missing picture in access unit\n");
173     return -1;
174 }
175
176 static int h264_parse(AVCodecParserContext *s,
177                       AVCodecContext *avctx,
178                       const uint8_t **poutbuf, int *poutbuf_size,
179                       const uint8_t *buf, int buf_size)
180 {
181     H264Context *h = s->priv_data;
182     ParseContext *pc = &h->s.parse_context;
183     int next;
184
185     if(s->flags & PARSER_FLAG_COMPLETE_FRAMES){
186         next= buf_size;
187     }else{
188         next= ff_h264_find_frame_end(h, buf, buf_size);
189
190         if (ff_combine_frame(pc, next, &buf, &buf_size) < 0) {
191             *poutbuf = NULL;
192             *poutbuf_size = 0;
193             return buf_size;
194         }
195
196         if(next<0 && next != END_NOT_FOUND){
197             assert(pc->last_index + next >= 0 );
198             ff_h264_find_frame_end(h, &pc->buffer[pc->last_index + next], -next); //update state
199         }
200
201         parse_nal_units(s, avctx, buf, buf_size);
202     }
203
204     *poutbuf = buf;
205     *poutbuf_size = buf_size;
206     return next;
207 }
208
209 static int h264_split(AVCodecContext *avctx,
210                       const uint8_t *buf, int buf_size)
211 {
212     int i;
213     uint32_t state = -1;
214     int has_sps= 0;
215
216     for(i=0; i<=buf_size; i++){
217         if((state&0xFFFFFF1F) == 0x107)
218             has_sps=1;
219 /*        if((state&0xFFFFFF1F) == 0x101 || (state&0xFFFFFF1F) == 0x102 || (state&0xFFFFFF1F) == 0x105){
220         }*/
221         if((state&0xFFFFFF00) == 0x100 && (state&0xFFFFFF1F) != 0x107 && (state&0xFFFFFF1F) != 0x108 && (state&0xFFFFFF1F) != 0x109){
222             if(has_sps){
223                 while(i>4 && buf[i-5]==0) i--;
224                 return i-4;
225             }
226         }
227         if (i<buf_size)
228             state= (state<<8) | buf[i];
229     }
230     return 0;
231 }
232
233 static void close(AVCodecParserContext *s)
234 {
235     H264Context *h = s->priv_data;
236     ParseContext *pc = &h->s.parse_context;
237
238     av_free(pc->buffer);
239 }
240
241
242 AVCodecParser h264_parser = {
243     { CODEC_ID_H264 },
244     sizeof(H264Context),
245     NULL,
246     h264_parse,
247     close,
248     h264_split,
249 };