avformat/m4vdec: Fix detection of raw MPEG-4 ES Studio
[ffmpeg.git] / libavformat / m4vdec.c
1 /*
2  * RAW MPEG-4 video demuxer
3  * Copyright (c) 2006  Thijs Vermeir <thijs.vermeir@barco.com>
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "avformat.h"
23 #include "rawdec.h"
24
25 #define VISUAL_OBJECT_START_CODE       0x000001b5
26 #define VOP_START_CODE                 0x000001b6
27 #define SLICE_STARTCODE      0x1B7
28 #define EXT_STARTCODE        0x1B8
29
30 static int mpeg4video_probe(AVProbeData *probe_packet)
31 {
32     uint32_t temp_buffer = -1;
33     int VO = 0, VOL = 0, VOP = 0, VISO = 0, res = 0;
34     int res_main = 0;
35     int i;
36
37     for (i = 0; i < probe_packet->buf_size; i++) {
38         temp_buffer = (temp_buffer << 8) + probe_packet->buf[i];
39         if (temp_buffer & 0xfffffe00)
40             continue;
41         if (temp_buffer < 2)
42             continue;
43
44         if (temp_buffer == VOP_START_CODE)
45             VOP++;
46         else if (temp_buffer == VISUAL_OBJECT_START_CODE)
47             VISO++;
48         else if (temp_buffer >= 0x100 && temp_buffer < 0x120)
49             VO++;
50         else if (temp_buffer >= 0x120 && temp_buffer < 0x130)
51             VOL++;
52         else if (temp_buffer == SLICE_STARTCODE || temp_buffer == EXT_STARTCODE)
53             res_main++;
54         else if (!(0x1AF < temp_buffer && temp_buffer < 0x1B7) &&
55                  !(0x1B9 < temp_buffer && temp_buffer < 0x1C4))
56             res++;
57     }
58
59     // res_main repesents the reserved codes within the "main" profile, they are
60     // added to the reserved ones if it appears that this is a "main" profile
61     // stream
62     if (res_main && 2*res_main < VOP)
63         res += res_main;
64
65     if (VOP >= VISO && VOP >= VOL && VO >= VOL && VOL > 0 && res == 0)
66         return VOP+VO > 4 ? AVPROBE_SCORE_EXTENSION : AVPROBE_SCORE_EXTENSION/2;
67
68     if (VOP >= VISO && VOP >= VOL && VO >= VOL && VOL > 0 && VOP+VO > 4)
69         return AVPROBE_SCORE_EXTENSION/10;
70     return 0;
71 }
72
73 FF_DEF_RAWVIDEO_DEMUXER2(m4v, "raw MPEG-4 video", mpeg4video_probe, "m4v",
74                          AV_CODEC_ID_MPEG4, AVFMT_GENERIC_INDEX | AVFMT_TS_DISCONT)