fate: add test for cropping h264 to container dimensions
[ffmpeg.git] / libavformat / nuv.c
1 /*
2  * NuppelVideo demuxer.
3  * Copyright (c) 2006 Reimar Doeffinger
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "libavutil/channel_layout.h"
23 #include "libavutil/intreadwrite.h"
24 #include "libavutil/intfloat.h"
25 #include "avformat.h"
26 #include "internal.h"
27 #include "riff.h"
28
29 static const AVCodecTag nuv_audio_tags[] = {
30     { AV_CODEC_ID_PCM_S16LE, MKTAG('R', 'A', 'W', 'A') },
31     { AV_CODEC_ID_MP3,       MKTAG('L', 'A', 'M', 'E') },
32     { AV_CODEC_ID_NONE,      0 },
33 };
34
35 typedef struct {
36     int v_id;
37     int a_id;
38     int rtjpg_video;
39 } NUVContext;
40
41 typedef enum {
42     NUV_VIDEO     = 'V',
43     NUV_EXTRADATA = 'D',
44     NUV_AUDIO     = 'A',
45     NUV_SEEKP     = 'R',
46     NUV_MYTHEXT   = 'X'
47 } nuv_frametype;
48
49 static int nuv_probe(AVProbeData *p)
50 {
51     if (!memcmp(p->buf, "NuppelVideo", 12))
52         return AVPROBE_SCORE_MAX;
53     if (!memcmp(p->buf, "MythTVVideo", 12))
54         return AVPROBE_SCORE_MAX;
55     return 0;
56 }
57
58 /// little macro to sanitize packet size
59 #define PKTSIZE(s) (s &  0xffffff)
60
61 /**
62  * @brief read until we found all data needed for decoding
63  * @param vst video stream of which to change parameters
64  * @param ast video stream of which to change parameters
65  * @param myth set if this is a MythTVVideo format file
66  * @return 0 or AVERROR code
67  */
68 static int get_codec_data(AVIOContext *pb, AVStream *vst,
69                           AVStream *ast, int myth)
70 {
71     nuv_frametype frametype;
72
73     if (!vst && !myth)
74         return 1; // no codec data needed
75     while (!pb->eof_reached) {
76         int size, subtype;
77
78         frametype = avio_r8(pb);
79         switch (frametype) {
80         case NUV_EXTRADATA:
81             subtype = avio_r8(pb);
82             avio_skip(pb, 6);
83             size = PKTSIZE(avio_rl32(pb));
84             if (vst && subtype == 'R') {
85                 if (vst->codec->extradata) {
86                     av_freep(&vst->codec->extradata);
87                     vst->codec->extradata_size = 0;
88                 }
89                 vst->codec->extradata = av_malloc(size);
90                 if (!vst->codec->extradata)
91                     return AVERROR(ENOMEM);
92                 vst->codec->extradata_size = size;
93                 avio_read(pb, vst->codec->extradata, size);
94                 size = 0;
95                 if (!myth)
96                     return 0;
97             }
98             break;
99         case NUV_MYTHEXT:
100             avio_skip(pb, 7);
101             size = PKTSIZE(avio_rl32(pb));
102             if (size != 128 * 4)
103                 break;
104             avio_rl32(pb); // version
105             if (vst) {
106                 vst->codec->codec_tag = avio_rl32(pb);
107                 vst->codec->codec_id =
108                     ff_codec_get_id(ff_codec_bmp_tags, vst->codec->codec_tag);
109                 if (vst->codec->codec_tag == MKTAG('R', 'J', 'P', 'G'))
110                     vst->codec->codec_id = AV_CODEC_ID_NUV;
111             } else
112                 avio_skip(pb, 4);
113
114             if (ast) {
115                 int id;
116
117                 ast->codec->codec_tag             = avio_rl32(pb);
118                 ast->codec->sample_rate           = avio_rl32(pb);
119                 ast->codec->bits_per_coded_sample = avio_rl32(pb);
120                 ast->codec->channels              = avio_rl32(pb);
121                 ast->codec->channel_layout        = 0;
122
123                 id = ff_wav_codec_get_id(ast->codec->codec_tag,
124                                          ast->codec->bits_per_coded_sample);
125                 if (id == AV_CODEC_ID_NONE) {
126                     id = ff_codec_get_id(nuv_audio_tags, ast->codec->codec_tag);
127                     if (id == AV_CODEC_ID_PCM_S16LE)
128                         id = ff_get_pcm_codec_id(ast->codec->bits_per_coded_sample,
129                                                  0, 0, ~1);
130                 }
131                 ast->codec->codec_id = id;
132
133                 ast->need_parsing = AVSTREAM_PARSE_FULL;
134             } else
135                 avio_skip(pb, 4 * 4);
136
137             size -= 6 * 4;
138             avio_skip(pb, size);
139             return 0;
140         case NUV_SEEKP:
141             size = 11;
142             break;
143         default:
144             avio_skip(pb, 7);
145             size = PKTSIZE(avio_rl32(pb));
146             break;
147         }
148         avio_skip(pb, size);
149     }
150
151     return 0;
152 }
153
154 static int nuv_header(AVFormatContext *s)
155 {
156     NUVContext *ctx = s->priv_data;
157     AVIOContext *pb = s->pb;
158     char id_string[12];
159     double aspect, fps;
160     int is_mythtv, width, height, v_packs, a_packs, ret;
161     AVStream *vst = NULL, *ast = NULL;
162
163     avio_read(pb, id_string, 12);
164     is_mythtv = !memcmp(id_string, "MythTVVideo", 12);
165     avio_skip(pb, 5);       // version string
166     avio_skip(pb, 3);       // padding
167     width  = avio_rl32(pb);
168     height = avio_rl32(pb);
169     avio_rl32(pb);          // unused, "desiredwidth"
170     avio_rl32(pb);          // unused, "desiredheight"
171     avio_r8(pb);            // 'P' == progressive, 'I' == interlaced
172     avio_skip(pb, 3);       // padding
173     aspect = av_int2double(avio_rl64(pb));
174     if (aspect > 0.9999 && aspect < 1.0001)
175         aspect = 4.0 / 3.0;
176     fps = av_int2double(avio_rl64(pb));
177
178     // number of packets per stream type, -1 means unknown, e.g. streaming
179     v_packs = avio_rl32(pb);
180     a_packs = avio_rl32(pb);
181     avio_rl32(pb); // text
182
183     avio_rl32(pb); // keyframe distance (?)
184
185     if (v_packs) {
186         vst = avformat_new_stream(s, NULL);
187         if (!vst)
188             return AVERROR(ENOMEM);
189         ctx->v_id = vst->index;
190
191         vst->codec->codec_type            = AVMEDIA_TYPE_VIDEO;
192         vst->codec->codec_id              = AV_CODEC_ID_NUV;
193         vst->codec->width                 = width;
194         vst->codec->height                = height;
195         vst->codec->bits_per_coded_sample = 10;
196         vst->sample_aspect_ratio          = av_d2q(aspect * height / width,
197                                                    10000);
198         vst->avg_frame_rate = av_d2q(fps, 60000);
199         avpriv_set_pts_info(vst, 32, 1, 1000);
200     } else
201         ctx->v_id = -1;
202
203     if (a_packs) {
204         ast = avformat_new_stream(s, NULL);
205         if (!ast)
206             return AVERROR(ENOMEM);
207         ctx->a_id = ast->index;
208
209         ast->codec->codec_type            = AVMEDIA_TYPE_AUDIO;
210         ast->codec->codec_id              = AV_CODEC_ID_PCM_S16LE;
211         ast->codec->channels              = 2;
212         ast->codec->channel_layout        = AV_CH_LAYOUT_STEREO;
213         ast->codec->sample_rate           = 44100;
214         ast->codec->bit_rate              = 2 * 2 * 44100 * 8;
215         ast->codec->block_align           = 2 * 2;
216         ast->codec->bits_per_coded_sample = 16;
217         avpriv_set_pts_info(ast, 32, 1, 1000);
218     } else
219         ctx->a_id = -1;
220
221     if ((ret = get_codec_data(pb, vst, ast, is_mythtv)) < 0)
222         return ret;
223
224     ctx->rtjpg_video = vst && vst->codec->codec_id == AV_CODEC_ID_NUV;
225
226     return 0;
227 }
228
229 #define HDRSIZE 12
230
231 static int nuv_packet(AVFormatContext *s, AVPacket *pkt)
232 {
233     NUVContext *ctx = s->priv_data;
234     AVIOContext *pb = s->pb;
235     uint8_t hdr[HDRSIZE];
236     nuv_frametype frametype;
237     int ret, size;
238
239     while (!pb->eof_reached) {
240         int copyhdrsize = ctx->rtjpg_video ? HDRSIZE : 0;
241         uint64_t pos    = avio_tell(pb);
242
243         ret = avio_read(pb, hdr, HDRSIZE);
244         if (ret < HDRSIZE)
245             return ret < 0 ? ret : AVERROR(EIO);
246
247         frametype = hdr[0];
248         size      = PKTSIZE(AV_RL32(&hdr[8]));
249
250         switch (frametype) {
251         case NUV_EXTRADATA:
252             if (!ctx->rtjpg_video) {
253                 avio_skip(pb, size);
254                 break;
255             }
256         case NUV_VIDEO:
257             if (ctx->v_id < 0) {
258                 av_log(s, AV_LOG_ERROR, "Video packet in file without video stream!\n");
259                 avio_skip(pb, size);
260                 break;
261             }
262             ret = av_new_packet(pkt, copyhdrsize + size);
263             if (ret < 0)
264                 return ret;
265             // HACK: we have no idea if it is a keyframe,
266             // but if we mark none seeking will not work at all.
267             pkt->flags       |= AV_PKT_FLAG_KEY;
268             pkt->pos          = pos;
269             pkt->pts          = AV_RL32(&hdr[4]);
270             pkt->stream_index = ctx->v_id;
271             memcpy(pkt->data, hdr, copyhdrsize);
272             ret = avio_read(pb, pkt->data + copyhdrsize, size);
273             if (ret < 0) {
274                 av_free_packet(pkt);
275                 return ret;
276             }
277             if (ret < size)
278                 av_shrink_packet(pkt, copyhdrsize + ret);
279             return 0;
280         case NUV_AUDIO:
281             if (ctx->a_id < 0) {
282                 av_log(s, AV_LOG_ERROR, "Audio packet in file without audio stream!\n");
283                 avio_skip(pb, size);
284                 break;
285             }
286             ret               = av_get_packet(pb, pkt, size);
287             pkt->flags       |= AV_PKT_FLAG_KEY;
288             pkt->pos          = pos;
289             pkt->pts          = AV_RL32(&hdr[4]);
290             pkt->stream_index = ctx->a_id;
291             if (ret < 0)
292                 return ret;
293             return 0;
294         case NUV_SEEKP:
295             // contains no data, size value is invalid
296             break;
297         default:
298             avio_skip(pb, size);
299             break;
300         }
301     }
302
303     return AVERROR(EIO);
304 }
305
306 AVInputFormat ff_nuv_demuxer = {
307     .name           = "nuv",
308     .long_name      = NULL_IF_CONFIG_SMALL("NuppelVideo"),
309     .priv_data_size = sizeof(NUVContext),
310     .read_probe     = nuv_probe,
311     .read_header    = nuv_header,
312     .read_packet    = nuv_packet,
313     .flags          = AVFMT_GENERIC_INDEX,
314 };