avcodec/m101: Check BPS value
[ffmpeg.git] / libavcodec / m101.c
1 /*
2  * Copyright (c) 2016 Michael Niedermayer
3  *
4  * This file is part of FFmpeg.
5  *
6  * FFmpeg is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * FFmpeg is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with FFmpeg; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 #include "libavutil/intreadwrite.h"
22
23 #include "avcodec.h"
24 #include "internal.h"
25
26
27 static av_cold int m101_decode_init(AVCodecContext *avctx)
28 {
29     if (avctx->extradata_size < 6*4)
30         return AVERROR_INVALIDDATA;
31
32     if (avctx->extradata[2*4] == 10)
33         avctx->pix_fmt = AV_PIX_FMT_YUV422P10;
34     else if (avctx->extradata[2*4] == 8) {
35         avctx->pix_fmt = AV_PIX_FMT_YUYV422;
36     } else {
37         avpriv_request_sample(avctx, "BPS %d\n", avctx->extradata[2*4]);
38         return AVERROR_INVALIDDATA;
39     }
40
41     return 0;
42 }
43
44 static int m101_decode_frame(AVCodecContext *avctx, void *data, int *got_frame,
45                       AVPacket *avpkt)
46 {
47     const uint8_t *buf = avpkt->data;
48     int stride, ret;
49     int x, y;
50     int min_stride = 2 * avctx->width;
51     int bits = avctx->extradata[2*4];
52     AVFrame *frame = data;
53
54     if ((ret = ff_get_buffer(avctx, frame, 0)) < 0)
55         return ret;
56     frame->pict_type = AV_PICTURE_TYPE_I;
57     frame->key_frame = 1;
58
59     stride = AV_RL32(avctx->extradata + 5*4);
60
61     if (avctx->pix_fmt == AV_PIX_FMT_YUV422P10)
62         min_stride = (avctx->width + 15) / 16 * 20;
63
64     if (stride < min_stride || avpkt->size < stride * (uint64_t)avctx->height) {
65         av_log(avctx, AV_LOG_ERROR, "stride (%d) is invalid for packet sized %d\n",
66                stride, avpkt->size);
67         return AVERROR_INVALIDDATA;
68     }
69
70     frame->interlaced_frame = ((avctx->extradata[3*4] & 3) != 3);
71     if (frame->interlaced_frame)
72         frame->top_field_first = avctx->extradata[3*4] & 1;
73
74     for (y = 0; y < avctx->height; y++) {
75         int src_y = y;
76         if (frame->interlaced_frame)
77             src_y = ((y&1)^frame->top_field_first) ? y/2 : (y/2 + avctx->height/2);
78         if (bits == 8) {
79             uint8_t *line = frame->data[0] + y*frame->linesize[0];
80             memcpy(line, buf + src_y*stride, 2*avctx->width);
81         } else {
82             int block;
83             uint16_t *luma = (uint16_t*)&frame->data[0][y*frame->linesize[0]];
84             uint16_t *cb   = (uint16_t*)&frame->data[1][y*frame->linesize[1]];
85             uint16_t *cr   = (uint16_t*)&frame->data[2][y*frame->linesize[2]];
86             for (block = 0; 16*block < avctx->width; block ++) {
87                 const uint8_t *buf_src = buf + src_y*stride + 40*block;
88                 for (x = 0; x < 16 && x + 16*block < avctx->width; x++) {
89                     int xd = x + 16*block;
90                     if (x&1) {
91                         luma [xd] = (4*buf_src[2*x + 0]) + ((buf_src[32 + (x>>1)]>>4)&3);
92                     } else {
93                         luma [xd] = (4*buf_src[2*x + 0]) +  (buf_src[32 + (x>>1)]    &3);
94                         cb[xd>>1] = (4*buf_src[2*x + 1]) + ((buf_src[32 + (x>>1)]>>2)&3);
95                         cr[xd>>1] = (4*buf_src[2*x + 3]) +  (buf_src[32 + (x>>1)]>>6);
96                     }
97                 }
98             }
99         }
100     }
101
102     *got_frame = 1;
103     return avpkt->size;
104 }
105
106 AVCodec ff_m101_decoder = {
107     .name           = "m101",
108     .long_name      = NULL_IF_CONFIG_SMALL("Matrox Uncompressed SD"),
109     .type           = AVMEDIA_TYPE_VIDEO,
110     .id             = AV_CODEC_ID_M101,
111     .init           = m101_decode_init,
112     .decode         = m101_decode_frame,
113     .capabilities   = AV_CODEC_CAP_DR1,
114 };