avcodec/m101: simplify 8bit code
[ffmpeg.git] / libavcodec / m101.c
1 /*
2  * Copyright (c) 2016 Michael Niedermayer
3  *
4  * This file is part of FFmpeg.
5  *
6  * FFmpeg is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * FFmpeg is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with FFmpeg; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 #include "libavutil/intreadwrite.h"
22
23 #include "avcodec.h"
24 #include "internal.h"
25
26
27 static av_cold int m101_decode_init(AVCodecContext *avctx)
28 {
29     if (avctx->extradata_size < 6*4)
30         return AVERROR_INVALIDDATA;
31
32     if (avctx->extradata[2*4] == 10)
33         avctx->pix_fmt = AV_PIX_FMT_YUV422P10;
34     else
35         avctx->pix_fmt = AV_PIX_FMT_YUYV422;
36
37
38     return 0;
39 }
40
41 static int m101_decode_frame(AVCodecContext *avctx, void *data, int *got_frame,
42                       AVPacket *avpkt)
43 {
44     const uint8_t *buf = avpkt->data;
45     int stride, ret;
46     int x, y;
47     int min_stride = 2 * avctx->width;
48     int bits = avctx->extradata[2*4];
49     AVFrame *frame = data;
50
51     if ((ret = ff_get_buffer(avctx, frame, 0)) < 0)
52         return ret;
53     frame->pict_type = AV_PICTURE_TYPE_I;
54     frame->key_frame = 1;
55
56     stride = AV_RL32(avctx->extradata + 5*4);
57
58     if (avctx->pix_fmt == AV_PIX_FMT_YUV422P10)
59         min_stride = (avctx->width + 15) / 16 * 20;
60
61     if (stride < min_stride || avpkt->size < stride * (uint64_t)avctx->height) {
62         av_log(avctx, AV_LOG_ERROR, "stride (%d) is invalid for packet sized %d\n",
63                stride, avpkt->size);
64         return AVERROR_INVALIDDATA;
65     }
66
67     frame->interlaced_frame = ((avctx->extradata[3*4] & 3) != 3);
68     if (frame->interlaced_frame)
69         frame->top_field_first = avctx->extradata[3*4] & 1;
70
71     for (y = 0; y < avctx->height; y++) {
72         int src_y = y;
73         if (frame->interlaced_frame)
74             src_y = ((y&1)^frame->top_field_first) ? y/2 : (y/2 + avctx->height/2);
75         if (bits == 8) {
76             uint8_t *line = frame->data[0] + y*frame->linesize[0];
77             memcpy(line, buf + src_y*stride, 2*avctx->width);
78         } else {
79             int block;
80             uint16_t *luma = (uint16_t*)&frame->data[0][y*frame->linesize[0]];
81             uint16_t *cb   = (uint16_t*)&frame->data[1][y*frame->linesize[1]];
82             uint16_t *cr   = (uint16_t*)&frame->data[2][y*frame->linesize[2]];
83             for (block = 0; 16*block < avctx->width; block ++) {
84                 const uint8_t *buf_src = buf + src_y*stride + 40*block;
85                 for (x = 0; x < 16 && x + 16*block < avctx->width; x++) {
86                     int xd = x + 16*block;
87                     if (x&1) {
88                         luma [xd] = (4*buf_src[2*x + 0]) + ((buf_src[32 + (x>>1)]>>4)&3);
89                     } else {
90                         luma [xd] = (4*buf_src[2*x + 0]) +  (buf_src[32 + (x>>1)]    &3);
91                         cb[xd>>1] = (4*buf_src[2*x + 1]) + ((buf_src[32 + (x>>1)]>>2)&3);
92                         cr[xd>>1] = (4*buf_src[2*x + 3]) +  (buf_src[32 + (x>>1)]>>6);
93                     }
94                 }
95             }
96         }
97     }
98
99     *got_frame = 1;
100     return avpkt->size;
101 }
102
103 AVCodec ff_m101_decoder = {
104     .name           = "m101",
105     .long_name      = NULL_IF_CONFIG_SMALL("Matrox Uncompressed SD"),
106     .type           = AVMEDIA_TYPE_VIDEO,
107     .id             = AV_CODEC_ID_M101,
108     .init           = m101_decode_init,
109     .decode         = m101_decode_frame,
110     .capabilities   = AV_CODEC_CAP_DR1,
111 };