avcodec/vc1: fix calculation of the last line of a slice
[ffmpeg.git] / libavcodec / v210dec.c
1 /*
2  * V210 decoder
3  *
4  * Copyright (C) 2009 Michael Niedermayer <michaelni@gmx.at>
5  * Copyright (c) 2009 Baptiste Coudurier <baptiste dot coudurier at gmail dot com>
6  *
7  * This file is part of FFmpeg.
8  *
9  * FFmpeg is free software; you can redistribute it and/or
10  * modify it under the terms of the GNU Lesser General Public
11  * License as published by the Free Software Foundation; either
12  * version 2.1 of the License, or (at your option) any later version.
13  *
14  * FFmpeg is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
17  * Lesser General Public License for more details.
18  *
19  * You should have received a copy of the GNU Lesser General Public
20  * License along with FFmpeg; if not, write to the Free Software
21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
22  */
23
24 #include "avcodec.h"
25 #include "internal.h"
26 #include "v210dec.h"
27 #include "libavutil/bswap.h"
28 #include "libavutil/internal.h"
29 #include "libavutil/mem.h"
30 #include "libavutil/intreadwrite.h"
31
32 #define READ_PIXELS(a, b, c)         \
33     do {                             \
34         val  = av_le2ne32(*src++);   \
35         *a++ =  val & 0x3FF;         \
36         *b++ = (val >> 10) & 0x3FF;  \
37         *c++ = (val >> 20) & 0x3FF;  \
38     } while (0)
39
40 static void v210_planar_unpack_c(const uint32_t *src, uint16_t *y, uint16_t *u, uint16_t *v, int width)
41 {
42     uint32_t val;
43     int i;
44
45     for( i = 0; i < width-5; i += 6 ){
46         READ_PIXELS(u, y, v);
47         READ_PIXELS(y, u, y);
48         READ_PIXELS(v, y, u);
49         READ_PIXELS(y, v, y);
50     }
51 }
52
53 static av_cold int decode_init(AVCodecContext *avctx)
54 {
55     V210DecContext *s = avctx->priv_data;
56
57     avctx->pix_fmt             = AV_PIX_FMT_YUV422P10;
58     avctx->bits_per_raw_sample = 10;
59
60     s->unpack_frame            = v210_planar_unpack_c;
61
62     if (HAVE_MMX)
63         ff_v210_x86_init(s);
64
65     return 0;
66 }
67
68 static int decode_frame(AVCodecContext *avctx, void *data, int *got_frame,
69                         AVPacket *avpkt)
70 {
71     V210DecContext *s = avctx->priv_data;
72
73     int h, w, ret, stride, aligned_input;
74     AVFrame *pic = data;
75     const uint8_t *psrc = avpkt->data;
76     uint16_t *y, *u, *v;
77
78     if (s->custom_stride )
79         stride = s->custom_stride;
80     else {
81         int aligned_width = ((avctx->width + 47) / 48) * 48;
82         stride = aligned_width * 8 / 3;
83     }
84
85     if (avpkt->size < stride * avctx->height) {
86         if ((((avctx->width + 23) / 24) * 24 * 8) / 3 * avctx->height == avpkt->size) {
87             stride = avpkt->size / avctx->height;
88             if (!s->stride_warning_shown)
89                 av_log(avctx, AV_LOG_WARNING, "Broken v210 with too small padding (64 byte) detected\n");
90             s->stride_warning_shown = 1;
91         } else {
92             av_log(avctx, AV_LOG_ERROR, "packet too small\n");
93             return AVERROR_INVALIDDATA;
94         }
95     }
96     if (   avctx->codec_tag == MKTAG('C', '2', '1', '0')
97         && avpkt->size > 64
98         && AV_RN32(psrc) == AV_RN32("INFO")
99         && avpkt->size - 64 >= stride * avctx->height)
100         psrc += 64;
101
102     aligned_input = !((uintptr_t)psrc & 0xf) && !(stride & 0xf);
103     if (aligned_input != s->aligned_input) {
104         s->aligned_input = aligned_input;
105         if (HAVE_MMX)
106             ff_v210_x86_init(s);
107     }
108
109     if ((ret = ff_get_buffer(avctx, pic, 0)) < 0)
110         return ret;
111
112     y = (uint16_t*)pic->data[0];
113     u = (uint16_t*)pic->data[1];
114     v = (uint16_t*)pic->data[2];
115     pic->pict_type = AV_PICTURE_TYPE_I;
116     pic->key_frame = 1;
117
118     for (h = 0; h < avctx->height; h++) {
119         const uint32_t *src = (const uint32_t*)psrc;
120         uint32_t val;
121
122         w = (avctx->width / 6) * 6;
123         s->unpack_frame(src, y, u, v, w);
124
125         y += w;
126         u += w >> 1;
127         v += w >> 1;
128         src += (w << 1) / 3;
129
130         if (w < avctx->width - 1) {
131             READ_PIXELS(u, y, v);
132
133             val  = av_le2ne32(*src++);
134             *y++ =  val & 0x3FF;
135             if (w < avctx->width - 3) {
136                 *u++ = (val >> 10) & 0x3FF;
137                 *y++ = (val >> 20) & 0x3FF;
138
139                 val  = av_le2ne32(*src++);
140                 *v++ =  val & 0x3FF;
141                 *y++ = (val >> 10) & 0x3FF;
142             }
143         }
144
145         psrc += stride;
146         y += pic->linesize[0] / 2 - avctx->width + (avctx->width & 1);
147         u += pic->linesize[1] / 2 - avctx->width / 2;
148         v += pic->linesize[2] / 2 - avctx->width / 2;
149     }
150
151     if (avctx->field_order > AV_FIELD_PROGRESSIVE) {
152         /* we have interlaced material flagged in container */
153         pic->interlaced_frame = 1;
154         if (avctx->field_order == AV_FIELD_TT || avctx->field_order == AV_FIELD_TB)
155             pic->top_field_first = 1;
156     }
157
158     *got_frame      = 1;
159
160     return avpkt->size;
161 }
162
163 #define V210DEC_FLAGS AV_OPT_FLAG_DECODING_PARAM | AV_OPT_FLAG_VIDEO_PARAM
164 static const AVOption v210dec_options[] = {
165     {"custom_stride", "Custom V210 stride", offsetof(V210DecContext, custom_stride), AV_OPT_TYPE_INT,
166      {.i64 = 0}, INT_MIN, INT_MAX, V210DEC_FLAGS},
167     {NULL}
168 };
169
170 static const AVClass v210dec_class = {
171     .class_name = "V210 Decoder",
172     .item_name  = av_default_item_name,
173     .option     = v210dec_options,
174     .version    = LIBAVUTIL_VERSION_INT,
175 };
176
177 AVCodec ff_v210_decoder = {
178     .name           = "v210",
179     .long_name      = NULL_IF_CONFIG_SMALL("Uncompressed 4:2:2 10-bit"),
180     .type           = AVMEDIA_TYPE_VIDEO,
181     .id             = AV_CODEC_ID_V210,
182     .priv_data_size = sizeof(V210DecContext),
183     .init           = decode_init,
184     .decode         = decode_frame,
185     .capabilities   = AV_CODEC_CAP_DR1,
186     .priv_class     = &v210dec_class,
187 };