avcodec/wavpack: Fix integer overflow
[ffmpeg.git] / libavcodec / v410enc.c
1 /*
2  * v410 encoder
3  *
4  * Copyright (c) 2011 Derek Buitenhuis
5  *
6  * This file is part of FFmpeg.
7  *
8  * FFmpeg is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * FFmpeg is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with FFmpeg; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 #include "libavutil/common.h"
24 #include "libavutil/intreadwrite.h"
25 #include "avcodec.h"
26 #include "internal.h"
27
28 static av_cold int v410_encode_init(AVCodecContext *avctx)
29 {
30     if (avctx->width & 1) {
31         av_log(avctx, AV_LOG_ERROR, "v410 requires width to be even.\n");
32         return AVERROR_INVALIDDATA;
33     }
34
35     avctx->bits_per_coded_sample = 32;
36     avctx->bit_rate = ff_guess_coded_bitrate(avctx);
37
38     return 0;
39 }
40
41 static int v410_encode_frame(AVCodecContext *avctx, AVPacket *pkt,
42                              const AVFrame *pic, int *got_packet)
43 {
44     uint8_t *dst;
45     uint16_t *y, *u, *v;
46     uint32_t val;
47     int i, j, ret;
48
49     if ((ret = ff_alloc_packet2(avctx, pkt, avctx->width * avctx->height * 4,
50                                             avctx->width * avctx->height * 4)) < 0)
51         return ret;
52     dst = pkt->data;
53
54 #if FF_API_CODED_FRAME
55 FF_DISABLE_DEPRECATION_WARNINGS
56     avctx->coded_frame->key_frame = 1;
57     avctx->coded_frame->pict_type = AV_PICTURE_TYPE_I;
58 FF_ENABLE_DEPRECATION_WARNINGS
59 #endif
60
61     y = (uint16_t *)pic->data[0];
62     u = (uint16_t *)pic->data[1];
63     v = (uint16_t *)pic->data[2];
64
65     for (i = 0; i < avctx->height; i++) {
66         for (j = 0; j < avctx->width; j++) {
67             val  = u[j] << 2;
68             val |= y[j] << 12;
69             val |= (uint32_t) v[j] << 22;
70             AV_WL32(dst, val);
71             dst += 4;
72         }
73         y += pic->linesize[0] >> 1;
74         u += pic->linesize[1] >> 1;
75         v += pic->linesize[2] >> 1;
76     }
77
78     pkt->flags |= AV_PKT_FLAG_KEY;
79     *got_packet = 1;
80     return 0;
81 }
82
83 AVCodec ff_v410_encoder = {
84     .name         = "v410",
85     .long_name    = NULL_IF_CONFIG_SMALL("Uncompressed 4:4:4 10-bit"),
86     .type         = AVMEDIA_TYPE_VIDEO,
87     .id           = AV_CODEC_ID_V410,
88     .init         = v410_encode_init,
89     .encode2      = v410_encode_frame,
90     .pix_fmts     = (const enum AVPixelFormat[]){ AV_PIX_FMT_YUV444P10, AV_PIX_FMT_NONE },
91 };