checkasm: add unit tests for v210enc
[ffmpeg.git] / libavcodec / v210enc.c
1 /*
2  * V210 encoder
3  *
4  * Copyright (C) 2009 Michael Niedermayer <michaelni@gmx.at>
5  * Copyright (c) 2009 Baptiste Coudurier <baptiste dot coudurier at gmail dot com>
6  *
7  * This file is part of Libav.
8  *
9  * Libav is free software; you can redistribute it and/or
10  * modify it under the terms of the GNU Lesser General Public
11  * License as published by the Free Software Foundation; either
12  * version 2.1 of the License, or (at your option) any later version.
13  *
14  * Libav is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
17  * Lesser General Public License for more details.
18  *
19  * You should have received a copy of the GNU Lesser General Public
20  * License along with Libav; if not, write to the Free Software
21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
22  */
23
24 #include "avcodec.h"
25 #include "bytestream.h"
26 #include "internal.h"
27 #include "v210enc.h"
28
29 #define CLIP(v) av_clip(v, 4, 1019)
30 #define CLIP8(v) av_clip(v, 1, 254)
31
32 #define WRITE_PIXELS(a, b, c)           \
33     do {                                \
34         val  =  CLIP(*a++);             \
35         val |= (CLIP(*b++) << 10) |     \
36                (CLIP(*c++) << 20);      \
37         AV_WL32(dst, val);              \
38         dst += 4;                       \
39     } while (0)
40
41 #define WRITE_PIXELS8(a, b, c)          \
42     do {                                \
43         val  = (CLIP8(*a++) << 2);      \
44         val |= (CLIP8(*b++) << 12) |    \
45                (CLIP8(*c++) << 22);     \
46         AV_WL32(dst, val);              \
47         dst += 4;                       \
48     } while (0)
49
50 static void v210_planar_pack_8_c(const uint8_t *y, const uint8_t *u,
51                                  const uint8_t *v, uint8_t *dst,
52                                  ptrdiff_t width)
53 {
54     uint32_t val;
55     int i;
56
57     /* unroll this to match the assembly */
58     for (i = 0; i < width - 11; i += 12) {
59         WRITE_PIXELS8(u, y, v);
60         WRITE_PIXELS8(y, u, y);
61         WRITE_PIXELS8(v, y, u);
62         WRITE_PIXELS8(y, v, y);
63         WRITE_PIXELS8(u, y, v);
64         WRITE_PIXELS8(y, u, y);
65         WRITE_PIXELS8(v, y, u);
66         WRITE_PIXELS8(y, v, y);
67     }
68 }
69
70 static void v210_planar_pack_10_c(const uint16_t *y, const uint16_t *u,
71                                   const uint16_t *v, uint8_t *dst,
72                                   ptrdiff_t width)
73 {
74     uint32_t val;
75     int i;
76
77     for (i = 0; i < width - 5; i += 6) {
78         WRITE_PIXELS(u, y, v);
79         WRITE_PIXELS(y, u, y);
80         WRITE_PIXELS(v, y, u);
81         WRITE_PIXELS(y, v, y);
82     }
83 }
84
85 av_cold void ff_v210enc_init(V210EncContext *s)
86 {
87     s->pack_line_8  = v210_planar_pack_8_c;
88     s->pack_line_10 = v210_planar_pack_10_c;
89
90     if (ARCH_X86)
91         ff_v210enc_init_x86(s);
92 }
93
94 static av_cold int encode_init(AVCodecContext *avctx)
95 {
96     V210EncContext *s = avctx->priv_data;
97
98     if (avctx->width & 1) {
99         av_log(avctx, AV_LOG_ERROR, "v210 needs even width\n");
100         return AVERROR(EINVAL);
101     }
102
103 #if FF_API_CODED_FRAME
104 FF_DISABLE_DEPRECATION_WARNINGS
105     avctx->coded_frame->pict_type = AV_PICTURE_TYPE_I;
106 FF_ENABLE_DEPRECATION_WARNINGS
107 #endif
108
109     ff_v210enc_init(s);
110
111     return 0;
112 }
113
114 static int encode_frame(AVCodecContext *avctx, AVPacket *pkt,
115                         const AVFrame *pic, int *got_packet)
116 {
117     V210EncContext *s = avctx->priv_data;
118     int aligned_width = ((avctx->width + 47) / 48) * 48;
119     int stride = aligned_width * 8 / 3;
120     int line_padding = stride - ((avctx->width * 8 + 11) / 12) * 4;
121     int h, w, ret;
122     uint8_t *dst;
123
124     ret = ff_alloc_packet(pkt, avctx->height * stride);
125     if (ret < 0) {
126         av_log(avctx, AV_LOG_ERROR, "Error getting output packet.\n");
127         return ret;
128     }
129     dst = pkt->data;
130
131     if (pic->format == AV_PIX_FMT_YUV422P10) {
132         const uint16_t *y = (const uint16_t *)pic->data[0];
133         const uint16_t *u = (const uint16_t *)pic->data[1];
134         const uint16_t *v = (const uint16_t *)pic->data[2];
135         for (h = 0; h < avctx->height; h++) {
136             uint32_t val;
137             w = (avctx->width / 6) * 6;
138             s->pack_line_10(y, u, v, dst, w);
139
140             y += w;
141             u += w >> 1;
142             v += w >> 1;
143             dst += (w / 6) * 16;
144             if (w < avctx->width - 1) {
145                 WRITE_PIXELS(u, y, v);
146
147                 val = CLIP(*y++);
148                 if (w == avctx->width - 2) {
149                     AV_WL32(dst, val);
150                     dst += 4;
151                 }
152             }
153             if (w < avctx->width - 3) {
154                 val |= (CLIP(*u++) << 10) | (CLIP(*y++) << 20);
155                 AV_WL32(dst, val);
156                 dst += 4;
157
158                 val = CLIP(*v++) | (CLIP(*y++) << 10);
159                 AV_WL32(dst, val);
160                 dst += 4;
161             }
162
163             memset(dst, 0, line_padding);
164             dst += line_padding;
165             y += pic->linesize[0] / 2 - avctx->width;
166             u += pic->linesize[1] / 2 - avctx->width / 2;
167             v += pic->linesize[2] / 2 - avctx->width / 2;
168         }
169     } else if(pic->format == AV_PIX_FMT_YUV422P) {
170         const uint8_t *y = pic->data[0];
171         const uint8_t *u = pic->data[1];
172         const uint8_t *v = pic->data[2];
173         for (h = 0; h < avctx->height; h++) {
174             uint32_t val;
175             w = (avctx->width / 12) * 12;
176             s->pack_line_8(y, u, v, dst, w);
177
178             y += w;
179             u += w >> 1;
180             v += w >> 1;
181             dst += (w / 12) * 32;
182
183             for (; w < avctx->width - 5; w += 6) {
184                 WRITE_PIXELS8(u, y, v);
185                 WRITE_PIXELS8(y, u, y);
186                 WRITE_PIXELS8(v, y, u);
187                 WRITE_PIXELS8(y, v, y);
188             }
189             if (w < avctx->width - 1) {
190                 WRITE_PIXELS8(u, y, v);
191
192                 val = CLIP8(*y++) << 2;
193                 if (w == avctx->width - 2) {
194                     AV_WL32(dst, val);
195                     dst += 4;
196                 }
197             }
198             if (w < avctx->width - 3) {
199                 val |= (CLIP8(*u++) << 12) | (CLIP8(*y++) << 22);
200                 AV_WL32(dst, val);
201                 dst += 4;
202
203                 val = (CLIP8(*v++) << 2) | (CLIP8(*y++) << 12);
204                 AV_WL32(dst, val);
205                 dst += 4;
206             }
207             memset(dst, 0, line_padding);
208             dst += line_padding;
209
210             y += pic->linesize[0] - avctx->width;
211             u += pic->linesize[1] - avctx->width / 2;
212             v += pic->linesize[2] - avctx->width / 2;
213         }
214     }
215
216     pkt->flags |= AV_PKT_FLAG_KEY;
217     *got_packet = 1;
218     return 0;
219 }
220
221 AVCodec ff_v210_encoder = {
222     .name           = "v210",
223     .long_name      = NULL_IF_CONFIG_SMALL("Uncompressed 4:2:2 10-bit"),
224     .type           = AVMEDIA_TYPE_VIDEO,
225     .id             = AV_CODEC_ID_V210,
226     .priv_data_size = sizeof(V210EncContext),
227     .init           = encode_init,
228     .encode2        = encode_frame,
229     .pix_fmts       = (const enum AVPixelFormat[]){ AV_PIX_FMT_YUV422P10, AV_PIX_FMT_YUV422P, AV_PIX_FMT_NONE },
230 };