swscale: Implement alphablendaway for planar 4:4:4 formats
[ffmpeg.git] / libswscale / alphablend.c
1 /*
2  * Copyright (C) 2015 Michael Niedermayer <michaelni@gmx.at>
3  *
4  * This file is part of FFmpeg.
5  *
6  * FFmpeg is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * FFmpeg is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with FFmpeg; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 #include "swscale_internal.h"
22
23 int ff_sws_alphablendaway(SwsContext *c, const uint8_t *src[],
24                           int srcStride[], int srcSliceY, int srcSliceH,
25                           uint8_t *dst[], int dstStride[])
26 {
27     const AVPixFmtDescriptor *desc = av_pix_fmt_desc_get(c->srcFormat);
28     int nb_components = desc->nb_components;
29     int plane, x, y;
30     int plane_count = isGray(c->srcFormat) ? 1 : 3;
31     int sixteen_bits = desc->comp[0].depth_minus1 >= 8;
32     unsigned off    = 1<<desc->comp[0].depth_minus1;
33     unsigned shift  = desc->comp[0].depth_minus1 + 1;
34     unsigned max    = (1<<shift) - 1;
35
36     av_assert0(plane_count == nb_components - 1);
37     if (desc->flags & AV_PIX_FMT_FLAG_PLANAR) {
38         for (plane = 0; plane < plane_count; plane++) {
39             int w = plane ? c->chrSrcW : c->srcW;
40             int y_subsample = plane ? desc->log2_chroma_h: 0;
41             for (y = srcSliceY >> y_subsample; y < FF_CEIL_RSHIFT(srcSliceH, y_subsample); y++) {
42                 if (sixteen_bits) {
43                     const uint16_t *s = src[plane      ] + srcStride[plane] * y;
44                     const uint16_t *a = src[plane_count] + srcStride[plane_count] * y;
45                           uint16_t *d = dst[plane      ] + dstStride[plane] * y;
46                     unsigned target = plane && !(desc->flags & AV_PIX_FMT_FLAG_RGB) ? 1<<desc->comp[0].depth_minus1 : 0;
47                     if ((!isBE(c->dstFormat)) == !HAVE_BIGENDIAN) {
48                         for (x = 0; x < w; x++) {
49                             unsigned u = s[x]*a[x] + target*(max-a[x]) + off;
50                             d[x] = av_clip((u + (u >> shift)) >> shift, 0, max);
51                         }
52                     } else {
53                         for (x = 0; x < w; x++) {
54                             unsigned aswap =av_bswap16(a[x]);
55                             unsigned u = av_bswap16(s[x])*aswap + target*(max-aswap) + off;
56                             d[x] = av_clip((u + (u >> shift)) >> shift, 0, max);
57                         }
58                     }
59                 } else {
60                     const uint8_t *s = src[plane      ] + srcStride[plane] * y;
61                     const uint8_t *a = src[plane_count] + srcStride[plane_count] * y;
62                           uint8_t *d = dst[plane      ] + dstStride[plane] * y;
63                     unsigned target = plane && !(desc->flags & AV_PIX_FMT_FLAG_RGB) ? 128 : 0;
64                     for (x = 0; x < w; x++) {
65                         unsigned u = s[x]*a[x] + target*(255-a[x]) + 128;
66                         d[x] = (257*u) >> 16;
67                     }
68                 }
69             }
70         }
71     }
72
73     return 0;
74 }