6528c967795655259740859375ce930f59861c1f
[ffmpeg.git] / libavcodec / imgconvert.c
1 /*
2  * Misc image conversion routines
3  * Copyright (c) 2001, 2002, 2003 Fabrice Bellard
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * misc image conversion routines
25  */
26
27 #include "avcodec.h"
28 #include "internal.h"
29 #include "mathops.h"
30 #include "libavutil/colorspace.h"
31 #include "libavutil/common.h"
32 #include "libavutil/pixdesc.h"
33 #include "libavutil/internal.h"
34 #include "libavutil/imgutils.h"
35
36 void avcodec_get_chroma_sub_sample(enum AVPixelFormat pix_fmt, int *h_shift, int *v_shift)
37 {
38     const AVPixFmtDescriptor *desc = av_pix_fmt_desc_get(pix_fmt);
39     *h_shift = desc->log2_chroma_w;
40     *v_shift = desc->log2_chroma_h;
41 }
42
43 static int is_gray(const AVPixFmtDescriptor *desc)
44 {
45     return desc->nb_components - (desc->flags & AV_PIX_FMT_FLAG_ALPHA) == 1;
46 }
47
48 int avcodec_get_pix_fmt_loss(enum AVPixelFormat dst_pix_fmt,
49                              enum AVPixelFormat src_pix_fmt,
50                              int has_alpha)
51 {
52     const AVPixFmtDescriptor *src_desc = av_pix_fmt_desc_get(src_pix_fmt);
53     const AVPixFmtDescriptor *dst_desc = av_pix_fmt_desc_get(dst_pix_fmt);
54     int loss, i, nb_components = FFMIN(src_desc->nb_components,
55                                        dst_desc->nb_components);
56
57     /* compute loss */
58     loss = 0;
59
60     if (dst_pix_fmt == src_pix_fmt)
61         return 0;
62
63     for (i = 0; i < nb_components; i++)
64         if (src_desc->comp[i].depth > dst_desc->comp[i].depth)
65             loss |= FF_LOSS_DEPTH;
66
67     if (dst_desc->log2_chroma_w > src_desc->log2_chroma_w ||
68         dst_desc->log2_chroma_h > src_desc->log2_chroma_h)
69         loss |= FF_LOSS_RESOLUTION;
70
71     if ((src_desc->flags & AV_PIX_FMT_FLAG_RGB) != (dst_desc->flags & AV_PIX_FMT_FLAG_RGB))
72         loss |= FF_LOSS_COLORSPACE;
73
74     if (has_alpha && !(dst_desc->flags & AV_PIX_FMT_FLAG_ALPHA) &&
75          (src_desc->flags & AV_PIX_FMT_FLAG_ALPHA))
76         loss |= FF_LOSS_ALPHA;
77
78     if (dst_pix_fmt == AV_PIX_FMT_PAL8 && !is_gray(src_desc))
79         return loss | FF_LOSS_COLORQUANT;
80
81     if (src_desc->nb_components > dst_desc->nb_components)
82         if (is_gray(dst_desc))
83             loss |= FF_LOSS_CHROMA;
84
85     return loss;
86 }
87
88 static enum AVPixelFormat avcodec_find_best_pix_fmt1(enum AVPixelFormat *pix_fmt_list,
89                                       enum AVPixelFormat src_pix_fmt,
90                                       int has_alpha,
91                                       int loss_mask)
92 {
93     int dist, i, loss, min_dist;
94     enum AVPixelFormat dst_pix_fmt;
95
96     /* find exact color match with smallest size */
97     dst_pix_fmt = AV_PIX_FMT_NONE;
98     min_dist = 0x7fffffff;
99     i = 0;
100     while (pix_fmt_list[i] != AV_PIX_FMT_NONE) {
101         enum AVPixelFormat pix_fmt = pix_fmt_list[i];
102
103         if (i > AV_PIX_FMT_NB) {
104             av_log(NULL, AV_LOG_ERROR, "Pixel format list longer than expected, "
105                    "it is either not properly terminated or contains duplicates\n");
106             return AV_PIX_FMT_NONE;
107         }
108
109         loss = avcodec_get_pix_fmt_loss(pix_fmt, src_pix_fmt, has_alpha) & loss_mask;
110         if (loss == 0) {
111             dist = av_get_bits_per_pixel(av_pix_fmt_desc_get(pix_fmt));
112             if (dist < min_dist) {
113                 min_dist = dist;
114                 dst_pix_fmt = pix_fmt;
115             }
116         }
117         i++;
118     }
119     return dst_pix_fmt;
120 }
121
122 enum AVPixelFormat avcodec_find_best_pix_fmt2(enum AVPixelFormat *pix_fmt_list,
123                                             enum AVPixelFormat src_pix_fmt,
124                                             int has_alpha, int *loss_ptr)
125 {
126     enum AVPixelFormat dst_pix_fmt;
127     int loss_mask, i;
128     static const int loss_mask_order[] = {
129         ~0, /* no loss first */
130         ~FF_LOSS_ALPHA,
131         ~FF_LOSS_RESOLUTION,
132         ~(FF_LOSS_COLORSPACE | FF_LOSS_RESOLUTION),
133         ~FF_LOSS_COLORQUANT,
134         ~FF_LOSS_DEPTH,
135         0,
136     };
137
138     /* try with successive loss */
139     i = 0;
140     for(;;) {
141         loss_mask = loss_mask_order[i++];
142         dst_pix_fmt = avcodec_find_best_pix_fmt1(pix_fmt_list, src_pix_fmt,
143                                                  has_alpha, loss_mask);
144         if (dst_pix_fmt >= 0)
145             goto found;
146         if (loss_mask == 0)
147             break;
148     }
149     return AV_PIX_FMT_NONE;
150  found:
151     if (loss_ptr)
152         *loss_ptr = avcodec_get_pix_fmt_loss(dst_pix_fmt, src_pix_fmt, has_alpha);
153     return dst_pix_fmt;
154 }
155
156 #if FF_API_AVPICTURE
157 FF_DISABLE_DEPRECATION_WARNINGS
158 /* return true if yuv planar */
159 static inline int is_yuv_planar(const AVPixFmtDescriptor *desc)
160 {
161     return (!(desc->flags & AV_PIX_FMT_FLAG_RGB) &&
162              (desc->flags & AV_PIX_FMT_FLAG_PLANAR));
163 }
164
165 int av_picture_crop(AVPicture *dst, const AVPicture *src,
166                     enum AVPixelFormat pix_fmt, int top_band, int left_band)
167 {
168     const AVPixFmtDescriptor *desc = av_pix_fmt_desc_get(pix_fmt);
169     int y_shift;
170     int x_shift;
171
172     if (pix_fmt < 0 || pix_fmt >= AV_PIX_FMT_NB || !is_yuv_planar(desc))
173         return -1;
174
175     y_shift = desc->log2_chroma_h;
176     x_shift = desc->log2_chroma_w;
177
178     dst->data[0] = src->data[0] + (top_band * src->linesize[0]) + left_band;
179     dst->data[1] = src->data[1] + ((top_band >> y_shift) * src->linesize[1]) + (left_band >> x_shift);
180     dst->data[2] = src->data[2] + ((top_band >> y_shift) * src->linesize[2]) + (left_band >> x_shift);
181
182     dst->linesize[0] = src->linesize[0];
183     dst->linesize[1] = src->linesize[1];
184     dst->linesize[2] = src->linesize[2];
185     return 0;
186 }
187
188 int av_picture_pad(AVPicture *dst, const AVPicture *src, int height, int width,
189                    enum AVPixelFormat pix_fmt, int padtop, int padbottom, int padleft, int padright,
190             int *color)
191 {
192     const AVPixFmtDescriptor *desc = av_pix_fmt_desc_get(pix_fmt);
193     uint8_t *optr;
194     int y_shift;
195     int x_shift;
196     int yheight;
197     int i, y;
198
199     if (pix_fmt < 0 || pix_fmt >= AV_PIX_FMT_NB ||
200         !is_yuv_planar(desc)) return -1;
201
202     for (i = 0; i < 3; i++) {
203         x_shift = i ? desc->log2_chroma_w : 0;
204         y_shift = i ? desc->log2_chroma_h : 0;
205
206         if (padtop || padleft) {
207             memset(dst->data[i], color[i],
208                 dst->linesize[i] * (padtop >> y_shift) + (padleft >> x_shift));
209         }
210
211         if (padleft || padright) {
212             optr = dst->data[i] + dst->linesize[i] * (padtop >> y_shift) +
213                 (dst->linesize[i] - (padright >> x_shift));
214             yheight = (height - 1 - (padtop + padbottom)) >> y_shift;
215             for (y = 0; y < yheight; y++) {
216                 memset(optr, color[i], (padleft + padright) >> x_shift);
217                 optr += dst->linesize[i];
218             }
219         }
220
221         if (src) { /* first line */
222             uint8_t *iptr = src->data[i];
223             optr = dst->data[i] + dst->linesize[i] * (padtop >> y_shift) +
224                     (padleft >> x_shift);
225             memcpy(optr, iptr, (width - padleft - padright) >> x_shift);
226             iptr += src->linesize[i];
227             optr = dst->data[i] + dst->linesize[i] * (padtop >> y_shift) +
228                 (dst->linesize[i] - (padright >> x_shift));
229             yheight = (height - 1 - (padtop + padbottom)) >> y_shift;
230             for (y = 0; y < yheight; y++) {
231                 memset(optr, color[i], (padleft + padright) >> x_shift);
232                 memcpy(optr + ((padleft + padright) >> x_shift), iptr,
233                        (width - padleft - padright) >> x_shift);
234                 iptr += src->linesize[i];
235                 optr += dst->linesize[i];
236             }
237         }
238
239         if (padbottom || padright) {
240             optr = dst->data[i] + dst->linesize[i] *
241                 ((height - padbottom) >> y_shift) - (padright >> x_shift);
242             memset(optr, color[i],dst->linesize[i] *
243                 (padbottom >> y_shift) + (padright >> x_shift));
244         }
245     }
246     return 0;
247 }
248
249 FF_ENABLE_DEPRECATION_WARNINGS
250 #endif /* FF_API_AVPICTURE */