fbc553d7016433a6d8eb597b13cccfd0e357b91f
[vlc.git] / modules / codec / avcodec / deinterlace.c
1 /*****************************************************************************
2  * video filter: video filter doing chroma conversion and resizing
3  *               using the ffmpeg library
4  *****************************************************************************
5  * Copyright (C) 1999-2001 the VideoLAN team
6  * $Id$
7  *
8  * Authors: Gildas Bazin <gbazin@videolan.org>
9  *
10  * This program is free software; you can redistribute it and/or modify
11  * it under the terms of the GNU General Public License as published by
12  * the Free Software Foundation; either version 2 of the License, or
13  * (at your option) any later version.
14  *
15  * This program is distributed in the hope that it will be useful,
16  * but WITHOUT ANY WARRANTY; without even the implied warranty of
17  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
18  * GNU General Public License for more details.
19  *
20  * You should have received a copy of the GNU General Public License
21  * along with this program; if not, write to the Free Software
22  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston MA 02110-1301, USA.
23  *****************************************************************************/
24
25 /*****************************************************************************
26  * Preamble
27  *****************************************************************************/
28 #ifdef HAVE_CONFIG_H
29 # include "config.h"
30 #endif
31
32 #include <vlc_common.h>
33 #include <vlc_codec.h>
34 #include <vlc_vout.h>
35 #include <vlc_filter.h>
36
37 /* ffmpeg header */
38 #ifdef HAVE_LIBAVCODEC_AVCODEC_H
39 #   include <libavcodec/avcodec.h>
40 #elif defined(HAVE_FFMPEG_AVCODEC_H)
41 #   include <ffmpeg/avcodec.h>
42 #else
43 #   include <avcodec.h>
44 #endif
45
46 #include "avcodec.h"
47 #include "chroma.h"
48
49 static picture_t *Deinterlace( filter_t *p_filter, picture_t *p_pic );
50
51 /*****************************************************************************
52  * filter_sys_t : filter descriptor
53  *****************************************************************************/
54 struct filter_sys_t
55 {
56     bool b_resize;
57     bool b_convert;
58     bool b_resize_first;
59     bool b_enable_croppadd;
60
61     es_format_t fmt_in;
62     int i_src_ffmpeg_chroma;
63     es_format_t fmt_out;
64     int i_dst_ffmpeg_chroma;
65
66     AVPicture tmp_pic;
67 };
68
69 /*****************************************************************************
70  * OpenDeinterlace: probe the filter and return score
71  *****************************************************************************/
72 int OpenDeinterlace( vlc_object_t *p_this )
73 {
74     filter_t *p_filter = (filter_t*)p_this;
75     filter_sys_t *p_sys;
76
77     /* Check if we can handle that formats */
78     if( TestFfmpegChroma( -1, p_filter->fmt_in.i_codec  ) != VLC_SUCCESS )
79     {
80         msg_Err( p_filter, "Failed to match chroma type" );
81         return VLC_EGENERIC;
82     }
83
84     /* Allocate the memory needed to store the decoder's structure */
85     if( ( p_filter->p_sys = p_sys =
86           (filter_sys_t *)malloc(sizeof(filter_sys_t)) ) == NULL )
87     {
88         return VLC_EGENERIC;
89     }
90
91     /* Misc init */
92     p_filter->fmt_in.video.i_chroma = p_filter->fmt_in.i_codec;
93     if( GetFfmpegChroma( &p_sys->i_src_ffmpeg_chroma, p_filter->fmt_in.video ) != VLC_SUCCESS )
94     {
95         msg_Err( p_filter, "Failed to match chroma type" );
96         return VLC_EGENERIC;
97     }
98     p_filter->pf_video_filter = Deinterlace;
99
100     msg_Dbg( p_filter, "deinterlacing" );
101
102     /* libavcodec needs to be initialized for some chroma conversions */
103     InitLibavcodec(p_this);
104
105     return VLC_SUCCESS;
106 }
107
108 /*****************************************************************************
109  * CloseDeinterlace: clean up the filter
110  *****************************************************************************/
111 void CloseDeinterlace( vlc_object_t *p_this )
112 {
113     filter_t *p_filter = (filter_t*)p_this;
114     filter_sys_t *p_sys = p_filter->p_sys;
115
116     free( p_sys );
117 }
118
119 /*****************************************************************************
120  * Do the processing here
121  *****************************************************************************/
122 static picture_t *Deinterlace( filter_t *p_filter, picture_t *p_pic )
123 {
124     filter_sys_t *p_sys = p_filter->p_sys;
125     AVPicture src_pic, dest_pic;
126     picture_t *p_pic_dst;
127     int i, i_res = -1;
128
129     /* Request output picture */
130     p_pic_dst = filter_NewPicture( p_filter );
131     if( !p_pic_dst )
132     {
133         picture_Release( p_pic );
134         return NULL;
135     }
136
137     /* Prepare the AVPictures for the conversion */
138     for( i = 0; i < p_pic->i_planes; i++ )
139     {
140         src_pic.data[i] = p_pic->p[i].p_pixels;
141         src_pic.linesize[i] = p_pic->p[i].i_pitch;
142     }
143     for( i = 0; i < p_pic_dst->i_planes; i++ )
144     {
145         dest_pic.data[i] = p_pic_dst->p[i].p_pixels;
146         dest_pic.linesize[i] = p_pic_dst->p[i].i_pitch;
147     }
148
149     i_res = avpicture_deinterlace( &dest_pic, &src_pic, p_sys->i_src_ffmpeg_chroma,
150                                    p_filter->fmt_in.video.i_width,
151                                    p_filter->fmt_in.video.i_height );
152     if( i_res == -1 )
153     {
154         msg_Err( p_filter, "deinterlacing picture failed" );
155         filter_DeletePicture( p_filter, p_pic_dst );
156         picture_Release( p_pic );
157         return NULL;
158     }
159
160     picture_CopyProperties( p_pic_dst, p_pic );
161     p_pic_dst->b_progressive = true;
162     picture_Release( p_pic );
163     return p_pic_dst;
164 }