Add 8088flex TMV video decoder.
[ffmpeg.git] / libavcodec / rawdec.c
1 /*
2  * Raw Video Decoder
3  * Copyright (c) 2001 Fabrice Bellard
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file libavcodec/rawdec.c
24  * Raw Video Decoder
25  */
26
27 #include "avcodec.h"
28 #include "raw.h"
29 #include "libavutil/intreadwrite.h"
30
31 typedef struct RawVideoContext {
32     unsigned char * buffer;  /* block of memory for holding one frame */
33     int             length;  /* number of bytes in buffer */
34     int flip;
35     AVFrame pic;             ///< AVCodecContext.coded_frame
36 } RawVideoContext;
37
38 static const PixelFormatTag pixelFormatBpsAVI[] = {
39     { PIX_FMT_PAL8,    4 },
40     { PIX_FMT_PAL8,    8 },
41     { PIX_FMT_RGB555, 15 },
42     { PIX_FMT_RGB555, 16 },
43     { PIX_FMT_BGR24,  24 },
44     { PIX_FMT_RGB32,  32 },
45     { PIX_FMT_NONE, 0 },
46 };
47
48 static const PixelFormatTag pixelFormatBpsMOV[] = {
49     /* FIXME fix swscaler to support those */
50     /* http://developer.apple.com/documentation/QuickTime/QTFF/QTFFChap3/chapter_4_section_2.html */
51     { PIX_FMT_PAL8,      4 },
52     { PIX_FMT_PAL8,      8 },
53     { PIX_FMT_BGR555,   16 },
54     { PIX_FMT_RGB24,    24 },
55     { PIX_FMT_BGR32_1,  32 },
56     { PIX_FMT_NONE, 0 },
57 };
58
59 static enum PixelFormat findPixelFormat(const PixelFormatTag *tags, unsigned int fourcc)
60 {
61     while (tags->pix_fmt >= 0) {
62         if (tags->fourcc == fourcc)
63             return tags->pix_fmt;
64         tags++;
65     }
66     return PIX_FMT_YUV420P;
67 }
68
69 static av_cold int raw_init_decoder(AVCodecContext *avctx)
70 {
71     RawVideoContext *context = avctx->priv_data;
72
73     if (avctx->codec_tag == MKTAG('r','a','w',' '))
74         avctx->pix_fmt = findPixelFormat(pixelFormatBpsMOV, avctx->bits_per_coded_sample);
75     else if (avctx->codec_tag)
76         avctx->pix_fmt = findPixelFormat(ff_raw_pixelFormatTags, avctx->codec_tag);
77     else if (avctx->bits_per_coded_sample)
78         avctx->pix_fmt = findPixelFormat(pixelFormatBpsAVI, avctx->bits_per_coded_sample);
79
80     context->length = avpicture_get_size(avctx->pix_fmt, avctx->width, avctx->height);
81     context->buffer = av_malloc(context->length);
82     context->pic.pict_type = FF_I_TYPE;
83     context->pic.key_frame = 1;
84
85     avctx->coded_frame= &context->pic;
86
87     if (!context->buffer)
88         return -1;
89
90     if(avctx->extradata_size >= 9 && !memcmp(avctx->extradata + avctx->extradata_size - 9, "BottomUp", 9))
91         context->flip=1;
92
93     return 0;
94 }
95
96 static void flip(AVCodecContext *avctx, AVPicture * picture){
97     picture->data[0] += picture->linesize[0] * (avctx->height-1);
98     picture->linesize[0] *= -1;
99 }
100
101 static int raw_decode(AVCodecContext *avctx,
102                             void *data, int *data_size,
103                             AVPacket *avpkt)
104 {
105     const uint8_t *buf = avpkt->data;
106     int buf_size = avpkt->size;
107     RawVideoContext *context = avctx->priv_data;
108
109     AVFrame * frame = (AVFrame *) data;
110     AVPicture * picture = (AVPicture *) data;
111
112     frame->interlaced_frame = avctx->coded_frame->interlaced_frame;
113     frame->top_field_first = avctx->coded_frame->top_field_first;
114
115     //4bpp raw in avi and mov (yes this is ugly ...)
116     if(avctx->bits_per_coded_sample == 4 && avctx->pix_fmt==PIX_FMT_PAL8 &&
117        (!avctx->codec_tag || avctx->codec_tag == MKTAG('r','a','w',' '))){
118         int i;
119         for(i=256*2; i+1 < context->length>>1; i++){
120             context->buffer[2*i+0]= buf[i-256*2]>>4;
121             context->buffer[2*i+1]= buf[i-256*2]&15;
122         }
123         buf= context->buffer + 256*4;
124         buf_size= context->length - 256*4;
125     }
126
127     if(buf_size < context->length - (avctx->pix_fmt==PIX_FMT_PAL8 ? 256*4 : 0))
128         return -1;
129
130     avpicture_fill(picture, buf, avctx->pix_fmt, avctx->width, avctx->height);
131     if(avctx->pix_fmt==PIX_FMT_PAL8 && buf_size < context->length){
132         frame->data[1]= context->buffer;
133     }
134     if (avctx->palctrl && avctx->palctrl->palette_changed) {
135         memcpy(frame->data[1], avctx->palctrl->palette, AVPALETTE_SIZE);
136         avctx->palctrl->palette_changed = 0;
137     }
138
139     if(context->flip)
140         flip(avctx, picture);
141
142     if (avctx->codec_tag == MKTAG('Y', 'V', '1', '2'))
143     {
144         // swap fields
145         unsigned char *tmp = picture->data[1];
146         picture->data[1] = picture->data[2];
147         picture->data[2] = tmp;
148     }
149
150     if(avctx->codec_tag == AV_RL32("yuv2") &&
151        avctx->pix_fmt   == PIX_FMT_YUYV422) {
152         int x, y;
153         uint8_t *line = picture->data[0];
154         for(y = 0; y < avctx->height; y++) {
155             for(x = 0; x < avctx->width; x++)
156                 line[2*x + 1] ^= 0x80;
157             line += picture->linesize[0];
158         }
159     }
160
161     *data_size = sizeof(AVPicture);
162     return buf_size;
163 }
164
165 static av_cold int raw_close_decoder(AVCodecContext *avctx)
166 {
167     RawVideoContext *context = avctx->priv_data;
168
169     av_freep(&context->buffer);
170     return 0;
171 }
172
173 AVCodec rawvideo_decoder = {
174     "rawvideo",
175     CODEC_TYPE_VIDEO,
176     CODEC_ID_RAWVIDEO,
177     sizeof(RawVideoContext),
178     raw_init_decoder,
179     NULL,
180     raw_close_decoder,
181     raw_decode,
182     .long_name = NULL_IF_CONFIG_SMALL("raw video"),
183 };