avrndec: support lowres for mjpeg
[ffmpeg.git] / libavcodec / avrndec.c
1 /*
2  * AVRn decoder
3  * Copyright (c) 2012 Michael Niedermayer
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "avcodec.h"
23 #include "mjpeg.h"
24 #include "mjpegdec.h"
25
26 typedef struct {
27     MJpegDecodeContext mjpeg_ctx;
28     AVFrame frame;
29     int is_mjpeg;
30     int interlace; //FIXME use frame.interlaced_frame
31     int tff;
32 } AVRnContext;
33
34 static av_cold int init(AVCodecContext *avctx)
35 {
36     AVRnContext *a = avctx->priv_data;
37
38     // Support "Resolution 1:1" for Avid AVI Codec
39     a->is_mjpeg = avctx->extradata_size < 31 || memcmp(&avctx->extradata[28], "1:1", 3);
40
41     if(!a->is_mjpeg && avctx->lowres) {
42         av_log(avctx, AV_LOG_ERROR, "lowres is not possible with rawvideo\n");
43         return AVERROR(EINVAL);
44     }
45
46     if(a->is_mjpeg)
47         return ff_mjpeg_decode_init(avctx);
48
49     if(avctx->width <= 0 || avctx->height <= 0)
50         return AVERROR_INVALIDDATA;
51
52     avcodec_get_frame_defaults(&a->frame);
53     avctx->pix_fmt = AV_PIX_FMT_UYVY422;
54
55     if(avctx->extradata_size >= 9 && avctx->extradata[4]+28 < avctx->extradata_size) {
56         int ndx = avctx->extradata[4] + 4;
57         a->interlace = !memcmp(avctx->extradata + ndx, "1:1(", 4);
58         if(a->interlace) {
59             a->tff = avctx->extradata[ndx + 24] == 1;
60         }
61     }
62
63     return 0;
64 }
65
66 static av_cold int end(AVCodecContext *avctx)
67 {
68     AVRnContext *a = avctx->priv_data;
69     AVFrame *p = &a->frame;
70
71     if(p->data[0])
72         avctx->release_buffer(avctx, p);
73
74     if(a->is_mjpeg)
75         ff_mjpeg_decode_end(avctx);
76
77     return 0;
78 }
79
80 static int decode_frame(AVCodecContext *avctx, void *data, int *data_size, AVPacket *avpkt)
81 {
82     AVRnContext *a = avctx->priv_data;
83     AVFrame *p = &a->frame;
84     const uint8_t *buf = avpkt->data;
85     int buf_size       = avpkt->size;
86     int y, ret, true_height;
87
88     if(a->is_mjpeg)
89         return ff_mjpeg_decode_frame(avctx, data, data_size, avpkt);
90
91     true_height    = buf_size / (2*avctx->width);
92     if(p->data[0])
93         avctx->release_buffer(avctx, p);
94
95     if(buf_size < 2*avctx->width * avctx->height) {
96         av_log(avctx, AV_LOG_ERROR, "packet too small\n");
97         return AVERROR_INVALIDDATA;
98     }
99
100     if((ret = avctx->get_buffer(avctx, p)) < 0){
101         av_log(avctx, AV_LOG_ERROR, "get_buffer() failed\n");
102         return ret;
103     }
104     p->pict_type= AV_PICTURE_TYPE_I;
105     p->key_frame= 1;
106
107     if(a->interlace) {
108         buf += (true_height - avctx->height)*avctx->width;
109         for(y = 0; y < avctx->height-1; y+=2) {
110             memcpy(p->data[0] + (y+ a->tff)*p->linesize[0], buf                             , 2*avctx->width);
111             memcpy(p->data[0] + (y+!a->tff)*p->linesize[0], buf + avctx->width*true_height+4, 2*avctx->width);
112             buf += 2*avctx->width;
113         }
114     } else {
115         buf += (true_height - avctx->height)*avctx->width*2;
116         for(y = 0; y < avctx->height; y++) {
117             memcpy(p->data[0] + y*p->linesize[0], buf, 2*avctx->width);
118             buf += 2*avctx->width;
119         }
120     }
121
122     *(AVFrame*)data = a->frame;
123     *data_size      = sizeof(AVFrame);
124     return buf_size;
125 }
126
127 AVCodec ff_avrn_decoder = {
128     .name           = "avrn",
129     .type           = AVMEDIA_TYPE_VIDEO,
130     .id             = AV_CODEC_ID_AVRN,
131     .priv_data_size = sizeof(AVRnContext),
132     .init           = init,
133     .close          = end,
134     .decode         = decode_frame,
135     .long_name      = NULL_IF_CONFIG_SMALL("Avid AVI Codec"),
136     .capabilities   = CODEC_CAP_DR1,
137     .max_lowres     = 3,
138 };
139