r210dec: check return value of avcodec_alloc_frame()
[ffmpeg.git] / libavcodec / r210dec.c
1 /*
2  * R210 decoder
3  *
4  * Copyright (c) 2009 Reimar Doeffinger <Reimar.Doeffinger@gmx.de>
5  *
6  * This file is part of FFmpeg.
7  *
8  * FFmpeg is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * FFmpeg is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with FFmpeg; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 #include "avcodec.h"
24 #include "libavutil/bswap.h"
25
26 static av_cold int decode_init(AVCodecContext *avctx)
27 {
28     avctx->pix_fmt             = PIX_FMT_RGB48;
29     avctx->bits_per_raw_sample = 10;
30
31     avctx->coded_frame         = avcodec_alloc_frame();
32     if (!avctx->coded_frame)
33         return AVERROR(ENOMEM);
34
35     return 0;
36 }
37
38 static int decode_frame(AVCodecContext *avctx, void *data, int *data_size,
39                         AVPacket *avpkt)
40 {
41     int h, w;
42     AVFrame *pic = avctx->coded_frame;
43     const uint32_t *src = (const uint32_t *)avpkt->data;
44     int aligned_width = FFALIGN(avctx->width, 64);
45     uint8_t *dst_line;
46
47     if (pic->data[0])
48         avctx->release_buffer(avctx, pic);
49
50     if (avpkt->size < 4 * aligned_width * avctx->height) {
51         av_log(avctx, AV_LOG_ERROR, "packet too small\n");
52         return -1;
53     }
54
55     pic->reference = 0;
56     if (avctx->get_buffer(avctx, pic) < 0)
57         return -1;
58
59     pic->pict_type = AV_PICTURE_TYPE_I;
60     pic->key_frame = 1;
61     dst_line = pic->data[0];
62
63     for (h = 0; h < avctx->height; h++) {
64         uint16_t *dst = (uint16_t *)dst_line;
65         for (w = 0; w < avctx->width; w++) {
66             uint32_t pixel;
67             uint16_t r, g, b;
68             if (avctx->codec_id==CODEC_ID_AVRP) {
69                 pixel = av_le2ne32(*src++);
70             } else {
71                 pixel = av_be2ne32(*src++);
72             }
73             if (avctx->codec_id==CODEC_ID_R210) {
74                 b =  pixel <<  6;
75                 g = (pixel >>  4) & 0xffc0;
76                 r = (pixel >> 14) & 0xffc0;
77             } else {
78                 b =  pixel <<  4;
79                 g = (pixel >>  6) & 0xffc0;
80                 r = (pixel >> 16) & 0xffc0;
81             }
82             *dst++ = r | (r >> 10);
83             *dst++ = g | (g >> 10);
84             *dst++ = b | (b >> 10);
85         }
86         src += aligned_width - avctx->width;
87         dst_line += pic->linesize[0];
88     }
89
90     *data_size = sizeof(AVFrame);
91     *(AVFrame*)data = *avctx->coded_frame;
92
93     return avpkt->size;
94 }
95
96 static av_cold int decode_close(AVCodecContext *avctx)
97 {
98     AVFrame *pic = avctx->coded_frame;
99     if (pic->data[0])
100         avctx->release_buffer(avctx, pic);
101     av_freep(&avctx->coded_frame);
102
103     return 0;
104 }
105
106 #if CONFIG_R210_DECODER
107 AVCodec ff_r210_decoder = {
108     .name           = "r210",
109     .type           = AVMEDIA_TYPE_VIDEO,
110     .id             = CODEC_ID_R210,
111     .init           = decode_init,
112     .close          = decode_close,
113     .decode         = decode_frame,
114     .capabilities   = CODEC_CAP_DR1,
115     .long_name = NULL_IF_CONFIG_SMALL("Uncompressed RGB 10-bit"),
116 };
117 #endif
118 #if CONFIG_R10K_DECODER
119 AVCodec ff_r10k_decoder = {
120     .name           = "r10k",
121     .type           = AVMEDIA_TYPE_VIDEO,
122     .id             = CODEC_ID_R10K,
123     .init           = decode_init,
124     .close          = decode_close,
125     .decode         = decode_frame,
126     .capabilities   = CODEC_CAP_DR1,
127     .long_name = NULL_IF_CONFIG_SMALL("AJA Kona 10-bit RGB Codec"),
128 };
129 #endif
130 #if CONFIG_AVRP_DECODER
131 AVCodec ff_avrp_decoder = {
132     .name           = "avrp",
133     .type           = AVMEDIA_TYPE_VIDEO,
134     .id             = CODEC_ID_AVRP,
135     .init           = decode_init,
136     .close          = decode_close,
137     .decode         = decode_frame,
138     .capabilities   = CODEC_CAP_DR1,
139     .long_name = NULL_IF_CONFIG_SMALL("Avid 1:1 10-bit RGB Packer"),
140 };
141 #endif