Solving memory leak and initialization problem with prev_pkt / pkt.
[ffmpeg.git] / libavformat / a64.c
1 /*
2  * a64 muxer
3  * Copyright (c) 2009 Tobias Bindhammer
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "libavcodec/avcodec.h"
23 #include "libavcodec/a64enc.h"
24 #include "libavcodec/bytestream.h"
25 #include "avformat.h"
26
27 typedef struct A64MuxerContext {
28     int interleaved;
29     AVPacket prev_pkt;
30     int prev_frame_count;
31 } A64MuxerContext;
32
33 static int a64_write_header(struct AVFormatContext *s)
34 {
35     AVCodecContext *avctx = s->streams[0]->codec;
36     A64MuxerContext *c = s->priv_data;
37     uint8_t header[5] = {
38         0x00, //load
39         0x40, //address
40         0x00, //mode
41         0x00, //charset_lifetime (multi only)
42         0x00  //fps in 50/fps;
43     };
44     c->interleaved = 0;
45     switch (avctx->codec->id) {
46     case CODEC_ID_A64_MULTI:
47         header[2] = 0x00;
48         header[3] = AV_RB32(avctx->extradata+0);
49         header[4] = 2;
50         break;
51     case CODEC_ID_A64_MULTI5:
52         header[2] = 0x01;
53         header[3] = AV_RB32(avctx->extradata+0);
54         header[4] = 3;
55         break;
56     default:
57         return AVERROR(EINVAL);
58         break;
59     }
60     put_buffer(s->pb, header, 2);
61     c->prev_pkt.size = 0;
62     c->prev_frame_count = 0;
63     return 0;
64 }
65
66 static int a64_write_packet(struct AVFormatContext *s, AVPacket *pkt)
67 {
68     AVCodecContext *avctx = s->streams[0]->codec;
69     A64MuxerContext *c = s->priv_data;
70     int i, j;
71     int ch_chunksize;
72     int lifetime;
73     int frame_count;
74     int charset_size;
75     int frame_size;
76     int num_frames;
77
78     /* fetch values from extradata */
79     switch (avctx->codec->id) {
80     case CODEC_ID_A64_MULTI:
81     case CODEC_ID_A64_MULTI5:
82         if(c->interleaved) {
83             /* Write interleaved, means we insert chunks of the future charset before each current frame.
84              * Reason: if we load 1 charset + corresponding frames in one block on c64, we need to store
85              * them first and then display frame by frame to keep in sync. Thus we would read and write
86              * the data for colram from/to ram first and waste too much time. If we interleave and send the
87              * charset beforehand, we assemble a new charset chunk by chunk, write current screen data to
88              * screen-ram to be displayed and decode the colram directly to colram-location $d800 during
89              * the overscan, while reading directly from source
90              * This is the only way so far, to achieve 25fps on c64 */
91             if(avctx->extradata) {
92                 /* fetch values from extradata */
93                 lifetime     = AV_RB32(avctx->extradata + 0);
94                 frame_count  = AV_RB32(avctx->extradata + 4);
95                 charset_size = AV_RB32(avctx->extradata + 8);
96                 frame_size   = AV_RB32(avctx->extradata + 12);
97
98                 /* TODO: sanity checks? */
99             }
100             else {
101                 av_log(avctx, AV_LOG_ERROR, "extradata not set\n");
102                 return AVERROR(EINVAL);
103             }
104             ch_chunksize=charset_size/lifetime;
105             /* TODO: check if charset/size is % lifetime, but maybe check in codec */
106             if(pkt->data) num_frames = lifetime;
107             else num_frames = c->prev_frame_count;
108             for(i = 0; i < num_frames; i++) {
109                 if(pkt->data) {
110                     /* if available, put newest charset chunk into buffer */
111                     put_buffer(s->pb, pkt->data + ch_chunksize * i, ch_chunksize);
112                 }
113                 else {
114                     /* a bit ugly, but is there an alternative to put many zeros? */
115                     for(j = 0; j < ch_chunksize; j++) put_byte(s->pb, 0);
116                 }
117                 if(c->prev_pkt.data) {
118                     /* put frame (screen + colram) from last packet into buffer */
119                     put_buffer(s->pb, c->prev_pkt.data + charset_size + frame_size * i, frame_size);
120                 }
121                 else {
122                     /* a bit ugly, but is there an alternative to put many zeros? */
123                     for(j = 0; j < frame_size; j++) put_byte(s->pb, 0);
124                 }
125             }
126             /* backup current packet for next turn */
127             if(pkt->data) {
128                 /* no backup packet yet? create one! */
129                 if(!c->prev_pkt.data) av_new_packet(&c->prev_pkt, pkt->size);
130                 /* we have a packet and data is big enough, reuse it */
131                 if(c->prev_pkt.data && c->prev_pkt.size >= pkt->size) {
132                     memcpy(c->prev_pkt.data, pkt->data, pkt->size);
133                     c->prev_pkt.size = pkt->size;
134                 } else {
135                     av_log(avctx, AV_LOG_ERROR, "Too less memory for prev_pkt.\n");
136                     return AVERROR(ENOMEM);
137                 }
138             }
139             c->prev_frame_count = frame_count;
140             break;
141         }
142         default:
143             /* Write things as is. Nice for self-contained frames from non-multicolor modes or if played
144              * directly from ram and not from a streaming device (rrnet/mmc) */
145             if(pkt) put_buffer(s->pb, pkt->data, pkt->size);
146         break;
147     }
148
149     put_flush_packet(s->pb);
150     return 0;
151 }
152
153 static int a64_write_trailer(struct AVFormatContext *s)
154 {
155     A64MuxerContext *c = s->priv_data;
156     AVPacket pkt = {0};
157     /* need to flush last packet? */
158     if(c->interleaved) a64_write_packet(s, &pkt);
159     /* discard backed up packet */
160     if(c->prev_pkt.data) av_destruct_packet(&c->prev_pkt);
161     return 0;
162 }
163
164 AVOutputFormat a64_muxer = {
165     .name = "a64",
166     .long_name = NULL_IF_CONFIG_SMALL("a64 - video for Commodore 64"),
167     .mime_type = NULL,
168     .extensions = "a64, A64",
169     .priv_data_size = sizeof (A64Context),
170     .video_codec = CODEC_ID_A64_MULTI,
171     a64_write_header,
172     a64_write_packet,
173     a64_write_trailer
174 };