roqaudioenc: use AVCodecContext.frame_size correctly.
[ffmpeg.git] / libavcodec / roqaudioenc.c
1 /*
2  * RoQ audio encoder
3  *
4  * Copyright (c) 2005 Eric Lasota
5  *    Based on RoQ specs (c)2001 Tim Ferguson
6  *
7  * This file is part of Libav.
8  *
9  * Libav is free software; you can redistribute it and/or
10  * modify it under the terms of the GNU Lesser General Public
11  * License as published by the Free Software Foundation; either
12  * version 2.1 of the License, or (at your option) any later version.
13  *
14  * Libav is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
17  * Lesser General Public License for more details.
18  *
19  * You should have received a copy of the GNU Lesser General Public
20  * License along with Libav; if not, write to the Free Software
21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
22  */
23
24 #include "libavutil/intmath.h"
25 #include "avcodec.h"
26 #include "bytestream.h"
27
28 #define ROQ_FRAME_SIZE           735
29 #define ROQ_HEADER_SIZE   8
30
31 #define MAX_DPCM (127*127)
32
33
34 typedef struct
35 {
36     short lastSample[2];
37     int input_frames;
38     int buffered_samples;
39     int16_t *frame_buffer;
40 } ROQDPCMContext;
41
42
43 static av_cold int roq_dpcm_encode_close(AVCodecContext *avctx)
44 {
45     ROQDPCMContext *context = avctx->priv_data;
46
47     av_freep(&avctx->coded_frame);
48     av_freep(&context->frame_buffer);
49
50     return 0;
51 }
52
53 static av_cold int roq_dpcm_encode_init(AVCodecContext *avctx)
54 {
55     ROQDPCMContext *context = avctx->priv_data;
56     int ret;
57
58     if (avctx->channels > 2) {
59         av_log(avctx, AV_LOG_ERROR, "Audio must be mono or stereo\n");
60         return -1;
61     }
62     if (avctx->sample_rate != 22050) {
63         av_log(avctx, AV_LOG_ERROR, "Audio must be 22050 Hz\n");
64         return -1;
65     }
66
67     avctx->frame_size = ROQ_FRAME_SIZE;
68
69     context->frame_buffer = av_malloc(8 * ROQ_FRAME_SIZE * avctx->channels *
70                                       sizeof(*context->frame_buffer));
71     if (!context->frame_buffer) {
72         ret = AVERROR(ENOMEM);
73         goto error;
74     }
75
76     context->lastSample[0] = context->lastSample[1] = 0;
77
78     avctx->coded_frame= avcodec_alloc_frame();
79     if (!avctx->coded_frame) {
80         ret = AVERROR(ENOMEM);
81         goto error;
82     }
83
84     return 0;
85 error:
86     roq_dpcm_encode_close(avctx);
87     return ret;
88 }
89
90 static unsigned char dpcm_predict(short *previous, short current)
91 {
92     int diff;
93     int negative;
94     int result;
95     int predicted;
96
97     diff = current - *previous;
98
99     negative = diff<0;
100     diff = FFABS(diff);
101
102     if (diff >= MAX_DPCM)
103         result = 127;
104     else {
105         result = ff_sqrt(diff);
106         result += diff > result*result+result;
107     }
108
109     /* See if this overflows */
110  retry:
111     diff = result*result;
112     if (negative)
113         diff = -diff;
114     predicted = *previous + diff;
115
116     /* If it overflows, back off a step */
117     if (predicted > 32767 || predicted < -32768) {
118         result--;
119         goto retry;
120     }
121
122     /* Add the sign bit */
123     result |= negative << 7;   //if (negative) result |= 128;
124
125     *previous = predicted;
126
127     return result;
128 }
129
130 static int roq_dpcm_encode_frame(AVCodecContext *avctx,
131                 unsigned char *frame, int buf_size, void *data)
132 {
133     int i, stereo, data_size;
134     const int16_t *in = data;
135     uint8_t *out = frame;
136     ROQDPCMContext *context = avctx->priv_data;
137
138     stereo = (avctx->channels == 2);
139
140     if (!data && context->input_frames >= 8)
141         return 0;
142
143     if (data && context->input_frames < 8) {
144         memcpy(&context->frame_buffer[context->buffered_samples * avctx->channels],
145                in, avctx->frame_size * avctx->channels * sizeof(*in));
146         context->buffered_samples += avctx->frame_size;
147         if (context->input_frames < 7) {
148             context->input_frames++;
149             return 0;
150         }
151         in = context->frame_buffer;
152     }
153
154     if (stereo) {
155         context->lastSample[0] &= 0xFF00;
156         context->lastSample[1] &= 0xFF00;
157     }
158
159     if (context->input_frames == 7 || !data)
160         data_size = avctx->channels * context->buffered_samples;
161     else
162         data_size = avctx->channels * avctx->frame_size;
163
164     if (buf_size < ROQ_HEADER_SIZE + data_size) {
165         av_log(avctx, AV_LOG_ERROR, "output buffer is too small\n");
166         return AVERROR(EINVAL);
167     }
168
169     bytestream_put_byte(&out, stereo ? 0x21 : 0x20);
170     bytestream_put_byte(&out, 0x10);
171     bytestream_put_le32(&out, data_size);
172
173     if (stereo) {
174         bytestream_put_byte(&out, (context->lastSample[1])>>8);
175         bytestream_put_byte(&out, (context->lastSample[0])>>8);
176     } else
177         bytestream_put_le16(&out, context->lastSample[0]);
178
179     /* Write the actual samples */
180     for (i = 0; i < data_size; i++)
181         *out++ = dpcm_predict(&context->lastSample[i & 1], *in++);
182
183     context->input_frames++;
184     if (!data)
185         context->input_frames = FFMAX(context->input_frames, 8);
186
187     /* Return the result size */
188     return ROQ_HEADER_SIZE + data_size;
189 }
190
191 AVCodec ff_roq_dpcm_encoder = {
192     .name           = "roq_dpcm",
193     .type           = AVMEDIA_TYPE_AUDIO,
194     .id             = CODEC_ID_ROQ_DPCM,
195     .priv_data_size = sizeof(ROQDPCMContext),
196     .init           = roq_dpcm_encode_init,
197     .encode         = roq_dpcm_encode_frame,
198     .close          = roq_dpcm_encode_close,
199     .capabilities   = CODEC_CAP_DELAY,
200     .sample_fmts = (const enum AVSampleFormat[]){AV_SAMPLE_FMT_S16,AV_SAMPLE_FMT_NONE},
201     .long_name = NULL_IF_CONFIG_SMALL("id RoQ DPCM"),
202 };