adpcmenc: Do not set coded_frame->key_frame.
[ffmpeg.git] / libavcodec / adpcmenc.c
1 /*
2  * Copyright (c) 2001-2003 The ffmpeg Project
3  *
4  * This file is part of Libav.
5  *
6  * Libav is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * Libav is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with Libav; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 #include "avcodec.h"
22 #include "get_bits.h"
23 #include "put_bits.h"
24 #include "bytestream.h"
25 #include "adpcm.h"
26 #include "adpcm_data.h"
27
28 /**
29  * @file
30  * ADPCM encoders
31  * First version by Francois Revol (revol@free.fr)
32  * Fringe ADPCM codecs (e.g., DK3, DK4, Westwood)
33  *   by Mike Melanson (melanson@pcisys.net)
34  *
35  * See ADPCM decoder reference documents for codec information.
36  */
37
38 typedef struct TrellisPath {
39     int nibble;
40     int prev;
41 } TrellisPath;
42
43 typedef struct TrellisNode {
44     uint32_t ssd;
45     int path;
46     int sample1;
47     int sample2;
48     int step;
49 } TrellisNode;
50
51 typedef struct ADPCMEncodeContext {
52     ADPCMChannelStatus status[6];
53     TrellisPath *paths;
54     TrellisNode *node_buf;
55     TrellisNode **nodep_buf;
56     uint8_t *trellis_hash;
57 } ADPCMEncodeContext;
58
59 #define FREEZE_INTERVAL 128
60
61 static av_cold int adpcm_encode_init(AVCodecContext *avctx)
62 {
63     ADPCMEncodeContext *s = avctx->priv_data;
64     uint8_t *extradata;
65     int i;
66     if (avctx->channels > 2)
67         return -1; /* only stereo or mono =) */
68
69     if (avctx->trellis && (unsigned)avctx->trellis > 16U) {
70         av_log(avctx, AV_LOG_ERROR, "invalid trellis size\n");
71         return -1;
72     }
73
74     if (avctx->trellis) {
75         int frontier  = 1 << avctx->trellis;
76         int max_paths =  frontier * FREEZE_INTERVAL;
77         FF_ALLOC_OR_GOTO(avctx, s->paths,
78                          max_paths * sizeof(*s->paths), error);
79         FF_ALLOC_OR_GOTO(avctx, s->node_buf,
80                          2 * frontier * sizeof(*s->node_buf),  error);
81         FF_ALLOC_OR_GOTO(avctx, s->nodep_buf,
82                          2 * frontier * sizeof(*s->nodep_buf), error);
83         FF_ALLOC_OR_GOTO(avctx, s->trellis_hash,
84                          65536 * sizeof(*s->trellis_hash), error);
85     }
86
87     avctx->bits_per_coded_sample = av_get_bits_per_sample(avctx->codec->id);
88
89     switch (avctx->codec->id) {
90     case CODEC_ID_ADPCM_IMA_WAV:
91         /* each 16 bits sample gives one nibble
92            and we have 4 bytes per channel overhead */
93         avctx->frame_size = (BLKSIZE - 4 * avctx->channels) * 8 /
94                             (4 * avctx->channels) + 1;
95         /* seems frame_size isn't taken into account...
96            have to buffer the samples :-( */
97         avctx->block_align = BLKSIZE;
98         break;
99     case CODEC_ID_ADPCM_IMA_QT:
100         avctx->frame_size  = 64;
101         avctx->block_align = 34 * avctx->channels;
102         break;
103     case CODEC_ID_ADPCM_MS:
104         /* each 16 bits sample gives one nibble
105            and we have 7 bytes per channel overhead */
106         avctx->frame_size = (BLKSIZE - 7 * avctx->channels) * 2 /
107                              avctx->channels + 2;
108         avctx->block_align    = BLKSIZE;
109         avctx->extradata_size = 32;
110         extradata = avctx->extradata = av_malloc(avctx->extradata_size);
111         if (!extradata)
112             return AVERROR(ENOMEM);
113         bytestream_put_le16(&extradata, avctx->frame_size);
114         bytestream_put_le16(&extradata, 7); /* wNumCoef */
115         for (i = 0; i < 7; i++) {
116             bytestream_put_le16(&extradata, ff_adpcm_AdaptCoeff1[i] * 4);
117             bytestream_put_le16(&extradata, ff_adpcm_AdaptCoeff2[i] * 4);
118         }
119         break;
120     case CODEC_ID_ADPCM_YAMAHA:
121         avctx->frame_size  = BLKSIZE * avctx->channels;
122         avctx->block_align = BLKSIZE;
123         break;
124     case CODEC_ID_ADPCM_SWF:
125         if (avctx->sample_rate != 11025 &&
126             avctx->sample_rate != 22050 &&
127             avctx->sample_rate != 44100) {
128             av_log(avctx, AV_LOG_ERROR, "Sample rate must be 11025, "
129                    "22050 or 44100\n");
130             goto error;
131         }
132         avctx->frame_size = 512 * (avctx->sample_rate / 11025);
133         break;
134     default:
135         goto error;
136     }
137
138     avctx->coded_frame = avcodec_alloc_frame();
139
140     return 0;
141 error:
142     av_freep(&s->paths);
143     av_freep(&s->node_buf);
144     av_freep(&s->nodep_buf);
145     av_freep(&s->trellis_hash);
146     return -1;
147 }
148
149 static av_cold int adpcm_encode_close(AVCodecContext *avctx)
150 {
151     ADPCMEncodeContext *s = avctx->priv_data;
152     av_freep(&avctx->coded_frame);
153     av_freep(&s->paths);
154     av_freep(&s->node_buf);
155     av_freep(&s->nodep_buf);
156     av_freep(&s->trellis_hash);
157
158     return 0;
159 }
160
161
162 static inline unsigned char adpcm_ima_compress_sample(ADPCMChannelStatus *c,
163                                                       short sample)
164 {
165     int delta  = sample - c->prev_sample;
166     int nibble = FFMIN(7, abs(delta) * 4 /
167                        ff_adpcm_step_table[c->step_index]) + (delta < 0) * 8;
168     c->prev_sample += ((ff_adpcm_step_table[c->step_index] *
169                         ff_adpcm_yamaha_difflookup[nibble]) / 8);
170     c->prev_sample = av_clip_int16(c->prev_sample);
171     c->step_index  = av_clip(c->step_index + ff_adpcm_index_table[nibble], 0, 88);
172     return nibble;
173 }
174
175 static inline unsigned char adpcm_ima_qt_compress_sample(ADPCMChannelStatus *c,
176                                                          short sample)
177 {
178     int delta  = sample - c->prev_sample;
179     int mask, step = ff_adpcm_step_table[c->step_index];
180     int diff   = step >> 3;
181     int nibble = 0;
182
183     if (delta < 0) {
184         nibble = 8;
185         delta  = -delta;
186     }
187
188     for (mask = 4; mask;) {
189         if (delta >= step) {
190             nibble |= mask;
191             delta  -= step;
192             diff   += step;
193         }
194         step >>= 1;
195         mask >>= 1;
196     }
197
198     if (nibble & 8)
199         c->prev_sample -= diff;
200     else
201         c->prev_sample += diff;
202
203     c->prev_sample = av_clip_int16(c->prev_sample);
204     c->step_index  = av_clip(c->step_index + ff_adpcm_index_table[nibble], 0, 88);
205
206     return nibble;
207 }
208
209 static inline unsigned char adpcm_ms_compress_sample(ADPCMChannelStatus *c,
210                                                      short sample)
211 {
212     int predictor, nibble, bias;
213
214     predictor = (((c->sample1) * (c->coeff1)) +
215                 (( c->sample2) * (c->coeff2))) / 64;
216
217     nibble = sample - predictor;
218     if (nibble >= 0)
219         bias =  c->idelta / 2;
220     else
221         bias = -c->idelta / 2;
222
223     nibble = (nibble + bias) / c->idelta;
224     nibble = av_clip(nibble, -8, 7) & 0x0F;
225
226     predictor += (signed)((nibble & 0x08) ? (nibble - 0x10) : nibble) * c->idelta;
227
228     c->sample2 = c->sample1;
229     c->sample1 = av_clip_int16(predictor);
230
231     c->idelta = (ff_adpcm_AdaptationTable[(int)nibble] * c->idelta) >> 8;
232     if (c->idelta < 16)
233         c->idelta = 16;
234
235     return nibble;
236 }
237
238 static inline unsigned char adpcm_yamaha_compress_sample(ADPCMChannelStatus *c,
239                                                          short sample)
240 {
241     int nibble, delta;
242
243     if (!c->step) {
244         c->predictor = 0;
245         c->step      = 127;
246     }
247
248     delta = sample - c->predictor;
249
250     nibble = FFMIN(7, abs(delta) * 4 / c->step) + (delta < 0) * 8;
251
252     c->predictor += ((c->step * ff_adpcm_yamaha_difflookup[nibble]) / 8);
253     c->predictor = av_clip_int16(c->predictor);
254     c->step = (c->step * ff_adpcm_yamaha_indexscale[nibble]) >> 8;
255     c->step = av_clip(c->step, 127, 24567);
256
257     return nibble;
258 }
259
260 static void adpcm_compress_trellis(AVCodecContext *avctx, const short *samples,
261                                    uint8_t *dst, ADPCMChannelStatus *c, int n)
262 {
263     //FIXME 6% faster if frontier is a compile-time constant
264     ADPCMEncodeContext *s = avctx->priv_data;
265     const int frontier = 1 << avctx->trellis;
266     const int stride   = avctx->channels;
267     const int version  = avctx->codec->id;
268     TrellisPath *paths       = s->paths, *p;
269     TrellisNode *node_buf    = s->node_buf;
270     TrellisNode **nodep_buf  = s->nodep_buf;
271     TrellisNode **nodes      = nodep_buf; // nodes[] is always sorted by .ssd
272     TrellisNode **nodes_next = nodep_buf + frontier;
273     int pathn = 0, froze = -1, i, j, k, generation = 0;
274     uint8_t *hash = s->trellis_hash;
275     memset(hash, 0xff, 65536 * sizeof(*hash));
276
277     memset(nodep_buf, 0, 2 * frontier * sizeof(*nodep_buf));
278     nodes[0]          = node_buf + frontier;
279     nodes[0]->ssd     = 0;
280     nodes[0]->path    = 0;
281     nodes[0]->step    = c->step_index;
282     nodes[0]->sample1 = c->sample1;
283     nodes[0]->sample2 = c->sample2;
284     if (version == CODEC_ID_ADPCM_IMA_WAV ||
285         version == CODEC_ID_ADPCM_IMA_QT  ||
286         version == CODEC_ID_ADPCM_SWF)
287         nodes[0]->sample1 = c->prev_sample;
288     if (version == CODEC_ID_ADPCM_MS)
289         nodes[0]->step = c->idelta;
290     if (version == CODEC_ID_ADPCM_YAMAHA) {
291         if (c->step == 0) {
292             nodes[0]->step    = 127;
293             nodes[0]->sample1 = 0;
294         } else {
295             nodes[0]->step    = c->step;
296             nodes[0]->sample1 = c->predictor;
297         }
298     }
299
300     for (i = 0; i < n; i++) {
301         TrellisNode *t = node_buf + frontier*(i&1);
302         TrellisNode **u;
303         int sample   = samples[i * stride];
304         int heap_pos = 0;
305         memset(nodes_next, 0, frontier * sizeof(TrellisNode*));
306         for (j = 0; j < frontier && nodes[j]; j++) {
307             // higher j have higher ssd already, so they're likely
308             // to yield a suboptimal next sample too
309             const int range = (j < frontier / 2) ? 1 : 0;
310             const int step  = nodes[j]->step;
311             int nidx;
312             if (version == CODEC_ID_ADPCM_MS) {
313                 const int predictor = ((nodes[j]->sample1 * c->coeff1) +
314                                        (nodes[j]->sample2 * c->coeff2)) / 64;
315                 const int div  = (sample - predictor) / step;
316                 const int nmin = av_clip(div-range, -8, 6);
317                 const int nmax = av_clip(div+range, -7, 7);
318                 for (nidx = nmin; nidx <= nmax; nidx++) {
319                     const int nibble = nidx & 0xf;
320                     int dec_sample   = predictor + nidx * step;
321 #define STORE_NODE(NAME, STEP_INDEX)\
322                     int d;\
323                     uint32_t ssd;\
324                     int pos;\
325                     TrellisNode *u;\
326                     uint8_t *h;\
327                     dec_sample = av_clip_int16(dec_sample);\
328                     d = sample - dec_sample;\
329                     ssd = nodes[j]->ssd + d*d;\
330                     /* Check for wraparound, skip such samples completely. \
331                      * Note, changing ssd to a 64 bit variable would be \
332                      * simpler, avoiding this check, but it's slower on \
333                      * x86 32 bit at the moment. */\
334                     if (ssd < nodes[j]->ssd)\
335                         goto next_##NAME;\
336                     /* Collapse any two states with the same previous sample value. \
337                      * One could also distinguish states by step and by 2nd to last
338                      * sample, but the effects of that are negligible.
339                      * Since nodes in the previous generation are iterated
340                      * through a heap, they're roughly ordered from better to
341                      * worse, but not strictly ordered. Therefore, an earlier
342                      * node with the same sample value is better in most cases
343                      * (and thus the current is skipped), but not strictly
344                      * in all cases. Only skipping samples where ssd >=
345                      * ssd of the earlier node with the same sample gives
346                      * slightly worse quality, though, for some reason. */ \
347                     h = &hash[(uint16_t) dec_sample];\
348                     if (*h == generation)\
349                         goto next_##NAME;\
350                     if (heap_pos < frontier) {\
351                         pos = heap_pos++;\
352                     } else {\
353                         /* Try to replace one of the leaf nodes with the new \
354                          * one, but try a different slot each time. */\
355                         pos = (frontier >> 1) +\
356                               (heap_pos & ((frontier >> 1) - 1));\
357                         if (ssd > nodes_next[pos]->ssd)\
358                             goto next_##NAME;\
359                         heap_pos++;\
360                     }\
361                     *h = generation;\
362                     u  = nodes_next[pos];\
363                     if (!u) {\
364                         assert(pathn < FREEZE_INTERVAL << avctx->trellis);\
365                         u = t++;\
366                         nodes_next[pos] = u;\
367                         u->path = pathn++;\
368                     }\
369                     u->ssd  = ssd;\
370                     u->step = STEP_INDEX;\
371                     u->sample2 = nodes[j]->sample1;\
372                     u->sample1 = dec_sample;\
373                     paths[u->path].nibble = nibble;\
374                     paths[u->path].prev   = nodes[j]->path;\
375                     /* Sift the newly inserted node up in the heap to \
376                      * restore the heap property. */\
377                     while (pos > 0) {\
378                         int parent = (pos - 1) >> 1;\
379                         if (nodes_next[parent]->ssd <= ssd)\
380                             break;\
381                         FFSWAP(TrellisNode*, nodes_next[parent], nodes_next[pos]);\
382                         pos = parent;\
383                     }\
384                     next_##NAME:;
385                     STORE_NODE(ms, FFMAX(16,
386                                (ff_adpcm_AdaptationTable[nibble] * step) >> 8));
387                 }
388             } else if (version == CODEC_ID_ADPCM_IMA_WAV ||
389                        version == CODEC_ID_ADPCM_IMA_QT  ||
390                        version == CODEC_ID_ADPCM_SWF) {
391 #define LOOP_NODES(NAME, STEP_TABLE, STEP_INDEX)\
392                 const int predictor = nodes[j]->sample1;\
393                 const int div = (sample - predictor) * 4 / STEP_TABLE;\
394                 int nmin = av_clip(div - range, -7, 6);\
395                 int nmax = av_clip(div + range, -6, 7);\
396                 if (nmin <= 0)\
397                     nmin--; /* distinguish -0 from +0 */\
398                 if (nmax < 0)\
399                     nmax--;\
400                 for (nidx = nmin; nidx <= nmax; nidx++) {\
401                     const int nibble = nidx < 0 ? 7 - nidx : nidx;\
402                     int dec_sample = predictor +\
403                                     (STEP_TABLE *\
404                                      ff_adpcm_yamaha_difflookup[nibble]) / 8;\
405                     STORE_NODE(NAME, STEP_INDEX);\
406                 }
407                 LOOP_NODES(ima, ff_adpcm_step_table[step],
408                            av_clip(step + ff_adpcm_index_table[nibble], 0, 88));
409             } else { //CODEC_ID_ADPCM_YAMAHA
410                 LOOP_NODES(yamaha, step,
411                            av_clip((step * ff_adpcm_yamaha_indexscale[nibble]) >> 8,
412                                    127, 24567));
413 #undef LOOP_NODES
414 #undef STORE_NODE
415             }
416         }
417
418         u = nodes;
419         nodes = nodes_next;
420         nodes_next = u;
421
422         generation++;
423         if (generation == 255) {
424             memset(hash, 0xff, 65536 * sizeof(*hash));
425             generation = 0;
426         }
427
428         // prevent overflow
429         if (nodes[0]->ssd > (1 << 28)) {
430             for (j = 1; j < frontier && nodes[j]; j++)
431                 nodes[j]->ssd -= nodes[0]->ssd;
432             nodes[0]->ssd = 0;
433         }
434
435         // merge old paths to save memory
436         if (i == froze + FREEZE_INTERVAL) {
437             p = &paths[nodes[0]->path];
438             for (k = i; k > froze; k--) {
439                 dst[k] = p->nibble;
440                 p = &paths[p->prev];
441             }
442             froze = i;
443             pathn = 0;
444             // other nodes might use paths that don't coincide with the frozen one.
445             // checking which nodes do so is too slow, so just kill them all.
446             // this also slightly improves quality, but I don't know why.
447             memset(nodes + 1, 0, (frontier - 1) * sizeof(TrellisNode*));
448         }
449     }
450
451     p = &paths[nodes[0]->path];
452     for (i = n - 1; i > froze; i--) {
453         dst[i] = p->nibble;
454         p = &paths[p->prev];
455     }
456
457     c->predictor  = nodes[0]->sample1;
458     c->sample1    = nodes[0]->sample1;
459     c->sample2    = nodes[0]->sample2;
460     c->step_index = nodes[0]->step;
461     c->step       = nodes[0]->step;
462     c->idelta     = nodes[0]->step;
463 }
464
465 static int adpcm_encode_frame(AVCodecContext *avctx,
466                               unsigned char *frame, int buf_size, void *data)
467 {
468     int n, i, st;
469     short *samples;
470     unsigned char *dst;
471     ADPCMEncodeContext *c = avctx->priv_data;
472     uint8_t *buf;
473
474     dst = frame;
475     samples = (short *)data;
476     st = avctx->channels == 2;
477     /* n = (BLKSIZE - 4 * avctx->channels) / (2 * 8 * avctx->channels); */
478
479     switch(avctx->codec->id) {
480     case CODEC_ID_ADPCM_IMA_WAV:
481         n = avctx->frame_size / 8;
482         c->status[0].prev_sample = (signed short)samples[0]; /* XXX */
483         /* c->status[0].step_index = 0;
484         XXX: not sure how to init the state machine */
485         bytestream_put_le16(&dst, c->status[0].prev_sample);
486         *dst++ = (unsigned char)c->status[0].step_index;
487         *dst++ = 0; /* unknown */
488         samples++;
489         if (avctx->channels == 2) {
490             c->status[1].prev_sample = (signed short)samples[0];
491             /* c->status[1].step_index = 0; */
492             bytestream_put_le16(&dst, c->status[1].prev_sample);
493             *dst++ = (unsigned char)c->status[1].step_index;
494             *dst++ = 0;
495             samples++;
496         }
497
498         /* stereo: 4 bytes (8 samples) for left,
499             4 bytes for right, 4 bytes left, ... */
500         if (avctx->trellis > 0) {
501             FF_ALLOC_OR_GOTO(avctx, buf, 2 * n * 8, error);
502             adpcm_compress_trellis(avctx, samples, buf, &c->status[0], n * 8);
503             if (avctx->channels == 2)
504                 adpcm_compress_trellis(avctx, samples + 1, buf + n * 8,
505                                        &c->status[1], n * 8);
506             for (i = 0; i < n; i++) {
507                 *dst++ = buf[8 * i + 0] | (buf[8 * i + 1] << 4);
508                 *dst++ = buf[8 * i + 2] | (buf[8 * i + 3] << 4);
509                 *dst++ = buf[8 * i + 4] | (buf[8 * i + 5] << 4);
510                 *dst++ = buf[8 * i + 6] | (buf[8 * i + 7] << 4);
511                 if (avctx->channels == 2) {
512                     uint8_t *buf1 = buf + n * 8;
513                     *dst++ = buf1[8 * i + 0] | (buf1[8 * i + 1] << 4);
514                     *dst++ = buf1[8 * i + 2] | (buf1[8 * i + 3] << 4);
515                     *dst++ = buf1[8 * i + 4] | (buf1[8 * i + 5] << 4);
516                     *dst++ = buf1[8 * i + 6] | (buf1[8 * i + 7] << 4);
517                 }
518             }
519             av_free(buf);
520         } else {
521             for (; n > 0; n--) {
522                 *dst    = adpcm_ima_compress_sample(&c->status[0], samples[0]);
523                 *dst++ |= adpcm_ima_compress_sample(&c->status[0], samples[avctx->channels    ]) << 4;
524                 *dst    = adpcm_ima_compress_sample(&c->status[0], samples[avctx->channels * 2]);
525                 *dst++ |= adpcm_ima_compress_sample(&c->status[0], samples[avctx->channels * 3]) << 4;
526                 *dst    = adpcm_ima_compress_sample(&c->status[0], samples[avctx->channels * 4]);
527                 *dst++ |= adpcm_ima_compress_sample(&c->status[0], samples[avctx->channels * 5]) << 4;
528                 *dst    = adpcm_ima_compress_sample(&c->status[0], samples[avctx->channels * 6]);
529                 *dst++ |= adpcm_ima_compress_sample(&c->status[0], samples[avctx->channels * 7]) << 4;
530                 /* right channel */
531                 if (avctx->channels == 2) {
532                     *dst    = adpcm_ima_compress_sample(&c->status[1], samples[1 ]);
533                     *dst++ |= adpcm_ima_compress_sample(&c->status[1], samples[3 ]) << 4;
534                     *dst    = adpcm_ima_compress_sample(&c->status[1], samples[5 ]);
535                     *dst++ |= adpcm_ima_compress_sample(&c->status[1], samples[7 ]) << 4;
536                     *dst    = adpcm_ima_compress_sample(&c->status[1], samples[9 ]);
537                     *dst++ |= adpcm_ima_compress_sample(&c->status[1], samples[11]) << 4;
538                     *dst    = adpcm_ima_compress_sample(&c->status[1], samples[13]);
539                     *dst++ |= adpcm_ima_compress_sample(&c->status[1], samples[15]) << 4;
540                 }
541                 samples += 8 * avctx->channels;
542             }
543         }
544         break;
545     case CODEC_ID_ADPCM_IMA_QT:
546     {
547         int ch, i;
548         PutBitContext pb;
549         init_put_bits(&pb, dst, buf_size * 8);
550
551         for (ch = 0; ch < avctx->channels; ch++) {
552             put_bits(&pb, 9, (c->status[ch].prev_sample + 0x10000) >> 7);
553             put_bits(&pb, 7,  c->status[ch].step_index);
554             if (avctx->trellis > 0) {
555                 uint8_t buf[64];
556                 adpcm_compress_trellis(avctx, samples+ch, buf, &c->status[ch], 64);
557                 for (i = 0; i < 64; i++)
558                     put_bits(&pb, 4, buf[i ^ 1]);
559             } else {
560                 for (i = 0; i < 64; i += 2) {
561                     int t1, t2;
562                     t1 = adpcm_ima_qt_compress_sample(&c->status[ch],
563                                                       samples[avctx->channels * (i + 0) + ch]);
564                     t2 = adpcm_ima_qt_compress_sample(&c->status[ch],
565                                                       samples[avctx->channels * (i + 1) + ch]);
566                     put_bits(&pb, 4, t2);
567                     put_bits(&pb, 4, t1);
568                 }
569             }
570         }
571
572         flush_put_bits(&pb);
573         dst += put_bits_count(&pb) >> 3;
574         break;
575     }
576     case CODEC_ID_ADPCM_SWF:
577     {
578         int i;
579         PutBitContext pb;
580         init_put_bits(&pb, dst, buf_size * 8);
581
582         n = avctx->frame_size - 1;
583
584         // store AdpcmCodeSize
585         put_bits(&pb, 2, 2);    // set 4-bit flash adpcm format
586
587         // init the encoder state
588         for (i = 0; i < avctx->channels; i++) {
589             // clip step so it fits 6 bits
590             c->status[i].step_index = av_clip(c->status[i].step_index, 0, 63);
591             put_sbits(&pb, 16, samples[i]);
592             put_bits(&pb, 6, c->status[i].step_index);
593             c->status[i].prev_sample = (signed short)samples[i];
594         }
595
596         if (avctx->trellis > 0) {
597             FF_ALLOC_OR_GOTO(avctx, buf, 2 * n, error);
598             adpcm_compress_trellis(avctx, samples + 2, buf, &c->status[0], n);
599             if (avctx->channels == 2)
600                 adpcm_compress_trellis(avctx, samples + 3, buf + n,
601                                        &c->status[1], n);
602             for (i = 0; i < n; i++) {
603                 put_bits(&pb, 4, buf[i]);
604                 if (avctx->channels == 2)
605                     put_bits(&pb, 4, buf[n + i]);
606             }
607             av_free(buf);
608         } else {
609             for (i = 1; i < avctx->frame_size; i++) {
610                 put_bits(&pb, 4, adpcm_ima_compress_sample(&c->status[0],
611                          samples[avctx->channels * i]));
612                 if (avctx->channels == 2)
613                     put_bits(&pb, 4, adpcm_ima_compress_sample(&c->status[1],
614                              samples[2 * i + 1]));
615             }
616         }
617         flush_put_bits(&pb);
618         dst += put_bits_count(&pb) >> 3;
619         break;
620     }
621     case CODEC_ID_ADPCM_MS:
622         for (i = 0; i < avctx->channels; i++) {
623             int predictor = 0;
624             *dst++ = predictor;
625             c->status[i].coeff1 = ff_adpcm_AdaptCoeff1[predictor];
626             c->status[i].coeff2 = ff_adpcm_AdaptCoeff2[predictor];
627         }
628         for (i = 0; i < avctx->channels; i++) {
629             if (c->status[i].idelta < 16)
630                 c->status[i].idelta = 16;
631             bytestream_put_le16(&dst, c->status[i].idelta);
632         }
633         for (i = 0; i < avctx->channels; i++)
634             c->status[i].sample2= *samples++;
635         for (i = 0; i < avctx->channels; i++) {
636             c->status[i].sample1 = *samples++;
637             bytestream_put_le16(&dst, c->status[i].sample1);
638         }
639         for (i = 0; i < avctx->channels; i++)
640             bytestream_put_le16(&dst, c->status[i].sample2);
641
642         if (avctx->trellis > 0) {
643             int n = avctx->block_align - 7 * avctx->channels;
644             FF_ALLOC_OR_GOTO(avctx, buf, 2 * n, error);
645             if (avctx->channels == 1) {
646                 adpcm_compress_trellis(avctx, samples, buf, &c->status[0], n);
647                 for (i = 0; i < n; i += 2)
648                     *dst++ = (buf[i] << 4) | buf[i + 1];
649             } else {
650                 adpcm_compress_trellis(avctx, samples,     buf,     &c->status[0], n);
651                 adpcm_compress_trellis(avctx, samples + 1, buf + n, &c->status[1], n);
652                 for (i = 0; i < n; i++)
653                     *dst++ = (buf[i] << 4) | buf[n + i];
654             }
655             av_free(buf);
656         } else {
657             for (i = 7 * avctx->channels; i < avctx->block_align; i++) {
658                 int nibble;
659                 nibble  = adpcm_ms_compress_sample(&c->status[ 0], *samples++) << 4;
660                 nibble |= adpcm_ms_compress_sample(&c->status[st], *samples++);
661                 *dst++  = nibble;
662             }
663         }
664         break;
665     case CODEC_ID_ADPCM_YAMAHA:
666         n = avctx->frame_size / 2;
667         if (avctx->trellis > 0) {
668             FF_ALLOC_OR_GOTO(avctx, buf, 2 * n * 2, error);
669             n *= 2;
670             if (avctx->channels == 1) {
671                 adpcm_compress_trellis(avctx, samples, buf, &c->status[0], n);
672                 for (i = 0; i < n; i += 2)
673                     *dst++ = buf[i] | (buf[i + 1] << 4);
674             } else {
675                 adpcm_compress_trellis(avctx, samples,     buf,     &c->status[0], n);
676                 adpcm_compress_trellis(avctx, samples + 1, buf + n, &c->status[1], n);
677                 for (i = 0; i < n; i++)
678                     *dst++ = buf[i] | (buf[n + i] << 4);
679             }
680             av_free(buf);
681         } else
682             for (n *= avctx->channels; n > 0; n--) {
683                 int nibble;
684                 nibble  = adpcm_yamaha_compress_sample(&c->status[ 0], *samples++);
685                 nibble |= adpcm_yamaha_compress_sample(&c->status[st], *samples++) << 4;
686                 *dst++  = nibble;
687             }
688         break;
689     default:
690     error:
691         return -1;
692     }
693     return dst - frame;
694 }
695
696
697 #define ADPCM_ENCODER(id_, name_, long_name_)               \
698 AVCodec ff_ ## name_ ## _encoder = {                        \
699     .name           = #name_,                               \
700     .type           = AVMEDIA_TYPE_AUDIO,                   \
701     .id             = id_,                                  \
702     .priv_data_size = sizeof(ADPCMEncodeContext),           \
703     .init           = adpcm_encode_init,                    \
704     .encode         = adpcm_encode_frame,                   \
705     .close          = adpcm_encode_close,                   \
706     .sample_fmts    = (const enum AVSampleFormat[]) { AV_SAMPLE_FMT_S16,   \
707                                                       AV_SAMPLE_FMT_NONE}, \
708     .long_name      = NULL_IF_CONFIG_SMALL(long_name_),     \
709 }
710
711 ADPCM_ENCODER(CODEC_ID_ADPCM_IMA_QT, adpcm_ima_qt,   "ADPCM IMA QuickTime");
712 ADPCM_ENCODER(CODEC_ID_ADPCM_IMA_WAV, adpcm_ima_wav, "ADPCM IMA WAV");
713 ADPCM_ENCODER(CODEC_ID_ADPCM_MS, adpcm_ms,           "ADPCM Microsoft");
714 ADPCM_ENCODER(CODEC_ID_ADPCM_SWF, adpcm_swf,         "ADPCM Shockwave Flash");
715 ADPCM_ENCODER(CODEC_ID_ADPCM_YAMAHA, adpcm_yamaha,   "ADPCM Yamaha");