truemotion2: handle out-of-frame motion vectors through edge extension.
[ffmpeg.git] / libavcodec / truemotion2.c
1 /*
2  * Duck/ON2 TrueMotion 2 Decoder
3  * Copyright (c) 2005 Konstantin Shishkov
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * Duck TrueMotion2 decoder.
25  */
26
27 #include "avcodec.h"
28 #include "bytestream.h"
29 #include "get_bits.h"
30 #include "dsputil.h"
31
32 #define TM2_ESCAPE 0x80000000
33 #define TM2_DELTAS 64
34 /* Huffman-coded streams of different types of blocks */
35 enum TM2_STREAMS{ TM2_C_HI = 0, TM2_C_LO, TM2_L_HI, TM2_L_LO,
36      TM2_UPD, TM2_MOT, TM2_TYPE, TM2_NUM_STREAMS};
37 /* Block types */
38 enum TM2_BLOCKS{ TM2_HI_RES = 0, TM2_MED_RES, TM2_LOW_RES, TM2_NULL_RES,
39                  TM2_UPDATE, TM2_STILL, TM2_MOTION};
40
41 typedef struct TM2Context{
42     AVCodecContext *avctx;
43     AVFrame pic;
44
45     GetBitContext gb;
46     DSPContext dsp;
47
48     /* TM2 streams */
49     int *tokens[TM2_NUM_STREAMS];
50     int tok_lens[TM2_NUM_STREAMS];
51     int tok_ptrs[TM2_NUM_STREAMS];
52     int deltas[TM2_NUM_STREAMS][TM2_DELTAS];
53     /* for blocks decoding */
54     int D[4];
55     int CD[4];
56     int *last;
57     int *clast;
58
59     /* data for current and previous frame */
60     int *Y1_base, *U1_base, *V1_base, *Y2_base, *U2_base, *V2_base;
61     int *Y1, *U1, *V1, *Y2, *U2, *V2;
62     int y_stride, uv_stride;
63     int cur;
64 } TM2Context;
65
66 /**
67 * Huffman codes for each of streams
68 */
69 typedef struct TM2Codes{
70     VLC vlc; ///< table for Libav bitstream reader
71     int bits;
72     int *recode; ///< table for converting from code indexes to values
73     int length;
74 } TM2Codes;
75
76 /**
77 * structure for gathering Huffman codes information
78 */
79 typedef struct TM2Huff{
80     int val_bits; ///< length of literal
81     int max_bits; ///< maximum length of code
82     int min_bits; ///< minimum length of code
83     int nodes; ///< total number of nodes in tree
84     int num; ///< current number filled
85     int max_num; ///< total number of codes
86     int *nums; ///< literals
87     uint32_t *bits; ///< codes
88     int *lens; ///< codelengths
89 } TM2Huff;
90
91 static int tm2_read_tree(TM2Context *ctx, uint32_t prefix, int length, TM2Huff *huff)
92 {
93     if(length > huff->max_bits) {
94         av_log(ctx->avctx, AV_LOG_ERROR, "Tree exceeded its given depth (%i)\n", huff->max_bits);
95         return -1;
96     }
97
98     if(!get_bits1(&ctx->gb)) { /* literal */
99         if (length == 0) {
100             length = 1;
101         }
102         if(huff->num >= huff->max_num) {
103             av_log(ctx->avctx, AV_LOG_DEBUG, "Too many literals\n");
104             return -1;
105         }
106         huff->nums[huff->num] = get_bits_long(&ctx->gb, huff->val_bits);
107         huff->bits[huff->num] = prefix;
108         huff->lens[huff->num] = length;
109         huff->num++;
110         return 0;
111     } else { /* non-terminal node */
112         if(tm2_read_tree(ctx, prefix << 1, length + 1, huff) == -1)
113             return -1;
114         if(tm2_read_tree(ctx, (prefix << 1) | 1, length + 1, huff) == -1)
115             return -1;
116     }
117     return 0;
118 }
119
120 static int tm2_build_huff_table(TM2Context *ctx, TM2Codes *code)
121 {
122     TM2Huff huff;
123     int res = 0;
124
125     huff.val_bits = get_bits(&ctx->gb, 5);
126     huff.max_bits = get_bits(&ctx->gb, 5);
127     huff.min_bits = get_bits(&ctx->gb, 5);
128     huff.nodes = get_bits_long(&ctx->gb, 17);
129     huff.num = 0;
130
131     /* check for correct codes parameters */
132     if((huff.val_bits < 1) || (huff.val_bits > 32) ||
133        (huff.max_bits < 0) || (huff.max_bits > 32)) {
134         av_log(ctx->avctx, AV_LOG_ERROR, "Incorrect tree parameters - literal length: %i, max code length: %i\n",
135                huff.val_bits, huff.max_bits);
136         return -1;
137     }
138     if((huff.nodes <= 0) || (huff.nodes > 0x10000)) {
139         av_log(ctx->avctx, AV_LOG_ERROR, "Incorrect number of Huffman tree nodes: %i\n", huff.nodes);
140         return -1;
141     }
142     /* one-node tree */
143     if(huff.max_bits == 0)
144         huff.max_bits = 1;
145
146     /* allocate space for codes - it is exactly ceil(nodes / 2) entries */
147     huff.max_num = (huff.nodes + 1) >> 1;
148     huff.nums = av_mallocz(huff.max_num * sizeof(int));
149     huff.bits = av_mallocz(huff.max_num * sizeof(uint32_t));
150     huff.lens = av_mallocz(huff.max_num * sizeof(int));
151
152     if(tm2_read_tree(ctx, 0, 0, &huff) == -1)
153         res = -1;
154
155     if(huff.num != huff.max_num) {
156         av_log(ctx->avctx, AV_LOG_ERROR, "Got less codes than expected: %i of %i\n",
157                huff.num, huff.max_num);
158         res = -1;
159     }
160
161     /* convert codes to vlc_table */
162     if(res != -1) {
163         int i;
164
165         res = init_vlc(&code->vlc, huff.max_bits, huff.max_num,
166                     huff.lens, sizeof(int), sizeof(int),
167                     huff.bits, sizeof(uint32_t), sizeof(uint32_t), 0);
168         if(res < 0) {
169             av_log(ctx->avctx, AV_LOG_ERROR, "Cannot build VLC table\n");
170             res = -1;
171         } else
172             res = 0;
173         if(res != -1) {
174             code->bits = huff.max_bits;
175             code->length = huff.max_num;
176             code->recode = av_malloc(code->length * sizeof(int));
177             for(i = 0; i < code->length; i++)
178                 code->recode[i] = huff.nums[i];
179         }
180     }
181     /* free allocated memory */
182     av_free(huff.nums);
183     av_free(huff.bits);
184     av_free(huff.lens);
185
186     return res;
187 }
188
189 static void tm2_free_codes(TM2Codes *code)
190 {
191     av_free(code->recode);
192     if(code->vlc.table)
193         ff_free_vlc(&code->vlc);
194 }
195
196 static inline int tm2_get_token(GetBitContext *gb, TM2Codes *code)
197 {
198     int val;
199     val = get_vlc2(gb, code->vlc.table, code->bits, 1);
200     return code->recode[val];
201 }
202
203 static inline int tm2_read_header(TM2Context *ctx, const uint8_t *buf)
204 {
205     uint32_t magic;
206     const uint8_t *obuf;
207
208     obuf = buf;
209
210     magic = AV_RL32(buf);
211     buf += 4;
212
213     if(magic == 0x00000100) { /* old header */
214 /*      av_log (ctx->avctx, AV_LOG_ERROR, "TM2 old header: not implemented (yet)\n"); */
215         return 40;
216     } else if(magic == 0x00000101) { /* new header */
217         return 40;
218     } else {
219         av_log (ctx->avctx, AV_LOG_ERROR, "Not a TM2 header: 0x%08X\n", magic);
220         return -1;
221     }
222
223     return buf - obuf;
224 }
225
226 static int tm2_read_deltas(TM2Context *ctx, int stream_id) {
227     int d, mb;
228     int i, v;
229
230     d = get_bits(&ctx->gb, 9);
231     mb = get_bits(&ctx->gb, 5);
232
233     if((d < 1) || (d > TM2_DELTAS) || (mb < 1) || (mb > 32)) {
234         av_log(ctx->avctx, AV_LOG_ERROR, "Incorrect delta table: %i deltas x %i bits\n", d, mb);
235         return -1;
236     }
237
238     for(i = 0; i < d; i++) {
239         v = get_bits_long(&ctx->gb, mb);
240         if(v & (1 << (mb - 1)))
241             ctx->deltas[stream_id][i] = v - (1 << mb);
242         else
243             ctx->deltas[stream_id][i] = v;
244     }
245     for(; i < TM2_DELTAS; i++)
246         ctx->deltas[stream_id][i] = 0;
247
248     return 0;
249 }
250
251 static int tm2_read_stream(TM2Context *ctx, const uint8_t *buf, int stream_id, int buf_size)
252 {
253     int i;
254     int skip = 0;
255     int len, toks, pos;
256     TM2Codes codes;
257     GetByteContext gb;
258
259     /* get stream length in dwords */
260     bytestream2_init(&gb, buf, buf_size);
261     len  = bytestream2_get_be32(&gb);
262     skip = len * 4 + 4;
263
264     if(len == 0)
265         return 4;
266
267     if (len >= INT_MAX/4-1 || len < 0 || len > buf_size) {
268         av_log(ctx->avctx, AV_LOG_ERROR, "Error, invalid stream size.\n");
269         return -1;
270     }
271
272     toks = bytestream2_get_be32(&gb);
273     if(toks & 1) {
274         len = bytestream2_get_be32(&gb);
275         if(len == TM2_ESCAPE) {
276             len = bytestream2_get_be32(&gb);
277         }
278         if(len > 0) {
279             pos = bytestream2_tell(&gb);
280             if (skip <= pos)
281                 return -1;
282             init_get_bits(&ctx->gb, buf + pos, (skip - pos) * 8);
283             if(tm2_read_deltas(ctx, stream_id) == -1)
284                 return -1;
285             bytestream2_skip(&gb, ((get_bits_count(&ctx->gb) + 31) >> 5) << 2);
286         }
287     }
288     /* skip unused fields */
289     len = bytestream2_get_be32(&gb);
290     if(len == TM2_ESCAPE) { /* some unknown length - could be escaped too */
291         bytestream2_skip(&gb, 8); /* unused by decoder */
292     } else {
293         bytestream2_skip(&gb, 4); /* unused by decoder */
294     }
295
296     pos = bytestream2_tell(&gb);
297     if (skip <= pos)
298         return -1;
299     init_get_bits(&ctx->gb, buf + pos, (skip - pos) * 8);
300     if(tm2_build_huff_table(ctx, &codes) == -1)
301         return -1;
302     bytestream2_skip(&gb, ((get_bits_count(&ctx->gb) + 31) >> 5) << 2);
303
304     toks >>= 1;
305     /* check if we have sane number of tokens */
306     if((toks < 0) || (toks > 0xFFFFFF)){
307         av_log(ctx->avctx, AV_LOG_ERROR, "Incorrect number of tokens: %i\n", toks);
308         tm2_free_codes(&codes);
309         return -1;
310     }
311     ctx->tokens[stream_id] = av_realloc(ctx->tokens[stream_id], toks * sizeof(int));
312     ctx->tok_lens[stream_id] = toks;
313     len = bytestream2_get_be32(&gb);
314     if(len > 0) {
315         pos = bytestream2_tell(&gb);
316         if (skip <= pos)
317             return -1;
318         init_get_bits(&ctx->gb, buf + pos, (skip - pos) * 8);
319         for(i = 0; i < toks; i++) {
320             if (get_bits_left(&ctx->gb) <= 0) {
321                 av_log(ctx->avctx, AV_LOG_ERROR, "Incorrect number of tokens: %i\n", toks);
322                 return -1;
323             }
324             ctx->tokens[stream_id][i] = tm2_get_token(&ctx->gb, &codes);
325         }
326     } else {
327         for(i = 0; i < toks; i++)
328             ctx->tokens[stream_id][i] = codes.recode[0];
329     }
330     tm2_free_codes(&codes);
331
332     return skip;
333 }
334
335 static inline int GET_TOK(TM2Context *ctx,int type) {
336     if(ctx->tok_ptrs[type] >= ctx->tok_lens[type]) {
337         av_log(ctx->avctx, AV_LOG_ERROR, "Read token from stream %i out of bounds (%i>=%i)\n", type, ctx->tok_ptrs[type], ctx->tok_lens[type]);
338         return 0;
339     }
340     if(type <= TM2_MOT)
341         return ctx->deltas[type][ctx->tokens[type][ctx->tok_ptrs[type]++]];
342     return ctx->tokens[type][ctx->tok_ptrs[type]++];
343 }
344
345 /* blocks decoding routines */
346
347 /* common Y, U, V pointers initialisation */
348 #define TM2_INIT_POINTERS() \
349     int *last, *clast; \
350     int *Y, *U, *V;\
351     int Ystride, Ustride, Vstride;\
352 \
353     Ystride = ctx->y_stride;\
354     Vstride = ctx->uv_stride;\
355     Ustride = ctx->uv_stride;\
356     Y = (ctx->cur?ctx->Y2:ctx->Y1) + by * 4 * Ystride + bx * 4;\
357     V = (ctx->cur?ctx->V2:ctx->V1) + by * 2 * Vstride + bx * 2;\
358     U = (ctx->cur?ctx->U2:ctx->U1) + by * 2 * Ustride + bx * 2;\
359     last = ctx->last + bx * 4;\
360     clast = ctx->clast + bx * 4;
361
362 #define TM2_INIT_POINTERS_2() \
363     int *Yo, *Uo, *Vo;\
364     int oYstride, oUstride, oVstride;\
365 \
366     TM2_INIT_POINTERS();\
367     oYstride = Ystride;\
368     oVstride = Vstride;\
369     oUstride = Ustride;\
370     Yo = (ctx->cur?ctx->Y1:ctx->Y2) + by * 4 * oYstride + bx * 4;\
371     Vo = (ctx->cur?ctx->V1:ctx->V2) + by * 2 * oVstride + bx * 2;\
372     Uo = (ctx->cur?ctx->U1:ctx->U2) + by * 2 * oUstride + bx * 2;
373
374 /* recalculate last and delta values for next blocks */
375 #define TM2_RECALC_BLOCK(CHR, stride, last, CD) {\
376     CD[0] = CHR[1] - last[1];\
377     CD[1] = (int)CHR[stride + 1] - (int)CHR[1];\
378     last[0] = (int)CHR[stride + 0];\
379     last[1] = (int)CHR[stride + 1];}
380
381 /* common operations - add deltas to 4x4 block of luma or 2x2 blocks of chroma */
382 static inline void tm2_apply_deltas(TM2Context *ctx, int* Y, int stride, int *deltas, int *last)
383 {
384     int ct, d;
385     int i, j;
386
387     for(j = 0; j < 4; j++){
388         ct = ctx->D[j];
389         for(i = 0; i < 4; i++){
390             d = deltas[i + j * 4];
391             ct += d;
392             last[i] += ct;
393             Y[i] = av_clip_uint8(last[i]);
394         }
395         Y += stride;
396         ctx->D[j] = ct;
397     }
398 }
399
400 static inline void tm2_high_chroma(int *data, int stride, int *last, int *CD, int *deltas)
401 {
402     int i, j;
403     for(j = 0; j < 2; j++){
404         for(i = 0; i < 2; i++){
405             CD[j] += deltas[i + j * 2];
406             last[i] += CD[j];
407             data[i] = last[i];
408         }
409         data += stride;
410     }
411 }
412
413 static inline void tm2_low_chroma(int *data, int stride, int *clast, int *CD, int *deltas, int bx)
414 {
415     int t;
416     int l;
417     int prev;
418
419     if(bx > 0)
420         prev = clast[-3];
421     else
422         prev = 0;
423     t = (CD[0] + CD[1]) >> 1;
424     l = (prev - CD[0] - CD[1] + clast[1]) >> 1;
425     CD[1] = CD[0] + CD[1] - t;
426     CD[0] = t;
427     clast[0] = l;
428
429     tm2_high_chroma(data, stride, clast, CD, deltas);
430 }
431
432 static inline void tm2_hi_res_block(TM2Context *ctx, AVFrame *pic, int bx, int by)
433 {
434     int i;
435     int deltas[16];
436     TM2_INIT_POINTERS();
437
438     /* hi-res chroma */
439     for(i = 0; i < 4; i++) {
440         deltas[i] = GET_TOK(ctx, TM2_C_HI);
441         deltas[i + 4] = GET_TOK(ctx, TM2_C_HI);
442     }
443     tm2_high_chroma(U, Ustride, clast, ctx->CD, deltas);
444     tm2_high_chroma(V, Vstride, clast + 2, ctx->CD + 2, deltas + 4);
445
446     /* hi-res luma */
447     for(i = 0; i < 16; i++)
448         deltas[i] = GET_TOK(ctx, TM2_L_HI);
449
450     tm2_apply_deltas(ctx, Y, Ystride, deltas, last);
451 }
452
453 static inline void tm2_med_res_block(TM2Context *ctx, AVFrame *pic, int bx, int by)
454 {
455     int i;
456     int deltas[16];
457     TM2_INIT_POINTERS();
458
459     /* low-res chroma */
460     deltas[0] = GET_TOK(ctx, TM2_C_LO);
461     deltas[1] = deltas[2] = deltas[3] = 0;
462     tm2_low_chroma(U, Ustride, clast, ctx->CD, deltas, bx);
463
464     deltas[0] = GET_TOK(ctx, TM2_C_LO);
465     deltas[1] = deltas[2] = deltas[3] = 0;
466     tm2_low_chroma(V, Vstride, clast + 2, ctx->CD + 2, deltas, bx);
467
468     /* hi-res luma */
469     for(i = 0; i < 16; i++)
470         deltas[i] = GET_TOK(ctx, TM2_L_HI);
471
472     tm2_apply_deltas(ctx, Y, Ystride, deltas, last);
473 }
474
475 static inline void tm2_low_res_block(TM2Context *ctx, AVFrame *pic, int bx, int by)
476 {
477     int i;
478     int t1, t2;
479     int deltas[16];
480     TM2_INIT_POINTERS();
481
482     /* low-res chroma */
483     deltas[0] = GET_TOK(ctx, TM2_C_LO);
484     deltas[1] = deltas[2] = deltas[3] = 0;
485     tm2_low_chroma(U, Ustride, clast, ctx->CD, deltas, bx);
486
487     deltas[0] = GET_TOK(ctx, TM2_C_LO);
488     deltas[1] = deltas[2] = deltas[3] = 0;
489     tm2_low_chroma(V, Vstride, clast + 2, ctx->CD + 2, deltas, bx);
490
491     /* low-res luma */
492     for(i = 0; i < 16; i++)
493         deltas[i] = 0;
494
495     deltas[ 0] = GET_TOK(ctx, TM2_L_LO);
496     deltas[ 2] = GET_TOK(ctx, TM2_L_LO);
497     deltas[ 8] = GET_TOK(ctx, TM2_L_LO);
498     deltas[10] = GET_TOK(ctx, TM2_L_LO);
499
500     if(bx > 0)
501         last[0] = (last[-1] - ctx->D[0] - ctx->D[1] - ctx->D[2] - ctx->D[3] + last[1]) >> 1;
502     else
503         last[0] = (last[1]  - ctx->D[0] - ctx->D[1] - ctx->D[2] - ctx->D[3])>> 1;
504     last[2] = (last[1] + last[3]) >> 1;
505
506     t1 = ctx->D[0] + ctx->D[1];
507     ctx->D[0] = t1 >> 1;
508     ctx->D[1] = t1 - (t1 >> 1);
509     t2 = ctx->D[2] + ctx->D[3];
510     ctx->D[2] = t2 >> 1;
511     ctx->D[3] = t2 - (t2 >> 1);
512
513     tm2_apply_deltas(ctx, Y, Ystride, deltas, last);
514 }
515
516 static inline void tm2_null_res_block(TM2Context *ctx, AVFrame *pic, int bx, int by)
517 {
518     int i;
519     int ct;
520     int left, right, diff;
521     int deltas[16];
522     TM2_INIT_POINTERS();
523
524     /* null chroma */
525     deltas[0] = deltas[1] = deltas[2] = deltas[3] = 0;
526     tm2_low_chroma(U, Ustride, clast, ctx->CD, deltas, bx);
527
528     deltas[0] = deltas[1] = deltas[2] = deltas[3] = 0;
529     tm2_low_chroma(V, Vstride, clast + 2, ctx->CD + 2, deltas, bx);
530
531     /* null luma */
532     for(i = 0; i < 16; i++)
533         deltas[i] = 0;
534
535     ct = ctx->D[0] + ctx->D[1] + ctx->D[2] + ctx->D[3];
536
537     if(bx > 0)
538         left = last[-1] - ct;
539     else
540         left = 0;
541
542     right = last[3];
543     diff = right - left;
544     last[0] = left + (diff >> 2);
545     last[1] = left + (diff >> 1);
546     last[2] = right - (diff >> 2);
547     last[3] = right;
548     {
549         int tp = left;
550
551         ctx->D[0] = (tp + (ct >> 2)) - left;
552         left += ctx->D[0];
553         ctx->D[1] = (tp + (ct >> 1)) - left;
554         left += ctx->D[1];
555         ctx->D[2] = ((tp + ct) - (ct >> 2)) - left;
556         left += ctx->D[2];
557         ctx->D[3] = (tp + ct) - left;
558     }
559     tm2_apply_deltas(ctx, Y, Ystride, deltas, last);
560 }
561
562 static inline void tm2_still_block(TM2Context *ctx, AVFrame *pic, int bx, int by)
563 {
564     int i, j;
565     TM2_INIT_POINTERS_2();
566
567     /* update chroma */
568     for(j = 0; j < 2; j++){
569         for(i = 0; i < 2; i++){
570             U[i] = Uo[i];
571             V[i] = Vo[i];
572         }
573         U += Ustride; V += Vstride;
574         Uo += oUstride; Vo += oVstride;
575     }
576     U -= Ustride * 2;
577     V -= Vstride * 2;
578     TM2_RECALC_BLOCK(U, Ustride, clast, ctx->CD);
579     TM2_RECALC_BLOCK(V, Vstride, (clast + 2), (ctx->CD + 2));
580
581     /* update deltas */
582     ctx->D[0] = Yo[3] - last[3];
583     ctx->D[1] = Yo[3 + oYstride] - Yo[3];
584     ctx->D[2] = Yo[3 + oYstride * 2] - Yo[3 + oYstride];
585     ctx->D[3] = Yo[3 + oYstride * 3] - Yo[3 + oYstride * 2];
586
587     for(j = 0; j < 4; j++){
588         for(i = 0; i < 4; i++){
589             Y[i] = Yo[i];
590             last[i] = Yo[i];
591         }
592         Y += Ystride;
593         Yo += oYstride;
594     }
595 }
596
597 static inline void tm2_update_block(TM2Context *ctx, AVFrame *pic, int bx, int by)
598 {
599     int i, j;
600     int d;
601     TM2_INIT_POINTERS_2();
602
603     /* update chroma */
604     for(j = 0; j < 2; j++){
605         for(i = 0; i < 2; i++){
606             U[i] = Uo[i] + GET_TOK(ctx, TM2_UPD);
607             V[i] = Vo[i] + GET_TOK(ctx, TM2_UPD);
608         }
609         U += Ustride; V += Vstride;
610         Uo += oUstride; Vo += oVstride;
611     }
612     U -= Ustride * 2;
613     V -= Vstride * 2;
614     TM2_RECALC_BLOCK(U, Ustride, clast, ctx->CD);
615     TM2_RECALC_BLOCK(V, Vstride, (clast + 2), (ctx->CD + 2));
616
617     /* update deltas */
618     ctx->D[0] = Yo[3] - last[3];
619     ctx->D[1] = Yo[3 + oYstride] - Yo[3];
620     ctx->D[2] = Yo[3 + oYstride * 2] - Yo[3 + oYstride];
621     ctx->D[3] = Yo[3 + oYstride * 3] - Yo[3 + oYstride * 2];
622
623     for(j = 0; j < 4; j++){
624         d = last[3];
625         for(i = 0; i < 4; i++){
626             Y[i] = Yo[i] + GET_TOK(ctx, TM2_UPD);
627             last[i] = Y[i];
628         }
629         ctx->D[j] = last[3] - d;
630         Y += Ystride;
631         Yo += oYstride;
632     }
633 }
634
635 static inline void tm2_motion_block(TM2Context *ctx, AVFrame *pic, int bx, int by)
636 {
637     int i, j;
638     int mx, my;
639     TM2_INIT_POINTERS_2();
640
641     mx = GET_TOK(ctx, TM2_MOT);
642     my = GET_TOK(ctx, TM2_MOT);
643     mx = av_clip(mx, -(bx * 4 + 4), ctx->avctx->width  - bx * 4);
644     my = av_clip(my, -(by * 4 + 4), ctx->avctx->height - by * 4);
645
646     Yo += my * oYstride + mx;
647     Uo += (my >> 1) * oUstride + (mx >> 1);
648     Vo += (my >> 1) * oVstride + (mx >> 1);
649
650     /* copy chroma */
651     for(j = 0; j < 2; j++){
652         for(i = 0; i < 2; i++){
653             U[i] = Uo[i];
654             V[i] = Vo[i];
655         }
656         U += Ustride; V += Vstride;
657         Uo += oUstride; Vo += oVstride;
658     }
659     U -= Ustride * 2;
660     V -= Vstride * 2;
661     TM2_RECALC_BLOCK(U, Ustride, clast, ctx->CD);
662     TM2_RECALC_BLOCK(V, Vstride, (clast + 2), (ctx->CD + 2));
663
664     /* copy luma */
665     for(j = 0; j < 4; j++){
666         for(i = 0; i < 4; i++){
667             Y[i] = Yo[i];
668         }
669         Y += Ystride;
670         Yo += oYstride;
671     }
672     /* calculate deltas */
673     Y -= Ystride * 4;
674     ctx->D[0] = Y[3] - last[3];
675     ctx->D[1] = Y[3 + Ystride] - Y[3];
676     ctx->D[2] = Y[3 + Ystride * 2] - Y[3 + Ystride];
677     ctx->D[3] = Y[3 + Ystride * 3] - Y[3 + Ystride * 2];
678     for(i = 0; i < 4; i++)
679         last[i] = Y[i + Ystride * 3];
680 }
681
682 static int tm2_decode_blocks(TM2Context *ctx, AVFrame *p)
683 {
684     int i, j;
685     int w = ctx->avctx->width, h = ctx->avctx->height, bw = w >> 2, bh = h >> 2, cw = w >> 1;
686     int type;
687     int keyframe = 1;
688     int *Y, *U, *V;
689     uint8_t *dst;
690
691     for(i = 0; i < TM2_NUM_STREAMS; i++)
692         ctx->tok_ptrs[i] = 0;
693
694     if (ctx->tok_lens[TM2_TYPE]<bw*bh){
695         av_log(ctx->avctx,AV_LOG_ERROR,"Got %i tokens for %i blocks\n",ctx->tok_lens[TM2_TYPE],bw*bh);
696         return -1;
697     }
698
699     memset(ctx->last, 0, 4 * bw * sizeof(int));
700     memset(ctx->clast, 0, 4 * bw * sizeof(int));
701
702     for(j = 0; j < bh; j++) {
703         memset(ctx->D, 0, 4 * sizeof(int));
704         memset(ctx->CD, 0, 4 * sizeof(int));
705         for(i = 0; i < bw; i++) {
706             type = GET_TOK(ctx, TM2_TYPE);
707             switch(type) {
708             case TM2_HI_RES:
709                 tm2_hi_res_block(ctx, p, i, j);
710                 break;
711             case TM2_MED_RES:
712                 tm2_med_res_block(ctx, p, i, j);
713                 break;
714             case TM2_LOW_RES:
715                 tm2_low_res_block(ctx, p, i, j);
716                 break;
717             case TM2_NULL_RES:
718                 tm2_null_res_block(ctx, p, i, j);
719                 break;
720             case TM2_UPDATE:
721                 tm2_update_block(ctx, p, i, j);
722                 keyframe = 0;
723                 break;
724             case TM2_STILL:
725                 tm2_still_block(ctx, p, i, j);
726                 keyframe = 0;
727                 break;
728             case TM2_MOTION:
729                 tm2_motion_block(ctx, p, i, j);
730                 keyframe = 0;
731                 break;
732             default:
733                 av_log(ctx->avctx, AV_LOG_ERROR, "Skipping unknown block type %i\n", type);
734             }
735         }
736     }
737
738     /* copy data from our buffer to AVFrame */
739     Y = (ctx->cur?ctx->Y2:ctx->Y1);
740     U = (ctx->cur?ctx->U2:ctx->U1);
741     V = (ctx->cur?ctx->V2:ctx->V1);
742     dst = p->data[0];
743     for(j = 0; j < h; j++){
744         for(i = 0; i < w; i++){
745             int y = Y[i], u = U[i >> 1], v = V[i >> 1];
746             dst[3*i+0] = av_clip_uint8(y + v);
747             dst[3*i+1] = av_clip_uint8(y);
748             dst[3*i+2] = av_clip_uint8(y + u);
749         }
750
751         /* horizontal edge extension */
752         Y[-4]    = Y[-3]    = Y[-2]    = Y[-1] = Y[0];
753         Y[w + 3] = Y[w + 2] = Y[w + 1] = Y[w]  = Y[w - 1];
754
755         /* vertical edge extension */
756         if (j == 0) {
757             memcpy(Y - 4 - 1 * ctx->y_stride, Y - 4, ctx->y_stride);
758             memcpy(Y - 4 - 2 * ctx->y_stride, Y - 4, ctx->y_stride);
759             memcpy(Y - 4 - 3 * ctx->y_stride, Y - 4, ctx->y_stride);
760             memcpy(Y - 4 - 4 * ctx->y_stride, Y - 4, ctx->y_stride);
761         } else if (j == h - 1) {
762             memcpy(Y - 4 + 1 * ctx->y_stride, Y - 4, ctx->y_stride);
763             memcpy(Y - 4 + 2 * ctx->y_stride, Y - 4, ctx->y_stride);
764             memcpy(Y - 4 + 3 * ctx->y_stride, Y - 4, ctx->y_stride);
765             memcpy(Y - 4 + 4 * ctx->y_stride, Y - 4, ctx->y_stride);
766         }
767
768         Y += ctx->y_stride;
769         if (j & 1) {
770             /* horizontal edge extension */
771             U[-2]     = U[-1] = U[0];
772             V[-2]     = V[-1] = V[0];
773             U[cw + 1] = U[cw] = U[cw - 1];
774             V[cw + 1] = V[cw] = V[cw - 1];
775
776             /* vertical edge extension */
777             if (j == 1) {
778                 memcpy(U - 2 - 1 * ctx->uv_stride, U - 2, ctx->uv_stride);
779                 memcpy(V - 2 - 1 * ctx->uv_stride, V - 2, ctx->uv_stride);
780                 memcpy(U - 2 - 2 * ctx->uv_stride, U - 2, ctx->uv_stride);
781                 memcpy(V - 2 - 2 * ctx->uv_stride, V - 2, ctx->uv_stride);
782             } else if (j == h - 1) {
783                 memcpy(U - 2 + 1 * ctx->uv_stride, U - 2, ctx->uv_stride);
784                 memcpy(V - 2 + 1 * ctx->uv_stride, V - 2, ctx->uv_stride);
785                 memcpy(U - 2 + 2 * ctx->uv_stride, U - 2, ctx->uv_stride);
786                 memcpy(V - 2 + 2 * ctx->uv_stride, V - 2, ctx->uv_stride);
787             }
788
789             U += ctx->uv_stride;
790             V += ctx->uv_stride;
791         }
792         dst += p->linesize[0];
793     }
794
795     return keyframe;
796 }
797
798 static const int tm2_stream_order[TM2_NUM_STREAMS] = {
799     TM2_C_HI, TM2_C_LO, TM2_L_HI, TM2_L_LO, TM2_UPD, TM2_MOT, TM2_TYPE
800 };
801
802 static int decode_frame(AVCodecContext *avctx,
803                         void *data, int *data_size,
804                         AVPacket *avpkt)
805 {
806     const uint8_t *buf = avpkt->data;
807     int buf_size = avpkt->size & ~3;
808     TM2Context * const l = avctx->priv_data;
809     AVFrame * const p = &l->pic;
810     int i, skip, t;
811     uint8_t *swbuf;
812
813     swbuf = av_malloc(buf_size + FF_INPUT_BUFFER_PADDING_SIZE);
814     if(!swbuf){
815         av_log(avctx, AV_LOG_ERROR, "Cannot allocate temporary buffer\n");
816         return -1;
817     }
818     p->reference = 1;
819     p->buffer_hints = FF_BUFFER_HINTS_VALID | FF_BUFFER_HINTS_PRESERVE | FF_BUFFER_HINTS_REUSABLE;
820     if(avctx->reget_buffer(avctx, p) < 0){
821         av_log(avctx, AV_LOG_ERROR, "get_buffer() failed\n");
822         av_free(swbuf);
823         return -1;
824     }
825
826     l->dsp.bswap_buf((uint32_t*)swbuf, (const uint32_t*)buf, buf_size >> 2);
827     skip = tm2_read_header(l, swbuf);
828
829     if(skip == -1){
830         av_free(swbuf);
831         return -1;
832     }
833
834     for(i = 0; i < TM2_NUM_STREAMS; i++){
835         if (skip >= buf_size) {
836             av_free(swbuf);
837             return AVERROR_INVALIDDATA;
838         }
839         t = tm2_read_stream(l, swbuf + skip, tm2_stream_order[i], buf_size - skip);
840         if(t == -1){
841             av_free(swbuf);
842             return -1;
843         }
844         skip += t;
845     }
846     p->key_frame = tm2_decode_blocks(l, p);
847     if(p->key_frame)
848         p->pict_type = AV_PICTURE_TYPE_I;
849     else
850         p->pict_type = AV_PICTURE_TYPE_P;
851
852     l->cur = !l->cur;
853     *data_size = sizeof(AVFrame);
854     *(AVFrame*)data = l->pic;
855     av_free(swbuf);
856
857     return buf_size;
858 }
859
860 static av_cold int decode_init(AVCodecContext *avctx){
861     TM2Context * const l = avctx->priv_data;
862     int i, w = avctx->width, h = avctx->height;
863
864     if((avctx->width & 3) || (avctx->height & 3)){
865         av_log(avctx, AV_LOG_ERROR, "Width and height must be multiple of 4\n");
866         return -1;
867     }
868
869     l->avctx = avctx;
870     l->pic.data[0]=NULL;
871     avctx->pix_fmt = PIX_FMT_BGR24;
872
873     ff_dsputil_init(&l->dsp, avctx);
874
875     l->last  = av_malloc(4 * sizeof(*l->last)  * (w >> 2));
876     l->clast = av_malloc(4 * sizeof(*l->clast) * (w >> 2));
877
878     for(i = 0; i < TM2_NUM_STREAMS; i++) {
879         l->tokens[i] = NULL;
880         l->tok_lens[i] = 0;
881     }
882
883     w += 8;
884     h += 8;
885     l->Y1_base = av_malloc(sizeof(*l->Y1_base) * w * h);
886     l->Y2_base = av_malloc(sizeof(*l->Y2_base) * w * h);
887     l->y_stride = w;
888     w = (w + 1) >> 1;
889     h = (h + 1) >> 1;
890     l->U1_base = av_malloc(sizeof(*l->U1_base) * w * h);
891     l->V1_base = av_malloc(sizeof(*l->V1_base) * w * h);
892     l->U2_base = av_malloc(sizeof(*l->U2_base) * w * h);
893     l->V2_base = av_malloc(sizeof(*l->V1_base) * w * h);
894     l->uv_stride = w;
895     l->cur = 0;
896     if (!l->Y1_base || !l->Y2_base || !l->U1_base ||
897         !l->V1_base || !l->U2_base || !l->V2_base ||
898         !l->last    || !l->clast) {
899         av_freep(l->Y1_base);
900         av_freep(l->Y2_base);
901         av_freep(l->U1_base);
902         av_freep(l->U2_base);
903         av_freep(l->V1_base);
904         av_freep(l->V2_base);
905         av_freep(l->last);
906         av_freep(l->clast);
907         return AVERROR(ENOMEM);
908     }
909     l->Y1 = l->Y1_base + l->y_stride  * 4 + 4;
910     l->Y2 = l->Y2_base + l->y_stride  * 4 + 4;
911     l->U1 = l->U1_base + l->uv_stride * 2 + 2;
912     l->U2 = l->U2_base + l->uv_stride * 2 + 2;
913     l->V1 = l->V1_base + l->uv_stride * 2 + 2;
914     l->V2 = l->V2_base + l->uv_stride * 2 + 2;
915
916     return 0;
917 }
918
919 static av_cold int decode_end(AVCodecContext *avctx){
920     TM2Context * const l = avctx->priv_data;
921     AVFrame *pic = &l->pic;
922     int i;
923
924     av_free(l->last);
925     av_free(l->clast);
926     for(i = 0; i < TM2_NUM_STREAMS; i++)
927         av_free(l->tokens[i]);
928     if(l->Y1){
929         av_free(l->Y1_base);
930         av_free(l->U1_base);
931         av_free(l->V1_base);
932         av_free(l->Y2_base);
933         av_free(l->U2_base);
934         av_free(l->V2_base);
935     }
936
937     if (pic->data[0])
938         avctx->release_buffer(avctx, pic);
939
940     return 0;
941 }
942
943 AVCodec ff_truemotion2_decoder = {
944     .name           = "truemotion2",
945     .type           = AVMEDIA_TYPE_VIDEO,
946     .id             = CODEC_ID_TRUEMOTION2,
947     .priv_data_size = sizeof(TM2Context),
948     .init           = decode_init,
949     .close          = decode_end,
950     .decode         = decode_frame,
951     .capabilities   = CODEC_CAP_DR1,
952     .long_name = NULL_IF_CONFIG_SMALL("Duck TrueMotion 2.0"),
953 };