libspeex: allow custom sample rates again.
[ffmpeg.git] / libavcodec / svq1dec.c
1 /*
2  * SVQ1 decoder
3  * ported to MPlayer by Arpi <arpi@thot.banki.hu>
4  * ported to libavcodec by Nick Kurshev <nickols_k@mail.ru>
5  *
6  * Copyright (C) 2002 the xine project
7  * Copyright (C) 2002 the ffmpeg project
8  *
9  * SVQ1 Encoder (c) 2004 Mike Melanson <melanson@pcisys.net>
10  *
11  * This file is part of FFmpeg.
12  *
13  * FFmpeg is free software; you can redistribute it and/or
14  * modify it under the terms of the GNU Lesser General Public
15  * License as published by the Free Software Foundation; either
16  * version 2.1 of the License, or (at your option) any later version.
17  *
18  * FFmpeg is distributed in the hope that it will be useful,
19  * but WITHOUT ANY WARRANTY; without even the implied warranty of
20  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
21  * Lesser General Public License for more details.
22  *
23  * You should have received a copy of the GNU Lesser General Public
24  * License along with FFmpeg; if not, write to the Free Software
25  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
26  */
27
28 /**
29  * @file
30  * Sorenson Vector Quantizer #1 (SVQ1) video codec.
31  * For more information of the SVQ1 algorithm, visit:
32  *   http://www.pcisys.net/~melanson/codecs/
33  */
34
35 #include "avcodec.h"
36 #include "dsputil.h"
37 #include "mpegvideo.h"
38 #include "mathops.h"
39 #include "svq1.h"
40
41 #undef NDEBUG
42 #include <assert.h>
43
44 extern const uint8_t ff_mvtab[33][2];
45
46 static VLC svq1_block_type;
47 static VLC svq1_motion_component;
48 static VLC svq1_intra_multistage[6];
49 static VLC svq1_inter_multistage[6];
50 static VLC svq1_intra_mean;
51 static VLC svq1_inter_mean;
52
53 /* motion vector (prediction) */
54 typedef struct svq1_pmv_s {
55     int x;
56     int y;
57 } svq1_pmv;
58
59 static const uint8_t string_table[256] = {
60     0x00, 0xD5, 0x7F, 0xAA, 0xFE, 0x2B, 0x81, 0x54,
61     0x29, 0xFC, 0x56, 0x83, 0xD7, 0x02, 0xA8, 0x7D,
62     0x52, 0x87, 0x2D, 0xF8, 0xAC, 0x79, 0xD3, 0x06,
63     0x7B, 0xAE, 0x04, 0xD1, 0x85, 0x50, 0xFA, 0x2F,
64     0xA4, 0x71, 0xDB, 0x0E, 0x5A, 0x8F, 0x25, 0xF0,
65     0x8D, 0x58, 0xF2, 0x27, 0x73, 0xA6, 0x0C, 0xD9,
66     0xF6, 0x23, 0x89, 0x5C, 0x08, 0xDD, 0x77, 0xA2,
67     0xDF, 0x0A, 0xA0, 0x75, 0x21, 0xF4, 0x5E, 0x8B,
68     0x9D, 0x48, 0xE2, 0x37, 0x63, 0xB6, 0x1C, 0xC9,
69     0xB4, 0x61, 0xCB, 0x1E, 0x4A, 0x9F, 0x35, 0xE0,
70     0xCF, 0x1A, 0xB0, 0x65, 0x31, 0xE4, 0x4E, 0x9B,
71     0xE6, 0x33, 0x99, 0x4C, 0x18, 0xCD, 0x67, 0xB2,
72     0x39, 0xEC, 0x46, 0x93, 0xC7, 0x12, 0xB8, 0x6D,
73     0x10, 0xC5, 0x6F, 0xBA, 0xEE, 0x3B, 0x91, 0x44,
74     0x6B, 0xBE, 0x14, 0xC1, 0x95, 0x40, 0xEA, 0x3F,
75     0x42, 0x97, 0x3D, 0xE8, 0xBC, 0x69, 0xC3, 0x16,
76     0xEF, 0x3A, 0x90, 0x45, 0x11, 0xC4, 0x6E, 0xBB,
77     0xC6, 0x13, 0xB9, 0x6C, 0x38, 0xED, 0x47, 0x92,
78     0xBD, 0x68, 0xC2, 0x17, 0x43, 0x96, 0x3C, 0xE9,
79     0x94, 0x41, 0xEB, 0x3E, 0x6A, 0xBF, 0x15, 0xC0,
80     0x4B, 0x9E, 0x34, 0xE1, 0xB5, 0x60, 0xCA, 0x1F,
81     0x62, 0xB7, 0x1D, 0xC8, 0x9C, 0x49, 0xE3, 0x36,
82     0x19, 0xCC, 0x66, 0xB3, 0xE7, 0x32, 0x98, 0x4D,
83     0x30, 0xE5, 0x4F, 0x9A, 0xCE, 0x1B, 0xB1, 0x64,
84     0x72, 0xA7, 0x0D, 0xD8, 0x8C, 0x59, 0xF3, 0x26,
85     0x5B, 0x8E, 0x24, 0xF1, 0xA5, 0x70, 0xDA, 0x0F,
86     0x20, 0xF5, 0x5F, 0x8A, 0xDE, 0x0B, 0xA1, 0x74,
87     0x09, 0xDC, 0x76, 0xA3, 0xF7, 0x22, 0x88, 0x5D,
88     0xD6, 0x03, 0xA9, 0x7C, 0x28, 0xFD, 0x57, 0x82,
89     0xFF, 0x2A, 0x80, 0x55, 0x01, 0xD4, 0x7E, 0xAB,
90     0x84, 0x51, 0xFB, 0x2E, 0x7A, 0xAF, 0x05, 0xD0,
91     0xAD, 0x78, 0xD2, 0x07, 0x53, 0x86, 0x2C, 0xF9
92 };
93
94 #define SVQ1_PROCESS_VECTOR()                                           \
95     for (; level > 0; i++) {                                            \
96         /* process next depth */                                        \
97         if (i == m) {                                                   \
98             m = n;                                                      \
99             if (--level == 0)                                           \
100                 break;                                                  \
101         }                                                               \
102         /* divide block if next bit set */                              \
103         if (!get_bits1(bitbuf))                                         \
104             break;                                                      \
105         /* add child nodes */                                           \
106         list[n++] = list[i];                                            \
107         list[n++] = list[i] + (((level & 1) ? pitch : 1) << ((level >> 1) + 1));\
108     }
109
110 #define SVQ1_ADD_CODEBOOK()                                             \
111     /* add codebook entries to vector */                                \
112     for (j = 0; j < stages; j++) {                                      \
113         n3  = codebook[entries[j]] ^ 0x80808080;                        \
114         n1 += (n3 & 0xFF00FF00) >> 8;                                   \
115         n2 +=  n3 & 0x00FF00FF;                                         \
116     }                                                                   \
117                                                                         \
118     /* clip to [0..255] */                                              \
119     if (n1 & 0xFF00FF00) {                                              \
120         n3  = (n1 >> 15  & 0x00010001 | 0x01000100) - 0x00010001;       \
121         n1 += 0x7F007F00;                                               \
122         n1 |= (~n1 >> 15 & 0x00010001 | 0x01000100) - 0x00010001;       \
123         n1 &= n3 & 0x00FF00FF;                                          \
124     }                                                                   \
125                                                                         \
126     if (n2 & 0xFF00FF00) {                                              \
127         n3  = (n2 >> 15  & 0x00010001 | 0x01000100) - 0x00010001;       \
128         n2 += 0x7F007F00;                                               \
129         n2 |= (~n2 >> 15 & 0x00010001 | 0x01000100) - 0x00010001;       \
130         n2 &= n3 & 0x00FF00FF;                                          \
131     }
132
133 #define SVQ1_DO_CODEBOOK_INTRA()                                        \
134     for (y = 0; y < height; y++) {                                      \
135         for (x = 0; x < width / 4; x++, codebook++) {                   \
136             n1 = n4;                                                    \
137             n2 = n4;                                                    \
138             SVQ1_ADD_CODEBOOK()                                         \
139             /* store result */                                          \
140             dst[x] = n1 << 8 | n2;                                      \
141         }                                                               \
142         dst += pitch / 4;                                               \
143     }
144
145 #define SVQ1_DO_CODEBOOK_NONINTRA()                                     \
146     for (y = 0; y < height; y++) {                                      \
147         for (x = 0; x < width / 4; x++, codebook++) {                   \
148             n3 = dst[x];                                                \
149             /* add mean value to vector */                              \
150             n1 = n4 + ((n3 & 0xFF00FF00) >> 8);                         \
151             n2 = n4 +  (n3 & 0x00FF00FF);                               \
152             SVQ1_ADD_CODEBOOK()                                         \
153             /* store result */                                          \
154             dst[x] = n1 << 8 | n2;                                      \
155         }                                                               \
156         dst += pitch / 4;                                               \
157     }
158
159 #define SVQ1_CALC_CODEBOOK_ENTRIES(cbook)                               \
160     codebook = (const uint32_t *)cbook[level];                          \
161     if (stages > 0)                                                     \
162         bit_cache = get_bits(bitbuf, 4 * stages);                       \
163     /* calculate codebook entries for this vector */                    \
164     for (j = 0; j < stages; j++) {                                      \
165         entries[j] = (((bit_cache >> (4 * (stages - j - 1))) & 0xF) +   \
166                       16 * j) << (level + 1);                           \
167     }                                                                   \
168     mean -= stages * 128;                                               \
169     n4    = (mean << 16) + mean;
170
171 static int svq1_decode_block_intra(GetBitContext *bitbuf, uint8_t *pixels,
172                                    int pitch)
173 {
174     uint32_t bit_cache;
175     uint8_t *list[63];
176     uint32_t *dst;
177     const uint32_t *codebook;
178     int entries[6];
179     int i, j, m, n;
180     int mean, stages;
181     unsigned x, y, width, height, level;
182     uint32_t n1, n2, n3, n4;
183
184     /* initialize list for breadth first processing of vectors */
185     list[0] = pixels;
186
187     /* recursively process vector */
188     for (i = 0, m = 1, n = 1, level = 5; i < n; i++) {
189         SVQ1_PROCESS_VECTOR();
190
191         /* destination address and vector size */
192         dst    = (uint32_t *)list[i];
193         width  = 1 << ((4 + level) / 2);
194         height = 1 << ((3 + level) / 2);
195
196         /* get number of stages (-1 skips vector, 0 for mean only) */
197         stages = get_vlc2(bitbuf, svq1_intra_multistage[level].table, 3, 3) - 1;
198
199         if (stages == -1) {
200             for (y = 0; y < height; y++)
201                 memset(&dst[y * (pitch / 4)], 0, width);
202             continue;   /* skip vector */
203         }
204
205         if (stages > 0 && level >= 4) {
206             av_dlog(NULL,
207                     "Error (svq1_decode_block_intra): invalid vector: stages=%i level=%i\n",
208                     stages, level);
209             return AVERROR_INVALIDDATA;  /* invalid vector */
210         }
211
212         mean = get_vlc2(bitbuf, svq1_intra_mean.table, 8, 3);
213
214         if (stages == 0) {
215             for (y = 0; y < height; y++)
216                 memset(&dst[y * (pitch / 4)], mean, width);
217         } else {
218             SVQ1_CALC_CODEBOOK_ENTRIES(ff_svq1_intra_codebooks);
219             SVQ1_DO_CODEBOOK_INTRA()
220         }
221     }
222
223     return 0;
224 }
225
226 static int svq1_decode_block_non_intra(GetBitContext *bitbuf, uint8_t *pixels,
227                                        int pitch)
228 {
229     uint32_t bit_cache;
230     uint8_t *list[63];
231     uint32_t *dst;
232     const uint32_t *codebook;
233     int entries[6];
234     int i, j, m, n;
235     int mean, stages;
236     int x, y, width, height, level;
237     uint32_t n1, n2, n3, n4;
238
239     /* initialize list for breadth first processing of vectors */
240     list[0] = pixels;
241
242     /* recursively process vector */
243     for (i = 0, m = 1, n = 1, level = 5; i < n; i++) {
244         SVQ1_PROCESS_VECTOR();
245
246         /* destination address and vector size */
247         dst    = (uint32_t *)list[i];
248         width  = 1 << ((4 + level) / 2);
249         height = 1 << ((3 + level) / 2);
250
251         /* get number of stages (-1 skips vector, 0 for mean only) */
252         stages = get_vlc2(bitbuf, svq1_inter_multistage[level].table, 3, 2) - 1;
253
254         if (stages == -1)
255             continue;           /* skip vector */
256
257         if ((stages > 0) && (level >= 4)) {
258             av_dlog(NULL,
259                     "Error (svq1_decode_block_non_intra): invalid vector: stages=%i level=%i\n",
260                     stages, level);
261             return AVERROR_INVALIDDATA;  /* invalid vector */
262         }
263
264         mean = get_vlc2(bitbuf, svq1_inter_mean.table, 9, 3) - 256;
265
266         SVQ1_CALC_CODEBOOK_ENTRIES(ff_svq1_inter_codebooks);
267         SVQ1_DO_CODEBOOK_NONINTRA()
268     }
269     return 0;
270 }
271
272 static int svq1_decode_motion_vector(GetBitContext *bitbuf, svq1_pmv *mv,
273                                      svq1_pmv **pmv)
274 {
275     int diff;
276     int i;
277
278     for (i = 0; i < 2; i++) {
279         /* get motion code */
280         diff = get_vlc2(bitbuf, svq1_motion_component.table, 7, 2);
281         if (diff < 0)
282             return AVERROR_INVALIDDATA;
283         else if (diff) {
284             if (get_bits1(bitbuf))
285                 diff = -diff;
286         }
287
288         /* add median of motion vector predictors and clip result */
289         if (i == 1)
290             mv->y = sign_extend(diff + mid_pred(pmv[0]->y, pmv[1]->y, pmv[2]->y), 6);
291         else
292             mv->x = sign_extend(diff + mid_pred(pmv[0]->x, pmv[1]->x, pmv[2]->x), 6);
293     }
294
295     return 0;
296 }
297
298 static void svq1_skip_block(uint8_t *current, uint8_t *previous,
299                             int pitch, int x, int y)
300 {
301     uint8_t *src;
302     uint8_t *dst;
303     int i;
304
305     src = &previous[x + y * pitch];
306     dst = current;
307
308     for (i = 0; i < 16; i++) {
309         memcpy(dst, src, 16);
310         src += pitch;
311         dst += pitch;
312     }
313 }
314
315 static int svq1_motion_inter_block(MpegEncContext *s, GetBitContext *bitbuf,
316                                    uint8_t *current, uint8_t *previous,
317                                    int pitch, svq1_pmv *motion, int x, int y)
318 {
319     uint8_t *src;
320     uint8_t *dst;
321     svq1_pmv mv;
322     svq1_pmv *pmv[3];
323     int result;
324
325     /* predict and decode motion vector */
326     pmv[0] = &motion[0];
327     if (y == 0) {
328         pmv[1] =
329         pmv[2] = pmv[0];
330     } else {
331         pmv[1] = &motion[x / 8 + 2];
332         pmv[2] = &motion[x / 8 + 4];
333     }
334
335     result = svq1_decode_motion_vector(bitbuf, &mv, pmv);
336     if (result)
337         return result;
338
339     motion[0].x         =
340     motion[x / 8 + 2].x =
341     motion[x / 8 + 3].x = mv.x;
342     motion[0].y         =
343     motion[x / 8 + 2].y =
344     motion[x / 8 + 3].y = mv.y;
345
346     if (y + (mv.y >> 1) < 0)
347         mv.y = 0;
348     if (x + (mv.x >> 1) < 0)
349         mv.x = 0;
350
351     src = &previous[(x + (mv.x >> 1)) + (y + (mv.y >> 1)) * pitch];
352     dst = current;
353
354     s->dsp.put_pixels_tab[0][(mv.y & 1) << 1 | (mv.x & 1)](dst, src, pitch, 16);
355
356     return 0;
357 }
358
359 static int svq1_motion_inter_4v_block(MpegEncContext *s, GetBitContext *bitbuf,
360                                       uint8_t *current, uint8_t *previous,
361                                       int pitch, svq1_pmv *motion, int x, int y)
362 {
363     uint8_t *src;
364     uint8_t *dst;
365     svq1_pmv mv;
366     svq1_pmv *pmv[4];
367     int i, result;
368
369     /* predict and decode motion vector (0) */
370     pmv[0] = &motion[0];
371     if (y == 0) {
372         pmv[1] =
373         pmv[2] = pmv[0];
374     } else {
375         pmv[1] = &motion[(x / 8) + 2];
376         pmv[2] = &motion[(x / 8) + 4];
377     }
378
379     result = svq1_decode_motion_vector(bitbuf, &mv, pmv);
380     if (result)
381         return result;
382
383     /* predict and decode motion vector (1) */
384     pmv[0] = &mv;
385     if (y == 0) {
386         pmv[1] =
387         pmv[2] = pmv[0];
388     } else {
389         pmv[1] = &motion[(x / 8) + 3];
390     }
391     result = svq1_decode_motion_vector(bitbuf, &motion[0], pmv);
392     if (result)
393         return result;
394
395     /* predict and decode motion vector (2) */
396     pmv[1] = &motion[0];
397     pmv[2] = &motion[(x / 8) + 1];
398
399     result = svq1_decode_motion_vector(bitbuf, &motion[(x / 8) + 2], pmv);
400     if (result)
401         return result;
402
403     /* predict and decode motion vector (3) */
404     pmv[2] = &motion[(x / 8) + 2];
405     pmv[3] = &motion[(x / 8) + 3];
406
407     result = svq1_decode_motion_vector(bitbuf, pmv[3], pmv);
408     if (result)
409         return result;
410
411     /* form predictions */
412     for (i = 0; i < 4; i++) {
413         int mvx = pmv[i]->x + (i  & 1) * 16;
414         int mvy = pmv[i]->y + (i >> 1) * 16;
415
416         // FIXME: clipping or padding?
417         if (y + (mvy >> 1) < 0)
418             mvy = 0;
419         if (x + (mvx >> 1) < 0)
420             mvx = 0;
421
422         src = &previous[(x + (mvx >> 1)) + (y + (mvy >> 1)) * pitch];
423         dst = current;
424
425         s->dsp.put_pixels_tab[1][((mvy & 1) << 1) | (mvx & 1)](dst, src, pitch, 8);
426
427         /* select next block */
428         if (i & 1)
429             current += 8 * (pitch - 1);
430         else
431             current += 8;
432     }
433
434     return 0;
435 }
436
437 static int svq1_decode_delta_block(MpegEncContext *s, GetBitContext *bitbuf,
438                                    uint8_t *current, uint8_t *previous,
439                                    int pitch, svq1_pmv *motion, int x, int y)
440 {
441     uint32_t block_type;
442     int result = 0;
443
444     /* get block type */
445     block_type = get_vlc2(bitbuf, svq1_block_type.table, 2, 2);
446
447     /* reset motion vectors */
448     if (block_type == SVQ1_BLOCK_SKIP || block_type == SVQ1_BLOCK_INTRA) {
449         motion[0].x         =
450         motion[0].y         =
451         motion[x / 8 + 2].x =
452         motion[x / 8 + 2].y =
453         motion[x / 8 + 3].x =
454         motion[x / 8 + 3].y = 0;
455     }
456
457     switch (block_type) {
458     case SVQ1_BLOCK_SKIP:
459         svq1_skip_block(current, previous, pitch, x, y);
460         break;
461
462     case SVQ1_BLOCK_INTER:
463         result = svq1_motion_inter_block(s, bitbuf, current, previous,
464                                          pitch, motion, x, y);
465         if (result) {
466             av_dlog(s->avctx, "Error in svq1_motion_inter_block %i\n", result);
467             break;
468         }
469         result = svq1_decode_block_non_intra(bitbuf, current, pitch);
470         break;
471
472     case SVQ1_BLOCK_INTER_4V:
473         result = svq1_motion_inter_4v_block(s, bitbuf, current, previous,
474                                             pitch, motion, x, y);
475         if (result) {
476             av_dlog(s->avctx,
477                     "Error in svq1_motion_inter_4v_block %i\n", result);
478             break;
479         }
480         result = svq1_decode_block_non_intra(bitbuf, current, pitch);
481         break;
482
483     case SVQ1_BLOCK_INTRA:
484         result = svq1_decode_block_intra(bitbuf, current, pitch);
485         break;
486     }
487
488     return result;
489 }
490
491 static void svq1_parse_string(GetBitContext *bitbuf, uint8_t *out)
492 {
493     uint8_t seed;
494     int i;
495
496     out[0] = get_bits(bitbuf, 8);
497     seed   = string_table[out[0]];
498
499     for (i = 1; i <= out[0]; i++) {
500         out[i] = get_bits(bitbuf, 8) ^ seed;
501         seed   = string_table[out[i] ^ seed];
502     }
503 }
504
505 static int svq1_decode_frame_header(GetBitContext *bitbuf, MpegEncContext *s)
506 {
507     int frame_size_code;
508     int width  = s->width;
509     int height = s->height;
510
511     skip_bits(bitbuf, 8); /* temporal_reference */
512
513     /* frame type */
514     s->pict_type = get_bits(bitbuf, 2) + 1;
515     if (s->pict_type == 4)
516         return AVERROR_INVALIDDATA;
517
518     if (s->pict_type == AV_PICTURE_TYPE_I) {
519         /* unknown fields */
520         if (s->f_code == 0x50 || s->f_code == 0x60) {
521             int csum = get_bits(bitbuf, 16);
522
523             csum = ff_svq1_packet_checksum(bitbuf->buffer,
524                                            bitbuf->size_in_bits >> 3,
525                                            csum);
526
527             av_dlog(s->avctx, "%s checksum (%02x) for packet data\n",
528                     (csum == 0) ? "correct" : "incorrect", csum);
529         }
530
531         if ((s->f_code ^ 0x10) >= 0x50) {
532             uint8_t msg[256];
533
534             svq1_parse_string(bitbuf, msg);
535
536             av_log(s->avctx, AV_LOG_INFO,
537                    "embedded message: \"%s\"\n", (char *)msg);
538         }
539
540         skip_bits(bitbuf, 2);
541         skip_bits(bitbuf, 2);
542         skip_bits1(bitbuf);
543
544         /* load frame size */
545         frame_size_code = get_bits(bitbuf, 3);
546
547         if (frame_size_code == 7) {
548             /* load width, height (12 bits each) */
549             width  = get_bits(bitbuf, 12);
550             height = get_bits(bitbuf, 12);
551
552             if (!width || !height)
553                 return AVERROR_INVALIDDATA;
554         } else {
555             /* get width, height from table */
556             width  = ff_svq1_frame_size_table[frame_size_code].width;
557             height = ff_svq1_frame_size_table[frame_size_code].height;
558         }
559     }
560
561     /* unknown fields */
562     if (get_bits1(bitbuf)) {
563         skip_bits1(bitbuf);    /* use packet checksum if (1) */
564         skip_bits1(bitbuf);    /* component checksums after image data if (1) */
565
566         if (get_bits(bitbuf, 2) != 0)
567             return AVERROR_INVALIDDATA;
568     }
569
570     if (get_bits1(bitbuf)) {
571         skip_bits1(bitbuf);
572         skip_bits(bitbuf, 4);
573         skip_bits1(bitbuf);
574         skip_bits(bitbuf, 2);
575
576         while (get_bits1(bitbuf))
577             skip_bits(bitbuf, 8);
578     }
579
580     s->width  = width;
581     s->height = height;
582     return 0;
583 }
584
585 static int svq1_decode_frame(AVCodecContext *avctx, void *data,
586                              int *data_size, AVPacket *avpkt)
587 {
588     const uint8_t *buf = avpkt->data;
589     int buf_size       = avpkt->size;
590     MpegEncContext *s  = avctx->priv_data;
591     uint8_t *current, *previous;
592     int result, i, x, y, width, height;
593     AVFrame *pict = data;
594     svq1_pmv *pmv;
595
596     /* initialize bit buffer */
597     init_get_bits(&s->gb, buf, buf_size * 8);
598
599     /* decode frame header */
600     s->f_code = get_bits(&s->gb, 22);
601
602     if ((s->f_code & ~0x70) || !(s->f_code & 0x60))
603         return AVERROR_INVALIDDATA;
604
605     /* swap some header bytes (why?) */
606     if (s->f_code != 0x20) {
607         uint32_t *src = (uint32_t *)(buf + 4);
608
609         if (buf_size < 36)
610             return AVERROR_INVALIDDATA;
611
612         for (i = 0; i < 4; i++)
613             src[i] = ((src[i] << 16) | (src[i] >> 16)) ^ src[7 - i];
614     }
615
616     result = svq1_decode_frame_header(&s->gb, s);
617     if (result) {
618         av_dlog(s->avctx, "Error in svq1_decode_frame_header %i\n", result);
619         return result;
620     }
621     avcodec_set_dimensions(avctx, s->width, s->height);
622
623     /* FIXME: This avoids some confusion for "B frames" without 2 references.
624      * This should be removed after libavcodec can handle more flexible
625      * picture types & ordering */
626     if (s->pict_type == AV_PICTURE_TYPE_B && s->last_picture_ptr == NULL)
627         return buf_size;
628
629     if ((avctx->skip_frame >= AVDISCARD_NONREF &&
630          s->pict_type == AV_PICTURE_TYPE_B)    ||
631         (avctx->skip_frame >= AVDISCARD_NONKEY &&
632          s->pict_type != AV_PICTURE_TYPE_I)    ||
633         avctx->skip_frame >= AVDISCARD_ALL)
634         return buf_size;
635
636     if ((result = ff_MPV_frame_start(s, avctx)) < 0)
637         return result;
638
639     pmv = av_malloc((FFALIGN(s->width, 16) / 8 + 3) * sizeof(*pmv));
640     if (!pmv)
641         return AVERROR(ENOMEM);
642
643     /* decode y, u and v components */
644     for (i = 0; i < 3; i++) {
645         int linesize;
646         if (i == 0) {
647             width    = FFALIGN(s->width,  16);
648             height   = FFALIGN(s->height, 16);
649             linesize = s->linesize;
650         } else {
651             if (s->flags & CODEC_FLAG_GRAY)
652                 break;
653             width    = FFALIGN(s->width  / 4, 16);
654             height   = FFALIGN(s->height / 4, 16);
655             linesize = s->uvlinesize;
656         }
657
658         current = s->current_picture.f.data[i];
659
660         if (s->pict_type == AV_PICTURE_TYPE_B)
661             previous = s->next_picture.f.data[i];
662         else
663             previous = s->last_picture.f.data[i];
664
665         if (s->pict_type == AV_PICTURE_TYPE_I) {
666             /* keyframe */
667             for (y = 0; y < height; y += 16) {
668                 for (x = 0; x < width; x += 16) {
669                     result = svq1_decode_block_intra(&s->gb, &current[x],
670                                                      linesize);
671                     if (result) {
672                         av_log(s->avctx, AV_LOG_ERROR,
673                                "Error in svq1_decode_block %i (keyframe)\n",
674                                result);
675                         goto err;
676                     }
677                 }
678                 current += 16 * linesize;
679             }
680         } else {
681             /* delta frame */
682             memset(pmv, 0, ((width / 8) + 3) * sizeof(svq1_pmv));
683
684             for (y = 0; y < height; y += 16) {
685                 for (x = 0; x < width; x += 16) {
686                     result = svq1_decode_delta_block(s, &s->gb, &current[x],
687                                                      previous, linesize,
688                                                      pmv, x, y);
689                     if (result) {
690                         av_dlog(s->avctx,
691                                 "Error in svq1_decode_delta_block %i\n",
692                                 result);
693                         goto err;
694                     }
695                 }
696
697                 pmv[0].x     =
698                     pmv[0].y = 0;
699
700                 current += 16 * linesize;
701             }
702         }
703     }
704
705     *pict = s->current_picture.f;
706     pict->qscale_table = NULL;
707
708     ff_MPV_frame_end(s);
709
710     *data_size = sizeof(AVFrame);
711     result     = buf_size;
712
713 err:
714     av_free(pmv);
715     return result;
716 }
717
718 static av_cold int svq1_decode_init(AVCodecContext *avctx)
719 {
720     MpegEncContext *s = avctx->priv_data;
721     int i;
722     int offset = 0;
723
724     ff_MPV_decode_defaults(s);
725
726     s->avctx            = avctx;
727     s->width            = avctx->width  + 3 & ~3;
728     s->height           = avctx->height + 3 & ~3;
729     s->codec_id         = avctx->codec->id;
730     avctx->pix_fmt      = AV_PIX_FMT_YUV410P;
731     /* Not true, but DP frames and these behave like unidirectional B-frames. */
732     avctx->has_b_frames = 1;
733     s->flags            = avctx->flags;
734     if (ff_MPV_common_init(s) < 0)
735         return -1;
736
737     INIT_VLC_STATIC(&svq1_block_type, 2, 4,
738                     &ff_svq1_block_type_vlc[0][1], 2, 1,
739                     &ff_svq1_block_type_vlc[0][0], 2, 1, 6);
740
741     INIT_VLC_STATIC(&svq1_motion_component, 7, 33,
742                     &ff_mvtab[0][1], 2, 1,
743                     &ff_mvtab[0][0], 2, 1, 176);
744
745     for (i = 0; i < 6; i++) {
746         static const uint8_t sizes[2][6] = { { 14, 10, 14, 18, 16, 18 },
747                                              { 10, 10, 14, 14, 14, 16 } };
748         static VLC_TYPE table[168][2];
749         svq1_intra_multistage[i].table           = &table[offset];
750         svq1_intra_multistage[i].table_allocated = sizes[0][i];
751         offset                                  += sizes[0][i];
752         init_vlc(&svq1_intra_multistage[i], 3, 8,
753                  &ff_svq1_intra_multistage_vlc[i][0][1], 2, 1,
754                  &ff_svq1_intra_multistage_vlc[i][0][0], 2, 1,
755                  INIT_VLC_USE_NEW_STATIC);
756         svq1_inter_multistage[i].table           = &table[offset];
757         svq1_inter_multistage[i].table_allocated = sizes[1][i];
758         offset                                  += sizes[1][i];
759         init_vlc(&svq1_inter_multistage[i], 3, 8,
760                  &ff_svq1_inter_multistage_vlc[i][0][1], 2, 1,
761                  &ff_svq1_inter_multistage_vlc[i][0][0], 2, 1,
762                  INIT_VLC_USE_NEW_STATIC);
763     }
764
765     INIT_VLC_STATIC(&svq1_intra_mean, 8, 256,
766                     &ff_svq1_intra_mean_vlc[0][1], 4, 2,
767                     &ff_svq1_intra_mean_vlc[0][0], 4, 2, 632);
768
769     INIT_VLC_STATIC(&svq1_inter_mean, 9, 512,
770                     &ff_svq1_inter_mean_vlc[0][1], 4, 2,
771                     &ff_svq1_inter_mean_vlc[0][0], 4, 2, 1434);
772
773     return 0;
774 }
775
776 static av_cold int svq1_decode_end(AVCodecContext *avctx)
777 {
778     MpegEncContext *s = avctx->priv_data;
779
780     ff_MPV_common_end(s);
781     return 0;
782 }
783
784 AVCodec ff_svq1_decoder = {
785     .name           = "svq1",
786     .type           = AVMEDIA_TYPE_VIDEO,
787     .id             = AV_CODEC_ID_SVQ1,
788     .priv_data_size = sizeof(MpegEncContext),
789     .init           = svq1_decode_init,
790     .close          = svq1_decode_end,
791     .decode         = svq1_decode_frame,
792     .capabilities   = CODEC_CAP_DR1,
793     .flush          = ff_mpeg_flush,
794     .pix_fmts       = (const enum PixelFormat[]) { AV_PIX_FMT_YUV410P,
795                                                    AV_PIX_FMT_NONE },
796     .long_name      = NULL_IF_CONFIG_SMALL("Sorenson Vector Quantizer 1 / Sorenson Video 1 / SVQ1"),
797 };