Replace some nonstandard DEBUG_* preprocessor directives by plain DEBUG.
[ffmpeg.git] / libavcodec / dvbsubdec.c
1 /*
2  * DVB subtitle decoding for ffmpeg
3  * Copyright (c) 2005 Ian Caulfield
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21 #include "avcodec.h"
22 #include "dsputil.h"
23 #include "get_bits.h"
24 #include "bytestream.h"
25 #include "libavutil/colorspace.h"
26
27 //#define DEBUG
28 //#define DEBUG_PACKET_CONTENTS
29
30 #define DVBSUB_PAGE_SEGMENT     0x10
31 #define DVBSUB_REGION_SEGMENT   0x11
32 #define DVBSUB_CLUT_SEGMENT     0x12
33 #define DVBSUB_OBJECT_SEGMENT   0x13
34 #define DVBSUB_DISPLAYDEFINITION_SEGMENT 0x14
35 #define DVBSUB_DISPLAY_SEGMENT  0x80
36
37 #define cm (ff_cropTbl + MAX_NEG_CROP)
38
39 #ifdef DEBUG
40 #undef fprintf
41 #if 0
42 static void png_save(const char *filename, uint8_t *bitmap, int w, int h,
43                      uint32_t *rgba_palette)
44 {
45     int x, y, v;
46     FILE *f;
47     char fname[40], fname2[40];
48     char command[1024];
49
50     snprintf(fname, 40, "%s.ppm", filename);
51
52     f = fopen(fname, "w");
53     if (!f) {
54         perror(fname);
55         exit(1);
56     }
57     fprintf(f, "P6\n"
58             "%d %d\n"
59             "%d\n",
60             w, h, 255);
61     for(y = 0; y < h; y++) {
62         for(x = 0; x < w; x++) {
63             v = rgba_palette[bitmap[y * w + x]];
64             putc((v >> 16) & 0xff, f);
65             putc((v >> 8) & 0xff, f);
66             putc((v >> 0) & 0xff, f);
67         }
68     }
69     fclose(f);
70
71
72     snprintf(fname2, 40, "%s-a.pgm", filename);
73
74     f = fopen(fname2, "w");
75     if (!f) {
76         perror(fname2);
77         exit(1);
78     }
79     fprintf(f, "P5\n"
80             "%d %d\n"
81             "%d\n",
82             w, h, 255);
83     for(y = 0; y < h; y++) {
84         for(x = 0; x < w; x++) {
85             v = rgba_palette[bitmap[y * w + x]];
86             putc((v >> 24) & 0xff, f);
87         }
88     }
89     fclose(f);
90
91     snprintf(command, 1024, "pnmtopng -alpha %s %s > %s.png 2> /dev/null", fname2, fname, filename);
92     system(command);
93
94     snprintf(command, 1024, "rm %s %s", fname, fname2);
95     system(command);
96 }
97 #endif
98
99 static void png_save2(const char *filename, uint32_t *bitmap, int w, int h)
100 {
101     int x, y, v;
102     FILE *f;
103     char fname[40], fname2[40];
104     char command[1024];
105
106     snprintf(fname, sizeof(fname), "%s.ppm", filename);
107
108     f = fopen(fname, "w");
109     if (!f) {
110         perror(fname);
111         exit(1);
112     }
113     fprintf(f, "P6\n"
114             "%d %d\n"
115             "%d\n",
116             w, h, 255);
117     for(y = 0; y < h; y++) {
118         for(x = 0; x < w; x++) {
119             v = bitmap[y * w + x];
120             putc((v >> 16) & 0xff, f);
121             putc((v >> 8) & 0xff, f);
122             putc((v >> 0) & 0xff, f);
123         }
124     }
125     fclose(f);
126
127
128     snprintf(fname2, sizeof(fname2), "%s-a.pgm", filename);
129
130     f = fopen(fname2, "w");
131     if (!f) {
132         perror(fname2);
133         exit(1);
134     }
135     fprintf(f, "P5\n"
136             "%d %d\n"
137             "%d\n",
138             w, h, 255);
139     for(y = 0; y < h; y++) {
140         for(x = 0; x < w; x++) {
141             v = bitmap[y * w + x];
142             putc((v >> 24) & 0xff, f);
143         }
144     }
145     fclose(f);
146
147     snprintf(command, sizeof(command), "pnmtopng -alpha %s %s > %s.png 2> /dev/null", fname2, fname, filename);
148     system(command);
149
150     snprintf(command, sizeof(command), "rm %s %s", fname, fname2);
151     system(command);
152 }
153 #endif
154
155 #define RGBA(r,g,b,a) (((a) << 24) | ((r) << 16) | ((g) << 8) | (b))
156
157 typedef struct DVBSubCLUT {
158     int id;
159
160     uint32_t clut4[4];
161     uint32_t clut16[16];
162     uint32_t clut256[256];
163
164     struct DVBSubCLUT *next;
165 } DVBSubCLUT;
166
167 static DVBSubCLUT default_clut;
168
169 typedef struct DVBSubObjectDisplay {
170     int object_id;
171     int region_id;
172
173     int x_pos;
174     int y_pos;
175
176     int fgcolor;
177     int bgcolor;
178
179     struct DVBSubObjectDisplay *region_list_next;
180     struct DVBSubObjectDisplay *object_list_next;
181 } DVBSubObjectDisplay;
182
183 typedef struct DVBSubObject {
184     int id;
185
186     int type;
187
188     DVBSubObjectDisplay *display_list;
189
190     struct DVBSubObject *next;
191 } DVBSubObject;
192
193 typedef struct DVBSubRegionDisplay {
194     int region_id;
195
196     int x_pos;
197     int y_pos;
198
199     struct DVBSubRegionDisplay *next;
200 } DVBSubRegionDisplay;
201
202 typedef struct DVBSubRegion {
203     int id;
204
205     int width;
206     int height;
207     int depth;
208
209     int clut;
210     int bgcolor;
211
212     uint8_t *pbuf;
213     int buf_size;
214
215     DVBSubObjectDisplay *display_list;
216
217     struct DVBSubRegion *next;
218 } DVBSubRegion;
219
220 typedef struct DVBSubDisplayDefinition {
221     int version;
222
223     int x;
224     int y;
225     int width;
226     int height;
227 } DVBSubDisplayDefinition;
228
229 typedef struct DVBSubContext {
230     int composition_id;
231     int ancillary_id;
232
233     int time_out;
234     DVBSubRegion *region_list;
235     DVBSubCLUT   *clut_list;
236     DVBSubObject *object_list;
237
238     int display_list_size;
239     DVBSubRegionDisplay *display_list;
240     DVBSubDisplayDefinition *display_definition;
241 } DVBSubContext;
242
243
244 static DVBSubObject* get_object(DVBSubContext *ctx, int object_id)
245 {
246     DVBSubObject *ptr = ctx->object_list;
247
248     while (ptr && ptr->id != object_id) {
249         ptr = ptr->next;
250     }
251
252     return ptr;
253 }
254
255 static DVBSubCLUT* get_clut(DVBSubContext *ctx, int clut_id)
256 {
257     DVBSubCLUT *ptr = ctx->clut_list;
258
259     while (ptr && ptr->id != clut_id) {
260         ptr = ptr->next;
261     }
262
263     return ptr;
264 }
265
266 static DVBSubRegion* get_region(DVBSubContext *ctx, int region_id)
267 {
268     DVBSubRegion *ptr = ctx->region_list;
269
270     while (ptr && ptr->id != region_id) {
271         ptr = ptr->next;
272     }
273
274     return ptr;
275 }
276
277 static void delete_region_display_list(DVBSubContext *ctx, DVBSubRegion *region)
278 {
279     DVBSubObject *object, *obj2, **obj2_ptr;
280     DVBSubObjectDisplay *display, *obj_disp, **obj_disp_ptr;
281
282     while (region->display_list) {
283         display = region->display_list;
284
285         object = get_object(ctx, display->object_id);
286
287         if (object) {
288             obj_disp_ptr = &object->display_list;
289             obj_disp = *obj_disp_ptr;
290
291             while (obj_disp && obj_disp != display) {
292                 obj_disp_ptr = &obj_disp->object_list_next;
293                 obj_disp = *obj_disp_ptr;
294             }
295
296             if (obj_disp) {
297                 *obj_disp_ptr = obj_disp->object_list_next;
298
299                 if (!object->display_list) {
300                     obj2_ptr = &ctx->object_list;
301                     obj2 = *obj2_ptr;
302
303                     while (obj2 != object) {
304                         assert(obj2);
305                         obj2_ptr = &obj2->next;
306                         obj2 = *obj2_ptr;
307                     }
308
309                     *obj2_ptr = obj2->next;
310
311                     av_free(obj2);
312                 }
313             }
314         }
315
316         region->display_list = display->region_list_next;
317
318         av_free(display);
319     }
320
321 }
322
323 static void delete_state(DVBSubContext *ctx)
324 {
325     DVBSubRegion *region;
326     DVBSubCLUT *clut;
327
328     while (ctx->region_list) {
329         region = ctx->region_list;
330
331         ctx->region_list = region->next;
332
333         delete_region_display_list(ctx, region);
334         av_free(region->pbuf);
335         av_free(region);
336     }
337
338     while (ctx->clut_list) {
339         clut = ctx->clut_list;
340
341         ctx->clut_list = clut->next;
342
343         av_free(clut);
344     }
345
346     av_freep(&ctx->display_definition);
347
348     /* Should already be null */
349     if (ctx->object_list)
350         av_log(0, AV_LOG_ERROR, "Memory deallocation error!\n");
351 }
352
353 static av_cold int dvbsub_init_decoder(AVCodecContext *avctx)
354 {
355     int i, r, g, b, a = 0;
356     DVBSubContext *ctx = avctx->priv_data;
357
358     if (!avctx->extradata || avctx->extradata_size != 4) {
359         av_log(avctx, AV_LOG_WARNING, "Invalid extradata, subtitle streams may be combined!\n");
360         ctx->composition_id = -1;
361         ctx->ancillary_id   = -1;
362     } else {
363         ctx->composition_id = AV_RB16(avctx->extradata);
364         ctx->ancillary_id   = AV_RB16(avctx->extradata + 2);
365     }
366
367     default_clut.id = -1;
368     default_clut.next = NULL;
369
370     default_clut.clut4[0] = RGBA(  0,   0,   0,   0);
371     default_clut.clut4[1] = RGBA(255, 255, 255, 255);
372     default_clut.clut4[2] = RGBA(  0,   0,   0, 255);
373     default_clut.clut4[3] = RGBA(127, 127, 127, 255);
374
375     default_clut.clut16[0] = RGBA(  0,   0,   0,   0);
376     for (i = 1; i < 16; i++) {
377         if (i < 8) {
378             r = (i & 1) ? 255 : 0;
379             g = (i & 2) ? 255 : 0;
380             b = (i & 4) ? 255 : 0;
381         } else {
382             r = (i & 1) ? 127 : 0;
383             g = (i & 2) ? 127 : 0;
384             b = (i & 4) ? 127 : 0;
385         }
386         default_clut.clut16[i] = RGBA(r, g, b, 255);
387     }
388
389     default_clut.clut256[0] = RGBA(  0,   0,   0,   0);
390     for (i = 1; i < 256; i++) {
391         if (i < 8) {
392             r = (i & 1) ? 255 : 0;
393             g = (i & 2) ? 255 : 0;
394             b = (i & 4) ? 255 : 0;
395             a = 63;
396         } else {
397             switch (i & 0x88) {
398             case 0x00:
399                 r = ((i & 1) ? 85 : 0) + ((i & 0x10) ? 170 : 0);
400                 g = ((i & 2) ? 85 : 0) + ((i & 0x20) ? 170 : 0);
401                 b = ((i & 4) ? 85 : 0) + ((i & 0x40) ? 170 : 0);
402                 a = 255;
403                 break;
404             case 0x08:
405                 r = ((i & 1) ? 85 : 0) + ((i & 0x10) ? 170 : 0);
406                 g = ((i & 2) ? 85 : 0) + ((i & 0x20) ? 170 : 0);
407                 b = ((i & 4) ? 85 : 0) + ((i & 0x40) ? 170 : 0);
408                 a = 127;
409                 break;
410             case 0x80:
411                 r = 127 + ((i & 1) ? 43 : 0) + ((i & 0x10) ? 85 : 0);
412                 g = 127 + ((i & 2) ? 43 : 0) + ((i & 0x20) ? 85 : 0);
413                 b = 127 + ((i & 4) ? 43 : 0) + ((i & 0x40) ? 85 : 0);
414                 a = 255;
415                 break;
416             case 0x88:
417                 r = ((i & 1) ? 43 : 0) + ((i & 0x10) ? 85 : 0);
418                 g = ((i & 2) ? 43 : 0) + ((i & 0x20) ? 85 : 0);
419                 b = ((i & 4) ? 43 : 0) + ((i & 0x40) ? 85 : 0);
420                 a = 255;
421                 break;
422             }
423         }
424         default_clut.clut256[i] = RGBA(r, g, b, a);
425     }
426
427     return 0;
428 }
429
430 static av_cold int dvbsub_close_decoder(AVCodecContext *avctx)
431 {
432     DVBSubContext *ctx = avctx->priv_data;
433     DVBSubRegionDisplay *display;
434
435     delete_state(ctx);
436
437     while (ctx->display_list) {
438         display = ctx->display_list;
439         ctx->display_list = display->next;
440
441         av_free(display);
442     }
443
444     return 0;
445 }
446
447 static int dvbsub_read_2bit_string(uint8_t *destbuf, int dbuf_len,
448                                    const uint8_t **srcbuf, int buf_size,
449                                    int non_mod, uint8_t *map_table)
450 {
451     GetBitContext gb;
452
453     int bits;
454     int run_length;
455     int pixels_read = 0;
456
457     init_get_bits(&gb, *srcbuf, buf_size << 3);
458
459     while (get_bits_count(&gb) < buf_size << 3 && pixels_read < dbuf_len) {
460         bits = get_bits(&gb, 2);
461
462         if (bits) {
463             if (non_mod != 1 || bits != 1) {
464                 if (map_table)
465                     *destbuf++ = map_table[bits];
466                 else
467                     *destbuf++ = bits;
468             }
469             pixels_read++;
470         } else {
471             bits = get_bits1(&gb);
472             if (bits == 1) {
473                 run_length = get_bits(&gb, 3) + 3;
474                 bits = get_bits(&gb, 2);
475
476                 if (non_mod == 1 && bits == 1)
477                     pixels_read += run_length;
478                 else {
479                     if (map_table)
480                         bits = map_table[bits];
481                     while (run_length-- > 0 && pixels_read < dbuf_len) {
482                         *destbuf++ = bits;
483                         pixels_read++;
484                     }
485                 }
486             } else {
487                 bits = get_bits1(&gb);
488                 if (bits == 0) {
489                     bits = get_bits(&gb, 2);
490                     if (bits == 2) {
491                         run_length = get_bits(&gb, 4) + 12;
492                         bits = get_bits(&gb, 2);
493
494                         if (non_mod == 1 && bits == 1)
495                             pixels_read += run_length;
496                         else {
497                             if (map_table)
498                                 bits = map_table[bits];
499                             while (run_length-- > 0 && pixels_read < dbuf_len) {
500                                 *destbuf++ = bits;
501                                 pixels_read++;
502                             }
503                         }
504                     } else if (bits == 3) {
505                         run_length = get_bits(&gb, 8) + 29;
506                         bits = get_bits(&gb, 2);
507
508                         if (non_mod == 1 && bits == 1)
509                             pixels_read += run_length;
510                         else {
511                             if (map_table)
512                                 bits = map_table[bits];
513                             while (run_length-- > 0 && pixels_read < dbuf_len) {
514                                 *destbuf++ = bits;
515                                 pixels_read++;
516                             }
517                         }
518                     } else if (bits == 1) {
519                         pixels_read += 2;
520                         if (map_table)
521                             bits = map_table[0];
522                         else
523                             bits = 0;
524                         if (pixels_read <= dbuf_len) {
525                             *destbuf++ = bits;
526                             *destbuf++ = bits;
527                         }
528                     } else {
529                         (*srcbuf) += (get_bits_count(&gb) + 7) >> 3;
530                         return pixels_read;
531                     }
532                 } else {
533                     if (map_table)
534                         bits = map_table[0];
535                     else
536                         bits = 0;
537                     *destbuf++ = bits;
538                     pixels_read++;
539                 }
540             }
541         }
542     }
543
544     if (get_bits(&gb, 6))
545         av_log(0, AV_LOG_ERROR, "DVBSub error: line overflow\n");
546
547     (*srcbuf) += (get_bits_count(&gb) + 7) >> 3;
548
549     return pixels_read;
550 }
551
552 static int dvbsub_read_4bit_string(uint8_t *destbuf, int dbuf_len,
553                                    const uint8_t **srcbuf, int buf_size,
554                                    int non_mod, uint8_t *map_table)
555 {
556     GetBitContext gb;
557
558     int bits;
559     int run_length;
560     int pixels_read = 0;
561
562     init_get_bits(&gb, *srcbuf, buf_size << 3);
563
564     while (get_bits_count(&gb) < buf_size << 3 && pixels_read < dbuf_len) {
565         bits = get_bits(&gb, 4);
566
567         if (bits) {
568             if (non_mod != 1 || bits != 1) {
569                 if (map_table)
570                     *destbuf++ = map_table[bits];
571                 else
572                     *destbuf++ = bits;
573             }
574             pixels_read++;
575         } else {
576             bits = get_bits1(&gb);
577             if (bits == 0) {
578                 run_length = get_bits(&gb, 3);
579
580                 if (run_length == 0) {
581                     (*srcbuf) += (get_bits_count(&gb) + 7) >> 3;
582                     return pixels_read;
583                 }
584
585                 run_length += 2;
586
587                 if (map_table)
588                     bits = map_table[0];
589                 else
590                     bits = 0;
591
592                 while (run_length-- > 0 && pixels_read < dbuf_len) {
593                     *destbuf++ = bits;
594                     pixels_read++;
595                 }
596             } else {
597                 bits = get_bits1(&gb);
598                 if (bits == 0) {
599                     run_length = get_bits(&gb, 2) + 4;
600                     bits = get_bits(&gb, 4);
601
602                     if (non_mod == 1 && bits == 1)
603                         pixels_read += run_length;
604                     else {
605                         if (map_table)
606                             bits = map_table[bits];
607                         while (run_length-- > 0 && pixels_read < dbuf_len) {
608                             *destbuf++ = bits;
609                             pixels_read++;
610                         }
611                     }
612                 } else {
613                     bits = get_bits(&gb, 2);
614                     if (bits == 2) {
615                         run_length = get_bits(&gb, 4) + 9;
616                         bits = get_bits(&gb, 4);
617
618                         if (non_mod == 1 && bits == 1)
619                             pixels_read += run_length;
620                         else {
621                             if (map_table)
622                                 bits = map_table[bits];
623                             while (run_length-- > 0 && pixels_read < dbuf_len) {
624                                 *destbuf++ = bits;
625                                 pixels_read++;
626                             }
627                         }
628                     } else if (bits == 3) {
629                         run_length = get_bits(&gb, 8) + 25;
630                         bits = get_bits(&gb, 4);
631
632                         if (non_mod == 1 && bits == 1)
633                             pixels_read += run_length;
634                         else {
635                             if (map_table)
636                                 bits = map_table[bits];
637                             while (run_length-- > 0 && pixels_read < dbuf_len) {
638                                 *destbuf++ = bits;
639                                 pixels_read++;
640                             }
641                         }
642                     } else if (bits == 1) {
643                         pixels_read += 2;
644                         if (map_table)
645                             bits = map_table[0];
646                         else
647                             bits = 0;
648                         if (pixels_read <= dbuf_len) {
649                             *destbuf++ = bits;
650                             *destbuf++ = bits;
651                         }
652                     } else {
653                         if (map_table)
654                             bits = map_table[0];
655                         else
656                             bits = 0;
657                         *destbuf++ = bits;
658                         pixels_read ++;
659                     }
660                 }
661             }
662         }
663     }
664
665     if (get_bits(&gb, 8))
666         av_log(0, AV_LOG_ERROR, "DVBSub error: line overflow\n");
667
668     (*srcbuf) += (get_bits_count(&gb) + 7) >> 3;
669
670     return pixels_read;
671 }
672
673 static int dvbsub_read_8bit_string(uint8_t *destbuf, int dbuf_len,
674                                     const uint8_t **srcbuf, int buf_size,
675                                     int non_mod, uint8_t *map_table)
676 {
677     const uint8_t *sbuf_end = (*srcbuf) + buf_size;
678     int bits;
679     int run_length;
680     int pixels_read = 0;
681
682     while (*srcbuf < sbuf_end && pixels_read < dbuf_len) {
683         bits = *(*srcbuf)++;
684
685         if (bits) {
686             if (non_mod != 1 || bits != 1) {
687                 if (map_table)
688                     *destbuf++ = map_table[bits];
689                 else
690                     *destbuf++ = bits;
691             }
692             pixels_read++;
693         } else {
694             bits = *(*srcbuf)++;
695             run_length = bits & 0x7f;
696             if ((bits & 0x80) == 0) {
697                 if (run_length == 0) {
698                     return pixels_read;
699                 }
700
701                 if (map_table)
702                     bits = map_table[0];
703                 else
704                     bits = 0;
705                 while (run_length-- > 0 && pixels_read < dbuf_len) {
706                     *destbuf++ = bits;
707                     pixels_read++;
708                 }
709             } else {
710                 bits = *(*srcbuf)++;
711
712                 if (non_mod == 1 && bits == 1)
713                     pixels_read += run_length;
714                 if (map_table)
715                     bits = map_table[bits];
716                 else while (run_length-- > 0 && pixels_read < dbuf_len) {
717                     *destbuf++ = bits;
718                     pixels_read++;
719                 }
720             }
721         }
722     }
723
724     if (*(*srcbuf)++)
725         av_log(0, AV_LOG_ERROR, "DVBSub error: line overflow\n");
726
727     return pixels_read;
728 }
729
730
731
732 static void dvbsub_parse_pixel_data_block(AVCodecContext *avctx, DVBSubObjectDisplay *display,
733                                           const uint8_t *buf, int buf_size, int top_bottom, int non_mod)
734 {
735     DVBSubContext *ctx = avctx->priv_data;
736
737     DVBSubRegion *region = get_region(ctx, display->region_id);
738     const uint8_t *buf_end = buf + buf_size;
739     uint8_t *pbuf;
740     int x_pos, y_pos;
741     int i;
742
743     uint8_t map2to4[] = { 0x0,  0x7,  0x8,  0xf};
744     uint8_t map2to8[] = {0x00, 0x77, 0x88, 0xff};
745     uint8_t map4to8[] = {0x00, 0x11, 0x22, 0x33, 0x44, 0x55, 0x66, 0x77,
746                          0x88, 0x99, 0xaa, 0xbb, 0xcc, 0xdd, 0xee, 0xff};
747     uint8_t *map_table;
748
749     av_dlog(avctx, "DVB pixel block size %d, %s field:\n", buf_size,
750             top_bottom ? "bottom" : "top");
751
752 #ifdef DEBUG_PACKET_CONTENTS
753     for (i = 0; i < buf_size; i++) {
754         if (i % 16 == 0)
755             av_log(avctx, AV_LOG_INFO, "0x%08p: ", buf+i);
756
757         av_log(avctx, AV_LOG_INFO, "%02x ", buf[i]);
758         if (i % 16 == 15)
759             av_log(avctx, AV_LOG_INFO, "\n");
760     }
761
762     if (i % 16)
763         av_log(avctx, AV_LOG_INFO, "\n");
764
765 #endif
766
767     if (region == 0)
768         return;
769
770     pbuf = region->pbuf;
771
772     x_pos = display->x_pos;
773     y_pos = display->y_pos;
774
775     if ((y_pos & 1) != top_bottom)
776         y_pos++;
777
778     while (buf < buf_end) {
779         if (x_pos > region->width || y_pos > region->height) {
780             av_log(avctx, AV_LOG_ERROR, "Invalid object location!\n");
781             return;
782         }
783
784         switch (*buf++) {
785         case 0x10:
786             if (region->depth == 8)
787                 map_table = map2to8;
788             else if (region->depth == 4)
789                 map_table = map2to4;
790             else
791                 map_table = NULL;
792
793             x_pos += dvbsub_read_2bit_string(pbuf + (y_pos * region->width) + x_pos,
794                                                 region->width - x_pos, &buf, buf_end - buf,
795                                                 non_mod, map_table);
796             break;
797         case 0x11:
798             if (region->depth < 4) {
799                 av_log(avctx, AV_LOG_ERROR, "4-bit pixel string in %d-bit region!\n", region->depth);
800                 return;
801             }
802
803             if (region->depth == 8)
804                 map_table = map4to8;
805             else
806                 map_table = NULL;
807
808             x_pos += dvbsub_read_4bit_string(pbuf + (y_pos * region->width) + x_pos,
809                                                 region->width - x_pos, &buf, buf_end - buf,
810                                                 non_mod, map_table);
811             break;
812         case 0x12:
813             if (region->depth < 8) {
814                 av_log(avctx, AV_LOG_ERROR, "8-bit pixel string in %d-bit region!\n", region->depth);
815                 return;
816             }
817
818             x_pos += dvbsub_read_8bit_string(pbuf + (y_pos * region->width) + x_pos,
819                                                 region->width - x_pos, &buf, buf_end - buf,
820                                                 non_mod, NULL);
821             break;
822
823         case 0x20:
824             map2to4[0] = (*buf) >> 4;
825             map2to4[1] = (*buf++) & 0xf;
826             map2to4[2] = (*buf) >> 4;
827             map2to4[3] = (*buf++) & 0xf;
828             break;
829         case 0x21:
830             for (i = 0; i < 4; i++)
831                 map2to8[i] = *buf++;
832             break;
833         case 0x22:
834             for (i = 0; i < 16; i++)
835                 map4to8[i] = *buf++;
836             break;
837
838         case 0xf0:
839             x_pos = display->x_pos;
840             y_pos += 2;
841             break;
842         default:
843             av_log(avctx, AV_LOG_INFO, "Unknown/unsupported pixel block 0x%x\n", *(buf-1));
844         }
845     }
846
847 }
848
849 static void dvbsub_parse_object_segment(AVCodecContext *avctx,
850                                         const uint8_t *buf, int buf_size)
851 {
852     DVBSubContext *ctx = avctx->priv_data;
853
854     const uint8_t *buf_end = buf + buf_size;
855     const uint8_t *block;
856     int object_id;
857     DVBSubObject *object;
858     DVBSubObjectDisplay *display;
859     int top_field_len, bottom_field_len;
860
861     int coding_method, non_modifying_color;
862
863     object_id = AV_RB16(buf);
864     buf += 2;
865
866     object = get_object(ctx, object_id);
867
868     if (!object)
869         return;
870
871     coding_method = ((*buf) >> 2) & 3;
872     non_modifying_color = ((*buf++) >> 1) & 1;
873
874     if (coding_method == 0) {
875         top_field_len = AV_RB16(buf);
876         buf += 2;
877         bottom_field_len = AV_RB16(buf);
878         buf += 2;
879
880         if (buf + top_field_len + bottom_field_len > buf_end) {
881             av_log(avctx, AV_LOG_ERROR, "Field data size too large\n");
882             return;
883         }
884
885         for (display = object->display_list; display; display = display->object_list_next) {
886             block = buf;
887
888             dvbsub_parse_pixel_data_block(avctx, display, block, top_field_len, 0,
889                                             non_modifying_color);
890
891             if (bottom_field_len > 0)
892                 block = buf + top_field_len;
893             else
894                 bottom_field_len = top_field_len;
895
896             dvbsub_parse_pixel_data_block(avctx, display, block, bottom_field_len, 1,
897                                             non_modifying_color);
898         }
899
900 /*  } else if (coding_method == 1) {*/
901
902     } else {
903         av_log(avctx, AV_LOG_ERROR, "Unknown object coding %d\n", coding_method);
904     }
905
906 }
907
908 static void dvbsub_parse_clut_segment(AVCodecContext *avctx,
909                                         const uint8_t *buf, int buf_size)
910 {
911     DVBSubContext *ctx = avctx->priv_data;
912
913     const uint8_t *buf_end = buf + buf_size;
914     int clut_id;
915     DVBSubCLUT *clut;
916     int entry_id, depth , full_range;
917     int y, cr, cb, alpha;
918     int r, g, b, r_add, g_add, b_add;
919
920 #ifdef DEBUG_PACKET_CONTENTS
921     int i;
922
923     av_log(avctx, AV_LOG_INFO, "DVB clut packet:\n");
924
925     for (i=0; i < buf_size; i++) {
926         av_log(avctx, AV_LOG_INFO, "%02x ", buf[i]);
927         if (i % 16 == 15)
928             av_log(avctx, AV_LOG_INFO, "\n");
929     }
930
931     if (i % 16)
932         av_log(avctx, AV_LOG_INFO, "\n");
933
934 #endif
935
936     clut_id = *buf++;
937     buf += 1;
938
939     clut = get_clut(ctx, clut_id);
940
941     if (!clut) {
942         clut = av_malloc(sizeof(DVBSubCLUT));
943
944         memcpy(clut, &default_clut, sizeof(DVBSubCLUT));
945
946         clut->id = clut_id;
947
948         clut->next = ctx->clut_list;
949         ctx->clut_list = clut;
950     }
951
952     while (buf + 4 < buf_end) {
953         entry_id = *buf++;
954
955         depth = (*buf) & 0xe0;
956
957         if (depth == 0) {
958             av_log(avctx, AV_LOG_ERROR, "Invalid clut depth 0x%x!\n", *buf);
959             return;
960         }
961
962         full_range = (*buf++) & 1;
963
964         if (full_range) {
965             y = *buf++;
966             cr = *buf++;
967             cb = *buf++;
968             alpha = *buf++;
969         } else {
970             y = buf[0] & 0xfc;
971             cr = (((buf[0] & 3) << 2) | ((buf[1] >> 6) & 3)) << 4;
972             cb = (buf[1] << 2) & 0xf0;
973             alpha = (buf[1] << 6) & 0xc0;
974
975             buf += 2;
976         }
977
978         if (y == 0)
979             alpha = 0xff;
980
981         YUV_TO_RGB1_CCIR(cb, cr);
982         YUV_TO_RGB2_CCIR(r, g, b, y);
983
984         av_dlog(avctx, "clut %d := (%d,%d,%d,%d)\n", entry_id, r, g, b, alpha);
985
986         if (depth & 0x80)
987             clut->clut4[entry_id] = RGBA(r,g,b,255 - alpha);
988         if (depth & 0x40)
989             clut->clut16[entry_id] = RGBA(r,g,b,255 - alpha);
990         if (depth & 0x20)
991             clut->clut256[entry_id] = RGBA(r,g,b,255 - alpha);
992     }
993 }
994
995
996 static void dvbsub_parse_region_segment(AVCodecContext *avctx,
997                                         const uint8_t *buf, int buf_size)
998 {
999     DVBSubContext *ctx = avctx->priv_data;
1000
1001     const uint8_t *buf_end = buf + buf_size;
1002     int region_id, object_id;
1003     DVBSubRegion *region;
1004     DVBSubObject *object;
1005     DVBSubObjectDisplay *display;
1006     int fill;
1007
1008     if (buf_size < 10)
1009         return;
1010
1011     region_id = *buf++;
1012
1013     region = get_region(ctx, region_id);
1014
1015     if (!region) {
1016         region = av_mallocz(sizeof(DVBSubRegion));
1017
1018         region->id = region_id;
1019
1020         region->next = ctx->region_list;
1021         ctx->region_list = region;
1022     }
1023
1024     fill = ((*buf++) >> 3) & 1;
1025
1026     region->width = AV_RB16(buf);
1027     buf += 2;
1028     region->height = AV_RB16(buf);
1029     buf += 2;
1030
1031     if (region->width * region->height != region->buf_size) {
1032         av_free(region->pbuf);
1033
1034         region->buf_size = region->width * region->height;
1035
1036         region->pbuf = av_malloc(region->buf_size);
1037
1038         fill = 1;
1039     }
1040
1041     region->depth = 1 << (((*buf++) >> 2) & 7);
1042     if(region->depth<2 || region->depth>8){
1043         av_log(avctx, AV_LOG_ERROR, "region depth %d is invalid\n", region->depth);
1044         region->depth= 4;
1045     }
1046     region->clut = *buf++;
1047
1048     if (region->depth == 8)
1049         region->bgcolor = *buf++;
1050     else {
1051         buf += 1;
1052
1053         if (region->depth == 4)
1054             region->bgcolor = (((*buf++) >> 4) & 15);
1055         else
1056             region->bgcolor = (((*buf++) >> 2) & 3);
1057     }
1058
1059     av_dlog(avctx, "Region %d, (%dx%d)\n", region_id, region->width, region->height);
1060
1061     if (fill) {
1062         memset(region->pbuf, region->bgcolor, region->buf_size);
1063         av_dlog(avctx, "Fill region (%d)\n", region->bgcolor);
1064     }
1065
1066     delete_region_display_list(ctx, region);
1067
1068     while (buf + 5 < buf_end) {
1069         object_id = AV_RB16(buf);
1070         buf += 2;
1071
1072         object = get_object(ctx, object_id);
1073
1074         if (!object) {
1075             object = av_mallocz(sizeof(DVBSubObject));
1076
1077             object->id = object_id;
1078             object->next = ctx->object_list;
1079             ctx->object_list = object;
1080         }
1081
1082         object->type = (*buf) >> 6;
1083
1084         display = av_mallocz(sizeof(DVBSubObjectDisplay));
1085
1086         display->object_id = object_id;
1087         display->region_id = region_id;
1088
1089         display->x_pos = AV_RB16(buf) & 0xfff;
1090         buf += 2;
1091         display->y_pos = AV_RB16(buf) & 0xfff;
1092         buf += 2;
1093
1094         if ((object->type == 1 || object->type == 2) && buf+1 < buf_end) {
1095             display->fgcolor = *buf++;
1096             display->bgcolor = *buf++;
1097         }
1098
1099         display->region_list_next = region->display_list;
1100         region->display_list = display;
1101
1102         display->object_list_next = object->display_list;
1103         object->display_list = display;
1104     }
1105 }
1106
1107 static void dvbsub_parse_page_segment(AVCodecContext *avctx,
1108                                         const uint8_t *buf, int buf_size)
1109 {
1110     DVBSubContext *ctx = avctx->priv_data;
1111     DVBSubRegionDisplay *display;
1112     DVBSubRegionDisplay *tmp_display_list, **tmp_ptr;
1113
1114     const uint8_t *buf_end = buf + buf_size;
1115     int region_id;
1116     int page_state;
1117
1118     if (buf_size < 1)
1119         return;
1120
1121     ctx->time_out = *buf++;
1122     page_state = ((*buf++) >> 2) & 3;
1123
1124     av_dlog(avctx, "Page time out %ds, state %d\n", ctx->time_out, page_state);
1125
1126     if (page_state == 2) {
1127         delete_state(ctx);
1128     }
1129
1130     tmp_display_list = ctx->display_list;
1131     ctx->display_list = NULL;
1132     ctx->display_list_size = 0;
1133
1134     while (buf + 5 < buf_end) {
1135         region_id = *buf++;
1136         buf += 1;
1137
1138         display = tmp_display_list;
1139         tmp_ptr = &tmp_display_list;
1140
1141         while (display && display->region_id != region_id) {
1142             tmp_ptr = &display->next;
1143             display = display->next;
1144         }
1145
1146         if (!display)
1147             display = av_mallocz(sizeof(DVBSubRegionDisplay));
1148
1149         display->region_id = region_id;
1150
1151         display->x_pos = AV_RB16(buf);
1152         buf += 2;
1153         display->y_pos = AV_RB16(buf);
1154         buf += 2;
1155
1156         *tmp_ptr = display->next;
1157
1158         display->next = ctx->display_list;
1159         ctx->display_list = display;
1160         ctx->display_list_size++;
1161
1162         av_dlog(avctx, "Region %d, (%d,%d)\n", region_id, display->x_pos, display->y_pos);
1163     }
1164
1165     while (tmp_display_list) {
1166         display = tmp_display_list;
1167
1168         tmp_display_list = display->next;
1169
1170         av_free(display);
1171     }
1172
1173 }
1174
1175
1176 #ifdef DEBUG
1177 static void save_display_set(DVBSubContext *ctx)
1178 {
1179     DVBSubRegion *region;
1180     DVBSubRegionDisplay *display;
1181     DVBSubCLUT *clut;
1182     uint32_t *clut_table;
1183     int x_pos, y_pos, width, height;
1184     int x, y, y_off, x_off;
1185     uint32_t *pbuf;
1186     char filename[32];
1187     static int fileno_index = 0;
1188
1189     x_pos = -1;
1190     y_pos = -1;
1191     width = 0;
1192     height = 0;
1193
1194     for (display = ctx->display_list; display; display = display->next) {
1195         region = get_region(ctx, display->region_id);
1196
1197         if (x_pos == -1) {
1198             x_pos = display->x_pos;
1199             y_pos = display->y_pos;
1200             width = region->width;
1201             height = region->height;
1202         } else {
1203             if (display->x_pos < x_pos) {
1204                 width += (x_pos - display->x_pos);
1205                 x_pos = display->x_pos;
1206             }
1207
1208             if (display->y_pos < y_pos) {
1209                 height += (y_pos - display->y_pos);
1210                 y_pos = display->y_pos;
1211             }
1212
1213             if (display->x_pos + region->width > x_pos + width) {
1214                 width = display->x_pos + region->width - x_pos;
1215             }
1216
1217             if (display->y_pos + region->height > y_pos + height) {
1218                 height = display->y_pos + region->height - y_pos;
1219             }
1220         }
1221     }
1222
1223     if (x_pos >= 0) {
1224
1225         pbuf = av_malloc(width * height * 4);
1226
1227         for (display = ctx->display_list; display; display = display->next) {
1228             region = get_region(ctx, display->region_id);
1229
1230             x_off = display->x_pos - x_pos;
1231             y_off = display->y_pos - y_pos;
1232
1233             clut = get_clut(ctx, region->clut);
1234
1235             if (clut == 0)
1236                 clut = &default_clut;
1237
1238             switch (region->depth) {
1239             case 2:
1240                 clut_table = clut->clut4;
1241                 break;
1242             case 8:
1243                 clut_table = clut->clut256;
1244                 break;
1245             case 4:
1246             default:
1247                 clut_table = clut->clut16;
1248                 break;
1249             }
1250
1251             for (y = 0; y < region->height; y++) {
1252                 for (x = 0; x < region->width; x++) {
1253                     pbuf[((y + y_off) * width) + x_off + x] =
1254                         clut_table[region->pbuf[y * region->width + x]];
1255                 }
1256             }
1257
1258         }
1259
1260         snprintf(filename, sizeof(filename), "dvbs.%d", fileno_index);
1261
1262         png_save2(filename, pbuf, width, height);
1263
1264         av_free(pbuf);
1265     }
1266
1267     fileno_index++;
1268 }
1269 #endif
1270
1271 static void dvbsub_parse_display_definition_segment(AVCodecContext *avctx,
1272                                                     const uint8_t *buf,
1273                                                     int buf_size)
1274 {
1275     DVBSubContext *ctx = avctx->priv_data;
1276     DVBSubDisplayDefinition *display_def = ctx->display_definition;
1277     int dds_version, info_byte;
1278
1279     if (buf_size < 5)
1280         return;
1281
1282     info_byte   = bytestream_get_byte(&buf);
1283     dds_version = info_byte >> 4;
1284     if (display_def && display_def->version == dds_version)
1285         return; // already have this display definition version
1286
1287     if (!display_def) {
1288         display_def             = av_mallocz(sizeof(*display_def));
1289         ctx->display_definition = display_def;
1290     }
1291     if (!display_def)
1292         return;
1293
1294     display_def->version = dds_version;
1295     display_def->x       = 0;
1296     display_def->y       = 0;
1297     display_def->width   = bytestream_get_be16(&buf) + 1;
1298     display_def->height  = bytestream_get_be16(&buf) + 1;
1299
1300     if (buf_size < 13)
1301         return;
1302
1303     if (info_byte & 1<<3) { // display_window_flag
1304         display_def->x = bytestream_get_be16(&buf);
1305         display_def->y = bytestream_get_be16(&buf);
1306         display_def->width  = bytestream_get_be16(&buf) - display_def->x + 1;
1307         display_def->height = bytestream_get_be16(&buf) - display_def->y + 1;
1308     }
1309 }
1310
1311 static int dvbsub_display_end_segment(AVCodecContext *avctx, const uint8_t *buf,
1312                                         int buf_size, AVSubtitle *sub)
1313 {
1314     DVBSubContext *ctx = avctx->priv_data;
1315     DVBSubDisplayDefinition *display_def = ctx->display_definition;
1316
1317     DVBSubRegion *region;
1318     DVBSubRegionDisplay *display;
1319     AVSubtitleRect *rect;
1320     DVBSubCLUT *clut;
1321     uint32_t *clut_table;
1322     int i;
1323     int offset_x=0, offset_y=0;
1324
1325     sub->rects = NULL;
1326     sub->start_display_time = 0;
1327     sub->end_display_time = ctx->time_out * 1000;
1328     sub->format = 0;
1329
1330     if (display_def) {
1331         offset_x = display_def->x;
1332         offset_y = display_def->y;
1333     }
1334
1335     sub->num_rects = ctx->display_list_size;
1336
1337     if (sub->num_rects > 0){
1338         sub->rects = av_mallocz(sizeof(*sub->rects) * sub->num_rects);
1339         for(i=0; i<sub->num_rects; i++)
1340             sub->rects[i] = av_mallocz(sizeof(*sub->rects[i]));
1341     }
1342
1343     i = 0;
1344
1345     for (display = ctx->display_list; display; display = display->next) {
1346         region = get_region(ctx, display->region_id);
1347         rect = sub->rects[i];
1348
1349         if (!region)
1350             continue;
1351
1352         rect->x = display->x_pos + offset_x;
1353         rect->y = display->y_pos + offset_y;
1354         rect->w = region->width;
1355         rect->h = region->height;
1356         rect->nb_colors = 16;
1357         rect->type      = SUBTITLE_BITMAP;
1358         rect->pict.linesize[0] = region->width;
1359
1360         clut = get_clut(ctx, region->clut);
1361
1362         if (!clut)
1363             clut = &default_clut;
1364
1365         switch (region->depth) {
1366         case 2:
1367             clut_table = clut->clut4;
1368             break;
1369         case 8:
1370             clut_table = clut->clut256;
1371             break;
1372         case 4:
1373         default:
1374             clut_table = clut->clut16;
1375             break;
1376         }
1377
1378         rect->pict.data[1] = av_mallocz(AVPALETTE_SIZE);
1379         memcpy(rect->pict.data[1], clut_table, (1 << region->depth) * sizeof(uint32_t));
1380
1381         rect->pict.data[0] = av_malloc(region->buf_size);
1382         memcpy(rect->pict.data[0], region->pbuf, region->buf_size);
1383
1384         i++;
1385     }
1386
1387     sub->num_rects = i;
1388
1389 #ifdef DEBUG
1390     save_display_set(ctx);
1391 #endif
1392
1393     return 1;
1394 }
1395
1396 static int dvbsub_decode(AVCodecContext *avctx,
1397                          void *data, int *data_size,
1398                          AVPacket *avpkt)
1399 {
1400     const uint8_t *buf = avpkt->data;
1401     int buf_size = avpkt->size;
1402     DVBSubContext *ctx = avctx->priv_data;
1403     AVSubtitle *sub = data;
1404     const uint8_t *p, *p_end;
1405     int segment_type;
1406     int page_id;
1407     int segment_length;
1408
1409 #ifdef DEBUG_PACKET_CONTENTS
1410     int i;
1411
1412     av_log(avctx, AV_LOG_INFO, "DVB sub packet:\n");
1413
1414     for (i=0; i < buf_size; i++) {
1415         av_log(avctx, AV_LOG_INFO, "%02x ", buf[i]);
1416         if (i % 16 == 15)
1417             av_log(avctx, AV_LOG_INFO, "\n");
1418     }
1419
1420     if (i % 16)
1421         av_log(avctx, AV_LOG_INFO, "\n");
1422
1423 #endif
1424
1425     if (buf_size <= 6 || *buf != 0x0f) {
1426         av_dlog(avctx, "incomplete or broken packet");
1427         return -1;
1428     }
1429
1430     p = buf;
1431     p_end = buf + buf_size;
1432
1433     while (p_end - p >= 6 && *p == 0x0f) {
1434         p += 1;
1435         segment_type = *p++;
1436         page_id = AV_RB16(p);
1437         p += 2;
1438         segment_length = AV_RB16(p);
1439         p += 2;
1440
1441         if (p_end - p < segment_length) {
1442             av_dlog(avctx, "incomplete or broken packet");
1443             return -1;
1444         }
1445
1446         if (page_id == ctx->composition_id || page_id == ctx->ancillary_id ||
1447             ctx->composition_id == -1 || ctx->ancillary_id == -1) {
1448             switch (segment_type) {
1449             case DVBSUB_PAGE_SEGMENT:
1450                 dvbsub_parse_page_segment(avctx, p, segment_length);
1451                 break;
1452             case DVBSUB_REGION_SEGMENT:
1453                 dvbsub_parse_region_segment(avctx, p, segment_length);
1454                 break;
1455             case DVBSUB_CLUT_SEGMENT:
1456                 dvbsub_parse_clut_segment(avctx, p, segment_length);
1457                 break;
1458             case DVBSUB_OBJECT_SEGMENT:
1459                 dvbsub_parse_object_segment(avctx, p, segment_length);
1460                 break;
1461             case DVBSUB_DISPLAYDEFINITION_SEGMENT:
1462                 dvbsub_parse_display_definition_segment(avctx, p, segment_length);
1463             case DVBSUB_DISPLAY_SEGMENT:
1464                 *data_size = dvbsub_display_end_segment(avctx, p, segment_length, sub);
1465                 break;
1466             default:
1467                 av_dlog(avctx, "Subtitling segment type 0x%x, page id %d, length %d\n",
1468                         segment_type, page_id, segment_length);
1469                 break;
1470             }
1471         }
1472
1473         p += segment_length;
1474     }
1475
1476     return p - buf;
1477 }
1478
1479
1480 AVCodec ff_dvbsub_decoder = {
1481     "dvbsub",
1482     AVMEDIA_TYPE_SUBTITLE,
1483     CODEC_ID_DVB_SUBTITLE,
1484     sizeof(DVBSubContext),
1485     dvbsub_init_decoder,
1486     NULL,
1487     dvbsub_close_decoder,
1488     dvbsub_decode,
1489     .long_name = NULL_IF_CONFIG_SMALL("DVB subtitles"),
1490 };