speedhq: fix decoding artifacts
[ffmpeg.git] / libavcodec / dvbsubdec.c
1 /*
2  * DVB subtitle decoding
3  * Copyright (c) 2005 Ian Caulfield
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "avcodec.h"
23 #include "get_bits.h"
24 #include "bytestream.h"
25 #include "internal.h"
26 #include "libavutil/colorspace.h"
27 #include "libavutil/opt.h"
28
29 #define DVBSUB_PAGE_SEGMENT     0x10
30 #define DVBSUB_REGION_SEGMENT   0x11
31 #define DVBSUB_CLUT_SEGMENT     0x12
32 #define DVBSUB_OBJECT_SEGMENT   0x13
33 #define DVBSUB_DISPLAYDEFINITION_SEGMENT 0x14
34 #define DVBSUB_DISPLAY_SEGMENT  0x80
35
36 #define cm (ff_crop_tab + MAX_NEG_CROP)
37
38 #ifdef DEBUG
39 #if 0
40 static void png_save(const char *filename, uint8_t *bitmap, int w, int h,
41                      uint32_t *rgba_palette)
42 {
43     int x, y, v;
44     FILE *f;
45     char fname[40], fname2[40];
46     char command[1024];
47
48     snprintf(fname, 40, "%s.ppm", filename);
49
50     f = fopen(fname, "w");
51     if (!f) {
52         perror(fname);
53         return;
54     }
55     fprintf(f, "P6\n"
56             "%d %d\n"
57             "%d\n",
58             w, h, 255);
59     for(y = 0; y < h; y++) {
60         for(x = 0; x < w; x++) {
61             v = rgba_palette[bitmap[y * w + x]];
62             putc((v >> 16) & 0xff, f);
63             putc((v >> 8) & 0xff, f);
64             putc((v >> 0) & 0xff, f);
65         }
66     }
67     fclose(f);
68
69
70     snprintf(fname2, 40, "%s-a.pgm", filename);
71
72     f = fopen(fname2, "w");
73     if (!f) {
74         perror(fname2);
75         return;
76     }
77     fprintf(f, "P5\n"
78             "%d %d\n"
79             "%d\n",
80             w, h, 255);
81     for(y = 0; y < h; y++) {
82         for(x = 0; x < w; x++) {
83             v = rgba_palette[bitmap[y * w + x]];
84             putc((v >> 24) & 0xff, f);
85         }
86     }
87     fclose(f);
88
89     snprintf(command, 1024, "pnmtopng -alpha %s %s > %s.png 2> /dev/null", fname2, fname, filename);
90     system(command);
91
92     snprintf(command, 1024, "rm %s %s", fname, fname2);
93     system(command);
94 }
95 #endif
96
97 static void png_save2(const char *filename, uint32_t *bitmap, int w, int h)
98 {
99     int x, y, v;
100     FILE *f;
101     char fname[40], fname2[40];
102     char command[1024];
103
104     snprintf(fname, sizeof(fname), "%s.ppm", filename);
105
106     f = fopen(fname, "w");
107     if (!f) {
108         perror(fname);
109         return;
110     }
111     fprintf(f, "P6\n"
112             "%d %d\n"
113             "%d\n",
114             w, h, 255);
115     for(y = 0; y < h; y++) {
116         for(x = 0; x < w; x++) {
117             v = bitmap[y * w + x];
118             putc((v >> 16) & 0xff, f);
119             putc((v >> 8) & 0xff, f);
120             putc((v >> 0) & 0xff, f);
121         }
122     }
123     fclose(f);
124
125
126     snprintf(fname2, sizeof(fname2), "%s-a.pgm", filename);
127
128     f = fopen(fname2, "w");
129     if (!f) {
130         perror(fname2);
131         return;
132     }
133     fprintf(f, "P5\n"
134             "%d %d\n"
135             "%d\n",
136             w, h, 255);
137     for(y = 0; y < h; y++) {
138         for(x = 0; x < w; x++) {
139             v = bitmap[y * w + x];
140             putc((v >> 24) & 0xff, f);
141         }
142     }
143     fclose(f);
144
145     snprintf(command, sizeof(command), "pnmtopng -alpha %s %s > %s.png 2> /dev/null", fname2, fname, filename);
146     system(command);
147
148     snprintf(command, sizeof(command), "rm %s %s", fname, fname2);
149     system(command);
150 }
151 #endif
152
153 #define RGBA(r,g,b,a) (((unsigned)(a) << 24) | ((r) << 16) | ((g) << 8) | (b))
154
155 typedef struct DVBSubCLUT {
156     int id;
157     int version;
158
159     uint32_t clut4[4];
160     uint32_t clut16[16];
161     uint32_t clut256[256];
162
163     struct DVBSubCLUT *next;
164 } DVBSubCLUT;
165
166 static DVBSubCLUT default_clut;
167
168 typedef struct DVBSubObjectDisplay {
169     int object_id;
170     int region_id;
171
172     int x_pos;
173     int y_pos;
174
175     int fgcolor;
176     int bgcolor;
177
178     struct DVBSubObjectDisplay *region_list_next;
179     struct DVBSubObjectDisplay *object_list_next;
180 } DVBSubObjectDisplay;
181
182 typedef struct DVBSubObject {
183     int id;
184     int version;
185
186     int type;
187
188     DVBSubObjectDisplay *display_list;
189
190     struct DVBSubObject *next;
191 } DVBSubObject;
192
193 typedef struct DVBSubRegionDisplay {
194     int region_id;
195
196     int x_pos;
197     int y_pos;
198
199     struct DVBSubRegionDisplay *next;
200 } DVBSubRegionDisplay;
201
202 typedef struct DVBSubRegion {
203     int id;
204     int version;
205
206     int width;
207     int height;
208     int depth;
209
210     int clut;
211     int bgcolor;
212
213     uint8_t *pbuf;
214     int buf_size;
215     int dirty;
216
217     DVBSubObjectDisplay *display_list;
218
219     struct DVBSubRegion *next;
220 } DVBSubRegion;
221
222 typedef struct DVBSubDisplayDefinition {
223     int version;
224
225     int x;
226     int y;
227     int width;
228     int height;
229 } DVBSubDisplayDefinition;
230
231 typedef struct DVBSubContext {
232     AVClass *class;
233     int composition_id;
234     int ancillary_id;
235
236     int version;
237     int time_out;
238     int compute_edt; /**< if 1 end display time calculated using pts
239                           if 0 (Default) calculated using time out */
240     int compute_clut;
241     int substream;
242     int64_t prev_start;
243     DVBSubRegion *region_list;
244     DVBSubCLUT   *clut_list;
245     DVBSubObject *object_list;
246
247     DVBSubRegionDisplay *display_list;
248     DVBSubDisplayDefinition *display_definition;
249 } DVBSubContext;
250
251
252 static DVBSubObject* get_object(DVBSubContext *ctx, int object_id)
253 {
254     DVBSubObject *ptr = ctx->object_list;
255
256     while (ptr && ptr->id != object_id) {
257         ptr = ptr->next;
258     }
259
260     return ptr;
261 }
262
263 static DVBSubCLUT* get_clut(DVBSubContext *ctx, int clut_id)
264 {
265     DVBSubCLUT *ptr = ctx->clut_list;
266
267     while (ptr && ptr->id != clut_id) {
268         ptr = ptr->next;
269     }
270
271     return ptr;
272 }
273
274 static DVBSubRegion* get_region(DVBSubContext *ctx, int region_id)
275 {
276     DVBSubRegion *ptr = ctx->region_list;
277
278     while (ptr && ptr->id != region_id) {
279         ptr = ptr->next;
280     }
281
282     return ptr;
283 }
284
285 static void delete_region_display_list(DVBSubContext *ctx, DVBSubRegion *region)
286 {
287     DVBSubObject *object, *obj2, **obj2_ptr;
288     DVBSubObjectDisplay *display, *obj_disp, **obj_disp_ptr;
289
290     while (region->display_list) {
291         display = region->display_list;
292
293         object = get_object(ctx, display->object_id);
294
295         if (object) {
296             obj_disp_ptr = &object->display_list;
297             obj_disp = *obj_disp_ptr;
298
299             while (obj_disp && obj_disp != display) {
300                 obj_disp_ptr = &obj_disp->object_list_next;
301                 obj_disp = *obj_disp_ptr;
302             }
303
304             if (obj_disp) {
305                 *obj_disp_ptr = obj_disp->object_list_next;
306
307                 if (!object->display_list) {
308                     obj2_ptr = &ctx->object_list;
309                     obj2 = *obj2_ptr;
310
311                     while (obj2 != object) {
312                         av_assert0(obj2);
313                         obj2_ptr = &obj2->next;
314                         obj2 = *obj2_ptr;
315                     }
316
317                     *obj2_ptr = obj2->next;
318
319                     av_freep(&obj2);
320                 }
321             }
322         }
323
324         region->display_list = display->region_list_next;
325
326         av_freep(&display);
327     }
328
329 }
330
331 static void delete_cluts(DVBSubContext *ctx)
332 {
333     while (ctx->clut_list) {
334         DVBSubCLUT *clut = ctx->clut_list;
335
336         ctx->clut_list = clut->next;
337
338         av_freep(&clut);
339     }
340 }
341
342 static void delete_objects(DVBSubContext *ctx)
343 {
344     while (ctx->object_list) {
345         DVBSubObject *object = ctx->object_list;
346
347         ctx->object_list = object->next;
348
349         av_freep(&object);
350     }
351 }
352
353 static void delete_regions(DVBSubContext *ctx)
354 {
355     while (ctx->region_list) {
356         DVBSubRegion *region = ctx->region_list;
357
358         ctx->region_list = region->next;
359
360         delete_region_display_list(ctx, region);
361
362         av_freep(&region->pbuf);
363         av_freep(&region);
364     }
365 }
366
367 static av_cold int dvbsub_init_decoder(AVCodecContext *avctx)
368 {
369     int i, r, g, b, a = 0;
370     DVBSubContext *ctx = avctx->priv_data;
371
372     if (ctx->substream < 0) {
373         ctx->composition_id = -1;
374         ctx->ancillary_id   = -1;
375     } else if (!avctx->extradata || (avctx->extradata_size < 4) || ((avctx->extradata_size % 5 != 0) && (avctx->extradata_size != 4))) {
376         av_log(avctx, AV_LOG_WARNING, "Invalid DVB subtitles stream extradata!\n");
377         ctx->composition_id = -1;
378         ctx->ancillary_id   = -1;
379     } else {
380         if (avctx->extradata_size > 5*ctx->substream + 2) {
381             ctx->composition_id = AV_RB16(avctx->extradata + 5*ctx->substream);
382             ctx->ancillary_id   = AV_RB16(avctx->extradata + 5*ctx->substream + 2);
383         } else {
384             av_log(avctx, AV_LOG_WARNING, "Selected DVB subtitles sub-stream %d is not available\n", ctx->substream);
385             ctx->composition_id = AV_RB16(avctx->extradata);
386             ctx->ancillary_id   = AV_RB16(avctx->extradata + 2);
387         }
388     }
389
390     ctx->version = -1;
391     ctx->prev_start = AV_NOPTS_VALUE;
392
393     default_clut.id = -1;
394     default_clut.next = NULL;
395
396     default_clut.clut4[0] = RGBA(  0,   0,   0,   0);
397     default_clut.clut4[1] = RGBA(255, 255, 255, 255);
398     default_clut.clut4[2] = RGBA(  0,   0,   0, 255);
399     default_clut.clut4[3] = RGBA(127, 127, 127, 255);
400
401     default_clut.clut16[0] = RGBA(  0,   0,   0,   0);
402     for (i = 1; i < 16; i++) {
403         if (i < 8) {
404             r = (i & 1) ? 255 : 0;
405             g = (i & 2) ? 255 : 0;
406             b = (i & 4) ? 255 : 0;
407         } else {
408             r = (i & 1) ? 127 : 0;
409             g = (i & 2) ? 127 : 0;
410             b = (i & 4) ? 127 : 0;
411         }
412         default_clut.clut16[i] = RGBA(r, g, b, 255);
413     }
414
415     default_clut.clut256[0] = RGBA(  0,   0,   0,   0);
416     for (i = 1; i < 256; i++) {
417         if (i < 8) {
418             r = (i & 1) ? 255 : 0;
419             g = (i & 2) ? 255 : 0;
420             b = (i & 4) ? 255 : 0;
421             a = 63;
422         } else {
423             switch (i & 0x88) {
424             case 0x00:
425                 r = ((i & 1) ? 85 : 0) + ((i & 0x10) ? 170 : 0);
426                 g = ((i & 2) ? 85 : 0) + ((i & 0x20) ? 170 : 0);
427                 b = ((i & 4) ? 85 : 0) + ((i & 0x40) ? 170 : 0);
428                 a = 255;
429                 break;
430             case 0x08:
431                 r = ((i & 1) ? 85 : 0) + ((i & 0x10) ? 170 : 0);
432                 g = ((i & 2) ? 85 : 0) + ((i & 0x20) ? 170 : 0);
433                 b = ((i & 4) ? 85 : 0) + ((i & 0x40) ? 170 : 0);
434                 a = 127;
435                 break;
436             case 0x80:
437                 r = 127 + ((i & 1) ? 43 : 0) + ((i & 0x10) ? 85 : 0);
438                 g = 127 + ((i & 2) ? 43 : 0) + ((i & 0x20) ? 85 : 0);
439                 b = 127 + ((i & 4) ? 43 : 0) + ((i & 0x40) ? 85 : 0);
440                 a = 255;
441                 break;
442             case 0x88:
443                 r = ((i & 1) ? 43 : 0) + ((i & 0x10) ? 85 : 0);
444                 g = ((i & 2) ? 43 : 0) + ((i & 0x20) ? 85 : 0);
445                 b = ((i & 4) ? 43 : 0) + ((i & 0x40) ? 85 : 0);
446                 a = 255;
447                 break;
448             }
449         }
450         default_clut.clut256[i] = RGBA(r, g, b, a);
451     }
452
453     return 0;
454 }
455
456 static av_cold int dvbsub_close_decoder(AVCodecContext *avctx)
457 {
458     DVBSubContext *ctx = avctx->priv_data;
459     DVBSubRegionDisplay *display;
460
461     delete_regions(ctx);
462
463     delete_objects(ctx);
464
465     delete_cluts(ctx);
466
467     av_freep(&ctx->display_definition);
468
469     while (ctx->display_list) {
470         display = ctx->display_list;
471         ctx->display_list = display->next;
472
473         av_freep(&display);
474     }
475
476     return 0;
477 }
478
479 static int dvbsub_read_2bit_string(AVCodecContext *avctx,
480                                    uint8_t *destbuf, int dbuf_len,
481                                    const uint8_t **srcbuf, int buf_size,
482                                    int non_mod, uint8_t *map_table, int x_pos)
483 {
484     GetBitContext gb;
485
486     int bits;
487     int run_length;
488     int pixels_read = x_pos;
489
490     init_get_bits(&gb, *srcbuf, buf_size << 3);
491
492     destbuf += x_pos;
493
494     while (get_bits_count(&gb) < buf_size << 3 && pixels_read < dbuf_len) {
495         bits = get_bits(&gb, 2);
496
497         if (bits) {
498             if (non_mod != 1 || bits != 1) {
499                 if (map_table)
500                     *destbuf++ = map_table[bits];
501                 else
502                     *destbuf++ = bits;
503             }
504             pixels_read++;
505         } else {
506             bits = get_bits1(&gb);
507             if (bits == 1) {
508                 run_length = get_bits(&gb, 3) + 3;
509                 bits = get_bits(&gb, 2);
510
511                 if (non_mod == 1 && bits == 1)
512                     pixels_read += run_length;
513                 else {
514                     if (map_table)
515                         bits = map_table[bits];
516                     while (run_length-- > 0 && pixels_read < dbuf_len) {
517                         *destbuf++ = bits;
518                         pixels_read++;
519                     }
520                 }
521             } else {
522                 bits = get_bits1(&gb);
523                 if (bits == 0) {
524                     bits = get_bits(&gb, 2);
525                     if (bits == 2) {
526                         run_length = get_bits(&gb, 4) + 12;
527                         bits = get_bits(&gb, 2);
528
529                         if (non_mod == 1 && bits == 1)
530                             pixels_read += run_length;
531                         else {
532                             if (map_table)
533                                 bits = map_table[bits];
534                             while (run_length-- > 0 && pixels_read < dbuf_len) {
535                                 *destbuf++ = bits;
536                                 pixels_read++;
537                             }
538                         }
539                     } else if (bits == 3) {
540                         run_length = get_bits(&gb, 8) + 29;
541                         bits = get_bits(&gb, 2);
542
543                         if (non_mod == 1 && bits == 1)
544                             pixels_read += run_length;
545                         else {
546                             if (map_table)
547                                 bits = map_table[bits];
548                             while (run_length-- > 0 && pixels_read < dbuf_len) {
549                                 *destbuf++ = bits;
550                                 pixels_read++;
551                             }
552                         }
553                     } else if (bits == 1) {
554                         if (map_table)
555                             bits = map_table[0];
556                         else
557                             bits = 0;
558                         run_length = 2;
559                         while (run_length-- > 0 && pixels_read < dbuf_len) {
560                             *destbuf++ = bits;
561                             pixels_read++;
562                         }
563                     } else {
564                         (*srcbuf) += (get_bits_count(&gb) + 7) >> 3;
565                         return pixels_read;
566                     }
567                 } else {
568                     if (map_table)
569                         bits = map_table[0];
570                     else
571                         bits = 0;
572                     *destbuf++ = bits;
573                     pixels_read++;
574                 }
575             }
576         }
577     }
578
579     if (get_bits(&gb, 6))
580         av_log(avctx, AV_LOG_ERROR, "line overflow\n");
581
582     (*srcbuf) += (get_bits_count(&gb) + 7) >> 3;
583
584     return pixels_read;
585 }
586
587 static int dvbsub_read_4bit_string(AVCodecContext *avctx, uint8_t *destbuf, int dbuf_len,
588                                    const uint8_t **srcbuf, int buf_size,
589                                    int non_mod, uint8_t *map_table, int x_pos)
590 {
591     GetBitContext gb;
592
593     int bits;
594     int run_length;
595     int pixels_read = x_pos;
596
597     init_get_bits(&gb, *srcbuf, buf_size << 3);
598
599     destbuf += x_pos;
600
601     while (get_bits_count(&gb) < buf_size << 3 && pixels_read < dbuf_len) {
602         bits = get_bits(&gb, 4);
603
604         if (bits) {
605             if (non_mod != 1 || bits != 1) {
606                 if (map_table)
607                     *destbuf++ = map_table[bits];
608                 else
609                     *destbuf++ = bits;
610             }
611             pixels_read++;
612         } else {
613             bits = get_bits1(&gb);
614             if (bits == 0) {
615                 run_length = get_bits(&gb, 3);
616
617                 if (run_length == 0) {
618                     (*srcbuf) += (get_bits_count(&gb) + 7) >> 3;
619                     return pixels_read;
620                 }
621
622                 run_length += 2;
623
624                 if (map_table)
625                     bits = map_table[0];
626                 else
627                     bits = 0;
628
629                 while (run_length-- > 0 && pixels_read < dbuf_len) {
630                     *destbuf++ = bits;
631                     pixels_read++;
632                 }
633             } else {
634                 bits = get_bits1(&gb);
635                 if (bits == 0) {
636                     run_length = get_bits(&gb, 2) + 4;
637                     bits = get_bits(&gb, 4);
638
639                     if (non_mod == 1 && bits == 1)
640                         pixels_read += run_length;
641                     else {
642                         if (map_table)
643                             bits = map_table[bits];
644                         while (run_length-- > 0 && pixels_read < dbuf_len) {
645                             *destbuf++ = bits;
646                             pixels_read++;
647                         }
648                     }
649                 } else {
650                     bits = get_bits(&gb, 2);
651                     if (bits == 2) {
652                         run_length = get_bits(&gb, 4) + 9;
653                         bits = get_bits(&gb, 4);
654
655                         if (non_mod == 1 && bits == 1)
656                             pixels_read += run_length;
657                         else {
658                             if (map_table)
659                                 bits = map_table[bits];
660                             while (run_length-- > 0 && pixels_read < dbuf_len) {
661                                 *destbuf++ = bits;
662                                 pixels_read++;
663                             }
664                         }
665                     } else if (bits == 3) {
666                         run_length = get_bits(&gb, 8) + 25;
667                         bits = get_bits(&gb, 4);
668
669                         if (non_mod == 1 && bits == 1)
670                             pixels_read += run_length;
671                         else {
672                             if (map_table)
673                                 bits = map_table[bits];
674                             while (run_length-- > 0 && pixels_read < dbuf_len) {
675                                 *destbuf++ = bits;
676                                 pixels_read++;
677                             }
678                         }
679                     } else if (bits == 1) {
680                         if (map_table)
681                             bits = map_table[0];
682                         else
683                             bits = 0;
684                         run_length = 2;
685                         while (run_length-- > 0 && pixels_read < dbuf_len) {
686                             *destbuf++ = bits;
687                             pixels_read++;
688                         }
689                     } else {
690                         if (map_table)
691                             bits = map_table[0];
692                         else
693                             bits = 0;
694                         *destbuf++ = bits;
695                         pixels_read ++;
696                     }
697                 }
698             }
699         }
700     }
701
702     if (get_bits(&gb, 8))
703         av_log(avctx, AV_LOG_ERROR, "line overflow\n");
704
705     (*srcbuf) += (get_bits_count(&gb) + 7) >> 3;
706
707     return pixels_read;
708 }
709
710 static int dvbsub_read_8bit_string(AVCodecContext *avctx,
711                                    uint8_t *destbuf, int dbuf_len,
712                                     const uint8_t **srcbuf, int buf_size,
713                                     int non_mod, uint8_t *map_table, int x_pos)
714 {
715     const uint8_t *sbuf_end = (*srcbuf) + buf_size;
716     int bits;
717     int run_length;
718     int pixels_read = x_pos;
719
720     destbuf += x_pos;
721
722     while (*srcbuf < sbuf_end && pixels_read < dbuf_len) {
723         bits = *(*srcbuf)++;
724
725         if (bits) {
726             if (non_mod != 1 || bits != 1) {
727                 if (map_table)
728                     *destbuf++ = map_table[bits];
729                 else
730                     *destbuf++ = bits;
731             }
732             pixels_read++;
733         } else {
734             bits = *(*srcbuf)++;
735             run_length = bits & 0x7f;
736             if ((bits & 0x80) == 0) {
737                 if (run_length == 0) {
738                     return pixels_read;
739                 }
740
741                 bits = 0;
742             } else {
743                 bits = *(*srcbuf)++;
744             }
745             if (non_mod == 1 && bits == 1)
746                 pixels_read += run_length;
747             else {
748                 if (map_table)
749                     bits = map_table[bits];
750                 while (run_length-- > 0 && pixels_read < dbuf_len) {
751                     *destbuf++ = bits;
752                     pixels_read++;
753                 }
754             }
755         }
756     }
757
758     if (*(*srcbuf)++)
759         av_log(avctx, AV_LOG_ERROR, "line overflow\n");
760
761     return pixels_read;
762 }
763
764 static void compute_default_clut(AVSubtitleRect *rect, int w, int h)
765 {
766     uint8_t list[256] = {0};
767     uint8_t list_inv[256];
768     int counttab[256] = {0};
769     int count, i, x, y;
770
771 #define V(x,y) rect->data[0][(x) + (y)*rect->linesize[0]]
772     for (y = 0; y<h; y++) {
773         for (x = 0; x<w; x++) {
774             int v = V(x,y) + 1;
775             int vl = x     ? V(x-1,y) + 1 : 0;
776             int vr = x+1<w ? V(x+1,y) + 1 : 0;
777             int vt = y     ? V(x,y-1) + 1 : 0;
778             int vb = y+1<h ? V(x,y+1) + 1 : 0;
779             counttab[v-1] += !!((v!=vl) + (v!=vr) + (v!=vt) + (v!=vb));
780         }
781     }
782 #define L(x,y) list[ rect->data[0][(x) + (y)*rect->linesize[0]] ]
783
784     for (i = 0; i<256; i++) {
785         int scoretab[256] = {0};
786         int bestscore = 0;
787         int bestv = 0;
788         for (y = 0; y<h; y++) {
789             for (x = 0; x<w; x++) {
790                 int v = rect->data[0][x + y*rect->linesize[0]];
791                 int l_m = list[v];
792                 int l_l = x     ? L(x-1, y) : 1;
793                 int l_r = x+1<w ? L(x+1, y) : 1;
794                 int l_t = y     ? L(x, y-1) : 1;
795                 int l_b = y+1<h ? L(x, y+1) : 1;
796                 int score;
797                 if (l_m)
798                     continue;
799                 scoretab[v] += l_l + l_r + l_t + l_b;
800                 score = 1024LL*scoretab[v] / counttab[v];
801                 if (score > bestscore) {
802                     bestscore = score;
803                     bestv = v;
804                 }
805             }
806         }
807         if (!bestscore)
808             break;
809         list    [ bestv ] = 1;
810         list_inv[     i ] = bestv;
811     }
812
813     count = FFMAX(i - 1, 1);
814     for (i--; i>=0; i--) {
815         int v = i*255/count;
816         AV_WN32(rect->data[1] + 4*list_inv[i], RGBA(v/2,v,v/2,v));
817     }
818 }
819
820
821 static int save_subtitle_set(AVCodecContext *avctx, AVSubtitle *sub, int *got_output)
822 {
823     DVBSubContext *ctx = avctx->priv_data;
824     DVBSubRegionDisplay *display;
825     DVBSubDisplayDefinition *display_def = ctx->display_definition;
826     DVBSubRegion *region;
827     AVSubtitleRect *rect;
828     DVBSubCLUT *clut;
829     uint32_t *clut_table;
830     int i;
831     int offset_x=0, offset_y=0;
832     int ret = 0;
833
834
835     if (display_def) {
836         offset_x = display_def->x;
837         offset_y = display_def->y;
838     }
839
840     /* Not touching AVSubtitles again*/
841     if(sub->num_rects) {
842         avpriv_request_sample(ctx, "Different Version of Segment asked Twice");
843         return AVERROR_PATCHWELCOME;
844     }
845     for (display = ctx->display_list; display; display = display->next) {
846         region = get_region(ctx, display->region_id);
847         if (region && region->dirty)
848             sub->num_rects++;
849     }
850
851     if(ctx->compute_edt == 0) {
852         sub->end_display_time = ctx->time_out * 1000;
853         *got_output = 1;
854     } else if (ctx->prev_start != AV_NOPTS_VALUE) {
855         sub->end_display_time = av_rescale_q((sub->pts - ctx->prev_start ), AV_TIME_BASE_Q, (AVRational){ 1, 1000 }) - 1;
856         *got_output = 1;
857     }
858     if (sub->num_rects > 0) {
859
860         sub->rects = av_mallocz_array(sizeof(*sub->rects), sub->num_rects);
861         if (!sub->rects) {
862             ret = AVERROR(ENOMEM);
863             goto fail;
864         }
865
866         for(i=0; i<sub->num_rects; i++)
867             sub->rects[i] = av_mallocz(sizeof(*sub->rects[i]));
868
869         i = 0;
870
871         for (display = ctx->display_list; display; display = display->next) {
872             region = get_region(ctx, display->region_id);
873
874             if (!region)
875                 continue;
876
877             if (!region->dirty)
878                 continue;
879
880             rect = sub->rects[i];
881             rect->x = display->x_pos + offset_x;
882             rect->y = display->y_pos + offset_y;
883             rect->w = region->width;
884             rect->h = region->height;
885             rect->nb_colors = (1 << region->depth);
886             rect->type      = SUBTITLE_BITMAP;
887             rect->linesize[0] = region->width;
888
889             clut = get_clut(ctx, region->clut);
890
891             if (!clut)
892                 clut = &default_clut;
893
894             switch (region->depth) {
895             case 2:
896                 clut_table = clut->clut4;
897                 break;
898             case 8:
899                 clut_table = clut->clut256;
900                 break;
901             case 4:
902             default:
903                 clut_table = clut->clut16;
904                 break;
905             }
906
907             rect->data[1] = av_mallocz(AVPALETTE_SIZE);
908             if (!rect->data[1]) {
909                 ret = AVERROR(ENOMEM);
910                 goto fail;
911             }
912             memcpy(rect->data[1], clut_table, (1 << region->depth) * sizeof(uint32_t));
913
914             rect->data[0] = av_malloc(region->buf_size);
915             if (!rect->data[0]) {
916                 ret = AVERROR(ENOMEM);
917                 goto fail;
918             }
919
920             memcpy(rect->data[0], region->pbuf, region->buf_size);
921
922             if ((clut == &default_clut && ctx->compute_clut == -1) || ctx->compute_clut == 1)
923                 compute_default_clut(rect, rect->w, rect->h);
924
925 #if FF_API_AVPICTURE
926 FF_DISABLE_DEPRECATION_WARNINGS
927 {
928             int j;
929             for (j = 0; j < 4; j++) {
930                 rect->pict.data[j] = rect->data[j];
931                 rect->pict.linesize[j] = rect->linesize[j];
932             }
933 }
934 FF_ENABLE_DEPRECATION_WARNINGS
935 #endif
936
937             i++;
938         }
939     }
940
941     return 0;
942 fail:
943     if (sub->rects) {
944         for(i=0; i<sub->num_rects; i++) {
945             rect = sub->rects[i];
946             if (rect) {
947                 av_freep(&rect->data[0]);
948                 av_freep(&rect->data[1]);
949             }
950             av_freep(&sub->rects[i]);
951         }
952         av_freep(&sub->rects);
953     }
954     sub->num_rects = 0;
955     return ret;
956 }
957
958 static void dvbsub_parse_pixel_data_block(AVCodecContext *avctx, DVBSubObjectDisplay *display,
959                                           const uint8_t *buf, int buf_size, int top_bottom, int non_mod)
960 {
961     DVBSubContext *ctx = avctx->priv_data;
962
963     DVBSubRegion *region = get_region(ctx, display->region_id);
964     const uint8_t *buf_end = buf + buf_size;
965     uint8_t *pbuf;
966     int x_pos, y_pos;
967     int i;
968
969     uint8_t map2to4[] = { 0x0,  0x7,  0x8,  0xf};
970     uint8_t map2to8[] = {0x00, 0x77, 0x88, 0xff};
971     uint8_t map4to8[] = {0x00, 0x11, 0x22, 0x33, 0x44, 0x55, 0x66, 0x77,
972                          0x88, 0x99, 0xaa, 0xbb, 0xcc, 0xdd, 0xee, 0xff};
973     uint8_t *map_table;
974
975 #if 0
976     ff_dlog(avctx, "DVB pixel block size %d, %s field:\n", buf_size,
977             top_bottom ? "bottom" : "top");
978
979     for (i = 0; i < buf_size; i++) {
980         if (i % 16 == 0)
981             ff_dlog(avctx, "0x%8p: ", buf+i);
982
983         ff_dlog(avctx, "%02x ", buf[i]);
984         if (i % 16 == 15)
985             ff_dlog(avctx, "\n");
986     }
987
988     if (i % 16)
989         ff_dlog(avctx, "\n");
990 #endif
991
992     if (!region)
993         return;
994
995     pbuf = region->pbuf;
996     region->dirty = 1;
997
998     x_pos = display->x_pos;
999     y_pos = display->y_pos;
1000
1001     y_pos += top_bottom;
1002
1003     while (buf < buf_end) {
1004         if ((*buf!=0xf0 && x_pos >= region->width) || y_pos >= region->height) {
1005             av_log(avctx, AV_LOG_ERROR, "Invalid object location! %d-%d %d-%d %02x\n", x_pos, region->width, y_pos, region->height, *buf);
1006             return;
1007         }
1008
1009         switch (*buf++) {
1010         case 0x10:
1011             if (region->depth == 8)
1012                 map_table = map2to8;
1013             else if (region->depth == 4)
1014                 map_table = map2to4;
1015             else
1016                 map_table = NULL;
1017
1018             x_pos = dvbsub_read_2bit_string(avctx, pbuf + (y_pos * region->width),
1019                                             region->width, &buf, buf_end - buf,
1020                                             non_mod, map_table, x_pos);
1021             break;
1022         case 0x11:
1023             if (region->depth < 4) {
1024                 av_log(avctx, AV_LOG_ERROR, "4-bit pixel string in %d-bit region!\n", region->depth);
1025                 return;
1026             }
1027
1028             if (region->depth == 8)
1029                 map_table = map4to8;
1030             else
1031                 map_table = NULL;
1032
1033             x_pos = dvbsub_read_4bit_string(avctx, pbuf + (y_pos * region->width),
1034                                             region->width, &buf, buf_end - buf,
1035                                             non_mod, map_table, x_pos);
1036             break;
1037         case 0x12:
1038             if (region->depth < 8) {
1039                 av_log(avctx, AV_LOG_ERROR, "8-bit pixel string in %d-bit region!\n", region->depth);
1040                 return;
1041             }
1042
1043             x_pos = dvbsub_read_8bit_string(avctx, pbuf + (y_pos * region->width),
1044                                             region->width, &buf, buf_end - buf,
1045                                             non_mod, NULL, x_pos);
1046             break;
1047
1048         case 0x20:
1049             map2to4[0] = (*buf) >> 4;
1050             map2to4[1] = (*buf++) & 0xf;
1051             map2to4[2] = (*buf) >> 4;
1052             map2to4[3] = (*buf++) & 0xf;
1053             break;
1054         case 0x21:
1055             for (i = 0; i < 4; i++)
1056                 map2to8[i] = *buf++;
1057             break;
1058         case 0x22:
1059             for (i = 0; i < 16; i++)
1060                 map4to8[i] = *buf++;
1061             break;
1062
1063         case 0xf0:
1064             x_pos = display->x_pos;
1065             y_pos += 2;
1066             break;
1067         default:
1068             av_log(avctx, AV_LOG_INFO, "Unknown/unsupported pixel block 0x%x\n", *(buf-1));
1069         }
1070     }
1071
1072 }
1073
1074 static int dvbsub_parse_object_segment(AVCodecContext *avctx,
1075                                        const uint8_t *buf, int buf_size)
1076 {
1077     DVBSubContext *ctx = avctx->priv_data;
1078
1079     const uint8_t *buf_end = buf + buf_size;
1080     int object_id;
1081     DVBSubObject *object;
1082     DVBSubObjectDisplay *display;
1083     int top_field_len, bottom_field_len;
1084
1085     int coding_method, non_modifying_color;
1086
1087     object_id = AV_RB16(buf);
1088     buf += 2;
1089
1090     object = get_object(ctx, object_id);
1091
1092     if (!object)
1093         return AVERROR_INVALIDDATA;
1094
1095     coding_method = ((*buf) >> 2) & 3;
1096     non_modifying_color = ((*buf++) >> 1) & 1;
1097
1098     if (coding_method == 0) {
1099         top_field_len = AV_RB16(buf);
1100         buf += 2;
1101         bottom_field_len = AV_RB16(buf);
1102         buf += 2;
1103
1104         if (buf + top_field_len + bottom_field_len > buf_end) {
1105             av_log(avctx, AV_LOG_ERROR, "Field data size %d+%d too large\n", top_field_len, bottom_field_len);
1106             return AVERROR_INVALIDDATA;
1107         }
1108
1109         for (display = object->display_list; display; display = display->object_list_next) {
1110             const uint8_t *block = buf;
1111             int bfl = bottom_field_len;
1112
1113             dvbsub_parse_pixel_data_block(avctx, display, block, top_field_len, 0,
1114                                             non_modifying_color);
1115
1116             if (bottom_field_len > 0)
1117                 block = buf + top_field_len;
1118             else
1119                 bfl = top_field_len;
1120
1121             dvbsub_parse_pixel_data_block(avctx, display, block, bfl, 1,
1122                                             non_modifying_color);
1123         }
1124
1125 /*  } else if (coding_method == 1) {*/
1126
1127     } else {
1128         av_log(avctx, AV_LOG_ERROR, "Unknown object coding %d\n", coding_method);
1129     }
1130
1131     return 0;
1132 }
1133
1134 static int dvbsub_parse_clut_segment(AVCodecContext *avctx,
1135                                      const uint8_t *buf, int buf_size)
1136 {
1137     DVBSubContext *ctx = avctx->priv_data;
1138
1139     const uint8_t *buf_end = buf + buf_size;
1140     int i, clut_id;
1141     int version;
1142     DVBSubCLUT *clut;
1143     int entry_id, depth , full_range;
1144     int y, cr, cb, alpha;
1145     int r, g, b, r_add, g_add, b_add;
1146
1147     ff_dlog(avctx, "DVB clut packet:\n");
1148
1149     for (i=0; i < buf_size; i++) {
1150         ff_dlog(avctx, "%02x ", buf[i]);
1151         if (i % 16 == 15)
1152             ff_dlog(avctx, "\n");
1153     }
1154
1155     if (i % 16)
1156         ff_dlog(avctx, "\n");
1157
1158     clut_id = *buf++;
1159     version = ((*buf)>>4)&15;
1160     buf += 1;
1161
1162     clut = get_clut(ctx, clut_id);
1163
1164     if (!clut) {
1165         clut = av_malloc(sizeof(DVBSubCLUT));
1166         if (!clut)
1167             return AVERROR(ENOMEM);
1168
1169         memcpy(clut, &default_clut, sizeof(DVBSubCLUT));
1170
1171         clut->id = clut_id;
1172         clut->version = -1;
1173
1174         clut->next = ctx->clut_list;
1175         ctx->clut_list = clut;
1176     }
1177
1178     if (clut->version != version) {
1179
1180     clut->version = version;
1181
1182     while (buf + 4 < buf_end) {
1183         entry_id = *buf++;
1184
1185         depth = (*buf) & 0xe0;
1186
1187         if (depth == 0) {
1188             av_log(avctx, AV_LOG_ERROR, "Invalid clut depth 0x%x!\n", *buf);
1189         }
1190
1191         full_range = (*buf++) & 1;
1192
1193         if (full_range) {
1194             y = *buf++;
1195             cr = *buf++;
1196             cb = *buf++;
1197             alpha = *buf++;
1198         } else {
1199             y = buf[0] & 0xfc;
1200             cr = (((buf[0] & 3) << 2) | ((buf[1] >> 6) & 3)) << 4;
1201             cb = (buf[1] << 2) & 0xf0;
1202             alpha = (buf[1] << 6) & 0xc0;
1203
1204             buf += 2;
1205         }
1206
1207         if (y == 0)
1208             alpha = 0xff;
1209
1210         YUV_TO_RGB1_CCIR(cb, cr);
1211         YUV_TO_RGB2_CCIR(r, g, b, y);
1212
1213         ff_dlog(avctx, "clut %d := (%d,%d,%d,%d)\n", entry_id, r, g, b, alpha);
1214         if (!!(depth & 0x80) + !!(depth & 0x40) + !!(depth & 0x20) > 1) {
1215             ff_dlog(avctx, "More than one bit level marked: %x\n", depth);
1216             if (avctx->strict_std_compliance > FF_COMPLIANCE_NORMAL)
1217                 return AVERROR_INVALIDDATA;
1218         }
1219
1220         if (depth & 0x80)
1221             clut->clut4[entry_id] = RGBA(r,g,b,255 - alpha);
1222         else if (depth & 0x40)
1223             clut->clut16[entry_id] = RGBA(r,g,b,255 - alpha);
1224         else if (depth & 0x20)
1225             clut->clut256[entry_id] = RGBA(r,g,b,255 - alpha);
1226     }
1227     }
1228
1229     return 0;
1230 }
1231
1232
1233 static int dvbsub_parse_region_segment(AVCodecContext *avctx,
1234                                        const uint8_t *buf, int buf_size)
1235 {
1236     DVBSubContext *ctx = avctx->priv_data;
1237
1238     const uint8_t *buf_end = buf + buf_size;
1239     int region_id, object_id;
1240     int av_unused version;
1241     DVBSubRegion *region;
1242     DVBSubObject *object;
1243     DVBSubObjectDisplay *display;
1244     int fill;
1245
1246     if (buf_size < 10)
1247         return AVERROR_INVALIDDATA;
1248
1249     region_id = *buf++;
1250
1251     region = get_region(ctx, region_id);
1252
1253     if (!region) {
1254         region = av_mallocz(sizeof(DVBSubRegion));
1255         if (!region)
1256             return AVERROR(ENOMEM);
1257
1258         region->id = region_id;
1259         region->version = -1;
1260
1261         region->next = ctx->region_list;
1262         ctx->region_list = region;
1263     }
1264
1265     version = ((*buf)>>4) & 15;
1266     fill = ((*buf++) >> 3) & 1;
1267
1268     region->width = AV_RB16(buf);
1269     buf += 2;
1270     region->height = AV_RB16(buf);
1271     buf += 2;
1272
1273     if (region->width * region->height != region->buf_size) {
1274         av_free(region->pbuf);
1275
1276         region->buf_size = region->width * region->height;
1277
1278         region->pbuf = av_malloc(region->buf_size);
1279         if (!region->pbuf) {
1280             region->buf_size =
1281             region->width =
1282             region->height = 0;
1283             return AVERROR(ENOMEM);
1284         }
1285
1286         fill = 1;
1287         region->dirty = 0;
1288     }
1289
1290     region->depth = 1 << (((*buf++) >> 2) & 7);
1291     if(region->depth<2 || region->depth>8){
1292         av_log(avctx, AV_LOG_ERROR, "region depth %d is invalid\n", region->depth);
1293         region->depth= 4;
1294     }
1295     region->clut = *buf++;
1296
1297     if (region->depth == 8) {
1298         region->bgcolor = *buf++;
1299         buf += 1;
1300     } else {
1301         buf += 1;
1302
1303         if (region->depth == 4)
1304             region->bgcolor = (((*buf++) >> 4) & 15);
1305         else
1306             region->bgcolor = (((*buf++) >> 2) & 3);
1307     }
1308
1309     ff_dlog(avctx, "Region %d, (%dx%d)\n", region_id, region->width, region->height);
1310
1311     if (fill) {
1312         memset(region->pbuf, region->bgcolor, region->buf_size);
1313         ff_dlog(avctx, "Fill region (%d)\n", region->bgcolor);
1314     }
1315
1316     delete_region_display_list(ctx, region);
1317
1318     while (buf + 5 < buf_end) {
1319         object_id = AV_RB16(buf);
1320         buf += 2;
1321
1322         object = get_object(ctx, object_id);
1323
1324         if (!object) {
1325             object = av_mallocz(sizeof(DVBSubObject));
1326             if (!object)
1327                 return AVERROR(ENOMEM);
1328
1329             object->id = object_id;
1330             object->next = ctx->object_list;
1331             ctx->object_list = object;
1332         }
1333
1334         object->type = (*buf) >> 6;
1335
1336         display = av_mallocz(sizeof(DVBSubObjectDisplay));
1337         if (!display)
1338             return AVERROR(ENOMEM);
1339
1340         display->object_id = object_id;
1341         display->region_id = region_id;
1342
1343         display->x_pos = AV_RB16(buf) & 0xfff;
1344         buf += 2;
1345         display->y_pos = AV_RB16(buf) & 0xfff;
1346         buf += 2;
1347
1348         if ((object->type == 1 || object->type == 2) && buf+1 < buf_end) {
1349             display->fgcolor = *buf++;
1350             display->bgcolor = *buf++;
1351         }
1352
1353         display->region_list_next = region->display_list;
1354         region->display_list = display;
1355
1356         display->object_list_next = object->display_list;
1357         object->display_list = display;
1358     }
1359
1360     return 0;
1361 }
1362
1363 static int dvbsub_parse_page_segment(AVCodecContext *avctx,
1364                                      const uint8_t *buf, int buf_size, AVSubtitle *sub, int *got_output)
1365 {
1366     DVBSubContext *ctx = avctx->priv_data;
1367     DVBSubRegionDisplay *display;
1368     DVBSubRegionDisplay *tmp_display_list, **tmp_ptr;
1369
1370     const uint8_t *buf_end = buf + buf_size;
1371     int region_id;
1372     int page_state;
1373     int timeout;
1374     int version;
1375
1376     if (buf_size < 1)
1377         return AVERROR_INVALIDDATA;
1378
1379     timeout = *buf++;
1380     version = ((*buf)>>4) & 15;
1381     page_state = ((*buf++) >> 2) & 3;
1382
1383     if (ctx->version == version) {
1384         return 0;
1385     }
1386
1387     ctx->time_out = timeout;
1388     ctx->version = version;
1389
1390     ff_dlog(avctx, "Page time out %ds, state %d\n", ctx->time_out, page_state);
1391
1392     if(ctx->compute_edt == 1)
1393         save_subtitle_set(avctx, sub, got_output);
1394
1395     if (page_state == 1 || page_state == 2) {
1396         delete_regions(ctx);
1397         delete_objects(ctx);
1398         delete_cluts(ctx);
1399     }
1400
1401     tmp_display_list = ctx->display_list;
1402     ctx->display_list = NULL;
1403
1404     while (buf + 5 < buf_end) {
1405         region_id = *buf++;
1406         buf += 1;
1407
1408         display = tmp_display_list;
1409         tmp_ptr = &tmp_display_list;
1410
1411         while (display && display->region_id != region_id) {
1412             tmp_ptr = &display->next;
1413             display = display->next;
1414         }
1415
1416         if (!display) {
1417             display = av_mallocz(sizeof(DVBSubRegionDisplay));
1418             if (!display)
1419                 return AVERROR(ENOMEM);
1420         }
1421
1422         display->region_id = region_id;
1423
1424         display->x_pos = AV_RB16(buf);
1425         buf += 2;
1426         display->y_pos = AV_RB16(buf);
1427         buf += 2;
1428
1429         *tmp_ptr = display->next;
1430
1431         display->next = ctx->display_list;
1432         ctx->display_list = display;
1433
1434         ff_dlog(avctx, "Region %d, (%d,%d)\n", region_id, display->x_pos, display->y_pos);
1435     }
1436
1437     while (tmp_display_list) {
1438         display = tmp_display_list;
1439
1440         tmp_display_list = display->next;
1441
1442         av_freep(&display);
1443     }
1444
1445     return 0;
1446 }
1447
1448
1449 #ifdef DEBUG
1450 static int save_display_set(DVBSubContext *ctx)
1451 {
1452     DVBSubRegion *region;
1453     DVBSubRegionDisplay *display;
1454     DVBSubCLUT *clut;
1455     uint32_t *clut_table;
1456     int x_pos, y_pos, width, height;
1457     int x, y, y_off, x_off;
1458     uint32_t *pbuf;
1459     char filename[32];
1460     static int fileno_index = 0;
1461
1462     x_pos = -1;
1463     y_pos = -1;
1464     width = 0;
1465     height = 0;
1466
1467     for (display = ctx->display_list; display; display = display->next) {
1468         region = get_region(ctx, display->region_id);
1469
1470         if (!region)
1471             return -1;
1472
1473         if (x_pos == -1) {
1474             x_pos = display->x_pos;
1475             y_pos = display->y_pos;
1476             width = region->width;
1477             height = region->height;
1478         } else {
1479             if (display->x_pos < x_pos) {
1480                 width += (x_pos - display->x_pos);
1481                 x_pos = display->x_pos;
1482             }
1483
1484             if (display->y_pos < y_pos) {
1485                 height += (y_pos - display->y_pos);
1486                 y_pos = display->y_pos;
1487             }
1488
1489             if (display->x_pos + region->width > x_pos + width) {
1490                 width = display->x_pos + region->width - x_pos;
1491             }
1492
1493             if (display->y_pos + region->height > y_pos + height) {
1494                 height = display->y_pos + region->height - y_pos;
1495             }
1496         }
1497     }
1498
1499     if (x_pos >= 0) {
1500
1501         pbuf = av_malloc(width * height * 4);
1502         if (!pbuf)
1503             return -1;
1504
1505         for (display = ctx->display_list; display; display = display->next) {
1506             region = get_region(ctx, display->region_id);
1507
1508             if (!region)
1509                 return -1;
1510
1511             x_off = display->x_pos - x_pos;
1512             y_off = display->y_pos - y_pos;
1513
1514             clut = get_clut(ctx, region->clut);
1515
1516             if (!clut)
1517                 clut = &default_clut;
1518
1519             switch (region->depth) {
1520             case 2:
1521                 clut_table = clut->clut4;
1522                 break;
1523             case 8:
1524                 clut_table = clut->clut256;
1525                 break;
1526             case 4:
1527             default:
1528                 clut_table = clut->clut16;
1529                 break;
1530             }
1531
1532             for (y = 0; y < region->height; y++) {
1533                 for (x = 0; x < region->width; x++) {
1534                     pbuf[((y + y_off) * width) + x_off + x] =
1535                         clut_table[region->pbuf[y * region->width + x]];
1536                 }
1537             }
1538
1539         }
1540
1541         snprintf(filename, sizeof(filename), "dvbs.%d", fileno_index);
1542
1543         png_save2(filename, pbuf, width, height);
1544
1545         av_freep(&pbuf);
1546     }
1547
1548     fileno_index++;
1549     return 0;
1550 }
1551 #endif
1552
1553 static int dvbsub_parse_display_definition_segment(AVCodecContext *avctx,
1554                                                    const uint8_t *buf,
1555                                                    int buf_size)
1556 {
1557     DVBSubContext *ctx = avctx->priv_data;
1558     DVBSubDisplayDefinition *display_def = ctx->display_definition;
1559     int dds_version, info_byte;
1560
1561     if (buf_size < 5)
1562         return AVERROR_INVALIDDATA;
1563
1564     info_byte   = bytestream_get_byte(&buf);
1565     dds_version = info_byte >> 4;
1566     if (display_def && display_def->version == dds_version)
1567         return 0; // already have this display definition version
1568
1569     if (!display_def) {
1570         display_def             = av_mallocz(sizeof(*display_def));
1571         if (!display_def)
1572             return AVERROR(ENOMEM);
1573         ctx->display_definition = display_def;
1574     }
1575
1576     display_def->version = dds_version;
1577     display_def->x       = 0;
1578     display_def->y       = 0;
1579     display_def->width   = bytestream_get_be16(&buf) + 1;
1580     display_def->height  = bytestream_get_be16(&buf) + 1;
1581     if (!avctx->width || !avctx->height) {
1582         avctx->width  = display_def->width;
1583         avctx->height = display_def->height;
1584     }
1585
1586     if (info_byte & 1<<3) { // display_window_flag
1587         if (buf_size < 13)
1588             return AVERROR_INVALIDDATA;
1589
1590         display_def->x = bytestream_get_be16(&buf);
1591         display_def->width  = bytestream_get_be16(&buf) - display_def->x + 1;
1592         display_def->y = bytestream_get_be16(&buf);
1593         display_def->height = bytestream_get_be16(&buf) - display_def->y + 1;
1594     }
1595
1596     return 0;
1597 }
1598
1599 static int dvbsub_display_end_segment(AVCodecContext *avctx, const uint8_t *buf,
1600                                       int buf_size, AVSubtitle *sub,int *got_output)
1601 {
1602     DVBSubContext *ctx = avctx->priv_data;
1603
1604     if(ctx->compute_edt == 0)
1605         save_subtitle_set(avctx, sub, got_output);
1606 #ifdef DEBUG
1607     save_display_set(ctx);
1608 #endif
1609     return 0;
1610 }
1611
1612 static int dvbsub_decode(AVCodecContext *avctx,
1613                          void *data, int *data_size,
1614                          AVPacket *avpkt)
1615 {
1616     const uint8_t *buf = avpkt->data;
1617     int buf_size = avpkt->size;
1618     DVBSubContext *ctx = avctx->priv_data;
1619     AVSubtitle *sub = data;
1620     const uint8_t *p, *p_end;
1621     int segment_type;
1622     int page_id;
1623     int segment_length;
1624     int i;
1625     int ret = 0;
1626     int got_segment = 0;
1627     int got_dds = 0;
1628
1629     ff_dlog(avctx, "DVB sub packet:\n");
1630
1631     for (i=0; i < buf_size; i++) {
1632         ff_dlog(avctx, "%02x ", buf[i]);
1633         if (i % 16 == 15)
1634             ff_dlog(avctx, "\n");
1635     }
1636
1637     if (i % 16)
1638         ff_dlog(avctx, "\n");
1639
1640     if (buf_size <= 6 || *buf != 0x0f) {
1641         ff_dlog(avctx, "incomplete or broken packet");
1642         return AVERROR_INVALIDDATA;
1643     }
1644
1645     p = buf;
1646     p_end = buf + buf_size;
1647
1648     while (p_end - p >= 6 && *p == 0x0f) {
1649         p += 1;
1650         segment_type = *p++;
1651         page_id = AV_RB16(p);
1652         p += 2;
1653         segment_length = AV_RB16(p);
1654         p += 2;
1655
1656         if (avctx->debug & FF_DEBUG_STARTCODE) {
1657             av_log(avctx, AV_LOG_DEBUG, "segment_type:%d page_id:%d segment_length:%d\n", segment_type, page_id, segment_length);
1658         }
1659
1660         if (p_end - p < segment_length) {
1661             ff_dlog(avctx, "incomplete or broken packet");
1662             ret = -1;
1663             goto end;
1664         }
1665
1666         if (page_id == ctx->composition_id || page_id == ctx->ancillary_id ||
1667             ctx->composition_id == -1 || ctx->ancillary_id == -1) {
1668             int ret = 0;
1669             switch (segment_type) {
1670             case DVBSUB_PAGE_SEGMENT:
1671                 ret = dvbsub_parse_page_segment(avctx, p, segment_length, sub, data_size);
1672                 got_segment |= 1;
1673                 break;
1674             case DVBSUB_REGION_SEGMENT:
1675                 ret = dvbsub_parse_region_segment(avctx, p, segment_length);
1676                 got_segment |= 2;
1677                 break;
1678             case DVBSUB_CLUT_SEGMENT:
1679                 ret = dvbsub_parse_clut_segment(avctx, p, segment_length);
1680                 if (ret < 0) goto end;
1681                 got_segment |= 4;
1682                 break;
1683             case DVBSUB_OBJECT_SEGMENT:
1684                 ret = dvbsub_parse_object_segment(avctx, p, segment_length);
1685                 got_segment |= 8;
1686                 break;
1687             case DVBSUB_DISPLAYDEFINITION_SEGMENT:
1688                 ret = dvbsub_parse_display_definition_segment(avctx, p,
1689                                                               segment_length);
1690                 got_dds = 1;
1691                 break;
1692             case DVBSUB_DISPLAY_SEGMENT:
1693                 ret = dvbsub_display_end_segment(avctx, p, segment_length, sub, data_size);
1694                 if (got_segment == 15 && !got_dds && !avctx->width && !avctx->height) {
1695                     // Default from ETSI EN 300 743 V1.3.1 (7.2.1)
1696                     avctx->width  = 720;
1697                     avctx->height = 576;
1698                 }
1699                 got_segment |= 16;
1700                 break;
1701             default:
1702                 ff_dlog(avctx, "Subtitling segment type 0x%x, page id %d, length %d\n",
1703                         segment_type, page_id, segment_length);
1704                 break;
1705             }
1706             if (ret < 0)
1707                 goto end;
1708         }
1709
1710         p += segment_length;
1711     }
1712     // Some streams do not send a display segment but if we have all the other
1713     // segments then we need no further data.
1714     if (got_segment == 15) {
1715         av_log(avctx, AV_LOG_DEBUG, "Missing display_end_segment, emulating\n");
1716         dvbsub_display_end_segment(avctx, p, 0, sub, data_size);
1717     }
1718
1719 end:
1720     if(ret < 0) {
1721         *data_size = 0;
1722         avsubtitle_free(sub);
1723         return ret;
1724     } else {
1725         if(ctx->compute_edt == 1 )
1726             FFSWAP(int64_t, ctx->prev_start, sub->pts);
1727     }
1728
1729     return p - buf;
1730 }
1731
1732 #define DS AV_OPT_FLAG_DECODING_PARAM | AV_OPT_FLAG_SUBTITLE_PARAM
1733 static const AVOption options[] = {
1734     {"compute_edt", "compute end of time using pts or timeout", offsetof(DVBSubContext, compute_edt), AV_OPT_TYPE_BOOL, {.i64 = 0}, 0, 1, DS},
1735     {"compute_clut", "compute clut when not available(-1) or always(1) or never(0)", offsetof(DVBSubContext, compute_clut), AV_OPT_TYPE_BOOL, {.i64 = -1}, -1, 1, DS},
1736     {"dvb_substream", "", offsetof(DVBSubContext, substream), AV_OPT_TYPE_INT, {.i64 = -1}, -1, 63, DS},
1737     {NULL}
1738 };
1739 static const AVClass dvbsubdec_class = {
1740     .class_name = "DVB Sub Decoder",
1741     .item_name  = av_default_item_name,
1742     .option     = options,
1743     .version    = LIBAVUTIL_VERSION_INT,
1744 };
1745
1746 AVCodec ff_dvbsub_decoder = {
1747     .name           = "dvbsub",
1748     .long_name      = NULL_IF_CONFIG_SMALL("DVB subtitles"),
1749     .type           = AVMEDIA_TYPE_SUBTITLE,
1750     .id             = AV_CODEC_ID_DVB_SUBTITLE,
1751     .priv_data_size = sizeof(DVBSubContext),
1752     .init           = dvbsub_init_decoder,
1753     .close          = dvbsub_close_decoder,
1754     .decode         = dvbsub_decode,
1755     .priv_class     = &dvbsubdec_class,
1756 };