ce03e12d4a17f21a11d01667c01ac7724d3cf253
[ffmpeg.git] / libavcodec / dvbsubdec.c
1 /*
2  * DVB subtitle decoding
3  * Copyright (c) 2005 Ian Caulfield
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "avcodec.h"
23 #include "get_bits.h"
24 #include "bytestream.h"
25 #include "internal.h"
26 #include "libavutil/colorspace.h"
27 #include "libavutil/opt.h"
28
29 #define DVBSUB_PAGE_SEGMENT     0x10
30 #define DVBSUB_REGION_SEGMENT   0x11
31 #define DVBSUB_CLUT_SEGMENT     0x12
32 #define DVBSUB_OBJECT_SEGMENT   0x13
33 #define DVBSUB_DISPLAYDEFINITION_SEGMENT 0x14
34 #define DVBSUB_DISPLAY_SEGMENT  0x80
35
36 #define cm (ff_crop_tab + MAX_NEG_CROP)
37
38 #ifdef DEBUG
39 #if 0
40 static void png_save(const char *filename, uint8_t *bitmap, int w, int h,
41                      uint32_t *rgba_palette)
42 {
43     int x, y, v;
44     FILE *f;
45     char fname[40], fname2[40];
46     char command[1024];
47
48     snprintf(fname, 40, "%s.ppm", filename);
49
50     f = fopen(fname, "w");
51     if (!f) {
52         perror(fname);
53         return;
54     }
55     fprintf(f, "P6\n"
56             "%d %d\n"
57             "%d\n",
58             w, h, 255);
59     for(y = 0; y < h; y++) {
60         for(x = 0; x < w; x++) {
61             v = rgba_palette[bitmap[y * w + x]];
62             putc((v >> 16) & 0xff, f);
63             putc((v >> 8) & 0xff, f);
64             putc((v >> 0) & 0xff, f);
65         }
66     }
67     fclose(f);
68
69
70     snprintf(fname2, 40, "%s-a.pgm", filename);
71
72     f = fopen(fname2, "w");
73     if (!f) {
74         perror(fname2);
75         return;
76     }
77     fprintf(f, "P5\n"
78             "%d %d\n"
79             "%d\n",
80             w, h, 255);
81     for(y = 0; y < h; y++) {
82         for(x = 0; x < w; x++) {
83             v = rgba_palette[bitmap[y * w + x]];
84             putc((v >> 24) & 0xff, f);
85         }
86     }
87     fclose(f);
88
89     snprintf(command, 1024, "pnmtopng -alpha %s %s > %s.png 2> /dev/null", fname2, fname, filename);
90     system(command);
91
92     snprintf(command, 1024, "rm %s %s", fname, fname2);
93     system(command);
94 }
95 #endif
96
97 static void png_save2(const char *filename, uint32_t *bitmap, int w, int h)
98 {
99     int x, y, v;
100     FILE *f;
101     char fname[40], fname2[40];
102     char command[1024];
103
104     snprintf(fname, sizeof(fname), "%s.ppm", filename);
105
106     f = fopen(fname, "w");
107     if (!f) {
108         perror(fname);
109         return;
110     }
111     fprintf(f, "P6\n"
112             "%d %d\n"
113             "%d\n",
114             w, h, 255);
115     for(y = 0; y < h; y++) {
116         for(x = 0; x < w; x++) {
117             v = bitmap[y * w + x];
118             putc((v >> 16) & 0xff, f);
119             putc((v >> 8) & 0xff, f);
120             putc((v >> 0) & 0xff, f);
121         }
122     }
123     fclose(f);
124
125
126     snprintf(fname2, sizeof(fname2), "%s-a.pgm", filename);
127
128     f = fopen(fname2, "w");
129     if (!f) {
130         perror(fname2);
131         return;
132     }
133     fprintf(f, "P5\n"
134             "%d %d\n"
135             "%d\n",
136             w, h, 255);
137     for(y = 0; y < h; y++) {
138         for(x = 0; x < w; x++) {
139             v = bitmap[y * w + x];
140             putc((v >> 24) & 0xff, f);
141         }
142     }
143     fclose(f);
144
145     snprintf(command, sizeof(command), "pnmtopng -alpha %s %s > %s.png 2> /dev/null", fname2, fname, filename);
146     system(command);
147
148     snprintf(command, sizeof(command), "rm %s %s", fname, fname2);
149     system(command);
150 }
151 #endif
152
153 #define RGBA(r,g,b,a) (((unsigned)(a) << 24) | ((r) << 16) | ((g) << 8) | (b))
154
155 typedef struct DVBSubCLUT {
156     int id;
157     int version;
158
159     uint32_t clut4[4];
160     uint32_t clut16[16];
161     uint32_t clut256[256];
162
163     struct DVBSubCLUT *next;
164 } DVBSubCLUT;
165
166 static DVBSubCLUT default_clut;
167
168 typedef struct DVBSubObjectDisplay {
169     int object_id;
170     int region_id;
171
172     int x_pos;
173     int y_pos;
174
175     int fgcolor;
176     int bgcolor;
177
178     struct DVBSubObjectDisplay *region_list_next;
179     struct DVBSubObjectDisplay *object_list_next;
180 } DVBSubObjectDisplay;
181
182 typedef struct DVBSubObject {
183     int id;
184     int version;
185
186     int type;
187
188     DVBSubObjectDisplay *display_list;
189
190     struct DVBSubObject *next;
191 } DVBSubObject;
192
193 typedef struct DVBSubRegionDisplay {
194     int region_id;
195
196     int x_pos;
197     int y_pos;
198
199     struct DVBSubRegionDisplay *next;
200 } DVBSubRegionDisplay;
201
202 typedef struct DVBSubRegion {
203     int id;
204     int version;
205
206     int width;
207     int height;
208     int depth;
209
210     int clut;
211     int bgcolor;
212
213     uint8_t *pbuf;
214     int buf_size;
215     int dirty;
216
217     DVBSubObjectDisplay *display_list;
218
219     struct DVBSubRegion *next;
220 } DVBSubRegion;
221
222 typedef struct DVBSubDisplayDefinition {
223     int version;
224
225     int x;
226     int y;
227     int width;
228     int height;
229 } DVBSubDisplayDefinition;
230
231 typedef struct DVBSubContext {
232     AVClass *class;
233     int composition_id;
234     int ancillary_id;
235
236     int version;
237     int time_out;
238     int compute_edt; /**< if 1 end display time calculated using pts
239                           if 0 (Default) calculated using time out */
240     int compute_clut;
241     int64_t prev_start;
242     DVBSubRegion *region_list;
243     DVBSubCLUT   *clut_list;
244     DVBSubObject *object_list;
245
246     DVBSubRegionDisplay *display_list;
247     DVBSubDisplayDefinition *display_definition;
248 } DVBSubContext;
249
250
251 static DVBSubObject* get_object(DVBSubContext *ctx, int object_id)
252 {
253     DVBSubObject *ptr = ctx->object_list;
254
255     while (ptr && ptr->id != object_id) {
256         ptr = ptr->next;
257     }
258
259     return ptr;
260 }
261
262 static DVBSubCLUT* get_clut(DVBSubContext *ctx, int clut_id)
263 {
264     DVBSubCLUT *ptr = ctx->clut_list;
265
266     while (ptr && ptr->id != clut_id) {
267         ptr = ptr->next;
268     }
269
270     return ptr;
271 }
272
273 static DVBSubRegion* get_region(DVBSubContext *ctx, int region_id)
274 {
275     DVBSubRegion *ptr = ctx->region_list;
276
277     while (ptr && ptr->id != region_id) {
278         ptr = ptr->next;
279     }
280
281     return ptr;
282 }
283
284 static void delete_region_display_list(DVBSubContext *ctx, DVBSubRegion *region)
285 {
286     DVBSubObject *object, *obj2, **obj2_ptr;
287     DVBSubObjectDisplay *display, *obj_disp, **obj_disp_ptr;
288
289     while (region->display_list) {
290         display = region->display_list;
291
292         object = get_object(ctx, display->object_id);
293
294         if (object) {
295             obj_disp_ptr = &object->display_list;
296             obj_disp = *obj_disp_ptr;
297
298             while (obj_disp && obj_disp != display) {
299                 obj_disp_ptr = &obj_disp->object_list_next;
300                 obj_disp = *obj_disp_ptr;
301             }
302
303             if (obj_disp) {
304                 *obj_disp_ptr = obj_disp->object_list_next;
305
306                 if (!object->display_list) {
307                     obj2_ptr = &ctx->object_list;
308                     obj2 = *obj2_ptr;
309
310                     while (obj2 != object) {
311                         av_assert0(obj2);
312                         obj2_ptr = &obj2->next;
313                         obj2 = *obj2_ptr;
314                     }
315
316                     *obj2_ptr = obj2->next;
317
318                     av_freep(&obj2);
319                 }
320             }
321         }
322
323         region->display_list = display->region_list_next;
324
325         av_freep(&display);
326     }
327
328 }
329
330 static void delete_cluts(DVBSubContext *ctx)
331 {
332     while (ctx->clut_list) {
333         DVBSubCLUT *clut = ctx->clut_list;
334
335         ctx->clut_list = clut->next;
336
337         av_freep(&clut);
338     }
339 }
340
341 static void delete_objects(DVBSubContext *ctx)
342 {
343     while (ctx->object_list) {
344         DVBSubObject *object = ctx->object_list;
345
346         ctx->object_list = object->next;
347
348         av_freep(&object);
349     }
350 }
351
352 static void delete_regions(DVBSubContext *ctx)
353 {
354     while (ctx->region_list) {
355         DVBSubRegion *region = ctx->region_list;
356
357         ctx->region_list = region->next;
358
359         delete_region_display_list(ctx, region);
360
361         av_freep(&region->pbuf);
362         av_freep(&region);
363     }
364 }
365
366 static av_cold int dvbsub_init_decoder(AVCodecContext *avctx)
367 {
368     int i, r, g, b, a = 0;
369     DVBSubContext *ctx = avctx->priv_data;
370
371     if (!avctx->extradata || (avctx->extradata_size < 4) || ((avctx->extradata_size % 5 != 0) && (avctx->extradata_size != 4))) {
372         av_log(avctx, AV_LOG_WARNING, "Invalid DVB subtitles stream extradata!\n");
373         ctx->composition_id = -1;
374         ctx->ancillary_id   = -1;
375     } else {
376         if (avctx->extradata_size > 5) {
377             av_log(avctx, AV_LOG_WARNING, "Decoding first DVB subtitles sub-stream\n");
378         }
379
380         ctx->composition_id = AV_RB16(avctx->extradata);
381         ctx->ancillary_id   = AV_RB16(avctx->extradata + 2);
382     }
383
384     ctx->version = -1;
385     ctx->prev_start = AV_NOPTS_VALUE;
386
387     default_clut.id = -1;
388     default_clut.next = NULL;
389
390     default_clut.clut4[0] = RGBA(  0,   0,   0,   0);
391     default_clut.clut4[1] = RGBA(255, 255, 255, 255);
392     default_clut.clut4[2] = RGBA(  0,   0,   0, 255);
393     default_clut.clut4[3] = RGBA(127, 127, 127, 255);
394
395     default_clut.clut16[0] = RGBA(  0,   0,   0,   0);
396     for (i = 1; i < 16; i++) {
397         if (i < 8) {
398             r = (i & 1) ? 255 : 0;
399             g = (i & 2) ? 255 : 0;
400             b = (i & 4) ? 255 : 0;
401         } else {
402             r = (i & 1) ? 127 : 0;
403             g = (i & 2) ? 127 : 0;
404             b = (i & 4) ? 127 : 0;
405         }
406         default_clut.clut16[i] = RGBA(r, g, b, 255);
407     }
408
409     default_clut.clut256[0] = RGBA(  0,   0,   0,   0);
410     for (i = 1; i < 256; i++) {
411         if (i < 8) {
412             r = (i & 1) ? 255 : 0;
413             g = (i & 2) ? 255 : 0;
414             b = (i & 4) ? 255 : 0;
415             a = 63;
416         } else {
417             switch (i & 0x88) {
418             case 0x00:
419                 r = ((i & 1) ? 85 : 0) + ((i & 0x10) ? 170 : 0);
420                 g = ((i & 2) ? 85 : 0) + ((i & 0x20) ? 170 : 0);
421                 b = ((i & 4) ? 85 : 0) + ((i & 0x40) ? 170 : 0);
422                 a = 255;
423                 break;
424             case 0x08:
425                 r = ((i & 1) ? 85 : 0) + ((i & 0x10) ? 170 : 0);
426                 g = ((i & 2) ? 85 : 0) + ((i & 0x20) ? 170 : 0);
427                 b = ((i & 4) ? 85 : 0) + ((i & 0x40) ? 170 : 0);
428                 a = 127;
429                 break;
430             case 0x80:
431                 r = 127 + ((i & 1) ? 43 : 0) + ((i & 0x10) ? 85 : 0);
432                 g = 127 + ((i & 2) ? 43 : 0) + ((i & 0x20) ? 85 : 0);
433                 b = 127 + ((i & 4) ? 43 : 0) + ((i & 0x40) ? 85 : 0);
434                 a = 255;
435                 break;
436             case 0x88:
437                 r = ((i & 1) ? 43 : 0) + ((i & 0x10) ? 85 : 0);
438                 g = ((i & 2) ? 43 : 0) + ((i & 0x20) ? 85 : 0);
439                 b = ((i & 4) ? 43 : 0) + ((i & 0x40) ? 85 : 0);
440                 a = 255;
441                 break;
442             }
443         }
444         default_clut.clut256[i] = RGBA(r, g, b, a);
445     }
446
447     return 0;
448 }
449
450 static av_cold int dvbsub_close_decoder(AVCodecContext *avctx)
451 {
452     DVBSubContext *ctx = avctx->priv_data;
453     DVBSubRegionDisplay *display;
454
455     delete_regions(ctx);
456
457     delete_objects(ctx);
458
459     delete_cluts(ctx);
460
461     av_freep(&ctx->display_definition);
462
463     while (ctx->display_list) {
464         display = ctx->display_list;
465         ctx->display_list = display->next;
466
467         av_freep(&display);
468     }
469
470     return 0;
471 }
472
473 static int dvbsub_read_2bit_string(AVCodecContext *avctx,
474                                    uint8_t *destbuf, int dbuf_len,
475                                    const uint8_t **srcbuf, int buf_size,
476                                    int non_mod, uint8_t *map_table, int x_pos)
477 {
478     GetBitContext gb;
479
480     int bits;
481     int run_length;
482     int pixels_read = x_pos;
483
484     init_get_bits(&gb, *srcbuf, buf_size << 3);
485
486     destbuf += x_pos;
487
488     while (get_bits_count(&gb) < buf_size << 3 && pixels_read < dbuf_len) {
489         bits = get_bits(&gb, 2);
490
491         if (bits) {
492             if (non_mod != 1 || bits != 1) {
493                 if (map_table)
494                     *destbuf++ = map_table[bits];
495                 else
496                     *destbuf++ = bits;
497             }
498             pixels_read++;
499         } else {
500             bits = get_bits1(&gb);
501             if (bits == 1) {
502                 run_length = get_bits(&gb, 3) + 3;
503                 bits = get_bits(&gb, 2);
504
505                 if (non_mod == 1 && bits == 1)
506                     pixels_read += run_length;
507                 else {
508                     if (map_table)
509                         bits = map_table[bits];
510                     while (run_length-- > 0 && pixels_read < dbuf_len) {
511                         *destbuf++ = bits;
512                         pixels_read++;
513                     }
514                 }
515             } else {
516                 bits = get_bits1(&gb);
517                 if (bits == 0) {
518                     bits = get_bits(&gb, 2);
519                     if (bits == 2) {
520                         run_length = get_bits(&gb, 4) + 12;
521                         bits = get_bits(&gb, 2);
522
523                         if (non_mod == 1 && bits == 1)
524                             pixels_read += run_length;
525                         else {
526                             if (map_table)
527                                 bits = map_table[bits];
528                             while (run_length-- > 0 && pixels_read < dbuf_len) {
529                                 *destbuf++ = bits;
530                                 pixels_read++;
531                             }
532                         }
533                     } else if (bits == 3) {
534                         run_length = get_bits(&gb, 8) + 29;
535                         bits = get_bits(&gb, 2);
536
537                         if (non_mod == 1 && bits == 1)
538                             pixels_read += run_length;
539                         else {
540                             if (map_table)
541                                 bits = map_table[bits];
542                             while (run_length-- > 0 && pixels_read < dbuf_len) {
543                                 *destbuf++ = bits;
544                                 pixels_read++;
545                             }
546                         }
547                     } else if (bits == 1) {
548                         if (map_table)
549                             bits = map_table[0];
550                         else
551                             bits = 0;
552                         run_length = 2;
553                         while (run_length-- > 0 && pixels_read < dbuf_len) {
554                             *destbuf++ = bits;
555                             pixels_read++;
556                         }
557                     } else {
558                         (*srcbuf) += (get_bits_count(&gb) + 7) >> 3;
559                         return pixels_read;
560                     }
561                 } else {
562                     if (map_table)
563                         bits = map_table[0];
564                     else
565                         bits = 0;
566                     *destbuf++ = bits;
567                     pixels_read++;
568                 }
569             }
570         }
571     }
572
573     if (get_bits(&gb, 6))
574         av_log(avctx, AV_LOG_ERROR, "line overflow\n");
575
576     (*srcbuf) += (get_bits_count(&gb) + 7) >> 3;
577
578     return pixels_read;
579 }
580
581 static int dvbsub_read_4bit_string(AVCodecContext *avctx, uint8_t *destbuf, int dbuf_len,
582                                    const uint8_t **srcbuf, int buf_size,
583                                    int non_mod, uint8_t *map_table, int x_pos)
584 {
585     GetBitContext gb;
586
587     int bits;
588     int run_length;
589     int pixels_read = x_pos;
590
591     init_get_bits(&gb, *srcbuf, buf_size << 3);
592
593     destbuf += x_pos;
594
595     while (get_bits_count(&gb) < buf_size << 3 && pixels_read < dbuf_len) {
596         bits = get_bits(&gb, 4);
597
598         if (bits) {
599             if (non_mod != 1 || bits != 1) {
600                 if (map_table)
601                     *destbuf++ = map_table[bits];
602                 else
603                     *destbuf++ = bits;
604             }
605             pixels_read++;
606         } else {
607             bits = get_bits1(&gb);
608             if (bits == 0) {
609                 run_length = get_bits(&gb, 3);
610
611                 if (run_length == 0) {
612                     (*srcbuf) += (get_bits_count(&gb) + 7) >> 3;
613                     return pixels_read;
614                 }
615
616                 run_length += 2;
617
618                 if (map_table)
619                     bits = map_table[0];
620                 else
621                     bits = 0;
622
623                 while (run_length-- > 0 && pixels_read < dbuf_len) {
624                     *destbuf++ = bits;
625                     pixels_read++;
626                 }
627             } else {
628                 bits = get_bits1(&gb);
629                 if (bits == 0) {
630                     run_length = get_bits(&gb, 2) + 4;
631                     bits = get_bits(&gb, 4);
632
633                     if (non_mod == 1 && bits == 1)
634                         pixels_read += run_length;
635                     else {
636                         if (map_table)
637                             bits = map_table[bits];
638                         while (run_length-- > 0 && pixels_read < dbuf_len) {
639                             *destbuf++ = bits;
640                             pixels_read++;
641                         }
642                     }
643                 } else {
644                     bits = get_bits(&gb, 2);
645                     if (bits == 2) {
646                         run_length = get_bits(&gb, 4) + 9;
647                         bits = get_bits(&gb, 4);
648
649                         if (non_mod == 1 && bits == 1)
650                             pixels_read += run_length;
651                         else {
652                             if (map_table)
653                                 bits = map_table[bits];
654                             while (run_length-- > 0 && pixels_read < dbuf_len) {
655                                 *destbuf++ = bits;
656                                 pixels_read++;
657                             }
658                         }
659                     } else if (bits == 3) {
660                         run_length = get_bits(&gb, 8) + 25;
661                         bits = get_bits(&gb, 4);
662
663                         if (non_mod == 1 && bits == 1)
664                             pixels_read += run_length;
665                         else {
666                             if (map_table)
667                                 bits = map_table[bits];
668                             while (run_length-- > 0 && pixels_read < dbuf_len) {
669                                 *destbuf++ = bits;
670                                 pixels_read++;
671                             }
672                         }
673                     } else if (bits == 1) {
674                         if (map_table)
675                             bits = map_table[0];
676                         else
677                             bits = 0;
678                         run_length = 2;
679                         while (run_length-- > 0 && pixels_read < dbuf_len) {
680                             *destbuf++ = bits;
681                             pixels_read++;
682                         }
683                     } else {
684                         if (map_table)
685                             bits = map_table[0];
686                         else
687                             bits = 0;
688                         *destbuf++ = bits;
689                         pixels_read ++;
690                     }
691                 }
692             }
693         }
694     }
695
696     if (get_bits(&gb, 8))
697         av_log(avctx, AV_LOG_ERROR, "line overflow\n");
698
699     (*srcbuf) += (get_bits_count(&gb) + 7) >> 3;
700
701     return pixels_read;
702 }
703
704 static int dvbsub_read_8bit_string(AVCodecContext *avctx,
705                                    uint8_t *destbuf, int dbuf_len,
706                                     const uint8_t **srcbuf, int buf_size,
707                                     int non_mod, uint8_t *map_table, int x_pos)
708 {
709     const uint8_t *sbuf_end = (*srcbuf) + buf_size;
710     int bits;
711     int run_length;
712     int pixels_read = x_pos;
713
714     destbuf += x_pos;
715
716     while (*srcbuf < sbuf_end && pixels_read < dbuf_len) {
717         bits = *(*srcbuf)++;
718
719         if (bits) {
720             if (non_mod != 1 || bits != 1) {
721                 if (map_table)
722                     *destbuf++ = map_table[bits];
723                 else
724                     *destbuf++ = bits;
725             }
726             pixels_read++;
727         } else {
728             bits = *(*srcbuf)++;
729             run_length = bits & 0x7f;
730             if ((bits & 0x80) == 0) {
731                 if (run_length == 0) {
732                     return pixels_read;
733                 }
734
735                 bits = 0;
736             } else {
737                 bits = *(*srcbuf)++;
738             }
739             if (non_mod == 1 && bits == 1)
740                 pixels_read += run_length;
741             else {
742                 if (map_table)
743                     bits = map_table[bits];
744                 while (run_length-- > 0 && pixels_read < dbuf_len) {
745                     *destbuf++ = bits;
746                     pixels_read++;
747                 }
748             }
749         }
750     }
751
752     if (*(*srcbuf)++)
753         av_log(avctx, AV_LOG_ERROR, "line overflow\n");
754
755     return pixels_read;
756 }
757
758 static void compute_default_clut(AVPicture *frame, int w, int h)
759 {
760     uint8_t list[256] = {0};
761     uint8_t list_inv[256];
762     int counttab[256] = {0};
763     int count, i, x, y;
764
765 #define V(x,y) frame->data[0][(x) + (y)*frame->linesize[0]]
766     for (y = 0; y<h; y++) {
767         for (x = 0; x<w; x++) {
768             int v = V(x,y) + 1;
769             int vl = x     ? V(x-1,y) + 1 : 0;
770             int vr = x+1<w ? V(x+1,y) + 1 : 0;
771             int vt = y     ? V(x,y-1) + 1 : 0;
772             int vb = y+1<h ? V(x,y+1) + 1 : 0;
773             counttab[v-1] += !!((v!=vl) + (v!=vr) + (v!=vt) + (v!=vb));
774         }
775     }
776 #define L(x,y) list[ frame->data[0][(x) + (y)*frame->linesize[0]] ]
777
778     for (i = 0; i<256; i++) {
779         int scoretab[256] = {0};
780         int bestscore = 0;
781         int bestv = 0;
782         for (y = 0; y<h; y++) {
783             for (x = 0; x<w; x++) {
784                 int v = frame->data[0][x + y*frame->linesize[0]];
785                 int l_m = list[v];
786                 int l_l = x     ? L(x-1, y) : 1;
787                 int l_r = x+1<w ? L(x+1, y) : 1;
788                 int l_t = y     ? L(x, y-1) : 1;
789                 int l_b = y+1<h ? L(x, y+1) : 1;
790                 int score;
791                 if (l_m)
792                     continue;
793                 scoretab[v] += l_l + l_r + l_t + l_b;
794                 score = 1024LL*scoretab[v] / counttab[v];
795                 if (score > bestscore) {
796                     bestscore = score;
797                     bestv = v;
798                 }
799             }
800         }
801         if (!bestscore)
802             break;
803         list    [ bestv ] = 1;
804         list_inv[     i ] = bestv;
805     }
806
807     count = i - 1;
808     for (i--; i>=0; i--) {
809         int v = i*255/count;
810         AV_WN32(frame->data[1] + 4*list_inv[i], RGBA(v/2,v,v/2,v));
811     }
812 }
813
814
815 static int save_subtitle_set(AVCodecContext *avctx, AVSubtitle *sub, int *got_output)
816 {
817     DVBSubContext *ctx = avctx->priv_data;
818     DVBSubRegionDisplay *display;
819     DVBSubDisplayDefinition *display_def = ctx->display_definition;
820     DVBSubRegion *region;
821     AVSubtitleRect *rect;
822     DVBSubCLUT *clut;
823     uint32_t *clut_table;
824     int i;
825     int offset_x=0, offset_y=0;
826     int ret = 0;
827
828
829     if (display_def) {
830         offset_x = display_def->x;
831         offset_y = display_def->y;
832     }
833
834     /* Not touching AVSubtitles again*/
835     if(sub->num_rects) {
836         avpriv_request_sample(ctx, "Different Version of Segment asked Twice\n");
837         return AVERROR_PATCHWELCOME;
838     }
839     for (display = ctx->display_list; display; display = display->next) {
840         region = get_region(ctx, display->region_id);
841         if (region && region->dirty)
842             sub->num_rects++;
843     }
844
845     if(ctx->compute_edt == 0) {
846         sub->end_display_time = ctx->time_out * 1000;
847         *got_output = 1;
848     } else if (ctx->prev_start != AV_NOPTS_VALUE) {
849         sub->end_display_time = av_rescale_q((sub->pts - ctx->prev_start ), AV_TIME_BASE_Q, (AVRational){ 1, 1000 }) - 1;
850         *got_output = 1;
851     }
852     if (sub->num_rects > 0) {
853
854         sub->rects = av_mallocz_array(sizeof(*sub->rects), sub->num_rects);
855         if (!sub->rects) {
856             ret = AVERROR(ENOMEM);
857             goto fail;
858         }
859
860         for(i=0; i<sub->num_rects; i++)
861             sub->rects[i] = av_mallocz(sizeof(*sub->rects[i]));
862
863         i = 0;
864
865         for (display = ctx->display_list; display; display = display->next) {
866             region = get_region(ctx, display->region_id);
867
868             if (!region)
869                 continue;
870
871             if (!region->dirty)
872                 continue;
873
874             rect = sub->rects[i];
875             rect->x = display->x_pos + offset_x;
876             rect->y = display->y_pos + offset_y;
877             rect->w = region->width;
878             rect->h = region->height;
879             rect->nb_colors = (1 << region->depth);
880             rect->type      = SUBTITLE_BITMAP;
881             rect->pict.linesize[0] = region->width;
882
883             clut = get_clut(ctx, region->clut);
884
885             if (!clut)
886                 clut = &default_clut;
887
888             switch (region->depth) {
889             case 2:
890                 clut_table = clut->clut4;
891                 break;
892             case 8:
893                 clut_table = clut->clut256;
894                 break;
895             case 4:
896             default:
897                 clut_table = clut->clut16;
898                 break;
899             }
900
901             rect->pict.data[1] = av_mallocz(AVPALETTE_SIZE);
902             if (!rect->pict.data[1]) {
903                 ret = AVERROR(ENOMEM);
904                 goto fail;
905             }
906             memcpy(rect->pict.data[1], clut_table, (1 << region->depth) * sizeof(uint32_t));
907
908             rect->pict.data[0] = av_malloc(region->buf_size);
909             if (!rect->pict.data[0]) {
910                 ret = AVERROR(ENOMEM);
911                 goto fail;
912             }
913
914             memcpy(rect->pict.data[0], region->pbuf, region->buf_size);
915
916             if ((clut == &default_clut && ctx->compute_clut == -1) || ctx->compute_clut == 1)
917                 compute_default_clut(&rect->pict, rect->w, rect->h);
918
919             i++;
920         }
921     }
922
923     return 0;
924 fail:
925     if (sub->rects) {
926         for(i=0; i<sub->num_rects; i++) {
927             rect = sub->rects[i];
928             if (rect) {
929                 av_freep(&rect->pict.data[0]);
930                 av_freep(&rect->pict.data[1]);
931             }
932             av_freep(&sub->rects[i]);
933         }
934         av_freep(&sub->rects);
935     }
936     sub->num_rects = 0;
937     return ret;
938 }
939
940 static void dvbsub_parse_pixel_data_block(AVCodecContext *avctx, DVBSubObjectDisplay *display,
941                                           const uint8_t *buf, int buf_size, int top_bottom, int non_mod)
942 {
943     DVBSubContext *ctx = avctx->priv_data;
944
945     DVBSubRegion *region = get_region(ctx, display->region_id);
946     const uint8_t *buf_end = buf + buf_size;
947     uint8_t *pbuf;
948     int x_pos, y_pos;
949     int i;
950
951     uint8_t map2to4[] = { 0x0,  0x7,  0x8,  0xf};
952     uint8_t map2to8[] = {0x00, 0x77, 0x88, 0xff};
953     uint8_t map4to8[] = {0x00, 0x11, 0x22, 0x33, 0x44, 0x55, 0x66, 0x77,
954                          0x88, 0x99, 0xaa, 0xbb, 0xcc, 0xdd, 0xee, 0xff};
955     uint8_t *map_table;
956
957 #if 0
958     ff_dlog(avctx, "DVB pixel block size %d, %s field:\n", buf_size,
959             top_bottom ? "bottom" : "top");
960
961     for (i = 0; i < buf_size; i++) {
962         if (i % 16 == 0)
963             ff_dlog(avctx, "0x%8p: ", buf+i);
964
965         ff_dlog(avctx, "%02x ", buf[i]);
966         if (i % 16 == 15)
967             ff_dlog(avctx, "\n");
968     }
969
970     if (i % 16)
971         ff_dlog(avctx, "\n");
972 #endif
973
974     if (!region)
975         return;
976
977     pbuf = region->pbuf;
978     region->dirty = 1;
979
980     x_pos = display->x_pos;
981     y_pos = display->y_pos;
982
983     y_pos += top_bottom;
984
985     while (buf < buf_end) {
986         if ((*buf!=0xf0 && x_pos >= region->width) || y_pos >= region->height) {
987             av_log(avctx, AV_LOG_ERROR, "Invalid object location! %d-%d %d-%d %02x\n", x_pos, region->width, y_pos, region->height, *buf);
988             return;
989         }
990
991         switch (*buf++) {
992         case 0x10:
993             if (region->depth == 8)
994                 map_table = map2to8;
995             else if (region->depth == 4)
996                 map_table = map2to4;
997             else
998                 map_table = NULL;
999
1000             x_pos = dvbsub_read_2bit_string(avctx, pbuf + (y_pos * region->width),
1001                                             region->width, &buf, buf_end - buf,
1002                                             non_mod, map_table, x_pos);
1003             break;
1004         case 0x11:
1005             if (region->depth < 4) {
1006                 av_log(avctx, AV_LOG_ERROR, "4-bit pixel string in %d-bit region!\n", region->depth);
1007                 return;
1008             }
1009
1010             if (region->depth == 8)
1011                 map_table = map4to8;
1012             else
1013                 map_table = NULL;
1014
1015             x_pos = dvbsub_read_4bit_string(avctx, pbuf + (y_pos * region->width),
1016                                             region->width, &buf, buf_end - buf,
1017                                             non_mod, map_table, x_pos);
1018             break;
1019         case 0x12:
1020             if (region->depth < 8) {
1021                 av_log(avctx, AV_LOG_ERROR, "8-bit pixel string in %d-bit region!\n", region->depth);
1022                 return;
1023             }
1024
1025             x_pos = dvbsub_read_8bit_string(avctx, pbuf + (y_pos * region->width),
1026                                             region->width, &buf, buf_end - buf,
1027                                             non_mod, NULL, x_pos);
1028             break;
1029
1030         case 0x20:
1031             map2to4[0] = (*buf) >> 4;
1032             map2to4[1] = (*buf++) & 0xf;
1033             map2to4[2] = (*buf) >> 4;
1034             map2to4[3] = (*buf++) & 0xf;
1035             break;
1036         case 0x21:
1037             for (i = 0; i < 4; i++)
1038                 map2to8[i] = *buf++;
1039             break;
1040         case 0x22:
1041             for (i = 0; i < 16; i++)
1042                 map4to8[i] = *buf++;
1043             break;
1044
1045         case 0xf0:
1046             x_pos = display->x_pos;
1047             y_pos += 2;
1048             break;
1049         default:
1050             av_log(avctx, AV_LOG_INFO, "Unknown/unsupported pixel block 0x%x\n", *(buf-1));
1051         }
1052     }
1053
1054 }
1055
1056 static int dvbsub_parse_object_segment(AVCodecContext *avctx,
1057                                        const uint8_t *buf, int buf_size)
1058 {
1059     DVBSubContext *ctx = avctx->priv_data;
1060
1061     const uint8_t *buf_end = buf + buf_size;
1062     int object_id;
1063     DVBSubObject *object;
1064     DVBSubObjectDisplay *display;
1065     int top_field_len, bottom_field_len;
1066
1067     int coding_method, non_modifying_color;
1068
1069     object_id = AV_RB16(buf);
1070     buf += 2;
1071
1072     object = get_object(ctx, object_id);
1073
1074     if (!object)
1075         return AVERROR_INVALIDDATA;
1076
1077     coding_method = ((*buf) >> 2) & 3;
1078     non_modifying_color = ((*buf++) >> 1) & 1;
1079
1080     if (coding_method == 0) {
1081         top_field_len = AV_RB16(buf);
1082         buf += 2;
1083         bottom_field_len = AV_RB16(buf);
1084         buf += 2;
1085
1086         if (buf + top_field_len + bottom_field_len > buf_end) {
1087             av_log(avctx, AV_LOG_ERROR, "Field data size too large\n");
1088             return AVERROR_INVALIDDATA;
1089         }
1090
1091         for (display = object->display_list; display; display = display->object_list_next) {
1092             const uint8_t *block = buf;
1093             int bfl = bottom_field_len;
1094
1095             dvbsub_parse_pixel_data_block(avctx, display, block, top_field_len, 0,
1096                                             non_modifying_color);
1097
1098             if (bottom_field_len > 0)
1099                 block = buf + top_field_len;
1100             else
1101                 bfl = top_field_len;
1102
1103             dvbsub_parse_pixel_data_block(avctx, display, block, bfl, 1,
1104                                             non_modifying_color);
1105         }
1106
1107 /*  } else if (coding_method == 1) {*/
1108
1109     } else {
1110         av_log(avctx, AV_LOG_ERROR, "Unknown object coding %d\n", coding_method);
1111     }
1112
1113     return 0;
1114 }
1115
1116 static int dvbsub_parse_clut_segment(AVCodecContext *avctx,
1117                                      const uint8_t *buf, int buf_size)
1118 {
1119     DVBSubContext *ctx = avctx->priv_data;
1120
1121     const uint8_t *buf_end = buf + buf_size;
1122     int i, clut_id;
1123     int version;
1124     DVBSubCLUT *clut;
1125     int entry_id, depth , full_range;
1126     int y, cr, cb, alpha;
1127     int r, g, b, r_add, g_add, b_add;
1128
1129     ff_dlog(avctx, "DVB clut packet:\n");
1130
1131     for (i=0; i < buf_size; i++) {
1132         ff_dlog(avctx, "%02x ", buf[i]);
1133         if (i % 16 == 15)
1134             ff_dlog(avctx, "\n");
1135     }
1136
1137     if (i % 16)
1138         ff_dlog(avctx, "\n");
1139
1140     clut_id = *buf++;
1141     version = ((*buf)>>4)&15;
1142     buf += 1;
1143
1144     clut = get_clut(ctx, clut_id);
1145
1146     if (!clut) {
1147         clut = av_malloc(sizeof(DVBSubCLUT));
1148         if (!clut)
1149             return AVERROR(ENOMEM);
1150
1151         memcpy(clut, &default_clut, sizeof(DVBSubCLUT));
1152
1153         clut->id = clut_id;
1154         clut->version = -1;
1155
1156         clut->next = ctx->clut_list;
1157         ctx->clut_list = clut;
1158     }
1159
1160     if (clut->version != version) {
1161
1162     clut->version = version;
1163
1164     while (buf + 4 < buf_end) {
1165         entry_id = *buf++;
1166
1167         depth = (*buf) & 0xe0;
1168
1169         if (depth == 0) {
1170             av_log(avctx, AV_LOG_ERROR, "Invalid clut depth 0x%x!\n", *buf);
1171             return AVERROR_INVALIDDATA;
1172         }
1173
1174         full_range = (*buf++) & 1;
1175
1176         if (full_range) {
1177             y = *buf++;
1178             cr = *buf++;
1179             cb = *buf++;
1180             alpha = *buf++;
1181         } else {
1182             y = buf[0] & 0xfc;
1183             cr = (((buf[0] & 3) << 2) | ((buf[1] >> 6) & 3)) << 4;
1184             cb = (buf[1] << 2) & 0xf0;
1185             alpha = (buf[1] << 6) & 0xc0;
1186
1187             buf += 2;
1188         }
1189
1190         if (y == 0)
1191             alpha = 0xff;
1192
1193         YUV_TO_RGB1_CCIR(cb, cr);
1194         YUV_TO_RGB2_CCIR(r, g, b, y);
1195
1196         ff_dlog(avctx, "clut %d := (%d,%d,%d,%d)\n", entry_id, r, g, b, alpha);
1197         if (!!(depth & 0x80) + !!(depth & 0x40) + !!(depth & 0x20) > 1) {
1198             ff_dlog(avctx, "More than one bit level marked: %x\n", depth);
1199             if (avctx->strict_std_compliance > FF_COMPLIANCE_NORMAL)
1200                 return AVERROR_INVALIDDATA;
1201         }
1202
1203         if (depth & 0x80)
1204             clut->clut4[entry_id] = RGBA(r,g,b,255 - alpha);
1205         else if (depth & 0x40)
1206             clut->clut16[entry_id] = RGBA(r,g,b,255 - alpha);
1207         else if (depth & 0x20)
1208             clut->clut256[entry_id] = RGBA(r,g,b,255 - alpha);
1209     }
1210     }
1211
1212     return 0;
1213 }
1214
1215
1216 static int dvbsub_parse_region_segment(AVCodecContext *avctx,
1217                                        const uint8_t *buf, int buf_size)
1218 {
1219     DVBSubContext *ctx = avctx->priv_data;
1220
1221     const uint8_t *buf_end = buf + buf_size;
1222     int region_id, object_id;
1223     int av_unused version;
1224     DVBSubRegion *region;
1225     DVBSubObject *object;
1226     DVBSubObjectDisplay *display;
1227     int fill;
1228
1229     if (buf_size < 10)
1230         return AVERROR_INVALIDDATA;
1231
1232     region_id = *buf++;
1233
1234     region = get_region(ctx, region_id);
1235
1236     if (!region) {
1237         region = av_mallocz(sizeof(DVBSubRegion));
1238         if (!region)
1239             return AVERROR(ENOMEM);
1240
1241         region->id = region_id;
1242         region->version = -1;
1243
1244         region->next = ctx->region_list;
1245         ctx->region_list = region;
1246     }
1247
1248     version = ((*buf)>>4) & 15;
1249     fill = ((*buf++) >> 3) & 1;
1250
1251     region->width = AV_RB16(buf);
1252     buf += 2;
1253     region->height = AV_RB16(buf);
1254     buf += 2;
1255
1256     if (region->width * region->height != region->buf_size) {
1257         av_free(region->pbuf);
1258
1259         region->buf_size = region->width * region->height;
1260
1261         region->pbuf = av_malloc(region->buf_size);
1262         if (!region->pbuf) {
1263             region->buf_size =
1264             region->width =
1265             region->height = 0;
1266             return AVERROR(ENOMEM);
1267         }
1268
1269         fill = 1;
1270         region->dirty = 0;
1271     }
1272
1273     region->depth = 1 << (((*buf++) >> 2) & 7);
1274     if(region->depth<2 || region->depth>8){
1275         av_log(avctx, AV_LOG_ERROR, "region depth %d is invalid\n", region->depth);
1276         region->depth= 4;
1277     }
1278     region->clut = *buf++;
1279
1280     if (region->depth == 8) {
1281         region->bgcolor = *buf++;
1282         buf += 1;
1283     } else {
1284         buf += 1;
1285
1286         if (region->depth == 4)
1287             region->bgcolor = (((*buf++) >> 4) & 15);
1288         else
1289             region->bgcolor = (((*buf++) >> 2) & 3);
1290     }
1291
1292     ff_dlog(avctx, "Region %d, (%dx%d)\n", region_id, region->width, region->height);
1293
1294     if (fill) {
1295         memset(region->pbuf, region->bgcolor, region->buf_size);
1296         ff_dlog(avctx, "Fill region (%d)\n", region->bgcolor);
1297     }
1298
1299     delete_region_display_list(ctx, region);
1300
1301     while (buf + 5 < buf_end) {
1302         object_id = AV_RB16(buf);
1303         buf += 2;
1304
1305         object = get_object(ctx, object_id);
1306
1307         if (!object) {
1308             object = av_mallocz(sizeof(DVBSubObject));
1309             if (!object)
1310                 return AVERROR(ENOMEM);
1311
1312             object->id = object_id;
1313             object->next = ctx->object_list;
1314             ctx->object_list = object;
1315         }
1316
1317         object->type = (*buf) >> 6;
1318
1319         display = av_mallocz(sizeof(DVBSubObjectDisplay));
1320         if (!display)
1321             return AVERROR(ENOMEM);
1322
1323         display->object_id = object_id;
1324         display->region_id = region_id;
1325
1326         display->x_pos = AV_RB16(buf) & 0xfff;
1327         buf += 2;
1328         display->y_pos = AV_RB16(buf) & 0xfff;
1329         buf += 2;
1330
1331         if ((object->type == 1 || object->type == 2) && buf+1 < buf_end) {
1332             display->fgcolor = *buf++;
1333             display->bgcolor = *buf++;
1334         }
1335
1336         display->region_list_next = region->display_list;
1337         region->display_list = display;
1338
1339         display->object_list_next = object->display_list;
1340         object->display_list = display;
1341     }
1342
1343     return 0;
1344 }
1345
1346 static int dvbsub_parse_page_segment(AVCodecContext *avctx,
1347                                      const uint8_t *buf, int buf_size, AVSubtitle *sub, int *got_output)
1348 {
1349     DVBSubContext *ctx = avctx->priv_data;
1350     DVBSubRegionDisplay *display;
1351     DVBSubRegionDisplay *tmp_display_list, **tmp_ptr;
1352
1353     const uint8_t *buf_end = buf + buf_size;
1354     int region_id;
1355     int page_state;
1356     int timeout;
1357     int version;
1358
1359     if (buf_size < 1)
1360         return AVERROR_INVALIDDATA;
1361
1362     timeout = *buf++;
1363     version = ((*buf)>>4) & 15;
1364     page_state = ((*buf++) >> 2) & 3;
1365
1366     if (ctx->version == version) {
1367         return 0;
1368     }
1369
1370     ctx->time_out = timeout;
1371     ctx->version = version;
1372
1373     ff_dlog(avctx, "Page time out %ds, state %d\n", ctx->time_out, page_state);
1374
1375     if(ctx->compute_edt == 1)
1376         save_subtitle_set(avctx, sub, got_output);
1377
1378     if (page_state == 1 || page_state == 2) {
1379         delete_regions(ctx);
1380         delete_objects(ctx);
1381         delete_cluts(ctx);
1382     }
1383
1384     tmp_display_list = ctx->display_list;
1385     ctx->display_list = NULL;
1386
1387     while (buf + 5 < buf_end) {
1388         region_id = *buf++;
1389         buf += 1;
1390
1391         display = tmp_display_list;
1392         tmp_ptr = &tmp_display_list;
1393
1394         while (display && display->region_id != region_id) {
1395             tmp_ptr = &display->next;
1396             display = display->next;
1397         }
1398
1399         if (!display) {
1400             display = av_mallocz(sizeof(DVBSubRegionDisplay));
1401             if (!display)
1402                 return AVERROR(ENOMEM);
1403         }
1404
1405         display->region_id = region_id;
1406
1407         display->x_pos = AV_RB16(buf);
1408         buf += 2;
1409         display->y_pos = AV_RB16(buf);
1410         buf += 2;
1411
1412         *tmp_ptr = display->next;
1413
1414         display->next = ctx->display_list;
1415         ctx->display_list = display;
1416
1417         ff_dlog(avctx, "Region %d, (%d,%d)\n", region_id, display->x_pos, display->y_pos);
1418     }
1419
1420     while (tmp_display_list) {
1421         display = tmp_display_list;
1422
1423         tmp_display_list = display->next;
1424
1425         av_freep(&display);
1426     }
1427
1428     return 0;
1429 }
1430
1431
1432 #ifdef DEBUG
1433 static void save_display_set(DVBSubContext *ctx)
1434 {
1435     DVBSubRegion *region;
1436     DVBSubRegionDisplay *display;
1437     DVBSubCLUT *clut;
1438     uint32_t *clut_table;
1439     int x_pos, y_pos, width, height;
1440     int x, y, y_off, x_off;
1441     uint32_t *pbuf;
1442     char filename[32];
1443     static int fileno_index = 0;
1444
1445     x_pos = -1;
1446     y_pos = -1;
1447     width = 0;
1448     height = 0;
1449
1450     for (display = ctx->display_list; display; display = display->next) {
1451         region = get_region(ctx, display->region_id);
1452
1453         if (!region)
1454             return;
1455
1456         if (x_pos == -1) {
1457             x_pos = display->x_pos;
1458             y_pos = display->y_pos;
1459             width = region->width;
1460             height = region->height;
1461         } else {
1462             if (display->x_pos < x_pos) {
1463                 width += (x_pos - display->x_pos);
1464                 x_pos = display->x_pos;
1465             }
1466
1467             if (display->y_pos < y_pos) {
1468                 height += (y_pos - display->y_pos);
1469                 y_pos = display->y_pos;
1470             }
1471
1472             if (display->x_pos + region->width > x_pos + width) {
1473                 width = display->x_pos + region->width - x_pos;
1474             }
1475
1476             if (display->y_pos + region->height > y_pos + height) {
1477                 height = display->y_pos + region->height - y_pos;
1478             }
1479         }
1480     }
1481
1482     if (x_pos >= 0) {
1483
1484         pbuf = av_malloc(width * height * 4);
1485         if (!pbuf)
1486             return;
1487
1488         for (display = ctx->display_list; display; display = display->next) {
1489             region = get_region(ctx, display->region_id);
1490
1491             if (!region)
1492                 return;
1493
1494             x_off = display->x_pos - x_pos;
1495             y_off = display->y_pos - y_pos;
1496
1497             clut = get_clut(ctx, region->clut);
1498
1499             if (!clut)
1500                 clut = &default_clut;
1501
1502             switch (region->depth) {
1503             case 2:
1504                 clut_table = clut->clut4;
1505                 break;
1506             case 8:
1507                 clut_table = clut->clut256;
1508                 break;
1509             case 4:
1510             default:
1511                 clut_table = clut->clut16;
1512                 break;
1513             }
1514
1515             for (y = 0; y < region->height; y++) {
1516                 for (x = 0; x < region->width; x++) {
1517                     pbuf[((y + y_off) * width) + x_off + x] =
1518                         clut_table[region->pbuf[y * region->width + x]];
1519                 }
1520             }
1521
1522         }
1523
1524         snprintf(filename, sizeof(filename), "dvbs.%d", fileno_index);
1525
1526         png_save2(filename, pbuf, width, height);
1527
1528         av_freep(&pbuf);
1529     }
1530
1531     fileno_index++;
1532 }
1533 #endif
1534
1535 static int dvbsub_parse_display_definition_segment(AVCodecContext *avctx,
1536                                                    const uint8_t *buf,
1537                                                    int buf_size)
1538 {
1539     DVBSubContext *ctx = avctx->priv_data;
1540     DVBSubDisplayDefinition *display_def = ctx->display_definition;
1541     int dds_version, info_byte;
1542
1543     if (buf_size < 5)
1544         return AVERROR_INVALIDDATA;
1545
1546     info_byte   = bytestream_get_byte(&buf);
1547     dds_version = info_byte >> 4;
1548     if (display_def && display_def->version == dds_version)
1549         return 0; // already have this display definition version
1550
1551     if (!display_def) {
1552         display_def             = av_mallocz(sizeof(*display_def));
1553         if (!display_def)
1554             return AVERROR(ENOMEM);
1555         ctx->display_definition = display_def;
1556     }
1557
1558     display_def->version = dds_version;
1559     display_def->x       = 0;
1560     display_def->y       = 0;
1561     display_def->width   = bytestream_get_be16(&buf) + 1;
1562     display_def->height  = bytestream_get_be16(&buf) + 1;
1563     if (!avctx->width || !avctx->height) {
1564         avctx->width  = display_def->width;
1565         avctx->height = display_def->height;
1566     }
1567
1568     if (info_byte & 1<<3) { // display_window_flag
1569         if (buf_size < 13)
1570             return AVERROR_INVALIDDATA;
1571
1572         display_def->x = bytestream_get_be16(&buf);
1573         display_def->width  = bytestream_get_be16(&buf) - display_def->x + 1;
1574         display_def->y = bytestream_get_be16(&buf);
1575         display_def->height = bytestream_get_be16(&buf) - display_def->y + 1;
1576     }
1577
1578     return 0;
1579 }
1580
1581 static int dvbsub_display_end_segment(AVCodecContext *avctx, const uint8_t *buf,
1582                                       int buf_size, AVSubtitle *sub,int *got_output)
1583 {
1584     DVBSubContext *ctx = avctx->priv_data;
1585
1586     if(ctx->compute_edt == 0)
1587         save_subtitle_set(avctx, sub, got_output);
1588 #ifdef DEBUG
1589     save_display_set(ctx);
1590 #endif
1591     return 0;
1592 }
1593
1594 static int dvbsub_decode(AVCodecContext *avctx,
1595                          void *data, int *data_size,
1596                          AVPacket *avpkt)
1597 {
1598     const uint8_t *buf = avpkt->data;
1599     int buf_size = avpkt->size;
1600     DVBSubContext *ctx = avctx->priv_data;
1601     AVSubtitle *sub = data;
1602     const uint8_t *p, *p_end;
1603     int segment_type;
1604     int page_id;
1605     int segment_length;
1606     int i;
1607     int ret = 0;
1608     int got_segment = 0;
1609     int got_dds = 0;
1610
1611     ff_dlog(avctx, "DVB sub packet:\n");
1612
1613     for (i=0; i < buf_size; i++) {
1614         ff_dlog(avctx, "%02x ", buf[i]);
1615         if (i % 16 == 15)
1616             ff_dlog(avctx, "\n");
1617     }
1618
1619     if (i % 16)
1620         ff_dlog(avctx, "\n");
1621
1622     if (buf_size <= 6 || *buf != 0x0f) {
1623         ff_dlog(avctx, "incomplete or broken packet");
1624         return AVERROR_INVALIDDATA;
1625     }
1626
1627     p = buf;
1628     p_end = buf + buf_size;
1629
1630     while (p_end - p >= 6 && *p == 0x0f) {
1631         p += 1;
1632         segment_type = *p++;
1633         page_id = AV_RB16(p);
1634         p += 2;
1635         segment_length = AV_RB16(p);
1636         p += 2;
1637
1638         if (avctx->debug & FF_DEBUG_STARTCODE) {
1639             av_log(avctx, AV_LOG_DEBUG, "segment_type:%d page_id:%d segment_length:%d\n", segment_type, page_id, segment_length);
1640         }
1641
1642         if (p_end - p < segment_length) {
1643             ff_dlog(avctx, "incomplete or broken packet");
1644             ret = -1;
1645             goto end;
1646         }
1647
1648         if (page_id == ctx->composition_id || page_id == ctx->ancillary_id ||
1649             ctx->composition_id == -1 || ctx->ancillary_id == -1) {
1650             int ret = 0;
1651             switch (segment_type) {
1652             case DVBSUB_PAGE_SEGMENT:
1653                 ret = dvbsub_parse_page_segment(avctx, p, segment_length, sub, data_size);
1654                 got_segment |= 1;
1655                 break;
1656             case DVBSUB_REGION_SEGMENT:
1657                 ret = dvbsub_parse_region_segment(avctx, p, segment_length);
1658                 got_segment |= 2;
1659                 break;
1660             case DVBSUB_CLUT_SEGMENT:
1661                 ret = dvbsub_parse_clut_segment(avctx, p, segment_length);
1662                 if (ret < 0) goto end;
1663                 got_segment |= 4;
1664                 break;
1665             case DVBSUB_OBJECT_SEGMENT:
1666                 ret = dvbsub_parse_object_segment(avctx, p, segment_length);
1667                 got_segment |= 8;
1668                 break;
1669             case DVBSUB_DISPLAYDEFINITION_SEGMENT:
1670                 ret = dvbsub_parse_display_definition_segment(avctx, p,
1671                                                               segment_length);
1672                 got_dds = 1;
1673                 break;
1674             case DVBSUB_DISPLAY_SEGMENT:
1675                 ret = dvbsub_display_end_segment(avctx, p, segment_length, sub, data_size);
1676                 if (got_segment == 15 && !got_dds && !avctx->width && !avctx->height) {
1677                     // Default from ETSI EN 300 743 V1.3.1 (7.2.1)
1678                     avctx->width  = 720;
1679                     avctx->height = 576;
1680                 }
1681                 got_segment |= 16;
1682                 break;
1683             default:
1684                 ff_dlog(avctx, "Subtitling segment type 0x%x, page id %d, length %d\n",
1685                         segment_type, page_id, segment_length);
1686                 break;
1687             }
1688             if (ret < 0)
1689                 goto end;
1690         }
1691
1692         p += segment_length;
1693     }
1694     // Some streams do not send a display segment but if we have all the other
1695     // segments then we need no further data.
1696     if (got_segment == 15) {
1697         av_log(avctx, AV_LOG_DEBUG, "Missing display_end_segment, emulating\n");
1698         dvbsub_display_end_segment(avctx, p, 0, sub, data_size);
1699     }
1700
1701 end:
1702     if(ret < 0) {
1703         *data_size = 0;
1704         avsubtitle_free(sub);
1705         return ret;
1706     } else {
1707         if(ctx->compute_edt == 1 )
1708             FFSWAP(int64_t, ctx->prev_start, sub->pts);
1709     }
1710
1711     return p - buf;
1712 }
1713
1714 #define DS AV_OPT_FLAG_DECODING_PARAM | AV_OPT_FLAG_SUBTITLE_PARAM
1715 static const AVOption options[] = {
1716     {"compute_edt", "compute end of time using pts or timeout", offsetof(DVBSubContext, compute_edt), FF_OPT_TYPE_INT, {.i64 = 0}, 0, 1, DS},
1717     {"compute_clut", "compute clut when not available(-1) or always(1) or never(0)", offsetof(DVBSubContext, compute_clut), FF_OPT_TYPE_INT, {.i64 = -1}, -1, 1, DS},
1718     {NULL}
1719 };
1720 static const AVClass dvbsubdec_class = {
1721     .class_name = "DVB Sub Decoder",
1722     .item_name  = av_default_item_name,
1723     .option     = options,
1724     .version    = LIBAVUTIL_VERSION_INT,
1725 };
1726
1727 AVCodec ff_dvbsub_decoder = {
1728     .name           = "dvbsub",
1729     .long_name      = NULL_IF_CONFIG_SMALL("DVB subtitles"),
1730     .type           = AVMEDIA_TYPE_SUBTITLE,
1731     .id             = AV_CODEC_ID_DVB_SUBTITLE,
1732     .priv_data_size = sizeof(DVBSubContext),
1733     .init           = dvbsub_init_decoder,
1734     .close          = dvbsub_close_decoder,
1735     .decode         = dvbsub_decode,
1736     .priv_class     = &dvbsubdec_class,
1737 };