Merge commit 'a66aa0daf290ef157cb3322b034b43d6201c43e9'
authorMichael Niedermayer <michaelni@gmx.at>
Thu, 10 Oct 2013 07:04:22 +0000 (09:04 +0200)
committerMichael Niedermayer <michaelni@gmx.at>
Thu, 10 Oct 2013 07:04:22 +0000 (09:04 +0200)
* commit 'a66aa0daf290ef157cb3322b034b43d6201c43e9':
  vmnc: K&R formatting cosmetics

Conflicts:
libavcodec/vmnc.c

Merged-by: Michael Niedermayer <michaelni@gmx.at>
1  2 
libavcodec/vmnc.c

@@@ -295,23 -320,26 +320,25 @@@ static int decode_frame(AVCodecContext 
      uint8_t *outptr;
      const uint8_t *src = buf;
      int dx, dy, w, h, depth, enc, chunks, res, size_left, ret;
 +    AVFrame *frame = c->frame;
  
 -    if ((ret = ff_reget_buffer(avctx, &c->pic)) < 0) {
 -        av_log(avctx, AV_LOG_ERROR, "reget_buffer() failed\n");
 +    if ((ret = ff_reget_buffer(avctx, frame)) < 0)
          return ret;
 -    }
  
 -    c->pic.key_frame = 0;
 -    c->pic.pict_type = AV_PICTURE_TYPE_P;
 +    frame->key_frame = 0;
 +    frame->pict_type = AV_PICTURE_TYPE_P;
  
-     //restore screen after cursor
-     if(c->screendta) {
+     // restore screen after cursor
+     if (c->screendta) {
          int i;
          w = c->cur_w;
-         if(c->width < c->cur_x + w) w = c->width - c->cur_x;
+         if (c->width < c->cur_x + w)
+             w = c->width - c->cur_x;
          h = c->cur_h;
-         if(c->height < c->cur_y + h) h = c->height - c->cur_y;
+         if (c->height < c->cur_y + h)
+             h = c->height - c->cur_y;
          dx = c->cur_x;
-         if(dx < 0) {
+         if (dx < 0) {
              w += dx;
              dx = 0;
          }
              h += dy;
              dy = 0;
          }
-         if((w > 0) && (h > 0)) {
+         if ((w > 0) && (h > 0)) {
 -            outptr = c->pic.data[0] + dx * c->bpp2 + dy * c->pic.linesize[0];
 +            outptr = frame->data[0] + dx * c->bpp2 + dy * frame->linesize[0];
-             for(i = 0; i < h; i++) {
-                 memcpy(outptr, c->screendta + i * c->cur_w * c->bpp2, w * c->bpp2);
+             for (i = 0; i < h; i++) {
+                 memcpy(outptr, c->screendta + i * c->cur_w * c->bpp2,
+                        w * c->bpp2);
 -                outptr += c->pic.linesize[0];
 +                outptr += frame->linesize[0];
              }
          }
      }
      src += 2;
-     chunks = AV_RB16(src); src += 2;
-     while(chunks--) {
-         if(buf_size - (src - buf) < 12) {
+     chunks = AV_RB16(src);
+     src += 2;
+     while (chunks--) {
++        if (buf_size - (src - buf) < 12) {
 +            av_log(avctx, AV_LOG_ERROR, "Premature end of data!\n");
 +            return -1;
 +        }
-         dx = AV_RB16(src); src += 2;
-         dy = AV_RB16(src); src += 2;
-         w  = AV_RB16(src); src += 2;
-         h  = AV_RB16(src); src += 2;
-         enc = AV_RB32(src); src += 4;
+         dx  = AV_RB16(src);
+         src += 2;
+         dy  = AV_RB16(src);
+         src += 2;
+         w   = AV_RB16(src);
+         src += 2;
+         h   = AV_RB16(src);
+         src += 2;
+         enc = AV_RB32(src);
+         src += 4;
 -        outptr = c->pic.data[0] + dx * c->bpp2 + dy * c->pic.linesize[0];
 +        outptr = frame->data[0] + dx * c->bpp2 + dy * frame->linesize[0];
          size_left = buf_size - (src - buf);
-         switch(enc) {
+         switch (enc) {
          case MAGIC_WMVd: // cursor
-             if(size_left < 2 + w * h * c->bpp2 * 2) {
-                 av_log(avctx, AV_LOG_ERROR, "Premature end of data! (need %i got %i)\n", 2 + w * h * c->bpp2 * 2, size_left);
 +            if (w*(int64_t)h*c->bpp2 > INT_MAX/2 - 2) {
 +                av_log(avctx, AV_LOG_ERROR, "dimensions too large\n");
 +                return AVERROR_INVALIDDATA;
 +            }
+             if (size_left < 2 + w * h * c->bpp2 * 2) {
+                 av_log(avctx, AV_LOG_ERROR,
+                        "Premature end of data! (need %i got %i)\n",
+                        2 + w * h * c->bpp2 * 2, size_left);
                  return -1;
              }
              src += 2;
-             c->cur_w = w;
-             c->cur_h = h;
+             c->cur_w  = w;
+             c->cur_h  = h;
              c->cur_hx = dx;
              c->cur_hy = dy;
-             if((c->cur_hx > c->cur_w) || (c->cur_hy > c->cur_h)) {
-                 av_log(avctx, AV_LOG_ERROR, "Cursor hot spot is not in image: %ix%i of %ix%i cursor size\n", c->cur_hx, c->cur_hy, c->cur_w, c->cur_h);
+             if ((c->cur_hx > c->cur_w) || (c->cur_hy > c->cur_h)) {
+                 av_log(avctx, AV_LOG_ERROR,
+                        "Cursor hot spot is not in image: "
+                        "%ix%i of %ix%i cursor size\n",
+                        c->cur_hx, c->cur_hy, c->cur_w, c->cur_h);
                  c->cur_hx = c->cur_hy = 0;
              }
-             c->curbits = av_realloc_f(c->curbits, c->cur_w * c->cur_h, c->bpp2);
-             c->curmask = av_realloc_f(c->curmask, c->cur_w * c->cur_h, c->bpp2);
 -            c->curbits   = av_realloc(c->curbits,   c->cur_w * c->cur_h * c->bpp2);
 -            c->curmask   = av_realloc(c->curmask,   c->cur_w * c->cur_h * c->bpp2);
 -            c->screendta = av_realloc(c->screendta, c->cur_w * c->cur_h * c->bpp2);
++            c->curbits   = av_realloc_f(c->curbits,   c->cur_w * c->cur_h, c->bpp2);
++            c->curmask   = av_realloc_f(c->curmask,   c->cur_w * c->cur_h, c->bpp2);
 +            c->screendta = av_realloc_f(c->screendta, c->cur_w * c->cur_h, c->bpp2);
 +            if (!c->curbits || !c->curmask || !c->screendta)
 +                return AVERROR(ENOMEM);
              load_cursor(c, src);
              src += w * h * c->bpp2 * 2;
              break;
              src += 4;
              break;
          case MAGIC_WMVi: // ServerInitialization struct
 -            c->pic.key_frame = 1;
 -            c->pic.pict_type = AV_PICTURE_TYPE_I;
 +            frame->key_frame = 1;
 +            frame->pict_type = AV_PICTURE_TYPE_I;
              depth = *src++;
-             if(depth != c->bpp) {
-                 av_log(avctx, AV_LOG_INFO, "Depth mismatch. Container %i bpp, Frame data: %i bpp\n", c->bpp, depth);
+             if (depth != c->bpp) {
+                 av_log(avctx, AV_LOG_INFO,
+                        "Depth mismatch. Container %i bpp, "
+                        "Frame data: %i bpp\n",
+                        c->bpp, depth);
              }
              src++;
              c->bigendian = *src++;
              src += 2;
              break;
          case 0x00000000: // raw rectangle data
-             if((dx + w > c->width) || (dy + h > c->height)) {
-                 av_log(avctx, AV_LOG_ERROR, "Incorrect frame size: %ix%i+%ix%i of %ix%i\n", w, h, dx, dy, c->width, c->height);
+             if ((dx + w > c->width) || (dy + h > c->height)) {
+                 av_log(avctx, AV_LOG_ERROR,
+                        "Incorrect frame size: %ix%i+%ix%i of %ix%i\n",
+                        w, h, dx, dy, c->width, c->height);
                  return -1;
              }
-             if(size_left < w * h * c->bpp2) {
-                 av_log(avctx, AV_LOG_ERROR, "Premature end of data! (need %i got %i)\n", w * h * c->bpp2, size_left);
+             if (size_left < w * h * c->bpp2) {
+                 av_log(avctx, AV_LOG_ERROR,
+                        "Premature end of data! (need %i got %i)\n",
+                        w * h * c->bpp2, size_left);
                  return -1;
              }
-             paint_raw(outptr, w, h, src, c->bpp2, c->bigendian, frame->linesize[0]);
+             paint_raw(outptr, w, h, src, c->bpp2, c->bigendian,
 -                      c->pic.linesize[0]);
++                      frame->linesize[0]);
              src += w * h * c->bpp2;
              break;
          case 0x00000005: // HexTile encoded rectangle
-             if((dx + w > c->width) || (dy + h > c->height)) {
-                 av_log(avctx, AV_LOG_ERROR, "Incorrect frame size: %ix%i+%ix%i of %ix%i\n", w, h, dx, dy, c->width, c->height);
+             if ((dx + w > c->width) || (dy + h > c->height)) {
+                 av_log(avctx, AV_LOG_ERROR,
+                        "Incorrect frame size: %ix%i+%ix%i of %ix%i\n",
+                        w, h, dx, dy, c->width, c->height);
                  return -1;
              }
-             res = decode_hextile(c, outptr, src, size_left, w, h, frame->linesize[0]);
-             if(res < 0)
+             res = decode_hextile(c, outptr, src, size_left, w, h,
 -                                 c->pic.linesize[0]);
++                                 frame->linesize[0]);
+             if (res < 0)
                  return -1;
              src += res;
              break;
              h += dy;
              dy = 0;
          }
-         if((w > 0) && (h > 0)) {
+         if ((w > 0) && (h > 0)) {
 -            outptr = c->pic.data[0] + dx * c->bpp2 + dy * c->pic.linesize[0];
 +            outptr = frame->data[0] + dx * c->bpp2 + dy * frame->linesize[0];
-             for(i = 0; i < h; i++) {
-                 memcpy(c->screendta + i * c->cur_w * c->bpp2, outptr, w * c->bpp2);
+             for (i = 0; i < h; i++) {
+                 memcpy(c->screendta + i * c->cur_w * c->bpp2, outptr,
+                        w * c->bpp2);
 -                outptr += c->pic.linesize[0];
 +                outptr += frame->linesize[0];
              }
 -            outptr = c->pic.data[0];
 -            put_cursor(outptr, c->pic.linesize[0], c, c->cur_x, c->cur_y);
 +            outptr = frame->data[0];
 +            put_cursor(outptr, frame->linesize[0], c, c->cur_x, c->cur_y);
          }
      }
-     *got_frame      = 1;
+     *got_frame = 1;
 -    if ((ret = av_frame_ref(data, &c->pic)) < 0)
 +    if ((ret = av_frame_ref(data, frame)) < 0)
          return ret;
  
      /* always report that the buffer was completely consumed */