Merge commit '10de408738d28ab17aa5c1fdccd809b0637c12d5'
authorHendrik Leppkes <h.leppkes@gmail.com>
Wed, 16 Sep 2015 09:06:55 +0000 (11:06 +0200)
committerHendrik Leppkes <h.leppkes@gmail.com>
Wed, 16 Sep 2015 09:06:55 +0000 (11:06 +0200)
* commit '10de408738d28ab17aa5c1fdccd809b0637c12d5':
  lavf: Update to the new crypto API

Merged-by: Hendrik Leppkes <h.leppkes@gmail.com>
1  2 
libavformat/asfcrypt.c
libavformat/omadec.c

Simple merge
@@@ -175,17 -181,27 +181,23 @@@ static int nprobe(AVFormatContext *s, u
      taglen  = AV_RB32(&enc_header[pos + 32]);
      datalen = AV_RB32(&enc_header[pos + 36]) >> 4;
  
 -    pos += 44;
 -    if (size - pos < taglen)
 -        return -1;
 -
 -    pos += taglen;
 +    pos += 44LL + taglen;
  
 -    if (datalen << 4 > size - pos)
 +    if (pos + (((uint64_t)datalen) << 4) > size)
          return -1;
  
-     av_des_init(&av_des, n_val, 192, 1);
+     av_des = av_des_alloc();
+     if (!av_des)
+         return AVERROR(ENOMEM);
+     av_des_init(av_des, n_val, 192, 1);
      while (datalen-- > 0) {
-         av_des_crypt(&av_des, oc->r_val, &enc_header[pos], 2, NULL, 1);
-         kset(s, oc->r_val, NULL, 16);
+         av_des_crypt(av_des, oc->r_val, &enc_header[pos], 2, NULL, 1);
+         kset(s, oc->r_val, NULL, 16); {
          if (!rprobe(s, enc_header, size, oc->r_val))
+             av_free(av_des);
              return 0;
+         }
          pos += 16;
      }