author Giorgio Vazzana Fri, 15 Jun 2012 15:21:36 +0000 (17:21 +0200) committer Michael Niedermayer Sat, 16 Jun 2012 10:47:46 +0000 (12:47 +0200)
Basically to make code clearer and adherent to the
standard. RFC 1321, on page 2 states

Let the symbol "+" denote addition of words (i.e., modulo-2^32
addition). Let X <<< s denote the 32-bit value obtained by circularly
shifting (rotating) X left by s bit positions.

on page 3, section 3.3 states:

A four-word buffer (A,B,C,D) is used to compute the message digest.
Here each of A, B, C, D is a 32-bit register.

so the algorithm needs to work with integers that are exactly 32bits
in length. And indeed in struct AVMD5 the MD buffer is declared as
"uint32_t ABCD;", while in the function that performs the block
transformation the state variables were "unsigned int"s. On
architectures where sizeof(unsigned int) != sizeof(uint32_t) this
could be a problem, although I can't name such an architecture from
the top of my head.
On a side note, both the reference implementation in RFC 1321 and the
gnulib implementation (used by md5sum program on GNU systems) use
uint32_t in the transform function.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
 libavutil/md5.c patch | blob | history

index 471a510..00447f9 100644 (file)
@@ -88,12 +88,12 @@ static const uint32_t T = { // T[i]= fabs(sin(i+1)<<32)

static void body(uint32_t ABCD, uint32_t X)
{
-    int t;
int i av_unused;
-    unsigned int a = ABCD;
-    unsigned int b = ABCD;
-    unsigned int c = ABCD;
-    unsigned int d = ABCD;
+    uint32_t t;
+    uint32_t a = ABCD;
+    uint32_t b = ABCD;
+    uint32_t c = ABCD;
+    uint32_t d = ABCD;

#if HAVE_BIGENDIAN
for (i = 0; i < 16; i++)