des-test: Pass the proper types to av_des_*() functions
[ffmpeg.git] / libavutil / tests / des.c
1 /*
2  * This file is part of Libav.
3  *
4  * Libav is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU Lesser General Public
6  * License as published by the Free Software Foundation; either
7  * version 2.1 of the License, or (at your option) any later version.
8  *
9  * Libav is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
12  * Lesser General Public License for more details.
13  *
14  * You should have received a copy of the GNU Lesser General Public
15  * License along with Libav; if not, write to the Free Software
16  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
17  */
18
19 #include "libavutil/des.c"
20
21 #include <stdint.h>
22 #include <stdio.h>
23 #include <stdlib.h>
24 #include <string.h>
25
26 #include "libavutil/time.h"
27
28 static uint64_t rand64(void)
29 {
30     uint64_t r = rand();
31     r = (r << 32) | rand();
32     return r;
33 }
34
35 static const uint8_t test_key[] = { 0x12, 0x34, 0x56, 0x78, 0x9a, 0xbc, 0xde, 0xf0 };
36 static const DECLARE_ALIGNED(8, uint8_t, plain)[] = { 0xfe, 0xdc, 0xba, 0x98, 0x76, 0x54, 0x32, 0x10 };
37 static const DECLARE_ALIGNED(8, uint8_t, crypt)[] = { 0x4a, 0xb6, 0x5b, 0x3d, 0x4b, 0x06, 0x15, 0x18 };
38 static DECLARE_ALIGNED(8, uint8_t, tmp)[8];
39 static DECLARE_ALIGNED(8, uint8_t, large_buffer)[10002][8];
40 static const uint8_t cbc_key[] = {
41     0x01, 0x23, 0x45, 0x67, 0x89, 0xab, 0xcd, 0xef,
42     0x23, 0x45, 0x67, 0x89, 0xab, 0xcd, 0xef, 0x01,
43     0x45, 0x67, 0x89, 0xab, 0xcd, 0xef, 0x01, 0x23
44 };
45
46 static int run_test(int cbc, int decrypt)
47 {
48     AVDES d;
49     int delay = cbc && !decrypt ? 2 : 1;
50     uint64_t res;
51     AV_WB64(large_buffer[0], 0x4e6f772069732074ULL);
52     AV_WB64(large_buffer[1], 0x1234567890abcdefULL);
53     AV_WB64(tmp,             0x1234567890abcdefULL);
54     av_des_init(&d, cbc_key, 192, decrypt);
55     av_des_crypt(&d, large_buffer[delay], large_buffer[0], 10000, cbc ? tmp : NULL, decrypt);
56     res = AV_RB64(large_buffer[9999 + delay]);
57     if (cbc) {
58         if (decrypt)
59             return res == 0xc5cecf63ecec514cULL;
60         else
61             return res == 0xcb191f85d1ed8439ULL;
62     } else {
63         if (decrypt)
64             return res == 0x8325397644091a0aULL;
65         else
66             return res == 0xdd17e8b8b437d232ULL;
67     }
68 }
69
70 union word_byte {
71     uint64_t word;
72     uint8_t byte[8];
73 };
74
75 int main(void)
76 {
77     AVDES d;
78     int i;
79     union word_byte key[3], data, ct;
80     uint64_t roundkeys[16];
81     srand(av_gettime());
82     key[0].word = AV_RB64(test_key);
83     data.word   = AV_RB64(plain);
84     gen_roundkeys(roundkeys, key[0].word);
85     if (des_encdec(data.word, roundkeys, 0) != AV_RB64(crypt)) {
86         printf("Test 1 failed\n");
87         return 1;
88     }
89     av_des_init(&d, test_key, 64, 0);
90     av_des_crypt(&d, tmp, plain, 1, NULL, 0);
91     if (memcmp(tmp, crypt, sizeof(crypt))) {
92         printf("Public API decryption failed\n");
93         return 1;
94     }
95     if (!run_test(0, 0) || !run_test(0, 1) || !run_test(1, 0) || !run_test(1, 1)) {
96         printf("Partial Monte-Carlo test failed\n");
97         return 1;
98     }
99     for (i = 0; i < 1000; i++) {
100         key[0].word = rand64();
101         key[1].word = rand64();
102         key[2].word = rand64();
103         data.word   = rand64();
104         av_des_init(&d, key[0].byte, 192, 0);
105         av_des_crypt(&d, ct.byte, data.byte, 1, NULL, 0);
106         av_des_init(&d, key[0].byte, 192, 1);
107         av_des_crypt(&d, ct.byte, ct.byte, 1, NULL, 1);
108         if (ct.word != data.word) {
109             printf("Test 2 failed\n");
110             return 1;
111         }
112     }
113 #ifdef GENTABLES
114     printf("static const uint32_t S_boxes_P_shuffle[8][64] = {\n");
115     for (i = 0; i < 8; i++) {
116         int j;
117         printf("    {");
118         for (j = 0; j < 64; j++) {
119             uint32_t v = S_boxes[i][j >> 1];
120             v   = j & 1 ? v >> 4 : v & 0xf;
121             v <<= 28 - 4 * i;
122             v   = shuffle(v, P_shuffle, sizeof(P_shuffle));
123             printf((j & 7) == 0 ? "\n    " : " ");
124             printf("0x%08X,", v);
125         }
126         printf("\n    },\n");
127     }
128     printf("};\n");
129 #endif
130     return 0;
131 }