]> git.stg.codes - stg.git/blob - stglibs/crypto.lib/ag_md5.c
Added missing include.
[stg.git] / stglibs / crypto.lib / ag_md5.c
1 #ifdef WIN32
2 #include <process.h>
3 #include <windows.h>
4 #else
5 #include <sys/time.h>
6 #include <unistd.h>
7 #endif
8
9 #include <time.h>
10 #include <stdio.h>
11 #include <stdlib.h>
12 #include <string.h>
13
14 #include "stg/ag_md5.h"
15
16 #define F1(x, y, z) (z ^ (x & (y ^ z)))
17 #define F2(x, y, z) F1(z, x, y)
18 #define F3(x, y, z) (x ^ y ^ z)
19 #define F4(x, y, z) (y ^ (x | ~z))
20
21 #define MD5STEP(f, w, x, y, z, data, s) \
22     ( w += f(x, y, z) + data,  w = w<<s | w>>(32-s),  w += x )
23
24 int i64c(int i)
25 {
26     if (i <= 0)
27         return ('.');
28
29     if (i == 1)
30         return ('/');
31
32     if (i >= 2 && i < 12)
33         return ('0' - 2 + i);
34
35     if (i >= 12 && i < 38)
36         return ('A' - 12 + i);
37
38     if (i >= 38 && i < 63)
39         return ('a' - 38 + i);
40
41     return ('z');
42 }
43
44 char * l64a_(long l)
45 {
46     static  char    buf[8];
47     int i = 0;
48
49     if (l < 0L)
50         return ((char *) 0);
51
52     do {
53         buf[i++] = i64c ((int) (l % 64));
54         buf[i] = '\0';
55     } while (l /= 64L, l > 0 && i < 6);
56
57     return (buf);
58 }
59
60 char * crypt_make_salt(void)
61 {
62
63     static char result[40];
64     #ifdef WIN32
65     unsigned int tsec;
66     #else
67     struct timeval tv;
68     #endif
69
70     result[0] = '\0';
71         strcpy(result, "$1$");  /* magic for the new MD5 crypt() */
72
73     /*
74      * Generate 8 chars of salt, the old crypt() will use only first 2.
75      */
76     #ifdef WIN32
77     strcat(result, l64a_(GetTickCount()));
78     tsec = time(NULL);
79     strcat(result, l64a_(tsec + getpid() + clock()));
80     #else
81     gettimeofday(&tv, (struct timezone *) 0);
82     strcat(result, l64a_(tv.tv_usec));
83     strcat(result, l64a_(tv.tv_sec + getpid() + clock()));
84     #endif
85
86     if (strlen(result) > 3 + 8)  /* magic+salt */
87         result[11] = '\0';
88
89     return result;
90 }
91
92 void byteReverse(unsigned char *buf, unsigned longs)
93 {
94     uint32_t t;
95     do {
96     t = (uint32_t) ((unsigned) buf[3] << 8 | buf[2]) << 16 |
97         ((unsigned) buf[1] << 8 | buf[0]);
98     *(uint32_t *) buf = t;
99     buf += 4;
100     } while (--longs);
101 }
102
103 /*
104  * Start MD5 accumulation.  Set bit count to 0 and buffer to mysterious
105  * initialization constants.
106  */
107 void MD5Init(struct MD5Context *ctx)
108 {
109     ctx->buf[0] = 0x67452301;
110     ctx->buf[1] = 0xefcdab89;
111     ctx->buf[2] = 0x98badcfe;
112     ctx->buf[3] = 0x10325476;
113
114     ctx->bits[0] = 0;
115     ctx->bits[1] = 0;
116 }
117
118 /*
119  * Update context to reflect the concatenation of another buffer full
120  * of bytes.
121  */
122 void MD5Update(struct MD5Context *ctx, char const *buf, unsigned len)
123 {
124     uint32_t t;
125
126     /* Update bitcount */
127
128     t = ctx->bits[0];
129     if ((ctx->bits[0] = t + ((uint32_t) len << 3)) < t)
130     ctx->bits[1]++;     /* Carry from low to high */
131     ctx->bits[1] += len >> 29;
132
133     t = (t >> 3) & 0x3f;    /* Bytes already in shsInfo->data */
134
135     /* Handle any leading odd-sized chunks */
136
137     if (t) {
138     unsigned char *p = (unsigned char *) ctx->in + t;
139
140     t = 64 - t;
141     if (len < t) {
142         memcpy(p, buf, len);
143         return;
144     }
145     memcpy(p, buf, t);
146     byteReverse(ctx->in, 16);
147     MD5Transform(ctx->buf, (uint32_t *) ctx->in);
148     buf += t;
149     len -= t;
150     }
151     /* Process data in 64-byte chunks */
152
153     while (len >= 64) {
154     memcpy(ctx->in, buf, 64);
155     byteReverse(ctx->in, 16);
156     MD5Transform(ctx->buf, (uint32_t *) ctx->in);
157     buf += 64;
158     len -= 64;
159     }
160
161     /* Handle any remaining bytes of data. */
162
163     memcpy(ctx->in, buf, len);
164 }
165
166 /*
167  * Final wrapup - pad to 64-byte boundary with the bit pattern
168  * 1 0* (64-bit count of bits processed, MSB-first)
169  */
170 void
171 MD5Final(unsigned char digest[16], struct MD5Context *ctx)
172 {
173     unsigned count;
174     unsigned char *p;
175
176     /* Compute number of bytes mod 64 */
177     count = (ctx->bits[0] >> 3) & 0x3F;
178
179     /* Set the first char of padding to 0x80.  This is safe since there is
180        always at least one byte free */
181     p = ctx->in + count;
182     *p++ = 0x80;
183
184     /* Bytes of padding needed to make 64 bytes */
185     count = 64 - 1 - count;
186
187     /* Pad out to 56 mod 64 */
188     if (count < 8) {
189     /* Two lots of padding:  Pad the first block to 64 bytes */
190     memset(p, 0, count);
191     byteReverse(ctx->in, 16);
192     MD5Transform(ctx->buf, (uint32_t *) ctx->in);
193
194     /* Now fill the next block with 56 bytes */
195     memset(ctx->in, 0, 56);
196     } else {
197     /* Pad block to 56 bytes */
198     memset(p, 0, count - 8);
199     }
200     byteReverse(ctx->in, 14);
201
202     /* Append length in bits and transform */
203     ((uint32_t *) ctx->in)[14] = ctx->bits[0];
204     ((uint32_t *) ctx->in)[15] = ctx->bits[1];
205
206     MD5Transform(ctx->buf, (uint32_t *) ctx->in);
207     byteReverse((unsigned char *) ctx->buf, 4);
208     memcpy(digest, ctx->buf, 16);
209     memset((char *) ctx, 0, sizeof(ctx));   /* In case it's sensitive */
210 }
211
212 /*
213  * The core of the MD5 algorithm, this alters an existing MD5 hash to
214  * reflect the addition of 16 longwords of new data.  MD5Update blocks
215  * the data and converts bytes into longwords for this routine.
216  */
217 void
218 MD5Transform(uint32_t buf[4], uint32_t const in[16])
219 {
220     register uint32_t a, b, c, d;
221
222     a = buf[0];
223     b = buf[1];
224     c = buf[2];
225     d = buf[3];
226
227     MD5STEP(F1, a, b, c, d, in[0] + 0xd76aa478, 7);
228     MD5STEP(F1, d, a, b, c, in[1] + 0xe8c7b756, 12);
229     MD5STEP(F1, c, d, a, b, in[2] + 0x242070db, 17);
230     MD5STEP(F1, b, c, d, a, in[3] + 0xc1bdceee, 22);
231     MD5STEP(F1, a, b, c, d, in[4] + 0xf57c0faf, 7);
232     MD5STEP(F1, d, a, b, c, in[5] + 0x4787c62a, 12);
233     MD5STEP(F1, c, d, a, b, in[6] + 0xa8304613, 17);
234     MD5STEP(F1, b, c, d, a, in[7] + 0xfd469501, 22);
235     MD5STEP(F1, a, b, c, d, in[8] + 0x698098d8, 7);
236     MD5STEP(F1, d, a, b, c, in[9] + 0x8b44f7af, 12);
237     MD5STEP(F1, c, d, a, b, in[10] + 0xffff5bb1, 17);
238     MD5STEP(F1, b, c, d, a, in[11] + 0x895cd7be, 22);
239     MD5STEP(F1, a, b, c, d, in[12] + 0x6b901122, 7);
240     MD5STEP(F1, d, a, b, c, in[13] + 0xfd987193, 12);
241     MD5STEP(F1, c, d, a, b, in[14] + 0xa679438e, 17);
242     MD5STEP(F1, b, c, d, a, in[15] + 0x49b40821, 22);
243
244     MD5STEP(F2, a, b, c, d, in[1] + 0xf61e2562, 5);
245     MD5STEP(F2, d, a, b, c, in[6] + 0xc040b340, 9);
246     MD5STEP(F2, c, d, a, b, in[11] + 0x265e5a51, 14);
247     MD5STEP(F2, b, c, d, a, in[0] + 0xe9b6c7aa, 20);
248     MD5STEP(F2, a, b, c, d, in[5] + 0xd62f105d, 5);
249     MD5STEP(F2, d, a, b, c, in[10] + 0x02441453, 9);
250     MD5STEP(F2, c, d, a, b, in[15] + 0xd8a1e681, 14);
251     MD5STEP(F2, b, c, d, a, in[4] + 0xe7d3fbc8, 20);
252     MD5STEP(F2, a, b, c, d, in[9] + 0x21e1cde6, 5);
253     MD5STEP(F2, d, a, b, c, in[14] + 0xc33707d6, 9);
254     MD5STEP(F2, c, d, a, b, in[3] + 0xf4d50d87, 14);
255     MD5STEP(F2, b, c, d, a, in[8] + 0x455a14ed, 20);
256     MD5STEP(F2, a, b, c, d, in[13] + 0xa9e3e905, 5);
257     MD5STEP(F2, d, a, b, c, in[2] + 0xfcefa3f8, 9);
258     MD5STEP(F2, c, d, a, b, in[7] + 0x676f02d9, 14);
259     MD5STEP(F2, b, c, d, a, in[12] + 0x8d2a4c8a, 20);
260
261     MD5STEP(F3, a, b, c, d, in[5] + 0xfffa3942, 4);
262     MD5STEP(F3, d, a, b, c, in[8] + 0x8771f681, 11);
263     MD5STEP(F3, c, d, a, b, in[11] + 0x6d9d6122, 16);
264     MD5STEP(F3, b, c, d, a, in[14] + 0xfde5380c, 23);
265     MD5STEP(F3, a, b, c, d, in[1] + 0xa4beea44, 4);
266     MD5STEP(F3, d, a, b, c, in[4] + 0x4bdecfa9, 11);
267     MD5STEP(F3, c, d, a, b, in[7] + 0xf6bb4b60, 16);
268     MD5STEP(F3, b, c, d, a, in[10] + 0xbebfbc70, 23);
269     MD5STEP(F3, a, b, c, d, in[13] + 0x289b7ec6, 4);
270     MD5STEP(F3, d, a, b, c, in[0] + 0xeaa127fa, 11);
271     MD5STEP(F3, c, d, a, b, in[3] + 0xd4ef3085, 16);
272     MD5STEP(F3, b, c, d, a, in[6] + 0x04881d05, 23);
273     MD5STEP(F3, a, b, c, d, in[9] + 0xd9d4d039, 4);
274     MD5STEP(F3, d, a, b, c, in[12] + 0xe6db99e5, 11);
275     MD5STEP(F3, c, d, a, b, in[15] + 0x1fa27cf8, 16);
276     MD5STEP(F3, b, c, d, a, in[2] + 0xc4ac5665, 23);
277
278     MD5STEP(F4, a, b, c, d, in[0] + 0xf4292244, 6);
279     MD5STEP(F4, d, a, b, c, in[7] + 0x432aff97, 10);
280     MD5STEP(F4, c, d, a, b, in[14] + 0xab9423a7, 15);
281     MD5STEP(F4, b, c, d, a, in[5] + 0xfc93a039, 21);
282     MD5STEP(F4, a, b, c, d, in[12] + 0x655b59c3, 6);
283     MD5STEP(F4, d, a, b, c, in[3] + 0x8f0ccc92, 10);
284     MD5STEP(F4, c, d, a, b, in[10] + 0xffeff47d, 15);
285     MD5STEP(F4, b, c, d, a, in[1] + 0x85845dd1, 21);
286     MD5STEP(F4, a, b, c, d, in[8] + 0x6fa87e4f, 6);
287     MD5STEP(F4, d, a, b, c, in[15] + 0xfe2ce6e0, 10);
288     MD5STEP(F4, c, d, a, b, in[6] + 0xa3014314, 15);
289     MD5STEP(F4, b, c, d, a, in[13] + 0x4e0811a1, 21);
290     MD5STEP(F4, a, b, c, d, in[4] + 0xf7537e82, 6);
291     MD5STEP(F4, d, a, b, c, in[11] + 0xbd3af235, 10);
292     MD5STEP(F4, c, d, a, b, in[2] + 0x2ad7d2bb, 15);
293     MD5STEP(F4, b, c, d, a, in[9] + 0xeb86d391, 21);
294
295     buf[0] += a;
296     buf[1] += b;
297     buf[2] += c;
298     buf[3] += d;
299 }
300
301 static unsigned char itoa64[] =     /* 0 ... 63 => ascii - 64 */
302     "./0123456789ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefghijklmnopqrstuvwxyz";
303
304 static void
305 to64(char *s, unsigned long v, int n)
306 {
307     while (--n >= 0) {
308         *s++ = itoa64[v&0x3f];
309         v >>= 6;
310     }
311 }
312
313 /*
314  * UNIX password
315  *
316  * Use MD5 for what it is best at...
317  */
318
319 char *
320 libshadow_md5_crypt(const char *pw, const char *salt)
321 {
322     static const char *magic = "$1$"; /*
323                          * This string is magic for
324                          * this algorithm.  Having
325                          * it this way, we can get
326                          * get better later on
327                          */
328     static char     passwd[120], *p;
329     static const char *sp,*ep;
330     unsigned char   final[16];
331     int sl,pl,i,j;
332     MD5_CTX ctx,ctx1;
333     unsigned long l;
334
335     /* Refine the Salt first */
336     sp = salt;
337
338     /* If it starts with the magic string, then skip that */
339     if(!strncmp(sp,magic,strlen(magic)))
340         sp += strlen(magic);
341
342     /* It stops at the first '$', max 8 chars */
343     for(ep=sp;*ep && *ep != '$' && ep < (sp+8);ep++)
344         continue;
345
346     /* get the length of the true salt */
347     sl = ep - sp;
348
349     MD5Init(&ctx);
350
351     /* The password first, since that is what is most unknown */
352     MD5Update(&ctx, pw, strlen(pw));
353
354     /* Then our magic string */
355     MD5Update(&ctx, magic, strlen(magic));
356
357     /* Then the raw salt */
358     MD5Update(&ctx, sp, sl);
359
360     /* Then just as many characters of the MD5(pw,salt,pw) */
361     MD5Init(&ctx1);
362     MD5Update(&ctx1,pw,strlen(pw));
363     MD5Update(&ctx1,sp,sl);
364     MD5Update(&ctx1,pw,strlen(pw));
365     MD5Final(final,&ctx1);
366     for(pl = strlen(pw); pl > 0; pl -= 16)
367         MD5Update(&ctx, (char*)final, pl>16 ? 16 : pl);
368
369     /* Don't leave anything around in vm they could use. */
370     memset(final,0,sizeof final);
371
372     /* Then something really weird... */
373     for (j=0,i = strlen(pw); i ; i >>= 1)
374         if(i&1)
375             MD5Update(&ctx, (char*)final+j, 1);
376         else
377             MD5Update(&ctx, pw+j, 1);
378
379     /* Now make the output string */
380     strcpy(passwd,magic);
381     strncat(passwd,sp,sl);
382     strcat(passwd,"$");
383
384     MD5Final(final,&ctx);
385
386     /*
387      * and now, just to make sure things don't run too fast
388      * On a 60 Mhz Pentium this takes 34 msec, so you would
389      * need 30 seconds to build a 1000 entry dictionary...
390          */
391         /*
392     for(i=0;i<1000;i++) {
393         MD5Init(&ctx1);
394         if(i & 1)
395             MD5Update(&ctx1,pw,strlen(pw));
396         else
397             MD5Update(&ctx1,final,16);
398
399         if(i % 3)
400             MD5Update(&ctx1,sp,sl);
401
402         if(i % 7)
403             MD5Update(&ctx1,pw,strlen(pw));
404
405         if(i & 1)
406             MD5Update(&ctx1,final,16);
407         else
408             MD5Update(&ctx1,pw,strlen(pw));
409         MD5Final(final,&ctx1);
410     }*/
411
412     p = passwd + strlen(passwd);
413
414     l = (final[ 0]<<16) | (final[ 6]<<8) | final[12]; to64(p,l,4); p += 4;
415     l = (final[ 1]<<16) | (final[ 7]<<8) | final[13]; to64(p,l,4); p += 4;
416     l = (final[ 2]<<16) | (final[ 8]<<8) | final[14]; to64(p,l,4); p += 4;
417     l = (final[ 3]<<16) | (final[ 9]<<8) | final[15]; to64(p,l,4); p += 4;
418     l = (final[ 4]<<16) | (final[10]<<8) | final[ 5]; to64(p,l,4); p += 4;
419     l =                    final[11]                ; to64(p,l,2); p += 2;
420     *p = '\0';
421
422     /* Don't leave anything around in vm they could use. */
423     memset(final,0,sizeof final);
424
425     return passwd;
426 }
427
428 char *pw_encrypt(const char *clear, const char *salt) {
429
430     /*
431      * If the salt string from the password file or from crypt_make_salt()
432      * begins with the magic string, use the new algorithm.
433      */
434     if (strncmp(salt, "$1$", 3) == 0)
435             return(libshadow_md5_crypt(clear, salt));
436         else return(NULL);
437
438 }
439 /* AG MD5 functions */
440 char *make_ag_hash(time_t salt, const char *clear) {
441     char salt_str[20];
442     char *res=NULL;
443     char *p;
444
445     unsigned long slt = salt;
446     sprintf(salt_str, "$1$%08lx", slt);
447     res=libshadow_md5_crypt(clear, salt_str);
448     p=strrchr(res, '$');
449     return(++p);
450 }
451
452 int check_ag_hash(time_t salt, const char *clear, const char *hash) {
453     return(strcmp(hash, make_ag_hash(salt, clear)));
454 }
455