mirror of
git://git.gnupg.org/gnupg.git
synced 2025-04-17 15:44:34 +02:00
Fix aliasing problem.
This commit is contained in:
Werner Koch
parent
cc6ddd1dac
commit
0ad1458f82
@ -45,6 +45,13 @@
|
|||||||
#define MAXKC (256/32)
|
#define MAXKC (256/32)
|
||||||
#define MAXROUNDS 14
|
#define MAXROUNDS 14
|
||||||
|
|
||||||
|
/* Define an u32 variant for the sake of gcc 4.4's strict aliasing rules. */
|
||||||
|
#if __GNUC__ > 4 || ( __GNUC__ == 4 && __GNUC_MINOR__ >= 4 )
|
||||||
|
typedef u32 __attribute__ ((__may_alias__)) u32_a_t;
|
||||||
|
#else
|
||||||
|
typedef u32 u32_a_t;
|
||||||
|
#endif
|
||||||
|
|
||||||
|
|
||||||
static const char *selftest(void);
|
static const char *selftest(void);
|
||||||
|
|
||||||
@ -1877,61 +1884,61 @@ do_encrypt_aligned (const RIJNDAEL_context *ctx,
|
|||||||
int r;
|
int r;
|
||||||
union
|
union
|
||||||
{
|
{
|
||||||
u32 tempu32[4]; /* Force correct alignment. */
|
u32_a_t tempu32[4]; /* Force correct alignment. */
|
||||||
byte temp[4][4];
|
byte temp[4][4];
|
||||||
} u;
|
} u;
|
||||||
|
|
||||||
*((u32*)u.temp[0]) = *((u32*)(a )) ^ *((u32*)rk[0][0]);
|
*((u32_a_t*)u.temp[0]) = *((u32_a_t*)(a )) ^ *((u32_a_t*)rk[0][0]);
|
||||||
*((u32*)u.temp[1]) = *((u32*)(a+ 4)) ^ *((u32*)rk[0][1]);
|
*((u32_a_t*)u.temp[1]) = *((u32_a_t*)(a+ 4)) ^ *((u32_a_t*)rk[0][1]);
|
||||||
*((u32*)u.temp[2]) = *((u32*)(a+ 8)) ^ *((u32*)rk[0][2]);
|
*((u32_a_t*)u.temp[2]) = *((u32_a_t*)(a+ 8)) ^ *((u32_a_t*)rk[0][2]);
|
||||||
*((u32*)u.temp[3]) = *((u32*)(a+12)) ^ *((u32*)rk[0][3]);
|
*((u32_a_t*)u.temp[3]) = *((u32_a_t*)(a+12)) ^ *((u32_a_t*)rk[0][3]);
|
||||||
*((u32*)(b )) = (*((u32*)T1[u.temp[0][0]])
|
*((u32_a_t*)(b )) = (*((u32_a_t*)T1[u.temp[0][0]])
|
||||||
^ *((u32*)T2[u.temp[1][1]])
|
^ *((u32_a_t*)T2[u.temp[1][1]])
|
||||||
^ *((u32*)T3[u.temp[2][2]])
|
^ *((u32_a_t*)T3[u.temp[2][2]])
|
||||||
^ *((u32*)T4[u.temp[3][3]]));
|
^ *((u32_a_t*)T4[u.temp[3][3]]));
|
||||||
*((u32*)(b + 4)) = (*((u32*)T1[u.temp[1][0]])
|
*((u32_a_t*)(b + 4)) = (*((u32_a_t*)T1[u.temp[1][0]])
|
||||||
^ *((u32*)T2[u.temp[2][1]])
|
^ *((u32_a_t*)T2[u.temp[2][1]])
|
||||||
^ *((u32*)T3[u.temp[3][2]])
|
^ *((u32_a_t*)T3[u.temp[3][2]])
|
||||||
^ *((u32*)T4[u.temp[0][3]]));
|
^ *((u32_a_t*)T4[u.temp[0][3]]));
|
||||||
*((u32*)(b + 8)) = (*((u32*)T1[u.temp[2][0]])
|
*((u32_a_t*)(b + 8)) = (*((u32_a_t*)T1[u.temp[2][0]])
|
||||||
^ *((u32*)T2[u.temp[3][1]])
|
^ *((u32_a_t*)T2[u.temp[3][1]])
|
||||||
^ *((u32*)T3[u.temp[0][2]])
|
^ *((u32_a_t*)T3[u.temp[0][2]])
|
||||||
^ *((u32*)T4[u.temp[1][3]]));
|
^ *((u32_a_t*)T4[u.temp[1][3]]));
|
||||||
*((u32*)(b +12)) = (*((u32*)T1[u.temp[3][0]])
|
*((u32_a_t*)(b +12)) = (*((u32_a_t*)T1[u.temp[3][0]])
|
||||||
^ *((u32*)T2[u.temp[0][1]])
|
^ *((u32_a_t*)T2[u.temp[0][1]])
|
||||||
^ *((u32*)T3[u.temp[1][2]])
|
^ *((u32_a_t*)T3[u.temp[1][2]])
|
||||||
^ *((u32*)T4[u.temp[2][3]]));
|
^ *((u32_a_t*)T4[u.temp[2][3]]));
|
||||||
|
|
||||||
for (r = 1; r < ROUNDS-1; r++)
|
for (r = 1; r < ROUNDS-1; r++)
|
||||||
{
|
{
|
||||||
*((u32*)u.temp[0]) = *((u32*)(b )) ^ *((u32*)rk[r][0]);
|
*((u32_a_t*)u.temp[0]) = *((u32_a_t*)(b )) ^ *((u32_a_t*)rk[r][0]);
|
||||||
*((u32*)u.temp[1]) = *((u32*)(b+ 4)) ^ *((u32*)rk[r][1]);
|
*((u32_a_t*)u.temp[1]) = *((u32_a_t*)(b+ 4)) ^ *((u32_a_t*)rk[r][1]);
|
||||||
*((u32*)u.temp[2]) = *((u32*)(b+ 8)) ^ *((u32*)rk[r][2]);
|
*((u32_a_t*)u.temp[2]) = *((u32_a_t*)(b+ 8)) ^ *((u32_a_t*)rk[r][2]);
|
||||||
*((u32*)u.temp[3]) = *((u32*)(b+12)) ^ *((u32*)rk[r][3]);
|
*((u32_a_t*)u.temp[3]) = *((u32_a_t*)(b+12)) ^ *((u32_a_t*)rk[r][3]);
|
||||||
|
|
||||||
*((u32*)(b )) = (*((u32*)T1[u.temp[0][0]])
|
*((u32_a_t*)(b )) = (*((u32_a_t*)T1[u.temp[0][0]])
|
||||||
^ *((u32*)T2[u.temp[1][1]])
|
^ *((u32_a_t*)T2[u.temp[1][1]])
|
||||||
^ *((u32*)T3[u.temp[2][2]])
|
^ *((u32_a_t*)T3[u.temp[2][2]])
|
||||||
^ *((u32*)T4[u.temp[3][3]]));
|
^ *((u32_a_t*)T4[u.temp[3][3]]));
|
||||||
*((u32*)(b + 4)) = (*((u32*)T1[u.temp[1][0]])
|
*((u32_a_t*)(b + 4)) = (*((u32_a_t*)T1[u.temp[1][0]])
|
||||||
^ *((u32*)T2[u.temp[2][1]])
|
^ *((u32_a_t*)T2[u.temp[2][1]])
|
||||||
^ *((u32*)T3[u.temp[3][2]])
|
^ *((u32_a_t*)T3[u.temp[3][2]])
|
||||||
^ *((u32*)T4[u.temp[0][3]]));
|
^ *((u32_a_t*)T4[u.temp[0][3]]));
|
||||||
*((u32*)(b + 8)) = (*((u32*)T1[u.temp[2][0]])
|
*((u32_a_t*)(b + 8)) = (*((u32_a_t*)T1[u.temp[2][0]])
|
||||||
^ *((u32*)T2[u.temp[3][1]])
|
^ *((u32_a_t*)T2[u.temp[3][1]])
|
||||||
^ *((u32*)T3[u.temp[0][2]])
|
^ *((u32_a_t*)T3[u.temp[0][2]])
|
||||||
^ *((u32*)T4[u.temp[1][3]]));
|
^ *((u32_a_t*)T4[u.temp[1][3]]));
|
||||||
*((u32*)(b +12)) = (*((u32*)T1[u.temp[3][0]])
|
*((u32_a_t*)(b +12)) = (*((u32_a_t*)T1[u.temp[3][0]])
|
||||||
^ *((u32*)T2[u.temp[0][1]])
|
^ *((u32_a_t*)T2[u.temp[0][1]])
|
||||||
^ *((u32*)T3[u.temp[1][2]])
|
^ *((u32_a_t*)T3[u.temp[1][2]])
|
||||||
^ *((u32*)T4[u.temp[2][3]]));
|
^ *((u32_a_t*)T4[u.temp[2][3]]));
|
||||||
}
|
}
|
||||||
|
|
||||||
/* Last round is special. */
|
/* Last round is special. */
|
||||||
*((u32*)u.temp[0]) = *((u32*)(b )) ^ *((u32*)rk[ROUNDS-1][0]);
|
*((u32_a_t*)u.temp[0]) = *((u32_a_t*)(b )) ^ *((u32_a_t*)rk[ROUNDS-1][0]);
|
||||||
*((u32*)u.temp[1]) = *((u32*)(b+ 4)) ^ *((u32*)rk[ROUNDS-1][1]);
|
*((u32_a_t*)u.temp[1]) = *((u32_a_t*)(b+ 4)) ^ *((u32_a_t*)rk[ROUNDS-1][1]);
|
||||||
*((u32*)u.temp[2]) = *((u32*)(b+ 8)) ^ *((u32*)rk[ROUNDS-1][2]);
|
*((u32_a_t*)u.temp[2]) = *((u32_a_t*)(b+ 8)) ^ *((u32_a_t*)rk[ROUNDS-1][2]);
|
||||||
*((u32*)u.temp[3]) = *((u32*)(b+12)) ^ *((u32*)rk[ROUNDS-1][3]);
|
*((u32_a_t*)u.temp[3]) = *((u32_a_t*)(b+12)) ^ *((u32_a_t*)rk[ROUNDS-1][3]);
|
||||||
b[ 0] = T1[u.temp[0][0]][1];
|
b[ 0] = T1[u.temp[0][0]][1];
|
||||||
b[ 1] = T1[u.temp[1][1]][1];
|
b[ 1] = T1[u.temp[1][1]][1];
|
||||||
b[ 2] = T1[u.temp[2][2]][1];
|
b[ 2] = T1[u.temp[2][2]][1];
|
||||||
@ -1948,10 +1955,10 @@ do_encrypt_aligned (const RIJNDAEL_context *ctx,
|
|||||||
b[13] = T1[u.temp[0][1]][1];
|
b[13] = T1[u.temp[0][1]][1];
|
||||||
b[14] = T1[u.temp[1][2]][1];
|
b[14] = T1[u.temp[1][2]][1];
|
||||||
b[15] = T1[u.temp[2][3]][1];
|
b[15] = T1[u.temp[2][3]][1];
|
||||||
*((u32*)(b )) ^= *((u32*)rk[ROUNDS][0]);
|
*((u32_a_t*)(b )) ^= *((u32_a_t*)rk[ROUNDS][0]);
|
||||||
*((u32*)(b+ 4)) ^= *((u32*)rk[ROUNDS][1]);
|
*((u32_a_t*)(b+ 4)) ^= *((u32_a_t*)rk[ROUNDS][1]);
|
||||||
*((u32*)(b+ 8)) ^= *((u32*)rk[ROUNDS][2]);
|
*((u32_a_t*)(b+ 8)) ^= *((u32_a_t*)rk[ROUNDS][2]);
|
||||||
*((u32*)(b+12)) ^= *((u32*)rk[ROUNDS][3]);
|
*((u32_a_t*)(b+12)) ^= *((u32_a_t*)rk[ROUNDS][3]);
|
||||||
#undef rk
|
#undef rk
|
||||||
}
|
}
|
||||||
|
|
||||||
@ -2003,74 +2010,75 @@ do_decrypt (RIJNDAEL_context *ctx, byte *b, const byte *a)
|
|||||||
ctx->decryption_prepared = 1;
|
ctx->decryption_prepared = 1;
|
||||||
}
|
}
|
||||||
|
|
||||||
*((u32*)temp[0]) = *((u32*)(a )) ^ *((u32*)rk[ROUNDS][0]);
|
*((u32_a_t*)temp[0]) = *((u32_a_t*)(a )) ^ *((u32_a_t*)rk[ROUNDS][0]);
|
||||||
*((u32*)temp[1]) = *((u32*)(a+ 4)) ^ *((u32*)rk[ROUNDS][1]);
|
*((u32_a_t*)temp[1]) = *((u32_a_t*)(a+ 4)) ^ *((u32_a_t*)rk[ROUNDS][1]);
|
||||||
*((u32*)temp[2]) = *((u32*)(a+ 8)) ^ *((u32*)rk[ROUNDS][2]);
|
*((u32_a_t*)temp[2]) = *((u32_a_t*)(a+ 8)) ^ *((u32_a_t*)rk[ROUNDS][2]);
|
||||||
*((u32*)temp[3]) = *((u32*)(a+12)) ^ *((u32*)rk[ROUNDS][3]);
|
*((u32_a_t*)temp[3]) = *((u32_a_t*)(a+12)) ^ *((u32_a_t*)rk[ROUNDS][3]);
|
||||||
|
|
||||||
*((u32*)(b )) = *((u32*)T5[temp[0][0]])
|
*((u32_a_t*)(b )) = *((u32_a_t*)T5[temp[0][0]])
|
||||||
^ *((u32*)T6[temp[3][1]])
|
^ *((u32_a_t*)T6[temp[3][1]])
|
||||||
^ *((u32*)T7[temp[2][2]])
|
^ *((u32_a_t*)T7[temp[2][2]])
|
||||||
^ *((u32*)T8[temp[1][3]]);
|
^ *((u32_a_t*)T8[temp[1][3]]);
|
||||||
*((u32*)(b+ 4)) = *((u32*)T5[temp[1][0]])
|
*((u32_a_t*)(b+ 4)) = *((u32_a_t*)T5[temp[1][0]])
|
||||||
^ *((u32*)T6[temp[0][1]])
|
^ *((u32_a_t*)T6[temp[0][1]])
|
||||||
^ *((u32*)T7[temp[3][2]])
|
^ *((u32_a_t*)T7[temp[3][2]])
|
||||||
^ *((u32*)T8[temp[2][3]]);
|
^ *((u32_a_t*)T8[temp[2][3]]);
|
||||||
*((u32*)(b+ 8)) = *((u32*)T5[temp[2][0]])
|
*((u32_a_t*)(b+ 8)) = *((u32_a_t*)T5[temp[2][0]])
|
||||||
^ *((u32*)T6[temp[1][1]])
|
^ *((u32_a_t*)T6[temp[1][1]])
|
||||||
^ *((u32*)T7[temp[0][2]])
|
^ *((u32_a_t*)T7[temp[0][2]])
|
||||||
^ *((u32*)T8[temp[3][3]]);
|
^ *((u32_a_t*)T8[temp[3][3]]);
|
||||||
*((u32*)(b+12)) = *((u32*)T5[temp[3][0]])
|
*((u32_a_t*)(b+12)) = *((u32_a_t*)T5[temp[3][0]])
|
||||||
^ *((u32*)T6[temp[2][1]])
|
^ *((u32_a_t*)T6[temp[2][1]])
|
||||||
^ *((u32*)T7[temp[1][2]])
|
^ *((u32_a_t*)T7[temp[1][2]])
|
||||||
^ *((u32*)T8[temp[0][3]]);
|
^ *((u32_a_t*)T8[temp[0][3]]);
|
||||||
for (r = ROUNDS-1; r > 1; r--) {
|
for (r = ROUNDS-1; r > 1; r--) {
|
||||||
*((u32*)temp[0]) = *((u32*)(b )) ^ *((u32*)rk[r][0]);
|
*((u32_a_t*)temp[0]) = *((u32_a_t*)(b )) ^ *((u32_a_t*)rk[r][0]);
|
||||||
*((u32*)temp[1]) = *((u32*)(b+ 4)) ^ *((u32*)rk[r][1]);
|
*((u32_a_t*)temp[1]) = *((u32_a_t*)(b+ 4)) ^ *((u32_a_t*)rk[r][1]);
|
||||||
*((u32*)temp[2]) = *((u32*)(b+ 8)) ^ *((u32*)rk[r][2]);
|
*((u32_a_t*)temp[2]) = *((u32_a_t*)(b+ 8)) ^ *((u32_a_t*)rk[r][2]);
|
||||||
*((u32*)temp[3]) = *((u32*)(b+12)) ^ *((u32*)rk[r][3]);
|
*((u32_a_t*)temp[3]) = *((u32_a_t*)(b+12)) ^ *((u32_a_t*)rk[r][3]);
|
||||||
*((u32*)(b )) = *((u32*)T5[temp[0][0]])
|
*((u32_a_t*)(b )) = *((u32_a_t*)T5[temp[0][0]])
|
||||||
^ *((u32*)T6[temp[3][1]])
|
^ *((u32_a_t*)T6[temp[3][1]])
|
||||||
^ *((u32*)T7[temp[2][2]])
|
^ *((u32_a_t*)T7[temp[2][2]])
|
||||||
^ *((u32*)T8[temp[1][3]]);
|
^ *((u32_a_t*)T8[temp[1][3]]);
|
||||||
*((u32*)(b+ 4)) = *((u32*)T5[temp[1][0]])
|
*((u32_a_t*)(b+ 4)) = *((u32_a_t*)T5[temp[1][0]])
|
||||||
^ *((u32*)T6[temp[0][1]])
|
^ *((u32_a_t*)T6[temp[0][1]])
|
||||||
^ *((u32*)T7[temp[3][2]])
|
^ *((u32_a_t*)T7[temp[3][2]])
|
||||||
^ *((u32*)T8[temp[2][3]]);
|
^ *((u32_a_t*)T8[temp[2][3]]);
|
||||||
*((u32*)(b+ 8)) = *((u32*)T5[temp[2][0]])
|
*((u32_a_t*)(b+ 8)) = *((u32_a_t*)T5[temp[2][0]])
|
||||||
^ *((u32*)T6[temp[1][1]])
|
^ *((u32_a_t*)T6[temp[1][1]])
|
||||||
^ *((u32*)T7[temp[0][2]])
|
^ *((u32_a_t*)T7[temp[0][2]])
|
||||||
^ *((u32*)T8[temp[3][3]]);
|
^ *((u32_a_t*)T8[temp[3][3]]);
|
||||||
*((u32*)(b+12)) = *((u32*)T5[temp[3][0]])
|
*((u32_a_t*)(b+12)) = *((u32_a_t*)T5[temp[3][0]])
|
||||||
^ *((u32*)T6[temp[2][1]])
|
^ *((u32_a_t*)T6[temp[2][1]])
|
||||||
^ *((u32*)T7[temp[1][2]])
|
^ *((u32_a_t*)T7[temp[1][2]])
|
||||||
^ *((u32*)T8[temp[0][3]]);
|
^ *((u32_a_t*)T8[temp[0][3]]);
|
||||||
}
|
}
|
||||||
/* last round is special */
|
|
||||||
*((u32*)temp[0]) = *((u32*)(b )) ^ *((u32*)rk[1][0]);
|
/* Last round is special. */
|
||||||
*((u32*)temp[1]) = *((u32*)(b+ 4)) ^ *((u32*)rk[1][1]);
|
*((u32_a_t*)temp[0]) = *((u32_a_t*)(b )) ^ *((u32_a_t*)rk[1][0]);
|
||||||
*((u32*)temp[2]) = *((u32*)(b+ 8)) ^ *((u32*)rk[1][2]);
|
*((u32_a_t*)temp[1]) = *((u32_a_t*)(b+ 4)) ^ *((u32_a_t*)rk[1][1]);
|
||||||
*((u32*)temp[3]) = *((u32*)(b+12)) ^ *((u32*)rk[1][3]);
|
*((u32_a_t*)temp[2]) = *((u32_a_t*)(b+ 8)) ^ *((u32_a_t*)rk[1][2]);
|
||||||
b[ 0] = S5[temp[0][0]];
|
*((u32_a_t*)temp[3]) = *((u32_a_t*)(b+12)) ^ *((u32_a_t*)rk[1][3]);
|
||||||
b[ 1] = S5[temp[3][1]];
|
b[ 0] = S5[temp[0][0]];
|
||||||
b[ 2] = S5[temp[2][2]];
|
b[ 1] = S5[temp[3][1]];
|
||||||
b[ 3] = S5[temp[1][3]];
|
b[ 2] = S5[temp[2][2]];
|
||||||
b[ 4] = S5[temp[1][0]];
|
b[ 3] = S5[temp[1][3]];
|
||||||
b[ 5] = S5[temp[0][1]];
|
b[ 4] = S5[temp[1][0]];
|
||||||
b[ 6] = S5[temp[3][2]];
|
b[ 5] = S5[temp[0][1]];
|
||||||
b[ 7] = S5[temp[2][3]];
|
b[ 6] = S5[temp[3][2]];
|
||||||
b[ 8] = S5[temp[2][0]];
|
b[ 7] = S5[temp[2][3]];
|
||||||
b[ 9] = S5[temp[1][1]];
|
b[ 8] = S5[temp[2][0]];
|
||||||
b[10] = S5[temp[0][2]];
|
b[ 9] = S5[temp[1][1]];
|
||||||
b[11] = S5[temp[3][3]];
|
b[10] = S5[temp[0][2]];
|
||||||
b[12] = S5[temp[3][0]];
|
b[11] = S5[temp[3][3]];
|
||||||
b[13] = S5[temp[2][1]];
|
b[12] = S5[temp[3][0]];
|
||||||
b[14] = S5[temp[1][2]];
|
b[13] = S5[temp[2][1]];
|
||||||
b[15] = S5[temp[0][3]];
|
b[14] = S5[temp[1][2]];
|
||||||
*((u32*)(b )) ^= *((u32*)rk[0][0]);
|
b[15] = S5[temp[0][3]];
|
||||||
*((u32*)(b+ 4)) ^= *((u32*)rk[0][1]);
|
*((u32_a_t*)(b )) ^= *((u32_a_t*)rk[0][0]);
|
||||||
*((u32*)(b+ 8)) ^= *((u32*)rk[0][2]);
|
*((u32_a_t*)(b+ 4)) ^= *((u32_a_t*)rk[0][1]);
|
||||||
*((u32*)(b+12)) ^= *((u32*)rk[0][3]);
|
*((u32_a_t*)(b+ 8)) ^= *((u32_a_t*)rk[0][2]);
|
||||||
|
*((u32_a_t*)(b+12)) ^= *((u32_a_t*)rk[0][3]);
|
||||||
#undef rk
|
#undef rk
|
||||||
}
|
}
|
||||||
|
|
||||||
|
|||||||
Loading…
x
Reference in New Issue
Block a user