Coverage Report

Created: 2020-06-30 13:58

/src/botan/src/lib/hash/sha2_32/sha2_32_x86/sha2_32_x86.cpp
Line
Count
Source (jump to first uncovered line)
1
/*
2
* Support for SHA-256 x86 instrinsic
3
* Based on public domain code by Sean Gulley
4
*    (https://github.com/mitls/hacl-star/tree/master/experimental/hash)
5
*
6
* Botan is released under the Simplified BSD License (see license.txt)
7
*/
8
9
#include <botan/sha2_32.h>
10
#include <immintrin.h>
11
12
namespace Botan {
13
14
// called from sha2_32.cpp
15
#if defined(BOTAN_HAS_SHA2_32_X86)
16
BOTAN_FUNC_ISA("sha,sse4.1,ssse3")
17
void SHA_256::compress_digest_x86(secure_vector<uint32_t>& digest, const uint8_t input[], size_t blocks)
18
0
   {
19
0
   __m128i STATE0, STATE1;
20
0
   __m128i MSG, TMP, MASK;
21
0
   __m128i TMSG0, TMSG1, TMSG2, TMSG3;
22
0
   __m128i ABEF_SAVE, CDGH_SAVE;
23
0
24
0
   uint32_t* state = &digest[0];
25
0
26
0
   const __m128i* input_mm = reinterpret_cast<const __m128i*>(input);
27
0
28
0
   // Load initial values
29
0
   TMP = _mm_loadu_si128(reinterpret_cast<__m128i*>(&state[0]));
30
0
   STATE1 = _mm_loadu_si128(reinterpret_cast<__m128i*>(&state[4]));
31
0
   MASK = _mm_set_epi64x(0x0c0d0e0f08090a0bULL, 0x0405060700010203ULL);
32
0
33
0
   TMP = _mm_shuffle_epi32(TMP, 0xB1); // CDAB
34
0
   STATE1 = _mm_shuffle_epi32(STATE1, 0x1B); // EFGH
35
0
   STATE0 = _mm_alignr_epi8(TMP, STATE1, 8); // ABEF
36
0
   STATE1 = _mm_blend_epi16(STATE1, TMP, 0xF0); // CDGH
37
0
38
0
   while (blocks)
39
0
      {
40
0
      // Save current hash
41
0
      ABEF_SAVE = STATE0;
42
0
      CDGH_SAVE = STATE1;
43
0
44
0
      // Rounds 0-3
45
0
      MSG = _mm_loadu_si128(input_mm);
46
0
      TMSG0 = _mm_shuffle_epi8(MSG, MASK);
47
0
      MSG = _mm_add_epi32(TMSG0, _mm_set_epi64x(0xE9B5DBA5B5C0FBCFULL, 0x71374491428A2F98ULL));
48
0
      STATE1 = _mm_sha256rnds2_epu32(STATE1, STATE0, MSG);
49
0
      MSG = _mm_shuffle_epi32(MSG, 0x0E);
50
0
      STATE0 = _mm_sha256rnds2_epu32(STATE0, STATE1, MSG);
51
0
52
0
      // Rounds 4-7
53
0
      TMSG1 = _mm_loadu_si128(input_mm + 1);
54
0
      TMSG1 = _mm_shuffle_epi8(TMSG1, MASK);
55
0
      MSG = _mm_add_epi32(TMSG1, _mm_set_epi64x(0xAB1C5ED5923F82A4ULL, 0x59F111F13956C25BULL));
56
0
      STATE1 = _mm_sha256rnds2_epu32(STATE1, STATE0, MSG);
57
0
      MSG = _mm_shuffle_epi32(MSG, 0x0E);
58
0
      STATE0 = _mm_sha256rnds2_epu32(STATE0, STATE1, MSG);
59
0
      TMSG0 = _mm_sha256msg1_epu32(TMSG0, TMSG1);
60
0
61
0
      // Rounds 8-11
62
0
      TMSG2 = _mm_loadu_si128(input_mm + 2);
63
0
      TMSG2 = _mm_shuffle_epi8(TMSG2, MASK);
64
0
      MSG = _mm_add_epi32(TMSG2, _mm_set_epi64x(0x550C7DC3243185BEULL, 0x12835B01D807AA98ULL));
65
0
      STATE1 = _mm_sha256rnds2_epu32(STATE1, STATE0, MSG);
66
0
      MSG = _mm_shuffle_epi32(MSG, 0x0E);
67
0
      STATE0 = _mm_sha256rnds2_epu32(STATE0, STATE1, MSG);
68
0
      TMSG1 = _mm_sha256msg1_epu32(TMSG1, TMSG2);
69
0
70
0
      // Rounds 12-15
71
0
      TMSG3 = _mm_loadu_si128(input_mm + 3);
72
0
      TMSG3 = _mm_shuffle_epi8(TMSG3, MASK);
73
0
      MSG = _mm_add_epi32(TMSG3, _mm_set_epi64x(0xC19BF1749BDC06A7ULL, 0x80DEB1FE72BE5D74ULL));
74
0
      STATE1 = _mm_sha256rnds2_epu32(STATE1, STATE0, MSG);
75
0
      TMP = _mm_alignr_epi8(TMSG3, TMSG2, 4);
76
0
      TMSG0 = _mm_add_epi32(TMSG0, TMP);
77
0
      TMSG0 = _mm_sha256msg2_epu32(TMSG0, TMSG3);
78
0
      MSG = _mm_shuffle_epi32(MSG, 0x0E);
79
0
      STATE0 = _mm_sha256rnds2_epu32(STATE0, STATE1, MSG);
80
0
      TMSG2 = _mm_sha256msg1_epu32(TMSG2, TMSG3);
81
0
82
0
      // Rounds 16-19
83
0
      MSG = _mm_add_epi32(TMSG0, _mm_set_epi64x(0x240CA1CC0FC19DC6ULL, 0xEFBE4786E49B69C1ULL));
84
0
      STATE1 = _mm_sha256rnds2_epu32(STATE1, STATE0, MSG);
85
0
      TMP = _mm_alignr_epi8(TMSG0, TMSG3, 4);
86
0
      TMSG1 = _mm_add_epi32(TMSG1, TMP);
87
0
      TMSG1 = _mm_sha256msg2_epu32(TMSG1, TMSG0);
88
0
      MSG = _mm_shuffle_epi32(MSG, 0x0E);
89
0
      STATE0 = _mm_sha256rnds2_epu32(STATE0, STATE1, MSG);
90
0
      TMSG3 = _mm_sha256msg1_epu32(TMSG3, TMSG0);
91
0
92
0
      // Rounds 20-23
93
0
      MSG = _mm_add_epi32(TMSG1, _mm_set_epi64x(0x76F988DA5CB0A9DCULL, 0x4A7484AA2DE92C6FULL));
94
0
      STATE1 = _mm_sha256rnds2_epu32(STATE1, STATE0, MSG);
95
0
      TMP = _mm_alignr_epi8(TMSG1, TMSG0, 4);
96
0
      TMSG2 = _mm_add_epi32(TMSG2, TMP);
97
0
      TMSG2 = _mm_sha256msg2_epu32(TMSG2, TMSG1);
98
0
      MSG = _mm_shuffle_epi32(MSG, 0x0E);
99
0
      STATE0 = _mm_sha256rnds2_epu32(STATE0, STATE1, MSG);
100
0
      TMSG0 = _mm_sha256msg1_epu32(TMSG0, TMSG1);
101
0
102
0
      // Rounds 24-27
103
0
      MSG = _mm_add_epi32(TMSG2, _mm_set_epi64x(0xBF597FC7B00327C8ULL, 0xA831C66D983E5152ULL));
104
0
      STATE1 = _mm_sha256rnds2_epu32(STATE1, STATE0, MSG);
105
0
      TMP = _mm_alignr_epi8(TMSG2, TMSG1, 4);
106
0
      TMSG3 = _mm_add_epi32(TMSG3, TMP);
107
0
      TMSG3 = _mm_sha256msg2_epu32(TMSG3, TMSG2);
108
0
      MSG = _mm_shuffle_epi32(MSG, 0x0E);
109
0
      STATE0 = _mm_sha256rnds2_epu32(STATE0, STATE1, MSG);
110
0
      TMSG1 = _mm_sha256msg1_epu32(TMSG1, TMSG2);
111
0
112
0
      // Rounds 28-31
113
0
      MSG = _mm_add_epi32(TMSG3, _mm_set_epi64x(0x1429296706CA6351ULL,  0xD5A79147C6E00BF3ULL));
114
0
      STATE1 = _mm_sha256rnds2_epu32(STATE1, STATE0, MSG);
115
0
      TMP = _mm_alignr_epi8(TMSG3, TMSG2, 4);
116
0
      TMSG0 = _mm_add_epi32(TMSG0, TMP);
117
0
      TMSG0 = _mm_sha256msg2_epu32(TMSG0, TMSG3);
118
0
      MSG = _mm_shuffle_epi32(MSG, 0x0E);
119
0
      STATE0 = _mm_sha256rnds2_epu32(STATE0, STATE1, MSG);
120
0
      TMSG2 = _mm_sha256msg1_epu32(TMSG2, TMSG3);
121
0
122
0
      // Rounds 32-35
123
0
      MSG = _mm_add_epi32(TMSG0, _mm_set_epi64x(0x53380D134D2C6DFCULL, 0x2E1B213827B70A85ULL));
124
0
      STATE1 = _mm_sha256rnds2_epu32(STATE1, STATE0, MSG);
125
0
      TMP = _mm_alignr_epi8(TMSG0, TMSG3, 4);
126
0
      TMSG1 = _mm_add_epi32(TMSG1, TMP);
127
0
      TMSG1 = _mm_sha256msg2_epu32(TMSG1, TMSG0);
128
0
      MSG = _mm_shuffle_epi32(MSG, 0x0E);
129
0
      STATE0 = _mm_sha256rnds2_epu32(STATE0, STATE1, MSG);
130
0
      TMSG3 = _mm_sha256msg1_epu32(TMSG3, TMSG0);
131
0
132
0
      // Rounds 36-39
133
0
      MSG = _mm_add_epi32(TMSG1, _mm_set_epi64x(0x92722C8581C2C92EULL, 0x766A0ABB650A7354ULL));
134
0
      STATE1 = _mm_sha256rnds2_epu32(STATE1, STATE0, MSG);
135
0
      TMP = _mm_alignr_epi8(TMSG1, TMSG0, 4);
136
0
      TMSG2 = _mm_add_epi32(TMSG2, TMP);
137
0
      TMSG2 = _mm_sha256msg2_epu32(TMSG2, TMSG1);
138
0
      MSG = _mm_shuffle_epi32(MSG, 0x0E);
139
0
      STATE0 = _mm_sha256rnds2_epu32(STATE0, STATE1, MSG);
140
0
      TMSG0 = _mm_sha256msg1_epu32(TMSG0, TMSG1);
141
0
142
0
      // Rounds 40-43
143
0
      MSG = _mm_add_epi32(TMSG2, _mm_set_epi64x(0xC76C51A3C24B8B70ULL, 0xA81A664BA2BFE8A1ULL));
144
0
      STATE1 = _mm_sha256rnds2_epu32(STATE1, STATE0, MSG);
145
0
      TMP = _mm_alignr_epi8(TMSG2, TMSG1, 4);
146
0
      TMSG3 = _mm_add_epi32(TMSG3, TMP);
147
0
      TMSG3 = _mm_sha256msg2_epu32(TMSG3, TMSG2);
148
0
      MSG = _mm_shuffle_epi32(MSG, 0x0E);
149
0
      STATE0 = _mm_sha256rnds2_epu32(STATE0, STATE1, MSG);
150
0
      TMSG1 = _mm_sha256msg1_epu32(TMSG1, TMSG2);
151
0
152
0
      // Rounds 44-47
153
0
      MSG = _mm_add_epi32(TMSG3, _mm_set_epi64x(0x106AA070F40E3585ULL, 0xD6990624D192E819ULL));
154
0
      STATE1 = _mm_sha256rnds2_epu32(STATE1, STATE0, MSG);
155
0
      TMP = _mm_alignr_epi8(TMSG3, TMSG2, 4);
156
0
      TMSG0 = _mm_add_epi32(TMSG0, TMP);
157
0
      TMSG0 = _mm_sha256msg2_epu32(TMSG0, TMSG3);
158
0
      MSG = _mm_shuffle_epi32(MSG, 0x0E);
159
0
      STATE0 = _mm_sha256rnds2_epu32(STATE0, STATE1, MSG);
160
0
      TMSG2 = _mm_sha256msg1_epu32(TMSG2, TMSG3);
161
0
162
0
      // Rounds 48-51
163
0
      MSG = _mm_add_epi32(TMSG0, _mm_set_epi64x(0x34B0BCB52748774CULL, 0x1E376C0819A4C116ULL));
164
0
      STATE1 = _mm_sha256rnds2_epu32(STATE1, STATE0, MSG);
165
0
      TMP = _mm_alignr_epi8(TMSG0, TMSG3, 4);
166
0
      TMSG1 = _mm_add_epi32(TMSG1, TMP);
167
0
      TMSG1 = _mm_sha256msg2_epu32(TMSG1, TMSG0);
168
0
      MSG = _mm_shuffle_epi32(MSG, 0x0E);
169
0
      STATE0 = _mm_sha256rnds2_epu32(STATE0, STATE1, MSG);
170
0
      TMSG3 = _mm_sha256msg1_epu32(TMSG3, TMSG0);
171
0
172
0
      // Rounds 52-55
173
0
      MSG = _mm_add_epi32(TMSG1, _mm_set_epi64x(0x682E6FF35B9CCA4FULL, 0x4ED8AA4A391C0CB3ULL));
174
0
      STATE1 = _mm_sha256rnds2_epu32(STATE1, STATE0, MSG);
175
0
      TMP = _mm_alignr_epi8(TMSG1, TMSG0, 4);
176
0
      TMSG2 = _mm_add_epi32(TMSG2, TMP);
177
0
      TMSG2 = _mm_sha256msg2_epu32(TMSG2, TMSG1);
178
0
      MSG = _mm_shuffle_epi32(MSG, 0x0E);
179
0
      STATE0 = _mm_sha256rnds2_epu32(STATE0, STATE1, MSG);
180
0
181
0
      // Rounds 56-59
182
0
      MSG = _mm_add_epi32(TMSG2, _mm_set_epi64x(0x8CC7020884C87814ULL, 0x78A5636F748F82EEULL));
183
0
      STATE1 = _mm_sha256rnds2_epu32(STATE1, STATE0, MSG);
184
0
      TMP = _mm_alignr_epi8(TMSG2, TMSG1, 4);
185
0
      TMSG3 = _mm_add_epi32(TMSG3, TMP);
186
0
      TMSG3 = _mm_sha256msg2_epu32(TMSG3, TMSG2);
187
0
      MSG = _mm_shuffle_epi32(MSG, 0x0E);
188
0
      STATE0 = _mm_sha256rnds2_epu32(STATE0, STATE1, MSG);
189
0
190
0
      // Rounds 60-63
191
0
      MSG = _mm_add_epi32(TMSG3, _mm_set_epi64x(0xC67178F2BEF9A3F7ULL, 0xA4506CEB90BEFFFAULL));
192
0
      STATE1 = _mm_sha256rnds2_epu32(STATE1, STATE0, MSG);
193
0
      MSG = _mm_shuffle_epi32(MSG, 0x0E);
194
0
      STATE0 = _mm_sha256rnds2_epu32(STATE0, STATE1, MSG);
195
0
196
0
      // Add values back to state
197
0
      STATE0 = _mm_add_epi32(STATE0, ABEF_SAVE);
198
0
      STATE1 = _mm_add_epi32(STATE1, CDGH_SAVE);
199
0
200
0
      input_mm += 4;
201
0
      blocks--;
202
0
      }
203
0
204
0
   TMP = _mm_shuffle_epi32(STATE0, 0x1B); // FEBA
205
0
   STATE1 = _mm_shuffle_epi32(STATE1, 0xB1); // DCHG
206
0
   STATE0 = _mm_blend_epi16(TMP, STATE1, 0xF0); // DCBA
207
0
   STATE1 = _mm_alignr_epi8(STATE1, TMP, 8); // ABEF
208
0
209
0
   // Save state
210
0
   _mm_storeu_si128(reinterpret_cast<__m128i*>(&state[0]), STATE0);
211
0
   _mm_storeu_si128(reinterpret_cast<__m128i*>(&state[4]), STATE1);
212
0
   }
213
#endif
214
215
}