對網址進行雜湊處理
總覽
Web Risk 清單包含長度不一的 SHA256 雜湊。詳情請參閱「列出內容」。如要根據 Web Risk 清單檢查網址 (在本機或伺服器上),用戶端必須先計算該網址的雜湊前置字元。
如要計算網址的雜湊前置字串,請按照下列步驟操作:
- 請按照「標準化」一文的說明,將網址標準化。
- 如「尾碼/前置碼運算式」所述,為網址建立尾碼/前置碼運算式。
- 如「雜湊計算」一節所述,計算每個後置字串/前置字串運算式的完整雜湊。
- 如「雜湊前置字串計算」一文所述,計算每個完整雜湊的前置字串。
請注意,這些步驟與 Web Risk 伺服器維護 Web Risk 清單的程序相同。
標準化
首先,我們假設用戶端已剖析網址,並根據 RFC 2396 讓網址有效。如果網址使用國際化網域名稱 (IDN),用戶端應將網址轉換為 ASCII 網域名稱代碼表示法。網址必須包含路徑部分,也就是開頭必須有斜線 (http://google.com/
)。
首先,請從網址中移除 Tab (0x09
)、CR (0x0d
) 和 LF (0x0a
) 字元。請勿移除這些字元的逸出序列,例如 %0a
。
其次,如果網址結尾有片段,請移除該片段。例如將 http://google.com/#frag
縮短為 http://google.com/
。
第三,從網址中重複移除百分比逸出字元,直到網址不再含有這類字元為止。
標準化主機名稱
從網址中擷取主機名稱,然後:
- 移除開頭和結尾的所有點。
- 將連續點號取代為單一點號。
- 如果主機名稱可剖析為 IP 位址,請將其正規化為以半形句號分隔的 4 個十進位值。用戶端應處理任何合法的 IP 位址編碼,包括八進位、十六進位和少於四個元件。
- 將整個字串轉換為小寫。
如要將路徑標準化
- 在路徑中解析
/../
和/./
序列,方法是將/./
替換為/
,並移除/../
和先前的路徑元件。 - 將連續斜線替換為單一斜線字元。
請勿將這些路徑標準化套用至查詢參數。
在網址中,請以百分比逸出所有 <= ASCII 32、>= 127、#
或 %
的字元。逸出字元應使用大寫十六進位字元。
以下測試有助於驗證標準化實作。
Canonicalize("http://host/%25%32%35") = "http://host/%25"; Canonicalize("http://host/%25%32%35%25%32%35") = "http://host/%25%25"; Canonicalize("http://host/%2525252525252525") = "http://host/%25"; Canonicalize("http://host/asdf%25%32%35asd") = "http://host/asdf%25asd"; Canonicalize("http://host/%%%25%32%35asd%%") = "http://host/%25%25%25asd%25%25"; Canonicalize("http://www.google.com/") = "http://www.google.com/"; Canonicalize("http://%31%36%38%2e%31%38%38%2e%39%39%2e%32%36/%2E%73%65%63%75%72%65/%77%77%77%2E%65%62%61%79%2E%63%6F%6D/") = "http://168.188.99.26/.secure/www.ebay.com/"; Canonicalize("http://195.127.0.11/uploads/%20%20%20%20/.verify/.eBaysecure=updateuserdataxplimnbqmn-xplmvalidateinfoswqpcmlx=hgplmcx/") = "http://195.127.0.11/uploads/%20%20%20%20/.verify/.eBaysecure=updateuserdataxplimnbqmn-xplmvalidateinfoswqpcmlx=hgplmcx/"; Canonicalize("http://host%23.com/%257Ea%2521b%2540c%2523d%2524e%25f%255E00%252611%252A22%252833%252944_55%252B") = "http://host%23.com/~a!b@c%23d$e%25f^00&11*22(33)44_55+"; Canonicalize("http://3279880203/blah") = "http://195.127.0.11/blah"; Canonicalize("http://www.google.com/blah/..") = "http://www.google.com/"; Canonicalize("www.google.com/") = "http://www.google.com/"; Canonicalize("www.google.com") = "http://www.google.com/"; Canonicalize("http://www.evil.com/blah#frag") = "http://www.evil.com/blah"; Canonicalize("http://www.GOOgle.com/") = "http://www.google.com/"; Canonicalize("http://www.google.com.../") = "http://www.google.com/"; Canonicalize("http://www.google.com/foo\tbar\rbaz\n2") ="http://www.google.com/foobarbaz2"; Canonicalize("http://www.google.com/q?") = "http://www.google.com/q?"; Canonicalize("http://www.google.com/q?r?") = "http://www.google.com/q?r?"; Canonicalize("http://www.google.com/q?r?s") = "http://www.google.com/q?r?s"; Canonicalize("http://evil.com/foo#bar#baz") = "http://evil.com/foo"; Canonicalize("http://evil.com/foo;") = "http://evil.com/foo;"; Canonicalize("http://evil.com/foo?bar;") = "http://evil.com/foo?bar;"; Canonicalize("http://\x01\x80.com/") = "http://%01%80.com/"; Canonicalize("http://notrailingslash.com") = "http://notrailingslash.com/"; Canonicalize("http://www.gotaport.com:1234/") = "http://www.gotaport.com/"; Canonicalize(" http://www.google.com/ ") = "http://www.google.com/"; Canonicalize("http:// leadingspace.com/") = "http://%20leadingspace.com/"; Canonicalize("http://%20leadingspace.com/") = "http://%20leadingspace.com/"; Canonicalize("%20leadingspace.com/") = "http://%20leadingspace.com/"; Canonicalize("https://www.securesite.com/") = "https://www.securesite.com/"; Canonicalize("http://host.com/ab%23cd") = "http://host.com/ab%23cd"; Canonicalize("http://host.com//twoslashes?more//slashes") = "http://host.com/twoslashes?more//slashes";
後置/前置運算式
網址完成正規化後,下一步就是建立後置/前置字串運算式。每個後置字串/前置字串運算式都包含主機後置字串 (或完整主機) 和路徑前置字串 (或完整路徑),如以下範例所示。
後置/前置字串運算式 | 對等的規則運算式 |
---|---|
a.b/mypath/ |
http\:\/\/.*\.a\.b\/mypath\/.* |
c.d/full/path.html?myparam=a |
http\:\/\/.*.c\.d\/full\/path\.html?myparam=a |
用戶端最多會形成 30 種可能的主機尾碼和路徑前置字元組合。這些組合只會使用網址的主機和路徑元件。系統會捨棄配置、使用者名稱、密碼和通訊埠。如果網址包含查詢參數,則至少一個組合會包含完整路徑和查詢參數。
對於主機,用戶端最多會嘗試五個不同的字串。包括:
- 網址中的確切主機名稱。
- 最多四個主機名稱,由最後五個元件開始,並依序移除開頭元件。頂層網域可以省略。如果主機是 IP 位址,則不應檢查這些額外主機名稱。
路徑:用戶端最多會嘗試六個不同的字串。包括:
- 網址的確切路徑,包括查詢參數。
- 網址的確切路徑,不含查詢參數。
- 從根目錄 (
/
) 開始,並依序附加路徑元件 (包括尾端斜線) 所形成的四條路徑。
以下範例說明檢查行為:
對於網址 http://a.b.c/1/2.html?param=1
,用戶端會嘗試使用下列可能的字串:
a.b.c/1/2.html?param=1 a.b.c/1/2.html a.b.c/ a.b.c/1/ b.c/1/2.html?param=1 b.c/1/2.html b.c/ b.c/1/
如果是網址 http://a.b.c.d.e.f.g/1.html
,用戶端會嘗試使用下列可能的字串:
a.b.c.d.e.f.g/1.html a.b.c.d.e.f.g/ (Note: skip b.c.d.e.f.g, since we'll take only the last five hostname components, and the full hostname) c.d.e.f.g/1.html c.d.e.f.g/ d.e.f.g/1.html d.e.f.g/ e.f.g/1.html e.f.g/ f.g/1.html f.g/
對於網址 http://1.2.3.4/1/
,用戶端會嘗試使用下列可能的字串:
1.2.3.4/1/ 1.2.3.4/
雜湊運算
建立後置/前置字串運算式集後,下一步是計算每個運算式的完整 SHA256 雜湊值。以下是偽 C 語言的單元測試,可用於驗證雜湊計算。
FIPS-180-2 的範例:
// Example B1 from FIPS-180-2 string input1 = "abc"; string output1 = TruncatedSha256Prefix(input1, 32); int expected1[] = { 0xba, 0x78, 0x16, 0xbf }; assert(output1.size() == 4); // 4 bytes == 32 bits for (int i = 0; i < output1.size(); i++) assert(output1[i] == expected1[i]); // Example B2 from FIPS-180-2 string input2 = "abcdbcdecdefdefgefghfghighijhijkijkljklmklmnlmnomnopnopq"; string output2 = TruncatedSha256Prefix(input2, 48); int expected2[] = { 0x24, 0x8d, 0x6a, 0x61, 0xd2, 0x06 }; assert(output2.size() == 6); for (int i = 0; i < output2.size(); i++) assert(output2[i] == expected2[i]); // Example B3 from FIPS-180-2 string input3(1000000, 'a'); // 'a' repeated a million times string output3 = TruncatedSha256Prefix(input3, 96); int expected3[] = { 0xcd, 0xc7, 0x6e, 0x5c, 0x99, 0x14, 0xfb, 0x92, 0x81, 0xa1, 0xc7, 0xe2 }; assert(output3.size() == 12); for (int i = 0; i < output3.size(); i++) assert(output3[i] == expected3[i]);
雜湊前置字元計算
最後,用戶端需要計算每個完整長度的 SHA256 雜湊的雜湊前置字串。對於 Web Risk,雜湊前置字元是由 SHA256 雜湊最顯著的 4 到 32 個位元組組成。
FIPS-180-2 的範例:
- FIPS-180-2 的範例 B1
- 輸入內容為「abc」。
- SHA256 摘要是
ba7816bf 8f01cfea 414140de 5dae2223 b00361a3 96177a9c b410ff61 f20015ad
。 - 32 位元雜湊前置字串為
ba7816bf
。
- FIPS-180-2 的範例 B2
- 輸入內容為
abcdbcdecdefdefgefghfghighijhijkijkljklmklmnlmnomnopnopq
。 - SHA256 摘要是
248d6a61 d20638b8 e5c02693 0c3e6039 a33ce459 64ff2167 f6ecedd4 19db06c1
。 - 48 位元雜湊前置字串為
248d6a61 d206
。
- 輸入內容為