本頁面說明如何使用 A/B 實驗,瞭解商家適用的 Vertex AI Search 對業務的影響。
總覽
A/B 實驗是一種隨機實驗,分為實驗組和控制組。實驗組會接受不同的處理方式 (在本例中,是 Vertex AI Search for Commerce 的預測或搜尋結果),控制組則不會。
執行 A/B 實驗時,請在記錄使用者事件時,一併提供使用者所屬群組的資訊。這項資訊可用於改善模型並提供指標。
兩個版本的應用程式必須相同,但實驗組使用者會看到 Vertex AI Search for commerce 生成的結果,控制組則不會。您會記錄這兩組的使用者事件。
如要進一步瞭解流量分配,請參閱 App Engine 說明文件中的「分配流量」一文。
實驗平台
使用 VWO、AB Tasty 等第三方實驗平台設定實驗。控制組和實驗組都會從平台取得專屬的實驗 ID。記錄使用者事件時,請在 experimentIds
欄位中加入實驗 ID,指定使用者所屬的群組。提供實驗 ID 後,您就能比較控制組和實驗組看到的應用程式版本指標。
A/B 實驗最佳做法
A/B 實驗的目標是準確判斷更新網站的影響 (在本例中,即採用 Vertex AI Search for Commerce)。如要準確評估影響,請務必正確設計及導入實驗,以免其他差異影響實驗結果。
如要設計有意義的 A/B 實驗,請參考下列提示:
設定 A/B 實驗前,請先使用預測或搜尋預覽功能,確保模型運作正常。
請確保實驗組和控制組的網站行為完全相同。
網站行為包括延遲時間、顯示格式、文字格式、網頁版面配置、圖片品質和圖片大小。控制組和實驗組的體驗在這些屬性方面應沒有明顯差異。
接受並顯示 Vertex AI Search for commerce 傳回的結果,且顯示順序與傳回順序相同。
篩除缺貨商品是可以接受的做法。不過,請避免根據商家規則篩選或排序結果。
如果您使用搜尋使用者事件,並在其中加入必要的歸因權杖,請確認設定正確無誤。請參閱「歸因權杖」說明文件。
請務必確認您在要求建議或搜尋結果時提供的供應設定,符合您對該建議或搜尋結果的意圖,以及顯示結果的位置。
使用建議時,服務設定會影響模型的訓練方式,進而影響推薦的產品。瞭解詳情。
如果比較現有解決方案與 Vertex AI Search for Commerce,請務必將控制組的體驗與實驗組的體驗嚴格區隔。
如果控制解決方案未提供建議或搜尋結果,請勿在控制頁面中提供 Vertex AI Search for Commerce 的建議或搜尋結果。否則測試結果會出現偏差。
請確保使用者不會在控制組和實驗組之間切換。這在同一個工作階段中尤其重要,但建議跨工作階段也這麼做。這樣可提升實驗成效,並協助您更快取得具統計顯著性的 A/B 測試結果。