實驗可能影響因素
素材測試實驗通過設置受影響的用戶范圍來進行實驗分組,但實驗最終的主要參考數據依據從素材曝光到點擊下載的轉化率。受以下因素影響,相同比例的用戶對應的曝光量可能會有較大差異:
應用市場資源位排期:應用在對應測試期間內,在華為應用市場是否有公共的曝光資源位將很大程度影響素材在不同設備上的曝光量。若沒有資源位曝光,則素材在不同設備上的曝光量將有可能有較大差異。
設備的活躍度:不同設備的用戶在應用市場的活躍程度不同。若A、B組均分配20%的實驗用戶,但是A組對應用戶為華為應用市場的活躍用戶、B組對應用戶為非活躍用戶,則A組對應的素材曝光量可能遠高于B組。
用戶的行為意圖:若應用在應用市場沒有明顯的曝光資源,則素材曝光多依賴用戶的主動搜索行為。不同的設備用戶若搜索意圖相差很大,則對應曝光量也會有很大差異。同時,用戶是否點擊進入應用詳情頁查看,也將直接影響詳情頁內素材的曝光量。
推薦的實驗設計
為盡可能減小以上影響因素對實驗數據的誤差影響,我們建議您:
確定明確的實驗目標:確保您在設計實驗時已想好要達成的目標,從而針對性地設計實驗。
一次僅測試一類素材:為避免不同素材間的交叉影響,建議您一次實驗僅測試一類素材。
每次實驗至少持續(xù)7天:為最大程度排除外界因素影響,建議您單次實驗持續(xù)7日以上,累積足夠數據以減小誤差。
盡可能面向50%的用戶進行測試實驗:在可能的情況下,面向最大規(guī)模的測試受眾進行測試能更快地獲得結果,尤其是在首頁無明顯曝光資源位的時候。
針對同一種素材類型,用多個不同素材反復實驗:大膽測試不同的素材,根據實驗結果反復改進,以盡可能獲取最優(yōu)結論。