我們給自己做了一次A/B測試,結果逆天了……

AB測試

AB測試工具

作為專注于A/B測試云服務的企業,吆喝科技始終是自己產品的第一個用戶。在技術/產品/運營/銷售等各個業務環節,我們都會實踐A/B測試驅動企業決策優化。

 

這次我們分享一個非常典型的實驗場景:什么樣的用戶注冊頁面和流程能最大化有效客戶線索?

 

我們的產品經理和運營經理通過AppAdhoc平臺把自己的經驗,用戶的反饋,書本的理論變成可以落地實施的試驗,低風險高效率的逐步推給用戶,最終選定最好的方案。

 

希望我們的實踐能給更多的決策者以啟發。

AB測試案例

 

“你們的注冊太復雜,你知道你擋住了多少有需求的人嗎?”

網站優化工具

 

我們的產品很牛逼,我們的團隊很牛逼,為什么在注冊轉化上還是不夠好。癥結在哪里,怎么解決?

 

如果注冊這個很關鍵的環節沒做好,流失的極有可能是一位有價值的潛在客戶。

 

問題可能出在轉化漏斗的任一環節,也可能是所有環節。所幸,我們找到了我們的癥結,而解決的方法就是A/B測試。

 

事實上,網站優化的全環節是都能進行A/B測試的,這里以我們自己在注冊流程的優化為例,講講A/B測試帶給我們的改變。

 

試驗背景

 

從用戶反饋,以及對更多用戶線索的需求,我們發現在現有基礎上增加用戶申請注冊數量,獲得更多有效商務線索,既必要,也必須。

 

在A/B測試之前,官網的申請流程是信息準入制的,用戶需要先填寫5項信息,提交審核發碼,這個流程。審核是需要人工介入的,而且必不可少,那么能不能通過降低用戶申請成本,來帶來更高轉化和銷售線索呢?測試了才知道。

 

試驗方案

網站優化分析

版本設置:加上原始版本,一共4個版本,分別是“5項全能”(需要申請者填寫姓名、產品/公司名稱、手機、郵箱、月活量級)、“郵箱版本”、“電話版本”和“郵箱+電話版本”。這幾個版本都需要運營同學審核后,才會發碼。

 

優化指標:設定提交申請按鈕的點擊次數、成功提交申請的次數為主要優化指標,同時將各版本最終帶來的有效線索轉化情況作為參考數據。

 

試驗過程分析

 

第一階段試驗

 

這一階段一共在線3個版本(包括原始版本、郵箱版本、電話版本),每個版本分配給試驗流量的33%。運行1周后,發現郵件版本的回復率相對較低。考慮到申請信息的跟進可能性,產品運營部門決定將郵件版本的流量調低至20%,為了更好地對比版本數據,所以把試驗中的其他版本的試驗流量也統一調降至20%。

 

試驗運行3周后,各個版本的差異逐漸顯著。從試驗均值和轉化人數的比較中,能夠觀察出每個版本的不同特征,并可以針對性的做出優化改進。

 

兩個試驗版本點擊提交的用戶數遠高于原始版本,看來在降低申請成本后,用戶提交申請的意愿是有明顯提升的。

 

但郵件和電話版本的數據,也說明了各自的特征和問題:電話版本的提交用戶數最多,但經運營核實后,無效申請數量也排在前列,同時在與有效申請用戶溝通的過程中,郵箱核實的過程比較困難。

 

郵箱版本篩除了大量個人用戶,一旦用戶回復則表明試用意愿很強,而問題在于通過郵件交流等待用戶回復的周期較長(甚至有時收不到回復)。

 

考慮到本次試驗的目的,是在增加用戶提交申請數量的前提下,找到更多有效的、可跟進的商務線索,因此產品和運營部門在討論之后,決定對試驗做出如下修改:為保證數據對比更清晰,決定結束現有試驗進程,通過克隆功能創建新的試驗,同時去掉電話版本,替換成試驗版本三,即電話+工作郵箱版本(用戶須填寫有效手機號和工作郵箱),原始版本、郵件版本保持不變。

 

第二階段試驗

 

這一階段運行了12天。我們發現,郵件版本的提交按鈕點擊率明顯占優,提交率比原始版本高出90%,但經運營審核后的有效轉化率卻最低。說明盡管準入信息縮減到一個后,用戶的提交意愿明顯上升,但由于增加了對公共郵箱的篩查,所以屏蔽了大量以個人名義的嘗試了解的非目標用戶,因此真正能夠轉化成有效線索的數量相對其他版本來說沒有明顯差異。

 

此外,考慮到郵件版本的跟進可控性較差,因此,產品和運營部門做了本次試驗的第二個調整:將郵件版本停止(試驗流量調為0%),原始版本和電話+郵件版本流量各分配50%的試驗流量。我們希望通過放大試驗流量,收取更多用戶數據,以便做出最終的優化決策。

 

第三階段試驗

 

隨著版本流量調整并即時生效,試驗各版本的單日流量明顯增多,在10天之后,產品運營部門終于得到了本次試驗的最終結果。

5

 

根據我們A/B測試平臺的數據統計,產品運營部門將相關測試數據和最終有效轉化數據匯總統計如下:

6

 

“郵箱+電話”版本的漏斗有效率提升了143%,有效銷售線索的比例也提高了75%。

 

試驗分析解讀

1)本次試驗只改變用戶進入申請浮窗后的信息內容,因此申請流程的最底端轉化(官網的“免費試用”點擊)與試驗結果無關;

2)在剔除內部測試數據后,電話+郵箱版本的提交轉化率略高于原始版本;

3)由于對工作郵箱的篩選條件,成功提交率方面原始版本表現較好,但最終經過運營聯系后的有效線索轉化,依舊是電話+郵箱版本勝出;

4)進一步篩選原始版本中提交工作郵箱的數據,發現整體表現介于原始版本和電話+郵箱版本之間;

5)另外,從運營的人工成本來看,電話+郵箱版本效率的更高。

 

綜上所述,電話+郵箱版本的綜合表現最佳,我們在 AppAdhoc 后臺將試驗版本全流量發布。試驗版本發布后,官網申請入口統一變成電話+工作郵箱的準入內容,產品和運營部門可通過工作郵箱用于過濾無效用戶,通過預留電話進行人工審核,更加便捷的獲取有效商務線索。

 

試驗經驗總結

  • 試驗流量會影響試驗周期,若分配流量過小(一般來說建議每個版本單日至少分配1000 UV),會導致試驗周期整體拉長,同時數據結果很難得到統計學顯著性;
  • 相關部門要實時關注試驗數據,及時調整各版本流量,保證試驗進度處于積極態勢;
  • 合理應用 AppAdhoc A/B Testing 的各項功能,在試驗運行正常的基礎上,保證不同版本增減后的環境一致性;
  • 此外,在解讀試驗數據時,應結合產品自身數據統計工具,綜合考量試驗中各版本的優化效果。

 

無實驗,不增長

sean

If you’re not running experiments, you’re probably not growing .(無實驗,不增長!)

增長黑客之父——Sean Ellis

 

增長黑客之父 Sean Ellis 在之前的一次線下分享中也說了:在保證產品價值的同時,需要為產品設定測試目標,并且需要盡可能多,影響力高的測試。測試非常重要,測試能夠驅動增長。因為如果我們不去測試的話就無法確定這個想法能否可行。所以我們要盡量的去多做測試,去確定什么是有用的,什么是沒有用的。

 

官網是獲取銷售線索的重要渠道,對企業服務和 SaaS 行業來說尤其如此。不管互聯網是否進入下半場,通過A/B測試這種科學方法的精細運營來挖掘現有流量的價值都是沒錯的。

 

本文作者:吳嘉瑋@吆喝科技?。

?

5256 Views
即刻實踐文章理論 A/B測試 灰度發布 產品優化 免費申請
Please wait...

訂閱我們

對于每位訂閱讀者,每兩周,吆喝科技會為您發送4篇精選文章,可能是最新的A/B測試實踐,也會是你所期待的增長干貨。
qq宠物捕鱼大师 体彩20选5开奖结果 今天的3d结果是机 沙滩排球游戏 一定牛彩票网官网足球彩票 时时彩开彩结果查询新浪爱彩 电子游艺国际注册 北京pk记录排期 白小姐中特马开奖结果 北京时时彩是不是官方彩票 五子棋先手必胜