初探:A/B Test

「A/B 测试」简单的说就是某个元素的两个(或多个)版本摆在面前,通过测试确定并应用更好的版本。因小巧有效低成本,是一种经常被提起和使用的方法论。其中的套路再简单不过,但初次实践还是要多加注意,避免踩坑,影响数据可靠性从而误导决策。

各种产品都通过测试来提升产品转化率,降低流失率:电商类网站希望提升用户购买率;SaaS 类产品希望更多用户去注册免费试用,并转化为付费用户;新闻和信息类产品则期待更多用户去点击广告,或是选择付费订阅。

进行A/B 测试

已上线并有很大用户量的产品,适合做A/B 测试,而对于初创公司或产品,则不太适合。A/B 测试整个过程可分为以下四步。

建立单个假设

对需要进行测试的变量按优先级排序,逐个测试。常用的测试变量包括按钮(位置、文字、颜色)、标题、文段、链接、表单(长短、文字描述)、版面设置(页面排布、位置)、促销方案(文案、商品搭配、产品定价)、图片(内容、位置)等。

在同一次测试过程中,可设置多个对照组,但必须控制单一变量。考虑到投入产出比,很少为极微小的变化进行A/B 测试,比如某个按钮的大小变化,或是某个动效的时长。

设定目标

通过可量化的数值来验证是否达成效果,目标主要分为两类:

  • 提升X:转化率、页面浏览率、停留时间、点击率、分享次数等
  • 降低Y:跳出率、流失率等

例:某淘宝店铺商品详情页,目标为将购买点击率从5%提升至10%.

测试和数据收集

工具方面自己使用过GA,毕竟开源免费。此外更专业省事的A/B 测试付费工具也有一些,比如 Optimizely吆喝科技.

在测试阶段内,对于同一用户ID,每次进入访问的应该是相同内容。一般测试上线后等待两到三周,可结束测试;网站流量越小,则需要越多的时间。

样本量

当目标设定的变化百分比(转化率)越大,原转化率越小,所需的测试周期越短,样本量也越少。具体计算公式:

检验假设

若结果得出明显差异的更优方案,可以在上线更优版本之后继续测试新变量。若测试结果各组之间并无明显统计学差异,则需提出另外的假设来进行测试。

举例

How Netflix does A/B Testing
Experiments at Airbnb
A/B Testing at Booking.com

更多参考

《用户体验度量:量化用户体验的统计学方法》


这是篇原该写于半年前的小结,虽然迟到太多,但也让自己再次回顾了第一次做A/B 测试的全过程,坑太多,同时也需要大量的理论知识和实践相结合,还有太多的东西来不及了解,向做用研的同学表示佩服。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 157,924评论 4 360
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 66,902评论 1 290
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 107,716评论 0 239
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 43,783评论 0 203
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,166评论 3 286
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,510评论 1 216
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,784评论 2 311
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,476评论 0 196
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,196评论 1 241
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,459评论 2 243
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 31,978评论 1 258
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,321评论 2 252
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 32,964评论 3 235
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,046评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,803评论 0 193
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,530评论 2 271
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,420评论 2 265

推荐阅读更多精彩内容