【DTalk专访】王晔:谷歌数据如何用于决策?

王晔,DTalk联合创办人。

清华大学本科,耶鲁大学博士,曾在Google总部广告质量部门负责产品优化。计算机系统优化领域的专家,发表过多篇顶级论文,拥有多项国际专利。在大数据技术与理论上有丰富的经验,特别专注于A/B测试的技术和实践。

今天,我们就邀请王晔先生聊一聊数据在决策和分析方面的看法。

问题1、您是计算机系统优化的专家,然后特别是在AB测试这方面,想了解一下您为什么现在致力于AB测试这方面的研究,以及这方面您自己的看法。

A/B测试是现代科学方法特别是西医的基础,可以用于企业的科学决策,保证业务的确定性持续性的增长。A/B测试已经逐渐替代传统的“拍脑袋”决策方法,在广告营销,金融,消费,媒体资讯,互联网等各行业都有广泛的应用,实现了稳定增长的科学决策。随着A/B测试试验系统的普及,在未来会是广大企业的必备工具。因此A/B测试的研究会有深远的影响力。

实际上一些很有名的例子,一些很有名的增长公司都是这么做的,比如说 Aribnb,他们所有的页面修改和流程上的调优,都会通过灰度发布到1%,或者5%的用户,去看访问时间,去看留存,去看下单,只有好的它才会上线,坏的它就会砍掉。

Google 每个月都会做几百个测试,其实有一些给 Google 带来了很多的营收增长,也有很多是很失败的项目。Google 在几百个里面,可能最后有10几个成功了,这些产品经理他们可能很骄傲,自己的产品能够给全世界所有的用户用,还为公司带来了2%营收的增长,仅仅通过 AB 测试的方式 Google 就可以达到华尔街的要求。

有一些东西真的只有测试过才知道,就是产品经理、运营人员、技术人员,没有办法理解的,比如说 Google 的广告位,如果你左移一个像素你就会赚钱,左移两个像素你就会亏钱,没有任何人知道为什么,但是 AB 测试可以告诉你。所有的改动都需要提前经过测试之后才可以上线。Facebook 更是这样,他们的移动端尤其如此,会把所有的新功能都集成到代码里面去,然后再把未来6个月要做的试验都集成进去,不断地去测。除了 Facebook 的产品得到提升之外,它还得到一个特别好的口碑叫没有 bug,可以想象 Facebook 几十亿的下载,它没有 bug 是多么的可怕。国内的百度搜索、大众点评、知乎这些网站,他们也都会做自己的 AB 测试,当然他们做的也都很好。

希望大家如果在实战当中要用到 AB 测试,可以看微软的科学家Ronny Kohavi 总结的八条经验,非常非常黑客的经验

经验一. 效果惊人,某些很微小的改动,就可能造成对你 KPI 巨大的影响。

经验二. 大多数改动都不会大幅度提升 KPI,所以你需要耐心。

经验三. Twyman 法则,凡是看上去很出人意料的图表,通常都是因为数据统计错了。

经验四. 各个产品几乎都不一样,你复制他人的经验,往往都没有什么效果。

经验五. 任何能加速用户响应时间的改动,都会带来 KPI 的正向提升。

经验六. 点击率是很容易提高的,但是流失率是很难改进的,千万不要把精力放在优化某个页面点击率上。(其实要提高点击率非常简单,你只要在这个页面上加一个大美女就可以了,但是它并不能带来你真正实际上的增长。)

经验七. 尽量不要做很复杂的大量改动的实验,而是要做很简单的小的迭代。

经验八. 几千上万的用户才容易展开高效的 AB 测试。

其实有人就会问了,为什么 Facebook 要做那么大的试验,这就是最糟糕的一种策略,花了很多代价,实际上什么都没有学到,这个就需要我们在工作理念上,首先就能够认识到这一点,才能避免这样的错误。

用户数量是基础,在我的经验看来,你起码得有几千上万的用户,你才可以去做一些 AB 测试,当然你的用户数量越大,那个测试对你就越重要。

问题2、公司进行A/B测试,如何设置收集埋点针对不同平台的数据呢,特别是PC端与移动端,如何能比较数据效果,如何能识别是同一批用户,因为移动端是以访问次数来计算。

A/B测试这样的试验方法,并不一定要精确区分和识别具体用户,重要的是被帅选进对照组和实验组的样本能够具有代表性和可比性,试验结果可信。当然,一般试验的样本单位是用户/设备,这个可以通过cookie或者设备id来区分。

问题3、近几年来,Tableau,PowerBI,网易有数 这些产品的发展,可以看到BI朝着越来越敏捷的方向去发展。在未来,这些工具,是不是能够让用户花更少的时间在数据分析的实现上(比如 代码的实现,侧重于技术层面)?对于用户而言,更重要的,是数据分析,数据解读的能力(也就是思维层面的,非技术层面的)?

是的,好的BI软件将大幅度提高工作效率,不用浪费时间在统计,计算,出图表上,而可以专注于利用数据来指导业务决策,根据数据和图表找问题,想解决方案。做个类比,现在的财务更要会用excel做分析,而不是只是做balance sheet。这是好office软件excel带来的影响。BI软件也能给数据分析师类似的影响。

问题4、作为一个数据产品经理来说,您觉得如果给他三个能力标签,会是哪三个呢?

数据产品经理的三大能力,业务洞察力,数学功底,试验精神。

人依然是我们互联网技术产品里面最重要的角色,所有的成功案例都是靠人,靠产品经理、靠运营、靠技术、靠市场、靠销售,他们去想出来这些 idea,大量的 idea 通过数据去验证,最后好的 idea 闪光了,成功了,成为我们很多增长黑客的案例。

干货专访和文章

【DTalk精华】网易郑栋:前端数据采集与分析的那些事第一弹: 从数据埋点到AB测试

【DTalk精华】滴滴出行谯洪敏:前端数据采集与分析的那些事第二弹:企业如何选择自动埋点和可视化埋点

【DTalk精华】滴滴出行谯洪敏:前端数据采集与分析的那些事第三弹:埋点需求整理原则于埋点流程规范

【DTalk专访】滴滴谯洪敏:百家争鸣的前端技术时代

【DTalk思考】顾青:互联网团队的数据驱动能力从哪里来?

【DTalk专访】彭圣才:AI超越人类大脑,是一场「別有用心者」的骗局吗?

【DTalk专访】翁嘉颀:AI行业现阶段最需要什么样的人才?

【DTalk专访】赵华:携程怎么把机器学习与实际业务相结合?

【DTalk专访】网易郑栋:BI、可视化数据产品和大数据的几个核心问题

【DTalk回顾】美团点评沈国阳:我们在谈用户画像的时候到底在谈什么?

【DTalk专访】王晔:谷歌数据如何用于决策?