10周入门数据分析丨抽样之前,先假设检验

56511-pln5f97vzal.png

讲完概率分布,再来讲讲统计学的最后一个知识点——假设检验。

假设检验是数理统计学中根据一定假设条件由样本推断总体的一种方法。事先对总体参数或分布形式作出某种假设,然后利用样本信息来判断原假设是否成立,采用逻辑上的反证法,依据统计上的小概率原理。

88376-x6mhwsf5vz.png

为了更好的解释,这里举个例子。

假设我有一袋豆子,袋子里有红豆,也有黑豆,我想知道红豆和黑豆是不是一样多。若是一个个去看怕是要疯了。于是偷个懒,从袋子里拿了一把豆子,看看这把红豆多还是黑豆多。用这把豆子作为样本,去推断这袋豆子。既然是用样本推断总体,就有抽样误差的可能性。不管袋子里红豆多还是黑豆多,这一把不一定能真实反映这袋豆子,那怎么办呢?这就要用到假设检验了。

说假设检验之前,先要知道小概率事件。统计大牛觉得如果一件事情发生的可能性小于0.05,就可以定义为小概率事件了,也就是说,在一次研究中该事件发生的可能性很小,如果只进行一次研究,可以视为不会发生。

回到豆子的话题。现在是想通过样本(一把豆子)去推断总体(一袋豆子)。先做一个假设,一般是我们心里特别不想承认的那一种可能,也称无效假设。和无效假设对立的是备择假设,是无效假设的对立面。

无效假设:袋子里红豆和黑豆是一样多的,如果观察到红豆黑豆不一样多完全是由抽样造成的。备择假设:袋子里红豆和黑豆的确不一样多。

假定袋子里有100个豆子,50个红豆,50个黑豆。拿的这把豆子有3个红豆,7个黑豆。在无效假设成立的前提下,也就是说红豆黑豆一样多的基础上,能拿到3个红豆、7个黑豆的概率为:

72264-5r4lvj2cimy.png

这告诉我们,在红豆和黑豆一样多的假设下,拿到3个红豆7个黑豆的可能性为0.11,是很常见的,说明所做的假设是可以成立的,还没有理由能拒绝无效假设。

假定袋子里有100个豆子,50个红豆,50个黑豆。拿的这把豆子有1个红豆,9个黑豆。

在无效假设成立的前提下,能拿到1个红豆、9个黑豆的概率为:

13883-xervnlqfpg.png

这告诉我们,在红豆和黑豆一样多的假设下,拿到1个红豆9个黑豆的可能性为0.007<0.05,为小概率事件,在一次研究中是不应该发生的,而现在发生了,可能是所做的假设有问题,有理由拒绝无效假设。

简言之,假设检验的核心思想是小概率反证法,在假设的前提下,估算某事件发生的可能性,如果该事件是小概率事件,在一次研究中本来是不可能发生的,现在发生了,这时候就可以推翻之前的假设,接受备择假设。如果该事件不是小概率事件,我们就找不到理由来推翻之前的假设,实际中可引申为接受所做的无效假设。

假设检验解决那些问题

互联网运营分析师与产品经理都很熟悉的方法:ABtest。适用方面:往往新版本或者新功能上线之前,需要验证新需求的是否有正收益,传统模式往往就是新版本发布,然后观察留存率、跳转率等核心指标,如果观察表现期内,流量正增长,那么则认可该版本,如果效果反馈不佳,则快速回滚旧版本。但在移动互联网时代,千人千面讲究用户差异化的时代,产品经理在面对海量用户流量,就可以实现ABtest,过程:抽样小规模流量,进行灰度测试,检验新需求是否有正收益,如果观察周期校验效果显著,则大规模上线测试迭代,直至全流量覆盖。

ABtest其本质核心就是假设检验,但是实际操作中,这里有几个关键:

1、如何设计抽样,尽量实现对照实验两边公平;

2、如何提高灵敏度,即效果收益稳定性,多组交叉验证流量平衡;

3、对照组设置,避免引入干扰因素;

4、收益评价指标,正收益、用户体验,当然我们T检验也要通过。

21064-ltghsnj5mrj.png

实际应用中,我们会发现产品经理的脑洞实在太大,需求太多,能否实现少设置测试流量批次?能否缩短收益评价周期?这里就牵涉到上面第一个问题:如何抽样?抽样才是ABtest关键,根本原则是希望控制对照组两边客群一样,尽量公平。抽样方法也很多:简单抽样、分层抽样、正交抽样等等。这里为何提到一个正交抽样呢?正交抽样满足一次测试,多组对照的抽样方法。关于细节,大家可以关注并评论,后面我给相应解答。

实际上用户增长运营是件很有挑战工作,单纯数据流量ABtest是用户体验辨别方法,如果从运营监控角度去分析,也需要从不同群组去分析客群增长模型,学会从业务中抓取核心关键公式或者模型,然后细化至各个维度,交叉对比,隐藏冰山下问题。

67849-xwbzsk1a9k8.png

假设检验实操

假设检验常用的方法有u—检验法、t检验法、χ2检验法(卡方检验)、F—检验法,秩和检验等。以t-假设检验举例。

某药厂研发了一种能够降低血压的新药,现在为了了解该药的疗效,随机抽取了15名高血压患者,并得到他么在使用该药治疗前后的舒张压数据,如下图所示,现在需要判断:该药是否有效?如果有效,是否能够让高血压患者的舒张压平均降低6.5mmHg?

24040-ffrtrs9bcgu.png

根据上面的数据,我们可以使用Excel中的假设检验方法来判断(以前我用手算过,好累呀,有了Excel等工具,很简单方便,省时省力)。分析工具中的假设检验方法有多种,使用不同的方法,观察值在检验前后的关系就不同,所以需要先选择合适的方案。

由于样本量较小,且样本值中的观察值存在治疗前后的配对关系,所以可先使用“t-检验:平均值的成对二样本分析”方法判断该药的有效性,我们首先假设该药无效(一般先否定,然后计算检验否定原假设(如果正确的话)),然后进行假设检验。

第1步:选择分析工具(Excel老朋友了)。“数据分析”——“分析工具”——“t-检验:平均值的成对二样本分析”,确定即可。如下图所示:

93477-rejyhri5vot.png

第2步:设置相关参数。在“t-检验:平均值的成对二样本分析”对话框中,设置“输入”组中“变量1的区域”为“$B$2:$B$17”,“变量2的区域”为“$C$2:$C$17”,选择“标志”复选框,设置“α”值为“0.05”,在“输出选项”下单击“输出区域”,设置为“$E$2”,最后确定。如下图所示:

76188-myoi72t3blq.png

第3步:设置假设平均差。重复上一步骤,其他参数不变,这次设置“假设平均差”为“6.5”,“输出区域”为“$I$2”。这一步,“假设平均差”为期望中的样本均值的差值,如果该值设为0,即假设样本均值相同。

38069-fra7gh4qq9.png

第4步:显示分析结果。做完之后,我们就可以看到t-检验的结果:H列左侧为第2步中检验该药是否有效的数据结果,H列右侧为第3步中检验该药是否能让舒张压降低6.5mmHg的检验结果。如下图所示:

25459-ei1ndadh8n5.png

上面的案例中,由于没有充分的理由判断该药治疗后的总体均数会大于或小于治疗前的舒张压均值,所以在检验过程中,前面的t-检验我们采用的是双侧检验。

从分析结果看到:H列左侧的检验结果中,tStat=4.211,P双尾=0.00087,t双尾临界=2.145,当t双尾临界时,假设成立,而这个案例中,检验结果tStat>t双尾临界,说明该结果拒绝原假设,也就是说该药有效,此外,我们还能看到P双尾=0.00087<α=0.05,这一比较结果也说明该结果拒绝原假设,同样说明该药有效。

由于已经确定该药有效,那么再判断该药能否将舒张压平均值降低6.5mmHg,所以,后面的t-检验采用的是单侧检验,这里我们设置了假设平均差,上图中红框内,检验结果tStat=0.205<t单尾临界=1.761,说明该假设成立,即该药能够让高血压患者的舒张压平均降低6.5mmhg。结果p单尾=0.42>α=0.05也说明了该假设成立。</t单尾临界=1.761,说明该假设成立,即该药能够让高血压患者的舒张压平均降低6.5mmhg。结果p单尾=0.42>

今天学习一下Excel中如何进行t-检验,数据分析更进一步。

到这里统计学部分就讲完了。下一篇分享BI分析。

专题文章

10周入门数据分析丨学习计划及大纲

> “我是文科生出身,可以学习数据分析吗?” > “我没有编程基础,可以成为数据分析师吗?” > “学习数据分析必须学习R和Python吗?” > …… 其实,数据分析没有想象中那么难,入....


10周入门数据分析丨如何炼就数据分析的思维?

面对数据异常,我们经常会出现“好像是A原因引起的?”“貌似和B原因也相关?”“有可能是C操作不当”的主观臆测。 或者,拿到一个分析议题,分析“11月销售数据下降的原因”,是先从产品层面,还是渠道层面....


10周入门数据分析丨数据分析惯用的5种思维方法

![十周入门数据分析.jpg][1] 在数据分析中,数据分析思维是框架式的指引,实际分析问题时还是需要很多“技巧工具”的。就好比中学里你要解一元二次方式,可以用公式法、配方法、直接开平方法、因式....


10周入门数据分析丨数据分析必备的43个Excel函数

Excel是我们工作中经常使用的一种工具,对于数据分析来说,这也是处理数据最基础的工具。很多传统行业的数据分析师甚至只要掌握Excel和SQL即可。 ![十周入门数据分析.jpg][1] ....


10周入门数据分析丨实操:如何用Excel做一次数据分析

前一篇分享了《[Excel数据分析必掌握的43个公式][1]》,今天这篇讲实操,教大家用Excel做一次简单的分析。一是让大家了解数据分析是一个怎样的流程;其次熟练Excel的操作(学的知识要用起来)....


10周入门数据分析丨写给新人的数据库入门指南

经常有刚从事数据分析的职场萌新,问我做数据分析工作要学些什么,应该怎样规划学习路径。我会告诉他:如果你Excel还用的不溜的话,就先学学Excel,当你用Excel处理和分析一些小数据集没有问题的时候....


10周入门数据分析丨零基础快速自学SQL,2天足矣

SQL全称是 Structured Query Language,翻译后就是结构化查询语言,是一种数据库查询和程序设计语言,用于存取数据以及查询、更新和管理关系数据库系统。 ![十周入门数据分析....


10周入门数据分析丨数据分析必掌握的统计学知识

统计学是数据分析的基石。学了统计学,你会发现很多时候的分析并不靠谱。比如很多人都喜欢用平均数去分析一个事物的结果,但是这往往是粗糙的,不准确的。如果学了统计学,那么我们就能以更多更科学的角度看待数据。....


10周入门数据分析丨不可不知的描述性统计

统计学需要掌握的知识,在数据分析过程中,广泛用于数据质量处理,分析模型构建以及数据挖掘。今天这篇文章将详细讲统计学中最基础的描述统计。 [10周入门数据分析][1] 试想,当你拿到一份数据....


10周入门数据分析丨概率分布,先懂这6个

![40207-7xao1g1bi2n.png](http://www.zuopm.com/usr/uploads/2021/01/3266240098.png) 本文重点介绍分析中常用的六个重....


10周入门数据分析丨抽样之前,先假设检验

![56511-pln5f97vzal.png](http://www.zuopm.com/usr/uploads/2021/01/114909069.png) 讲完概率分布,再来讲讲统计学的最....


数据分析工具怎么选?10大谏言!

![29693-ultog3emby.png](http://www.zuopm.com/usr/uploads/2021/01/463818655.png) 数据分析有三大问: 1. ....

本文经授权后发布,本文观点不代表立场
-- 展开阅读全文 --
10周入门数据分析丨概率分布,先懂这6个
« 上一篇 01-08
数据分析工具怎么选?10大谏言!
下一篇 » 01-09

发表评论

作者信息

热门文章

标签TAG

热评文章