跳转到正文

Session 2: Sampling in Statistics ​

  • 所属系列:统计基础 · 2021 系列
  • 视频:YouTube · 时长 24:14 · 字幕
  • 内容判断:概念笔记与算例|画面依赖低:讲义全是文字,已看过|总体与样本、抽样方法、偏差、噪音、独立同分布、大数定律和中心极限定理
  • 处理方式与范围:全片梳理,附测验重算和对定理表述的补充
  • 讲义 / 资料:Session 2 讲义(10 页)· 课后测验 · 答案
  • 素材依据:英文字幕,仓库存档,663 行;字幕类型未核实
  • 核对范围:已读全片字幕 00:02–24:10,讲义全部 10 页,课后测验和答案;已重算抛硬币和民调的标准误、切比雪夫界和测验第 4 题;视频画面未核对
  • 发布日期:2021-08-24
  • 数据截至:不依赖数据
  • 状态:已提炼

抽样几乎是统计的默认状态,因为总体太大、太贵或太慢。抽样有两宗罪:偏差和噪音。噪音随样本变大而减小,偏差不会,这是这一讲最重要的区别。Damodaran 接着讲独立同分布、大数定律和中心极限定理,并提醒股票回报很难满足这些假设。

视频总结 ​

时间戳取自 YouTube 英文字幕,标题中的时间区间可点击跳转;讲义页码指 PDF 页码。

00:18–02:47 总体和样本 ​

总体是你想研究的全部,样本是你真正拿到数据的那部分。

研究企业如何应对危机时,总体是世界上所有企业。他在疫情期间看了 46,000 家上市公司,这是很大的样本,但仍然只是样本(00:53)。

样本有两种。时间序列(Time Series):美国股票数据可追溯到 1871 年,只用 1960–2020 年的数据就是抽样(01:30)。横截面(Cross Section):约 9,000 家美国上市公司里,只看市值超过 1,000 万美元的(02:11)。

02:47–04:57 为什么要抽样 ​

抽样是常态,因为总体可能够不着,也可能太贵或太慢。

三个原因:不现实,有时根本够不着总体(02:53);成本太高(03:53);时间来不及,民调不能花三个月,所以用 800 到 2,000 人外推(04:17)。

04:57–07:09 抽样方法 ​

概率抽样靠随机,非概率抽样靠研究者的标准,标普 500 属于后者。

从 9,000 家里随机抽 500 家是概率抽样。挑市值最大的 500 家是非概率抽样,这就是标普 500(05:16)。

方法做法他的例子问题
简单随机从全体随机抽9,000 家抽 500 家可能抽到太多公用事业(05:47)
分层随机先分组,每组内随机抽分 100 个行业,每个抽 5 家覆盖所有行业,但见下文测验第 2 题
整群随机随机选组,组内全要按首字母分 26 组,选 5 组全要金融里很少用(06:14)

07:09–12:21 偏差的四个来源 ​

偏差很难避免,它会在你以为自己很小心时溜进来。

来源机制例子
排除一部分总体根本不在抽样框里用电话簿抽样,没电话的人被排除(07:47)
自选择一部分总体更容易进入样本诊所检测 1,000 人 250 人阳性,不能推出全市 25%,来的人本来就更不舒服(08:38)
不响应一部分人不回应2020 年民调里,支持某位候选人的人拒绝作答(09:34)
幸存者失败者离开了样本用现存对冲基金回溯,会漏掉那 25–30% 没撑下来的(10:50)

对冲基金这个例子要反过来做:从 2010 年的全部基金出发往后看,把失败者也算上(12:03)。

12:21–14:04 发现偏差后怎么办 ​

不知道偏差最危险,知道了就修正,修不了就把结论说窄。

第 6 页的三种情形:不知道或者装作不知道,这最危险(12:26);知道就修正,2020 年部分民调已经这样做(12:50);修正不了就收窄结论,标普 500 的股息减少了,只能说最大的美国公司如此,不能说所有美国公司(13:12)。

14:04–16:04 噪音 ​

噪音不是你的错,它是抽样本身的代价,能做的是加大样本并如实报告。

无偏硬币抛 100 次,也很少正好 50 比 50(14:47)。样本变大,结果向真相收敛,标准误下降(15:24)。正确做法是报告结论时也报告误差和区间(15:46)。

16:04–21:11 独立同分布和大数定律 ​

大数定律是样本能代表总体的理由,但股票回报很可能既不独立,也不同分布。

独立(Independent):一个事件是否发生,和其他事件无关。硬币满足,年度股票回报是否满足则要检验(16:40)。同分布(Identically Distributed):每次观察来自同一分布。1928 年的回报反映当时的经济和上市公司,假定它和 2020 年同分布太勉强了(18:24)。金融研究常这样假设,因为可以省事,并得出强结论(18:57)。

大数定律(Law of Large Numbers):样本越大,样本均值越接近总体均值(19:26)。第 9 页列了两个例外,不满足独立同分布,或者分布有肥尾(20:07)。他还说金融依赖的其实是“弱大数定律”:即使不独立同分布,只要方差有限,收敛仍会发生,只是更慢(20:24)。这个说法要小心,见“复算与实操”。

21:11–24:10 中心极限定理和切比雪夫不等式 ​

即使总体不正态,样本均值也近似正态;再不济,切比雪夫也给出一个下限。

中心极限定理(Central Limit Theorem)让我们能对样本均值使用正态分布的性质(21:24)。切比雪夫不等式(Chebyshev's Inequality)更宽松,不假设分布形状(22:20)。第 10 页把两者放在一起:

区间正态分布切比雪夫下限
±1 个标准差约 2/3无约束
±2 个标准差约 95%75%
±3 个标准差约 99.7%88.89%

正态列的 ±3 个标准差是我补的,讲义没有。

提炼 ​

概念与公式 ​

偏差和噪音的区别:

偏差噪音
来源样本和总体不一样样本有限
加大样本没有帮助减小
对策修正或收窄结论加大样本,报告误差
标准误=σn,P(|X−μ|<kσ)≥1−1k2

方法与判断依据 ​

  • 看到任何研究,先问样本是怎样形成的。
  • 回测和基金业绩首先要查幸存者偏差。
  • 结论的范围不能超过样本的范围。
  • 分层抽样要按比例分配,否则小组会被放大。

复算与实操 ​

抛硬币的噪音,95% 区间按 ±1.96 个标准误:

次数标准误95% 区间
1005.00%±9.80%
1,0001.58%±3.10%
10,0000.50%±0.98%
100,0000.16%±0.31%

样本每扩大 100 倍,误差只缩小 10 倍。100 次里正好 50 次的概率约 8.0%,落在 45–55 次的概率约 72.9%。

同样的算式解释了民调的样本量:800 人约 ±3.5%,1,000 人约 ±3.1%,2,000 人约 ±2.2%。这是把比例取 50% 的最大值,并假设样本无偏。

测验第 2 题:选项都有偏差。最大或最活跃的公司有选择偏差,要求十年数据会偏向老公司,每个行业抽十家则放大小行业。这和口述中每个行业抽五家的例子是同一个问题。

测验第 4 题:题目给标准差 25%,n = 25,标准误 5%,95% 区间约 12% ± 10%,即 2% 到 22%(用 1.96 是 2.2% 到 21.8%)。答案用了 30%,得到 0% 到 24%,见“疑问与待核实”。

讲义对定理的表述比较松,以下是我按标准教科书的说法做的补充:

  • 中心极限定理是极限结论,要 n 足够大,且方差有限。样本小或者尾部很肥时,样本均值不一定接近正态。
  • 大数定律的强弱,标准定义指收敛方式的不同(依概率收敛和几乎必然收敛),不是能否放弃独立同分布。放宽独立性需要额外条件,强相关的序列不会自动收敛。

自测与复习 ​

  • 测验第 3 题:1,000 位大型共同基金经理的问卷收回 100 份,有两层偏差。抽样框排除了养老金和捐赠基金的经理,回应的人又可能观点更强烈。
  • 测验第 5 题:大数定律要求独立且同分布,不要求正态。
  • 为什么样本再大也修不了幸存者偏差?

关联 ​

疑问与待核实 ​

  • 测验第 4 题:题目的标准差是 25%,答案用 30%,算出 ±12%。按题目应为 ±10%。
  • 测验第 2 题:答案写“d. None of the above”,题目里 d 是分行业抽样,“None of the above”是 e。
  • 22:40 用样本均值的标准误 0.4 英寸说明个体身高的分布,这混淆了标准误和标准差。切比雪夫说的是标准差。100 人的标准误 0.4 英寸对应标准差约 4 英寸。
  • 03:40 说美国人口普查基于抽样。印象中分配议席的十年普查是实际点数,抽样用于其他调查。这是我的记忆,待查。
  • 21:02 和第 9 页对弱大数定律的说法,和我知道的标准定义不同,见“复算与实操”。
  • 20:18 说肥尾时大数定律可能失效,讲义也是。严格说,均值存在时大数定律仍成立,只是收敛很慢;均值不存在才失效。
  • 第 2 页是 1960–2021 年,口述是 1960–2020 年,不影响结论。