三、随机变量

原文：prob140/textbook/notebooks/ch03

译者：飞龙

协议：CC BY-NC-SA 4.0

自豪地采用谷歌翻译

许多数据科学涉及数值变量，它的观察值取决于几率。其他值提供的变量的预测值，随机样本中观察到的不同类别个体的数量，以及自举样本的中值，仅仅是几个例子。 你在 Data8 中看到了更多例子。

在概率论中，随机变量是在结果空间上定义的数值函数。 也就是说，函数的定义域是Ω，它的值域是实数行。 随机变量通常用靠后的字母表示，如X和Y。

结果空间上的函数

随机抽样可以看做重复的随机试验，因此许多结果空间由序列组成。代表硬币投掷两次的结果空间是：

\Omega = { \text{HH, HT, TH, TT} }

如果你投掷 10 次，结果空间将包含 10 个元素的 210 个序列，其中每个元素是H或T。手动列出结果比较痛苦，但计算机善于为我们避免这种痛苦。

乘积空间

两个集合A和B的乘积是所有偶对(a, b)的集合，其中a ∈ A和b ∈ B。 这个概念正是我们需要的，用于描述代表多个试验的空间。

例如，表示一枚硬币投掷结果的空间是

Ω1 = {H，T}

Ω1

Ω1

Python 模块itertools包含构造乘积空间的函数product。 让我们导入它。

from itertools import product

要了解product是如何工作的，我们将从投掷硬币的结果开始。我们正在使用make_array创建一个数组，但你可以使用任何其他方式创建数组或列表。

one_toss = make_array('H', 'T')

为了使用product，我们必须指定基本空间和重复次数，然后将结果转换为列表。

two_tosses = list(product(one_toss, repeat=2))
two_tosses

# [('H', 'H'), ('H', 'T'), ('T', 'H'), ('T', 'T')]

对于三次投掷，只需改变重复次数：

three_tosses = list(product(one_toss, repeat=3))
three_tosses
'''
[('H', 'H', 'H'),
 ('H', 'H', 'T'),
 ('H', 'T', 'H'),
 ('H', 'T', 'T'),
 ('T', 'H', 'H'),
 ('T', 'H', 'T'),
 ('T', 'T', 'H'),
 ('T', 'T', 'T')]
'''

概率空间是结果空间，带有所有结果的概率。 如果假设三次投掷的八次结果是等可能的，则概率均为 1/8：

three_toss_probs = (1/8)*np.ones(8)

相应的概率空间：

three_toss_space = Table().with_columns(
    'omega', three_tosses,
    'P(omega)', three_toss_probs
)
three_toss_space

乘积空间增长得非常快。 如果你投掷 5 次，将会有近 8000 种可能的结果：

6**5
# 7776

但是我们有product，所以我们仍然可以列出所有乘积！ 这是一个表示 5 次骰子投掷的概率空间。

die = np.arange(1, 7, 1)

five_rolls = list(product(die, repeat=5))  # All possible results of 5 rolls

five_roll_probs = (1/6**5)**np.ones(6**5)  # Each result has chance 1/6**5

five_roll_space = Table().with_columns(
   'omega', five_rolls,
    'P(omega)', five_roll_probs
)

five_roll_space

... (7766 rows omitted)

结果空间上的函数

假设你投掷一个骰子五次，并将你看到的点数加起来。如果这看起来不清楚，请耐心等待一会儿，你很快就会明白为什么它很有趣。

点数的总和是五个点数的结果空间Ω上的数值函数。 总和是一个随机变量。我们称它为S。然后，在形式上，

S: \Omega \rightarrow { 5, 6, \ldots, 30 }

S的范围是 5 到 30 的整数，因为每个骰子至少有一个点，最多六个点。 我们也可以使用相同的符号：

\Omega \stackrel{S}{\rightarrow} { 5, 6, \ldots, 30 }

从计算的角度来看，Ω的元素位于five_roll_space的omega列中。让我们应用这个函数并创建一个更大的表格。

five_rolls_sum = Table().with_columns(
    'omega', five_rolls,
    'S(omega)', five_roll_space.apply(sum, 'omega'),
    'P(omega)', five_roll_probs
)
five_rolls_sum

... (7766 rows omitted)

我们现在有五次投掷的所有可能的结果，以及它的总点数。你可以看到表格的第一行显示了尽可能少的点数，对应于所有投掷都显示 1 点。 第 7776 行显示了最大的：

five_rolls_sum.take(7775)

S的所有其他值都在这两个极端之间。

随机变量的函数

随机变量是Ω上的数值函数。 因此，通过复合，随机变量的数值函数也是随机变量。

S^2

是一个随机变量，计算如下：

S^2(\omega) = \big{(} S(\omega)\big{)}^2

S^2(\text{[6 6 6 6 6]}) = 30^2 = 900

。

由S确定的事件

从表five_rolls_sum中，很难判断有多少行显示 6 或 10 或其他任何值。 为了更好地理解S的属性，我们必须组织five_rolls_sum中的信息。

对于S中的任何子集A，定义事件{S∈A}为：

{S \in A } = {\omega: S(\omega) \in A }

在特殊情况下尝试这个定义。令A = {5,30}。 然后{S∈A}，当且仅当所有点数都是 1 点或 6 点。 所以：

{S \in A} = {\text{[1 1 1 1 1], [6 6 6 6 6]}}

询问总和是否为某个特定值的几率是很自然的，例如 10。读取表格并不容易，但我们可以访问相应的行：

five_rolls_sum.where('S(omega)', are.equal_to(10))

... (116 rows omitted)

S(ω)=10的ω有 126 个值。由于所有的ω都相同，因此S的值为 10 的几率是 126/7776。

非正式情况下，我们通常会用符号表示，写成{S = 10}而不是{S∈{10}}。

分布

我们的空间是骰子的五次投掷的结果，而我们的随机变量S是五次投掷的点数总数。

five_rolls_sum

... (7766 rows omitted)

在最后一节中，我们找到了P(S = 10)。我们可以使用相同的过程，为每个可能的s值查找P(S = s)。group方法允许我们在同一时间为所有s这样做。

为此，我们首先丢掉omega列。 然后，我们将按S(omega)的不同值对表格进行分组，并使用sum来将每组中的所有概率相加。

dist_S = five_rolls_sum.drop('omega').group('S(omega)', sum)
dist_S

... (16 rows omitted)

该表格显示了所有可能的S值及其所有概率。它被称为S的概率分布表。

表中的内容 - 随机变量的所有可能值及其所有概率 - 称为S的概率分布，或者简称为S的分布。该分布显示了 100% 的总概率如何分布在S的所有可能值上。

让我们来检查一下，以确保结果空间中的所有ω都已经在概率一列中得到了解释。

dist_S.column(1).sum()

# 0.99999999999999911

它在计算环境中是 1。这是任何概率分布的一个特征：

分布的概率是非负的，总和为 1。

展示分布

在 Data8 中，你使用datascience库来处理数据分布。prob140库建立在它上面，为处理概率分布和事件提供了一些便利的工具。

首先，我们将构造一个概率分布对象，虽然它看起来非常像上面的表格，但它的第二列中预计会有概率分布，并且如果它发现了其他任何东西，就会报错。

为了使代码易于阅读，让我们以数组的形式分别提取可能的值和概率：

s = dist_S.column(0)
p_s = dist_S.column(1)

要将这些转换为概率分布对象，请从空表开始，然后使用表的values和probability方法。values的参数是可能值的列表或数组，而probability的参数是相应概率的列表或数组。

dist_S = Table().values(s).probability(p_s)
dist_S

... (16 rows omitted)

除了列标签更具可读性之外，这看起来与我们之前的表完全相同。但是这是好处：在直方图中展示分布，只需使用prob140的Plot方法，如下。

Plot(dist_S)

image

Plot的注解

• 回想一下，datascience库中的hist显示原始数据的直方图，包含在表格的列中。prob140库中的Plot显示概率直方图，基于概率分布作为输入。

• Plot仅适用于概率分布对象，使用values和probability方法创建的。 它不适用于Table类的普通成员。

• Plot适用于具有整数值的随机变量。 你将在接下来的几章中遇到的许多随机变量是整数值。 为了展示其他随机变量的分布，分箱决策更加复杂。

S的分布的注解

在这里，五次投掷的点数总和的分布曲线出现了钟形。 注意这个直方图和你在 Data 8 中看到的钟形分布之间的差异。

这个显示确切的分布。它是根据实验的所有可能结果进行计算的。这不是一个近似值也不是一个经验直方图。

Data8 中的中心极限定理的表述表明，大型随机样本总和的分布大致是正态的。但是在这里你看到的只是五次投掷的总和呈现钟形分布。如果你从均匀的分布开始（这是单次投掷的分布），那么在总和的概率分布变成正态之前，你不需要大型样本。

展示事件的概率

从 Data8 中可知，钟形曲线拐点之间的区间约占曲线面积的 68%。 虽然上面的直方图并不完全是一个钟形曲线 - 它是一个只有 26 个条形的离散直方图 - 但它非常接近。 拐点似乎大约是 14 和 21。

Plot的event参数可让你可视化事件的概率，如下所示。

Plot(dist_S, event = np.arange(14, 22, 1))

image

金色区域是P(14 <= S <= 21)。

prob_event方法操作概率分布对象，来返回事件的概率。为了找到P(14 <= S <= 21)，请按如下所示使用它。

dist_S.prob_event(np.arange(14, 22, 1))

# 0.6959876543209863

几率是 69.6%，离 68% 并不远。

数学和代码的对应

P(14 <= S <= 21)可以通过将事件划分为 14 到 21 范围内的事件{S = s}的并集，然后使用加法规则来找到。

P(14 \le S \le 21) = \sum_{s = 14}^{21} P(S = s)

请小心使用小写字母s作为通用可能值，与大写字母S作为随机变量相对应；不这样做会使公式含义非常混乱。

这意味着：

首先为 14 到 21 范围内的每个s值抽取事件{S = s}：

event_table = dist_S.where(0, are.between(14, 22))
event_table

然后将所有这些事件的概率相加。

event_table.column('Probability').sum()

# 0.6959876543209863

prob_event方法一步完成所有这些。 在这里再次进行比较。

dist_S.prob_event(np.arange(14, 22, 1))

# 0.6959876543209863

你可以通过各种方式，使用相同的基本方法来查找由S确定的任何事件的概率。这里有两个例子。

P(S^2 = 400) = P(S = 20) = 8.37%

P(S > 20) = \sum_{s=20}^{30} P(S = s)

一个查找数值的简便方法：

dist_S.prob_event(np.arange(20, 31, 1))
# 0.30516975308642047

P(\big{\vert} S - 10 \big{|} \le 6) ~ = ~ P(4 \le S \le 16) ~ = ~ \sum_{s=4}^{16} P(S=s)

dist_S.prob_event(np.arange(4, 17, 1))
# 0.39969135802469169

相等性

我们知道两个数字相等意味着什么。 然而，随机变量的相等可能不止一种。

相同

如果相同结果空间上定义的两个随机变量X和Y的值，对于空间中的每个结果都是相同的，那么它们是相同的。符号X = Y意味着

X(\omega) = Y(\omega) \text{ for all } \omega \in \Omega

N_H

N_T

N_H

3 - N_T

N_H

3 - N_T

N_H = 3 - N_T

。

同分布

N_H

N_T

N_H(\text{TTT}) = 0 ~~~ \text{but} ~~~ N_T(\text{TTT}) = 3

然而，有一种感觉是，正面数量与背面数量“以相同的方式出现”。两个随机变量具有相同的概率分布。

结果空间是three_tosses：

coin = make_array('H', 'T')
three_tosses = list(product(coin, repeat=3))
three_tosses
'''
[('H', 'H', 'H'),
 ('H', 'H', 'T'),
 ('H', 'T', 'H'),
 ('H', 'T', 'T'),
 ('T', 'H', 'H'),
 ('T', 'H', 'T'),
 ('T', 'T', 'H'),
 ('T', 'T', 'T')]
'''

N_H

N_T

dist = Table().values(np.arange(4)).probability(make_array(1, 3, 3, 1)/8)
dist

N_H

N_T

X \stackrel{d}{=} Y

。

相等性之间的关系

相同比同分布更强。如果两个随机变量在结果层面上相同，那么它们必须具有相同的分布，因为它们在结果空间上是相同的函数。

也就是说，对于任意两个随机变量X和Y，

X = Y \implies X \stackrel{d}{=} Y

但三次投掷的正面和反面的例子表明，反面不一定是正确的。

示例：来自小牌组的两张牌

一个牌组包含 10 张牌，分别标记为1,2,2,3,3,3,4,4,4,4。两张牌是不放回随机发放的。让

X_1

X_2

X_1

X_2

X_1 = 3

X_2 = 1

X_1

X_2

X_1

P(X_1 = i ) = \frac{i}{10} , ~~ i = 1, 2, 3, 4

def prob1(i):
    return i/10

然后，你可以像之前一样，使用value创建一个概率分布对象，但现在使用probability_function，它将函数的名称作为其参数：

possible_i = np.arange(1, 5, 1)
dist_X1 = Table().values(possible_i).probability_function(prob1)
dist_X1

相信下面的函数prob2会为每个i返回P(X_2 = i)。事件已根据

X_1

dist_X2 = Table().values(possible_i).probability_function(prob2)
dist_X2

X_1 \stackrel{d}{=} X_2

。