实验与样本

我们称呼一个过程,结果无法提前预测,为一个实验 experiment
我们称呼一个样本空间 sample space, 写作 SS 为一个实验的结果的集合

例子

我们将一枚硬币投掷两次,正面朝上 Head 与 背面朝上 Tail 的样本空间:

S={HH,HT,TH,TT}S = \{HH,HT,TH,TT\}

那么对于 head 数量的样本空间写作:

S={0,1,2}S= \{0,1,2\}

事件分类

一般事件 simple event

只发生一次的事情

复合事件 compound event

发生多次的事件

零事件 null event

发生次数为 0 的事件

样板空间运算符号

补集 complement

写作 AcA^c 表示的是 总空间 SS 中不在 AA 内的部分

交集 intersection

样本存在于 A 和 B 中

并集 union

样本存在于 A 或者 B 中

德-摩根定律 DeMorgan’s Law

(AB)c=AcBc(A\cap B)^c = A^c\cup B^c

(AB)c=AcBc(A\cup B)^c = A^c\cap B^c

样本空间关系

互斥 mutually exclusive

表示两个样本集合的交集为 空

AB=A\cap B = \emptyset

空间的分割 partition

一组互斥的空间取并集之后能等价于原空间,为一个样本空间的分割

互满 exhaustive

取并集得到完整空间

互补 complementary

A=BcB=AcA = B^c\land B = A^c

概率 Probability

概率是将一个事件 event 映射到 [0,1][0,1] 实数空间的一种映射

数学定义

事件 A 的概率,写作 P(A)P(A) 是在未来很长时间内事件 A 发生的时间的占比,且要求在未来的时间内实验条件不会发生变化

P(A)=limnn(A)nP(A) = \lim_{n\to\infty}\frac{n(A)}{n}

或者我们用重复多次 (sufficiently large) 试验后的发生次数来进行描述

概率公理 Axiom of Probability

假设样本空间为 S, 事件 AiA_i, 那么定义事件的概率 P( )P(\ ) 表示函数满足如下公理:

  1. P(S)=1P(S) = 1
  2. 对于任意事件 A, P(A)0P(A)\ge 0
  3. 如果 A1,A2A_1, A_2\cdots 是mutually exclusive 事件,那么 P(A1A2)=P(A1)+P(A2)P(A_1\cup A_2\cup\cdots) = P(A_1)+ P(A_2)\cdots
    1. 这里的定义是无限个事件 A_i, 这是公理,而有限个事件的并集公式是可以证明的

等概率事件 Equally Likely Outcomes

我们称一个发生概率相等的事件为 等概率事件,而一般随机采样的结果都是等概率事件

归一性 Complement Rule

P(Ac)=1P(A)P(A^c) = 1 - P(A)

常用推论

  1. P(B)=P(B(AAc))=P((AB)(AcB))P(B) = P(B\cap(A\cup A^c)) = P((A\cap B)\cup (A^c\cap B))
  2. P(AcB)P(A^c\cap B)P(AB)P(A\cap B) 互斥

一阶容斥原理

P(AB)=P(A)+P(B)P(AB)P(A\cup B) = P(A) + P(B) - P(A\cap B)