统计学 - 概率论与数理统计
说明
Welcome to Hua Sheng Blog! This is a note about Probability and Mathematical Statistics.
latex or latex2
于2023/04/17停止更新
希腊字母读音
1、 Α α alpha a:lf 阿尔法 角度；系数 \
2 、Β β beta bet 贝塔 磁通系数；角度；系数 \
3、 Γ γ gamma ga:m 伽马 电导系数（小写） \
4、 Δ δ delta delt 德尔塔 变动；密度；屈光度 \
5、 Ε ε epsilon epsilon 伊普西龙 对数之基数 \
6、 Ζ ζ zeta zat 截塔 系数；方位角；阻抗；相对粘度；原子序数 \
7、 Η η eta eit 艾塔 磁滞系数；效率（小写） \
8、 Θ θ thet θit 西塔 温度；相位角 \
9、 Ι ι iot aiot 约塔 微小，一点儿 \
10、 Κ κ kappa kap 卡帕 介质常数 \
11、 ∧ λ lambda lambd 兰布达波长（小写）；体积 \
12、 Μ μ mu mju 缪 磁导系数；微（千分之一）；放大因数（小写） \
13、 Ν ν nu nju 纽 磁阻系数 \
14、 Ξ ξ xi ksi 克西 \
15、 Ο ο omicron omikron 奥密克戎 \
16、 ∏ π pi pai 派 圆周率=圆周÷直径=3.1416 \
17、 Ρ ρ rho rou 肉 电阻系数（小写） \
18、 ∑ σ sigma sigma 西格马 总和（大写），表面密度；跨导（小写） \
19、 Τ τ tau tau 套 时间常数 \
20、 Υ υ upsilon jupsilon 宇普西龙 位移 \
21、 Φ φ phi fai 佛爱 磁通；角 \
22、 Χ χ chi phai 西 \
23、 Ψ ψ psi psai 普西 角速；介质电通量（静电力线）；角 \
24、 ω omega o`miga 欧米伽 欧姆（大写）；角速（小写）；角
第一章 事件的概率
1.1 概率是什么
1.1.1 主观概率
许多决策都难免要包含个人判断的成分，而这就是主观概率.
1.1.2试验与事件
事件不是指已发生了的情况，而是指某种(或某些)情况的“陈述”
1.有一个明确界定的试验.2.这个试验的全部可能结果，是在试验前就明确的.3.我们有一个明确的陈述，这个陈述界定了试验的全部可能结果中一确定的部分.
在概率论上，有时把单一的试验结果称为一个“基本事件”.这样，一个或一些基本事件并在一起，就构成一个事件，而基本事件本身也是事件.
1.1.3 古典概率
设一个试验有N个等可能的结果，而事件E恰包含其中的M个结果，则事件E的概率，记为P(E),定义为
1.1.4概率的统计定义
“概率的统计定义” 一是提供了一种估计概率的方法，二是它提供了一种检验理论正确与否的准则. 概率与频率
1.1.5概率的公理化定义
概率是事件的函数.
与此相应，在柯氏公理体系中，引进了一个定义在事件集上的函数P.对事件集中任一成员A,P(A)之值理解为事件A的概率.柯氏公理体系对这个函数P加上了几条要求(即公理):①0≤P(A)≤1,对任何成员A,这相应于要求概率在0,1之间.②P(Ω)=1,P(×)=0.这相应于说必然事件有概率1,不可能事件有概率0.③加法公理
1.2古典概率计算
1.2.1 排列组合的几个简单公式
1.n个相异物件取r个(1≤r≤n)的不同排列总数，为
2.n个相异物件取r个(1≤r≤n)的不同组合总数，为
每一个包含r物件的组合，可以产生r!个不同的排列.故排列数应为组合数的r!倍\
在起始、结束标记用下列词替换 matrix\
pmatrix：小括号边框\
bmatrix：中括号边框\
Bmatrix：大括号边框\
vmatrix：单竖线边框\
Vmatrix：双竖线边框
$C{^n_r}$的一个更通用的记号是$\begin{pmatrix}
n\
r\
\end{pmatrix}$,这叫组合系数，也叫二项式系数.我们今后将用$\begin{pmatrix}
n\
r\
\end{pmatrix}$取代 $C{^n_r}$. 当r=0时，按0!=1之约定，
只要r为非负整数，n不论为任何实数，都有意义.故n可不必限制为自然数.
4,n个相异物件分成k堆，各堆物件数分别为r?,…,r,的分法是$n!/(r_1!…r_k!)$
1.2.2古典概率计算举例
例2.2 一批产品共N个，其中废品有M个.现从中随机(或说随意)取出n个，问“其中恰好m个废品”这个事件E的概率是多少?
a!!这个记号对奇自然数定义：a!!=1·3·5…a,即所有不超过a的奇数之积.
例2.5 有21本不同的书，随机地分给17个人.问“有6人得0本，5人得1本，2人得2本，4人得3本”这个事件E的概率是多少？
因为每本书都有17种可能的分法，故总的不同分法，有$17^{21}$种.为计算有利于事件E的分法，得分两步分析：①按得书本数不同把17人分成4堆，各堆分别含6(0本)、5(1本)、2(2本)、4(3本)人.不同的分法有$17！/(6！5！2！4！)$种.
②把21本书按17人得书数情况分为17堆,各堆数目依次为$0,0,0,0,0,0,1,1,1,1,1,2,2,3,3,3,3$不同分法有$21!/(0!^61!^52!^23!^4)=21!/(2!^23!^4)$
二者相乘，得出有利于事件E的分法总数,进而得出E的概率为$17!21!/(17^{21}2!^33!^44!5!6!)$
1.3事件的运算、条件概率与独立性
.3.1事件的蕴含、包含及相等
在同一试验下的两事件A和B,如果当A发生时B必发生，则称A蕴含B,或者说B包含A,记为A⊂B.若A,B互相蕴含，即A⊂B且B⊂A,则称A,B两事件相等，记为A=B.
1.3.2事件的互斥和对立
若两事件A,B不能在同一次试验中都发生(但可以都不发生)，则称它们是互斥的.如果一些事件中任意两个都互斥，则称这些事件是两两互斥的，或简称互斥的.
互斥事件的一个重要情况是“对立事件”，若A为一事件 $B={A不发生}$，则事件B=A不发生称为A的对立事件，多记为$Ᾱ$(读作Abar,也记为$A^c$).
例如，投掷一个骰子，事件A={掷出奇数点}={1,3,5}的对立事件是B={掷出偶数点}={2,4,6}.对立事件也常称为“补事件”.拿上例来说，事件A包含了三个试验结果：1,3和5，而对立事件B中所含的三个试验结果2,4和6，正好补足了前面三个，以得到全部试验结果。
1.3.3事件的和（或称并）
事件的和很自然地推广到多个事件的情形.设有若干个事件$A1,A_2,…,A_n$,它们的和A，定义为事件$A ={A_1发生，或A_2发生，…，或A_n发生}={A_1，A_2，…，A_n至少发生一个}$, 且记为$A_1＋A_2+…+A_n$或$\sum{i = 1}^{n}A_i$
1.3.4概率的加法定义
若干个互斥事件之和的概率，等于各事件的概率之和：$P(A_1+A_2+…)= P(A_1)+P(A_2)+… $
事件个数可以是有限的或无限的，这定理就称为(概率的)加法定理，其重要条件是各事件必须为两两互斥.
$P(Ᾱ)=1-P(A)$
1.3.5事件的积(或称交)、事件的差
设有两事件A,B,则如下定义的事件C, C ={A,B都发生}称为两事件A,B之积或乘积，并记为AB.
多个事件$A1,A_2,…$(有限或无限个都可以)的积的定义类几似：$A={A_1,A_2,…都发生}$,记为$A=A_1A_2…$,或$\prod{i = 1}^{n}Ai$;(事件个数有限)或$\prod{i = 0}^{\infty}A_i$(事件个数无限).
两个事件A,B之差，记为A-B,定义为A-B ={A发生，B不发生}
A-B = $A\overline{B}$
1.3.6条件概率
让我们在古典概率的模式下来分析一般的情况.设一试验有N个等可能结果，事件A,B分别包含其M?和M,个结果，它们有$M1$和$M_2$个是公共的，这就是事件AB所包含的试验结果数.若已给B发生，则我们的考虑由起先的N个可能结果局限到现在的$M_2$个，其中只有$M{12}$个试验结果使事件A发生，故一个合理的条件概率定义，应把$P(A|B) = M{12}/M_2=(M{12}/N)/(M_{2}/N)= P(AB)/P(B)$. 由此得出如下的一般定义：设有两事件A,B而P(B)≠0.则“在给定B发生的条件下A的条件概率”,记为P(A|B),定义为$P(A|B)= P(AB)/P(B)$.
1.3.7事件的独立性，概率乘法定理
P(AB)= P(A)P(B) 两事件A,B若满足该公式,则称A,B独立.两独立事件A,B的积AB之概率P(AB)等于其各自概率之积P(A)P(B).
设$A1,A_2,…$为有限或无限个事件.如果从其中任意取出有限个$A{i1},A{i2},…,A{im}$都成立.
$P(A{i1}A{i2},…A{im})= P(A{i1})P(A{i2})…P(A{im})$
则称事件$A{i1},A{i2},…,A{im}$相互独立或简称独立.
这个定义与由条件概率出发的定义是等价的，后者是说：对任何互不相同的$i_1,i_2,…,i_m$,有$P(A{i1}|A{i2},…A{im})= P(A{i_1})$
一个居民区有n个人，设有一个邮局，开c个窗口，设每个窗口都办理所有业务.c太小，经常排长队；c太大又不经济.现设在每一指定时刻，这n个人中每一个是否在邮局是独立的，每人在邮局的概率都是p.设计要求：“在每一时刻每窗口排队人数(包括正在被服务的那个人)不超过m”这个事件的概率，要不小于a(例如，a=0.80,0.90或0.95).问至少须设多少窗口?
把n个人编号为1,…,n,记事件$Ei$={在指定时刻第i个人在邮局办事},i=1,…,n则在指定时刻，邮局的具体情况可以用形如 $$E_1\overline{E}_2E_3\overline{E}_4….E{n-1}\overline{E}_n$$
这种事件去描述之.为了每个窗口排队人数都不超过m,在上述序列中，不加“bar”的E的个数，至多只能是cm.现固定一个k≤cm,来求公式中恰有k个不加bar的E”这事件$B_k$的概率.由独立性以及$P(E_i)=p$,$P(\overline{E}_i)=1-p$,知每个像公式那样的序列且不加bar的E恰有k个时，概率为$p^k(1-p)^{n-k}$.但k个不加bar的位置，可以是n个位置中的任何k个.因此，一共有$\begin{pmatrix}
n\
k\
\end{pmatrix}$个形如公式的序列，其中不加bar的E恰有k个，这样得到$P(B_k)= \begin{pmatrix}
n\
k\
\end{pmatrix} p^k(1-p)^{n-k}$.由于k可以为0,1,…,cm,且不同k的k对应的$B_k$互斥，故得
找一个最小的自然数c,使上式不小于指定的a,就是问题的答案.
1.3.8全概率公式与贝叶斯公式
全概率公式
设$B_1,B_2,…$为有限或无限个事件，它们两两互斥且在每次试验中至少发生一个.用式表之，即
有时把具有这些性质的一组事件称为一个“完备事件群”.注意，任一事件B及其对立事件组成一个完备事件群.
现考虑任一事件A.因Ω为必然事件，有$A=AΩ=AB_1+AB_2+….$因$B_1,B_2,…$两两互斥，显然$AB_1,AB_2,…$也两两互斥.故依加法定理,有$P(A)= P(AB_1)+P(AB_2)+…$
再由条件概率的定义，有$P(AB_i)=P(B_i)P(A|B_i)$.代入上式得全概率公式”
贝叶斯公式
在全概率公式的假定之下，有
第二章 随机变量及概率分布
2.1 一维随机变量
2.1.1 随机变量的概念
随机变量就是“其值随机会而定”的变量.
2.1.2离散型随机变量的分布及重要例子
设X为离散型随机变量，其全部可能值为{$a_1,a_2…$}.则
后一式是根据加法定理，因为事件{$X=a_1,或a_2,…$}为必然事件，而又可表为一些互斥事件${x=a_1},{X=a_2},…$之和.
设X为一随机变量，则函数$$
F(x)=P(X \leqslant x)=\sum_{\left{i: a_i \leqslant x }\right.} p_i
P(X=i)=\mathrm{e}^{-\lambda }\lambda^i / i !
P(X=i)=p(1-p)^i, i=0,1,2, \cdots
$$
