非参数统计简介课件.ppt

1、非参数统计目 录n第一章第一章 引言引言n第二章第二章 单样本检验单样本检验n第三章第三章 两样本位置和尺度检验两样本位置和尺度检验n第四章第四章 多样本检验多样本检验n第五章第五章 尺度检验尺度检验n第六章第六章 相关和回归相关和回归n第七章第七章 分布检验和拟合优度检验分布检验和拟合优度检验n第八章第八章 列联表列联表n第九章第九章 非参数密度估计和非参数回归非参数密度估计和非参数回归第一章 引 言主要内容1.统计的实践统计的实践2.非参数统计方法简介非参数统计方法简介 3.参数统计过程与非参数统计的比较参数统计过程与非参数统计的比较4.非参数统计的历史非参数统计的历史5.必要的准备知识必

2、要的准备知识1.统计的实践我们周围的世界n符号和数据就是整个世界。符号和数据就是整个世界。n数据繁衍，信息匮乏：观察数据激增，设计数数据繁衍，信息匮乏：观察数据激增，设计数据细分。据细分。n数据的复杂性和不确定性的特点更为突出。数据的复杂性和不确定性的特点更为突出。n数据分析方法和手段不足。数据分析方法和手段不足。统计的方法论n就方法论而言，统计分析主要解决两方面就方法论而言，统计分析主要解决两方面的问题：的问题：q 寻找数据内部差异中共同的特征。寻找数据内部差异中共同的特征。q 寻找数据之间本质的差异。寻找数据之间本质的差异。n统计分析的目标是从数据中发现比数据本统计分析的目标是从数据中发现

3、比数据本身更为有用的知识身更为有用的知识2.非参数统计方法简介参数方法n定义：样本被视为从分布族的某个参数族抽取出定义：样本被视为从分布族的某个参数族抽取出来的总体的代表，而未知的仅仅是总体分布具体来的总体的代表，而未知的仅仅是总体分布具体的参数值，推断问题就转化为对分布族的若干个的参数值，推断问题就转化为对分布族的若干个未知参数的估计问题，用样本对这些参数做出估未知参数的估计问题，用样本对这些参数做出估计或者进行某种形式的假设检验，这类推断方法计或者进行某种形式的假设检验，这类推断方法称为称为。n比如：比如：（1）研究保险公司的索赔请求数时，可能假定索）研究保险公司的索赔请求数时，可能假定索

4、赔请求数来自泊松分布赔请求数来自泊松分布P(a);（2）研究化肥对农作物产量的影响效果时，平均）研究化肥对农作物产量的影响效果时，平均意义之下，每测量单元（可能是）产量服从正态意义之下，每测量单元（可能是）产量服从正态分布分布N(a,b).一个典型的参数检验过程1.总体参数总体参数Example:Population Mean2.假定数据的形态为假定数据的形态为 Whole Numbers or Fractions Example:Height in Inches(72,60.5,54.7)3.有很强的假定有很强的假定Example:正态分布正态分布4.例子例子:Z Test,t Test,2

5、 Test一个例子：对两组学生进行语法测试，如何比较两组学生的成绩是否存在差异？非参数检验过程n1.不涉及总体的分布不涉及总体的分布qExample:Probability Distributions,Independencen2.数据的形态各异数据的形态各异q定量数据定量数据q定序数据定序数据qExample:Good-Better-Bestq名义数据名义数据qExample:Male-Femalen在不知总体分布的情况下如何利用数据所在不知总体分布的情况下如何利用数据所包含的信息呢包含的信息呢?一组数据的最基本的信息就一组数据的最基本的信息就是次序如果可以把数据点按大小次序排是次序如果可以

6、把数据点按大小次序排队，每一个具体数目都有它的在整个数据队，每一个具体数目都有它的在整个数据中中(从最小的数起从最小的数起)的位置或次序，称为该的位置或次序，称为该数据的秩数据的秩(rank)n非参数统计的名字中的非参数统计的名字中的“非参数非参数(nonparametric)”意味着其方法不涉及描意味着其方法不涉及描述总体分布的有关参数；它被称为和分布述总体分布的有关参数；它被称为和分布无关无关(distributionfree)，是因为其推断，是因为其推断方法和总体分布无关；不应理解为与所有方法和总体分布无关；不应理解为与所有分布分布(例如有关秩的分布例如有关秩的分布)无关无关 非参数方法

7、3.参数统计与非参数统计比较n对总体假定较少，有广泛的适对总体假定较少，有广泛的适用性，结果稳定性较好。用性，结果稳定性较好。q1.假定较少假定较少q2.不需要对总体参数的假定不需要对总体参数的假定q3.与参数结果接近与参数结果接近n针对几乎所有类型的数据形态。针对几乎所有类型的数据形态。n容易计算容易计算q在计算机盛行之前就已经发展起在计算机盛行之前就已经发展起来。来。非参数检验的优点非参数检验的优点n1.可能会浪费一些信息可能会浪费一些信息n特别当数据可以使用参数模型的时候。特别当数据可以使用参数模型的时候。nExample:Converting Data From Ratio to Or

8、dinal Scalen2.大样本手算相当麻烦大样本手算相当麻烦n3.一些表不易得到一些表不易得到非参数检验的弱点非参数检验的弱点非参数统计的主要内容内容内容非参数检验非参数检验相应的参数检验相应的参数检验2独立样本中位数检验秩和检验独立样本t检验2 配对样本/单一样本符号检验Wilcoxon 检验成对样本 t-检验2独立样本Kruskal-Wallis 检验单一因素ANOVA两因素Friedman检验双因素ANOVA相关性检验Spearman秩相关Pearson相关性检验 分布的检验Kolmogorov-Smirnov4.非参数统计的历史非参数统计的历史n非参数统计的形成主要归功于非参数统计

9、的形成主要归功于20世纪世纪40年年代代50年代化学家年代化学家F.Wilcoxon等人的工作等人的工作。Wilcoxon于于1945年提出两样本秩和检验，年提出两样本秩和检验，1947年年Mann和和Whitney二人将结果推广二人将结果推广到两组样本量不等的一般情况；到两组样本量不等的一般情况；nPitman于于1948年回答了非参数统计方法相年回答了非参数统计方法相对于参数方法来说的相对效率方面的问题；对于参数方法来说的相对效率方面的问题；非参数统计的历史（续）n60年代中后期，年代中后期，Cox和和Ferguson最早将非参数最早将非参数方法应用于生存分析。方法应用于生存分析。n70年

10、代到年代到80年代，非参数统计借助计算机技术和年代，非参数统计借助计算机技术和大量计算获得更稳健的估计和预测，以大量计算获得更稳健的估计和预测，以P.J.Huber以及以及 F.Hampel为代表的统计学家从计为代表的统计学家从计算技术的实现角度，为衡量估计量的稳定性提出算技术的实现角度，为衡量估计量的稳定性提出了新准则。了新准则。n90年代有关非参数统计的研究和应用主要集中在年代有关非参数统计的研究和应用主要集中在非参数回归和非参数密度估计领域，其中较有代非参数回归和非参数密度估计领域，其中较有代表性的人物是表性的人物是Silverman和和J.Fan。5.必要的基础知识（1）假设检验）假设

11、检验（2）顺序统计量）顺序统计量（3）秩检验统计量）秩检验统计量（4）U统计量统计量（5）数据处理）数据处理(1)假设检验回顾n问题：问题：(a)新引进的生产过程是否优于旧过程？新引进的生产过程是否优于旧过程？（b）几种不同的肥料哪一种更有效？）几种不同的肥料哪一种更有效？（c）大学生的就业率与城市失业率之间是）大学生的就业率与城市失业率之间是否存在关系？否存在关系？内容（a）假设的真正涵义和作用）假设的真正涵义和作用（b）如何选择零假设和备择假设）如何选择零假设和备择假设（c）检验的）检验的p-值和显著性水平的作用值和显著性水平的作用（d）两类错误）两类错误（e）置信区间和假设检验之间的关系

12、）置信区间和假设检验之间的关系单边检验和双边检验的单边检验和双边检验的p值值?顺序统计量n 顺序统计量：顺序统计量：n 基于顺序统计量的统计量：基于顺序统计量的统计量：n 顺序统计量的分布：顺序统计量的分布：设总体的分布函数F(x),则第r个顺序统计量的分布函数为：)()()()(xXrPxXPxFirr小于或等于个至少12(,)nnj rP X XXjx中恰好有个小于innriiinxFxFC)(1)(dtttrnrnxFrnr)(01)1()!()!1(!秩检验统计量无结点秩的定义例题：某学院本科三年级有例题：某学院本科三年级有9个专业组成，统计每个专业学个专业组成，统计每个专业学生每月消

13、费数据如下，求消费数据的秩和顺序统计量的现值：生每月消费数据如下，求消费数据的秩和顺序统计量的现值：300 230 208 580 690 200 263 215 520 2.有结数据的秩n设样本设样本 取自总体取自总体X的简单随机抽的简单随机抽样，将数据排序后样，将数据排序后,相同的数据点组成一个相同的数据点组成一个“结结”，称重复数据的个数为结长。，称重复数据的个数为结长。n例例1：3.8 3.2 1.2 1.2 3.4 3.2 3.8 3.2 1.2 1.2 3.4 3.2 3.23.2n解：结长为解：结长为3 3。nXX,.,1线性秩统计量n 线性符号秩统计量：线性符号秩统计量：n 线性秩统计量：线性秩统计量：n 正态记分线性秩统计量：正态记分线性秩统计量：U统计量核的概念例：总体期望有无偏估计例：总体期望有无偏估计X1，总体期望是可估的，总体期望是可估的，X1是总是总体期望的核。体期望的核。对称核和U统计量的概念U统计量的特征计算数据处理 nSPSS SAS R S-Plus n直方图直方图n盒形图盒形图n茎叶图茎叶图nQ-Q图图 数据处理 数据处理