非线性回归模块概要设计.docVIP

非线性回归模块概要设计 目录 功能描述 原理介绍 2.1线性回归 2. 1. 1 普通最小二乘法估计参数的值 2.1.2 回归方程的显著性检验 2.2 非线性回归 2.2.1可化为线性回归的非线性方程 2.2.2 不能化为线性回归的非线性方程 设计流程 数据结构 其他 5.1分位数r求解. 功能描述 细胞自动机产生一系列的样本数据对,本模块将这些样本数据对回归成一条曲线y=f(x) 原理介绍 回归就是处理变量x与y之间的关系的一种统计方法和技术. 参数估计就是通过统计推断的数理统计方法,得出某些分布参数的方法. 假设检验就是对估计出的参数进行检验,看是否合理. 2.1线性回归 若变量y与x近似为线性关系,我们可以建立回归模型 (1) 一部分是由于x的变化引起y线性变化的部分,即;另一部分是其他一切随机因素引起的,记为ε,是一个随机变量. 对于实测的n组样本值(x1,y1),(x2,y2),…,(xn,yn)来说,如果它们符合模型(1)式,则 , i=1,2,…,n (2) 其中是未知参数,我们可以通过参数估计估计出的值,然后对它们进行显著性检验,以决定他们能否作为的估计值. 2.1.1 普通最小二乘法估计参数的值 这种方法考虑观测值与其回归值E()= 的差值越小越好,综合考虑n个离差值,定义离差平方和为 (3) 然后根据微积分中求极值的原理,求出使最小的. 中间计算过程略,最后结果为 (4) (5) 2.1.2 回归方程的显著性检验 当我们得到一个实际问题的经验回归方程后,还不能马上就用它去分析和预测,因为是否真正描述了变量y与x之间的统计规律性,还需运用统计方法对回归方程进行检验.这里我们采用相关系数r的显著性检验,定义相关系数 (6) 相关系数描述了x和y的线性关系的密切程度,r越接近于1, x与y的相关性越好. 如果rr(n-2, ),则认为通过显著性检验,否则选取其他的回归模型. 2.2 非线性回归 2.2.1可化为线性回归的非线性方程 这种方程又称为第一种非线性方程,其他的称为第二种非线性方程. 因为细胞自动机产生的样本数据基本上是s形曲线,故这里用回归模型 (7) ,,则(7)式可化为线性模型 (8) 2.2.2 不能化为线性回归的非线性方程 考虑更一般的s形曲线 (9) 用非线性最小二乘法估计参数~的值. 定义离差平方和为 (10) 利用微分法建立正规方程组,得3个方程 (11) 利用Newton迭代法求解此正规方程组,得到~的估计值 然后再进行相关系数的显著性检验 此时相关系数r由下式求得 (12) 3 设计流程 读入数据; 线性回归处理; if(线性回归通过检验) return 线性回归方程参数; else {第一种非线性回归处理; if(第一种非线性回归通过检验) return 第一种非线性回归方程参数; else { 第二种非线性回归处理; if(第二种非线性回归通过检验) return 第二种非线性回归方程参数; else return ERROR; } } 4. 数据结构 读入的n对样本数据对(x1,y1),…(xn,yn)用二维数组SampleData[][2]存储. 回归参数的数据结构. 用一个一维数组RegressionPara[]存储.用数组的第一个元素 RegressionPara[0]表示回归方程的类型,若为0,表示线性回归, 1表示第一种非线性回归,2表示第二种非线性回归. 5.其他 5.1分位数r求解. 建立一个相关系数r的临界值表文件,通过查找而得到r的临界值r(n-2, ).