回归分析(2) 一元回归模型
创始人
2024-05-25 23:28:57
0

        如上所述,为了易于确定回归函数μ(x)中的未知参数,我们来讨论变量Y与x之间存在着线性相关关系的情形

 散布在某一条直线的周围.于是,我们可以用线性回归方程

 来描述Y与x之间的相关关系,并假设相应的误差(称为随机误差)

 服从正态分布N(0,\sigma^2),其中a,b,\sigma^2 都是不依赖于x的未知参数,参数b 称为回归系数

        对Y作这样的假设, 相当于假设对于x (在某个区间内)的每一个值,都有

 于是对x 与Y的每一组独立试验(或样本)

 也有

 式(5. 8)或式(5.10)称为一元(正态)线性回归模型.若将试验观测值(5.6)代入,则
可获得随机误差\varepsilon _i的一组观测值

 对于一元线性回归模型,需要研究下面几个问题:

(1)根据样本(5. 9)估计参数a,b,\sigma^2,从而建立线性回归模型;

(2)线性相关关系的显著性检验;

(3)利用所获得的线性回归模型对变量Y的取值进行预测.

1.参数a,b 的无偏估计及其分布

对于一元线性回归模型(5. 10),这时的离差平方和(5.4)为

为了使s取得最小值,按最小二乘法,分别求s对a及b的偏导,有

 令这两个偏导数为零,得

 

 整理,得

 或者

 其中

 分别为样本的各种矩,方程组(5. 13) 或方程组(5. 14) 称为正规方程(组).解此正规
方程可得a与b的估计值(分别记作\widehat{a}\widehat{b})

 其中

x_1,x_2,...,x_n的二阶中心矩.

``       与式(5.16)相对应的估计量可表示为

 

 作为正规方程的解,估计量a与b自然应满足正规方程(5. 13)和方程组(5.14),即

 或

 这时残差平方和(即s的最小值)可表示为

 将通过式(5. 16)计算得到的a 与b 的值代入方程(5.7),就可得到Y对x 的(经验)线性回归方程

 和相应的回归值(或拟合值)

 方程(5.22)的图形称为(经验)线性回归直线.

 

 该式表明,经验回归直线过由点集(5.6)构成的散点图的几何中心(\overline{x},\overline{y})

        下面讨论估计量\widehat{b}的分布.由估计量(5.18)的第一式知

所以\widehat{b}是随机变量Y_1,Y_2,..,Y_n的线性组合.再注意到x_i(i = 1,2,...,n)的非随机
性及Y1 ,Y2, …,Y"是独立的正态随机变量,且

 

 则可知\widehat{b}也服从正态分布,且有

 故\widehat{b}是b的无偏估计.同样,我们可算得

 

 这样,我们已经证明并获得了

定理5.2.1 在上述记号下,估计量\widehat{b}是b的无偏估计,且

 其中

 同理可证

是a的无偏估计(见习题5.1,由读者自己证明),并且有下述定理.

定理5.2.2 估计量\widehat{a}是a的无偏估计,且

5.2.2 参数\sigma^2的无偏估计及其分布

        为了获得\sigma^2的无偏估计,我们作离差分解

 

 由式(5. 19)知上式的最后两个和式均为0,故有

 其中右端第一项正是式(5. 21)定义的残差平方和

于是我们得到

 其中右端三项的自由度分别为又由于

 且相互独立,故由定理1. 2. 2可得如下的定理.

 定理5.2.3 在上述记号下, S_E,\overline{Y},\widehat{b}相互独立且

 由于卡方分布的期望是它的自由度,故由式(5. 32)

从而

 因此

 是\sigma^2的无偏估计.在此记号下,定理5.2. 3又可改写成如下形式.

2. 一元线性回归参数的计算

为了计算无偏估计\sigma^2,将

 代入式(5.33),得

 再注意到式(5.18)的第一式,有

 并引进计算器容易获得其值的二阶中心矩的记号

 则有

 式(5.38)中的\sigma^2,\widehat{a},\widehat{b},也可利用表5.1及计算器的统计功能方便地获得.

例题

 

 

相关内容

热门资讯

Python|位运算|数组|动... 目录 1、只出现一次的数字(位运算,数组) 示例 选项代...
张岱的人物生平 张岱的人物生平张岱(414年-484年),字景山,吴郡吴县(今江苏苏州)人。南朝齐大臣。祖父张敞,东...
西游西后传演员女人物 西游西后传演员女人物西游西后传演员女人物 孙悟空 六小龄童 唐僧 徐少华 ...
名人故事中贾岛作诗内容简介 名人故事中贾岛作诗内容简介有一次,贾岛骑驴闯了官道.他正琢磨着一句诗,名叫《题李凝幽居》全诗如下:闲...
和男朋友一起优秀的文案? 和男朋友一起优秀的文案?1.希望是惟一所有的人都共同享有的好处;一无所有的人,仍拥有希望。2.生活,...
戴玉手镯的好处 戴玉手镯好还是... 戴玉手镯的好处 戴玉手镯好还是碧玺好 女人戴玉?戴玉好还是碧玺好点佩戴手镯,以和田玉手镯为佳!相嫌滑...
依然什么意思? 依然什么意思?依然(汉语词语)依然,汉语词汇。拼音:yī    rán基本解释:副词,指照往常、依旧...
高尔基的散文诗 高尔基的散文诗《海燕》、《大学》、《母亲》、《童年》这些都是比较出名的一些代表作。
心在飞扬作者简介 心在飞扬作者简介心在飞扬作者简介如下。根据相关公开资料查询,心在飞扬是一位优秀的小说作者,他的小说作...
卡什坦卡的故事赏析? 卡什坦卡的故事赏析?讲了一只小狗的故事, 我也是近来才读到这篇小说. 作家对动物的拟人描写真是惟妙...
林绍涛为简艾拿绿豆糕是哪一集 林绍涛为简艾拿绿豆糕是哪一集第三十二集。 贾宽认为是阎帅间接导致刘映霞住了院,第二天上班,他按捺不...
小爱同学是女生吗小安同学什么意... 小爱同学是女生吗小安同学什么意思 小爱同学,小安同学说你是女生。小安是男的。
内分泌失调导致脸上长斑,怎么调... 内分泌失调导致脸上长斑,怎么调理内分泌失调导致脸上长斑,怎么调理先调理内分泌,去看中医吧,另外用好的...
《魔幻仙境》刺客,骑士人物属性... 《魔幻仙境》刺客,骑士人物属性加点魔幻仙境骑士2功1体质
很喜欢她,该怎么办? 很喜欢她,该怎么办?太冷静了!! 太理智了!爱情是需要冲劲的~不要考虑着考虑那~否则缘...
言情小说作家 言情小说作家我比较喜欢匪我思存的,很虐,很悲,还有梅子黄时雨,笙离,叶萱,还有安宁的《温暖的玄》 小...
两个以名人的名字命名的风景名胜... 两个以名人的名字命名的风景名胜?快太白楼,李白。尚志公园,赵尚志。
幼儿教育的代表人物及其著作 幼儿教育的代表人物及其著作卡尔威特的《卡尔威特的教育》,小卡尔威特,他儿子成了天才后写的《小卡尔威特...
海贼王中为什么说路飞打凯多靠霸... 海贼王中为什么说路飞打凯多靠霸气升级?凯多是靠霸气升级吗?因为之前刚到时确实打不过人家因为路飞的实力...
运气不好拜财神有用吗运气不好拜... 运气不好拜财神有用吗运气不好拜财神有没有用1、运气不好拜财神有用。2、拜财神上香前先点蜡烛,照亮人神...