回归分析(2) 一元回归模型
创始人
2024-05-25 23:28:57
0

        如上所述,为了易于确定回归函数μ(x)中的未知参数,我们来讨论变量Y与x之间存在着线性相关关系的情形

 散布在某一条直线的周围.于是,我们可以用线性回归方程

 来描述Y与x之间的相关关系,并假设相应的误差(称为随机误差)

 服从正态分布N(0,\sigma^2),其中a,b,\sigma^2 都是不依赖于x的未知参数,参数b 称为回归系数

        对Y作这样的假设, 相当于假设对于x (在某个区间内)的每一个值,都有

 于是对x 与Y的每一组独立试验(或样本)

 也有

 式(5. 8)或式(5.10)称为一元(正态)线性回归模型.若将试验观测值(5.6)代入,则
可获得随机误差\varepsilon _i的一组观测值

 对于一元线性回归模型,需要研究下面几个问题:

(1)根据样本(5. 9)估计参数a,b,\sigma^2,从而建立线性回归模型;

(2)线性相关关系的显著性检验;

(3)利用所获得的线性回归模型对变量Y的取值进行预测.

1.参数a,b 的无偏估计及其分布

对于一元线性回归模型(5. 10),这时的离差平方和(5.4)为

为了使s取得最小值,按最小二乘法,分别求s对a及b的偏导,有

 令这两个偏导数为零,得

 

 整理,得

 或者

 其中

 分别为样本的各种矩,方程组(5. 13) 或方程组(5. 14) 称为正规方程(组).解此正规
方程可得a与b的估计值(分别记作\widehat{a}\widehat{b})

 其中

x_1,x_2,...,x_n的二阶中心矩.

``       与式(5.16)相对应的估计量可表示为

 

 作为正规方程的解,估计量a与b自然应满足正规方程(5. 13)和方程组(5.14),即

 或

 这时残差平方和(即s的最小值)可表示为

 将通过式(5. 16)计算得到的a 与b 的值代入方程(5.7),就可得到Y对x 的(经验)线性回归方程

 和相应的回归值(或拟合值)

 方程(5.22)的图形称为(经验)线性回归直线.

 

 该式表明,经验回归直线过由点集(5.6)构成的散点图的几何中心(\overline{x},\overline{y})

        下面讨论估计量\widehat{b}的分布.由估计量(5.18)的第一式知

所以\widehat{b}是随机变量Y_1,Y_2,..,Y_n的线性组合.再注意到x_i(i = 1,2,...,n)的非随机
性及Y1 ,Y2, …,Y"是独立的正态随机变量,且

 

 则可知\widehat{b}也服从正态分布,且有

 故\widehat{b}是b的无偏估计.同样,我们可算得

 

 这样,我们已经证明并获得了

定理5.2.1 在上述记号下,估计量\widehat{b}是b的无偏估计,且

 其中

 同理可证

是a的无偏估计(见习题5.1,由读者自己证明),并且有下述定理.

定理5.2.2 估计量\widehat{a}是a的无偏估计,且

5.2.2 参数\sigma^2的无偏估计及其分布

        为了获得\sigma^2的无偏估计,我们作离差分解

 

 由式(5. 19)知上式的最后两个和式均为0,故有

 其中右端第一项正是式(5. 21)定义的残差平方和

于是我们得到

 其中右端三项的自由度分别为又由于

 且相互独立,故由定理1. 2. 2可得如下的定理.

 定理5.2.3 在上述记号下, S_E,\overline{Y},\widehat{b}相互独立且

 由于卡方分布的期望是它的自由度,故由式(5. 32)

从而

 因此

 是\sigma^2的无偏估计.在此记号下,定理5.2. 3又可改写成如下形式.

2. 一元线性回归参数的计算

为了计算无偏估计\sigma^2,将

 代入式(5.33),得

 再注意到式(5.18)的第一式,有

 并引进计算器容易获得其值的二阶中心矩的记号

 则有

 式(5.38)中的\sigma^2,\widehat{a},\widehat{b},也可利用表5.1及计算器的统计功能方便地获得.

例题

 

 

相关内容

热门资讯

医药生物:国家卫健委推动医疗机... 01. 医药生物分析师称,近期国家卫健委等13部门印发基层医疗机构优化建设指导意见,预计带动体外诊断...
沙美叙土四国领导人讨论叙利亚局... 转自:贵州日报 新华社利雅得5月14日电 据沙特通讯社14日报道,沙特阿拉伯、美国、土耳其及...
恒玄科技:25Q1营收同比增长... 03. 恒玄科技分析师称,25Q1公司实现营收9.9亿元,同比增长52.3%,归母净利润1.91亿元...
集运:货代抢占仓位,船公司加价... 01. 集运分析师称,5月12日中美达成协议之后,11点左右,货代群体开始抢占仓位,5月底的仓位基本...
腾讯(00700)2025Q1... 5月14日,腾讯(00700)召开2025年Q1业绩电话会。腾讯在会上指出,关于GPU(图形处理单元...
亮出“独门绝技”,“小巨人”力... 转自:中华工商时报    “党的十八大以来,我国大力推进新型工业化,加快制造业转型升级,涌现出一大批...
4月全国企业销售收入同比增4....   本报讯(记者 陈雪柠)国家税务总局昨天发布数据显示,4月全国企业销售收入增速加快,同比增4.3%...
向以数智化为支撑的智能体企业迈... 转自:中华工商时报    作为深耕数智经济领域二十余年的C2M产业互联网AI科技智能体企业,酷特智能...
促进青少年心理健康教育 转自:贵州日报 本报讯(记者 谌贵璇)为进一步加强大学生心理健康教育,普及科学的心理健康与性健康知识...
电新板块:中美经贸会谈达成关税... 09. 电力设备分析师称,中美经贸高层5月10-12日在瑞士会谈达成关税调整协议,利好电新板块对美出...
印媒:售卖假酒致21人死亡,印... 【环球时报综合报道】印度北部旁遮普邦阿姆利则市日前发生假酒致人中毒事件,已造成至少21人死亡,另有1...
上下联动 双向奔赴 有形有效 □ 兰东来  今年以来,江西省赣州市市场监管局整合各类资金约200万元,用于爱心驿站建设、爱心捐赠、...
我省9个农产品入选全国区域品牌... 转自:黑龙江日报 本报讯(记者周静)记者从省农业农村厅获悉,在日前发布的“2025中国品牌价...
量体裁衣出新意,银行助力低空经... 飞行汽车出行,无人机送快递,空中观赏迪士尼烟花……低空经济快速发展,涉及农业、工业、旅游业等多个行业...
美股异动|默沙东股价两日狂跌8... (转自:美股情报站)5月14日,默沙东的股价经历了一轮显著的下滑,引发了市场的广泛关注。当天,该公司...
奋力书写中国汽车产业“突围启示... 转自:中华工商时报    以"拥抱创新,共赢未来"为主题的第二十一届上海国际汽车工业展览会,日前在沪...
恒指牛熊街货比(65:35)︱... 通财经APP获悉,截至5月15日,恒指最新的牛熊街货比例为65:35。中信证券牛熊证街货分布图中的数...
“无事不扰”企业 徐 骏作(新华社发) 北京市市场监管局发布消息称,2025年,北京市深入推进“无事不扰”清单机制,重...
美股异动|吉利德科学两日连跌迎... (转自:美股情报站)近期,吉利德科学公司股价出现显著波动。在5月14日,该股的股价下跌了3.01%,...
提升诉讼服务质效 转自:黑龙江日报 本报讯(纪世强 记者刘大泳)近日,佳木斯市东风区法院举办了一场关于要素式起...