含定性变量的回归模型
一、自变量中含有定性变量的回归模型
在回归分析中,对一些自变量是定性变量的情形先量化处理,引入只取0和1 两个值的虚拟自变量。例如,在研究粮食产量问题,需考虑正常年份和干旱年份,对这个问题就可以引入虚拟变量D,令D=1表示正常年份,D=0表示干旱年份。当在某些场合定性自变量可能取多类值时,例如考虑销售量的季节性影响,季节因素分为春、夏、秋、冬4种情况。为了用定性自变量反映四个季度,可以引入自变量??x1?1,春季?x1?0,其他,??x2?1,夏季?x2?0,其他,??x3?1,秋季?x3?0,其他,??x4?1,冬季?x4?0,其他,如
果这样引入会出现一个问题,即自变量x1,x2,x3,x4之和恒等于1,构成了完全多重共线性。所以,一个定性变量有k类可能的取值时,只需要引入k-1个0-1型自变量。所以在分析季节因素的时候,引入3个0-1自变量即可。
例1 某经济学家想调查文化程度对家庭储蓄的影响,在一个中等收入的样本框中,随机调查了13户高学历家庭与14户中低学历的家庭,因变量y为上一年家庭储蓄增加额,自变量x1为上一年家庭总收入,自变量x2表示家庭学历,高学历家庭x2=1,低学历家庭x2=0。数据如下所示。 序号 y x1 x2 序号 y x1 x2 1 235 2.3 0 15 3265 3.8 1 2 346 3.2 1 16 3265 4.6 1 3 365 2.8 0 17 3567 4.2 1 4 468 3.5 1 18 3658 3.7 1 5 658 2.6 0 19 4588 3.5 0 6 867 3.2 1 20 6436 4.8 1 7 1085 2.6 0 21 9047 5 1 8 1236 3.4 1 22 7985 4.2 0 9 1238 2.2 0 23 8950 3.9 0 10 1345 2.8 1 24 9865 4.8 0 11 2365 2.3 0 25 9866 4.6 0 12 2365 3.7 1 26 10235 4.8 0 13 3256 4 1 27 10140 4.2 0 14 3256 2.9 0 ?=-7976+3826x1-3700x2 建立y对x1,x2的线性回归模型,回归方程为:y这个结果表明,中等收入的家庭每增加1万元收入,平均拿出3826元作为储蓄。高学历家庭每年的平均储蓄额少于低学历的家庭,平均少3700元。 如果不引入家庭学历定性变量x2,仅用y对家庭年收入x1做一元线性回归,得判定系数R^2=0.618,拟合效果不好。
家庭年收入x1是连续型变量,它对回归的贡献也是不可缺少的。如果不考虑家庭年收入这个自变量,13户高学历家庭的平均年储蓄增加额为3009.31元,14户低学历家庭的平均年储蓄增加额为5059.36元,这样会认为高学历家庭每年的储蓄额比低学历的家庭平均少5059.36-3009.31=2050.05元,而用回归法算
出的数值是3824元,两者并不相等。
用回归法算出的高学历家庭每年的平均储蓄额比低学历的家庭平均少3824元,这是在假设两者的家庭年收入相等的基础上的储蓄差值,或者说是消除了家庭年收入的影响后的差值,因而反映了两者储蓄额的真实差异。而直接由样本计算的差值2050.05元是包含有家庭年收入影响在内的差值,是虚假的差值。所调查的13户高学历家庭的平均年收入额为3.8385万元,14户低学历家庭的平均年收入额为3.4071万元,两者并不相等。
需要指出的是,虽然虚拟变量取某一数值,但这一数值没有任何数量大小的意义,它仅仅用来说明观察单位的性质或属性。 二、单因素方差模型
推断统计中的单因素方差分析、无交互作用的双因素方差分析和有交互作用的双因素方差分析模型,都可以转化为0-1型自变量的回归分析模型。下面以单因素方差为例。下面给出的先是单因素方差分析的结果。
单因素方差分析:行业因素是否影响投诉次数
零售业 旅游业 航空公司 家电制造业
57 68 31 44 66 39 49 51 49 29 21 65 40 45 34 77 34 56 40 58 53 51 44
方差分析:单因素方差分析
SUMMARY
组 观测数 求和 平均 零售业 7 343 49 旅游业 6 288 48 航空公司 5 175 35 家电制造业 5 295 59
方差 116.6667 184.8 108.5 162.5
F crit 3.12735
方差分析 差异源 SS df MS F P-value 组间 1456.609 3 485.536232 3.406643 0.038765 组内 2708 19 142.526316 总计 4164.609 22 将上面的单因素方差分析转化为0-1型自变量的回归分析模型。
设yij(i?1,2,?,nj)是正态总体N(?j,?2)(j?1,2,?,c)的样本,原假设为
H0:?1??2????c,记?ij?yij??j,则有?ij~N(0,?2),进而有yij??j??ij,
(i?1,2,?,nj),记??(j?1,2,?,c),
1cjja?,?cj?1??j??,则有yij???aj??ij,
引入0-1型自变量xij,将上式表示为yij???a1xi1?a2xi2??acxic??ij,其中
?xi1?1,当j?1?xi2?1,当j?2?xic?1,当j?c,?……. ?,即为多元线性回归模型。?x?0,当j?2x?0,当j?1x?0,当j?c?i2?i1?ic但其中存在一个问题,就是c个自变量之和恒等于1,存在完全的多重共线性。为此需要删除xic建立回归模型yij???a1xi1?a2xi2??ac?1xic?1??ij即可。这个回归方程的显著性检验的原假设为:H0:a1?a2???ac?1?0,由aj??j??可知。方差分析的原假设和回归方程的假设是等价的。作回归方程的F检验与单因
素方差分析的F检验是等价的。下面将刚才的例子转化为0-1型自变量的回归分析模型。将例子的数据整理如下。
投诉次数(y) 行业 x1
57 零售业 1 66 零售业 1 49 零售业 1 40 零售业 1 34 零售业 1 53 零售业 1 44 零售业 1 68 旅游业 0 39 旅游业 0 29 旅游业 0 45 旅游业 0 56 旅游业 0 51 旅游业 0 31 航空公司 0 49 航空公司 0 21 航空公司 0 34 航空公司 0 40 航空公司 0 44 家电制造业 0 51 家电制造业 0 65 家电制造业 0 77 家电制造业 0 58 家电制造业 0
对上面数据进行回归分析,得到结果如下所示。
x2 0 0 0 0 0 0 0 1 1 1 1 1 1 0 0 0 0 0 0 0 0 0 0
x3 0 0 0 0 0 0 0 0 0 0 0 0 0 1 1 1 1 1 0 0 0 0 0
SUMMARY OUTPUT
回归统计
Multiple R 0.591404124 R Square 0.349758837 Adjusted R Square 0.24708918 标准误差 11.93843858 观测值 23
方差分析
回归分析 残差 总计
Coefficients 标准误差 t Stat P-value Lower 95% Upper 95% C 59 5.339032 11.05069 1.03E-09 47.82527753 70.17472 x1 -10 6.990434 -1.43053 0.168807 -24.63114617 4.631146 x2 -11 7.229084 -1.52163 0.144571 -26.13064575 4.130646 x3 -24 7.550532 -3.17858 0.004946 -39.80344407 -8.19656 从线性回归的方差分析表可以看出,单因素方差分析表和回归模型的方差分析表是一样的。从回归系数表中还可以看出X3的回归系数与其它系数存在差异,这与方差分析的多重比较分析结果也是一样的。 所以,如果所建立的回归模型其中的自变量全是定性变量,称这样的回归模型为方差分析模型,如果模型中既包含数量变量,又包含定性变量,其中以定性自变量为主,称这样的模型为协方差模型。
三、自变量中含有定性变量的回归模型的应用 1、分段回归
在实际问题中,会碰到某些变量在不同的影响因素范围内变化趋势截然不同,例如经济问题涉及经济政策较大调整时,调整前与调整后的变化幅度会有很大不同。对于这种问题,有时用多种曲线拟合效果仍不能令人满意。如果做残差分析,会发现残差不是随机的,而具有一定的系统性。对这类问题可以考虑分段回归的方法来处理。 例:下表是某工厂生产批量x与单位成本y的数据,试用分段回归建立回归模型。
序号 y x1 x2 1 2.57 650 150 2 4.4 340 0 3 4.52 400 0 4 1.39 800 300 5 4.75 300 0 6 3.55 570 70 7 2.49 720 220 8 3.77 480 0
df SS MS F Significance F
3 1456.609 485.5362 3.406643 0.038764525 19 2708 142.5263 22 4164.609
54.543.532.521.510.500100200300400500600700800900
做出y与x1的散点图,可以看出当生产批量大于500时,成本可能服从另一种线性关系,可以考虑由两段构成的分段线性回归,这可以通过引入一个0-1型虚拟自变量实现。假定回归直线的斜率在x=500处改变。则可以建立回归模型:
yi??0??1xi??2(xi?500)Di??i,其中??Di?1,当xi?500?Di?0,当xi?500,为了方便起见,引
入两个新的自变量x1,x2。这有xi1?xi,xi2?(xi?500)Di,其中x1为生产批量,x2数值列在表中,这样回归模型可以转化为yi??0??1xi1??2xi2??i,该式子可以分解为两个线性回归方程:当x1?500时,E(y)??0??1x1,当x1?500时,则得到E(y)?(?0?500?2)?(?1??2)x1,于是?1和?1??2分别是两条回归线的斜率,?0和?0?500?2是2个y的截距。用普通最小二乘法拟合回归方程得:
?=5.895-0.00395x1-0.00389x2,利用模型可说明生产批量小于500时,每增加y1个单位批量,单位成本降低0.00395;生产批量大于500时,每增加1个单位批量,单位成本降低0.00395+0.00389=0.00784美元;这里只是为了说明分段回归的方法,进一步做统计检验会发现x2的系数并不显著,这里不过多讨论。 2、回归系数相等的检验
在第一个例子的问题中,引入0-1型自变量的方法是假定储蓄增加额y对家庭收入的回归斜率?1与家庭年收入无关,家庭年收入只影响回归常数项?0,这个假设是否合理,还需要作统计检验,检验方法是引入如下含有交互效应的回归模型
yi??0??1xi1??2xi2??3xi1xi2??i,其中y为上一年家庭储蓄增加额,x1为上
一年家庭总收入,x2表示家庭学历,高学历家庭x2=1,低学历家庭x2=0。所以回归模型可以分解为对高学历和对低学历家庭的两个线性回归模型,分别为:
百度搜索“77cn”或“免费范文网”即可找到本站免费阅读全部范文。收藏本站方便下次阅读,免费范文网,提供经典小说综合文库含定性变量的回归模型在线全文阅读。
相关推荐: