最小二乘法

年 第 期 北京联合大学学报 一 多元线性回归分析方法 在决策系统中的运用 倪苏敏 刘 萍 北京联合大学电子工程学院 , 北京 , 北京牡丹电子集团公司 , 北京 , 〔摘 要 」 本文在计 划决 策的综合信 色表统基础上 , 建立 了预浏 年铭 售额的 多元线性回 归分析 的数 学模型 , 导 出预 的 回 归方程 编制 了计算机程序 , 完成 了计茸 , 并对结果 进行 了讨论 〔关键词 〕 多元线性 回 归 , 最小 二 乘法 , 引言 管理信息系统 — 的 目标原则是提供信息 , 帮助制定 决策 系统给经济管理部 门提供了有关内部操作和外部情报的信息 , 用来支持企业的计划 、 运行 、 控制和决策 本文从年销售额与商业 回扣 、 价格 、 经济费用 、 其他费用 包括了广告费 用 等之间的关系 , 建立了从数量上确定上述几项 费用对年销售收入影响的数学模型 , 给出利 用计算机程序计算得出的回归方程式 , 并对此结论进行 了探讨 多元线性回归分析的数学方法 预测是一 门新兴的科学 它在经济模型中得到了广泛的应用 本文主要讨论预测法中的多 元线性回归分析处理方法 〔‘ 在企业中 , 年销售额的多少是一项重要的经济指标 设为 刃 , 它与商业 回扣 , , 价格 , 经营费用 , 其他费用 等几项指标有相关关系 , 下面分析它们对年销售额的影响程度 在 编制计算机软件程序之前 , 先进行计算方法的数学公式推导 多元线性回归的公式 设变量 与变量 , , , , ⋯ , , 间存在着线性回归关系 , 则它的第 条记录是 , , , , ⋯ , , , ⋯ , 收稿 日期 一 一 ThinkPad 高亮 北京联合大学学报 年 · 于是 条记录有 , 月。 夕 夕 少 一 月。 夕, 月 月, , , 十 月, , 夕、 月。 口 、 月 、 十 其中 月。 , 月 , 月 , ⋯ , 口, 是 个待估参数 , , , 月 、 , ￡, ⋯ , , 是 个可以控制的变量 , , ‘ , ⋯ ‘ 是 个相互独立的随机变量 若用矩阵形式来描述回归问 燕几⋯ , , ⋯ , 妇 ‘ 月 一 一 一 〔月。 , 口, , ⋯ , ︸︸凡 ,上月⋯ 达少尸吸 〔 , 。 , ⋯ , , 〕‘ 则多元线性回归的数学模型 可以写成矩阵形式 一 月 。 参数 口的最小平方值拟合 —最小二乘估计为说明问题 , 首先以一元线性回归为例 研 究企业工业总产值与产品产量之间的关系 将各年生产量 ‘ 作为横坐标 , 工业总产值 笋 ’ 一 ‘ 十 ‘。 。 ‘ , 夕 , 附图 工业总产值与产品产 之间的关系 由最小二乘法知 。 , , , ⋯ , , 应使 。 , 认 作为纵坐标 , 由附图中可以看出 , 这些点大致落在一 条直线附近 , 即变量 ‘ 和 ‘ 之间关系基本上可看作 线性关系 这些点与直线的偏差 ‘ 是 由随机因素的 影响而引起的 因此可建立如下关系式 少‘ 月。 月 。‘ , , ⋯ , 其中 , 。 , ⋯ , 勒 分别表示其他随机因素对 ‘ 的影 响 , 一般地 , 它们是一组互相独立的随机变量 式 即是一元线性 回归的数学模型 本程序采用的准 则是最小二乘法 下面采用最 小二乘法对 中的参数 月。 , 月 , ⋯ , 月户 进行估计 设 。 , , , ⋯ , , 分别是参数 月。 , 月 , ⋯ , 月, 的最小二乘估 计 , 则多元线性 回归方程为 夕 。 , ⋯ , , , ⋯ , , 达到最小 , 即 。 , , ⋯ , , 艺 , 一 。 一 一 ·一 , , ’ 一 ‘ 。 , , , ⋯ , 户 应是下列偏微分方程的解 第 期 倪苏敏 刘萍 多元线性回归分析方法在计划决策系统中的运用 。 。 。 一 艺 一 另 一 。 , 一 艺 一 夕 , 。 , , ⋯ , 它进一步化简为 。 十 艺 艺 。 十 一 十 艺 户 , 一 艺 艺 艺 , 。。 十 艺‘ 艺 , “ 艺 户 , ” 十 艺 , 十 十 艺 , , , 一 艺 云, , 一 全二 , 全二 。 , 头 正规方程组 式的系数矩阵是对称矩阵 以 表示其系数矩阵 , 以 表示其右端常数项矩阵 , 则有 ’一一 、 ⋯ 试卫 ,场肠⋯枷刃 一 一 一 上人心上,卫土尸‘抑为⋯却 介⋯⋯ 户 户 尸‘、 一一 、。。。尸吸 。 刃 。 工 〕几介⋯燕⋯尸 ⋯一一 艺艺⋯艺 所以正规方程 的矩阵形式是 或 其中 , · 一 ‘ · · 。 , , , ⋯ , 户 是正规方程 中的 未知数 一 一 ‘ · ‘ · 一 ’ · 式 是模型 中参数的最小二乘估计 即 ‘ 就是 月‘ 的最小二乘估计 从 以上可得出 , 在处理多元线性 回归问题时 应计算下列 个矩阵 , 一 一 ‘ , 其中 是多元线性回归模型中数据 。 的结构矩阵 , 它构成了 次记录 , 是正规方程的系数矩阵 简 称为相关矩阵 是正规方程的常数项矩阵 北京联合大学学报 年 · 实际应用 根据上述推导的多元线性 回归数学公式编写程序 , 将牡丹集团公司近几年计算机内数据代 入程序中 , 其计算过程如下 首先计算正规方程组 式的系数矩阵 和常数项矩阵 其次计算 正规方程系数矩阵 的逆矩阵 根据 一 · , 求出回归系数 , 并建立回归方程 由计算程序导 出 对 , , , , 的回归方程为 一 一 其中 为商业回扣 , 为价格 , 为经营费 , 为广告费 在求解出多元线性 回归方程后 , 还要用一相关系数 进行检查 , 它是用来描述 与 的线性 关系密切程度的量 , 其计算公式为 尸 一 艺 一 到 一 孙 艺 一 习 ’艺 ‘ 一 孙 ’ 尺的取值范围在〔。, 之间 越大 , 表明 自变量所引起的变动越大 , 也就是 与 的线性关 系越好越密切 越小 , 与 的线性关系越差越松散 一 , 与 有最好的线性关系 , 它们之间 高度相关 , 表明 与 , , ⋯ , , 无关 在大多数情况下 , 由此可知 各 自变量 , , , , 分别对 的相关系数为 , 一 , , 说明销售 额大小与商业回扣的关系最为密切 , 其次是与广告费和经营费有关 价格与销售额的大小呈现负相关 , 相应的回归方程的系数为负系数 , 说 明进一步提高价 格将影响销售额的增加 , 而适当地降低价格将增加销售额 结论 本系统在运行的这几年当中取得了较为明显的效益 在时间效率方面 , 由以前的测算周期需要一星期的时间提高到半天至一夭即可完成 , 加 快了计划经营决策的周期 , 大大地提高了工作效率 通过计算机的程序计算 , 大大减轻了手工操作 , 减少了手工分析测算时的误差 , 提高 了数 据的准确率和正确性 , 为计划的跟踪控制及调度起了 良好的作用 软件环境 主机 位超微机 数据库 数据库 操作系统 语言 语言 第 期 倪苏敏 刘萍 多元线性回归分析方法在计划决策 系统中的运用 参 考 文 献 武汉大学 、 山东大学计算数学教研室编 最优化计算方法 北京 人民教育出版社 , , , , , 〔 〕 , ‘ , , 〔 , ,