【最小二乘法公式】在数学和统计学中,最小二乘法是一种用于拟合数据点的常用方法。它通过最小化误差平方和来找到最佳拟合曲线或直线。最小二乘法广泛应用于回归分析、数据拟合、信号处理等领域。
一、基本概念
最小二乘法的核心思想是:给定一组观测数据点 $(x_i, y_i)$($i = 1, 2, ..., n$),我们希望找到一条曲线或直线,使得该曲线与所有数据点之间的垂直距离的平方和最小。
二、线性最小二乘法公式
假设我们要拟合一条直线 $y = ax + b$,其中 $a$ 是斜率,$b$ 是截距。根据最小二乘法原理,我们可以推导出以下公式:
1. 斜率 $a$ 的计算公式:
$$
a = \frac{n\sum x_i y_i - \sum x_i \sum y_i}{n\sum x_i^2 - (\sum x_i)^2}
$$
2. 截距 $b$ 的计算公式:
$$
b = \frac{\sum y_i - a \sum x_i}{n}
$$
其中:
- $n$ 是数据点的数量;
- $\sum x_i$ 是所有 $x_i$ 的总和;
- $\sum y_i$ 是所有 $y_i$ 的总和;
- $\sum x_i y_i$ 是所有 $x_i y_i$ 的总和;
- $\sum x_i^2$ 是所有 $x_i^2$ 的总和。
三、多项式最小二乘法
对于更高次的多项式拟合,如二次函数 $y = ax^2 + bx + c$ 或更高次多项式,可以通过建立正规方程组来求解系数。其一般形式为:
$$
\begin{bmatrix}
n & \sum x_i & \sum x_i^2 & \cdots & \sum x_i^{m} \\
\sum x_i & \sum x_i^2 & \sum x_i^3 & \cdots & \sum x_i^{m+1} \\
\vdots & \vdots & \vdots & \ddots & \vdots \\
\sum x_i^m & \sum x_i^{m+1} & \sum x_i^{m+2} & \cdots & \sum x_i^{2m}
\end{bmatrix}
\begin{bmatrix}
a_0 \\
a_1 \\
\vdots \\
a_m
\end{bmatrix}
=
\begin{bmatrix}
\sum y_i \\
\sum x_i y_i \\
\vdots \\
\sum x_i^m y_i
\end{bmatrix}
$$
其中,$m$ 是多项式的次数,$a_0, a_1, \dots, a_m$ 是待求的系数。
四、总结表格
| 情况 | 公式名称 | 公式表达 |
| 线性拟合 | 斜率公式 | $a = \frac{n\sum x_i y_i - \sum x_i \sum y_i}{n\sum x_i^2 - (\sum x_i)^2}$ |
| 线性拟合 | 截距公式 | $b = \frac{\sum y_i - a \sum x_i}{n}$ |
| 多项式拟合 | 正规方程组 | $\mathbf{A}\mathbf{x} = \mathbf{b}$(矩阵形式) |
五、应用注意事项
- 数据应尽量满足线性关系或可近似为多项式关系;
- 若存在异常值,可能会影响拟合结果;
- 可以使用软件工具(如Excel、MATLAB、Python等)进行自动计算;
- 最小二乘法适用于无误差或误差较小的数据集。
通过以上公式和方法,可以有效地对数据进行拟合与分析,从而揭示数据之间的潜在规律。


