最小二乘拟合直线实例
某压力传感器的校准数据如下表所示，试分别用端点连线法和最小二乘法求非线性误差，并计算迟滞和重复性误差；写出端点连线法和最小二乘法拟合直线方程。
校准数据表
压  力
(MPa)
输  出  值  (mV)
第一次循环
第二次循环
第三次循环
正行程
反行程
正行程
反行程
正行程
反行程
0
-2.73
-2.71
-2.71
-2.68
-2.68
-2.69
0.02
0.56
0.66
0.61
0.68
0.64
0.69
0.04
3.96
4.06
3.99
4.09
4.03
4.11
0.06
7.40
7.49
7.43
7.53
7.45
7.52
0.08
10.88
10.95
10.89
10.93
10.94
10.99
0.10
14.42
14.42
14.47
14.47
14.46
14.46
解  校验数据处理（求校验平均值）：
压  力
(MPa)
(设为x)
输  出  值  (mV)
第一次循环
第二次循环
第三次循环
校验平均值
(设为y)
正行程
反行程
正行程
反行程
正行程
反行程
0
-2.73
-2.71
-2.71
-2.68
-2.68
-2.69
-2.70
0.02
0.56
0.66
0.61
0.68
0.64
0.69
0.64
0.04
3.96
4.06
3.99
4.09
4.03
4.11
4.04
0.06
7.40
7.49
7.43
7.53
7.45
7.52
7.47
0.08
10.88
10.95
10.89
10.93
10.94
10.99
10.93
0.10
14.42
14.42
14.47
14.47
14.46
14.46
14.45
（1）端点连线法
设直线方程为
y=a0+kx，
取端点（x1，y1）=（0，-2.70）和(x6，y6)=（0.10，14.45）。则a0由x=0时的y0值确定，即
a0=y0kx=y1=-2.70 (mV)
k由直线的斜率确定，即
（mV/MPa）
拟合直线方程为
y=2.70+171.5x
    求非线性误差：
压  力
(MPa)
校验平均值
  (mV)
直线拟合值
(mV)
非线性误差
(mV)
最大非线性误差
(mV)
0
-2.70
-2.70
0
-0.12
0.02
0.64
0.73
-0.09
0.04
4.04
4.16
-0.12
0.06
7.47
7.59
-0.12
0.08
10.93
11.02
-0.09
0.10
14.45
14.45
0
所以，压力传感器的非线性误差为
  求重复性误差：
压  力
(MPa)
输  出  值  (mV)
正行程
反行程
1
2
3
不重复误差
1
2
3
不重复误差
0
-2.73
-2.71
-2.68
0.05
-2.71
-2.68
-2.69
0.03
0.02
0.56
0.61
0.64
0.08
0.66
0.68
0.69
0.03
0.04
3.96
3.99
4.03
0.07
4.06
4.09
4.11
0.05
0.06
7.40
7.43
7.45
0.05
7.49
7.53
7.52
0.04
0.08
10.88
10.89
10.94
0.06
10.95
10.93
10.99
0.04
0.10
14.42
14.47
14.46
0.05
14.42
14.47
14.46
0.05
最大不重复误差为0.08 mV，则重复性误差为
    求迟滞误差：
压  力
(MPa)
输  出  值  (mV)
第一次循环
第二次循环
第三次循环
正行程
反行程
迟滞
正行程
反行程
迟滞
正行程
反行程
迟滞
0
-2.73
-2.71
0.02
-2.71
-2.68
0.03
-2.68
-2.69
0.01
0.02
0.56
0.66
0.10
0.61
0.68
0.07
0.64
0.69
0.05
0.04
3.96
4.06
0.10
3.99
4.09
0.10
4.03
4.11
0.08
0.06
7.40
7.49
0.09
7.43
7.53
0.10
7.45
7.52
0.07
0.08
10.88
10.95
0.07
10.89
10.93
0.04
10.94
10.99
0.05
0.10
14.42
14.42
0
14.47
14.47
0.0
14.46
14.46
0.0
最大迟滞为0.10mV，所以迟滞误差为
（2）最小二乘法
    设直线方程为
y=a0+kx
数据处理如下表所示。
序号
1
2
3
4
5
最感动mv
6
∑
x
0
0.02
0.04
0.06
0.08
0.10
0.3
y
2.70
0.64
4.04
7.47
10.93
14.45
34.83
x2
0
0.0004
0.0016
0.0036
0.0064
0.01
0.022
xy
0
0.0128
0.1616
0.4482
0.8744
1.445
2.942
根据以上处理数据，可得直线方程系数分别为：
所以，最小二乘法线性回归方程为
y=2.77+171.5x
求非线性误差：
压  力
(MPa)
校验值
  (mV)
直线拟合值
(mV)
非线性误差
(mV)
最大非线性误差
(mV)
0
-2.70
-2.77
0.07
-0.07
0.02
0.64
0.66
-0.02
0.04
4.04
4.09
-0.05
0.06
7.47
7.52
-0.05
0.08
10.93
10.95
-0.02
0.10
14.45
14.38
0.07
所以，压力传感器的非线性误差为
可见，最小二乘法拟合直线比端点法拟合直线的非线性误差小，所以最小二乘法拟合更合理。