原理
最小二乘法
◆ “最小二乘法”(又称最小平方法)是一种数学优化技术。它通过最小化误差的平方和寻找相关数据匹配的最佳函数。利用最小二乘法 可以简便地求得未知的数据,并使得这些求得的数据与实际数据之间误差的平方和为最小 。
◆ 1801年,意大利天文学家朱赛普·皮亚齐发现了谷神星。经过跟踪观测后,由于谷神星运行至太阳背后,皮亚齐失去了谷神星的位置。 随后很多科学家利用皮亚齐的观测数据寻找谷神星,高斯使用自己发明“最小二乘法”计算出了谷神星的轨道,使天文学家可以随时找 到谷神星的位置。此方法还成就了哈雷彗星等天文学成果。法国科学家勒让德在1806年也发明“最小二乘法”。
新二乘法(最小三乘法)
◆ “新二乘法”是“最小二乘法”的改进法,它在数据回归计算时,不只计算模型的常数和系数,还计算模型变量中的幂值,使得非线性数据回归 计算更简单结果更准确。
◆ “新二乘法”在回归处理二维(一维因素变量和一维目标函数 y)数据时,因为要计算幂值(任意实数),一个因素变量可以派生出多个同变量但幂 不同的回归元,使得回归计算的结果会更准确。 在回归处理多维(二维以上因素变量和一维目标函数)数据时,多个因素变量可以派生出多个不同变量幂还不同的回归元,同时回归计算还考虑 不同变量的相互影响,使得多维回归计算的结果同样更准确。
最小二乘法和新二乘法比较
◆ “最小二乘法”和“新二乘法”的的一个特例,“新二乘法”计算了因变量的幂值(任意实数) k ,“最小二乘法”不计算因变量的幂值 k ,把它默认为 1 。
◆ “新二乘法”利用计算幂值,使回归模型函数曲线以不同曲率弯曲,来更好的拟和不同曲率的数据,使回归模型与数据拟和更好。
◆ 对多维非线性数据回归,不用“偏最小二乘法”的每因素逐一和目标函数回归计算,再把所有模型捆绑成最终模型,而是所有因素与目标函数,同时一次回归成数学模型。