1.最小二乘法解的的推导，几何意义解释最小二乘法

 

 

 2.从概率的角度解释最小二乘法

结论：最小二乘法等价于最大似然估计(条件是噪音需要满足高斯分布)

 

3. L2正则化 ---  岭回归

因为最小二乘法任意过拟合，所以引入了正则化。

Ridge：假设先验满足高斯分布，使用L2正则化（权重衰减）

Lasso：假设先验满足laplace分布，使用L1正则化

 

 

 4. 从概率的角度看正则化

结论：正则化之后的最小二乘法等价于最大后验概率估计(条件是噪音和先验分布都满足高斯分布)

 

 

 

 

转载于:https://www.cnblogs.com/nxf-rabbit75/p/10272547.html

# 数据结构与算法 # 人工智能
Logo
DAMO开发者矩阵

DAMO开发者矩阵，由阿里巴巴达摩院和中国互联网协会联合发起，致力于探讨最前沿的技术趋势与应用成果，搭建高质量的交流与分享平台，推动技术创新与产业应用链接，围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐

机器人方案降成本前，先把这 7 笔账算清楚

预计单台节省 XX 元。至少应该留下这些结果：要算的账至少说清什么节省基准省哪笔钱、当前基准、数量和周期影响范围改什么、牵动哪些关系一次性投入设计、适配、验证、工装和旧状态处置持续执行每台装配、配置、测试和异常处理的变化质量可靠性已验证风险、未决边界和扩大条件现场维护备件、维修、复装验证和追溯变化成立条件何时抵消投入、怎样回看、何时重评这张表不是为了把所有东西都强行换算成一个绝对精确的数字。它的作

avatar DAMO开发者矩阵
cover

展望2026-2027 年，中国具身智能产业将面临几个关键变量

avatar DAMO开发者矩阵

一个连接器，为什么会决定机器人怎么拆、怎么查、怎么换？

一套机器人线束，原本在模块边界留了一个连接器。降本评审时，有人提出：把两段线改成一根直连线。这样一来，连接器、端子和压接工序都可以省掉，装配时也少插一次。从图纸和物料清单上看，新方案很直接；线束做好以后也能导通，机器人可以上电，动作也没有问题。真正进入联调和维护以后，差异才出现：原来能在模块边界断开的线，变成了一整根；原来能单独拆下的模块，开始和更长的一段线束绑在一起；出现异常时，原来可以从中间断

avatar DAMO开发者矩阵