数值计算 - 根据有效数字与相对误差限的关系

GarsonW

3254人浏览 · 2023-05-20 20:42:29

GarsonW · 2023-05-20 20:42:29 发布

1⃣️根据有效数字估算相对误差限

求解公式：

⚠️其中，er是相对误差限，e是绝对误差限。

不难得出结论，数值的相对误差限是跟有效数p位以及所有有效数有关，跟n无关

具体数据例题：

1⃣️根据相对误差限估算有效数字

此时，绝对误差限的位数 n-p = -2 所以我们只看 小数点后两位和整数部分，

3.14的 小数点后两位和整数部分 有3位有效，所以其有效数字为3位。

DAMO开发者矩阵

DAMO开发者矩阵，由阿里巴巴达摩院和中国互联网协会联合发起，致力于探讨最前沿的技术趋势与应用成果，搭建高质量的交流与分享平台，推动技术创新与产业应用链接，围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐

从埋点到画像：政策平台的用户行为数据 pipeline

DAMO开发者矩阵

D3SL 系列安全门锁内部逃生解锁装置实操案例具备内部逃生功能的工业安全门互锁开关实拍 D3SL 系列安全门锁防人员误锁困：带逃生解锁安全门锁应用案例立宏安全

DAMO开发者矩阵

聊天机器人和智能体之间，隔着什么？

企业AI落地的核心难题，不是"有没有AI"，而是"AI能不能真正融入业务流程"。聊天机器人可以在业务流程之外提供辅助，但无法深入其中。真正的智能体平台——像JBoltAI这样的企业级平台——让AI具备执行多步骤任务、调取企业数据、连接业务系统的能力，从而真正成为业务流程的一部分。山东向量空间认为，这是企业AI建设从"聊天"到"干活"的关键跨越。JBoltAI要做的，就是让每家企业都能实现这个跨越。