Handy Orchard

有效数字和科学记数法

将十进制文本取至指定有效位数,保留末尾零并说明整数精度歧义。

输入数据

可用小数或科学记数法,请保留 1.20e3 等书写末尾零。

仅影响判断 1200 等整数的原始精度,不改变要求的取位数。

输入更改时会清除旧输出。

结果

输入数据或填入示例,再运行工具。

计算示例

0.004956 取 3 位有效数字为 0.00496。

9.995 取 3 位为 10.0(1.00e+1);1.20e3 明确表示三位有效数字。

方法

用文本解析十进制数字和指数,根据首个舍弃位取位,不经过二进制浮点舍入。

科学记数法保留要求的有效位数,整数末尾零歧义会报告或由你明确选择。

适用限制

最多 2,000 字符,指数 −10,000 至 10,000,目标 1–100 位,不接受表达式。

采用明确的绝对值五入规则,不是遇半取偶;格式取位不增加测量准确度,也不确定不确定度。

来源

OpenStax:有效位数与取位

相关工具

分数四则运算进制换算整数因数工具位运算工具

输入数据保留在此设备。只有经您同意的可选浏览量会被统计;计算值、文件、文件名与处理日志不发送至 Analytics。

切换语言时,文本、设置与所选文件会暂存于此设备,恢复后移除;中断的暂存会于后续访问清理。输入与文件不会上传。