C++中要判断一个数的精度是否为0.00001怎么办

如题所述

可以,先将原数在精度值之前的数转化为0,再取倒数,与这个精度的值取倒数,相互比较大小。 但是注意字符的字型尽量选 long double
比如。精度要求为0.0001 有一个数 548.123123123
k=548.123123123/0.0001-int(548.123123123/0.0001)
y=k*0.0001//精度值之前的数化为0
然后比较 1/y 和 1/0.0001 的值就可以啦
祝你好运
温馨提示:答案为网友推荐,仅供参考
第1个回答  推荐于2017-10-03
不易判断。
我们只知道,float 有效数字6-7位, double 有效数字14-15位。
10进制浮点数存入计算机用2进制,输出时又转为10进制,这里也有舍入误差。
特殊情况可以分析:
float 数 123456.78 精度 到 .7 这位 -- 精度低于 0.00001
float 数 0.12345678 精度 到 .1234567 -- 是,精度高于 0.00001本回答被提问者和网友采纳
第2个回答  2014-11-11
转成字符串,看小数点后有几位
相似回答