比较两组计算结果大小时有Bug

johndok · 发表于 2021-6-23 13:53:23

获取两组曲线长度后比较大小，结果出现红框所示的Bug，一组结果是12.0 而另一组是12 所以结果为False了，求教大神应该怎么解决？

modern · 发表于 2021-6-23 18:34:34

小数只显示6位数，但小数7位数不显示但存在
12.0可能还有小数例如12.0000001建议你先四舍五入，小数2位数再比较

johndok · 发表于 2021-6-29 07:31:27

modern 发表于 2021-6-23 18:34
小数只显示6位数，但小数7位数不显示但存在
12.0可能还有小数例如12.0000001建议你先四舍五入，小数2位数 ...

好的，谢谢M大，已经解决了