[未解决]小数精度问题

2023-12-7 10:16:47
1894 4
用1.144-1.144不等于0 等于-9.41087485717418E-17
我知道答案 回答被采纳将会获得 3云币 已有3人回答

1701915295254.jpg

1701915295254.jpg

1701915321341.jpg

1701915321341.jpg
+1 0
4条回帖
李。Ray 云侠 2023-12-7 11:20:40
没问题,你看。


设置好数据的小数位。


+1 0
李根 管理员 2023-12-7 11:32:14
计算机用的是浮点数,最好加一下四舍五入的公式
+1 0
李。Ray 云侠 2023-12-7 11:40:38
李。Ray 发表于 2023-12-7 11:20
没问题,你看。

我用数据接口试了下也没问题如果你的值有固定位数的话,在数据表管理里边,设置好小数位数,数值1,2和差都设置好。就不会出错了。
我刚刚把数据表管理中的小数位数清空后,就出错了。
+1 0
需要登录后才可进行回复 登录

玩转云表从入门到精通
扫码添加微信立即领取

·云表创始人授课文件
·加入社群与培训学习
·切磋云表开发玩法

商务咨询:0756-3335860
客服咨询
Baidu
map