jony7788
級別: 論壇先鋒
精華主題: 0
發(fā)帖數(shù)量: 49 個
工控威望: 1898 點
下載積分: 221 分
在線時間: 230(小時)
注冊時間: 2023-02-25
最后登錄: 2025-01-05
查看jony7788的 主題 / 回貼
樓主  發(fā)表于: 2023-09-29 15:33
圖片:
圖片:
用三菱PLC(FX-3U)計算對數(shù),發(fā)現(xiàn)同EXCEL直接計算的有差異,兩個數(shù)值都是相差0.09,是什么原因造成的呢。
[ 此帖被jony7788在2023-09-29 20:26重新編輯 ]
gzcjx555
QQ  296686949
級別: 工控俠客
精華主題: 0
發(fā)帖數(shù)量: 511 個
工控威望: 4198 點
下載積分: 1989 分
在線時間: 357(小時)
注冊時間: 2014-02-15
最后登錄: 2025-01-05
查看gzcjx555的 主題 / 回貼
1樓  發(fā)表于: 2023-09-29 18:10
計算精度問題,三菱FX3U只支持單精度浮點計算,32位,EXCEL默認(rèn)使用雙精度浮點,也就是64位。
本帖最近評分記錄:
  • 下載積分:+5(jony7788) 熱心助人!
  • 聯(lián)系電話15071699246,QQ296686949