ytmf0795
級別: 略有小成
精華主題: 0
發(fā)帖數(shù)量: 186 個
工控威望: 304 點(diǎn)
下載積分: 9694 分
在線時間: 131(小時)
注冊時間: 2007-07-22
最后登錄: 2016-11-04
查看ytmf0795的 主題 / 回貼
樓主  發(fā)表于: 2011-07-30 22:30
我有一臺印刷機(jī)的程序在印刷版徑觸摸屏輸入的運(yùn)算上用的是32位2進(jìn)制浮點(diǎn)數(shù)四則運(yùn)算(DEMUL      DEDIV)  

這樣數(shù)值運(yùn)算為什么就更精確嗎  用32位2進(jìn)制浮點(diǎn)數(shù)四則運(yùn)算的程序比普通10進(jìn)制四則運(yùn)算麻煩復(fù)雜好多好多哦  

我自已做的DA程序就沒用32位2進(jìn)制浮點(diǎn)數(shù)四則運(yùn)算也可以用啊

不明白用32位2進(jìn)制浮點(diǎn)數(shù)四則運(yùn)算的程序比普通10進(jìn)制四則運(yùn)算 好在哪里。  

請前輩給我講講行嗎?
meng2008
級別: 家園?
精華主題: 0
發(fā)帖數(shù)量: 222 個
工控威望: 505 點(diǎn)
下載積分: 860 分
在線時間: 75(小時)
注冊時間: 2008-08-04
最后登錄: 2023-10-07
查看meng2008的 主題 / 回貼
1樓  發(fā)表于: 2011-08-01 12:18
    按樓主這種場合,常用的BIN除法就夠用了。
如果除數(shù)或被除數(shù)是浮點(diǎn)數(shù)的話,利用浮點(diǎn)數(shù)運(yùn)算會比較省力且準(zhǔn)確!當(dāng)然,也可以把除數(shù)或被除數(shù)放大倍數(shù),再用BIN運(yùn)算去解決。 精確相對而言的,是看需要到小數(shù)點(diǎn)后幾位了哈。。。
本帖最近評分記錄:
  • 下載積分:+2(ytmf0795) 熱心助人