szrunluo
級別: *
![]() |
使用除法運算時,DIV, 10000 / 6=1666, 余數(shù)是0.666667. 但在PC運行中計算出來的余數(shù)是4,我百思不解PC是怎樣轉(zhuǎn)換過來的結(jié)果, 請求高手指點. |
---|---|
|
szrunluo
級別: *
![]() |
一樓,我是沒有用浮點運算,小數(shù)點后被PC換成整數(shù),我奇怪的就是這點,我自己換算了一下,卻不知用的是哪個公式,結(jié)果才會等于4。請你把這個說明一下好嗎,謝謝。 |
---|---|
|
szrunluo
級別: *
![]() |
我心急想知道這個結(jié)果,不知怎樣把貼子頂上去,只用這個方法了,請不要見笑,望有知道這是怎么回事的高手們解答一下,謝謝,謝謝。 |
---|---|
|