五月天91,午夜探花,亚洲香蕉在线

lzhpsky

工控小菜鳥

級別: 論壇先鋒

發(fā)送短信
加為好友
QQ聯系

精華主題: 0
發(fā)帖數量: 1050 個
工控威望: 1159 點
下載積分: 2815 分
在線時間: 769(小時)
注冊時間: 2009-08-02
最后登錄: 2025-06-05
查看lzhpsky的主題 / 回貼

樓主發(fā)表于: 2010-12-03 12:42

只看樓主 | 小中大

我現在快暈了，大家看，為什么VD708和VD28的數據都是1.64，程序就是不通呢？為什么在狀態(tài)表里監(jiān)控無符號數據時不一樣？換成監(jiān)控浮點數的話，就都是1.64了，為什么？上面的程序VD708我已經四舍五入了，取小數點后2位了，數據是1.64，VD28是設定的數據，也是保留小數點后2位，但是為什么都相等了，就是不通呢？哪位高手指點一下，謝謝

sjm213

有小知識，無大學問。

級別: 論壇版主

發(fā)送短信
加為好友
QQ聯系

精華主題: 7 篇
發(fā)帖數量: 5291 個
工控威望: 7517 點
下載積分: 161408 分
在線時間: 3238(小時)
注冊時間: 2007-11-21
最后登錄: 2025-07-13
查看sjm213的主題 / 回貼

1樓發(fā)表于: 2010-12-03 16:25

只看該作者 | 小中大

VD28是如何轉換過來的？
浮點數精度過高，直接用==R很容易出現這個情況。
就像監(jiān)控時這樣，用浮點數監(jiān)控都是1.64，但實際上其數值并非完全一樣，所以程序比較出來兩者不相等。
建議將浮點數轉換為整數，用整數比較指令。
或者設定一個小誤差范圍，如用<=R VD708 1.641 替代==R