float的问题(50分)

A

andrew4031

Unregistered / Unconfirmed

GUEST, unregistred user!

• 2008-03-25

• #1

if sl.value>strtofloat(rk)-strtofloat(ck) then
begin
......
end;
其中
sl.value=0.01
rk=2.65
ck=2.64
为什么sl.value就大于strtofloat(rk)-strtofloat(ck)???应该是等于啊，不解

 

李

李翔鹏

Unregistered / Unconfirmed

GUEST, unregistred user!

• 2008-03-25

• #2

小数位引起的，这类问题你要用四舍五入处理一下。

 

D

dtboyi

Unregistered / Unconfirmed

GUEST, unregistred user!

• 2008-04-01

• #3

不可能吧！
procedure TForm1.FormCreate(Sender: TObject);
var
a,b,c:real;
begin
a:=0.01;
b:=2.33;
c:=2.32;
if a>(b-c) then
showmessage('a')
end;

这样没问题呀

 

迷

迷路人

Unregistered / Unconfirmed

GUEST, unregistred user!

• 2008-04-16

• #4

建议设个断点看下b-c的结果

 

Q

qizhao_2001

Unregistered / Unconfirmed

GUEST, unregistred user!

• 2008-04-16

• #5

用 ( sl.value-( strtofloat(rk)-strtofloat(ck) ) ) > 0.000001 来判断两个浮点数是否相等,...在不相等的情况下再判断大小

 

B

bsense

Unregistered / Unconfirmed

GUEST, unregistred user!

• 2008-04-16

• #6

double/real类型是不能用=比较的,有小数的问题
也就是说你看到可以输出的0.01 计算机表示的时候可能是0.01000001 这样的大小,除非用定点小数 (数据库支持,比如money,numeric(10,2)这些类型,delphi不支持)

 

R

ruohan

Unregistered / Unconfirmed

GUEST, unregistred user!

• 2008-04-18

• #7

这里有隐式转换关系的，大小由小数位数决定，你和0.000000000000000000000000000000001比较一下，就知道了