飘易博客(作者:Flymorn)
订阅《飘易博客》RSS,第一时间查看最新文章!
飘易首页 | 留言本 | 关于我 | 订阅Feed

Float浮点数与零比较的处理方法

Author:飘易 Source:飘易
Categories:Asp编程 PostTime:2010-8-28 2:26:20
正 文:
    在使用MSSQL数据库的时候,当某个字段被定义成 float 浮点数类型时,我们需要特殊处理。一个float浮点数是不能直接和零比较的,int可以直接和0比较,但float浮点数是有精度要求的。

    在C/C++语言中,Float为单精度,内存中占4个字节,有效数位是7位,(本来是8位的,但要除去一个正负符号位),即有效数字是7位,当超过这个精度时,浮点数就无能为力了。C++ 下的判断方法如下:

“float型变量和“零值”比较的方法:
const float EPSINON = 0.000001;
if ((x >= - EPSINON) && (x <= EPSINON))
浮点型变量并不精确,其中EPSINON是允许的误差(即精度),所以不可将float变量用“==”或“!=”与数字比较,应该设法转化成“>=”或“<=”形式。如果写成if (x == 0.0),则是错误的。
因为1.0在计算机中可能存为0.999999或1.00001等,很难恰好是1.0 

    在高级语言ASP中应用float数时,同样需要注意这个问题。

    比如,我们在数据库字段中定义 a, b 为 float, c 为 int ,a=2.00, b=0.01, c=200,
    现在来计算 a-c*b 和 0 的大小时,我们这样判断:
      if a-c*b <= 0 then 
    就是错误的。有人说,a-c*b 这个计算结果不正是0么?有什么错?但正如我们在上面说的,2.00这个值在计算机内存中可能真正的值是 2.000001, b 可能是 0.0099999,所以计算机计算后的值比0大!所以上面的条件不成立!

    在一般的实际应用中,我们没有必要要求那么高的精度,小数点后2位即可。这个时候我们可以使用asp提供的格式化函数 FormatNumber ,比如 FormatNumber(x,2,-1,-2,-2) 这个值再和 0 比较 就不会出问题了。

    ASP中的语法:
FormatNumber(Expression[,NumDigAfterDec[,IncLeadingDig[,UseParForNegNum[,GroupDig]]]])

expression 必选项。要被格式化的表达式
 
NumDigAfterDec 可选项。指示小数点右侧显示位数的数值。默认值为 -1(指示使用的是计算机的区域设置)。
 
IncLeadingDig 可选项。三态常数,指示是否显示小数值小数点前面的零 
-2 = TristateUseDefault - 使用计算机区域设置中的设置。 
-1 = TristateTrue - True 
0 = TristateFalse - False 

UseParForNegNum 可选项。三态常数,指示是否将负值置于括号中 
-2 = TristateUseDefault - 使用计算机区域设置中的设置。 
-1 = TristateTrue - True 
0 = TristateFalse - False 

GroupDig 可选项。三态常数,指示是否使用计算机区域设置中指定的数字分组符号将数字分组。 
-2 = TristateUseDefault - 使用计算机区域设置中的设置。 
-1 = TristateTrue - True 
0 = TristateFalse - False 
作者:飘易
来源:飘易
版权所有。转载时必须以链接形式注明作者和原始出处及本声明。
上一篇:美国的夏令时和冬令时时间介绍
下一篇:百度排名8月更新了:首页排名丢失
5条评论 “Float浮点数与零比较的处理方法”
2010-8-28 22:40:41
学习了,已经好久没有CODE的感觉了。谢谢分享
2010-8-31 11:02:06
对这些不是很感兴趣啦 过来看看了

2010-8-31 20:08:55
其实我不懂,但是我觉得有技术的人非常好!
2010-9-2 9:54:32
楼上ASP好见解!过来学习!!谢了
2010-9-2 13:37:13
头晕晕的,看不懂贩贩全是那些数字
发表评论
名称(*必填)
邮件(选填)
网站(选填)

记住我,下次回复时不用重新输入个人信息
© 2007-2010 飘易博客 Www.Piaoyi.Org 原创文章版权由飘易所有 渝ICP备07006361号