PB的truncate函数问题

[复制链接]

PB的truncate函数问题

[复制链接]

ehxz

主题	0 回帖	58万积分

管理员

积分: 588691
贡献
在线时间: 小时

2008-7-1 09:59:22 | 显示全部楼层 |阅读模式

免费乐捐，感谢支持

马上注册，结交更多好友，享用更多功能，让你轻松玩转社区。

您需要登录才可以下载或查看，没有账号？站点注册

×

Q：为何truncate(12/(8+12) - 0.5,2)＝0.09
而 truncate(0.6 － 0.5,2)＝0.1 ？？？

A：12/(8+12)在计算时可能转化为浮点数，结果为0.599999999...
因此结果会是0.09
如果想四舍五入，请使用round函数

Q：怎样处理让12/(8+12)＝0.6 而不是0.599999999？

A：truncate(12/(8+12) - 0.5 + 0.0000000000001,2)
每次truncate时加加上一个很小的常数0.0000000000001

共享共进共赢Sharing And Win-win Results

SYBASEBBS - 免责申明1、欢迎访问“SYBASEBBS.COM”，本文内容及相关资源来源于网络，版权归版权方所有！本站原创内容版权归本站所有，请勿转载！
2、本文内容仅代表作者观点，不代表本站立场，作者自负，本站资源仅供学习研究，请勿非法使用，否则后果自负！请下载后24小时内删除！
3、本文内容，包括但不限于源码、文字、图片等，仅供参考。本站不对其安全性，正确性等作出保证。但本站会尽量审核会员发表的内容。
4、如本帖侵犯到任何版权问题，请立即告知本站，本站将及时删除并致以最深的歉意！客服邮箱：admin@sybasebbs.com

返回列表发新帖

免责声明：
本站所发布的一切破解补丁、注册机和注册信息及软件的解密分析文章仅限用于学习和研究目的；不得将上述内容用于商业或者非法用途，否则，一切后果请用户自负。本站信息来自网络，版权争议与本站无关。您必须在下载后的24个小时之内，从您的电脑中彻底删除上述内容。如果您喜欢该程序，请支持正版软件，购买注册，得到更好的正版服务。如有侵权请邮件与我们联系处理。

Mail To:Admin@SybaseBbs.com

|Archiver|PowerBuilder(PB)BBS社区 ( 鲁ICP备2021027222号-1 )

GMT+8, 2024-11-25 08:01 , Processed in 0.033313 second(s), 9 queries , MemCached On.

Powered by Discuz! X3.5

账号		站点注册	自动登录	找回密码
密码			站点注册