PB的truncate函数问题
Q：为何truncate(12/(8+12) - 0.5,2)＝0.09而 truncate(0.6 － 0.5,2)＝0.1 ？？？
A：12/(8+12)在计算时可能转化为浮点数，结果为0.599999999...
因此结果会是0.09
如果想四舍五入，请使用round函数
Q：怎样处理 让12/(8+12)＝0.6 而不是0.599999999？
A：truncate(12/(8+12) - 0.5 + 0.0000000000001,2)
每次truncate时加加上一个很小的常数0.0000000000001
页:
[1]