关于TC5.0以上版本的除法

tangjiehan001 · 发表于 2015-6-6 23:30:32

马上加入TC

您需要登录才可以下载或查看，没有帐号？立即注册

x

今天偶尔用了下除法结果让我啼笑皆非
比如
变量结果=1500/1800
此时调试输出结果 "0"
好吧就算是浮点型运算优先级高于整型,我认了

继续测试
变量结果=1300/1800
调试输出(转字符型(结果))
输出为"0"

好吧继续测试

变量结果=转字符型(1300)/转字符型(1300)
调试输出(结果)
可悲的是输出结果 "1.000000"

基于4.3版本的运算,怎么到了5.0以上版本的成这样了?是BUG还是本身就是这样的设定?

tangjiehan001 · 发表于 2015-6-6 23:35:23

打字打错了,其实测试的时候是转浮点型,发帖的时候打成转字符型了

jimye0526 · 发表于 2015-6-7 07:26:15

规则改了，整整得整
想要浮点结果只要除数或被除数其中一个是浮点型就可以

DMAX · 发表于 2015-6-7 08:34:14

变量结果=1500*1.0/1800

帐号		自动登录	找回密码
密码			立即注册

[问题] 关于TC5.0以上版本的除法

马上加入TC

推荐 /2