加入收藏 | 设为首页 | 会员中心 | 我要投稿 银川站长网 (https://www.0951zz.com/)- 云通信、基础存储、云上网络、机器学习、视觉智能!
当前位置: 首页 > 站长学院 > MsSql教程 > 正文

SqlServer中float类型使用要关注什么 如何理解其不确定性

发布时间:2023-06-07 11:14:56 所属栏目:MsSql教程 来源:
导读:很多时候,大家都知道,浮点型这个东西,本身存储就是一个不确定的数值,你永远无法知道,它是 0 = 0.00000000000000123 还是 0 = 0.00000000000999这样的东西。也许一开始使用的时候没有问题,但是有时候做统计的时

很多时候,大家都知道,浮点型这个东西,本身存储就是一个不确定的数值,你永远无法知道,它是 0 = 0.00000000000000123 还是 0 = 0.00000000000999这样的东西。也许一开始使用的时候没有问题,但是有时候做统计的时候,就会看出端倪。

简单的举个例子,就知道统计的时候,有可能出现意外的效果,导致可能需要存储过程或者接收程序的代码左额外的取舍数位的处理,所以在此其实我是推荐使用Numeric来替代float进行一个替代使用,避免一个sum ,然后明明明细看每一条数据都是正常的2,3位小数,一汇总就变成了8,9位的样子。

CREATE TABLE #T (ID INT IDENTITY,Va FLOAT)

CREATE TABLE #T1 (ID INT IDENTITY,Va NUMERIC(15,9))

--分开执行-------------------------------------------------

INSERT INTO #T

( Va )

VALUES ( 0.60000000)

INSERT INTO #T1

( Va )

VALUES ( 0.60000000)

GO 100

SELECT SUM(Va) FROM #T

SELECT SUM(Va) FROM #T1

----------------------

60.0000000000001

(1 行受影响)

---------------------------------------

60.000000000

(1 行受影响)

现在大家对于SqlServer中float类型使用要注意什么,如何理解其不确定性的内容应该都有一定的认识了吧,希望这篇能对大家有所帮助。

(编辑:银川站长网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

    推荐文章