雷火电竞-中国电竞赛事及体育赛事平台

歡迎來到入門教程網(wǎng)!

MsSql

當(dāng)前位置:主頁 > 數(shù)據(jù)庫 > MsSql >

淺談sqlserver下float的不確定性

來源:本站原創(chuàng)|時(shí)間:2020-01-10|欄目:MsSql|點(diǎn)擊:

很多時(shí)候,大家都知道,浮點(diǎn)型這個(gè)東西,本身存儲就是一個(gè)不確定的數(shù)值,你永遠(yuǎn)無法知道,它是 0 = 0.00000000000000123 還是 0 = 0.00000000000999這樣的東西。也許一開始使用的時(shí)候沒有問題,但是有時(shí)候做統(tǒng)計(jì)的時(shí)候,就會看出端倪

簡單的舉個(gè)例子,就知道統(tǒng)計(jì)的時(shí)候,有可能出現(xiàn)意外的效果,導(dǎo)致可能需要存儲過程或者接收程序的代碼左額外的取舍數(shù)位的處理,所以在此其實(shí)我是推薦使用Numeric來替代float進(jìn)行一個(gè)替代使用,避免一個(gè)sum ,然后明明明細(xì)看每一條數(shù)據(jù)都是正常的2,3位小數(shù),一匯總就變成了8,9位的樣子

CREATE TABLE #T (ID INT IDENTITY,Va FLOAT)
CREATE TABLE #T1 (ID INT IDENTITY,Va NUMERIC(15,9))
--分開執(zhí)行-------------------------------------------------
INSERT INTO #T
    ( Va )
VALUES ( 0.60000000)
INSERT INTO #T1
    ( Va )
VALUES ( 0.60000000)
GO 100

SELECT SUM(Va) FROM #T
SELECT SUM(Va) FROM #T1

----------------------
60.0000000000001
(1 行受影響)

---------------------------------------
60.000000000
(1 行受影響)

總結(jié)

以上就是本文關(guān)于淺談sqlserver下float的不確定性的全部內(nèi)容,希望對大家有所幫助。感興趣的朋友可以參閱本站:簡述Redis和MySQL的區(qū)別、ORACLE SQL語句優(yōu)化技術(shù)要點(diǎn)解析、MYSQL子查詢和嵌套查詢優(yōu)化實(shí)例解析等,有什么問題可以隨時(shí)留言,小編會及時(shí)回復(fù)大家。感謝各位對我們的支持!

上一篇:SQL update 多表關(guān)聯(lián)更新的實(shí)現(xiàn)代碼

欄    目:MsSql

下一篇:SQL Server 2008 R2占用cpu、內(nèi)存越來越大的兩種解決方法

本文標(biāo)題:淺談sqlserver下float的不確定性

本文地址:http://www.jygsgssxh.com/a1/MsSql/10421.html

網(wǎng)頁制作CMS教程網(wǎng)絡(luò)編程軟件編程腳本語言數(shù)據(jù)庫服務(wù)器

如果侵犯了您的權(quán)利,請與我們聯(lián)系,我們將在24小時(shí)內(nèi)進(jìn)行處理、任何非本站因素導(dǎo)致的法律后果,本站均不負(fù)任何責(zé)任。

聯(lián)系QQ:835971066 | 郵箱:835971066#qq.com(#換成@)

Copyright © 2002-2020 腳本教程網(wǎng) 版權(quán)所有