淺談sqlserver下float的不確定性
很多時(shí)候,大家都知道,浮點(diǎn)型這個(gè)東西,本身存儲就是一個(gè)不確定的數(shù)值,你永遠(yuǎn)無法知道,它是 0 = 0.00000000000000123 還是 0 = 0.00000000000999這樣的東西。也許一開始使用的時(shí)候沒有問題,但是有時(shí)候做統(tǒng)計(jì)的時(shí)候,就會看出端倪
簡單的舉個(gè)例子,就知道統(tǒng)計(jì)的時(shí)候,有可能出現(xiàn)意外的效果,導(dǎo)致可能需要存儲過程或者接收程序的代碼左額外的取舍數(shù)位的處理,所以在此其實(shí)我是推薦使用Numeric來替代float進(jìn)行一個(gè)替代使用,避免一個(gè)sum ,然后明明明細(xì)看每一條數(shù)據(jù)都是正常的2,3位小數(shù),一匯總就變成了8,9位的樣子
CREATE TABLE #T (ID INT IDENTITY,Va FLOAT)
CREATE TABLE #T1 (ID INT IDENTITY,Va NUMERIC(15,9))
--分開執(zhí)行-------------------------------------------------
INSERT INTO #T
( Va )
VALUES ( 0.60000000)
INSERT INTO #T1
( Va )
VALUES ( 0.60000000)
GO 100
SELECT SUM(Va) FROM #T
SELECT SUM(Va) FROM #T1
----------------------
60.0000000000001
(1 行受影響)
---------------------------------------
60.000000000
(1 行受影響)
總結(jié)
以上就是本文關(guān)于淺談sqlserver下float的不確定性的全部內(nèi)容,希望對大家有所幫助。感興趣的朋友可以參閱本站:簡述Redis和MySQL的區(qū)別、ORACLE SQL語句優(yōu)化技術(shù)要點(diǎn)解析、MYSQL子查詢和嵌套查詢優(yōu)化實(shí)例解析等,有什么問題可以隨時(shí)留言,小編會及時(shí)回復(fù)大家。感謝各位對我們的支持!
上一篇:SQL update 多表關(guān)聯(lián)更新的實(shí)現(xiàn)代碼
欄 目:MsSql
下一篇:SQL Server 2008 R2占用cpu、內(nèi)存越來越大的兩種解決方法
本文標(biāo)題:淺談sqlserver下float的不確定性
本文地址:http://www.jygsgssxh.com/a1/MsSql/10421.html
您可能感興趣的文章
- 01-10SQLServer存儲過程實(shí)現(xiàn)單條件分頁
- 01-10SQLServer中防止并發(fā)插入重復(fù)數(shù)據(jù)的方法詳解
- 01-10SqlServer 在事務(wù)中獲得自增ID的實(shí)例代碼
- 01-10SqlServer快速檢索某個(gè)字段在哪些存儲過程中(sql 語句)
- 01-10SQLServer性能優(yōu)化--間接實(shí)現(xiàn)函數(shù)索引或者Hash索引
- 01-10SQLServer數(shù)據(jù)庫中開啟CDC導(dǎo)致事務(wù)日志空間被占滿的原因
- 01-10SQLServer中使用擴(kuò)展事件獲取Session級別的等待信息及SQLServer 2016中
- 01-10SQLServer2008新實(shí)例遠(yuǎn)程數(shù)據(jù)庫鏈接問題(sp
- 01-10SQLServer存儲過程創(chuàng)建和修改的實(shí)現(xiàn)代碼
- 01-10Sqlserver事務(wù)備份和還原的實(shí)例代碼(必看)


閱讀排行
本欄相關(guān)
- 01-10SQLServer存儲過程實(shí)現(xiàn)單條件分頁
- 01-10SQLServer中防止并發(fā)插入重復(fù)數(shù)據(jù)的方
- 01-10SQL Server 2012降級至2008R2的方法
- 01-10SQL Server性能調(diào)優(yōu)之緩存
- 01-10SQL Server數(shù)據(jù)庫定時(shí)自動備份
- 01-10Sql Server 死鎖的監(jiān)控分析解決思路
- 01-10實(shí)現(xiàn)SQL Server 原生數(shù)據(jù)從XML生成JSON數(shù)
- 01-10SqlServer快速檢索某個(gè)字段在哪些存儲
- 01-10SqlServer 在事務(wù)中獲得自增ID的實(shí)例代
- 01-10SQLServer性能優(yōu)化--間接實(shí)現(xiàn)函數(shù)索引或
隨機(jī)閱讀
- 01-11ajax實(shí)現(xiàn)頁面的局部加載
- 01-10使用C語言求解撲克牌的順子及n個(gè)骰子
- 01-11Mac OSX 打開原生自帶讀寫NTFS功能(圖文
- 04-02jquery與jsp,用jquery
- 01-10C#中split用法實(shí)例總結(jié)
- 08-05dedecms(織夢)副欄目數(shù)量限制代碼修改
- 01-10delphi制作wav文件的方法
- 08-05DEDE織夢data目錄下的sessions文件夾有什
- 08-05織夢dedecms什么時(shí)候用欄目交叉功能?
- 01-10SublimeText編譯C開發(fā)環(huán)境設(shè)置


