老闆,用float存儲金額為什麼要扣我工資?

作者:何甜甜在嗎

公司最近在做交易系統,交易系統肯定是要和錢打交道的,和錢有關,自然而然很容易想到用float存儲,但是使用float存儲金額做的計算是近似計算。老闆,用float做計算造成公司損失的錢都往你工資里扣。

老闆,用float存儲金額為什麼要扣我工資?

哼,扣工資就扣工資。但還是得靜下心來想想為什麼不能用float。

為什麼不能使用float存儲金額

首先看個例子:FloatTest.java

<code>public class FloatTest {
    public static void main(String[] args) {
        float f1 = 6.6f;
        float f2 = 1.3f;
        System.out.println(f1 + f2);
    }
}/<code>

結果:7.8999996 和自己口算的值竟然不一樣

老闆,用float存儲金額為什麼要扣我工資?

計算機只認識0和1,所有類型的計算首先會轉化為二進制的計算。

從計算機二進制角度計算 6.6 + 1.3 的過程

float底層存儲

計算是由CPU來完成的,CPU表示浮點數由三部分組成 分為三個部分,符號位(sign),指數部分(exponent)和有效部分(fraction, mantissa)。其中float總共佔用32位,符號位,指數部分,有效部分各佔1位,8位,23位。

老闆,用float存儲金額為什麼要扣我工資?

二進制的轉化

對於實數,轉化為二進制分為兩部分,第一部分整數部分,第二部分是小數部分。整數部分計算二進制大家都很熟悉。

整數部分的計算:6轉化為二進制


老闆,用float存儲金額為什麼要扣我工資?

所以6最終的二進制為110

小數部分的計算

將小數乘以2,取整數部分作為二進制的值,然後再將小數乘以2,再取整數部分,以此往復循環。

0.6轉化為二進制


老闆,用float存儲金額為什麼要扣我工資?

…進入循環,循環體為1001 所以0.6轉化為二進制為0.10011001… 6.6轉化為二進制為110.10011001…

規約化

通過規約化將小數轉為規約形式,類似科學計數法,就是保證小數點前面有一個有效數字。在二進制裡面,就是保證整數位是一個1。110.10011001規約化為:1.1010011001*2^2。

指數偏移值

指數偏移值 = 固定值 + 規約化的指數值 固定值=2^(e-1)-1,其中的e為存儲指數部分的比特位數,前面提到的float為8位。所以float中規定化值為127 6.6的二進制值規約化以後為1.1010011001*2^2,指數是2,所以偏移值就是127+2=129,轉換為二進制就是10000001。

拼接6.6

6.6為正數,符號位為0,指數部分為偏移值的二進制10000001,有效部分為規約形式的小數部分,取小數的前23位即10100110011001100110011,最後拼接到一起即 01000000110100110011001100110011。

到這裡已經大致可以知道float為什麼不精確了,首先在存儲的時候就會造成精度損失了,在這裡小數部分的二進制是循環的,但是仍然只能取前23位。double造成精度損失的原因也是如此。推薦閱讀:金融系統中正確的金額計算及存儲方式。

求和

原來如此

老闆,用float存儲金額為什麼要扣我工資?

不能使用float那用什麼類型存儲金額?

使用int 數據庫存儲的是金額的分值,顯示的時候在轉化為元。Java中的運算神器BigDecimal,這篇也推薦看下。關注微信公眾號:Java技術棧,在後臺回覆:Java,可以獲取我整理的 N 篇 Java 教程,都是乾貨。

使用decimal mysql中decimal存儲類型的使用

<code>column_name  decimal(P,D);  /<code>

D:代表小數點後的位數 P:有效數字數的精度,小數點也算一位 測試例子 數據表的創建:

<code>CREATE TABLE `test_decimal` (  
  `id` int(11) NOT NULL,  
  `amount` decimal(10,2) NOT NULL  
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4/<code>

對應的DAO層代碼:TestDecimalDao.java

<code>/**  
 * @description dao層  
 *  
 * @author JoyHe  
 * @date 2018/11/05  
 * @version 1.0  
 */  
@Repository  
public interface TestDecimalDao {  
    @Select("select * from test_decimal where id = #{id}")  
    TestDecimal getTestDecimal(int id);  
}  /<code>

測試類:TestDecimalDaoTest.java

<code>/**  
 * @description 測試類  
 *  
 * @author JoyHe  
 * @date 2018/11/05  
 * @version 1.0  
 */  
public class TestDecimalDaoTest extends BaseTest {  
    @Resource  
    private TestDecimalDao testDecimalDao;  

    @Test  
    public void test() {  
        TestDecimal testDecimal1 =   testDecimalDao.getTestDecimal(1);  
        TestDecimal testDecimal2 =   testDecimalDao.getTestDecimal(2);  
        BigDecimal result =   testDecimal1.getAmount().add(testDecimal2.getAmount());  
        System.out.println(result.floatValue());  
    }  
} /<code>

說明:jdbcType為decimal轉化為javaType為BigDecimal 測試結果:

老闆,用float存儲金額為什麼要扣我工資?

是符合預期的7.9

使用decimal存儲類型的缺點

1、佔用存儲空間。

浮點類型在存儲同樣範圍的值時,通常比decimal使用更少的空間

2、使用decimal計算效率不高

因為使用decimal時間和空間開銷較大,選用int作為數據庫存儲格式比較合適,可以同時避免浮點存儲計算的不精確和decimal的缺點。對於存儲數值較大或者保留小數較多的數字,數據庫存儲結構可以選擇bigint。

https://juejin.im/post/5c08db5ff265da611e4d7417


分享到:


相關文章: