天天看點

oracle number資料類型的精度

大家好,又見面了,我是你們的朋友全棧君。1、number(p,s)

p: 1—38

s: -84—127

a、s > 0 (精确到小數點右邊 s 位,并四舍五入 。然後檢驗有效數位是否 <= p)

例如:number(5,2) 有效數字最多是5位,保留小數點後2位;

123.45 — 123.45

123 — 123.00

1.2356 — 1.24

0.001 — 0.00

b、s < 0 (精确到小數點左邊 s 位,并四舍五入 。然後檢驗有效數位是否 <= p + |s|)

例如:number(5,-2) 小數點左邊最後2位四舍五入,最多7位有效數字

123456 — 123460

1234567.6789 — 1234600

1 — 0

總結:在 p < s 這種情況下 隻能用來存放大于0小于1的小數。

在 p > s 這種情況下 小數點前最多隻能插入:p – s個數字,但小數點後的數字可以是任意長度(儲存時會四舍五入)

釋出者:全棧程式員棧長,轉載請注明出處:https://javaforall.cn/163914.html原文連結:https://javaforall.cn