摘要:
計算機存儲浮點數,遵循IEEE754標準。對于保留小數位,遵循“修約”規則。 修約:四舍六入五湊偶。對于保留 n n n 位小數,則看第 n + 1 n+1 n+1 位。 第 n 位 = { 第 n 位 , 第 n + 1 位 ≤ 4 第 n 位 + 1 , 第 n + 1 位 ≥ 6 第 n 位 閱讀全文
摘要:
IEEE-754 中的舍入方法 并非所有實數都可以精確地存儲為浮點數。 考慮一個以歸一化浮點數形式表示的實數: x = ± 1. b 1 b 2 b 3 . . . b n . . . × 2 m x = \pm 1.b_1 b_2 b_3 ... b_n ... \times 2^m x=±1.b 閱讀全文