数值计算
§2.1 浮点数与舍入误差
Matlab:IEEE标准的双精度二进制数(用64位存储一 : 的双精度二进制数( 位存储一 个数) 个数)(since 1985) ) 尾数符号 尾数 阶码(包括符号) 阶码(包括符号) 11
1 52 IEEE双精度二进制数 双精度二进制数: 双精度二进制数
x = ±(1 + f ) × 2e其中,尾数f是满足
0 ≤ f < 1 的二进制小数 ; 52 52f是正整数且满足0 ≤ 2 f < 252 即2
指数e满足
1022 ≤ e < 1023
百度搜索“77cn”或“免费范文网”即可找到本站免费阅读全部范文。收藏本站方便下次阅读,免费范文网,提供经典小说教育文库Ch2 数值计算的基本概念(5)在线全文阅读。
相关推荐: