Ch2 数值计算的基本概念(15)

数值计算

【具有有限精度的浮点数在数值计算中的问题】(舍 具有有限精度的浮点数在数值计算中的问题】 舍入误差的影响) 入误差的影响

例2.3 用Matlab进行简单算术计算 进行简单算术计算 计算结果: 计算结果 !! format long x=4/3-1 y=3*x z=1-y z= 2.220446049250313e-016 y= 1.00000000000000 x= 0.33333333333333

百度搜索“77cn”或“免费范文网”即可找到本站免费阅读全部范文。收藏本站方便下次阅读，免费范文网，提供经典小说教育文库Ch2 数值计算的基本概念(15)在线全文阅读。