小数

小数在内存中的表示

定点表示法

小数点的位置是固定的,小数点左边的数字表示整数部分,小数点右边的数字表示小数部分

优点 : 简单、直观、易于计算

缺点 : 存储空间浪费、运算速度慢、精度受限(但精度高)

浮点数

IEEE 754标准(主流方式)定义了两种浮点数格式:单精度(32位)和双精度(64位)。

科学计数法

二进制科学计数法,指数部分用e表示,e的位置是固定的,左边的数字表示整数部分,右边的数字表示小数部分。
例;0.000011=1.1E-101

IEEE 754标准

补充一个内存真值公式