小数
小数
jdh小数在内存中的表示
定点表示法
小数点的位置是固定的,小数点左边的数字表示整数部分,小数点右边的数字表示小数部分
。
优点 : 简单、直观、易于计算
缺点 : 存储空间浪费、运算速度慢、精度受限(但精度高)
浮点数
IEEE 754标准
(主流方式)定义了两种浮点数格式:单精度(32位)和双精度(64位)。
科学计数法
二进制科学计数法,指数部分用e
表示,e
的位置是固定的,左边的数字表示整数部分,右边的数字表示小数部分。
例;0.000011
=1.1E-101
IEEE 754标准
补充一个内存真值公式
评论
匿名评论隐私政策