我定义了一个浮点型变量a,为什么运行结果会有差异?
单精度浮点型:我定义了一个浮点型变量a,为什么运行结果会有差异??
1)由于计算机内部以二进制保存,所以十进制的有限位的小数,在计算机内部会是一个无限位的小数。
例如 十进制的0.9虽然只有一位小数,转成2进制是无限循环小数0.1110011001100110011...
2)计算机保存浮点数的精度有限,例如float可以保留十进制最多7位(二进制23位)有效数字,double 可以保留十进制15~16位(二进制52位)有效数字。那有效数字以后的就被忽略了。
例如上面的0.9的表示受精度所限,精度以后的就被忽略了,这样
float时,它是0.89999998
double时,它是0.90000000000000002
问:计算机系统1.单精度浮点数在计算机中时如何编码的? 2.整数在计算机中是如何编码的? 8.简述为什么计算机中常采用补码表示
答:1.浮点数一般使用阶和尾数的形式编码。主要由数符,尾数和阶码组成。IEEE 754标准,阶码使用移码,尾数使用源码 2.整数在计算机中一般使用补码编码,也有源码...详情>>
答:详情>>
问:请围绕“无忧科技”写一段话。主要在网络技术、IT、电脑技术方面的。谢谢!!!
答:今天,老师布置了一篇作文。要求是:把今天教的这篇课文读给爸爸或妈妈听,请他们说说科技发展带来的发展,再把他们的话写下来。 一回到家,我就放开嗓门大声嚷嚷道:“妈...详情>>
答:视频线接触不良。换条视频线 显卡烧了。换个显卡 内存模块有问题。换内存试试 cpu过热问题。或是散热不好,风扇坏了 显示器问题。试试把显示器接到其它主机试试详情>>