浮点数

不同时间段写的，不同参考，词语翻译不一样，下列词语是等价的

规格数=规范数=正规数

非规格数=非规范数=次正规数

怎么表示

数学中的数

数学中的数是怎么表示的，
- 有两种方法，一种是普通计数如$12345$和$123.45$，还有一种是科学计数法，如$1.2345\times10^4$和$1.2345\times10^{-2}$
- 维基
  
  科学记数法（英语：Scientific notation，英国则称为 Standard form），又称为科学记数法或科学记法，是一种数字的表示法。科学记数法最早由阿基米德提出。
科学记数法有什么好处
- 非常大数和非常小数表示时好处非常明显，可以很清晰看出量级和大小，如$123450000000000000000=1.2345\times10^{20},0.00000000012345=1.2345\times10^{-10}$
- 当我们要表示非常大或非常小的数时，如果用一般的方法，将一个数的所有位数都写出来，会很难直接确知它的大小，还会浪费很多空间。但若使用科学记数法，一个数的数量级、精确度和数值都较容易看出，例如于化学里，以公克表示一个质子质量的数值为:0.00000000000000000000000167262158, 但如果将它转成科学记数法的形式，便可不需要写那么多零︰$1.67262158\times 10^{-24}$，又例如，若以公斤为表示单位，则木星的质量值约为：1898130000000000000000000000
  
  像这样的大数亦无法直接用列出所有位数的方式表达出精确度，但科学记数法就能用下方形式明白的表示出来：
  
  $1.89813\times 10^{27}$

计算机中的数

计算机中的数也是类似，我们可以有多种存放方法，
- 从这里开始下面就只讨论小数（浮点数）的存放方法
- 比如0.00000000000000000000000167262158，可以先存数值本身即0 00000000000000000000000167262158，再存一个1表示小数点在哪，在第一个0的后面
- 除了上面的存放方法还有其他存放方法，计算机发展初期对于小数还有各种各样的存法，各家制定各家规则的，互相不兼容，写程序还要写几套很麻烦，后来IEEE选择一个较好的制定成标准，以后大家都别各自搞各自的了，都按照这个来，这个标准就是IEEE754二进制浮点数算术标准

浮点表示对形如$V=x\times 2^y$的有理数进行编码。它对执行涉及非常大的数字$(|V|>>0)$、非常接近于$0(|V|<<1)$的数字，以及更普遍地作为实数运算的近似值的计算，是很有用的。
直到20世纪80年代，每个计算机制造商都设计了自己的表示浮点数的规则，以及对浮点数执行运算的细节。另外，它们常常不会太多地关注运算的精确性，而把实现的速度和简便性看得比数字梢确性更重要。
勹大约在1985年，这些情况随看IEEE标准754的推出而改变了，这是一个仔细制订的表示浮点数及其运算的标准。这项工作是从1976年开始由Intel赞助的，与8087的设计同时进行，8087是一种为8086处理器提供浮点支持的芯片。他们请William Kahan(加州大学伯克利分校的一位教授）作为顾问，帮助设计未来处理器浮点标准。他们支持Kahan 加入一个IEEE资助的制订工业标准的委员会。这个委员会最终采纳的标准非常接近于 Kahan为Intel设计的标准。目前，实际上所有的计算机都支持这个后来被称为IEEE浮点的标准。这大大提高了科学应用程序在不同机器上的可移植性。

IEEE754转化过程

IEEE754存储浮点数有点类似于十进制的科学记数法表示数

存储在32位的float里面，其中符号一位，尾数23位，指数8位

31 30 29 28 27 26 25 24 23 22 21 20 19 18 17 16 15 14 13 12 11 10 9 8 7 6 5 4 3 2 1 0

s=sign e=exponent(8 bits) f=fraction(23 bit)

规格数

$(-1)^{s} \ 10^{e-1111111}\times 1.f=(-1)^{s} \ 2^{e-127}\times 1.f$

非规格数

$(-1)^{s} \ 10^{1-1111111}\times 0.f=(-1)^{s} \ 2^{1-127}\times 0.f$

规格数(10.5存储为例)

下面以32位的float为例说明10.5的存储格式

规范化

转二进制

$10.5_{(10)}=1010.1_{(2)}$

转二为底的科学记数法形式

$1010.1_{(2)}=1.0101_{(2)}\times2_{(10)}^{3_{(10)}}$
$3_{(10)}$为指数
- 为偏移前指数
$1.0101_{(2)}$为尾数
- 必须保证尾数的第一位不是零，且小数点在第一位和第二位之间
  
  十进制第一位不是0可以是1-9，而二进制第一位不是零只能是1

性质符号填充

最高位填充符号，正填充0，负填充1
10.5是正数填充0

0
^
31	30	29	28	27	26	25	24	23	22	21	20	19	18	17	16	15	14~3	2	1	0
sign	exponent(8 bits)								fraction(23 bit)

尾数转化填充

隐藏高位1和点

$1.0101\to 0101$
- 既然尾数第一位不能是0只能是1，大家都是1和点，也没有写的不要了都省略也行

低位补零

$0101\to 0101 0000 0000 0000 0000 000$
- 补齐23位

填充尾数

讲补齐后尾数填充在低23位上

0									0	1	0	1	0	0	0	0	0...	0	0	0
									^	^	^	^	^	^	^	^	^ all 0	^	^	^
31	30	29	28	27	26	25	24	23	22	21	20	19	18	17	16	15	14~3	2	1	0
sign	exponent(8 bits)								fraction(23 bit)

指数转化填充

偏移前的指数加偏移量

$3_{(10)}+127_{(10)}=130_{(10)}$
- 在32位单精度类型中，这个偏移量是127
  
  在64位双精度类型中，偏移量是1023

偏移后的指数转二进制

$130_{(10)}=1000 0010_{(2)}$

填充指数

讲补齐后尾数填充在性质符号位后的高8位上

0	1	0	0	0	0	0	1	0	0	1	0	1	0	0	0	0	0...	0	0	0
	^	^	^	^	^	^	^	^
31	30	29	28	27	26	25	24	23	22	21	20	19	18	17	16	15	14~3	2	1	0
sign	exponent(8 bits)								fraction(23 bit)

1	0 1000 0010 0101 0000 0000 0000 0000 000

测试结果

测试网站

规格数读取(10.5为例子)

判断是不是规格数

除了符号位的高八位不全为0或者1，是规格数
为$sign \ 2^{exponent}\times fraction$形式
看其除了符号位的高八位是不是都是0是不是都是1
- 如果不都是0且不都是1，则规格化的数
- 如果都是0，则为非规格化的数
- 如果都是1
  - 如果后面低23位全为0，则为无穷大
  - 如果后面低23位不全为0，则为NaN，not a number

0	1	0	0	0	0	0	1	0	0	1	0	1	0	0	0	0	0...	0	0	0
	^	^	^	^	^	^	^	^
31	30	29	28	27	26	25	24	23	22	21	20	19	18	17	16	15	14~3	2	1	0
sign	exponent(8 bits)								fraction(23 bit)

1	0 1000 0010 0101 0000 0000 0000 0000 000

拆分符号位

符号位为0为正的,代入式子
$sign \ 2^{exponent}\times fraction=+ \ 2^{exponent}\times fraction$
最高位为，符号位0是正的，1是负的

0	1	0	0	0	0	0	1	0	0	1	0	1	0	0	0	0	0...	0	0	0
^
31	30	29	28	27	26	25	24	23	22	21	20	19	18	17	16	15	14~3	2	1	0
sign	exponent(8 bits)								fraction(23 bit)

拆分指数部分

读取指数部分

1000 0010
- 除了符号位的高八位

0	1	0	0	0	0	0	1	0	0	1	0	1	0	0	0	0	0...	0	0	0
	^	^	^	^	^	^	^	^
31	30	29	28	27	26	25	24	23	22	21	20	19	18	17	16	15	14~3	2	1	0
sign	exponent(8 bits)								fraction(23 bit)

指数部分转10进制偏移后指数

$10000010_{(2)}\to 130_{(10)}$

减去偏移量转偏移前指数

$130_{(10)}-127_{(10)}=3_{(10)}$

代入式子

$+ \ 2_{(10)}^{exponent}\times fraction=+ \ 2_{(10)}^{3_{(10)}}\times fraction$

拆分尾数部分

读取低23位

0101 0000 0000 0000 0000 000

0	1	0	0	0	0	0	1	0	0	1	0	1	0	0	0	0	0...	0	0	0
									^	^	^	^	^	^	^	^	^	^	^	^
31	30	29	28	27	26	25	24	23	22	21	20	19	18	17	16	15	14~3	2	1	0
sign	exponent(8 bits)								fraction(23 bit)

去掉尾部0

0101 0000 0000 0000 0000 000 => 0101

补充高位1和点

$0101_{(2)}\to 1.0101_{(2)}$

代入式子

$+ \ 2_{(10)}^{3_{(10)}}\times 1.0101_{(2)}$

转化成科学记数法或者普通形式

$+ \ 2_{(10)}^{3_{(10)}}\times 1.0101_{(2)}=1010.1_{(2)}$
$1010.1_{(2)}=10.5_{(10)}$

非规格数(二进制读取为例)

读取 0 0000 0000 0110 0000 0000 0000 0000 000 为例

0	0	0	0	0	0	0	0	0	0	1	1	0	0	0	0	0	0...	0	0	0

31	30	29	28	27	26	25	24	23	22	21	20	19	18	17	16	15	14~3	2	1	0
sign	exponent(8 bits)								fraction(23 bit)

判断是不是非规格数

除符号位为的高八位全部为0，是非规格数
也是$sign \ 2^{exponent}\times fraction$形式

0	0	0	0	0	0	0	0	0	0	1	1	0	0	0	0	0	0...	0	0	0
	^	^	^	^	^	^	^	^
31	30	29	28	27	26	25	24	23	22	21	20	19	18	17	16	15	14~3	2	1	0
sign	exponent(8 bits)								fraction(23 bit)

读取符号位

符号位为0，为正
$+ \ 2^{exponent}\times fraction$

代入指数

非规格数指数固定为$1-127_{(10)}=-126_{(10)}$
- 非规格数指数是 1-偏移量（而不是$0-127=-127$）
  
  这是规定
  
  规格数指数才是实际指数-偏移量
$+ \ 2_{(10)}^{-126_{(10)}}\times fraction$

读取代入尾数

读取尾数

0110 0000 0000 0000 0000 000

0	0	0	0	0	0	0	0	0	0	1	1	0	0	0	0	0	0...	0	0	0
									^	^	^	^	^	^	^	^	^	^	^	^
31	30	29	28	27	26	25	24	23	22	21	20	19	18	17	16	15	14~3	2	1	0
sign	exponent(8 bits)								fraction(23 bit)

去掉尾部0

$0110 0000 0000 0000 0000 000_{(2)}\to011_{(2)}$

补充`0.`

$0110_{(2)}\to 0.011_{(2)}$
- 非规格数补充0.
  
  而规格数补充1.

代入式子

$+ \ 2_{(10)}^{-126_{(10)}}\times fraction\to + \ 2_{(10)}^{-126_{(10)}}\times 0.011_{(2)}$

转化成普通形式

$+ \ 2_{(10)}^{-126_{(10)}}\times 0.011_{(2)}\to + \ 2_{(10)}^{-126_{(10)}}\times 0.375_{(10)}\to 4.408103815583578155e-39$

注意用win10计算机算不出来，用手机计算机可以

测试结果

非规格数(写入是上面逆过程)

特殊数

最后一类数值是当指阶码（指数部分）全为1 的时候出现的。

当小数域全为0时，得到的值表示无穷，

当符号位为0时是正无穷 ,

或者当符号位为1时是负无穷。

当我们把两个非常大的数相乘，或者除以零时，无穷能够表示溢出的结果。

当小数域为非零时，结果值被称为”NaN”, 即 “不是一个数(Not a Number)” 的缩写。

一些运箕的结果不能是实数或无穷，就会返回这样的NaN 值，比如当计算$\sqrt{-1}$或$\infty-\infty$时。在某些应用中，表示未初始化的数据时，它们也很有用处。

这个不区分正负，都是NaN

无穷大

0	1	1	1	1	1	1	1	1	0	0	0	0	0	0	0	0	0	0	0	0
正无穷	^ 都是1								^ 都是0
31	30	29	28	27	26	25	24	23	22	21	20	19	18	17	16	15	14~3	2	1	0
sign	exponent(8 bits)								fraction(23 bit)

1	1	1	1	1	1	1	1	1	0	0	0	0	0	0	0	0	0	0	0	0
负无穷	^ 都是1								^ 都是0
31	30	29	28	27	26	25	24	23	22	21	20	19	18	17	16	15	14~3	2	1	0
sign	exponent(8 bits)								fraction(23 bit)

NaN

*	1	1	1	1	1	1	1	1	*	*	*	*	*	*	*	*	*	*	*	*
NaN	^ 都是1								^ *代表0或1都可以
31	30	29	28	27	26	25	24	23	22	21	20	19	18	17	16	15	14~3	2	1	0
sign	exponent(8 bits)								fraction(23 bit)

范围与精度

IEEE754

32位float

范围

影响因素

主要由指数部分决定

0	1	0	0	0	0	0	1	0	0	1	0	1	0	0	0	0	0...	0	0	0
	^	^	^	^	^	^	^	^
31	30	29	28	27	26	25	24	23	22	21	20	19	18	17	16	15	14~3	2	1	0
sign	exponent(8 bits)								fraction(23 bit)

#### 范围

下表中给出了重要的单精度存储格式位模式的示例。最大正正规数是以 IEEE 单精度格式表示的最大有限数。最小正次正规数是以 IEEE 单精度格式表示的最小正数。最小正正规数通常称为下溢阈值。（最大和最小正规数和次正规数的十进制值是近似的；对于所示的数字来说，它们是正确的。

公用名称	位模式（十六进制）	十进制值
+0	`00000000`	0.0
–0	`80000000`	–0.0
1	`3f800000`	1.0
2	`40000000`	2.0
最大正规数	`7f7fffff`	$3.40282347e+38$
最小正正规数	`00800000`	$1.17549435e–38=2^{-126}$
最大次正规数	`007fffff`	$1.17549421e–38$
最小正次正规数	`00000001`	$1.40129846e–45$
+∞	`7f800000`	正无穷
–∞	`ff800000`	负无穷
非数字	`7fc00000`	NaN

NaN（Not a Number, 非数）可以用任何满足 NaN 定义的位模式表示。在上表中显示的 NaN 十六进制值只是可用于表示 NaN 的众多位模式之一。

	公用名称	位模式（十六进制）	十进制值	备注
	+∞	`7f800000`	正无穷
	NaN大于最大正规数且不为正无穷			由于存储表示非数字，就无法表示数
	最大正规数	`7f7fffff`	$3.40282347e+38$
eg	普通正的正规数	`40000000`	2.0	中间的数也不一是连续的，是离散的且涉及精度
	最小正正规数	`00800000`	$1.17549435e–38=2^{-126}$
	最大次正规数	`007fffff`	$1.17549421e–38$
eg	普通的次正规数	`0x00600000`	$8.81620763117e-39$	非正规数有时候不归在float可表示的数里
	最小正次正规数	`00000001`	$1.40129846e–45$
err	小于最小次正规数且大于正0		无穷小的数	无法表示的数
	+0	`00000000`	0.0
	–0	`80000000`	–0.0
err	小于0且大于最大次负规数		无穷小的数	无法表示的数
	最大负次正规数	`80000001`	$-1.40129846e–45$
eg	普通的负次正规数	`0x80600000`	$-8.81620763117e-39$
	最大次负正规数	`807fffff`	$-1.17549421e–38$
	最大负正规数	`80800000`	$-1.17549435e–38=2^{-126}$
eg	普通负的正规数	`0xcc189680`	$-40000000.0$
	最小负正规数	`ff7fffff`	$-3.40282347e+38$
	NaN小于最小正规数且不为负无穷	`0x80189680`	$-2.25804113503e-39$	无法表示的数
	–∞	`ff800000`	负无穷

规格数，（正的负的都是）最大

规格数，（正的）最小

规格数，（负的）最大

规格数，（正的负的都是）最小

次规格数，（正的负的都是）最大

次规格数，（正的）最小

次规格数，（负的）最大

次规格数，（正的负的都是）最小

精度

$2^{23}=8388608$
这么多组合，可以表示这么多不同的数,8388608这个一个7位数，6位是准的，7位不一定准

同理64位，有1符号位，11指数位，52尾数位

$2^{52}=4503 5996 2737 0496$是一个16位数，至少保证15位数存储是准的，至少可能存储15位有效数字

误差

十转二误差
- 不是所有都可以表示为$\sum_{i=1}^{n}[0|1]\times2^{N_i},(N_i\in \text{整数},n\neq\infty)$
- 如$0.000110011001……$存储时会截断存储产生误差
不能准确存储下列
- 存储无穷大
- 和无穷小量(包括自然数+无穷小量形式)，
- 即有限的空间本身就是只能存储有限的离散的点
运算时产生无法准确存储的数据

参考

兰德尔E.布莱恩特.深入理解计算机系统[M].龚奕利,贺莲,译.原书第3版.北京:机械工业出版社,2019
https://docs.oracle.com/cd/E57201_01/html/E57330/z4000ac019178.html#scrolltoc
https://ciechanow.ski/exposing-floating-point/
https://people.eecs.berkeley.edu/~wkahan/ieee754status/754story.html
https://zh.wikipedia.org/wiki/IEEE_754
https://www.jianshu.com/p/8ee02e9bb57d
https://www.jianshu.com/p/d71e4287ffa8

测试

其他

浮点数

怎么表示

数学中的数

计算机中的数

IEEE754转化过程

规格数(10.5存储为例)

规范化

转二进制

转二为底的科学记数法形式

性质符号填充

尾数转化填充

隐藏高位1和点

低位补零

填充尾数

指数转化填充

偏移前的指数加偏移量

偏移后的指数转二进制

填充指数

测试结果

规格数读取(10.5为例子)

判断是不是规格数

拆分符号位

拆分指数部分

读取指数部分

指数部分转10进制偏移后指数

减去偏移量转偏移前指数

代入式子

拆分尾数部分

读取低23位

去掉尾部0

补充高位1和点

代入式子

转化成科学记数法或者普通形式

非规格数(二进制读取为例)

判断是不是非规格数

读取符号位

代入指数

读取代入尾数

读取尾数

去掉尾部0

补充0.

代入式子

转化成普通形式

测试结果

非规格数(写入是上面逆过程)

特殊数

无穷大

NaN

范围与精度

IEEE754

范围

影响因素

精度

误差

参考

补充`0.`