电子表格里最大数值
发表于 : 2020-12-01 17:54
我分别在WPS和LibreOffice Calc输入123456789.0123456789,两款软件处理的结果略有不同。
WPS中显示为123456789.012345
Calc中显示为123456789.012346
注意,最后的尾数不一样。两者对浮点数都是最大支持15位数。
如果是整数呢?
在WPS里超过12位数字,就会自动变成文本类型。这有些自作聪明
Calc按位数,达到17位,会按科学计数法处理成浮点数。按道理,整数最大值应该是2的n次方,懒得去测试了。
WPS中显示为123456789.012345
Calc中显示为123456789.012346
注意,最后的尾数不一样。两者对浮点数都是最大支持15位数。
如果是整数呢?
在WPS里超过12位数字,就会自动变成文本类型。这有些自作聪明
Calc按位数,达到17位,会按科学计数法处理成浮点数。按道理,整数最大值应该是2的n次方,懒得去测试了。