python decimal模块精度问题

kafei000

最近用到高精度计算，就用到了decimal模块，其他的都没问题，当很小的值保留成七位小数的时候，会转变为科学计数法，保留成六位小数都没问题

[Asm] 纯文本查看 复制代码

>>> from decimal import Decimal
>>> Decimal('0.0000000').quantize(Decimal('1.0000000'))  
Decimal('0E-7')
>>> Decimal('0.0000000').quantize(Decimal('1.000000'))
Decimal('0.000000')
>>> Decimal('0.0000001').quantize(Decimal('1.0000000'))
Decimal('1E-7')

求助大佬们， 如何将Decimal('0E-7')转变成Decimal('0.0000000')或者直接返回Decimal('0.0000000')

PeppaPig

print("{:.7f}".format(Decimal('0.0000001').quantize(Decimal('1.0000000'))))

无闻无问

单精度浮点数有效位6位，超过6位也无意义…

kafei000

无闻无问 发表于 2022-2-12 10:47
单精度浮点数有效位6位，超过6位也无意义…

所以我用decimal模块来进行高精度计算，