Python 标準類庫-數字和數學子產品之decimal使用簡介

标準類庫-數字和數學子產品之decimal使用簡介

by:授客 QQ：1033553122

例子

>>>from decimal import *

>>>getcontext()

Context(prec=28, rounding=ROUND_HALF_EVEN, Emin=-999999, Emax=999999, capitals=1, clamp=0, flags=[], traps=[InvalidOperation, DivisionByZero, Overflow])

>>>Decimal('5')/3

Decimal('1.666666666666666666666666667')

>>>getcontext().prec = 6 # 設定精度，即最大小數位數

Decimal('1.66667')

>>>getcontext().prec = 2

Decimal('1.7')

>>>Decimal('5')/Decimal(3)

>>>Decimal('3.14')

Decimal('3.14')

>>>Decimal('3.14') * Decimal(0.5)

Decimal('1.570')

>>>Decimal('3.1415926535')

Decimal('3.1415926535')

>>>Decimal('NaN')

Decimal('NaN')

>>>Decimal('-Infinity')

Decimal('-Infinity')

結論：當且僅當“計算結果”小數位數超過getcontext()設定的精度時，才會舍去超過精度部分的小數位數

作者：授客

QQ：1033553122

全國軟體測試QQ交流群：7156436

Git位址：https://gitee.com/ishouke

友情提示：限于時間倉促，文中可能存在錯誤，歡迎指正、評論！

作者五行缺錢，如果覺得文章對您有幫助，請掃描下邊的二維碼打賞作者，金額随意，您的支援将是我繼續創作的源動力，打賞後如有任何疑問，請聯系我!!!

           微信打賞                       

支付寶打賞                  全國軟體測試交流QQ群