Created on | Updated on
フォローする

float,intの制限(MEL)

float及びintで扱える値には精度と最大サイズに制限があります。 これは各環境に依存します。 例えば筆者の環境では、intの「1234567891234567891」は正しく扱えますが、「12345678912345678912」は望ましい結果とはなっていません。

print(float(12345678912345678));
Result:12345678912345678

print(float(123456789123456789));
Result:123456789123456784

print(float(1234567891234567891));
Result:1234567891234567936

print(float(12345678912345678912));
Result:9223372036854775808

 

print(int(1234567891234567891));
Result:1234567891234567891

print(int(12345678912345678912));
Result:9223372036854775807

print(int(123456789123456789123));
Result:9223372036854775807

print(int(123456789123456789124));
Result:9223372036854775807