Born Digital サポート

Created on | Updated on

float,intの制限（MEL）

float及びintで扱える値には精度と最大サイズに制限があります。　これは各環境に依存します。　例えば筆者の環境では、intの「1234567891234567891」は正しく扱えますが、「12345678912345678912」は望ましい結果とはなっていません。

print(float(12345678912345678));
Result:12345678912345678

print(float(123456789123456789));
Result:123456789123456784

print(float(1234567891234567891));
Result:1234567891234567936

print(float(12345678912345678912));
Result:9223372036854775808

 

print(int(1234567891234567891));
Result:1234567891234567891

print(int(12345678912345678912));
Result:9223372036854775807

print(int(123456789123456789123));
Result:9223372036854775807

print(int(123456789123456789124));
Result:9223372036854775807

問題が解決しない場合は、Born Digital サポートまでお問い合わせ下さい。

※ 問い合わせ対応はBorn Digitalより製品をご購入頂きましたお客様のみのサービスとなります。ご了承下さい。
サポート問い合わせ

関連リンク一覧