19日に更新してた

アフィリエイトはないよ

2021-11-01から1ヶ月間の記事一覧

numpy.power は2の31乗とか10の10乗とかの大きい計算をするときには、引数のどちらかを float にしておかないと合わなくなるみたい

win10 home上の jupyter notebook で*1何故か計算が合わないので、printdebug していたら、numpy.power がどうも合わない*2。 import math import numpy as np for i in range(1,16): print(f"{i:>2} {pow(10,i):>20} {math.pow(10,i):>20} {np.power(10,i):…