数値計算と変換誤差 2019年12月22日 数値計算と変換誤差 どうもYukiです。 今回は数値計算をプログラミングしていく中で、気を付けたい数値計算と変換誤差について書いていきたいと思います。 2進数と10進数 2進数、10進数という言葉、聞いたこ…
Fortran 数値計算の基本、do文IF文の組み合わせ例も解説してます 2020年5月24日 どうもYukiです。 2018年9月現在、大学院に所属し、研究の一環でプログラミング（言語はFortran）をしてます。 今まで、プログラミングに一度も触れてこなかったのですが、研究室に配属され、シミュレーションソフトを…
