MENU

カテゴリー

人気の投稿とページ

  • 電磁弁(ソレノイドバルブ)とは?Re:ゼロから始める空気圧回路
  • エクセルで一次元熱伝導方程式を解く
  • 層流・乱流とレイノルズ数の関係について
  • 弾性流体潤滑(EHL)とは
  • ヘルツの接触理論(Hertzian contact)とは、プログラミングもしてみた
  • 単位変換が苦手な人へテストで単位換算ミスをしない方法
  • 収束計算 収束計算は何故必要なの?
  • 表面テクスチャリング(テクスチャ)とは
  • 中心差分法とは
  • Ngraphの使い方 データ挿入からグラフ貼り付けまで

It's a piece of cake

  • Home
  • お問い合わせ
  • 自己紹介
  • プライバシーポリシー

数値計算と変換誤差

2019年12月22日

数値計算と変換誤差 どうもYukiです。 今回は数値計算をプログラミングしていく中で、気を付けたい数値計算と変換誤差について書いていきたいと思います。   2進数と10進数 2進数、10進数という言葉、聞いたこ…

Fortran 数値計算の基本、do文IF文の組み合わせ例も解説してます

2020年5月24日

どうもYukiです。 2018年9月現在、大学院に所属し、研究の一環でプログラミング(言語はFortran)をしてます。 今まで、プログラミングに一度も触れてこなかったのですが、研究室に配属され、シミュレーションソフトを…

  • <
  • 1
  • …
  • 14
  • 15
  • 16

カテゴリー

人気の投稿とページ

  • 電磁弁(ソレノイドバルブ)とは?Re:ゼロから始める空気圧回路
  • エクセルで一次元熱伝導方程式を解く
  • 層流・乱流とレイノルズ数の関係について
  • 弾性流体潤滑(EHL)とは
  • ヘルツの接触理論(Hertzian contact)とは、プログラミングもしてみた
  • 単位変換が苦手な人へテストで単位換算ミスをしない方法
  • 収束計算 収束計算は何故必要なの?
  • 表面テクスチャリング(テクスチャ)とは
  • 中心差分法とは
  • Ngraphの使い方 データ挿入からグラフ貼り付けまで

©Copyright2022 It's a piece of cake.All Rights Reserved.