2018-04-09から1日間の記事一覧
はじめに 浮動小数点型の構造 丸め誤差(round-off error) 桁落ち(cancellation error) 情報落ち(loss of trailing digit) 打ち切り誤差(truncation error)
はじめに 浮動小数点型の構造 丸め誤差(round-off error) 桁落ち(cancellation error) 情報落ち(loss of trailing digit) 打ち切り誤差(truncation error)