Embed Size (px)
Citation preview
Nagoya
Institute of
Technology
Nagoya Institute of Technology
計算機による数値表現
Nagoya Institute of Technology
Float型のビット表現を求めるC++プログラム
Nagoya Institute of Technology
計算機による数値表現
Nagoya Institute of Technology
浮動小数点表現(float型)
Nagoya Institute of Technology
Float型の -5.625
Nagoya Institute of Technology
小テスト1-1
Nagoya Institute of Technology
ヒント
Nagoya Institute of Technology
小テスト1-1の解答（その1）
Nagoya Institute of Technology
小テスト1-1の解答（その2）
Nagoya Institute of Technology
特殊な数値
Nagoya Institute of Technology
特殊な数値
Nagoya Institute of Technology
小テスト1-2(最大数)
Nagoya Institute of Technology
小テスト1-2(最大数)の解答
Nagoya Institute of Technology
小テスト1-2(最小数)
Nagoya Institute of Technology
小テスト1-2(最小数)の解答
Nagoya Institute of Technology
数値計算における誤差
Nagoya Institute of Technology
丸め誤差
Nagoya Institute of Technology
丸め誤差
Nagoya Institute of Technology
丸め誤差確認プログラムの実行結果
Nagoya Institute of Technology
a = 0.1 in float型
Nagoya Institute of Technology
a = 0.25 in float型
Nagoya Institute of Technology
情報落ち
Nagoya Institute of Technology
どちらから計算するか
Nagoya Institute of Technology
情報落ち確認プログラムの実行結果
Nagoya Institute of Technology
小テスト1-3
Nagoya Institute of Technology
小テスト1-3の解答
Nagoya Institute of Technology
小テスト1-3の解答
Nagoya Institute of Technology
情報落ちの誤差計算プログラム
Nagoya Institute of Technology
情報落ち
Nagoya Institute of Technology
桁落ち
Nagoya Institute of Technology
解の公式を用いたプログラム
Nagoya Institute of Technology
float型とdouble型
Nagoya Institute of Technology
float型
Nagoya Institute of Technology
double型
Nagoya Institute of Technology
プログラミング課題
Nagoya Institute of Technology
プログラミング課題のヒント
