■ このスレッドは過去ログ倉庫に格納されています
有効数字について教えてくれ
- 1 :Nanashi_et_al.:2018/06/28(木) 00:30:40.69 .net
- 二つの測定値a,bがある。積abを求めよ。
a=1.2 ,b=1.9
本来ならab=2.28≒2.3…@となるはずや
しかーし
aの幅は1.15≦a≦1.24 ,bの幅は1.85≦b≦1.94
ゆえに
最小ab=1.15×1.85=2.1275≒2.1
最大ab=1.24×1.94=2.4056≒2.4
本来の答え2.3の幅は2.25≦2.3≦2.34やから
2.1も2.4もこの範囲にないんや
これおかしくないか?
- 2 :Nanashi_et_al.:2018/06/28(木) 02:44:57.49 .net
- ('仄')パイパイ
- 3 :Nanashi_et_al.:2018/06/28(木) 13:26:47.57 .net
- >>1
> 本来の答え2.3の幅は2.25≦2.3≦2.34やから
これが間違い
エラーバーのある測定値に演算を施せば、演算結果のエラーバーの幅は施したのがどういう演算なのかに応じて様々に変わる
総レス数 3
1 KB
掲示板に戻る
全部
前100
次100
最新50
read.cgi ver 2014.07.20.01.SC 2014/07/20 D ★