2ちゃんねる ■掲示板に戻る■ 全部 1- 最新50    

■ このスレッドは過去ログ倉庫に格納されています

有効数字について教えてくれ

1 :Nanashi_et_al.:2018/06/28(木) 00:30:40.69 .net
二つの測定値a,bがある。積abを求めよ。
a=1.2 ,b=1.9
本来ならab=2.28≒2.3…@となるはずや
しかーし
aの幅は1.15≦a≦1.24 ,bの幅は1.85≦b≦1.94
ゆえに
最小ab=1.15×1.85=2.1275≒2.1
最大ab=1.24×1.94=2.4056≒2.4
本来の答え2.3の幅は2.25≦2.3≦2.34やから
2.1も2.4もこの範囲にないんや
これおかしくないか?

2 :Nanashi_et_al.:2018/06/28(木) 02:44:57.49 .net
('仄')パイパイ

3 :Nanashi_et_al.:2018/06/28(木) 13:26:47.57 .net
>>1
> 本来の答え2.3の幅は2.25≦2.3≦2.34やから

これが間違い
エラーバーのある測定値に演算を施せば、演算結果のエラーバーの幅は施したのがどういう演算なのかに応じて様々に変わる

総レス数 3
1 KB
掲示板に戻る 全部 前100 次100 最新50
read.cgi ver 2014.07.20.01.SC 2014/07/20 D ★