問１４
次の（１）～（５）は、計測の結果、得られた測定値を用いた計算である。
これらのうち、有効数字と単位の取り扱い方がともに正しいものを一つ選べ。
（１）\(0.51 \rm V + 2.2 V = 2.71 V\)
（２）\(0.670 \rm V ÷ 1.2 A = 0.558 Ω\)
（３）\(1.4 \rm A × 3.9 ms = 5.5 × 10^{-6} C\)
（４）\(0.12 \rm A – 10 mA = 0.11 m\)
（５）\(0.5 × 2.4 \rm F × 0.5 V × 0.5 V = 0.3 J\)
＜解答例＞
問１４
（１）\(0.51 \rm V + 2.2 V = 2.71 V\)
加減算の有効数字は最小のものに合わせるのが原則です。
\(0.51 \rm V\) は有効数字 2桁
\(2.2 \rm V\) は有効数字 2桁なので、答えも有効数字が 2桁でなければなりません。
\(2.71 \rm V\) の \(0.01\) を四捨五入して、\(2.7 \rm V\) が正しいので（１）は誤りです。
（２）\(0.670 \rm V ÷ 1.2 A = 0.558 Ω\)
乗除算の有効数字は最小のものに合わせるのが原則です。
\(0.670 \rm V\) は有効数字 3桁
\(1.2 \rm I\) は有効数字 2桁なので、答えも有効数字が 2桁でなければなりません。
\(0.558 \rm Ω\) の \(0.008\) を四捨五入して、\(0.56 \rm Ω\) が正しいので（２）は誤りです。
（３）\(1.4 \rm A × 3.9 ms = 5.5 × 10^{-6} C\)
\(1 \rm C\) = \(1 \rm As\) ですから、\(3.9 \rm ms\) を \(\rm s\) に揃える必要があります。
\(3.9 \rm ms = 3.9×10^{-3} s\) になります。
乗除算の有効数字は最小のものに合わせるのが原則です。
\(1.4 \rm A\) は有効数字 2桁
\(3.9×10^{-3} \rm s\) は有効数字 2桁なので、答えも有効数字が 2桁になります。
\(1.4 \rm A × 3.9×10^{-3} s = 5.46 × 10^{-3} C\)
\(5.46\) の \(0.06\) を四捨五入して、\(5.5 × 10^{-3} \rm C\) が正しいので（３）は誤りです。
（４）\(0.12 \rm A – 10 mA = 0.11 m\)
\(\rm mA\) を \(\rm A\) に揃えると、\(10 \rm mA = 0.01 \rm A\) になります。
乗除算の有効数字は最小のものに合わせるのが原則です。
\(0.12 \rm A\) は有効数字 2桁
\(0.01 \rm A\) は有効数字 1桁なので、答えも有効数字が 1桁でなければなりません。
答えは \(0.12 \rm A – 0.01 A = 0.1 A\) になりますが、問題では単位も違っていますので（４）は誤りです。
（５）\(0.5 × 2.4 \rm F × 0.5 V × 0.5 V = 0.3 J\)
乗除算の有効数字は最小のものに合わせるのが原則です。
\(0.5\) は有効数字 1桁
\(2.4 \rm F\) は有効数字 2桁
\(0.5 \rm V\) は有効数字 1桁
最小の有効数字は 1桁になります。
（５）の \(0.5 × 2.4 \rm F × 0.5 V × 0.5 V = 0.3 J\) は正しいとなります。
正解は（５）になります。