H29年 理論 問14(有効数字)




H29年 理論 問14(有効数字)

次の(1)~(5)は、計測の結果、得られた測定値を用いた計算である。
これらのうち、有効数字と単位の取り扱い方がともに正しいものを一つ選べ。

(1)\(0.51 \rm V + 2.2 V = 2.71 V\)
(2)\(0.670 \rm V ÷ 1.2 A = 0.558 Ω\)
(3)\(1.4 \rm A × 3.9 ms = 5.5 × 10^{-6} C\)
(4)\(0.12 \rm A – 10 mA = 0.11 m\)
(5)\(0.5 × 2.4 \rm F × 0.5 V × 0.5 V = 0.3 J\)

解 答

問14

(1)\(0.51 \rm V + 2.2 V = 2.71 V\)
加減算の有効数字は最小のものに合わせるのが原則です。
\(0.51 \rm V\) は有効数字 2桁
\(2.2 \rm V\) は有効数字 2桁なので、答えも有効数字が 2桁でなければなりません。
\(2.71 \rm V\) の \(0.01\) を四捨五入して、\(2.7 \rm V\) が正しいので(1)は誤りです。

(2)\(0.670 \rm V ÷ 1.2 A = 0.558 Ω\)
乗除算の有効数字は最小のものに合わせるのが原則です。
\(0.670 \rm V\) は有効数字 3桁
\(1.2 \rm I\) は有効数字 2桁なので、答えも有効数字が 2桁でなければなりません。
\(0.558 \rm Ω\) の \(0.008\) を四捨五入して、\(0.56 \rm Ω\) が正しいので(2)は誤りです。

(3)\(1.4 \rm A × 3.9 ms = 5.5 × 10^{-6} C\)
\(1 \rm C\) = \(1 \rm As\) ですから、\(3.9 \rm ms\) を \(\rm s\) に揃える必要があります。
\(3.9 \rm ms = 3.9×10^{-3} s\) になります。

乗除算の有効数字は最小のものに合わせるのが原則です。
\(1.4 \rm A\) は有効数字 2桁
\(3.9×10^{-3} \rm s\) は有効数字 2桁なので、答えも有効数字が 2桁になります。
\(1.4 \rm A × 3.9×10^{-3} s = 5.46 × 10^{-3} C\)
\(5.46\) の \(0.06\) を四捨五入して、\(5.5 × 10^{-3} \rm C\) が正しいので(3)は誤りです。

(4)\(0.12 \rm A – 10 mA = 0.11 m\)
\(\rm mA\) を \(\rm A\) に揃えると、\(10 \rm mA = 0.01 \rm A\) になります。
乗除算の有効数字は最小のものに合わせるのが原則です。
\(0.12 \rm A\) は有効数字 2桁
\(0.01 \rm A\) は有効数字 1桁なので、答えも有効数字が 1桁でなければなりません。
答えは \(0.12 \rm A – 0.01 A = 0.1 A\) になりますが、問題では単位も違っていますので(4)は誤りです。

(5)\(0.5 × 2.4 \rm F × 0.5 V × 0.5 V = 0.3 J\)
乗除算の有効数字は最小のものに合わせるのが原則です。
\(0.5\) は有効数字 1桁
\(2.4 \rm F\) は有効数字 2桁
\(0.5 \rm V\) は有効数字 1桁
最小の有効数字は 1桁になります。
(5)の \(0.5 × 2.4 \rm F × 0.5 V × 0.5 V = 0.3 J\) は正しいとなります。

正解は(5)になります。

以上で「H29年 理論 問14(有効数字)」の説明を終わります。