有効数字
有効数字(ゆうこうすうじ)とは、データの中で意味のある数字の桁数。誤差とも関係する。
考え方[編集]
例えば、「700m」という数値があるとする。これが100mの精度で測ったものだとしたら、信用してよい数字は「7」だけで、「00」は位取りを表しているだけということになる(650m以上750m未満)。これが10mの精度で測ったものだとしたら、「70」は信用でき、「0」は信用できず、位取りだけの役割となる。(695m以上705m未満)しかし、これが1mの精度なら、「700」全てが信用できることになる。(699.5m以上700.5m未満)このように、信用できる数字の桁数を表す部分が有効数字である。
航空機が「高度10000mを飛行中」と表記された場合でも、ジオイドから9999.5m 以上 10000.5m 以下を飛行しているわけではなく、気圧高度がそのあたりだという話なので、有効数字を考えると「高度一万メートルを飛行中」が表記としては正しいが、新聞記事だとこのあたりには配慮されていない。「100m走」や「50mプール」は、公式競技においては1センチメートル未満の単位で計測されているため、有効数字は五桁あるいは四桁ある。
表し方[編集]
先ほどの「700m」のような表し方ではどこまでが有効数字か分かりにくいので、有効数字を明確にするときは整数部分が1桁の小数と10の累乗の形を用いる。先ほどの例では、100mの精度なら「7×102m」、10mの精度なら、「7.0×102m」、1mの精度なら、「7.00×102m」と表す。この他、単位を変えて、「0.7km」、「0.70km」、「0.700km」のようにしても、有効数字を明確にできる。
もちろん漢数字などを用いてもよい。あるいは1024バイトを「1キロバイト」と呼ぶなどの便法もある。
計算[編集]
有効数字が異なる数どうしの計算では、有効数字が多いほうの有効数字を少ないほうに合わせる。なお、sin,cos以降は利用者:Marmarayの独自理論なので、使う際は慎重に。
たし算、ひき算[編集]
たし算、ひき算は、有効な桁の一番下の桁を揃える。例えば6345+7.23は、一の位までが有効な6345を有効数字が少ないほうとみなし、7.23を7として6345+7=6352としてよい。
ただし、たす数が多くなった場合は有効数字を減らした方が良い。足す数が10個を越えると1桁、1000個を越えると2桁、有効数字を落とすのが妥当。
かけ算、わり算[編集]
かけ算、わり算は、上から〇桁を有効とする。例えば6345×7.23は、小数点以下2桁まである7.23を有効数字が少ないほうとみなし、6345を6350として6350×7.23=45900(四万五千九百)としてよい。また、「8.787km×6km」の長方形の面積は、8.787kmの有効数字を6kmに合わせ、上から一桁を有効とする。すると、「9km×6km」となり、面積は「約5×101cm2」と求まる。
とはいえ、「9km×6km」は「54平方キロメートル」であると同時に、(900 × 10) × (600 × 10)平方メートルなので、900 × 600 アールであり、90 × 60 ヘクタールなので、「五千四百ヘクタール」とも表現できる。
これに度量衡法(メートル法とヤード・ポンド法と尺貫法)や為替相場が絡むと、さらに話はややこしくなる。
sin、cos[編集]
単位が度(°)の時は、2つ下の位まで有効とする。例えば、sin 34.5° = 0.566といった様に、小数点以下1位の角度に対しては小数点以下3位で返す。
単位がラジアンの時は、同じ位まで有効とする。例えば、sin 1.23 = 0.94といった様に、小数点以下2位の角度に対しては小数点以下2位で返す。
指数関数[編集]
10^Xの有効数字は、Xが小数点以下N桁まである時、10^Xの有効数字を上からN桁とする。例えば、3.45は小数点以下2桁まで有効なので、10^3.45 = 2800(28×10^2)とする。
e^Xの有効数字は、Xが小数点以下N桁まである時、10^Xの有効数字を上からN桁またはN+1桁とする。答の一番上の数が1,2の時はN+1桁、3-9の時はN桁とするのが良い。例えば小数点以下2桁が有効な2.11,2.58に対して、exp(2.11) = 8.2、exp(2.58)=13.2といった具合。
対数関数[編集]
10が底の常用対数の場合、Xが上からN桁有効な時、log(X)の有効数字は小数点以下N桁とする。例えば、314.16は5桁有効なので、log(314.16) = 2.49715とする。
eが底の自然対数の場合、Xが上からN桁有効な時、log(X)の有効数字は小数点以下N桁またはN-1桁とする。Xの一番上の数が1,2の時はN-1桁、3-9の時はN桁とするのが良い。例えば、上から4桁が有効な数19.87,432.1に対しては、ln(19.87) = 2.989、ln(432.1) = 6.0687とする。