PRECISION(X)

目的

引き数と同じ kind 型付きパラメーターを持つ実数を表すモデル内の 10 進精度を戻します。

クラス

照会関数

引き数の型と属性

X
型は実数または複素数でなければなりません。 スカラー値または配列値を使用できます。

結果の値と属性

デフォルトの整数スカラー

結果の値

結果は次のようになります。

INT( (DIGITS(X) - 1) * LOG10(2) )

+----------------------------------IBM 拡張----------------------------------+

したがって、次のようになります。

       Type               Precision
--------------------      ---------
 real(4) , complex(4)           6
 real(8) , complex(8)          15
real(16) , complex(16)         31

+------------------------------End of IBM 拡張-------------------------------+

+----------------------------------IBM 拡張----------------------------------+

PRECISION (X) = INT( (24 - 1) * LOG10(2.) )= INT(6.92 ...) = 6 は、実数型 (4) の X です。 実データ・モデルを参照してください。

+------------------------------End of IBM 拡張-------------------------------+

IBM Copyright 2003