Historian HMI で浮動小数点数を表示する
- Last UpdatedSep 25, 2024
- 1 minute read
Historian HMI では、アプリケーション内の実数を表示するために IEEE 32 ビット浮動小数点形式を使用しています。IEEE 浮動小数点形式は、実際の実数の近似に過ぎません。IEEE 32 ビット浮動小数点形式では、実数が 2 の累乗でない限り、正確に表現することはできません。IEEE 32 ビット浮動小数点数の精度は、小数点以下約 8 桁です。
実数を Historian アプリケーションで表示する場合は、数値が 8 桁を超えないよう注意してください。以下に、Historian アプリケーションで有効な実数を表記する浮動小数点数形式を示します。
#
#,###
#.##
0#
###.##
#.#######
###.#####
######.##
ABCDEF
###.####
浮動小数点数が 8 桁を超えると、切り上げの誤差が生じることがあります。
テキストのフォーマットに小数点を含めない場合、数値は小数点と共に表示されます。実際のフォーマットの小数点の位置は WindowViewer の[詳細な書式設定]プロパティで設定されます。
注意:小数点の左側に「#」を追加した場合、または小数点がない場合、表示する桁数を制限しないでください。
例 1
Historian アプリケーションで実数 2.3 を表示します。ただし、2.3 は 2 の累乗ではないため、IEEE 32 ビット浮動小数点形式で 8 桁以上の数を正確に表記することはできません。
アプリケーションが値 2.3 を ASCII 文字の 2.3 と認識できるようにするには、この数が 8 桁以下である必要があります。上限の 8 桁を超えた場合、この数は 2.29999999 または 2.30000001 と表記されます。
例2
2 つの実数型タグが比較されると、2 つの実数型タグの差分は FLT_EPSILON(値 1.19209290E-07F、10 進数では 0.0000001192092896)よりも大きくなる必要があります。しかし、数値が 8 桁を超えると、結果の値は正しくなくなることがあります。この問題を修正するには、値を 1000 で乗算するか、それより大きい 10 の倍数で乗算します。この処理を行うことにより、値が 1e-7 よりも大きくなります。必要な比較演算を実行し、1000(または乗算した数)で除算します。