検量線の統計値

検量線の計算を行なうと、各検量線の相関係数、決定係数、および残差標準偏差が得られます。

相関係数

相関係数（r）によって、データポイント間の検量線のフィットが測定できます。この値は次の式を使用して計算されます。

変数の意味は次のとおりです。

	r	相関係数
	wt_i	データポイントの重み付け
	ӯ	測定されたレスポンスまたはアマウントの平均値 検量線が原点を強制的に通過する場合（解析メソッドの原点=強制通過）、OpenLab CDS は中心に位置しない決定係数を計算します。この場合、ӯ は省略されます。
	yi	測定されたレスポンス（面積、面積比（ISTD メソッド）、高さまたは高さ比（ISTD メソッド））、またはアマウント（アマウント、アマウント比（ISTD メソッド））で、キャリブレーションモードによる
	Ȳ	予測されるレスポンスまたはアマウントの平均値
	Yi	予測されるレスポンスまたはアマウント（検量線を使用）

 

ȳ および Ȳ は測定されたレスポンスまたはアマウントと予測されるレスポンスまたはアマウントの平均値で、以下のように計算されます。

変数の意味は次のとおりです。

	wt_i	データポイントの重み付け
	ȳ	測定されたレスポンスまたはアマウントの平均値
	yi	測定されたレスポンス（面積、面積比（ISTD メソッド）、高さまたは高さ比（ISTD メソッド））、またはアマウント（アマウント、アマウント比（ISTD メソッド））で、キャリブレーションモードによる

および

変数の意味は次のとおりです。

	wt_i	データポイントの重み付け
	Ȳ	予測されるレスポンスまたはアマウントの平均値
	Yi	予測されるレスポンスまたはアマウント（検量線を使用）

原点強制通過では、ポイントはゼロを中心に分布している（第三象限に反転している）と見なされ、平均値はゼロで置き換えられます。サードパーティの計算プログラムでは異なるアプローチを使用する場合があり、この場合は結果がわずかに異なります。

相関係数は、完全に一致している場合は１になります。個々のキャリブレーションポイントまたは平均キャリブレーションポイントが回帰曲線から逸脱すると、相関係数は小さくなります。通常は 0.99 から 1 までの値をとります。相関係数は分析メソッドの精度の直接的な評価基準ではありませんが、小さい値は精度が低いことを示します。

決定係数

決定係数（R²）は、以下のように計算されます。

変数の意味は次のとおりです。

	R²	決定係数
	ȳ	測定されたレスポンスまたはアマウントの平均値 検量線が原点を強制的に通過する場合（解析メソッドの原点=強制通過）、OpenLab CDS は中心に位置しない決定係数を計算します。この場合、ӯ は省略されます。
	yi	測定されたレスポンスまたはアマウント。レスポンスは、面積（面積、面積%、または面積比（ISTD メソッド））または高さ（高さ、高さ%、または高さ比（ISTD メソッド））の場合があります。アマウントは、絶対アマウントまたはアマウント比（ISTD メソッド）の場合があります。値のタイプはキャリブレーションモードによって変わります。
	Yi	予測されるレスポンスまたはアマウント（検量線を使用）

残差標準偏差

残差標準偏差（二乗平均平方根誤差と呼ばれることもあります）は、以下の式を用いて計算されます。

場所

d = 3	二次曲線の自由度、原点の強制通過なし
d = 2	原点の強制通過を伴う二次曲線の自由度、または 線形曲線の自由度、原点の強制通過なし
d = 1	原点の強制通過を伴う線形曲線の自由度
残差 SD	残差標準偏差
yi	測定されたレスポンス（面積、面積比（ISTD メソッド）、高さまたは高さ比（ISTD メソッド））、またはアマウント（アマウント、アマウント比（ISTD メソッド））で、キャリブレーションモードによる
Yi	予測されるレスポンスまたはアマウント（検量線を使用）
n	キャリブレーションポイントの数

含む検量線タイプの場合は、計算の中で正則点として原点 (0,0) が含まれ、n によってカウントされます。

Y-値は重み付けされません。

残差標準偏差は、相関係数よりも感度の高い検量線品質の指標です。完全にフィットしている場合、残差標準偏差はゼロになります。残差標準偏差値が大きくなるにつれて、キャリブレーションポイントは検量線から離れていきます。

標準偏差

標準偏差は、母集団の標準偏差の式で計算されます。

場所

σ	標準偏差
N	サンプルの数
x_i	測定されたレスポンスまたはアマウント値。検量線モデル RF 平均の場合、シングルサンプルの化合物のレスポンスファクタ RF です。
μ	平均値。検量線モデル RF 平均の場合、すべてのサンプルの化合物の平均レスポンスファクタです。

注記

検量線モデル RF 平均の場合：通常、母集団（キャリブレーションポイント数）が少ないため、サンプル母集団の標準偏差の代わりにこの式が使用されます（分母として N-1）。

相対標準偏差

相対標準偏差は、以下のように計算されます。

場所

RSD	相対標準偏差
σ	標準偏差
μ	平均値