残差は、計算された検量線からキャリブレーションポイントまでの距離の指標です。
残差 = yi - Yi
ここで、 |
|
yi |
キャリブレーションモードに応じて測定されたレスポンス(面積または高さ)またはアマウント |
Yi |
レベル i に対して予測されるレスポンスまたはアマウント(検量線を使用して計算される) |
相対残差は、以下の式を使用して各キャリブレーションレベルについて計算されます。
ここで、 | |
yi |
測定されたレスポンス(面積または高さ)またはアマウント |
Yi |
レベル i に対して予測されるレスポンスまたはアマウント(検量線を使用して計算される) |
相対残差は、% 単位で報告されることがよくあります([相対残差 %])。その場合は、[相対残差] に 100 を掛ける必要があります。