二次曲線の式:
y = (a * x2) + (b * x) + c
二次曲線近似にはキャリブレーションポイントが 3 つ以上必要です。原点を含む、あるいは原点を強制通過する場合は、2 つのポイントが必要です。
係数は、以下の連立一次方程式から得られます。対応する標準マトリックス方程式(ATAx = ATy)を解くためには、Crout のアルゴリズムが使用されます。指定された計算式の中では、合計が次のように簡略化されます:
オーバーフローを回避するため、計算を始める前に X-値がノーマライズされます:
Norm = Σ(x)
x = x / Norm
二次曲線の正規方程式:
マトリックス方程式で記述した場合:
Crout の分解:
値の省略形:
最後に、逆ノーマライズする必要があります:
原点強制通過オプションを選択すると、正規方程式を作成するときにオフセットの項 c がゼロに設定されます。
原点が含まれる場合は、(0,0) のポイントがその他のポイントに追加されて、その他のポイントの重み付けの平均値によって重み付けされます。つまり、Σ(wt) の項がその他のポイントの重み付けの平均値によって増加されます。