상관 계수

상관 계수(r)는 데이터 포인트 간의 결합된 검량 곡선 피팅을 측정합니다. 다음 공식을 사용하여 계산됩니다.

여기에서

	r	상관 계수
	wt_i	데이터 포인트의 가중치
	ӯ	측정된 감응 또는 양의 평균 값 결합된 검량 곡선이 원점을 강제로 통과하는 경우(처리 방법에서 원점=힘) OpenLab CDS는 중심이 없는 결정 계수를 계산합니다. 이 경우 ӯ는 생략됩니다.
	yi	검량 모드에 따라 측정된 감응(면적, 면적 비율(ISTD 분석법), 높이 또는 높이 비율(ISTD 분석법)) 또는 양(양, 양 비율(ISTD 분석법))
	Ȳ	예측된 감응 또는 양의 평균 값
	Yi	예측된 감응 또는 양(결합된 검량 곡선 사용)

 

ȳ 및 Ȳ는 측정 및 예측된 감응 또는 양의 평균값으로 다음과 같이 계산됩니다.

여기에서

	wt_i	데이터 포인트의 가중치
	ȳ	측정된 감응 또는 양의 평균 값
	yi	검량 모드에 따라 측정된 감응(면적, 면적 비율(ISTD 분석법), 높이 또는 높이 비율(ISTD 분석법)) 또는 양(양, 양 비율(ISTD 분석법))

및

여기에서

	wt_i	데이터 포인트의 가중치
	Ȳ	예측된 감응 또는 양의 평균 값
	Yi	예측된 감응 또는 양(결합된 검량 곡선 사용)

강제된 원점의 경우 지점이 0을 중심으로 하며(세 번째 사분면으로 미러링됨) 평균 값이 0으로 치환된다고 가정합니다. 타사 계산 프로그램은 다른 접근 방식을 사용할 수 있으며, 이 경우 약간 다른 결과가 나올 수 있습니다.

상관 계수는 완벽하게 맞는 경우 1입니다. 개별 또는 평균 검량점이 회귀 곡선에서 벗어날수록 감소합니다. 일반적인 값은 0.99에서 1 사이입니다. 상관 계수는 분석법의 정밀도를 직접적으로 나타내는 척도는 아니지만 값이 낮으면 정밀도가 낮다는 것을 의미합니다.