Приложение R (обязательное). Вычисления с помощью метода регрессии

Приложение R
(обязательное)

Вычисления с помощью метода регрессии

R.1 Обозначения и предварительные оценки

i - уровень (концентрации аналита), включая ноль, если не преобразован в логарифмы ( = от 1 до q);

q - число уровней;

j - одно повторение, проведенное альтернативным методом, а также стандартным методом (j = от 1 до n);

n - число повторений, одно и то же число для каждого уровня i;

N - число образцов (N = qn).

Априори используют ось х для референтного метода и ось у для альтернативного метода. При необходимости можно сделать более адекватный выбор в S.2.

R.1.1 Оценивают для уровня среднее значение для каждого образца на этом испытываемом уровне (по всем повторениям), для референтного метода () и для альтернативного метода .

Для каждого уровня образца i = от 1 до q и .

R.1.2 Вычисляют среднеквадратические отклонения повторяемости на каждом уровне: () для референтного метода и () для альтернативного метода.

Среднеквадратические отклонения повторяемости на каждом уровне образцов от

i = 1 до q:

, где для = 2: ;

, где [аналогично].

R.1.3 Вычисляют глобальное среднеквадратическое отклонение повторяемости на всех уровнях: для референтного метода и для альтернативного. Глобальное среднеквадратическое отклонение повторяемости всех уровней равно

, где = в пределах дисперсии;

, где = в пределах дисперсии.

R.1.4 Оценивают глобальные средние и обоих методов (i = от 1 до q уровней), как показано ниже:

и .

R.2 Выбор

Выбирают ортогональную линейную регрессию (см. R.3, GMFR) или линейную регрессию обычных наименьших квадратов (см. R.4, OLS*1)).

Коэффициент выбора .

- Если R > 2, продолжают использовать ось х (независимая переменная) для стандартного метода и затем используют оценки по методу OLS (S.4: х = ref).

- Если , используют ось х для альтернативного метода и ось у для референтного и затем используют оценки по методу OLS (см. S.4: х = alt). Потом проводят замену всех оценок для х на оценки для у, и наоборот, т.е.

, , , .

Если (случай квазиравной повторяемости по х и у), используют (ортогональные) оценки по методу GMFR (см. R3), сохраняя ось х за референтным методом.

R.3 Ортогональная линейная регрессия (GMFR)

R.3.1 Глобальные среднеквадратические отклонения

Вычисляют глобальные среднеквадратические отклонения: () для референтного метода и () для альтернативного метода, как показано:

, где

, где

R.3.2 Оценивают коэффициент корреляции r как показано:

с ковариацией .

R.3.3 Оценивают отсекаемый отрезок а и наклон b линии регрессии у= а + bх следующим образом:

наклон , отсекаемый отрезок .

R.3.4 Путем регрессии оценивают остаточное среднеквадратическое отклонение по точкам, вычисленным при помощи регрессии:

,

где

получено по точкам, вычисленным при помощи регрессии ; i = от 1 до q.

R.3.5 Оценивают среднеквадратическое отклонение отсекаемого отрезка а и проверяют гипотезу а = 0

.

Проверка гипотезы а = 0: t = |a|/ с (q - 2) степенями свободы.

По таблице Стьюдента получаем: p(t) = p{a = 0}; критическое значение 2 для двухсторонней = 0,05.

R.3.6 Оценивают среднеквадратическое отклонение наклона b и проверяют гипотезу b = 1.

.

Проверка гипотезы b = 1: t = |b - 1| / с (q - 2) степенями свободы.

По таблице Стьюдента получаем: p(t) = p{b = 1}; критическое значение 2 для двухсторонней = 0,05.

Затем переходят к пункту R.4.

R.4 Линейная регрессия, с использованием обычного метода наименьших квадратов (OLS)

R.4.1 Глобальные среднеквадратические отклонения

,

где

,

где

R.4.2 Коэффициент корреляции

с ковариацией

R.4.3 Наклон , отсекаемый отрезок для линии регрессии .

R.4.4 Определяют остаточное среднеквадратическое отклонение

по точкам, оцененным при помощи регрессии = a + (k = 1 до N, N = qn).

R.4.5 Среднеквадратическое отклонение отсекаемого отрезка а

.

Проверка гипотезы а = 0: с степенями свободы.

Статистические функции Excel, которые здесь используются:: CORREL({x}; {у}) для коэффициента корреляции, COVAR({x}; {у}) для ковариации, но эта последняя функция смещена и умножается на n/(n - 1), где n = COUNT({y}), а SLOPE({y}; {х}) и INTERCEPT({y}; {х}), которые являются оценками для b и а, STEYX({y}; {х}) для остаточного SD на у, TDIST(t; df; tails) для вероятности t-распределения Стьюдента и FDIST(F; df1; df2; tails) для вероятности из F-распределения Snedecor-Fisher.

По таблице Стьюдента получаем: p(t) = р{а = 0}; критическое значение для двухсторонней .

R.4.6 Стандартное отклонение наклона b

.

Проверка b = 1:

степенями свободы.

По таблице Стьюдента получаем: p(t) = p{b = 1}; критическое значение для двухсторонней =0,05.

R.5 Критерий линейности (недостаточная подгонка)*2)

с степенями свободы для числителя F и для его знаменателя.

По F-таблице Снедекора можно получить и критическое значения для ,как показано в таблице R.1.

Таблица R.1-p(F, , ) и критические значения для

	n = 2	n = 5
q = 5	5,41	3,10
q = 6	4,53	2,78

Это соотношение нелинейно, если или .

R.6 Границы доверительного интервала (CL)

R.6.1 Границы доверительного интервала расчетной точки < y > в любой точке х,

где t является значением из таблицы Стьюдента для двухстороннего уровня доверительной вероятности и (N - 2) степеней свободы.

R.6.2 Обратные доверительные пределы при < х > для неизвестного образца у с s(< у >) при < х> = (у- а)/b и где t является значением из таблицы Стьюдента для двухстороннего уровня доверительной вероятности и (N - 2) степеней свободы.

_________________________

*1) OLS - обычный метод наименьших квадратов.

*2) Эти сведения отсутствуют в Excel (см. ISO 11095).