Приложение S (обязательное). Примеры вычислений для количественных методов

Приложение S
(обязательное)

Примеры вычислений для количественных методов

S.1 Случай 1 - Пример регрессии OLS (сравнение альтернативного метода со стандартным методом)

N	Стандартный метод					Альтернативный метод
	Реплика 1	Реплика 2				Реплика 1	Реплика 2
1 2 3 4 5	4,073 5,758 6,828 6,992 7,856	4,214 5,778 6,816 7,000 7,737		4,143 5,768 6,822 6,996 7,796	0,100 0,014 0,008 0,006 0,084	4,342 5,720 6,227 6,737 6,976	4,652 6,289 6,252 7,719 7,932	4,497 6,005 6,239 7,228 7,454		0,219 0,402 0,018 0,694 0,676
MED = 6,822			0,014			MED = 6,239			0,402
Устойчивая Swx = 0,021						Устойчивая Swx = 0,596
q (уровней) = 5; n (реплик) = 2; v(df) = 3.

Пример: стандартный метод на оси х, классическая регрессия у(х).

Регрессия: сравнение альтернативного метода со стандартным

Из меню Excel: Tools/Data analysis/Regression (Инструменты/анализ данных/Регрессия)

Методы N		Стандартный	Альтернативный Y			Y= STDEV(Y1:Y2)
			Репл. 1	Репл. 2
Первая реплика Реп. 1	1	4,143	4,342		4,652	0,219
	2	5,768	5,720		6,289	0,402
	3	6,822	6,227		6,252	0,018
	4	6,996	6,737		7,719	0,694
	5	7,796	6,976		7,932	0,676
Вторая реплика Реп. 2	1	4,143	4,652		Устойчивая = 0,596
	2	5,768	6,289		= 1,4826 * MEDIAN {{})
	3	6,822	6,252
	4	6,996	7,719
	5	7,796	7,932

Для использования инструментов регрессионного анализа:

a: копируют все {x};

b: копируют {y} Репл.2;

c: используют только два первых столбца для {x} и {y}.

Сводка выходных данных

Регрессионная статистика
Множественный R	0,9177
R квадрат	0,8422
Нормированный R квадрат	0,8225
Стандартная ошибка	0,491	= Sr
Наблюдения	10	=N = qn

n = 2 реплики;

q = 5 уровней.

Дисперсионный анализ

	df	SS	MS	F	Значимость F
Регрессия	1	10,287	10,287	42,701
Остаток (v df)	8	1,927	0,241
Итого	9	12,214

	Коэффициенты	Стандартная ошибка	t-статистика	Р-значение	Нижние 95%	Верхние 95%
Пересечение (а)	1,207	0,792	1,523	0,166	- 0,620	3,034
Х Пересечение 1 (b)	0,805	0,123	6,535		0,521	1,089

95% доверительный интервал включает а = 0 и b = 1.

Недостаточная подгонка (нелинейность):

v1 (df num) = 3 =q - 2 (для числителя);

v2 (df den) = 5 = q(n -1) (для знаменателя);

устойчивое F = 0,142 = [ ^ 2 - v2]/v1;

р(устойч. F) = 0,931 = FDIST(F:v1:V2).

Выводы: нет достаточной точности, так как 0,52 < b < 1,09 и -0,6 < а < 3,0, и линейности (р = 0,931).

График линейной подгонки

Случай 2 - Пример GMFR / ортогональной регрессии

Регрессия: сравнение альтернативного метода со стандартным

N	Стандартный метод					Альтернативный метод							Оценка остатков
	Реплика 1	Реплика 2				Реплика 1	Реплика 2						Y	По у
1	3,126	5,161		4,143	1,439	4,342	4,652		4,497		0,219		4,479	0,018
2	5,623	5,914		5,768	0,206	5,720	6,289		6,005		0,402		5,836	0,169
3	6,908	6,736		6,822	0,121	6,227	6,252		6,239		0,018		6,716	0,477
4	6,939	7,053		6,996	0,081	6,737	7,719		7,228		0,694		6,862	0,366
5	8,657	6,936		7,796	1,217	6,976	7,932		7,454		0,676		7,530	0,076
	s() = 1,408 М = 6,305 MED = 6,882 устойчивый = (уровней)=5 (реплик)=2 =3	0,206 0,305						s() = 1,176 М = 6,285 MED = 6,239 устойчивость 1,95		0,402 0,596		М=0,000

Выбор: Стандартный метод по оси x, ортогональная регрессия

r(M) = 0,9642; Sr(M) = 0,363;

Sr(y) = 0,514.

	s	t:H	p(t:H)	Н
b = 0,835	0,129	1,277	0,291	1
а =1,019	0,830	1,228	0,307	0

Недостаточная подгонка (нелинейность):

v1(df num) = 3 = q - 2;

v2(df den) = 5 = q(n - 1);

уст. F = 0,315 = [(qn - 2){Sr(y)/s(y)} ^ 2 - v2]/v1;

p(уст. F) = 0,8144 = FDIST(F:v1:v2).