Откройте актуальную версию документа прямо сейчас
Если вы являетесь пользователем интернет-версии системы ГАРАНТ, вы можете открыть этот документ прямо сейчас или запросить по Горячей линии в системе.
Вход
Купить систему ГАРАНТ
Получить демо-доступ
Узнать стоимость
Информационный банк
Подобрать комплект
Семинары
- Главная
- Методические рекомендации MP 4052-85 Методы определения показателей зрительной работоспособности (утв. заместителем Главного государственного санитарного врача СССР 12 декабря 1985 г. N 4052-85)
- Приложение 2. Порядок проведения статистической обработки данных для случаев нормального распределения
Приложение 2. Порядок проведения статистической обработки данных для случаев нормального распределения
Приложение 2
Порядок
проведения статистической обработки данных для случаев нормального распределения
Предварительно проводят исключение сильно отклоняющихся вариант в совокупности. Для определения принадлежности максимальной варианты к совокупности применяется критерий :
,
где - максимальная варианта;
- варианта, следующая по величине за максимальной;
- варианта, стоящая в ранжированном ряду рядом с минимальной.
Для определения принадлежности минимальной варианты к совокупности применяют критерий :
,
где - варианта, стоящая рядом с минимальной;
- минимальная варианта;
- вторая по значению варианта после максимальной.
Вычисленные величины и
сопоставляют со значениями табл. 1 на уровне значимости 0,05. Если вычисленные значения превышают величины, приведенные в табл. 1, то такие варианты отбрасываются.
Таблица 1
|
N |
|
|
4 |
0,991 |
|
5 |
0,916 |
|
6 |
0,805 |
|
7 |
0,740 |
|
8 |
0,683 |
|
9 |
0,635 |
|
10 |
0,597 |
|
11 |
0,566 |
|
12 |
0,541 |
|
13 |
0,520 |
|
34 |
0,502 |
|
15 |
0,486 |
|
16 |
0,472 |
|
17 |
0,460 |
|
18 |
0,449 |
|
19 |
0,439 |
|
20 |
0,430 |
|
21 |
0,421 |
|
22 |
0,414 |
|
23 |
0,407 |
|
24 |
0,400 |
|
25 |
0,394 |
|
26 |
0,389 |
|
27 |
0,383 |
|
28 |
0,378 |
|
29 |
0,374 |
|
30 |
0,369 |
Далее рассчитываются следующие статистические показатели:
средняя арифметическая М:
,
где - сумма всех вариант ряда;
N - объем выборки;
среднее квадратическое отклонение :
,
где Х - варианты совокупности;
ошибка средней арифметической :
доверительный интервал средней арифметической:
,
где t - критерий Стьюдента, который для доверительного уровня 95% или уровня значимости 0,05 и достаточно больших выборок (N > 30) принимается равным 2 (табл. 2);
Таблица 2
|
Число степеней свободы |
t |
|
1 |
12,71 |
|
2 |
4,30 |
|
3 |
3,18 |
|
4 |
2,78 |
|
5 |
2,57 |
|
6 |
2,45 |
|
7 |
2,36 |
|
8 |
2,31 |
|
9 |
2,26 |
|
10 |
2,23 |
|
11 |
2,20 |
|
12 |
2,18 |
|
13 |
2,16 |
|
14 |
2,14 |
|
15 |
2,13 |
|
16 |
2,12 |
|
17 |
2,11 |
|
18 |
2,10 |
|
19 |
2,09 |
|
20 |
2,09 |
|
21 |
2,08 |
|
22 |
2,07 |
|
23 |
2,07 |
|
24 |
2,06 |
|
25 |
2,06 |
|
26 |
2,06 |
|
27 |
2,05 |
|
28 |
2,05 |
|
29 |
2,04 |
|
30 |
2,04 |
|
40 |
2,02 |
|
60 |
2,00 |
|
120 |
1,98 |
коэффициент вариации V:
.
В зависимости от величины коэффициента вариации варьирование данных считают небольшим (0-10%), средним (11-20%) и большим (V > 20%).
Показатель точности опыта Р:
.
Точность опыта считается удовлетворительной, если Р не превышает 5%.
Для установления статистической достоверности различий между результатами эксперимента сравнивают совокупности по средней арифметической абсолютных или относительных значений и по их вариабельности.
Для больших выборок (N > 20) с равными или близкими объемами средние сравнивают по формуле:
,
где ,
- сравниваемые средние арифметические;
,
- ошибки сравниваемых средних арифметических.
Далее определяют число степеней свободы и соответствующее этому числу значение критерия t на 95%-ном доверительном уровне (см. табл. 2). Если вычисленное значение больше, делается вывод о достоверности различия сравниваемых величин. Доверительному уровню 95% соответствует выраженный в долях единицы уровень значимости
= 0,05.
Сравнение дисперсий осуществляется по критерию F:
,
где ,
- дисперсия сравниваемых выборок (в числителе всегда берется большая дисперсия).
Для установления достоверности различия дисперсий определяется число степеней свободы для каждой из них и
. Далее вычисленное значение сопоставляется со значением, приведенным в табл. 3 на доверительном уровне 95%.
Таблица 3
|
| ||||||||||
|
|
1 |
2 |
3 |
4 |
5 |
6 |
8 |
12 |
24 |
|
|
3 |
10,1 |
9,6 |
9,3 |
9,1 |
9,0 |
8,9 |
8,8 |
8,7 |
8,6 |
8,5 |
|
4 |
7,7 |
6,9 |
6,6 |
6,4 |
6,3 |
6,2 |
6,0 |
5,9 |
5,8 |
5,6 |
|
5 |
6,6 |
5,8 |
5,4 |
5,2 |
5,1 |
5,0 |
4,8 |
4,7 |
4,5 |
4,4 |
|
6 |
6,0 |
5,1 |
4,8 |
4,5 |
4,4 |
4,3 |
4,1 |
4,0 |
3,8 |
3,7 |
|
7 |
5,6 |
4,7 |
4,4 |
4,1 |
4,0 |
3,9 |
3,7 |
3,6 |
3,4 |
3,2 |
|
8 |
5,3 |
4,5 |
4,1 |
3,8 |
3,7 |
3,6 |
3,4 |
3,3 |
3,1 |
2,9 |
|
9 |
5,1 |
4,3 |
3,9 |
3,6 |
3,5 |
3,4 |
3,2 |
3,1 |
2,9 |
2,7 |
|
10 |
5,0 |
4,1 |
3,7 |
3,5 |
3,3 |
3,2 |
3,1 |
2,9 |
2,7 |
2,5 |
|
12 |
4,8 |
3,9 |
3,5 |
3,3 |
3,0 |
3,0 |
2,9 |
2,7 |
2,5 |
2,3 |
|
14 |
4,6 |
3,7 |
3,3 |
3,1 |
3,0 |
2,9 |
2,7 |
2,5 |
2,3 |
2,1 |
|
16 |
4,5 |
3,6 |
3,2 |
3,0 |
2,9 |
2,7 |
2,6 |
2,4 |
2,2 |
2,0 |
|
18 |
4,4 |
3,6 |
3,2 |
2,9 |
2,8 |
2,7 |
2,5 |
2,3 |
2,1 |
1,9 |
|
20 |
4,4 |
3,5 |
3,1 |
2,9 |
2,7 |
2,6 |
2,4 |
2,3 |
2,1 |
1,8 |
|
25 |
4,2 |
3,4 |
3,0 |
2,8 |
2,6 |
2,5 |
2,4 |
2,2 |
2,0 |
1,7 |
|
30 |
4,2 |
3,3 |
2,9 |
2,7 |
2,5 |
2,4 |
2,3 |
2,1 |
1,9 |
1,6 |
|
35 |
4,1 |
3,3 |
2,9 |
2,6 |
2,5 |
2,4 |
2,2 |
2,0 |
1,8 |
1,5 |
|
40 |
4,1 |
3,2 |
2,8 |
2,6 |
2,4 |
2,3 |
2,2 |
2,0 |
1,8 |
1,5 |
|
50 |
4,0 |
3,2 |
2,8 |
2,6 |
2,4 |
2,3 |
2,1 |
1,9 |
1,7 |
1,4 |
|
60 |
4,0 |
3,1 |
2,8 |
2,5 |
2,4 |
2,2 |
2,1 |
1,9 |
1,7 |
1,4 |
|
80 |
4,0 |
3,1 |
2,7 |
2,5 |
2,3 |
2,2 |
2,0 |
1,9 |
1,6 |
1,3 |
|
100 |
3,9 |
3,1 |
2,7 |
2,5 |
2,3 |
2,2 |
2,0 |
1,8 |
1,6 |
1,3 |
|
|
3,8 |
3,0 |
2,6 |
2,4 |
2,2 |
2,1 |
1,9 |
1,7 |
1,5 |
1,0 |